Как совместная работа человека и ИИ может улучшить бизнес

Существует парадокс: в то время, как компании стремятся рационализировать свой бизнес, используя искусственный интеллект (ИИ) для принятия важных решений, они могут непреднамеренно стать менее эффективными. Бизнес-технолог Сильвен Дюрантон выступает в поддержку подхода «Человек плюс ИИ» — использования ИИ в помощь людям, а не вместо них — и делится особой формулой, которую можно использовать в компаниях, чтобы успешно применять ИИ при участии людей.

Позвольте поделиться парадоксом.

Последние 10 лет

многие компании стараются быть
менее бюрократичными,

иметь меньше общих правил и уставов,

больше независимости для команд
для большей гибкости.

Теперь они продвигают
искусственный интеллект (ИИ),

не задумываясь о том,
что крутые технологии

могут сделать их бюрократичнее,
чем когда-либо.

Почему?

Потому что ИИ работает точно так же,
как бюрократия.

Суть бюрократии в том,

что правила и процедуры ставятся
превыше человеческого мнения.

ИИ принимает решения
только в соответствии с правилами.

Со множеством правил,
основанных на прошлых данных, —

но только правил.

И если процесс происходит
без человеческой оценки,

ИИ породит новую ужасающую
форму бюрократии.

Я называю её «алгократия».

ИИ будет принимать всё более
важные решения по правилам

и без какого-либо контроля
со стороны человека.

Есть ли в этом реальный риск?

Да.

Я руковожу командой
из 800 специалистов по ИИ.

Мы развернули более 100
уникальных решений с использованием ИИ

для крупных компаний по всему миру.

И я вижу так много топ-менеджеров,
ведущих себя как бюрократы из прошлого.

Они хотят отказаться от дорогостоящих,
старомодных людей

и положиться только на решения,
которые принимает ИИ.

Я называю это «бесчеловечный подход».

Почему это так заманчиво?

Потому что другой путь —
«Человек плюс ИИ» — долгий,

дорогой и сложный.

Команды сотрудников от бизнеса,
ИТ и анализа данных

должны работать месяцами,

чтобы вручную подобрать
наилучшую комбинацию из ИИ и людей.

Долго, дорого и сложно.

Но награда того стоит.

Недавнее исследование консалтинговой
группы BCG и университета MIT

показало, что 18% компаний в мире

являются первопроходцами в сфере ИИ,

зарабатывая на этом.

Эти компании фокусируют
80% инициатив в сфере ИИ

на эффективности и развитии,

принятии оптимальных решений,

а не замене людей на ИИ в целях экономии.

Почему так важно участие людей?

Просто потому, что ИИ без присмотра
может делать глупости.

Например, что-то без особых последствий,
как в этом твите.

«Добрый день, Amazon.

Я купил туалетное сиденье.

По необходимости, а не из прихоти.

Я их не коллекционирую,

и я не заядлый любитель туалетных сидений.

Как бы заманчиво не выглядели ваши письма,

я не стану думать: «Ну так и быть,

куплю ещё одно сиденье, побалую себя».

(Смех)

Иногда это влечёт больше последствий,
как в этом твите.

«Был в такой же ситуации,

купив погребальную урну для матери.

(Смех)

Месяцами после её смерти

я получал сообщения от Amazon
"Если вам понравился этот товар..."»

(Смех)

Иногда последствия могут быть хуже.

Взять, к примеру, ИИ, отклоняющий
заявки на поступление в университет.

Почему?

Потому что он вычислил
на предыдущих данных

характеристики успешных
и неуспешных студентов.

Некоторые очевидные,
например средний балл.

Но если в прошлом все студенты с одним
почтовым индексом не прошли,

то весьма вероятно,
что ИИ примет это за правило

и откажет каждому
студенту с этим почтовым индексом,

не давая никому возможности
опровергнуть это правило.

При этом никто не может
проверить все правила,

потому что продвинутый ИИ
постоянно учится.

И если люди остаются в стороне,

наступает алгократический кошмар.

Кто в ответе за отказ студенту?

Никто, это ИИ отказал.

Это честно? Да.

Один и тот же набор объективных правил
применили ко всем.

Можно ли всё-таки принять одарённого
ребёнка с неудачным почтовым индексом?

Нет, алгоритм не может передумать.

У нас есть выбор.

Продолжать алгократию

или выбрать подход «Человек плюс ИИ».

И для этого

мы должны перестать думать
в первую очередь о технологиях

и начать применять секретную формулу.

Чтобы применить подход «Человек плюс ИИ»,

10% усилий уйдёт на создание алгоритмов,

20% — на технологии вокруг алгоритмов,

сбор данных, разработку интерфейса,
интеграцию с унаследованными системами,

но 70% — большинство усилий —

уйдёт на то, чтобы переплести
ИИ, людей и процессы,

чтобы получить максимальный результат.

ИИ терпит неудачу, если урезать эти 70%.

Возможно, ценник при этом будет низкий —

миллионы долларов, потраченные впустую
на бесполезные технологии.

Кого-то это волнует?

Возможны и реальные трагедии:

346 погибших в результате
крушения двух «Боингов-737»,

когда пилоты не справились

с компьютерной системой управления.

Первый шаг к успешным 70% —

это алгоритмы, созданные
специалистами по анализу данных

совместно с экспертами в данной области.

Рассмотрим, к примеру, здравоохранение.

Одна из наших команд работала над новым
лекарством с маленьким недостатком.

При приёме первой дозы

у некоторых пациентов, очень немногих,
случался инфаркт.

Поэтому все пациенты
при приёме первой дозы

должны были провести
один день в стационаре

под наблюдением, на всякий случай.

Нашей целью было определить пациентов
с нулевой вероятностью инфаркта,

которым не нужен этот день в стационаре.

Мы использовали ИИ для анализа данных
клинических испытаний,

чтобы соотнести результаты ЭКГ,
анализ крови и биомаркеры

с риском инфаркта.

Всего за месяц

наша модель смогла выделить
62% пациентов с нулевым риском.

Они могли не проводить день в стационаре.

Вы бы хотели остаться дома,
принимая первую дозу,

если так сказал алгоритм?

(Смех)

Врачи были против.

Что, если мы получили
ложноотрицательный результат,

то есть ИИ разрешил людям
остаться дома и умереть?

(Смех)

Здесь начались наши 70%.

Мы работали с командой врачей,

чтобы проверить медицинский смысл
каждой переменной в нашей модели.

Например, мы использовали
концентрацию одного из ферментов печени

как один из параметров,

медицинская логика для которого
была не очевидна.

Статистически сигнал был
довольно уверенный.

Но что, если это всего лишь
ограничение в наших данных?

Мы исключили этот параметр
из нашей модели.

Мы также исключили параметры,
которые, согласно оценке экспертов,

невозможно точно измерить в реальности.

Четыре месяца спустя

у нас была модель и медицинский протокол.

И они были одобрены

органами здравоохранения США
прошлой весной,

что значительно уменьшило стресс
для половины пациентов

и улучшило их качество жизни.

Потенциальный рост продаж
этого лекарства — более 100 миллионов.

Переплетение ИИ с командой
и процессами на 70%

также означает создание
эффективных интерфейсов,

чтобы люди и ИИ решали
самые сложные задачи совместно.

Однажды мы получили сложное задание
от розничной сети модной одежды.

«У нас лучшие байеры в мире.

Вы сможете построить ИИ,
который обойдёт их в предсказании продаж?

В предсказании, сколько дорогостоящих
светло-зелёных мужских рубашек размера XL

нам нужно закупить на следующий год?

Который лучше предскажет,
что мы продадим, а что нет,

чем наши дизайнеры».

Наша команда за несколько недель
обучила модель на исторических данных

и организовала соревнование
с байерами-людьми.

Какой результат?

ИИ победил, уменьшив
ошибку в прогнозах на 25%.

Сторонники бесчеловечного подхода
попытались бы применить эту первую модель

и устроить состязание
со всеми байерами-людьми.

Развлекайтесь.

Но мы знали, что байеры-люди
обладают пониманием модных трендов,

которые нельзя найти в прошлых данных.

Здесь начались наши 70%.

Мы запустили следующий тест,

где байеры-люди оценивали количества,

предложенные ИИ,

и могли скорректировать их
при необходимости.

Что в результате?

Люди, использующие ИИ,

проиграли.

75% поправок, сделанных человеком,

уменьшали точность.

Означало ли это, что надо
избавиться от байеров-людей?

Нет.

Это означало, что надо переделать модель,

чтобы люди не пытались угадать,
где ИИ ошибся,

а напротив, чтобы ИИ получал
реальные входные данные от байеров-людей.

Мы полностью перестроили модель

и ушли от изначального интерфейса,
который был из серии

«Эй, человек! Вот что я прогнозирую,

поправь, как ты хочешь»,

и пришли к более продвинутому вроде

«Эй, люди!

Я не знаю тренды на следующий год.

Вы могли бы поделиться своим самыми
креативными догадками?»

«Эй, люди!

Вы могли бы помочь мне с количеством
этих больших вещей?

Я не могу найти для них хорошего
соответствия в исторических данных».

Что в итоге?

«Человек плюс ИИ» побеждает,

уменьшая ошибки в предсказании на 50%.

Год ушёл на то, чтобы доделать инструмент.

Долго, дорого и сложно.

Но выгода и польза

оказались свыше 100 миллионов экономии
в год для этой розничной сети.

Относительно сложных тем, 70%

также означают, что человек должен решить,
что правильно, а что — нет,

и определить правила, что разрешено
делать ИИ, а что — нет,

например, ограничить цены,
чтобы механизм формирования цен

не мог выставить возмутительно высокие
цены ничего не подозревающим покупателям,

которые бы согласились на покупку.

Только люди могут очертить эти границы.

ИИ никоим образом не сможет найти их
в исторических данных.

Некоторые ситуации весьма неоднозначны.

Мы работали на агентство
медицинского страхования.

Оно разработало механизм ИИ,
чтобы выделить среди клиентов

тех, кто мог вскоре попасть в больницу,

чтобы продать им премиальную страховку.

Проблема в том,

что некоторых потенциальных клиентов
обзванивали в тот момент,

когда они сами не подозревали,

что скоро им придётся обратиться
за медицинской помощью.

Представьте себя директором этой компании.

Вы бы закрыли эту программу?

Вопрос непростой.

И, чтобы разобраться с этим вопросом,
некоторые компании собирают команды,

задающие этические правила и стандарты,
помогая бизнесу и ИТ установить границы

между персонализацией и манипуляцией,

подбором предложений и дискриминацией,

целевым маркетингом
и вторжением в личную жизнь.

Я убеждён, что в каждой компании

применение ИИ там, где это имеет смысл,
приносит огромный успех.

Бизнес-лидеры должны проявить смелость

и выбрать несколько тем,

и для каждой из них выделить 10, 20,
30 человек из лучших команд

ИТ, ИИ, аналитиков данных, этиков

и пройти полный 10-, 20-,
70-процентный цикл

«Человек плюс ИИ»,

если они хотят эффективно внедрить
ИИ в свои команды и процессы.

Другого способа нет.

Граждане экономически развитых стран
уже боятся алгократии.

Недавно 7 тысяч респондентов прошли опрос.

Более 75% опрошенных беспокоит

влияние ИИ на рынок труда, частную жизнь

и риск сделать общество бесчеловечным.

Поощряя алгократию, мы рискуем получить
негативную реакцию на ИИ

внутри компаний и в обществе в целом.

«Человек плюс ИИ» —
наш единственный способ

принести пользу ИИ в реальный мир.

И в итоге

победившие организации будут
инвестировать в человеческие знания,

а не только в ИИ и данные.

В найм, обучение
и поощрение людей-экспертов.

Говорят, что данные — это новая нефть,

но поверьте мне, человеческие знания
играют решающую роль,

потому что это единственная буровая вышка,

которая позволит выкачать нефть,
сокрытую в данных.

Спасибо.

(Аплодисменты)