Как защитить ИИ от человеческих предрассудков

Искусственный интеллект постоянно принимает решения в отношении вас: например, сколько вам придётся заплатить за страховку вашей машины или пригласят ли вас на собеседование. Но что происходит, когда в системы ИИ закладываются человеческие предубеждения? Специалист в области компьютерных технологий Крити Шарма рассказывает, как отсутствие разнообразия в сфере технологий влияет на ИИ, и предлагает три способа научить его принимать более нравственные решения.

Сколько решений в отношении вас
было принято сегодня,

на этой неделе или в этом году

искусственным интеллектом?

Я зарабатываю, создавая ИИ,

так что, говоря откровенно, я ботан.

И поскольку я ботан,

когда появляется очередной новостной сюжет

об искусственном интеллекте,
ворующем наши рабочие места,

или о роботах, получающих
гражданство настоящей страны,

мои друзья и подписчики именно меня
засыпают сообщениями,

полными переживаний о будущем.

Мы наблюдаем это повсеместно.

СМИ раздувают панику о восстании роботов.

В этом можно обвинить Голливуд.

Но на самом деле это не та проблема,
на которой нам следует фокусироваться.

Существует более серьёзный риск,
на который нам следует обратить внимание

при работе с ИИ.

Итак, вернёмся к изначальному вопросу:

сколько решений принял сегодня
в отношении вас ИИ?

И сколько из них

были продиктованы вашим полом,
расой или происхождением?

Алгоритмы используются повсеместно,

для того чтобы определять,
кто мы такие и чего мы хотим.

Некоторые женщины в этом зале
поймут, о чём я,

если вам приходилось смотреть
рекламу тестов на беременность на YouTube

по 1000 раз на дню.

Или когда вы натыкаетесь на рекламу
клиник планирования семьи

в ленте Facebook.

Или в моём случае —
индийские брачные бюро.

(Смех)

Однако ИИ используется не просто
для того, чтобы определить,

какие товары мы хотим приобрести

или за каким сериалом
проведём бессонные ночи.

Интересно, что бы вы подумали о человеке,
который размышляет примерно так:

«Афро- или латиноамериканец

куда реже, чем белый,
вовремя вносит платежи по кредиту».

«Человек по имени Джон —
более способный программист,

чем та, кого зовут Мэри».

«Афроамериканец чаще, чем белый
оказывается рецидивистом».

Вы наверняка сейчас думаете:

«Ого, да это наверняка
сексисты и расисты», верно?

Всё это реальные заключения,
сделанные о нас искусственным интеллектом

и основанные на тех предрассудках,
которым ИИ научился у нас,

у людей.

ИИ упрощает процесс принятия решений:
пригласят ли вас на собеседование,

сколько вам платить за страховку машины,

как выглядит ваша кредитная история

и даже то, как вы будете оценены
на работе по итогам года.

Но все эти решения проходят через фильтры

предположений ИИ о том, кто мы,
о наших расе, поле и возрасте.

Как же всё это происходит?

Представьте, что ИИ помогает HR-менеджеру

в поиске следующего
технического лидера в компании.

В прошлом этот менеджер
чаще выбирал на должность мужчин.

В итоге ИИ запоминает, что программистами
чаще становятся мужчины, а не женщины.

А отсюда рукой подать до вывода:

мужчины более способные
программисты, чем женщины.

Таким образом, наши предрассудки
укрепляются в ИИ.

Как результат, ИИ отсеивает
кандидатов-женщин.

Но стойте, если бы так поступал человек,

мы бы были возмущены и выступили против.

Дискриминация по половому признаку —
это предосудительно.

И всё же каким-то образом
решения ИИ находятся вне закона,

так как они приняты машиной.

Но это не так.

Мы также подкрепляем наши предрассудки
тем, как именно мы взаимодействуем с ИИ.

Как часто вы пользуетесь голосовыми
помощниками Сири, Алексой или Кортаной?

Все они имеют две общие черты:

первая заключается в том,
что они всегда неверно произносят моё имя,

а вторая — все они женского пола.

Они разработаны, чтобы
послушно выполнять наши поручения,

включать и выключать свет,
делать онлайн-покупки.

Существуют также системы ИИ мужского пола,
но они обычно более авторитетны,

к примеру, IBM Watson,
принимающий решения в бизнес-сфере,

или платформа Salesforce Einstein,
или робот-адвокат ROSS.

Таким образом, даже несчастные роботы
страдают от сексизма на рабочем месте.

(Смех)

Задумайтесь, как оба этих факта вкупе

оказывают влияние на детей, растущих
в сегодняшнем мире в окружении ИИ.

Например, они собирают данные
для школьного проекта

и гуглят фото генеральных директоров.

Алгоритм выдаёт им
в основном директоров-мужчин.

А потом они гуглят личных помощников.

Как вы можете догадаться, в этом поиске
отображаются в основном женщины.

А позже они захотят включить музыку
или заказать поесть,

и вот они уже раздают свои поручения
помощнику с покорным женским голосом.

Умнейшие люди планеты
разрабатывают сейчас эти технологии.

Технологии, которые они могли бы создать
любыми, какими бы ни захотели.

И всё же они решили сделать помощников

в стиле секретарши 1950-х годов
из фильма «Безумцы».

Ура!

Ладно, не волнуйтесь,

я не собираюсь заканчивать
выступление словами о том,

что миром будут править сексистские,
расистские машины.

Хорошие новости об ИИ заключаются в том,
что он находится под нашим контролем.

Мы можем заложить в ИИ правильные
моральные нормы и ценности.

Мы можем сделать три вещи.

Во-первых, мы можем начать
отдавать себе отчёт о своих предрассудках

и предрассудках машин вокруг нас.

Во-вторых, мы должны создавать ИИ,
привлекая непохожих друг на друга людей.

И, в-третьих, мы должны предоставить ИИ
обширную выборку данных для обучения.

Я говорю о первых двух пунктах,
основываясь на собственном опыте.

Если вы работаете в сфере ИТ

и не выглядите как какой-нибудь
Марк Цукерберг или Илон Маск,

вам немного сложнее, ваша компетенция
постоянно подвергается сомнению.

Приведу всего один пример.

Как и большинство разработчиков,
я часто бываю на техно-форумах

и делюсь своими знаниями,
чтобы помочь другим.

И я заметила,

что когда я размещаю настоящее фото
и подписываюсь собственным именем,

мне часто задают вопросы
или пишут такие комментарии как:

«Что заставляет вас думать,
что вы можете рассуждать об ИИ?»

«Почему вы так уверены,
что знаете что-то о машинном обучении?»

Поэтому, только не удивляйтесь, —
я создала новый профиль

и на этот раз вместо собственного фото
я поставила кота с реактивным ранцем.

А ещё я выбрала ник,
по которому невозможно понять пол.

Вы можете с лёгкостью догадаться,
к чему я клоню, правда?

В этот раз никто не оставлял комментариев,
ставящих мою квалификацию под сомнение,

и мне наконец удалось донести свои мысли.

И это отстой, ребята.

Я занимаюсь созданием роботов с 15 лет,

получила несколько степеней в информатике,

и мне всё равно приходится
скрывать свой пол,

чтобы к моей работе
относились серьёзно.

Так что же происходит?

Неужели мужчины просто лучше
разбираются в технологиях, чем женщины?

Одно исследование выявило,

что когда на одной из платформ
женщины-кодеры, как я, скрывали свой пол,

их работа признавалась успешной
на 4% чаще, чем у их коллег мужчин.

Так что дело не в таланте.

Дело в неравноправии в сфере ИИ,

где программист должен
выглядеть определённым образом.

На самом деле
для усовершенствования сферы ИИ

нужно вовлекать людей
разного происхождения.

Нам нужны люди, умеющие
писать и рассказывать истории

для помощи в создании личностей ИИ.

Нам нужны те, кто способен решать задачи.

Нам нужны люди, сталкивающиеся
с различными трудностями,

а так же люди, которые могут рассказать
о реальных проблемах, требующих решений,

и помочь нам создать технологии
для поиска качественных решений.

Ведь когда люди с разным
жизненным опытом собираются вместе,

когда мы двигаемся в верном направлении,

наши возможности безграничны.

Я хочу исправить сложившуюся ситуацию
и поэтому говорю меньше о том,

что роботы-расисты и машины
отнимут у нас рабочие места,

и больше о том,
чего мы действительно можем достичь.

Конечно, часть энергии в мире ИИ,

в мире технологий

будет уходить на определение того,
какие рекламные объявления вы увидите.

Но существенная доля энергии направлена
на то, чтобы сделать мир намного лучше.

Представьте беременную женщину
в Демократической Республике Конго,

которой приходится идти 17 часов пешком
до ближайшей сельской женской консультации

для прохождения медосмотра.

Что было бы, если бы она могла
вместо этого получить диагноз по телефону?

Или представьте, что мог бы сделать ИИ

для женщин из Южной Африки,
каждая третья из которых

сталкивается с домашним насилием.

Если им страшно сообщить об этом,

они могли бы использовать ИИ
для привлечения внимания,

получить финансовую и юридическую помощь.

Это примеры реальных проектов,
над которыми мы сейчас работаем,

используя технологии ИИ.

Я уверена, в ближайшие пару дней
появится очередной новостной вброс

об экзистенциальном риске,
восстании машин

и о том, что мы все
скоро лишимся рабочих мест.

(Смех)

Когда что-то подобное происходит,
я знаю наперёд,

что получу множество сообщений,
полных переживаний о нашем будущем.

Но я полностью поддерживаю
использование технологий ИИ.

Это наш шанс сделать мир местом,
где равенство не будет пустым словом.

Но для этого нам нужно
делать всё правильно с самого начала.

Нам нужны люди разного пола, рас,
сексуальных ориентаций, происхождений.

Нужно, чтобы женщины выступали творцами,

а не просто машинами, которые
выполняют поручения творцов.

Нам нужно осторожно подходить к тому,
какой логике мы обучаем системы,

какими данными снабжаем их,

чтобы они не повторяли наши былые ошибки.

Я надеюсь, что оставлю вас
с мыслями о двух вещах.

Во-первых, я надеюсь, вы задумаетесь
о бытующих в обществе предрассудках.

И в следующий раз, когда
вы увидите в ленте объявление,

предполагающее, что вам интересны
клиники планирования семьи

или букмекер-сервисы онлайн,

вы вспомните о том,

что тот же алгоритм предполагает, что
афроамериканец станет рецидивистом.

Или что женщина скорее станет личным
ассистентом, чем генеральным директором.

И я надеюсь, вы вспомните, что
со всем этим нам нужно что-то делать.

А во-вторых,

надеюсь, вы задумаетесь о том,

что вам не нужно выглядеть
определённым образом

или иметь специальную подготовку
в области технологий,

чтобы участвовать в создании ИИ,

который станет движущей силой
нашего будущего.

Вам не нужно выглядеть,
как Марк Цукерберг,

вы можете выглядеть, как я.

И от всех нас в этой комнате зависит,

сможем ли мы убедить
правительство и корпорации

создавать ИИ для всех,

включая редкие случаи.

В наших интересах познать в будущем

эту удивительную технологию,

потому что, сделав это,

мы откроем лишь малую толику того,
чего можно достичь с помощью ИИ.

Спасибо.

(Аплодисменты)