WEBVTT

00:00:00.875 --> 00:00:04.643
Сколько решений в отношении вас
было принято сегодня,

00:00:04.667 --> 00:00:07.268
на этой неделе или в этом году

00:00:07.292 --> 00:00:09.250
искусственным интеллектом?

00:00:10.958 --> 00:00:12.643
Я зарабатываю, создавая ИИ,

00:00:12.667 --> 00:00:15.684
так что, говоря откровенно, я ботан.

00:00:15.708 --> 00:00:18.101
И поскольку я ботан,

00:00:18.125 --> 00:00:20.476
когда появляется очередной новостной сюжет

00:00:20.500 --> 00:00:23.934
об искусственном интеллекте,
ворующем наши рабочие места,

00:00:23.958 --> 00:00:28.143
или о роботах, получающих
гражданство настоящей страны,

00:00:28.167 --> 00:00:31.309
мои друзья и подписчики именно меня
засыпают сообщениями,

00:00:31.333 --> 00:00:32.875
полными переживаний о будущем.

NOTE Paragraph

00:00:33.833 --> 00:00:35.934
Мы наблюдаем это повсеместно.

00:00:35.958 --> 00:00:39.875
СМИ раздувают панику о восстании роботов.

00:00:40.875 --> 00:00:42.792
В этом можно обвинить Голливуд.

00:00:44.125 --> 00:00:48.250
Но на самом деле это не та проблема,
на которой нам следует фокусироваться.

00:00:49.250 --> 00:00:52.893
Существует более серьёзный риск,
на который нам следует обратить внимание

00:00:52.917 --> 00:00:54.500
при работе с ИИ.

00:00:55.417 --> 00:00:57.726
Итак, вернёмся к изначальному вопросу:

00:00:57.750 --> 00:01:02.458
сколько решений принял сегодня
в отношении вас ИИ?

00:01:03.792 --> 00:01:05.768
И сколько из них

00:01:05.792 --> 00:01:10.292
были продиктованы вашим полом,
расой или происхождением?

NOTE Paragraph

00:01:12.500 --> 00:01:15.268
Алгоритмы используются повсеместно,

00:01:15.292 --> 00:01:19.125
для того чтобы определять, 
кто мы такие и чего мы хотим.

00:01:20.208 --> 00:01:23.851
Некоторые женщины в этом зале
поймут, о чём я,

00:01:23.875 --> 00:01:27.643
если вам приходилось смотреть
рекламу тестов на беременность на YouTube

00:01:27.667 --> 00:01:29.726
по 1000 раз на дню.

00:01:29.750 --> 00:01:32.601
Или когда вы натыкаетесь на рекламу
клиник планирования семьи

00:01:32.625 --> 00:01:34.667
в ленте Facebook.

00:01:35.625 --> 00:01:38.018
Или в моём случае —
индийские брачные бюро.

NOTE Paragraph

00:01:38.042 --> 00:01:39.309
(Смех)

NOTE Paragraph

00:01:39.333 --> 00:01:42.309
Однако ИИ используется не просто
для того, чтобы определить,

00:01:42.333 --> 00:01:44.934
какие товары мы хотим приобрести

00:01:44.958 --> 00:01:47.458
или за каким сериалом
проведём бессонные ночи.

00:01:49.042 --> 00:01:54.226
Интересно, что бы вы подумали о человеке,
который размышляет примерно так:

00:01:54.250 --> 00:01:56.184
«Афро- или латиноамериканец

00:01:56.208 --> 00:02:00.333
куда реже, чем белый, 
вовремя вносит платежи по кредиту».

00:02:01.542 --> 00:02:04.351
«Человек по имени Джон —
более способный программист,

00:02:04.375 --> 00:02:06.042
чем та, кого зовут Мэри».

00:02:07.250 --> 00:02:12.333
«Афроамериканец чаще, чем белый
оказывается рецидивистом».

00:02:14.888 --> 00:02:16.226
Вы наверняка сейчас думаете:

00:02:16.250 --> 00:02:20.000
«Ого, да это наверняка
сексисты и расисты», верно?

00:02:21.000 --> 00:02:25.851
Всё это реальные заключения,
сделанные о нас искусственным интеллектом

00:02:25.875 --> 00:02:28.809
и основанные на тех предрассудках,
которым ИИ научился у нас,

00:02:28.833 --> 00:02:30.083
у людей.

00:02:31.750 --> 00:02:36.559
ИИ упрощает процесс принятия решений:
пригласят ли вас на собеседование,

00:02:36.583 --> 00:02:38.976
сколько вам платить за страховку машины,

00:02:39.000 --> 00:02:40.893
как выглядит ваша кредитная история

00:02:40.917 --> 00:02:44.042
и даже то, как вы будете оценены
на работе по итогам года.

00:02:45.083 --> 00:02:48.226
Но все эти решения проходят через фильтры

00:02:48.250 --> 00:02:54.125
предположений ИИ о том, кто мы,
о наших расе, поле и возрасте.

00:02:56.250 --> 00:02:58.518
Как же всё это происходит?

NOTE Paragraph

00:02:58.542 --> 00:03:02.059
Представьте, что ИИ помогает HR-менеджеру

00:03:02.083 --> 00:03:04.934
в поиске следующего
технического лидера в компании.

00:03:04.958 --> 00:03:08.059
В прошлом этот менеджер
чаще выбирал на должность мужчин.

00:03:08.083 --> 00:03:12.833
В итоге ИИ запоминает, что программистами
чаще становятся мужчины, а не женщины.

00:03:13.542 --> 00:03:16.434
А отсюда рукой подать до вывода:

00:03:16.458 --> 00:03:18.890
мужчины более способные
программисты, чем женщины.

00:03:19.417 --> 00:03:23.143
Таким образом, наши предрассудки 
укрепляются в ИИ.

00:03:23.167 --> 00:03:26.792
Как результат, ИИ отсеивает
кандидатов-женщин.

00:03:28.917 --> 00:03:31.934
Но стойте, если бы так поступал человек,

00:03:31.958 --> 00:03:34.309
мы бы были возмущены и выступили против.

00:03:34.333 --> 00:03:37.809
Дискриминация по половому признаку —
это предосудительно.

00:03:37.833 --> 00:03:42.351
И всё же каким-то образом
решения ИИ находятся вне закона,

00:03:42.375 --> 00:03:44.458
так как они приняты машиной.

00:03:45.833 --> 00:03:47.351
Но это не так.

NOTE Paragraph

00:03:47.375 --> 00:03:52.250
Мы также подкрепляем наши предрассудки
тем, как именно мы взаимодействуем с ИИ.

00:03:52.917 --> 00:03:57.917
Как часто вы пользуетесь голосовыми
помощниками Сири, Алексой или Кортаной?

00:03:58.917 --> 00:04:01.476
Все они имеют две общие черты:

00:04:01.500 --> 00:04:04.711
первая заключается в том,
что они всегда неверно произносят моё имя,

00:04:04.745 --> 00:04:07.292
а вторая — все они женского пола.

00:04:08.417 --> 00:04:11.184
Они разработаны, чтобы 
послушно выполнять наши поручения,

00:04:11.208 --> 00:04:14.458
включать и выключать свет,
делать онлайн-покупки.

00:04:14.901 --> 00:04:18.434
Существуют также системы ИИ мужского пола,
но они обычно более авторитетны,

00:04:18.458 --> 00:04:21.517
к примеру, IBM Watson, 
принимающий решения в бизнес-сфере,

00:04:21.541 --> 00:04:25.333
или платформа Salesforce Einstein, 
или робот-адвокат ROSS.

00:04:26.208 --> 00:04:30.268
Таким образом, даже несчастные роботы
страдают от сексизма на рабочем месте.

NOTE Paragraph

00:04:30.292 --> 00:04:31.417
(Смех)

NOTE Paragraph

00:04:32.542 --> 00:04:35.393
Задумайтесь, как оба этих факта вкупе

00:04:35.417 --> 00:04:40.726
оказывают влияние на детей, растущих 
в сегодняшнем мире в окружении ИИ.

00:04:40.750 --> 00:04:43.684
Например, они собирают данные
для школьного проекта

00:04:43.708 --> 00:04:46.726
и гуглят фото генеральных директоров.

00:04:46.750 --> 00:04:49.643
Алгоритм выдаёт им
в основном директоров-мужчин.

00:04:49.667 --> 00:04:52.226
А потом они гуглят личных помощников.

00:04:52.250 --> 00:04:55.684
Как вы можете догадаться, в этом поиске 
отображаются в основном женщины.

00:04:55.708 --> 00:04:59.309
А позже они захотят включить музыку
или заказать поесть,

00:04:59.333 --> 00:05:05.917
и вот они уже раздают свои поручения
помощнику с покорным женским голосом.

00:05:07.542 --> 00:05:12.851
Умнейшие люди планеты
разрабатывают сейчас эти технологии.

00:05:12.875 --> 00:05:17.059
Технологии, которые они могли бы создать 
любыми, какими бы ни захотели.

00:05:17.083 --> 00:05:20.172
И всё же они решили сделать помощников

00:05:20.202 --> 00:05:22.842
в стиле секретарши 1950-х годов 
из фильма «Безумцы».

00:05:22.882 --> 00:05:24.292
Ура!

NOTE Paragraph

00:05:24.958 --> 00:05:26.268
Ладно, не волнуйтесь,

00:05:26.292 --> 00:05:28.823
я не собираюсь заканчивать
выступление словами о том,

00:05:28.863 --> 00:05:31.852
что миром будут править сексистские,
расистские машины.

00:05:32.792 --> 00:05:38.583
Хорошие новости об ИИ заключаются в том,
что он находится под нашим контролем.

00:05:39.333 --> 00:05:43.333
Мы можем заложить в ИИ правильные 
моральные нормы и ценности.

00:05:44.167 --> 00:05:46.351
Мы можем сделать три вещи.

00:05:46.375 --> 00:05:49.726
Во-первых, мы можем начать
отдавать себе отчёт о своих предрассудках

00:05:49.750 --> 00:05:52.476
и предрассудках машин вокруг нас.

00:05:52.500 --> 00:05:56.042
Во-вторых, мы должны создавать ИИ,
привлекая непохожих друг на друга людей.

00:05:57.042 --> 00:06:01.958
И, в-третьих, мы должны предоставить ИИ
обширную выборку данных для обучения.

00:06:02.875 --> 00:06:06.184
Я говорю о первых двух пунктах,
основываясь на собственном опыте.

00:06:06.208 --> 00:06:07.643
Если вы работаете в сфере ИТ

00:06:07.667 --> 00:06:11.059
и не выглядите как какой-нибудь 
Марк Цукерберг или Илон Маск,

00:06:11.083 --> 00:06:14.833
вам немного сложнее, ваша компетенция 
постоянно подвергается сомнению.

NOTE Paragraph

00:06:15.875 --> 00:06:17.268
Приведу всего один пример.

00:06:17.292 --> 00:06:21.018
Как и большинство разработчиков,
я часто бываю на техно-форумах

00:06:21.042 --> 00:06:24.268
и делюсь своими знаниями, 
чтобы помочь другим.

00:06:24.292 --> 00:06:25.601
И я заметила,

00:06:25.625 --> 00:06:29.601
что когда я размещаю настоящее фото
и подписываюсь собственным именем,

00:06:29.625 --> 00:06:34.226
мне часто задают вопросы
или пишут такие комментарии как:

00:06:34.250 --> 00:06:37.250
«Что заставляет вас думать, 
что вы можете рассуждать об ИИ?»

00:06:38.458 --> 00:06:41.934
«Почему вы так уверены,
что знаете что-то о машинном обучении?»

00:06:41.958 --> 00:06:45.393
Поэтому, только не удивляйтесь, —
я создала новый профиль

00:06:45.417 --> 00:06:50.268
и на этот раз вместо собственного фото
я поставила кота с реактивным ранцем.

00:06:50.292 --> 00:06:52.980
А ещё я выбрала ник, 
по которому невозможно понять пол.

00:06:53.917 --> 00:06:56.643
Вы можете с лёгкостью догадаться,
к чему я клоню, правда?

00:06:56.667 --> 00:07:03.059
В этот раз никто не оставлял комментариев,
ставящих мою квалификацию под сомнение,

00:07:03.083 --> 00:07:06.417
и мне наконец удалось донести свои мысли.

00:07:07.500 --> 00:07:09.351
И это отстой, ребята.

00:07:09.375 --> 00:07:11.851
Я занимаюсь созданием роботов с 15 лет,

00:07:11.875 --> 00:07:14.143
получила несколько степеней в информатике,

00:07:14.167 --> 00:07:16.601
и мне всё равно приходится 
скрывать свой пол,

00:07:16.625 --> 00:07:19.395
чтобы к моей работе
относились серьёзно.

NOTE Paragraph

00:07:19.875 --> 00:07:21.768
Так что же происходит?

00:07:21.792 --> 00:07:25.000
Неужели мужчины просто лучше
разбираются в технологиях, чем женщины?

00:07:25.917 --> 00:07:27.476
Одно исследование выявило,

00:07:27.500 --> 00:07:32.434
что когда на одной из платформ 
женщины-кодеры, как я, скрывали свой пол,

00:07:32.458 --> 00:07:35.708
их работа признавалась успешной 
на 4% чаще, чем у их коллег мужчин.

00:07:36.542 --> 00:07:39.458
Так что дело не в таланте.

00:07:39.958 --> 00:07:42.851
Дело в неравноправии в сфере ИИ,

00:07:42.875 --> 00:07:46.027
где программист должен
выглядеть определённым образом.

00:07:47.375 --> 00:07:50.476
На самом деле
для усовершенствования сферы ИИ

00:07:50.500 --> 00:07:53.542
нужно вовлекать людей
разного происхождения.

00:07:54.542 --> 00:07:57.101
Нам нужны люди, умеющие
писать и рассказывать истории

00:07:57.125 --> 00:07:59.292
для помощи в создании личностей ИИ.

00:08:00.208 --> 00:08:02.250
Нам нужны те, кто способен решать задачи.

00:08:03.125 --> 00:08:06.893
Нам нужны люди, сталкивающиеся
с различными трудностями,

00:08:06.917 --> 00:08:12.268
а так же люди, которые могут рассказать
о реальных проблемах, требующих решений,

00:08:12.292 --> 00:08:15.333
и помочь нам создать технологии
для поиска качественных решений.

00:08:17.833 --> 00:08:21.559
Ведь когда люди с разным 
жизненным опытом собираются вместе,

00:08:21.583 --> 00:08:23.726
когда мы двигаемся в верном направлении,

00:08:23.750 --> 00:08:25.792
наши возможности безграничны.

NOTE Paragraph

00:08:26.750 --> 00:08:30.059
Я хочу исправить сложившуюся ситуацию
и поэтому говорю меньше о том,

00:08:30.083 --> 00:08:34.308
что роботы-расисты и машины
отнимут у нас рабочие места,

00:08:34.332 --> 00:08:37.457
и больше о том,
чего мы действительно можем достичь.

00:08:38.292 --> 00:08:41.726
Конечно, часть энергии в мире ИИ,

00:08:41.750 --> 00:08:43.143
в мире технологий

00:08:43.167 --> 00:08:47.434
будет уходить на определение того,
какие рекламные объявления вы увидите.

00:08:47.458 --> 00:08:52.667
Но существенная доля энергии направлена 
на то, чтобы сделать мир намного лучше.

00:08:53.500 --> 00:08:57.268
Представьте беременную женщину
в Демократической Республике Конго,

00:08:57.292 --> 00:09:01.476
которой приходится идти 17 часов пешком
до ближайшей сельской женской консультации

00:09:01.500 --> 00:09:03.351
для прохождения медосмотра.

00:09:03.375 --> 00:09:06.872
Что было бы, если бы она могла
вместо этого получить диагноз по телефону?

00:09:07.750 --> 00:09:09.559
Или представьте, что мог бы сделать ИИ

00:09:09.583 --> 00:09:12.309
для женщин из Южной Африки,
каждая третья из которых

00:09:12.333 --> 00:09:14.458
сталкивается с домашним насилием.

00:09:15.083 --> 00:09:17.809
Если им страшно сообщить об этом,

00:09:17.833 --> 00:09:20.369
они могли бы использовать ИИ
для привлечения внимания,

00:09:20.403 --> 00:09:22.792
получить финансовую и юридическую помощь.

00:09:23.958 --> 00:09:28.976
Это примеры реальных проектов,
над которыми мы сейчас работаем,

00:09:29.000 --> 00:09:31.500
используя технологии ИИ.

NOTE Paragraph

00:09:33.542 --> 00:09:37.143
Я уверена, в ближайшие пару дней
появится очередной новостной вброс

00:09:37.167 --> 00:09:39.851
об экзистенциальном риске,
восстании машин

00:09:39.875 --> 00:09:42.309
и о том, что мы все 
скоро лишимся рабочих мест.

NOTE Paragraph

00:09:42.333 --> 00:09:43.351
(Смех)

NOTE Paragraph

00:09:43.375 --> 00:09:45.684
Когда что-то подобное происходит,
я знаю наперёд,

00:09:45.708 --> 00:09:49.309
что получу множество сообщений,
полных переживаний о нашем будущем.

00:09:49.333 --> 00:09:53.000
Но я полностью поддерживаю 
использование технологий ИИ.

00:09:55.458 --> 00:10:01.417
Это наш шанс сделать мир местом,
где равенство не будет пустым словом.

00:10:02.458 --> 00:10:06.458
Но для этого нам нужно 
делать всё правильно с самого начала.

00:10:07.667 --> 00:10:12.750
Нам нужны люди разного пола, рас, 
сексуальных ориентаций, происхождений.

00:10:14.458 --> 00:10:16.934
Нужно, чтобы женщины выступали творцами,

00:10:16.958 --> 00:10:19.958
а не просто машинами, которые 
выполняют поручения творцов.

00:10:21.875 --> 00:10:25.643
Нам нужно осторожно подходить к тому,
какой логике мы обучаем системы,

00:10:25.667 --> 00:10:27.309
какими данными снабжаем их,

00:10:27.333 --> 00:10:30.458
чтобы они не повторяли наши былые ошибки.

00:10:32.125 --> 00:10:35.667
Я надеюсь, что оставлю вас
с мыслями о двух вещах.

00:10:36.542 --> 00:10:41.101
Во-первых, я надеюсь, вы задумаетесь 
о бытующих в обществе предрассудках.

00:10:41.125 --> 00:10:44.309
И в следующий раз, когда
вы увидите в ленте объявление,

00:10:44.333 --> 00:10:47.143
предполагающее, что вам интересны
клиники планирования семьи

00:10:47.167 --> 00:10:50.018
или букмекер-сервисы онлайн,

00:10:50.042 --> 00:10:52.059
вы вспомните о том,

00:10:52.083 --> 00:10:56.708
что тот же алгоритм предполагает, что
афроамериканец станет рецидивистом.

00:10:57.833 --> 00:11:02.000
Или что женщина скорее станет личным 
ассистентом, чем генеральным директором.

00:11:02.958 --> 00:11:06.667
И я надеюсь, вы вспомните, что
со всем этим нам нужно что-то делать.

NOTE Paragraph

00:11:08.917 --> 00:11:10.768
А во-вторых,

00:11:10.792 --> 00:11:12.434
надеюсь, вы задумаетесь о том,

00:11:12.468 --> 00:11:14.804
что вам не нужно выглядеть 
определённым образом

00:11:14.828 --> 00:11:18.219
или иметь специальную подготовку
в области технологий,

00:11:18.243 --> 00:11:19.851
чтобы участвовать в создании ИИ,

00:11:19.875 --> 00:11:22.750
который станет движущей силой
нашего будущего.

00:11:24.166 --> 00:11:26.309
Вам не нужно выглядеть,
как Марк Цукерберг,

00:11:26.333 --> 00:11:27.713
вы можете выглядеть, как я.

00:11:29.250 --> 00:11:32.143
И от всех нас в этой комнате зависит,

00:11:32.167 --> 00:11:34.893
сможем ли мы убедить 
правительство и корпорации

00:11:34.917 --> 00:11:37.809
создавать ИИ для всех,

00:11:37.833 --> 00:11:40.226
включая редкие случаи.

00:11:40.250 --> 00:11:42.309
В наших интересах познать в будущем

00:11:42.333 --> 00:11:44.708
эту удивительную технологию,

00:11:46.167 --> 00:11:48.184
потому что, сделав это,

00:11:48.208 --> 00:11:53.101
мы откроем лишь малую толику того,
чего можно достичь с помощью ИИ.

NOTE Paragraph

00:11:53.125 --> 00:11:54.393
Спасибо.

NOTE Paragraph

00:11:54.417 --> 00:11:57.125
(Аплодисменты)