[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:01.04,0:00:04.18,Default,,0000,0000,0000,,Привет, я Джой, поэт кода.
Dialogue: 0,0:00:04.20,0:00:09.19,Default,,0000,0000,0000,,Моя миссия — остановить невидимую,\Nнабирающую обороты силу,
Dialogue: 0,0:00:09.22,0:00:12.07,Default,,0000,0000,0000,,силу, которую я называю\N«закодированный взгляд»,
Dialogue: 0,0:00:12.10,0:00:15.40,Default,,0000,0000,0000,,моё определение для алгоритмического сбоя.
Dialogue: 0,0:00:15.43,0:00:19.73,Default,,0000,0000,0000,,Необъективность алгоритма, как и\Nчеловека, ведёт к несправедливости.
Dialogue: 0,0:00:19.75,0:00:25.78,Default,,0000,0000,0000,,Алгоритмы, как вирусы, способны\Nраспространять ошибки в больших масштабах
Dialogue: 0,0:00:25.80,0:00:27.38,Default,,0000,0000,0000,,и очень быстро.
Dialogue: 0,0:00:27.94,0:00:32.33,Default,,0000,0000,0000,,Алгоритмические отклонения\Nмогут приводить к отчуждению
Dialogue: 0,0:00:32.35,0:00:34.48,Default,,0000,0000,0000,,и дискриминации.
Dialogue: 0,0:00:34.51,0:00:36.57,Default,,0000,0000,0000,,Давайте я покажу, что я имею в виду.
Dialogue: 0,0:00:36.98,0:00:39.42,Default,,0000,0000,0000,,(Видео) Джой: Привет,\Nкамера. Вот моё лицо.
Dialogue: 0,0:00:40.16,0:00:42.03,Default,,0000,0000,0000,,Ты видишь моё лицо?
Dialogue: 0,0:00:42.05,0:00:43.68,Default,,0000,0000,0000,,Лицо без очков?
Dialogue: 0,0:00:43.70,0:00:45.92,Default,,0000,0000,0000,,Ты видишь её лицо.
Dialogue: 0,0:00:46.24,0:00:48.48,Default,,0000,0000,0000,,А моё?
Dialogue: 0,0:00:51.89,0:00:55.64,Default,,0000,0000,0000,,Теперь с маской. Видишь маску?
Dialogue: 0,0:00:56.47,0:00:58.84,Default,,0000,0000,0000,,Джой Буоламвини: Как так получилось?
Dialogue: 0,0:00:58.86,0:01:02.00,Default,,0000,0000,0000,,Почему я сижу за компьютером
Dialogue: 0,0:01:02.03,0:01:03.45,Default,,0000,0000,0000,,в белой маске,
Dialogue: 0,0:01:03.48,0:01:07.13,Default,,0000,0000,0000,,пытаясь быть распознанной\Nдешёвой камерой?
Dialogue: 0,0:01:07.15,0:01:09.44,Default,,0000,0000,0000,,Когда я не воюю с закодированным взглядом,
Dialogue: 0,0:01:09.46,0:01:10.98,Default,,0000,0000,0000,,будучи поэтом кода,
Dialogue: 0,0:01:11.01,0:01:14.28,Default,,0000,0000,0000,,я аспирант Медиа-лаборатории в МИТ,
Dialogue: 0,0:01:14.30,0:01:19.22,Default,,0000,0000,0000,,где у меня есть возможность работать\Nнад всяческими фантастическими проектами,
Dialogue: 0,0:01:19.25,0:01:21.27,Default,,0000,0000,0000,,включая Зеркало стремлений,
Dialogue: 0,0:01:21.30,0:01:26.43,Default,,0000,0000,0000,,которое позволяет проецировать\Nцифровые маски на своё отражение.
Dialogue: 0,0:01:26.46,0:01:28.94,Default,,0000,0000,0000,,Например, если утром я хочу\Nчувствовать себя сильной,
Dialogue: 0,0:01:28.96,0:01:30.26,Default,,0000,0000,0000,,я могу наложить маску льва.
Dialogue: 0,0:01:30.29,0:01:33.78,Default,,0000,0000,0000,,Если я хочу приободриться,\Nто можно обойтись цитатой.
Dialogue: 0,0:01:33.81,0:01:36.80,Default,,0000,0000,0000,,Я использовала обычную\Nпрограмму распознавания лиц,
Dialogue: 0,0:01:36.82,0:01:38.17,Default,,0000,0000,0000,,чтобы создать эту систему,
Dialogue: 0,0:01:38.20,0:01:43.30,Default,,0000,0000,0000,,но оказалось, что её очень трудно\Nтестировать, если на мне нет белой маски.
Dialogue: 0,0:01:44.28,0:01:48.63,Default,,0000,0000,0000,,К сожалению, я и раньше\Nсталкивалась с этой проблемой.
Dialogue: 0,0:01:48.65,0:01:52.96,Default,,0000,0000,0000,,Когда я изучала информатику\Nв Технологическом институте Джорджии,
Dialogue: 0,0:01:52.98,0:01:55.03,Default,,0000,0000,0000,,я работала над социальными роботами,
Dialogue: 0,0:01:55.06,0:01:58.84,Default,,0000,0000,0000,,и одной из моих задач было научить\Nробота играть в «ку-ку».
Dialogue: 0,0:01:58.86,0:02:00.54,Default,,0000,0000,0000,,Это простая игра со сменой ролей,
Dialogue: 0,0:02:00.57,0:02:04.89,Default,,0000,0000,0000,,когда участники закрывают лицо ладонями,\Nи, открывая, говорят: «Ку-ку!»
Dialogue: 0,0:02:04.91,0:02:09.34,Default,,0000,0000,0000,,Проблема заключается в том, что\Nесли вас не видно, то игра теряет смысл,
Dialogue: 0,0:02:09.36,0:02:11.86,Default,,0000,0000,0000,,а мой робот меня не видел.
Dialogue: 0,0:02:11.89,0:02:15.84,Default,,0000,0000,0000,,Моя соседка одолжила мне своё лицо,\Nчтобы я смогла закончить проект,
Dialogue: 0,0:02:15.86,0:02:17.24,Default,,0000,0000,0000,,я сдала задание
Dialogue: 0,0:02:17.26,0:02:21.02,Default,,0000,0000,0000,,и подумала, что кто-нибудь другой\Nрешит эту проблему.
Dialogue: 0,0:02:21.67,0:02:23.67,Default,,0000,0000,0000,,Через некоторое время
Dialogue: 0,0:02:23.70,0:02:27.86,Default,,0000,0000,0000,,я участвовала в конкурсе\Nпредринимателей в Гонконге.
Dialogue: 0,0:02:28.34,0:02:31.03,Default,,0000,0000,0000,,Организаторы решили показать участникам
Dialogue: 0,0:02:31.06,0:02:33.43,Default,,0000,0000,0000,,местные стартапы.
Dialogue: 0,0:02:33.45,0:02:36.17,Default,,0000,0000,0000,,В одном стартапе был социальный робот,
Dialogue: 0,0:02:36.19,0:02:38.10,Default,,0000,0000,0000,,и они решили его продемонстрировать.
Dialogue: 0,0:02:38.13,0:02:41.11,Default,,0000,0000,0000,,Демонстрация сработала на всех,\Nпока дело не дошло до меня,
Dialogue: 0,0:02:41.13,0:02:43.06,Default,,0000,0000,0000,,и вы, наверное, уже догадались.
Dialogue: 0,0:02:43.08,0:02:46.04,Default,,0000,0000,0000,,Он не смог распознать моё лицо.
Dialogue: 0,0:02:46.07,0:02:48.58,Default,,0000,0000,0000,,Я спросила у разработчиков, в чём дело,
Dialogue: 0,0:02:48.60,0:02:54.14,Default,,0000,0000,0000,,и оказалось, что мы использовали одну\Nи ту же программу для распознавания лиц.
Dialogue: 0,0:02:54.16,0:02:55.81,Default,,0000,0000,0000,,На другой половине земного шара
Dialogue: 0,0:02:55.83,0:02:59.69,Default,,0000,0000,0000,,до меня дошло, что алгоритмическая ошибка\Nможет распространяться так же быстро,
Dialogue: 0,0:02:59.71,0:03:02.88,Default,,0000,0000,0000,,как быстро можно скачивать\Nфайлы из интернета.
Dialogue: 0,0:03:03.74,0:03:06.82,Default,,0000,0000,0000,,Так что же происходит? Почему\Nмоё лицо не распознаётся?
Dialogue: 0,0:03:06.84,0:03:10.20,Default,,0000,0000,0000,,Для начала рассмотрим,\Nкак мы создаём машинное зрение.
Dialogue: 0,0:03:10.22,0:03:13.63,Default,,0000,0000,0000,,Компьютерное зрение использует\Nтехники машинного обучения,
Dialogue: 0,0:03:13.66,0:03:15.54,Default,,0000,0000,0000,,чтобы распознавать лица.
Dialogue: 0,0:03:15.56,0:03:19.46,Default,,0000,0000,0000,,Это работает таким образом: вы создаёте\Nтренировочный набор с примерами лиц.
Dialogue: 0,0:03:19.48,0:03:22.30,Default,,0000,0000,0000,,Это лицо. Это лицо. Это не лицо.
Dialogue: 0,0:03:22.32,0:03:26.84,Default,,0000,0000,0000,,И постепенно вы можете научить\Nкомпьютер распознавать другие лица.
Dialogue: 0,0:03:26.87,0:03:30.86,Default,,0000,0000,0000,,Однако, если тренировочные наборы\Nне очень разнообразны,
Dialogue: 0,0:03:30.88,0:03:34.23,Default,,0000,0000,0000,,любое лицо, которое сильно отличается\Nот установленной нормы,
Dialogue: 0,0:03:34.25,0:03:35.90,Default,,0000,0000,0000,,будет сложно распознать,
Dialogue: 0,0:03:35.93,0:03:37.89,Default,,0000,0000,0000,,что и происходило со мной.
Dialogue: 0,0:03:37.91,0:03:40.30,Default,,0000,0000,0000,,Но не переживайте —\Nесть и хорошие новости.
Dialogue: 0,0:03:40.32,0:03:43.09,Default,,0000,0000,0000,,Тренировочные наборы\Nне появляются из ниоткуда.
Dialogue: 0,0:03:43.12,0:03:44.90,Default,,0000,0000,0000,,Мы вообще-то можем их создавать.
Dialogue: 0,0:03:44.93,0:03:49.10,Default,,0000,0000,0000,,Есть возможность создавать полный спектр\Nтренировочных наборов,
Dialogue: 0,0:03:49.13,0:03:52.95,Default,,0000,0000,0000,,которые отражают более насыщенный\Nпортрет человечества.
Dialogue: 0,0:03:52.98,0:03:55.20,Default,,0000,0000,0000,,Вы увидели в моих примерах,
Dialogue: 0,0:03:55.22,0:03:56.99,Default,,0000,0000,0000,,как социальные роботы
Dialogue: 0,0:03:57.01,0:04:01.62,Default,,0000,0000,0000,,позволили мне обнаружить исключения\Nиз-за алгоритмической погрешности.
Dialogue: 0,0:04:01.65,0:04:06.46,Default,,0000,0000,0000,,Но алгоритмическая ошибка может также\Nприводить к дискриминации.
Dialogue: 0,0:04:07.44,0:04:08.89,Default,,0000,0000,0000,,В США
Dialogue: 0,0:04:08.91,0:04:13.11,Default,,0000,0000,0000,,отделения полиции начинают использовать\Nпрограммы распознавания лиц
Dialogue: 0,0:04:13.14,0:04:15.60,Default,,0000,0000,0000,,в их арсенале борьбы с преступностью.
Dialogue: 0,0:04:15.62,0:04:17.63,Default,,0000,0000,0000,,Школа права университета Джорджтаун
Dialogue: 0,0:04:17.66,0:04:24.42,Default,,0000,0000,0000,,опубликовала отчёт, согласно которому\Nв США один из двух взрослых —
Dialogue: 0,0:04:24.44,0:04:27.98,Default,,0000,0000,0000,,это 117 миллионов человек —\Nимеют свои лица в сетях распознавания лиц.
Dialogue: 0,0:04:28.00,0:04:32.55,Default,,0000,0000,0000,,Отделения полиции сейчас могут\Nнеограниченно пользоваться этими сетями,
Dialogue: 0,0:04:32.58,0:04:36.86,Default,,0000,0000,0000,,используя алгоритмы, точность\Nкоторых не была проверена.
Dialogue: 0,0:04:36.89,0:04:40.75,Default,,0000,0000,0000,,Но мы знаем, что\Nраспознавание лиц несовершенно
Dialogue: 0,0:04:40.78,0:04:44.95,Default,,0000,0000,0000,,и что последовательное определение лиц\Nостаётся сложной задачей.
Dialogue: 0,0:04:44.98,0:04:46.74,Default,,0000,0000,0000,,Можно столкнуться с этим на Фейсбуке.
Dialogue: 0,0:04:46.76,0:04:49.75,Default,,0000,0000,0000,,Мы с друзьями всё время смеёмся,\Nкогда видим других людей,
Dialogue: 0,0:04:49.78,0:04:52.23,Default,,0000,0000,0000,,отмеченных на наших фото.
Dialogue: 0,0:04:52.26,0:04:57.85,Default,,0000,0000,0000,,Но ошибочное определение уголовно\Nподозреваемого — это не шутка
Dialogue: 0,0:04:57.87,0:05:00.70,Default,,0000,0000,0000,,и не просто нарушение гражданских свобод.
Dialogue: 0,0:05:00.72,0:05:03.93,Default,,0000,0000,0000,,Машинное обучение используется\Nдля распознавания лиц,
Dialogue: 0,0:05:03.95,0:05:08.46,Default,,0000,0000,0000,,но не ограничивается компьютерным зрением.
Dialogue: 0,0:05:09.27,0:05:13.28,Default,,0000,0000,0000,,В своей книге «Оружие\Nматематического поражения»
Dialogue: 0,0:05:13.31,0:05:19.99,Default,,0000,0000,0000,,учёный в области данных Кэти О'нейл\Nрассказывает о новом ОМП —
Dialogue: 0,0:05:20.01,0:05:24.36,Default,,0000,0000,0000,,охватывающих, малоизвестных\Nи поражающих алгоритмах,
Dialogue: 0,0:05:24.39,0:05:27.35,Default,,0000,0000,0000,,которые всё чаще используются\Nдля принятия решений,
Dialogue: 0,0:05:27.38,0:05:30.55,Default,,0000,0000,0000,,которые влияют на всё большее количество\Nаспектов нашей жизни.
Dialogue: 0,0:05:30.58,0:05:32.45,Default,,0000,0000,0000,,Кто будет принят на работу или уволен?
Dialogue: 0,0:05:32.47,0:05:34.58,Default,,0000,0000,0000,,Дадут ли вам этот кредит? Страховку?
Dialogue: 0,0:05:34.61,0:05:38.11,Default,,0000,0000,0000,,Попадёте ли вы в тот колледж,\Nв который собирались?
Dialogue: 0,0:05:38.13,0:05:41.64,Default,,0000,0000,0000,,Одинаковы ли цены для вас и для меня\Nна один и тот же товар,
Dialogue: 0,0:05:41.67,0:05:44.11,Default,,0000,0000,0000,,купленный на той же платформе?
Dialogue: 0,0:05:44.13,0:05:47.89,Default,,0000,0000,0000,,Правоохранительные органы также\Nначинают применять машинное обучение
Dialogue: 0,0:05:47.92,0:05:50.20,Default,,0000,0000,0000,,для прогнозирования.
Dialogue: 0,0:05:50.23,0:05:53.72,Default,,0000,0000,0000,,Судьи используют рейтинги риска,\Nсгенерированные машиной, для определения
Dialogue: 0,0:05:53.75,0:05:58.15,Default,,0000,0000,0000,,срока, который человек\Nдолжен будет провести в тюрьме.
Dialogue: 0,0:05:58.17,0:06:00.63,Default,,0000,0000,0000,,Мы должны крепко задуматься\Nнад этими решениями.
Dialogue: 0,0:06:00.65,0:06:01.83,Default,,0000,0000,0000,,Справедливы ли они?
Dialogue: 0,0:06:01.86,0:06:04.75,Default,,0000,0000,0000,,Мы видели, что алгоритмический сбой
Dialogue: 0,0:06:04.77,0:06:08.14,Default,,0000,0000,0000,,ведёт к не совсем правильным результатам.
Dialogue: 0,0:06:08.17,0:06:10.13,Default,,0000,0000,0000,,Что же мы можем с этим сделать?
Dialogue: 0,0:06:10.16,0:06:13.84,Default,,0000,0000,0000,,Для начала, мы можем задуматься о том,\Nкак создавать более всестороний код
Dialogue: 0,0:06:13.86,0:06:16.85,Default,,0000,0000,0000,,и применять инклюзивные практики\Nв программировании.
Dialogue: 0,0:06:16.88,0:06:19.18,Default,,0000,0000,0000,,Это всё начинается с людей.
Dialogue: 0,0:06:19.71,0:06:21.67,Default,,0000,0000,0000,,Важно, кто пишет код.
Dialogue: 0,0:06:21.69,0:06:25.81,Default,,0000,0000,0000,,Создаём ли мы группы\Nиз разнообразных личностей,
Dialogue: 0,0:06:25.84,0:06:28.25,Default,,0000,0000,0000,,способных видеть слепые зоны друг друга?
Dialogue: 0,0:06:28.27,0:06:31.82,Default,,0000,0000,0000,,С технической стороны, имеет значение\Nто, как мы пишем код.
Dialogue: 0,0:06:31.84,0:06:35.49,Default,,0000,0000,0000,,Движет ли нами справедливость\Nво время разработки систем?
Dialogue: 0,0:06:35.52,0:06:38.43,Default,,0000,0000,0000,,И наконец, важно, для чего мы пишем код.
Dialogue: 0,0:06:38.78,0:06:43.87,Default,,0000,0000,0000,,Использование компьютерного творчества\Nоткрыло нам невероятное богатство.
Dialogue: 0,0:06:43.89,0:06:48.34,Default,,0000,0000,0000,,Сейчас у нас есть возможность\Nдобиться ещё большего равенства,
Dialogue: 0,0:06:48.36,0:06:51.29,Default,,0000,0000,0000,,если мы сделаем социальное\Nизменение приоритетной,
Dialogue: 0,0:06:51.32,0:06:53.49,Default,,0000,0000,0000,,а не запоздалой идеей.
Dialogue: 0,0:06:54.01,0:06:58.53,Default,,0000,0000,0000,,Итак, есть три принципа, которые\Nсоставляют основу движения «инкодинг».
Dialogue: 0,0:06:58.55,0:07:00.21,Default,,0000,0000,0000,,Важно, кто пишет код,
Dialogue: 0,0:07:00.23,0:07:01.77,Default,,0000,0000,0000,,важно, как мы пишем код,
Dialogue: 0,0:07:01.80,0:07:03.82,Default,,0000,0000,0000,,и важно, для чего мы пишем код.
Dialogue: 0,0:07:03.84,0:07:06.94,Default,,0000,0000,0000,,Двигаясь в сторону инкодинга,\Nмы можем начать задумываться
Dialogue: 0,0:07:06.97,0:07:10.13,Default,,0000,0000,0000,,о создании платформ,\Nкоторые могут находить ошибку,
Dialogue: 0,0:07:10.16,0:07:13.23,Default,,0000,0000,0000,,собирая опыт людей, таких как я,
Dialogue: 0,0:07:13.26,0:07:16.33,Default,,0000,0000,0000,,а также проверяющих существующее\Nпрограммное обеспечение.
Dialogue: 0,0:07:16.35,0:07:20.12,Default,,0000,0000,0000,,Также мы можем приступить к созданию\Nболее полных тренировочных наборов.
Dialogue: 0,0:07:20.14,0:07:22.94,Default,,0000,0000,0000,,Представьте себе кампанию\N«Селфи для присоединения»,
Dialogue: 0,0:07:22.97,0:07:26.62,Default,,0000,0000,0000,,где вы и я можем помочь разработчикам\Nтестировать и создавать
Dialogue: 0,0:07:26.65,0:07:28.74,Default,,0000,0000,0000,,более полные тренировочные наборы.
Dialogue: 0,0:07:29.30,0:07:32.13,Default,,0000,0000,0000,,Также мы можем начать думать\Nболее добросовестно
Dialogue: 0,0:07:32.15,0:07:37.54,Default,,0000,0000,0000,,о социальном влиянии технологии,\Nнад которой мы работаем.
Dialogue: 0,0:07:37.57,0:07:39.96,Default,,0000,0000,0000,,Чтобы запустить движение инкодинга,
Dialogue: 0,0:07:39.99,0:07:42.83,Default,,0000,0000,0000,,я создала Лигу алгоритмической\Nсправедливости,
Dialogue: 0,0:07:42.86,0:07:48.73,Default,,0000,0000,0000,,где каждый, кто заботится о равенстве,\Nможет помочь бороться со сбоями.
Dialogue: 0,0:07:48.75,0:07:52.05,Default,,0000,0000,0000,,На codedgaze.com вы\Nможете сообщить об ошибке,
Dialogue: 0,0:07:52.07,0:07:54.52,Default,,0000,0000,0000,,запросить проверку, стать тестировщиком
Dialogue: 0,0:07:54.54,0:07:57.31,Default,,0000,0000,0000,,и присоединиться к обсуждению.
Dialogue: 0,0:07:57.34,0:07:59.62,Default,,0000,0000,0000,,#codedgaze.
Dialogue: 0,0:08:00.74,0:08:03.23,Default,,0000,0000,0000,,Я приглашаю вас присоединиться ко мне,
Dialogue: 0,0:08:03.25,0:08:06.97,Default,,0000,0000,0000,,чтобы создать мир, в котором технология\Nработает на всех нас,
Dialogue: 0,0:08:06.100,0:08:08.89,Default,,0000,0000,0000,,а не только на некоторых,
Dialogue: 0,0:08:08.92,0:08:13.50,Default,,0000,0000,0000,,мир, в котором мы ценим инклюзию и\Nсосредотачиваемся на социальных переменах.
Dialogue: 0,0:08:13.53,0:08:14.70,Default,,0000,0000,0000,,Спасибо.
Dialogue: 0,0:08:14.73,0:08:18.100,Default,,0000,0000,0000,,(Аплодисменты)
Dialogue: 0,0:08:20.87,0:08:23.73,Default,,0000,0000,0000,,И у меня один вопрос:
Dialogue: 0,0:08:23.75,0:08:25.81,Default,,0000,0000,0000,,«А вы присоединитесь\Nко мне в этой борьбе?»
Dialogue: 0,0:08:25.83,0:08:27.12,Default,,0000,0000,0000,,(Смех)
Dialogue: 0,0:08:27.14,0:08:30.83,Default,,0000,0000,0000,,(Аплодисменты)