0:00:00.535,0:00:03.302
[Это выступление[br]предназначено для взрослых]

0:00:05.762,0:00:08.754
Рана Айюб — индийская журналистка,

0:00:08.778,0:00:11.380
разоблачающая коррупцию в правительстве

0:00:12.411,0:00:14.568
и нарушения прав человека.

0:00:14.990,0:00:16.157
За многие годы

0:00:16.181,0:00:19.484
она привыкла к ядовитой критике[br]и конфликтам вокруг своей работы.

0:00:20.149,0:00:25.258
Но ничто не могло подготовить её к тому,[br]с чем она столкнулась в апреле 2018 года.

0:00:26.125,0:00:29.776
Она сидела в кафе с другом,[br]когда впервые увидела это:

0:00:29.800,0:00:34.743
видео в 2 минуты и 20 секунд,[br]в котором она занимается сексом.

0:00:35.188,0:00:37.537
Она не могла поверить своим глазам.

0:00:37.561,0:00:39.834
Она никогда не снимала секс-видео.

0:00:40.506,0:00:43.971
Но, к сожалению, многие тысячи людей

0:00:43.995,0:00:45.661
поверят, что это она.

0:00:46.673,0:00:49.617
Я брала интервью у мисс Айюб[br]около трёх месяцев назад

0:00:49.641,0:00:52.565
в связи с моей книгой[br]о неприкосновенности сексуальной жизни.

0:00:52.681,0:00:55.879
Я профессор права, адвокат[br]и защитник гражданских прав.

0:00:55.984,0:01:00.615
Поэтому мне прискорбно сознавать,[br]что в данный момент

0:01:00.629,0:01:03.077
закон мало чем может ей помочь.

0:01:03.128,0:01:05.005
В разговоре она пояснила,

0:01:05.029,0:01:09.541
что, наверное, должна была ожидать[br]фальшивого секс-видео.

0:01:09.582,0:01:14.348
Она сказала: «Секс так часто используется,[br]чтобы унизить или опозорить женщин,

0:01:14.348,0:01:17.226
особенно женщин из меньшинств

0:01:17.270,0:01:23.796
и особенно женщин из меньшинств,[br]которые бросают вызов сильным мужчинам»,

0:01:23.806,0:01:25.151
как она в своей работе.

0:01:25.151,0:01:29.167
Фальшивое видео[br]распространилось за 48 часов.

0:01:30.064,0:01:35.371
Все её онлайн-аккаунты[br]были завалены скриншотами этого видео

0:01:35.395,0:01:38.022
с явными угрозами изнасилования и смерти

0:01:38.046,0:01:40.579
и оскорблениями её мусульманской веры.

0:01:41.426,0:01:45.990
Посты в интернете[br]говорили о её «доступности».

0:01:46.014,0:01:47.624
Личные данные её взломали,

0:01:47.648,0:01:50.426
а это значит, что её адрес[br]и номер мобильного телефона

0:01:50.450,0:01:52.196
были опубликованы в интернете.

0:01:52.879,0:01:56.963
Видео расшарили более 40 000 раз.

0:01:57.760,0:02:01.696
Когда кто-то становится мишенью[br]такой кибератаки,

0:02:01.720,0:02:03.783
вред от этого огромен.

0:02:04.482,0:02:07.521
Жизнь Раны Айюб навсегда изменилась.

0:02:07.701,0:02:10.919
Неделями она не могла ни есть,

0:02:10.919,0:02:11.919
ни говорить.

0:02:11.919,0:02:15.608
Она перестала писать[br]и закрыла все свои аккаунты в соцсетях,

0:02:15.632,0:02:18.790
что, как вы понимаете, нелегко,[br]когда ты журналист.

0:02:19.188,0:02:22.672
Она боялась выходить из дома,[br]где жила с семьёй.

0:02:22.696,0:02:25.718
Что, если преследователи[br]выполнят свои угрозы?

0:02:26.395,0:02:30.760
Совет ООН по правам человека подтвердил,[br]что она не сошла с ума.

0:02:30.784,0:02:35.421
В публичном заявлении он выразил[br]беспокойство о её безопасности.

0:02:36.776,0:02:41.005
Рана Айюб столкнулась с тем,[br]что называется дипфейком:

0:02:41.029,0:02:43.569
это технология искусственного интеллекта,

0:02:43.593,0:02:47.704
которая манипулирует аудио-[br]и видеозаписями или фабрикует их так,

0:02:47.728,0:02:50.451
что люди в них делают и говорят то,

0:02:50.475,0:02:52.341
чего никогда не говорили и не делали.

0:02:52.807,0:02:56.168
Дипфейки кажутся подлинными[br]и реалистичными, но это не так:

0:02:56.192,0:02:57.964
это абсолютная фальшивка.

0:02:59.228,0:03:03.022
Хотя эта технология ещё развивается,[br]становясь всё изощрённей,

0:03:03.046,0:03:04.660
она широко доступна.

0:03:05.371,0:03:08.443
В последнее время дипфейки[br]стали привлекать внимание,

0:03:08.467,0:03:10.628
как и многое другое онлайн,

0:03:10.652,0:03:11.907
в связи с порнографией.

0:03:12.498,0:03:14.609
В начале 2018 года

0:03:14.633,0:03:17.101
кто-то разместил на Reddit инструмент,

0:03:17.125,0:03:21.537
позволяющий вставлять лица в порно-видео.

0:03:21.561,0:03:25.001
За этим последовал поток[br]фальшивых порно-роликов

0:03:25.025,0:03:27.822
с участием любимых женщин-знаменитостей.

0:03:28.712,0:03:32.189
И сегодня на YouTube можно найти[br]бесчисленные обучающие программы

0:03:32.213,0:03:34.499
с пошаговыми инструкциями о том,

0:03:34.523,0:03:37.686
как сфабриковать дипфейк[br]в вашем настольном приложении.

0:03:38.260,0:03:41.966
Вскоре, возможно, мы сможем[br]создавать их даже на мобильных телефонах.

0:03:43.072,0:03:48.454
Взаимодействие низших[br]человеческих порывов

0:03:48.478,0:03:50.160
и сетевых средств

0:03:50.184,0:03:52.850
превращают дипфейки в оружие.

0:03:52.874,0:03:54.074
Разрешите, я объясню.

0:03:54.875,0:03:59.441
Существует инстинктивная[br]реакция на аудио и видео.

0:03:59.860,0:04:01.348
Мы верим им:

0:04:01.372,0:04:03.450
а как же не верить

0:04:03.474,0:04:05.952
своим глазам и ушам?

0:04:06.476,0:04:08.175
И именно такой механизм

0:04:08.199,0:04:11.897
может подорвать[br]наше общее чувство реальности.

0:04:11.921,0:04:14.774
Хотя дипфейки кажутся нам[br]правдой, это не так.

0:04:15.604,0:04:19.761
Нас привлекает непристойность, провокация.

0:04:20.365,0:04:23.412
Мы склонны верить и распространять

0:04:23.436,0:04:25.459
новую или негативную информацию.

0:04:25.809,0:04:31.932
Учёные обнаружили, что в интернете[br]подделки распространяются

0:04:32.002,0:04:33.969
в 10 раз быстрее, чем правдивые истории.

0:04:34.015,0:04:38.395
Нас также привлекает информация,

0:04:38.419,0:04:40.311
которая соответствует нашим взглядам.

0:04:40.950,0:04:44.511
Психологи называют эту тенденцию[br]«предвзятость подтверждения».

0:04:45.300,0:04:49.687
А социальные медиа-платформы[br]усиливают эту тенденцию,

0:04:49.711,0:04:53.592
позволяя нам мгновенно и широко[br]обмениваться информацией,

0:04:53.616,0:04:55.408
согласующейся с нашей точкой зрения.

0:04:56.735,0:05:02.303
Дипфейки могут нанести[br]серьёзный личный и общественный вред.

0:05:03.204,0:05:05.228
Представьте себе фальшивку,

0:05:05.252,0:05:09.434
на которой американские солдаты[br]в Афганистане сжигают Коран.

0:05:10.807,0:05:13.831
Вы понимаете, что такая подделка[br]может спровоцировать насилие

0:05:13.855,0:05:15.388
в отношении американских солдат.

0:05:15.847,0:05:18.720
А что, если на следующий день

0:05:18.744,0:05:20.998
появится новая фальшивка,

0:05:21.022,0:05:24.339
на которой известный лондонский имам

0:05:24.363,0:05:26.830
восхваляет нападение на этих солдат?

0:05:27.617,0:05:30.780
Насилие и общественные беспорядки

0:05:30.804,0:05:34.053
могут произойти не только[br]в Афганистане и Великобритании,

0:05:34.077,0:05:35.592
но и во всём мире.

0:05:36.251,0:05:37.409
Вы можете сказать мне:

0:05:37.433,0:05:39.680
«Ладно, Даниэль, ты преувеличиваешь».

0:05:39.704,0:05:40.854
Но это не так.

0:05:41.293,0:05:43.484
Мы видели, как ложь, распространяемая

0:05:43.508,0:05:46.230
на WhatsApp и других мессенджерах,

0:05:46.254,0:05:49.015
приводила к насилию[br]в отношении этнических меньшинств.

0:05:49.039,0:05:50.926
И это был просто текст —

0:05:50.950,0:05:52.974
представьте, если бы это было видео.

0:05:54.593,0:05:59.950
Дипфейки могут подорвать наше доверие

0:05:59.974,0:06:01.966
к демократическим институтам.

0:06:03.006,0:06:05.673
Представьте себе, что накануне выборов

0:06:05.996,0:06:09.234
появляется подделка, показывающая,[br]что один из основных кандидатов

0:06:09.258,0:06:10.408
тяжело болен.

0:06:11.202,0:06:13.535
Дипфейк может перевесить чашу весов

0:06:13.559,0:06:16.934
и поколебать веру в легитимность выборов.

0:06:18.515,0:06:21.841
Представьте, что накануне первого[br]публичного размещения акций

0:06:21.865,0:06:24.198
одного из крупнейших банков

0:06:24.222,0:06:27.371
появляется подделка,[br]на которой гендиректор

0:06:27.395,0:06:30.092
в пьяном виде болтает о заговорах.

0:06:30.887,0:06:33.934
Дипфейк может сорвать мероприятие

0:06:33.958,0:06:38.073
и, хуже того, поколебать нашу веру[br]в стабильность финансовых рынков.

0:06:38.969,0:06:46.374
Так, дипфейки используют и усиливают[br]уже имеющееся у нас глубокое недоверие

0:06:46.398,0:06:50.612
к политикам, крупным бизнесменам[br]и другим влиятельным лидерам.

0:06:50.945,0:06:54.229
Они находят аудиторию,[br]готовую им поверить.

0:06:55.287,0:06:58.052
И стремление к истине[br]тоже поставлено на карту.

0:06:59.077,0:07:02.641
Технологи ожидают,[br]что с развитием искусственного интеллекта

0:07:02.665,0:07:06.347
вскоре будет трудно или даже невозможно

0:07:06.371,0:07:10.140
отличить настоящее видео от поддельного.

0:07:11.022,0:07:16.363
Как же распознать истину[br]на рынке идей, полном подделок?

0:07:16.752,0:07:20.172
Пойдём ли мы по пути[br]наименьшего сопротивления,

0:07:20.196,0:07:22.633
начнём ли верить во что хотим

0:07:22.657,0:07:23.807
и к чёрту правду?

0:07:24.831,0:07:28.006
Мы не только, возможно,[br]поверим подделкам,

0:07:28.030,0:07:31.356
мы перестанем верить правде.

0:07:31.887,0:07:35.966
Мы уже видели, как люди используют[br]феномен дипфейка,

0:07:35.990,0:07:39.910
чтобы поставить под сомнение реальные[br]доказательства своих преступлений.

0:07:39.934,0:07:45.903
Или как, слыша запись своих[br]возмутительных высказываний,

0:07:45.927,0:07:47.673
политики говорили: «Это подделка.

0:07:47.697,0:07:51.617
Нельзя верить своим глазам и ушам».

0:07:52.402,0:07:54.133
И это тот риск,

0:07:54.157,0:07:59.593
который мы с профессором Робертом Чесни[br]называем «дивиденд лжеца»:

0:07:59.617,0:08:02.974
риск, что лжецы назовут[br]реальность подделкой,

0:08:02.998,0:08:05.903
чтобы избежать ответственности[br]за свои проступки.

0:08:06.963,0:08:10.034
Перед нами огромная работа,[br]в этом нет сомнений.

0:08:10.606,0:08:13.931
Нам понадобится превентивное решение

0:08:13.955,0:08:17.466
от техкомпаний, от законодателей,

0:08:17.490,0:08:19.474
от правоохранительных органов и СМИ.

0:08:20.093,0:08:24.109
А также необходима здоровая доза[br]устойчивости общества.

0:08:25.506,0:08:29.402
В данный момент мы очень открыто[br]ведём разговор

0:08:29.426,0:08:32.339
об ответственности техкомпаний.

0:08:32.926,0:08:35.958
Я рекомендую социальным медиа-платформам

0:08:35.982,0:08:39.855
изменить условия предоставления услуг[br]и правила сообщества,

0:08:39.879,0:08:42.215
чтобы запретить вредоносные подделки.

0:08:42.712,0:08:46.672
Такой настрой потребует[br]участия человеческого разума,

0:08:46.696,0:08:48.267
а это дорого.

0:08:48.673,0:08:50.958
Но нам нужны люди,

0:08:50.982,0:08:54.855
которые бы рассмотрели содержание[br]и контекст дипфейка,

0:08:54.879,0:08:58.561
чтобы понять, имеем ли мы дело[br]с вредной подделкой под кого-то

0:08:58.585,0:09:02.967
или же это ценная сатира,[br]искусство или урок.

0:09:04.118,0:09:05.613
А как же закон?

0:09:06.666,0:09:09.015
Закон — наш наставник.

0:09:09.515,0:09:13.553
Он показывает,[br]чтó есть вред и чтó есть зло.

0:09:13.577,0:09:18.132
Он объясняет, какое поведение неприемлемо,[br]наказывая нарушителей

0:09:18.156,0:09:20.423
и обеспечивая защиту жертвам.

0:09:21.148,0:09:25.428
На данный момент закон не способен[br]противостоять дипфейкам.

0:09:26.116,0:09:27.506
Во всём мире нам не хватает

0:09:27.530,0:09:29.974
хорошо продуманных законов,

0:09:29.998,0:09:33.568
направленных на борьбу[br]с цифровыми подражаниями,

0:09:33.592,0:09:35.823
вторгающимися в интимную жизнь,

0:09:35.847,0:09:37.234
вредящими репутации

0:09:37.258,0:09:39.209
и наносящими моральный ущерб.

0:09:39.725,0:09:43.598
То, что случилось с Раной Айюб,[br]происходит всё чаще.

0:09:44.074,0:09:46.288
Однако, когда она обратилась[br]в полицию Дели,

0:09:46.312,0:09:48.447
ей сказали, что ничего сделать нельзя.

0:09:49.101,0:09:52.284
И, как это ни грустно, то же бы произошло

0:09:52.308,0:09:54.574
и в США, и в Европе.

0:09:55.300,0:09:59.656
У нас есть правовой вакуум,[br]который нужно заполнить.

0:10:00.292,0:10:04.384
Моя коллега д-р Мэри Энн Фрэнкс и я[br]работаем с американскими законодателями

0:10:04.408,0:10:09.212
над разработкой закона, запрещающего[br]вредоносные цифровые имитации,

0:10:09.236,0:10:11.769
которые равносильны краже личных данных.

0:10:12.252,0:10:14.378
Подобные инициативы мы видим

0:10:14.402,0:10:17.703
и в Исландии, Великобритании и Австралии.

0:10:18.157,0:10:21.416
Конечно, это лишь небольшой кусочек[br]законодательной головоломки.

0:10:22.911,0:10:26.080
Я знаю, что закон — не панацея. Правда?

0:10:26.104,0:10:27.704
Это грубый инструмент,

0:10:28.346,0:10:29.885
и его нужно мудро использовать.

0:10:30.411,0:10:33.223
Есть также практические препятствия.

0:10:33.657,0:10:38.701
Невозможно направить закон против людей,[br]которых невозможно опознать и найти.

0:10:39.463,0:10:42.749
И если преступник живёт в одной стране,

0:10:42.773,0:10:44.527
а жертва — в другой,

0:10:44.551,0:10:46.180
то вы не сможете настоять на том,

0:10:46.204,0:10:48.553
чтобы преступник предстал[br]перед местными судами

0:10:48.577,0:10:49.727
и получил вердикт.

0:10:50.236,0:10:54.299
Поэтому нам понадобится[br]скоординированная международная реакция.

0:10:55.819,0:10:59.152
Образование должно быть[br]частью этой реакции.

0:10:59.803,0:11:03.534
Правоохранители не будут применять законы,

0:11:03.558,0:11:05.016
о которых они не знают,

0:11:05.040,0:11:07.636
и решать проблемы, которых не понимают.

0:11:08.376,0:11:10.567
Исследуя киберпреследования,

0:11:10.591,0:11:14.090
я обнаружила, что правоохранители[br]не имеют достаточной подготовки,

0:11:14.114,0:11:16.696
чтобы понять имеющиеся законы

0:11:16.720,0:11:19.069
и проблему оскорблений в сети.

0:11:19.093,0:11:21.775
Поэтому они часто говорят жертвам:

0:11:21.799,0:11:25.770
«Просто выключите компьютер.[br]Не обращайте внимания, и всё пройдёт».

0:11:26.261,0:11:28.727
Так случилось с Раной Айюб.

0:11:29.102,0:11:32.570
Ей сказали: «Ты делаешь из мухи слона.

0:11:32.594,0:11:34.337
Это просто мальчишечьи игры».

0:11:35.268,0:11:40.520
Поэтому нужно объединять новые законы[br]с практической подготовкой.

0:11:42.053,0:11:45.482
В образовании нуждаются и СМИ.

0:11:46.180,0:11:50.440
Журналистам нужно объяснять[br]феномен дипфейка,

0:11:50.464,0:11:53.503
чтобы они не усиливали[br]и не распространяли его.

0:11:54.583,0:11:56.751
И вот что касается всех нас.

0:11:56.775,0:12:00.630
Каждому из нас нужно учиться.

0:12:01.375,0:12:05.050
Мы кликаем, расшариваем, лайкаем[br]и даже не задумываемся об этом.

0:12:05.551,0:12:07.098
Мы способны на большее.

0:12:07.726,0:12:10.535
Нам нужен лучший радар для подделок.

0:12:13.744,0:12:17.585
Пока мы воплощаем в жизнь эти решения,

0:12:17.609,0:12:20.172
ещё многие люди пострадают.

0:12:21.093,0:12:23.839
Рана Айюб всё ещё борется с последствиями.

0:12:24.669,0:12:28.858
Она всё ещё не чувствует, что может[br]свободно выражать себя в сети и вне её.

0:12:29.566,0:12:30.931
И, как она мне сказала,

0:12:30.955,0:12:36.029
ей по-прежнему кажется, [br]что тысячи глаз смотрят на её голое тело,

0:12:36.053,0:12:39.714
хотя умом она понимает,[br]что это было не её тело.

0:12:40.371,0:12:42.720
Часто у неё бывают панические атаки,

0:12:42.744,0:12:46.844
особенно когда кто-то незнакомый[br]пытается её сфотографировать.

0:12:46.868,0:12:50.379
«Что если они хотят сделать[br]ещё один дипфейк?» — думает она.

0:12:51.082,0:12:55.003
Итак, ради таких, как Рана Айюб,

0:12:55.027,0:12:57.333
ради нашей демократии

0:12:57.357,0:12:59.539
нужно делать что-то прямо сейчас.

0:12:59.563,0:13:00.714
Спасибо.

0:13:00.738,0:13:03.246
(Аплодисменты)