WEBVTT

00:00:00.535 --> 00:00:03.302
[Это выступление
предназначено для взрослых]

NOTE Paragraph

00:00:05.762 --> 00:00:08.754
Рана Айюб — индийская журналистка,

00:00:08.778 --> 00:00:11.380
разоблачающая коррупцию в правительстве

00:00:12.411 --> 00:00:14.568
и нарушения прав человека.

00:00:14.990 --> 00:00:16.157
За многие годы

00:00:16.181 --> 00:00:19.484
она привыкла к ядовитой критике
и конфликтам вокруг своей работы.

00:00:20.149 --> 00:00:25.258
Но ничто не могло подготовить её к тому,
с чем она столкнулась в апреле 2018 года.

NOTE Paragraph

00:00:26.125 --> 00:00:29.776
Она сидела в кафе с другом,
когда впервые увидела это:

00:00:29.800 --> 00:00:34.743
видео в 2 минуты и 20 секунд,
в котором она занимается сексом.

00:00:35.188 --> 00:00:37.537
Она не могла поверить своим глазам.

00:00:37.561 --> 00:00:39.834
Она никогда не снимала секс-видео.

00:00:40.506 --> 00:00:43.971
Но, к сожалению, многие тысячи людей

00:00:43.995 --> 00:00:45.661
поверят, что это она.

NOTE Paragraph

00:00:46.673 --> 00:00:49.617
Я брала интервью у мисс Айюб
около трёх месяцев назад

00:00:49.641 --> 00:00:52.565
в связи с моей книгой
о неприкосновенности сексуальной жизни.

00:00:52.681 --> 00:00:55.879
Я профессор права, адвокат
и защитник гражданских прав.

00:00:55.984 --> 00:01:00.615
Поэтому мне прискорбно сознавать,
что в данный момент

00:01:00.629 --> 00:01:03.077
закон мало чем может ей помочь.

00:01:03.128 --> 00:01:05.005
В разговоре она пояснила,

00:01:05.029 --> 00:01:09.541
что, наверное, должна была ожидать
фальшивого секс-видео.

00:01:09.582 --> 00:01:14.348
Она сказала: «Секс так часто используется,
чтобы унизить или опозорить женщин,

00:01:14.348 --> 00:01:17.226
особенно женщин из меньшинств

00:01:17.270 --> 00:01:23.796
и особенно женщин из меньшинств,
которые бросают вызов сильным мужчинам»,

00:01:23.806 --> 00:01:25.151
как она в своей работе.

00:01:25.151 --> 00:01:29.167
Фальшивое видео
распространилось за 48 часов.

00:01:30.064 --> 00:01:35.371
Все её онлайн-аккаунты
были завалены скриншотами этого видео

00:01:35.395 --> 00:01:38.022
с явными угрозами изнасилования и смерти

00:01:38.046 --> 00:01:40.579
и оскорблениями её мусульманской веры.

00:01:41.426 --> 00:01:45.990
Посты в интернете
говорили о её «доступности».

00:01:46.014 --> 00:01:47.624
Личные данные её взломали,

00:01:47.648 --> 00:01:50.426
а это значит, что её адрес
и номер мобильного телефона

00:01:50.450 --> 00:01:52.196
были опубликованы в интернете.

00:01:52.879 --> 00:01:56.963
Видео расшарили более 40 000 раз.

NOTE Paragraph

00:01:57.760 --> 00:02:01.696
Когда кто-то становится мишенью
такой кибератаки,

00:02:01.720 --> 00:02:03.783
вред от этого огромен.

00:02:04.482 --> 00:02:07.521
Жизнь Раны Айюб навсегда изменилась.

00:02:07.701 --> 00:02:10.919
Неделями она не могла ни есть,

00:02:10.919 --> 00:02:11.919
ни говорить.

00:02:11.919 --> 00:02:15.608
Она перестала писать
и закрыла все свои аккаунты в соцсетях,

00:02:15.632 --> 00:02:18.790
что, как вы понимаете, нелегко,
когда ты журналист.

00:02:19.188 --> 00:02:22.672
Она боялась выходить из дома,
где жила с семьёй.

00:02:22.696 --> 00:02:25.718
Что, если преследователи
выполнят свои угрозы?

00:02:26.395 --> 00:02:30.760
Совет ООН по правам человека подтвердил,
что она не сошла с ума.

00:02:30.784 --> 00:02:35.421
В публичном заявлении он выразил
беспокойство о её безопасности.

NOTE Paragraph

00:02:36.776 --> 00:02:41.005
Рана Айюб столкнулась с тем,
что называется дипфейком:

00:02:41.029 --> 00:02:43.569
это технология искусственного интеллекта,

00:02:43.593 --> 00:02:47.704
которая манипулирует аудио-
и видеозаписями или фабрикует их так,

00:02:47.728 --> 00:02:50.451
что люди в них делают и говорят то,

00:02:50.475 --> 00:02:52.341
чего никогда не говорили и не делали.

00:02:52.807 --> 00:02:56.168
Дипфейки кажутся подлинными
и реалистичными, но это не так:

00:02:56.192 --> 00:02:57.964
это абсолютная фальшивка.

00:02:59.228 --> 00:03:03.022
Хотя эта технология ещё развивается,
становясь всё изощрённей,

00:03:03.046 --> 00:03:04.660
она широко доступна.

NOTE Paragraph

00:03:05.371 --> 00:03:08.443
В последнее время дипфейки
стали привлекать внимание,

00:03:08.467 --> 00:03:10.628
как и многое другое онлайн,

00:03:10.652 --> 00:03:11.907
в связи с порнографией.

NOTE Paragraph

00:03:12.498 --> 00:03:14.609
В начале 2018 года

00:03:14.633 --> 00:03:17.101
кто-то разместил на Reddit инструмент,

00:03:17.125 --> 00:03:21.537
позволяющий вставлять лица в порно-видео.

00:03:21.561 --> 00:03:25.001
За этим последовал поток
фальшивых порно-роликов

00:03:25.025 --> 00:03:27.822
с участием любимых женщин-знаменитостей.

00:03:28.712 --> 00:03:32.189
И сегодня на YouTube можно найти
бесчисленные обучающие программы

00:03:32.213 --> 00:03:34.499
с пошаговыми инструкциями о том,

00:03:34.523 --> 00:03:37.686
как сфабриковать дипфейк
в вашем настольном приложении.

00:03:38.260 --> 00:03:41.966
Вскоре, возможно, мы сможем
создавать их даже на мобильных телефонах.

00:03:43.072 --> 00:03:48.454
Взаимодействие низших
человеческих порывов

00:03:48.478 --> 00:03:50.160
и сетевых средств

00:03:50.184 --> 00:03:52.850
превращают дипфейки в оружие.

00:03:52.874 --> 00:03:54.074
Разрешите, я объясню.

NOTE Paragraph

00:03:54.875 --> 00:03:59.441
Существует инстинктивная
реакция на аудио и видео.

00:03:59.860 --> 00:04:01.348
Мы верим им:

00:04:01.372 --> 00:04:03.450
а как же не верить

00:04:03.474 --> 00:04:05.952
своим глазам и ушам?

00:04:06.476 --> 00:04:08.175
И именно такой механизм

00:04:08.199 --> 00:04:11.897
может подорвать
наше общее чувство реальности.

00:04:11.921 --> 00:04:14.774
Хотя дипфейки кажутся нам
правдой, это не так.

00:04:15.604 --> 00:04:19.761
Нас привлекает непристойность, провокация.

00:04:20.365 --> 00:04:23.412
Мы склонны верить и распространять

00:04:23.436 --> 00:04:25.459
новую или негативную информацию.

00:04:25.809 --> 00:04:31.932
Учёные обнаружили, что в интернете
подделки распространяются

00:04:32.002 --> 00:04:33.969
в 10 раз быстрее, чем правдивые истории.

00:04:34.015 --> 00:04:38.395
Нас также привлекает информация,

00:04:38.419 --> 00:04:40.311
которая соответствует нашим взглядам.

00:04:40.950 --> 00:04:44.511
Психологи называют эту тенденцию
«предвзятость подтверждения».

00:04:45.300 --> 00:04:49.687
А социальные медиа-платформы
усиливают эту тенденцию,

00:04:49.711 --> 00:04:53.592
позволяя нам мгновенно и широко
обмениваться информацией,

00:04:53.616 --> 00:04:55.408
согласующейся с нашей точкой зрения.

NOTE Paragraph

00:04:56.735 --> 00:05:02.303
Дипфейки могут нанести
серьёзный личный и общественный вред.

00:05:03.204 --> 00:05:05.228
Представьте себе фальшивку,

00:05:05.252 --> 00:05:09.434
на которой американские солдаты
в Афганистане сжигают Коран.

00:05:10.807 --> 00:05:13.831
Вы понимаете, что такая подделка
может спровоцировать насилие

00:05:13.855 --> 00:05:15.388
в отношении американских солдат.

00:05:15.847 --> 00:05:18.720
А что, если на следующий день

00:05:18.744 --> 00:05:20.998
появится новая фальшивка,

00:05:21.022 --> 00:05:24.339
на которой известный лондонский имам

00:05:24.363 --> 00:05:26.830
восхваляет нападение на этих солдат?

00:05:27.617 --> 00:05:30.780
Насилие и общественные беспорядки

00:05:30.804 --> 00:05:34.053
могут произойти не только
в Афганистане и Великобритании,

00:05:34.077 --> 00:05:35.592
но и во всём мире.

NOTE Paragraph

00:05:36.251 --> 00:05:37.409
Вы можете сказать мне:

00:05:37.433 --> 00:05:39.680
«Ладно, Даниэль, ты преувеличиваешь».

00:05:39.704 --> 00:05:40.854
Но это не так.

00:05:41.293 --> 00:05:43.484
Мы видели, как ложь, распространяемая

00:05:43.508 --> 00:05:46.230
на WhatsApp и других мессенджерах,

00:05:46.254 --> 00:05:49.015
приводила к насилию
в отношении этнических меньшинств.

00:05:49.039 --> 00:05:50.926
И это был просто текст —

00:05:50.950 --> 00:05:52.974
представьте, если бы это было видео.

NOTE Paragraph

00:05:54.593 --> 00:05:59.950
Дипфейки могут подорвать наше доверие

00:05:59.974 --> 00:06:01.966
к демократическим институтам.

00:06:03.006 --> 00:06:05.673
Представьте себе, что накануне выборов

00:06:05.996 --> 00:06:09.234
появляется подделка, показывающая,
что один из основных кандидатов

00:06:09.258 --> 00:06:10.408
тяжело болен.

00:06:11.202 --> 00:06:13.535
Дипфейк может перевесить чашу весов

00:06:13.559 --> 00:06:16.934
и поколебать веру в легитимность выборов.

00:06:18.515 --> 00:06:21.841
Представьте, что накануне первого
публичного размещения акций

00:06:21.865 --> 00:06:24.198
одного из крупнейших банков

00:06:24.222 --> 00:06:27.371
появляется подделка,
на которой гендиректор

00:06:27.395 --> 00:06:30.092
в пьяном виде болтает о заговорах.

00:06:30.887 --> 00:06:33.934
Дипфейк может сорвать мероприятие

00:06:33.958 --> 00:06:38.073
и, хуже того, поколебать нашу веру
в стабильность финансовых рынков.

NOTE Paragraph

00:06:38.969 --> 00:06:46.374
Так, дипфейки используют и усиливают
уже имеющееся у нас глубокое недоверие

00:06:46.398 --> 00:06:50.612
к политикам, крупным бизнесменам
и другим влиятельным лидерам.

00:06:50.945 --> 00:06:54.229
Они находят аудиторию,
готовую им поверить.

00:06:55.287 --> 00:06:58.052
И стремление к истине
тоже поставлено на карту.

00:06:59.077 --> 00:07:02.641
Технологи ожидают,
что с развитием искусственного интеллекта

00:07:02.665 --> 00:07:06.347
вскоре будет трудно или даже невозможно

00:07:06.371 --> 00:07:10.140
отличить настоящее видео от поддельного.

NOTE Paragraph

00:07:11.022 --> 00:07:16.363
Как же распознать истину
на рынке идей, полном подделок?

00:07:16.752 --> 00:07:20.172
Пойдём ли мы по пути
наименьшего сопротивления,

00:07:20.196 --> 00:07:22.633
начнём ли верить во что хотим

00:07:22.657 --> 00:07:23.807
и к чёрту правду?

00:07:24.831 --> 00:07:28.006
Мы не только, возможно,
поверим подделкам,

00:07:28.030 --> 00:07:31.356
мы перестанем верить правде.

00:07:31.887 --> 00:07:35.966
Мы уже видели, как люди используют
феномен дипфейка,

00:07:35.990 --> 00:07:39.910
чтобы поставить под сомнение реальные
доказательства своих преступлений.

00:07:39.934 --> 00:07:45.903
Или как, слыша запись своих
возмутительных высказываний,

00:07:45.927 --> 00:07:47.673
политики говорили: «Это подделка.

00:07:47.697 --> 00:07:51.617
Нельзя верить своим глазам и ушам».

00:07:52.402 --> 00:07:54.133
И это тот риск,

00:07:54.157 --> 00:07:59.593
который мы с профессором Робертом Чесни
называем «дивиденд лжеца»:

00:07:59.617 --> 00:08:02.974
риск, что лжецы назовут
реальность подделкой,

00:08:02.998 --> 00:08:05.903
чтобы избежать ответственности
за свои проступки.

NOTE Paragraph

00:08:06.963 --> 00:08:10.034
Перед нами огромная работа,
в этом нет сомнений.

00:08:10.606 --> 00:08:13.931
Нам понадобится превентивное решение

00:08:13.955 --> 00:08:17.466
от техкомпаний, от законодателей,

00:08:17.490 --> 00:08:19.474
от правоохранительных органов и СМИ.

00:08:20.093 --> 00:08:24.109
А также необходима здоровая доза
устойчивости общества.

00:08:25.506 --> 00:08:29.402
В данный момент мы очень открыто
ведём разговор

00:08:29.426 --> 00:08:32.339
об ответственности техкомпаний.

00:08:32.926 --> 00:08:35.958
Я рекомендую социальным медиа-платформам

00:08:35.982 --> 00:08:39.855
изменить условия предоставления услуг
и правила сообщества,

00:08:39.879 --> 00:08:42.215
чтобы запретить вредоносные подделки.

00:08:42.712 --> 00:08:46.672
Такой настрой потребует
участия человеческого разума,

00:08:46.696 --> 00:08:48.267
а это дорого.

00:08:48.673 --> 00:08:50.958
Но нам нужны люди,

00:08:50.982 --> 00:08:54.855
которые бы рассмотрели содержание
и контекст дипфейка,

00:08:54.879 --> 00:08:58.561
чтобы понять, имеем ли мы дело
с вредной подделкой под кого-то

00:08:58.585 --> 00:09:02.967
или же это ценная сатира,
искусство или урок.

NOTE Paragraph

00:09:04.118 --> 00:09:05.613
А как же закон?

00:09:06.666 --> 00:09:09.015
Закон — наш наставник.

00:09:09.515 --> 00:09:13.553
Он показывает,
чтó есть вред и чтó есть зло.

00:09:13.577 --> 00:09:18.132
Он объясняет, какое поведение неприемлемо,
наказывая нарушителей

00:09:18.156 --> 00:09:20.423
и обеспечивая защиту жертвам.

00:09:21.148 --> 00:09:25.428
На данный момент закон не способен
противостоять дипфейкам.

00:09:26.116 --> 00:09:27.506
Во всём мире нам не хватает

00:09:27.530 --> 00:09:29.974
хорошо продуманных законов,

00:09:29.998 --> 00:09:33.568
направленных на борьбу
с цифровыми подражаниями,

00:09:33.592 --> 00:09:35.823
вторгающимися в интимную жизнь,

00:09:35.847 --> 00:09:37.234
вредящими репутации

00:09:37.258 --> 00:09:39.209
и наносящими моральный ущерб.

00:09:39.725 --> 00:09:43.598
То, что случилось с Раной Айюб,
происходит всё чаще.

00:09:44.074 --> 00:09:46.288
Однако, когда она обратилась
в полицию Дели,

00:09:46.312 --> 00:09:48.447
ей сказали, что ничего сделать нельзя.

00:09:49.101 --> 00:09:52.284
И, как это ни грустно, то же бы произошло

00:09:52.308 --> 00:09:54.574
и в США, и в Европе.

NOTE Paragraph

00:09:55.300 --> 00:09:59.656
У нас есть правовой вакуум,
который нужно заполнить.

00:10:00.292 --> 00:10:04.384
Моя коллега д-р Мэри Энн Фрэнкс и я
работаем с американскими законодателями

00:10:04.408 --> 00:10:09.212
над разработкой закона, запрещающего
вредоносные цифровые имитации,

00:10:09.236 --> 00:10:11.769
которые равносильны краже личных данных.

00:10:12.252 --> 00:10:14.378
Подобные инициативы мы видим

00:10:14.402 --> 00:10:17.703
и в Исландии, Великобритании и Австралии.

00:10:18.157 --> 00:10:21.416
Конечно, это лишь небольшой кусочек
законодательной головоломки.

NOTE Paragraph

00:10:22.911 --> 00:10:26.080
Я знаю, что закон — не панацея. Правда?

00:10:26.104 --> 00:10:27.704
Это грубый инструмент,

00:10:28.346 --> 00:10:29.885
и его нужно мудро использовать.

00:10:30.411 --> 00:10:33.223
Есть также практические препятствия.

00:10:33.657 --> 00:10:38.701
Невозможно направить закон против людей,
которых невозможно опознать и найти.

00:10:39.463 --> 00:10:42.749
И если преступник живёт в одной стране,

00:10:42.773 --> 00:10:44.527
а жертва — в другой,

00:10:44.551 --> 00:10:46.180
то вы не сможете настоять на том,

00:10:46.204 --> 00:10:48.553
чтобы преступник предстал
перед местными судами

00:10:48.577 --> 00:10:49.727
и получил вердикт.

00:10:50.236 --> 00:10:54.299
Поэтому нам понадобится
скоординированная международная реакция.

00:10:55.819 --> 00:10:59.152
Образование должно быть
частью этой реакции.

00:10:59.803 --> 00:11:03.534
Правоохранители не будут применять законы,

00:11:03.558 --> 00:11:05.016
о которых они не знают,

00:11:05.040 --> 00:11:07.636
и решать проблемы, которых не понимают.

00:11:08.376 --> 00:11:10.567
Исследуя киберпреследования,

00:11:10.591 --> 00:11:14.090
я обнаружила, что правоохранители
не имеют достаточной подготовки,

00:11:14.114 --> 00:11:16.696
чтобы понять имеющиеся законы

00:11:16.720 --> 00:11:19.069
и проблему оскорблений в сети.

00:11:19.093 --> 00:11:21.775
Поэтому они часто говорят жертвам:

00:11:21.799 --> 00:11:25.770
«Просто выключите компьютер.
Не обращайте внимания, и всё пройдёт».

00:11:26.261 --> 00:11:28.727
Так случилось с Раной Айюб.

00:11:29.102 --> 00:11:32.570
Ей сказали: «Ты делаешь из мухи слона.

00:11:32.594 --> 00:11:34.337
Это просто мальчишечьи игры».

00:11:35.268 --> 00:11:40.520
Поэтому нужно объединять новые законы
с практической подготовкой.

NOTE Paragraph

00:11:42.053 --> 00:11:45.482
В образовании нуждаются и СМИ.

00:11:46.180 --> 00:11:50.440
Журналистам нужно объяснять
феномен дипфейка,

00:11:50.464 --> 00:11:53.503
чтобы они не усиливали
и не распространяли его.

00:11:54.583 --> 00:11:56.751
И вот что касается всех нас.

00:11:56.775 --> 00:12:00.630
Каждому из нас нужно учиться.

00:12:01.375 --> 00:12:05.050
Мы кликаем, расшариваем, лайкаем
и даже не задумываемся об этом.

00:12:05.551 --> 00:12:07.098
Мы способны на большее.

00:12:07.726 --> 00:12:10.535
Нам нужен лучший радар для подделок.

NOTE Paragraph

00:12:13.744 --> 00:12:17.585
Пока мы воплощаем в жизнь эти решения,

00:12:17.609 --> 00:12:20.172
ещё многие люди пострадают.

00:12:21.093 --> 00:12:23.839
Рана Айюб всё ещё борется с последствиями.

00:12:24.669 --> 00:12:28.858
Она всё ещё не чувствует, что может
свободно выражать себя в сети и вне её.

00:12:29.566 --> 00:12:30.931
И, как она мне сказала,

00:12:30.955 --> 00:12:36.029
ей по-прежнему кажется, 
что тысячи глаз смотрят на её голое тело,

00:12:36.053 --> 00:12:39.714
хотя умом она понимает,
что это было не её тело.

00:12:40.371 --> 00:12:42.720
Часто у неё бывают панические атаки,

00:12:42.744 --> 00:12:46.844
особенно когда кто-то незнакомый
пытается её сфотографировать.

00:12:46.868 --> 00:12:50.379
«Что если они хотят сделать
ещё один дипфейк?» — думает она.

00:12:51.082 --> 00:12:55.003
Итак, ради таких, как Рана Айюб,

00:12:55.027 --> 00:12:57.333
ради нашей демократии

00:12:57.357 --> 00:12:59.539
нужно делать что-то прямо сейчас.

NOTE Paragraph

00:12:59.563 --> 00:13:00.714
Спасибо.

NOTE Paragraph

00:13:00.738 --> 00:13:03.246
(Аплодисменты)