[Это выступление предназначено для взрослых]
Рана Айюб — индийская журналистка,
разоблачающая коррупцию в правительстве
и нарушения прав человека.
За многие годы
она привыкла к ядовитой критике и конфликтам вокруг своей работы.
Но ничто не могло подготовить её к тому, с чем она столкнулась в апреле 2018 года.
Она сидела в кафе с другом, когда впервые увидела это:
видео в 2 минуты и 20 секунд, в котором она занимается сексом.
Она не могла поверить своим глазам.
Она никогда не снимала секс-видео.
Но, к сожалению, многие тысячи людей
поверят, что это она.
Я брала интервью у мисс Айюб около трёх месяцев назад
в связи с моей книгой о неприкосновенности сексуальной жизни.
Я профессор права, адвокат и защитник гражданских прав.
Поэтому мне прискорбно сознавать, что в данный момент
закон мало чем может ей помочь.
В разговоре она пояснила,
что, наверное, должна была ожидать фальшивого секс-видео.
Она сказала: «Секс так часто используется, чтобы унизить или опозорить женщин,
особенно женщин из меньшинств
и особенно женщин из меньшинств, которые бросают вызов сильным мужчинам»,
как она в своей работе.
Фальшивое видео распространилось за 48 часов.
Все её онлайн-аккаунты были завалены скриншотами этого видео
с явными угрозами изнасилования и смерти
и оскорблениями её мусульманской веры.
Посты в интернете говорили о её «доступности».
Личные данные её взломали,
а это значит, что её адрес и номер мобильного телефона
были опубликованы в интернете.
Видео расшарили более 40 000 раз.
Когда кто-то становится мишенью такой кибератаки,
вред от этого огромен.
Жизнь Раны Айюб навсегда изменилась.
Неделями она не могла ни есть,
ни говорить.
Она перестала писать и закрыла все свои аккаунты в соцсетях,
что, как вы понимаете, нелегко, когда ты журналист.
Она боялась выходить из дома, где жила с семьёй.
Что, если преследователи выполнят свои угрозы?
Совет ООН по правам человека подтвердил, что она не сошла с ума.
В публичном заявлении он выразил беспокойство о её безопасности.
Рана Айюб столкнулась с тем, что называется дипфейком:
это технология искусственного интеллекта,
которая манипулирует аудио- и видеозаписями или фабрикует их так,
что люди в них делают и говорят то,
чего никогда не говорили и не делали.
Дипфейки кажутся подлинными и реалистичными, но это не так:
это абсолютная фальшивка.
Хотя эта технология ещё развивается, становясь всё изощрённей,
она широко доступна.
В последнее время дипфейки стали привлекать внимание,
как и многое другое онлайн,
в связи с порнографией.
В начале 2018 года
кто-то разместил на Reddit инструмент,
позволяющий вставлять лица в порно-видео.
За этим последовал поток фальшивых порно-роликов
с участием любимых женщин-знаменитостей.
И сегодня на YouTube можно найти бесчисленные обучающие программы
с пошаговыми инструкциями о том,
как сфабриковать дипфейк в вашем настольном приложении.
Вскоре, возможно, мы сможем создавать их даже на мобильных телефонах.
Взаимодействие низших человеческих порывов
и сетевых средств
превращают дипфейки в оружие.
Разрешите, я объясню.
Существует инстинктивная реакция на аудио и видео.
Мы верим им:
а как же не верить
своим глазам и ушам?
И именно такой механизм
может подорвать наше общее чувство реальности.
Хотя дипфейки кажутся нам правдой, это не так.
Нас привлекает непристойность, провокация.
Мы склонны верить и распространять
новую или негативную информацию.
Учёные обнаружили, что в интернете подделки распространяются
в 10 раз быстрее, чем правдивые истории.
Нас также привлекает информация,
которая соответствует нашим взглядам.
Психологи называют эту тенденцию «предвзятость подтверждения».
А социальные медиа-платформы усиливают эту тенденцию,
позволяя нам мгновенно и широко обмениваться информацией,
согласующейся с нашей точкой зрения.
Дипфейки могут нанести серьёзный личный и общественный вред.
Представьте себе фальшивку,
на которой американские солдаты в Афганистане сжигают Коран.
Вы понимаете, что такая подделка может спровоцировать насилие
в отношении американских солдат.
А что, если на следующий день
появится новая фальшивка,
на которой известный лондонский имам
восхваляет нападение на этих солдат?
Насилие и общественные беспорядки
могут произойти не только в Афганистане и Великобритании,
но и во всём мире.
Вы можете сказать мне:
«Ладно, Даниэль, ты преувеличиваешь».
Но это не так.
Мы видели, как ложь, распространяемая
на WhatsApp и других мессенджерах,
приводила к насилию в отношении этнических меньшинств.
И это был просто текст —
представьте, если бы это было видео.
Дипфейки могут подорвать наше доверие
к демократическим институтам.
Представьте себе, что накануне выборов
появляется подделка, показывающая, что один из основных кандидатов
тяжело болен.
Дипфейк может перевесить чашу весов
и поколебать веру в легитимность выборов.
Представьте, что накануне первого публичного размещения акций
одного из крупнейших банков
появляется подделка, на которой гендиректор
в пьяном виде болтает о заговорах.
Дипфейк может сорвать мероприятие
и, хуже того, поколебать нашу веру в стабильность финансовых рынков.
Так, дипфейки используют и усиливают уже имеющееся у нас глубокое недоверие
к политикам, крупным бизнесменам и другим влиятельным лидерам.
Они находят аудиторию, готовую им поверить.
И стремление к истине тоже поставлено на карту.
Технологи ожидают, что с развитием искусственного интеллекта
вскоре будет трудно или даже невозможно
отличить настоящее видео от поддельного.
Как же распознать истину на рынке идей, полном подделок?
Пойдём ли мы по пути наименьшего сопротивления,
начнём ли верить во что хотим
и к чёрту правду?
Мы не только, возможно, поверим подделкам,
мы перестанем верить правде.
Мы уже видели, как люди используют феномен дипфейка,
чтобы поставить под сомнение реальные доказательства своих преступлений.
Или как, слыша запись своих возмутительных высказываний,
политики говорили: «Это подделка.
Нельзя верить своим глазам и ушам».
И это тот риск,
который мы с профессором Робертом Чесни называем «дивиденд лжеца»:
риск, что лжецы назовут реальность подделкой,
чтобы избежать ответственности за свои проступки.
Перед нами огромная работа, в этом нет сомнений.
Нам понадобится превентивное решение
от техкомпаний, от законодателей,
от правоохранительных органов и СМИ.
А также необходима здоровая доза устойчивости общества.
В данный момент мы очень открыто ведём разговор
об ответственности техкомпаний.
Я рекомендую социальным медиа-платформам
изменить условия предоставления услуг и правила сообщества,
чтобы запретить вредоносные подделки.
Такой настрой потребует участия человеческого разума,
а это дорого.
Но нам нужны люди,
которые бы рассмотрели содержание и контекст дипфейка,
чтобы понять, имеем ли мы дело с вредной подделкой под кого-то
или же это ценная сатира, искусство или урок.
А как же закон?
Закон — наш наставник.
Он показывает, чтó есть вред и чтó есть зло.
Он объясняет, какое поведение неприемлемо, наказывая нарушителей
и обеспечивая защиту жертвам.
На данный момент закон не способен противостоять дипфейкам.
Во всём мире нам не хватает
хорошо продуманных законов,
направленных на борьбу с цифровыми подражаниями,
вторгающимися в интимную жизнь,
вредящими репутации
и наносящими моральный ущерб.
То, что случилось с Раной Айюб, происходит всё чаще.
Однако, когда она обратилась в полицию Дели,
ей сказали, что ничего сделать нельзя.
И, как это ни грустно, то же бы произошло
и в США, и в Европе.
У нас есть правовой вакуум, который нужно заполнить.
Моя коллега д-р Мэри Энн Фрэнкс и я работаем с американскими законодателями
над разработкой закона, запрещающего вредоносные цифровые имитации,
которые равносильны краже личных данных.
Подобные инициативы мы видим
и в Исландии, Великобритании и Австралии.
Конечно, это лишь небольшой кусочек законодательной головоломки.
Я знаю, что закон — не панацея. Правда?
Это грубый инструмент,
и его нужно мудро использовать.
Есть также практические препятствия.
Невозможно направить закон против людей, которых невозможно опознать и найти.
И если преступник живёт в одной стране,
а жертва — в другой,
то вы не сможете настоять на том,
чтобы преступник предстал перед местными судами
и получил вердикт.
Поэтому нам понадобится скоординированная международная реакция.
Образование должно быть частью этой реакции.
Правоохранители не будут применять законы,
о которых они не знают,
и решать проблемы, которых не понимают.
Исследуя киберпреследования,
я обнаружила, что правоохранители не имеют достаточной подготовки,
чтобы понять имеющиеся законы
и проблему оскорблений в сети.
Поэтому они часто говорят жертвам:
«Просто выключите компьютер. Не обращайте внимания, и всё пройдёт».
Так случилось с Раной Айюб.
Ей сказали: «Ты делаешь из мухи слона.
Это просто мальчишечьи игры».
Поэтому нужно объединять новые законы с практической подготовкой.
В образовании нуждаются и СМИ.
Журналистам нужно объяснять феномен дипфейка,
чтобы они не усиливали и не распространяли его.
И вот что касается всех нас.
Каждому из нас нужно учиться.
Мы кликаем, расшариваем, лайкаем и даже не задумываемся об этом.
Мы способны на большее.
Нам нужен лучший радар для подделок.
Пока мы воплощаем в жизнь эти решения,
ещё многие люди пострадают.
Рана Айюб всё ещё борется с последствиями.
Она всё ещё не чувствует, что может свободно выражать себя в сети и вне её.
И, как она мне сказала,
ей по-прежнему кажется, что тысячи глаз смотрят на её голое тело,
хотя умом она понимает, что это было не её тело.
Часто у неё бывают панические атаки,
особенно когда кто-то незнакомый пытается её сфотографировать.
«Что если они хотят сделать ещё один дипфейк?» — думает она.
Итак, ради таких, как Рана Айюб,
ради нашей демократии
нужно делать что-то прямо сейчас.
Спасибо.
(Аплодисменты)