Как мы можем остановить сексуальное насилие над детьми в интернете

Социальный предприниматель Джули Кордуа работает над проблемой, о которой нелегко говорить, — материалы с сексуальным насилием над детьми в интернете. В Thorn она разрабатывает технологию, позволяющую связать воедино технологическую отрасль, правоохранительные органы и правительство, чтобы мы могли быстро положить конец распространению вирусных материалов с насилием и быстрее спасти детей. Узнайте больше о том, как это адаптируемое решение может помочь ликвидировать сообщества, нормализующие сексуальное насилие над детьми во всем мире. (Этот глобальный план является частью проекта Audacious Project, инициативы TED по стимулированию и финансированию глобальных изменений).

[Данное выступление не рекомендуется
к просмотру лицам, не достигшим 18 лет]

Пять лет назад

я получила звонок, изменивший мою жизнь.

Я ясно помню тот день.

Как раз в это время года,

я была у себя в офисе.

Помню, что за окном светило солнце.

И тут зазвонил телефон.

Я подняла трубку.

Агенты ФБР просили опознать девочку,

одну из сотни, использованных в съёмке

детского порно,
опубликованного в интернете.

Начав расследование, они уже знали,

что видео, где её насиловали,

годами транслировалось миру в даркнете,

на сайтах, посвящённых детскому порно.

Её насильник был технически подкован:

контент появлялся раз в несколько недель,

было мало зацепок касательно того, кто она

и где она.

Они обратились к нам,

потому что слышали о нашей технологии,

помогающей бороться с насилием над детьми.

Но мы работали всего два года,

боролись с продажей детей в секс-рабство.

И мне надо было сказать им,

что нам нечем им помочь.

Мы не можем остановить насилие.

Агентам потребовался год,

чтобы найти этого ребёнка.

К тому времени, сотни видео и фото,

на которых её насилуют, стали вирусными.

Из даркнета они попали

в одноранговые сети, закрытые чаты

и на сайты, которые мы с вами

используем каждый день.

По сей день, пытаясь восстановиться,

она знает, что тысячи людей по всему миру

продолжают смотреть те видео.

За последние пять лет я убедилась,

что этот случай не единственный.

Как мы, общество, скатились до такого?

В конце 80-х годов детское порно,

а в сущности материалы, на которых
зафиксировано насилие над детьми,

было практически ликвидировано.

Новые законы и ужесточение наказания

сделали слишком рискованной
продажу таких материалов по почте.

После появления интернета рынок взорвался.

Огромное количество контента,

который есть в обороте, только растёт.

Это поистине глобальная проблема.

Только в США за последний год

более 45 миллионов изображений

и видео детского порно поступило

в центр поиска эксплуатируемых детей.

Это в два раза больше, чем в прошлом году.

За этими числами трудно увидеть главное —

на 60% фото — дети до 12 лет,

и это жестокие акты сексуального насилия.

В таких чатах подбадривают насильников,

которые с каждой новой жертвой

получают больше званий и славы.

Валютой на таком рынке

становится сам контент.

Насильники осваивают новые технологии,

чего нельзя сказать о нашем обществе.

Насильники не читают лицензии,

а у контента нет географических границ.

Они впереди нас, в то время как мы
сосредоточены на чём-то одном.

И эта вся наша ответная реакция.

У органов правопорядка своя юрисдикция.

Компании смотрят только на свою платформу.

Любые данные, которые они получают,

не распространяются.

Очевидно же, что такой подход не работает.

Надо изменить подход к борьбе

с этой эпидемией цифровой эры.

Над этим мы работаем у себя в Thorn.

Создаём технологию, соединяющую точки,

вооружающую всех на передовой позиции —

органы правопорядка,
общественные организации, компании —

необходимыми инструментами для того,

чтобы покончить с детским порно.

Давайте немного поговорим.

(Аплодисменты)

Спасибо.

(Аплодисменты)

Давайте поговорим о том, что это за точки.

Как вы понимаете, этот контент ужасен.

Без необходимости его не смотрят.

Многие компании или органы правопорядка,

имеющие такой контент,

конвертируют каждый файл в уникальный код,

который называется хеш-кодом.

Это как отпечаток пальца

для каждого фото и видео,

который помогает в расследованиях

или удалении такого контента с платформы

без необходимости смотреть материал.

Проблема заключается в том,

что миллионы таких хеш-кодов существуют

в закрытых базах данных по всему миру.

Одно агенство

с доступом к хранилищу, может работать,

но неизвестно, какие коды уникальны.

Неизвестно, какие дети нуждаются в помощи,

а какие — уже спасены.

Наше предложение заключается в том,

что все эти данные должны быть связаны.

Есть два способа, как эти данные,
в сочетании с программным обеспечением

могут повлиять на интернет.

Первый — сотрудничество
с органами правопорядка.

Помогать им быстрее
опознавать новых жертв,

пресекать насилие,

препятствовать созданию такого контента.

Второй — сотрудничать с компаниями,

используя ключ для идентификации файлов,

которые распространяются сегодня,

удалять,

останавливать загрузку новых материалов
то того, как они станут вирусными.

Четыре года назад,

когда дело раскрыли,

наша команда была там,

мы знали, что проиграли,

потому что весь год наблюдали за тем,

как её искали.

Мы понимали,

что, если бы технология существовала,

они бы нашли её быстрее.

И поэтому мы сделали то,

что считали единственным верным решением —

начали создавать программное обеспечение.

Мы начали с правоохранительных органов.

Хотели создать сигнал
для полиции во всём мире,

чтобы при опубликовании поста с жертвой,

её начали немедленно искать.

Я не могу говорить о деталях ПО,

но оно работает в 38 странах,

и помогает сократить время поисков ребёнка

на 65 процентов.

(Аплодисменты)

Наша новая задача — создать ПО,

чтобы помочь компаниям
определять и удалять такой контент.

Давайте поговорим о таких компаниях.

Как я уже говорила,
только в США за прошлый год

было зафиксировано
45 миллионов фото и видео.

Эти материалы принадлежат
лишь 12 компаниям.

12 компаний, 45 миллионов
файлов детского порно.

И это те компании, у которых есть деньги

на программы, удаляющие такой контент.

Но существуют сотни других компаний —

от маленьких до средних по всему миру,

но они либо не знают, что их платформы

используют для распространения порно,

либо не тратят на это деньги,
поскольку это не приносит прибыль.

Мы создали ПО для них,

и теперь система «умнеет»
с количеством компаний-участников.

Например,

наш первый клиент — компания Imgur,

один из самых популярных сайтов в США,

куда каждый день
загружаются тонны контента,

чтобы сделать интернет веселее.

Они первыми стали сотрудничать с нами.

За 20 минут использования нашей системы,

кто-то хотел загрузить файл,
имеющийся в базе.

Они смогли пресечь загрузку материала

и сообщить в центр поиска
эксплуатируемых детей.

Они пошли дальше

и проверили аккаунт того человека.

И там они обнаружили
множество новых материалов

с сексуальным насилием над детьми.

И вот тут мы видим эффект.

Мы изъяли этот материал,

передали его в центр поиска
эксплуатируемых детей,

и все эти хеш-коды попали в систему

и принесли пользу другим компаниям.

Пока хеш-коды приводят к другим

в реальном времени, помогая компаниям,

мы увеличиваем скорость
удаления материалов,

содержащих сексуальное насилие над детьми.

(Аплодисменты)

Именно поэтому дело здесь не только
в программном обеспечении и данных,

но главным образом в масштабах охвата.

Мы должны привлечь тысячи полицейских,

сотни компаний по всему миру,

если технологии позволят нам
обойти преступников

и ликвидировать те
сообщества по всему миру,

где насилие над детьми — норма.

И это надо делать сейчас.

Потому что мы знаем,
как это влияет на наших детей.

Дети, чьи порно видео стали вирусными,

сейчас — молодые люди.

Канадский центр защиты детей
провёл исследование,

в котором участвовали эти молодые люди,

чтобы понять, как они пытаются
оправиться от травмы,

зная, что их изнасилование есть в сети.

80% этих молодых людей
думали о самоубийстве.

Более 60% пытались покончить с собой.

Многие из них каждый день живут в страхе,

что на улице, или на собеседовании,

или по пути в школу,

или при общении в интернете,

они встречают тех, кто мог видеть
материалы с насилием над ними.

И в 30% случаев они правы.

Их узнавали из-за тех материалов.

Это нелегко,

но возможно.

Теперь всё зависит от желания,

желания общества

взглянуть в глаза страху,

извлечь что-то из темноты на свет,

чтобы у этих детей было право голоса.

Нужно желание компаний знать,
что их платформы

не связаны с насилием над детьми.

Желание государств инвестировать
в органы правопорядка,

для расследования
преступлений в интернете,

даже если жертва не рассказывает об этом.

Эта решимость — часть этого желания.

Это объявление войны человеческому злу.

Я цепляюсь за мысль,

что всё это — вклад в будущее,

где ребёнок — это просто ребёнок.

Спасибо.

(Аплодисменты)