Ako môžeme z internetu eliminovať materiály s pohlavným zneužívaním detí

Julie Cordua, podnikateľka v sociálnej oblasti, pracuje na probléme, o ktorom sa nehovorí ľahko: pohlavné zneužívanie detí a šírenie takýchto fotiek a videí na internete. V spoločnosti Thorn buduje technológiu, ktorá prepája technologický priemysel, policajné orgány a vládu, aby sme mohli rýchlo ukončiť virálne šírenie materiálu so zneužívaním a tieto deti rýchlo zachrániť. Zistite viac o tom, ako by toto rastúce opatrenie mohlo pomôcť zničiť komunity, ktoré normalizujú pohlavné zneužívanie detí po celom svete. (Tento ambiciózny plán je súčasťou projektu Audacious organizácie TED, iniciatívy na inšpirovanie a podporu globálnej zmeny.)

[Táto prednáška nie je vhodná pre deti]

Pred 5 rokmi

som mala telefonát,
ktorý zmenil môj život.

Pamätám si ten deň veľmi živo.

Bolo to asi toto obdobie v roku

a ja som sedela vo svojej kancelárii.

Spomínam si, ako dovnútra
prúdili slnečné lúče.

A zrazu mi zazvonil telefón.

Zdvihla som ho.

Volali mi dvaja federálni agenti,
ktorí chceli moju pomoc

pri identifikovaní malého dievčatka,

ktoré bolo na stovkách snímok s pohlavným
zneužívaním, ktoré našli online.

Práve na prípade začali pracovať,

ale vedeli už,

že toto zneužívanie bolo do sveta
šírené celé roky,

a to na temných webových stránkach
zameraných na pohlavné zneužívanie detí.

Jej zneužívateľ bol neuveriteľne
technologicky sofistikovaný:

nové fotky a nové videá
každých pár týždňov,

ale len málo vodidiel k tomu,
kto to dievča je,

alebo kde sa nachádza.

A tak nám zavolali,

pretože počuli, že sme nová neziskovka,

ktorá vytvára technológiu pre boj
s pohlavným zneužívaním detí.

Ale fungovali sme zatiaľ iba 2 roky

a pracovali sme iba na obchodovaní
s deťmi kvôli sexu.

A tak som im musela povedať,

že pre nich nič nemáme.

Že nemáme nič, čo by mohlo pomôcť
zastaviť toto zneužívanie.

Tým agentom trvalo ešte jeden rok,

než to dieťa konečne našli.

A dovtedy, kým bola zachránená,

stovky fotiek a videí, ktoré dokumentovali
jej znásilňovanie, kolovali po internete,

putovali z toho temného webu

do komunikačných sietí,
do súkromných chatovacích miestností

a na stránky, ktoré používate vy i ja,

to všetko každý deň.

A dnes, keď sa to dievča
usilovne snaží zotaviť,

žije s vedomím, že tisíce ľudí
po celom svete

ďalej sledujú jej zneužívanie.

Za posledných 5 rokov som zistila,

že tento prípad zďaleka nie je ojedinelý.

Ako sme sa ako spoločnosť
k niečomu takémuto dopracovali?

Na konci 80. rokov bola detská pornografia

(ktorá je v skutočnosti materiálmi
s pohlavným zneužívaním detí)

takmer odstránená.

Vďaka novým zákonom a nárastom trestných
stíhaní to proste bolo príliš riskantné,

aby sa s tým obchodovalo poštou.

Potom však prišiel internet
a trh explodoval.

Množstvo materiálu,
ktorý je teraz v obehu,

je ohromné a stále ho pribúda.

Toto je skutočne globálny problém,

ale pokiaľ sa pozrieme iba na USA,

tak iba v USA za posledný rok

bolo Národnému centru pre nezvestné
a zneužívané deti

nahlásených viac ako 45 miliónov fotiek
a videí s pohlavným zneužívaním detí,

čo je takmer dvojnásobok toho,
čo bolo nahlásené o rok skôr.

A nad detailmi, ktoré sú ukryté
pod týmito číslami, je ťažké uvažovať,

keď na viac ako 60 % fotiek
boli deti mladšie ako 12 rokov

a na väčšine z nich boli páchané
extrémne činy sexuálneho násilia.

Na chatoch zameraných na zneužívanie detí
sú páchatelia povzbudzovaní,

budujú si tam svoje postavenie a povesť,

a to s počtom zneužití a počtom obetí.

Na tomto trhu

sa menou stal sám obsah.

Je zjavné, že páchatelia
rýchlo využívajú nové technológie,

ale odpoveď našej spoločnosti
rýchla nie je.

Títo páchatelia nečítajú používateľské
podmienky webových stránok

a obsah nerešpektuje žiadne
geografické hranice.

A vyhrávajú oni, keď sa pozrieme
na jeden kúsok skladačky,

čo je presne to,
aká je dnes naša odpoveď.

Vynucovanie práva funguje
v jednej jurisdikcii.

Spoločnosti sledujú iba
svoju vlastnú platformu.

A akékoľvek dáta,
na ktoré pri tom narazia,

sa iba zriedkakedy zdieľajú.

Je úplne jasné, že tento
neprepojený prístup nefunguje.

Musíme prerobiť našu odpoveď
voči tejto epidémii

a to pre digitálny vek.

A to presne robíme v spoločnosti Thorn.

Budujeme technológiu,
ktorá tieto dielce prepojí,

aby sme tak zjednotili všetkých
v prvej línii,

policajné orgány, neziskovky, spoločnosti,

a to nástrojmi, ktoré potrebujú,
aby z internetu úplne

odstránili materiály
s pohlavným zneužívaním detí.

Pozrime sa na to…

(potlesk)

Ďakujem.

(potlesk)

Pozrime sa na to, čo to tie dielce sú.

Ako si dokážeme predstaviť,
obsah tých materiálov je príšerný.

Pokým sa na to nemusíte pozerať,
tak sa na to pozerať nechcete.

A tak väčšina spoločností
alebo policajných orgánov,

ktoré tieto materiály majú,

môžu každý súbor preložiť
do jedinečného radu čísel.

Tomu sa hovorí „hash“.

Je to v podstate akoby odtlačok prstu

pre každý súbor alebo video.

A to im umožňuje používať
tieto informácie pri vyšetrovaní,

firmám to umožňuje odstrániť
takýto obsah zo svojej platformy,

a to všetko bez toho, aby sa museli vždy
znovu pozerať na každú fotku a video.

Ale problémom je,

že existujú stovky miliónov
takýchto hashov,

ktoré sa zhromažďujú
v databázach po celom svete.

V takej databáze

to môže pomôcť jednému orgánu,
ktorý ju spravuje,

ale tým, že tieto dáta neprepája,
nevieme, koľko je z nich jedinečných.

Nevieme, ktoré z nich predstavujú deti,
ktoré už boli zachránené,

a ktoré ešte stále musia
byť identifikované.

Takže naším prvým a základným
predpokladom je, že všetky tieto dáta

musia byť prepojené.

Existujú dve možnosti, kde tieto dáta
globálne kombinované so softvérom

môžu mať v tomto priestore
transformačný dopad.

Po prvé to sú policajné orgány:

pomôže im to rýchlejšie identifikovať
nové obete,

zastaviť zneužívanie

a zastaviť tých,
ktorí tento obsah vytvárajú.

Po druhé to sú spoločnosti:

pomôže im to identifikovať
stovky miliónov súborov,

ktoré sú v obehu,

aby ich mohli odstrániť,

a pomôže to zastaviť nahrávanie nového
materiálu skôr, než sa stane virálnym.

Pred 4 rokmi,

keď ten prípad skončil,

sa náš tím stretol a cítili sme taký...

hlboký pocit sklamania.

Asi takto by som to mohla vyjadriť,

pretože sme celý ten rok sledovali,

ako ju hľadajú.

A v každom tom úseku vyšetrovania
sme videli,

že keby taká technológia existovala,

mohli by ju nájsť rýchlejšie.

A tak sme to nechali tak

a išli sme urobiť jedinú vec,
ktorú sme vedeli:

začali sme vyvíjať softvér.

A začali sme policajnými orgánmi.

Naším snom bol alarm na každom
policajnom stole po celom svete,

takže keby sa niekto opovážil
nahrať na internet novú obeť,

niekto by po ňom okamžite začal pátrať.

Samozrejme nemôžem hovoriť
o detailoch toho softvéru,

ale dnes už funguje v 38 krajinách

a znižuje dobu, ktorá je potrebná
na nájdenie dieťaťa,

o viac ako 65 %.

(potlesk)

A teraz prichádzame
k druhému horizontu:

vytvorenie softvéru,

ktorý spoločnostiam pomôže
identifikovať a odstrániť tento obsah.

Povedzme si teraz niečo
o týchto spoločnostiach.

Ako som už vravela, za posledný rok je
to iba v USA 45 miliónov fotiek a videí.

A tie pochádzajú iba z 12 spoločností.

12 spoločností, 45 miliónov súborov
s materiálom pohlavného zneužívania detí.

Pochádzajú zo spoločností,
ktoré majú dosť peňazí,

aby si vytvorili infraštruktúru, ktorá
je potrebná na odstránenie takého obsahu.

Ale sú tu stovky ďalších spoločností,

malé až stredné spoločnosti
po celom svete,

ktoré to najskôr musia urobiť,

ale ktoré: 1) si nevedia predstaviť, že by
ich platforma mohla byť takto zneužitá,

alebo: 2) nemajú peniaze, ktoré by mohli
dať za niečo, čo im nezvýši príjem.

Tak sme sa do toho pustili
a vytvorili sme to pre nich.

A tento systém je šikovnejší, pretože
sa do neho zapája viac a viac spoločností.

Uvediem jeden príklad.

Náš prvý partner, Imgur (ak ste ešte
o tejto spoločnosti nepočuli,

má jednu z najnavštevovanejších
webových stránok v USA)

má každý deň milióny kúskov obsahu
generovaného a nahrávaného použivateľmi

s cieľom urobiť z internetu
čo najzábavnejšie miesto.

Oni sa s nami spojili ako prví.

Počas prvých 20 minút
po pripojení na náš systém

sa niekto pokúsil nahrať
jeden známy materiál so zneužívaním.

Boli schopní to zastaviť a odstrániť.

Nahlásili to Národnému centru
pre nezvestné a zneužívané deti.

Ale išli dokonca ešte ďalej

a skontrolovali účet toho,
kto sa pokúsil tento obsah nahrať.

Stovky ďalších kusov materiálu
s pohlavne zneužívanými deťmi,

ktorý sme predtým nikdy nevideli.

A práve teraz je možné vidieť ten
exponenciálny vplyv.

Odstránime taký materiál,

nahlási sa to Národnému centru
pre nezvestné a zneužívané deti,

tieto hashe sa potom
vrátia späť do systému

a z toho môže každá ďalšia
spoločnosť len získať.

A keď milióny hashov, ktoré sme už mali,
priniesli ďalšie milióny,

tak ich môžu ďalšie spoločnosti po celom
svete ihneď identifikovať a odstrániť,

čím dramaticky zvýšime rýchlosť,
s akou odstraňujeme materiál,

ktorý obsahuje pohlavné zneužívanie detí,
a to v rámci internetu po celom svete.

(potlesk)

A práve preto to nesmie byť
iba o softvéri a dátach,

musí to byť i o rozsahu.

Musíme zaktivizovať tisíce policajtov,

stovky spoločností po celom svete,

aby nám technológia umožnila
predbehnúť páchateľov

a zničiť komunity, ktoré dnes
po celom svete normalizujú

sexuálne zneužívanie detí.

A ten čas nastal práve teraz.

Už ďalej nesmieme hovoriť, že nevieme,
aký vplyv to má na naše deti.

Prvá generácia detí,
ktorých zneužívanie sa stalo virálnym,

sú dnes už mladí dospelí.

Kanadské centrum na ochranu detí

nedávno robilo štúdiu
týchto mladých dospelých,

aby sme mohli pochopiť tú veľkú traumu,
z ktorej sa snažia uzdraviť,

vediac, že ich zneužívanie žije
na internete ďalej.

80 % z týchto mladých dospelých
myslí na samovraždu.

Viac než 60 % sa o samovraždu už pokúsilo.

A väčšina z nich žije
s každodennou obavou,

že keď idú po ulici, idú na pohovor,

idú do školy,

či sa s niekym spoja online,

majú strach, že ten človek
ich zneužívanie videl.

A pre viac ako 30 % sa táto obava
skutočne vyplnila.

Boli spoznaní podľa online materiálov
s ich zneužívaním.

Nebude to jednoduché,

ale nie je to nemožné.

Bude to stáť veľa vôle,

dobrej vôle našej spoločnosti,

aby sa pozrela na niečo,
na čo sa dá pozerať iba veľmi ťažko,

aby vytiahla von z tej temnoty niečo,

aby tieto deti bolo počuť,

dobrej vôle spoločností zapojiť sa
a uistiť sa, že ich platformy

nie sú spolupáchateľmi zneužívania detí,

vôle vlád investovať
do policajných orgánov

a zaistiť im nástroje,

ktoré potrebujú na vyšetrovanie
prvých digitálnych zločinov,

aj keď obete nemôžu hovoriť samé za seba.

Tento odvážny záväzok
je súčasťou tej vôle.

Je vyhlásením vojny jednej
z tých najtemnejších ľudských hrôz.

Ale spolieham sa na to,

že je to vlastne investícia do budúcnosti,

v ktorej každé dieťa
bude jednoducho môcť byť dieťaťom.

Ďakujem.

(potlesk)