Hoe we materiaal over seksueel misbruik van kinderen van het internet kunnen verwijderen

Sociaal ondernemer Julie Cordua werkt aan een probleem waarover niet gemakkelijk gesproken kan worden: seksueel misbruik van kinderen in beelden en video's op internet. Bij Thorn werkt ze aan de software om de punten tussen de technologische industrie, de politie en de overheid te verbinden -- zodat we de virale verspreiding van misbruikmateriaal snel kunnen beëindigen en kinderen sneller kunnen redden. Leer over hoe deze schaalbare oplossing kan helpen bij het ontmantelen van de gemeenschappen die tegenwoordig seksueel misbruik van kinderen wereldwijd normaliseren. (Dit ambitieuze plan maakt deel uit van het Audacious Project, het initiatief van TED om wereldwijde verandering te inspireren en te financieren.)

[Deze talk bevat inhoud voor volwassenen]

Vijf jaar geleden

kreeg ik een telefoontje
dat mijn leven zou veranderen.

Ik herinner me die dag zo levendig.

Het was rond deze tijd van het jaar

en ik zat in mijn kantoor.

Ik herinner me hoe het zonlicht
door het raam viel.

Mijn telefoon ging.

Ik pakte hem op.

Het waren twee federale agenten
die om mijn hulp vroegen

bij het identificeren van een klein meisje

afgebeeld in honderden foto's
van seksueel misbruik van kinderen

die ze online hadden gevonden.

Ze waren net begonnen
met werken aan de zaak,

maar ze wisten

dat haar misbruik al jaren
over de wereld werd verspreid

op dark-websites gewijd
aan het seksueel misbruik van kinderen.

Haar misbruiker was ongelooflijk
technologisch geavanceerd:

nieuwe foto's en nieuwe video's
om de paar weken,

maar heel weinig aanwijzingen
over wie ze was

of waar ze was.

Dus belden ze ons,

omdat ze hadden gehoord
dat we een nieuwe non-profit waren

die technologie ontwierpen

om seksueel misbruik
van kinderen te bestrijden.

Maar we waren maar twee jaar bezig

en we hadden alleen gewerkt
aan kinderseks-mensenhandel.

Ik moest hen vertellen

dat we niets hadden.

We hadden niets dat hen kon helpen
om dit misbruik stoppen.

Het vergde die agenten nog een jaar

voor ze het kind vonden.

Tegen de tijd dat ze gered was,

waren al honderden foto's en video's
over haar verkrachting viraal gegaan,

van het dark web

naar peer-to-peer netwerken,
private chatrooms

en de websites die jullie en ik

elke dag gebruiken.

Vandaag vecht ze voor haar herstel

en leeft ze met het feit
dat duizenden over de hele wereld

naar haar misbruik blijven kijken.

Ik ben in de afgelopen vijf jaar
te weten gekomen

dat deze zaak verre van uniek is.

Hoe zijn we hier als samenleving
in terecht gekomen?

In de late jaren 1980 was kinderporno --

of wat het eigenlijk is,
seksueel misbruik van kinderen --

bijna geëlimineerd.

Nieuwe wetten en verhoogde vervolging
maakten het gewoon te riskant

om het te verhandelen via de post.

Toen kwam internet
en de markt explodeerde.

De hoeveelheid die vandaag in omloop is,

is enorm en groeit.

Dit is echt een wereldwijd probleem,

maar alleen al naar de VS kijkend:

in de VS werden alleen al vorig jaar

meer dan 45 miljoen foto's en video's
van seksueel misbruik van kinderen

gemeld aan het Nationaal Centrum
voor Vermiste en Uitgebuite Kinderen,

en dat is bijna het dubbele
van het voorgaande jaar.

De details achter deze cijfers
zijn moeilijk voor te stellen,

met meer dan 60% afbeeldingen
met kinderen jonger dan 12

en de meeste met extreme daden
van seksueel geweld.

Misbruikers worden toegejuicht

in chatrooms gewijd
aan het misbruik van kinderen,

waar ze aanzien en bekendheid krijgen

met als gevolg nog meer misbruik
en slachtoffers.

In deze markt

is de inhoud zelf
het betalingsmiddel geworden.

Het is duidelijk dat de daders snel
de nieuwe technologieën gingen benutten,

maar onze reactie
als samenleving was dat niet.

Deze misbruikers lezen geen
gebruikersovereenkomsten van websites

en de inhoud houdt zich niet
aan geografische grenzen.

Zij winnen als wij slechts kijken
naar één stukje van de puzzel tegelijk,

en zo is onze reactie
vandaag precies ontworpen.

Handhaving van de wet
werkt in één rechtsgebied.

Bedrijven kijken alleen naar hun platform.

En wat ze al doende leren,

wordt zelden gedeeld.

Het is zo duidelijk dat deze
verbrokkelde aanpak niet werkt.

We moeten onze reactie op deze epidemie
van het digitale tijdperk herontwerpen.

En dat is precies wat we doen bij Thorn.

We bouwen de technologie
om deze punten te verbinden,

om iedereen op de frontlinies
te bewapenen --

rechtshandhaving, ngo’s en bedrijven --

met de tools die ze nodig hebben

om uiteindelijk kindermisbruikmateriaal
van het internet te bannen.

Laten we het daar even over hebben --

(Applaus)

Dank je.

(Applaus)

Laten we even praten
over wat die punten zijn.

Zoals je je kan voorstellen,
is deze inhoud afschuwelijk.

Als je er niet naar moet kijken,
wil je er niet naar kijken.

Daarom kunnen de meeste bedrijven
of wetshandhavingsinstanties

met dit soort inhoud

elk bestand vertalen
in een unieke reeks getallen.

Dit heet een ‘hash’.

Het is in wezen een vingerafdruk

van elk bestand of elke video.

Dit laat hen toe om gebruik te maken
van de informatie bij onderzoeken

of voor een bedrijf om de inhoud
van hun platform te verwijderen

zonder elk beeld en elke video
telkens weer opnieuw te moeten bekijken.

Het probleem vandaag echter

is dat er honderden miljoenen
van deze hashes zitten

in geïsoleerde databases
over de hele wereld.

In een geïsoleerde database

kan dat werken voor het agentschap
dat er de controle over heeft,

maar deze gegevens niet koppelen

betekent dat we niet weten
hoeveel er uniek zijn.

We weten niet welke
reeds geredde kinderen voorstellen

of welke nog geïdentificeerd
moeten worden.

Dus is ons eerste,
meest fundamentele uitgangspunt

dat al deze gegevens met elkaar
moeten worden verbonden.

Op twee manieren kunnen deze gegevens,

in combinatie met software
op wereldwijde schaal,

een grote impact hebben op dit gebied.

De eerste is met de rechtshandhaving:

hen te helpen om nieuwe slachtoffers
sneller te identificeren,

het misbruik te stoppen

en het stoppen van
de productie van deze dingen.

De tweede is met bedrijven:

het gebruiken als aanwijzingen

om de honderden miljoenen
bestanden te identificeren

die vandaag in omloop zijn,

ze te verwijderen

en vervolgens stoppen
met het uploaden van nieuw materiaal

voordat het ooit viraal gaat.

Vier jaar geleden,

toen die zaak eindigde,

zat ons team daar,
en we voelden alleen maar, hum ...

... een diep gevoel van mislukking,
kan ik wel zeggen,

omdat we dat hele jaar maar toekeken

terwijl ze haar zochten.

We zagen elke plaats van het onderzoek

waarbij als de technologie
zou hebben bestaan,

ze haar sneller zouden hebben gevonden.

Daar hielden we mee op

en we gingen dat doen
waarvan we wisten dat we het konden:

we begonnen software te maken.

Dus begonnen we met rechtshandhaving.

Onze droom was een alarmbel op de bureaus
van politiemensen over de hele wereld

zodat zodra iemand nieuwe slachtoffers
online durfde te posten,

iemand onmiddellijk
naar hen op zoek zou gaan.

Ik kan natuurlijk niet praten
over de details van die software,

maar vandaag is ze in 38 landen actief,

waardoor de tijd die het duurt
om een kind terug te vinden

met meer dan 65% verminderd is.

(Applaus)

Nu gaan we op weg
naar die tweede bestemming:

de bouw van de software

om bedrijven te helpen deze inhoud
te identificeren en te verwijderen.

Laten we even praten over deze bedrijven.

Zoals ik al zei -- 45 miljoen beelden
en video's in de VS alleen al vorig jaar.

Die komen van slechts 12 bedrijven.

Twaalf bedrijven, 45 miljoen bestanden
van seksueel misbruik van kinderen.

Die komen van die bedrijven
die het geld hebben

voor de infrastructuur die nodig is
om deze inhoud te verwijderen.

Maar er zijn honderden andere bedrijven,

kleine tot middelgrote bedrijven
over de hele wereld,

die dit ook moeten doen,

maar ofwel:
1) kunnen ze zich niet indenken

dat hun platform zou
worden gebruikt voor misbruik,

of 2) hebben ze niet het geld te besteden
aan iets dat niets opbrengt.

Dus maakten wij het voor hen

en het systeem wordt steeds slimmer
nu meer bedrijven eraan deelnemen.

Laat me een voorbeeld geven.

Onze eerste partner, Imgur --
mocht je dit bedrijf niet kennen,

het is een van de meest bezochte
websites in de VS --

miljoenen stukken door gebruikers
gegenereerde inhoud

worden er elke dag geüpload

om van het internet
een leuke plek te maken.

Ze staken met ons als eerste van wal.

Binnen de eerste 20 minuten
dat ons systeem live ging,

probeerde iemand een bekend item
misbruikmateriaal te uploaden.

Ze konden het stoppen, verwijderen

en melden aan het Nationale Centrum
voor Vermiste en Uitgebuite Kinderen.

Maar ze gingen een stap verder:

ze inspecteerden de account
van de persoon die het had geüpload.

Honderden documenten meer
van seksueel misbruik van kinderen

die we nog nooit hadden gezien.

Hier beginnen we
een exponentieel effect te zien.

We verwijderen dat materiaal,

het wordt gemeld

aan het Nationale Centrum
voor Vermiste en Uitgebuite Kinderen

en dan gaan die hashes
terug in het systeem

en profiteert elk ander bedrijf ervan.

De miljoenen hashes die we hebben,
leiden tot nog eens miljoenen

en, in real time, identificeren
bedrijven over de hele wereld

deze inhoud en verwijderen hem.

We hebben nu een spectaculaire toename
van de snelheid van verwijdering

van seksueel misbruik van kinderen
op het internet over de hele wereld.

(Applaus)

Maar daarom kan het niet
alleen gaan over software en gegevens,

het moet ook over de schaal gaan.

We moeten duizenden ambtenaren activeren,

honderden bedrijven over de hele wereld,

als we willen dat de technologie
de daders voorblijft,

en de gemeenschappen ontmantelen

die het seksueel misbruik
van kinderen normaliseren

over de hele wereld van vandaag.

Nu moeten we dit doen.

We kunnen niet langer
zeggen dat we niet weten

welke impact dit heeft op onze kinderen.

De eerste generatie van de kinderen
van wie misbruik viraal is gegaan

zijn nu jongvolwassenen.

The Canadian Centre for Child Protection

deed recentelijk een studie
van deze jongvolwassenen

om het unieke trauma te begrijpen
waarvan ze proberen te herstellen,

wetende dat hun misbruik voortleeft.

80% van deze jongvolwassenen
hebben zelfmoord overwogen.

Meer dan 60% heeft het gepoogd.

En de meesten van hen
leven elke dag met de angst

dat als ze op straat lopen,
gaan voor een baan,

naar school gaan

of iemand online ontmoeten,

dat die persoon het misbruik heeft gezien.

Die realiteit is uitgekomen
voor meer dan 30% van hen.

Ze werden herkend
door hun online data over misbruik.

Dit zal niet makkelijk zijn,

maar het is niet onmogelijk.

Er gaat een wil nodig zijn,

de wil van onze samenleving

om te kijken naar iets
dat echt moeilijk is om naar te kijken,

om iets uit de duisternis te halen

zodat deze kinderen een stem krijgen;

de wil van bedrijven
om actie te ondernemen

en ervoor te zorgen dat hun platforms

niet medeplichtig zijn
aan het misbruik van een kind;

de wil van de overheid om te investeren
met hun rechtshandhaving

voor de middelen die ze nodig hebben

om een digitale eerste misdaad
te onderzoeken,

zelfs wanneer de slachtoffers
niet voor zichzelf kunnen spreken.

Deze moedige inzet
is een onderdeel van die wil.

Het is een oorlogsverklaring tegen een
van de donkerste kwaden van de mensheid.

Maar waar ik voor ga,

is dat het eigenlijk
een investering is in een toekomst

waar elk kind gewoon een kind kan zijn.

Dank je.

(Applaus)