Come possiamo eliminare da internet il materiale pedopornografico

L'Imprenditrice Sociale Julie Cordua lavora su un problema di cui non è facile parlare: l'abuso sessuale minorile in immagini e video su internet. All'associazione Thorn, Cordua sta creando una tecnologia che colleghi industria tecnologica, forze dell'ordine e governo, per poter porre rapidamente fine alla distribuzione virale di materiale contenente abusi su bambini e poterli salvare più velocemente. Approfondite come questa soluzione modulare potrebbe aiutare a smantellare le comunità che per il mondo, oggi, diffondono gli abusi sessuali sui minori. Questo ambizioso progetto è parte di Audacious Project, un'iniziativa di TED per ispirare e finanziare cambiamenti a livello globale.

[Argomento adatto solo
a un pubblico adulto]

Cinque anni fa

ho ricevuto una telefonata
che mi avrebbe cambiato la vita.

Ricordo benissimo quel giorno.

Era circa questo periodo dell'anno,

ero seduta nel mio ufficio.

Ricordo il sole
che entrava dalla finestra,

quando mi suonò il telefono.

Risposi,

erano due agenti federali
che chiedevano il mio aiuto

per identificare una bambina

presente in centinaia di immagini
di abusi sessuali trovate online.

Avevano appena iniziato
a lavorare sul caso,

ma erano certi

che gli abusi su di lei erano
circolati per anni in tutto il mondo

suii siti del dark web dedicati
agli abusi sessuali sui bambini.

Il suo molestatore era incredibilmente
abile a livello tecnologico:

nuove immagini e video
quasi tutte le settimane,

ma pochissimi indizi su chi fosse lei

o dove si trovasse.

Ci chiamarono,

perché eravamo una nuova no-profit

che creava tecnologie per combattere
gli abusi sessuali sui minori.

Ma operavamo solo da due anni,

e solo sul traffico sessuale minorile.

Dovetti dir loro

che non avevamo niente.

Non avevamo nulla per aiutarli
a fermare quell'abuso.

Impiegarono un altro anno

per trovare finalmente quella bambina.

E fino al momento in cui fu salvata,

il suo stupro era diventato virale
in centinaia di immagini e di video,

dal dark web

a reti peer-to-peer, chat room private

e siti web che tutti noi usiamo

ogni giorno.

E oggi, mentre lei lotta per riprendersi,

convive con il fatto che migliaia
di persone nel mondo

continuano a guardare ciò che ha subito.

Negli ultimi cinque anni
ho scoperto che questo caso

è tutt'altro che unico nel suo genere.

Ma come ha fatto la nostra società
ad arrivare a questo?

Alla fine degli anni '80,
la pedopornografia,

ovvero il materiale contenente
abusi sessuali su minori,

era stata quasi eliminata.

Nuove leggi, aumento di procedimenti
giudiziari, resero troppo rischioso

lo smercio per corrispondenza.

Ma poi è arrivato internet,
e il mercato è esploso.

Oggi, la quantità di contenuti in circolo

è enorme e in crescita.

Il problema è veramente globale,

ma se guardiamo solo agli Stati Uniti:

l'anno scorso, solo negli Stati Uniti

più di 45 milioni di immagini
e di video pedopornografici

sono stati denunciati al Centro Nazionale
per bambini scomparsi e abusati,

ed è quasi il doppio dell'anno precedente.

I dettagli dietro questi numeri
sono duri da immaginare:

in più del 60% delle immagini
vi sono bambini al di sotto di 12 anni,

e la maggior parte include
atti di estrema violenza sessuale.

Gli autori di abusi sui bambini
sono acclamati nelle chat dedicate,

dove guadagnano prestigio e notorietà

con più abusi e più vittime.

In questo mercato

la moneta è diventata il contenuto stesso.

I molestatori sono stati rapidi
a sfruttare le nuove tecnologie,

ma non lo è stata la risposta
della nostra società.

Questi criminali non leggono
i termini di utilizzo dei siti web

e il contenuto non rispetta
nessun confine geografico.

Vincono quando guardiamo
un pezzo del puzzle alla volta,

che è esattamente
il nostro modo di operare oggi.

Le forze dell'ordine lavorano
in una sola giurisdizione.

Le aziende guardano
solo alla propria piattaforma.

E tutti i dati acquisiti lungo il percorso

raramente vengono condivisi.

È chiaro che questo approccio
dissociato non funziona.

Dobbiamo riprogrammare la nostra risposta

a questa epidemia nell'era digitale.

Ed è esattamente
ciò che stiamo facendo alla Thorn.

Stiamo creando la tecnologia
per collegare questi punti,

per armare tutti in prima linea,

forze dell'ordine, ONG e aziende,

degli strumenti necessari
a eliminare definitivamente

il materiale pedopornografico da internet.

Parliamo per un momento.

(Applausi)

Grazie.

(Applausi)

Parliamo un po' di questi punti.

Come potete immaginare
si tratta di contenuti orribili.

Se non si è obbligati,
non si desidera guardarli.

La maggior parte delle aziende,
o le forze dell'ordine,

in possesso di questi contenuti,

possono tradurre ogni file
in un'unica stringa di numeri.

Questo si chiama "hash".

Sostanzialmente è l'impronta digitale

di ogni file e di ogni video.

Consente di usare
l'informazione nelle indagini,

o a un'azienda di rimuovere
contenuti dalla propria piattaforma

senza dover riguardare ogni volta
ogni immagine e ogni video.

Tuttavia il problema, oggi,

è che esistono centinaia
di milioni di questi hashes

depositati in silos-database
per tutto il mondo.

In un silo

potrebbe funzionare per l'agenzia
che ne ha il controllo,

ma non collegare quei dati significa
non sapere quanti sono unici.

Cioè non sapere quali si riferiscono
a bambini che sono già stati salvati

o che devono ancora essere identificati.

Quindi il nostro obiettivo principale

è collegare tutti questi dati.

Ci sono due modi in cui questi dati,
combinati a un software su scala globale,

possono avere un impatto trasformativo.

Il primo è aiutare le forze dell'ordine

a identificare nuove vittime
più velocemente,

fermare gli abusi

e fermare chi produce questi contenuti.

Il secondo è per le aziende:

usandolo come indizio per identificare
i centinaia di milioni di file

in circolazione oggi,

rimuovendolo

e poi fermando l'upload di nuovo materiale
ancor prima che diventi virale.

Quattro anni fa,

quando quel caso fu risolto,

il nostro team stava lì, seduto,
sentendo...

un profondo senso di sconfitta,
se così si può definire,

perché eravamo rimasti a guardare
per tutto quell'anno

mentre la stavano cercando.

Avevamo seguito ogni fase dell'indagine

e se fosse esistita la tecnologia,

avrebbero trovato la bambina
più velocemente.

E così ce ne andammo via

per andare a fare l'unica cosa
che sapevamo fare:

iniziare a sviluppare un software.

Abbiamo iniziato con le forze dell'ordine.

Sognavamo un campanello d'allarme
sulle scrivanie di tutti i poliziotti

cosicché non appena qualcuno
avesse postato una nuova vittima online,

qualcun altro avrebbe subito
fatto partire le ricerche.

Ovviamente non posso parlare
dei dettagli di quel software,

ma oggi è utilizzato in 38 paesi,

riducendo la tempistica
per ritrovare un bambino

di più del 65%.

(Applausi)

E ora ci stiamo impegnando
su un secondo fronte:

creare il software che aiuta le aziende
a identificare e rimuovere tali contenuti.

Parliamo un istante di queste aziende.

45 milioni di immagini e di video,
solo negli Stati Uniti, l'anno scorso.

Provenienti soltanto da 12 aziende.

12 aziende, 45 milioni di file
di materiale pedopornografico

proveniente da aziende che hanno denaro

per creare infrastrutture utili
a eliminare questi contenuti.

Ma ci sono centinaia di altre aziende,

di piccole e medie dimensioni,
in tutto il mondo,

che dovrebbero fare questo lavoro, ma che:

1) non immaginano che la loro piattaforma
venga utilizzata per attuare abusi,

2) non hanno denaro da spendere
su qualcosa che non produca entrate.

Ci siamo impegnati
e l'abbiamo fatto per loro,

e con l'aumento di aziende che aderiscono
il sistema è sempre più intelligente.

Vi faccio un esempio.

Il nostro primo partner, Imgur --
se non conoscete questa azienda,

è uno dei siti web più visitato
negli Stati Uniti,

milioni di contenuti generati
e caricati ogni giorno dagli utenti

con lo scopo di rendere internet
un luogo più divertente --

si sono associati a noi.

Entro 20 minuti di utilizzo
del nostro sistema,

qualcuno aveva cercato di caricare
materiale pedopornografico.

Hanno potuto fermarlo, rimuoverlo

e denunciarlo al Centro Nazionale
per bambini scomparsi e abusati.

Ma sono andati oltre,

hanno anche controllato l'account
della persona che lo aveva caricato.

Altre centinaia di contenuti
pedopornografici

che non avevamo mai visto.

Ed è qui che cominciamo a vedere
l'impatto esponenziale.

Rimuoviamo quel materiale,

lo denunciamo al Centro Nazionale
per i bambini scomparsi e abusati,

poi quegli hashes rientrano nel sistema

a beneficio di tutte le altre aziende.

Se raggiungeremo ancora più milioni
di hashes e, in tempo reale,

le compagnie identificano
e rimuovono quei contenuti,

aumenteremo drasticamente
la velocità di eliminazione

di materiale pedopornografico
da internet, in tutto il mondo.

(Applausi)

Per questo motivo non si tratta
solo di software e dati,

ma deve essere fatto su larga scala.

Dobbiamo attivare migliaia di agenti,

centinaia di aziende in tutto il mondo,

se la tecnologia ci permetterà
di essere più veloci dei colpevoli,

e di smantellare le comunità
che perpetrano abusi sui minori

in tutto il mondo.

E il momento per farlo è ora.

Non possiamo più dire di non sapere
qual è l'impatto sui nostri bambini.

La prima generazione di bambini
il cui abuso è diventato virale

sono oggi dei giovani adulti.

Il Centro canadese
per la protezione dei bambini

ha recentemente condotto
uno studio su questi giovani

per comprendere il trauma
dal quale cercano di riprendersi,

sapendo che il loro abuso
continua a vivere.

L'80% di questi giovani adulti
ha pensato al suicidio.

Più del 60% ha tentato il suicidio.

E la maggior parte di loro vive
ogni giorno con la paura

che mentre cammina per strada
o fa un colloquio di lavoro

o va a scuola

o conosce qualcuno online,

quella persona possa
aver visto il suo abuso.

E ciò si verifica in più del 30% di loro.

Riconosciuti a causa del materiale
sul loro abuso che circola online.

Non sarà facile,

ma nemmeno impossibile.

Ora serve la volontà,

la volontà della nostra società

di guardare a qualcosa veramente
difficile da guardare,

di tirar fuori dall'oscurità qualcosa

che dia voce a questi bambini;

la volontà delle aziende di agire
e assicurarsi che le loro piattaforme

non siano complici di abusi su minori;

la volontà dei governi di investire
sulle forze dell'ordine,

fornendo gli strumenti necessari
per indagare su un primo reato digitale,

anche quando le vittime
non possono parlare per sé.

Questo impegno audace
fa parte di quella volontà.

È una dichiarazione di guerra contro
uno dei mali più oscuri dell'umanità.

Ma quello a cui tengo di più

è che sia davvero
un investimento, in un futuro

in cui ogni bambino possa
semplicemente essere un bambino.

Grazie.

(Applausi)