Comment nous pouvons éliminer le matériel pédopornographique d'Internet

Julie Cordua, entrepreneure sociale, travaille sur un problème dont il n'est pas facile de parler : l'abus sexuel des enfants en images et en vidéos sur Internet. Avec l'association Thorn, elle met au point une technologie pour relier l'industrie de la technologie, les organismes d'application de la loi et le gouvernement, afin que nous puissions rapidement mettre fin à la distribution virale de matériel pédopornographique et sauver les enfants plus rapidement. Apprenez-en davantage sur la façon dont cette solution évolutive pourrait aider à démanteler les communautés qui normalisent l'exploitation sexuelle des enfants dans le monde aujourd'hui. (Ce plan ambitieux s'inscrit dans le cadre du projet Audacious, l'initiative de TED visant à inspirer et à financer le changement mondial.)

[Contient du contenu destiné aux adultes]

Il y a cinq ans,

J'ai reçu un appel qui allait
changer ma vie.

Je me rappelle très bien cette journée.

C'était à cette période de l'année,

j'étais dans mon bureau.

Le soleil entrait par la fenêtre.

Mon téléphone a sonné.

J'ai décroché,

c'était deux agents fédéraux,
me demandant de les aider

à identifier une petite fille

dans des centaines d'images d'abus
sexuels d'enfants trouvées en ligne.

Ils venaient de commencer
à travailler sur l'affaire,

mais ils savaient

que ses abus avaient été diffusés
mondialement pendant des années

sur des sites du dark web dédiés
aux abus sexuels sur des enfants.

Et son agresseur était incroyablement
sophistiqué sur le plan technologique :

de nouvelles images et vidéos
toutes les semaines,

mais très peu d'informations
sur qui elle était

ou sa localisation.

Ils nous ont appelés,

car nous étions une association

créant des technologies
pour lutter contre les abus d'enfants.

Mais nous n'existions que depuis deux ans,

et nous n'avions travaillé
que sur le trafic d'enfants.

Et j'ai dû leur dire

que nous n'avions rien.

Nous n'avions rien pour les aider
à mettre fin à cet abus.

Il leur a fallu un an de plus

pour enfin trouver cette enfant.

Lorsqu'elle a été sauvée,

des centaines d'images et vidéos
de son viol avaient circulé,

du dark web

vers des réseaux peer-to-peer,
des salons de chat privés

jusqu'aux sites Web
que vous et moi consultons chaque jour.

Elle doit lutter pour s'en remettre,

sachant que des milliers
de personnes dans le monde

continuent de regarder son viol.

Ces cinq dernières années,
j'ai pu apprendre

que ce cas était loin d'être le seul.

Comment notre société
en est-elle arrivée là ?

Dans la fin des années 80,
la pédopornographie -

ou plutôt, l'exploitation
sexuelle des enfants,

a été presque éliminée.

Les échanges par la poste étaient
devenus trop risqués,

suite aux nouvelles lois,
et à l'augmentation des poursuites.

L'arrivée d'internet a permis
l'explosion du marché

La quantité de contenu
qui circule aujourd'hui

est massive et en pleine croissance.

C'est un problème mondial,

mais en s'intéressant juste aux USA :

rien qu'aux USA l'année dernière,

plus de 45 millions d'images
et vidéos pédopornographiques

ont été signalées au National Center
for Missing and Exploited Children,

c'est presque le double
de l'année précédente.

La réalité derrière ces chiffres
est dure à imaginer.

Plus de 60% des images
représentent des moins de 12 ans,

la plupart d'entre eux incluent des
actes de violence sexuelle extrêmes.

Les agresseurs sont encouragés dans les
chats dédiés à la maltraitance d'enfants,

où ils gagnent en rang et en notoriété

faisant plus de victimes.

Dans ce marché,

la monnaie est le contenu.

Les agresseurs ont rapidement
tiré parti des nouvelles technologies,

mais notre réponse
en tant que société est lente.

Les agresseurs ne lisent pas
les CGU des sites Internet,

et le contenu ne respecte pas
les frontières géographiques.

Ils gagnent quand nous regardons
une chose à la fois,

ce qui est exactement la façon dont
notre réponse est conçue aujourd'hui.

Les forces de l'ordre travaillent
dans une seule juridiction.

Les entreprises ne surveillent que
leurs propres plateformes.

Et quoi qu'ils apprennent,

ils le partagent rarement.

Il est évident que cette déconnexion
ne fonctionne pas.

Nous devons repenser notre réponse
à cette épidémie

de l'ère numérique.

Et c'est exactement ce que Thorn fait.

Nous construisons la technologie
pour connecter ces points,

pour armer tous les acteurs -

les forces de l'ordre, les ONG
et les entreprises -

avec les outils dont ils ont besoin
pour éliminer définitivement

le contenu pédopornographique d'Internet.

Parlons un peu --

(Applaudissements)

Merci.

(Applaudissements)

Parlons un peu de ces points.

Vous l'imaginez, le contenu est atroce.

Si on n'y est pas obligé,
on ne veut pas le voir.

La plupart des entreprises
ou forces de l'ordre

qui ont accès à ce contenu

peuvent traduire chaque fichier
en une suite de chiffres.

C'est un « hash ».

C'est surtout une empreinte digitale

par fichier ou vidéo.

Cela leur permet d'utiliser
ces informations lors d'enquêtes,

ou aux entreprises de supprimer
le contenu de leurs plateformes

sans avoir à revoir chaque image ou vidéo.

Le problème actuel est que

des centaines de millions de ces hash

traînent dans des silos de données
autour du monde.

Dans ces silos,

cela a beau fonctionner pour
l'agence qui en a le contrôle,

mais sans partager ces données,
nous ne savons pas

lesquelles montrent des enfants
qui ont été sauvés

ou ont toujours besoin d'être sauvés.

Notre but premier est donc de connecter

toutes ces données.

Il y a deux façons dont elles
peuvent transformer cet espace,

combinées à des logiciels
utilisés mondialement.

La première est pour la police :

identifier les victimes plus rapidement,

arrêter les abus,

et bloquer les créateurs de contenu.

La deuxième est pour les entreprises :

s'en servir comme indices pour
identifier les millions de dossiers

qui circulent actuellement,

les retirer

puis empêcher la mise en ligne
de contenu avant qu'il devienne viral.

Il y a quatre ans,

à la fin de l'affaire

notre équipe était là,
ressentant un genre de...

sentiment profond d'échec, je dirais,

car nous avions observé toute cette année

quand ils la cherchaient.

Nous avons vu chaque étape de l'enquête

où ils auraient pu la retrouver
plus rapidement

si la technologie avait existé.

Nous sommes partis de ça

pour commencer à faire la seule
chose que nous savions faire :

nous avons créé des logiciels.

Nous avons commencé
avec les forces de l'ordre.

Nous rêvions d'une alarme
sur le bureau des policiers

pour que quelqu'un puisse commencer
à mener l'enquête

dès que quelqu'un osait poster
une nouvelle victime.

Je ne peux évidemment pas détailler
ce logiciel,

mais il est utilisé dans 38 pays,

réduisant le temps de retrouver un enfant

de plus de 65%.

(Applaudissements)

Nous travaillons actuellement
sur le second point :

créer le logiciel qui aide les entreprises
à repérer et supprimer le contenu.

Parlons un instant de ces entreprises.

Je vous disais, 45 millions d'images
et vidéos rien qu'aux US l'année dernière.

Qui venaient uniquement de 12 entreprises.

Douze entreprises, 45 millions
de dossiers d'abus d'enfants.

Venant de ces entreprises
ayant les moyens financiers

de créer les infrastructures nécessaires
à la suppression de ce contenu.

Il y a des centaines d'autres entreprises,

petites à moyennes, tout autour du monde

qui doivent faire ce travail, mais qui :

1) soit n'imaginent pas leur plateforme
utilisée pour ce contenu,

2) soit n'ont pas d'argent à investir si
cela ne leur rapporte pas de bénéfices.

Nous avons pris l'initiative
de le faire pour eux,

et plus il y a d'entreprises,
plus ce système est performant.

Je vous donne un exemple.

Notre premier partenaire, Imgur -
l'un des sites

les plus visités aux États-Unis -
partage des millions

de contenus crées
par les utilisateurs chaque jour

dans le but de faire d'Internet
un endroit plus amusant.

Ils se sont associés à nous.

En 20 minutes d'utilisation
de notre système,

quelqu'un a essayé de publier
du contenu abusif.

Ils ont pu l'en empêcher, le supprimer,

et l'ont signalé au National Center
for Missing and Exploited Children.

Mais ils sont allés plus loin,

et ont inspecté le compte de l'utilisateur
qui l'avait publié.

Ils ont trouvé des centaines d'autres
fichiers d'abus pédosexuels

qu'ils n'avaient jamais vus.

C'est là que nous commençons
à voir l'impact exponentiel.

Nous retirons le contenu,

le signalons au National Center
for Missing and Exploited Children

et ces hash sont sauvegardés
par le système

et les autres entreprises en profitent.

Quand les millions de hash en créent
d'autres, et qu'en temps réel,

les entreprises identifient
et retirent le contenu,

nous augmentons drastiquement
la vitesse à laquelle nous retirons

le contenu pédopornographique
d'Internet autour du monde.

(Applaudissements)

Mais il ne peut pas s'agir que
de logiciels et de données,

il faut que ce soit massif.

Nous devons engager
des centaines de policiers,

des centaines d'entreprises
autour du monde

lorsque la technologie nous permettra
de distancer les agresseurs

et de démanteler les réseaux
qui normalisent les abus pédosexuels

tout autour du monde.

Il faut faire cela maintenant.

Nous ne pouvons plus dire que nous n'en
connaissons pas l'impact sur nos enfants.

La première génération d'enfants
dont les abus sont devenus viraux

sont maintenant de jeunes adultes.

Le Centre Canadien
de Protection de l'Enfance

a récemment étudié ces jeunes adultes

afin de comprendre le trauma unique
dont ils doivent se remettre,

en sachant que leurs abus
sont toujours en ligne.

80% de ces jeunes adultes
ont pensé au suicide.

Plus de 60% ont tenté de se suicider.

La plupart d'entre eux vivent
chaque jour dans la peur

de marcher dans la rue,
de passer un entretien,

d'aller à l'école

ou de faire des rencontres en ligne,

et que leurs interlocuteurs
aient vu les abus qu'ils ont subis.

C'est ce qui est arrivé à 30% d'entre eux.

Ils ont été reconnus de ces abus en ligne.

Cela ne va pas être facile,

mais ce n'est pas impossible.

Cela va nécessiter la volonté,

la volonté de notre société

de voir quelque chose
qui est difficile à regarder,

de sortir quelque chose de l'obscurité

afin que ces enfants soient entendus ;

la volonté des entreprises d'agir
et de s'assurer que leurs plateformes

ne sont pas complices de ces abus ;

la volonté du gouvernement
et des forces de l'ordre d'investir

dans les outils nécessaires
dans les premiers crimes numériques,

même quand les victimes
ne peuvent pas parler.

Cet engagement audacieux s'inscrit
dans cette volonté.

C'est une déclaration de guerre contre
l'un des pires démons de l'humanité.

Ce à quoi je m'accroche,

c'est que c'est un investissement
pour un avenir

où chaque enfant peut simplement
être un enfant.

Merci.

(Applaudissements)