Como podemos eliminar material contendo abuso sexual infantil da internet

A empresária social Julie Cordua trabalha em um problema nada fácil de ser abordado: o abuso sexual de crianças em imagens e vídeos na internet. Na Thorn, ela está desenvolvendo tecnologia para conectar os pontos entre a indústria de tecnologia, as autoridades policiais e o governo para que possamos impedir rapidamente a distribuição viral de material contendo abuso e resgatar crianças mais prontamente. Saiba mais sobre como essa solução escalável pode ajudar a desmantelar as comunidades que hoje normalizam o abuso sexual infantil em todo o mundo. (Esse plano ambicioso faz parte do Audacious Project, a iniciativa do TED para inspirar e financiar mudanças globais.)

[Esta palestra apresenta conteúdo adulto]

Há cinco anos,

recebi um telefonema
que mudaria a minha vida.

Lembro-me muito bem daquele dia.

Foi por volta dessa época do ano,

e eu estava no meu escritório.

Lembro-me do sol entrando pela janela.

E meu telefone tocou.

Eu atendi,

e eram dois agentes federais
pedindo a minha ajuda

para identificar uma garotinha

que aparecia em centenas de fotos
de abuso sexual infantil

que eles haviam encontrado on-line.

Tinham apenas começado
a trabalhar no caso,

mas o que eles sabiam

é que o abuso dela havia sido transmitido
ao mundo todo por anos

em sites da "dark web" dedicados
ao abuso sexual de crianças.

E o abusador dela tinha um conhecimento
tecnológico incrivelmente sofisticado:

novas imagens e vídeos publicados
a cada poucas semanas,

mas quase nenhuma pista de quem ela era

ou do paradeiro dela.

Eles nos ligaram,

pois ouviram dizer que éramos
uma nova organização sem fins lucrativos

desenvolvendo tecnologia
para combater o abuso sexual infantil.

Mas existíamos há apenas dois anos,

e tínhamos trabalho apenas
com o tráfico de sexo infantil.

Eu tive que dizer a eles

que não tínhamos nada.

Nada que pudesse ajudá-los
a impedir esse tipo de abuso.

Aqueles agentes levaram mais um ano

para finalmente encontrar aquela criança.

E quando ela foi resgatada,

centenas de imagens e vídeos documentando
o estupro dela haviam viralizado,

vindos da dark web

para redes ponto-a-ponto,
salas de bate-papo particulares

e para websites que todos nós usamos

todo santo dia.

E hoje, enquanto luta pra se recuperar,

ela vive com a certeza
de que milhares de pessoas mundo afora

continuam a assistir ao abuso dela.

Acabei descobrindo nos últimos cinco anos

que esse caso está longe de ser o único.

Como chegamos a esse ponto como sociedade?

No final da década de 1980,
a pornografia infantil

ou o que é, na verdade,
material de abuso sexual de crianças,

tinha quase sido eliminado.

Novas leis e o aumento de processos
judiciais tornaram muito arriscado

o comércio pelo correio convencional.

Até que surgiu a internet
e esse mercado explodiu.

A quantidade de material
em circulação atualmente

é enorme e vem crescendo.

É um problema verdadeiramente global,

mas se analisarmos apenas os EUA:

somente no último ano,

mais de 45 milhões de imagens e vídeos
contendo abuso sexual de crianças

foram reportados ao Centro Nacional
de Crianças Desaparecidas e Exploradas,

e isso é quase o dobro
do número do ano anterior.

E é difícil considerar os detalhes
por trás desses números,

com mais de 60% das imagens
mostrando crianças menores de 12 anos,

e a maioria dessas imagens incluindo
atos de extrema violência sexual.

Abusadores são aclamados
em salas de bate-papo

dedicadas ao abuso de crianças,

e eles ganham posição e notoriedade
com mais abuso e mais vítimas.

Nesse mercado,

a moeda tornou-se o próprio conteúdo.

Fica claro que os abusadores têm sido
rápidos ao alavancar novas tecnologias,

mas nossa resposta como sociedade, não.

Esses abusadores não leem
contratos de usuário dos sites,

e o conteúdo não respeita
limites geográficos.

E eles vencem quando analisamos
uma peça do quebra-cabeça de cada vez,

que é exatamente como nossa resposta
está projetada atualmente.

A aplicação da lei funciona
em uma jurisdição.

As empresas apenas observam
sua própria plataforma.

E quaisquer dados descobertos
ao longo do caminho

raramente são compartilhados.

Fica muito claro que essa abordagem
desconectada não está funcionando.

Devemos redesenhar
nossa resposta a essa epidemia

para a era digital.

E é exatamente isso que fazemos na Thorn.

Estamos construindo a tecnologia
que irá conectar esses pontos

e irá munir todos na linha de frente,

autoridades policiais, ONGs e empresas,

com as ferramentas que precisam
para finalmente eliminar da internet

todo o material de abuso sexual infantil.

Vou falar um pouco...

(Aplausos)

Obrigada.

(Aplausos)

Vou falar por um minuto
sobre quais são esses pontos.

Como podem imaginar,
esse conteúdo é horrível.

Se não "precisa" olhar para isso,
você simplesmente não quer olhar.

Sendo assim,

a maioria das agências de autoridades
detentoras desse conteúdo

pode traduzir todos os arquivos
numa única sequência numérica.

Isso é chamado de "hash".

É basicamente uma impressão digital

para cada arquivo ou vídeo.

E isso permite que eles usem
as informações nas investigações

ou que uma empresa remova
o conteúdo da plataforma dela,

sem precisar analisar
cada imagem e vídeo toda vez.

O problema hoje em dia, no entanto,

é que existem centenas
de milhões desses hashes

em bancos de dados isolados
em todo o mundo.

Num silo, podem funcionar para a agência
que exerce controle sobre eles,

mas não conectar esses dados significa
não sabermos quantos deles são únicos.

Não sabemos quais representam
crianças que já foram resgatadas

ou que ainda precisam ser identificadas.

Nossa premissa mais urgente e básica
é a de que todos esses dados

devem estar conectados.

Há duas maneiras nas quais esses dados,
combinados com software em escala global,

podem causar um impacto
transformador nesta área.

O primeiro é com as autoridades policiais:

ajudando-as a identificar
novas vítimas mais rapidamente,

impedindo o abuso

bem como aqueles
que produzem esse conteúdo.

O segundo é com as empresas:

usando-os como pistas para identificar
as centenas de milhões de arquivos

em circulação hoje,

retirá-los do ar

e depois impedir o upload de novo material
antes mesmo que ele viralize.

Há quatro anos,

quando aquele caso foi encerrado,

nossa equipe conversou e sentimos...

uma profunda sensação de fracasso,
é como posso expressar isso,

porque acompanhamos o ano inteiro

enquanto eles a procuravam.

E vimos todos os lugares na investigação

onde, se tivéssemos a tecnologia na época,
eles a teriam encontrado mais rapidamente.

E, então, nos afastamos do caso

e fizemos o que sabíamos fazer:

passamos a construir software.

Começamos com as autoridades policiais.

Nosso sonho era um alarme nas mesas
de agentes por todo o mundo

para que, caso alguém se atrevesse
a publicar uma nova vítima on-line,

alguém passaria a procurar
pelo infrator imediatamente.

Obviamente não posso falar
sobre os detalhes desse software,

mas hoje está em operação em 38 países,

tendo reduzido o tempo que se leva
para chegar a uma criança

em mais de 65%.

(Aplausos)

E agora estamos embarcando
neste segundo horizonte:

construindo o software pra ajudar empresas
a identificar e remover este conteúdo.

Vou falar brevemente sobre essas empresas.

Como eu disse, foram 45 milhões de imagens
e vídeos somente nos EUA no ano passado,

provenientes de apenas 12 empresas.

Doze empresas, 45 milhões de arquivos
de material com abuso sexual infantil.

Eles vêm das empresas que têm dinheiro

para construir a infraestrutura necessária
para retirar esse conteúdo.

Mas há centenas de outras empresas,

pequenas e médias, em todo o mundo,
que precisam fazer esse trabalho,

mas ou elas não imaginam que a plataforma
delas seria usada para o abuso,

ou não têm dinheiro para gastar
em algo que não esteja gerando receita.

Então construímos o software para elas,

e esse sistema agora fica mais inteligente
com a participação de mais empresas.

Vou dar um exemplo.

Nosso primeiro parceiro, Imgur:

se não ouviram falar dessa empresa,
é um dos sites mais visitados nos EUA,

milhões de exemplos de conteúdo
criados por usuários enviados diariamente,

com a missão de tornar
a internet mais divertida.

Eles fizeram parceria conosco primeiro.

Após 20 minutos de operação
do nosso sistema,

alguém tentou fazer o upload
de material de abuso já conhecido.

Conseguiram impedir o upload,
retirar o conteúdo,

e denunciá-lo ao Centro Nacional
de Crianças Desaparecidas e Exploradas.

Mas o site deu um passo adiante,

e eles inspecionaram a conta
da pessoa que fez o upload.

Havia centenas de outros exemplos
de material de abuso sexual infantil

que nunca tínhamos visto.

E é aqui que começamos
a ver um impacto exponencial.

Nós retiramos esse material,

ele é relatado ao Centro Nacional
de Crianças Desaparecidas e Exploradas

e então esses hashes voltam para o sistema
e beneficiam as outras empresas nele.

E quando os milhões de hashes que temos
levarem a milhões a mais e, em tempo real,

empresas mundo afora identificarem
e retirarem esse conteúdo,

teremos aumentado drasticamente
a velocidade com a qual removemos

material de abuso sexual infantil
da internet em todo o mundo.

(Aplausos)

Mas é por isso que não pode ter a ver
apenas com software e dados,

e sim com larga escala.

Precisamos ativar milhares de agentes,

centenas de empresas em todo o mundo,

se a tecnologia nos permitir
ultrapassar os infratores

e desmantelar as comunidades
que normalizam o abuso sexual infantil

em todo o mundo hoje.

Agora é a hora de fazermos isso.

Não podemos mais ignorar o impacto
que isso está causando em nossas crianças.

A primeira geração de crianças
cujo abuso sexual tornou-se viral

agora é de jovens adultos.

O Centro Canadense de Proteção à Criança

acabou de fazer um estudo
sobre esses jovens adultos

para entender o trauma singular
do qual eles tentam se recuperar,

sabendo que o abuso deles continua vivo.

Desses jovens adultos,
80% já contemplaram o suicídio.

Mais de 60% tentaram o suicídio.

E a maioria desses jovens
vive constantemente com o medo

de ser reconhecido ao caminhar pela rua
ou participar de uma entrevista de emprego

ou ao ir para a escola

ou mesmo ao conhecer uma pessoa on-line,

por alguém que tenha visto o abuso deles.

E isso tornou-se realidade
para mais de 30% deles.

Eles foram reconhecidos pelo material
do abuso deles disponível on-line.

Isso não será fácil,

mas não é impossível.

Agora precisaremos contar
com a determinação da nossa sociedade

de olhar para algo
realmente difícil de encarar;

tirar algo da escuridão

para que essas crianças tenham uma voz;

a determinação das empresas de agir
e se certificar que suas plataformas

não são cúmplices do abuso de uma criança;

a determinação dos governos
de investir em suas autoridades policiais

com as ferramentas que eles precisam
para investigar um primeiro crime digital,

mesmo quando as vítimas
não podem falar por si mesmas.

Este compromisso audacioso
faz parte dessa determinação.

É uma declaração de guerra contra
um dos males mais sombrios da humanidade.

Mas o que mais me motiva

é que isso é, na verdade,
um investimento num futuro

no qual toda criança pode
simplesmente ser criança.

Obrigada.

(Aplausos)