[Esta palestra apresenta conteúdo adulto]
Rana Ayyub é uma jornalista na Índia
que denunciou no seu trabalho a corrupção governamental
e violações dos direitos humanos.
E, ao longo dos anos,
habituou-se à crítica corrosiva e à controvérsia sobre o seu trabalho.
Mas nada disso a podia preparar para o que aconteceu em abril de 2018.
Ela estava num café com um amigo quando viu pela primeira vez
um vídeo de dois minutos e vinte segundos em que ela aparecia numa relação sexual.
Ela não podia acreditar no que via.
Nunca havia feito um vídeo de sexo.
Mas, infelizmente, milhares de pessoas
iam acreditar que era ela.
Eu entrevistei Ayyub há cerca de três meses,
para o meu livro sobre privacidade sexual.
Sou professora de Direito, advogada e porta-voz dos direitos civis.
É incrivelmente frustrante saber que, neste exato momento,
a lei pouco pode fazer para ajudá-la.
Enquanto conversávamos,
ela explicou-me que devia ter previsto aquele vídeo sexual forjado e disse:
"Afinal, o sexo é frequentemente usado para humilhar as mulheres,
"especialmente as que fazem parte de minorias,
"e mais ainda aquelas que se atrevem a desafiar homens poderosos",
como ela havia feito.
Esse vídeo de sexo forjado tornou-se viral em 48 horas.
Todas as suas contas "online"
foram inundadas com imagens retiradas desse vídeo,
com ameaças gráficas de violação e de morte
e com insultos em relação à fé muçulmana dela.
Publicações "online" sugeriam que ela estava "disponível" para sexo.
E ela foi "doxed",
o que significa que o endereço e o número do telemóvel dela
foram divulgados na Internet.
O vídeo foi partilhado mais de 40 000 vezes.
Quando alguém é alvo deste tipo de ataque cibernético,
os danos são profundos.
A vida de Rana Ayyub virou-se de pernas para o ar.
Durante semanas, ela mal conseguia comer ou falar.
Deixou de escrever e fechou todas as contas nas redes sociais,
o que é uma coisa muito difícil para uma jornalista.
Tinha medo de sair de casa.
E se quem escrevia cumprisse as suas ameaças?
O Conselho dos Direitos Humanos da ONU confirmou que ela não estava paranoica.
Emitiram uma declaração pública dizendo
que estavam preocupados com a sua segurança.
O que Rana Ayyub enfrentava era um "deepfake",
uma tecnologia de aprendizagem automática
que manipula ou fabrica gravações de áudio e vídeo
para mostrar pessoas a fazer ou a dizer
coisas que nunca fizeram ou disseram.
Os "deepfakes" parecem autênticos e reais, mas não são,
são puras mentiras.
Embora esta tecnologia ainda esteja a aperfeiçoar-se.
já está amplamente disponível.
O interesse atual em "deepfakes" surgiu
— como com muitas coisas "online" —
com a pornografia.
No início de 2018,
alguém publicou uma ferramenta no Reddit
que permite às pessoas colocar rostos em vídeos pornográficos.
O que se seguiu foi uma enxurrada de vídeos pornográficos falsos
protagonizados pelas celebridades preferidas do público.
E hoje é possível achar no YouTube inúmeros tutoriais
com instruções passo-a-passo
para criar um "deepfake" num aplicativo do computador.
Em breve, talvez seja possível criá-los nos nossos telemóveis.
Mas é a interação das fraquezas humanas mais básicas
com ferramentas na Internet
que pode transformar os "deepfakes" em armas.
Passo a explicar.
Enquanto seres humanos, temos uma reação visceral aos áudios e vídeos.
Acreditamos que são verdadeiros,
baseando-nos na noção de que podemos acreditar
no que os nossos olhos e ouvidos estão a dizer.
É esse mecanismo
que pode enfraquecer o nosso sentido de realidade comum.
Embora acreditemos que os "deepfakes" sejam reais, não são.
E somos atraídos por aquilo que é obsceno, provocador.
Temos a tendência a acreditar e a partilhar informações
que sejam negativas, que sejam novidade.
Os investigadores descobriram que as aldrabices "online"
propagam-se dez vezes mais depressa
do que histórias verdadeiras.
Também somos atraídos por informações
alinhadas com o nosso ponto de vista.
Os psicólogos chamam a essa tendência de "preconceito de confirmação".
As plataformas das redes sociais superalimentam essa tendência,
quando nos permitem partilhar, instantânea e amplamente,
informações de acordo com os nossos pontos de vista.
Os "deepfakes" podem causar graves danos pessoais e sociais.
Imaginem um "deepfake"
que mostre soldados americanos a incendiar um Alcorão no Afeganistão.
É fácil imaginar que este "deepfake" provocaria violência
contra esses soldados.
E se, no dia seguinte,
surgisse um outro "deepfake",
a mostrar um conhecido imã de Londres
a pregar o ataque a esses soldados?
Poderíamos ver a violência e a desordem civil
não só no Afeganistão e no Reino Unido,
mas pelo mundo inteiro.
Vocês poderiam dizer:
"Por favor, Danielle, isso é rebuscado".
Mas não é.
Já vimos que a propagação de mentiras
no WhatsApp e noutros mensageiros "online"
resultou em violência contra minorias étnicas.
E foi apenas texto,
imaginem se fosse um vídeo.
Os "deepfakes" têm a capacidade de destruir a confiança que temos
nas instituições democráticas.
Então, imaginem que, na noite antes dumas eleições,
temos um "deepfake" que mostra um dos candidatos do principal partido
gravemente doente.
Esse "deepfake" pode decidir as eleições
e abalar o nosso sentido de que as eleições são legítimas.
Imaginem se, na noite anterior a uma oferta pública
de um importante banco global,
aparecesse um "deepfake" a mostrar o CEO do banco embriagado,
a vomitar teorias da conspiração.
O "deepfake" pode afundar a oferta pública,
e pior, pode abalar a nossa noção de que o mercado financeiro é estável.
Os "deepfakes" podem explorar e expandir
a profunda desconfiança que já temos
nos políticos, nos líderes de negócios e noutros líderes influentes.
Eles encontram uma audiência pronta para acreditar neles.
A procura da verdade também está em jogo.
Tecnólogos esperam que, com o avanço da inteligência artificial,
em breve será difícil, se não impossível,
dizer a diferença entre um vídeo real e um vídeo falso.
Então, como pode a verdade surgir
num mercado de ideias movido a "deepfakes"?
Será que vamos seguir pelo caminho de menor resistência,
acreditar no que queremos acreditar,
e a verdade que se dane?
Não só acreditaríamos no falso,
como podíamos começar a descrer da verdade.
Já vimos pessoas invocar o fenómeno dos "deepfakes"
para provocar dúvidas sobre indícios reais das suas más ações.
Ouvimos políticos dizer sobre áudios com comentários seus perturbadores:
"Por favor, isso são notícias falsas.
"Vocês não podem acreditar no que os vossos olhos e ouvidos estão a dizer."
É esse o risco
a que o professor Robert Chesney e eu chamamos "dividendo do mentiroso":
o risco de que os mentirosos venham a invocar os "deepfakes"
para escapar à responsabilidade das suas más ações.
Temos um trabalho difícil a fazer, não há dúvidas quanto a isso.
E vamos precisar de uma solução proativa
das empresas de tecnologia, dos legisladores,
dos agentes da lei e dos "media".
E vamos precisar de uma boa dose de resiliência da sociedade.
Neste momento, estamos empenhados numa conversa pública
sobre a responsabilidade das empresas de tecnologia.
O meu conselho para as plataformas de redes sociais
tem sido mudar os termos do serviço e as orientações para a comunidade
para impedir "deepfakes" que causem danos.
Esta determinação vai requerer a avaliação humana,
e isso é caro.
Mas precisamos que haja seres humanos
que olhem para o conteúdo e o contexto de um "deepfake"
para perceberem se é uma representação prejudicial
ou se, pelo contrário, tem valor como sátira, arte ou educação.
E quanto à lei?
A lei é a nossa educadora.
Ensina-nos o que é prejudicial e o que é errado.
E configura o comportamento que inibe, punindo os criminosos,
e que assegura indemnizações às vítimas.
Neste momento, a lei não está apta a desafiar os "deepfakes".
No mundo inteiro,
temos falta de leis bem feitas
com o objetivo de enfrentar falsificações digitais
que invadam a privacidade sexual,
que prejudiquem reputações
e que causem sofrimento emocional.
O que aconteceu a Rana Ayyub é um lugar comum cada vez mais frequente.
Mesmo assim, quando recorreu à lei em Deli,
disseram-lhe que não podiam fazer nada.
A triste verdade é que o mesmo aconteceria
nos EUA e na Europa.
Temos um vácuo legal que precisa de ser preenchido.
A Dra. Mary Anne Franks e eu estamos a trabalhar com legisladores americanos
na elaboração de leis capazes de proibir falsificações digitais nocivas,
comparáveis a roubo de identidade.
Temos visto movimentos parecidos
na Islândia, no Reino Unido e na Austrália.
Claro, esta é apenas uma pequena peça no "puzzle" regulatório.
Eu sei que a lei não resolve tudo.
É um instrumento pouco preciso
e temos de usá-lo com sabedoria.
Também tem alguns inconvenientes práticos.
Não podemos aplicar a lei contra pessoas sem as identificar e achar.
Se um criminoso viver fora do país em que a vítima vive,
pode ser difícil conseguir
que ele compareça no tribunal local
para responder à justiça.
Assim, precisamos de uma resposta internacional coordenada.
A educação também tem de fazer parte da nossa resposta.
As autoridades legais não vão impor leis que desconhecem
e aconselhar problemas que não entendem.
Na minha pesquisa sobre perseguição cibernética
descobri que os agentes da polícia não têm formação
para entender as leis disponíveis
e o problema da violência "online".
Frequentemente diziam às vítimas:
"Desligue o computador. Ignore. Isso passa".
Vimos isso no caso de Rana Ayyub.
Disseram-lhe: "Você está a fazer uma tempestade num copo de água."
"Isso é coisa de rapaziada".
Por isso, precisamos de combinar novas leis com ações de formação.
Os "media" também têm de ser alvo de educação.
Os jornalistas precisam de ter formação quanto ao fenómeno dos "deepfakes"
para não os ampliarem e espalharem.
E é aqui que estamos todos envolvidos.
Cada um de nós precisa de se educar.
Clicamos, partilhamos, gostamos, sem sequer pensar nisso.
Temos de melhorar isso.
Precisamos de ficar muito mais atentos às falsificações.
Enquanto trabalhamos nestas soluções,
ainda haverá muito sofrimento.
Rana Ayyub ainda está a lidar com as consequências.
Ela ainda não se sente à vontade para se exprimir "online" e "offline".
E como me disse,
ela ainda sente milhares de olhos sobre o seu corpo nu
embora, intelectualmente, saiba que aquele não era o corpo dela.
Ela tem ataques de pânico frequentes,
especialmente quando algum desconhecido tenta tirar-lhe uma fotografia.
"E se eles fizerem outro 'deepfake'?" pensa consigo mesma.
Então, a bem de pessoas como Rana Ayyub
e a bem da nossa democracia,
precisamos de fazer algo já.
Obrigada.
(Aplausos)