Como os "deepfakes" minam a verdade e ameaçam a democracia

O uso da tecnologia "deepfake" para manipular vídeo e áudio para fins maliciosos, seja para alimentar a violência ou difamar políticos e jornalistas, está se tornando uma ameaça real. À medida que essas ferramentas se tornam mais acessíveis e seus produtos mais realistas, como eles moldarão o que acreditamos sobre o mundo? Em uma palestra portentosa, a professora de direito Danielle Citron revela como deepfakes ampliam nossa desconfiança, e sugere abordagens para salvaguardar a verdade.

[Esta palestra apresenta conteúdo adulto]

Rana Ayyub é uma jornalista na Índia

cujo trabalho expôs a corrupção do governo

e violações de direitos humanos.

E ao longo dos anos,

ela se acostumou com criticismo severo
e controvérsia em torno de seu trabalho.

Mas nada disso poderia tê-la preparado
para o que enfrentou em abril de 2018.

Ela estava num café com um amigo
quando viu pela primeira vez

um vídeo de dois minutos
e vinte segundos dela num ato sexual.

Não acreditou no que estava vendo.

Ela nunca fez um vídeo de sexo.

Mas, infelizmente, milhares de pessoas

acreditaram que era ela.

Entrevistei a Sra. Ayyub
cerca de três meses atrás,

em conexão com meu livro
sobre privacidade sexual.

Sou professora de direito, advogada
e defensora dos direitos civis.

É incrivelmente frustrante saber que agora

a lei pode fazer muito pouco pra ajudá-la.

E enquanto conversávamos,

ela explicou que deveria ter
previsto o vídeo de sexo falso.

Ela disse: "Afinal, sexo costuma ser usado
para humilhar e envergonhar as mulheres,

especialmente mulheres de minorias,

e especialmente as que ousam
desafiar homens poderosos",

como ela fazia em seu trabalho.

O vídeo de sexo falso
se tornou viral em 48 horas.

Todas as suas contas on-line foram
inundadas com capturas de tela do vídeo,

ameaças explícitas de estupro e morte

e com insultos à sua fé muçulmana.

Postagens on-line sugeriam que ela
estava "disponível" para o sexo.

E ela tinha sido "doxed",

ou seja, o número de celular
e o endereço residencial dela

foram espalhados pela internet.

O vídeo foi compartilhado
mais de 40 mil vezes.

Quando alguém é alvo
desse tipo de ataque cibernético,

o dano é profundo.

A vida de Rana Ayyub
virou de cabeça para baixo.

Por semanas, ela mal podia comer ou falar.

Ela parou de escrever e cancelou
todas as contas de rede social,

algo difícil de fazer
quando se é jornalista.

Ela tinha medo de sair
da casa de sua família.

E se aquelas ameaças fossem cumpridas?

O Conselho de Direitos Humanos da ONU
confirmou que ela não estava exagerando.

Emitiu uma declaração pública dizendo que
estavam preocupados com a segurança dela.

Rana Ayyub enfrentou um "deepfake":

tecnologia de aprendizado de máquina

que manipula ou fabrica
gravações de áudio e vídeo

mostrando pessoas fazendo e dizendo coisas

que elas nunca fizeram ou disseram.

Deepfakes parecem autênticos
e realistas, mas não são,

são falsidades totais.

Embora a tecnologia ainda esteja
se desenvolvendo em sofisticação,

ela está amplamente disponível.

O interesse mais recente
aos deepfakes surgiu,

como muitas coisas on-line,

com a pornografia.

No início de 2018,

alguém postou uma ferramenta no Reddit

permitindo que os usuários pusessem
rostos em vídeos pornográficos.

E o que se seguiu foi uma cascata
de vídeos pornográficos falsos

apresentando as celebridades
femininas favoritas das pessoas.

E hoje, podemos acessar o YouTube
e assistir a inúmeros tutoriais

com instruções passo a passo

de como fazer um deepfake no computador.

Em breve poderemos fazê-lo
em nosso telefone celular.

A interação de algumas de nossas
fragilidades humanas mais básicas

com ferramentas de rede

podem transformar deepfakes em armas.

Deixem-me explicar.

Como seres humanos, temos
uma reação visceral ao áudio e vídeo.

Acreditamos que são verdadeiros,

já que é claro que podemos acreditar

no que nossos olhos e ouvidos
estão nos dizendo.

E é esse mecanismo

que pode comprometer
nosso senso comum de realidade.

Embora acreditemos que deepfakes
sejam verdadeiros, eles não são.

E nós somos atraídos
pelo obsceno e provocante.

Tendemos a acreditar
e compartilhar informações

negativas e novas.

Pesquisadores descobriram que os boatos
on-line se espalham dez vezes mais rápido

do que histórias verdadeiras.

Também somos atraídos por informações

alinhadas com nossos pontos de vista.

Psicólogos chamam essa tendência
de "viés de confirmação".

E as plataformas de rede social
sobrecarregam essa tendência,

permitindo compartilhar informações,
instantaneamente e amplamente,

que estejam de acordo com nossa opinião.

Deepfakes têm o potencial de causar
graves danos individuais e sociais.

Então, imaginem um deepfake

que mostre soldados norte-americanos
no Afeganistão queimando um Alcorão.

Podem imaginar que esse deepfake
provocaria violência contra eles.

E se no dia seguinte

há outro deepfake,

mostrando um imame que mora em Londres
enaltecendo o ataque a esses soldados?

Poderíamos ver violência e agitação civil,

não só no Afeganistão e no Reino Unido,

mas em todo o mundo.

E vocês podem me dizer:
"Deixe disso, Danielle, é exagero".

Mas não é.

Vimos mentiras espalhadas

no WhatsApp e outros serviços
de mensagens on-line

levarem à violência
contra minorias étnicas.

E isso era apenas um texto!

imaginem se fosse um vídeo.

Deepfakes têm o potencial
de corroer a confiança que temos

em instituições democráticas.

Imaginem a véspera de uma eleição.

Há um deepfake mostrando
um dos principais candidatos do partido

gravemente doente.

O deepfake pode derrubar a eleição

e abalar nossa noção
de que as eleições são legítimas.

Imaginem se na véspera
de uma oferta pública inicial, ou OPI,

de um grande banco global

há um deepfake mostrando o CEO do banco
dizendo embriagado teorias de conspiração.

O deepfake pode detonar a OPI,

e pior, abalar nossa noção de que
os mercados financeiros são estáveis.

Deepfakes podem explorar e ampliar
a profunda desconfiança que já temos

de políticos, líderes empresariais
e outros líderes influentes.

Eles encontram uma plateia
preparada para acreditar neles.

A busca pela verdade também está em jogo.

Tecnólogos preveem
que, com os avanços na IA,

logo poderá ser difícil, senão impossível,

distinguir um vídeo real de um falso.

Então, como a verdade pode emergir
num mercado repleto de deepfakes?

Vamos então apenas pegar o caminho
de menor resistência,

acreditar no que quisermos acreditar,

e dane-se a verdade?

E podemos não apenas acreditar na mentira,

mas começar a não acreditar na verdade.

Já vimos pessoas recorrendo
ao fenômeno dos deepfakes

para lançar dúvidas em evidências reais
de suas transgressões.

Vimos políticos falarem sobre o áudio
de seus comentários constrangedores:

"Vamos lá, são notícias falsas.

Não podem acreditar no que seus olhos
e ouvidos estão dizendo a você".

E é esse perigo

que o professor Robert Chesney e eu
chamamos de "dividendo do mentiroso":

o risco de que os mentirosos
recorram a deepfakes

para escapar da responsabilização
por seus erros.

Nosso trabalho ficou mais difícil,
não há dúvida sobre isso.

E vamos precisar de uma solução proativa

de empresas de tecnologia, legisladores,

agentes da lei e da mídia.

Também de uma dose saudável
de resiliência social.

Estamos agora envolvidos
numa discussão muito pública

sobre a responsabilidade
das empresas de tecnologia.

E meu conselho
para plataformas de rede social

tem sido alterar os termos de serviço
e as diretrizes da comunidade

para proibir deepfakes que causem danos.

Essa determinação
exigirá julgamento humano

e ela é cara.

Mas precisamos de seres humanos

para examinar o conteúdo
e o contexto de um deepfake

e descobrir se é uma falsificação danosa

ou uma sátira válida, arte ou educação.

E quanto à lei?

A lei é nosso educador.

Nos ensina o que é prejudicial
e o que está errado.

Modela o comportamento, punindo os autores
e garantindo soluções para as vítimas.

No momento, a lei não está à altura
do desafio dos deepfakes.

Em todo o mundo,

nos faltam leis adequadas

para enfrentar falsificações digitais

que invadem a privacidade sexual,

prejudicam reputações

e causam sofrimento emocional.

O que aconteceu com Rana Ayyub
é cada vez mais comum.

Mas quando ela procurou
as autoridades em Deli,

lhe foi dito que nada poderia ser feito.

E o triste é que aconteceria o mesmo
nos Estados Unidos e na Europa.

Portanto, temos um vácuo legal
que precisa ser preenchido.

A Dra. Mary Anne Franks e eu trabalhamos
com legisladores norte-americanos

para criar uma legislação que proíba
falsificações digitais nocivas,

equiparáveis a roubo de identidade.

E temos visto movimentos semelhantes

na Islândia, Reino Unido e Austrália.

Mas é claro, é apenas uma pequena parte
do quebra-cabeça regulatório.

Sei que a lei não é uma panaceia, certo?

É um instrumento contundente.

E temos que usá-la com sabedoria.

Ela também tem impedimentos práticos.

Não podemos aplicar a lei contra pessoas
que não podemos identificar e encontrar.

E se um criminoso não mora
no mesmo país que a vítima,

talvez não consigamos fazer com que venha
enfrentar a justiça num tribunal local.

E assim vamos precisar
de uma resposta internacional coordenada.

A educação também deve
fazer parte da nossa resposta.

Agentes não aplicarão leis

que eles não conhecem,

nem resolverão problemas
que eles não entendem.

Na minha pesquisa
sobre perseguição cibernética,

descobri que os agentes
não tinham treinamento

para entender as leis disponíveis

e o problema do abuso on-line.

E tantas vezes eles disseram às vítimas:

"Apenas desligue o computador.
Ignore. Vai passar".

E vimos isso no caso de Rana Ayyub.

Foi-lhe dito: "Você está fazendo
o maior drama sobre isso.

São meninos sendo meninos".

E então precisamos emparelhar a nova
legislação com esforços no treinamento.

E a educação também deve
ser destinada para a mídia.

Jornalistas precisam aprender
sobre o fenômeno dos deepfakes

para que não os amplifiquem e espalhem.

Esta é a parte em que estamos
todos envolvidos.

Cada um de nós precisa de educação.

Clicamos, compartilhamos,
curtimos algo e nem pensamos nisso.

Nós precisamos fazer melhor.

Precisamos de um radar
muito melhor para mentira.

Enquanto trabalharmos nessas soluções,

haverá muito sofrimento para superar.

Rana Ayyub ainda está
enfrentando as consequências.

Ainda não se sente livre
para se expressar on-line e off-line.

E como me disse,

ela ainda sente como se houvesse
milhares de olhos observando seu corpo nu,

embora, racionalmente,
saiba que não era o corpo dela.

E ela tem ataques de pânico frequentes,

especialmente quando alguém que ela
não conhece tenta tirar uma foto dela.

"E se fizerem outro deepfake?", ela pensa.

Então, pelo bem de pessoas como Rana Ayyub

e pelo bem da nossa democracia,

precisamos fazer algo agora.

Obrigada.

(Aplausos)