Em 23 de abril de 2013,
a Associated Press fez a seguinte publicação no Twitter:
"Notícia de última hora:
duas explosões na Casa Branca,
e Barack Obama foi ferido".
Essa publicação foi repassada 4 mil vezes em menos de cinco minutos
e viralizou a partir de então.
A publicação não era uma notícia real divulgada pela Associated Press.
Na realidade, era uma notícia falsa, ou "fake news",
espalhada por hackers sírios
que se infiltraram no perfil da Associated Press no Twitter.
O objetivo era perturbar a sociedade, mas eles foram além.
Os algoritmos de troca automatizada
apoderaram-se imediatamente da emoção dessa publicação
e começaram a funcionar com base na possibilidade
de o presidente dos Estados Unidos ter sido ferido ou morto nessa explosão.
Quando começaram a publicar,
levaram imediatamente o mercado acionário a um colapso,
zerando US$ 140 bilhões em valor patrimonial em um único dia.
Robert Mueller, promotor de justiça especial dos Estados Unidos,
fez acusações contra 3 empresas russas
e 13 indivíduos russos
em uma conspiração para fraudar os Estados Unidos,
interferindo na eleição presidencial de 2016.
Essa acusação
conta a história da Agência de Pesquisa da Internet,
a divisão sombria do Kremlin nas mídias sociais.
Somente durante a eleição presidencial,
os esforços da Agência da Internet
alcançaram 126 milhões de pessoas no Facebook nos Estados Unidos,
fizeram 3 milhões de publicações individuais no Tweeter
e o equivalente a 43 horas de conteúdo do YouTube.
Tudo isso era falso,
notícias falsas para semear discórdia na eleição presidencial dos EUA.
Um estudo recente da Universidade Oxford
mostrou que, nas eleições suecas recentes,
um terço de todas as notícias divulgadas nas mídias sociais
sobre a eleição
eram falsas ou incorretas.
Além disso, esses tipos de campanhas de notícias falsas nas mídias sociais
podem espalhar o que foi chamado de "propaganda genocida",
por exemplo, contra o povo rohingya na Birmânia,
provocando assassinatos em massa na Índia.
Estudamos notícias falsas
e começamos antes de essa expressão ficar conhecida.
Recentemente, publicamos o estudo mais extenso de todos os tempos
sobre a disseminação de notícias falsas on-line
na capa da "Science" de março deste ano.
Estudamos todas as notícias falsas e verdadeiras verificadas
já divulgadas no Twitter,
desde o início em 2006 até 2017.
Quando estudamos essas notícias,
estudamos notícias verificadas
por seis organizações independentes de verificação de fatos.
Sabíamos quais histórias eram verdadeiras
e quais eram falsas.
Conseguimos medir a disseminação delas,
a velocidade de disseminação,
a profundidade e a amplitude de disseminação,
quantas pessoas se envolvem nessa cascata de notícias e assim por diante.
Nesse artigo,
comparamos a disseminação de notícias verdadeiras com a de notícias falsas.
Eis o que descobrimos:
notícias falsas se espalham mais, mais rápido, mais profundamente
e mais amplamente do que a verdade
em todas as categorias de notícias que estudamos,
às vezes por ordem de grandeza.
De fato, notícias políticas falsas viralizaram mais.
Espalharam-se mais, mais rápido, mais profundamente e amplamente
do que qualquer outro tipo de notícia falsa.
Quando vimos isso,
ficamos imediatamente preocupados, mas também curiosos.
Por quê?
Por que notícias falsas viajam muito mais, mais rápido, mais profundamente
e mais amplamente do que a verdade?
A primeira hipótese que sugerimos foi:
"Talvez quem espalha notícias falsas tenha mais seguidores, siga mais pessoas,
publique com mais frequência,
ou talvez seja usuário 'verificado' do Twitter, com mais credibilidade,
ou talvez esteja no Twitter há mais tempo".
Verificamos cada uma dessas opções
e descobrimos exatamente o oposto.
Quem espalha notícias falsas tinha menos seguidores,
seguia menos pessoas, era menos ativo,
menos "verificado"
e estava no Twitter há menos tempo.
No entanto,
notícias falsas tinham 70% mais chances de serem repassadas do que a verdade,
sendo controladas por todos esses e muitos outros fatores.
Tivemos que propor outras explicações.
Criamos o que chamamos de "hipótese da novidade".
Se você lê a literatura,
sabe que a atenção humana é atraída por novidades,
coisas novas no ambiente.
Se você lê a literatura sobre sociologia,
sabe que gostamos de compartilhar novas informações.
Isso nos faz parecer que temos acesso a informações privilegiadas
e ganhamos status ao espalhar esse tipo de informação.
Medimos a novidade de uma publicação verdadeira ou falsa que chega no Twitter
e comparamos às publicações que aquele indivíduo havia visto
nos 60 dias anteriores no Twitter.
Mas isso não foi suficiente, porque pensamos:
"Talvez notícias falsas sejam mais novas em um sentido teórico da informação,
mas talvez as pessoas não as percebam como mais novas".
Para entender a percepção das pessoas sobre notícias falsas,
analisamos a informação e o sentimento
contidos nas respostas a publicações verdadeiras e falsas no Twitter.
Descobrimos que, em várias medidas diferentes de sentimento -
surpresa, repulsa, medo, tristeza,
expectativa, alegria e confiança -
notícias falsas demonstravam significativamente mais surpresa e repulsa
nas respostas a publicações falsas.
E notícias verdadeiras demonstravam significativamente mais expectativa,
alegria e confiança
em resposta a publicações verdadeiras.
A surpresa confirma nossa hipótese de novidade.
Isso é novo e surpreendente e, portanto, temos mais chances de compartilhar.
Ao mesmo tempo, houve testemunhos do congresso
em frente às duas casas do Congresso nos Estados Unidos,
que analisaram o papel de robôs na disseminação de notícias falsas.
Também analisamos isso.
Usamos vários algoritmos sofisticados de detecção de robôs
para encontrar os robôs em nossos dados e retirá-los.
Nós os retiramos, os colocamos de volta
e comparamos o que acontece com nossa medição.
Descobrimos que, de fato,
robôs aceleravam a disseminação de notícias falsas na internet,
mas aceleravam a disseminação de notícias verdadeiras
aproximadamente na mesma velocidade,
o que significa que os robôs não são responsáveis
pela disseminação diferenciada da verdade e da falsidade na internet.
Não podemos abdicar dessa responsabilidade,
porque nós, seres humanos, somos responsáveis por essa disseminação.
Tudo o que falei até agora,
infelizmente para todos nós,
são as boas notícias.
O motivo é que está prestes a ficar muito pior.
Duas tecnologias específicas vão piorar as coisas.
Veremos o aumento de uma onda enorme de mídia sintética,
vídeos e áudios falsos muito convincentes para o olho humano.
Isso será alimentado por duas tecnologias.
A primeira delas é conhecida como "redes adversárias generativas".
É um modelo de aprendizado de máquina com duas redes:
um discriminador,
cuja tarefa é determinar se algo é verdadeiro ou falso,
e um gerador,
cuja tarefa é gerar mídia sintética.
O gerador sintético gera vídeo ou áudio sintéticos,
e o discriminador tenta dizer: "Isso é real ou falso?"
De fato, é a tarefa do gerador
maximizar a probabilidade de enganar o discriminador
para ele achar que o vídeo e o áudio sintéticos que está criando
são realmente verdadeiros.
Imaginem uma máquina em um superciclo,
tentando ficar cada vez melhor em nos enganar.
Isso, combinado com a segunda tecnologia,
que é basicamente a democratização da inteligência artificial às pessoas,
a capacidade de qualquer pessoa
sem formação em inteligência artificial ou aprendizado de máquina
implantar esses tipos de algoritmos para gerar mídia sintética,
torna, no final, muito mais fácil criar vídeos.
A Casa Branca divulgou um vídeo falso adulterado
de um jornalista interagindo com uma estagiária
que tentava pegar seu microfone.
Eles removeram quadros desse vídeo
para fazer com que suas ações parecessem mais agressivas.
Quando cinegrafistas, dublês e mulheres
foram entrevistados sobre esse tipo de técnica,
eles disseram: "Sim, usamos isso nos filmes o tempo todo
para fazer com que nossos socos e chutes pareçam mais duros e agressivos".
Esse vídeo foi publicado
e parcialmente usado como justificativa
para cancelar o passe de imprensa do repórter Jim Acosta
para a Casa Branca.
E a CNN teve que processar para reaver esse passe.
Posso pensar em cerca de cinco caminhos diferentes que podemos seguir
para tentar resolver alguns desses problemas muito difíceis hoje.
Cada um deles tem promessas,
mas também seus próprios desafios.
O primeiro são os rótulos.
Pensem da seguinte maneira:
quando vamos ao supermercado comprar alimentos para consumo,
eles estão amplamente rotulados.
Sabemos quantas calorias têm,
quanta gordura contêm.
Porém, quando consumimos notícias, não temos rótulo algum.
O que está contido nessas notícias?
A fonte é confiável?
De onde veio a notícia?
Não temos nenhum desses dados
quando consumimos notícias.
Essa é uma abordagem possível, mas vem com seus desafios.
Por exemplo, quem decide, na sociedade, o que é verdade e o que é falso?
São os governos?
É o Facebook?
É um consórcio independente de verificadores de fatos?
E quem verifica os verificadores de fatos?
Outra abordagem possível são incentivos.
Sabemos que, durante a eleição presidencial dos EUA,
houve uma onda de notícias falsas vinda da Macedônia
que não tinha nenhum motivo político,
mas sim um motivo econômico.
E esse motivo econômico existia
porque notícias falsas viajam muito mais longe, mais rápido
e mais profundamente do que a verdade,
e pode-se ganhar dólares em publicidade enquanto se acumula usuários e atenção
com esse tipo de notícia.
Mas, se pudermos diminuir a disseminação dessas notícias,
talvez isso reduza o incentivo econômico
para produzi-las de qualquer modo, em primeiro lugar.
Terceiro, podemos pensar em regulamentação
e, certamente, devemos pensar nessa opção.
Nos Estados Unidos, atualmente,
estamos explorando o que pode acontecer se Facebook e outros forem regulamentados.
Embora devamos considerar coisas como controlar o discurso político,
rotular o fato de ser discurso político,
garantir que participantes estrangeiros não possam financiar discursos políticos,
isso também tem seus próprios perigos.
Por exemplo, a Malásia acabou de instituir uma sentença de seis anos de prisão
para quem for encontrado espalhando notícias falsas.
Em regimes autoritários,
esses tipos de políticas podem ser usados para reprimir opiniões de minorias
e continuar a aumentar a repressão.
A quarta opção possível é a transparência.
Queremos saber como funcionam os algoritmos do Facebook,
como os dados se combinam com os algoritmos
para produzir os resultados que vemos.
Queremos que abram o jogo
e nos mostrem exatamente o funcionamento interno do Facebook.
Se queremos saber o efeito das mídias sociais na sociedade,
precisamos que cientistas, pesquisadores
e outros tenham acesso a esse tipo de informação.
Mas, ao mesmo tempo,
pedimos para o Facebook bloquear tudo,
para manter todos os dados seguros.
O Facebook e as outras plataformas de mídia social
estão enfrentando o que chamo de paradoxo da transparência.
Pedimos que, ao mesmo tempo,
sejam abertos, transparentes e seguros.
É muito difícil tratar desse assunto,
mas eles precisarão fazer isso
se quisermos cumprir a promessa das tecnologias sociais
enquanto evitamos seus perigos.
A última coisa que poderíamos pensar é em algoritmos e aprendizado de máquina.
A tecnologia foi criada para erradicar e entender as notícias falsas,
como elas se espalham
e para tentar diminuir seu fluxo.
Os seres humanos tem que estar informados sobre essa tecnologia,
porque nunca podemos escapar do fato
de que, subjacente a qualquer solução ou abordagem tecnológica,
está uma questão ética e filosófica fundamental
sobre como definimos verdade e falsidade,
a quem damos o poder de definir verdade e falsidade
e quais opiniões são legítimas,
que tipo de discurso deve ser permitido e assim por diante.
A tecnologia não é uma solução para isso.
Ética e filosofia são uma solução para isso.
Quase toda teoria de tomada de decisão humana,
cooperação e coordenação humanas
tem algum sentido da verdade em seu cerne.
Mas, com o aumento de notícias falsas,
o aumento de vídeos falsos,
o aumento de áudios falsos,
balançamos à beira do fim da realidade,
quando não podemos distinguir o que é real do que é falso.
Isso é potencial e incrivelmente perigoso.
Temos que ficar alertas na defesa da verdade
contra as notícias falsas.
Com nossas tecnologias, nossas políticas
e, talvez o mais importante,
com nossas próprias responsabilidades,
decisões, comportamentos e ações individuais.
Muito obrigado.
(Aplausos)