Como podemos proteger a verdade na era das notícias falsas

Notícias falsas podem influenciar eleições, derrubar economias e semear discórdia na vida cotidiana. O cientista de dados Sinan Aral desmistifica como e por que elas se espalham tão rapidamente - citando um dos maiores estudos sobre notícias falsas - e identifica cinco estratégias para nos ajudar a desmanchar a teia emaranhada entre o que é verdadeiro e o que é falso.

Em 23 de abril de 2013,

a Associated Press fez
a seguinte publicação no Twitter:

"Notícia de última hora:

duas explosões na Casa Branca,

e Barack Obama foi ferido".

Essa publicação foi repassada 4 mil vezes
em menos de cinco minutos

e viralizou a partir de então.

A publicação não era uma notícia real
divulgada pela Associated Press.

Na realidade, era
uma notícia falsa, ou "fake news",

espalhada por hackers sírios

que se infiltraram no perfil
da Associated Press no Twitter.

O objetivo era perturbar a sociedade,
mas eles foram além.

Os algoritmos de troca automatizada

apoderaram-se imediatamente
da emoção dessa publicação

e começaram a funcionar
com base na possibilidade

de o presidente dos Estados Unidos
ter sido ferido ou morto nessa explosão.

Quando começaram a publicar,

levaram imediatamente
o mercado acionário a um colapso,

zerando US$ 140 bilhões
em valor patrimonial em um único dia.

Robert Mueller, promotor de justiça
especial dos Estados Unidos,

fez acusações contra 3 empresas russas

e 13 indivíduos russos

em uma conspiração
para fraudar os Estados Unidos,

interferindo na eleição
presidencial de 2016.

Essa acusação

conta a história da Agência
de Pesquisa da Internet,

a divisão sombria do Kremlin
nas mídias sociais.

Somente durante a eleição presidencial,

os esforços da Agência da Internet

alcançaram 126 milhões de pessoas
no Facebook nos Estados Unidos,

fizeram 3 milhões de publicações
individuais no Tweeter

e o equivalente a 43 horas
de conteúdo do YouTube.

Tudo isso era falso,

notícias falsas para semear discórdia
na eleição presidencial dos EUA.

Um estudo recente da Universidade Oxford

mostrou que, nas eleições suecas recentes,

um terço de todas as notícias
divulgadas nas mídias sociais

sobre a eleição

eram falsas ou incorretas.

Além disso, esses tipos de campanhas
de notícias falsas nas mídias sociais

podem espalhar o que foi chamado
de "propaganda genocida",

por exemplo, contra
o povo rohingya na Birmânia,

provocando assassinatos em massa na Índia.

Estudamos notícias falsas

e começamos antes
de essa expressão ficar conhecida.

Recentemente, publicamos o estudo
mais extenso de todos os tempos

sobre a disseminação
de notícias falsas on-line

na capa da "Science" de março deste ano.

Estudamos todas as notícias falsas
e verdadeiras verificadas

já divulgadas no Twitter,

desde o início em 2006 até 2017.

Quando estudamos essas notícias,

estudamos notícias verificadas

por seis organizações independentes
de verificação de fatos.

Sabíamos quais histórias eram verdadeiras

e quais eram falsas.

Conseguimos medir a disseminação delas,

a velocidade de disseminação,

a profundidade e a amplitude
de disseminação,

quantas pessoas se envolvem nessa cascata
de notícias e assim por diante.

Nesse artigo,

comparamos a disseminação de notícias
verdadeiras com a de notícias falsas.

Eis o que descobrimos:

notícias falsas se espalham mais,
mais rápido, mais profundamente

e mais amplamente do que a verdade

em todas as categorias
de notícias que estudamos,

às vezes por ordem de grandeza.

De fato, notícias políticas falsas
viralizaram mais.

Espalharam-se mais, mais rápido,
mais profundamente e amplamente

do que qualquer outro tipo
de notícia falsa.

Quando vimos isso,

ficamos imediatamente preocupados,
mas também curiosos.

Por quê?

Por que notícias falsas viajam muito mais,
mais rápido, mais profundamente

e mais amplamente do que a verdade?

A primeira hipótese que sugerimos foi:

"Talvez quem espalha notícias falsas
tenha mais seguidores, siga mais pessoas,

publique com mais frequência,

ou talvez seja usuário 'verificado'
do Twitter, com mais credibilidade,

ou talvez esteja no Twitter
há mais tempo".

Verificamos cada uma dessas opções

e descobrimos exatamente o oposto.

Quem espalha notícias falsas
tinha menos seguidores,

seguia menos pessoas, era menos ativo,

menos "verificado"

e estava no Twitter há menos tempo.

No entanto,

notícias falsas tinham 70% mais chances
de serem repassadas do que a verdade,

sendo controladas por todos esses
e muitos outros fatores.

Tivemos que propor outras explicações.

Criamos o que chamamos
de "hipótese da novidade".

Se você lê a literatura,

sabe que a atenção humana
é atraída por novidades,

coisas novas no ambiente.

Se você lê a literatura sobre sociologia,

sabe que gostamos de compartilhar
novas informações.

Isso nos faz parecer que temos acesso
a informações privilegiadas

e ganhamos status ao espalhar
esse tipo de informação.

Medimos a novidade de uma publicação
verdadeira ou falsa que chega no Twitter

e comparamos às publicações
que aquele indivíduo havia visto

nos 60 dias anteriores no Twitter.

Mas isso não foi suficiente,
porque pensamos:

"Talvez notícias falsas sejam mais novas
em um sentido teórico da informação,

mas talvez as pessoas
não as percebam como mais novas".

Para entender a percepção das pessoas
sobre notícias falsas,

analisamos a informação e o sentimento

contidos nas respostas a publicações
verdadeiras e falsas no Twitter.

Descobrimos que, em várias
medidas diferentes de sentimento -

surpresa, repulsa, medo, tristeza,

expectativa, alegria e confiança -

notícias falsas demonstravam
significativamente mais surpresa e repulsa

nas respostas a publicações falsas.

E notícias verdadeiras demonstravam
significativamente mais expectativa,

alegria e confiança

em resposta a publicações verdadeiras.

A surpresa confirma
nossa hipótese de novidade.

Isso é novo e surpreendente e, portanto,
temos mais chances de compartilhar.

Ao mesmo tempo,
houve testemunhos do congresso

em frente às duas casas do Congresso
nos Estados Unidos,

que analisaram o papel de robôs
na disseminação de notícias falsas.

Também analisamos isso.

Usamos vários algoritmos sofisticados
de detecção de robôs

para encontrar os robôs
em nossos dados e retirá-los.

Nós os retiramos, os colocamos de volta

e comparamos o que acontece
com nossa medição.

Descobrimos que, de fato,

robôs aceleravam a disseminação
de notícias falsas na internet,

mas aceleravam a disseminação
de notícias verdadeiras

aproximadamente na mesma velocidade,

o que significa que os robôs
não são responsáveis

pela disseminação diferenciada
da verdade e da falsidade na internet.

Não podemos abdicar
dessa responsabilidade,

porque nós, seres humanos, somos
responsáveis por essa disseminação.

Tudo o que falei até agora,

infelizmente para todos nós,

são as boas notícias.

O motivo é que está prestes
a ficar muito pior.

Duas tecnologias específicas
vão piorar as coisas.

Veremos o aumento de uma onda
enorme de mídia sintética,

vídeos e áudios falsos
muito convincentes para o olho humano.

Isso será alimentado por duas tecnologias.

A primeira delas é conhecida
como "redes adversárias generativas".

É um modelo de aprendizado
de máquina com duas redes:

um discriminador,

cuja tarefa é determinar
se algo é verdadeiro ou falso,

e um gerador,

cuja tarefa é gerar mídia sintética.

O gerador sintético
gera vídeo ou áudio sintéticos,

e o discriminador tenta dizer:
"Isso é real ou falso?"

De fato, é a tarefa do gerador

maximizar a probabilidade
de enganar o discriminador

para ele achar que o vídeo
e o áudio sintéticos que está criando

são realmente verdadeiros.

Imaginem uma máquina em um superciclo,

tentando ficar cada vez melhor
em nos enganar.

Isso, combinado com a segunda tecnologia,

que é basicamente a democratização
da inteligência artificial às pessoas,

a capacidade de qualquer pessoa

sem formação em inteligência artificial
ou aprendizado de máquina

implantar esses tipos de algoritmos
para gerar mídia sintética,

torna, no final,
muito mais fácil criar vídeos.

A Casa Branca divulgou
um vídeo falso adulterado

de um jornalista
interagindo com uma estagiária

que tentava pegar seu microfone.

Eles removeram quadros desse vídeo

para fazer com que suas ações
parecessem mais agressivas.

Quando cinegrafistas, dublês e mulheres

foram entrevistados
sobre esse tipo de técnica,

eles disseram: "Sim, usamos isso
nos filmes o tempo todo

para fazer com que nossos socos e chutes
pareçam mais duros e agressivos".

Esse vídeo foi publicado

e parcialmente usado como justificativa

para cancelar o passe de imprensa
do repórter Jim Acosta

para a Casa Branca.

E a CNN teve que processar
para reaver esse passe.

Posso pensar em cerca de cinco caminhos
diferentes que podemos seguir

para tentar resolver alguns
desses problemas muito difíceis hoje.

Cada um deles tem promessas,

mas também seus próprios desafios.

O primeiro são os rótulos.

Pensem da seguinte maneira:

quando vamos ao supermercado
comprar alimentos para consumo,

eles estão amplamente rotulados.

Sabemos quantas calorias têm,

quanta gordura contêm.

Porém, quando consumimos notícias,
não temos rótulo algum.

O que está contido nessas notícias?

A fonte é confiável?

De onde veio a notícia?

Não temos nenhum desses dados

quando consumimos notícias.

Essa é uma abordagem possível,
mas vem com seus desafios.

Por exemplo, quem decide, na sociedade,
o que é verdade e o que é falso?

São os governos?

É o Facebook?

É um consórcio independente
de verificadores de fatos?

E quem verifica os verificadores de fatos?

Outra abordagem possível são incentivos.

Sabemos que, durante a eleição
presidencial dos EUA,

houve uma onda de notícias falsas
vinda da Macedônia

que não tinha nenhum motivo político,

mas sim um motivo econômico.

E esse motivo econômico existia

porque notícias falsas
viajam muito mais longe, mais rápido

e mais profundamente do que a verdade,

e pode-se ganhar dólares em publicidade
enquanto se acumula usuários e atenção

com esse tipo de notícia.

Mas, se pudermos diminuir
a disseminação dessas notícias,

talvez isso reduza o incentivo econômico

para produzi-las de qualquer modo,
em primeiro lugar.

Terceiro, podemos pensar em regulamentação

e, certamente, devemos pensar nessa opção.

Nos Estados Unidos, atualmente,

estamos explorando o que pode acontecer
se Facebook e outros forem regulamentados.

Embora devamos considerar coisas
como controlar o discurso político,

rotular o fato de ser discurso político,

garantir que participantes estrangeiros
não possam financiar discursos políticos,

isso também tem seus próprios perigos.

Por exemplo, a Malásia acabou de instituir
uma sentença de seis anos de prisão

para quem for encontrado
espalhando notícias falsas.

Em regimes autoritários,

esses tipos de políticas podem ser usados
para reprimir opiniões de minorias

e continuar a aumentar a repressão.

A quarta opção possível é a transparência.

Queremos saber como funcionam
os algoritmos do Facebook,

como os dados se combinam
com os algoritmos

para produzir os resultados que vemos.

Queremos que abram o jogo

e nos mostrem exatamente
o funcionamento interno do Facebook.

Se queremos saber o efeito
das mídias sociais na sociedade,

precisamos que cientistas, pesquisadores

e outros tenham acesso
a esse tipo de informação.

Mas, ao mesmo tempo,

pedimos para o Facebook bloquear tudo,

para manter todos os dados seguros.

O Facebook e as outras
plataformas de mídia social

estão enfrentando o que chamo
de paradoxo da transparência.

Pedimos que, ao mesmo tempo,

sejam abertos, transparentes e seguros.

É muito difícil tratar desse assunto,

mas eles precisarão fazer isso

se quisermos cumprir a promessa
das tecnologias sociais

enquanto evitamos seus perigos.

A última coisa que poderíamos pensar
é em algoritmos e aprendizado de máquina.

A tecnologia foi criada para erradicar
e entender as notícias falsas,

como elas se espalham

e para tentar diminuir seu fluxo.

Os seres humanos tem que estar
informados sobre essa tecnologia,

porque nunca podemos escapar do fato

de que, subjacente a qualquer solução
ou abordagem tecnológica,

está uma questão ética
e filosófica fundamental

sobre como definimos verdade e falsidade,

a quem damos o poder
de definir verdade e falsidade

e quais opiniões são legítimas,

que tipo de discurso
deve ser permitido e assim por diante.

A tecnologia não é uma solução para isso.

Ética e filosofia
são uma solução para isso.

Quase toda teoria
de tomada de decisão humana,

cooperação e coordenação humanas

tem algum sentido da verdade em seu cerne.

Mas, com o aumento de notícias falsas,

o aumento de vídeos falsos,

o aumento de áudios falsos,

balançamos à beira do fim da realidade,

quando não podemos distinguir
o que é real do que é falso.

Isso é potencial e incrivelmente perigoso.

Temos que ficar alertas
na defesa da verdade

contra as notícias falsas.

Com nossas tecnologias, nossas políticas

e, talvez o mais importante,

com nossas próprias responsabilidades,

decisões, comportamentos
e ações individuais.

Muito obrigado.

(Aplausos)