Como proteger a verdade na era da desinformação

As notícias falsas podem influenciar eleições, criar vulnerabilidades na economia e semear discórdias no dia-a-dia. Sinan Aral, cientista de dados, desmistifica como e por que razão isto se alastra tão rapidamente — citando um dos maiores estudos realizados sobre desinformação e identificando cinco estratégias para nos ajudar a desfazer a teia emaranhada entre o verdadeiro e falso.

No dia 23 de abril de 2013,

a Associated Press publicou
o seguinte "tweet":

"Notícia de última hora:

"Houve duas explosões na Casa Branca

"e o presidente Barack Obama foi ferido."

O "tweet" foi reenviado 4000 vezes
em menos de 5 minutos,

e depois tornou-se viral.

No entanto, o "tweet" em questão
não foi feito pela Associated Press.

Na verdade, era uma notícia falsa,
ou "fake news",

que tinha sido divulgada
por "hackers" sírios

que se tinham infiltrado
na conta da AP no Twitter.

O seu propósito era criar ruturas na
sociedade, mas foram ainda mais além,

porque os algoritmos automatizados
de "trading"

captaram imediatamente
o sentimento deste "tweet"

e começaram a trabalhar
baseados na possibilidade

de o presidente dos EUA
ter sido ferido ou morto

nesta explosão.

Assim que começaram a publicar "tweets"

provocaram imediatamente
o colapso do mercado de ações,

liquidando 140 mil milhões de dólares
num único dia.

O procurador especial dos EUA,
Robert Mueller,

emitiu acusações contra
três empresas russas

e treze indivíduos russos

por conspiração para
defraudar os EUA

interferindo nas eleições
presidenciais de 2016.

Essas acusações contam-nos uma história,

a história sobre
a Internet Research Agency,

o braço sombrio do Kremlin
nas redes sociais.

Só durante as eleições presidenciais,

as publicações da Internet Agency

alcançaram 126 milhões de pessoas
nos EUA através do Facebook,

publicaram três milhões
de "tweets" individuais

e 43 horas de conteúdos no YouTube.

Era tudo falso

— desinformação destinada
a semear a discórdia

nas eleições presidenciais dos EUA.

Um estudo recente feito
na Universidade de Oxford

mostrou que, nas recentes
eleições da Suécia,

um terço de todas informações
a circular nas redes sociais

sobre as eleições

eram falsas ou desinformação.

Além do mais, este tipo de campanhas
de desinformação nas redes sociais

podem difundir o que vem sendo
chamado de "propaganda genocida",

por exemplo contra os Rohingya em Myanmar,

desencadeando assassínios
por parte de multidões na Índia.

Nós estudámos as notícias falsas

e começámos a estudar isso bem antes
de este termo se tornar popular.

Recentemente publicámos o maior
estudo longitudinal de sempre

sobre o crescimento "online"
das notícias falsas

na capa da revista Science
em março deste ano.

Estudámos todas as notícias
verificadas como verdadeiras ou falsas

que já se propagaram pelo Twitter

desde o seu início, em 2006, até 2017.

Ao estudarmos estas informações,

estudámos notícias verificadas

por seis ONG independentes
que verificam factos.

Por isso sabíamos quais
as notícias verdadeiras

e quais as falsas.

Podemos medir a sua propagação,

a rapidez da propagação,

a profundidade e a amplitude
da propagação,

e quantas pessoas são enganadas
nessa torrente de informação.

O que fizemos neste trabalho,

foi comparar a propagação de factos
e a propagação de notícias falsas.

E o que encontrámos foi o seguinte.

As notícias falsas eram propagadas
muito mais rapidamente

e mais amplamente do que os factos

em todas as categorias
de informações que estudámos,

por vezes por uma ordem de magnitude.

De facto, as notícias políticas falsas
eram as mais virais.

Espalhavam-se mais rapidamente,
com maior profundidade e abrangência

do que qualquer outro tipo
de notícias falsas.

Quando notámos isto,

ficámos preocupados mas também curiosos.

Porquê?

Por que razão as notícias falsas vão mais
longe, mais rápida e profundamente

e mais extensamente do que a verdade?

A primeira hipótese que formulámos foi:

"Talvez as pessoas
que espalham notícias falsas

"tenham mais seguidores
ou sigam mais pessoas,

"ou publiquem mais "tweets",

"ou talvez tenham contas 'verificadas'
no Twitter, com mais credibilidade,

"ou talvez estejam
há mais tempo no Twitter."

Examinámos todas as opções, uma a uma.

Porém, descobrimos exatamente o oposto.

Os propagadores de notícias falsas
tinham menos seguidores,

seguiam poucas pessoas,
não eram tão ativos,

não eram tão verificados

e estavam no Twitter há menos tempo.

Ainda assim,

era 70% mais provável que fossem enviadas

notícias falsas do que verdadeiras

mesmo tendo em conta estes
e muitos outros fatores.

Então tivemos de encontrar
outras explicações.

E criámos algo a que chamámos
de "hipótese da novidade".

Se lerem a literatura sobre este tema,

saberão que a novidade
atrai a atenção humana,

isto é, coisas que são novas no ambiente.

Se lerem literatura sobre sociologia,

saberão que gostamos de partilhar
informações novas.

Faz parecer que temos acesso
a informações privilegiadas,

e ganhamos estatuto por partilhar
esse tipo de informações.

Então, medimos a novidade
de um novo "tweet", verdadeiro ou falso,

e comparámos com
o que cada pessoa já tinha visto

nos últimos 60 dias no Twitter.

Mas não foi o suficiente,
pois pensámos:

"Talvez uma notícia falsa seja mais nova
num sentido mais teórico-informativo,

"mas talvez as pessoas não
vejam isso como novidade."

Então, para compreender a perceção
das pessoas sobre notícias falsas,

estudámos as informações e o sentimento

contido nas respostas dos "tweets"
verdadeiros e falsos.

E descobrimos

que, através de um conjunto
de diferentes medidas de sentimentos

— surpresa, repugnância, medo, tristeza,

expetativa, alegria e confiança —

as notícias falsas exibiam
maior surpresa e repugnância

em reação aos "tweets" falsos.

E as notícias verdadeiras
exibiam maior expetativa,

alegria e confiança

em reação aos "tweets" verdadeiros.

Esta surpresa confirma
a nossa hipótese de novidade.

Isto é novo e surpreendente,
por isso é mais provável que partilhemos.

Ao mesmo tempo,
houve testemunhos

em ambas as câmaras
do Congresso dos EUA,

sobre o papel dos robôs
na propagação da desinformação.

Também estudámos isso

— utilizámos vários algoritmos
sofisticados para detetar robôs

para os encontrar nos nossos dados
e retirá-los de lá.

Retirámo-los e voltámos a colocá-los

e comparámos o que acontece
à nossa medição.

O que encontrámos foi que, de facto,

os robôs aceleravam a propagação
das notícias falsas "online",

mas aceleravam a propagação
de notícias verdadeiras

aproximadamente da mesma forma.

O que significa que os robôs
não são responsáveis

pelas diferenças entre a difusão
da verdade e da mentira "online".

Não podemos abdicar
dessa responsabilidade,

porque nós, seres humanos,
somos responsáveis por essa divulgação.

Infelizmente para todos nós,

tudo que vos disse até agora

é a melhor parte.

As coisas vão piorar bastante.

Duas tecnologias específicas
vão piorar tudo.

Veremos a ascensão de uma enorme
onda de conteúdos sintéticos.

Vídeos e áudios falsos muito convincentes
para o olhar humano.

Isso será alimentado por duas tecnologias.

A primeira é conhecida por
"rede generativa antagónica."

Trata-se de um modelo de aprendizagem
de máquina com duas redes:

um discriminador,

cuja função é determinar
se algo é verdadeiro ou falso,

e um gerador,

cuja função é gerar
conteúdos sintéticos.

O gerador sintético produz áudios
e vídeos sintéticos,

e o discriminador tenta dizer-nos:
''Isto é real ou é falso?"

A função do gerador

é maximizar a probabilidade
de enganar o discriminador

para que este julgue que os áudios
e vídeos sintéticos que está a criar

são, de facto, verdadeiros.

Imaginem uma máquina num ciclo

a tentar ser cada vez melhor
no ato de nos enganar.

Isto, combinado com a segunda tecnologia,

que é basicamente a democratização
da inteligência artificial para as pessoas,

a capacidade de qualquer pessoa,

sem nenhuma compreensão
sobre inteligência artificial,

ou aprendizagem de máquina,

para utilizar este tipo de algoritmos
para gerar conteúdos sintéticos

faz com que seja
muito mais fácil criar vídeos.

A Casa Branca partilhou
um vídeo falso, adulterado

de um jornalista a interagir
com uma estagiária

que tentava tirar-lhe o microfone.

Eles removeram partes desse vídeo

para fazer a ação do jornalista
parecer mais agressiva.

Quando videógrafos e duplos

foram entrevistados
sobre este tipo de técnica,

disseram: "Sim, usamo-la
com frequência em filmes

"para fazer com que os nossos socos
e pontapés pareçam mais agressivos."

Eles partilharam este vídeo

e usaram-no em parte como justificação

para cancelar a credencial
do repórter Jim Acosta,

da Casa Branca.

A CNN teve de processar judicialmente
para revalidar a credencial.

Ocorrem-me cinco caminhos
que podemos seguir

para tentar resolver alguns
destes problemas difíceis.

Cada um deles inclui uma promessa,

mas cada um tem os seus próprios desafios.

O primeiro é a rotulagem.

Pensemos da seguinte forma:

quando vamos ao supermercado
comprar a comida que consumimos,

esta está extensivamente rotulada.

Sabemos quantas calorias tem,

a gordura que contém

— no entanto, ao consumirmos informações
não temos nenhum tipo de rótulo.

Qual o conteúdo dessas informações?

A fonte é credível?

Qual a proveniência dessas informações?

Não temos esse tipo de informação

quando consumimos informações.

É uma possibilidade,
mas coloca alguns desafios.

Por exemplo, na sociedade, quem decide
o que é verdadeiro ou falso?

É o governo?

É o Facebook?

É um consórcio independente
de verificadores de factos?

Quem verifica os verificadores de factos?

Outra possibilidade são os incentivos.

Sabemos que, durante
as eleições presidenciais nos EUA,

houve uma onda de desinformação
proveniente da Macedónia

sem qualquer motivação política

mas com motivação económica.

Esta motivação económica existiu

porque as notícias falsas chegam
muito mais longe, mais depressa

e mais profundamente do que a verdade,

porque podemos ganhar dinheiro
em publicidade, atraindo as atenções

com esse tipo de informações.

Mas se pudermos diminuir a propagação
deste tipo de informações,

talvez isso reduza o incentivo económico

de produzir este tipo de informações.

Em terceiro lugar,
podemos pensar em regulamentação,

e certamente, devíamos
considerar esta opção.

Atualmente, nos EUA,

estamos a estudar o que aconteceria
se o Facebook e outros fossem regulados.

Embora devêssemos considerar coisas
como regular o discurso político,

rotular o facto de se tratar
de discurso político,

garantir que elementos estrangeiros
não possam financiar o discurso político

isso também acarreta os seus perigos.

Por exemplo, recentemente a Malásia
instituiu uma sentença de 6 anos de prisão

para qualquer pessoa
que propague desinformações.

Em regimes autoritários,

esta política pode ser usada
para reprimir opiniões de minorias

e manter a repressão.

A quarta opção possível é a transparência.

Queremos saber como funcionam
os algoritmos do Facebook.

Como é que os dados
se combinam com os algoritmos

para produzir os resultados que vemos?

Queremos que eles "abram o quimono"

e nos mostrem o funcionamento
interno do Facebook.

E se quisermos saber o impacto
das redes sociais na sociedade

precisamos de cientistas e investigadores

e outros meios de acesso
a este tipo de informações.

Mas, simultaneamente,

estamos a pedir ao Facebook
para trancar tudo,

para guardar todas as informações
de forma segura.

O Facebook e outras plataformas
de redes sociais

estão a enfrentar o que chamamos
de paradoxo da transparência.

Pedimos-lhes para serem, simultaneamente

abertos, transparentes e seguros.

É uma linha muito difícil de traçar,

mas deverão traçá-la

se o objetivo for cumprir a promessa
das tecnologias sociais

enquanto evitamos os seus perigos.

O último aspeto são os algoritmos
e a aprendizagem de máquina

Tecnologia criada para retirar
notícias falsas, compreendê-las,

como se propagam
e tentar diminuir o seu fluxo.

Precisamos de compreender
esta tecnologia,

porque nunca vamos escapar
ao facto de que

subjacentes a qualquer solução
ou abordagem tecnológica

estão as questões éticas
e filosóficas fundamentais

sobre como definimos
a verdade e a falsidade,

a quem atribuímos o poder
para definir a verdade e a falsidade,

que opiniões são legítimas,

e que tipo de discurso
deve ser permitido, etc.

A tecnologia não é uma solução para isso.

A solução é a ética e a filosofia.

Quase todas as teorias
sobre a tomada de decisões humanas,

a cooperação e coordenação humanas,

têm, no seu cerne,
um sentido do que é a verdade.

Mas, com o aumento das notícias falsas,

com o aumento dos vídeos falsos,

o aumento dos áudios falsos,

estamos no limiar do fim da realidade

em que não sabemos o que é a verdade
e o que é a mentira.

E isso é potencialmente
incrivelmente perigoso.

Temos de ser vigilantes
em defender a verdade

contra a desinformação.

Com as nossas tecnologias,
com as nossas políticas

e, talvez, o mais importante,

com as nossas
responsabilidades individuais,

as decisões, os comportamentos e as ações.

Muito obrigado.

(Aplausos)