Querido Facebook, é assim que dás cabo da democracia

“As mentiras são mais envolventes "online" do que a verdade”, diz Yaël Eisenstat, antiga analista da CIA e diplomata. "Enquanto os objetivos dos algoritmos [das redes sociais] nos mantiverem envolvidos, alimentar-nos-ão com o veneno que ataca os nossos piores instintos e fraquezas humanas." Nesta palestra ousada, Eisenstat explora como as empresas de redes sociais, como o Facebook, incentivam conteúdos incendiários, contribuindo para uma cultura de polarização política e de desconfiança — e exorta os governos a responsabilizarem essas plataformas para proteger o discurso civil e a democracia.

Há uns cinco anos,

percebi que estava a perder a capacidade

de dialogar com pessoas
que não pensam como eu.

A ideia de discutir questões controversas
com os meus colegas americanos

estava a começar a dar-me mais azia

do que na época em que eu dialogava
com estrangeiros suspeitos de extremismo.

Estava a começar a sentir-me
mais amarga e mais frustrada.

E então, de repente,

mudei completamente o foco,
das ameaças à segurança nacional global

passei para a tentativa de entender

o que estava a causar
esta polarização extrema no meu país.

Como antiga agente da CIA e diplomata,

que passou anos a trabalhar
com questões contra o extremismo,

comecei a recear que a coisa
passasse a ser

uma ameaça muito maior para a democracia

do que qualquer adversário estrangeiro.

Então, comecei a escavar,
e comecei a falar alto,

o que acabou por me levar
a ser contratada pelo Facebook

e finalmente me trouxe aqui hoje

para continuar a alertar-vos
para o facto de essas plataformas

estarem a manipular
e a radicalizar tanta gente,

e para dizer como se pode recuperar
a nossa praça pública.

Fui funcionária do serviço
de relações exteriores no Quénia

poucos anos depois dos ataques
do 11 de Setembro

e chefiei as campanhas
de "corações e espíritos"

na fronteira da Somália.

Uma grande parte do meu trabalho

era criar laços de confiança
com as comunidades

consideradas mais suscetíveis
a mensagens extremistas.

Eu passava horas a tomar chá
com clérigos abertamente anti-ocidente

e até dialoguei com supostos terroristas.

Embora muitos destes encontros
tenham começado com suspeitas mútuas,

não me lembro de nenhum deles
ter acabado aos gritos ou insultos,

e, nalguns casos, até trabalhámos juntos
em áreas de interesse mútuo.

As ferramentas mais poderosas
que nós tínhamos

eram simplesmente ouvir,
aprender e criar empatia.

Essa é a essência do trabalho
da conquista de corações e espíritos,

porque o que eu descobri repetidas vezes
é que a maioria das pessoas queriam

sentir-se ouvidas,
reconhecidas e respeitadas.

E acredito que isso é
o que muitos de nós querem.

Mas o que eu vejo acontecer hoje "online",
é especialmente entristecedor

e um problema muito mais difícil de lidar.

Nós estamos a ser manipulados
pelo atual ecossistema de informação

que barrica muitos de nós
tão profundamente no absolutismo

que o compromisso passou a ser
uma palavra ofensiva.

Porque atualmente,

as empresas de redes sociais
como o Facebook,

lucram com a segmentação e alimentam-nos
com a personalização de conteúdos

o que valida e explora
os nossos preconceitos.

O resultado final depende
de provocarem uma emoção forte

para nos manterem envolvidos,

incentivando as vozes
mais incendiárias e polarizadoras

até ao ponto em que encontrar
pontos comuns deixa de parecer possível.

Apesar do crescente coro de pessoas
que reclamam uma mudança nas plataformas,

está claro que elas não vão fazer
o suficiente por si mesmas.

Então, os governos devem
definir a responsabilidade

pelos danos concretos causados
por estes modelos de negócio

e impor custos concretos
sobre os efeitos prejudiciais

que estão a ter na saúde pública,
no espaço público e na democracia.

Infelizmente, isso não vai acontecer
a tempo para as eleições presidenciais,

e, por isso, eu continuo
a fazer soar este alarme

porque, mesmo que um dia
venhamos a adotar regras fortes,

todos nós seremos precisos
para consertar isto.

Quando eu comecei a mudar
o meu foco das ameaças exteriores

para o colapso no discurso civil
do meu país,

pensei se poderíamos reaproveitar
as campanhas de corações e espíritos

para curar as nossas divergências.

A nossa experiência de mais de 200 anos
com a democracia

funciona, em grande medida,
porque conseguimos debater ideias

aberta e apaixonadamente
para chegar às melhores soluções.

Mas, embora ainda acredite profundamente

no poder do discurso civil cara a cara,

não podemos competir hoje

com os efeitos polarizadores
e a dimensão das redes socais.

As pessoas sugadas para estas ratoeiras
de indignação das redes sociais

normalmente sentem ser mais difícil
superar as suas mentalidades ideológicas

do que as comunidades vulneráveis
com que eu trabalhei.

Então, quando o Facebook
me ligou, em 2018,

e me ofereceu a função
de chefiar as operações

de integridade eleitoral
para a propaganda política,

eu senti que devia aceitar.

Eu não tinha ilusões
quanto a solucionar tudo,

mas quando me ofereceram a oportunidade

de ajudar a guiar o barco
numa direção melhor,

pelo menos, eu tinha de tentar.

Eu não trabalhei diretamente
sobre a polarização,

mas pude ver quais eram as questões
mais fraturantes da nossa sociedade

e, portanto, mais exploráveis
pelos esforços de interferência eleitoral,

que foi a tática russa em 2016.

Então, comecei a fazer perguntas.

Eu queria entender
as questões sistémicas subjacentes

que permitiam que isso acontecesse,

para entender como reparar isso.

Eu ainda acredito no poder da Internet

de fazer ouvir mais vozes

mas, apesar do objetivo declarado
de criar comunidades,

as maiores empresas de redes sociais,
tal como estão organizadas atualmente,

opõem-se ao conceito de discurso racional.

Não há nenhuma forma de premiar o ouvir,

de encorajar o debate civil

e de proteger as pessoas que sinceramente
querem fazer perguntas

num negócio em que
a otimização do envolvimento

e o aumento de utilizadores

são as duas coisas mais importantes
para a métrica do êxito.

Não há nenhum incentivo para ajudar
as pessoas a abrandar,

para criar fricção suficiente
para forçar as pessoas a parar,

a reconhecer a sua reação emotiva
a qualquer coisa,

e a questionar as suas premissas
antes de se envolverem.

A infeliz realidade é que as mentiras

são mais atraentes "online"
do que a verdade

e o obsceno supera o raciocínio
com base em factos, mas instável,

num mundo otimizado
para uma viralidade sem atrito.

Enquanto o objetivo dos algoritmos
for manter-nos envolvidos,

eles vão continuar a alimentar-nos

com o veneno que brinca
com os nossos piores instintos

e fraquezas humanas.

A raiva, a desconfiança,

a cultura do medo, o ódio,

nada disso é novo nos EUA..

Mas ultimamente, as redes sociais
têm dominado isso tudo

e, a meu ver, desequilibraram
drasticamente a balança.

O Facebook sabe isso.

Um artigo recente do "Wall Street Journal"

revelou uma apresentação interna
do Facebook, de 2018,

que aponta especificamente para o papel
dos algoritmos da companhia

no crescimento de grupos
extremistas na sua plataforma

e na polarização dos utilizadores.

Mas é mantendo-nos envolvidos
que eles ganham dinheiro.

O ambiente moderno da informação

está cristalizado em torno
da avaliação dos nossos perfis

e da segmentação em categorias
cada vez mais estreitas

para aperfeiçoar este processo
de personalização.

Somos bombardeados com informações
que confirmam as nossas opiniões,

reforçam os nossos preconceitos

e fazem-nos sentir
que pertencemos a qualquer coisa.

São as mesmas táticas que os recrutas
de organizações terroristas

usam com os jovens vulneráveis,

embora de um modo
mais reduzido e mais localizado

antes das redes sociais,

com o objetivo final de influenciar
o comportamento deles.

Infelizmente, o Facebook nunca me deu
poder para ter um impacto real.

De facto, logo no segundo dia,

o meu título
e a descrição laboral foram alterados

e fui excluída das reuniões
de tomadas de decisão.

Os meus maiores esforços,
a tentativa de criar planos

para combater a desinformação

e a supressão do voto
em propaganda política,

foram rejeitados.

Assim, vim-me embora
antes de completar seis meses.

Esta é a maior conclusão
que eu tirei do tempo que ali passei:

há milhares de pessoas no Facebook

que trabalham apaixonadamente num produto

que realmente acreditam
que faz do mundo um lugar melhor,

mas, enquanto a companhia continuar
a mexer apenas nas margens

do policiamento e moderação de conteúdos,

em vez de considerar

como é que todo o maquinismo
é concebido e rentabilizado,

nunca irão verdadeiramente avaliar
como a plataforma está a contribuir

para o ódio, para a divisão
e para a radicalização.

Esta é uma conversa que eu nunca ouvi
durante o tempo que por lá andei

porque isso requeria aceitar,
fundamentalmente,

que aquilo que se construiu podia não ser
a melhor coisa para a sociedade,

e concordar alterar todo o produto
e o modelo de lucro.

Então, o que é que podemos fazer?

Eu não estou a dizer que as redes sociais
têm toda a responsabilidade

pelo estado em que estamos hoje.

Claramente, temos profundas
questões sociais a resolver.

Mas a resposta do Facebook,
que é apenas um reflexo da sociedade,

é uma tentativa conveniente
de desviar quaisquer responsabilidades

quanto à maneira como a plataforma
está a amplificar um conteúdo prejudicial

e a levar alguns utilizadores
ao extremismo.

E o Facebook, se quisesse,

podia concertar alguma coisa.

Podiam deixar de amplificar
e recomendar os teóricos da conspiração,

os grupos de ódio,
os fornecedores de desinformação

e, nalguns casos, até o nosso presidente.

Podiam deixar de usar,
para divulgar retórica política,

as mesmas técnicas de personalização
que usam para vender sapatos.

Podiam refazer os seus algoritmos

para terem como foco uma métrica
que não fosse o envolvimento

e podiam criar proteções para impedir
que certos conteúdos se tornassem virais

antes de serem revistos.

Podiam fazer tudo isso

sem se tornarem naquilo a que chamam
os "árbitrios da verdade".

Mas já deixaram claro
que não irão tão longe

para fazer o que está certo,
sem serem forçados,

e, para ser franca,
porque é que haviam de ir?

Os mercados recompensam-nos,
e eles não estão a violar nenhuma lei.

Porque, atualmente,

não há leis nos EUA para obrigar
o Facebook, ou qualquer outra rede social,

a proteger a nossa praça pública,

a nossa democracia,

ou mesmo as nossas eleições.

Abdicámos da tomada de decisões
quanto às regras a escrever e a impor

aos diretores de empresas de Internet
com fins lucrativos.

É isso que nós queremos?

Um mundo de pós-verdades
onde a toxicidade e o tribalismo

superam a construção de pontes
e a procura de consensos?

Eu sou otimista e creio que temos
mais em comum uns com os outros

do que o ambiente "online"
e os "media" retratam,

e acredito que ter uma maior área
para perspetiva

cria uma democracia
mais robusta e inclusiva.

Mas não da forma que está hoje a ocorrer.

Vale a pena sublinhar que eu não quero
fechar essas empresas.

Só quero que tenham
um certo nível de responsabilização,

tal como o resto da sociedade.

É altura de os nossos governos
agirem e fazerem o seu trabalho

de proteger os cidadãos.

Enquanto não houver uma lei mágica

que resolva tudo isto,

creio que os governos podem
e devem encontrar o equilíbrio

entre proteger a liberdade de expressão

e responsabilizar essas plataformas
pelos seus efeitos na sociedade.

Podiam fazer isso, em parte,
ao insistir na verdadeira transparência

sobre como funcionam
os mecanismos de recomendação,

sobre como a curadoria, a amplificação
e o direcionamento estão a ocorrer.

Eu quero que essas companhias
sejam responsabilizadas

não pelas publicações
de desinformação individuais

ou de retórica extrema,

mas pela forma como o mecanismo
de recomendação as distribui,

e como o algoritmo guia
as pessoas nessa direção,

e como essas ferramentas são usadas
para visar as pessoas.

Tentei fazer mudanças
no interior do Facebook e falhei,

e portanto passei a usar novamente
a minha voz nos últimos anos

para continuar a fazer soar o alarme.

Espero inspirar mais pessoas
a exigir essa responsabilidade.

A minha mensagem para vocês é simples:

pressionem os vossos representantes
no governo para agir

e para deixar de ceder a praça pública
aos interesses do lucro.

Ajudem a educar amigos e familiares

sobre como estão a ser
manipulados "online".

Esforcem-se por se envolverem com pessoas

que não tenham
a mesma mentalidade que vocês.

Façam desta questão uma prioridade.

Precisamos de uma abordagem
de toda a sociedade para consertar isto.

A minha mensagem para os líderes
do meu antigo patrão, o Facebook, é esta:

Neste momento, as pessoas
estão a usar as vossas ferramentas

exatamente da maneira
como elas foram concebidas

para semear o ódio,
a divisão e a desconfiança,

e vocês não só estão a permiti-lo,
como estão a criar condições para isso.

Há muitas histórias ótimas

sobre coisas positivas que acontecem
na vossa plataforma em todo o mundo,

mas isso não faz nada daquilo OK.

E só vai piorando à medida
que nos aproximamos das eleições,

e, ainda mais preocupante,

encaramos o que é potencialmente
a nossa maior crise,

se os resultados não forem fiáveis,
e se o resultado for a violência.

Em 2021, quando disserem novamente:
"Nós sabemos que temos de melhorar",

quero que se lembrem deste momento,

porque já não são apenas
algumas vozes desgarradas.

Líderes a favor dos direitos civis,
académicos, jornalistas,

anunciantes, os vossos empregados,

estão a gritar do topo dos prédios

que as vossas políticas
e as vossas práticas de negócio

estão a prejudicar
as pessoas e a democracia.

Vocês têm direito às vossas decisões,

mas já não podem dizer

que não perceberam
que isso podia acontecer.

Obrigada.