Querido Facebook, é assim que vocês estão destruindo a democracia

“As mentiras on-line envolvem mais do que a verdade”, diz a ex-analista e diplomata da CIA Yaël Eisenstat. "Enquanto os objetivos dos algoritmos [de rede social] forem nos manter engajados, eles nos alimentarão com o veneno que ataca nossos piores instintos e fraquezas humanas." Nesta palestra ousada, Eisenstat explora como empresas de rede social como o Facebook incentivam conteúdo inflamatório, contribuindo para uma cultura de polarização política e desconfiança, e apela aos governos para responsabilizar essas plataformas para proteger o discurso civil e a democracia.

Cerca de cinco anos atrás,

percebi que estava perdendo a habilidade

de me envolver com pessoas
que não pensam como eu.

A ideia de discutir questões polêmicas
com meus colegas americanos

estava começando a me dar mais azia

do que as vezes que me envolvi
com suspeitos de extremismo no exterior.

Estava começando a ficar
mais amarga e frustrada.

E assim,

mudei todo o meu foco de ameaças
à segurança nacional global

para tentar entender o que estava
causando esse impulso

rumo à polarização extrema nos EUA.

Como ex-oficial da CIA e diplomata

que passou anos trabalhando
em questões de contraextremismo,

comecei a temer que isso estivesse virando
uma ameaça muito maior à nossa democracia

do que qualquer adversário estrangeiro.

Comecei a me aprofundar
e a me manifestar sobre isso,

o que acabou me levando
a ser contratada pelo Facebook

e finalmente me trouxe aqui hoje

para continuar alertando você
sobre como essas plataformas

estão manipulando
e radicalizando muitos de nós,

e para falar sobre como recuperar
as praças públicas digitais.

Eu fui oficial do serviço
estrangeiro no Quênia

apenas alguns anos após
os ataques do 11 de setembro,

e conduzi as chamadas
campanhas "Hearts and Minds"

ao longo da fronteira com a Somália.

Grande parte do meu trabalho era
construir a confiança das comunidades

consideradas mais suscetíveis
a mensagens extremistas.

Passava horas bebendo chá
com clérigos antiocidentais declarados

e até dialogava com alguns
suspeitos de terrorismo,

e, embora muitos desses encontros
começassem com suspeita mútua,

não me lembro de nenhum deles
resultando em gritos ou insultos,

e, em alguns casos, até trabalhamos juntos
em áreas de interesse mútuo.

As ferramentas mais poderosas que tínhamos
eram simplesmente escutar, aprender

e cultivar empatia.

Esta é a essência do trabalho
da Hearts and Minds,

porque vi repetidamente
que a maioria das pessoas queria

se sentir ouvida, validada e respeitada.

E acredito que é isso
que a maioria de nós deseja.

Então, o que vejo acontecendo
on-line hoje é especialmente triste

e muito mais difícil de resolver.

Estamos sendo manipulados
pelo atual ecossistema de informações,

enraizando tantos de nós no absolutismo,
que "meio-termo" se tornou um palavrão.

Porque agora, empresas
de rede social como o Facebook

lucram nos segmentando
e fornecendo conteúdo personalizado

que valida e explora nossos preconceitos.

O resultado final depende
de provocar um sentimento forte

para nos manter engajados,

frequentemente incentivando as vozes
mais inflamatórias e polarizadoras,

ao ponto de não parecer mais possível
chegarmos a um consenso.

E apesar de um coro crescente de pessoas
clamando pela mudança das plataformas,

está claro que elas não farão
o suficiente por conta própria.

Portanto, os governos devem
determinar a responsabilidade

para os danos do mundo real causados
por esses modelos de negócios

e impor custos reais
sobre os efeitos prejudiciais

que estão causando na nossa saúde pública,
nossa praça pública e nossa democracia.

Mas, infelizmente, isso não vai acontecer
a tempo da eleição presidencial nos EUA,

então continuo a dar esse alerta,

porque mesmo se um dia
tivermos regras fortes em vigor,

todos teremos que agir pra consertar isso.

Quando comecei a mudar meu foco
de ameaças no exterior

para o colapso do discurso civil nos EUA,

me perguntei se podíamos redirecionar
algumas campanhas Hearts and Minds

para ajudar a curar nossas diferenças.

Nossa experiência de mais de 200 anos
com a democracia funciona

em grande parte porque podemos
debater de forma aberta e apaixonada

nossas ideias para as melhores soluções.

Mas embora ainda acredite profundamente
no poder do discurso civil "olho no olho",

ele não consegue competir

com os efeitos polarizadores
e a dimensão das redes sociais no momento.

As pessoas sugadas por essas armadilhas
de indignação nas redes sociais

muitas vezes parecem mais difíceis
de romper com as mentalidades ideológicas

do que as comunidades vulneráveis
com as quais trabalhei.

Então, quando me ligaram
do Facebook em 2018

e me ofereceram esta função

de liderar operações de integridade
eleitoral para publicidade política,

senti que tinha que aceitar.

Eu não tinha ilusões
de que iria consertar tudo,

mas quando ofereceram a oportunidade
de ajudar a conduzir melhor as coisas,

eu tinha pelo menos que tentar.

Não trabalhava diretamente na polarização,

mas eu analisava quais questões eram
as mais polêmicas em nossa sociedade

e, portanto, as mais exploráveis
nos esforços de interferência eleitoral,

que era a tática da Rússia antes de 2016.

Então comecei fazendo perguntas.

Eu queria entender
os problemas sistêmicos subjacentes

que estavam permitindo tudo isso,

para descobrir como corrigi-los.

Ainda acredito no poder da internet
para fazer mais vozes serem ouvidas,

mas apesar do objetivo declarado
de construir uma comunidade,

as maiores empresas de rede social atuais

são antitéticas no conceito
de discurso racional.

Não há como recompensar o ato de escutar,

como encorajar o debate civil

e como proteger as pessoas
que desejam sinceramente fazer perguntas

em uma indústria na qual otimizar
o engajamento e o crescimento do usuário

são as duas métricas
mais importantes para o sucesso.

Não há incentivo para ajudar
as pessoas a irem mais devagar,

para criar conflito suficiente
para que as pessoas parem,

identifiquem a reação emocional a algo

e questionem as próprias suposições
antes de se envolverem.

A triste realidade é:

mentiras são mais envolventes
on-line do que verdades,

e a obscenidade vence
o raciocínio baseado em fatos

em um mundo otimizado
para viralidade sem atrito.

Enquanto o objetivo dos algoritmos
for nos manter engajados,

continuarão a nos alimentar com o veneno
que ataca nossos piores instintos

e fraquezas humanas.

E sim, raiva, desconfiança,
a cultura do medo, ódio:

nada disso é novo nos Estados Unidos.

Mas, nos últimos anos,
a rede social explorou isso

e, a meu ver, desequilibrou
dramaticamente a balança.

E o Facebook sabe disso.

Um artigo recente do "Wall Street Journal"

expôs uma apresentação interna
do Facebook em 2018

que aponta especificamente
os próprios algoritmos das empresas

para aumentar a presença
de grupos extremistas em sua plataforma

e polarizar os usuários.

Mas eles ganham dinheiro
nos mantendo engajados.

O ambiente de informação moderno
é formado fazendo nossos perfis

e depois nos segmentando
em categorias cada vez mais restritas

para aperfeiçoar este processo
de personalização.

Somos bombardeados com informações
que confirmam nossas opiniões,

reforçando nossos preconceitos
e nos fazendo sentir incluídos.

São as mesmas táticas que víamos
recrutadores de terroristas

usando em jovens vulneráveis,

embora de formas menos pronunciadas
e mais localizadas antes da rede social,

com o objetivo final
de persuadir comportamentos.

Infelizmente, nunca tive o poder
no Facebook de causar um impacto real.

Na verdade, no meu segundo dia, meu título
e descrição de funções foram alterados

e fui cortada das reuniões
de tomada de decisão.

Meus maiores esforços,

tentando criar planos para combater
a desinformação e repressão eleitoral

em anúncios políticos, foram rejeitados.

Fiquei lá por pouco menos de seis meses.

Mas eis a minha maior
lição do meu tempo lá.

Existem milhares de pessoas no Facebook
trabalhando apaixonadamente em um produto

que eles realmente acreditam
que torna o mundo um lugar melhor,

mas enquanto a empresa continuar
a apenas mexer nos limites

da política de conteúdo e moderação,

ao invés de considerar como a máquina
é projetada e monetizada,

eles nunca irão realmente abordar
como a plataforma está contribuindo

para o ódio, divisão e radicalização.

Essa é a única conversa que nunca
escutei durante meu tempo lá,

porque exigiria fundamentalmente aceitar

que o que criaram pode não ser
o melhor para a sociedade,

e concordar em alterar
todo o modelo de produto e lucro.

Então, o que podemos fazer sobre isso?

Não estou dizendo que a rede social
seja a única responsável

para a situação em que estamos hoje.

Claramente, temos questões sociais
profundas que precisamos resolver.

Mas a resposta do Facebook,
de que ele é só um espelho da sociedade,

é uma tentativa conveniente
de desviar qualquer responsabilidade

na maneira como a plataforma deles
está amplificando conteúdo prejudicial

e levando alguns usuários
a opiniões extremas.

E o Facebook poderia, se eles quisessem,

consertar algumas dessas coisas.

Eles poderiam parar de destacar
e sugerir teóricos da conspiração,

grupos de ódio,
fornecedores de desinformação

e, sim, em alguns casos,
até o presidente dos EUA.

Eles poderiam parar de usar
as mesmas técnicas de personalização

que usam para nos vender tênis
para apresentar retórica política.

Eles poderiam refazer os algoritmos

para focar uma métrica
diferente de engajamento,

e criar formas de proteção para impedir
que determinado conteúdo se torne viral

antes de ser revisado.

E eles poderiam fazer tudo isso

sem se tornar o que chamam
de "árbitros da verdade".

Mas deixaram claro que não farão a coisa
certa se não forem forçados a isso.

E, sinceramente, por que fariam?

Os mercados continuam recompensando-os
e eles não estão infringindo a lei.

Porque, atualmente,

não há leis nos EUA que forcem o Facebook
ou qualquer empresa de rede social

a proteger nossa praça pública digital,

nossa democracia
e até mesmo nossas eleições.

Cedemos a tomada de decisão sobre quais
regras escrever e o que fazer para cumprir

para os CEOs de empresas
de internet com fins lucrativos.

É isso que nós queremos?

Um mundo pós-verdade
no qual a toxicidade e o tribalismo

superam o diálogo e a busca de consenso?

Continuo otimista de que ainda
temos mais em comum

do que a mídia atual
e o ambiente on-line retratam,

e acredito que ter mais perspectiva

contribui para uma democracia
mais robusta e inclusiva.

Mas não do jeito que está agora.

E vale a pena enfatizar:
não quero acabar com essas empresas.

Eu só quero que tenham
um certo nível de responsabilidade,

assim como o resto da sociedade.

É hora das autoridades se posicionarem
e cumprirem sua função

de proteger os cidadãos.

E enquanto não há uma legislação mágica
para consertar tudo isso,

acredito que os governos podem
e devem encontrar o equilíbrio

entre proteger a liberdade de expressão

e responsabilizar essas plataformas
por seus efeitos na sociedade.

E poderiam fazer isso em parte
insistindo na transparência real

em torno de como esses mecanismos
de recomendação estão funcionando;

e como a curadoria, amplificação
e segmentação estão acontecendo.

Quero que essas empresas
sejam responsabilizadas

não quando um indivíduo
postar informações incorretas

ou retórica extrema,

mas quando os mecanismos deles
de recomendação as espalharem,

seus algoritmos direcionarem
as pessoas para isso,

e suas ferramentas forem usadas
para atingir as pessoas com ele.

Tentei fazer mudanças
dentro do Facebook e falhei,

mas tenho usado minha voz
novamente nos últimos anos

para continuar soando este alarme

e, quem sabe, inspirar mais pessoas
a exigir essa responsabilização.

Minha mensagem para você é simples:

pressione seus representantes no governo

a se posicionarem e pararem
de ceder nossa praça pública

para interesses com fins lucrativos.

Ajude a educar amigos e familiares

sobre como eles estão sendo
manipulados on-line.

Esforce-se para interagir com pessoas
que não têm os mesmos interesses.

Faça deste assunto uma prioridade.

Precisamos de uma abordagem
de toda a sociedade para consertar isso.

E minha mensagem para os líderes
do meu ex-empregador Facebook é esta:

as pessoas estão usando suas ferramentas
exatamente como foram projetadas

para semear ódio, divisão e desconfiança,

e vocês não só estão permitindo,
mas possibilitando isso.

E sim, há muitas histórias ótimas

de coisas positivas acontecendo
em sua plataforma ao redor do mundo,

mas isso não torna nada disso certo.

Só está piorando à medida
em que as eleições se aproximam,

e ainda mais preocupante,

enfrentaremos nossa maior
crise potencial até agora,

se os resultados não forem confiáveis
e se houver violência.

E quando em 2021 vocês disserem de novo:
"Sabemos que temos que fazer melhor",

quero que se lembrem deste momento,

porque não são mais apenas
algumas vozes esparsas.

Líderes dos direitos civis, acadêmicos,

jornalistas, anunciantes,
seus próprios funcionários

estão gritando para todos escutarem

que suas políticas e práticas de negócios
prejudicam as pessoas e a democracia.

Vocês podem agir como quiserem,

mas não podem mais dizer
que por essa vocês não esperavam.

Obrigada.