Cerca de cinco anos atrás,
percebi que estava perdendo a habilidade
de me envolver com pessoas que não pensam como eu.
A ideia de discutir questões polêmicas com meus colegas americanos
estava começando a me dar mais azia
do que as vezes que me envolvi com suspeitos de extremismo no exterior.
Estava começando a ficar mais amarga e frustrada.
E assim,
mudei todo o meu foco de ameaças à segurança nacional global
para tentar entender o que estava causando esse impulso
rumo à polarização extrema nos EUA.
Como ex-oficial da CIA e diplomata
que passou anos trabalhando em questões de contraextremismo,
comecei a temer que isso estivesse virando uma ameaça muito maior à nossa democracia
do que qualquer adversário estrangeiro.
Comecei a me aprofundar e a me manifestar sobre isso,
o que acabou me levando a ser contratada pelo Facebook
e finalmente me trouxe aqui hoje
para continuar alertando você sobre como essas plataformas
estão manipulando e radicalizando muitos de nós,
e para falar sobre como recuperar as praças públicas digitais.
Eu fui oficial do serviço estrangeiro no Quênia
apenas alguns anos após os ataques do 11 de setembro,
e conduzi as chamadas campanhas "Hearts and Minds"
ao longo da fronteira com a Somália.
Grande parte do meu trabalho era construir a confiança das comunidades
consideradas mais suscetíveis a mensagens extremistas.
Passava horas bebendo chá com clérigos antiocidentais declarados
e até dialogava com alguns suspeitos de terrorismo,
e, embora muitos desses encontros começassem com suspeita mútua,
não me lembro de nenhum deles resultando em gritos ou insultos,
e, em alguns casos, até trabalhamos juntos em áreas de interesse mútuo.
As ferramentas mais poderosas que tínhamos eram simplesmente escutar, aprender
e cultivar empatia.
Esta é a essência do trabalho da Hearts and Minds,
porque vi repetidamente que a maioria das pessoas queria
se sentir ouvida, validada e respeitada.
E acredito que é isso que a maioria de nós deseja.
Então, o que vejo acontecendo on-line hoje é especialmente triste
e muito mais difícil de resolver.
Estamos sendo manipulados pelo atual ecossistema de informações,
enraizando tantos de nós no absolutismo, que "meio-termo" se tornou um palavrão.
Porque agora, empresas de rede social como o Facebook
lucram nos segmentando e fornecendo conteúdo personalizado
que valida e explora nossos preconceitos.
O resultado final depende de provocar um sentimento forte
para nos manter engajados,
frequentemente incentivando as vozes mais inflamatórias e polarizadoras,
ao ponto de não parecer mais possível chegarmos a um consenso.
E apesar de um coro crescente de pessoas clamando pela mudança das plataformas,
está claro que elas não farão o suficiente por conta própria.
Portanto, os governos devem determinar a responsabilidade
para os danos do mundo real causados por esses modelos de negócios
e impor custos reais sobre os efeitos prejudiciais
que estão causando na nossa saúde pública, nossa praça pública e nossa democracia.
Mas, infelizmente, isso não vai acontecer a tempo da eleição presidencial nos EUA,
então continuo a dar esse alerta,
porque mesmo se um dia tivermos regras fortes em vigor,
todos teremos que agir pra consertar isso.
Quando comecei a mudar meu foco de ameaças no exterior
para o colapso do discurso civil nos EUA,
me perguntei se podíamos redirecionar algumas campanhas Hearts and Minds
para ajudar a curar nossas diferenças.
Nossa experiência de mais de 200 anos com a democracia funciona
em grande parte porque podemos debater de forma aberta e apaixonada
nossas ideias para as melhores soluções.
Mas embora ainda acredite profundamente no poder do discurso civil "olho no olho",
ele não consegue competir
com os efeitos polarizadores e a dimensão das redes sociais no momento.
As pessoas sugadas por essas armadilhas de indignação nas redes sociais
muitas vezes parecem mais difíceis de romper com as mentalidades ideológicas
do que as comunidades vulneráveis com as quais trabalhei.
Então, quando me ligaram do Facebook em 2018
e me ofereceram esta função
de liderar operações de integridade eleitoral para publicidade política,
senti que tinha que aceitar.
Eu não tinha ilusões de que iria consertar tudo,
mas quando ofereceram a oportunidade de ajudar a conduzir melhor as coisas,
eu tinha pelo menos que tentar.
Não trabalhava diretamente na polarização,
mas eu analisava quais questões eram as mais polêmicas em nossa sociedade
e, portanto, as mais exploráveis nos esforços de interferência eleitoral,
que era a tática da Rússia antes de 2016.
Então comecei fazendo perguntas.
Eu queria entender os problemas sistêmicos subjacentes
que estavam permitindo tudo isso,
para descobrir como corrigi-los.
Ainda acredito no poder da internet para fazer mais vozes serem ouvidas,
mas apesar do objetivo declarado de construir uma comunidade,
as maiores empresas de rede social atuais
são antitéticas no conceito de discurso racional.
Não há como recompensar o ato de escutar,
como encorajar o debate civil
e como proteger as pessoas que desejam sinceramente fazer perguntas
em uma indústria na qual otimizar o engajamento e o crescimento do usuário
são as duas métricas mais importantes para o sucesso.
Não há incentivo para ajudar as pessoas a irem mais devagar,
para criar conflito suficiente para que as pessoas parem,
identifiquem a reação emocional a algo
e questionem as próprias suposições antes de se envolverem.
A triste realidade é:
mentiras são mais envolventes on-line do que verdades,
e a obscenidade vence o raciocínio baseado em fatos
em um mundo otimizado para viralidade sem atrito.
Enquanto o objetivo dos algoritmos for nos manter engajados,
continuarão a nos alimentar com o veneno que ataca nossos piores instintos
e fraquezas humanas.
E sim, raiva, desconfiança, a cultura do medo, ódio:
nada disso é novo nos Estados Unidos.
Mas, nos últimos anos, a rede social explorou isso
e, a meu ver, desequilibrou dramaticamente a balança.
E o Facebook sabe disso.
Um artigo recente do "Wall Street Journal"
expôs uma apresentação interna do Facebook em 2018
que aponta especificamente os próprios algoritmos das empresas
para aumentar a presença de grupos extremistas em sua plataforma
e polarizar os usuários.
Mas eles ganham dinheiro nos mantendo engajados.
O ambiente de informação moderno é formado fazendo nossos perfis
e depois nos segmentando em categorias cada vez mais restritas
para aperfeiçoar este processo de personalização.
Somos bombardeados com informações que confirmam nossas opiniões,
reforçando nossos preconceitos e nos fazendo sentir incluídos.
São as mesmas táticas que víamos recrutadores de terroristas
usando em jovens vulneráveis,
embora de formas menos pronunciadas e mais localizadas antes da rede social,
com o objetivo final de persuadir comportamentos.
Infelizmente, nunca tive o poder no Facebook de causar um impacto real.
Na verdade, no meu segundo dia, meu título e descrição de funções foram alterados
e fui cortada das reuniões de tomada de decisão.
Meus maiores esforços,
tentando criar planos para combater a desinformação e repressão eleitoral
em anúncios políticos, foram rejeitados.
Fiquei lá por pouco menos de seis meses.
Mas eis a minha maior lição do meu tempo lá.
Existem milhares de pessoas no Facebook trabalhando apaixonadamente em um produto
que eles realmente acreditam que torna o mundo um lugar melhor,
mas enquanto a empresa continuar a apenas mexer nos limites
da política de conteúdo e moderação,
ao invés de considerar como a máquina é projetada e monetizada,
eles nunca irão realmente abordar como a plataforma está contribuindo
para o ódio, divisão e radicalização.
Essa é a única conversa que nunca escutei durante meu tempo lá,
porque exigiria fundamentalmente aceitar
que o que criaram pode não ser o melhor para a sociedade,
e concordar em alterar todo o modelo de produto e lucro.
Então, o que podemos fazer sobre isso?
Não estou dizendo que a rede social seja a única responsável
para a situação em que estamos hoje.
Claramente, temos questões sociais profundas que precisamos resolver.
Mas a resposta do Facebook, de que ele é só um espelho da sociedade,
é uma tentativa conveniente de desviar qualquer responsabilidade
na maneira como a plataforma deles está amplificando conteúdo prejudicial
e levando alguns usuários a opiniões extremas.
E o Facebook poderia, se eles quisessem,
consertar algumas dessas coisas.
Eles poderiam parar de destacar e sugerir teóricos da conspiração,
grupos de ódio, fornecedores de desinformação
e, sim, em alguns casos, até o presidente dos EUA.
Eles poderiam parar de usar as mesmas técnicas de personalização
que usam para nos vender tênis para apresentar retórica política.
Eles poderiam refazer os algoritmos
para focar uma métrica diferente de engajamento,
e criar formas de proteção para impedir que determinado conteúdo se torne viral
antes de ser revisado.
E eles poderiam fazer tudo isso
sem se tornar o que chamam de "árbitros da verdade".
Mas deixaram claro que não farão a coisa certa se não forem forçados a isso.
E, sinceramente, por que fariam?
Os mercados continuam recompensando-os e eles não estão infringindo a lei.
Porque, atualmente,
não há leis nos EUA que forcem o Facebook ou qualquer empresa de rede social
a proteger nossa praça pública digital,
nossa democracia e até mesmo nossas eleições.
Cedemos a tomada de decisão sobre quais regras escrever e o que fazer para cumprir
para os CEOs de empresas de internet com fins lucrativos.
É isso que nós queremos?
Um mundo pós-verdade no qual a toxicidade e o tribalismo
superam o diálogo e a busca de consenso?
Continuo otimista de que ainda temos mais em comum
do que a mídia atual e o ambiente on-line retratam,
e acredito que ter mais perspectiva
contribui para uma democracia mais robusta e inclusiva.
Mas não do jeito que está agora.
E vale a pena enfatizar: não quero acabar com essas empresas.
Eu só quero que tenham um certo nível de responsabilidade,
assim como o resto da sociedade.
É hora das autoridades se posicionarem e cumprirem sua função
de proteger os cidadãos.
E enquanto não há uma legislação mágica para consertar tudo isso,
acredito que os governos podem e devem encontrar o equilíbrio
entre proteger a liberdade de expressão
e responsabilizar essas plataformas por seus efeitos na sociedade.
E poderiam fazer isso em parte insistindo na transparência real
em torno de como esses mecanismos de recomendação estão funcionando;
e como a curadoria, amplificação e segmentação estão acontecendo.
Quero que essas empresas sejam responsabilizadas
não quando um indivíduo postar informações incorretas
ou retórica extrema,
mas quando os mecanismos deles de recomendação as espalharem,
seus algoritmos direcionarem as pessoas para isso,
e suas ferramentas forem usadas para atingir as pessoas com ele.
Tentei fazer mudanças dentro do Facebook e falhei,
mas tenho usado minha voz novamente nos últimos anos
para continuar soando este alarme
e, quem sabe, inspirar mais pessoas a exigir essa responsabilização.
Minha mensagem para você é simples:
pressione seus representantes no governo
a se posicionarem e pararem de ceder nossa praça pública
para interesses com fins lucrativos.
Ajude a educar amigos e familiares
sobre como eles estão sendo manipulados on-line.
Esforce-se para interagir com pessoas que não têm os mesmos interesses.
Faça deste assunto uma prioridade.
Precisamos de uma abordagem de toda a sociedade para consertar isso.
E minha mensagem para os líderes do meu ex-empregador Facebook é esta:
as pessoas estão usando suas ferramentas exatamente como foram projetadas
para semear ódio, divisão e desconfiança,
e vocês não só estão permitindo, mas possibilitando isso.
E sim, há muitas histórias ótimas
de coisas positivas acontecendo em sua plataforma ao redor do mundo,
mas isso não torna nada disso certo.
Só está piorando à medida em que as eleições se aproximam,
e ainda mais preocupante,
enfrentaremos nossa maior crise potencial até agora,
se os resultados não forem confiáveis e se houver violência.
E quando em 2021 vocês disserem de novo: "Sabemos que temos que fazer melhor",
quero que se lembrem deste momento,
porque não são mais apenas algumas vozes esparsas.
Líderes dos direitos civis, acadêmicos,
jornalistas, anunciantes, seus próprios funcionários
estão gritando para todos escutarem
que suas políticas e práticas de negócios prejudicam as pessoas e a democracia.
Vocês podem agir como quiserem,
mas não podem mais dizer que por essa vocês não esperavam.
Obrigada.