Dentro do mundo bizarro dos trols e propagandistas da internet

O jornalista Andrew Marantz passou três anos dentro do mundo dos trols da internet e propagandistas das redes sociais, procurando por pessoas que são capazes de estimular assuntos periféricos no coração de conversas on-line, e tentando entender como elas espalham suas ideias. Caia no buraco sem fim das propagandas on-line e informações falsas, e aprenda como podemos deixar a internet menos tóxica.

Eu passei os últimos três anos

conversando com algumas
das piores pessoas na internet.

Se você esteve on-line recentemente,

deve ter notado que há
uma pilha de lixo tóxico por aí:

memes racistas, propaganda misógina,
informações falsas que viralizam.

Eu queria saber quem fazia isso.

Eu queria entender como isso se espalhava.

Por fim, eu queria saber que tipo
de impacto isso causa na nossa sociedade.

Em 2016, comecei a rastrear alguns
desses memes até suas fontes originais,

até as pessoas que os criavam
ou os faziam viralizar.

Eu dizia a elas:

"Sou um jornalista,
posso ir ver o que você faz?".

Na maioria das vezes a resposta era:

"Por que diabos eu falaria
com um viadinho,

judeu chifrudo globalista do Brooklyn
que conspira com o Partido Democrático?".

(Risos)

A minha resposta era: "Cara,
isso é apenas 57% verdade".

(Risos)

Mas também me respondiam:

"Tudo bem, pode vir".

Foi assim que fui parar na sala

de um propagandista de mídias sociais
no sul da Califórnia.

Ele era um cara branco,
casado, na casa dos 30.

Ele tinha uma mesa
com uma caneca com café,

um notebook para tuitar,

um celular para mandar mensagens

e um iPad para fazer transmissões
ao vivo no Periscope e no YouTube.

Era só isso.

E ainda assim,

ele era capaz de estimular
assuntos periféricos e tóxicos

no coração da conversa norte-americana.

Certo dia em que eu estava lá,

uma bomba explodiu em Nova York,

e o cara acusado de plantar a bomba
tinha um nome que soava muçulmano.

Para o propagandista na Califórnia,
isso soou como uma oportunidade,

porque ele queria que os Estados Unidos
acabassem com quase toda imigração,

especialmente de países
de maioria muçulmana.

Então, ele começou
uma transmissão ao vivo,

fazendo seus seguidores
falarem alboroçados

sobre como a política de portas abertas
mataria todo mundo,

pedindo que tuitassem sobre isso

com hashtags específicas para entrarem
nos assuntos mais comentados.

E eles tuitavam;

centenas e centenas de tuítes,

muitos tinham imagens como esta aqui.

Esse é George Soros.

Ele é um bilionário e filantropo húngaro,

e na mente de alguns
conspiradores on-line,

George Soros é um bicho-papão globalista,

alguém da pequena elite que está
secretamente manipulando o mundo.

Vamos fazer uma pequena pausa:
se essa ideia lhe soa familiar,

que existe uma pequena elite
controlando o mundo

e muitos deles são judeus ricos,

é porque essa é uma das mensagens
mais antissemitas que existe.

Eu também deveria mencionar que o cara
em Nova York que plantou a bomba

era um cidadão norte-americano.

Seja lá o que estivesse acontecendo lá,

a imigração não era o problema central.

E o propagandista na Califórnia,
ele entendia tudo isso.

Ele era instruído.

Era um advogado.

Ele conhecia os fatos subjacentes,

mas também sabia que fatos
não iniciam conversas on-line.

O que inicia uma conversa on-line

é a emoção.

A premissa original das mídias sociais
é que elas iriam nos unir

e fazer do mundo um lugar
mais aberto, tolerante e justo.

Um pouco disso aconteceu.

Mas os algoritmos das mídias
sociais não foram feitos

para diferenciar o verdadeiro do falso,

o que é bom ou mau para a sociedade,
o que é pró-social e o que é antissocial.

Não é isso que os algoritmos fazem.

Muito do que eles fazem
é medir o engajamento:

cliques, comentários, compartilhamentos,
retuítes, esse tipo de coisas.

E se você quer que seu conteúdo
crie engajamento,

ele precisa despertar emoção,

especificamente, o que os cientistas
chamam de "alta excitação de emoção".

"Alta excitação" não é apenas sexual,

mas como é a internet,
obviamente isso acontece.

Significa que qualquer coisa, positiva
ou negativa, provoca um sentimento.

Então, eu me sentava com propagandistas,

não só com esse cara,
mas com dezenas deles,

e eu observava como eles faziam isso,
uma e outra vez, e com sucesso,

não porque eram hackers russos,
não porque eram prodígios,

não porque tinham visões políticas únicas,

mas porque entendiam
como as mídias sociais funcionam,

e exploravam isso a favor deles.

À primeira vista, pensei que isso
era um fenômeno isolado,

algo relegado à internet.

Mas não existe mais separação
entre a internet e qualquer outra coisa.

Esta é uma propaganda de televisão

durante as eleições do congresso em 2018,

alegando, quase sem provas,
que um dos candidatos

estava sob o controle do manipulador
internacional George Soros,

cuja foto foi editada
com pilhas de dinheiro.

Este é um tuíte do presidente
dos Estados Unidos,

alegando, também sem provas,

que a política norte-americana
está sendo manipulada por George Soros.

Essas coisas que pareciam ser chocantes,
marginais e até insignificantes,

estão agora tão normalizadas
que quase nem notamos.

Eu passei cerca de três anos nesse mundo.

Conversei com várias pessoas.

Algumas pareciam não ter
nenhuma crença básica.

Elas pareciam apenas estar
apostando, racionalmente,

que, para ganhar dinheiro
ou chamar a atenção on-line,

elas só precisavam ser
as mais escandalosas possíveis.

Mas também conversei
com verdadeiras ideologias.

E, para ser claro, a ideologia delas
não era o conservadorismo tradicional.

Elas queriam acabar
com o sufrágio feminino.

Elas queriam retornar à segregação racial.

Algumas queriam abolir a democracia.

Mas elas não nasceram acreditando nisso.

Elas não aprenderam isso na escola.

Antes de caírem no buraco
sem fim da internet,

muitas delas eram
libertárias ou socialistas,

ou qualquer outra coisa.

Então, o que está acontecendo?

Não posso generalizar todos os casos,
mas muitas pessoas com quem conversei

pareciam ter uma combinação
de alto QI com baixo QE.

Elas se consolavam em espaços
anônimos e on-line

em vez de se conectarem com o mundo real.

Muitas vezes, elas se isolavam
em fóruns ou em subreddits,

onde seus piores impulsos
eram magnificados.

Elas podem começar com uma piada doentia,

e, então, ganham tanto reforço
positivo por essa piada,

"acumulam pontuação", como elas dizem,

que começam a acreditar na própria piada.

Conversei bastante com uma jovem
que cresceu em Nova Jersey

e depois do ensino médio
foi morar em outro lugar

e, do nada, ela se sentiu
alienada e rejeitada

e começou a se isolar com seu celular.

Ela encontrou espaços na internet

onde as pessoas postavam
coisas chocantes e abomináveis.

Ela achou essas coisas bem desagradáveis,

mas meio que cativantes também,

meio que difíceis de ignorar.

Ela interagia com essas pessoas,

e elas a faziam se sentir
esperta e a aprovavam.

Ela começou a ter
uma sensação de comunidade,

começou a se perguntar
se esses memes chocantes

poderiam conter um fundo de verdade.

Alguns meses depois, ela estava
num carro com amigos virtuais

indo para Charlottesville, Virginia,

para marchar com tochas
em nome da raça branca.

Em poucos meses, ela passou
de defensora do Obama

para supremacista branca
completamente radicalizada.

No seu caso em particular,

ela conseguiu sair do culto
da supremacia branca.

Muitos com quem conversei, não saíram.

E para ser claro:

nunca me senti convencido
de que precisava entrar em consenso

com cada pessoa que conversei

a ponto de dizer:

"Quer saber, cara, você é
um propagandista fascista e eu não,

não importa, vamos nos abraçar
e nossas diferenças vão desaparecer".

Não, absolutamente não.

Mas fiquei convencido
que não podemos ignorar essas coisas.

Precisamos tentar entendê-las,
porque apenas se a entendermos

podemos pensar em começar
a nos vacinar contra isso.

Durante três anos nesse mundo,
recebi algumas ligações desagradáveis,

até algumas ameaças,

mas isso não é nem uma fração
do que acontece com jornalistas mulheres.

E sim, eu sou judeu,

apesar de que, muito estranho,
muitos nazistas não diziam que eu era um,

o que, francamente, me deixou
um pouco desapontado.

(Risos)

Sério, o seu trabalho é ser
um antissemita profissional.

Não há nenhuma pista em mim?

Nenhuma?

(Risos)

Isso não é segredo.

Meu nome é Andrew Marantz,
escrevo para o The New Yorker,

meu tipo de personalidade
é um episódio de Seinfeld

gravado no Park Slope Food Coop.

Nenhuma?

(Risos)

De qualquer forma, enfim, seria legal

se existisse uma fórmula simples:

celular mais criança alienada
igual 12% de chance de ser nazista.

Obviamente não é simples assim.

E, quando escrevo,

fico mais à vontade sendo
descritivo do que prescritivo.

Mas estamos no TED,

então, vamos ser práticos.

Vou compartilhar algumas sugestões

de coisas que cidadãos
da internet, como eu e você,

podem fazer para deixar
as coisas menos tóxicas.

A primeira é: seja um cético inteligente.

Acho que existem dois tipos de ceticismo.

Não quero mergulhar vocês
em informações técnicas epistemológicas,

mas eu os chamo de ceticismo
inteligente e burro.

O ceticismo inteligente:

pensar por você mesmo,

questionar as afirmações,

exigir evidências,

maravilha, esse é
o verdadeiro ceticismo.

Ceticismo burro: parece ceticismo,

mas, na verdade,
é uma negação automática.

Todo mundo diz que a Terra
é redonda, você diz que é plana.

Todo mundo diz que o racismo é ruim,
você diz: "Sei lá, sou meio cético".

Já perdi a conta com quantos jovens
brancos conversei que disseram:

"A mídia, meus professores,
todos estão tentando me doutrinar

sobre o privilégio masculino e branco,

mas eu não tenho certeza,
acho que não é assim".

Jovens brancos da negação automática,

vejam bem:

se você é cético quanto à Terra
ser redonda, ao privilégio masculino

e ao racismo ser ruim,

você não é cético, você é um babaca.

(Risos)

(Aplausos)

É maravilhoso ter uma mente independente,
todos deveriam ser assim,

mas seja inteligente.

O próximo é a liberdade de expressão.

Pessoas inteligentes e realizadas dirão:
"Eu apoio a liberdade de expressão".

E dizem isso como se estivessem
encerrando um debate,

quando, na verdade, esse é começo
de qualquer conversa significativa.

Todas as coisas interessantes
acontecem depois disso.

Você apoia isso, mas o que isso significa?

Significa que David Duke e Richard Spencer

precisam ter contas ativas no Twitter?

Significa que qualquer um
pode assediar alguém on-line

por qualquer razão?

Olhei toda a lista deste ano
dos palestrantes do TED.

Não encontrei nenhum
cético da Terra redonda.

Isso é uma violação das normas
da liberdade de expressão?

Todos nós apoiamos
a liberdade de expressão,

isso é maravilhoso,

mas se você só sabe repetir isso,

você está ficando no caminho
de uma conversa mais produtiva.

Fazer a decência ser
legal de novo, então...

Maravilha!

(Aplausos)

Eu nem preciso explicar.

Então, na minha pesquisa, eu acessava
o Reddit, o YouTube ou o Facebook,

e procurava por "Xaria"

ou procurava por "Holocausto",

e você pode adivinhar
o que os algoritmos me mostravam, certo?

"Estaria a Xaria se espalhando
pelos Estados Unidos?".

"O Holocausto realmente aconteceu?".

Ceticismo burro.

Chegamos a essa dinâmica on-line bizarra,

onde propagandas fanáticas são vistas

como algo ousado ou algo perigoso e legal,

e a verdade básica e a decência humana
são vistas como algo chocante,

um sinal de virtude ou apenas entediante.

E os algoritmos das mídias sociais,
intencionalmente ou não,

estão incentivando isso,

porque propagandas fanáticas
são boas para engajamento.

Todo mundo clica, todo mundo comenta,

quer tenha amado ou odiado.

Então, a primeira coisa
que precisa acontecer

é que as redes sociais precisam
consertar suas plataformas.

(Aplausos)

Se você está me ouvindo e trabalha
na empresa de uma mídia social,

ou investe em uma, ou é dono de uma,

essa dica é para você.

Caso você esteja otimizando
para engajamento emocional máximo,

que está ativamente
causando danos no mundo,

é hora de otimizar para outra coisa.

(Aplausos)

Mas, além de colocar pressão neles,

querer e esperar que eles façam isso,

há algo que o resto de nós
também pode fazer.

Podemos criar caminhos melhores
ou sugerir caminhos melhores

para os adolescentes angustiados seguirem.

Se você vê algo que acha bem criativo
e inspirador e quer compartilhar,

compartilhe isso,

mesmo que isso não o esteja inundado
com alta excitação de emoção.

Esse é um passo bem pequeno, eu sei,

mas, no todo, essas coisas
realmente importam,

porque esses algoritmos poderosos

estão retirando suas dicas
comportamentais de nós.

Então, permita-me deixar isto.

Há alguns anos, estava na moda

dizer que a internet era revolucionária

que iria nos unir.

Agora, a moda é dizer

que a internet é uma grande lixeira
irrecuperável pegando fogo.

Nenhuma caricatura é verdadeira.

Sabemos que a internet
é muito vasta e complexa

para ser só boa ou só má.

E o perigo de ter
esse tipo de pensamentos,

quer sejam visões utópicas
de que a internet nos salvará

quer sejam visões distópicas
de que ela nos destruirá,

seja como for, estamos
escapando da responsabilidade.

Não há nada inevitável
sobre o nosso futuro.

A internet é feita de pessoas.

As pessoas tomam decisões
nas empresas de mídias sociais.

As pessoas fazem as hashtags
serem o assunto do momento.

As pessoas fazem a sociedade
progredir ou regredir.

Ao internalizarmos esse fato,

podemos parar de esperar
pela chegada do futuro inevitável

e fazer alguma coisa a respeito.

Todos nós aprendemos
que o arco do universo moral é longo

mas se curva em direção à justiça.

Talvez.

Talvez ele se curve.

Mas isso sempre foi uma aspiração.

Isso não é uma garantia.

O arco não se curva sozinho.

Ele não é inevitavelmente curvado
por uma força misteriosa.

A verdade real,

que é mais assustadora e mais libertadora,

é que nós o curvamos.

Obrigado.

(Aplausos)