Por que o fascismo é tão tentador e como seus dados podem fortalecê-lo

Numa palestra profunda sobre tecnologia e poder, o autor e historiador Yuval Noah Harari explica a importante diferença entre fascismo e nacionalismo e o que significa a consolidação de nossos dados para o futuro da democracia. Aparecendo no palco como um holograma ao vivo de Tel Aviv, Harari adverte que o maior perigo que agora confronta a democracia liberal é que a revolução na tecnologia da informação tornará as ditaduras mais eficientes e capazes de assumir o controle. "Os inimigos da democracia liberal podem reprogramar nossos sentimentos de medo, ódio e vaidade, e depois usá-los para polarizar e destruir", diz Harari. "É responsabilidade de todos nós conhecer nossas fraquezas e garantir que elas não se transformem em armas." (Seguido por uma breve conversa com o curador do TED, Chris Anderson)

Olá a todos.

É meio engraçado, porque escrevi
que os humanos se tornarão digitais,

mas não achei que isso
aconteceria tão rápido

e que aconteceria comigo!

Mas aqui estou eu, como um avatar digital

e aí estão vocês, então vamos lá.

Vamos começar com uma pergunta:

"Quantos fascistas temos na plateia hoje?"

(Risos)

Bem, é um pouco difícil dizer

porque esquecemos o que é o fascismo.

As pessoas agora usam o termo "fascista"

como um tipo de uso geral do abuso.

Ou confundem fascismo com nacionalismo.

Vamos usar alguns minutos pra esclarecer
o que é o fascismo, na verdade,

e como ele é diferente do nacionalismo.

As formas mais brandas do nacionalismo
têm estado entre algumas

das criações humanas mais benevolentes.

Nações são comunidades
de milhões de estranhos

que não se conhecem.

Por exemplo, eu não conheço
os 8 milhões de pessoas

que compartilham
a minha cidadania israelense.

Mas graças ao nacionalismo,

todos podemos nos preocupar
uns com os outros

e cooperar de forma eficaz.

Isso é muito bom.

Algumas pessoas, como John Lennon,
imaginam que sem nacionalismo,

o mundo será um paraíso pacífico.

Mas, mais provavelmente,

sem nacionalismo,
estaríamos vivendo no caos tribal.

Se observarmos hoje os países
mais prósperos e pacíficos do mundo,

como a Suécia, Suíça e Japão,

veremos que eles têm
um forte senso de nacionalismo.

Em contraste, países que não têm
um forte senso de nacionalismo,

como Congo, Somália e Afeganistão,
tendem a ser violentos e pobres.

Então, o que é fascismo e como
ele é diferente do nacionalismo?

Bem, o nacionalismo me diz
que minha nação é única

e que tenho obrigações especiais com ela.

Já o fascismo me diz
que minha nação é suprema

e que tenho obrigações exclusivas com ela.

Não preciso me preocupar com ninguém
ou com nada a não ser com minha nação.

Normalmente, claro,
as pessoas têm muitas identidades

e lealdade a diferentes grupos.

Por exemplo, posso ser
um grande patriota, fiel ao meu país

e, ao mesmo tempo,
ser fiel a minha família,

a minha vizinhança, minha profissão,

à humanidade como um todo,

à verdade e à beleza.

Mas quando temos diferentes
identidades e lealdades,

isso pode criar conflitos e complicações.

Mas, quem disse que a vida é fácil?

A vida é complicada.

Lidemos com isso.

Fascismo é o que acontece quando
as pessoas tentam ignorar as complicações

e facilitar muito a própria vida delas.

O fascismo nega todas as identidades,
exceto a identidade nacional,

e insiste que tenho obrigações
somente com a minha nação.

Se minha nação exige
que eu sacrifique minha família,

então, vou sacrificar minha família.

Se a nação exige que eu
mate milhões de pessoas,

então vou matar milhões de pessoas.

E se minha nação exige
que eu traia a verdade e a beleza,

devo trair a verdade e a beleza.

Por exemplo, como um fascista avalia arte?

Como um fascista decide
se um filme é bom ou ruim?

É extremamente simples.

Existe, na verdade, apenas um critério:

se o filme serve aos interesses da nação,

é um bom filme;

se não serve aos interesses da nação,

é um filme ruim.

É bem por aí.

Do mesmo modo, como um fascista decide
o que ensinar às crianças na escola?

De novo, é muito simples.

Existe apenas um critério:

você ensina às crianças
o que serve aos interesses da nação.

A verdade não importa em nada.

Os horrores da Segunda Guerra Mundial
e do Holocausto nos lembram

das terríveis consequências
deste raciocínio.

Mas, geralmente, ao falarmos
sobre os males do fascismo,

fazemos isso de modo ineficaz,

pois a tendência é descrever o fascismo
como um monstro hediondo,

sem realmente explicar
o que havia de tão sedutor nele.

É um pouco como nos filmes de Hollywood
que retratam os bandidos,

Voldemort, Sauron ou Darth Vader,

como feios, malignos e cruéis.

Eles são cruéis até mesmo
com aqueles que os apoiam.

Quando vejo esses filmes, nunca entendo:

por que alguém ficaria tentado a seguir
um asqueroso nojento como o Voldemort?

O problema com o mal é que, na vida real,

o mal não parece necessariamente feio.

Ele pode parecer muito bonito.

E isso é algo que o cristianismo
sabia muito bem,

é por isso que na arte cristã,
ao contrário de Hollywood,

Satanás é geralmente representado
como um homem lindo.

É por isso que fica tão difícil
resistir às tentações de Satanás,

e porque também fica difícil
resistir às tentações do fascismo.

O fascismo faz com que as pessoas se vejam

como pertencendo à coisa mais bela
e mais importante do mundo:

a nação.

E então elas pensam:

"Nos ensinaram que o fascismo é feio,

mas quando me olho no espelho,
vejo algo muito bonito.

Não tem como eu ser um fascista, certo?"

Errado.

Esse é o problema com o fascismo.

Quando você se olha no espelho fascista,

se vê muito mais bonito
do que realmente é.

Na década de 1930, quando os alemães
se olharam no espelho fascista,

viram a Alemanha como a coisa
mais linda do mundo.

Se os russos se olharem
no espelho fascista hoje,

vão ver a Rússia como a coisa
mais linda do mundo.

E se os israelenses se olharem
no espelho fascista,

vão ver Israel como a coisa
mais linda do mundo.

Não significa que estejamos enfrentando
agora uma reprise da década de 1930.

Fascismo e ditaduras podem voltar,

mas vão voltar num novo formato,

que é bem mais relevante

às novas realidades
tecnológicas do século 21.

Em tempos antigos,

a terra era o bem
mais importante do mundo.

Política, portanto, era a luta
para controlar as terras.

E ditadura significava que todas as terras
pertenciam a um único governante

ou a uma pequena oligarquia.

E na era moderna, as máquinas tornaram-se
mais importantes do que a terra.

Política tornou-se a luta
para controlar as máquinas.

E ditadura significava

que muitas das máquinas
ficavam concentradas

nas mãos do governo
ou de uma pequena elite.

Agora os dados estão substituindo
tanto a terra quanto as máquinas

como o bem mais importante.

Política se torna a luta
para controlar os fluxos de dados.

E ditadura agora significa

que muitos dados estão sendo
concentrados nas mãos do governo

ou de uma pequena elite.

O maior perigo que confronta
a democracia liberal agora

é que a revolução
em tecnologia da informação

tornará ditaduras mais eficientes
do que as democracias.

No século 20,

a democracia e o capitalismo
derrotaram o fascismo e o comunismo,

pois a democracia era melhor

no processamento de dados
e na tomada de decisões.

Devido à tecnologia do século 20,

tornou-se simplesmente ineficiente
tentar concentrar muitos dados

e muito poder num só lugar.

Mas não é uma lei da natureza

que processamento centralizado de dados
seja sempre menos eficiente

que o processamento distribuído de dados.

Com o surgimento da IA
e do aprendizado de máquina,

talvez torne-se viável processar
enormes quantidades de informação

muito eficientemente num lugar,

tomar todas as decisões num só lugar,

e, assim, o processamento centralizado
de dados será mais eficiente

que o processamento distribuído de dados.

E, então, a principal desvantagem
de regimes autoritários

no século 20,

a tentativa deles de concentrar
todas as informações num só lugar,

se tornará a maior vantagem deles.

Outro perigo tecnológico
que ameaça o futuro da democracia

é a fusão da tecnologia da informação
com a biotecnologia,

o que pode resultar
na criação de algoritmos

que me conhecem melhor
do que eu me conheço.

E uma vez em posse desses algoritmos,

um sistema externo, como o governo,

pode não apenas prever minhas decisões,

mas também pode manipular
meus sentimentos, minhas emoções.

Um ditador pode não ser capaz
de me fornecer boa assistência médica,

mas será capaz de me fazer amá-lo

e me fazer odiar a oposição.

Será difícil para a democracia
sobreviver a tal desenvolvimento

porque, no final,

a democracia não é baseada
na racionalidade humana,

mas em sentimentos humanos.

Durante eleições e referendos,

não estão te perguntando:
"Qual é a sua opinião?"

Na verdade, estão te perguntando:
"Como você está se sentindo?"

E se alguém puder manipular
suas emoções efetivamente,

a democracia se tornará um show
emocional de marionetes.

Então, o que podemos fazer
pra evitar o retorno do fascismo

e o surgimento de novas ditaduras?

A primeira questão que enfrentamos é:
quem controla os dados?

Se você for engenheiro,

encontre formas de evitar que muitos dados

sejam concentrados nas mãos de poucos.

E encontre formas de se certificar

que o processamento distribuído de dados
seja, pelo menos, tão eficiente

quanto o processamento
centralizado de dados.

Esta será a melhor proteção
para a democracia.

Quanto ao restante de nós
que não somos engenheiros,

a questão número um que enfrentamos

é como não permitir sermos manipulados

por aqueles que controlam os dados.

Os inimigos da democracia liberal
têm um método.

Eles reprogramam nossos sentimentos.

Não nossos e-mails,
nem nossas contas bancárias.

Eles reprogramam nossos sentimentos
de medo, ódio e vaidade,

e depois usam esses sentimentos

para polarizar e destruir
a democracia a partir de dentro.

Este é um método pioneiro,

usado pelo Vale do Silício,
para nos vender produtos.

Mas agora, os inimigos da democracia
estão usando esse mesmo método

para nos vender medo, ódio e vaidade.

Eles não podem criar
esses sentimentos do nada.

Eles aprendem a reconhecer
nossas próprias fraquezas preexistentes,

e depois as usam contra nós.

Portanto, é nossa responsabilidade

conhecermos nossas fraquezas

e garantirmos que elas
não se tornem uma arma

nas mãos dos inimigos da democracia.

Conhecer nossas próprias fraquezas

também nos ajudará a evitar
a armadilha do espelho fascista.

Como expliquei anteriormente,
o fascismo explora nossa vaidade

e isso faz com que nos vejamos
bem mais bonitos do que realmente somos.

Essa é a sedução.

Mas se vocês realmente se conhecem,

não vão cair por este tipo de bajulação.

Se colocarem um espelho a sua frente,

que esconde o seu lado feio
e faz com que se veja

muito mais bonito e mais importante

do que você realmente é,

simplesmente quebre esse espelho.

Obrigado.

(Aplausos)

Chris Anderson: Yuval, obrigado.

Incrível!

É muito bom te ver de novo.

Se entendi direito,

você está nos alertando
para dois grandes perigos:

um deles é o possível ressurgimento
de uma forma sedutora de fascismo,

mas, junto a isso, ditaduras que podem
não ser exatamente fascistas,

mas que controlem todos os dados.

Eu me pergunto se existe
uma terceira preocupação,

que algumas pessoas aqui já expressaram,

de que não os governos, mas grandes
corporações controlam todos nossos dados.

Como você chama isso, e deveríamos
ficar preocupados com isso?

Yuval Noah Harari: Bem, no final,
não há uma diferença tão grande

entre as corporações e os governos,

pois, como eu disse, a pergunta é:
quem controla os dados?

Este é o verdadeiro governo.

Se você chama de corporação ou governo...

se é uma corporação
e realmente controla os dados,

este é o nosso verdadeiro governo.

Então a diferença
é mais aparente do que real.

CA: Mas, de alguma forma,
pelo menos com corporações,

podemos imaginar mecanismos de mercado
nos quais eles possam ser retirados.

Se os consumidores decidirem

que a empresa não está mais
atendendo ao interesse deles,

isso abre a porta para outro mercado.

Parece mais fácil imaginar isso

do que, digamos, cidadãos
se rebelando e derrubando um governo

que esteja no controle de tudo.

YNH: Ainda não chegamos lá,

mas, novamente, se uma corporação
te conhece melhor do que você se conhece,

ou pelo menos que ela possa manipular
suas emoções e desejos mais profundos,

e você nem vai perceber,

você achará que esse é o seu eu autêntico.

Em teoria, sim, você pode se rebelar
contra uma corporação,

assim como, em teoria, você pode
se rebelar contra uma ditadura.

Mas na prática, é extremamente difícil.

CA: No livro "Homo Deus" você
discute que este seria o século

no qual humanos meio
que se tornariam deuses,

quer seja pelo desenvolvimento
da inteligência artificial

quer seja pela engenharia genética.

Essa perspectiva de mudança,
de colapso do sistema político,

impactou a sua opinião
sobre essa possibilidade?

YNH: Acho que isso
deixa ainda mais provável

e muito provavelmente
irá acontecer mais rápido,

pois, em tempos de crise, as pessoas
estão dispostas a assumir riscos

que não assumiriam em outra época.

E elas estão dispostas a tentar

todo tipo de tecnologias
de alto risco e de alto ganho.

Então, esse tipo de crise
pode ter a mesma função

que as duas guerras mundiais no século 20.

Elas aceleraram muito o desenvolvimento
de tecnologias novas e perigosas.

A mesma coisa pode acontecer no século 21.

Quero dizer, é preciso ser meio louco
para acelerar muito, digamos,

a engenharia genética.

Mas agora temos cada vez mais
pessoas malucas

no comando de diferentes países do mundo,

então as chances são maiores, não menores.

CA: Então, considerando tudo, Yuval,
você tem uma visão única.

Adiante o relógio em 30 anos.

Qual é o seu palpite: a humanidade
de alguma forma passa raspando,

olha para trás e diz:
"Ufa, essa foi por pouco. Conseguimos!"

Ou não?

YNH: Até agora, conseguimos
superar todas as crises anteriores.

E especialmente, se observarmos
a democracia liberal

e acharmos que as coisas estão ruins agora

vamos nos lembrar do quanto pior
estava tudo em 1938 ou em 1968.

Então, isso não é nada,
é apenas uma pequena crise.

Mas nunca se sabe,

pois, como historiador,

sei que jamais deveríamos
subestimar a estupidez humana.

(Risos) (Aplausos)

É uma das forças mais poderosas
que molda a história.

CA: Foi um imenso prazer
ter você aqui conosco.

Obrigado por fazer a viagem virtual.
Tenha uma ótima noite aí em Tel Aviv.

Yuval Harari!

YNH: Muito obrigado.

(Aplausos)