Waarom fascisme zo verleidelijk is -- en hoe data het mogelijk kunnen maken

In een verreikende talk over technologie en macht legt auteur en historicus Yuval Noah Harari het belangrijke verschil uit tussen fascisme en nationalisme -- en wat de consolidatie van onze data betekent voor de toekomst van de democratie. Harari verschijnt als een hologram live vanuit Tel Aviv, maar waarschuwt dat het grootste gevaar dat de liberale democratie loopt, de revolutie in de informatietechnologie is waardoor dictaturen efficiënter en beter in staat tot controle zullen worden. "De vijanden van de liberale democratie kapen onze gevoelens van angst, haat en ijdelheid en gebruiken deze gevoelens vervolgens om te polariseren en te vernietigen.", zegt Harari. "Het is de verantwoordelijkheid van ons allemaal om onze zwakke punten te leren kennen en ervoor te zorgen dat ze geen wapens worden."
(Gevolgd door een kort gesprek met TED-curator Chris Anderson)

Dag iedereen.

Het is een beetje raar, want ik schreef
dat mensen digitaal gingen worden,

maar ik had niet gedacht
dat het zal zo snel zou gebeuren

en wel met mij.

Maar hier sta ik als digitale avatar

en hier zijn jullie,
laten we dus beginnen.

Laten we beginnen met een vraag.

Hoeveel fascisten zijn er
vandaag in het publiek?

(Gelach)

Het is een beetje moeilijk te zeggen

omdat we vergeten zijn wat fascisme is.

Mensen gebruiken nu de term ‘fascist’

als een soort algemene belediging.

Of ze verwarren fascisme met nationalisme.

Dus laten we even verduidelijken
wat het fascisme eigenlijk is

en hoe het verschilt van nationalisme.

De mildere vormen van nationalisme

waren een van de meest
weldoende menselijke creaties.

Naties zijn gemeenschappen
van miljoenen vreemden

die elkaar niet echt kennen.

Bijvoorbeeld ken ik
de acht miljoen mensen niet

die mijn Israëlisch
staatsburgerschap delen.

Maar dankzij het nationalisme

kunnen we allemaal voor elkaar zorgen
en effectief samenwerken.

Dit is erg goed.

Sommige mensen, zoals John Lennon,
dachten dat zonder nationalisme,

de wereld een vredig paradijs zou zijn.

Maar veel waarschijnlijker
zouden we zonder nationalisme

in tribale chaos hebben geleefd.

Als je vandaag naar de meest welvarende
en vreedzame landen in de wereld kijkt,

landen als Zweden, Zwitserland en Japan,

zul je zien dat ze een heel sterk gevoel
van nationalisme hebben.

Daar tegenover staan landen die
een sterk gevoel van nationalisme missen,

zoals Congo, Somalië en Afghanistan,

eerder gewelddadig en arm.

Wat is dan fascisme
en hoe verschilt het van nationalisme?

Nationalisme vertelt me
dat mijn volk uniek is

en dat ik speciale verplichtingen
heb jegens mijn volk.

Fascisme vertelt me daarentegen
dat mijn volk het beste is

en dat ik er exclusieve
verplichtingen tegenover heb.

Ik hoef me geen zorgen te maken
over iets of iemand anders dan mijn volk.

Meestal hebben mensen
natuurlijk vele identiteiten

en loyaliteit tegenover
verschillende groepen.

Zo kan ik een goed patriot
en trouw aan mijn land zijn

en tegelijkertijd trouw zijn
aan mijn familie,

mijn buurt, mijn beroep,

de mensheid als geheel,

waarheid en schoonheid.

Natuurlijk, als ik verschillende
identiteiten en loyaliteiten heb,

creëert dat soms
conflicten en complicaties.

Maar ja, wie zei ooit
dat het leven gemakkelijk was?

Het leven is gecompliceerd.

Wen er maar aan.

Fascisme krijg je als mensen
proberen om complicaties te negeren

en om het leven te gemakkelijk
voor zichzelf te maken.

Fascisme ontkent alle identiteiten met
uitzondering van de nationale identiteit

en dringt erop aan dat ik alleen
verplichtingen jegens mijn volk heb.

Als mijn volk eist
dat ik mijn familie opoffer,

dan zal ik mijn familie opofferen.

Als mijn volk eist
dat ik miljoenen mensen dood,

dan zal ik miljoenen mensen doden.

En als mijn volk eist dat ik
waarheid en schoonheid verraad,

dan zal ik waarheid
en schoonheid verraden.

Hoe evalueert een fascist
bijvoorbeeld kunst?

Hoe bepaalt een fascist
of een film goed of slecht is?

Heel, heel, heel eenvoudig.

Er is eigenlijk maar één maatstaf:

is de film in het belang van de natie,

dan is het een goede film.

Als de film het belang
van de natie niet dient,

is het een slechte film.

Dat is het.

Evenzo, hoe beslist een fascist
wat kinderen op school leren?

Nogmaals, het is heel eenvoudig.

Er is slechts één maatstaf:

je leert de kinderen dingen
die het belang van de natie dienen.

De waarheid heeft geen belang.

De verschrikkingen van Wereldoorlog II
en de Holocaust herinneren ons

aan de verschrikkelijke gevolgen
van deze manier van denken.

Maar meestal, als we het hebben
over de kwalen van het fascisme,

doen we dat op een ineffectieve manier,

omdat we de neiging hebben

om het fascisme af te schilderen
als een afschuwelijk monster,

zonder echt uit te leggen
wat er zo verleidelijk aan is.

Net als Hollywoodfilms die slechteriken

-- Voldemort, Sauron of Darth Vader --

lelijk, gemeen en wreed afschilderen.

Ze zijn zelfs wreed
tegenover hun medestanders.

Als ik deze films zie, begrijp ik nooit

waarom iemand in de verleiding zou komen

om een walgelijke griezel
als Voldemort te volgen?

Het probleem met het kwaad
in het echte leven is,

dat het kwade er niet per se
lelijk hoeft uit te zien.

Het kan er erg mooi uitzien.

Dit is iets dat
het christendom heel goed wist,

en de reden waarom
in de christelijke kunst,

in tegenstelling tot Hollywood,

Satan wordt meestal afgebeeld
als een prachtige vent.

Daarom is het zo moeilijk om
de verleidingen van Satan te weerstaan,

en ook zo moeilijk om de verleidingen
van het fascisme te weerstaan.

Fascisme maakt dat mensen zichzelf zien

als behorend tot het mooiste
en belangrijkste ding in de wereld:

de natie.

En dan denken mensen:

"Nou, ze leerden ons dat
het fascisme lelijk is.

Maar als ik in de spiegel kijk,
zie ik iets heel moois,

dus kan ik toch geen fascist zijn, niet?"

Fout.

Dat is het probleem met het fascisme.

Als je in de fascistische spiegel kijkt,

zie je jezelf zo veel mooier
dan je werkelijk bent.

In de jaren 1930, toen de Duitsers
in de fascistische spiegel keken,

zagen ze Duitsland
als het mooiste in de wereld.

Als vandaag de Russen
in de fascistische spiegel kijken,

zien ze Rusland
als het mooiste in de wereld.

En als Israëli's in
de fascistische spiegel kijken,

zullen zij Israël zien
als het mooiste in de wereld.

Dit betekent niet dat we nu

worden geconfronteerd
met een herhaling van de jaren 1930.

Fascisme en dictaturen kunnen terugkomen,

maar ze zullen terugkomen
in een nieuwe vorm,

een vorm die veel relevanter is

voor de nieuwe technologische
realiteit van de 21ste eeuw.

In oude tijden was land

de belangrijkste troef in de wereld.

Politiek was daarom de strijd
om zeggenschap over land.

Dictatuur betekende dat al het land
eigendom was van één enkele heerser

of een kleine oligarchie.

In de moderne tijd werden
machines belangrijker dan land.

Politiek werd de strijd
om zeggenschap over de machines.

En dictatuur betekende

dat te veel van de machines
werden geconcentreerd

in de handen van de overheid
of van een kleine elite.

Nu vervangt data zowel land als machines

als de belangrijkste troef.

Politiek wordt de strijd
om de datastromen te controleren.

Dictatuur betekent nu

dat te veel data terechtkomen
in handen van de overheid

of van een kleine elite.

Het grootste gevaar dat
de liberale democratie nu loopt

is dat de revolutie
in informatietechnologie

dictaturen efficiënter zullen maken
dan democratieën.

In de 20ste eeuw

versloegen democratie en kapitalisme
het fascisme en het communisme

omdat de democratie beter was

in het verwerken van data
en het nemen van beslissingen.

Voor de 20e-eeuwse technologie

was het gewoon niet efficiënt
om te proberen om te veel gegevens

en te veel macht
op één plek te concentreren.

Maar het is geen natuurwet

dat centrale dataverwerking
altijd minder efficiënt zal zijn

dan gedistribueerde gegevensverwerking.

Met de opkomst van kunstmatige
intelligentie en machinaal leren,

wordt het misschien mogelijk
om enorme hoeveelheden informatie

zeer efficiënt op één plaats te verwerken,

om alle beslissingen
te nemen op één plaats

zodat centrale gegevensverwerking
misschien efficiënter wordt

dan gedistribueerde gegevensverwerking.

Dan zou de grootste handicap
van autoritaire regimes

in de 20ste eeuw --

hun poging om alle informatie
op één plek te concentreren --

hun grootste voordeel worden.

Een ander technologisch gevaar
dat de toekomst van de democratie bedreigt,

is de fusie van de informatietechnologie
met biotechnologie,

die zou kunnen leiden
tot de creatie van algoritmes

die me beter kennen dan ik mezelf ken.

En als je eenmaal zulke algoritmes hebt,

kan een extern systeem, zoals de overheid,

niet alleen mijn beslissingen voorspellen,

het kan ook mijn gevoelens,
mijn emoties gaan manipuleren.

Een dictator zal
misschien niet in staat zijn

om mij goede gezondheidszorg
te verschaffen,

maar hij zal in staat zijn
om mij van hem te laten houden

en de oppositie te haten.

Democratie zal dat soort ontwikkeling
moeilijk kunnen overleven

omdat uiteindelijk

democratie niet gebaseerd is
op menselijke rationaliteit.

Ze is gebaseerd op menselijke gevoelens.

Tijdens verkiezingen en referenda

vragen ze je niet: "Wat denk je?"

Eigenlijk vragen ze: "Hoe voel je je?"

Als iemand je emoties
effectief kan manipuleren,

wordt democratie
een emotionele poppenkast.

Wat kunnen we doen
om de terugkeer van het fascisme

en de opkomst van nieuwe dictaturen
te voorkomen?

De belangrijkste vraag is dan:

wie controleert de gegevens?

Ben je een ingenieur,

zoek dan naar manieren om te voorkomen
dat te veel gegevens

in te weinig handen worden geconcentreerd.

En vind manieren om ervoor te zorgen

dat gedistribueerde dataverwerking
ten minste even efficiënt is

als centrale gegevensverwerking.

Dit zal de beste waarborg
voor de democratie zijn.

Voor wie geen ingenieur is,

is dan de belangrijkste vraag:

hoe laten we ons niet manipuleren

door degenen die de gegevens controleren.

De vijanden van de liberale democratie
hebben daar iets op gevonden.

Ze kapen onze gevoelens.

Niet onze e-mails,
niet onze bankrekeningen --

ze kapen onze gevoelens
van angst en haat en ijdelheid,

en gebruiken vervolgens die gevoelens

om de democratie van binnenuit
te polariseren en te vernietigen.

Eigenlijk is dat een methode

die Silicon Valley uitknobbelde
om ons producten te verkopen.

Maar nu gebruiken de vijanden
van de democratie net die methode

om ons angst en haat
en ijdelheid aan te smeren.

Ze kunnen deze gevoelens niet
uit het niets oproepen.

Dus moeten ze onze zwakheden leren kennen.

Om die vervolgens tegen ons te gebruiken.

En daarom is het
de verantwoordelijkheid van ons allen

om onze zwakheden te leren kennen

en ervoor te zorgen
dat ze geen wapen worden

in handen van
de vijanden van de democratie.

Onze eigen zwakheden leren kennen

zal ons ook helpen om de val van
de fascistische spiegel te vermijden.

Zoals eerder uitgelegd,
exploiteert fascisme onze ijdelheid.

Het toont ons veel mooier
dan we in werkelijkheid zijn.

Dit is de verleiding.

Maar als je jezelf echt kent,

val je niet voor dit soort van vleierij.

Als iemand je een spiegel voorhoudt

die alle lelijke kantjes verbergt
en je jezelf laat zien

als veel mooier en veel belangrijker

dan je werkelijk bent,

sla dan die spiegel kapot.

Dank je.

(Applaus)

Chris Anderson: Yuval, dank je.

Allemachtig.

Het is zo leuk om je weer te zien.

Dus, als ik je begrijp,

waarschuw je ons hier
voor twee grote gevaren.

Een ervan is de mogelijke opkomst
van een verleidelijke vorm van fascisme,

maar daarbij aanleunend dictaturen die
niet exact fascistisch hoeven te zijn,

maar alle data controleren.

Ik vraag me af of er een derde zorg is

die sommige mensen
hier al hebben aangegeven,

dat is waar, niet de overheid,
maar grote bedrijven al onze data beheren.

Hoe noem je dat

en hoe bezorgd moeten we daarover zijn?

Yuval Noah Harari: Uiteindelijk
is er niet zo'n groot verschil

tussen de bedrijven en de regeringen,

omdat, zoals ik al zei, de vraag is:
wie controleert de data?

Dat is de echte regering.

Of je het nu een bedrijf
of een regering noemt --

als het een bedrijf is
en het echt de data controleert,

dan is dat onze echte regering.

Dus is het verschil meer schijn
dan werkelijkheid.

CA: Maar voor bedrijven dan toch

kan je je marktmechanismen voorstellen
waardoor ze uitgeschakeld kunnen worden.

Ik bedoel, als de consument gewoon beslist

dat het bedrijf niet langer
zijn belangen behartigt,

gaat de deur open naar een andere markt.

Dat lijkt makkelijker voor te stellen

dan dat bijvoorbeeld de burgers opstaan
en een regering opheffen

die alles controleert.

YNH: Nou, zover zijn we nog niet,

maar nogmaals, als een corporatie je
echt beter kent dan jij jezelf kent --

althans je eigen diepste emoties
en verlangens kan manipuleren,

terwijl je het niet eens beseft --

zal je denken dat
dit je authentieke zelf is.

Dus in theorie, ja, in theorie
kan je opstaan tegen een bedrijf

net zoals je je in theorie
tegen een dictatuur kunt verzetten.

Maar in de praktijk
is het uiterst moeilijk.

CA: Zoals je in ‘Homo Deus’ beweert
dat dit de eeuw zou zijn

waar mensen een soort goden werden,

hetzij door de ontwikkeling
van kunstmatige intelligentie

of door middel van genetische manipulatie.

Heeft dit vooruitzicht van verschuiving

of instorting van het politieke systeem

je mening over die mogelijkheid beïnvloed?

YNH: Nou, ik denk dat het
het nog waarschijnlijker maakt,

en waarschijnlijker
dat het sneller zal gebeuren,

want in tijden van crisis
zijn mensen bereid om risico's te nemen

die ze anders niet zouden nemen.

Mensen zijn bereid om allerlei soorten

van ‘hoog risico, hoge winst’-technieken
uit te proberen.

Dit soort crises kunnen
dezelfde functie hebben

als de twee wereldoorlogen
in de 20ste eeuw.

De twee wereldoorlogen
versnelden in hoge mate

de ontwikkeling van nieuwe
en gevaarlijke technologieën.

Hetzelfde zou kunnen
gebeuren in de 21e eeuw.

Ik bedoel, je moet
wel een beetje gek zijn

om te snel te gaan op gebied van,

laten we zeggen, genetische manipulatie.

Maar nu heb je meer en meer gekke mensen

die verantwoordelijk zijn
voor verschillende landen in de wereld,

dus de kans neemt toe, niet af.

CA: Alles bij elkaar heb jij,
Yuval, deze unieke visie.

Draai de klok 30 jaar vooruit.

Wat denk je -- gaat de mensheid
zich erdoorheen spartelen,

dan terugkijken en zeggen:

"Wow, dat scheelde weinig,
maar we raakten erdoor"

Of niet?

YNH: Tot nu toe slaagden we erin
om alle voorgaande crises te overwinnen.

En vooral als je kijkt
naar de liberale democratie

en je denkt dat alles nu slecht gaat,

vergeet dan niet hoeveel erger
het er in 1938 of in 1968 uitzag.

Dit is echt niets, dit is
slechts een kleine crisis.

Maar je kunt nooit weten,

omdat, als historicus,

weet ik dat je de menselijke domheid
nooit moet onderschatten.

(Gelach)
(Applaus)

Het is een van de sterkste krachten
die de geschiedenis vormgeven.

CA: Yuval, het was een absoluut genot
om je bij ons te hebben.

Dank je voor deze virtuele reis.

Nog een fijne avond in Tel Aviv.

Yuval Harari!

YNH: Heel erg bedankt.

(Applaus)