Dlaczego faszyzm jest tak kuszący – i jak mogą go wzmacniać twoje dane

W prelekcji wgłębiającej się w zależności między technologią i władzą autor, historyk Yuval Noah Harari, wyjaśnia różnicę pomiędzy faszyzmem a nacjonalizmem oraz wskazuje, jakie zagrożenia dla przyszłości demokracji niesie konsolidacja i przetwarzanie danych. Transmitowany na żywo jako hologram z Tel Awiwu, przestrzega nas przed największym niebezpieczeństwem dla liberalnej demokracji: rewolucją w IT, która może usprawnić dyktatury i umożliwić im większą kontrolę. „Wrogowie demokracji wykorzystują nasze uczucia strachu, nienawiści i próżności, aby nas skłócić i zniszczyć”, mówi Harari. „Do nas należy poznać własne słabości i upewnić się, że nikt nie użyje ich przeciwko nam”. (Po prelekcji krótka dyskusja z kuratorem TED, Chrisem Andersonem.)

Witajcie.

Śmiesznie się składa, niedawno pisałem,
że ludzkość stanie się cyfrowa,

ale nie sądziłem, że aż tak szybko,

a tym bardziej że spotka mnie osobiście.

Jednak jestem tutaj z wami

jako cyfrowy awatar, więc zaczynajmy.

Zacznijmy od pytania.

Ilu mamy dzisiaj faszystów na sali?

(Śmiech)

Trudno powiedzieć,

bo zapomnieliśmy, czym jest faszyzm.

Słowo "faszysta" traktuje się dzisiaj

jako uniwersalną obelgę.

Myli się faszyzm z nacjonalizmem.

Zastanówmy się przez chwilę,
czym właściwie jest faszyzm

i czym różni się od nacjonalizmu.

Łagodne formy nacjonalizmu można zaliczyć

do najbardziej dobrotliwych
ludzkich tworów.

Narody są społecznościami
milionów obcych sobie ludzi,

właściwie nieznajomych.

Przykładowo, nie znam
tych 8 milionów ludzi,

z którymi dzielę izraelskie obywatelstwo.

Lecz dzięki nacjonalizmowi

możemy wzajemnie troszczyć się o siebie
i efektywnie współpracować.

To bardzo dobrze.

Niektórzy, jak John Lennon,
wyobrażali sobie, że bez nacjonalizmu

świat będzie pacyfistycznym rajem.

Niestety, najprawdopodobniej

bez nacjonalizmu żylibyśmy
w plemiennym chaosie.

Obecnie w najlepiej prosperujących,
pokojowo nastawionych krajach,

jak Szwecja, Szwajcaria i Japonia,

widać bardzo silny duch nacjonalizmu.

I na odwrót – tam, gdzie poczucie
tożsamości narodowej jest słabe,

jak w Kongo, Somalii lub Afganistanie,

częściej napotykamy przemoc i biedę.

Zatem, czym jest faszyzm
i co różni go od nacjonalizmu?

Nacjonalizm mówi mi,
że mój naród jest wyjątkowy

że ma mam wobec niego
specjalne zobowiązania.

Faszyzm dla odmiany mówi,
że mój naród przewyższa inne

i że mam służyć wyłącznie jemu.

Nie muszę przejmować się nikim
ani niczym prócz własnego narodu.

Ludzie zazwyczaj, rzecz jasna,
mają wiele tożsamości

i poczuwają się do lojalności
wobec różnych grup.

Przykładowo, mogę być dobrym patriotą,
wiernym swojemu krajowi,

jednocześnie będąc lojalnym
wobec swojej rodziny,

sąsiadów, etyki mojego zawodu,

ludzkości jako takiej,

wierny prawdzie i pięknu.

Oczywiście, kiedy mamy różne tożsamości
i wynikające z nich zobowiązania,

czasami pojawiają się
konflikty i komplikacje.

Ale czy ktoś mówił,
że życie będzie łatwe?

Życie jest skomplikowane.

Pogódź się z tym.

Faszyzm pojawia się, kiedy ludzie
próbują ignorować komplikacje

i szukać dla siebie
zbyt prostych rozwiązań.

Faszyzm odrzuca wszystkie tożsamości
poza identyfikacją z narodem,

twierdząc, że jedynym obowiązkiem
jest służba narodowi.

Jeśli mój naród żąda,
abym poświęcił rodzinę,

poświęcę rodzinę.

Jeśli naród domaga się,
abym zabił miliony ludzi,

zabiję miliony ludzi.

A gdy mój naród zażąda,
abym zdradził idee prawdy i piękna,

powinienem odrzucić prawdę i piękno.

Spójrzmy, jak faszysta ocenia sztukę?

Który film w oczach faszysty
jest dobry, a który zły?

Jest to bardzo, ale to bardzo proste.

Jest tylko jedna miara:

jeżeli film przysłuży się dobru narodu,

jest to film dobry;

jeśli zaś stoi w sprzeczności
z narodowym interesem,

jest to film zły.

To wszystko.

Podobnie – jaki program
nauczania dzieci stworzy faszysta?

Znowu, to bardzo proste.

Jedna miara.

Cała edukacja dzieci
ma służyć interesom narodu.

Prawda nie ma żadnego znaczenia.

Okropności II wojny światowej
i Holokaustu przypominają

o straszliwych konsekwencjach
tego sposobu myślenia,

Jednak gdy mówimy
o wynaturzeniach faszyzmu,

robimy to nieskutecznie

przez skłonność do przedstawiania
faszyzmu jako odpychającego monstrum,

bez prób wyjaśnienia,
na czym polega jego zgubny urok.

Trochę przypomina to hollywoodzkie filmy,
przedstawiające antybohaterów

jak Voldemort, Sauron lub Darth Vader,

jako paskudnych, wrednych i okrutnych.

Znęcają się nawet
nad własnymi stronnikami.

Oglądając te filmy,
nigdy nie mogłem zrozumieć,

co mogło kogokolwiek skusić do popierania
tak oślizgłej kreatury jak Voldemort?

W rzeczywistości problem
ze złem polega na tym,

że zło niekoniecznie jest odpychające.

Może przybrać piękną powłokę.

Doskonale rozumieli to chrześcijanie,

dlatego w sztuce sakralnej,
odwrotnie niż w Hollywood,

Szatan przedstawiany jest jako
powabny przystojniak.

Dlatego tak trudno jest
oprzeć się jego pokusom

i dlatego tak trudno nie ulec
pokusom faszyzmu.

Faszyzm sprawia, że ludzie widzą się

jako część najpiękniejszej
i najważniejszej rzeczy na świecie:

narodu.

Myślą:

"Uczono nas, że faszyzm jest odrażający,

lecz kiedy patrzę w lustro,
widzę coś niezwykle pięknego,

więc nie mogę być faszystą, prawda?".

Wprost przeciwnie.

Na tym właśnie polega problem.

Kiedy patrzysz w lustro faszyzmu,

twoje odbicie jest znacznie
piękniejsze niż prawdziwy ty.

W latach trzydziestych XX wieku,
kiedy Niemcy spojrzeli w lustro faszyzmu,

ich kraj wydał im się
najpiękniejszy na świecie.

Dzisiaj gdy Rosjanie
spojrzą w lustro faszyzmu,

Rosja wyda im się
najpiękniejsza na świecie.

Gdy Izraelczycy zerkną w lustro faszyzmu,

Izrael wyda im się
najpiękniejszy na świecie.

Nie znaczy to,
że grozi nam powtórka lat 30.

Faszyzm i dyktatury mogą powrócić,

lecz wrócą w nowej postaci,

w formie znacznie odpowiedniejszej

dla realiów technologicznych XXI wieku.

W zamierzchłych czasach

ziemia była najważniejszym
na świecie zasobem.

Polityka zatem polegała na zmaganiach
o kontrolę terytorium.

Dyktatura oznaczała, że wszystkie ziemie
należały do jednego władcy

lub mniejszego oligarchy.

Wraz z uprzemysłowieniem
maszyny stały się ważniejsze niż ziemia.

Areną zmagań politycznych
stała się kontrola nad przemysłem.

Dyktaturą zaczęło być

skupienie zbyt dużej części przemysłu

w rękach rządu lub nielicznej elity.

Dzisiaj zbiory danych
wypierają i ziemię i przemysł

z roli kluczowego zasobu.

Siłą polityczną stało się panowanie
nad przepływem informacji.

Dyktaturą zaś jest teraz

gromadzenie zbyt wielu danych przez rząd

lub nieliczną elitę.

Największym współczesnym
zagrożeniem dla liberalnej demokracji

jest to, że przełomy w informatyce

zwiększą wydajność dyktatur
w porównaniu z demokracjami.

W dwudziestym wieku

demokracja i kapitalizm
pokonały faszyzm i komunizm,

gdyż ustrój demokratyczny lepiej
przetwarzał dane i podejmował decyzje.

Przy dwudziestowiecznej technologii

po prostu nie opłacało się
gromadzić zbyt wielu danych

i władzy w jednym miejscu.

Lecz nie jest prawem natury,

że scentralizowana obróbka
informacji jest zawsze mniej wydajna

niż przetwarzanie rozproszone.

Pojawienie się sztucznej
inteligencji i uczenia maszynowego

umożliwi przetwarzanie
ogromnej ilości informacji

bardzo wydajnie w jednym miejscu,

żeby tam podejmować wszystkie decyzje.

Wtedy scentralizowane
przetwarzanie informacji

będzie skuteczniejsze od rozproszonego.

Największa słabość reżimów autorytarnych

dwudziestego wieku,

ich dążenie do skupienia
wszystkich informacji w jednym miejscu,

stanie się ich największą przewagą.

Kolejną technologiczną groźbą
wiszącą nad przyszłością demokracji

jest połączenie technologii
informatycznych z biotechnologią,

skutkiem czego może być
powstanie algorytmów,

które będą wiedzieć
o mnie więcej, niż ja sam.

Gdy takie algorytmy staną się dostępne,

jakaś instytucja, przykładowo rząd,

nie tylko będzie mogła
przewidzieć moje decyzje,

ale również manipulować
moimi odczuciami i emocjami.

Dyktator być może nie będzie umiał
zapewnić mi przyzwoitej opieki zdrowotnej,

za to będzie mógł sprawić, że go pokocham

i znienawidzę opozycję.

Demokracji ciężko będzie
przetrwać w tych warunkach,

ponieważ, w swej istocie,

demokracja nie opiera się
na naszej racjonalności;

jej podstawą są ludzkie odczucia.

Podczas wyborów i referendów

nie jesteśmy pytani: "Co o tym myślisz?".

Tak naprawdę pytanie brzmi:
"Jak się z tym czujesz?".

Kiedy ktoś będzie mógł
skutecznie manipulować emocjami,

demokracja stanie się teatrem lalek
poruszanych emocjami.

Jak można zapobiec powrotowi faszyzmu

i powstawaniu nowych dyktatur?

Pierwszym pytaniem, jakie trzeba sobie
zadać jest: "Kto włada informacją?".

Jeśli jesteś inżynierem,

wymyśl sposoby, aby zbyt dużo danych

nie trafiało w ręce niewielu podmiotów.

Wynajduj sposoby, upewnij się,

czy rozproszone systemy
przynajmniej dorównują wydajnością

scentralizowanym molochom.

Będzie to najlepszym
zabezpieczeniem dla demokracji.

Dla reszty z nas,
nie będących inżynierami,

najważniejszym zagadnieniem jest,

jak uniemożliwić manipulację nami tym,

którzy kontrolują informację.

Wrogowie demokracji liberalnej
znaleźli sposób.

Hakują nasze uczucia.

Nie nasze e-maile ani konta bankowe,

tylko nasze poczucie zagrożenia,
nienawiści i próżności.

Wykorzystują potem te uczucia,

żeby skłócić i zniszczyć
demokrację od środka.

Co ciekawe, tę metodę

wdrożyła Dolina Krzemowa,
żeby sprzedać swoje produkty.

Lecz teraz wrogowie demokracji
używają dokładnie tej samej metody,

żeby zarazić nas strachem,
nienawiścią i próżnością.

Nie mogą stworzyć tych uczuć z niczego.

Dlatego muszą poznać
nasze wrażliwe punkty.

Aby użyć ich przeciwko nam.

Dlatego obowiązkiem każdego z nas

jest znać swoje słabości,

upewnić się, że nie zostaną orężem

w rękach wrogów demokracji.

Poznanie własnych słabości

pomoże nam też uniknąć
pułapki lustra faszyzmu.

Jak wyjaśniłem wcześniej,
faszyzm żeruje na naszej próżności.

Dodaje nam urody we własnych oczach.

Stara się nas uwieść.

Lecz kiedy dobrze znasz siebie,

nie skuszą cię tanie pochlebstwa.

Jeśli ktoś podsunie ci pod nos lustro,

które ukryje wszystkie niedoskonałości,

pokazując o wiele piękniejszą i ważniejszą

wersję ciebie niż w rzeczywistości,

po prostu je stłucz.

Dziękuję.

(Brawa)

Chris Anderson: Yuval, dziękujemy.

Coś takiego.

Miło widzieć cię ponownie.

Czyli, jeśli dobrze zrozumiałem,

ostrzegasz nas przed dwoma
wielkimi zagrożeniami.

Jedno to groźba odrodzenia
zwodniczo atrakcyjnej formy faszyzmu

i powiązanej z tym dyktatury
nie wprost faszystowskiej,

lecz opartej na władzy
nad dostępną informacją.

Zastanawiam się, czy nie ma
trzeciego zagrożenia,

wskazanego przez kilku przedmówców,

Mianowicie sytuacji, gdzie nie rząd,

ale wielkie korporacje
kontrolują wszystkie dane.

Jak się do tego odniesiesz

i jak bardzo powinno to nas niepokoić?

Yuval Noah Harari: W zasadzie
nie ma wielkiej różnicy

między korporacjami a rządami,

bo, jak mówiłem, pytanie brzmi:
"Kto włada informacją?".

Tu kryje się prawdziwa władza.

Czy nazwać to korporacją czy rządem,

jeśli korporacja rzeczywiście
kontroluje informacje,

w efekcie jest prawdziwym rządem.

Czyli tylko wydaje się,
że jest jakaś różnica.

CA: Chociaż w przypadku korporacji
można wyobrazić sobie

mechanizmy rynku mogące
doprowadzić do jej upadku.

To znaczy, jeżeli konsumenci uznają,

że firma przestała
działać w ich interesie,

otwiera to pole manewru
innemu uczestnikowi rynku.

Łatwiej to sobie wyobrazić

niż, powiedzmy, powstanie,
gdzie obywatele obalają rząd,

który kontrolował wszystko.

YNH: Jeszcze do tego
nie doszło, ale powtarzam,

jeśli korporacja wie
więcej o tobie, niż ty sam,

to umie manipulować twoimi
najgłębszymi emocjami i żądzami,

niedostrzegalnie dla ciebie.

Uznasz, że to twoje prawdziwe ja.

Czyli, teoretycznie, tak, teoretycznie
możesz zwrócić się przeciwko korporacji,

tak jak teoretycznie możesz
zbuntować się przeciwko dyktaturze.

Lecz w praktyce jest to niezwykle trudne.

CA: W "Homo deus. Krótka historia jutra"
przewidujesz, że żyjemy w stuleciu,

kiedy ludzie osiągną niemal boskie moce,

zarówno dzięki rozwojowi
sztucznej inteligencji,

jak i drogą inżynierii genetycznej.

Czy ta wizja przemian
lub upadku systemów politycznych

wpłynęła na twoje przewidywania?

YNH: Chyba stały się
jeszcze bardziej prawdopodobne

i pewnie dokonają się dużo szybciej,

bo w warunkach kryzysu
ludzie chętniej podejmują ryzyko,

na które inaczej by się nie odważyli.

Chętniej też próbują

ryzykownych choć potencjalnie
przełomowych technologii.

Takie przesilenia mogą zadziałać tak samo,

jak dwie wojny światowe w XX wieku.

Te dwie wojny znacząco przyspieszyły

rozwój nowych, niebezpiecznych technik.

To samo może wydarzyć się w XXI wieku.

Sądzę, że zbytni pośpiech
graniczy z szaleństwem,

choćby we wdrażaniu
inżynierii genetycznej,

Tylko że z biegiem czasu
coraz więcej szaleńców

przejmuje władzę
w wielu krajach na świecie,

więc szanse raczej rosną, niż maleją.

CA: Przyjmując twoją niezwykłą wizję,

popchnijmy zegar o 30 lat.

Jak sądzisz: czy ludzkość
jakimś cudem przetrwa,

obejrzy się i powie:
"Mało brakowało. Daliśmy radę!",

czy nie?

YNH: Dotychczas udało się pokonać
wszystkie poprzednie kryzysy.

Szczególnie jeśli spojrzeć
na liberalną demokrację,

jeśli sądzisz, że teraz jest źle,

przypomnij sobie, o ile gorzej
sprawy się miały w 1938 lub w 1968.

W zasadzie nic się nie dzieje,
to tylko mały kryzysik.

Nigdy nie wiadomo,

a jako historyk powiem,

że lepiej nie lekceważyć ludzkiej głupoty.

(Śmiech) (Brawa)

To jedna z najpotężniejszych sił
kształtujących historię.

CA: Niezwykle przyjemnie było cię gościć.

Dziękujemy za wirtualną wizytę.

Baw się dobrze w Tel Awiwie.

Yuval Harari!

YNH: Dziękuję bardzo.

(Brawa)