Доброго дня усім.
Мені трохи смішно, бо я вже писав, що люди стануть цифровими істотами,
але й гадки не мав, що це станеться так швидко
і це станеться зі мною.
Але ось я тут, у вигляді цифрового аватару,
і ви тут теж, тому розпочнімо.
І розпочнімо з питання.
Скільки у нас сьогодні в залі фашистів?
(Сміх)
Власне, це дещо важко визначити,
бо ми забули, що таке фашизм.
Зараз люди використовують поняття "фашизм"
в якості універсальної образи.
Або плутають фашизм з націоналізмом.
Тож витратьмо кілька хвилин, щоб визначити, що таке фашизм
і чим він відрізняється від націоналізму.
Помірні вияви націоналізму можна побачити серед найдоброзичливіших
людських створінь.
Нації — це спільноти з мільйонів незнайомців,
які, насправді, не знають одне одного.
Наприклад, я не знаю восьми мільйонів осіб,
що ділять зі мною громадянство Ізраїлю.
Але завдяки націоналізму
ми усі можемо піклуватися одне про одного, ефективно співпрацювати.
Це дуже добре.
Деякі люди, як-от Джон Леннон, уявляють, що без націоналізму
світ буде тихим раєм.
Але з більшою ймовірністю
без націоналізму ми житимемо у хаосі племенного ладу.
Якщо ви подивитесь на найбільш заможні й мирні країни світу,
як-от Швеція, або Швейцарія, або Японія,
ви побачите, що в них дуже розвинене відчуття націоналізму.
І навпаки: країни, яким не вистачає сформованого відчуття націоналізму,
як-от Конго, чи Сомалі, чи Афґаністан,
найчастіше бідні та войовничі.
Тож що таке фашизм і чим він відрізняється від націоналізму?
Націоналізм каже мені, що моя нація унікальна,
а я маю особливі обов'язки відносно моєї нації.
Фашизм натомість каже мені, що моя нація — найвища,
і я маю виняткові обов'язки перед нею.
Я не повинен турбуватися про будь-що чи будь-кого, окрім моєї нації.
Звісно, зазвичай люди мають безліч ролей
й почувають відданість відносно різних груп.
Наприклад, я можу бути добрим патріотом, відданим своїй країні,
водночас я можу бути відданим своїй родині,
спільноті мого міста, моїй професії,
людству в цілому,
правді та красі.
Звісно, коли я маю різні ідентичності й відданий різним речам,
іноді виникають конфлікти і складнощі.
Але хто вам сказав, що життя просте?
Життя складне.
З цим треба змиритися.
Фашизм виникає, коли люди намагаються ігнорувати складнощі,
зробити життя залегким для себе.
Фашизм відкидає усі ідентичності, окрім національної ідентичності.
Він наполягає, що я маю обов'язки тільки перед моєю нацією.
Якщо моя нація вимагає, щоб я приніс у жертву родину,
тоді я принесу родину у жертву.
Якщо нація вимагає, щоб я вбив мільйони осіб,
тоді я вб'ю мільйони осіб.
І якщо моя нація вимагає, щоб я зрадив ідеалам правди та краси,
тоді мені варто зрадити правду та красу.
Наприклад, як фашист оцінює мистецство?
Як фашист вирішує, чи кінострічка гарна чи погана?
О, це дуже, дуже, дуже просто.
Тут є тільки одне мірило.
Якщо кінострічка служить потребам нації,
вона добра;
якщо кінострічка не служить потребам нації,
вона погана.
От і все.
Так само, як фашист вирішує, чого вчити дітей у школі?
Знову ж таки, це дуже просто.
Тільки один критерій.
Ви вчите дітей тому, що відповідає інтересам нації.
Правда взагалі не має значення.
Жахи Другої світової війни та Холосту нагадують нам
про страшні наслідки такого світогляду.
Але зазвичай, коли ми говоримо про хвороби фашизму,
ми робимо це неефективно,
бо маємо звичку зображувати фашизм як огидну потвору,
насправді не пояснюючи, що було в ньому такого спокусливого.
Це трохи подібне до голлівудських фільмів, що зображують поганих персонажів —
Волдеморта, Саурона, Дарта Вейдера —
як бридких, злих, жорстоких.
Вони жорстокі навіть до власних прихильників.
Коли я дивлюся ці фільми, я ніколи не розумію,
чого б це хтось схотів приєднатися до такої потвори як Волдеморт?
Проблема зі злом в тому, що у реальному житті
зло не обов'язково виглядає огидно.
Воно може виглядати чарівно.
Про це дуже добре знала християнська релігія.
Ось чому в християнському мистецтві (на відміну від голлівудського)
Диявол зазвичай зображений як надпривабливий чоловік.
Ось чому так важко опиратися спокусам Диявола,
і ось чому так важко опиратися спокусам фашизму.
Фашизм змушує людей бачити себе
приналежними до найчарівнішої, найважливішої речі у світі —
до нації.
І тоді люди думають:
"Так, вони вчили нас, що фашизм огидний.
Але коли я дивлюся у дзеркало, я бачу дещо дуже красиве,
тож я не можу бути фашистом, правильно?"
Неправильно.
Ось у цьому проблема з фашизмом.
Коли ви дивитесь у дзеркало фашизму,
ви бачити себе значно красивішим, ніж ви є насправді.
У 1930-х, коли німці дивилися у дзеркало фашизму,
вони бачили Германію найкрасивішою річчю у світі.
Якщо сьогодні росіяни подивляться у дзеркало фашизму,
вони побачать Росію найкрасивішою у світі.
А якщо ізраїльтяни подивляться у дзеркало фашизму,
вони побачать Ізраїль найкрасивішим у світі.
Це не значить, що зараз ми стикаємося із поверненням у 1930-ті.
Фашизм і диктатура можуть повернутися,
але вони повернуться у новій формі,
у формі, що краще відповідає
технологічним реаліям ХХІ сторіччя.
За античних часів
земля була найважливішим ресурсом у світі.
Тому політики боролися, щоб контролювати землю.
І диктатура означала, що уся земля належить єдиному правителю
або малій групі олігархів.
За часів модерну машини стали важливішими за землю.
Політики стали боротися за те, щоб контролювати машини.
І диктатура означала,
що забагато машин зосередилося
у руках влади чи невеличкої еліти.
Тепер дані замінюють і землю, і машини
в якості найважливішого ресурсу.
Політика стає боротьбою за контроль над потоками даними.
А диктатура тепер означає,
що забагато даних сконцентрувалося у руках влади
або невеликої групи еліти.
Найбільша небезпека, з якою зараз стикається ліберальна демократія,
в тому, що революція в інформаційних технологіях
зробить диктатуру ефективнішою за демократії.
У ХХ сторіччі
демократія та капіталізм перемогли фашизм і комунізм,
бо демократія була кращою у обробці даних та ухваленні рішень.
Враховуючи технології ХХ сторіччя,
це було просто неефективно — намагатися зосередити забагато даних
і забагато влади в одному місці.
Але ж це не закон природи,
що централізована обробка даних — завжди неефективна
у порівнянні з децентралізованою обробкою.
Із розвитком штучного інтелекту та машинного навчання,
це може стати можливим — обробити неймовірну кількість інформації
в одному місці й дуже ефективно,
ухвалювати рішення у єдиному центрі,
і тоді централізована обробка даних стане ефективнішою
за децентралізовану обробку.
І тоді головна слабкість авторитарних режимів
ХХ сторіччя —
їхні спроби сконцентрувати усі інформацію в одному місці —
перетвориться на їхню величезну перевагу.
Інша технологічна небезпека, що загрожує майбутньому демократії, —
це злиття інформаційних технологій з біотехнологіями,
що може призвести до створення алгоритмів,
які знають мене краще, ніж я себе знаю.
І варто вам створити такі алгоритми,
зовнішня система, наприклад влада,
може не тільки передбачувати мої рішення,
вона також може маніпулювати моїму почуттями й емоціями.
Диктатор може не вміти забезпечити мене гідною медициною,
але він вмітиме змусити мене любити його
й ненавидіти опозицію.
Для демократії може бути важко вижити за такого розвитку подій,
бо зрештою,
демократія не базується на людській раціональності,
вона базується на людських почуттях.
Під час виборів та референдумів
вас не питають "Що ви думаєте?"
Вас, насправді, питають "Що ви відчуваєте?"
І якщо хтось може маніпулювати вашими емоціями ефективно,
демократія стане ляльковою виставою емоцій.
Тож що ми можемо зробити, щоб запобігти поверненню фашизму
й встановленню нових диктатур?
Найголовніше питання, що постає: Хто контролює дані?
Якщо ви інженер,
знайдіть шляхи, щоб запобігти зосередженню надміру даних
у замалій кількості рук.
І знайдіть шляхи переконатися,
що децентралізована обробка даних принаймні так само ефективна,
як централізована.
Це буде найкращим способом захистити демократію.
А для решти з нас, хто не є інжеренами,
найголовніше питання, яке постає, —
як не дозволити, щоб нами маніпулювали ті,
хто контролює дані.
Вороги ліберальної демократії мають свій метод.
Вони зламують наші почуття.
Не наші імейли, не банківські рахунки —
вони зламують наші почуття страху, ненависті або марнославства,
і використовують ці почуття,
щоб розділити і знищити демократію зсередини.
Власне, цей метод
винайшла Кремнієва долина, щоб продавати нам продукти.
Але зараз вороги демократії використовують цей метод,
щоб продавати нам страх, ненависть і марнославство.
Вони не можуть стоврити ці почуття з нічого.
Тож вони намагаються дізнатися про наші існуючі слабкості.
А тоді використати їх проти нас.
І тому це відповідальність кожного з нас —
познайомитися зі своїми слабкостями
і переконатися, що вони не перетворяться на зброю
у руках ворогів демократії.
Знайомство із власними слабкостями
також допоможе нам уникнути пастки фашистського дзеркала.
Як ми пояснили раніше, фашизм грає на нашому марнославстві.
Він змушує бачити себе набагато красивішими, ніж насправді.
У цьому спокуса.
Але якщо ви дійсно знаєте себе,
ви не дозволити спіймати себе на такі лестощі.
Якщо хтось поставить перед вами дзеркало,
що приховує усі ваші вади і змушує побачити себе
набагато красивішим, набагато важливішим,
ніж ви дійсно є,
просто розбийте таке дзеркало.
Дякую.
(Оплески)
Кріс Андерсон: Ювалю, дякую тобі.
Боже мій.
Так добре побачити тебе знову.
Отже, якщо я зрозумів правильно,
ти застерігаєш нас від двох великих небезпек.
Одна — можливе відродження спокусливої форми фашизму,
а поруч із нею — диктатура, що може не бути фашизмом,
але контролює усі дані.
Мені цікаво, чи є тут ще одне занепокоєння,
деякі люди тут вже його висловлювали:
якщо не влада, а великі корпорації контролюють дані.
Як ти це називаєш,
наскільки нам варто хвилюватися про це?
Юваль Ноа Харарі: Зрештою, нема такої вже принципової різниці
між корпораціями та владою,
бо, як я вже казав, питання ось у чому: хто контролює дані?
Це і є реальна влада.
Чи ти назвеш це корпорацією, чи владою —
якщо це корпорація і вона дійсно контролює дані,
вона і є нашою справжньою владою.
Тож різниця тут поверхнева, а не справжня.
К.А.: Але ж принаймні для корпорації
можна уявити ринковий механізм, що допомагає позбавити її впливу.
Тобто якщо споживачі вирішать,
що компанія більше не діє в їхніх інтересах,
це створує умови для нового ринку.
Це легше уявити,
ніж, скажімо, громадян, що повстають і скидають владу,
яка усе контролює.
Ю.Н.Х.: Власне, цього ще не сталося,
але знову, якщо корпорація дійсно знає вас краще, ніж ви знаєте себе, —
принаймні якщо може маніпулювати вашими найглибшими емоціями і бажаннями,
а ви навіть не помітите цього, —
ви думатимете, що це і є ваше справжнє "я".
Тож в теорії — так. В теорії ви можете повстати проти корпорації,
але в теорії ви так само можете повстати і проти диктатури.
Але на практиці це неймовірно складно.
К.А.: У книжці "Homo Deus" ти стверджуєш, що це буде сторіччя,
коли люди перетворяться на богів,
чи то через розвиток штучного інтелекту,
чи то через генну інженерію.
Чи твій погляд на можливі зміни політичної системи, на її коллапс,
вплинув на оцінку цієї ймовірності?
Ю.Н.Х.: Власне, я думаю, це тільки збільшує таку ймовірність,
і ймовірніше, що це відбудеться тільки швидше,
бо за часів кризи люди охоче йдуть на ризик,
на який в іншому випадку не погодилися б.
Усі люди хочуть спробувати
різноманітні ризиковані, але вигідні технології.
Тож такі типи кризи могуть грати таку ж роль,
яку грали дві світові війни ХХ сторіччя.
Дві світові війни відчутно прискорили
розвиток нових небезпечних технологій.
І те саме може статися у ХХІ сторіччі.
Тобто треба будти трохи не в собі, щоб рухатися зашвидко
із, наприклад, генною інженерією.
Але зараз в нас є більше і більше осіб, що трохи не в собі
і водночас керують різними країнами світу,
тож шанси тільки зростають, не зменшуються.
К.А.: І підбиваючи підсумки, Ювалю, ти маєш насправді особливе бачення.
Переведімо годинник на 30 років вперед.
Як гадаєш, людство зрештою прорветься через усе це,
озирнеться й скаже: "Отакої! Це було важко. Але ми впоралися!"
Чи ні?
Ю.Н.Х.: Поки що нам вдалося подолати усі попередні кризи.
І особливо, якщо зараз, поглянувши на ліберальну демократію,
ви вважаєте, що все погано,
просто згадайте, наскільки гірше все виглядало 1938 року або 1968.
Тож це ще нічого, це просто невеличка криза.
Але не можна бути впевненим,
бо як історик
я знаю, що ніколи не можна недооцінювати людську глупоту.
(Сміх) (Оплески)
Це одна з найпотужніших сил, що формують історію.
К.А.: Ювалю, це справжнє задоволення — говорити з тобою сьогодні.
Дякую, що зробив віртуальну мандрівку.
Гарного вечора у Тель Авіві.
Юваль Харарі!
Ю.Н.Х: Дуже дякую!
(Оплески)