Чем привлекателен фашизм и как ему способствуют ваши данные

В этом философском выступлении о технологии и власти писатель и историк Юваль Ной Харари объясняет важность разницы между фашизмом и национализмом и говорит о влиянии централизации наших с вами данных на будущее демократии. Появившийся в виде голограммы из Тель-Авива, Харари предупреждает о реальной угрозе для либеральной демократии как следствие того, что революция в информационных технологиях сделает диктатуру более эффективной и способной к контролю над данными. «Враги либеральной демократии играют на наших чувствах страха, ненависти и тщеславия, которые они используют для поляризации и раскола», — говорит Харари. «Каждый из нас несёт ответственность за познание собственных слабостей и за предотвращение того, чтобы они стали оружием». (За выступлением следует краткий диалог с куратором TED Крисом Андерсоном.)

Здравствуйте.

Забавно: я сам писал о том,
что человек примет цифровой облик,

но не предполагал, что это
произойдёт так скоро

и что это произойдёт со мной.

Но вот на сцене мой цифровой аватар,

а вы в зале, так давайте же начнём.

И давайте начнём с вопроса.

Сколько сегодня в зале фашистов?

(Смех)

Вообще-то, на это трудно ответить,

потому что мы забыли, что значит фашизм.

Термин «фашизм» превратился сегодня

в некую форму обобщённого ругательства.

Или его путают с национализмом.

Поэтому давайте уделим пару минут
разбору того, что же такое фашизм

и чем он отличается от национализма.

До определённой степени национализм
лежит в основе самых благонамеренных

созданий человечества.

Нации — это сообщества миллионов людей,

незнакомых друг с другом.

Я, например, не знаком
с восемью миллионами,

разделяющими со мной
израильское гражданство.

Но благодаря национализму

мы друг другу небезразличны
и можем эффективно сотрудничать.

И это хорошо.

Некоторые люди, как Джон Леннон,
представляют себе, что без национализма

мир превратится в мирный рай.

Но наиболее вероятно,

что без него мы давно бы скатились
к племенной междоусобице.

Если посмотреть на наиболее процветающие
и мирные страны в сегодняшнем мире,

такие как Швеция, Швейцария и Япония,

становится ясно, что у них очень сильно
развито чувство национализма.

И наоборот, страны, где наблюдается
недостаток национальной сплочённости,

такие как Конго, Сомали и Афганистан,

страдают от жестокости и бедности.

Итак, что же такое фашизм
и чем он отличается от национализма?

Национализм — это гордость
за уникальность своей нации

и определённые обязательства
по отношению к своей нации.

А фашизм, напротив, — утверждение,
что моя нация выше других

и что только перед ней
у меня есть обязательства.

Мне не нужно заботиться ни о ком
и ни о чём другом, кроме моей нации.

Но обычно люди испытывают
чувство принадлежности

и лояльности к различным группам.

Например, я могу быть
истинным патриотом своей страны

и в то же время быть
преданным своей семье,

ощущать себя частью
своего окружения, профессии,

человечества в целом,

быть верным истине и красоте.

И, разумеется, в результате
этих разных привязанностей

иногда возникают конфликты и сложности.

Но ведь никто же не говорит,
что жизнь проста.

Жизнь сложна.

С этим надо считаться.

Фашизм происходит тогда, когда люди
пытаются не признавать этих сложностей,

таким образом упрощая себе жизнь.

Фашизм отрицает наличие какой-либо
приверженности, кроме как к нации,

и настаивает лишь на обязательствах
по отношению к нации.

Если нация потребует,
чтобы я принёс в жертву свою семью,

тогда я пожертвую семьёй.

Если нация потребует,
чтобы я убил миллионы людей,

тогда я убью миллионы людей.

И если нация потребует,
чтобы я предал истину и красоту,

я поступлюсь истиной и красотой.

Например, как фашист оценивает искусство?

Как фашист определяет,
какой фильм хорош, а какой плох?

Да очень и очень просто.

Тут есть только одна мерка:

если фильм служит интересам нации,

это хороший фильм;

если фильм не служит интересам нации,

это плохой фильм.

Вот и всё.

Аналогично, как фашист решает,
чему учить детей в школе?

Опять же, всё очень просто.

Существует только одна мерка:

учить детей надо лишь тому,
что служит интересам нации.

Истина не имеет значения.

Ужасы Второй мировой войны
и Холокоста напоминают нам

о трагических последствиях
такого мышления.

Но обычно в риторике о вреде фашизма

мы многое упускаем,

так как представляем его
безобразным чудовищем,

не объясняя того, что делало его
таким привлекательным.

Немного наподобие голливудских фильмов,
изображающих злодеев —

Волан-де-Морта, Саурона, Дарт Вейдера —

уродливыми, озлобленными и жестокими.

Они жестоки даже по отношению
к тем, кто на их стороне.

Когда я смотрю такие фильмы,
мне не понятно,

с какой стати кто-то захочет водиться
с таким мерзким гадом, как Волан-де-Морт.

Но проблема со злом в том,
что в реальной жизни

зло вовсе не обязательно омерзительно.

Оно может быть внешне прекрасно.

Это хорошо известно в христианстве,

поэтому в искусстве христианства,
в отличие от Голливуда,

Сатана обычно изображается
в виде красавчика.

Вот почему соблазнам Сатаны
так трудно противостоять.

И по этой же причине трудно устоять
перед соблазнами фашизма.

Фашизм позволяет людям увидеть себя

частью самой прекрасной
и самой значительной идеи в мире —

их нации.

И люди думают:

«Нас учили, что фашизм уродлив.

Но, глядя в зеркало, я вижу лишь красоту,

значит, я не могу быть фашистом, так?»

Нет, не так.

Это и есть недопонимание фашизма.

Когда вы смотрите в зеркало фашизма,

вы видите себя намного лучше,
чем вы есть на самом деле.

В 1930-х годах, когда немцы
смотрели на себя в зеркало фашизма,

они видели в Германии самую
прекрасную нацию на свете.

Если сегодня русские посмотрят
на себя в зеркало фашизма,

они увидят Россию как самую
прекрасную нацию на свете.

И израильтяне, глядя на себя
в зеркале фашизма,

увидят Израиль как самую
прекрасную нацию на свете.

Это не означает, однако, что мы
наблюдаем возврат к 30-м годам.

Фашизм и диктатура могут вернуться,

но они примут новое обличие —

наиболее современный вид,

отвечающий реалиям новаторских
технологий XXI века.

В древнем мире

самым важным достоянием
на свете считалась земля.

Поэтому политика разворачивалась
вокруг владения территориями.

При этом диктатура означала сплочение
собственности на землю в руках правителя

или олигархии.

В эпоху индустриализации
важность машин оттеснила землю.

Политика стала развиваться
вокруг власти над машинами.

А диктатура стала означать,

что бóльшая часть машин сконцентрирована

в руках правительства
или малочисленной элиты.

Теперь же на смену земле
и машинам пришли данные,

став самым ценным активом.

Политика превратилась в борьбу
за контроль над потоками данных.

А диктатура сегодня наступает,

когда слишком много данных
скапливается в руках правительства

или малочисленной элиты.

Сегодня самая большая опасность
для либеральной демократии —

это если революция
в информационных технологиях

сделает диктатуру более эффективной,
чем демократию.

В XX веке

демократия и капитализм
победили фашизм и коммунизм,

потому что демократия лучше справлялась
с обработкой данных и принятием решений.

При технологиях XX века

было просто непрактично пытаться
консолидировать слишком много данных

и слишком много власти в одном месте.

Однако нет такого закона природы,

по которому централизованная обработка
данных не может стать эффективнее

рассредоточенной обработки данных.

С появлением искусственного интеллекта
и самообучающихся машин

эффективная обработка огромных
объёмов информации в одном месте

может стать вполне осуществимой,

так же, как и принятие любых решений.

Тогда централизованное управление
информацией станет эффективнее

рассредоточенного управления данными.

И тогда главная проблема
авторитарных режимов XX века —

их попытка консолидации всей
информации в одном месте —

станет их наибольшим преимуществом.

Другая технологическая опасность,
угрожающая будущему демократии,

находится на стыке информационных
технологий и биотехнологий.

Эта опасность заключается
с создании алгоритмов,

которые будут знать меня
лучше меня самого.

Как только появятся такие алгоритмы,

любая внешняя сила вроде правительства

сможет не только
предсказывать мои решения,

но и завладеть моими чувствами,
моими эмоциями.

Диктатор может и не быть в состоянии
обеспечить качественное здравоохранение,

но наверняка сможет
обеспечить мою любовь к себе

и ненависть к оппозиции.

Демократии будет трудно
пережить такую ситуацию,

потому что в конечном итоге

демократия опирается не
на способность рационально мыслить,

а на чувства людей.

Во время выборов и референдумов

вас не спрашивают: «Что вы думаете?»

Вас спрашивают: «Что вы чувствуете?»

И если кто-то способен эффективно
манипулировать вашими эмоциями,

демократия превратится
в кукольный театр эмоций.

Как же нам предотвратить
возвращение фашизма

и возникновение новых диктатур?

Вопрос, который следует задать в первую
очередь: «В чьих руках данные?»

Если вы инженер,

тогда подумайте, как воспрепятствовать
скоплению большого количества данных

в руках немногих.

И подумайте, как можно сделать

распределённую обработку данных
по крайней мере настолько же эффективной,

как централизованную обработку данных.

Это будет самой твёрдой
гарантией демократии.

А для остальных из нас, не инженеров,

первоочередной вопрос —

это как не допустить того,
чтобы нами управляли те,

кто управляет данными.

У врагов либеральной демократии
есть свой подход.

Они вскрывают наши чувства.

Не наши почтовые ящики и банковские счета,

а именно наши чувства страха,
ненависти и тщеславия.

Затем они используют эти чувства

для поляризации и раскола
демократии изнутри.

Изначально этот подход

был разработан в Кремниевой долине
с целью заставить нас покупать.

И именно им пользуются
теперь враги демократии,

чтобы продавать нам страх,
ненависть и тщеславие.

Они не могут вызвать
эти чувства на пустом месте.

Поэтому им нужно знать
присущие нам слабости

и затем использовать их против нас.

Вот почему на каждом из нас
лежит ответственность

за познание собственных слабостей

и за недопущение их использования
в качестве оружия

в руках врагов демократии.

Познание собственных слабостей

также поможет нам не оказаться
в ловушке фашистского зеркала.

Как было сказано ранее,
фашизм играет на нашем тщеславии.

Он показывает нам самих себя лучшими,
чем мы есть на самом деле.

В этом и есть соблазн.

Но если вы знаете себя по-настоящему,

вы не поддадитесь на подобную лесть.

Если вас поставят перед зеркалом,

которое скрывает все ваши недостатки
и делает ваше отражение

намного красивее и значительнее,

чем вы есть на самом деле,

просто разбейте это зеркало.

Спасибо.

(Аплодисменты)

Крис Андерсон: Спасибо, Юваль.

Подумать только.

Как же здорово снова тебя увидеть.

Если я тебя правильно понял,

ты предостерегаешь нас
от двух опасностей.

Одна — это возрождение
соблазнительной формы фашизма,

а другая, близкая ей, — это диктатура,
которая может и не быть фашистской,

но которая держит под контролем данные.

Интересно, нет ли и третьей опасности,

о которой некоторые здесь уже говорили,

когда не правительства, а крупные
корпорации владеют нашими данными?

Как бы ты это назвал

и насколько нам об этом
стоит беспокоиться?

Юваль Ной Харари: По большому счёту,
нет особой разницы

между корпорациями и правительством,

потому что, как я уже говорил,
вопрос в том, кто владеет данными.

Они-то и есть реальная власть.

Зовите их корпорацией или правительством —

если это корпорация,
реально владеющая данными,

то она и есть настоящее правительство.

Поэтому разница здесь
скорее мнимая, чем реальная.

КА: Но ведь в случае с корпорациями

должны же быть рыночные механизмы,
которые могут их уничтожить.

То есть, если потребители вдруг решат,

что компания больше не действует
в их интересах,

это откроет дорогу к другим рынкам.

Это легче себе представить,

чем, скажем, бунт граждан
с целью свержения правительства,

которое всё контролирует.

ЮНХ: Пока об этом рано говорить,

но если корпорация знает вас
лучше, чем вы знаете себя сами,

или хотя бы способна манипулировать
вашими сокровенными желаниями

без вашего ведома,

то вы поверите, что сами того хотите.

В теории — да, вы можете
восстать против корпорации

так же, как — опять же, в теории —
можно восстать против диктатуры.

Но на практике это чрезвычайно сложно.

КА: В книге «Homo Deus» ты выдвигаешь
гипотезу, что в этом столетии

люди станут кем-то вроде богов

либо вследствие развития
искусственного интеллекта,

либо посредством генетических манипуляций.

Повлияли ли на твоё видение будущего

эти опасения по поводу
политического сдвига, кризиса?

ЮНХ: На мой взгляд, такая возможность
не только более вероятна,

но и более вероятно,
что она наступит быстрее,

потому что в периоды кризиса
люди идут на бóльшие риски,

чем в обычной ситуации.

Люди больше готовы экспериментировать

с разного рода крайне рискованными,
но многообещающими технологиями.

Так что подобный кризис
может иметь тот же эффект,

что и две мировые войны в XX веке.

Обе мировые войны чрезвычайно ускорили

развитие новых и опасных технологий.

И то же самое может произойти в XXI веке.

Ведь надо же быть сумасшедшим,
чтобы торопиться с такими вещами,

как, например, генная инженерия.

Но сейчас всё больше и больше
таких сумасшедших

оказываются во главе разных государств,

поэтому и шансы возрастают,
а не уменьшаются.

КА: Итак, подведём итог твоей
уникальной точке зрения, Юваль.

Перемотаем время на 30 лет вперёд.

Как по-твоему: сумеет ли человечество
как-то выкарабкаться из этого

и, оглядываясь назад, подумать:
«Ну и ну, мы едва уцелели!»

или нет?

ЮНХ: До сих пор нам удавалось
преодолеть все предыдущие кризисы.

Если вы считаете, глядя
на либеральную демократию,

что она в плачевном состоянии,

то вспомните, насколько хуже
обстояли дела в 1938 или 1968 годах.

И тогда сегодняшний кризис
покажется совершенно незначительным.

Однако нельзя сказать наверняка,

потому что как историк

я знаю, что никогда нельзя
недооценивать человеческую глупость.

(Смех) (Аплодисменты)

Это одна из мощнейших сил,
формирующих историю.

КА: Юваль, твоё появление здесь
было настоящим подарком.

Спасибо за это виртуальное перемещение.

Хорошего вечера в Тель-Авиве.

Юваль Харари!

ЮНХ: Большое спасибо.

(Аплодисменты)