なぜファシズムは魅力的なのか — そして個人データがこれに力を貸す仕組みとは

作家であり、歴史学者でもあるユヴァル・ノア・ハラリ氏が、テクノロジーと権力に関する奥深いトークの中で、ファシズムとナショナリズムの重要な違い ― そしてデータの集中が民主主義の未来にどう影響するのかを説明します。テル・アヴィヴからホログラムとなってリアルタイムで登場したハラリ氏が、自由民主主義が現在直面している最大の危機は、情報技術の革命によって独裁政権がこれまでになく効率的に権力を掌握し管理できることだと警告します。「敵は、恐れや憎しみ、虚栄心をハッキングし、この感情を利用して民主主義を二極化させ、破壊する」とハラリ氏は主張します。「私たちの責任において自分自身の弱みを知り、それを武器として使わせないようにしなければならない。」（トークの後にTEDのキュレーター、クリス・アンダーソンとの短い会話があります）

皆さん こんにちは

確かに私は人間がいつか
デジタルになると著書に書きましたが

こんなに早く しかも
自分自身がそうなるなんて

思いもしませんでした

ともかく デジタルアバターとして
私はここにいます

それでは皆さん 始めましょう

まずは質問させてください

本日お集まりの皆さんの中に
ファシストの方はどれくらいいますか？

（笑）

少々答えにくいかもしれませんね

私たちがファシズムとは何かを
忘れているからです

最近は「ファシスト」という言葉を

多くの用途に使い過ぎています

あるいは ファシズムを
ナショナリズムと混同しています

それでは 少し時間を頂いて
ファシズムとは本当は何なのか

また ナショナリズムとの違いについて
明らかにしましょう

「穏やかな」ナショナリズムは
人間の生み出したものの中でも

最も善意に満ちた部類に入ります

国家とは お互いを良く知らない人々が

何百万人も集まった共同体です

例えば 私は
同じイスラエル国籍を持つ

８百万人の人々のことを
知りません

しかしナショナリズムのおかげで

私たちはお互いを気にかけて
効果的に協力し合うことができます

これはとても良いことです

中にはジョン・レノンのように
ナショナリズムの無い世の中は

平和なパラダイスになると
想像する人もいますが

それよりも
ナショナリズムがなければ

部族的なカオスの中で
生きる可能性がずっと高いでしょう

現在 世界で最も繁栄していて
平和な国

スウェーデンやスイス
日本のような国を見ると

ナショナリズムの感覚を
強く持っている国だとわかります

逆に ナショナリズムの感覚が希薄な

コンゴやソマリア
アフガニスタンのような国では

暴力と貧困の傾向が見られます

さてファシズムとは何で
ナショナリズムとはどう違うのでしょう？

ナショナリズムは
自分の国は特別であり

自分は自国に対して特別な
義務を負っているという考え方です

一方ファシズムは
自分の国こそ最も優れており

自分は自国に対してだけ
義務があるという考え方です

自分の国以外の誰も何事も
気にかける必要がないということです

もちろん 一般的に見て
人それぞれ複数のアイデンティティがあり

異なる集団に
忠誠心を抱いています

たとえば 私が善良な愛国者で
自分の国に忠誠心を持っているとして

同時に 自分の家族や

近所の人たち
自分の仕事

人類全体

真実や美に対しても
忠実かもしれません

もちろん いろいろなアイデンティティや
忠誠心があることで

矛盾や問題が生じることもあります

しかし そもそも誰が
人生は単純なものだと言ったのでしょう？

人生は複雑なのです

対処していくしかありません

ファシズムは
人々が複雑性を無視し

自分だけ楽して
生きようとする時に生まれます

ファシズムは国民としての自己認識を別として
全てのアイデンティティを否定し

個人は国に対してのみ
責任があるのだと主張します

国が家族を犠牲にせよと
命令したら

家族を犠牲にし

国が何百万人もの人を
殺せと命じたら

何百万人の人を殺すのです

国が真実と美に
背を向けろと命じたら

真実と美に背かなければなりません

例えば ファシストは芸術を
どのように評価するでしょう？

映画の良し悪しは
どのように判断するでしょう？

これは 非常に 非常に単純です

モノサシは１つしかありません

その映画が国の利益に
供するものであれば

それは良い映画で

国の利益に反するものであれば

それは悪い映画なのです

それだけです

同様に ファシストは
学校で教える内容をどう決めるのでしょう？

これもまた 非常に単純です

モノサシは１つです

何であれ国の利益に
供することを教えればいいのです

真実かどうかは全く問題になりません

第二次世界大戦と
ホロコーストの恐怖は

このような考え方が酷い結果を
招いたことを思い出させます

しかし ファシズムの邪悪さを
伝えようとする時

私たちの語り方は
効果的ではありません

恐ろしいモンスターのように
描写するだけで

ファシズムの何が 人をそれ程までに
惹きつけてしまうのかを説明していません

ある意味 ハリウッド映画の
悪役のように描いています

ヴォルデモートやサウロン
ダース・ベイダーなどのように

醜く卑劣で残忍なものとしてです

悪役たちは自分を支持する人々
に対しても冷酷です

私はそうした映画を見ると
どうしても分からないのです

ヴォルデモートのようなおぞましい悪人に
誰がついていきたいと思うのか

「悪」という概念の
実世界での問題点は

必ずしも醜くは
見えないということです

とても美しく見えることもあります

キリスト教はこのことを
よく理解しているので

キリスト教の宗教画は
ハリウッド映画とは違って

たいていサタンを立派な男性美
として描いています

だからこそサタンの誘惑に
打ち勝つのは難しいのです

ファシズムの魅力に打ち勝つのが
難しいのも同じです

ファシズムは人々に

自分は世界で最も美しく最も大切なものに
属しているのだと思わせます

国家のことです

すると人々はこう思います

「ファシズムは醜いものだと
教わりました

でも 鏡にはとても美しいものが
映っているから

私はファシストではないですよね？」

違います

これがファシズムの問題なのです

ファシストの目で鏡を見ると

自分が本来の姿より
ずっと美しく見えるのです

1930年代にドイツ人が
ファシストの目で鏡を見た時

ドイツが世界の何よりも
美しく見えたはずです

今 ロシア人が
ファシストの目で鏡を見たら

ロシアが世界の何よりも
美しく見えるでしょう

イスラエル人が
ファシストの目で鏡を見れば

イスラエルが世界の何よりも
美しく見えるはずです

これは1930年代の出来事が
繰り返されているという意味ではありません

ファシズムや独裁が
再び起こるかもしれませんが

それは 姿を変え

21世紀の新しい技術の現状に

もっと即した形で復活することでしょう

古代の世の中においては

土地は最も重要な資産でした

だから政略とは土地を
支配することでした

そして独裁とは全ての土地の所有権が
１人の支配者

あるいは少数の寡頭制支配者に
属することを意味しました

近代になると 土地よりも
機械が重要になり

機械を支配しようとする
政略に移りました

よって独裁とは

過剰な程 多くの機械が
政府や一握りのエリートの手に

集中することを意味しました

現在では データが最も重要な資産として
土地や機械に取って代わりつつあります

今や政治とは データの流れを
コントロールするために骨を折ることであり

そして今や独裁とは

過剰な量のデータが
政府や一握りのエリートに

集中することを意味します

自由民主主義が直面している
最大の危機は

情報革命のせいで

民主主義よりも独裁のほうが
効率が良くなってしまうことです

20世紀には

民主主義と資本主義が
ファシズムと共産主義に勝利しましたが

それは民主主義の方がデータ処理と
意思決定に優れていたからです

20世紀のテクノロジーは

多くのデータと
多大な権力を一手に集中させることに

単に向いていなかったのです

しかし分散データ処理よりも

集中データ処理の方が
常に非効率だというのは

自然の理に反します

人工知能や機械学習の台頭により

膨大な量の情報を

一ヶ所で効率的に処理し

一ヶ所で全ての決定を下すといったことも
可能になるかもしれません

そうなれば
集中データ処理の方が

分散データ処理よりも
効率が良くなります

20世紀の独裁体制にとって

負担になっていたのは

情報を一か所に集中する試みでしたが

それこそが最大の利点に
なるかもしれません

未来の民主主義を脅かす
もう一つの技術面の脅威は

情報テクノロジーと
バイオテクノロジーの融合です

これにより自分よりももっと
自分のことを知っている

アルゴリズムが生まれる
可能性があります

このようなアルゴリズムが生まれると

政府など外部のシステムが

私の意思決定を予見するだけでなく

私の感情や情動を操ることが
できるようになります

独裁者は私に十分な医療制度を
提供できないかもしれませんが

私が独裁者を愛し

敵対者を憎むように
仕向けることができます

民主主義がこのような変化を
切り抜けるのは難しいでしょう

なぜなら結局のところ

民主主義とは人間の合理性ではなく

感情によって左右されるからです

選挙や国民投票では

「どう考えるか」ではなく

「どう感じるか」を問われています

そしてもし誰かが人の感情を
効果的に操作できるとしたら

民主主義は感情を操る
人形劇になってしまいます

ファシズムの再来と

新しい独裁の台頭を防ぐには
どうすれば良いのでしょう

私たちが直面する第一の問いは
「誰がデータを支配するのか」です

あなたがエンジニアであれば

一部の人の手へのデータの集中を

防ぐ方法を考えて下さい

そして分散型のデータ処理が

集中データ処理と

少なくとも同じくらいは
効率的であるようにしてください

これが民主主義にとって
最良の防御壁になります

エンジニア以外の人々にとっては

目の前にある一番の問題は

いかにして データを支配する者に
操られないようにするかです

自由民主主義の敵の
やり方は

私たちの感情を
ハッキングすることです

Eメールや銀行口座ではなく

私たちの恐怖や憎しみ
虚栄心といった感情をハッキングし

次に こうした感情を利用して

民主主義を二極化させ
内側から破壊します

実はこれは

シリコンバレーが商品を売るために
開発した手法です

しかし今は全く同じ手法で
民主主義の敵が

恐怖や憎しみや虚栄心を
売るのに使っています

こうした感情をゼロから
生み出すことはできません

私たちに内在している
弱さを見つけ出し

それを攻撃に使うのです

だからこそ私たち全員の責任において

自分の弱さを認識し

それが民主主義の敵の手に渡って

武器にされないように
しなければなりません

自分自身の弱さを知ることで

ファシストの鏡という罠に
かからずに済みます

既に説明した通り ファシズムは
私たちの虚栄心を利用します

私たちを実際よりも
ずっと美しく見せるのです

それがファシズムの誘惑です

しかし自分のことをよく理解すれば

こういったまやかしに
乗せられることもありません

誰かがあなたの前に鏡を置いたとして

それがあなたの欠点を全て覆い隠し

自分を実際よりもずっと美しく

ずっと重要に見せる鏡だとしたら

壊すしかありません

ありがとうございました

（拍手）

（クリス・アンダーソン）
ありがとうございました

なんと またお会いできて
嬉しいですね

もし私の理解が正しければ

あなたは２つの危険性について
警鐘を鳴らしましたね

１つは魅惑的に姿に変えた
ファシズムが復活すること

それからファシズムに似ているけど
厳密には異なる独裁主義が

全てのデータを支配すること

３つ目の危険もあるのではと
危惧しています

それは他のスピーカーが
話されたように

政府ではなく 大企業が私たちのデータを
全て支配するというものです

これを何と呼び

また その危険性を
どの程度憂慮すべきでしょうか？

（ユヴァル・ノア・ハラリ）
結局のところ 企業であれ政府であれ

あまり大きな差はありません

なぜなら お話しした通り 問題は
「データを支配するのか誰か」であって

この支配者こそ
事実上の政府なのです

それを企業と呼ぼうと
政府と呼ぼうとお構いなく

仮に企業が実際にデータを
支配するのなら

その企業が事実上の
政府になります

だから違いは
見かけだけのことなのです

（クリス）しかし企業だとしたら

市場原理が働いて
その座を追われたりしないでしょうか

つまり 消費者が

そんな企業には
もう興味がないとし

他の市場にチャンスを
与えるということです

国民が蜂起して

全てを支配する政府を
転覆させるよりは

想像しやすいと思うのですが

（ユヴァル）
国民はまだそのレベルになく

繰り返しますが 企業が人々のことを
その人以上に知っていたら

少なくとも 心の奥深くにある
感情や欲望を操ることができて

人々はそれに気づきもせず

「真の」自分の考えだと
思い込むことでしょう

理論上は企業に対して
立ち上がることも可能です

それは理論上 独裁者に対して
蜂起が可能なのと同じです

ただ現実には非常に難しいのです

（クリス）『ホモ・デウス』の中で
あなたは今世紀のうちに

人類は人工知能の進歩か
遺伝子工学によって

神のようになると
述べていますね

その可能性に対するあなたの見解は
政治の体系が変化し崩壊するという

見方によって
影響を受けましたか？

（ユヴァル）そうなれば
可能性は更に高まり

しかも もっと早く
実現することでしょう

なぜなら危機に際すると
人間は普段なら冒さないようなリスクさえ

積極的に冒そうとするからです

そしてハイリスクでハイリターンの

あらゆる技術を試そうとします

つまりこうした危機は20世紀に
２つの世界大戦がもたらしたのと

同じような役割を果たします

２つの世界大戦は
新しくて危険な技術の進歩を

著しく加速させました

21世紀にも同じことが起こる
可能性があります

少しばかり たがを外すだけで
暴走し得るということです

例えば遺伝子工学のことです

今の世の中では
常軌を逸した人が

様々な国で政権を握るケースが
増えています

ですから危険性は高まっていると
考えられます

（クリス）ユヴァルさん 全体的に
非常にユニークな見方だと思います

時計を30年先に進めましょう

あなたの予測では
人類は危機をギリギリすり抜け

振り返って「ああ危なかった！
でも助かった！」と言うでしょうか

それともその逆でしょうか？

（ユヴァル）過去に人類は
なんとか危機を回避してきました

特に自由民主主義を見ていると

現状を好ましくないと
思うかもしれませんが

思い返せば1938年や1968年は
もっとひどかったわけで

だから今の状況は何てことない
小さな危機なのです

だけど誰にも分かりはしません

歴史学者として言えるのは

決して人間の愚かさを侮っては
いけないということです

（笑）（拍手）

人間の愚かさは歴史を形造ってきた
重要な要素の一つです

（クリス）ユヴァルさん
ご登場いただき光栄でした

ヴァーチャルでお越しいただき
ありがとう

そちらテル・アヴィヴで
素敵な夜を

ユヴァル・ハラリさんでした！

（ユヴァル）ありがとうございました

（拍手）