フェイスブック殿、貴社はこうして民主主義を破壊しています

「オンラインでは真実よりも嘘の方が興味をそそる」と語るのは、元CIAアナリストで元外交官、フェイスブックの社員でもあったヤエル・アイゼンスタットです。「ソーシャルメディアのアルゴリズムの目的が、私たちに関与を続けさせることである限り、彼らは最悪の本能や人間の弱点を引き付ける毒薬を私たちに送り続けるでしょう」。この大胆なトークの中でアイゼンスタットは、フェイスブックなどのソーシャルメディア企業が、いかにして扇動的なコンテンツを奨励し、政治的二極化と相互不信の文化を引き起こしたのか追及するとともに、政府に対して、相互理解と民主主義を守るために、これらの企業に責任を取らせるよう要求します。

5年ほど前に
私は突然 気付きました

自分は 考え方の違う人と

付き合う能力を失ってきている と

微妙な問題について アメリカ人同士で
議論しようと考えたときの

胸焼けのような感覚が

海外で過激派と思われる集団と
関わったときよりもひどくなり始めていました

後味の悪さと苛立ちが
強く残るようになったのです

そう気付いた途端に

私の関心は

国家安全保障上の国際的な脅威から

国内の二極化圧力の原因を理解することへと

すっかり変わりました

私は かつて CIA職員や外交官として

過激思想の問題への対策に
年月を費やしてきましたが

私たちの民主主義にとっては
この二極化が 海外のどの敵よりも

遥かに重大な脅威になると
恐れるようになりました

そこで これを深く掘り下げ

公の場で声を上げ始めたところ

それをきっかけにある時
フェイスブックで働くことになり

さらに結果的に 今ここを訪れて

皆さんに これらのプラットフォームが

いかに多くの人々を操り
過激化させているか 警告をお伝えし

開かれた議論の場を
いかに取り戻すか お話ししようとしています

私は外交官としてケニアで働きました

同時多発テロ事件の
ほんの数年後のことです

またソマリア国境沿いで
「ハートと心」の作戦と呼ばれる

活動を指揮していました

主な任務は 過激派の影響が
最も及びやすいとされる地域で

現地との信頼関係を築くことでした

西洋ぎらいの無遠慮な聖職者たちと
何時間も お茶を共にしたことも

テロリストとおぼしき人物と
対話したこともあります

やりとりの多くは
相互不信から始まりましたが

怒号や侮辱の応酬で
終わった記憶はまったくなく

利害の一致する分野で
共同作業をしたことさえありました

私たちの持っていた最強のツールは
相手の話をひたすら聞き 学び

気持ちを通わせるというものでした

これが「ハートと心」の活動の本質です

というのも 私が何度も経験したように
ほとんどの人々が望むのは

自分の声が届き 認められ
尊重されていると感じることだったからです

私たちの大半も 同じことを望むはずです

それで 今のネットで見られる事態には
胸の張りさける思いがしますし

遥かに対策の難しい問題とも
感じられるのです

私たちは 現在の情報システムの
生態系に操られており

余りにも多くの人が
極端な思想に染め上げられて

妥協という言葉も禁句に
なってしまいました

というのも 現在

フェイスブックなどの
ソーシャルメディアの収益源が

私たちを分類した上で

偏見を正当化し悪用するような
個人化コンテンツを送り付けることだからです

彼らの最終損益を左右するのは
強い感情を掻き立てて

投稿や共有を続けさせることなので

最も扇動的で極端な意見を
奨励することとなりがちで

結果的に お互いの共通点を探すことも
不可能と感じるほどになりました

また そんなプラットフォームの
変更を求める声がどんなに増えても

企業が自ら十分な対策を
講じないのは明らかです

そこで政府は
こうしたビジネスモデルから

実生活に及ぼされる悪影響についての
責任を明確にして

私たちの公衆衛生や 開かれた議論の場や
民主主義に与えた損害に関する

全ての費用を払わせなければなりません

ただ残念ながら それも
米大統領選には間に合わないでしょう

それで 私は警告を発し続けています

なぜなら いつか強い規制が
実現したとしても

解決には私たち全員の力が
必要だからです

自分の関心が 海外の脅威から

国内の社会的な対話の崩壊へと
移ったとき

私は「ハートと心」の作戦の一部が
私たちの分断の修復にも

転用できるのでは と考えました

200年以上かけて培った 民主主義が
成果をあげている大きな理由は

私たちは 熱い 開かれた議論を通じて

最良の解決策を見出すことができるからです

ただ 私は直接会って得られる

相互理解の力を
今でも深く信奉する一方

それだけでは

現在のソーシャルメディアの二極化効果と
規模には 太刀打ちできないと考えます

ソーシャルメディアの暴力という
アリ地獄に呑み込まれた人々を

観念的な思考から解放するのは
かつての不安定地域での活動よりも

遥かに難しいと感じることも よくあります

そこで2018年に
フェイスブックからの電話で

選挙における政治広告を
適正に運営する責任者という

役割を提示されたときには

これは受けねば と思いました

自分が全て解決しようなどという
幻想はなかったものの

船の針路をより良い方向へと

導くことを手伝う機会が与えられるというなら

断る手はありませんでした

業務で二極化を直接扱いは
しませんでしたが

この社会を分断する
一番の問題が何なのか

またそれ故に 選挙妨害に
一番弱い部分がどこなのかには着目しました

そこを ロシアが2016年の選挙で
戦略的に攻めたからです

まずは疑問点を挙げてみました

こんな事態の発生を許した

システム上の問題点を理解した上で

解決方法を見つけたかったのです

私は今でもインターネットには
より多くの意見を

引き出す力があると信じていますが

コミュニティの構築という
公に掲げた目標にもかかわらず

現在 築き上げられた
巨大ソーシャルメディア企業は

理性ある対話という概念とは
真逆の存在です

人の話に耳を傾けることに報いたり

開かれた議論を促したり

真摯に質問したい人々を保護したりする
手段が全くありません

このビジネスでは
ユーザ関与の最適化とユーザの増加が

成功のために最も重要な
２つの指標になっているからです

人々が関与する前に
一旦落ち着かせて

立ち止まらせるような
干渉機能を設けて

何かに感情的な反応を
していると気付かせ

憶測を自省させるような試みへの
動機付けはありません

不幸な現実があります

オンラインでは
真実よりも嘘の方が興味をそそり

わいせつな話題が
真面目で事実に基づく論理を追いやります

それが干渉なく拡散をすることに
最適化された世界なのです

アルゴリズムの目的が 私たちに
関与を続けさせることである限り

彼らは 最悪の本能や
人間の弱点を引き付ける毒薬を

私たちに送り続けるでしょう

確かに 怒り 不信

恐れの文化 憎しみ

どれも アメリカでは
目新しいことではありません

でも 近年 ソーシャルメディアが
これら全てに付け入って

劇的に局面を変えたと
私は考えます

そしてフェイスブックも
それを知っています

『ウォールストリート・ジャーナル』誌の
最近の記事で

フェイスブックの
2018年の社内報告が暴露されました

その報告は 自社のアルゴリズムが

フェイスブック上の
過激派グループの存在感を強め

ユーザの二極化を招くと
特定していました

でも 私たちに関与を続けさせるのは
彼らの金儲けの手段です

現代の情報環境は徹底的に
私たちの属性を抽出し

それを 細かいカテゴリーへと
細分化し続けて

個人化プロセスを突き詰めます

それが済むと
人々の見解を追認し 偏見を助長し

自分が何かに帰属していると
感じさせるような情報が

大量に送り付けられます

これらはテロリストのスカウトが

無防備な若者に対して
使うのと同じ手口です

ソーシャルメディア以前は
小規模で地域別に行われていましたが

相手の行動を変えさせるという
最終目標は同じです

残念ながら 私はフェイスブックを
変える程の力は与えられませんでした

実際 ２日目には 肩書と
職務の内容が変更されて

意思決定をする会議からも
外されてしまいました

政治広告から ニセ情報や投票妨害を
排除するための計画の策定に

私は一番力を注ぎましたが

提案は却下されました

結局 私が働いたのはわずか半年弱です

ただ そこで働いたことで
得られた一番の気づきは次のことです

フェイスブックの社内では

何千人もの人が

より良い世界を作ると心から信じる機能に
情熱的に取り組んでいます

しかし会社がこのまま
コンテンツの指針や調停機能について

枝葉をいじくり回すだけで

仕組み全体の設計と収益の上げ方を
見直さない限り

このプラットフォームがもたらしている
憎しみや分断や過激化への

真の対策は決して実現しないでしょう

そして 私の在籍中に そんな話は
全く耳にしませんでした

なぜなら そのとき求められるのは
自ら構築したものが

社会にとっては最善でないかもしれないと
認めることであり

全ての機能と収益モデルの変更に
同意することに他ならないからです

では私たちには何ができるでしょうか？

私はソーシャルメディアのみに
今の事態の責任があると

言っているのではありません

明らかに 私たちは解決すべき
根深い社会問題を抱えています

でも これが社会を映す鏡に過ぎないという
フェイスブックの回答は

全ての責任を免れようとする
体のいい方便であって

自社のプラットフォームが
有害なコンテンツを増幅して

一部ユーザを過激思想に駆り立てていることは
省みていません

しかも フェイスブックはその気があれば

一部を解決できるのです

陰謀論者やヘイトグループや
ニセ情報を広める人たちの発言を

広めたり お勧めするのは
やめることができます

そう ときには大統領の発言もです

政治的発言を広めるのに
スニーカー販売と同じ

個人化テクニックを使うのも
やめることができます

アルゴリズムを再学習させて

ユーザの関与以外の指標に
焦点を当てることも

ある種のコンテンツが
チェックの前に拡散しないように

防御壁を設けることもできます

そして これら全てを行うのに

彼らが言う「真実の決定者」に
なる必要はありません

しかし自ら明言したとおり
彼らは強制されなければ

正しい方向に踏み出すことは
ないでしょう

正直なところ その必要がありますか？

市場の評価は高く
法律を犯している訳でもありません

なぜなら 今のところ

米国の法律では フェイスブックを含む
いかなるソーシャルメディア企業も

開かれた議論の場や民主主義
それに選挙すら保護する義務がないのです

開かれた議論の場や民主主義
それに選挙すら保護する義務がないのです

私たちは どんなことを制限し
何を強制するかという意思決定を

利益重視のネット企業の
CEOたちにゆだねてしまっています

私たち こんなものが欲しいのでしょうか？

有害情報や部族主義が
架け橋や総意形成に勝るような

真実を見失った世界が？

私は今でも 自分たちのお互いの共通点は

今のメディアやオンライン環境が
描くよりも多いと楽観しています

また より多面的な物の見方が

より堅固で開かれた民主主義を
作り上げると 信じています

でもそれは 現在とは違う形のものです

強調しますが 私はこうした企業を
葬り去りたい訳ではありません

ただ 社会の他のメンバーと同じように
ある程度の責任を

果たしてもらいたいだけなのです

今こそ政府が立ち上がって
国民生活を守るという

職務を果たす時です

魔法のように ひとつで全てを解決する

法律ができるとは思いませんが

政府が言論の自由を守りながら
企業に社会的影響の責任を取らせるような

うまいバランスを見出すことは

可能であり 必要であると信じています

しかも 政府は 透明性を強く要求することで
ある程度はそれが実現できます

透明化が必要なのは
推奨エンジンの働き方と

まとめサービス 増幅 そして
ターゲティングのやり方に関してです

お察しのように 私が企業に
責任を取らせたいのは

一個人が流した虚偽の情報とか
極端な表現についてではなく

彼らの推奨エンジンが
その投稿を拡散させるやり方や

彼らのアルゴリズムが
人々をその投稿に誘導するやり方や

彼らのツールがその投稿を
ターゲティングする方法に対してです

私はフェイスブックの内部から
変革を試みて失敗しました

ですから ここ数年は
再び自分の声を使って

警告を発し続けながら

これに触発されて 責任を追及する声が
さらに高まることを願っています

私から皆さんへのメッセージはシンプルです

地元の議員に圧力を掛けて

開かれた議論の場を 営利団体に
明け渡すのを止めさせるのです

友人や家族にも 皆がオンラインで

いかに操られているかを
教えてあげてください

考え方の違う人たちとも
付き合う努力をしてください

この問題を優先して扱ってください

これを解決するには
社会全体の取り組みが必要です

ここからは 以前の雇用主である
フェイスブック首脳陣へのメッセージです

現在は 人々が貴社のツールを
設計されたとおりに使い

憎しみや分断や不信が生み出されています

それを許しているだけでなく
それを可能にしているのが貴社なのです

確かに 世界中で貴社のプラットフォームの

良い面が発揮された
素晴らしい話も沢山あります

だからと言って この問題が
帳消しになる訳ではありません

我が国の選挙が 近付くにつれ
事態は悪化するばかりですし

さらに心配もあります

選挙結果が信用されず
暴力が発生すれば

最大の危機が訪れる可能性があるのです

ですから2021年に貴社が
「改善の余地があるのは確かだ」などと

繰り返すなら 今この時を
思い出して頂きたいと思います

これはもはや 単なる少数意見では
ないのですから

市民権運動のリーダーや 学界や

ジャーナリストや 広告主や
貴社自身の社員たちが

声高に叫んでいます

貴社の方針とビジネスのやり方が

人々と民主主義を傷つけていると

決定権は貴社にありますが

想定外だったと言うことは
もうできません

ありがとうございました