どのようにディープフェイクは真実を揺るがし、民主主義を脅かすのか

暴力を煽ったり、政治家やジャーナリストを中傷したりするような悪意ある目的で、ディープフェイク技術を使って動画や音声を操作することが本物の脅威になりつつあります。そのためのツールがより利用しやすくなり、生成された動画や音声がより本物らしくなるにつれて、私たちの信じるものはどう影響を受けるのでしょうか。不吉な未来を予期させるトークを通じて、法学部教授ダニエル・シトロンは、ディープフェイクがいかに私たちの不信感を増幅させるかを明らかにし、真実を守るためのアプローチを提案します。

［このトークには
成人向けの内容が含まれます］

ラナ・アイユーブはインドの記者で

政府の汚職や人権侵害を
記事にしてきました

何年も経つうちに

彼女は自分の仕事への
非難や論争に慣れてきました

しかし 2018年4月に直面したことは
予期していなかったでしょう

最初にそれを目にしたとき
彼女は友人とカフェで座っていました

彼女が見たものは
2分20秒の自分のセックスの動画でした

彼女は目を疑いました

セックスの動画を撮ったことなど
１度もありませんでした

しかし 悲しいことに大勢の人々が

動画に映っているのは彼女だと思いました

性的プライバシーに関する本を
書いていた私は

３ヶ月前 彼女にインタビューをしました

私は法律学の教授で
弁護士で市民権を支持しています

ですから 今の法律が彼女を助けるために
ほぼ何もできないことを知っていて

非常に悔しい思いをしています

話の中で彼女は

偽物のセックス動画が作られることを
想定しておくべきだったと言いました

「結局 セックスは女性の品位を落とし
辱める常套手段なのです

特に少数派女性たち

とりわけ権力のある男性に敢然と立ち向かう
少数派の女性を辱めるためです」

彼女も権力に立ち向かってきました

偽物のセックスの動画は
48時間で拡散しました

彼女の全てのオンラインアカウントは
動画のスクリーンショットや

生々しい性的暴行や殺害の予告

イスラム教徒である彼女の
信仰に関する中傷で溢れました

オンラインの掲示板には彼女がセックスに
「いつでも応ずる」と書かれました

さらに 彼女は「晒され」ました

つまり 彼女の住所と電話番号が

ネット上に広まったのです

その動画は４万回以上も共有されました

誰かがこの種の
サイバーモブ攻撃の標的にされると

その被害は甚大です

ラナ・アイユーブの人生は
滅茶苦茶になりました

数週間 彼女は食事も会話も
ほとんどできなくなりました

記事の執筆をやめて ソーシャルメディアの
アカウントも全て閉鎖しました

ご存知の通り ジャーナリストとして
この行為はつらい決断です

彼女は実家を出ることが怖くなりました

もし投稿者が脅迫を実行したら
どうなるでしょう？

国連人権理事会は
彼女が正気であることを確認し

安全上の懸念があるという
声明を発表しました

ラナ・アイユーブが直面したものは
ディープフェイクです

機械学習の技術で

音声や動画を改ざんしたり 捏造して

本人が実際にしていないことや
言っていないことを

したように見せかけます

ディープフェイクは本物そっくりに
見えますが それは違っていて

完全な偽物です

この技術は現在 まだ完成途上ですが

簡単に利用出来ます

最近 ディープフェイクに
注目が集まった分野は

ネット上のあらゆるものが
注目している分野―

ポルノグラフィです

2018年の初頭

誰かがRedditに あるツールを投稿しました

ポルノ動画に別人の顔を
はめられるようにするものです

そして 自分たちの好きな女性有名人の

偽物のポルノ動画が次々と作られました

今ではYouTubeを見れば
無数のチュートリアルを見つけて

デスクトップアプリケーション上での

ディープフェイクの作り方を
順を追って学習することができます

もうすぐ 携帯でも動画を
作れるようになるかもしれません

私たち人間の弱い部分と
ネットワークツールの相互作用によって

ディープフェイクが凶器となりうるのです

では 説明しましょう

私たちは人間として 音や動画に対して
本能的な反応をします

私たちはそれらを正しいと感じますが

それは 自分の目や耳で体感したことは

信じられるはずという
考えに基づいています

この仕組みがあるため

私たちの共有する現実感を
損ないかねません

私たちはディープフェイクを
本物であると感じますが 実際は違います

私たちは猥褻で刺激的なものに
惹きつけられます

否定的で 今までにない情報を信じて
共有する傾向があります

研究者たちはオンラインのデマが正しい情報の

10倍速く広まることを発見しました

また 私たちは自分のものの見方に合う
情報に引き付けられます

心理学者はこの傾向を
「確証バイアス」と呼んでいます

ソーシャルメディアプラットフォームは

私たちの見方に合う情報を
即座に広く共有できるようにすることで

確証バイアスを強化します

今や ディープフェイクは個人と社会に
深刻な被害を及ぼす可能性があります

アフガニスタンにいるアメリカ兵が

イスラム教の聖典を燃やしている
ディープフェイク動画を想像してください

その動画が兵士たちへの
暴力を招くことは

容易に想像できます

そして もし翌日に

ロンドンに拠点を置く
有名なイスラム教の指導者が

兵士たちへの攻撃を賞賛する
別のディープフェイク動画が

投稿されたらどうでしょうか？

アフガニスタンとイギリスだけでなく

世界中で暴力と社会不安が
起こるかもしれません

私にこう言う方もいるかもしれません

「ダニエルさん 考えすぎだよ」と

考えすぎではありません

WhatsAppやそれ以外の

オンラインメッセージサービスで
広まった噂によって

少数民族への暴力が起こっています

それらはただの文章でしたが

動画なら どうだったでしょう

ディープフェイクは　
私たちが持つ民主主義制度への

信頼を失わせる可能性があります

選挙前日の夜を想像してください

優位政党の候補者の１人が
重病にかかっている

ディープフェイク動画があるとします

そのディープフェイクが選挙をひっくり返し

選挙が公正であるという感覚を
揺るがす可能性があります

大手のグローバル銀行の
新規上場株の公開の前夜に

銀行のCEOが酔って
陰謀論をベラベラしゃべる

ディープフェイク動画が
出ることを想像してください

IPOは失敗し

ひどければ 金融市場が安定しているという
感覚を揺るがす可能性があります

ディープフェイクは政治家やビジネスリーダー
その他の有力なリーダーに対して

私たちが すでに持っている深い不信感を
悪用し増幅させることができます

ディープフェイクは
信じそうな聴衆を見つけます

そして 真実の追求も同様な危険に
曝されています

技術者はAIの進歩を予想しています

本物と偽物の動画の違いを見分けることは

不可能ではないにしても
難しくなるかもしれません

フェイクだらけの「思想の自由市場」に
真実など見いだせるでしょうか？

障害が最も少ない道を選んで

自分たちが信じたいことを信じて

真実を永久に無視するだけでしょうか？

それから 偽物を信じるだけでなく

真実を信じないということが
起き始めるかもしれません

ディープフェイクを使って
自分の不正行為の物的証拠に

疑問を生じさせようとする人が
すでに現れています

自分がした不都合な発言の録音ついて
こう発言した政治家が何人もいました

「まさか それはフェイクニュースだよ

見聞きしたものを全部信じちゃ
いけないよ」と

それはロバート・チェズニー教授と私が
「嘘つきの分け前」と呼ぶリスクです

嘘つきが 自分の悪行の
責任から逃れるために

ディープフェイクを持ち出す
リスクのことです

私たちのすべき仕事がはっきりしました
疑いの余地はありません

テクノロジー企業や議員

警察やメディアによる

予防的解決策が必要になるでしょう

そして 社会的レジリエンスが
かなり必要になります

そこで テクノロジー企業の責任について

公開の対話を広く実施しています

ソーシャルメディアプラットフォームに対する
私のアドバイスは

被害を引き起こす
ディープフェイクを禁止するために

利用規約とコミュニティガイドラインを
変更することです

この決定には人間の判断が必要とされ

コストがかかるでしょう

けれども ディープフェイクの
内容や文脈を検討して

それが有害な偽物なのか それとも

価値のある風刺や芸術 教育なのかを
見極めるには 人間の力が必要です

では 法律面はどうでしょう？

法律は私たちの先生です

何が良くないもので
何が間違っているものかを教えてくれます

加害者を罰して
被害者の救済策を確保することで

抑止すべき行動を決定します

現在 法律はディープフェイクという
新たな問題に対応できていません

世界中で 性的プライバシーを侵害し

評判を傷つけ 精神的苦痛を引き起こす

なりすまし行為に対応できるように設計され

適切に定められた法律がありません

ラナ・アイユーブに起きたことは
ありふれたことになりつつあります

彼女がデリーの警察に行ったとき

出来ることは何もないと言われたそうです

悲しいことに アメリカやヨーロッパにも

同じことが当てはまります

法律に埋めなければならない
空白があるのです

同僚のメアリー・アン・フランクス博士と私は

米国の議員と協力して 身元の盗用に当たる
有害なデジタルのなりすましを

禁止する法律を考案しています

また似たような取り組みが

アイスランドやイギリス
オーストラリアでも進んでいます

ただ これは規制というパズルの
ほんの１ピースに過ぎません

法律で全部解決する訳ではありませんよね

法律は鈍器のようなもので

賢く使わねばなりません

法律は実用的な障害も抱えています

身元の特定や探すことが出来ない人々に対して
法律は適用できないのです

被害者の住む国に加害者がいない場合

正当な裁判を受けさせるため

地元の裁判所に来ることを
要求できないかもしれません

したがって 各国が協調して
対応する必要があるでしょう

私たちの対応には 教育も
含まれなければなりません

警察が 自分たちの知らない法律を
順守させることはないし

理解していない問題を

提起することもありません

サイバーストーカーに関する私の調査で

警察には利用可能な法律と

オンラインでの虐待の問題を
理解するための訓練が

欠けていることがわかりました

彼らは頻繁に被害者にこう言いました

「コンピューターの電源を切るだけです
無視してください 解決しますから」と

ラナのときもそうでした

彼女は こう言われたのです
「たいしたことない　騒ぎ過ぎです

男の子のいたずらみたいなものですよ」

新しい法律と訓練を
組み合わせる必要があります

また メディアで
教育する必要もあります

記者はディープフェイクという現象について
教育する必要があります

ディープフェイクを増長させたり
広めたりしないためです

これは私たち全員が関わっていることです

私たち一人一人が教育する必要があります

私たちはクリックし 共有し いいねを押し
そのことについて考えません

もっと努力が必要です

偽物をもっとよく見分ける手段が必要です

これらの解決策で取り組んでいくと

多くの苦労が待ち受けています

ラナ・アイユーブは
今だにフェイクの余波と闘っています

彼女は今でもオンラインでもオフラインでも
自分を表現することはできません

そして こう話してくれました

あのフェイクは自分の体ではなかったと
頭ではわかっていても

今も自分の裸体に何千という
視線が注がれている気がすると

知らない誰かが写真を撮ろうとすると

彼女は頻繁にパニック発作を起こします

「ディープフェイクを作る気だったら」と
考えてしまうからです

だから ラナ・アイユーブのような個人のため

そして 私たちの民主主義のために

私たちは今すぐ
行動を起こす必要があるのです

ありがとうございました

(拍手)