顔認証による大衆監視について知る必要のあること

「プライバシーは死んでいませんが、顔を監視する技術よって、プライバシーが殺されるかもしれません」と市民権擁護活動家であるケイド・クロックフォードは言います。この目を見張るトークでケイドは、不具合の多い顔認識データベースにより人々の行動を知らないうちに追跡するという侵害性の高い技術が、人権に対する未曽有の脅威をもたす理由を説明します。政府の使用を禁止するために何ができるのか、手遅れになる前に学んでください。

「プライバシーは死んだ」と言うのを

聞いたことのある人は？

手を挙げてみてください

「別に隠すことはないから

プライバシーなんて気にならない」は
どうでしょう？

さあ 手を挙げてください

（笑）

暗号化ソフトを
何か使っている人は？

手を挙げてください

ユーザーアカウントを保護するために
パスワードを設定している人は？

自宅の窓にカーテンやブラインドを
掛けているという人は？

（笑）

それは皆ですよね

（笑）

なぜ そうするのでしょう？

私が思うに

プライバシーを気にしているからでしょう

「プライバシーは死んだ」
なんて嘘です

「別に隠すことはないから

悪いことは
何もしていないから

プライバシーなんて気にならない」

それも嘘です

ネットに個人的なことを公開して

世界中の人に
見られたくはないですよね

例えば 自分の全診療記録とか

携帯やパソコンからの
検索履歴とかです

断言しますが

もし 政府が全国民の脳に
チップを埋め込み

政府の中央コンピュータに
国民の考えが全て送信されるようにしようとしたら

皆さん 嫌な顔を
するんじゃないでしょうか

（笑）

それは 人間誰しも
プライバシーを

気にするものだからです

現代社会は急速に変化してきました

こんにち プライバシーとは何か
なぜ重要なのかについて

かなり混乱があるのも
無理はありません

プライバシーとは
秘密にするということではなく

どう管理するかということです

私が 自分の身体や健康状態に関する
情報を医者に提供する際

先生がその情報を

私の親や、上司や、子どもたちに

勝手に言いふらさないことを
期待します

それはプライベートな情報であり
秘密というわけではありません

その情報の共有の仕方は
私が管理しているのです

「プライバシーと安全性は

根本的に対立している」というのを

聞いたことがあるかもしれませんが

プライバシーを向上させる技術は

安全性も向上させるのです

例えば フェンス、ドアロック

窓のカーテン、パスワード

暗号化ソフトなど―

これらの技術は

プライバシーと安全性を
同時に守ります

一方で 捜査用監視システムは
いずれも保護しません

近年 連邦政府は

専門家グループである

「プライバシー・市民自由監視委員会」に

9・11後の政府による様々な
捜査用監視プログラムについて

検証させましたが

捜査用監視システムによって
安全性が高まった例を

１つとして発見できず

特定・阻止できたテロ攻撃も
１つもありませんでした

その情報が何に役立ったか
分かりますか？

ＮＳＡ職員が 気になる子を
付け回すのには役立ちます

（笑）

（観客：マジか）

もっと生活に身近な例もあります

アメリカや世界の何百万人が

「スマートホーム」ということで
ネット接続された

監視カメラみたいな装置を
設置しています

しかし ご存じのように
ネットに接続されたものは何でも

ハッキングされる
可能性があります

だから もしハッカーが

皆さんのお宅のネット接続された
監視カメラに侵入すると

家族全員の出入りの様子から

襲撃すべきタイミングまで分かります

遠隔からハッキングできないものが
何かわかりますか？

カーテンです

（笑）

フェンスです

ドアロックです

（笑）

プライバシーは
安全性の敵ではありません

安全性を保証するものです

にもかかわらず 日々 監視プログラムが
もたらす安全性と引き換えに

プライバシーをある程度
犠牲にしなければならないという

宣伝攻撃に晒されています

顔の監視が これらの技術の中で
最も危険です

こんにち 政府がこの技術を使う
主な２つの方法があります

１つは 顔認識で

画像中の人物を特定します

もう１つは一斉に連携して使える
顔の監視です

監視カメラ網や
データベースを使って

公共の場における
人々の活動や習慣や

交友関係をすべて録画して

実質的にデジタル版の
「パノプティコン」を作り出します

これがパノプティコンです

中央にいる数人の看守で
外周上の監房内の様子を

すべて監視できるように
設計された刑務所です

監房にいる囚人からは
看守室の内部は見えませんが

看守からは監房内の隅から隅まで
監視できます

ここでのアイデアは

監房にいる囚人が

常時監視されている
可能性があると分かれば

結果的に おとなしくなる
というものです

同様に 顔の監視によって
中央権力が—

この場合 国家ですが

公共の場における
人の動きや関係などを

総合的に監視できる
ようになります

現実には こんな感じです

この場合 看守室の看守ではなく

監視センターにいる
警察の分析官が行います

刑務所が壁を越えて広がり

誰もが どこにいても常時

囚人となります

自由社会において

このようなことは
みんな恐れてしかるべきです

ここ何十年も
私たちは顔監視のような技術が

公共の利益となるという筋書きの
刑事ドラマを見てきましたが

現実は刑事ドラマとは違います

悪事を働くのは悪者に限らず

警察がいつも正しいわけでなく

技術が常に機能するとは限りません

スティーヴ・タリー事件を
見てみましょう

タリーはコロラド州出身の
金融アナリストで

2015年 銀行強盗の容疑で
逮捕されましたが

顔認識システムの誤りによる
誤認逮捕でした

タリーは裁判で戦い

最終的に無実が証明されましたが

拘留されていた間に

タリーは家も 仕事も
子どもも失いました

スティーヴ・タリー事件は

テクノロジーが誤るとき
何が起こるかを示す例です

でも 顔の監視は ちゃんと機能しても
同じくらい危険です

アルコール依存者更生会の
会場の外に

政府機関が
監視カメラを設置するのが

いかにありそうなことか
考えてみてください

顔の監視用アルゴリズムや

データベースにカメラを接続して

ただボタンを押せば
椅子に座ったままで

アルコール依存症治療を受ける人の
記録が集まります

この技術を使えば
政府機関は同じくらい簡単に

ウィメンズ・マーチや
ブラック・ライヴズ・マターの抗議集会参加者を

全員自動的に特定できます

テクノロジー業界でさえ
この問題の重大さに気付き

マイクロソフト社長のブラッド・スミスは
議会に介入を要求しました

この件で グーグルは

顔を監視する製品を出さないことを
公に宣言しました

人権や市民権に対する
大きな懸念があるためです

それは良いことです

究極的には

企業の利益よりも
開かれた社会を守る方が

遥かに重要だからです

米国自由人権協会の
全米キャンペーンは

この危険な技術を
政府が採用することに

歯止めをかけることを目的とし

有識者からの理性的な議論を
促しています

この技術を特に
危険たらしめるのは何か？

なぜ 単に規制できないのか？

要は なぜ警戒するのか？

顔の監視は 関連した２つの理由により
独特の危険があります

１つ目は 技術自体の特質です

２つ目は 私達が制度として

監視と説明責任の仕組みを
欠いていることで

これは政府の思うままに
悪用されないようにするため

必要なものです

１点目 顔を監視することで
以前は不可能だった―

総合的な監視が可能になります

市民の誰であれ
友人宅や

官庁や

礼拝所や

家族計画連盟や

大麻販売所や

ストリップ劇場に行くたびに

その人の公の活動や習慣
交友関係が

ある１日だけでなく
毎日記録・分類されることになります

ただボタンを押すだけで

このような総合的な国民の監視は

自由社会に生きることの意味や

言論の自由や
結社の自由や

宗教の自由や

報道の自由や

プライバシーや

独りになる権利を
根本的に脅かします

でも 思いますよね

「なるほど でも 政府が国民を
見張る方法は無数にある」と

確かにそうです

政府は携帯電話で
国民を追跡できますが

もし 中絶手術を受けたかったり

政治集会に参加したかったり

病欠の連絡をしてサボって
ビーチに行きたい場合はどうでしょう？

（笑）

携帯なら自宅に置いて来られますが

自分の顔だと そうもいきません

そして そのことが
２点目に繋がります

この技術をいかに有効に
規制できるのか

現在は 私の先週の行動を
政府が知りたいからと

タイムマシンで過去に行って
追跡することはできません

また 地元の警察も現時点では

常時 各人の公の動きを追跡し

いつかその情報が
役立つかもしれないからと

保持しておくような
集中管理システムは持っていません

今日 もし政府が私の
先週・先月・去年の行動を

知りたければ

裁判所で令状を得たうえで

私の携帯会社に令状を
送達しなければならず

携帯会社は私のプライバシーを守る
経済的動機があります

顔の監視には

そんな制限はありません

この技術は 政府が100％管理します

このような状況では 令状の要件が
どう機能するのでしょうか？

政府が裁判所へ行って

令状を取ってから

令状を自分に送達するのでしょうか？

それでは 誰かに自分の日記を渡して
こう言うようなものです

「私の日記を持っていていいけど

私がいいと言うまで
読んじゃ駄目だからね」と

では 何ができるのか？

政府が顔の監視技術を
使用することでもたらされる

危険に対する唯一の打開策は

国民の信頼を裏切る力を
政府に持たせないことです

政府が自前で
顔監視システムを

構築できないように
することです

それが まさに私たちの
行っていることです

米国自由人権協会は
全米キャンペーンの一環として

政府が この危険な技術を使用しないよう
歯止めをかけようとしています

既に一定の成功を収めていて

サンフランシスコや
マサチューセッツ州サマービルで

政府がこの技術を
使用することを禁止する

条例を通しました

ここマサチューセッツ州や
米国各地の

多くのコミュニティが

類似の法案を審議しています

この運動は失敗する運命にあると
言う人もいます

結局のところ

技術は存在するのだから

あらゆる状況の中で

あらゆる場所の あらゆる政府が
配備することになるだろうと

プライバシーは死んだのだと

そういう人もいます

私は断じて認めませんし

皆さんも認めてはいけません

私たちは ジェフ・ベゾスやＦＢＩに

21世紀における自由の限界を
決めさせるわけにはいきません

民主主義国家で
暮らしているのなら

私たちに主導権があり

私達が未来を作るのです

私たちは今 岐路に
立たされています

普段通りに生活を続け

この技術を政府が無制限に
コミュニティ、道路、学校に

導入・配備するのを許すのか

あるいは 今大胆な行動をとって

政府の顔監視技術の使用に
歯止めをかけ

プライバシーを保護し

私たちみんなにとって
より安全で自由な未来を

構築することもできるのです

ありがとうございました

（拍手と歓声）