0:00:00.000,0:00:03.000
私はSFスリラーの[br]小説家です

0:00:03.000,0:00:06.000
その私が「殺人ロボット」[br]と言ったら

0:00:06.000,0:00:08.000
おそらく こんな感じのものを[br]想像されるでしょう

0:00:08.000,0:00:10.000
でも 今日はフィクションの話を[br]しに来たのではありません

0:00:10.000,0:00:13.000
まさに現実化している[br]「殺人ロボット」―

0:00:13.000,0:00:17.000
そう 完全自律型の戦闘ドローンのことを[br]話しに来ました

0:00:17.000,0:00:20.000
ご存知のプレデター型や[br]リーパー型のことではありません

0:00:20.000,0:00:23.000
これらの無人機は 標的の決定を[br]人間が行っています

0:00:23.000,0:00:27.000
私は完全自律型のロボット兵器のことを[br]言っているんです

0:00:27.000,0:00:29.000
このロボット兵器は[br]人間殺害の決定を

0:00:29.000,0:00:32.000
ロボット自体が行います

0:00:32.000,0:00:36.000
実は これを指す専門用語もあります[br]「完全自律型殺傷機能」です

0:00:36.000,0:00:38.000
「完全自律型殺傷機能」を持つ[br]殺人ロボットは

0:00:38.000,0:00:42.000
多様な姿で現れます[br]飛行し 走行し あるいは

0:00:42.000,0:00:44.000
待ち伏せするような[br]ものもあるでしょう

0:00:44.000,0:00:47.000
実は これらのロボットは[br]急速に現実のものとなりつつあります

0:00:47.000,0:00:50.000
この２種類の[br]自動狙撃装置は

0:00:50.000,0:00:54.000
現在 北朝鮮との非武装地帯の[br]韓国側に配備されています

0:00:54.000,0:00:56.000
この機械はどちらも[br]攻撃対象となる—

0:00:56.000,0:01:00.000
人間を自動的に特定し[br]銃撃する機能があります

0:01:00.000,0:01:04.000
左側のものには[br]１キロ以上の射程があります

0:01:04.000,0:01:08.000
現在のところは どちらの機械でも[br]射殺決定の枠組みに

0:01:08.000,0:01:10.000
今のところは[br]人間が介在しています

0:01:10.000,0:01:15.000
しかし 技術的には人を要するわけではなく[br]そこに人を介在させる選択をしたわけです

0:01:15.000,0:01:19.000
この選択こそが[br]今日 私が焦点を当てたいことです

0:01:19.000,0:01:21.000
なぜなら この[br]殺人の意思決定が

0:01:21.000,0:01:24.000
人間からソフトウェアに[br]移行しつつあって

0:01:24.000,0:01:28.000
それは 戦争から人間性を[br]取り去ってしまうだけでなく

0:01:28.000,0:01:31.000
戦場から遠く隔たった[br]社会の情勢をも

0:01:31.000,0:01:33.000
変えてしまう危険が[br]あるからです

0:01:33.000,0:01:38.000
なぜなら人間が対立を解決する方法によって[br]私たちを取り巻く社会情勢が

0:01:38.000,0:01:40.000
形成されるからです

0:01:40.000,0:01:42.000
歴史上ずっと[br]そうやって形成されてきたのです

0:01:42.000,0:01:45.000
たとえば 西暦1400年には[br]これが最先端の―

0:01:45.000,0:01:47.000
兵器システムでした

0:01:47.000,0:01:50.000
両方とも 作るのも維持するのも[br]とても高く付きましたが

0:01:50.000,0:01:53.000
これがあれば民衆を[br]支配できました

0:01:53.000,0:01:57.000
封建社会の政治権力の分布は[br]誰が武力を持つかを反映し

0:01:57.000,0:02:00.000
力は権力のトップにいる人に[br]集中していたのです

0:02:00.000,0:02:04.000
それから何が変わったのでしょう？[br]技術革新です

0:02:04.000,0:02:05.000
火薬 大砲

0:02:05.000,0:02:09.000
すぐに 甲冑と城は[br]時代遅れになりました

0:02:09.000,0:02:12.000
戦場に誰を連れて行くかは[br]重要でなくなり

0:02:12.000,0:02:16.000
戦場にどれだけの人数を[br]送り込めるかが重要になりました

0:02:16.000,0:02:19.000
軍隊の人数が増えるようになると[br]防衛のための—

0:02:19.000,0:02:23.000
政治的 物流的な要請から[br]国家が必要となりました

0:02:23.000,0:02:25.000
指導者は民衆に[br]依存する必要が出てきて

0:02:25.000,0:02:27.000
力が共有されるようになりました

0:02:27.000,0:02:30.000
そして代議制が[br]形成されだします

0:02:30.000,0:02:33.000
ここでもまた[br]対立解消にどんな手段を取るかが

0:02:33.000,0:02:36.000
私たちを取り巻く社会情勢を[br]形作っています

0:02:36.000,0:02:40.000
自律ロボット兵器も[br]そのような手段の１つです

0:02:40.000,0:02:46.000
ただ戦争を始めるのに[br]非常に少数の人間しか必要としないため

0:02:46.000,0:02:50.000
ごく少数の人の手に力を[br]再び集中させるリスクがあります

0:02:50.000,0:02:57.000
民主化の流れを ５世紀分ほど[br]逆戻りさせてしまうかもしれません

0:02:57.000,0:02:59.000
でも 私たちが

0:02:59.000,0:03:03.000
このリスクを理解していれば[br]民主主義制度を守るための断固たる措置を取れます

0:03:03.000,0:03:07.000
人間が長けている能力によって—[br]すなわち適応力です

0:03:07.000,0:03:09.000
しかし タイミングが[br]重要です

0:03:09.000,0:03:12.000
70の国が遠隔操縦可能な―

0:03:12.000,0:03:14.000
戦闘ドローンを[br]独自に開発しています

0:03:14.000,0:03:17.000
おわかりと思いますが[br]遠隔操作戦闘ドローンは

0:03:17.000,0:03:21.000
自律ロボット兵器を[br]作り始める前兆です

0:03:21.000,0:03:24.000
なぜなら遠隔操作の無人機が

0:03:24.000,0:03:27.000
一旦配備されてしまうと[br]意思決定を人の手から

0:03:27.000,0:03:32.000
兵器そのものへと押しやることになる[br]大きな要因が３つあるからです

0:03:32.000,0:03:37.000
１つ目の要因は[br]無人機が撮影するビデオが膨大になることです

0:03:37.000,0:03:41.000
たとえば 2004 年に[br]米国のドローン軍団が撮影した

0:03:41.000,0:03:46.000
分析が必要な偵察映像は[br]総計71 時間でした

0:03:46.000,0:03:51.000
それが2011 年には 30万時間へと[br]増えたのです

0:03:51.000,0:03:54.000
すべてを確認するのは[br]人間の能力を超えてしまいました

0:03:54.000,0:03:58.000
しかも この時間はまだまだ[br]増加しそうです

0:03:58.000,0:04:00.000
米国防総省のゴルゴンステアや[br]アーガスという計画では

0:04:00.000,0:04:03.000
最大65個の独立した[br]カメラの目を

0:04:03.000,0:04:05.000
個々のドローンに付けるもので

0:04:05.000,0:04:09.000
これは人間が確認できる量を[br]大幅に上回るものとなります

0:04:09.000,0:04:11.000
こうなると[br]関心を引く対象を発見するために

0:04:11.000,0:04:15.000
視覚情報分析ソフトの力が[br]必要になります

0:04:15.000,0:04:16.000
これは じきにドローンが

0:04:16.000,0:04:19.000
注目すべき所を人間に[br]指示するようになるということで

0:04:19.000,0:04:21.000
人間側からではありません

0:04:21.000,0:04:24.000
意思決定を[br]人間から機械へと

0:04:24.000,0:04:27.000
強く推しやる[br]２つ目の要因は

0:04:27.000,0:04:30.000
電磁波による妨害です

0:04:30.000,0:04:32.000
妨害されると[br]ドローンと遠隔操作者の間の

0:04:32.000,0:04:35.000
通信が途切れてしまいます

0:04:35.000,0:04:38.000
2011年に これが起こった[br]例がありました

0:04:38.000,0:04:41.000
アメリカ軍の RQ-170 [br]センチネル ドローンが

0:04:41.000,0:04:45.000
イラン軍による GPS 信号のなりすまし攻撃で[br]混乱させられたのです

0:04:45.000,0:04:50.000
遠隔操作型のドローンである限り[br]この種の攻撃には弱いものです

0:04:50.000,0:04:52.000
つまりドローンは

0:04:52.000,0:04:56.000
意思決定の より多くの割合を[br]背負わなければならなくなるのです

0:04:56.000,0:04:59.000
ドローンは 作戦目的を把握し

0:04:59.000,0:05:04.000
人間の導きなしに[br]新しい状況に対応するようになるでしょう

0:05:04.000,0:05:06.000
ドローンは 外部からの[br]無線信号を無視し

0:05:06.000,0:05:09.000
自分側からは ほとんど[br]発信しなくなります

0:05:09.000,0:05:11.000
そして ここから—

0:05:11.000,0:05:15.000
３つ目の[br]最も強力に意思決定を

0:05:15.000,0:05:18.000
人から兵器へ移すように[br]促す要因が出てきます

0:05:18.000,0:05:21.000
それは[br]「まことしやかな関与否定」です

0:05:21.000,0:05:24.000
私たちは グローバル経済の[br]時代にいます

0:05:24.000,0:05:28.000
ハイテク製品の製造は[br]ほとんどの大陸で行われています

0:05:28.000,0:05:31.000
サイバー諜報戦の一環で[br]先進的設計を

0:05:31.000,0:05:33.000
様々な部品に隠しますが

0:05:33.000,0:05:35.000
このような環境では

0:05:35.000,0:05:40.000
ドローン設計が契約工場で模倣される[br]可能性が非常に高いのです

0:05:40.000,0:05:42.000
そして裏市場へと[br]拡散します

0:05:42.000,0:05:45.000
こんな状況では[br]自爆攻撃ドローンの残骸を

0:05:45.000,0:05:48.000
調査したところで

0:05:48.000,0:05:52.000
兵器で攻撃を仕掛けたのが[br]誰なのかわかりません

0:05:52.000,0:05:55.000
見えない敵との戦いが

0:05:55.000,0:05:58.000
非常に現実的な可能性として[br]浮かび上がります

0:05:58.000,0:06:00.000
地政学的なバランスを[br]180度変えてしまう可能性があり

0:06:00.000,0:06:04.000
国家が攻撃してきた相手へ反撃することを[br]非常に困難にします

0:06:04.000,0:06:07.000
これによって 21世紀において[br]防衛中心の考えから

0:06:07.000,0:06:10.000
攻撃中心の考えへと[br]重心が変わってしまうかもしれません

0:06:10.000,0:06:14.000
匿名での攻撃が可能になることで

0:06:14.000,0:06:16.000
小国家や 犯罪組織[br]民間企業

0:06:16.000,0:06:18.000
さらには有力な個人にさえ

0:06:18.000,0:06:21.000
軍事行動が有効な手段と[br]なりえるのです

0:06:21.000,0:06:24.000
これは 法の支配と市民社会の[br]土台を壊してしまい

0:06:24.000,0:06:28.000
群雄割拠の情勢を[br]作り出すかもしれません

0:06:28.000,0:06:31.000
責任と透明性は

0:06:31.000,0:06:34.000
代議制を支える[br]土台と言えるかもしれませんが

0:06:34.000,0:06:38.000
自律ロボット兵器は[br]その両方を弱体化させる可能性があります

0:06:38.000,0:06:40.000
みなさんは こう考えるかもしれません

0:06:40.000,0:06:42.000
ハイテク諸国の市民なら

0:06:42.000,0:06:45.000
ロボット戦争で優位に立っていて

0:06:45.000,0:06:48.000
これらの国の市民は[br]危険にさらされにくいと考えるかもしれません

0:06:48.000,0:06:53.000
特に途上国が相手なら[br]なおさらです

0:06:53.000,0:06:56.000
しかし 真実は全く逆だと思います

0:06:56.000,0:06:58.000
ハイテク社会の市民は

0:06:58.000,0:07:02.000
より大きく ロボット兵器の[br]危険にさらされています

0:07:02.000,0:07:07.000
この理由は １語に要約できます[br]「データ」です

0:07:07.000,0:07:10.000
データは ハイテク社会を[br]動かしています

0:07:10.000,0:07:13.000
携帯電話の位置情報[br]電話の会話から集められるメタデータ

0:07:13.000,0:07:17.000
ソーシャルメディア 電子メール[br]SMS 金融取引のデータ

0:07:17.000,0:07:20.000
交通機関や移動のデータなどです[br]これらは人々の活動や

0:07:20.000,0:07:24.000
社会的な交流を表す[br]膨大なリアルタイムデータの塊です

0:07:24.000,0:07:27.000
だから 私たちは[br]歴史上のどんな時代の人たちよりも

0:07:27.000,0:07:30.000
機械に行動が[br]筒抜けになっているのです

0:07:30.000,0:07:35.000
これは自律的兵器が標的を探すために[br]絶好のものとなります

0:07:35.000,0:07:37.000
いま画面に映っているのは

0:07:37.000,0:07:40.000
ある社会的集団が[br]どうつながっているか分析した図です

0:07:40.000,0:07:44.000
線は個人間の社会的な[br]つながりを示しています

0:07:44.000,0:07:47.000
現代人が日常的に残す[br]データの痕跡から

0:07:47.000,0:07:51.000
このような図を自動的に[br]生成することができます

0:07:51.000,0:07:54.000
この技術は通常は[br]人口動態で標的を割り出して

0:07:54.000,0:07:58.000
商品やサービスを販売するのに使われますが[br]諸刃の技術でもあります

0:07:58.000,0:08:02.000
標的を割り出す技術が[br]別の用途に使われるからです

0:08:02.000,0:08:04.000
赤色で表示されている[br]人たちがいますが これは

0:08:04.000,0:08:08.000
社会的なネットワークの[br]ハブとなっている人たちです

0:08:08.000,0:08:11.000
この人たちは 組織のまとめ役や[br]オピニオンメーカーやリーダーです

0:08:11.000,0:08:14.000
この人たちも[br]通信のパターンを追跡することで

0:08:14.000,0:08:16.000
自動的に見つけ出すことが可能です

0:08:16.000,0:08:18.000
マーケティング担当者なら

0:08:18.000,0:08:21.000
社会的グループに[br]ブランドを広めるために

0:08:21.000,0:08:24.000
製品サンプルを送る[br]標的にするでしょう

0:08:24.000,0:08:26.000
しかし もし抑圧的な政府で

0:08:26.000,0:08:30.000
政治上の敵となる相手を探しているなら[br]彼らは排除する標的となるでしょう

0:08:30.000,0:08:33.000
リーダーを抹殺し[br]社会的グループを混乱させ

0:08:33.000,0:08:36.000
そして 残されたグループの人たちは[br]社会的つながりや

0:08:36.000,0:08:39.000
組織を失ってしまいます

0:08:39.000,0:08:42.000
安いロボット兵器が[br]拡散するような世界になったら

0:08:42.000,0:08:45.000
遠くにいる政府反対派や

0:08:45.000,0:08:47.000
国際的犯罪組織に対し

0:08:47.000,0:08:51.000
国境はほとんど防衛線になりません

0:08:51.000,0:08:54.000
支持されて 変革を起こすような[br]扇動活動があれば

0:08:54.000,0:08:58.000
クリティカルマスに到達する前に[br]早期に検出されてしまい

0:08:58.000,0:09:01.000
指導者は排除される[br]ようになるでしょう

0:09:01.000,0:09:03.000
アイデアがクリティカルマスに[br]到達できる環境は

0:09:03.000,0:09:07.000
人民政府における[br]政治運動の全てと言ってもいいでしょう

0:09:07.000,0:09:11.000
正体不明の殺戮兵器があることで[br]あらゆる利害の対立において

0:09:11.000,0:09:15.000
殺害という選択が[br]簡単にできてしまうようになるでしょう

0:09:15.000,0:09:19.000
そして このことは[br]民主主義のまさに中核と言える

0:09:19.000,0:09:24.000
言論の自由や支持される政治的行動を[br]縮み上がらせることになります

0:09:24.000,0:09:27.000
これが 私たちに [br]ロボット兵器の国際条約が

0:09:27.000,0:09:30.000
必要な理由です[br]特に世界全体での

0:09:30.000,0:09:34.000
殺人ロボットの開発と配備を[br]禁止することが必要です

0:09:34.000,0:09:38.000
私たちにはすでに[br]核兵器と生物兵器に関する

0:09:38.000,0:09:41.000
国際条約があります[br]不完全ではありますが

0:09:41.000,0:09:43.000
条約は概ね[br]効力を発揮してきました

0:09:43.000,0:09:47.000
しかし ロボット兵器は 全ての点で[br]同じくらい危険なもので

0:09:47.000,0:09:50.000
ほぼ確実に[br]使われるようになるでしょう

0:09:50.000,0:09:55.000
そして 民主主義制度を[br]蝕むものになるでしょう

0:09:55.000,0:09:59.000
2012年11月に[br]米国防総省が

0:09:59.000,0:10:01.000
すべての殺害に関する[br]意思決定に

0:10:01.000,0:10:06.000
人間の介在を義務づける[br]命令を出しました

0:10:06.000,0:10:11.000
これによって ひとまずは[br]米軍の自律的兵器を事実上禁止しました

0:10:11.000,0:10:14.000
しかし その命令を[br]恒久化する必要があります

0:10:14.000,0:10:19.000
これが行われれば[br]世界が同じように行動する基準となりえます

0:10:19.000,0:10:22.000
ロボット兵器の[br]国際的な法的枠組みは

0:10:22.000,0:10:25.000
必要なものなのです

0:10:25.000,0:10:28.000
しかも 今必要なのです[br]壊滅的な攻撃が起きたり

0:10:28.000,0:10:31.000
テロ事件が起きたことが引き金となって[br]世界の国々が

0:10:31.000,0:10:33.000
ロボット兵器が招く[br]帰結を熟慮せずに

0:10:33.000,0:10:36.000
これらの兵器をこぞって採用するようになる前に[br]必要なのです

0:10:36.000,0:10:39.000
自律ロボット兵器を使うと

0:10:39.000,0:10:46.000
少数の手に 余りに大きな力が集中することになり[br]民主主義そのものを危うくしてしまうでしょう

0:10:46.000,0:10:48.000
でも 誤解しないでください[br]民生の非武装無人ドローンには

0:10:48.000,0:10:51.000
優れた用途が沢山[br]あると考えています

0:10:51.000,0:10:55.000
自然環境の観測や[br]捜索と救難 輸送などです

0:10:55.000,0:10:58.000
もし ロボット兵器の[br]国際条約があるとして

0:10:58.000,0:11:01.000
どのようにすれば自律無人機や[br]自律走行車の利便を享受しつつ

0:11:01.000,0:11:04.000
違法なロボット兵器に対して

0:11:04.000,0:11:08.000
身を守ることができるでしょうか？

0:11:08.000,0:11:13.000
成功の秘密は[br]透明性にあるはずです

0:11:13.000,0:11:16.000
公共の場所にいる限り[br]ロボットに—

0:11:16.000,0:11:19.000
プライバシーがあるなどと[br]思ってもらっては困ります

0:11:19.000,0:11:24.000
（拍手）

0:11:24.000,0:11:26.000
ロボットやドローンは[br]１体１体 全てが

0:11:26.000,0:11:29.000
工場出荷時に個体番号を[br]暗号技術で署名し

0:11:29.000,0:11:32.000
公共の場所での動きを[br]追跡できるようにするべきです

0:11:32.000,0:11:35.000
既に車にはナンバー プレートがあり[br]航空機には機体記号があります

0:11:35.000,0:11:37.000
ロボットも例外ではありません

0:11:37.000,0:11:39.000
公共の空間を移動している―

0:11:39.000,0:11:42.000
ドローンや自律走行車の[br]所在を示すアプリを

0:11:42.000,0:11:45.000
誰でもダウンロードできて[br]しかるべきです

0:11:45.000,0:11:48.000
現時点と過去の記録の両方を[br]把握可能にすべきです

0:11:48.000,0:11:51.000
市民のリーダーは[br]不正なドローンを探索する―

0:11:51.000,0:11:53.000
探知機や無人偵察機を[br]展開すべきです

0:11:53.000,0:11:57.000
そして 不正ドローンを撃墜する[br]攻撃ドローンを送りこむ代わりに

0:11:57.000,0:12:00.000
人間に ドローンが居ることを[br]知らせるべきです

0:12:00.000,0:12:02.000
高い安全性が求められる地域なら[br]不正ドローンを

0:12:02.000,0:12:04.000
市民のためのドローンが[br]捕獲して

0:12:04.000,0:12:07.000
爆弾処理施設へと[br]引っ張って行くこともできるでしょう

0:12:07.000,0:12:10.000
これは兵器システムというより[br]免疫システムということに

0:12:10.000,0:12:11.000
注意してください

0:12:11.000,0:12:14.000
こうすれば [br]自律走行車両やドローンを

0:12:14.000,0:12:16.000
人間側が利用しつつ

0:12:16.000,0:12:20.000
開かれた市民社会を[br]維持できます

0:12:20.000,0:12:23.000
私たちは 殺人ロボットの[br]開発と配備を

0:12:23.000,0:12:25.000
禁止する必要があります

0:12:25.000,0:12:30.000
戦争を自動化する誘惑に[br]負けないようにしましょう

0:12:30.000,0:12:33.000
独裁政府や犯罪組織は間違いなく[br]その魅力に屈するでしょうが

0:12:33.000,0:12:36.000
私たちは その同類に[br]ならないようにしましょう

0:12:36.000,0:12:38.000
自律ロボット兵器は

0:12:38.000,0:12:40.000
あまりにも強力な力を

0:12:40.000,0:12:42.000
ごくわずかな人の手に[br]集中させることになります

0:12:42.000,0:12:45.000
そして 民主主義制度を[br]蝕むものになるでしょう

0:12:45.000,0:12:48.000
民主主義のために[br]殺人ロボットは

0:12:48.000,0:12:51.000
フィクションだけのものに[br]しておきましょう

0:12:51.000,0:12:52.000
ありがとう

0:12:52.000,0:12:57.000
（拍手）

0:12:57.000,0:13:01.000
ありがとう[br]（拍手）