1
00:00:00,000 --> 00:00:03,000
私はSFスリラーの
小説家です

2
00:00:03,000 --> 00:00:06,000
その私が「殺人ロボット」
と言ったら

3
00:00:06,000 --> 00:00:08,000
おそらく こんな感じのものを
想像されるでしょう

4
00:00:08,000 --> 00:00:10,000
でも 今日はフィクションの話を
しに来たのではありません

5
00:00:10,000 --> 00:00:13,000
まさに現実化している
「殺人ロボット」―

6
00:00:13,000 --> 00:00:17,000
そう 完全自律型の戦闘ドローンのことを
話しに来ました

7
00:00:17,000 --> 00:00:20,000
ご存知のプレデター型や
リーパー型のことではありません

8
00:00:20,000 --> 00:00:23,000
これらの無人機は 標的の決定を
人間が行っています

9
00:00:23,000 --> 00:00:27,000
私は完全自律型のロボット兵器のことを
言っているんです

10
00:00:27,000 --> 00:00:29,000
このロボット兵器は
人間殺害の決定を

11
00:00:29,000 --> 00:00:32,000
ロボット自体が行います

12
00:00:32,000 --> 00:00:36,000
実は これを指す専門用語もあります
「完全自律型殺傷機能」です

13
00:00:36,000 --> 00:00:38,000
「完全自律型殺傷機能」を持つ
殺人ロボットは

14
00:00:38,000 --> 00:00:42,000
多様な姿で現れます
飛行し 走行し あるいは

15
00:00:42,000 --> 00:00:44,000
待ち伏せするような
ものもあるでしょう

16
00:00:44,000 --> 00:00:47,000
実は これらのロボットは
急速に現実のものとなりつつあります

17
00:00:47,000 --> 00:00:50,000
この２種類の
自動狙撃装置は

18
00:00:50,000 --> 00:00:54,000
現在 北朝鮮との非武装地帯の
韓国側に配備されています

19
00:00:54,000 --> 00:00:56,000
この機械はどちらも
攻撃対象となる—

20
00:00:56,000 --> 00:01:00,000
人間を自動的に特定し
銃撃する機能があります

21
00:01:00,000 --> 00:01:04,000
左側のものには
１キロ以上の射程があります

22
00:01:04,000 --> 00:01:08,000
現在のところは どちらの機械でも
射殺決定の枠組みに

23
00:01:08,000 --> 00:01:10,000
今のところは
人間が介在しています

24
00:01:10,000 --> 00:01:15,000
しかし 技術的には人を要するわけではなく
そこに人を介在させる選択をしたわけです

25
00:01:15,000 --> 00:01:19,000
この選択こそが
今日 私が焦点を当てたいことです

26
00:01:19,000 --> 00:01:21,000
なぜなら この
殺人の意思決定が

27
00:01:21,000 --> 00:01:24,000
人間からソフトウェアに
移行しつつあって

28
00:01:24,000 --> 00:01:28,000
それは 戦争から人間性を
取り去ってしまうだけでなく

29
00:01:28,000 --> 00:01:31,000
戦場から遠く隔たった
社会の情勢をも

30
00:01:31,000 --> 00:01:33,000
変えてしまう危険が
あるからです

31
00:01:33,000 --> 00:01:38,000
なぜなら人間が対立を解決する方法によって
私たちを取り巻く社会情勢が

32
00:01:38,000 --> 00:01:40,000
形成されるからです

33
00:01:40,000 --> 00:01:42,000
歴史上ずっと
そうやって形成されてきたのです

34
00:01:42,000 --> 00:01:45,000
たとえば 西暦1400年には
これが最先端の―

35
00:01:45,000 --> 00:01:47,000
兵器システムでした

36
00:01:47,000 --> 00:01:50,000
両方とも 作るのも維持するのも
とても高く付きましたが

37
00:01:50,000 --> 00:01:53,000
これがあれば民衆を
支配できました

38
00:01:53,000 --> 00:01:57,000
封建社会の政治権力の分布は
誰が武力を持つかを反映し

39
00:01:57,000 --> 00:02:00,000
力は権力のトップにいる人に
集中していたのです

40
00:02:00,000 --> 00:02:04,000
それから何が変わったのでしょう？
技術革新です

41
00:02:04,000 --> 00:02:05,000
火薬 大砲

42
00:02:05,000 --> 00:02:09,000
すぐに 甲冑と城は
時代遅れになりました

43
00:02:09,000 --> 00:02:12,000
戦場に誰を連れて行くかは
重要でなくなり

44
00:02:12,000 --> 00:02:16,000
戦場にどれだけの人数を
送り込めるかが重要になりました

45
00:02:16,000 --> 00:02:19,000
軍隊の人数が増えるようになると
防衛のための—

46
00:02:19,000 --> 00:02:23,000
政治的 物流的な要請から
国家が必要となりました

47
00:02:23,000 --> 00:02:25,000
指導者は民衆に
依存する必要が出てきて

48
00:02:25,000 --> 00:02:27,000
力が共有されるようになりました

49
00:02:27,000 --> 00:02:30,000
そして代議制が
形成されだします

50
00:02:30,000 --> 00:02:33,000
ここでもまた
対立解消にどんな手段を取るかが

51
00:02:33,000 --> 00:02:36,000
私たちを取り巻く社会情勢を
形作っています

52
00:02:36,000 --> 00:02:40,000
自律ロボット兵器も
そのような手段の１つです

53
00:02:40,000 --> 00:02:46,000
ただ戦争を始めるのに
非常に少数の人間しか必要としないため

54
00:02:46,000 --> 00:02:50,000
ごく少数の人の手に力を
再び集中させるリスクがあります

55
00:02:50,000 --> 00:02:57,000
民主化の流れを ５世紀分ほど
逆戻りさせてしまうかもしれません

56
00:02:57,000 --> 00:02:59,000
でも 私たちが

57
00:02:59,000 --> 00:03:03,000
このリスクを理解していれば
民主主義制度を守るための断固たる措置を取れます

58
00:03:03,000 --> 00:03:07,000
人間が長けている能力によって—
すなわち適応力です

59
00:03:07,000 --> 00:03:09,000
しかし タイミングが
重要です

60
00:03:09,000 --> 00:03:12,000
70の国が遠隔操縦可能な―

61
00:03:12,000 --> 00:03:14,000
戦闘ドローンを
独自に開発しています

62
00:03:14,000 --> 00:03:17,000
おわかりと思いますが
遠隔操作戦闘ドローンは

63
00:03:17,000 --> 00:03:21,000
自律ロボット兵器を
作り始める前兆です

64
00:03:21,000 --> 00:03:24,000
なぜなら遠隔操作の無人機が

65
00:03:24,000 --> 00:03:27,000
一旦配備されてしまうと
意思決定を人の手から

66
00:03:27,000 --> 00:03:32,000
兵器そのものへと押しやることになる
大きな要因が３つあるからです

67
00:03:32,000 --> 00:03:37,000
１つ目の要因は
無人機が撮影するビデオが膨大になることです

68
00:03:37,000 --> 00:03:41,000
たとえば 2004 年に
米国のドローン軍団が撮影した

69
00:03:41,000 --> 00:03:46,000
分析が必要な偵察映像は
総計71 時間でした

70
00:03:46,000 --> 00:03:51,000
それが2011 年には 30万時間へと
増えたのです

71
00:03:51,000 --> 00:03:54,000
すべてを確認するのは
人間の能力を超えてしまいました

72
00:03:54,000 --> 00:03:58,000
しかも この時間はまだまだ
増加しそうです

73
00:03:58,000 --> 00:04:00,000
米国防総省のゴルゴンステアや
アーガスという計画では

74
00:04:00,000 --> 00:04:03,000
最大65個の独立した
カメラの目を

75
00:04:03,000 --> 00:04:05,000
個々のドローンに付けるもので

76
00:04:05,000 --> 00:04:09,000
これは人間が確認できる量を
大幅に上回るものとなります

77
00:04:09,000 --> 00:04:11,000
こうなると
関心を引く対象を発見するために

78
00:04:11,000 --> 00:04:15,000
視覚情報分析ソフトの力が
必要になります

79
00:04:15,000 --> 00:04:16,000
これは じきにドローンが

80
00:04:16,000 --> 00:04:19,000
注目すべき所を人間に
指示するようになるということで

81
00:04:19,000 --> 00:04:21,000
人間側からではありません

82
00:04:21,000 --> 00:04:24,000
意思決定を
人間から機械へと

83
00:04:24,000 --> 00:04:27,000
強く推しやる
２つ目の要因は

84
00:04:27,000 --> 00:04:30,000
電磁波による妨害です

85
00:04:30,000 --> 00:04:32,000
妨害されると
ドローンと遠隔操作者の間の

86
00:04:32,000 --> 00:04:35,000
通信が途切れてしまいます

87
00:04:35,000 --> 00:04:38,000
2011年に これが起こった
例がありました

88
00:04:38,000 --> 00:04:41,000
アメリカ軍の RQ-170 
センチネル ドローンが

89
00:04:41,000 --> 00:04:45,000
イラン軍による GPS 信号のなりすまし攻撃で
混乱させられたのです

90
00:04:45,000 --> 00:04:50,000
遠隔操作型のドローンである限り
この種の攻撃には弱いものです

91
00:04:50,000 --> 00:04:52,000
つまりドローンは

92
00:04:52,000 --> 00:04:56,000
意思決定の より多くの割合を
背負わなければならなくなるのです

93
00:04:56,000 --> 00:04:59,000
ドローンは 作戦目的を把握し

94
00:04:59,000 --> 00:05:04,000
人間の導きなしに
新しい状況に対応するようになるでしょう

95
00:05:04,000 --> 00:05:06,000
ドローンは 外部からの
無線信号を無視し

96
00:05:06,000 --> 00:05:09,000
自分側からは ほとんど
発信しなくなります

97
00:05:09,000 --> 00:05:11,000
そして ここから—

98
00:05:11,000 --> 00:05:15,000
３つ目の
最も強力に意思決定を

99
00:05:15,000 --> 00:05:18,000
人から兵器へ移すように
促す要因が出てきます

100
00:05:18,000 --> 00:05:21,000
それは
「まことしやかな関与否定」です

101
00:05:21,000 --> 00:05:24,000
私たちは グローバル経済の
時代にいます

102
00:05:24,000 --> 00:05:28,000
ハイテク製品の製造は
ほとんどの大陸で行われています

103
00:05:28,000 --> 00:05:31,000
サイバー諜報戦の一環で
先進的設計を

104
00:05:31,000 --> 00:05:33,000
様々な部品に隠しますが

105
00:05:33,000 --> 00:05:35,000
このような環境では

106
00:05:35,000 --> 00:05:40,000
ドローン設計が契約工場で模倣される
可能性が非常に高いのです

107
00:05:40,000 --> 00:05:42,000
そして裏市場へと
拡散します

108
00:05:42,000 --> 00:05:45,000
こんな状況では
自爆攻撃ドローンの残骸を

109
00:05:45,000 --> 00:05:48,000
調査したところで

110
00:05:48,000 --> 00:05:52,000
兵器で攻撃を仕掛けたのが
誰なのかわかりません

111
00:05:52,000 --> 00:05:55,000
見えない敵との戦いが

112
00:05:55,000 --> 00:05:58,000
非常に現実的な可能性として
浮かび上がります

113
00:05:58,000 --> 00:06:00,000
地政学的なバランスを
180度変えてしまう可能性があり

114
00:06:00,000 --> 00:06:04,000
国家が攻撃してきた相手へ反撃することを
非常に困難にします

115
00:06:04,000 --> 00:06:07,000
これによって 21世紀において
防衛中心の考えから

116
00:06:07,000 --> 00:06:10,000
攻撃中心の考えへと
重心が変わってしまうかもしれません

117
00:06:10,000 --> 00:06:14,000
匿名での攻撃が可能になることで

118
00:06:14,000 --> 00:06:16,000
小国家や 犯罪組織
民間企業

119
00:06:16,000 --> 00:06:18,000
さらには有力な個人にさえ

120
00:06:18,000 --> 00:06:21,000
軍事行動が有効な手段と
なりえるのです

121
00:06:21,000 --> 00:06:24,000
これは 法の支配と市民社会の
土台を壊してしまい

122
00:06:24,000 --> 00:06:28,000
群雄割拠の情勢を
作り出すかもしれません

123
00:06:28,000 --> 00:06:31,000
責任と透明性は

124
00:06:31,000 --> 00:06:34,000
代議制を支える
土台と言えるかもしれませんが

125
00:06:34,000 --> 00:06:38,000
自律ロボット兵器は
その両方を弱体化させる可能性があります

126
00:06:38,000 --> 00:06:40,000
みなさんは こう考えるかもしれません

127
00:06:40,000 --> 00:06:42,000
ハイテク諸国の市民なら

128
00:06:42,000 --> 00:06:45,000
ロボット戦争で優位に立っていて

129
00:06:45,000 --> 00:06:48,000
これらの国の市民は
危険にさらされにくいと考えるかもしれません

130
00:06:48,000 --> 00:06:53,000
特に途上国が相手なら
なおさらです

131
00:06:53,000 --> 00:06:56,000
しかし 真実は全く逆だと思います

132
00:06:56,000 --> 00:06:58,000
ハイテク社会の市民は

133
00:06:58,000 --> 00:07:02,000
より大きく ロボット兵器の
危険にさらされています

134
00:07:02,000 --> 00:07:07,000
この理由は １語に要約できます
「データ」です

135
00:07:07,000 --> 00:07:10,000
データは ハイテク社会を
動かしています

136
00:07:10,000 --> 00:07:13,000
携帯電話の位置情報
電話の会話から集められるメタデータ

137
00:07:13,000 --> 00:07:17,000
ソーシャルメディア 電子メール
SMS 金融取引のデータ

138
00:07:17,000 --> 00:07:20,000
交通機関や移動のデータなどです
これらは人々の活動や

139
00:07:20,000 --> 00:07:24,000
社会的な交流を表す
膨大なリアルタイムデータの塊です

140
00:07:24,000 --> 00:07:27,000
だから 私たちは
歴史上のどんな時代の人たちよりも

141
00:07:27,000 --> 00:07:30,000
機械に行動が
筒抜けになっているのです

142
00:07:30,000 --> 00:07:35,000
これは自律的兵器が標的を探すために
絶好のものとなります

143
00:07:35,000 --> 00:07:37,000
いま画面に映っているのは

144
00:07:37,000 --> 00:07:40,000
ある社会的集団が
どうつながっているか分析した図です

145
00:07:40,000 --> 00:07:44,000
線は個人間の社会的な
つながりを示しています

146
00:07:44,000 --> 00:07:47,000
現代人が日常的に残す
データの痕跡から

147
00:07:47,000 --> 00:07:51,000
このような図を自動的に
生成することができます

148
00:07:51,000 --> 00:07:54,000
この技術は通常は
人口動態で標的を割り出して

149
00:07:54,000 --> 00:07:58,000
商品やサービスを販売するのに使われますが
諸刃の技術でもあります

150
00:07:58,000 --> 00:08:02,000
標的を割り出す技術が
別の用途に使われるからです

151
00:08:02,000 --> 00:08:04,000
赤色で表示されている
人たちがいますが これは

152
00:08:04,000 --> 00:08:08,000
社会的なネットワークの
ハブとなっている人たちです

153
00:08:08,000 --> 00:08:11,000
この人たちは 組織のまとめ役や
オピニオンメーカーやリーダーです

154
00:08:11,000 --> 00:08:14,000
この人たちも
通信のパターンを追跡することで

155
00:08:14,000 --> 00:08:16,000
自動的に見つけ出すことが可能です

156
00:08:16,000 --> 00:08:18,000
マーケティング担当者なら

157
00:08:18,000 --> 00:08:21,000
社会的グループに
ブランドを広めるために

158
00:08:21,000 --> 00:08:24,000
製品サンプルを送る
標的にするでしょう

159
00:08:24,000 --> 00:08:26,000
しかし もし抑圧的な政府で

160
00:08:26,000 --> 00:08:30,000
政治上の敵となる相手を探しているなら
彼らは排除する標的となるでしょう

161
00:08:30,000 --> 00:08:33,000
リーダーを抹殺し
社会的グループを混乱させ

162
00:08:33,000 --> 00:08:36,000
そして 残されたグループの人たちは
社会的つながりや

163
00:08:36,000 --> 00:08:39,000
組織を失ってしまいます

164
00:08:39,000 --> 00:08:42,000
安いロボット兵器が
拡散するような世界になったら

165
00:08:42,000 --> 00:08:45,000
遠くにいる政府反対派や

166
00:08:45,000 --> 00:08:47,000
国際的犯罪組織に対し

167
00:08:47,000 --> 00:08:51,000
国境はほとんど防衛線になりません

168
00:08:51,000 --> 00:08:54,000
支持されて 変革を起こすような
扇動活動があれば

169
00:08:54,000 --> 00:08:58,000
クリティカルマスに到達する前に
早期に検出されてしまい

170
00:08:58,000 --> 00:09:01,000
指導者は排除される
ようになるでしょう

171
00:09:01,000 --> 00:09:03,000
アイデアがクリティカルマスに
到達できる環境は

172
00:09:03,000 --> 00:09:07,000
人民政府における
政治運動の全てと言ってもいいでしょう

173
00:09:07,000 --> 00:09:11,000
正体不明の殺戮兵器があることで
あらゆる利害の対立において

174
00:09:11,000 --> 00:09:15,000
殺害という選択が
簡単にできてしまうようになるでしょう

175
00:09:15,000 --> 00:09:19,000
そして このことは
民主主義のまさに中核と言える

176
00:09:19,000 --> 00:09:24,000
言論の自由や支持される政治的行動を
縮み上がらせることになります

177
00:09:24,000 --> 00:09:27,000
これが 私たちに 
ロボット兵器の国際条約が

178
00:09:27,000 --> 00:09:30,000
必要な理由です
特に世界全体での

179
00:09:30,000 --> 00:09:34,000
殺人ロボットの開発と配備を
禁止することが必要です

180
00:09:34,000 --> 00:09:38,000
私たちにはすでに
核兵器と生物兵器に関する

181
00:09:38,000 --> 00:09:41,000
国際条約があります
不完全ではありますが

182
00:09:41,000 --> 00:09:43,000
条約は概ね
効力を発揮してきました

183
00:09:43,000 --> 00:09:47,000
しかし ロボット兵器は 全ての点で
同じくらい危険なもので

184
00:09:47,000 --> 00:09:50,000
ほぼ確実に
使われるようになるでしょう

185
00:09:50,000 --> 00:09:55,000
そして 民主主義制度を
蝕むものになるでしょう

186
00:09:55,000 --> 00:09:59,000
2012年11月に
米国防総省が

187
00:09:59,000 --> 00:10:01,000
すべての殺害に関する
意思決定に

188
00:10:01,000 --> 00:10:06,000
人間の介在を義務づける
命令を出しました

189
00:10:06,000 --> 00:10:11,000
これによって ひとまずは
米軍の自律的兵器を事実上禁止しました

190
00:10:11,000 --> 00:10:14,000
しかし その命令を
恒久化する必要があります

191
00:10:14,000 --> 00:10:19,000
これが行われれば
世界が同じように行動する基準となりえます

192
00:10:19,000 --> 00:10:22,000
ロボット兵器の
国際的な法的枠組みは

193
00:10:22,000 --> 00:10:25,000
必要なものなのです

194
00:10:25,000 --> 00:10:28,000
しかも 今必要なのです
壊滅的な攻撃が起きたり

195
00:10:28,000 --> 00:10:31,000
テロ事件が起きたことが引き金となって
世界の国々が

196
00:10:31,000 --> 00:10:33,000
ロボット兵器が招く
帰結を熟慮せずに

197
00:10:33,000 --> 00:10:36,000
これらの兵器をこぞって採用するようになる前に
必要なのです

198
00:10:36,000 --> 00:10:39,000
自律ロボット兵器を使うと

199
00:10:39,000 --> 00:10:46,000
少数の手に 余りに大きな力が集中することになり
民主主義そのものを危うくしてしまうでしょう

200
00:10:46,000 --> 00:10:48,000
でも 誤解しないでください
民生の非武装無人ドローンには

201
00:10:48,000 --> 00:10:51,000
優れた用途が沢山
あると考えています

202
00:10:51,000 --> 00:10:55,000
自然環境の観測や
捜索と救難 輸送などです

203
00:10:55,000 --> 00:10:58,000
もし ロボット兵器の
国際条約があるとして

204
00:10:58,000 --> 00:11:01,000
どのようにすれば自律無人機や
自律走行車の利便を享受しつつ

205
00:11:01,000 --> 00:11:04,000
違法なロボット兵器に対して

206
00:11:04,000 --> 00:11:08,000
身を守ることができるでしょうか？

207
00:11:08,000 --> 00:11:13,000
成功の秘密は
透明性にあるはずです

208
00:11:13,000 --> 00:11:16,000
公共の場所にいる限り
ロボットに—

209
00:11:16,000 --> 00:11:19,000
プライバシーがあるなどと
思ってもらっては困ります

210
00:11:19,000 --> 00:11:24,000
（拍手）

211
00:11:24,000 --> 00:11:26,000
ロボットやドローンは
１体１体 全てが

212
00:11:26,000 --> 00:11:29,000
工場出荷時に個体番号を
暗号技術で署名し

213
00:11:29,000 --> 00:11:32,000
公共の場所での動きを
追跡できるようにするべきです

214
00:11:32,000 --> 00:11:35,000
既に車にはナンバー プレートがあり
航空機には機体記号があります

215
00:11:35,000 --> 00:11:37,000
ロボットも例外ではありません

216
00:11:37,000 --> 00:11:39,000
公共の空間を移動している―

217
00:11:39,000 --> 00:11:42,000
ドローンや自律走行車の
所在を示すアプリを

218
00:11:42,000 --> 00:11:45,000
誰でもダウンロードできて
しかるべきです

219
00:11:45,000 --> 00:11:48,000
現時点と過去の記録の両方を
把握可能にすべきです

220
00:11:48,000 --> 00:11:51,000
市民のリーダーは
不正なドローンを探索する―

221
00:11:51,000 --> 00:11:53,000
探知機や無人偵察機を
展開すべきです

222
00:11:53,000 --> 00:11:57,000
そして 不正ドローンを撃墜する
攻撃ドローンを送りこむ代わりに

223
00:11:57,000 --> 00:12:00,000
人間に ドローンが居ることを
知らせるべきです

224
00:12:00,000 --> 00:12:02,000
高い安全性が求められる地域なら
不正ドローンを

225
00:12:02,000 --> 00:12:04,000
市民のためのドローンが
捕獲して

226
00:12:04,000 --> 00:12:07,000
爆弾処理施設へと
引っ張って行くこともできるでしょう

227
00:12:07,000 --> 00:12:10,000
これは兵器システムというより
免疫システムということに

228
00:12:10,000 --> 00:12:11,000
注意してください

229
00:12:11,000 --> 00:12:14,000
こうすれば 
自律走行車両やドローンを

230
00:12:14,000 --> 00:12:16,000
人間側が利用しつつ

231
00:12:16,000 --> 00:12:20,000
開かれた市民社会を
維持できます

232
00:12:20,000 --> 00:12:23,000
私たちは 殺人ロボットの
開発と配備を

233
00:12:23,000 --> 00:12:25,000
禁止する必要があります

234
00:12:25,000 --> 00:12:30,000
戦争を自動化する誘惑に
負けないようにしましょう

235
00:12:30,000 --> 00:12:33,000
独裁政府や犯罪組織は間違いなく
その魅力に屈するでしょうが

236
00:12:33,000 --> 00:12:36,000
私たちは その同類に
ならないようにしましょう

237
00:12:36,000 --> 00:12:38,000
自律ロボット兵器は

238
00:12:38,000 --> 00:12:40,000
あまりにも強力な力を

239
00:12:40,000 --> 00:12:42,000
ごくわずかな人の手に
集中させることになります

240
00:12:42,000 --> 00:12:45,000
そして 民主主義制度を
蝕むものになるでしょう

241
00:12:45,000 --> 00:12:48,000
民主主義のために
殺人ロボットは

242
00:12:48,000 --> 00:12:51,000
フィクションだけのものに
しておきましょう

243
00:12:51,000 --> 00:12:52,000
ありがとう

244
00:12:52,000 --> 00:12:57,000
（拍手）

245
00:12:57,000 --> 00:13:01,000
ありがとう
（拍手）