1
00:00:00,000 --> 00:00:03,000
我寫驚悚科幻小說

2
00:00:03,000 --> 00:00:06,000
所以如果我談到「殺手機器人」

3
00:00:06,000 --> 00:00:08,000
你可能會覺得是這樣的東西

4
00:00:08,000 --> 00:00:10,000
但事實上我不是來這裡談論小說的

5
00:00:10,000 --> 00:00:13,000
我是來這裡談論真正的殺手機器人

6
00:00:13,000 --> 00:00:17,000
自主的無人戰機

7
00:00:17,000 --> 00:00:20,000
我的意思不是掠奪者或是收割者無人戰機

8
00:00:20,000 --> 00:00:23,000
由人類來決定目標

9
00:00:23,000 --> 00:00:27,000
我說的是全自動的機械武器

10
00:00:27,000 --> 00:00:29,000
能有自主性的對人類做出致命性的決策

11
00:00:29,000 --> 00:00:32,000
不倚靠人類

12
00:00:32,000 --> 00:00:36,000
這有個專門術語：致命自主

13
00:00:36,000 --> 00:00:38,000
致命性自主殺手機器人

14
00:00:38,000 --> 00:00:42,000
有多種模式－飛行、陸行

15
00:00:42,000 --> 00:00:44,000
或只是待命

16
00:00:44,000 --> 00:00:47,000
事實上它們很快就要問世了

17
00:00:47,000 --> 00:00:50,000
這是兩座自動狙擊台

18
00:00:50,000 --> 00:00:54,000
目前部署在南北韓非軍事區

19
00:00:54,000 --> 00:00:56,000
這兩台機器都是自動的

20
00:00:56,000 --> 00:01:00,000
能夠辨識人類的位置並開火射擊

21
00:01:00,000 --> 00:01:04,000
左邊這台能瞄準超過一公里

22
00:01:04,000 --> 00:01:08,000
這兩座狙擊台都還是有人力介入

23
00:01:08,000 --> 00:01:10,000
來下達致命攻擊的決策

24
00:01:10,000 --> 00:01:15,000
但並不是技術上的需要，而是選項

25
00:01:15,000 --> 00:01:19,000
這個選項就是我的重點

26
00:01:19,000 --> 00:01:21,000
因為當我們將致命決策權

27
00:01:21,000 --> 00:01:24,000
由人類轉移到軟體設備

28
00:01:24,000 --> 00:01:28,000
我們冒的風險不僅是將人性抽離戰爭

29
00:01:28,000 --> 00:01:31,000
同時也完全改變了我們的社會景觀

30
00:01:31,000 --> 00:01:33,000
遠遠不是戰場可以形容的

31
00:01:33,000 --> 00:01:38,000
因為人類解決衝突的方法

32
00:01:38,000 --> 00:01:40,000
塑造了我們社會的樣貌

33
00:01:40,000 --> 00:01:42,000
自古以來皆是如此

34
00:01:42,000 --> 00:01:45,000
好比說這些是西元1400年時

35
00:01:45,000 --> 00:01:47,000
最先進的武器系統

36
00:01:47,000 --> 00:01:50,000
儘管建造、保養代價高昂

37
00:01:50,000 --> 00:01:53,000
但是透過這些武器我們可以統治群眾

38
00:01:53,000 --> 00:01:57,000
封建社會下政治力量的分布顯示了這一點

39
00:01:57,000 --> 00:02:00,000
力量集中在最頂端

40
00:02:00,000 --> 00:02:04,000
什麼改變了？科技革新

41
00:02:04,000 --> 00:02:05,000
火藥、大砲

42
00:02:05,000 --> 00:02:09,000
不久之後，盔甲和城堡就被淘汰了

43
00:02:09,000 --> 00:02:12,000
戰場上有什麼士兵不重要

44
00:02:12,000 --> 00:02:16,000
數量有多少才是關鍵

45
00:02:16,000 --> 00:02:19,000
當軍隊壯大之後，出現了民族國家

46
00:02:19,000 --> 00:02:23,000
來滿足政治及後勤方面在防禦上的需求

47
00:02:23,000 --> 00:02:25,000
當領導人必須更加倚靠他們的人民

48
00:02:25,000 --> 00:02:27,000
就會開始分權

49
00:02:27,000 --> 00:02:30,000
代議政府開始成形

50
00:02:30,000 --> 00:02:33,000
再一次，我們用來解決衝突的工具

51
00:02:33,000 --> 00:02:36,000
塑造了我們社會的樣貌

52
00:02:36,000 --> 00:02:40,000
自主機械武器就是這種工具

53
00:02:40,000 --> 00:02:46,000
但是因為發動戰爭所需的人數不多

54
00:02:46,000 --> 00:02:50,000
有極少數人再度集權統治的風險

55
00:02:50,000 --> 00:02:57,000
可能讓五百年來民主化的趨勢走回頭路

56
00:02:57,000 --> 00:02:59,000
我想，了解了之後

57
00:02:59,000 --> 00:03:03,000
我們可以果斷的維持民主制度

58
00:03:03,000 --> 00:03:07,000
來做我們人類最擅長的事，那就是適應環境

59
00:03:07,000 --> 00:03:09,000
但時間是一個因素

60
00:03:09,000 --> 00:03:12,000
有七十個國家正在研發

61
00:03:12,000 --> 00:03:14,000
他們自己的遠程無人戰鬥機

62
00:03:14,000 --> 00:03:17,000
如你所見，遠程無人戰鬥機

63
00:03:17,000 --> 00:03:21,000
正是自主機械武器的前身

64
00:03:21,000 --> 00:03:24,000
因為一旦部屬了遠程無人戰鬥機

65
00:03:24,000 --> 00:03:27,000
就會有三個強而有力的因素

66
00:03:27,000 --> 00:03:32,000
迫使人們把決定權交給武器平台本身

67
00:03:32,000 --> 00:03:37,000
第一個因素是無人戰機所拍攝的大量影像

68
00:03:37,000 --> 00:03:41,000
像是在2004年，美國的無人機艦隊

69
00:03:41,000 --> 00:03:46,000
拍攝了長達71小時的影像監控以供分析之用

70
00:03:46,000 --> 00:03:51,000
到了2011年，影像長度增為30萬小時

71
00:03:51,000 --> 00:03:54,000
超出人類檢視所有影像的能力

72
00:03:54,000 --> 00:03:58,000
但即使數字之大，它依然大幅成長

73
00:03:58,000 --> 00:04:00,000
五角大廈的「戈爾貢之眼(Gorgon Stare)」和
「百眼巨人(Argus)」計畫

74
00:04:00,000 --> 00:04:03,000
將會有65台獨立運作的攝影機

75
00:04:03,000 --> 00:04:05,000
安裝在每架無人飛機上

76
00:04:05,000 --> 00:04:09,000
而這將大幅超越人類所能檢視的能力

77
00:04:09,000 --> 00:04:11,000
這意味著視覺智慧軟體必須掃描影像

78
00:04:11,000 --> 00:04:15,000
找出我們感興趣的部分

79
00:04:15,000 --> 00:04:16,000
這表示不久後無人飛機

80
00:04:16,000 --> 00:04:19,000
將會告訴人類該看哪些部分

81
00:04:19,000 --> 00:04:21,000
而非由人類來決定

82
00:04:21,000 --> 00:04:24,000
還有第二個動機

83
00:04:24,000 --> 00:04:27,000
迫使我們把決定權交給機器

84
00:04:27,000 --> 00:04:30,000
那就是電磁干擾

85
00:04:30,000 --> 00:04:32,000
它會切斷無人飛機

86
00:04:32,000 --> 00:04:35,000
和操作員的連線

87
00:04:35,000 --> 00:04:38,000
我們現在看到的例子是在2011年

88
00:04:38,000 --> 00:04:41,000
美國的RQ-170哨兵式(Sentinel)無人飛機

89
00:04:41,000 --> 00:04:45,000
在伊朗上空因為GPS受到欺騙攻擊而陷入混亂

90
00:04:45,000 --> 00:04:50,000
這種攻擊對任何遠程無人飛機都有效

91
00:04:50,000 --> 00:04:52,000
這表示無人飛機

92
00:04:52,000 --> 00:04:56,000
必須去承擔更多決策

93
00:04:56,000 --> 00:04:59,000
它們會知道它們的任務目標

94
00:04:59,000 --> 00:05:04,000
沒有人類指導也能對新的狀況作出反應

95
00:05:04,000 --> 00:05:06,000
它們會忽視外來的無線電訊號

96
00:05:06,000 --> 00:05:09,000
只發出極少量的無線電訊號

97
00:05:09,000 --> 00:05:11,000
這牽扯到第三個因素

98
00:05:11,000 --> 00:05:15,000
也是最強烈的誘因

99
00:05:15,000 --> 00:05:18,000
促使我們將決定權交給武器

100
00:05:18,000 --> 00:05:21,000
那就是貌似合理的推託

101
00:05:21,000 --> 00:05:24,000
我們生活在一個全球經濟體下

102
00:05:24,000 --> 00:05:28,000
大部分的地方都有高科技工業

103
00:05:28,000 --> 00:05:31,000
網路間諜正在將先進的科技

104
00:05:31,000 --> 00:05:33,000
帶到未知的地方

105
00:05:33,000 --> 00:05:35,000
在這種環境下很有可能

106
00:05:35,000 --> 00:05:40,000
成功的無人飛機設計，在灰市中量產

107
00:05:40,000 --> 00:05:42,000
擊敗取得授權的工廠

108
00:05:42,000 --> 00:05:45,000
如此一來，即使仔細調查

109
00:05:45,000 --> 00:05:48,000
無人機自殺攻擊的殘骸

110
00:05:48,000 --> 00:05:52,000
也難以斷定是誰發射這個武器

111
00:05:52,000 --> 00:05:55,000
這就很有可能

112
00:05:55,000 --> 00:05:58,000
會引起匿名戰爭

113
00:05:58,000 --> 00:06:00,000
可能會讓地緣政治傾向一頭

114
00:06:00,000 --> 00:06:04,000
讓一個國家難以將它的炮火對準攻擊者

115
00:06:04,000 --> 00:06:07,000
也會讓21世紀的維持的平衡

116
00:06:07,000 --> 00:06:10,000
由防禦轉為侵略

117
00:06:10,000 --> 00:06:14,000
使得軍事行動變成可行的選項

118
00:06:14,000 --> 00:06:16,000
不只是小國

119
00:06:16,000 --> 00:06:18,000
還有犯罪組織、私人企業

120
00:06:18,000 --> 00:06:21,000
甚至是有權力的人都能這麼做

121
00:06:21,000 --> 00:06:24,000
這樣可能會引發軍閥割據的混戰

122
00:06:24,000 --> 00:06:28,000
破壞法律規範及文明社會

123
00:06:28,000 --> 00:06:31,000
如果責任感以及透明度

124
00:06:31,000 --> 00:06:34,000
是代議政治的兩塊基石

125
00:06:34,000 --> 00:06:38,000
自主機械武器會破壞這兩者

126
00:06:38,000 --> 00:06:40,000
你現在可能會覺得

127
00:06:40,000 --> 00:06:42,000
高科技國家的人民

128
00:06:42,000 --> 00:06:45,000
在機械戰爭中佔有優勢

129
00:06:45,000 --> 00:06:48,000
這些國家的人民比較不容易受傷害

130
00:06:48,000 --> 00:06:53,000
尤其是對抗發展中國家的時候

131
00:06:53,000 --> 00:06:56,000
但是我認為事實剛好相反

132
00:06:56,000 --> 00:06:58,000
我認為高科技社會的人民

133
00:06:58,000 --> 00:07:02,000
更容易受到機械武器傷害

134
00:07:02,000 --> 00:07:07,000
其原因可以用兩個字來說明：資料

135
00:07:07,000 --> 00:07:10,000
資料壯大了高科技社會

136
00:07:10,000 --> 00:07:13,000
手機定位、電訊後設資料

137
00:07:13,000 --> 00:07:17,000
社交媒體、電子郵件、簡訊、金融交易資料

138
00:07:17,000 --> 00:07:20,000
和運輸資料等，都是大量的即時資料

139
00:07:20,000 --> 00:07:24,000
記載著人類的社交活動

140
00:07:24,000 --> 00:07:27,000
簡單來說，比其任何其他時代

141
00:07:27,000 --> 00:07:30,000
機器對人類來說更顯而易見

142
00:07:30,000 --> 00:07:35,000
而這正好符合了自動武器的目標需求

143
00:07:35,000 --> 00:07:37,000
大家現在看到的

144
00:07:37,000 --> 00:07:40,000
是社會團體的連結分析圖

145
00:07:40,000 --> 00:07:44,000
線段代表著人與人之間的社會連結

146
00:07:44,000 --> 00:07:47,000
這類的圖只要依據現代人所留下的資料

147
00:07:47,000 --> 00:07:51,000
就能夠自動產生

148
00:07:51,000 --> 00:07:54,000
現在它應用於商品與服務的行銷

149
00:07:54,000 --> 00:07:58,000
來統計目標群體，但這是雙面科技

150
00:07:58,000 --> 00:08:02,000
因為目標的鎖定可應用於另外一種情況

151
00:08:02,000 --> 00:08:04,000
我們注意到某些人是特別顯著的

152
00:08:04,000 --> 00:08:08,000
他們是社會網絡的樞紐

153
00:08:08,000 --> 00:08:11,000
他們是組織者、輿論製造者、領導者

154
00:08:11,000 --> 00:08:14,000
而這些人依據他們的溝通模式

155
00:08:14,000 --> 00:08:16,000
我們也能夠自動辨識

156
00:08:16,000 --> 00:08:18,000
如果現在你是一位營銷員，你可能將試用產品

157
00:08:18,000 --> 00:08:21,000
鎖定這些人，試著把你的品牌

158
00:08:21,000 --> 00:08:24,000
推廣到他們的社會團體中

159
00:08:24,000 --> 00:08:26,000
但如果你是專制的政府

160
00:08:26,000 --> 00:08:30,000
在搜尋政敵，你可能反而會除掉他們

161
00:08:30,000 --> 00:08:33,000
消滅他們、破壞他們的社會團體

162
00:08:33,000 --> 00:08:36,000
而剩下來的人就會失去他們的社會連結

163
00:08:36,000 --> 00:08:39,000
以及社群組織

164
00:08:39,000 --> 00:08:42,000
在一個機械武器便宜、氾濫的世界

165
00:08:42,000 --> 00:08:45,000
國界的保護微不足道

166
00:08:45,000 --> 00:08:47,000
無法防衛遠方政府的批評者

167
00:08:47,000 --> 00:08:51,000
或是跨國犯罪組織

168
00:08:51,000 --> 00:08:54,000
鼓吹改革的群眾運動

169
00:08:54,000 --> 00:08:58,000
在大眾充分了解其訴求之前

170
00:08:58,000 --> 00:09:01,000
就會被察覺，並將其領導人消滅

171
00:09:01,000 --> 00:09:03,000
而充分的把想法傳達給大眾

172
00:09:03,000 --> 00:09:07,000
正是一般政治激進主義政府所追求的

173
00:09:07,000 --> 00:09:11,000
匿名的致命武器能夠讓致命行動

174
00:09:11,000 --> 00:09:15,000
變成所有競爭者一個簡單的選項

175
00:09:15,000 --> 00:09:19,000
這會讓民主的核心－言論自由及民眾在政治上行動

176
00:09:19,000 --> 00:09:24,000
轉為冷漠

177
00:09:24,000 --> 00:09:27,000
這也就是為什麼我們需要國際公約

178
00:09:27,000 --> 00:09:30,000
來規範機械武器，特別是

179
00:09:30,000 --> 00:09:34,000
全球皆禁止研發及部屬殺手機器人

180
00:09:34,000 --> 00:09:38,000
現在我們已經有國際公約

181
00:09:38,000 --> 00:09:41,000
來規範核武及生物武器，雖然並不完美

182
00:09:41,000 --> 00:09:43,000
但卻很有效

183
00:09:43,000 --> 00:09:47,000
但是機械武器完全就是個危險的東西

184
00:09:47,000 --> 00:09:50,000
因為它們幾乎一定會被使用

185
00:09:50,000 --> 00:09:55,000
也會侵蝕我們的民主制度

186
00:09:55,000 --> 00:09:59,000
2012年11月，美國國防部

187
00:09:59,000 --> 00:10:01,000
直接要求

188
00:10:01,000 --> 00:10:06,000
所有致命決策都必須有人類參與其中

189
00:10:06,000 --> 00:10:11,000
這暫時有效防止美軍的自主武器

190
00:10:11,000 --> 00:10:14,000
但是這個要求必須永久有效

191
00:10:14,000 --> 00:10:19,000
它也可以為全球立法行動鋪路

192
00:10:19,000 --> 00:10:22,000
因為我們需要國際性的法律架構

193
00:10:22,000 --> 00:10:25,000
來規範機械武器

194
00:10:25,000 --> 00:10:28,000
我們現在就需要，以免毀滅性的恐怖攻擊事件

195
00:10:28,000 --> 00:10:31,000
讓世界上的國家

196
00:10:31,000 --> 00:10:33,000
爭相採用這些武器

197
00:10:33,000 --> 00:10:36,000
完全不考慮後果

198
00:10:36,000 --> 00:10:39,000
自動機械武器把太強大的力量

199
00:10:39,000 --> 00:10:46,000
集中在太少人手中，而他們會威脅到民主本身

200
00:10:46,000 --> 00:10:48,000
別誤解了我的意思，我認為

201
00:10:48,000 --> 00:10:51,000
這些非武裝的民用無人飛機好用途不少

202
00:10:51,000 --> 00:10:55,000
環境監控、搜救、後勤

203
00:10:55,000 --> 00:10:58,000
如果我們有機械武器的國際公約

204
00:10:58,000 --> 00:11:01,000
我們要如何從自主無人飛機及載具中獲得好處

205
00:11:01,000 --> 00:11:04,000
同時又能夠保護我們自己

206
00:11:04,000 --> 00:11:08,000
免於違法機械武器的侵害呢

207
00:11:08,000 --> 00:11:13,000
我認為機密會變得透明化

208
00:11:13,000 --> 00:11:16,000
任何的機器人在公共場所

209
00:11:16,000 --> 00:11:19,000
都不得有隱私

210
00:11:19,000 --> 00:11:24,000
(掌聲)

211
00:11:24,000 --> 00:11:26,000
每一台機器人或無人飛機

212
00:11:26,000 --> 00:11:29,000
在工廠裡都要烙上一個加密的身分

213
00:11:29,000 --> 00:11:32,000
可以用來追蹤它在公共場所的動向

214
00:11:32,000 --> 00:11:35,000
我們的車子有車牌，飛機有機尾編號

215
00:11:35,000 --> 00:11:37,000
這是同樣的道理

216
00:11:37,000 --> 00:11:39,000
每個市民都可以下載應用程式

217
00:11:39,000 --> 00:11:42,000
來顯示無人飛機及自動載具

218
00:11:42,000 --> 00:11:45,000
在他們附近的公共空間移動的數量

219
00:11:45,000 --> 00:11:48,000
不論是過去或是現在

220
00:11:48,000 --> 00:11:51,000
領導者應該要部屬感應器還有民用無人飛機

221
00:11:51,000 --> 00:11:53,000
來偵測圖謀不軌的無人飛機

222
00:11:53,000 --> 00:11:57,000
而且不是直接派自己的無人攻擊機將它們擊落

223
00:11:57,000 --> 00:12:00,000
而是應該告知人們這些無人飛機的存在

224
00:12:00,000 --> 00:12:02,000
在確定是高安全性的地區

225
00:12:02,000 --> 00:12:04,000
或許民用無人飛機

226
00:12:04,000 --> 00:12:07,000
可以將它們引導到炸彈處理設施

227
00:12:07,000 --> 00:12:10,000
但要注意的是，這比較像是免疫系統

228
00:12:10,000 --> 00:12:11,000
而不是武器系統

229
00:12:11,000 --> 00:12:14,000
如此就可以讓我們

230
00:12:14,000 --> 00:12:16,000
獲得自主載具與無人飛機所帶來的好處

231
00:12:16,000 --> 00:12:20,000
同時保有我們開放、文明的社會

232
00:12:20,000 --> 00:12:23,000
我們必須禁止研發及部屬

233
00:12:23,000 --> 00:12:25,000
殺手機器人

234
00:12:25,000 --> 00:12:30,000
我們不會屈服於自動化戰爭的誘惑

235
00:12:30,000 --> 00:12:33,000
專制政府及犯罪組織一定會屈服

236
00:12:33,000 --> 00:12:36,000
但是我們不會加入他們

237
00:12:36,000 --> 00:12:38,000
自主機械武器

238
00:12:38,000 --> 00:12:40,000
將過多權力

239
00:12:40,000 --> 00:12:42,000
集中到極少數看不見的手中

240
00:12:42,000 --> 00:12:45,000
而那會侵蝕代議政府

241
00:12:45,000 --> 00:12:48,000
我們要保證，至少為了民主的理由

242
00:12:48,000 --> 00:12:51,000
讓殺手機器人留在小說裡吧

243
00:12:51,000 --> 00:12:52,000
謝謝

244
00:12:52,000 --> 00:12:57,000
(掌聲)

245
00:12:57,000 --> 00:13:01,000
謝謝 (掌聲)