0:00:01.765,0:00:04.765
人工智慧

0:00:04.789,0:00:08.318
顛覆各產業為人所知。

0:00:08.961,0:00:11.004
那冰淇淋呢？

0:00:11.879,0:00:14.748
有了先進的人工智慧，

0:00:14.768,0:00:18.518
我們能變出什麼驚人的新口味？

0:00:19.011,0:00:23.172
我和基林中學的[br]一組程式設計師合作，

0:00:23.196,0:00:25.437
想找出這個問題的答案。

0:00:25.461,0:00:30.542
他們收集了既有的[br]一千六百種冰淇淋口味，

0:00:30.566,0:00:36.088
將這些資料輸入到演算法中，[br]看看會產出什麼。

0:00:36.112,0:00:40.039
以下是人工智慧想出來的一些口味。

0:00:40.444,0:00:41.915
〔南瓜垃圾〕

0:00:41.939,0:00:43.341
（笑聲）

0:00:43.365,0:00:45.834
〔花生醬黏液〕

0:00:46.822,0:00:48.719
〔草莓奶油疾病〕

0:00:48.749,0:00:50.315
（笑聲）

0:00:50.339,0:00:54.562
這些口味並不如我們預期的可口。

0:00:54.960,0:00:58.214
所以問題是：到底怎麼了？[br]哪裡出問題了？

0:00:58.266,0:01:00.330
人工智慧想要害死我們嗎？

0:01:01.027,0:01:03.592
或它只是照我們的指示去做，

0:01:03.592,0:01:05.337
卻出了問題？

0:01:06.567,0:01:09.031
在電影中，人工智慧如果出問題，

0:01:09.055,0:01:11.767
通常都是因為人工智慧決定

0:01:11.791,0:01:14.063
不要繼續服從人類了，

0:01:14.087,0:01:16.852
它有自己的目標，非常謝謝。

0:01:17.266,0:01:20.482
不過，在我們現實生活中的人工智慧

0:01:20.506,0:01:22.789
並沒有聰明到能做出那樣的事。

0:01:22.881,0:01:25.763
它大概只有蚯蚓程度的計算能力，

0:01:25.787,0:01:29.807
或頂多到一隻蜜蜂的程度，

0:01:30.514,0:01:32.729
其實，可能還更低。

0:01:32.753,0:01:35.347
對於大腦我們不斷有新的發現，

0:01:35.371,0:01:39.731
讓我們更清楚知道，[br]人工智慧遠遠比不上真實大腦。

0:01:39.755,0:01:42.362
所以，現今的人工智慧可以做到

0:01:42.362,0:01:45.418
在圖片中辨識出行人之類的事，

0:01:45.442,0:01:48.425
但它不知道什麼是行人，

0:01:48.449,0:01:53.273
只知道行人是許多[br]線條、結構、東西的組合。

0:01:53.792,0:01:56.313
它不知道人類是什麼。

0:01:56.822,0:02:00.104
所以，現今的人工智慧[br]會照我們要求的做嗎？

0:02:00.128,0:02:01.722
如果能的話，它會，

0:02:01.746,0:02:04.472
但它可能不會照我們[br]真正想要它做的去做。

0:02:04.496,0:02:06.911
比如，你想要人工智慧

0:02:06.935,0:02:09.554
把這一堆機器人的零件

0:02:09.578,0:02:13.775
組裝成某種機器人，[br]從 A 點走到 B 點。

0:02:13.799,0:02:18.514
如果你是用傳統的電腦程式方法來寫，

0:02:18.679,0:02:22.096
你就得要給程式一步一步的指令，

0:02:22.123,0:02:25.880
告訴它要拿哪些零件，[br]如何組裝成有腳的機器人，

0:02:25.904,0:02:28.846
接著告訴它如何用腳來走到 B 點。

0:02:29.441,0:02:32.981
但，若用人工智慧來解決[br]這個問題，做法就不同了。

0:02:33.003,0:02:36.885
你不用告訴它如何解決問題，[br]只要給它一個目標，

0:02:36.912,0:02:41.690
它自己要用嘗試錯誤法[br]來想辦法達成目標。

0:02:42.254,0:02:46.356
結果發現，人工智慧[br]解決這個問題的方法

0:02:46.380,0:02:47.864
傾向於用這種方式：

0:02:47.888,0:02:51.255
它會把它自己組裝成[br]一座塔，然後倒向 B，

0:02:51.279,0:02:53.106
就會到達 B 點了。

0:02:53.130,0:02:57.599
技術上來說，問題的確解決了。[br]它的確抵達了 B 點。

0:02:57.646,0:03:01.911
人工智慧的危險性[br]並不在於它會反抗我們，

0:03:01.935,0:03:06.324
而是它會「完全」照我們的要求去做。

0:03:06.876,0:03:09.374
所以使用人工智慧的秘訣就變成是：

0:03:09.398,0:03:13.226
我們要如何把問題設定好，[br]讓它真能照我們所想的去做？

0:03:14.726,0:03:18.032
這個小機器人是由人工智慧控制。

0:03:18.056,0:03:20.870
人工智慧構思出機器人的腳，

0:03:20.894,0:03:24.972
接著它再想出要如何[br]用腳來越過這些障礙。

0:03:24.996,0:03:27.737
但，當大衛‧哈在設計這個實驗時，

0:03:27.761,0:03:30.617
他得要訂下非常非常嚴格的限制，

0:03:30.641,0:03:33.933
限制人工智慧能把腳做到多大，

0:03:33.957,0:03:35.672
因為，若不限制……

0:03:43.058,0:03:46.989
（笑聲）

0:03:48.563,0:03:52.308
技術上，它也的確到了[br]障礙道的另一端。

0:03:52.332,0:03:57.253
所以大家可以了解，讓人工智慧[br]做出走路這麼簡單的事有多難了。

0:03:57.298,0:04:01.118
看到人工智慧這麼做，[br]你可能會說，好，這不公平，

0:04:01.142,0:04:03.722
你不能變成高塔然後倒下來就到位，

0:04:03.746,0:04:07.035
你必須要真的用腳來走路。

0:04:07.205,0:04:09.452
結果發現，那也行不通。

0:04:09.988,0:04:13.004
這個人工智慧的工作[br]是要達成快速移動。

0:04:13.115,0:04:16.708
他們沒有告訴人工智慧說[br]跑步時一定要面對前方，

0:04:16.732,0:04:18.990
也沒說它不可以用手臂。

0:04:19.487,0:04:24.105
所以如果你訓練人工智慧要做到[br]快速移動，就會得到這種結果，

0:04:24.129,0:04:27.663
你會得到筋斗翻和很蠢的走路姿勢。

0:04:27.687,0:04:29.280
這很常見。

0:04:29.667,0:04:32.846
「成堆地沿著地板抽動」亦然。

0:04:32.870,0:04:34.545
（笑聲）

0:04:35.221,0:04:37.884
我認為更詭異的

0:04:37.904,0:04:40.100
是《魔鬼終結者》的機器人。

0:04:40.256,0:04:44.011
如果你給人工智慧機會，[br]它也會駭入《駭客任務》的母體。

0:04:44.035,0:04:46.552
如果在模擬狀況中訓練人工智慧，

0:04:46.576,0:04:50.689
它會學習如何做出的事包括[br]駭入模擬的數學錯誤中

0:04:50.713,0:04:52.576
並獲取它們作為能量。

0:04:52.944,0:04:57.988
或者，它會重覆在地板[br]鑽上鑽下使自己移動得更快。

0:04:58.443,0:05:02.388
和人工智慧合作比較像是[br]和某種大自然的詭異力量合作，

0:05:02.465,0:05:06.210
而不太像是和人類合作。

0:05:06.562,0:05:11.185
一不小心就會叫人工智慧[br]去解決不正確的問題，

0:05:11.209,0:05:15.747
且通常出錯後我們才會發現。

0:05:16.242,0:05:18.177
我做了一個實驗，

0:05:18.346,0:05:21.528
我希望人工智慧能複製顏料顏色，

0:05:21.552,0:05:23.298
發明新的顏料顏色，

0:05:23.322,0:05:26.371
給它左側的這個清單。

0:05:26.798,0:05:29.802
這些是人工智慧創造出來的顏色。

0:05:29.826,0:05:32.969
〔辛迪司便便、混蛋、[br]苦難、灰色陰部〕

0:05:32.993,0:05:37.223
（笑聲）

0:05:39.177,0:05:41.063
技術上來說，

0:05:41.087,0:05:42.951
它照我的意思做了。

0:05:42.975,0:05:46.283
我以為我要求人工智慧[br]給我好聽的色彩名稱，

0:05:46.307,0:05:48.614
但我實際上是在要求它

0:05:48.638,0:05:53.434
模仿它在原始顏色中[br]所見到的那些字母組合。

0:05:53.677,0:05:56.775
我沒有告訴它字的意思，

0:05:56.799,0:05:59.359
也沒告訴它可能有一些字

0:05:59.383,0:06:02.272
不太適合用在顏料顏色上。

0:06:03.141,0:06:06.348
它所有的訊息就僅是[br]我給它的資料而已。

0:06:06.659,0:06:10.687
和冰淇淋口味的例子一樣，[br]其他的它什麼都不知道。

0:06:12.491,0:06:15.073
通常會因為資料內容的關係，

0:06:15.093,0:06:18.547
無意間讓人工智慧去執行錯誤的運作。

0:06:18.694,0:06:21.726
這是一種叫丁鱖的魚。

0:06:21.750,0:06:23.565
有一群研究人員

0:06:23.589,0:06:27.463
訓練人工智慧在照片中辨識出丁鱖。

0:06:27.487,0:06:32.143
但當他們問人工智慧，它是用[br]圖上的哪個部分來辨識出丁鱖，

0:06:32.257,0:06:34.482
結果它標記出這些部分。

0:06:35.203,0:06:37.392
是的，這些是人類的手指。

0:06:37.416,0:06:41.745
如果它的目標是要辨識出魚類，[br]為什麼要去找人類的手指？

0:06:42.126,0:06:45.290
結果發現，丁鱖是釣客的戰利品，

0:06:45.314,0:06:50.285
所以，人工智慧在訓練期間[br]所看到的大量丁鱖照片，

0:06:50.314,0:06:53.454
看起來像這樣。（笑聲）

0:06:53.497,0:06:56.827
人工智慧不知道手指並非魚的一部分。

0:06:58.808,0:07:02.468
這就是為什麼難以設計出

0:07:02.488,0:07:06.271
能看懂眼前事物為何的人工智慧。

0:07:06.301,0:07:08.722
這也就是為什麼在自動駕駛汽車上

0:07:08.722,0:07:11.392
設計影像辨識系統如此困難。

0:07:11.392,0:07:13.477
很多自動駕駛汽車會失敗

0:07:13.501,0:07:16.386
是因為困惑的人工智慧。

0:07:16.410,0:07:20.107
我想要談談 2016 年的一個例子。

0:07:20.442,0:07:24.897
某人在使用特斯拉的自動駕駛[br]人工智慧時發生了致命的意外，

0:07:24.921,0:07:28.065
它原本是設計行駛在高速公路上的，

0:07:28.065,0:07:30.851
但他們卻讓它行駛在城市街道上。

0:07:31.239,0:07:34.311
事情的經過是：有台卡車[br]經過這台車的前面，

0:07:34.331,0:07:36.135
這台車沒有煞車。

0:07:36.507,0:07:40.895
人工智慧一定有被訓練過[br]如何辨識出照片中的卡車。

0:07:41.293,0:07:43.438
但發生的狀況似乎是

0:07:43.462,0:07:46.393
人工智慧被訓練辨識出[br]在高速公路上行駛的卡車，

0:07:46.417,0:07:49.340
在高速公路上你會看到的[br]應該是卡車的車尾。

0:07:49.340,0:07:52.760
高速公路上不應該會看到卡車的側面，

0:07:52.784,0:07:56.239
所以，當人工智慧看到這台卡車時，

0:07:56.263,0:08:01.090
人工智慧似乎把它當作是路上的號誌，

0:08:01.114,0:08:03.539
因此判斷可以安全地從下方行駛過去。

0:08:04.114,0:08:06.694
再來是另一個領域中的人工智慧過失。

0:08:06.718,0:08:11.378
亞馬遜最近必須要放棄他們[br]努力研發的履歷排序演算法，

0:08:11.446,0:08:15.052
因為他們發現演算法學會歧視女性。

0:08:15.068,0:08:17.974
他們用過去僱用員工的記錄資料

0:08:17.988,0:08:20.129
當作訓練人工智慧的範例。

0:08:20.364,0:08:23.404
從範例中，人工智慧學到不要選擇

0:08:23.852,0:08:26.052
上過女子大學的人，

0:08:26.481,0:08:29.287
也不要選擇在履歷中某處[br]寫到「女」字的人，

0:08:29.311,0:08:33.413
比如「女子足球隊」[br]或「女工程師協會」。

0:08:33.911,0:08:36.515
人工智慧看到人類這麼做，

0:08:36.535,0:08:39.720
它並不知道它不該複製這種模式。

0:08:39.911,0:08:43.088
技術上來說，它也照著[br]他們給它的指示做了。

0:08:43.112,0:08:46.120
他們只是不小心[br]叫人工智慧做了錯的事。

0:08:46.653,0:08:49.548
人工智慧常常會發生這種狀況。

0:08:50.120,0:08:53.711
人工智慧可能造成破壞卻不自覺。

0:08:53.735,0:08:58.813
所以，在臉書、Youtube 上[br]負責做推薦的人工智慧，

0:08:58.837,0:09:02.110
它們進行了優化以增加點閱率次數。

0:09:02.400,0:09:05.836
不幸的是，它們發現，[br]達到目標的方法之一

0:09:05.860,0:09:10.363
就是推薦關於陰謀論或偏執的內容。

0:09:10.902,0:09:12.507
人工智慧本身

0:09:12.549,0:09:15.956
對於推薦的內容一無所知，

0:09:16.228,0:09:19.623
也對推薦這些內容會造成的後果

0:09:19.647,0:09:21.756
一無所悉。

0:09:22.296,0:09:24.307
當我們使用人工智慧時，

0:09:24.331,0:09:28.513
必須要由我們來避免問題。

0:09:28.537,0:09:30.860
我們若要避免出錯，

0:09:30.884,0:09:34.834
可能就得歸結到溝通的老問題上，

0:09:35.434,0:09:39.179
我們人類得要學習[br]如何和人工智慧溝通。

0:09:39.203,0:09:43.107
我們得要了解人工智慧[br]能夠做什麼、不能做什麼，

0:09:43.129,0:09:46.639
且要知道，人工智慧[br]只有小蟲等級的大腦，

0:09:46.659,0:09:50.450
它不知道我們真正想要它做什麼。

0:09:51.148,0:09:54.469
換言之，我們得有心理準備，[br]我們所使用的人工智慧

0:09:54.493,0:09:59.751
並非科幻小說裡那種[br]超能、無所不知的人工智慧。

0:09:59.775,0:10:05.247
我們必須準備好與現今還是[br]小蟲大腦等級的人工智慧共事。

0:10:05.723,0:10:09.412
而現今的人工智慧是非常怪異的。

0:10:09.852,0:10:11.042
謝謝。

0:10:11.066,0:10:14.161
（掌聲）