WEBVTT

00:00:01.765 --> 00:00:04.765
人工智慧

00:00:04.789 --> 00:00:08.318
顛覆各產業為人所知。

00:00:08.961 --> 00:00:11.004
那冰淇淋呢？

00:00:11.879 --> 00:00:14.748
有了先進的人工智慧，

00:00:14.768 --> 00:00:18.518
我們能變出什麼驚人的新口味？

00:00:19.011 --> 00:00:23.172
我和基林中學的
一組程式設計師合作，

00:00:23.196 --> 00:00:25.437
想找出這個問題的答案。

00:00:25.461 --> 00:00:30.542
他們收集了既有的
一千六百種冰淇淋口味，

00:00:30.566 --> 00:00:36.088
將這些資料輸入到演算法中，
看看會產出什麼。

00:00:36.112 --> 00:00:40.039
以下是人工智慧想出來的一些口味。

NOTE Paragraph

00:00:40.444 --> 00:00:41.915
〔南瓜垃圾〕

NOTE Paragraph

00:00:41.939 --> 00:00:43.341
（笑聲）

NOTE Paragraph

00:00:43.365 --> 00:00:45.834
〔花生醬黏液〕

NOTE Paragraph

00:00:46.822 --> 00:00:48.719
〔草莓奶油疾病〕

NOTE Paragraph

00:00:48.749 --> 00:00:50.315
（笑聲）

NOTE Paragraph

00:00:50.339 --> 00:00:54.562
這些口味並不如我們預期的可口。

00:00:54.960 --> 00:00:58.214
所以問題是：到底怎麼了？
哪裡出問題了？

00:00:58.266 --> 00:01:00.330
人工智慧想要害死我們嗎？

00:01:01.027 --> 00:01:03.592
或它只是照我們的指示去做，

00:01:03.592 --> 00:01:05.337
卻出了問題？

NOTE Paragraph

00:01:06.567 --> 00:01:09.031
在電影中，人工智慧如果出問題，

00:01:09.055 --> 00:01:11.767
通常都是因為人工智慧決定

00:01:11.791 --> 00:01:14.063
不要繼續服從人類了，

00:01:14.087 --> 00:01:16.852
它有自己的目標，非常謝謝。

00:01:17.266 --> 00:01:20.482
不過，在我們現實生活中的人工智慧

00:01:20.506 --> 00:01:22.789
並沒有聰明到能做出那樣的事。

00:01:22.881 --> 00:01:25.763
它大概只有蚯蚓程度的計算能力，

00:01:25.787 --> 00:01:29.807
或頂多到一隻蜜蜂的程度，

00:01:30.514 --> 00:01:32.729
其實，可能還更低。

00:01:32.753 --> 00:01:35.347
對於大腦我們不斷有新的發現，

00:01:35.371 --> 00:01:39.731
讓我們更清楚知道，
人工智慧遠遠比不上真實大腦。

00:01:39.755 --> 00:01:42.362
所以，現今的人工智慧可以做到

00:01:42.362 --> 00:01:45.418
在圖片中辨識出行人之類的事，

00:01:45.442 --> 00:01:48.425
但它不知道什麼是行人，

00:01:48.449 --> 00:01:53.273
只知道行人是許多
線條、結構、東西的組合。

00:01:53.792 --> 00:01:56.313
它不知道人類是什麼。

00:01:56.822 --> 00:02:00.104
所以，現今的人工智慧
會照我們要求的做嗎？

00:02:00.128 --> 00:02:01.722
如果能的話，它會，

00:02:01.746 --> 00:02:04.472
但它可能不會照我們
真正想要它做的去做。

NOTE Paragraph

00:02:04.496 --> 00:02:06.911
比如，你想要人工智慧

00:02:06.935 --> 00:02:09.554
把這一堆機器人的零件

00:02:09.578 --> 00:02:13.775
組裝成某種機器人，
從 A 點走到 B 點。

00:02:13.799 --> 00:02:18.514
如果你是用傳統的電腦程式方法來寫，

00:02:18.679 --> 00:02:22.096
你就得要給程式一步一步的指令，

00:02:22.123 --> 00:02:25.880
告訴它要拿哪些零件，
如何組裝成有腳的機器人，

00:02:25.904 --> 00:02:28.846
接著告訴它如何用腳來走到 B 點。

00:02:29.441 --> 00:02:32.981
但，若用人工智慧來解決
這個問題，做法就不同了。

00:02:33.003 --> 00:02:36.885
你不用告訴它如何解決問題，
只要給它一個目標，

00:02:36.912 --> 00:02:41.690
它自己要用嘗試錯誤法
來想辦法達成目標。

00:02:42.254 --> 00:02:46.356
結果發現，人工智慧
解決這個問題的方法

00:02:46.380 --> 00:02:47.864
傾向於用這種方式：

00:02:47.888 --> 00:02:51.255
它會把它自己組裝成
一座塔，然後倒向 B，

00:02:51.279 --> 00:02:53.106
就會到達 B 點了。

00:02:53.130 --> 00:02:57.599
技術上來說，問題的確解決了。
它的確抵達了 B 點。

00:02:57.646 --> 00:03:01.911
人工智慧的危險性
並不在於它會反抗我們，

00:03:01.935 --> 00:03:06.324
而是它會「完全」照我們的要求去做。

00:03:06.876 --> 00:03:09.374
所以使用人工智慧的秘訣就變成是：

00:03:09.398 --> 00:03:13.226
我們要如何把問題設定好，
讓它真能照我們所想的去做？

NOTE Paragraph

00:03:14.726 --> 00:03:18.032
這個小機器人是由人工智慧控制。

00:03:18.056 --> 00:03:20.870
人工智慧構思出機器人的腳，

00:03:20.894 --> 00:03:24.972
接著它再想出要如何
用腳來越過這些障礙。

00:03:24.996 --> 00:03:27.737
但，當大衛‧哈在設計這個實驗時，

00:03:27.761 --> 00:03:30.617
他得要訂下非常非常嚴格的限制，

00:03:30.641 --> 00:03:33.933
限制人工智慧能把腳做到多大，

00:03:33.957 --> 00:03:35.672
因為，若不限制……

NOTE Paragraph

00:03:43.058 --> 00:03:46.989
（笑聲）

NOTE Paragraph

00:03:48.563 --> 00:03:52.308
技術上，它也的確到了
障礙道的另一端。

00:03:52.332 --> 00:03:57.253
所以大家可以了解，讓人工智慧
做出走路這麼簡單的事有多難了。

NOTE Paragraph

00:03:57.298 --> 00:04:01.118
看到人工智慧這麼做，
你可能會說，好，這不公平，

00:04:01.142 --> 00:04:03.722
你不能變成高塔然後倒下來就到位，

00:04:03.746 --> 00:04:07.035
你必須要真的用腳來走路。

00:04:07.205 --> 00:04:09.452
結果發現，那也行不通。

00:04:09.988 --> 00:04:13.004
這個人工智慧的工作
是要達成快速移動。

00:04:13.115 --> 00:04:16.708
他們沒有告訴人工智慧說
跑步時一定要面對前方，

00:04:16.732 --> 00:04:18.990
也沒說它不可以用手臂。

00:04:19.487 --> 00:04:24.105
所以如果你訓練人工智慧要做到
快速移動，就會得到這種結果，

00:04:24.129 --> 00:04:27.663
你會得到筋斗翻和很蠢的走路姿勢。

00:04:27.687 --> 00:04:29.280
這很常見。

00:04:29.667 --> 00:04:32.846
「成堆地沿著地板抽動」亦然。

NOTE Paragraph

00:04:32.870 --> 00:04:34.545
（笑聲）

NOTE Paragraph

00:04:35.221 --> 00:04:37.884
我認為更詭異的

00:04:37.904 --> 00:04:40.100
是《魔鬼終結者》的機器人。

00:04:40.256 --> 00:04:44.011
如果你給人工智慧機會，
它也會駭入《駭客任務》的母體。

00:04:44.035 --> 00:04:46.552
如果在模擬狀況中訓練人工智慧，

00:04:46.576 --> 00:04:50.689
它會學習如何做出的事包括
駭入模擬的數學錯誤中

00:04:50.713 --> 00:04:52.576
並獲取它們作為能量。

00:04:52.944 --> 00:04:57.988
或者，它會重覆在地板
鑽上鑽下使自己移動得更快。

00:04:58.443 --> 00:05:02.388
和人工智慧合作比較像是
和某種大自然的詭異力量合作，

00:05:02.465 --> 00:05:06.210
而不太像是和人類合作。

00:05:06.562 --> 00:05:11.185
一不小心就會叫人工智慧
去解決不正確的問題，

00:05:11.209 --> 00:05:15.747
且通常出錯後我們才會發現。

NOTE Paragraph

00:05:16.242 --> 00:05:18.177
我做了一個實驗，

00:05:18.346 --> 00:05:21.528
我希望人工智慧能複製顏料顏色，

00:05:21.552 --> 00:05:23.298
發明新的顏料顏色，

00:05:23.322 --> 00:05:26.371
給它左側的這個清單。

00:05:26.798 --> 00:05:29.802
這些是人工智慧創造出來的顏色。

NOTE Paragraph

00:05:29.826 --> 00:05:32.969
〔辛迪司便便、混蛋、
苦難、灰色陰部〕

NOTE Paragraph

00:05:32.993 --> 00:05:37.223
（笑聲）

NOTE Paragraph

00:05:39.177 --> 00:05:41.063
技術上來說，

00:05:41.087 --> 00:05:42.951
它照我的意思做了。

00:05:42.975 --> 00:05:46.283
我以為我要求人工智慧
給我好聽的色彩名稱，

00:05:46.307 --> 00:05:48.614
但我實際上是在要求它

00:05:48.638 --> 00:05:53.434
模仿它在原始顏色中
所見到的那些字母組合。

00:05:53.677 --> 00:05:56.775
我沒有告訴它字的意思，

00:05:56.799 --> 00:05:59.359
也沒告訴它可能有一些字

00:05:59.383 --> 00:06:02.272
不太適合用在顏料顏色上。

00:06:03.141 --> 00:06:06.348
它所有的訊息就僅是
我給它的資料而已。

00:06:06.659 --> 00:06:10.687
和冰淇淋口味的例子一樣，
其他的它什麼都不知道。

NOTE Paragraph

00:06:12.491 --> 00:06:15.073
通常會因為資料內容的關係，

00:06:15.093 --> 00:06:18.547
無意間讓人工智慧去執行錯誤的運作。

00:06:18.694 --> 00:06:21.726
這是一種叫丁鱖的魚。

00:06:21.750 --> 00:06:23.565
有一群研究人員

00:06:23.589 --> 00:06:27.463
訓練人工智慧在照片中辨識出丁鱖。

00:06:27.487 --> 00:06:32.143
但當他們問人工智慧，它是用
圖上的哪個部分來辨識出丁鱖，

00:06:32.257 --> 00:06:34.482
結果它標記出這些部分。

00:06:35.203 --> 00:06:37.392
是的，這些是人類的手指。

00:06:37.416 --> 00:06:41.745
如果它的目標是要辨識出魚類，
為什麼要去找人類的手指？

00:06:42.126 --> 00:06:45.290
結果發現，丁鱖是釣客的戰利品，

00:06:45.314 --> 00:06:50.285
所以，人工智慧在訓練期間
所看到的大量丁鱖照片，

00:06:50.314 --> 00:06:53.454
看起來像這樣。（笑聲）

NOTE Paragraph

00:06:53.497 --> 00:06:56.827
人工智慧不知道手指並非魚的一部分。

NOTE Paragraph

00:06:58.808 --> 00:07:02.468
這就是為什麼難以設計出

00:07:02.488 --> 00:07:06.271
能看懂眼前事物為何的人工智慧。

00:07:06.301 --> 00:07:08.722
這也就是為什麼在自動駕駛汽車上

00:07:08.722 --> 00:07:11.392
設計影像辨識系統如此困難。

00:07:11.392 --> 00:07:13.477
很多自動駕駛汽車會失敗

00:07:13.501 --> 00:07:16.386
是因為困惑的人工智慧。

00:07:16.410 --> 00:07:20.107
我想要談談 2016 年的一個例子。

00:07:20.442 --> 00:07:24.897
某人在使用特斯拉的自動駕駛
人工智慧時發生了致命的意外，

00:07:24.921 --> 00:07:28.065
它原本是設計行駛在高速公路上的，

00:07:28.065 --> 00:07:30.851
但他們卻讓它行駛在城市街道上。

00:07:31.239 --> 00:07:34.311
事情的經過是：有台卡車
經過這台車的前面，

00:07:34.331 --> 00:07:36.135
這台車沒有煞車。

00:07:36.507 --> 00:07:40.895
人工智慧一定有被訓練過
如何辨識出照片中的卡車。

00:07:41.293 --> 00:07:43.438
但發生的狀況似乎是

00:07:43.462 --> 00:07:46.393
人工智慧被訓練辨識出
在高速公路上行駛的卡車，

00:07:46.417 --> 00:07:49.340
在高速公路上你會看到的
應該是卡車的車尾。

00:07:49.340 --> 00:07:52.760
高速公路上不應該會看到卡車的側面，

00:07:52.784 --> 00:07:56.239
所以，當人工智慧看到這台卡車時，

00:07:56.263 --> 00:08:01.090
人工智慧似乎把它當作是路上的號誌，

00:08:01.114 --> 00:08:03.539
因此判斷可以安全地從下方行駛過去。

NOTE Paragraph

00:08:04.114 --> 00:08:06.694
再來是另一個領域中的人工智慧過失。

00:08:06.718 --> 00:08:11.378
亞馬遜最近必須要放棄他們
努力研發的履歷排序演算法，

00:08:11.446 --> 00:08:15.052
因為他們發現演算法學會歧視女性。

00:08:15.068 --> 00:08:17.974
他們用過去僱用員工的記錄資料

00:08:17.988 --> 00:08:20.129
當作訓練人工智慧的範例。

00:08:20.364 --> 00:08:23.404
從範例中，人工智慧學到不要選擇

00:08:23.852 --> 00:08:26.052
上過女子大學的人，

00:08:26.481 --> 00:08:29.287
也不要選擇在履歷中某處
寫到「女」字的人，

00:08:29.311 --> 00:08:33.413
比如「女子足球隊」
或「女工程師協會」。

00:08:33.911 --> 00:08:36.515
人工智慧看到人類這麼做，

00:08:36.535 --> 00:08:39.720
它並不知道它不該複製這種模式。

00:08:39.911 --> 00:08:43.088
技術上來說，它也照著
他們給它的指示做了。

00:08:43.112 --> 00:08:46.120
他們只是不小心
叫人工智慧做了錯的事。

NOTE Paragraph

00:08:46.653 --> 00:08:49.548
人工智慧常常會發生這種狀況。

00:08:50.120 --> 00:08:53.711
人工智慧可能造成破壞卻不自覺。

00:08:53.735 --> 00:08:58.813
所以，在臉書、Youtube 上
負責做推薦的人工智慧，

00:08:58.837 --> 00:09:02.110
它們進行了優化以增加點閱率次數。

00:09:02.400 --> 00:09:05.836
不幸的是，它們發現，
達到目標的方法之一

00:09:05.860 --> 00:09:10.363
就是推薦關於陰謀論或偏執的內容。

00:09:10.902 --> 00:09:12.507
人工智慧本身

00:09:12.549 --> 00:09:15.956
對於推薦的內容一無所知，

00:09:16.228 --> 00:09:19.623
也對推薦這些內容會造成的後果

00:09:19.647 --> 00:09:21.756
一無所悉。

NOTE Paragraph

00:09:22.296 --> 00:09:24.307
當我們使用人工智慧時，

00:09:24.331 --> 00:09:28.513
必須要由我們來避免問題。

00:09:28.537 --> 00:09:30.860
我們若要避免出錯，

00:09:30.884 --> 00:09:34.834
可能就得歸結到溝通的老問題上，

00:09:35.434 --> 00:09:39.179
我們人類得要學習
如何和人工智慧溝通。

00:09:39.203 --> 00:09:43.107
我們得要了解人工智慧
能夠做什麼、不能做什麼，

00:09:43.129 --> 00:09:46.639
且要知道，人工智慧
只有小蟲等級的大腦，

00:09:46.659 --> 00:09:50.450
它不知道我們真正想要它做什麼。

00:09:51.148 --> 00:09:54.469
換言之，我們得有心理準備，
我們所使用的人工智慧

00:09:54.493 --> 00:09:59.751
並非科幻小說裡那種
超能、無所不知的人工智慧。

00:09:59.775 --> 00:10:05.247
我們必須準備好與現今還是
小蟲大腦等級的人工智慧共事。

00:10:05.723 --> 00:10:09.412
而現今的人工智慧是非常怪異的。

NOTE Paragraph

00:10:09.852 --> 00:10:11.042
謝謝。

NOTE Paragraph

00:10:11.066 --> 00:10:14.161
（掌聲）