人工智慧的危險性比你想的還要怪異
-
0:02 - 0:05人工智慧
-
0:05 - 0:08顛覆各產業為人所知。
-
0:09 - 0:11那冰淇淋呢?
-
0:12 - 0:15有了先進的人工智慧,
-
0:15 - 0:19我們能變出什麼驚人的新口味?
-
0:19 - 0:23我和基林中學的
一組程式設計師合作, -
0:23 - 0:25想找出這個問題的答案。
-
0:25 - 0:31他們收集了既有的
一千六百種冰淇淋口味, -
0:31 - 0:36將這些資料輸入到演算法中,
看看會產出什麼。 -
0:36 - 0:40以下是人工智慧想出來的一些口味。
-
0:40 - 0:42〔南瓜垃圾〕
-
0:42 - 0:43(笑聲)
-
0:43 - 0:46〔花生醬黏液〕
-
0:47 - 0:49〔草莓奶油疾病〕
-
0:49 - 0:50(笑聲)
-
0:50 - 0:55這些口味並不如我們預期的可口。
-
0:55 - 0:58所以問題是:到底怎麼了?
哪裡出問題了? -
0:58 - 1:00人工智慧想要害死我們嗎?
-
1:01 - 1:04或它只是照我們的指示去做,
-
1:04 - 1:05卻出了問題?
-
1:07 - 1:09在電影中,人工智慧如果出問題,
-
1:09 - 1:12通常都是因為人工智慧決定
-
1:12 - 1:14不要繼續服從人類了,
-
1:14 - 1:17它有自己的目標,非常謝謝。
-
1:17 - 1:20不過,在我們現實生活中的人工智慧
-
1:21 - 1:23並沒有聰明到能做出那樣的事。
-
1:23 - 1:26它大概只有蚯蚓程度的計算能力,
-
1:26 - 1:30或頂多到一隻蜜蜂的程度,
-
1:31 - 1:33其實,可能還更低。
-
1:33 - 1:35對於大腦我們不斷有新的發現,
-
1:35 - 1:40讓我們更清楚知道,
人工智慧遠遠比不上真實大腦。 -
1:40 - 1:42所以,現今的人工智慧可以做到
-
1:42 - 1:45在圖片中辨識出行人之類的事,
-
1:45 - 1:48但它不知道什麼是行人,
-
1:48 - 1:53只知道行人是許多
線條、結構、東西的組合。 -
1:54 - 1:56它不知道人類是什麼。
-
1:57 - 2:00所以,現今的人工智慧
會照我們要求的做嗎? -
2:00 - 2:02如果能的話,它會,
-
2:02 - 2:04但它可能不會照我們
真正想要它做的去做。 -
2:04 - 2:07比如,你想要人工智慧
-
2:07 - 2:10把這一堆機器人的零件
-
2:10 - 2:14組裝成某種機器人,
從 A 點走到 B 點。 -
2:14 - 2:19如果你是用傳統的電腦程式方法來寫,
-
2:19 - 2:22你就得要給程式一步一步的指令,
-
2:22 - 2:26告訴它要拿哪些零件,
如何組裝成有腳的機器人, -
2:26 - 2:29接著告訴它如何用腳來走到 B 點。
-
2:29 - 2:33但,若用人工智慧來解決
這個問題,做法就不同了。 -
2:33 - 2:37你不用告訴它如何解決問題,
只要給它一個目標, -
2:37 - 2:42它自己要用嘗試錯誤法
來想辦法達成目標。 -
2:42 - 2:46結果發現,人工智慧
解決這個問題的方法 -
2:46 - 2:48傾向於用這種方式:
-
2:48 - 2:51它會把它自己組裝成
一座塔,然後倒向 B, -
2:51 - 2:53就會到達 B 點了。
-
2:53 - 2:58技術上來說,問題的確解決了。
它的確抵達了 B 點。 -
2:58 - 3:02人工智慧的危險性
並不在於它會反抗我們, -
3:02 - 3:06而是它會「完全」照我們的要求去做。
-
3:07 - 3:09所以使用人工智慧的秘訣就變成是:
-
3:09 - 3:13我們要如何把問題設定好,
讓它真能照我們所想的去做? -
3:15 - 3:18這個小機器人是由人工智慧控制。
-
3:18 - 3:21人工智慧構思出機器人的腳,
-
3:21 - 3:25接著它再想出要如何
用腳來越過這些障礙。 -
3:25 - 3:28但,當大衛‧哈在設計這個實驗時,
-
3:28 - 3:31他得要訂下非常非常嚴格的限制,
-
3:31 - 3:34限制人工智慧能把腳做到多大,
-
3:34 - 3:36因為,若不限制……
-
3:43 - 3:47(笑聲)
-
3:49 - 3:52技術上,它也的確到了
障礙道的另一端。 -
3:52 - 3:57所以大家可以了解,讓人工智慧
做出走路這麼簡單的事有多難了。 -
3:57 - 4:01看到人工智慧這麼做,
你可能會說,好,這不公平, -
4:01 - 4:04你不能變成高塔然後倒下來就到位,
-
4:04 - 4:07你必須要真的用腳來走路。
-
4:07 - 4:09結果發現,那也行不通。
-
4:10 - 4:13這個人工智慧的工作
是要達成快速移動。 -
4:13 - 4:17他們沒有告訴人工智慧說
跑步時一定要面對前方, -
4:17 - 4:19也沒說它不可以用手臂。
-
4:19 - 4:24所以如果你訓練人工智慧要做到
快速移動,就會得到這種結果, -
4:24 - 4:28你會得到筋斗翻和很蠢的走路姿勢。
-
4:28 - 4:29這很常見。
-
4:30 - 4:33「成堆地沿著地板抽動」亦然。
-
4:33 - 4:35(笑聲)
-
4:35 - 4:38我認為更詭異的
-
4:38 - 4:40是《魔鬼終結者》的機器人。
-
4:40 - 4:44如果你給人工智慧機會,
它也會駭入《駭客任務》的母體。 -
4:44 - 4:47如果在模擬狀況中訓練人工智慧,
-
4:47 - 4:51它會學習如何做出的事包括
駭入模擬的數學錯誤中 -
4:51 - 4:53並獲取它們作為能量。
-
4:53 - 4:58或者,它會重覆在地板
鑽上鑽下使自己移動得更快。 -
4:58 - 5:02和人工智慧合作比較像是
和某種大自然的詭異力量合作, -
5:02 - 5:06而不太像是和人類合作。
-
5:07 - 5:11一不小心就會叫人工智慧
去解決不正確的問題, -
5:11 - 5:16且通常出錯後我們才會發現。
-
5:16 - 5:18我做了一個實驗,
-
5:18 - 5:22我希望人工智慧能複製顏料顏色,
-
5:22 - 5:23發明新的顏料顏色,
-
5:23 - 5:26給它左側的這個清單。
-
5:27 - 5:30這些是人工智慧創造出來的顏色。
-
5:30 - 5:33〔辛迪司便便、混蛋、
苦難、灰色陰部〕 -
5:33 - 5:37(笑聲)
-
5:39 - 5:41技術上來說,
-
5:41 - 5:43它照我的意思做了。
-
5:43 - 5:46我以為我要求人工智慧
給我好聽的色彩名稱, -
5:46 - 5:49但我實際上是在要求它
-
5:49 - 5:53模仿它在原始顏色中
所見到的那些字母組合。 -
5:54 - 5:57我沒有告訴它字的意思,
-
5:57 - 5:59也沒告訴它可能有一些字
-
5:59 - 6:02不太適合用在顏料顏色上。
-
6:03 - 6:06它所有的訊息就僅是
我給它的資料而已。 -
6:07 - 6:11和冰淇淋口味的例子一樣,
其他的它什麼都不知道。 -
6:12 - 6:15通常會因為資料內容的關係,
-
6:15 - 6:19無意間讓人工智慧去執行錯誤的運作。
-
6:19 - 6:22這是一種叫丁鱖的魚。
-
6:22 - 6:24有一群研究人員
-
6:24 - 6:27訓練人工智慧在照片中辨識出丁鱖。
-
6:27 - 6:32但當他們問人工智慧,它是用
圖上的哪個部分來辨識出丁鱖, -
6:32 - 6:34結果它標記出這些部分。
-
6:35 - 6:37是的,這些是人類的手指。
-
6:37 - 6:42如果它的目標是要辨識出魚類,
為什麼要去找人類的手指? -
6:42 - 6:45結果發現,丁鱖是釣客的戰利品,
-
6:45 - 6:50所以,人工智慧在訓練期間
所看到的大量丁鱖照片, -
6:50 - 6:53看起來像這樣。(笑聲)
-
6:53 - 6:57人工智慧不知道手指並非魚的一部分。
-
6:59 - 7:02這就是為什麼難以設計出
-
7:02 - 7:06能看懂眼前事物為何的人工智慧。
-
7:06 - 7:09這也就是為什麼在自動駕駛汽車上
-
7:09 - 7:11設計影像辨識系統如此困難。
-
7:11 - 7:13很多自動駕駛汽車會失敗
-
7:14 - 7:16是因為困惑的人工智慧。
-
7:16 - 7:20我想要談談 2016 年的一個例子。
-
7:20 - 7:25某人在使用特斯拉的自動駕駛
人工智慧時發生了致命的意外, -
7:25 - 7:28它原本是設計行駛在高速公路上的,
-
7:28 - 7:31但他們卻讓它行駛在城市街道上。
-
7:31 - 7:34事情的經過是:有台卡車
經過這台車的前面, -
7:34 - 7:36這台車沒有煞車。
-
7:37 - 7:41人工智慧一定有被訓練過
如何辨識出照片中的卡車。 -
7:41 - 7:43但發生的狀況似乎是
-
7:43 - 7:46人工智慧被訓練辨識出
在高速公路上行駛的卡車, -
7:46 - 7:49在高速公路上你會看到的
應該是卡車的車尾。 -
7:49 - 7:53高速公路上不應該會看到卡車的側面,
-
7:53 - 7:56所以,當人工智慧看到這台卡車時,
-
7:56 - 8:01人工智慧似乎把它當作是路上的號誌,
-
8:01 - 8:04因此判斷可以安全地從下方行駛過去。
-
8:04 - 8:07再來是另一個領域中的人工智慧過失。
-
8:07 - 8:11亞馬遜最近必須要放棄他們
努力研發的履歷排序演算法, -
8:11 - 8:15因為他們發現演算法學會歧視女性。
-
8:15 - 8:18他們用過去僱用員工的記錄資料
-
8:18 - 8:20當作訓練人工智慧的範例。
-
8:20 - 8:23從範例中,人工智慧學到不要選擇
-
8:24 - 8:26上過女子大學的人,
-
8:26 - 8:29也不要選擇在履歷中某處
寫到「女」字的人, -
8:29 - 8:33比如「女子足球隊」
或「女工程師協會」。 -
8:34 - 8:37人工智慧看到人類這麼做,
-
8:37 - 8:40它並不知道它不該複製這種模式。
-
8:40 - 8:43技術上來說,它也照著
他們給它的指示做了。 -
8:43 - 8:46他們只是不小心
叫人工智慧做了錯的事。 -
8:47 - 8:50人工智慧常常會發生這種狀況。
-
8:50 - 8:54人工智慧可能造成破壞卻不自覺。
-
8:54 - 8:59所以,在臉書、Youtube 上
負責做推薦的人工智慧, -
8:59 - 9:02它們進行了優化以增加點閱率次數。
-
9:02 - 9:06不幸的是,它們發現,
達到目標的方法之一 -
9:06 - 9:10就是推薦關於陰謀論或偏執的內容。
-
9:11 - 9:13人工智慧本身
-
9:13 - 9:16對於推薦的內容一無所知,
-
9:16 - 9:20也對推薦這些內容會造成的後果
-
9:20 - 9:22一無所悉。
-
9:22 - 9:24當我們使用人工智慧時,
-
9:24 - 9:29必須要由我們來避免問題。
-
9:29 - 9:31我們若要避免出錯,
-
9:31 - 9:35可能就得歸結到溝通的老問題上,
-
9:35 - 9:39我們人類得要學習
如何和人工智慧溝通。 -
9:39 - 9:43我們得要了解人工智慧
能夠做什麼、不能做什麼, -
9:43 - 9:47且要知道,人工智慧
只有小蟲等級的大腦, -
9:47 - 9:50它不知道我們真正想要它做什麼。
-
9:51 - 9:54換言之,我們得有心理準備,
我們所使用的人工智慧 -
9:54 - 10:00並非科幻小說裡那種
超能、無所不知的人工智慧。 -
10:00 - 10:05我們必須準備好與現今還是
小蟲大腦等級的人工智慧共事。 -
10:06 - 10:09而現今的人工智慧是非常怪異的。
-
10:10 - 10:11謝謝。
-
10:11 - 10:14(掌聲)
- Title:
- 人工智慧的危險性比你想的還要怪異
- Speaker:
- 詹妮爾‧沙恩
- Description:
-
人工智慧研究者詹妮爾‧沙恩說,人工智慧的危險性並不在於它會反抗我們,而是它會完全照我們所指示的去做。沙恩分享了人工智慧演算法在解決人類問題(如創造新的冰淇淋口味,或在道路上辨識汽車)時,所發生既詭異、有時還讓人擔憂的事。沙恩也說明了為什麼人工智慧遠比不上真實的大腦。
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Helen Chang approved Chinese, Traditional subtitles for The danger of AI is weirder than you think | ||
Helen Chang edited Chinese, Traditional subtitles for The danger of AI is weirder than you think | ||
Helen Chang edited Chinese, Traditional subtitles for The danger of AI is weirder than you think | ||
SF Huang accepted Chinese, Traditional subtitles for The danger of AI is weirder than you think | ||
SF Huang edited Chinese, Traditional subtitles for The danger of AI is weirder than you think | ||
SF Huang edited Chinese, Traditional subtitles for The danger of AI is weirder than you think | ||
Lilian Chiu edited Chinese, Traditional subtitles for The danger of AI is weirder than you think | ||
Lilian Chiu edited Chinese, Traditional subtitles for The danger of AI is weirder than you think |