[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.98,0:00:02.57,Default,,0000,0000,0000,,演算法無所不在。
Dialogue: 0,0:00:04.11,0:00:07.24,Default,,0000,0000,0000,,它們能把贏家和輸家區分開來。
Dialogue: 0,0:00:08.02,0:00:10.28,Default,,0000,0000,0000,,贏家能得到工作，
Dialogue: 0,0:00:10.31,0:00:12.05,Default,,0000,0000,0000,,或是好的信用卡方案。
Dialogue: 0,0:00:12.07,0:00:14.72,Default,,0000,0000,0000,,輸家連面試的機會都沒有，
Dialogue: 0,0:00:15.59,0:00:17.37,Default,,0000,0000,0000,,或是他們的保險費比較高。
Dialogue: 0,0:00:18.20,0:00:21.75,Default,,0000,0000,0000,,我們都被我們不了解的\N秘密方程式在評分，
Dialogue: 0,0:00:22.68,0:00:25.89,Default,,0000,0000,0000,,且那些方程式通常\N都沒有申訴體制。
Dialogue: 0,0:00:27.24,0:00:28.54,Default,,0000,0000,0000,,問題就來了：
Dialogue: 0,0:00:28.56,0:00:31.47,Default,,0000,0000,0000,,如果演算法是錯的怎麼辦？
Dialogue: 0,0:00:33.10,0:00:35.14,Default,,0000,0000,0000,,要建立一個演算法，需要兩樣東西：
Dialogue: 0,0:00:35.16,0:00:37.14,Default,,0000,0000,0000,,需要資料，資料是過去發生的事，
Dialogue: 0,0:00:37.17,0:00:38.73,Default,,0000,0000,0000,,還需要對成功的定義，
Dialogue: 0,0:00:38.75,0:00:41.21,Default,,0000,0000,0000,,也就是你在找的東西、\N你想要的東西。
Dialogue: 0,0:00:41.24,0:00:46.27,Default,,0000,0000,0000,,你透過尋找和計算的方式\N來訓練一個演算法。
Dialogue: 0,0:00:46.30,0:00:49.72,Default,,0000,0000,0000,,演算法會算出什麼和成功有相關性。
Dialogue: 0,0:00:49.74,0:00:52.20,Default,,0000,0000,0000,,什麼樣的情況會導致成功？
Dialogue: 0,0:00:52.88,0:00:54.64,Default,,0000,0000,0000,,其實，人人都在用演算法。
Dialogue: 0,0:00:54.67,0:00:57.38,Default,,0000,0000,0000,,他們只是沒把演算法寫為程式。
Dialogue: 0,0:00:57.41,0:00:58.76,Default,,0000,0000,0000,,讓我舉個例子。
Dialogue: 0,0:00:58.78,0:01:02.10,Default,,0000,0000,0000,,我每天都用演算法\N來為我的家庭做飯。
Dialogue: 0,0:01:02.12,0:01:03.60,Default,,0000,0000,0000,,我用的資料
Dialogue: 0,0:01:04.39,0:01:06.05,Default,,0000,0000,0000,,是我廚房中的原料、
Dialogue: 0,0:01:06.08,0:01:07.60,Default,,0000,0000,0000,,我擁有的時間、
Dialogue: 0,0:01:07.63,0:01:08.86,Default,,0000,0000,0000,,我的野心、
Dialogue: 0,0:01:08.88,0:01:10.59,Default,,0000,0000,0000,,我把這些資料拿來做策劃。
Dialogue: 0,0:01:10.62,0:01:14.87,Default,,0000,0000,0000,,我不把那一小包小包的\N拉麵條視為是食物。
Dialogue: 0,0:01:14.89,0:01:16.76,Default,,0000,0000,0000,,（笑聲）
Dialogue: 0,0:01:16.79,0:01:18.63,Default,,0000,0000,0000,,我對成功的定義是：
Dialogue: 0,0:01:18.66,0:01:21.31,Default,,0000,0000,0000,,如果我的孩子吃了蔬菜，\N這頓飯就算成功。
Dialogue: 0,0:01:22.18,0:01:25.04,Default,,0000,0000,0000,,但如果我的小兒子主導時\N一切就不同了。
Dialogue: 0,0:01:25.06,0:01:27.85,Default,,0000,0000,0000,,他會說，如果能吃到很多\N能多益（巧克力榛果醬）就算成功。
Dialogue: 0,0:01:29.18,0:01:31.40,Default,,0000,0000,0000,,但我能選擇什麼才算成功。
Dialogue: 0,0:01:31.43,0:01:34.14,Default,,0000,0000,0000,,我是主導的人，我的意見才重要。
Dialogue: 0,0:01:34.16,0:01:36.84,Default,,0000,0000,0000,,那是演算法的第一條規則。
Dialogue: 0,0:01:36.86,0:01:40.04,Default,,0000,0000,0000,,演算法是被嵌入程式中的意見。
Dialogue: 0,0:01:41.56,0:01:45.22,Default,,0000,0000,0000,,這和你認為大部份人\N對演算法的看法很不一樣。
Dialogue: 0,0:01:45.25,0:01:49.75,Default,,0000,0000,0000,,他們認為演算法是\N客觀的、真實的、科學的。
Dialogue: 0,0:01:50.39,0:01:52.09,Default,,0000,0000,0000,,那是種行銷技倆。
Dialogue: 0,0:01:53.27,0:01:55.39,Default,,0000,0000,0000,,還有一種行銷技倆是
Dialogue: 0,0:01:55.42,0:01:58.57,Default,,0000,0000,0000,,用演算法來威脅你，
Dialogue: 0,0:01:58.60,0:02:02.26,Default,,0000,0000,0000,,讓你相信並懼怕演算法，
Dialogue: 0,0:02:02.28,0:02:04.30,Default,,0000,0000,0000,,因為你相信並懼怕數學。
Dialogue: 0,0:02:05.57,0:02:10.40,Default,,0000,0000,0000,,當我們盲目相信大數據時，\N很多地方都可能出錯。
Dialogue: 0,0:02:11.68,0:02:15.06,Default,,0000,0000,0000,,這位是琦莉索瑞斯，\N她是布魯克林的高中校長。
Dialogue: 0,0:02:15.08,0:02:17.67,Default,,0000,0000,0000,,2011 年，她告訴我，\N用來評分她的老師的演算法
Dialogue: 0,0:02:17.69,0:02:20.42,Default,,0000,0000,0000,,是一種複雜的秘密演算法，
Dialogue: 0,0:02:20.44,0:02:21.93,Default,,0000,0000,0000,,叫做「加值模型」。
Dialogue: 0,0:02:22.50,0:02:25.60,Default,,0000,0000,0000,,我告訴她：「找出那方程式\N是什麼，給我看，
Dialogue: 0,0:02:25.62,0:02:27.16,Default,,0000,0000,0000,,我就會解釋給你聽。」
Dialogue: 0,0:02:27.19,0:02:29.33,Default,,0000,0000,0000,,她說：「嗯，我試過取得方程式了，
Dialogue: 0,0:02:29.35,0:02:32.12,Default,,0000,0000,0000,,但教育部聯絡人告訴我，\N那方程式是數學，
Dialogue: 0,0:02:32.15,0:02:33.69,Default,,0000,0000,0000,,我也看不懂的。」
Dialogue: 0,0:02:35.27,0:02:36.60,Default,,0000,0000,0000,,還有更糟的。
Dialogue: 0,0:02:36.63,0:02:40.16,Default,,0000,0000,0000,,紐約郵報提出了一項\N資訊自由法案的請求，
Dialogue: 0,0:02:40.18,0:02:43.14,Default,,0000,0000,0000,,取得有所有老師的名字\N以及他們的分數，
Dialogue: 0,0:02:43.16,0:02:45.95,Default,,0000,0000,0000,,郵報把這些都刊出來，\N用來羞辱老師。
Dialogue: 0,0:02:47.08,0:02:50.94,Default,,0000,0000,0000,,當我試著透過同樣的手段\N來找出方程式、原始碼，
Dialogue: 0,0:02:50.97,0:02:53.12,Default,,0000,0000,0000,,我被告知我不可能辦到。
Dialogue: 0,0:02:53.14,0:02:54.38,Default,,0000,0000,0000,,我被拒絕了。
Dialogue: 0,0:02:54.40,0:02:55.58,Default,,0000,0000,0000,,我後來發現，
Dialogue: 0,0:02:55.60,0:02:58.46,Default,,0000,0000,0000,,紐約市中沒有人能取得那方程式。
Dialogue: 0,0:02:58.49,0:02:59.79,Default,,0000,0000,0000,,沒有人了解它。
Dialogue: 0,0:03:01.93,0:03:05.15,Default,,0000,0000,0000,,有個很聰明的人介入：\N蓋瑞魯賓斯坦。
Dialogue: 0,0:03:05.18,0:03:08.80,Default,,0000,0000,0000,,他發現紐約郵報資料中\N有 665 名老師
Dialogue: 0,0:03:08.82,0:03:10.69,Default,,0000,0000,0000,,其實有兩個分數。
Dialogue: 0,0:03:10.71,0:03:12.59,Default,,0000,0000,0000,,如果他們是在教七年級
Dialogue: 0,0:03:12.62,0:03:15.06,Default,,0000,0000,0000,,及八年級數學，是有可能發生。
Dialogue: 0,0:03:15.08,0:03:16.62,Default,,0000,0000,0000,,他決定把他們用圖畫出來。
Dialogue: 0,0:03:16.64,0:03:18.64,Default,,0000,0000,0000,,每一個點代表一個老師。
Dialogue: 0,0:03:19.10,0:03:21.48,Default,,0000,0000,0000,,（笑聲）
Dialogue: 0,0:03:21.51,0:03:23.03,Default,,0000,0000,0000,,那是什麼？
Dialogue: 0,0:03:23.05,0:03:24.33,Default,,0000,0000,0000,,（笑聲）
Dialogue: 0,0:03:24.35,0:03:27.80,Default,,0000,0000,0000,,那絕對不該被用來做個人評估用。
Dialogue: 0,0:03:27.82,0:03:29.75,Default,,0000,0000,0000,,它幾乎就是個隨機數產生器。
Dialogue: 0,0:03:29.77,0:03:32.72,Default,,0000,0000,0000,,（掌聲）
Dialogue: 0,0:03:32.74,0:03:33.90,Default,,0000,0000,0000,,但它的確被用了。
Dialogue: 0,0:03:33.93,0:03:35.10,Default,,0000,0000,0000,,這是莎拉薇沙琪，
Dialogue: 0,0:03:35.13,0:03:37.30,Default,,0000,0000,0000,,她和其他 205 名老師都被開除了，
Dialogue: 0,0:03:37.33,0:03:39.99,Default,,0000,0000,0000,,都是在華盛頓特區的學區，
Dialogue: 0,0:03:40.01,0:03:42.92,Default,,0000,0000,0000,,即使她有校長及\N學童家長的強力推薦，
Dialogue: 0,0:03:42.95,0:03:44.38,Default,,0000,0000,0000,,還是被開除了。
Dialogue: 0,0:03:45.39,0:03:47.42,Default,,0000,0000,0000,,我很清楚你們在想什麼，
Dialogue: 0,0:03:47.45,0:03:49.54,Default,,0000,0000,0000,,特別是這裡的資料科學家\N及人工智慧專家。
Dialogue: 0,0:03:49.54,0:03:54.18,Default,,0000,0000,0000,,你們在想：「我絕對不會寫出\N那麼不一致的演算法。」
Dialogue: 0,0:03:54.85,0:03:56.54,Default,,0000,0000,0000,,但演算法是可能出錯的，
Dialogue: 0,0:03:56.56,0:04:01.16,Default,,0000,0000,0000,,即使出自好意\N仍可能產生毀滅性的效應。
Dialogue: 0,0:04:02.53,0:04:04.91,Default,,0000,0000,0000,,設計得很糟的飛機墜機，
Dialogue: 0,0:04:04.93,0:04:06.94,Default,,0000,0000,0000,,每個人都會看到；
Dialogue: 0,0:04:06.96,0:04:08.81,Default,,0000,0000,0000,,可是，設計很糟的演算法，
Dialogue: 0,0:04:10.24,0:04:14.11,Default,,0000,0000,0000,,可以一直運作很長的時間，\N靜靜地製造破壞或混亂。
Dialogue: 0,0:04:15.75,0:04:17.32,Default,,0000,0000,0000,,這位是羅傑艾爾斯。
Dialogue: 0,0:04:17.34,0:04:19.34,Default,,0000,0000,0000,,（笑聲）
Dialogue: 0,0:04:20.52,0:04:22.91,Default,,0000,0000,0000,,他在 1996 年成立了 Fox News。
Dialogue: 0,0:04:23.44,0:04:26.02,Default,,0000,0000,0000,,有超過二十位女性投訴性騷擾。
Dialogue: 0,0:04:26.04,0:04:29.28,Default,,0000,0000,0000,,她們說，她們在 Fox News\N不被允許成功。
Dialogue: 0,0:04:29.30,0:04:31.82,Default,,0000,0000,0000,,他去年被攆走了，但我們看到近期
Dialogue: 0,0:04:31.84,0:04:34.51,Default,,0000,0000,0000,,這個問題仍然存在。
Dialogue: 0,0:04:35.65,0:04:37.05,Default,,0000,0000,0000,,這就帶來一個問題：
Dialogue: 0,0:04:37.08,0:04:39.96,Default,,0000,0000,0000,,Fox News 該做什麼才能改過自新？
Dialogue: 0,0:04:41.24,0:04:44.29,Default,,0000,0000,0000,,如果他們把僱用的流程換掉，
Dialogue: 0,0:04:44.31,0:04:45.96,Default,,0000,0000,0000,,換成機器學習演算法呢？
Dialogue: 0,0:04:45.99,0:04:47.58,Default,,0000,0000,0000,,聽起來很好，對嗎？
Dialogue: 0,0:04:47.61,0:04:48.91,Default,,0000,0000,0000,,想想看。
Dialogue: 0,0:04:48.93,0:04:51.04,Default,,0000,0000,0000,,資料，資料會是什麼？
Dialogue: 0,0:04:51.06,0:04:56.01,Default,,0000,0000,0000,,一個合理的選擇會是 Fox News \N過去 21 年間收到的申請。
Dialogue: 0,0:04:56.03,0:04:57.53,Default,,0000,0000,0000,,很合理。
Dialogue: 0,0:04:57.56,0:04:59.50,Default,,0000,0000,0000,,成功的定義呢？
Dialogue: 0,0:04:59.92,0:05:01.24,Default,,0000,0000,0000,,合理的選擇會是，
Dialogue: 0,0:05:01.27,0:05:03.05,Default,,0000,0000,0000,,在 Fox News 有誰是成功的？
Dialogue: 0,0:05:03.07,0:05:06.65,Default,,0000,0000,0000,,我猜是在那邊待了四年、
Dialogue: 0,0:05:06.68,0:05:08.33,Default,,0000,0000,0000,,且至少升遷過一次的人。
Dialogue: 0,0:05:08.82,0:05:10.38,Default,,0000,0000,0000,,聽起來很合理。
Dialogue: 0,0:05:10.40,0:05:12.76,Default,,0000,0000,0000,,接著，演算法就會被訓練。
Dialogue: 0,0:05:12.78,0:05:16.66,Default,,0000,0000,0000,,它會被訓練來找人，\N尋找什麼導致成功，
Dialogue: 0,0:05:17.22,0:05:21.54,Default,,0000,0000,0000,,在過去怎樣的申請書會導致成功，
Dialogue: 0,0:05:21.56,0:05:22.86,Default,,0000,0000,0000,,用剛剛的成功定義。
Dialogue: 0,0:05:24.20,0:05:25.98,Default,,0000,0000,0000,,想想看會發生什麼事，
Dialogue: 0,0:05:25.100,0:05:28.55,Default,,0000,0000,0000,,如果我們把它用到\N目前的一堆申請書上。
Dialogue: 0,0:05:29.12,0:05:30.75,Default,,0000,0000,0000,,它會把女性過濾掉，
Dialogue: 0,0:05:31.66,0:05:35.59,Default,,0000,0000,0000,,因為在過去，女性\N並不像是會成功的人。
Dialogue: 0,0:05:39.75,0:05:42.76,Default,,0000,0000,0000,,如果只是漫不經心、\N盲目地運用演算法，
Dialogue: 0,0:05:42.76,0:05:45.01,Default,,0000,0000,0000,,它們並不會讓事情變公平。
Dialogue: 0,0:05:45.03,0:05:46.51,Default,,0000,0000,0000,,演算法不會讓事情變公平。
Dialogue: 0,0:05:46.54,0:05:48.66,Default,,0000,0000,0000,,它們會重覆我們過去的做法，
Dialogue: 0,0:05:48.69,0:05:49.87,Default,,0000,0000,0000,,我們的模式。
Dialogue: 0,0:05:49.90,0:05:51.84,Default,,0000,0000,0000,,它們會把現狀給自動化。
Dialogue: 0,0:05:52.72,0:05:55.11,Default,,0000,0000,0000,,如果我們有個完美的\N世界，那就很好了，
Dialogue: 0,0:05:55.90,0:05:57.22,Default,,0000,0000,0000,,但世界不完美。
Dialogue: 0,0:05:57.24,0:06:01.34,Default,,0000,0000,0000,,我還要補充，大部份公司\N沒有難堪的訴訟，
Dialogue: 0,0:06:02.45,0:06:05.03,Default,,0000,0000,0000,,但在那些公司中的資料科學家
Dialogue: 0,0:06:05.06,0:06:07.25,Default,,0000,0000,0000,,被告知要遵從資料，
Dialogue: 0,0:06:07.27,0:06:09.41,Default,,0000,0000,0000,,著重正確率。
Dialogue: 0,0:06:10.27,0:06:11.65,Default,,0000,0000,0000,,想想那意味著什麼。
Dialogue: 0,0:06:11.68,0:06:15.70,Default,,0000,0000,0000,,因為我們都有偏見，那就意味著，\N他們可能會把性別偏見
Dialogue: 0,0:06:15.73,0:06:17.56,Default,,0000,0000,0000,,或其他偏執給寫到程式中，
Dialogue: 0,0:06:19.49,0:06:20.91,Default,,0000,0000,0000,,來做個思想實驗，
Dialogue: 0,0:06:20.93,0:06:22.44,Default,,0000,0000,0000,,因為我喜歡思想實驗：
Dialogue: 0,0:06:23.57,0:06:26.55,Default,,0000,0000,0000,,一個完全種族隔離的社會，
Dialogue: 0,0:06:28.25,0:06:31.58,Default,,0000,0000,0000,,所有的城鎮、所有的街坊\N都做了種族隔離，
Dialogue: 0,0:06:31.60,0:06:34.64,Default,,0000,0000,0000,,我們只會針對少數種族\N住的街坊派出警力
Dialogue: 0,0:06:34.66,0:06:35.85,Default,,0000,0000,0000,,來尋找犯罪。
Dialogue: 0,0:06:36.45,0:06:38.67,Default,,0000,0000,0000,,逮捕的資料會非常偏頗。
Dialogue: 0,0:06:39.85,0:06:42.43,Default,,0000,0000,0000,,如果再加上，我們\N找到了資料科學家，
Dialogue: 0,0:06:42.45,0:06:46.61,Default,,0000,0000,0000,,付錢給他們，要他們預測下次\N犯罪會發生在哪裡，會如何？
Dialogue: 0,0:06:47.28,0:06:48.76,Default,,0000,0000,0000,,答案：少數種族的街坊。
Dialogue: 0,0:06:49.28,0:06:52.41,Default,,0000,0000,0000,,或是去預測下一位犯人會是誰？
Dialogue: 0,0:06:52.89,0:06:54.28,Default,,0000,0000,0000,,答案：少數族裔。
Dialogue: 0,0:06:55.95,0:06:59.49,Default,,0000,0000,0000,,資料科學家會吹噓他們的的模型
Dialogue: 0,0:06:59.51,0:07:00.81,Default,,0000,0000,0000,,有多了不起、多精準，
Dialogue: 0,0:07:00.84,0:07:02.13,Default,,0000,0000,0000,,他們是對的。
Dialogue: 0,0:07:03.95,0:07:08.57,Default,,0000,0000,0000,,現實沒那麼極端，但在許多\N城鎮和城市中，我們的確有
Dialogue: 0,0:07:08.59,0:07:09.88,Default,,0000,0000,0000,,嚴重的種族隔離，
Dialogue: 0,0:07:09.90,0:07:11.79,Default,,0000,0000,0000,,我們有很多證據可證明
Dialogue: 0,0:07:11.82,0:07:14.51,Default,,0000,0000,0000,,執法和司法資料是偏頗的。
Dialogue: 0,0:07:15.63,0:07:18.45,Default,,0000,0000,0000,,我們確實預測了熱點，
Dialogue: 0,0:07:18.47,0:07:20.00,Default,,0000,0000,0000,,犯罪會發生的地方。
Dialogue: 0,0:07:20.40,0:07:24.27,Default,,0000,0000,0000,,事實上，我們確實預測了\N個別的犯罪行為，
Dialogue: 0,0:07:24.29,0:07:26.06,Default,,0000,0000,0000,,個人的犯罪行為。
Dialogue: 0,0:07:26.97,0:07:30.94,Default,,0000,0000,0000,,新聞組織 ProPublica 近期調查了
Dialogue: 0,0:07:30.96,0:07:32.98,Default,,0000,0000,0000,,「累犯風險」演算法之一，
Dialogue: 0,0:07:33.01,0:07:34.17,Default,,0000,0000,0000,,他們是這麼稱呼它的，
Dialogue: 0,0:07:34.19,0:07:37.39,Default,,0000,0000,0000,,演算法被用在佛羅里達，\N法官在判刑時使用。
Dialogue: 0,0:07:38.41,0:07:41.100,Default,,0000,0000,0000,,左邊的黑人是伯納，\N總分十分，他得了十分。
Dialogue: 0,0:07:43.18,0:07:45.19,Default,,0000,0000,0000,,右邊的狄倫，十分只得了三分。
Dialogue: 0,0:07:45.21,0:07:47.71,Default,,0000,0000,0000,,十分就得十分，高風險。\N十分只得三分，低風險。
Dialogue: 0,0:07:48.60,0:07:50.98,Default,,0000,0000,0000,,他們都因為持有藥品而被逮捕。
Dialogue: 0,0:07:51.01,0:07:52.16,Default,,0000,0000,0000,,他們都有犯罪記錄，
Dialogue: 0,0:07:52.18,0:07:54.99,Default,,0000,0000,0000,,但狄倫犯過重罪，
Dialogue: 0,0:07:55.02,0:07:56.19,Default,,0000,0000,0000,,伯納則沒有。
Dialogue: 0,0:07:57.82,0:08:00.88,Default,,0000,0000,0000,,這很重要，因為你的得分越高，
Dialogue: 0,0:08:00.91,0:08:04.38,Default,,0000,0000,0000,,你就越可能被判比較長的徒刑。
Dialogue: 0,0:08:06.29,0:08:07.59,Default,,0000,0000,0000,,發生了什麼事？
Dialogue: 0,0:08:08.53,0:08:09.86,Default,,0000,0000,0000,,洗資料。
Dialogue: 0,0:08:10.93,0:08:15.36,Default,,0000,0000,0000,,它是個流程，即技術專家\N用黑箱作業的演算法
Dialogue: 0,0:08:15.38,0:08:17.20,Default,,0000,0000,0000,,來隱藏醜陋的真相，
Dialogue: 0,0:08:17.23,0:08:18.52,Default,,0000,0000,0000,,還宣稱是客觀的；
Dialogue: 0,0:08:19.32,0:08:20.89,Default,,0000,0000,0000,,是精英領導的。
Dialogue: 0,0:08:23.12,0:08:24.86,Default,,0000,0000,0000,,我為這些秘密、重要、
Dialogue: 0,0:08:24.86,0:08:28.01,Default,,0000,0000,0000,,又有毀滅性的演算法取了個名字：
Dialogue: 0,0:08:28.04,0:08:30.04,Default,,0000,0000,0000,,「毀滅性的數學武器」。
Dialogue: 0,0:08:30.06,0:08:31.62,Default,,0000,0000,0000,,（笑聲）
Dialogue: 0,0:08:31.65,0:08:34.70,Default,,0000,0000,0000,,（掌聲）
Dialogue: 0,0:08:34.73,0:08:37.08,Default,,0000,0000,0000,,它們無所不在，且不是個過失。
Dialogue: 0,0:08:37.70,0:08:41.42,Default,,0000,0000,0000,,私人公司建立私人演算法，
Dialogue: 0,0:08:41.44,0:08:42.83,Default,,0000,0000,0000,,來達到私人的目的。
Dialogue: 0,0:08:43.21,0:08:46.43,Default,,0000,0000,0000,,即使是我剛談到\N對老師和警方用的演算法，
Dialogue: 0,0:08:46.45,0:08:48.32,Default,,0000,0000,0000,,也是由私人公司建立的，
Dialogue: 0,0:08:48.34,0:08:50.58,Default,,0000,0000,0000,,然後再銷售給政府機關。
Dialogue: 0,0:08:50.60,0:08:52.47,Default,,0000,0000,0000,,他們稱它為「秘方醬料」，
Dialogue: 0,0:08:52.50,0:08:54.62,Default,,0000,0000,0000,,所以不能跟我們討論它。
Dialogue: 0,0:08:54.65,0:08:56.87,Default,,0000,0000,0000,,它也是種私人的權力。
Dialogue: 0,0:08:57.92,0:09:02.62,Default,,0000,0000,0000,,他們透過行使別人\N無法理解的權威來獲利。
Dialogue: 0,0:09:05.11,0:09:08.05,Default,,0000,0000,0000,,你可能會認為，\N所有這些都是私人的，
Dialogue: 0,0:09:08.07,0:09:09.23,Default,,0000,0000,0000,,且有競爭存在，
Dialogue: 0,0:09:09.25,0:09:11.56,Default,,0000,0000,0000,,也許自由市場會解決這個問題。
Dialogue: 0,0:09:11.58,0:09:12.83,Default,,0000,0000,0000,,並不會。
Dialogue: 0,0:09:12.86,0:09:15.98,Default,,0000,0000,0000,,從不公平中可以賺取很多錢。
Dialogue: 0,0:09:17.13,0:09:20.50,Default,,0000,0000,0000,,且，我們不是經濟合法代理人。
Dialogue: 0,0:09:21.03,0:09:22.32,Default,,0000,0000,0000,,我們都有偏見。
Dialogue: 0,0:09:22.96,0:09:26.34,Default,,0000,0000,0000,,我們都是種族主義的、偏執的，\N即使我們也希望不要這樣，
Dialogue: 0,0:09:26.36,0:09:28.38,Default,,0000,0000,0000,,我們甚至不知道我們是這樣的。
Dialogue: 0,0:09:29.35,0:09:32.43,Default,,0000,0000,0000,,不過我們確實知道，總的來說，
Dialogue: 0,0:09:32.46,0:09:35.68,Default,,0000,0000,0000,,因為社會學家不斷地用\N他們建立的實驗
Dialogue: 0,0:09:35.70,0:09:37.37,Default,,0000,0000,0000,,來展現出這一點，
Dialogue: 0,0:09:37.39,0:09:39.96,Default,,0000,0000,0000,,他們寄出一大堆的工作申請書，
Dialogue: 0,0:09:39.98,0:09:42.48,Default,,0000,0000,0000,,都有同樣的資格，\N但有些用白人人名，
Dialogue: 0,0:09:42.51,0:09:44.21,Default,,0000,0000,0000,,有些用黑人人名，
Dialogue: 0,0:09:44.24,0:09:46.93,Default,,0000,0000,0000,,結果總是讓人失望的，總是如此。
Dialogue: 0,0:09:47.51,0:09:49.28,Default,,0000,0000,0000,,所以，我們才是有偏見的人，
Dialogue: 0,0:09:49.30,0:09:52.73,Default,,0000,0000,0000,,且我們把這些偏見注入演算法中，
Dialogue: 0,0:09:52.76,0:09:54.57,Default,,0000,0000,0000,,做法是選擇要收集哪些資料、
Dialogue: 0,0:09:54.59,0:09:57.34,Default,,0000,0000,0000,,比如我選擇不要考量拉麵，
Dialogue: 0,0:09:57.36,0:09:58.99,Default,,0000,0000,0000,,我決定它不重要。
Dialogue: 0,0:09:59.01,0:10:04.69,Default,,0000,0000,0000,,但透過相信這些資料\N真的能了解過去的做法，
Dialogue: 0,0:10:04.72,0:10:06.73,Default,,0000,0000,0000,,以及透過選擇成功的定義，
Dialogue: 0,0:10:06.76,0:10:10.74,Default,,0000,0000,0000,,我們如何能冀望產生的演算法未受損？
Dialogue: 0,0:10:10.76,0:10:13.12,Default,,0000,0000,0000,,不能。我們得要檢查這些演算法。
Dialogue: 0,0:10:14.16,0:10:15.87,Default,,0000,0000,0000,,我們得要檢查它們是否公平。
Dialogue: 0,0:10:15.90,0:10:18.61,Default,,0000,0000,0000,,好消息是，我們可以\N檢查它們是否公平。
Dialogue: 0,0:10:18.63,0:10:21.98,Default,,0000,0000,0000,,演算法可以被審問，
Dialogue: 0,0:10:22.01,0:10:24.04,Default,,0000,0000,0000,,且它們每次都會告訴我們真相。
Dialogue: 0,0:10:24.07,0:10:26.56,Default,,0000,0000,0000,,我們可以修正它們，\N我們可以把它們變更好。
Dialogue: 0,0:10:26.58,0:10:28.96,Default,,0000,0000,0000,,我稱這個為演算法稽核，
Dialogue: 0,0:10:28.98,0:10:30.66,Default,,0000,0000,0000,,我會帶大家來了解它。
Dialogue: 0,0:10:30.69,0:10:32.88,Default,,0000,0000,0000,,首先，檢查資料完整性。
Dialogue: 0,0:10:34.13,0:10:36.79,Default,,0000,0000,0000,,針對我先前說的累犯風險演算法，
Dialogue: 0,0:10:37.58,0:10:41.16,Default,,0000,0000,0000,,檢查資料完整性就意味著\N我們得接受事實，
Dialogue: 0,0:10:41.18,0:10:44.70,Default,,0000,0000,0000,,事實是，在美國，白人和黑人\N抽大麻的比率是一樣的，
Dialogue: 0,0:10:44.73,0:10:47.21,Default,,0000,0000,0000,,但黑人被逮捕的機率遠高於白人，
Dialogue: 0,0:10:47.24,0:10:50.42,Default,,0000,0000,0000,,四、五倍高的可能性被捕，\N依地區而異。
Dialogue: 0,0:10:51.32,0:10:54.14,Default,,0000,0000,0000,,在其他犯罪類別中，\N那樣的偏見會如何呈現？
Dialogue: 0,0:10:54.17,0:10:55.62,Default,,0000,0000,0000,,我們要如何處理它？
Dialogue: 0,0:10:56.16,0:10:59.20,Default,,0000,0000,0000,,第二，我們要想想成功的定義，
Dialogue: 0,0:10:59.22,0:11:00.61,Default,,0000,0000,0000,,去稽核它。
Dialogue: 0,0:11:00.63,0:11:03.38,Default,,0000,0000,0000,,記得我們剛剛談過的僱用演算法嗎？
Dialogue: 0,0:11:03.41,0:11:06.57,Default,,0000,0000,0000,,待了四年且升遷至少一次？
Dialogue: 0,0:11:06.60,0:11:08.36,Default,,0000,0000,0000,,那就是個成功員工，
Dialogue: 0,0:11:08.39,0:11:11.47,Default,,0000,0000,0000,,但那也是個被其文化所支持的員工。
Dialogue: 0,0:11:12.09,0:11:14.02,Default,,0000,0000,0000,,儘管如此，它也可能很有偏見。
Dialogue: 0,0:11:14.04,0:11:16.10,Default,,0000,0000,0000,,我們得把這兩件事分開。
Dialogue: 0,0:11:16.13,0:11:18.55,Default,,0000,0000,0000,,我們應該要把交響樂團的盲眼甄選
Dialogue: 0,0:11:18.58,0:11:19.77,Default,,0000,0000,0000,,當作參考範例。
Dialogue: 0,0:11:19.80,0:11:22.55,Default,,0000,0000,0000,,他們的做法是讓試演奏的人\N在布幕後演奏。
Dialogue: 0,0:11:22.95,0:11:24.88,Default,,0000,0000,0000,,我想探討的重點是
Dialogue: 0,0:11:24.90,0:11:28.32,Default,,0000,0000,0000,,那些在聽並且決定什麼重要的人，
Dialogue: 0,0:11:28.34,0:11:30.37,Default,,0000,0000,0000,,他們也會決定什麼不重要 ，
Dialogue: 0,0:11:30.40,0:11:32.45,Default,,0000,0000,0000,,他們不會被不重要的部份給分心。
Dialogue: 0,0:11:32.96,0:11:35.71,Default,,0000,0000,0000,,當交響樂團開始採用盲眼甄選，
Dialogue: 0,0:11:35.73,0:11:39.18,Default,,0000,0000,0000,,團內的女性成員數上升五倍。
Dialogue: 0,0:11:40.25,0:11:42.27,Default,,0000,0000,0000,,接著，我們要考量正確率。
Dialogue: 0,0:11:43.23,0:11:46.97,Default,,0000,0000,0000,,這就是老師的加值模型\N立刻會出問題的地方。
Dialogue: 0,0:11:47.58,0:11:49.74,Default,,0000,0000,0000,,當然，沒有演算法是完美的，
Dialogue: 0,0:11:50.62,0:11:54.22,Default,,0000,0000,0000,,所以我們得要考量\N每個演算法的錯誤。
Dialogue: 0,0:11:54.84,0:11:59.20,Default,,0000,0000,0000,,多常會出現錯誤、這個模型\N針對哪些人會發生錯誤？
Dialogue: 0,0:11:59.85,0:12:01.57,Default,,0000,0000,0000,,發生錯誤的成本多高？
Dialogue: 0,0:12:02.43,0:12:04.64,Default,,0000,0000,0000,,最後，我們得要考量
Dialogue: 0,0:12:05.97,0:12:08.16,Default,,0000,0000,0000,,演算法的長期效應，
Dialogue: 0,0:12:08.87,0:12:11.07,Default,,0000,0000,0000,,也就是產生出來的反饋迴圈。
Dialogue: 0,0:12:11.59,0:12:12.82,Default,,0000,0000,0000,,那聽起來很抽象，
Dialogue: 0,0:12:12.85,0:12:15.51,Default,,0000,0000,0000,,但想像一下，如果臉書的工程師
Dialogue: 0,0:12:16.27,0:12:21.12,Default,,0000,0000,0000,,決定只讓我們看到朋友的貼文\N之前就先考量那一點。
Dialogue: 0,0:12:21.76,0:12:24.100,Default,,0000,0000,0000,,我還有兩個訊息要傳遞，\N其一是給資料科學家的。
Dialogue: 0,0:12:25.45,0:12:28.62,Default,,0000,0000,0000,,資料科學家，我們\N不應該是真相的仲裁者，
Dialogue: 0,0:12:29.52,0:12:31.61,Default,,0000,0000,0000,,我們應該是翻譯者，
Dialogue: 0,0:12:31.61,0:12:34.62,Default,,0000,0000,0000,,翻譯大社會中發生的每個道德討論。
Dialogue: 0,0:12:35.58,0:12:37.71,Default,,0000,0000,0000,,（掌聲）
Dialogue: 0,0:12:37.74,0:12:39.29,Default,,0000,0000,0000,,至於你們其他人，
Dialogue: 0,0:12:40.01,0:12:41.41,Default,,0000,0000,0000,,不是資料科學家的人：
Dialogue: 0,0:12:41.43,0:12:42.93,Default,,0000,0000,0000,,這不是個數學考試。
Dialogue: 0,0:12:43.63,0:12:44.98,Default,,0000,0000,0000,,這是場政治鬥爭。
Dialogue: 0,0:12:46.59,0:12:50.49,Default,,0000,0000,0000,,我們得要求為演算法的超載負責。
Dialogue: 0,0:12:52.12,0:12:53.62,Default,,0000,0000,0000,,（掌聲）
Dialogue: 0,0:12:53.64,0:12:57.87,Default,,0000,0000,0000,,盲目信仰大數據的時代必須要結束。
Dialogue: 0,0:12:57.89,0:12:59.06,Default,,0000,0000,0000,,非常謝謝。
Dialogue: 0,0:12:59.08,0:13:04.38,Default,,0000,0000,0000,,（掌聲）