[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:01.00,0:00:06.83,Default,,0000,0000,0000,,克里斯．安德森：尼克．博斯特倫。\N你已經給了我們好多瘋狂的點子。
Dialogue: 0,0:00:06.83,0:00:08.58,Default,,0000,0000,0000,,我想，幾十年前，
Dialogue: 0,0:00:08.58,0:00:11.37,Default,,0000,0000,0000,,你提出我們都可能\N生活在模擬世界當中，
Dialogue: 0,0:00:11.37,0:00:13.38,Default,,0000,0000,0000,,或者是真的。
Dialogue: 0,0:00:13.38,0:00:14.98,Default,,0000,0000,0000,,最近，
Dialogue: 0,0:00:14.98,0:00:19.38,Default,,0000,0000,0000,,你利用最生動的例子\N說明了通用人工智慧
Dialogue: 0,0:00:19.38,0:00:21.47,Default,,0000,0000,0000,,可能出現嚴重的問題。
Dialogue: 0,0:00:21.69,0:00:23.14,Default,,0000,0000,0000,,當前，
Dialogue: 0,0:00:23.17,0:00:25.39,Default,,0000,0000,0000,,你準備出版
Dialogue: 0,0:00:25.42,0:00:29.35,Default,,0000,0000,0000,,一篇論文，說明所謂\N「脆弱世界的假設」。
Dialogue: 0,0:00:29.38,0:00:33.96,Default,,0000,0000,0000,,今晚，我們要跟大家說明它。
Dialogue: 0,0:00:34.42,0:00:36.25,Default,,0000,0000,0000,,咱們開始吧！
Dialogue: 0,0:00:36.83,0:00:38.62,Default,,0000,0000,0000,,那個假設是什麼？
Dialogue: 0,0:00:40.00,0:00:42.46,Default,,0000,0000,0000,,尼克．博斯特倫：它就是嘗試去考慮
Dialogue: 0,0:00:42.46,0:00:45.54,Default,,0000,0000,0000,,目前人類狀況的結構性特徵。
Dialogue: 0,0:00:47.12,0:00:49.48,Default,,0000,0000,0000,,你喜歡甕的比喻吧，
Dialogue: 0,0:00:49.48,0:00:51.39,Default,,0000,0000,0000,,這就讓我用它來說明好了。
Dialogue: 0,0:00:51.42,0:00:55.77,Default,,0000,0000,0000,,想像一個大甕，裡面裝滿了小球，
Dialogue: 0,0:00:55.79,0:00:59.75,Default,,0000,0000,0000,,小球代表理念、方法、潛在的科技。
Dialogue: 0,0:01:00.83,0:01:04.51,Default,,0000,0000,0000,,你可以把人類創意的歷史，
Dialogue: 0,0:01:04.51,0:01:08.52,Default,,0000,0000,0000,,想像成將手伸入這個甕，\N把球逐個拿出來的過程，
Dialogue: 0,0:01:09.16,0:01:11.67,Default,,0000,0000,0000,,到目前為止的淨效應是非常好。
Dialogue: 0,0:01:11.67,0:01:14.42,Default,,0000,0000,0000,,我們已經取出了許多白球，
Dialogue: 0,0:01:14.42,0:01:17.59,Default,,0000,0000,0000,,和一些不同深淺灰色的球：\N表示好壞參半。
Dialogue: 0,0:01:18.04,0:01:21.15,Default,,0000,0000,0000,,目前我們還沒有拿出黑球來——
Dialogue: 0,0:01:22.29,0:01:27.79,Default,,0000,0000,0000,,黑球代表是一種科技，\N無可避免毀滅發明它的文明。
Dialogue: 0,0:01:27.79,0:01:31.06,Default,,0000,0000,0000,,所以，這篇論文是在試圖\N思考黑球可能會是什麼。
Dialogue: 0,0:01:31.08,0:01:32.92,Default,,0000,0000,0000,,克：所以你把它定義為
Dialogue: 0,0:01:32.92,0:01:36.60,Default,,0000,0000,0000,,勢必造成毀滅文明的小球。
Dialogue: 0,0:01:36.62,0:01:41.93,Default,,0000,0000,0000,,尼：除非我們能夠離開\N我所謂的默認半無政府狀態。
Dialogue: 0,0:01:41.96,0:01:43.46,Default,,0000,0000,0000,,但我們在這常態中。
Dialogue: 0,0:01:44.33,0:01:47.85,Default,,0000,0000,0000,,克：所以，你說服大家
Dialogue: 0,0:01:47.88,0:01:49.53,Default,,0000,0000,0000,,是提出一些反例，
Dialogue: 0,0:01:49.53,0:01:52.89,Default,,0000,0000,0000,,從中你相信我們目前很走運，
Dialogue: 0,0:01:52.89,0:01:55.73,Default,,0000,0000,0000,,還未在不知不覺中
Dialogue: 0,0:01:55.75,0:01:57.31,Default,,0000,0000,0000,,拿到這個死球。
Dialogue: 0,0:01:57.33,0:01:59.82,Default,,0000,0000,0000,,你的一句引述，是什麼？
Dialogue: 0,0:02:00.62,0:02:03.31,Default,,0000,0000,0000,,尼：它的本意是要說明
Dialogue: 0,0:02:03.31,0:02:08.14,Default,,0000,0000,0000,,很難從基本的發現\N預測將來會導致什麼後果。
Dialogue: 0,0:02:08.17,0:02:10.76,Default,,0000,0000,0000,,我們其實就是沒有能力。
Dialogue: 0,0:02:11.25,0:02:14.60,Default,,0000,0000,0000,,因為我們很擅長把球拿出來，
Dialogue: 0,0:02:14.62,0:02:18.35,Default,,0000,0000,0000,,卻沒有能力把球放回甕中。
Dialogue: 0,0:02:18.35,0:02:20.89,Default,,0000,0000,0000,,我們可以發明，但卻無法反發明。
Dialogue: 0,0:02:21.49,0:02:23.93,Default,,0000,0000,0000,,看樣子，我們的策略應該是
Dialogue: 0,0:02:24.38,0:02:26.81,Default,,0000,0000,0000,,期望甕中沒有黑球。
Dialogue: 0,0:02:26.81,0:02:30.80,Default,,0000,0000,0000,,克：所以，一旦把黑球拿出來，\N就是不能放回去，
Dialogue: 0,0:02:30.80,0:02:32.46,Default,,0000,0000,0000,,你認為我們運氣很好。
Dialogue: 0,0:02:32.46,0:02:34.68,Default,,0000,0000,0000,,就跟我們談幾個例子吧。
Dialogue: 0,0:02:34.71,0:02:37.49,Default,,0000,0000,0000,,你曾說過有不同類型的脆弱性。
Dialogue: 0,0:02:37.83,0:02:40.27,Default,,0000,0000,0000,,尼：最容易理解的類型，
Dialogue: 0,0:02:40.29,0:02:43.43,Default,,0000,0000,0000,,要算容易造成
Dialogue: 0,0:02:43.46,0:02:45.58,Default,,0000,0000,0000,,大量破壞的科技。
Dialogue: 0,0:02:47.20,0:02:50.92,Default,,0000,0000,0000,,合成生物學新穎的想法\N可能產出許多毀滅性的黑球，
Dialogue: 0,0:02:50.92,0:02:53.60,Default,,0000,0000,0000,,但也有許多其他可能性——
Dialogue: 0,0:02:53.62,0:02:56.14,Default,,0000,0000,0000,,想想很棒的地球工程吧！
Dialogue: 0,0:02:56.17,0:02:58.25,Default,,0000,0000,0000,,我們能夠對抗全球暖化，
Dialogue: 0,0:02:58.25,0:03:00.08,Default,,0000,0000,0000,,但也不能太容易，
Dialogue: 0,0:03:00.09,0:03:02.80,Default,,0000,0000,0000,,你不想要任何一個人，甚至自己的祖母
Dialogue: 0,0:03:02.80,0:03:06.14,Default,,0000,0000,0000,,都可以改變地球的氣候。
Dialogue: 0,0:03:06.17,0:03:09.73,Default,,0000,0000,0000,,甚或是致命的自主無人機，
Dialogue: 0,0:03:09.75,0:03:13.30,Default,,0000,0000,0000,,在大量生產像蚊子般大小、\N成群的機器殺手。
Dialogue: 0,0:03:14.50,0:03:17.23,Default,,0000,0000,0000,,也包括奈米技術和通用人工智慧。
Dialogue: 0,0:03:17.25,0:03:18.56,Default,,0000,0000,0000,,克：在論文中，你認為
Dialogue: 0,0:03:18.58,0:03:21.48,Default,,0000,0000,0000,,當我們發現可用核能製造炸彈時，
Dialogue: 0,0:03:21.50,0:03:24.93,Default,,0000,0000,0000,,那是一場運氣，
Dialogue: 0,0:03:24.96,0:03:26.35,Default,,0000,0000,0000,,本來也有可能變成是
Dialogue: 0,0:03:26.38,0:03:28.23,Default,,0000,0000,0000,,用唾手可得的簡單資源
Dialogue: 0,0:03:28.25,0:03:31.81,Default,,0000,0000,0000,,可製造炸彈。
Dialogue: 0,0:03:31.83,0:03:35.39,Default,,0000,0000,0000,,尼：是的，回想 30 年代，
Dialogue: 0,0:03:35.42,0:03:40.02,Default,,0000,0000,0000,,我們在核子物理學的領域上，\N第一次有重大的突破，
Dialogue: 0,0:03:40.04,0:03:43.73,Default,,0000,0000,0000,,有些天才發現，\N有辦法可以製造核能連鎖反應，
Dialogue: 0,0:03:43.75,0:03:46.93,Default,,0000,0000,0000,,接著，他們發現這種技術\N可以用來製作炸彈。
Dialogue: 0,0:03:46.96,0:03:48.85,Default,,0000,0000,0000,,我們再盡了一些努力，
Dialogue: 0,0:03:48.88,0:03:51.60,Default,,0000,0000,0000,,結果發現，要製造出一顆核彈，
Dialogue: 0,0:03:51.62,0:03:54.02,Default,,0000,0000,0000,,需要的是高度濃縮的鈾或鈽，
Dialogue: 0,0:03:54.04,0:03:56.06,Default,,0000,0000,0000,,這些是非常難得的材料。
Dialogue: 0,0:03:56.08,0:03:58.35,Default,,0000,0000,0000,,你會需要超高速的離心機，
Dialogue: 0,0:03:58.38,0:04:02.14,Default,,0000,0000,0000,,也需要反應爐，類似大量的能源。
Dialogue: 0,0:04:02.17,0:04:03.98,Default,,0000,0000,0000,,但若果換成
Dialogue: 0,0:04:04.00,0:04:07.61,Default,,0000,0000,0000,,用一種簡單的方法\N就可以將原子能量釋放。
Dialogue: 0,0:04:08.00,0:04:10.77,Default,,0000,0000,0000,,好像將沙子放到微波爐中加熱，
Dialogue: 0,0:04:10.79,0:04:12.06,Default,,0000,0000,0000,,那般容易的方法，
Dialogue: 0,0:04:12.08,0:04:14.18,Default,,0000,0000,0000,,你就可以製造核爆炸。
Dialogue: 0,0:04:14.18,0:04:15.80,Default,,0000,0000,0000,,現在我們知道那是不可能的。
Dialogue: 0,0:04:15.80,0:04:18.27,Default,,0000,0000,0000,,但未經相關物理學驗證之前，
Dialogue: 0,0:04:18.29,0:04:20.48,Default,,0000,0000,0000,,你又如何知道結果？
Dialogue: 0,0:04:20.51,0:04:22.06,Default,,0000,0000,0000,,克：你為什麼不主張
Dialogue: 0,0:04:22.08,0:04:24.02,Default,,0000,0000,0000,,在地球上生命的演化，
Dialogue: 0,0:04:24.04,0:04:27.31,Default,,0000,0000,0000,,需要有某種穩定的環境；
Dialogue: 0,0:04:27.33,0:04:31.52,Default,,0000,0000,0000,,若相對容易就能\N製造出大規模的核反應，
Dialogue: 0,0:04:31.54,0:04:33.40,Default,,0000,0000,0000,,地球就不可能穩定，
Dialogue: 0,0:04:33.42,0:04:34.98,Default,,0000,0000,0000,,我們不可能存活至今。
Dialogue: 0,0:04:35.00,0:04:38.39,Default,,0000,0000,0000,,尼：是的，除非很容易\N刻意地去做某種事，
Dialogue: 0,0:04:38.42,0:04:41.27,Default,,0000,0000,0000,,但那不會偶然發生。
Dialogue: 0,0:04:41.29,0:04:42.87,Default,,0000,0000,0000,,我們很容易做一些事，
Dialogue: 0,0:04:42.90,0:04:45.01,Default,,0000,0000,0000,,比如可能把十塊積木疊起來，
Dialogue: 0,0:04:45.03,0:04:47.100,Default,,0000,0000,0000,,但在大自然中，你不會\N看到十塊東西疊在一起。
Dialogue: 0,0:04:47.100,0:04:49.93,Default,,0000,0000,0000,,克：好，那可能是我們許多人
Dialogue: 0,0:04:49.95,0:04:51.89,Default,,0000,0000,0000,,最擔心的事，
Dialogue: 0,0:04:51.92,0:04:54.61,Default,,0000,0000,0000,,那合成生物學可能是
Dialogue: 0,0:04:54.62,0:04:58.48,Default,,0000,0000,0000,,讓我們在不遠的將來\N到達那裡的最快途徑。
Dialogue: 0,0:04:58.50,0:05:01.43,Default,,0000,0000,0000,,尼：是的，所以，\N想想這意味著什麼。
Dialogue: 0,0:05:01.46,0:05:05.10,Default,,0000,0000,0000,,比如，人人在自己的廚房，\N花上一個下午的時間，
Dialogue: 0,0:05:05.10,0:05:06.54,Default,,0000,0000,0000,,就能摧毀一個城市。
Dialogue: 0,0:05:06.54,0:05:10.10,Default,,0000,0000,0000,,很難想像我們的現代文明，
Dialogue: 0,0:05:10.12,0:05:11.56,Default,,0000,0000,0000,,在這種情況下能存活。
Dialogue: 0,0:05:11.58,0:05:14.10,Default,,0000,0000,0000,,因為，在任何一百萬人口中，
Dialogue: 0,0:05:14.12,0:05:16.81,Default,,0000,0000,0000,,一定會有些人，\N不論出於什麼理由，
Dialogue: 0,0:05:16.83,0:05:18.92,Default,,0000,0000,0000,,選擇使用具毀滅性的力量。
Dialogue: 0,0:05:19.75,0:05:22.89,Default,,0000,0000,0000,,如果那末世餘孽
Dialogue: 0,0:05:22.92,0:05:24.89,Default,,0000,0000,0000,,選擇摧毀一個城市，糟糕的是
Dialogue: 0,0:05:24.92,0:05:26.48,Default,,0000,0000,0000,,那城市真的被摧毀了。
Dialogue: 0,0:05:26.50,0:05:28.85,Default,,0000,0000,0000,,克：所以，這是另一種脆弱。
Dialogue: 0,0:05:28.88,0:05:30.52,Default,,0000,0000,0000,,跟我們談談這個吧！
Dialogue: 0,0:05:30.54,0:05:34.52,Default,,0000,0000,0000,,尼：所以，除了\N這幾類明顯的黑球
Dialogue: 0,0:05:34.54,0:05:37.35,Default,,0000,0000,0000,,有可能會把很多東西炸掉之外，
Dialogue: 0,0:05:37.38,0:05:41.81,Default,,0000,0000,0000,,其他類型的運作方式\N會創造不良的動機，
Dialogue: 0,0:05:41.83,0:05:44.06,Default,,0000,0000,0000,,驅使人類去做有害的事。
Dialogue: 0,0:05:44.08,0:05:48.18,Default,,0000,0000,0000,,所以，我們所謂的 2a 類別，
Dialogue: 0,0:05:48.21,0:05:52.73,Default,,0000,0000,0000,,就是思想有些科技能夠激勵大國
Dialogue: 0,0:05:52.75,0:05:57.23,Default,,0000,0000,0000,,去使用他們強大的力量造成毀滅。
Dialogue: 0,0:05:57.25,0:06:00.08,Default,,0000,0000,0000,,核武就非常接近這一類吧﹗
Dialogue: 0,0:06:02.08,0:06:05.14,Default,,0000,0000,0000,,我們所做的是花超過十兆美元
Dialogue: 0,0:06:05.17,0:06:07.68,Default,,0000,0000,0000,,建造七萬個核子彈頭，
Dialogue: 0,0:06:07.71,0:06:10.14,Default,,0000,0000,0000,,全處在一觸即發的警戒狀態。
Dialogue: 0,0:06:10.17,0:06:12.42,Default,,0000,0000,0000,,在冷戰期間曾經有好幾次，
Dialogue: 0,0:06:12.42,0:06:13.94,Default,,0000,0000,0000,,幾乎就要把彼此毀掉。
Dialogue: 0,0:06:13.94,0:06:16.23,Default,,0000,0000,0000,,非因許多人認為這是個好點子，
Dialogue: 0,0:06:16.23,0:06:18.66,Default,,0000,0000,0000,,咱們就花十兆美元把自己毀掉，
Dialogue: 0,0:06:18.66,0:06:21.61,Default,,0000,0000,0000,,但激勵我們的，是我們發現
Dialogue: 0,0:06:21.61,0:06:23.29,Default,,0000,0000,0000,,還未發生更糟糕的事情。
Dialogue: 0,0:06:23.29,0:06:26.48,Default,,0000,0000,0000,,想像一下，若有人為自保\N不顧一切先開戰。
Dialogue: 0,0:06:26.50,0:06:28.81,Default,,0000,0000,0000,,那就可能會非常難搞了，
Dialogue: 0,0:06:28.83,0:06:30.10,Default,,0000,0000,0000,,在危難的情況中，
Dialogue: 0,0:06:30.12,0:06:32.60,Default,,0000,0000,0000,,很難阻止他們發射\N所有的核子飛彈。
Dialogue: 0,0:06:32.63,0:06:35.41,Default,,0000,0000,0000,,但你也害怕另一方可能會同樣做。
Dialogue: 0,0:06:35.41,0:06:37.85,Default,,0000,0000,0000,,克：是的，相互制衡的毀滅
Dialogue: 0,0:06:37.88,0:06:40.60,Default,,0000,0000,0000,,讓冷戰狀況變得相對穩定，
Dialogue: 0,0:06:40.62,0:06:42.29,Default,,0000,0000,0000,,我們現在才可在這裡。
Dialogue: 0,0:06:42.29,0:06:43.99,Default,,0000,0000,0000,,尼：原本的情況是更壞。
Dialogue: 0,0:06:43.99,0:06:45.92,Default,,0000,0000,0000,,科技的其他特性，
Dialogue: 0,0:06:45.92,0:06:49.60,Default,,0000,0000,0000,,可能影響更難簽定這個武器條約，
Dialogue: 0,0:06:49.62,0:06:51.23,Default,,0000,0000,0000,,比如用的不是核武，
Dialogue: 0,0:06:51.25,0:06:54.27,Default,,0000,0000,0000,,而是更小或更不顯眼的武器。
Dialogue: 0,0:06:54.27,0:06:55.99,Default,,0000,0000,0000,,克：除強大的執行者外、
Dialogue: 0,0:06:55.99,0:07:00.30,Default,,0000,0000,0000,,你擔心所有人都會有不良誘因：\N這就是 2b 類型。
Dialogue: 0,0:07:00.30,0:07:04.67,Default,,0000,0000,0000,,尼：是的，這方面\N可以用全球暖化當例子。
Dialogue: 0,0:07:06.96,0:07:08.33,Default,,0000,0000,0000,,有很多小小的便利，
Dialogue: 0,0:07:08.33,0:07:11.06,Default,,0000,0000,0000,,讓我們每個人都很容易做這些事情，
Dialogue: 0,0:07:11.08,0:07:13.93,Default,,0000,0000,0000,,單獨來看，並沒有顯著的影響吧﹗
Dialogue: 0,0:07:13.96,0:07:15.82,Default,,0000,0000,0000,,但當數十億人都這麼做時，
Dialogue: 0,0:07:15.82,0:07:18.15,Default,,0000,0000,0000,,日積月累，就產生破壞性的影響。
Dialogue: 0,0:07:18.15,0:07:20.78,Default,,0000,0000,0000,,全球暖化的情況，\N可能比本來的更糟。
Dialogue: 0,0:07:20.78,0:07:23.85,Default,,0000,0000,0000,,所以，我們有氣候敏感度參數。
Dialogue: 0,0:07:23.88,0:07:27.52,Default,,0000,0000,0000,,這個參數代表的是，\N你釋放的溫室氣體
Dialogue: 0,0:07:27.54,0:07:30.23,Default,,0000,0000,0000,,與氣溫上升成正比。
Dialogue: 0,0:07:30.25,0:07:32.64,Default,,0000,0000,0000,,但假設發生的狀況是，
Dialogue: 0,0:07:32.67,0:07:35.18,Default,,0000,0000,0000,,我們釋放了這麼大量的溫室氣體，
Dialogue: 0,0:07:35.18,0:07:41.04,Default,,0000,0000,0000,,比如，溫度並沒有在 2100 年\N預計的範圍內上升 3 ~ 4.5 度，
Dialogue: 0,0:07:41.04,0:07:43.54,Default,,0000,0000,0000,,假如是跳升至 15 或 20 度。
Dialogue: 0,0:07:44.38,0:07:46.23,Default,,0000,0000,0000,,那我們就糟糕了。
Dialogue: 0,0:07:46.23,0:07:49.48,Default,,0000,0000,0000,,又假設可再生能源計劃，\N比預期的更難實現。
Dialogue: 0,0:07:49.50,0:07:51.85,Default,,0000,0000,0000,,或者是地底下有更多的化石燃料。
Dialogue: 0,0:07:51.85,0:07:55.43,Default,,0000,0000,0000,,克：你可否抗辯以下的情況——
Dialogue: 0,0:07:55.46,0:07:57.18,Default,,0000,0000,0000,,如果我們現在的行為
Dialogue: 0,0:07:57.21,0:08:01.77,Default,,0000,0000,0000,,在我們能預見的期間\N造成了 10 度的差距，
Dialogue: 0,0:08:01.79,0:08:05.48,Default,,0000,0000,0000,,那人類就會醒覺為此做點事。
Dialogue: 0,0:08:05.50,0:08:08.04,Default,,0000,0000,0000,,我們是笨的，但也未必那麼笨。
Dialogue: 0,0:08:08.04,0:08:10.14,Default,,0000,0000,0000,,克：也許是。\N尼：我就不敢賭。
Dialogue: 0,0:08:10.14,0:08:13.10,Default,,0000,0000,0000,,（笑聲）
Dialogue: 0,0:08:13.12,0:08:14.81,Default,,0000,0000,0000,,可以想像其他特徵。
Dialogue: 0,0:08:14.83,0:08:20.35,Default,,0000,0000,0000,,目前，有點難轉換到\N可再生能源或其它東西，
Dialogue: 0,0:08:20.38,0:08:21.40,Default,,0000,0000,0000,,但這是可行的。
Dialogue: 0,0:08:21.42,0:08:24.64,Default,,0000,0000,0000,,本來是有可能，\N但若物理學上有些微的不同，
Dialogue: 0,0:08:24.67,0:08:27.46,Default,,0000,0000,0000,,要做到這些事，就可能會昂貴許多。
Dialogue: 0,0:08:28.20,0:08:32.37,Default,,0000,0000,0000,,克：尼克，你的看法是否認為，\N把這些可能性結合起來，
Dialogue: 0,0:08:32.38,0:08:37.90,Default,,0000,0000,0000,,包括這個地球、我們人類，\N就算是個脆弱的世界嗎？
Dialogue: 0,0:08:37.90,0:08:40.67,Default,,0000,0000,0000,,也可以算是未來的一顆死亡黑球嗎？
Dialogue: 0,0:08:43.96,0:08:45.13,Default,,0000,0000,0000,,尼：這很難說。
Dialogue: 0,0:08:45.13,0:08:50.31,Default,,0000,0000,0000,,我認為在甕中會有幾個不同的黑球，
Dialogue: 0,0:08:50.33,0:08:51.48,Default,,0000,0000,0000,,看起來是這樣。
Dialogue: 0,0:08:51.48,0:08:54.06,Default,,0000,0000,0000,,可能也會有一些金球，
Dialogue: 0,0:08:54.08,0:08:57.56,Default,,0000,0000,0000,,能協助保護我們，對抗黑球。
Dialogue: 0,0:08:57.58,0:09:00.56,Default,,0000,0000,0000,,我不知道這些球\N會以什麼順序出現。
Dialogue: 0,0:09:00.58,0:09:04.43,Default,,0000,0000,0000,,克：對這個想法，\N可能會有一種哲學上的批評，
Dialogue: 0,0:09:04.46,0:09:10.10,Default,,0000,0000,0000,,觀點就是，未來的情況，\N基本上是已經定了。
Dialogue: 0,0:09:10.12,0:09:12.60,Default,,0000,0000,0000,,黑球有就有，沒有就沒有。
Dialogue: 0,0:09:12.62,0:09:15.64,Default,,0000,0000,0000,,在某種意義上，
Dialogue: 0,0:09:15.67,0:09:17.95,Default,,0000,0000,0000,,我並不想要相信這種未來的觀點。
Dialogue: 0,0:09:17.95,0:09:20.17,Default,,0000,0000,0000,,我相信未來是尚未被決定的，
Dialogue: 0,0:09:20.17,0:09:22.60,Default,,0000,0000,0000,,我們現今的取向會決定
Dialogue: 0,0:09:22.62,0:09:24.83,Default,,0000,0000,0000,,我們從甕中取出哪種球。
Dialogue: 0,0:09:25.92,0:09:29.68,Default,,0000,0000,0000,,尼：如果我們持繼創造和發明，
Dialogue: 0,0:09:29.71,0:09:32.04,Default,,0000,0000,0000,,我們最終會把所有的球都取出來。
Dialogue: 0,0:09:32.88,0:09:35.80,Default,,0000,0000,0000,,我認為科技決定論有種較弱的形式，
Dialogue: 0,0:09:35.80,0:09:36.86,Default,,0000,0000,0000,,是滿有道理的，
Dialogue: 0,0:09:36.86,0:09:40.23,Default,,0000,0000,0000,,像是，你不太可能會遇到一個社會
Dialogue: 0,0:09:40.25,0:09:43.08,Default,,0000,0000,0000,,會同時使用燧石斧和噴射機。
Dialogue: 0,0:09:44.21,0:09:48.27,Default,,0000,0000,0000,,但你幾乎可以把一項科技\N想成是一組功能。
Dialogue: 0,0:09:48.27,0:09:52.14,Default,,0000,0000,0000,,所以，科技能讓我們去做各種事，\N在世上達成不同效果。
Dialogue: 0,0:09:52.14,0:09:56.14,Default,,0000,0000,0000,,當然，如何使用它\N就是人類的選擇了。
Dialogue: 0,0:09:56.17,0:09:58.59,Default,,0000,0000,0000,,但我們想想這三種類型的弱點，
Dialogue: 0,0:09:58.59,0:10:01.63,Default,,0000,0000,0000,,苐一個假設的脆弱性，\N是選擇如何使用科技。
Dialogue: 0,0:10:01.63,0:10:05.68,Default,,0000,0000,0000,,所以，這個脆弱的地方，\N是在於巨大力量的毀滅性，
Dialogue: 0,0:10:05.71,0:10:07.14,Default,,0000,0000,0000,,假設在數百萬人中，
Dialogue: 0,0:10:07.17,0:10:09.23,Default,,0000,0000,0000,,有人利用科技作毀滅性用途，
Dialogue: 0,0:10:09.23,0:10:12.52,Default,,0000,0000,0000,,這是我們人類相當薄弱的一環。
Dialogue: 0,0:10:12.52,0:10:15.00,Default,,0000,0000,0000,,克：對我來說最受不了的論點，
Dialogue: 0,0:10:15.00,0:10:19.56,Default,,0000,0000,0000,,就是我們覺得這個甕裡面的東西，
Dialogue: 0,0:10:19.58,0:10:23.10,Default,,0000,0000,0000,,很可能意味著我們會完蛋。
Dialogue: 0,0:10:23.12,0:10:27.77,Default,,0000,0000,0000,,也就是說，如果你相信科技的加速力，
Dialogue: 0,0:10:27.79,0:10:30.06,Default,,0000,0000,0000,,也就是科技加速的本質，
Dialogue: 0,0:10:30.08,0:10:32.52,Default,,0000,0000,0000,,我們建造這些讓我們更強大的工具，
Dialogue: 0,0:10:32.54,0:10:35.18,Default,,0000,0000,0000,,導致某人某時可能
Dialogue: 0,0:10:35.21,0:10:38.27,Default,,0000,0000,0000,,把我們全部拖垮，
Dialogue: 0,0:10:38.29,0:10:41.14,Default,,0000,0000,0000,,讓我們陷入已經完蛋的窘境。
Dialogue: 0,0:10:41.17,0:10:44.10,Default,,0000,0000,0000,,這樣的論點不是一個警訊嗎？
Dialogue: 0,0:10:44.12,0:10:45.88,Default,,0000,0000,0000,,尼：嗯，沒錯。
Dialogue: 0,0:10:46.71,0:10:47.98,Default,,0000,0000,0000,,（笑聲）
Dialogue: 0,0:10:48.00,0:10:49.33,Default,,0000,0000,0000,,我覺得——
Dialogue: 0,0:10:50.88,0:10:53.87,Default,,0000,0000,0000,,沒錯，我們的力量越來越強大，
Dialogue: 0,0:10:53.88,0:10:56.43,Default,,0000,0000,0000,,運用這些力量也越容易，
Dialogue: 0,0:10:56.46,0:10:58.10,Default,,0000,0000,0000,,但也可發明一些科技，
Dialogue: 0,0:10:58.10,0:11:02.06,Default,,0000,0000,0000,,幫助我們控制人們\N如何運用這些力量。
Dialogue: 0,0:11:02.08,0:11:04.12,Default,,0000,0000,0000,,克：我們聊聊如何應對吧。
Dialogue: 0,0:11:04.12,0:11:09.59,Default,,0000,0000,0000,,假設現有的所有可能性——
Dialogue: 0,0:11:09.59,0:11:13.13,Default,,0000,0000,0000,,不只是合成生物學，\N其他像是網路戰、
Dialogue: 0,0:11:13.13,0:11:16.54,Default,,0000,0000,0000,,人工智慧等等——
Dialogue: 0,0:11:16.54,0:11:21.00,Default,,0000,0000,0000,,在未來可能帶來嚴重性的毀滅。
Dialogue: 0,0:11:21.00,0:11:22.71,Default,,0000,0000,0000,,又有哪些應對的方法呢？
Dialogue: 0,0:11:22.71,0:11:27.60,Default,,0000,0000,0000,,你也提到了四個可能的應對方法。
Dialogue: 0,0:11:27.62,0:11:31.13,Default,,0000,0000,0000,,尼：限制科技發展，似乎用處不大，
Dialogue: 0,0:11:31.13,0:11:34.78,Default,,0000,0000,0000,,或無條件停止科技發展。
Dialogue: 0,0:11:34.78,0:11:38.17,Default,,0000,0000,0000,,甚至於我們有能力做到，\N都不可能實現。
Dialogue: 0,0:11:38.17,0:11:41.18,Default,,0000,0000,0000,,有少數幾個領域，
Dialogue: 0,0:11:41.21,0:11:43.93,Default,,0000,0000,0000,,你或許會希望科技的發展\N來得慢一點。
Dialogue: 0,0:11:43.96,0:11:47.35,Default,,0000,0000,0000,,我覺得，你不會希望生物武器，
Dialogue: 0,0:11:47.35,0:11:49.43,Default,,0000,0000,0000,,或同位素分離技術，
Dialogue: 0,0:11:49.43,0:11:51.71,Default,,0000,0000,0000,,促成核子武器的，加快的發展。
Dialogue: 0,0:11:52.58,0:11:55.89,Default,,0000,0000,0000,,克：我以前完全支持這個論點。
Dialogue: 0,0:11:55.92,0:11:59.18,Default,,0000,0000,0000,,但我想反思一下。
Dialogue: 0,0:11:59.21,0:12:03.21,Default,,0000,0000,0000,,首先，就過去至少數十年的歷史來看，
Dialogue: 0,0:12:03.21,0:12:06.91,Default,,0000,0000,0000,,科技一直是以全速發展。
Dialogue: 0,0:12:06.91,0:12:08.80,Default,,0000,0000,0000,,只是我們的選擇而已。
Dialogue: 0,0:12:08.80,0:12:11.82,Default,,0000,0000,0000,,但如果你加速全球化的情形，
Dialogue: 0,0:12:11.82,0:12:16.46,Default,,0000,0000,0000,,以「快速行動，\N打破成規」的策略來看，
Dialogue: 0,0:12:16.46,0:12:18.54,Default,,0000,0000,0000,,是發生了什麼事，
Dialogue: 0,0:12:18.54,0:12:21.31,Default,,0000,0000,0000,,接著再看看合成生物學的潛力，
Dialogue: 0,0:12:21.33,0:12:27.25,Default,,0000,0000,0000,,我不知道我們是否應該\N無限制地快速前進，
Dialogue: 0,0:12:27.25,0:12:30.29,Default,,0000,0000,0000,,造就每個家庭和高中實驗室
Dialogue: 0,0:12:30.29,0:12:33.17,Default,,0000,0000,0000,,都擁有一部 DNA 印表機的世界。
Dialogue: 0,0:12:33.17,0:12:34.85,Default,,0000,0000,0000,,限制還是應該存在的。
Dialogue: 0,0:12:34.88,0:12:37.52,Default,,0000,0000,0000,,尼：或者第一部分是不可行。
Dialogue: 0,0:12:37.54,0:12:39.73,Default,,0000,0000,0000,,如果你認為應該要阻止它，
Dialogue: 0,0:12:39.75,0:12:41.48,Default,,0000,0000,0000,,那就存在可行性的問題。
Dialogue: 0,0:12:41.50,0:12:44.31,Default,,0000,0000,0000,,所以如果只有一個國家\N是沒有幫助——
Dialogue: 0,0:12:44.33,0:12:45.78,Default,,0000,0000,0000,,克：我同意，
Dialogue: 0,0:12:45.78,0:12:49.31,Default,,0000,0000,0000,,但我們之前是有條約約束的。
Dialogue: 0,0:12:49.33,0:12:52.68,Default,,0000,0000,0000,,經歷了痛苦的談判過程，
Dialogue: 0,0:12:52.71,0:12:56.54,Default,,0000,0000,0000,,讓我們在核武的威脅下仍然存活。
Dialogue: 0,0:12:56.54,0:13:00.22,Default,,0000,0000,0000,,我只想知道，邏輯是:
Dialogue: 0,0:13:00.22,0:13:02.03,Default,,0000,0000,0000,,作為全球的優先事項，
Dialogue: 0,0:13:02.03,0:13:03.71,Default,,0000,0000,0000,,我們不是應該試著，
Dialogue: 0,0:13:03.71,0:13:09.49,Default,,0000,0000,0000,,比方說，就合成生物研究\N的方向做談判，
Dialogue: 0,0:13:09.49,0:13:12.06,Default,,0000,0000,0000,,這不是你想要的民主化東西嗎？
Dialogue: 0,0:13:12.06,0:13:13.81,Default,,0000,0000,0000,,尼：我完全同意——
Dialogue: 0,0:13:13.81,0:13:18.00,Default,,0000,0000,0000,,可取的方法是，比方說，
Dialogue: 0,0:13:18.00,0:13:25.06,Default,,0000,0000,0000,,或許不是每個實驗室\N都有一台 DNA 合成的機器，
Dialogue: 0,0:13:25.06,0:13:26.74,Default,,0000,0000,0000,,而是用服務的形式存在。
Dialogue: 0,0:13:26.74,0:13:29.31,Default,,0000,0000,0000,,或許你把數位基因模型寄到四五處，
Dialogue: 0,0:13:29.33,0:13:32.85,Default,,0000,0000,0000,,就可收到合成的基因圖譜了。
Dialogue: 0,0:13:32.88,0:13:36.51,Default,,0000,0000,0000,,這樣一來，你有能力，\N在萬一有需要的話，
Dialogue: 0,0:13:36.51,0:13:39.46,Default,,0000,0000,0000,,就可以加以制約。
Dialogue: 0,0:13:39.46,0:13:42.98,Default,,0000,0000,0000,,所以我認為應該要找到一些
Dialogue: 0,0:13:43.00,0:13:45.06,Default,,0000,0000,0000,,能夠有效控制的特殊方法。
Dialogue: 0,0:13:45.08,0:13:46.73,Default,,0000,0000,0000,,克：基本上你的信念是對的，
Dialogue: 0,0:13:46.75,0:13:49.64,Default,,0000,0000,0000,,但只用拖後腿的方法，不會成功。
Dialogue: 0,0:13:49.67,0:13:52.39,Default,,0000,0000,0000,,某地某人——在北韓——
Dialogue: 0,0:13:52.42,0:13:55.93,Default,,0000,0000,0000,,如果在那裡發現一些知識，
Dialogue: 0,0:13:55.96,0:13:57.21,Default,,0000,0000,0000,,如果能找到的話。
Dialogue: 0,0:13:57.21,0:13:58.89,Default,,0000,0000,0000,,尼：就目前是有可能的。
Dialogue: 0,0:13:58.89,0:14:00.100,Default,,0000,0000,0000,,也不單單是合成生物學。
Dialogue: 0,0:14:00.100,0:14:03.84,Default,,0000,0000,0000,,出現任何一種深邃的新改變
Dialogue: 0,0:14:03.84,0:14:05.12,Default,,0000,0000,0000,,都可能成為黑球。
Dialogue: 0,0:14:05.12,0:14:06.73,Default,,0000,0000,0000,,克：且談另一個應對吧﹗
Dialogue: 0,0:14:06.73,0:14:10.23,Default,,0000,0000,0000,,尼：這個應對方法的潛力也有限。
Dialogue: 0,0:14:10.25,0:14:13.81,Default,,0000,0000,0000,,回到第一型的脆弱去，
Dialogue: 0,0:14:13.83,0:14:19.12,Default,,0000,0000,0000,,如果你可以減少毀滅世界的人數，\N那受激動的人，只能接觸
Dialogue: 0,0:14:19.12,0:14:21.58,Default,,0000,0000,0000,,良善的方式和通道，\N是不錯的做法。
Dialogue: 0,0:14:21.58,0:14:24.02,Default,,0000,0000,0000,,克：你要求我們製作的這張圖，
Dialogue: 0,0:14:24.02,0:14:27.41,Default,,0000,0000,0000,,設想是擁有臉部辨識能力的\N無人機在全世界飛行。
Dialogue: 0,0:14:27.41,0:14:30.86,Default,,0000,0000,0000,,當它們偵測到某些人\N有反社會行為的跡象，
Dialogue: 0,0:14:30.86,0:14:32.72,Default,,0000,0000,0000,,給他們沐浴以愛，
Dialogue: 0,0:14:32.72,0:14:33.88,Default,,0000,0000,0000,,導正他們。
Dialogue: 0,0:14:33.88,0:14:35.74,Default,,0000,0000,0000,,尼：我想這是一幅混合圖。
Dialogue: 0,0:14:35.74,0:14:39.88,Default,,0000,0000,0000,,消除可以意味著監禁，或是殺戮，
Dialogue: 0,0:14:39.88,0:14:41.42,Default,,0000,0000,0000,,也可以解釋成說服他們
Dialogue: 0,0:14:41.42,0:14:42.86,Default,,0000,0000,0000,,欣賞那美好的世界。
Dialogue: 0,0:14:42.86,0:14:46.80,Default,,0000,0000,0000,,重點是，假設這個做法非常成功，
Dialogue: 0,0:14:46.80,0:14:49.74,Default,,0000,0000,0000,,把這些人的數量減少了一半。
Dialogue: 0,0:14:50.10,0:14:51.97,Default,,0000,0000,0000,,如果你想用說服的方法，
Dialogue: 0,0:14:51.97,0:14:54.23,Default,,0000,0000,0000,,那就是抗衡其他強大力量，
Dialogue: 0,0:14:54.23,0:14:57.48,Default,,0000,0000,0000,,也同樣嘗試說服民眾、團體、\N宗教和教育體系。
Dialogue: 0,0:14:57.48,0:14:59.21,Default,,0000,0000,0000,,假設你能成功減少一半人數，
Dialogue: 0,0:14:59.21,0:15:01.73,Default,,0000,0000,0000,,但我也不認為風險會減半。
Dialogue: 0,0:15:01.73,0:15:03.73,Default,,0000,0000,0000,,也許只是百分之五或十。
Dialogue: 0,0:15:03.75,0:15:06.26,Default,,0000,0000,0000,,克：你不建議我們把人性的未來
Dialogue: 0,0:15:06.26,0:15:08.17,Default,,0000,0000,0000,,押在第二個應對方法上。
Dialogue: 0,0:15:08.17,0:15:11.15,Default,,0000,0000,0000,,尼：我認為阻止或說服人們\N是沒有問題的，
Dialogue: 0,0:15:11.15,0:15:12.65,Default,,0000,0000,0000,,但我們不應該以此
Dialogue: 0,0:15:12.65,0:15:14.00,Default,,0000,0000,0000,,作唯一的保障。
Dialogue: 0,0:15:14.00,0:15:15.08,Default,,0000,0000,0000,,克：應對三呢？
Dialogue: 0,0:15:15.08,0:15:18.48,Default,,0000,0000,0000,,尼：一般來說可有兩種方法，
Dialogue: 0,0:15:18.48,0:15:25.35,Default,,0000,0000,0000,,用在穩定世界、\N填補可能發生的漏洞。
Dialogue: 0,0:15:25.38,0:15:26.93,Default,,0000,0000,0000,,兩個方法都可能用到。
Dialogue: 0,0:15:26.96,0:15:30.95,Default,,0000,0000,0000,,其中一個極度有效地
Dialogue: 0,0:15:30.95,0:15:33.27,Default,,0000,0000,0000,,執行防範及維安的任務。
Dialogue: 0,0:15:33.29,0:15:34.67,Default,,0000,0000,0000,,這就可以阻止出現差錯。
Dialogue: 0,0:15:34.67,0:15:37.60,Default,,0000,0000,0000,,如果有人從事危害的行動，
Dialogue: 0,0:15:37.62,0:15:40.31,Default,,0000,0000,0000,,就可以在第一時間阻止他們。
Dialogue: 0,0:15:40.33,0:15:42.81,Default,,0000,0000,0000,,這需要全面性的監控，
Dialogue: 0,0:15:42.83,0:15:45.21,Default,,0000,0000,0000,,所有人無時無刻都被監視著。
Dialogue: 0,0:15:46.19,0:15:48.52,Default,,0000,0000,0000,,克：在某種形式上，\N就像電影『關鍵報告』。
Dialogue: 0,0:15:48.52,0:15:50.88,Default,,0000,0000,0000,,尼：你可能用人工智能演算法、
Dialogue: 0,0:15:50.88,0:15:55.29,Default,,0000,0000,0000,,在大型的自由中心\N來檢視這些東西等等。
Dialogue: 0,0:15:56.58,0:15:58.70,Default,,0000,0000,0000,,克：你知道大規模監控這個詞
Dialogue: 0,0:15:58.70,0:16:00.81,Default,,0000,0000,0000,,現在不太受歡迎。
Dialogue: 0,0:16:00.81,0:16:03.25,Default,,0000,0000,0000,,（笑聲）
Dialogue: 0,0:16:03.42,0:16:05.01,Default,,0000,0000,0000,,尼：這個小型裝置，
Dialogue: 0,0:16:05.01,0:16:07.54,Default,,0000,0000,0000,,想像你要一直戴著這種
Dialogue: 0,0:16:07.54,0:16:11.23,Default,,0000,0000,0000,,配備多角度攝影機的項鍊。
Dialogue: 0,0:16:11.76,0:16:13.89,Default,,0000,0000,0000,,但為了讓它更容易被大眾接受，
Dialogue: 0,0:16:13.89,0:16:15.80,Default,,0000,0000,0000,,稱它為「自由標記」之類。
Dialogue: 0,0:16:15.80,0:16:17.59,Default,,0000,0000,0000,,（笑聲）
Dialogue: 0,0:16:18.22,0:16:19.48,Default,,0000,0000,0000,,克：好的。
Dialogue: 0,0:16:19.48,0:16:21.51,Default,,0000,0000,0000,,各位，對談就是這樣，
Dialogue: 0,0:16:21.51,0:16:25.14,Default,,0000,0000,0000,,可以出現這段驚嚇的對話。
Dialogue: 0,0:16:25.14,0:16:28.65,Default,,0000,0000,0000,,尼：針對這個議題\N明顯地就有一場大討論。
Dialogue: 0,0:16:28.65,0:16:31.67,Default,,0000,0000,0000,,有很大的問題跟風險存在吧﹗
Dialogue: 0,0:16:31.67,0:16:32.93,Default,,0000,0000,0000,,我們可回頭再談。
Dialogue: 0,0:16:32.96,0:16:36.90,Default,,0000,0000,0000,,另外一個穩定世界的方法，\N在某種程度上
Dialogue: 0,0:16:36.90,0:16:38.96,Default,,0000,0000,0000,,填補了治理差距。
Dialogue: 0,0:16:38.96,0:16:42.92,Default,,0000,0000,0000,,監控治理差距，就是在微觀層面上，
Dialogue: 0,0:16:42.92,0:16:46.07,Default,,0000,0000,0000,,防範有人做出極端的違法行為。
Dialogue: 0,0:16:46.07,0:16:48.89,Default,,0000,0000,0000,,相對地，在巨觀層面，\N也就是世界層面上，
Dialogue: 0,0:16:48.89,0:16:50.15,Default,,0000,0000,0000,,也存在治理差距。
Dialogue: 0,0:16:50.15,0:16:54.53,Default,,0000,0000,0000,,你需要有可靠的能力
Dialogue: 0,0:16:54.53,0:16:57.87,Default,,0000,0000,0000,,來防止全球最壞的一種——\N協調上的失敗，
Dialogue: 0,0:16:57.87,0:17:01.00,Default,,0000,0000,0000,,避免大國的互相爭鬥、
Dialogue: 0,0:17:01.00,0:17:05.60,Default,,0000,0000,0000,,軍備競賽、災難性的公共問題，
Dialogue: 0,0:17:07.67,0:17:11.85,Default,,0000,0000,0000,,來處理 2a 型的弱點。
Dialogue: 0,0:17:11.88,0:17:15.66,Default,,0000,0000,0000,,克：全球治理是個\N已經退流行的名詞了，
Dialogue: 0,0:17:15.66,0:17:20.30,Default,,0000,0000,0000,,但你能夠提出充分的理由來說明
Dialogue: 0,0:17:20.30,0:17:25.52,Default,,0000,0000,0000,,在人類的歷史上，\N每個提升科技力量的階段
Dialogue: 0,0:17:25.52,0:17:28.65,Default,,0000,0000,0000,,人們都會重組及集中權力。
Dialogue: 0,0:17:28.65,0:17:32.06,Default,,0000,0000,0000,,比方說，如果有一個四處犯案的集團
Dialogue: 0,0:17:32.08,0:17:33.77,Default,,0000,0000,0000,,有機會掌控社會，
Dialogue: 0,0:17:33.79,0:17:35.77,Default,,0000,0000,0000,,你有一個民族國家，
Dialogue: 0,0:17:35.77,0:17:38.08,Default,,0000,0000,0000,,權力集中在警察或軍隊上，
Dialogue: 0,0:17:38.08,0:17:40.14,Default,,0000,0000,0000,,然後說：「你們不能這麼做。」
Dialogue: 0,0:17:40.14,0:17:42.19,Default,,0000,0000,0000,,其中的邏輯或許就是，
Dialogue: 0,0:17:42.19,0:17:46.31,Default,,0000,0000,0000,,當個人或群體在人性抹滅的時候，
Dialogue: 0,0:17:46.31,0:17:48.96,Default,,0000,0000,0000,,意味著在某個時點，\N至少在某個層面上
Dialogue: 0,0:17:48.96,0:17:50.52,Default,,0000,0000,0000,,不是得走上這條路嗎？
Dialogue: 0,0:17:50.52,0:17:53.63,Default,,0000,0000,0000,,尼：這完全正確，政治組織的規模
Dialogue: 0,0:17:53.63,0:17:56.42,Default,,0000,0000,0000,,在人類歷史上是持續成長的。
Dialogue: 0,0:17:56.42,0:17:59.70,Default,,0000,0000,0000,,以前是獵人、採集者的群體，
Dialogue: 0,0:17:59.70,0:18:01.65,Default,,0000,0000,0000,,然後是酋邦、城邦、國家，
Dialogue: 0,0:18:01.65,0:18:05.49,Default,,0000,0000,0000,,現在則有國際組織，諸如此類。
Dialogue: 0,0:18:05.55,0:18:08.68,Default,,0000,0000,0000,,我想重申一次，藉著這個機會強調
Dialogue: 0,0:18:08.71,0:18:10.68,Default,,0000,0000,0000,,大規模監控和全球治理
Dialogue: 0,0:18:10.71,0:18:12.23,Default,,0000,0000,0000,,都有很明顯的缺點，
Dialogue: 0,0:18:12.25,0:18:15.69,Default,,0000,0000,0000,,也確實有巨大的風險。
Dialogue: 0,0:18:15.69,0:18:17.27,Default,,0000,0000,0000,,我想強調的重點是
Dialogue: 0,0:18:17.27,0:18:18.39,Default,,0000,0000,0000,,若夠幸運的話，
Dialogue: 0,0:18:18.39,0:18:20.93,Default,,0000,0000,0000,,這些是我們能唯一
Dialogue: 0,0:18:20.93,0:18:22.46,Default,,0000,0000,0000,,撐過黑球出現的方法。
Dialogue: 0,0:18:22.46,0:18:25.14,Default,,0000,0000,0000,,克：這個理論的邏輯
Dialogue: 0,0:18:25.14,0:18:27.14,Default,,0000,0000,0000,,對我來說似乎是
Dialogue: 0,0:18:27.14,0:18:29.74,Default,,0000,0000,0000,,我們得認知是我們不能大小通吃。
Dialogue: 0,0:18:29.74,0:18:36.50,Default,,0000,0000,0000,,我想說很多人都有\N那些天真的夢，
Dialogue: 0,0:18:36.50,0:18:39.85,Default,,0000,0000,0000,,以為科技永遠是股正面的力量，
Dialogue: 0,0:18:39.88,0:18:41.47,Default,,0000,0000,0000,,持續向前，永不停歇，
Dialogue: 0,0:18:41.47,0:18:42.95,Default,,0000,0000,0000,,可用全速前進，
Dialogue: 0,0:18:42.95,0:18:44.94,Default,,0000,0000,0000,,而忽略了造成的後果，
Dialogue: 0,0:18:44.94,0:18:46.44,Default,,0000,0000,0000,,這些後果肯定會發生。
Dialogue: 0,0:18:46.44,0:18:48.98,Default,,0000,0000,0000,,我們當然可以全力發展科技。
Dialogue: 0,0:18:48.98,0:18:54.02,Default,,0000,0000,0000,,但如果我們這麽做的話，\N就得接受一些令人難受的後果。
Dialogue: 0,0:18:54.02,0:18:56.78,Default,,0000,0000,0000,,就好比我們的軍備競賽，
Dialogue: 0,0:18:56.78,0:19:00.96,Default,,0000,0000,0000,,如果你想要權力，\N就要想辦法，去控制如何使用它。
Dialogue: 0,0:19:00.96,0:19:05.37,Default,,0000,0000,0000,,尼：我認為這是一條路，\N一條很誘人的路，
Dialogue: 0,0:19:05.37,0:19:08.42,Default,,0000,0000,0000,,某種意義上，是一條最好走\N又容易成功的路，
Dialogue: 0,0:19:08.42,0:19:13.44,Default,,0000,0000,0000,,但也表示我們基本上\N可能抽到黑球的脆弱性。
Dialogue: 0,0:19:13.44,0:19:15.61,Default,,0000,0000,0000,,好，我覺得透過協調，
Dialogue: 0,0:19:15.61,0:19:18.40,Default,,0000,0000,0000,,例如你解決了巨觀治理
Dialogue: 0,0:19:18.40,0:19:19.47,Default,,0000,0000,0000,,和微觀治理的問題，
Dialogue: 0,0:19:19.47,0:19:22.37,Default,,0000,0000,0000,,我們就可以從甕裡抽出所有的小球，
Dialogue: 0,0:19:22.37,0:19:24.15,Default,,0000,0000,0000,,並獲得很大的好處。
Dialogue: 0,0:19:24.40,0:19:28.42,Default,,0000,0000,0000,,克：我是說，就算我們生活在\N一個模擬世界當中，也沒關係吧﹗
Dialogue: 0,0:19:28.42,0:19:29.63,Default,,0000,0000,0000,,重開機就好了。
Dialogue: 0,0:19:29.63,0:19:30.51,Default,,0000,0000,0000,,（笑聲）
Dialogue: 0,0:19:30.51,0:19:32.42,Default,,0000,0000,0000,,尼：那 ··· 我 ···
Dialogue: 0,0:19:32.42,0:19:33.80,Default,,0000,0000,0000,,（笑聲）
Dialogue: 0,0:19:34.76,0:19:37.26,Default,,0000,0000,0000,,我倒是沒想到這個。
Dialogue: 0,0:19:38.22,0:19:39.55,Default,,0000,0000,0000,,克：那你的想法是什麼？
Dialogue: 0,0:19:39.55,0:19:44.29,Default,,0000,0000,0000,,總括來看，你覺得我們\N完蛋的機率有多大？
Dialogue: 0,0:19:44.29,0:19:45.85,Default,,0000,0000,0000,,（笑聲）
Dialogue: 0,0:19:46.96,0:19:49.00,Default,,0000,0000,0000,,我喜歡大家對我這問題的笑聲。
Dialogue: 0,0:19:49.00,0:19:52.69,Default,,0000,0000,0000,,尼：以單一個體，\N我們無論如何都會完蛋，
Dialogue: 0,0:19:52.69,0:19:54.91,Default,,0000,0000,0000,,是早晚的問題罷了。
Dialogue: 0,0:19:54.91,0:19:57.42,Default,,0000,0000,0000,,身體凋零、老化和發生其他事情。
Dialogue: 0,0:19:57.42,0:19:59.02,Default,,0000,0000,0000,,（笑聲）
Dialogue: 0,0:19:59.02,0:20:00.22,Default,,0000,0000,0000,,問題有點棘手。
Dialogue: 0,0:20:00.22,0:20:02.24,Default,,0000,0000,0000,,要假設能夠計算機率的情境，
Dialogue: 0,0:20:02.24,0:20:04.02,Default,,0000,0000,0000,,首先要問我們是誰？
Dialogue: 0,0:20:04.02,0:20:06.49,Default,,0000,0000,0000,,如果你很老的話，很可能自然死亡，
Dialogue: 0,0:20:06.49,0:20:09.86,Default,,0000,0000,0000,,如果你很年輕，\N你可能有 100 年生命——
Dialogue: 0,0:20:09.86,0:20:11.34,Default,,0000,0000,0000,,機率跟詢問對象有關。
Dialogue: 0,0:20:11.34,0:20:16.29,Default,,0000,0000,0000,,然後是閾值，例如怎樣\N才算是文明毀滅了？
Dialogue: 0,0:20:16.29,0:20:21.92,Default,,0000,0000,0000,,在我這篇論文裡面，\N不一定要確實的災難，
Dialogue: 0,0:20:21.92,0:20:23.29,Default,,0000,0000,0000,,才計算這種情況。
Dialogue: 0,0:20:23.29,0:20:26.58,Default,,0000,0000,0000,,這只是定義的問題，\N例如十億人死亡，
Dialogue: 0,0:20:26.58,0:20:28.24,Default,,0000,0000,0000,,或是 GDP 下降 50%，
Dialogue: 0,0:20:28.24,0:20:33.17,Default,,0000,0000,0000,,但是根據你所設定的閾值，\N你會得到不同的估計機率。
Dialogue: 0,0:20:33.17,0:20:37.19,Default,,0000,0000,0000,,我想你可以笑我\N是一個被嚇壞的樂天派。
Dialogue: 0,0:20:37.19,0:20:38.53,Default,,0000,0000,0000,,（笑聲）
Dialogue: 0,0:20:38.53,0:20:39.82,Default,,0000,0000,0000,,克：的確是，
Dialogue: 0,0:20:39.82,0:20:45.17,Default,,0000,0000,0000,,而且你還把另外一大群人嚇壞了。
Dialogue: 0,0:20:45.17,0:20:46.13,Default,,0000,0000,0000,,（笑聲）
Dialogue: 0,0:20:46.13,0:20:47.71,Default,,0000,0000,0000,,尼：在模擬情境當中。
Dialogue: 0,0:20:47.71,0:20:48.94,Default,,0000,0000,0000,,克：在模擬情境當中。
Dialogue: 0,0:20:48.94,0:20:50.74,Default,,0000,0000,0000,,尼克．博斯特倫，\N你的想法讓我吃驚。
Dialogue: 0,0:20:50.74,0:20:53.38,Default,,0000,0000,0000,,非常感謝你\N把我們嚇得屁滾尿流。
Dialogue: 0,0:20:53.38,0:20:55.60,Default,,0000,0000,0000,,（掌聲）