[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:01.02,0:00:02.72,Default,,0000,0000,0000,,克里斯 · 安德森（CA）：\N尼克 · 博斯特罗姆（NB），
Dialogue: 0,0:00:02.72,0:00:06.67,Default,,0000,0000,0000,,你为我们带来过这么多\N疯狂的点子。
Dialogue: 0,0:00:06.67,0:00:08.50,Default,,0000,0000,0000,,我记得大概二十年前，
Dialogue: 0,0:00:08.50,0:00:11.26,Default,,0000,0000,0000,,你曾提出\N我们可能都正在，或曾经
Dialogue: 0,0:00:11.26,0:00:13.13,Default,,0000,0000,0000,,生活在一个模拟世界里。
Dialogue: 0,0:00:13.13,0:00:14.63,Default,,0000,0000,0000,,最近，
Dialogue: 0,0:00:14.63,0:00:19.23,Default,,0000,0000,0000,,你用最生动的案例来说明\N通用人工智能
Dialogue: 0,0:00:19.23,0:00:21.25,Default,,0000,0000,0000,,可能会带来的非常可怕的问题。
Dialogue: 0,0:00:21.72,0:00:23.06,Default,,0000,0000,0000,,接着今年，
Dialogue: 0,0:00:23.06,0:00:26.38,Default,,0000,0000,0000,,你即将发表一篇论文，
Dialogue: 0,0:00:26.39,0:00:29.24,Default,,0000,0000,0000,,题目为《脆弱世界假说》。
Dialogue: 0,0:00:29.24,0:00:33.91,Default,,0000,0000,0000,,而今天晚上我们的任务\N就是来简析这篇文章。
Dialogue: 0,0:00:34.37,0:00:36.29,Default,,0000,0000,0000,,来我们开始吧。
Dialogue: 0,0:00:36.79,0:00:38.69,Default,,0000,0000,0000,,假设前提是什么呢？
Dialogue: 0,0:00:39.86,0:00:42.38,Default,,0000,0000,0000,,尼克 · 博斯特罗姆（NB）：\N这篇文章在试图讨论
Dialogue: 0,0:00:42.38,0:00:45.53,Default,,0000,0000,0000,,人类现状的一种结构化特征。
Dialogue: 0,0:00:47.05,0:00:49.40,Default,,0000,0000,0000,,我知道你喜欢摸球游戏的比喻，
Dialogue: 0,0:00:49.40,0:00:51.39,Default,,0000,0000,0000,,那我就用它来解释。
Dialogue: 0,0:00:51.39,0:00:55.70,Default,,0000,0000,0000,,想象一个很大的缸中装满了小球，
Dialogue: 0,0:00:55.70,0:00:59.78,Default,,0000,0000,0000,,小球代表\N各种观点、方法，和可能的技术。
Dialogue: 0,0:01:00.83,0:01:04.48,Default,,0000,0000,0000,,你可以把人类的创造历史
Dialogue: 0,0:01:04.48,0:01:08.32,Default,,0000,0000,0000,,当作把手伸向这个缸\N并从中不断取出小球的过程，
Dialogue: 0,0:01:08.32,0:01:11.55,Default,,0000,0000,0000,,目前为止的净效益\N已创造了极大的收益，对吧？
Dialogue: 0,0:01:11.55,0:01:14.32,Default,,0000,0000,0000,,我们取出了很多很多白色的小球，
Dialogue: 0,0:01:14.32,0:01:17.34,Default,,0000,0000,0000,,一些或深或浅的灰色的小球，\N有好有坏。
Dialogue: 0,0:01:17.99,0:01:21.02,Default,,0000,0000,0000,,我们至今\N还没有拿到过黑色的小球——
Dialogue: 0,0:01:22.17,0:01:27.68,Default,,0000,0000,0000,,也就是一个必定会\N摧毁其所属文明的技术。
Dialogue: 0,0:01:27.68,0:01:30.96,Default,,0000,0000,0000,,这篇论文试图讨论的就是\N这个黑球可能会是什么。
Dialogue: 0,0:01:30.96,0:01:32.84,Default,,0000,0000,0000,,CA：所以你将这个球
Dialogue: 0,0:01:32.84,0:01:36.15,Default,,0000,0000,0000,,定义为必将摧毁文明的存在。
Dialogue: 0,0:01:36.15,0:01:41.78,Default,,0000,0000,0000,,NB：除非我们停止这种我称之为\N半无政府的默认条件，
Dialogue: 0,0:01:41.78,0:01:43.50,Default,,0000,0000,0000,,或者说默认状态。
Dialogue: 0,0:01:44.24,0:01:47.98,Default,,0000,0000,0000,,CA：也就是说你利用了一些反例
Dialogue: 0,0:01:47.98,0:01:50.04,Default,,0000,0000,0000,,做为有力佐证来说明你的观点，
Dialogue: 0,0:01:50.04,0:01:52.69,Default,,0000,0000,0000,,比如说你相信到目前为止\N我们仅仅是走运，
Dialogue: 0,0:01:52.69,0:01:55.58,Default,,0000,0000,0000,,而且我们在不知情的情况下，
Dialogue: 0,0:01:55.58,0:01:57.49,Default,,0000,0000,0000,,很可能已经取出了死亡之球。
Dialogue: 0,0:01:57.49,0:01:59.60,Default,,0000,0000,0000,,我记得有句名言，是什么来着？
Dialogue: 0,0:02:00.54,0:02:03.17,Default,,0000,0000,0000,,NB：我猜我只是想阐明
Dialogue: 0,0:02:03.17,0:02:06.32,Default,,0000,0000,0000,,预测基本发现\N在未来可能的作用潜力的
Dialogue: 0,0:02:06.32,0:02:08.07,Default,,0000,0000,0000,,困难程度。
Dialogue: 0,0:02:08.07,0:02:11.11,Default,,0000,0000,0000,,我们真的不具备那样的能力。
Dialogue: 0,0:02:11.11,0:02:14.51,Default,,0000,0000,0000,,因为对于取出小球，\N我们已经轻车熟路，
Dialogue: 0,0:02:14.51,0:02:18.26,Default,,0000,0000,0000,,但是我们并没有\N把球放回缸里的能力。
Dialogue: 0,0:02:18.26,0:02:20.61,Default,,0000,0000,0000,,我们可以发明，\N但是我们不会回到发明前。
Dialogue: 0,0:02:21.46,0:02:24.14,Default,,0000,0000,0000,,很显然我们的战略，
Dialogue: 0,0:02:24.14,0:02:26.70,Default,,0000,0000,0000,,就是祈祷缸里没有黑球。
Dialogue: 0,0:02:26.70,0:02:30.73,Default,,0000,0000,0000,,CA：也就是说一旦把球取出来了\N就没法再放回去了。
Dialogue: 0,0:02:30.73,0:02:32.50,Default,,0000,0000,0000,,你觉得我们一直挺幸运。
Dialogue: 0,0:02:32.50,0:02:34.61,Default,,0000,0000,0000,,在讲述这些例子的过程中，
Dialogue: 0,0:02:34.61,0:02:37.68,Default,,0000,0000,0000,,你谈到了不同类型的弱点。
Dialogue: 0,0:02:37.68,0:02:40.18,Default,,0000,0000,0000,,NB：最容易理解的一种类型是
Dialogue: 0,0:02:40.18,0:02:43.21,Default,,0000,0000,0000,,不费吹灰之力
Dialogue: 0,0:02:43.21,0:02:45.62,Default,,0000,0000,0000,,便能造成大规模破坏的技术。
Dialogue: 0,0:02:47.30,0:02:50.80,Default,,0000,0000,0000,,合成生物技术可能成为\N这样的黑球，
Dialogue: 0,0:02:50.80,0:02:53.35,Default,,0000,0000,0000,,但同时我们可以利用它\N做很多事情——
Dialogue: 0,0:02:53.35,0:02:56.01,Default,,0000,0000,0000,,比如说地球工程，\N非常棒，对吧？
Dialogue: 0,0:02:56.01,0:02:58.31,Default,,0000,0000,0000,,我们可以利用它来应对全球变暖，
Dialogue: 0,0:02:58.31,0:03:00.36,Default,,0000,0000,0000,,但是我们肯定不希望\N这种技术变得唾手可得，
Dialogue: 0,0:03:00.36,0:03:02.88,Default,,0000,0000,0000,,我们不希望某个路人和他的奶奶
Dialogue: 0,0:03:02.88,0:03:05.95,Default,,0000,0000,0000,,拥有这样的能彻底\N改变地球气候的能力。
Dialogue: 0,0:03:05.95,0:03:09.61,Default,,0000,0000,0000,,又或者是具备杀伤力的\N自主无人机，
Dialogue: 0,0:03:09.61,0:03:13.01,Default,,0000,0000,0000,,得以量产、如蚊子大小的\N机械杀人虫。
Dialogue: 0,0:03:14.44,0:03:16.65,Default,,0000,0000,0000,,纳米技术，通用人工智能等。
Dialogue: 0,0:03:16.99,0:03:18.75,Default,,0000,0000,0000,,CA：在论文里，你论述到
Dialogue: 0,0:03:18.75,0:03:22.32,Default,,0000,0000,0000,,我们对能够创造原子弹的\N核能的发现
Dialogue: 0,0:03:22.32,0:03:24.44,Default,,0000,0000,0000,,纯粹是走运。
Dialogue: 0,0:03:24.44,0:03:27.11,Default,,0000,0000,0000,,因此，利用身边更容易获得的资源
Dialogue: 0,0:03:27.11,0:03:29.66,Default,,0000,0000,0000,,就能制造出原子弹这样的情况，
Dialogue: 0,0:03:29.66,0:03:31.14,Default,,0000,0000,0000,,也是极有可能的。
Dialogue: 0,0:03:31.53,0:03:35.35,Default,,0000,0000,0000,,NB：没错，回顾上世纪 30 年代，
Dialogue: 0,0:03:35.35,0:03:39.92,Default,,0000,0000,0000,,当时我们在核物理学领域\N取得首次突破，
Dialogue: 0,0:03:39.92,0:03:43.65,Default,,0000,0000,0000,,几个天才科学家发现\N引发原子核链反应是可能的，
Dialogue: 0,0:03:43.65,0:03:46.84,Default,,0000,0000,0000,,接着便想到把它做成一枚炸弹。
Dialogue: 0,0:03:46.84,0:03:48.80,Default,,0000,0000,0000,,我们往下研究，
Dialogue: 0,0:03:48.80,0:03:51.51,Default,,0000,0000,0000,,发现要想做出一枚原子弹
Dialogue: 0,0:03:51.51,0:03:53.91,Default,,0000,0000,0000,,需要浓缩铀或者钚，
Dialogue: 0,0:03:53.91,0:03:55.99,Default,,0000,0000,0000,,而这些是极难弄到手的材料。
Dialogue: 0,0:03:55.99,0:03:58.25,Default,,0000,0000,0000,,需要超速离心机，
Dialogue: 0,0:03:58.25,0:04:02.04,Default,,0000,0000,0000,,需要反应堆，\N能产生巨大能量的东西。
Dialogue: 0,0:04:02.04,0:04:03.86,Default,,0000,0000,0000,,但是试想一下，
Dialogue: 0,0:04:03.86,0:04:07.90,Default,,0000,0000,0000,,如果有一种很简单的方法\N就能释放原子的能量。
Dialogue: 0,0:04:07.90,0:04:10.06,Default,,0000,0000,0000,,可能是在微波炉里烤沙子
Dialogue: 0,0:04:10.06,0:04:11.99,Default,,0000,0000,0000,,诸如此类的简便方法，
Dialogue: 0,0:04:11.99,0:04:13.100,Default,,0000,0000,0000,,你就能很轻而易举地\N引发原子核爆。
Dialogue: 0,0:04:13.100,0:04:15.99,Default,,0000,0000,0000,,我们知道从物理学上来说\N这并不可能。
Dialogue: 0,0:04:15.99,0:04:18.16,Default,,0000,0000,0000,,但是在研究相关的物理学问题之前，
Dialogue: 0,0:04:18.16,0:04:20.40,Default,,0000,0000,0000,,我们又如何知道这是不可能的呢？
Dialogue: 0,0:04:20.40,0:04:21.99,Default,,0000,0000,0000,,CA：尽管如此，为何你不能论述说
Dialogue: 0,0:04:21.99,0:04:23.79,Default,,0000,0000,0000,,地球上生命的进化
Dialogue: 0,0:04:23.79,0:04:27.10,Default,,0000,0000,0000,,暗示了地球某种稳定的环境，
Dialogue: 0,0:04:27.10,0:04:30.82,Default,,0000,0000,0000,,如果相对简单地\N就能引发大规模核反应，
Dialogue: 0,0:04:30.82,0:04:32.96,Default,,0000,0000,0000,,那么地球本就不会如此稳定，
Dialogue: 0,0:04:32.96,0:04:34.44,Default,,0000,0000,0000,,我们也不复存在。
Dialogue: 0,0:04:34.76,0:04:38.36,Default,,0000,0000,0000,,NB：是的，除非这种情况能轻易实现\N且有人有意为之。
Dialogue: 0,0:04:38.36,0:04:41.13,Default,,0000,0000,0000,,但这种情况不会突然冒出来。
Dialogue: 0,0:04:41.13,0:04:42.76,Default,,0000,0000,0000,,我们轻易能办到的，
Dialogue: 0,0:04:42.76,0:04:44.90,Default,,0000,0000,0000,,比如说将 10 个方块\N一个个叠起来，
Dialogue: 0,0:04:44.90,0:04:47.92,Default,,0000,0000,0000,,但在自然中，你不会看到\N一个 10 个方块为一摞的物体。
Dialogue: 0,0:04:47.92,0:04:49.59,Default,,0000,0000,0000,,CA：那么这可能就是
Dialogue: 0,0:04:49.59,0:04:51.74,Default,,0000,0000,0000,,我们很多人最为担心的一点，
Dialogue: 0,0:04:51.74,0:04:55.11,Default,,0000,0000,0000,,也就是合成生物技术
Dialogue: 0,0:04:55.11,0:04:58.40,Default,,0000,0000,0000,,很可能就是引领我们走向\N可视未来的捷径。
Dialogue: 0,0:04:58.40,0:05:01.32,Default,,0000,0000,0000,,NB：是的，现在我们想想\N那可能意味着什么？
Dialogue: 0,0:05:01.32,0:05:04.83,Default,,0000,0000,0000,,假设任何人在某个下午，\N在自己的厨房里捣腾
Dialogue: 0,0:05:04.83,0:05:06.50,Default,,0000,0000,0000,,就能毁掉一座城市。
Dialogue: 0,0:05:06.50,0:05:09.80,Default,,0000,0000,0000,,很难想象我们熟知的现代文明
Dialogue: 0,0:05:09.80,0:05:11.50,Default,,0000,0000,0000,,怎样能逃过一劫。
Dialogue: 0,0:05:11.50,0:05:13.98,Default,,0000,0000,0000,,因为任意 100 万人里面，
Dialogue: 0,0:05:13.98,0:05:16.65,Default,,0000,0000,0000,,总会有那么一些人，\N出于某种原因，
Dialogue: 0,0:05:16.65,0:05:19.02,Default,,0000,0000,0000,,会选择使用那种毁天灭地的能量。
Dialogue: 0,0:05:19.69,0:05:22.82,Default,,0000,0000,0000,,如果那个世界末日的残余
Dialogue: 0,0:05:22.82,0:05:24.81,Default,,0000,0000,0000,,选择要摧毁一座城市，\N甚至更糟，
Dialogue: 0,0:05:24.81,0:05:26.44,Default,,0000,0000,0000,,那么文明将难逃一劫。
Dialogue: 0,0:05:26.44,0:05:28.81,Default,,0000,0000,0000,,CA：文章中提到的另一种弱点。
Dialogue: 0,0:05:28.81,0:05:30.49,Default,,0000,0000,0000,,你能谈谈吗？
Dialogue: 0,0:05:30.49,0:05:34.31,Default,,0000,0000,0000,,NB：嗯，在这种显而易见的黑球外，
Dialogue: 0,0:05:34.31,0:05:37.28,Default,,0000,0000,0000,,这种能一下子引发大爆炸的黑球外，
Dialogue: 0,0:05:37.28,0:05:41.71,Default,,0000,0000,0000,,其他类型的黑球\N则是通过创造不良动机，
Dialogue: 0,0:05:41.71,0:05:43.100,Default,,0000,0000,0000,,鼓吹人们作恶。
Dialogue: 0,0:05:43.100,0:05:48.07,Default,,0000,0000,0000,,我们可以把它称为“ Type-2a ”，
Dialogue: 0,0:05:48.07,0:05:52.63,Default,,0000,0000,0000,,指的是\N使用某些技术去怂恿大国
Dialogue: 0,0:05:52.63,0:05:57.10,Default,,0000,0000,0000,,让它们利用自身的大规模武力\N带来破坏。
Dialogue: 0,0:05:57.10,0:06:00.32,Default,,0000,0000,0000,,那么核武器\N其实很接近这个定义，对吧？
Dialogue: 0,0:06:02.00,0:06:05.09,Default,,0000,0000,0000,,我们花了超过 10 万亿美元
Dialogue: 0,0:06:05.09,0:06:07.62,Default,,0000,0000,0000,,生产出 7 万颗原子弹，
Dialogue: 0,0:06:07.62,0:06:09.95,Default,,0000,0000,0000,,随时候命。
Dialogue: 0,0:06:09.95,0:06:11.67,Default,,0000,0000,0000,,在冷战时期，有好几次
Dialogue: 0,0:06:11.67,0:06:13.96,Default,,0000,0000,0000,,我们差一点就把世界炸得飞起。
Dialogue: 0,0:06:13.96,0:06:16.94,Default,,0000,0000,0000,,这并不是因为人们认为\N炸飞彼此是一个很棒的想法，
Dialogue: 0,0:06:16.94,0:06:19.16,Default,,0000,0000,0000,,我们一起花个 10 万亿\N把大家炸个稀巴烂吧，
Dialogue: 0,0:06:19.16,0:06:21.90,Default,,0000,0000,0000,,但是背后的推动力是如此强大，\N我们发现——
Dialogue: 0,0:06:21.90,0:06:23.36,Default,,0000,0000,0000,,结果本可能会更惨重。
Dialogue: 0,0:06:23.36,0:06:26.27,Default,,0000,0000,0000,,假设第一次突袭安然无恙。
Dialogue: 0,0:06:26.27,0:06:28.59,Default,,0000,0000,0000,,那么之后，在一个危急情况下
Dialogue: 0,0:06:28.59,0:06:30.73,Default,,0000,0000,0000,,想要遏制别人发射所有的原子弹
Dialogue: 0,0:06:30.73,0:06:32.50,Default,,0000,0000,0000,,将会变得非常棘手。
Dialogue: 0,0:06:32.50,0:06:35.40,Default,,0000,0000,0000,,不为别的，因为你会害怕\N对手抢先一步发射导弹。
Dialogue: 0,0:06:35.40,0:06:37.74,Default,,0000,0000,0000,,CA：对，相互制衡的毁灭性武器
Dialogue: 0,0:06:37.74,0:06:40.54,Default,,0000,0000,0000,,让冷战时期保持相对稳定，
Dialogue: 0,0:06:40.54,0:06:42.23,Default,,0000,0000,0000,,如果没有这种制衡，\N我们可能也不复存在了。
Dialogue: 0,0:06:42.23,0:06:44.17,Default,,0000,0000,0000,,NB：冷战本可能比当时的局势更动荡。
Dialogue: 0,0:06:44.17,0:06:46.22,Default,,0000,0000,0000,,因为可能会有其他技术武器。
Dialogue: 0,0:06:46.22,0:06:48.39,Default,,0000,0000,0000,,假设不是核武器震慑，
Dialogue: 0,0:06:48.39,0:06:51.40,Default,,0000,0000,0000,,而是其他更小型的\N或是不那么与众不同的武器，
Dialogue: 0,0:06:51.40,0:06:53.87,Default,,0000,0000,0000,,军备条约怕是更难达成共识。
Dialogue: 0,0:06:53.87,0:06:56.21,Default,,0000,0000,0000,,CA：以及鼓吹强国政治力量的不良动机，
Dialogue: 0,0:06:56.21,0:07:00.14,Default,,0000,0000,0000,,你在 Type-2b 中也表示了\N对怂恿常人的不良动机的担忧。
Dialogue: 0,0:07:00.14,0:07:04.68,Default,,0000,0000,0000,,NB：是的，\N在这里我们可能要拿全球变暖举例。
Dialogue: 0,0:07:06.88,0:07:08.67,Default,,0000,0000,0000,,总有那么一些便利因素
Dialogue: 0,0:07:08.67,0:07:10.90,Default,,0000,0000,0000,,促使我们每一个人做出一些
Dialogue: 0,0:07:10.90,0:07:13.79,Default,,0000,0000,0000,,无足轻重的个人行为，对吧？
Dialogue: 0,0:07:13.79,0:07:15.80,Default,,0000,0000,0000,,但是如果上百亿人都这么做，
Dialogue: 0,0:07:15.80,0:07:18.40,Default,,0000,0000,0000,,累积起来，这将会产生毁灭性影响。
Dialogue: 0,0:07:18.04,0:07:20.57,Default,,0000,0000,0000,,全球变暖的情况本可能\N比现在更糟糕。
Dialogue: 0,0:07:20.57,0:07:23.72,Default,,0000,0000,0000,,我们现在用的是气候敏感参数。
Dialogue: 0,0:07:23.72,0:07:27.43,Default,,0000,0000,0000,,这个参数显示\N我们每释放一个单位的温室气体
Dialogue: 0,0:07:27.43,0:07:30.11,Default,,0000,0000,0000,,气温会上升多少。
Dialogue: 0,0:07:30.11,0:07:32.41,Default,,0000,0000,0000,,但是假设情况变成
Dialogue: 0,0:07:32.41,0:07:34.100,Default,,0000,0000,0000,,我们每释放一个单位的温室气体，
Dialogue: 0,0:07:34.100,0:07:37.30,Default,,0000,0000,0000,,到 2100 年
Dialogue: 0,0:07:37.30,0:07:41.38,Default,,0000,0000,0000,,气温不是上升 3 - 4.5 度，
Dialogue: 0,0:07:41.38,0:07:43.46,Default,,0000,0000,0000,,而是 15 - 20 度。
Dialogue: 0,0:07:44.29,0:07:46.42,Default,,0000,0000,0000,,那我们将可能处于水深火热之中。
Dialogue: 0,0:07:46.42,0:07:49.24,Default,,0000,0000,0000,,又或者假设很难生产再生能源。
Dialogue: 0,0:07:49.24,0:07:51.93,Default,,0000,0000,0000,,又或者地下还有很多石油。
Dialogue: 0,0:07:51.93,0:07:55.27,Default,,0000,0000,0000,,CA：在这种情况下，\N那你为什么不论述——
Dialogue: 0,0:07:55.27,0:07:57.34,Default,,0000,0000,0000,,我们现在的行为
Dialogue: 0,0:07:57.34,0:08:01.36,Default,,0000,0000,0000,,在可见的一段时间里\N已经造成了 10 度的气温之差，
Dialogue: 0,0:08:01.36,0:08:05.10,Default,,0000,0000,0000,,那这下人们总该\N认真起来，做出些改变了。
Dialogue: 0,0:08:05.10,0:08:07.50,Default,,0000,0000,0000,,我们愚蠢，但是我们可能\N还不至于那么愚蠢。
Dialogue: 0,0:08:07.50,0:08:09.20,Default,,0000,0000,0000,,又或者我们就是如此愚蠢。
Dialogue: 0,0:08:09.20,0:08:10.60,Default,,0000,0000,0000,,NB：我看不一定。
Dialogue: 0,0:08:10.60,0:08:12.70,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:08:12.70,0:08:14.67,Default,,0000,0000,0000,,你可以想象其他东西。
Dialogue: 0,0:08:14.67,0:08:20.24,Default,,0000,0000,0000,,比如现在要转向再生能源之类的\N的确有些困难，对吧，
Dialogue: 0,0:08:20.24,0:08:21.54,Default,,0000,0000,0000,,但是确是可行的。
Dialogue: 0,0:08:21.54,0:08:24.61,Default,,0000,0000,0000,,可能在稍有不同的物理学知识原理下，
Dialogue: 0,0:08:24.61,0:08:27.44,Default,,0000,0000,0000,,它的应用可能就会变得昂贵很多。
Dialogue: 0,0:08:28.26,0:08:29.80,Default,,0000,0000,0000,,CA：那你怎么看呢，尼克？
Dialogue: 0,0:08:29.80,0:08:32.24,Default,,0000,0000,0000,,你认为把这些可能性加总，
Dialogue: 0,0:08:32.24,0:08:36.46,Default,,0000,0000,0000,,这个地球，我们人类，
Dialogue: 0,0:08:36.46,0:08:38.15,Default,,0000,0000,0000,,就是一个脆弱的世界？
Dialogue: 0,0:08:38.15,0:08:40.72,Default,,0000,0000,0000,,我们的未来里有一个死亡之球？
Dialogue: 0,0:08:43.87,0:08:45.10,Default,,0000,0000,0000,,NB：这很难说。
Dialogue: 0,0:08:45.10,0:08:50.00,Default,,0000,0000,0000,,我的意思是，我认为缸里\N可能有各种各样的黑球，
Dialogue: 0,0:08:50.00,0:08:51.52,Default,,0000,0000,0000,,可能这就是我们的未来。
Dialogue: 0,0:08:51.52,0:08:53.86,Default,,0000,0000,0000,,但其中，可能也会有一些金球，
Dialogue: 0,0:08:53.86,0:08:57.41,Default,,0000,0000,0000,,能保护我们不受黑球的伤害。
Dialogue: 0,0:08:57.41,0:09:00.44,Default,,0000,0000,0000,,可我不知道\N它们出现的先后顺序。
Dialogue: 0,0:09:00.44,0:09:04.36,Default,,0000,0000,0000,,CA：对这种想法的\N一种可能的哲学批判是
Dialogue: 0,0:09:04.36,0:09:10.03,Default,,0000,0000,0000,,这种想法暗示着未来的大局已定。
Dialogue: 0,0:09:10.03,0:09:12.54,Default,,0000,0000,0000,,这个球要么存在，要么不存在。
Dialogue: 0,0:09:12.54,0:09:15.50,Default,,0000,0000,0000,,某种程度上，
Dialogue: 0,0:09:15.50,0:09:17.80,Default,,0000,0000,0000,,这不是我想要的未来观。
Dialogue: 0,0:09:17.80,0:09:20.42,Default,,0000,0000,0000,,我想要相信未来尚未成型，
Dialogue: 0,0:09:20.42,0:09:22.87,Default,,0000,0000,0000,,今天我们的决定将能改变未来走向
Dialogue: 0,0:09:22.87,0:09:25.40,Default,,0000,0000,0000,,也就是我们会从这个缸里\N取出怎样的小球。
Dialogue: 0,0:09:25.80,0:09:29.97,Default,,0000,0000,0000,,NB：我想如果\N我们一直不断发明创造，
Dialogue: 0,0:09:29.97,0:09:32.14,Default,,0000,0000,0000,,最终我们会取出所有的小球。
Dialogue: 0,0:09:32.81,0:09:36.10,Default,,0000,0000,0000,,那是一种技术决定论的较弱形式，
Dialogue: 0,0:09:36.10,0:09:37.41,Default,,0000,0000,0000,,也是挺合理的。
Dialogue: 0,0:09:37.41,0:09:40.15,Default,,0000,0000,0000,,就好像你不可能遇上一个
Dialogue: 0,0:09:40.15,0:09:42.98,Default,,0000,0000,0000,,燧石斧和喷射机并存的社会。
Dialogue: 0,0:09:44.07,0:09:48.14,Default,,0000,0000,0000,,但是你可以把某种技术想象成\N一种功能组合。
Dialogue: 0,0:09:48.14,0:09:50.91,Default,,0000,0000,0000,,也就是说技术能让我们\N实现各种各样的事情，
Dialogue: 0,0:09:50.91,0:09:52.77,Default,,0000,0000,0000,,并在这个世界中\N造成各种各样的影响。
Dialogue: 0,0:09:52.77,0:09:55.98,Default,,0000,0000,0000,,我们怎样利用技术\N全凭人类做出怎样的选择。
Dialogue: 0,0:09:55.98,0:09:58.70,Default,,0000,0000,0000,,但是如果我们想想这三种类型的弱点，
Dialogue: 0,0:09:58.70,0:10:02.19,Default,,0000,0000,0000,,它们做出了一个关于我们\N将会选择如何使用技术的弱势假设。
Dialogue: 0,0:10:02.19,0:10:05.50,Default,,0000,0000,0000,,比如说 Type-1 弱点，\N也就是大规模毁灭性力量，
Dialogue: 0,0:10:05.50,0:10:07.60,Default,,0000,0000,0000,,思考上百万的人口中，
Dialogue: 0,0:10:07.60,0:10:10.41,Default,,0000,0000,0000,,会有一些人\N可能会选择使用这种力量作恶，
Dialogue: 0,0:10:10.41,0:10:12.26,Default,,0000,0000,0000,,这是一个相当弱的假设。
Dialogue: 0,0:10:12.26,0:10:14.77,Default,,0000,0000,0000,,CA：对于我来说，\N其中最令人心烦的论点
Dialogue: 0,0:10:14.77,0:10:19.47,Default,,0000,0000,0000,,就是我们可能对于\N缸里的东西已经有了一定的想法，
Dialogue: 0,0:10:19.47,0:10:22.74,Default,,0000,0000,0000,,这让我们感觉——\N很可能我们要完了。
Dialogue: 0,0:10:22.74,0:10:27.64,Default,,0000,0000,0000,,换句话说，\N如果你相信加速的力量，
Dialogue: 0,0:10:27.64,0:10:30.20,Default,,0000,0000,0000,,也就是技术固有的发展加速性，
Dialogue: 0,0:10:30.20,0:10:32.52,Default,,0000,0000,0000,,我们所打造的这些\N让我们更强大的工具，
Dialogue: 0,0:10:32.52,0:10:35.33,Default,,0000,0000,0000,,随后到了某个时刻，\N我们会进入
Dialogue: 0,0:10:35.33,0:10:38.17,Default,,0000,0000,0000,,某个人仅凭一己之力\N就能干掉所有人的境地，
Dialogue: 0,0:10:38.17,0:10:40.98,Default,,0000,0000,0000,,之后这看起来似乎我们都要完了。
Dialogue: 0,0:10:40.98,0:10:43.84,Default,,0000,0000,0000,,这个论点不是有点令人恐慌？
Dialogue: 0,0:10:43.84,0:10:45.74,Default,,0000,0000,0000,,NB：呃，对啊。
Dialogue: 0,0:10:46.56,0:10:47.97,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:10:47.97,0:10:49.32,Default,,0000,0000,0000,,我认为——
Dialogue: 0,0:10:50.84,0:10:53.19,Default,,0000,0000,0000,,我们获得越来越多的力量，
Dialogue: 0,0:10:53.19,0:10:56.29,Default,,0000,0000,0000,,这些力量用起来越来越得心应手，
Dialogue: 0,0:10:56.29,0:10:59.82,Default,,0000,0000,0000,,但是同时我们也可以发明一些技术\N来帮我们控制
Dialogue: 0,0:10:59.82,0:11:01.84,Default,,0000,0000,0000,,人们如何使用这些力量。
Dialogue: 0,0:11:01.84,0:11:04.74,Default,,0000,0000,0000,,CA：那我们来谈谈面对这些危机的反应。
Dialogue: 0,0:11:04.74,0:11:07.15,Default,,0000,0000,0000,,假设想想这些可能性
Dialogue: 0,0:11:07.15,0:11:09.28,Default,,0000,0000,0000,,现有的这些可能性——
Dialogue: 0,0:11:09.28,0:11:12.98,Default,,0000,0000,0000,,不单单是合成生物技术，\N还是网络战，
Dialogue: 0,0:11:12.98,0:11:16.47,Default,,0000,0000,0000,,人工智能，等等等等——
Dialogue: 0,0:11:16.47,0:11:20.78,Default,,0000,0000,0000,,我们的未来可能注定难逃一切。
Dialogue: 0,0:11:20.78,0:11:23.24,Default,,0000,0000,0000,,那人们可能会有怎样的反应呢？
Dialogue: 0,0:11:23.24,0:11:27.48,Default,,0000,0000,0000,,你在文章中\N也谈过四种可能的反应。
Dialogue: 0,0:11:27.48,0:11:31.18,Default,,0000,0000,0000,,NB：限制技术发展看起来不太可能，
Dialogue: 0,0:11:31.18,0:11:34.56,Default,,0000,0000,0000,,如果我们谈的是技术发展的全面停滞。
Dialogue: 0,0:11:34.56,0:11:35.99,Default,,0000,0000,0000,,我觉得非但不可行，
Dialogue: 0,0:11:35.99,0:11:38.83,Default,,0000,0000,0000,,而且哪怕我们有能力这么做，\N又有谁会想这么做。
Dialogue: 0,0:11:38.83,0:11:41.36,Default,,0000,0000,0000,,我想在极少数的领域，
Dialogue: 0,0:11:41.36,0:11:43.88,Default,,0000,0000,0000,,你可能会想要放慢发展的步伐。
Dialogue: 0,0:11:43.88,0:11:47.25,Default,,0000,0000,0000,,比如说你不会希望\N生化武器得到快速发展，
Dialogue: 0,0:11:47.25,0:11:49.32,Default,,0000,0000,0000,,又或者说同位素分离，
Dialogue: 0,0:11:49.32,0:11:51.62,Default,,0000,0000,0000,,那是有助于生产原子弹的东西。
Dialogue: 0,0:11:52.57,0:11:55.80,Default,,0000,0000,0000,,CA：换作以前，\N我会十分同意你这里的观点。
Dialogue: 0,0:11:55.80,0:11:59.40,Default,,0000,0000,0000,,但是现在，\N我倒是想要三思一下。
Dialogue: 0,0:11:59.40,0:12:00.44,Default,,0000,0000,0000,,因为首先，
Dialogue: 0,0:12:00.44,0:12:03.75,Default,,0000,0000,0000,,如果我们回顾\N过去几十年的历史，
Dialogue: 0,0:12:03.75,0:12:06.61,Default,,0000,0000,0000,,这段时期，\N我们一直都在全速前进，
Dialogue: 0,0:12:06.61,0:12:08.85,Default,,0000,0000,0000,,这还好，那是我们唯一的选择。
Dialogue: 0,0:12:08.85,0:12:12.86,Default,,0000,0000,0000,,但如果你看看\N全球化及其的加速发展，
Dialogue: 0,0:12:12.86,0:12:16.32,Default,,0000,0000,0000,,如果看看那个\N“快速行动，破除陈规”的策略
Dialogue: 0,0:12:16.32,0:12:18.43,Default,,0000,0000,0000,,及其带来的后果，
Dialogue: 0,0:12:18.43,0:12:21.20,Default,,0000,0000,0000,,再看看合成生物技术的潜力所在，
Dialogue: 0,0:12:21.20,0:12:25.59,Default,,0000,0000,0000,,我不认为\N我们应该快速发展，
Dialogue: 0,0:12:25.59,0:12:27.30,Default,,0000,0000,0000,,或者不加以任何约束，
Dialogue: 0,0:12:27.30,0:12:29.69,Default,,0000,0000,0000,,奔向一个人手一台 DNA 打印机，
Dialogue: 0,0:12:29.69,0:12:32.74,Default,,0000,0000,0000,,DNA 打印机变成高中实验室标配的\N世界。
Dialogue: 0,0:12:33.16,0:12:34.73,Default,,0000,0000,0000,,是有一些的约束，对吗？
Dialogue: 0,0:12:34.73,0:12:37.42,Default,,0000,0000,0000,,NB：有可能，这是第一部分，\N但是并不可行。
Dialogue: 0,0:12:37.42,0:12:39.52,Default,,0000,0000,0000,,如果你觉得\N阻止这一切是人心所向，
Dialogue: 0,0:12:39.52,0:12:41.32,Default,,0000,0000,0000,,那么还有可行性问题。
Dialogue: 0,0:12:41.32,0:12:44.26,Default,,0000,0000,0000,,如果只是一个国家这么做\N并没多大用处——
Dialogue: 0,0:12:44.26,0:12:46.19,Default,,0000,0000,0000,,CA：不，一个国家不管用，
Dialogue: 0,0:12:46.19,0:12:48.82,Default,,0000,0000,0000,,但是我们之前有过国际条约。
Dialogue: 0,0:12:48.82,0:12:52.32,Default,,0000,0000,0000,,这才是我们\N真正度过核危机的方法——
Dialogue: 0,0:12:52.32,0:12:53.44,Default,,0000,0000,0000,,走出国门，
Dialogue: 0,0:12:53.44,0:12:56.42,Default,,0000,0000,0000,,历经痛苦的斡旋谈判。
Dialogue: 0,0:12:56.42,0:13:01.84,Default,,0000,0000,0000,,我在想，作为一项全球优先事务，\N这其中的逻辑
Dialogue: 0,0:13:01.84,0:13:03.84,Default,,0000,0000,0000,,不应该是我们走出国门并尝试，
Dialogue: 0,0:13:03.84,0:13:06.24,Default,,0000,0000,0000,,比如现在，开始协商并制定出\N一些非常严格的规定
Dialogue: 0,0:13:06.24,0:13:08.93,Default,,0000,0000,0000,,来约束合成生物的研究吗？
Dialogue: 0,0:13:08.93,0:13:11.91,Default,,0000,0000,0000,,这可不是什么\N你想要民主化的东西，对吧？
Dialogue: 0,0:13:11.91,0:13:14.21,Default,,0000,0000,0000,,NB：我完全赞成——
Dialogue: 0,0:13:15.48,0:13:17.31,Default,,0000,0000,0000,,举个例子，
Dialogue: 0,0:13:17.31,0:13:21.40,Default,,0000,0000,0000,,也许拥有 DNA 合成仪器\N挺诱人的，
Dialogue: 0,0:13:21.40,0:13:25.11,Default,,0000,0000,0000,,并非作为每个实验室\N都有的那种产品，
Dialogue: 0,0:13:25.11,0:13:26.75,Default,,0000,0000,0000,,而可能作为一种服务。
Dialogue: 0,0:13:26.75,0:13:29.24,Default,,0000,0000,0000,,也许世界上能有那么 4 - 5 个地方，
Dialogue: 0,0:13:29.24,0:13:32.77,Default,,0000,0000,0000,,你可以把自己的电子蓝图发过去，\N然后得到自己的 DNA 图谱。
Dialogue: 0,0:13:32.77,0:13:35.56,Default,,0000,0000,0000,,如果这个技术变成必需的一天\N真的来了，
Dialogue: 0,0:13:35.56,0:13:36.91,Default,,0000,0000,0000,,那你就会获得这种能力，
Dialogue: 0,0:13:36.91,0:13:39.31,Default,,0000,0000,0000,,我们也会有一组有限的要塞点。
Dialogue: 0,0:13:39.31,0:13:42.81,Default,,0000,0000,0000,,所以我认为你会想\N寻找某些特殊的机会，
Dialogue: 0,0:13:42.81,0:13:44.88,Default,,0000,0000,0000,,使你有更强的控制。
Dialogue: 0,0:13:44.88,0:13:46.63,Default,,0000,0000,0000,,CA：你的观点是，最终，
Dialogue: 0,0:13:46.63,0:13:49.64,Default,,0000,0000,0000,,仅依靠放慢脚步，\N我们是无法成功的。
Dialogue: 0,0:13:49.64,0:13:52.29,Default,,0000,0000,0000,,某人，在某个地方——\N北朝鲜——
Dialogue: 0,0:13:52.29,0:13:55.51,Default,,0000,0000,0000,,某人会发现这样的知识，
Dialogue: 0,0:13:55.51,0:13:57.14,Default,,0000,0000,0000,,如果它真的存在的话。
Dialogue: 0,0:13:57.14,0:13:59.51,Default,,0000,0000,0000,,NB：在当前的情况来看貌似是合理的。
Dialogue: 0,0:13:59.51,0:14:01.31,Default,,0000,0000,0000,,也不仅限于合成生物技术。
Dialogue: 0,0:14:01.31,0:14:03.95,Default,,0000,0000,0000,,我想世界上任何新的前沿的改变，
Dialogue: 0,0:14:03.95,0:14:05.58,Default,,0000,0000,0000,,都可能是一个黑球。
Dialogue: 0,0:14:05.58,0:14:07.77,Default,,0000,0000,0000,,CA：我们再看看另一种可能的反应。
Dialogue: 0,0:14:07.77,0:14:10.12,Default,,0000,0000,0000,,NB：我想这种反应的潜能是有限的。
Dialogue: 0,0:14:10.12,0:14:13.70,Default,,0000,0000,0000,,我们再看看 Type-1 弱点，
Dialogue: 0,0:14:13.70,0:14:16.68,Default,,0000,0000,0000,,如果能减少那些有动力因素
Dialogue: 0,0:14:16.68,0:14:19.18,Default,,0000,0000,0000,,去毁灭世界的人数，
Dialogue: 0,0:14:19.18,0:14:21.11,Default,,0000,0000,0000,,如果有这样的方法和途径，
Dialogue: 0,0:14:21.11,0:14:22.29,Default,,0000,0000,0000,,那会是件好事。
Dialogue: 0,0:14:22.29,0:14:24.51,Default,,0000,0000,0000,,CA：在这个你希望我们想象的图景中，
Dialogue: 0,0:14:24.51,0:14:26.87,Default,,0000,0000,0000,,你想象着带着面部识别的无人机
Dialogue: 0,0:14:26.87,0:14:27.95,Default,,0000,0000,0000,,满世界飞。
Dialogue: 0,0:14:27.95,0:14:31.35,Default,,0000,0000,0000,,当它们发现有人表现出\N反社会行为倾向时，
Dialogue: 0,0:14:31.35,0:14:33.42,Default,,0000,0000,0000,,它们会施以爱的沐浴，并修正他们。
Dialogue: 0,0:14:33.42,0:14:35.65,Default,,0000,0000,0000,,NB：我想这会是个混合的图景。
Dialogue: 0,0:14:35.65,0:14:39.57,Default,,0000,0000,0000,,消除可以表示禁闭或杀害，
Dialogue: 0,0:14:39.57,0:14:42.69,Default,,0000,0000,0000,,也可以意味着，\N劝说人们看到世界更美好的一面。
Dialogue: 0,0:14:42.69,0:14:44.44,Default,,0000,0000,0000,,但是重点是，
Dialogue: 0,0:14:44.44,0:14:46.59,Default,,0000,0000,0000,,假设你深谙此道，
Dialogue: 0,0:14:46.59,0:14:49.93,Default,,0000,0000,0000,,你把害人之马的数目减半了。
Dialogue: 0,0:14:49.93,0:14:52.45,Default,,0000,0000,0000,,而且假如你想通过劝说来实现，
Dialogue: 0,0:14:52.45,0:14:53.63,Default,,0000,0000,0000,,那么你就是在和那些
Dialogue: 0,0:14:53.63,0:14:55.96,Default,,0000,0000,0000,,如政党，宗教，教育体系等
Dialogue: 0,0:14:55.96,0:14:58.33,Default,,0000,0000,0000,,试图游说人们的进行力量比拼。
Dialogue: 0,0:14:58.33,0:14:59.78,Default,,0000,0000,0000,,但是假设你\N真能把害人之马的数目减半，
Dialogue: 0,0:14:59.78,0:15:01.87,Default,,0000,0000,0000,,我不认为风险就会相应地\N被削弱一半。
Dialogue: 0,0:15:01.87,0:15:03.65,Default,,0000,0000,0000,,可能只是减少 5% - 10% 。
Dialogue: 0,0:15:03.65,0:15:08.40,Default,,0000,0000,0000,,CA：你并不推荐我们把人类的未来\N押在第二种反应上。
Dialogue: 0,0:15:08.40,0:15:11.70,Default,,0000,0000,0000,,NB：我觉得阻止和劝服人们是好的，
Dialogue: 0,0:15:11.70,0:15:13.99,Default,,0000,0000,0000,,但是我们不应该将此做为\N我们唯一的保护措施。
Dialogue: 0,0:15:13.99,0:15:15.31,Default,,0000,0000,0000,,CA：那么第三种呢？
Dialogue: 0,0:15:15.31,0:15:18.26,Default,,0000,0000,0000,,NB：我觉得有两种通用的方法，
Dialogue: 0,0:15:18.26,0:15:22.21,Default,,0000,0000,0000,,我们可以利用它们\N来获取稳定世界的能力
Dialogue: 0,0:15:22.21,0:15:25.23,Default,,0000,0000,0000,,来对抗所有一切可能的弱点。
Dialogue: 0,0:15:25.23,0:15:28.71,Default,,0000,0000,0000,,我们很可能会同时需要两者。
Dialogue: 0,0:15:28.71,0:15:30.71,Default,,0000,0000,0000,,一种是能够实施
Dialogue: 0,0:15:30.71,0:15:33.11,Default,,0000,0000,0000,,极为有效的预防管制的能力。
Dialogue: 0,0:15:33.11,0:15:35.41,Default,,0000,0000,0000,,如果有人做出危险之事，
Dialogue: 0,0:15:35.41,0:15:37.36,Default,,0000,0000,0000,,你可以拦截，
Dialogue: 0,0:15:37.36,0:15:40.16,Default,,0000,0000,0000,,你可以进行实时拦截，\N并阻止他们。
Dialogue: 0,0:15:40.16,0:15:42.68,Default,,0000,0000,0000,,而这需要无孔不入的监管，
Dialogue: 0,0:15:42.68,0:15:45.18,Default,,0000,0000,0000,,所有人无时无刻都被监视。
Dialogue: 0,0:15:46.27,0:15:48.75,Default,,0000,0000,0000,,CA：那某种程度就是\N”少数派报告“里的情景了。
Dialogue: 0,0:15:48.75,0:15:51.56,Default,,0000,0000,0000,,NB：你可能会使用人工智能算法
Dialogue: 0,0:15:51.56,0:15:55.35,Default,,0000,0000,0000,,来审查大型自由中心的这些数据等等。
Dialogue: 0,0:15:56.36,0:16:00.85,Default,,0000,0000,0000,,CA：你应该知道大众监控\N现在不是个很吃香的词吧？
Dialogue: 0,0:16:00.85,0:16:02.40,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:16:03.27,0:16:05.23,Default,,0000,0000,0000,,NB：是的，\N所以图中的一个小小设备，
Dialogue: 0,0:16:05.23,0:16:07.83,Default,,0000,0000,0000,,把它想象成一个\N你需要 24 小时佩戴的
Dialogue: 0,0:16:07.83,0:16:10.76,Default,,0000,0000,0000,,上面有多角度摄像头的项链。
Dialogue: 0,0:16:11.63,0:16:13.48,Default,,0000,0000,0000,,为了听起来不那么膈应，
Dialogue: 0,0:16:13.48,0:16:16.13,Default,,0000,0000,0000,,我们就叫它”自由标签“什么的。
Dialogue: 0,0:16:16.13,0:16:18.81,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:16:18.81,0:16:19.35,Default,,0000,0000,0000,,CA：好吧。
Dialogue: 0,0:16:19.35,0:16:21.50,Default,,0000,0000,0000,,这就是对话呀，朋友们，
Dialogue: 0,0:16:21.50,0:16:25.52,Default,,0000,0000,0000,,这就是为什么\N这是一场令人震撼的对话呀。
Dialogue: 0,0:16:25.52,0:16:27.22,Default,,0000,0000,0000,,NB：事实上，就这个主题\N已经有很广泛的讨论了，
Dialogue: 0,0:16:27.22,0:16:29.12,Default,,0000,0000,0000,,很明显，单单针对这个主题本身。
Dialogue: 0,0:16:29.12,0:16:31.35,Default,,0000,0000,0000,,这背后有非常严重的\N问题和风险，对吧？
Dialogue: 0,0:16:31.35,0:16:32.85,Default,,0000,0000,0000,,我们待会可以再谈谈。
Dialogue: 0,0:16:32.85,0:16:34.21,Default,,0000,0000,0000,,所以另外一种方法，\N也是最后的方法，
Dialogue: 0,0:16:34.21,0:16:36.67,Default,,0000,0000,0000,,另一种带来普遍稳定性的能力
Dialogue: 0,0:16:36.67,0:16:38.76,Default,,0000,0000,0000,,大致就是插入另一个管制间隙。
Dialogue: 0,0:16:38.76,0:16:42.94,Default,,0000,0000,0000,,那么就可以在微观层面进行监管，
Dialogue: 0,0:16:42.94,0:16:46.11,Default,,0000,0000,0000,,比如说防止任何人做出\N严重违法的行为。
Dialogue: 0,0:16:46.11,0:16:48.56,Default,,0000,0000,0000,,然后有一个对应的
Dialogue: 0,0:16:48.56,0:16:50.44,Default,,0000,0000,0000,,宏观、全球性层面的监管间隙。
Dialogue: 0,0:16:50.44,0:16:53.93,Default,,0000,0000,0000,,你需要凭借这种能力，
Dialogue: 0,0:16:53.93,0:16:57.21,Default,,0000,0000,0000,,可靠地，\N来防止最糟糕的全球性协调失灵，
Dialogue: 0,0:16:57.21,0:17:00.96,Default,,0000,0000,0000,,来避免强权之间的战争，
Dialogue: 0,0:17:00.96,0:17:02.38,Default,,0000,0000,0000,,军备竞赛，
Dialogue: 0,0:17:03.40,0:17:05.66,Default,,0000,0000,0000,,灾难性的常见问题，
Dialogue: 0,0:17:07.53,0:17:11.75,Default,,0000,0000,0000,,以应对 Type-2a 弱点。
Dialogue: 0,0:17:11.75,0:17:13.67,Default,,0000,0000,0000,,CA：全球治理这一名词
Dialogue: 0,0:17:13.67,0:17:15.83,Default,,0000,0000,0000,,现在无疑是最不受待见的，
Dialogue: 0,0:17:15.83,0:17:18.62,Default,,0000,0000,0000,,但是你能否通过历史，
Dialogue: 0,0:17:18.62,0:17:19.71,Default,,0000,0000,0000,,人类的历史来说明
Dialogue: 0,0:17:19.71,0:17:25.18,Default,,0000,0000,0000,,在每一个技术力量上升的阶段，
Dialogue: 0,0:17:25.18,0:17:28.48,Default,,0000,0000,0000,,人们会重组这种力量并加以集中。
Dialogue: 0,0:17:28.48,0:17:31.80,Default,,0000,0000,0000,,比如说\N当一群四处为非作歹的罪犯
Dialogue: 0,0:17:31.80,0:17:33.67,Default,,0000,0000,0000,,就能挟持一个社会的时候，
Dialogue: 0,0:17:33.67,0:17:35.82,Default,,0000,0000,0000,,那么对应的手段是国家，
Dialogue: 0,0:17:35.82,0:17:38.27,Default,,0000,0000,0000,,集中力量，\N警察部队或一支军队，
Dialogue: 0,0:17:38.27,0:17:40.21,Default,,0000,0000,0000,,站出来说“你不能这么做。”
Dialogue: 0,0:17:40.21,0:17:44.63,Default,,0000,0000,0000,,这里面的逻辑，\N让单个人或单个群体
Dialogue: 0,0:17:44.63,0:17:46.32,Default,,0000,0000,0000,,拥有保护人类的能力
Dialogue: 0,0:17:46.32,0:17:49.04,Default,,0000,0000,0000,,意味着在某个时刻\N我们将不得不需要走这条路，
Dialogue: 0,0:17:49.04,0:17:50.85,Default,,0000,0000,0000,,至少在某些形式上，不是吗？
Dialogue: 0,0:17:50.85,0:17:54.19,Default,,0000,0000,0000,,NB：在人类的发展历程中\N政治组织发展规模之壮大
Dialogue: 0,0:17:54.19,0:17:56.23,Default,,0000,0000,0000,,是毋庸置疑的。
Dialogue: 0,0:17:56.23,0:17:58.50,Default,,0000,0000,0000,,以前曾是捕猎者和采集者群体，
Dialogue: 0,0:17:58.50,0:18:01.40,Default,,0000,0000,0000,,接着是部落、城邦、国家，
Dialogue: 0,0:18:01.40,0:18:05.15,Default,,0000,0000,0000,,现在有国际组织，诸如此类。
Dialogue: 0,0:18:05.15,0:18:06.86,Default,,0000,0000,0000,,我想再次确认的一点是
Dialogue: 0,0:18:06.86,0:18:08.65,Default,,0000,0000,0000,,我有这样的机会去强调
Dialogue: 0,0:18:08.65,0:18:10.58,Default,,0000,0000,0000,,大众监管和全球治理
Dialogue: 0,0:18:10.58,0:18:13.21,Default,,0000,0000,0000,,很明显存在的巨大缺点
Dialogue: 0,0:18:13.21,0:18:15.44,Default,,0000,0000,0000,,以及巨大的风险。
Dialogue: 0,0:18:15.44,0:18:18.79,Default,,0000,0000,0000,,我刚指出的只是如果我们走运，
Dialogue: 0,0:18:18.79,0:18:20.66,Default,,0000,0000,0000,,想要躲过黑球的灾难
Dialogue: 0,0:18:20.66,0:18:22.31,Default,,0000,0000,0000,,也就那么些方法。
Dialogue: 0,0:18:22.31,0:18:24.72,Default,,0000,0000,0000,,CA：这个理论的逻辑，
Dialogue: 0,0:18:24.72,0:18:26.20,Default,,0000,0000,0000,,就我而言，
Dialogue: 0,0:18:26.20,0:18:29.71,Default,,0000,0000,0000,,我们得承认我们不可能无往不胜。
Dialogue: 0,0:18:29.71,0:18:31.44,Default,,0000,0000,0000,,也就是，
Dialogue: 0,0:18:33.23,0:18:36.31,Default,,0000,0000,0000,,我会说，\N那种很多人都有的痴心妄想中，
Dialogue: 0,0:18:36.31,0:18:39.62,Default,,0000,0000,0000,,技术永远是一种向善的力量，
Dialogue: 0,0:18:39.62,0:18:42.53,Default,,0000,0000,0000,,继续前进、别停下来、全速前进，
Dialogue: 0,0:18:42.53,0:18:44.65,Default,,0000,0000,0000,,并且不计后果，
Dialogue: 0,0:18:44.65,0:18:46.45,Default,,0000,0000,0000,,其实根本没有这个选择。
Dialogue: 0,0:18:46.45,0:18:48.70,Default,,0000,0000,0000,,我们可以全速发展科技。
Dialogue: 0,0:18:48.70,0:18:50.52,Default,,0000,0000,0000,,但如果我们继续这么发展科技，
Dialogue: 0,0:18:50.52,0:18:51.84,Default,,0000,0000,0000,,我们就将要必须接受
Dialogue: 0,0:18:51.84,0:18:54.36,Default,,0000,0000,0000,,随之而来的\N一些非常令人不适的不便，
Dialogue: 0,0:18:54.36,0:18:56.12,Default,,0000,0000,0000,,这有点像和我们自己比赛,
Dialogue: 0,0:18:56.12,0:18:58.84,Default,,0000,0000,0000,,如果你想拥有力量，\N你最好能限制它的使用，
Dialogue: 0,0:18:58.84,0:19:00.92,Default,,0000,0000,0000,,你最好想办法如何限制它的使用。
Dialogue: 0,0:19:00.92,0:19:04.32,Default,,0000,0000,0000,,NB：我想这是一种选择，
Dialogue: 0,0:19:04.32,0:19:07.08,Default,,0000,0000,0000,,非常诱人的一种选择，\N某种程度上也是最简单的选择，
Dialogue: 0,0:19:07.08,0:19:08.44,Default,,0000,0000,0000,,还可能奏效，
Dialogue: 0,0:19:08.44,0:19:13.28,Default,,0000,0000,0000,,但这也意味着我们本质上很脆弱，\N不能承受取出黑球之重。
Dialogue: 0,0:19:13.28,0:19:15.45,Default,,0000,0000,0000,,现在我认为，一定的协调能力
Dialogue: 0,0:19:15.45,0:19:18.20,Default,,0000,0000,0000,,比方说如果真的解决了\N宏观管理问题
Dialogue: 0,0:19:18.20,0:19:19.75,Default,,0000,0000,0000,,以及微观治理问题，
Dialogue: 0,0:19:19.75,0:19:22.11,Default,,0000,0000,0000,,那么我们可以一次性\N从缸里取出所有的小球。
Dialogue: 0,0:19:22.11,0:19:23.82,Default,,0000,0000,0000,,那么我们将会极其受益。
Dialogue: 0,0:19:24.47,0:19:27.93,Default,,0000,0000,0000,,CA：我想，如果我们活在\N一个模拟世界中，这又有什么关系？
Dialogue: 0,0:19:27.93,0:19:29.27,Default,,0000,0000,0000,,我们重启就好了。
Dialogue: 0,0:19:29.27,0:19:30.52,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:19:30.52,0:19:32.25,Default,,0000,0000,0000,,NB：那……我……
Dialogue: 0,0:19:32.25,0:19:34.69,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:19:34.69,0:19:36.29,Default,,0000,0000,0000,,我没想到你会这么说。
Dialogue: 0,0:19:38.02,0:19:39.48,Default,,0000,0000,0000,,CA：那么你的看法呢？
Dialogue: 0,0:19:39.48,0:19:44.08,Default,,0000,0000,0000,,综合来看，\N我们在劫难逃的几率有多高？
Dialogue: 0,0:19:44.08,0:19:46.05,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:19:46.92,0:19:49.28,Default,,0000,0000,0000,,我喜欢当你问这个问题的时候\N大家笑成这样。
Dialogue: 0,0:19:49.28,0:19:50.73,Default,,0000,0000,0000,,NB：在个人的层面，
Dialogue: 0,0:19:50.73,0:19:54.45,Default,,0000,0000,0000,,从时间线上来看\N我们终究难逃一劫，
Dialogue: 0,0:19:54.45,0:19:57.24,Default,,0000,0000,0000,,我们在腐烂，在老化，\N诸如此类的，对吧？
Dialogue: 0,0:19:57.24,0:19:58.82,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:19:58.82,0:20:00.52,Default,,0000,0000,0000,,事实上很难说。
Dialogue: 0,0:20:00.52,0:20:02.70,Default,,0000,0000,0000,,如果你想通过一个设定来附加概率，
Dialogue: 0,0:20:02.70,0:20:04.06,Default,,0000,0000,0000,,首先要问的是，我们是谁？
Dialogue: 0,0:20:04.06,0:20:06.72,Default,,0000,0000,0000,,如果你年事已高，\N很可能你会自然死亡，
Dialogue: 0,0:20:06.72,0:20:09.58,Default,,0000,0000,0000,,如果你还很年轻，\N你可能能活到 100 岁——
Dialogue: 0,0:20:09.58,0:20:11.88,Default,,0000,0000,0000,,这个概率的大小\N取决于你问的对象是谁。
Dialogue: 0,0:20:11.88,0:20:16.13,Default,,0000,0000,0000,,接着我们得问，怎样才算是文明毁灭？
Dialogue: 0,0:20:16.13,0:20:21.65,Default,,0000,0000,0000,,在文章里我不需要存在的灾难
Dialogue: 0,0:20:21.65,0:20:23.27,Default,,0000,0000,0000,,来计算概率。
Dialogue: 0,0:20:23.27,0:20:24.95,Default,,0000,0000,0000,,主要看你怎样定义，
Dialogue: 0,0:20:24.95,0:20:26.38,Default,,0000,0000,0000,,我可以说 10 亿的死亡人数，
Dialogue: 0,0:20:26.38,0:20:28.33,Default,,0000,0000,0000,,或者 GDP 下降 50% ，
Dialogue: 0,0:20:28.33,0:20:30.60,Default,,0000,0000,0000,,但是一切取决于\N你所设定的起点是什么，
Dialogue: 0,0:20:30.60,0:20:32.66,Default,,0000,0000,0000,,起点不同，\N所得到的概率估算随之不同。
Dialogue: 0,0:20:32.66,0:20:37.18,Default,,0000,0000,0000,,但是我想你可以把我看做是\N一个害怕的乐观主义者吧。
Dialogue: 0,0:20:37.18,0:20:38.35,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:20:38.35,0:20:40.19,Default,,0000,0000,0000,,CA：如果你是一个害怕的乐观主义者，
Dialogue: 0,0:20:40.19,0:20:44.25,Default,,0000,0000,0000,,那我想你刚刚就催生了一帮\N同样害怕的……
Dialogue: 0,0:20:44.25,0:20:45.49,Default,,0000,0000,0000,,人们。
Dialogue: 0,0:20:45.49,0:20:46.65,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:20:46.65,0:20:47.94,Default,,0000,0000,0000,,NB：在模拟世界里。
Dialogue: 0,0:20:47.94,0:20:49.09,Default,,0000,0000,0000,,CA：在一个模拟世界里。
Dialogue: 0,0:20:49.09,0:20:50.85,Default,,0000,0000,0000,,尼克 · 博斯特罗姆，\N你的思维真让我大开眼界，
Dialogue: 0,0:20:50.85,0:20:53.87,Default,,0000,0000,0000,,非常感谢你今天在光天化日之下\N把我们大家都吓得不行。
Dialogue: 0,0:20:53.87,0:20:56.38,Default,,0000,0000,0000,,（掌声）