[Script Info] Title: [Events] Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text Dialogue: 0,0:00:01.00,0:00:02.82,Default,,0000,0000,0000,,(クリス・アンダーソン) ニック・ボストロムさん Dialogue: 0,0:00:02.82,0:00:06.82,Default,,0000,0000,0000,,あなたはこれまで私達に\N様々なすごいアイデアを示してきました Dialogue: 0,0:00:06.82,0:00:08.57,Default,,0000,0000,0000,,20年ほど前には Dialogue: 0,0:00:08.57,0:00:13.28,Default,,0000,0000,0000,,我々がシミュレーションの中に\N生きている可能性を示し Dialogue: 0,0:00:13.28,0:00:14.74,Default,,0000,0000,0000,,もっと最近では Dialogue: 0,0:00:14.74,0:00:19.36,Default,,0000,0000,0000,,汎用人工知能が\Nどのように酷い結果をもたらしうるか Dialogue: 0,0:00:19.36,0:00:21.74,Default,,0000,0000,0000,,鮮やかに描き出しています Dialogue: 0,0:00:21.75,0:00:25.56,Default,,0000,0000,0000,,今年は「脆弱世界仮説」なるものを Dialogue: 0,0:00:25.56,0:00:29.36,Default,,0000,0000,0000,,論文で発表しようとしています Dialogue: 0,0:00:29.36,0:00:34.14,Default,,0000,0000,0000,,それを分かりやすく解説してもらおう\Nというのが今晩の趣旨です Dialogue: 0,0:00:34.42,0:00:36.25,Default,,0000,0000,0000,,では始めましょう Dialogue: 0,0:00:36.83,0:00:38.88,Default,,0000,0000,0000,,いったい どんな仮説なんでしょう? Dialogue: 0,0:00:40.00,0:00:42.58,Default,,0000,0000,0000,,(ニック・ボストロム) 現在の人間のあり方の Dialogue: 0,0:00:42.58,0:00:45.83,Default,,0000,0000,0000,,構造的特徴を\N考察しようというものです Dialogue: 0,0:00:47.12,0:00:49.68,Default,,0000,0000,0000,,壺のメタファーが\Nお気に召したようなので Dialogue: 0,0:00:49.68,0:00:51.54,Default,,0000,0000,0000,,それを使って説明しましょう Dialogue: 0,0:00:51.54,0:00:56.76,Default,,0000,0000,0000,,アイデアや 方法や \N存在しうる技術を表す玉が詰まった Dialogue: 0,0:00:56.76,0:00:59.96,Default,,0000,0000,0000,,大きな壺を思い描いてください Dialogue: 0,0:01:00.83,0:01:04.57,Default,,0000,0000,0000,,人類の創造性の歴史は Dialogue: 0,0:01:04.57,0:01:08.65,Default,,0000,0000,0000,,この壺に手を入れて\N玉を取り出していくことだとみなせ Dialogue: 0,0:01:08.65,0:01:12.04,Default,,0000,0000,0000,,その結果はこれまでのところ\N全体として とても有益でした Dialogue: 0,0:01:12.04,0:01:14.60,Default,,0000,0000,0000,,たくさんの白い玉が取り出され Dialogue: 0,0:01:14.60,0:01:17.80,Default,,0000,0000,0000,,良い面も悪い面もある\N灰色の玉もありました Dialogue: 0,0:01:18.04,0:01:21.37,Default,,0000,0000,0000,,黒い玉は まだ取り出されていません Dialogue: 0,0:01:22.29,0:01:27.84,Default,,0000,0000,0000,,それを取り出した文明は必然的に滅びるような\Nテクノロジーということです Dialogue: 0,0:01:27.84,0:01:31.18,Default,,0000,0000,0000,,黒い玉として どのようなものが考えられるかを\N論文では探っています Dialogue: 0,0:01:31.18,0:01:32.90,Default,,0000,0000,0000,,(アンダーソン) 黒い玉は Dialogue: 0,0:01:32.90,0:01:36.61,Default,,0000,0000,0000,,文明の崩壊を必然的にもたらすものと\N定義しているんですね Dialogue: 0,0:01:36.61,0:01:41.95,Default,,0000,0000,0000,,(ボストロム) 「半無秩序的既定条件」と\N呼んでいるものを脱しない限りは Dialogue: 0,0:01:41.95,0:01:43.60,Default,,0000,0000,0000,,そうなります Dialogue: 0,0:01:44.33,0:01:49.90,Default,,0000,0000,0000,,(アンダーソン) これまで我々は\N幸運だっただけで Dialogue: 0,0:01:49.90,0:01:55.74,Default,,0000,0000,0000,,その「死の玉」を そうとは知らずに\N取り出していたかもしれないことを Dialogue: 0,0:01:55.74,0:01:57.50,Default,,0000,0000,0000,,例を使って示されていますね Dialogue: 0,0:01:57.50,0:02:00.08,Default,,0000,0000,0000,,引用が出ていますが\Nこれは何ですか? Dialogue: 0,0:02:00.62,0:02:05.45,Default,,0000,0000,0000,,(ボストロム) 根本的な発見が\N何をもたらすか Dialogue: 0,0:02:05.45,0:02:08.16,Default,,0000,0000,0000,,予見するのは難しいことを\N言っています Dialogue: 0,0:02:08.16,0:02:11.24,Default,,0000,0000,0000,,我々にそういう能力はないのです Dialogue: 0,0:02:11.24,0:02:14.61,Default,,0000,0000,0000,,玉を取り出すのは上手くても Dialogue: 0,0:02:14.61,0:02:18.36,Default,,0000,0000,0000,,玉を壺に戻すことは\Nできないのです Dialogue: 0,0:02:18.36,0:02:20.90,Default,,0000,0000,0000,,発明はできても\Nその逆はできません Dialogue: 0,0:02:21.58,0:02:24.36,Default,,0000,0000,0000,,それに対する\N我々の戦略といえば Dialogue: 0,0:02:24.36,0:02:26.89,Default,,0000,0000,0000,,壺の中に黒い玉がないことを\N祈るだけです Dialogue: 0,0:02:26.89,0:02:30.06,Default,,0000,0000,0000,,(アンダーソン) 玉を取り出したら\N元に戻すことはできず Dialogue: 0,0:02:30.06,0:02:32.68,Default,,0000,0000,0000,,我々はこれまで\N幸運だっただけだと ― Dialogue: 0,0:02:32.68,0:02:34.89,Default,,0000,0000,0000,,例を使って議論しましょう Dialogue: 0,0:02:34.89,0:02:37.82,Default,,0000,0000,0000,,いろいろな種類の危険性を\N挙げておられますね Dialogue: 0,0:02:37.82,0:02:40.28,Default,,0000,0000,0000,,(ボストロム) 一番分かりやすいのは Dialogue: 0,0:02:40.28,0:02:45.94,Default,,0000,0000,0000,,大規模な破壊を容易に引き起こせる\Nテクノロジーです Dialogue: 0,0:02:47.38,0:02:51.08,Default,,0000,0000,0000,,合成生物学などは そういう黒い玉の\N豊かな源になるでしょうが Dialogue: 0,0:02:51.08,0:02:53.86,Default,,0000,0000,0000,,他にもいろいろ考えられます Dialogue: 0,0:02:53.86,0:02:55.82,Default,,0000,0000,0000,,地球工学とか Dialogue: 0,0:02:55.82,0:02:58.40,Default,,0000,0000,0000,,地球温暖化への\N対抗手段になりますが Dialogue: 0,0:02:58.40,0:03:00.57,Default,,0000,0000,0000,,あまり容易にできても困ります Dialogue: 0,0:03:00.57,0:03:02.97,Default,,0000,0000,0000,,そのへんにいる人や\Nそのおばあちゃんに Dialogue: 0,0:03:02.97,0:03:06.36,Default,,0000,0000,0000,,地球の気候を大きく変えられるように\Nなってほしくはありません Dialogue: 0,0:03:06.36,0:03:09.74,Default,,0000,0000,0000,,あるいは自律的暗殺ドローン ― Dialogue: 0,0:03:09.74,0:03:13.46,Default,,0000,0000,0000,,大量生産された蚊ほどの大きさの\N殺人ロボットの群れとか Dialogue: 0,0:03:14.50,0:03:17.24,Default,,0000,0000,0000,,ナノテクノロジーや\N汎用人工知能もそうです Dialogue: 0,0:03:17.24,0:03:21.49,Default,,0000,0000,0000,,(アンダーソン) 核エネルギーで爆弾を\N作れることが発見されたとき Dialogue: 0,0:03:21.49,0:03:26.36,Default,,0000,0000,0000,,それが誰でも容易に\N手に入るものでなかったのは Dialogue: 0,0:03:26.36,0:03:31.82,Default,,0000,0000,0000,,幸運だっただけという\N議論をされていますね Dialogue: 0,0:03:31.82,0:03:35.40,Default,,0000,0000,0000,,(ボストロム) 1930年代に\N核物理学の発展があったとき Dialogue: 0,0:03:35.40,0:03:40.03,Default,,0000,0000,0000,,頭のいい人たちは気づきました Dialogue: 0,0:03:40.03,0:03:43.74,Default,,0000,0000,0000,,連鎖反応を引き起こすことが可能で Dialogue: 0,0:03:43.74,0:03:46.95,Default,,0000,0000,0000,,それは爆弾になり得ると Dialogue: 0,0:03:46.95,0:03:48.86,Default,,0000,0000,0000,,その後研究が進められ Dialogue: 0,0:03:48.86,0:03:50.39,Default,,0000,0000,0000,,核爆弾を作るには Dialogue: 0,0:03:50.39,0:03:54.03,Default,,0000,0000,0000,,高度に濃縮したウランやプルトニウムが\N必要だと分かりましたが Dialogue: 0,0:03:54.03,0:03:56.07,Default,,0000,0000,0000,,それは入手困難なものです Dialogue: 0,0:03:56.07,0:03:59.42,Default,,0000,0000,0000,,超遠心分離機や\N原子炉や Dialogue: 0,0:03:59.42,0:04:02.16,Default,,0000,0000,0000,,膨大なエネルギーが\N必要になります Dialogue: 0,0:04:02.16,0:04:05.49,Default,,0000,0000,0000,,しかし 原子の力を\N容易に解き放てる方法が Dialogue: 0,0:04:05.49,0:04:07.99,Default,,0000,0000,0000,,もしあったとしたら\Nどうでしょう Dialogue: 0,0:04:07.99,0:04:11.93,Default,,0000,0000,0000,,電子レンジで\N砂を焼くみたいなことで Dialogue: 0,0:04:11.93,0:04:14.20,Default,,0000,0000,0000,,核爆発を起こせたとしたら Dialogue: 0,0:04:14.20,0:04:16.36,Default,,0000,0000,0000,,物理学的にあり得ないと\N今では分かっていますが Dialogue: 0,0:04:16.36,0:04:18.84,Default,,0000,0000,0000,,そういう物理学研究をする前に\Nどんな結果になるか Dialogue: 0,0:04:18.84,0:04:20.50,Default,,0000,0000,0000,,どうして分かるでしょう? Dialogue: 0,0:04:20.50,0:04:22.07,Default,,0000,0000,0000,,(アンダーソン) 生命が進化するためには Dialogue: 0,0:04:22.07,0:04:27.32,Default,,0000,0000,0000,,地球が安定した環境である\N必要があり Dialogue: 0,0:04:27.32,0:04:30.38,Default,,0000,0000,0000,,大規模な核反応が\N容易に起こせたとしたら Dialogue: 0,0:04:30.38,0:04:31.92,Default,,0000,0000,0000,,地球は安定し得ず Dialogue: 0,0:04:31.92,0:04:35.10,Default,,0000,0000,0000,,我々はそもそも存在しなかったはず\Nという議論もできるのでは? Dialogue: 0,0:04:35.10,0:04:38.40,Default,,0000,0000,0000,,(ボストロム) 意図的になら\N簡単にできるけど Dialogue: 0,0:04:38.40,0:04:41.28,Default,,0000,0000,0000,,偶然には起きないようなことも\N考えられます Dialogue: 0,0:04:41.28,0:04:45.02,Default,,0000,0000,0000,,ブロックを10個積み上げるというのは\N簡単にできますが Dialogue: 0,0:04:45.02,0:04:48.24,Default,,0000,0000,0000,,自然に積みあがった10個のブロックというのは\N見つからないでしょう Dialogue: 0,0:04:48.24,0:04:51.90,Default,,0000,0000,0000,,(アンダーソン) これは私達の多くが\Nすごく懸念していることで Dialogue: 0,0:04:51.90,0:04:55.45,Default,,0000,0000,0000,,近い将来 そういうことが\N最も起きそうに思えるのが Dialogue: 0,0:04:55.45,0:04:58.49,Default,,0000,0000,0000,,合成生物学ですね Dialogue: 0,0:04:58.49,0:05:01.45,Default,,0000,0000,0000,,(ボストロム) その意味するところを\N考えてみましょう Dialogue: 0,0:05:01.45,0:05:04.76,Default,,0000,0000,0000,,誰でも午後にちょっと\N台所で作業すると Dialogue: 0,0:05:04.76,0:05:06.76,Default,,0000,0000,0000,,都市を壊滅させられる\Nのだとしたら Dialogue: 0,0:05:06.76,0:05:10.11,Default,,0000,0000,0000,,その上で我々の知る現代文明が\Nどう生き残れるものか Dialogue: 0,0:05:10.11,0:05:11.57,Default,,0000,0000,0000,,想像しにくいでしょう Dialogue: 0,0:05:11.57,0:05:14.11,Default,,0000,0000,0000,,どんな集団でも\N百万人もいれば Dialogue: 0,0:05:14.11,0:05:16.82,Default,,0000,0000,0000,,そういう破壊的な力を\N理由はどうあれ Dialogue: 0,0:05:16.82,0:05:19.05,Default,,0000,0000,0000,,使おうとする者が\Nいるだろうからです Dialogue: 0,0:05:19.75,0:05:22.90,Default,,0000,0000,0000,,そういう終末論的な人が Dialogue: 0,0:05:22.90,0:05:24.90,Default,,0000,0000,0000,,都市を破壊することに決めたら Dialogue: 0,0:05:24.90,0:05:26.49,Default,,0000,0000,0000,,破壊されることになるでしょう Dialogue: 0,0:05:26.49,0:05:28.86,Default,,0000,0000,0000,,(アンダーソン) こちらは別種の危険性ですが Dialogue: 0,0:05:28.86,0:05:30.53,Default,,0000,0000,0000,,これについて話しましょう Dialogue: 0,0:05:30.53,0:05:34.53,Default,,0000,0000,0000,,(ボストロム) 多くのものを吹き飛ばすことを\N可能にする黒い玉という Dialogue: 0,0:05:34.53,0:05:37.36,Default,,0000,0000,0000,,分かりやすい危険性に加え Dialogue: 0,0:05:37.36,0:05:41.82,Default,,0000,0000,0000,,人に有害なことを行わせる \Nまずい動機を生み出すという Dialogue: 0,0:05:41.82,0:05:44.07,Default,,0000,0000,0000,,危険性もあります Dialogue: 0,0:05:44.07,0:05:48.36,Default,,0000,0000,0000,,これを 2a型と呼びましょう Dialogue: 0,0:05:48.36,0:05:56.58,Default,,0000,0000,0000,,大きな力を破壊に使うよう動機づけるような\Nテクノロジーを考えてみてください Dialogue: 0,0:05:56.58,0:06:00.20,Default,,0000,0000,0000,,核兵器は実際\Nこれに近かったと思います Dialogue: 0,0:06:02.08,0:06:07.70,Default,,0000,0000,0000,,人類は10兆ドルかけて\N7万発の核弾頭を作り Dialogue: 0,0:06:07.70,0:06:10.16,Default,,0000,0000,0000,,いつでも撃てる\N状態にしました Dialogue: 0,0:06:10.16,0:06:12.45,Default,,0000,0000,0000,,冷戦中に互いを\N吹き飛ばしそうになったことが Dialogue: 0,0:06:12.45,0:06:13.90,Default,,0000,0000,0000,,何度かありました Dialogue: 0,0:06:13.90,0:06:16.65,Default,,0000,0000,0000,,10兆ドルかけて\N自らを吹き飛ばすのが Dialogue: 0,0:06:16.65,0:06:19.27,Default,,0000,0000,0000,,いい考えだと\Nみんな思ったわけではありません Dialogue: 0,0:06:19.27,0:06:21.71,Default,,0000,0000,0000,,そうなった動機というのは ― Dialogue: 0,0:06:21.71,0:06:23.78,Default,,0000,0000,0000,,もっと酷いことにも\Nなり得ました Dialogue: 0,0:06:23.78,0:06:26.49,Default,,0000,0000,0000,,安全に先制攻撃することが\N可能だったとしてみましょう Dialogue: 0,0:06:26.49,0:06:28.82,Default,,0000,0000,0000,,危機的な状況になったとき Dialogue: 0,0:06:28.82,0:06:31.03,Default,,0000,0000,0000,,核ミサイルの発射を抑えるのは Dialogue: 0,0:06:31.03,0:06:32.78,Default,,0000,0000,0000,,難しかったかもしれません Dialogue: 0,0:06:32.78,0:06:35.83,Default,,0000,0000,0000,,相手がそうする\N恐れがあるからです Dialogue: 0,0:06:35.83,0:06:38.35,Default,,0000,0000,0000,,(アンダーソン) 双方とも壊滅するのが\N確かだったからこそ Dialogue: 0,0:06:38.35,0:06:40.61,Default,,0000,0000,0000,,冷戦は比較的安定していたのであって Dialogue: 0,0:06:40.61,0:06:42.82,Default,,0000,0000,0000,,そうでなければ我々はここに\Nいなかったかもしれないと Dialogue: 0,0:06:42.82,0:06:44.50,Default,,0000,0000,0000,,(ボストロム) もっと不安定だった\Nかもしれません Dialogue: 0,0:06:44.50,0:06:46.44,Default,,0000,0000,0000,,テクノロジーには\N別の特質もあります Dialogue: 0,0:06:46.44,0:06:49.61,Default,,0000,0000,0000,,もし兵器が核ほど\N破壊的なものでなかったら Dialogue: 0,0:06:49.61,0:06:54.28,Default,,0000,0000,0000,,軍縮協定を結ぶのは\N難しかったかもしれません Dialogue: 0,0:06:54.28,0:06:56.86,Default,,0000,0000,0000,,(アンダーソン) 強大な勢力が\Nまずい動機を持つこと同様に Dialogue: 0,0:06:56.86,0:07:00.40,Default,,0000,0000,0000,,みんながまずい動機を持つことも\N懸念されてますね それがこの2b型です Dialogue: 0,0:07:00.40,0:07:04.86,Default,,0000,0000,0000,,(ボストロム) 地球温暖化の場合を\N考えてみましょう Dialogue: 0,0:07:06.96,0:07:09.14,Default,,0000,0000,0000,,私達がする ちょっとした利便で Dialogue: 0,0:07:09.14,0:07:13.95,Default,,0000,0000,0000,,個々の影響は小さいものが\Nたくさんあります Dialogue: 0,0:07:13.95,0:07:15.95,Default,,0000,0000,0000,,でもそれを何十億という人がやると Dialogue: 0,0:07:15.95,0:07:18.03,Default,,0000,0000,0000,,全体として大きな害を生じてしまう Dialogue: 0,0:07:18.03,0:07:20.74,Default,,0000,0000,0000,,地球温暖化はもっと酷いものでも\Nあり得ました Dialogue: 0,0:07:20.74,0:07:23.86,Default,,0000,0000,0000,,気候感度パラメータというのがあります Dialogue: 0,0:07:23.86,0:07:27.53,Default,,0000,0000,0000,,温室効果ガスをこれだけ出すと Dialogue: 0,0:07:27.53,0:07:30.24,Default,,0000,0000,0000,,温度がどれくらい上がるかを示す\Nパラメータです Dialogue: 0,0:07:30.24,0:07:35.20,Default,,0000,0000,0000,,我々が排出している\N温室効果ガスによって起きる Dialogue: 0,0:07:35.20,0:07:37.28,Default,,0000,0000,0000,,2100年の気温上昇が Dialogue: 0,0:07:37.28,0:07:41.03,Default,,0000,0000,0000,,3~4.5度というのではなく Dialogue: 0,0:07:41.03,0:07:43.69,Default,,0000,0000,0000,,15~20度だったとしたら Dialogue: 0,0:07:44.38,0:07:46.65,Default,,0000,0000,0000,,非常にまずい状況でしょう Dialogue: 0,0:07:46.65,0:07:49.89,Default,,0000,0000,0000,,あるいは再生可能エネルギーの実現が\Nずっと難しかったとしたら Dialogue: 0,0:07:49.89,0:07:52.48,Default,,0000,0000,0000,,あるいは化石燃料がずっと豊富に\N存在していたとしたら Dialogue: 0,0:07:52.48,0:07:59.16,Default,,0000,0000,0000,,(アンダーソン) このままいくと\N近い将来に10度上がるのだとしたら Dialogue: 0,0:07:59.16,0:08:05.49,Default,,0000,0000,0000,,人類は重い腰を上げて\N何かするのでは? Dialogue: 0,0:08:05.49,0:08:08.32,Default,,0000,0000,0000,,我々は愚かですが\Nそこまで愚かではありません Dialogue: 0,0:08:08.32,0:08:09.61,Default,,0000,0000,0000,,いや愚かなのかも Dialogue: 0,0:08:09.61,0:08:12.03,Default,,0000,0000,0000,,(ボストロム) 私はそれに\N賭けようとは思いません Dialogue: 0,0:08:12.03,0:08:13.11,Default,,0000,0000,0000,,(笑) Dialogue: 0,0:08:13.11,0:08:14.99,Default,,0000,0000,0000,,いろいろなことが\N考えられます Dialogue: 0,0:08:14.99,0:08:20.36,Default,,0000,0000,0000,,今は再生可能エネルギーに切り替えるのは\Nちょっと大変ですが Dialogue: 0,0:08:20.36,0:08:21.66,Default,,0000,0000,0000,,可能なことです Dialogue: 0,0:08:21.66,0:08:24.66,Default,,0000,0000,0000,,でも物理的なことが\N何か違って Dialogue: 0,0:08:24.66,0:08:27.91,Default,,0000,0000,0000,,そういうものがずっと\N高くついたかもしれない Dialogue: 0,0:08:28.38,0:08:29.90,Default,,0000,0000,0000,,(アンダーソン) どう考えておられますか? Dialogue: 0,0:08:29.90,0:08:32.36,Default,,0000,0000,0000,,そういった可能性を\N考え合わせると Dialogue: 0,0:08:32.36,0:08:38.24,Default,,0000,0000,0000,,世界は危険だと\N言えるのでしょうか? Dialogue: 0,0:08:38.24,0:08:41.31,Default,,0000,0000,0000,,人類の未来には\N死の玉があるのでしょうか? Dialogue: 0,0:08:43.96,0:08:45.24,Default,,0000,0000,0000,,(ボストロム) 難しいですが Dialogue: 0,0:08:45.24,0:08:49.18,Default,,0000,0000,0000,,壺の中には いろんな黒い玉が Dialogue: 0,0:08:49.18,0:08:51.66,Default,,0000,0000,0000,,入っていそうに思えます Dialogue: 0,0:08:51.66,0:08:54.29,Default,,0000,0000,0000,,また黒い玉から守ってくれる Dialogue: 0,0:08:54.29,0:08:57.57,Default,,0000,0000,0000,,金色の玉もあるかもしれません Dialogue: 0,0:08:57.57,0:09:00.57,Default,,0000,0000,0000,,どちらが先に出てくるか\N分かりませんが Dialogue: 0,0:09:00.57,0:09:04.45,Default,,0000,0000,0000,,(アンダーソン) この考えに対する\N哲学的な批判は Dialogue: 0,0:09:04.45,0:09:10.11,Default,,0000,0000,0000,,未来が決まっているかのようだ\Nということでしょう Dialogue: 0,0:09:10.11,0:09:12.61,Default,,0000,0000,0000,,その玉があるかないかしかない Dialogue: 0,0:09:12.61,0:09:17.91,Default,,0000,0000,0000,,未来がそんなものだとは\N思いたくありません Dialogue: 0,0:09:17.91,0:09:20.47,Default,,0000,0000,0000,,未来というのは\N決まっておらず Dialogue: 0,0:09:20.47,0:09:22.59,Default,,0000,0000,0000,,我々が今行う決定によって Dialogue: 0,0:09:22.59,0:09:25.57,Default,,0000,0000,0000,,どんな玉を取り出すことになるか\N決まるのだと思いたいです Dialogue: 0,0:09:25.92,0:09:29.70,Default,,0000,0000,0000,,(ボストロム) 発明を続けていけば Dialogue: 0,0:09:29.70,0:09:32.62,Default,,0000,0000,0000,,やがてすべての玉を\N取り出す出すことになるでしょう Dialogue: 0,0:09:32.88,0:09:37.57,Default,,0000,0000,0000,,もっともだと思える\N弱い形の技術的決定論があり Dialogue: 0,0:09:37.57,0:09:43.19,Default,,0000,0000,0000,,たとえば石斧とジェット機を使っている\N文明というのは考えにくいです Dialogue: 0,0:09:44.21,0:09:48.28,Default,,0000,0000,0000,,テクノロジーは一組のアフォーダンスとして\N考えることができます Dialogue: 0,0:09:48.28,0:09:51.32,Default,,0000,0000,0000,,テクノロジーは\N我々に様々なことができるようにし Dialogue: 0,0:09:51.32,0:09:53.53,Default,,0000,0000,0000,,世界にいろいろな効果を\Nもたらします Dialogue: 0,0:09:53.53,0:09:56.16,Default,,0000,0000,0000,,それをどう使うかは\N人間が選択することですが Dialogue: 0,0:09:56.16,0:09:58.86,Default,,0000,0000,0000,,これら3種の危険性を\N考えるとき Dialogue: 0,0:09:58.86,0:10:02.28,Default,,0000,0000,0000,,我々がそれをどう使うかについて\N確度の高い想定ができます Dialogue: 0,0:10:02.28,0:10:05.70,Default,,0000,0000,0000,,1型の危険性は\N大きな破壊力ですが Dialogue: 0,0:10:05.70,0:10:09.83,Default,,0000,0000,0000,,何百万人もいれば 破壊的な仕方で\Nそれを使う者が出てくるというのは Dialogue: 0,0:10:09.83,0:10:12.47,Default,,0000,0000,0000,,きわめてありそうなことです Dialogue: 0,0:10:12.47,0:10:14.99,Default,,0000,0000,0000,,(アンダーソン) 私にとって\N最も気がかりな議論は Dialogue: 0,0:10:14.99,0:10:23.11,Default,,0000,0000,0000,,壺の中を覗いてみる限り\N破滅はどうも起こりそうということです Dialogue: 0,0:10:23.11,0:10:27.78,Default,,0000,0000,0000,,力が加速的に\N増大していくと思うなら ― Dialogue: 0,0:10:27.78,0:10:30.07,Default,,0000,0000,0000,,テクノロジーは本質的に\N加速するものですが Dialogue: 0,0:10:30.07,0:10:32.82,Default,,0000,0000,0000,,我々をより強力にしてくれる\N道具を作り続けると Dialogue: 0,0:10:32.82,0:10:38.28,Default,,0000,0000,0000,,どこかの時点で1人の人間が\N全滅を引き起こせるようになり Dialogue: 0,0:10:38.28,0:10:41.16,Default,,0000,0000,0000,,災難は避けがたいと Dialogue: 0,0:10:41.16,0:10:44.11,Default,,0000,0000,0000,,不安になる話ですよね? Dialogue: 0,0:10:44.11,0:10:46.07,Default,,0000,0000,0000,,(ボストロム) まあ確かに Dialogue: 0,0:10:46.71,0:10:47.99,Default,,0000,0000,0000,,(笑) Dialogue: 0,0:10:47.99,0:10:52.49,Default,,0000,0000,0000,,我々はもっと力を手にし Dialogue: 0,0:10:52.49,0:10:56.45,Default,,0000,0000,0000,,その力を使うのは\Nより簡単になるでしょうが Dialogue: 0,0:10:56.45,0:11:00.03,Default,,0000,0000,0000,,そういう力を人々がどう使うかを\Nコントロールするような技術だって Dialogue: 0,0:11:00.03,0:11:02.07,Default,,0000,0000,0000,,作れるでしょう Dialogue: 0,0:11:02.07,0:11:05.04,Default,,0000,0000,0000,,(アンダーソン) それについて話しましょう Dialogue: 0,0:11:05.04,0:11:07.83,Default,,0000,0000,0000,,合成生物学だけでなく Dialogue: 0,0:11:07.83,0:11:11.83,Default,,0000,0000,0000,,サイバー戦争 人工知能など Dialogue: 0,0:11:11.83,0:11:16.53,Default,,0000,0000,0000,,今やあらゆる可能性があり Dialogue: 0,0:11:16.53,0:11:21.07,Default,,0000,0000,0000,,未来には破滅が\N待っているように見える Dialogue: 0,0:11:21.07,0:11:22.84,Default,,0000,0000,0000,,それに対してどうすべきか? Dialogue: 0,0:11:22.84,0:11:27.61,Default,,0000,0000,0000,,あなたは4種の対応について\N議論されてますね Dialogue: 0,0:11:27.61,0:11:31.45,Default,,0000,0000,0000,,(ボストロム) 技術開発全般を\Nまったく止めてしまうような制限というのは Dialogue: 0,0:11:31.45,0:11:34.53,Default,,0000,0000,0000,,有望とは思えません Dialogue: 0,0:11:34.53,0:11:35.82,Default,,0000,0000,0000,,不可能か Dialogue: 0,0:11:35.82,0:11:38.16,Default,,0000,0000,0000,,可能だとしても\N望ましくないでしょう Dialogue: 0,0:11:38.16,0:11:41.100,Default,,0000,0000,0000,,ごく限られた領域について\N技術の進歩を遅らせるというのであれば Dialogue: 0,0:11:41.100,0:11:43.95,Default,,0000,0000,0000,,ありだと思います Dialogue: 0,0:11:43.95,0:11:46.07,Default,,0000,0000,0000,,生物兵器や Dialogue: 0,0:11:46.07,0:11:49.72,Default,,0000,0000,0000,,核兵器を容易に作れるようにする\N同位体分離技術などは Dialogue: 0,0:11:49.72,0:11:52.50,Default,,0000,0000,0000,,あまり進歩してほしくないでしょう Dialogue: 0,0:11:52.58,0:11:55.90,Default,,0000,0000,0000,,(アンダーソン) 私も前は\Nそう考えていましたが Dialogue: 0,0:11:55.90,0:11:59.20,Default,,0000,0000,0000,,少し反対の立場を\N取ってみましょう Dialogue: 0,0:11:59.20,0:12:03.24,Default,,0000,0000,0000,,この20年くらいの歴史を見れば Dialogue: 0,0:12:03.24,0:12:06.82,Default,,0000,0000,0000,,常に全速力で前進していて Dialogue: 0,0:12:06.82,0:12:08.91,Default,,0000,0000,0000,,それが唯一の選択肢でした Dialogue: 0,0:12:08.91,0:12:12.99,Default,,0000,0000,0000,,グローバリゼーションの\N急速な展開を見るなら Dialogue: 0,0:12:12.99,0:12:16.45,Default,,0000,0000,0000,,「壊しながら速く進む」戦略や Dialogue: 0,0:12:16.45,0:12:18.65,Default,,0000,0000,0000,,それで何が起きたかを見るなら Dialogue: 0,0:12:18.65,0:12:21.32,Default,,0000,0000,0000,,合成生物学の\N可能性を考えるなら Dialogue: 0,0:12:21.32,0:12:27.45,Default,,0000,0000,0000,,家庭や学校どこにでも\NDNAプリンターがあるような世界へと Dialogue: 0,0:12:27.45,0:12:32.50,Default,,0000,0000,0000,,何の制限もなく急速に\N進んで行くべきなのか疑問です Dialogue: 0,0:12:33.17,0:12:34.86,Default,,0000,0000,0000,,制限があるべきでしょう Dialogue: 0,0:12:34.86,0:12:37.53,Default,,0000,0000,0000,,(ボストロム) 第一に可能でないこと Dialogue: 0,0:12:37.53,0:12:39.74,Default,,0000,0000,0000,,開発を止めるのが\N望ましいと思ったとしても Dialogue: 0,0:12:39.74,0:12:41.68,Default,,0000,0000,0000,,可能なのかという\N問題があります Dialogue: 0,0:12:41.68,0:12:44.32,Default,,0000,0000,0000,,一個の国がやったところで ― Dialogue: 0,0:12:44.32,0:12:46.36,Default,,0000,0000,0000,,(アンダーソン) 一つの国でやってもだめで Dialogue: 0,0:12:46.36,0:12:49.32,Default,,0000,0000,0000,,条約が必要でしょう Dialogue: 0,0:12:49.32,0:12:53.43,Default,,0000,0000,0000,,そうやって核の危機を乗り越えました Dialogue: 0,0:12:53.43,0:12:56.42,Default,,0000,0000,0000,,苦痛な交渉を通じてです Dialogue: 0,0:12:56.42,0:12:59.94,Default,,0000,0000,0000,,世界の優先事項として Dialogue: 0,0:12:59.94,0:13:06.07,Default,,0000,0000,0000,,合成生物学研究について\N厳格なルールづくりをするための交渉を Dialogue: 0,0:13:06.07,0:13:09.11,Default,,0000,0000,0000,,始めるべきではないでしょうか Dialogue: 0,0:13:09.11,0:13:11.99,Default,,0000,0000,0000,,誰でもできるように\Nしたくはありません Dialogue: 0,0:13:11.99,0:13:13.82,Default,,0000,0000,0000,,(ボストロム) そう思います Dialogue: 0,0:13:13.82,0:13:18.07,Default,,0000,0000,0000,,たとえばDNA合成装置は Dialogue: 0,0:13:18.07,0:13:22.70,Default,,0000,0000,0000,,それぞれ実験室で\N所有するのでなく Dialogue: 0,0:13:22.70,0:13:26.80,Default,,0000,0000,0000,,サービスとして\N提供されるものにするとか Dialogue: 0,0:13:26.80,0:13:29.32,Default,,0000,0000,0000,,世界に4、5か所\N設備があって Dialogue: 0,0:13:29.32,0:13:32.86,Default,,0000,0000,0000,,設計図を送ると\NDNAが返ってくるというような Dialogue: 0,0:13:32.86,0:13:36.89,Default,,0000,0000,0000,,制限が必要と思えるときには Dialogue: 0,0:13:36.89,0:13:39.45,Default,,0000,0000,0000,,一定の経路を押さえれば済みます Dialogue: 0,0:13:39.45,0:13:44.100,Default,,0000,0000,0000,,コントロールするための\N手段ができます Dialogue: 0,0:13:44.100,0:13:46.93,Default,,0000,0000,0000,,(アンダーソン) 単に押し留めようとしても Dialogue: 0,0:13:46.93,0:13:49.66,Default,,0000,0000,0000,,上手くいかないと\Nお考えですね Dialogue: 0,0:13:49.66,0:13:52.40,Default,,0000,0000,0000,,北朝鮮のような \Nどこかの誰かが Dialogue: 0,0:13:52.40,0:13:57.24,Default,,0000,0000,0000,,そこへ行って\Nその知識を手にしたとしたら Dialogue: 0,0:13:57.24,0:13:59.61,Default,,0000,0000,0000,,(ボストロム) 現状では\N考えられることです Dialogue: 0,0:13:59.61,0:14:01.57,Default,,0000,0000,0000,,合成生物学だけでなく Dialogue: 0,0:14:01.57,0:14:04.10,Default,,0000,0000,0000,,どんなものであれ\N根本的に世界を変えるものは Dialogue: 0,0:14:04.10,0:14:05.60,Default,,0000,0000,0000,,黒い玉になりえます Dialogue: 0,0:14:05.60,0:14:07.51,Default,,0000,0000,0000,,(アンダーソン) 別の対応法を\N見てみましょう Dialogue: 0,0:14:07.51,0:14:10.24,Default,,0000,0000,0000,,(ボストロム) これも限定的ではありますが Dialogue: 0,0:14:10.24,0:14:13.82,Default,,0000,0000,0000,,1型の危険性に対しては Dialogue: 0,0:14:13.82,0:14:17.37,Default,,0000,0000,0000,,そういった技術を扱える人について Dialogue: 0,0:14:17.37,0:14:22.18,Default,,0000,0000,0000,,世界を破壊したいと思うような者の数を\N減らすのが望ましいでしょう Dialogue: 0,0:14:22.18,0:14:23.100,Default,,0000,0000,0000,,(アンダーソン) この絵は Dialogue: 0,0:14:23.100,0:14:28.31,Default,,0000,0000,0000,,顔認識機能を持つドローンが\N世界を飛び回っている図で Dialogue: 0,0:14:28.31,0:14:31.43,Default,,0000,0000,0000,,誰か反社会的性向のある人を\N見つけると Dialogue: 0,0:14:31.43,0:14:33.86,Default,,0000,0000,0000,,愛を降り注いで治してしまうと Dialogue: 0,0:14:33.86,0:14:35.78,Default,,0000,0000,0000,,(ボストロム) 妙な取り合わせですが Dialogue: 0,0:14:35.78,0:14:39.55,Default,,0000,0000,0000,,そういう人間をなくすには\N投獄や殺害だけでなく Dialogue: 0,0:14:39.55,0:14:43.06,Default,,0000,0000,0000,,世界の見方を変えるよう説得する\Nという手もあり得ます Dialogue: 0,0:14:43.06,0:14:44.61,Default,,0000,0000,0000,,それがうまくいけば Dialogue: 0,0:14:44.61,0:14:50.05,Default,,0000,0000,0000,,そういう人の数を\N半分に減らせるかもしれません Dialogue: 0,0:14:50.05,0:14:52.03,Default,,0000,0000,0000,,説得という手段を取るなら Dialogue: 0,0:14:52.03,0:14:54.45,Default,,0000,0000,0000,,人を説得しようとする\N様々な強い勢力と Dialogue: 0,0:14:54.45,0:14:56.16,Default,,0000,0000,0000,,張り合うことになります Dialogue: 0,0:14:56.16,0:14:58.10,Default,,0000,0000,0000,,政党とか 宗教とか 教育システムとか Dialogue: 0,0:14:58.10,0:15:02.16,Default,,0000,0000,0000,,ただ人数を半分にできたとしても\Nリスクは半分にはならず Dialogue: 0,0:15:02.16,0:15:04.29,Default,,0000,0000,0000,,5%か10%減るくらいでしょう Dialogue: 0,0:15:04.29,0:15:08.11,Default,,0000,0000,0000,,(アンダーソン) 第2の対応法に\N人類の未来を賭けるのは勧めはしないと Dialogue: 0,0:15:08.11,0:15:11.34,Default,,0000,0000,0000,,(ボストロム) 説得し思いとどまらせるのは\Nいいと思いますが Dialogue: 0,0:15:11.34,0:15:14.16,Default,,0000,0000,0000,,それを唯一の安全策として\N依存すべきではないでしょう Dialogue: 0,0:15:14.16,0:15:15.45,Default,,0000,0000,0000,,(アンダーソン) 3番目は何でしょう? Dialogue: 0,0:15:15.45,0:15:18.51,Default,,0000,0000,0000,,(ボストロム) 様々な\Nありうる危険性に対して Dialogue: 0,0:15:18.51,0:15:25.36,Default,,0000,0000,0000,,世界の安定を実現するのに使える\N一般的な方法が2つあると思います Dialogue: 0,0:15:25.36,0:15:27.22,Default,,0000,0000,0000,,そして その両方が\N必要になるでしょう Dialogue: 0,0:15:27.22,0:15:33.28,Default,,0000,0000,0000,,1つは非常に効果の高い\N予防的警察機能です Dialogue: 0,0:15:33.28,0:15:34.83,Default,,0000,0000,0000,,妨害のような Dialogue: 0,0:15:34.83,0:15:37.61,Default,,0000,0000,0000,,誰かが危険なことを始めたら Dialogue: 0,0:15:37.61,0:15:40.32,Default,,0000,0000,0000,,リアルタイムで\N妨害し阻止するとか Dialogue: 0,0:15:40.32,0:15:43.00,Default,,0000,0000,0000,,そのためには誰もが常に\N見張られているような Dialogue: 0,0:15:43.00,0:15:45.77,Default,,0000,0000,0000,,偏在的監視が\N必要になるでしょう Dialogue: 0,0:15:46.33,0:15:48.90,Default,,0000,0000,0000,,(アンダーソン) 『マイノリティ・リポート』の世界ですね Dialogue: 0,0:15:48.90,0:15:50.86,Default,,0000,0000,0000,,(ボストロム) 人工知能アルゴリズムや Dialogue: 0,0:15:50.86,0:15:56.01,Default,,0000,0000,0000,,様々な査察をする自由センターみたいなものが\N用いられるかもしれません Dialogue: 0,0:15:56.58,0:16:00.99,Default,,0000,0000,0000,,(アンダーソン) 監視社会が\Nあんまり好かれていないのは ご存じですよね? Dialogue: 0,0:16:00.99,0:16:02.25,Default,,0000,0000,0000,,(笑) Dialogue: 0,0:16:03.46,0:16:05.88,Default,,0000,0000,0000,,(ボストロム) 全方向カメラのついたネックレスを Dialogue: 0,0:16:05.88,0:16:10.92,Default,,0000,0000,0000,,いつも身に着けるところを\N想像してください Dialogue: 0,0:16:11.79,0:16:13.61,Default,,0000,0000,0000,,受け入れやすいように Dialogue: 0,0:16:13.61,0:16:16.16,Default,,0000,0000,0000,,「自由の証」みたいな\Nネーミングにするといいかもしれません Dialogue: 0,0:16:16.16,0:16:18.20,Default,,0000,0000,0000,,(笑) Dialogue: 0,0:16:18.20,0:16:24.85,Default,,0000,0000,0000,,(アンダーソン) だからびっくりする話だと\N言うんですよ 皆さん Dialogue: 0,0:16:24.85,0:16:28.97,Default,,0000,0000,0000,,(ボストロム) これに関しては\N当然議論があります Dialogue: 0,0:16:28.97,0:16:31.66,Default,,0000,0000,0000,,大きな問題やリスクがあります Dialogue: 0,0:16:31.66,0:16:32.95,Default,,0000,0000,0000,,それについては\Nまた話しましょう Dialogue: 0,0:16:32.95,0:16:34.24,Default,,0000,0000,0000,,4番目の対応法は Dialogue: 0,0:16:34.24,0:16:38.90,Default,,0000,0000,0000,,別のガバナンスの穴を\N埋めるということです Dialogue: 0,0:16:38.90,0:16:43.11,Default,,0000,0000,0000,,ミクロレベルでは監視は\N違法性の高いことを誰もできなくするという Dialogue: 0,0:16:43.11,0:16:46.24,Default,,0000,0000,0000,,ガバナンスの穴を埋める手段です Dialogue: 0,0:16:46.24,0:16:50.53,Default,,0000,0000,0000,,それに対しマクロレベル・世界レベルの\Nガバナンスの穴があります Dialogue: 0,0:16:50.53,0:16:57.32,Default,,0000,0000,0000,,最悪の世界的協力の失敗を防ぐために\Nこの能力を確保しておく必要があります Dialogue: 0,0:16:57.32,0:17:01.11,Default,,0000,0000,0000,,大国間の戦争 Dialogue: 0,0:17:01.11,0:17:02.51,Default,,0000,0000,0000,,軍拡競争 Dialogue: 0,0:17:03.50,0:17:06.09,Default,,0000,0000,0000,,共有資源が破綻する問題 Dialogue: 0,0:17:07.67,0:17:11.86,Default,,0000,0000,0000,,2a型の危険性への対処です Dialogue: 0,0:17:11.86,0:17:13.82,Default,,0000,0000,0000,,(アンダーソン) グローバル・ガバナンスというのは Dialogue: 0,0:17:13.82,0:17:16.07,Default,,0000,0000,0000,,時代遅れの言葉に聞こえます Dialogue: 0,0:17:16.07,0:17:17.85,Default,,0000,0000,0000,,人類の歴史を通じて Dialogue: 0,0:17:17.85,0:17:19.90,Default,,0000,0000,0000,,技術の力が増大するとき Dialogue: 0,0:17:19.90,0:17:25.36,Default,,0000,0000,0000,,社会を再編し\N力を集中させてきたという議論は Dialogue: 0,0:17:25.36,0:17:28.61,Default,,0000,0000,0000,,おできになりますか Dialogue: 0,0:17:28.61,0:17:33.78,Default,,0000,0000,0000,,たとえば放浪の犯罪者集団が\N社会を牛耳るのに対し Dialogue: 0,0:17:33.78,0:17:38.18,Default,,0000,0000,0000,,国家を作り \N権力や警察や軍隊をもって Dialogue: 0,0:17:38.18,0:17:40.16,Default,,0000,0000,0000,,「そうはさせない」と言うような Dialogue: 0,0:17:40.16,0:17:46.40,Default,,0000,0000,0000,,1人の人間や1つの集団が\N人類を払拭できるとき Dialogue: 0,0:17:46.40,0:17:50.61,Default,,0000,0000,0000,,そういう道を取らざるを\N得ないのでしょうか? Dialogue: 0,0:17:50.61,0:17:53.13,Default,,0000,0000,0000,,(ボストロム) 人類の歴史を通して Dialogue: 0,0:17:53.13,0:17:56.72,Default,,0000,0000,0000,,政治的組織の規模が\N拡大してきたのは確かです Dialogue: 0,0:17:56.72,0:17:59.12,Default,,0000,0000,0000,,かつては狩猟採集民の\N集団だったのが Dialogue: 0,0:17:59.12,0:18:01.69,Default,,0000,0000,0000,,部族や都市国家や国家が現れ Dialogue: 0,0:18:01.69,0:18:05.49,Default,,0000,0000,0000,,今では国際組織があります Dialogue: 0,0:18:05.49,0:18:08.70,Default,,0000,0000,0000,,監視社会にもグローバル・ガバナンスにも Dialogue: 0,0:18:08.70,0:18:15.61,Default,,0000,0000,0000,,大きなマイナス面やリスクは\N当然あります Dialogue: 0,0:18:15.61,0:18:18.20,Default,,0000,0000,0000,,私が言いたいのは Dialogue: 0,0:18:18.20,0:18:22.45,Default,,0000,0000,0000,,それが黒い玉から世界が生き延びる\N唯一の方法かもしれないということです Dialogue: 0,0:18:22.45,0:18:24.99,Default,,0000,0000,0000,,(アンダーソン) すべてを\N手に入れることはできないと Dialogue: 0,0:18:24.99,0:18:30.06,Default,,0000,0000,0000,,認識する必要がある\Nということのようですね Dialogue: 0,0:18:30.06,0:18:33.50,Default,,0000,0000,0000,,テクノロジーというのは\N常に良い力で Dialogue: 0,0:18:33.50,0:18:39.86,Default,,0000,0000,0000,,止まることなく 可能な限り速く\N進み続けるものと Dialogue: 0,0:18:39.86,0:18:42.65,Default,,0000,0000,0000,,私たちの多くは\N思っていますが Dialogue: 0,0:18:42.65,0:18:45.32,Default,,0000,0000,0000,,結果に注意を払わなくてよいと\N考えるのは甘く Dialogue: 0,0:18:45.32,0:18:46.95,Default,,0000,0000,0000,,そうはいかないのだと Dialogue: 0,0:18:46.95,0:18:50.20,Default,,0000,0000,0000,,もしそれを得ようとするなら Dialogue: 0,0:18:50.20,0:18:54.24,Default,,0000,0000,0000,,別の嫌なものを\N受け入れざるを得ない Dialogue: 0,0:18:54.24,0:18:56.49,Default,,0000,0000,0000,,自分自身との\N軍拡競争のようなもので Dialogue: 0,0:18:56.49,0:18:58.78,Default,,0000,0000,0000,,力が欲しいなら\N制限したほうがよく Dialogue: 0,0:18:58.78,0:19:01.14,Default,,0000,0000,0000,,どう制限したものか\N考えなきゃいけない Dialogue: 0,0:19:01.14,0:19:04.45,Default,,0000,0000,0000,,(ボストロム) 魅力的な選択肢です Dialogue: 0,0:19:04.45,0:19:08.53,Default,,0000,0000,0000,,うまくいくかもしれない\N最も簡単な選択肢ですが Dialogue: 0,0:19:08.53,0:19:13.36,Default,,0000,0000,0000,,本質的に黒い玉を取り出す\N危険性があります Dialogue: 0,0:19:13.36,0:19:15.53,Default,,0000,0000,0000,,少しばかりの調整をして Dialogue: 0,0:19:15.53,0:19:19.90,Default,,0000,0000,0000,,マクロガバナンスやマイクロガバナンスの\N問題を解決したなら Dialogue: 0,0:19:19.90,0:19:22.24,Default,,0000,0000,0000,,壺からすべての玉を\N取り出して Dialogue: 0,0:19:22.24,0:19:24.53,Default,,0000,0000,0000,,大いに恩恵を\N受けることができます Dialogue: 0,0:19:24.53,0:19:27.99,Default,,0000,0000,0000,,(アンダーソン) 我々がシミュレーションの中に\N生きているなら どうでもよいのでは? Dialogue: 0,0:19:27.99,0:19:29.40,Default,,0000,0000,0000,,リブートすればいいだけなので Dialogue: 0,0:19:29.40,0:19:30.61,Default,,0000,0000,0000,,(笑) Dialogue: 0,0:19:30.61,0:19:33.09,Default,,0000,0000,0000,,(ボストロム) いやはや Dialogue: 0,0:19:33.09,0:19:34.76,Default,,0000,0000,0000,,(笑) Dialogue: 0,0:19:34.76,0:19:36.58,Default,,0000,0000,0000,,そうくるとは思いませんでした Dialogue: 0,0:19:38.12,0:19:39.40,Default,,0000,0000,0000,,(アンダーソン) どう見ておられますか? Dialogue: 0,0:19:39.40,0:19:44.24,Default,,0000,0000,0000,,すべて考え合わせて\N我々がもうおしまいだという見込みは? Dialogue: 0,0:19:44.24,0:19:46.21,Default,,0000,0000,0000,,(笑) Dialogue: 0,0:19:47.04,0:19:49.45,Default,,0000,0000,0000,,この質問でみんな笑ってくれるのは\Nいいですね Dialogue: 0,0:19:49.45,0:19:50.82,Default,,0000,0000,0000,,(ボストロム) 個人のレベルでは Dialogue: 0,0:19:50.82,0:19:53.88,Default,,0000,0000,0000,,我々はどの道おしまいです Dialogue: 0,0:19:53.88,0:19:57.32,Default,,0000,0000,0000,,いずれ年を取り衰えていきます Dialogue: 0,0:19:57.32,0:19:58.95,Default,,0000,0000,0000,,(笑) Dialogue: 0,0:19:58.95,0:20:00.66,Default,,0000,0000,0000,,ちょっと難しいのは Dialogue: 0,0:20:00.66,0:20:02.40,Default,,0000,0000,0000,,確率を出すためには Dialogue: 0,0:20:02.40,0:20:04.74,Default,,0000,0000,0000,,まず誰なのかを\N問う必要があることです Dialogue: 0,0:20:04.74,0:20:07.24,Default,,0000,0000,0000,,高齢なら自然に死ぬでしょうし Dialogue: 0,0:20:07.24,0:20:09.86,Default,,0000,0000,0000,,若いならまだ100年くらい\Nあるかもしれず Dialogue: 0,0:20:09.86,0:20:12.52,Default,,0000,0000,0000,,誰に聞くかで確率は\N変わってきます Dialogue: 0,0:20:12.52,0:20:16.28,Default,,0000,0000,0000,,文明の崩壊と考えられる\N基準は何か? Dialogue: 0,0:20:16.28,0:20:23.40,Default,,0000,0000,0000,,論文では 大災害は\N必要になりませんでした Dialogue: 0,0:20:23.40,0:20:25.11,Default,,0000,0000,0000,,定義の問題で Dialogue: 0,0:20:25.11,0:20:26.45,Default,,0000,0000,0000,,10億人が死ぬとか Dialogue: 0,0:20:26.45,0:20:28.53,Default,,0000,0000,0000,,世界のGDPが50%下がるとか Dialogue: 0,0:20:28.53,0:20:30.78,Default,,0000,0000,0000,,何を閾値とするかで Dialogue: 0,0:20:30.78,0:20:32.78,Default,,0000,0000,0000,,確率的な見込みも\N変わりますが Dialogue: 0,0:20:32.78,0:20:37.32,Default,,0000,0000,0000,,あなたは私を怯えた楽観主義者と\Nみなせるでしょう Dialogue: 0,0:20:37.32,0:20:38.45,Default,,0000,0000,0000,,(笑) Dialogue: 0,0:20:38.45,0:20:40.29,Default,,0000,0000,0000,,(アンダーソン) 怯えた楽観主義者のあなたは Dialogue: 0,0:20:40.29,0:20:45.51,Default,,0000,0000,0000,,たくさんの怯えた人々を\N生み出したところです Dialogue: 0,0:20:45.51,0:20:46.39,Default,,0000,0000,0000,,(笑) Dialogue: 0,0:20:46.39,0:20:47.82,Default,,0000,0000,0000,,(ボストロム) シミュレーションの中で Dialogue: 0,0:20:47.82,0:20:49.29,Default,,0000,0000,0000,,(アンダーソン) シミュレーションの中で Dialogue: 0,0:20:49.29,0:20:51.26,Default,,0000,0000,0000,,ニック・ボストロムさん\Nあなたの頭脳には感服します Dialogue: 0,0:20:51.26,0:20:53.99,Default,,0000,0000,0000,,我々を恐怖に陥れてくれて\Nありがとうございました Dialogue: 0,0:20:53.99,0:20:56.38,Default,,0000,0000,0000,,(拍手)