Showing Revision 19 created 03/04/2020 by Natalia Ost.

1. Cím:
   Как цивилизация может разрушить сама себя, и 4 способа это предотвратить
2. Leírás:

   Человечество почти приблизилось к созданию «чёрного шара» — научно-технического открытия, которое, по словам Ника Бострома, специалиста в вопросах философии, уничтожит всех нас. В ходе этого точного и на удивление непринужденного диалога с Крисом Андерсом, главой TED-сообщества, Бостром выделяет проблемы, с которыми нам предстоит столкнуться, когда мы потеряем контроль над нашими изобретениями (если такое вдруг случится), а также предполагает, как нам спастись от самоуничтожения.

3. Speaker:
   Ник Бостром
4. 1000 0:01 - 0:03
   Крис Андерсон: Ник Бостром
5. 2833 0:03 - 0:07
   Вы уже делились
   с нами своими безумными идеями.
6. 6833 0:07 - 0:09
   Пару десятилетий назад, как мне
7. 8583 0:09 - 0:12
   помнится, вы предположили,
   что мы будем жить в симуляции
8. 11542 0:12 - 0:13
   или мы уже в ней.
9. 13375 0:13 - 0:15
   А относительно недавно
10. 14750 0:15 - 0:19
    вы представили самый наглядный пример
    того, как может навредить
11. 19375 0:19 - 0:21
    всеобщий искусственный интеллект.
12. 21750 0:22 - 0:23
    И уже в этом году
13. 23167 0:23 - 0:25
    вы собираетесь издавать
14. 25417 0:25 - 0:29
    книгу с самыми уязвимыми
    мировыми гипотезами.
15. 29375 0:29 - 0:34
    И сегодняшний выпуск должен стать
    иллюстрированным руководством к ней.
16. 34417 0:34 - 0:36
    Давайте начнём.
17. 36833 0:37 - 0:39
    Что это за гипотезы?
18. 40000 0:40 - 0:43
    Ник Бостром: Это попытка осмысления
    структурных компонентов

    ¶

19. 42778 0:43 - 0:46
    текущего состояния человечества.
20. 47125 0:47 - 0:49
    Вам нравится метафора про урну,
21. 49500 0:50 - 0:51
    поэтому я использую её.
22. 51417 0:51 - 0:56
    Представьте большу́ю урну,
    наполненную шарами,
23. 55792 0:56 - 1:00
    которые представляют собой идеи, методы
24. 60833 1:01 - 1:05
    и всевозможные технологии.
    Всю творческую деятельность человечества
25. 64583 1:05 - 1:08
    можно сравнить с погружением в эту урну
    и вытаскиванием оттуда шариков.
26. 68417 1:08 - 1:12
    И долгие годы мы всегда
    получали только пользу от этого, верно?
27. 71667 1:12 - 1:14
    Мы изъяли слишком много белых шаров,
28. 74417 1:14 - 1:17
    несколько с оттенками серого,
    с неоднозначными последствиями.
29. 78042 1:18 - 1:21
    Но нам так давно не попадался
    чёрный шар — технология,
30. 82292 1:22 - 1:28
    которая непременно уничтожит
    своих создателей.
31. 87792 1:28 - 1:31
    В книге содержатся версии того,
    что́ будет внутри чёрного шара.
32. 91083 1:31 - 1:33
    КА: То есть, вы определяете этот шар

    ¶

33. 92917 1:33 - 1:37
    как причину гибели цивилизации.
34. 96625 1:37 - 1:42
    НБ: Пока мы не выйдем из своего
    стандартного состояния полуанархии,

    ¶

35. 101958 1:42 - 1:43
    
    как я это называю.
36. 104333 1:44 - 1:48
    КА: В качестве доказательства вы приводите

    ¶

37. 107875 1:48 - 1:50
    несколько контрпримеров.
38. 109917 1:50 - 1:53
    Вы убеждены, что нам везло
    на протяжении многих лет.
39. 112875 1:53 - 1:56
    И возможно мы, сами того не подозревая,
40. 115750 1:56 - 1:57
    уже вытянули этот шар смерти.
41. 117333 1:57 - 2:00
    Также вы приводите цитату.
    Что она означает?
42. 120625 2:01 - 2:03
    НБ: Она только показывает,

    ¶

43. 123333 2:03 - 2:05
    насколько сложно предусмотреть
44. 125458 2:05 - 2:08
    все последствия базовых открытий.
45. 128167 2:08 - 2:11
    У нас нет такой возможности.
46. 131250 2:11 - 2:15
    Мы хорошо научились
    вытаскивать шары из урны,
47. 134625 2:15 - 2:18
    но не умеем возвращать их обратно.
48. 138375 2:18 - 2:21
    То есть, мы можем изобретать,
    но не наоборот.
49. 141583 2:22 - 2:24
    В качестве стратегии
    у нас есть только надежда на то,
50. 144375 2:24 - 2:27
    что в урне нет шаров чёрного цвета.
51. 146833 2:27 - 2:31
    КА: Однажды мы его вытащим
    и не сможем вернуть обратно,

    ¶

52. 150917 2:31 - 2:32
    и вы считаете нам пока везло.
53. 152458 2:32 - 2:35
    Прокомментируйте примеры,
    где вы упоминаете
54. 154708 2:35 - 2:38
    несколько типов уязвимости.
55. 157833 2:38 - 2:40
    НБ: Самый простой тип для понимания —

    ¶

56. 160292 2:40 - 2:43
    технология, которая сможет
    без особого труда
57. 163458 2:43 - 2:46
    вызвать много массовых разрушений.
58. 167375 2:47 - 2:51
    Синтетическая биология может стать
    богатым источником
59. 170917 2:51 - 2:54
    чёрных шаров подобного рода.
60. 173625 2:54 - 2:56
    Также стоит задуматься
    о продуктах геоинженерии.
61. 176167 2:56 - 2:58
    Мы можем бороться
    с глобальным потеплением,
62. 178417 2:58 - 3:01
    но не нужно облегчать себе задачу.
63. 180583 3:01 - 3:03
    Не нужно, чтобы случайный человек
    и его бабушка
64. 183083 3:03 - 3:06
    имели возможность радикальным образом
    изменить климат на земле.
65. 186167 3:06 - 3:10
    Или смертоносные беспилотные дроны
    размером с комара,
66. 189750 3:10 - 3:13
    которые массово производят
    для уничтожения вредителей
67. 194500 3:14 - 3:17
    Нанотехнологии,
    всеобщий искусственный интеллект.
68. 197250 3:17 - 3:19
    КА: В книге есть сомнение,

    ¶

69. 198583 3:19 - 3:21
    что нам повезло открыть ядерную энергию
70. 201500 3:22 - 3:25
    для создания атомной бомбы.
71. 204958 3:25 - 3:26
    Возможно, это тот случай,
72. 206375 3:26 - 3:28
    когда возможно создать бомбу
73. 208250 3:28 - 3:32
    с помощью более лёгких ресурсов,
    доступных каждому.
74. 211833 3:32 - 3:35
    НБ: Вернёмся в 30-е годы ХХ века,

    ¶

75. 215417 3:35 - 3:40
    когда мы впервые достигли прогресса
    в ядерной физике.
76. 220042 3:40 - 3:44
    Некоторые выдающиеся учёные выяснили,
    как создать цепную ядерную реакцию
77. 223750 3:44 - 3:47
    и потом довели её до бомбы.
78. 226958 3:47 - 3:49
    Мы провели исследование.
79. 228875 3:49 - 3:52
    Выяснилось, что для создания
    атомной бомбы, содержащей
80. 231625 3:52 - 3:54
    в огромном количестве уран и плутоний,
81. 234042 3:54 - 3:56
    которые получить довольно трудно,
82. 236083 3:56 - 3:58
    нужны ультрацентрифуги, нужны реакторы,
83. 238375 3:58 - 4:02
    а также большое количество энергии.
84. 242167 4:02 - 4:04
    Мы предполагаем, что вместо этого
85. 244000 4:04 - 4:08
    существует более лёгкий способ
    высвободить энергию из атома.
86. 248000 4:08 - 4:11
    А что, если окажется возможным
    вызвать ядерный взрыв
87. 250792 4:11 - 4:12
    из песка в микроволновке
88. 252083 4:12 - 4:14
    или более простым способом.
89. 254208 4:14 - 4:16
    Сейчас это невозможно
    с точки зрения физики.
90. 256375 4:16 - 4:18
    Но пока не проведены такие опыты,
91. 258292 4:18 - 4:20
    как узнать, что из этого выйдет?
92. 260507 4:21 - 4:22
    КА: Согласитесь, для нормального

    ¶

93. 262083 4:22 - 4:24
    развития жизни на Земле необходима
94. 264042 4:24 - 4:27
    стабильная среда.
95. 267333 4:27 - 4:31
    И если бы имелся более лёгкий способ
    получения крупных ядерных реакций,
96. 271078 4:31 - 4:33
    то стабильной среды на Земле
    бы не существовало,
97. 273424 4:33 - 4:35
    и нас здесь не было.
98. 275000 4:35 - 4:38
    НБ: Да, если бы существовало что-то,
    созданное специально,

    ¶

99. 278417 4:38 - 4:41
    а не само по себе.
100. 281292 4:41 - 4:43
     Так мы делаем многое.
101. 282896 4:43 - 4:45
     Мы можем уложить 10 блоков друг на друга,
102. 285031 4:45 - 4:48
     но в природе такого не встретишь.
103. 288253 4:48 - 4:50
     КА: А сейчас поговорим о том,

     ¶

104. 289950 4:50 - 4:52
     что волнует нас больше всего.
105. 291917 4:52 - 4:55
     На данный момент, из того,
     что мы можем предсказать,
106. 295458 4:55 - 4:58
     синтетическая биология — кратчайший путь
     к самоуничтожению.
107. 298500 4:58 - 5:01
     НБ: И только представьте,
     как это будет выглядеть,

     ¶

108. 301458 5:01 - 5:05
     если сказать кому-то,
     что он может разнести город,
109. 305125 5:05 - 5:07
     готовя что-то на кухне.
110. 306542 5:07 - 5:10
     Трудно представить, как современная
     цивилизация в привычном нам виде
111. 310125 5:10 - 5:12
     сможет пережить подобное.
112. 311583 5:12 - 5:14
     Потому что среди любого
     многомилионного населения
113. 314125 5:14 - 5:17
     найдутся те, кто по непонятной причине
114. 316833 5:17 - 5:19
     захотят использовать
     эту разрушительную силу.
115. 319750 5:20 - 5:23
     И если бы этот любитель апокалипсиса
116. 322917 5:23 - 5:25
     выбрал бы уничтожить город
     или, что-то хуже,
117. 324977 5:25 - 5:26
     то города были бы разрушены.
118. 326500 5:26 - 5:29
     КА: Есть другой тип уязвимости.

     ¶

119. 328875 5:29 - 5:31
     Расскажите о нём, пожалуйста.
120. 330542 5:31 - 5:35
     НБ: Помимо простых для понимания
     чёрных шаров,

     ¶

121. 334542 5:35 - 5:37
     которые снесут всё на своем пути,
122. 337376 5:37 - 5:42
     другие будут создавать людям стимул
     для совершения плохих поступков
123. 341833 5:42 - 5:44
     и причинение вреда.
124. 344083 5:44 - 5:48
     То есть, если подумать о так называемом
     Типе-2а, то это технология,
125. 348208 5:48 - 5:53
     которая подвигнет великие мировые державы
126. 352750 5:53 - 5:57
     на использование всей своей военной мощи
     для разрушения.
127. 357250 5:57 - 6:00
     На самом деле, ядерное оружие
     очень близко к этому, да?
128. 362083 6:02 - 6:05
     Что мы сделали: мы потратили более
     10 триллионов долларов
129. 365167 6:05 - 6:08
     на создание 70 тыс. ядерных боеголовок
130. 367584 6:08 - 6:10
     и держим их в состоянии повышенной
     боевой готовности.
131. 370167 6:10 - 6:12
     Во время Холодной войны мы несколько раз
132. 372334 6:12 - 6:14
     были на грани взаимоуничтожения.
133. 373917 6:14 - 6:17
     Не потому, что люди считают
     замечательной идеей
134. 377042 6:17 - 6:20
     спустить 10 миллионов долларов
     на самоуничтожение.
135. 379750 6:20 - 6:23
     Стимулировало то, что мы только ищем себя,
136. 382708 6:23 - 6:24
     и это могло быть худшим.
137. 384042 6:24 - 6:27
     Представьте, если бы первый удар
     прошёл без особых последствий,
138. 387020 6:27 - 6:29
     то было бы очень сложно
139. 388833 6:29 - 6:30
     в кризисной ситуации
140. 390125 6:30 - 6:33
     воздержаться от запуска
     всех ядерных ракет.
141. 392626 6:33 - 6:36
     Если не иначе, потому что вы боитесь,
     что это сделают с другой стороны.
142. 396042 6:36 - 6:38
     КА: Гарантированное взаимоуничтожение

     ¶

143. 397875 6:38 - 6:41
     поддерживало стабильность
     в период холодной войны.
144. 400625 6:41 - 6:43
     Иначе нас бы тут не было.
145. 402583 6:43 - 6:45
     НБ: Да, это бы сделало её
     более нестабильной.

     ¶

146. 404917 6:45 - 6:47
     Тут могла бы проявиться
     другая сторона технологий.
147. 407268 6:47 - 6:50
     Было бы труднее достигнуть
     соглашений по вооружению,
148. 409735 6:50 - 6:51
     если бы вместо ядерного оружия
149. 411250 6:51 - 6:54
     существовал какой-нибудь
     мелкий предмет или менее заметный.
150. 414292 6:54 - 6:57
     КА: Как и плохие мотивы
     влиятельных субъектов мира,

     ¶

151. 416875 6:57 - 7:00
     вы также переживаете из-за плохих
     побуждений каждого из нас в типе 2б.
152. 420417 7:00 - 7:05
     НБ: Да, тут лучше взять в пример
     глобальное потепление.

     ¶

153. 426958 7:07 - 7:09
     Каждый из нас пользуется в быту
154. 428875 7:09 - 7:11
     какими-то современными удобствами,
155. 431083 7:11 - 7:14
     использование которых не имеет
     значительных последствий, так?
156. 433958 7:14 - 7:16
     Но миллиарды людей делают то же самое,
157. 435958 7:16 - 7:18
     что вместе имеет разрушительное действие
158. 438042 7:18 - 7:21
     сейчас проблема глобального
     потепления может усугубиться.
159. 440875 7:21 - 7:24
     Существует параметр влияния на климат.
160. 443875 7:24 - 7:28
     Он показывает на сколько
     усилится потепление
161. 447542 7:28 - 7:30
     при выхлопе определённого количества
     парниковых газов.
162. 450250 7:30 - 7:33
     Предположим, что при количестве
     парниковых газов,
163. 452667 7:33 - 7:35
     выпускаемых на данный момент,
164. 455208 7:35 - 7:37
     к 2100 году вместо увеличения температуры
165. 457292 7:37 - 7:41
     всего на 3–4,5 градуса мы столкнёмся
166. 461042 7:41 - 7:44
     с увеличением на 15 или даже 20 градусов.
167. 464375 7:44 - 7:47
     То есть мы можем оказаться
     в очень плохом положении.
168. 466958 7:47 - 7:50
     Предположим, что очень сложно создать
     возобновляемый источник энергии
169. 470255 7:50 - 7:53
     или в земле есть больше
     ископаемых видов топлива
170. 472792 7:53 - 7:55
     КА: Утверждаете ли вы,
     что если тот образ жизни,

     ¶

171. 475458 7:55 - 7:57
     который мы ведём сегодня
172. 477208 7:57 - 8:02
     со временем приведёт
     к видимой разнице в 10 градусов,
173. 481792 8:02 - 8:05
     то люди бы уже засуетились
     и сделали что-нибудь с этим.
174. 485500 8:06 - 8:08
     Возможно, мы и глупы, но не настолько.
175. 488333 8:08 - 8:10
     Но кто знает.
176. 489625 8:10 - 8:11
     НБ: Я бы не был так уверен.

     ¶

177. 491027 8:11 - 8:13
     (Смех)

     ¶

178. 493125 8:13 - 8:15
     Подумайте и о других свойствах.

     ¶

179. 494833 8:15 - 8:20
     На данный момент переключиться на
     возобновляемые энергоносители и подобные
180. 500375 8:20 - 8:22
     вещи сложно, но возможно.
181. 501667 8:22 - 8:25
     Возможно с использованием
     немного других физических свойств
182. 504667 8:25 - 8:27
     осуществление этого выйдет намного дороже.
183. 508375 8:28 - 8:30
     КА: А какое у вас мнение?

     ¶

184. 509917 8:30 - 8:32
     Находится ли наша планета,
185. 512375 8:32 - 8:37
     человечество со всеми своими
     техническими возможностями,
186. 516667 8:37 - 8:38
     в уязвимом положении?
187. 518250 8:38 - 8:41
     Есть ли шар смерти в нашем будущем?
188. 523958 8:44 - 8:45
     НБ: Трудно сказать.

     ¶

189. 525250 8:45 - 8:50
     Я думаю, что в этой урне
     с большой вероятностью будут
190. 530333 8:50 - 8:52
     разнообразные чёрные шары.
191. 531667 8:52 - 8:54
     Но также будут и золотые,
192. 534083 8:54 - 8:58
     которые помогут нам в битве
     против чёрных шаров.
193. 537583 8:58 - 9:01
     Но я не знаю, в каком порядке
     они будут появляться.
194. 540583 9:01 - 9:04
     КА: Ваша идея слегка противоречит

     ¶

195. 544458 9:04 - 9:10
     философской мысли о том, что будущее
     предопределено и неизбежно,
196. 550125 9:10 - 9:13
     независимо от цвета очередного шара
197. 552625 9:13 - 9:16
     и в некоторой степени
198. 555667 9:16 - 9:18
     мне не хочется верить в такое будущее.
199. 558292 9:18 - 9:21
     Я хочу верить, что будущее
     не предопределено,
200. 560667 9:21 - 9:23
     что решения, принимаемые нами сегодня,
201. 562625 9:23 - 9:25
     повлияют на цвет шара, который мы вытащим.
202. 565917 9:26 - 9:30
     НБ: Я думаю, если мы будем
     продолжать изобретать

     ¶

203. 569708 9:30 - 9:32
     в конечном итоге мы вытащим все шары.
204. 572875 9:33 - 9:36
     Есть некая слабая форма
     технологического детерминизма,
205. 575928 9:36 - 9:38
     которая имеет веские основания,
206. 577583 9:38 - 9:40
     то есть вы вряд ли встретите сообщество,
207. 580250 9:40 - 9:43
     где пользуются кремниевыми топорами
     и реактивными самолетами.
208. 584208 9:44 - 9:48
     Технологии можно считать
     пакетом возможностей.
209. 588292 9:48 - 9:51
     Технологии позволяют нам
     делать различные вещи и достигать
210. 591333 9:51 - 9:53
     разнообразных результатов в мире.
211. 593333 9:53 - 9:56
     Как использовать их,
     зависит только от нашего выбора.
212. 596167 9:56 - 9:59
     Но если задуматься об этих
     трёх типах уязвимости
213. 598875 9:59 - 10:02
     они могут пошатнуть представление
     об их использовании
214. 602292 10:02 - 10:06
     Напомню, первый тип уязвимости —
     огромная разрушительная сила
215. 605708 10:06 - 10:07
     и предположение о том,
216. 607167 10:07 - 10:10
     что среди многомиллионного населения
     найдутся те,
217. 609583 10:10 - 10:13
     кто захотят использовать её
     для разрушения, довольно слабое.
218. 612542 10:13 - 10:15
     КА: Меня больше всего
     беспокоит мысль о том,

     ¶

219. 615000 10:15 - 10:20
     что мы на данный момент в некотором роде
     погрузились в эту урну настолько,
220. 619583 10:20 - 10:23
     чтобы понять, что мы обречены.
221. 623125 10:23 - 10:28
     То есть, если вы верите в увеличение мощи,
222. 627792 10:28 - 10:30
     в развитие технологий,
223. 630083 10:30 - 10:33
     в создание техники,
     которая сделает нас сильнее,
224. 632542 10:33 - 10:35
     то в какой-то момент вы доходите до мысли,
225. 635208 10:35 - 10:38
     что отдельно взятый человек
     может уничтожить всех нас.
226. 638292 10:38 - 10:41
     И в таком случае нам всем конец.
227. 641167 10:41 - 10:44
     Вас это не тревожит?
228. 644125 10:44 - 10:46
     НБ: Ах, да

     ¶

229. 646708 10:47 - 10:48
     (Смех)

     ¶

230. 648000 10:48 - 10:49
     Я считаю....

     ¶

231. 650875 10:51 - 10:52
     Да, мы становимся всё сильнее,
232. 652500 10:52 - 10:56
     и применять эту силу становится всё легче,
233. 656458 10:56 - 11:00
     но мы также можем изобрести технологию,
     которая позволит нам контролировать
234. 660042 11:00 - 11:02
     использование этой силы людьми
235. 662083 11:02 - 11:05
     КА: Давайте обсудим это.
     Поговорим об ответных реакциях.

     ¶

236. 664958 11:05 - 11:07
     Предположим,
     размышляя о всех возможностях,
237. 667292 11:07 - 11:09
     которые мы имеем на сегодняшний день, —
238. 669417 11:09 - 11:13
     это не только синбиотехнологии,
     но и вещи вроде кибервойны,
239. 673167 11:13 - 11:17
     искусственный интеллект и т.д. —
240. 676542 11:17 - 11:21
     за что, возможно, в будущем
     нас ожидает серьёзная расплата.
241. 681083 11:21 - 11:23
     Какими будут ответные реакции?
242. 682708 11:23 - 11:28
     Вы упомянули также четыре типа
     этих ответных реакций.
243. 687625 11:28 - 11:31
     НБ: Ограничение в развитии технического
     прогресса не вселяет надежды,

     ¶

244. 691292 11:31 - 11:35
     если мы все имеем в виду остановку
     технического прогресса в целом.
245. 694542 11:35 - 11:36
     Я думаю, у нас нет
246. 695833 11:36 - 11:38
     ни желания, ни возможности сделать это.
247. 698167 11:38 - 11:41
     Или, возможно, только в некоторых областях
248. 701208 11:41 - 11:44
     вам захочется замедлить
     технический прогресс
249. 703958 11:44 - 11:47
     Я думаю, вы не захотите быстрого развития
     биологического оружия
250. 707375 11:47 - 11:49
     или разделения изотопов,
     что поспособствует
251. 709458 11:49 - 11:52
     более лёгкому созданию ядерного оружия
252. 712583 11:53 - 11:56
     КА: Я полностью согласен с вами,

     ¶

253. 715917 11:56 - 11:59
     но я бы хотел заострить внимание на этом,
254. 719208 11:59 - 12:01
     во-первых, потому что,
255. 720542 12:01 - 12:03
     если посмотреть на историю
     двух последних десятилетий,
256. 723250 12:03 - 12:07
     мы продвигаемся вперёд на полной скорости,
257. 726833 12:07 - 12:09
     хорошо, что это только наш выбор,
258. 728708 12:09 - 12:13
     но если посмотреть на глобализацию
     и её стремительный рост,
259. 733000 12:13 - 12:16
     на стратегию
     «двигайся быстрее и ломай преграды»
260. 736458 12:16 - 12:19
     и во что это превратилось,
261. 738542 12:19 - 12:21
     а потом на весь потенциал
     синтетической биологии.
262. 741333 12:21 - 12:26
     Я не уверен, что нам стоит продвигаться
     настолько быстро,
263. 745792 12:26 - 12:27
     без каких-либо ограничений,
264. 747458 12:27 - 12:31
     в мир, где ДНК-принтер будет
     в каждом доме и в лаборатории
265. 750792 12:31 - 12:32
     старшей школы
266. 753167 12:33 - 12:35
     Должны быть какие-то ограничения.
267. 754875 12:35 - 12:38
     НБ: Возможно, первая часть,
     не самая подходящая.

     ¶

268. 757542 12:38 - 12:40
     Если люди всё же захотят остановить это,
269. 759750 12:40 - 12:41
     то возникнут проблемы с реализацией.
270. 761500 12:42 - 12:44
     Ничего на деле не выйдет,
     если население одной страны...
271. 764333 12:44 - 12:46
     КА: Нет, если действует только один народ,

     ¶

272. 766375 12:46 - 12:49
     но мы уже заключали
     международные соглашения ранее.
273. 769333 12:49 - 12:53
     Благодаря этому нам удалось
     устранить ядерную угрозу
274. 772708 12:53 - 12:54
     путём встреч
275. 774000 12:54 - 12:57
     и длительных сложных переговоров.
276. 776542 12:57 - 13:02
     Интересно, не будет ли нам более логично
     не выходить сюда по важному делу
277. 782000 13:02 - 13:04
     и пытаться обсуждать
278. 783708 13:04 - 13:06
     строгие правила по вопросам
279. 786417 13:06 - 13:09
     синтетических биоисследований.
280. 789125 13:09 - 13:12
     Разве не это вы хотите демократизировать?
281. 792000 13:12 - 13:14
     НБ: Я полностью согласен.

     ¶

282. 793833 13:14 - 13:18
     Хотелось бы, например,
283. 798083 13:18 - 13:22
     чтобы ДНК-синтезатор был не устройством,
284. 801708 13:22 - 13:25
     которое будет стоять в каждой лаборатории,
285. 805292 13:25 - 13:27
     а, быть может, сервисом.
286. 806792 13:27 - 13:29
     Допустим, в мире будет
     всего четыре или пять мест,
287. 809333 13:29 - 13:33
     куда можно будет отправить электронный
     образец ДНК и вам придут результаты.
288. 812875 13:33 - 13:35
     А потом у вас будет возможность
289. 814667 13:35 - 13:37
     при необходимости
290. 817083 13:37 - 13:39
     получить конечное множество
     уязвимых мест.
291. 819458 13:39 - 13:43
     Думаю, вы захотите узнать
     об особых ситуациях,
292. 823000 13:43 - 13:45
     которые можно будет жёстко контролировать.
293. 825083 13:45 - 13:47
     КА: По сути, ваше мнение в том,

     ¶

294. 826750 13:47 - 13:50
     что ничего не выйдет, если мы просто
     замедлим прогресс .
295. 829667 13:50 - 13:52
     Кто-нибудь, где-нибудь,
     предположим в Северной Корее,
296. 832417 13:52 - 13:56
     найдётся тот, кто захочет добыть
     именно чёрный шар из урны,
297. 835958 13:56 - 13:57
     если там такой есть.
298. 837250 13:57 - 14:00
     НБ: В текущих условиях — вполне вероятно.

     ¶

299. 839625 14:00 - 14:02
     И дело не в синтетической биологии.
300. 841583 14:02 - 14:04
     Чёрным шаром могут оказаться
     абсолютно любые
301. 844101 14:04 - 14:06
     новые серьезные изменения в мире.
302. 845727 14:06 - 14:08
     КА: Есть ещё вариант развития.
     [Ликвидация опасных людей]

     ¶

303. 848393 14:08 - 14:10
     НБ: Но вероятность довольно мала.

     ¶

304. 850250 14:10 - 14:14
     Касательно первого типа уязвимости.
305. 853833 14:14 - 14:18
     Если бы можно было уменьшить
     количество людей, заинтересованных
306. 858208 14:18 - 14:19
     в уничтожении мира,
307. 859500 14:20 - 14:22
     будь у них доступ к оружию и средства,
308. 861583 14:22 - 14:23
     то было бы прекрасно.
309. 862875 14:23 - 14:25
     КА: Вы просили показать этот слайд,

     ¶

310. 864875 14:25 - 14:27
     с дронами с функцией распознавания лиц,
311. 867458 14:27 - 14:29
     летающими по всему миру.
312. 868750 14:29 - 14:32
     И когда обнаружат людей с признаками
     асоциального поведения,
313. 871667 14:32 - 14:34
     они засыпят их любовью,
     «починят» так сказать
314. 873875 14:34 - 14:36
     НБ: Всё не так однозначно.

     ¶

315. 875792 14:36 - 14:40
     Под ликвидацией подразумевается также,
     например, лишение свободы или уничтожение,
316. 879833 14:40 - 14:43
     или изменение их взглядов на жизнь
     на более правильные.
317. 882875 14:43 - 14:45
     Смысл в том, что,
318. 884625 14:45 - 14:47
     допустим, вы справились с задачей,
319. 886792 14:47 - 14:50
     сократили количество опасных людей вдвое.
320. 890125 14:50 - 14:52
     Если делать ликвидацию путём убеждения,
321. 892042 14:52 - 14:54
     то вы столкнётесь с другими
     мощными факторами,
322. 894458 14:54 - 14:56
     влияющими на людей:
323. 896167 14:56 - 14:58
     партиями, религией, образованием.
324. 897958 14:58 - 15:00
     Если число опасных людей
     сократилось вдвое.
325. 900027 15:00 - 15:02
     Мне кажется риск снизится не на 50%,
326. 902167 15:02 - 15:04
     а только на 5 или 10%.
327. 903750 15:04 - 15:08
     КА: Вы считаете, что мы не рискуем
     будущим человечества во втором варианте?

     ¶

328. 908125 15:08 - 15:11
     НБ: Думаю нет ничего плохого
     в попытке разубедить людей,

     ¶

329. 911167 15:11 - 15:14
     но данный метод не сможет
     обеспечить безопасность в одиночку.
330. 914167 15:14 - 15:15
     КА: А третий вариант?

     ¶

331. 915458 15:15 - 15:18
     НБ: Существует два основных метода,

     ¶

332. 918375 15:18 - 15:22
     пользуясь которыми мы сможем
     укрепить наш мир
333. 922375 15:22 - 15:25
     против целого комплекса
     возможных уязвимостей.
334. 925375 15:25 - 15:27
     Но, возможно, понадобятся оба.
335. 926958 15:27 - 15:31
     Первый — высоко эффективная
     правоохранительная деятельность полиции,
336. 931500 15:32 - 15:33
     [Способ 3. Тотальная слежка]
337. 933292 15:33 - 15:35
     возможность перехвата.
338. 934840 15:35 - 15:38
     Если кто-то захочет пойти на преступление,
339. 937625 15:38 - 15:40
     то было бы возможно
     перехватить и остановить его.
340. 940333 15:40 - 15:43
     В таком случае потребуется
     повсеместный надзор,
341. 942833 15:43 - 15:45
     каждый из нас
     будет находится под наблюдением.
342. 946333 15:46 - 15:49
     КА: Как в фильме «Особое мнение».

     ¶

343. 948917 15:49 - 15:51
     НБ: В наблюдении нам могут помочь

     ¶

344. 950875 15:51 - 15:55
     алгоритмы искусственного интеллекта,
     огромные центры свободы и т.д.
345. 956583 15:57 - 16:01
     КА: Вы знаете, термин «тотальная слежка»
     сейчас не очень популярен?

     ¶

346. 961000 16:01 - 16:02
     (Смех)

     ¶

347. 963458 16:03 - 16:05
     НБ: Это будет небольшое устройство

     ¶

348. 965292 16:05 - 16:09
     с разнонаправленными камерами,
     встроенное в так называемый чокер,
349. 968917 16:09 - 16:11
     который нужно будет носить постоянно.
350. 971792 16:12 - 16:14
     Чтобы это не казалось обременяющим,
351. 973625 16:14 - 16:16
     просто назовём его
     чем-то вроде «символа свободы».
352. 976173 16:16 - 16:18
     (Смех)

     ¶

353. 978208 16:18 - 16:19
     КА: Хорошо

     ¶

354. 979500 16:20 - 16:22
     Друзья, именно поэтому наша беседа
355. 981625 16:22 - 16:25
     настолько увлекательная.
356. 985208 16:25 - 16:28
     НБ: На самом деле об этом можно
     долго разговаривать,

     ¶

357. 987833 16:28 - 16:29
     что очевидно.
358. 989167 16:29 - 16:32
     Мы обсуждали риски и проблемы, не так ли?
359. 991667 16:32 - 16:33
     Можем вернуться к этому.
360. 992828 16:33 - 16:35
     И четвёртая,
     [Глобальное управление]
361. 994590 16:35 - 16:37
     последняя возможность для стабилизации —
362. 996833 16:37 - 16:39
     заделать бреши в работе правительства.
363. 998917 16:39 - 16:43
     Контроль стал бы недостатком
     в управлении на микроуровне,
364. 1003125 16:43 - 16:46
     мешая кому-либо совершить
     что-то противозаконное.
365. 1006250 16:46 - 16:49
     Конечно, такая же проблема наблюдается
366. 1008583 16:49 - 16:51
     и на макроуровне, на глобальном уровне.
367. 1010542 16:51 - 16:54
     Однозначно, потребуется компетенция
     для предотвращения
368. 1014500 16:54 - 16:57
     сбоев в глобальной координации,
369. 1017333 16:57 - 17:01
     чтобы избежать войны
     между великими державами,
370. 1021125 17:01 - 17:02
     гонки вооружений,
371. 1023500 17:04 - 17:06
     общих проблем с катаклизмами,
372. 1027667 17:08 - 17:12
     чтобы справится с уязвимостями типа 2а.
373. 1031875 17:12 - 17:14
     КА: Термин «глобальное управление»

     ¶

374. 1033833 17:14 - 17:16
     сейчас явно не в моде,
375. 1036083 17:16 - 17:19
     но вы можете привести довод, что в ходе
376. 1038625 17:19 - 17:20
     истории человечества
377. 1039917 17:20 - 17:25
     на каждой новой стадии развития
     технологическая мощь возрастает.
378. 1045375 17:25 - 17:29
     Люди преобразовали
     и сосредоточили эту мощь.
379. 1048625 17:29 - 17:32
     Например, когда бродячая
     преступная группировка
380. 1052083 17:32 - 17:34
     может возглавить общество
381. 1053792 17:34 - 17:36
     ответ был, что у вас государство-нация
382. 1056055 17:36 - 17:38
     и вы сосредоточиваете силы —
     полицейских или армию
383. 1058513 17:39 - 17:40
     и «Вы не можете так сделать».
384. 1060167 17:40 - 17:45
     Логика, возможно, в том, что если
     отдельно взятый человек или группа людей
385. 1064750 17:45 - 17:46
     смогут уничтожить человечество,
386. 1066417 17:46 - 17:49
     когда-то мы встанем
     на этот путь, по крайней мере
387. 1069167 17:49 - 17:51
     в некоторых аспектах?
388. 1070625 17:51 - 17:54
     НБ: Однозначно, в ходе развития
     истории человечества

     ¶

389. 1074333 17:54 - 17:56
     масштабы политического аппарата
     увеличились.
390. 1076500 17:56 - 17:59
     Сначала была группа охотников-собирателей,
391. 1078542 17:59 - 18:01
     потом глава племени,
     города-государства, нации,
392. 1081500 18:02 - 18:05
     сейчас существуют
     международные организации и т.д.
393. 1085500 18:06 - 18:07
     Я просто хочу убедиться,
394. 1087042 18:07 - 18:09
     что мне удалось подчеркнуть
395. 1088708 18:09 - 18:11
     большое количество негативных сторон
396. 1090708 18:11 - 18:12
     и риска
397. 1092250 18:12 - 18:16
     как в случае тотальной слежки,
     так и в глобальном управлении.
398. 1095625 18:16 - 18:18
     Просто хочу отметить, если нам повезёт,
     то мир может
399. 1098208 18:18 - 18:21
     оказаться таким, что всё
     вышеперечисленное будет только
400. 1100917 18:21 - 18:22
     спасением от чёрного шара.
401. 1102458 18:22 - 18:25
     КА: Как я понимаю, логика
     данной теории в том, что,

     ¶

402. 1105000 18:25 - 18:26
     надо понимать,
403. 1106292 18:26 - 18:30
     что все произойдёт не сразу.
404. 1109917 18:30 - 18:32
     Это что-то вроде
405. 1113500 18:34 - 18:36
     наивной мечты,
     которая есть у многих из нас,
406. 1116500 18:36 - 18:40
     что технологии всегда
     используются во благо.
407. 1119875 18:40 - 18:43
     Продолжай, не останавливайся,
     поторопись, если возможно,
408. 1122875 18:43 - 18:45
     и не думай о последствиях,
409. 1125250 18:45 - 18:47
     которые могут даже не произойти.
410. 1126958 18:47 - 18:49
     Это может случится.
411. 1128917 18:49 - 18:50
     И если всё же произойдёт,
412. 1130208 18:50 - 18:52
     то нам придётся принять
413. 1131667 18:52 - 18:54
     и другие сопутствующие обстоятельства,
414. 1134250 18:54 - 18:56
     и стать частью гонки вооружений.
415. 1136500 18:56 - 18:59
     Если хотите иметь мощь,
     лучше её ограничить,
416. 1138792 18:59 - 19:01
     или выяснить, как её ограничить.
417. 1140958 19:01 - 19:04
     НБ: Думаю, это вариант,

     ¶

418. 1144458 19:04 - 19:07
     причём очень хороший, в некотором смысле
     даже самый лёгкий
419. 1147250 19:07 - 19:09
     и он может сработать.
420. 1148542 19:09 - 19:13
     Но это значит мы очень уязвимы
     перед появлением чёрного шара.
421. 1153375 19:13 - 19:16
     Думаю, что добавив немного координации,
422. 1155542 19:16 - 19:17
     если бы мы разрешили все проблемы
423. 1158222 19:18 - 19:20
     на уровне макро- и микроуправления,
424. 1159917 19:20 - 19:22
     то вытащили бы все шары из урны
425. 1162250 19:22 - 19:25
     и извлекли немало выгоды.
426. 1164542 19:25 - 19:28
     КА: Какая разница, если мы
     живём в симуляции?

     ¶

427. 1168000 19:28 - 19:29
     Мы просто перезагружаемся.
428. 1169333 19:29 - 19:31
     (Смех)

     ¶

429. 1170625 19:31 - 19:32
     НБ: я...

     ¶

430. 1172292 19:32 - 19:35
     (Смех)

     ¶

431. 1174792 19:35 - 19:36
     Не думаю, что это настало.
432. 1178125 19:38 - 19:39
     КА: Как вы считаете?

     ¶

433. 1179417 19:39 - 19:44
     Если сложить всё вместе, какова
     вероятность, что мы обречены?
434. 1184250 19:44 - 19:46
     (Смех)

     ¶

435. 1187042 19:47 - 19:49
     Мне нравится смех людей,
     когда звучит этот вопрос.

     ¶

436. 1189458 19:49 - 19:51
     НБ: На индивидуальном уровне

     ¶

437. 1190833 19:51 - 19:55
     нам придёт конец в любом случае,
     со временем мы стареем,
438. 1194708 19:55 - 19:57
     разлагаемся, и всё в этом духе, да?
439. 1197333 19:57 - 19:59
     (Смех)

     ¶

440. 1198958 19:59 - 20:01
     На самом деле всй немного сложнее.

     ¶

441. 1200667 20:01 - 20:03
     Если вы хотите посчитать вероятность
     того, что нам конец,
442. 1203458 20:03 - 20:05
     во-первых, кто «мы»?
443. 1204750 20:05 - 20:07
     Если вам много лет, то, возможно,
     умрёте своей смертью.
444. 1207500 20:08 - 20:10
     Если вы молоды, то у вас может быть
     целых 100 лет.
445. 1209875 20:10 - 20:12
     Вероятность индивидуальна.
446. 1212042 20:12 - 20:16
     Затем порог, то есть ограничить понятие
     разрушения цивилизации.
447. 1216292 20:16 - 20:22
     В своей книге я не считаю
     экзистенциальную катастрофу
448. 1221958 20:22 - 20:23
     разрушением цивилизации.
449. 1223417 20:23 - 20:25
     Это всё вопрос определения.
450. 1225125 20:25 - 20:27
     Допустим, будет миллиард погибших
451. 1226738 20:27 - 20:29
     или сокращение мирового ВВП на 50%,
452. 1228672 20:29 - 20:31
     но от того, как вы обозначите порог,
453. 1230792 20:31 - 20:33
     вы получите разную степень вероятности.
454. 1232792 20:33 - 20:37
     Думаю, вы назовёте меня
     запуганным оптимистом.
455. 1237333 20:37 - 20:38
     (Смех)

     ¶

456. 1238458 20:38 - 20:40
     КА: Вы запуганный оптимист,

     ¶

457. 1240125 20:40 - 20:44
     и я думаю, сейчас вы создали немало
     себе подобных запуганных
458. 1244417 20:44 - 20:46
     ...людей.
459. 1245708 20:46 - 20:47
     (Смех)

     ¶

460. 1246792 20:47 - 20:48
     НБ: Живущих в симуляции.

     ¶

461. 1248083 20:48 - 20:49
     КА: Точно.

     ¶

462. 1249375 20:49 - 20:51
     Ник Бостром, ваши идеи удивляют.
463. 1251083 20:51 - 20:54
     Спасибо, что запугали нас до смерти.
464. 1254000 20:54 - 20:56
     (Аплодисменты)

     ¶