YouTube

Got a YouTube account?

New: enable viewer-created translations and captions on your YouTube channel!

Russian subtitles

← Как синтетическая биология может стереть нас с лица земли — и как этого не допустить

Get Embed Code
25 Languages

Showing Revision 70 created 08/05/2019 by Yulia Kallistratova.

  1. Итак, нас в мире примерно
    семь с половиной миллиардов.

  2. ВОЗ сообщает, что 300 миллионов
    из нас находится в депрессии
  3. и около 800 тысяч человек
    ежегодно совершает самоубийство.
  4. Небольшое количество из них
    выбирает совершенно нигилистический путь —
  5. умереть и при этом убить
    как можно большее число людей.
  6. Вот несколько недавних нашумевших случаев.
  7. А вот менее нашумевший,
    произошедший пару месяцев назад.
  8. Если вы о нём не помните,
  9. то это потому, что такое происходит часто.
  10. Википедия сообщает, что в прошлом году
    произошло 323 случая массовых убийств
  11. в моей родной стране, в США.
  12. Не все случаи заканчивались самоубийством,
  13. не все нападавшие стремились
    к максимальному числу жертв,
  14. но целью многих было именно это.
  15. Возникает вопрос:
    эти люди ставят себе какое-то ограничение?

  16. Возьмите вегасского стрелка.
  17. Он безжалостно убил 58 человек.
  18. Он остановился, потому что ему хватило?
  19. Нет, и мы знаем это потому,
    что были ранены ещё 422 человека,
  20. которых он, конечно, предпочёл бы убить.
  21. У нас нет оснований думать,
    что он остановился бы на 4 200.
  22. С таким нигилистическим настроем,
    думаю, он был бы рад порешить нас всех.
  23. Мы не знаем.
  24. Знаем мы вот что:
  25. когда массовые убийцы входят в раж,
  26. технологии играют им на руку.
  27. Вот пример.

  28. Несколько лет назад китайские школы
    поразила череда массовых атак,
  29. в которых в качестве оружия
    использовались ножи, молотки и топоры,
  30. потому что стрелковое оружие
    там трудно достать.
  31. По жуткому совпадению
    последняя атака произошла
  32. за несколько часов до массового
    убийства в Ньютауне, Коннектикут.
  33. Но одна эта атака в Америке
    унесла примерно столько же жизней,
  34. сколько 10 китайских атак вместе взятых.
  35. Поэтому мы можем заключить: ножи — ужасно,
    стрелковое оружие — ещё хуже.
  36. А самолёт — гораздо хуже,
  37. как показал нам случай Андреаса Лубица,
    пилота, погубившего 149 человек,
  38. не считая его самого,
  39. когда он направил самолёт в гору
    в Прованских Альпах.
  40. Есть и другие примеры.

  41. И я боюсь, что в ближайшем будущем
    может появится оружие страшнее самолётов,
  42. и оно будет сделано не из металла.
  43. Давайте рассмотрим апокалиптический
    сценарий, который может оказаться вполне
  44. вероятным, если массовые убийцы
    воспользуются технологиями,
  45. которые в целом сулят много
    благ для общества.
  46. Где-то в мире есть группка людей,
    которые попытались бы,
  47. какой бы нелепой ни была их попытка,
  48. убить нас всех, если бы только знали как.
  49. Вегасский стрелок мог быть
    или не быть одним из них,
  50. но учитывая, что нас
    больше семи миллиардов,
  51. число таких людей явно больше нуля.
  52. В мире много суицидально
    настроенных нигилистов.
  53. Мы уже в этом убедились.
  54. Есть люди, страдающие бесконтрольными
    аффективными расстройствами.
  55. Есть люди, недавно пережившие
    тяжелейшие травмы, и так далее.
  56. Что касается другой группы людей,
  57. их число неизменно равнялось нулю
    до начала Холодной войны,
  58. когда внезапно лидеры двух мировых держав
  59. получили возможность
    одним махом взорвать весь мир.
  60. Число людей с доступом к страшным кнопкам

  61. оставалось стабильным с тех пор.
  62. Но я боюсь, оно может возрасти,
  63. и не просто до трёх.
    [Люди, которые могли бы убить нас всех]
  64. Это выходит за всякие рамки.
  65. Это уже практически выглядит
    как бизнес-план.
  66. (Смех)

  67. А причина этого в том,

  68. что мы живём в эпоху
    экспоненциальных технологий,
  69. которые раз за разом
    превращают абсолютно невозможное
  70. в доступное для одного или двух
    живых гениев в виде сверхспособностей,
  71. а затем — и это самое важное —
  72. делают это доступным для всех
    остальных людей на земле.
  73. Приведу безобидный пример.

  74. Если в 1952 году вы хотели
    поиграть в шашки с компьютером,
  75. вы должны были быть вон тем человеком,
  76. который реквизировал один из таких
    компьютеров, которых в мире всего было 19,
  77. чтобы с помощью своего мозга
    уровня нобелевки научить его игре в шашки.
  78. Такой высокой была планка.
  79. Сегодня всё, что от вас требуется,
    это знать кого-то у кого есть телефон,
  80. потому что компьютеры —
    это экспоненциальная технология.
  81. Как и синтетическая биология.

  82. Давайте я буду называть её «синбио».
  83. В 2011 году двое исследователей
    сделали нечто столь же гениальное
  84. и ранее невиданное, как и фокус с шашками,
  85. с вирусом гриппа H5N1.
  86. Штамм этого вируса убивает
    до 60% людей, которые им заражаются.
  87. Больше, чем вирус Эбола.
  88. Но он такой незаразный,
  89. что убил всего 50 людей,
    начиная с 2015 года.
  90. И вот эти учёные
    отредактировали геном H5N1
  91. и сделали его не менее смертельным,
    но при этом гораздо более заразным.
  92. Новостное подразделение
    одного из ведущих научных журналов
  93. сообщило, что если эта штука
    выберется наружу, то скорее всего вызовет
  94. пандемию с миллионами жертв.
  95. А доктор Пол Кайм сказал,
  96. что сложно представить себе
    организм страшнее этого,
  97. и это последняя вещь,
    которую я хотел бы услышать
  98. от председателя Научного консультативного
    совета по биобезопасности.
  99. И, между прочим, доктор Кайм также говорил
  100. [«По сравнению с этим,
    сибирская язва — пустяк».]

  101. при этом являясь...

  102. [Экспертом по сибирской язве] (Смех)

  103. Хорошая новость заключается в том,

  104. что люди, которые сделали это
    в 2011 году, не желали нам зла.
  105. Они вирусологи.
  106. Они верили в то, что продвигают науку.
  107. Плохая новость заключается в том, что
    технологии не привязаны к одному месту,
  108. и через двадцать-тридцать лет
  109. их опыт можно будет легко повторить.
  110. На самом деле это уже гораздо проще
    сделать, потому что, как стало известно,
  111. уже через два года после их исследования
  112. учёные взяли на вооружение систему
    CRISPR для редактирования генома.
  113. Это был радикальный прорыв,
  114. который делает редактирование
    генома намного проще —
  115. настолько проще, что CRISPR теперь
    изучают в старших классах.
  116. И эти вещи развиваются быстрее,
    чем компьютеры.
  117. Видите ту скучную белую линию сверху?
  118. Это закон Мура.
  119. Который показывает нам,
    как быстро дешевеют компьютеры.
  120. А вон та весёлая зелёная линия
  121. показывает, как быстро дешевеет
    генетическое секвенирование.
  122. Редактирование генома, синтез
    и секвенирование —
  123. это всё разные дисциплины,
    но они тесно связаны.
  124. И все они развиваются
    одинаково быстрыми темпами.
  125. А ключом к ларчику являются
    эти крошечные файлы с данными.
  126. Это отрывок из генома вируса H5N1.
  127. Он весь может поместиться
    всего на нескольких страницах.
  128. Не волнуйтесь, вы можете найти это
    в Гугле, когда вернётесь домой.
  129. Это всё уже есть в Интернете.
  130. А та часть, которая сделала
    вирус заразным,
  131. может уместиться на маленьком стикере.
  132. И как только какой-нибудь гений
    создаст файл с данными,
  133. его сможет скопировать любой идиот
  134. и распространить по всему миру
  135. или распечатать.
  136. И я имею в виду распечатать
    не только на этом,
  137. но очень скоро и на этом.
  138. Теперь давайте представим сценарий.

  139. Как будто сейчас 2026 год, к примеру,
  140. и один выдающийся вирусолог,
    помышляя лишь о благе науки
  141. и грезя о лучшем понимании пандемии,
  142. создаёт новый вирус.
  143. Он такой же заразный, как ветряная оспа,
  144. такой же смертельный, как Эбола,
  145. а его инкубационный период
    длится несколько месяцев.
  146. И когда появятся первые симптомы,
    весь мир уже будет заражен.
  147. И вот институт, где работает
    этот вирусолог, взламывают.
  148. И это никакая не фантастика.
  149. Недавно в Америке
    возбудили уголовное дело,
  150. касающееся взлома
    более 300 университетов.
  151. И вот файл с геномом этого вируса
    попадёт в самые тёмные закоулки Интернета.
  152. А когда файл попадает в сеть,
    он уже никогда не возвращается назад —
  153. спросите любого, кто заведует
    киностудией или музыкальным лейблом.
  154. В 2026 году, возможно, понадобится
  155. настоящий гений, как наш вирусолог,
  156. чтобы придумать такую тварь,
  157. но 15 лет спустя, может статься,
  158. что потребуется лишь принтер ДНК,
    который будет стоять в каждой школе.
  159. А если нет?
  160. Дайте этому пару десятков лет.
  161. Немного возвращаясь назад,

  162. помните этот слайд?
  163. Обратите внимание на эти два слова.
    [могли бы]
  164. Если кто-то попытается это сделать
    и достигнет цели лишь на 0,1 процента,
  165. умрут восемь миллионов людей.
  166. Это две с половиной тысячи
    башен-близнецов.
  167. Цивилизация, конечно, выживет,
  168. но ей будет нанесён серьёзный урон.
  169. Это означает, что мы должны
    принимать во внимание всех,
  170. кто попытается попасть в цель,
  171. не только гениев.
  172. Получается, сегодня есть
    всего несколько гениев,
  173. которые могли бы создать
    такой страшный вирус,
  174. эффективный на 0,1 процента
    или, может, чуть больше.
  175. Они уравновешенны и успешны
    и поэтому не входят в ту группу.
  176. Поэтому, наверно, можно сказать,
    что я относительно спокоен на этот счёт.
  177. А как насчёт того времени,
    когда технологии улучшатся
  178. и распространятся,
  179. и в игру вступят тысячи аспирантов,
    будущих биологов и медиков?
  180. Окажется ли каждый из них
    идеально уравновешенным?
  181. А как насчёт спустя ещё несколько лет,
  182. когда в игру вступят студенты
    подготовительных медицинских курсов?
  183. В какой-то момент времени
  184. эти круги наложатся друг на друга,
  185. потому что теперь мы говорим уже
    о сотнях тысяч людей
  186. по всему миру.
  187. И недавно к ним присоединился парень,
    который переоделся Джокером
  188. и застрелил 12 человек
    на премьере «Бэтмэна».
  189. Это был аспирант-нейробиолог
  190. с грантом Института здравоохранения.
  191. Ладно, поворот сюжета:

  192. я думаю, мы можем предотвратить всё это,
    если обеспокоимся прямо сейчас.
  193. И я заявляю об этом, проведя
    многие часы за беседами
  194. с передовыми умами синбио
  195. и изучением их работ для моих
    научных подкастов.
  196. Хочу сказать, что я стал бояться того,
    что они делают, если кто-то ещё не понял,
  197. (Смех)

  198. но на самом деле моя цель —
    раскрыть потенциал их работ.

  199. Благодаря им мы сможем победить рак,
    поможем окружающей среде
  200. и перестанем плохо обращаться
    с братьями нашими меньшими.
  201. Но как прийти к этому без того,
    чтобы уничтожить самих себя?
  202. Прежде всего, хотим мы того или нет,
    синбио уже здесь,

  203. так давайте примем эту технологию.
  204. Если мы её запретим,
  205. это только развяжет руки тем,
    кто имеет злой умысел.
  206. В отличие от ядерных программ,
  207. биологией можно заниматься незаметно.
  208. Нарушение договоров о биологическом
    оружии со стороны Советского союза
  209. это доказало, как доказывают и все их
    нелегальные медицинские лаборатории.
  210. Во-вторых, давайте привлечём экспертов

  211. в как можно большем количестве.
  212. Уверен, если мы возьмём
    миллион и одного инженера,
  213. по крайней мере миллион из них
    будут на нашей стороне.
  214. Думаю, сам Аль Капоне был бы
    на нашей стороне в этом случае.
  215. Порог входа в мир хороших парней
    тут довольно низкий.
  216. Серьёзное численное преимущество
    тоже важно,
  217. даже когда один человек
    может нанести сильный вред,
  218. потому что помимо прочего
  219. оно позволит нам выжать
    максимум из этого:
  220. у нас есть годы и, надеюсь, десятилетия,
    чтобы подготовиться и предотвратить.
  221. Человек, который попробует сделать нечто
    ужасное — а это точно произойдёт, —
  222. возможно, ещё не родился.
  223. Также эта инициатива должна
    охватывать всё общество.

  224. Мы все должны в этом участвовать.
  225. Потому что нельзя на маленькую
    группу экспертов одновременно
  226. возлагать ответственность и за контроль,
    и за развитие синтетической биологии.
  227. Мы ведь уже так делали
    с нашей финансовой системой.
  228. Когда наши управители развратились
    до невозможности,
  229. поняв, какие лазейки можно использовать,
  230. чтобы подвергнуть нас
    колоссальным рискам,
  231. а самим присвоить прибыль.
  232. И стать отвратительно богатыми,
  233. нажив на нас 22 триллиона долларов.
  234. А совсем недавно...

  235. (Аплодисменты)

  236. Вы одни из тех, кто получил
    письма с благодарностью?

  237. Лично я до сих пор жду.
  238. Подумал, они слишком заняты,
    чтобы проявить благодарность.
  239. А совсем недавно

  240. появилась такая проблема,
    как приватность в Интернете,
  241. и мы опять отдали всё на аутсорсинг.
  242. И опять же:
  243. на нас нажились, а прибыль присвоили.
  244. Мне одному надоело такой отношение?
  245. (Аплодисменты)

  246. Нам нужен более инклюзивный подход,
    чтобы мы могли защитить нашу экономику,

  247. нашу приватность,
  248. и, в скором времени, и наши жизни.
  249. Как же нам всё это сделать?
  250. Когда наше тело борется с патогенами,

  251. оно использует иммунную систему,
  252. очень сложную и многослойную.
  253. Почему бы нам не построить такую же
    для всей долбаной экосистемы?
  254. В качестве первого критического уровня
    можно использовать год конференций TED.
  255. Есть много прекрасных идей в этой области,
    которые ждут своего слушателя.
  256. Можно направить исследования
    и разработку на то,

  257. чтобы сделать те датчики патогенов,
    которые мы имеем сейчас,
  258. более дешёвыми, но при этом
    и более продвинутыми.
  259. Чтобы можно было без проблем
  260. установить и использовать их
  261. повсюду, как детекторы дыма
    или даже смартфоны.
  262. Нужно отметить,
  263. что с вакцинами тоже есть проблемы,
  264. когда дело доходит до их производства
    и распространения.
  265. А когда они изготовлены, они не могут
    приспосабливаться к новым мутациям.
  266. Нам нужна гибкая биопроизводственная база,
  267. которая будет охватывать каждую аптеку,
    а может быть, и наши дома.
  268. Технологию печати вакцин и лекарств
    можно приблизить во времени,
  269. если отдать ей приоритет.
  270. Теперь, психическое здоровье.

  271. Многие из тех, кто совершает
    суицидальные массовые убийства,
  272. страдают от непосильных
    посттравматических стрессовых расстройств.
  273. Нам нужны добрые исследователи
    вроде Рика Доблина,
  274. но нам также нужно, чтобы эгоистичные
    придурки, которых гораздо больше,
  275. признали тот факт, что депрессия
    скоро будет угрожать нам всем,
  276. а не только тем, кто пережил травму.
  277. Тогда эти придурки присоединятся
    к нам и к Аль Капоне
  278. в нашей борьбе с этим состоянием.
  279. В-третьих, каждый из нас может
    и должен быть белой кровяной клеткой
  280. в этой иммунной системе.
  281. Да, массовые убийцы вызывают омерзение,
  282. но в то же время они ужасно
    несчастные и сломленные люди.
  283. Те из нас, кто таковыми не является,
    должны позаботиться о том,
  284. чтобы никого не обделили любовью.
  285. (Аплодисменты)

  286. Затем нам нужно добиться,
    чтобы борьба с этими угрозами

  287. стала неотъемлемой частью
    синтетической биологии.
  288. Существуют компании, утверждающие,
  289. что позволяют своим инженерам
    тратить 20 процентов их времени
  290. на то, что им интересно.
  291. Что если те, кто нанимает биоинженеров
  292. и становится ими,
  293. 20 процентов времени будут тратить
    на создание защиты для общего блага?
  294. Неплохая идея, согласитесь?
  295. (Аплодисменты)

  296. И наконец, и это не очень весело,

  297. мы должны позволить нашему
    воображению зайти в самые тёмные уголки,
  298. и спасибо вам за то, что позволили мне
    отвести вас туда сегодня.
  299. Мы пережили Холодную войну,
  300. потому что каждый из нас
    осознавал и учитывал угрозу,
  301. отчасти потому что мы потратили
    несколько десятилетий,
  302. рассказывая себе страшилки,
  303. такие как «Доктор Стрейнджлав»
  304. и «Военные игры».
  305. Сейчас не время сохранять спокойствие.
  306. Сейчас как раз то самое время,
    когда самым эффективным является
  307. обделаться от страха,
  308. (Смех)

  309. придумать несколько страшилок

  310. и использовать наш страх как топливо
    для борьбы с этой опасностью.
  311. Потому что все эти жуткие сценарии,
    о которых я рассказал,

  312. они не предначертаны.
  313. Этого может и не быть.
  314. Беда всё ещё несколько отдалена.
  315. И это означает, что она постигнет нас,
  316. только если мы позволим ей это сделать.
  317. Не допустим же этого.

  318. Спасибо большое, что выслушали.

  319. (Аплодисменты)