Turkish feliratok

← Medeniyet kendini nasıl yok edebilir -- ve bunu önlemenin 4 yolu

Beágyazókód kérése
23 Languages

Showing Revision 30 created 03/22/2020 by Figen Ergürbüz.

  1. Chris Anderson: Nick Bostrom.
  2. Bize çoktan birçok çılgın fikir verdin.
  3. Sanırım 20 yıl önce
  4. hepimizin bir simülasyonda yaşıyor
    olabileceğini ortaya attın
  5. ya da geçmişte yaşadığımızı.
  6. Yakın zamanda,
  7. yapay genel zekânın nasıl
    korkunç düzeyde kötüye gidebileceğinin
  8. en gerçekçi örneklerini gösterdin.
  9. Ve bu yıl da
  10. hassas dünya hipotezi denen
    bir konu üzerinde
  11. bir yazı yayımlamak üzeresin.
  12. Bu akşam bizim görevimiz
    buna örnekli bir kılavuz sunmak.
  13. Hadi başlayalım.
  14. Nedir bu hipotez?
  15. Nick Bostrom: Bu, şu anki insan durumunun

  16. bir tür yapısal özelliği üzerinde
    düşünmeye çalışma.
  17. Sen vazo örneğini seviyorsun,
  18. bu yüzden açıklamak için
    o örneği kullanacağım.
  19. Fikirleri, metotları
    ve olası teknolojileri temsil eden
  20. toplarla dolu büyük bir vazo hayal et.
  21. İnsan yaratıcılığının tarihini,
  22. bu vazoya ulaşma ve topları birer birer
    çıkarma süreci olarak düşünebilirsin
  23. ve ağ etkisi şimdiye kadar
    oldukça yararlıydı değil mi?
  24. Bazısı hem faydalı hem zararlı olan
    çeşitli gri tonlarda
  25. oldukça fazla sayıda beyaz top çıkardık.
  26. Şimdiye kadar siyah topu çıkarmadık --
  27. onu keşfeden medeniyeti
    sürekli olarak yok eden bir teknoloji.
  28. Yazı, siyah topun ne olabileceği
    üzerine düşünmeye çalışıyor.
  29. CA: Yani bu topu, kaçınılmaz bir şekilde

  30. medeniyet yıkımı getirecek
    bir şey olarak tanımlıyorsun.
  31. NB: Yarı anarşik standart koşul diye
    adlandırdığım şeyden çıkmadığımız sürece.

  32. Ama bir çeşit, varsayımla.
  33. CA: Yani, aslında şu zamana kadar

  34. şanslı olduğumuza inandığın,
  35. o ölüm topunu hiç bilmeden
    çekmiş olabileceğimiz
  36. bir çeşit karşıt örnekler vererek
  37. durumu zorlaştırıyorsun.
  38. Evet bir alıntı var, nedir bu alıntı?
  39. NB: Sanırım, bu sadece

  40. ana keşiflerin neye yol açacağını
  41. öngörmenin zorluğunu anlatmaya yarıyor.
  42. Henüz bu yetiye sahip değiliz.
  43. Çünkü, topları çıkarmakta
    çok iyi hâle geldik
  44. ama topu geri vazoya doğru şekilde koyma
    yeteneğine aslında sahip değiliz.
  45. İcat edebiliyoruz ama geri bozamıyoruz.
  46. Yani bizim stratejimiz, olduğu gibi,
  47. vazoda hiç siyah top olmadığını ummak.
  48. CA: Yani bir kez dışarı çıktığında
    dışarıdadır, onu geri içine koyamazsın

  49. ve şanslı olduğumuzu düşünüyorsun.
  50. Bu örneklerden bazıları
    üzerinde konuşalım.
  51. Farklı türdeki zaaflar hakkında konuşalım.
  52. NB: Anlamanın en kolay türü

  53. büyük miktarda yıkımlara yol açmayı
  54. oldukça çok kolaylaştıran bir teknoloji.
  55. Sentetik biyoloji, bu siyah topu bulmakta
    verimli bir kaynak olabilir
  56. ama iklim mühendisliğiyle ilgili
    düşünebileceğimiz --
  57. diğer birçok mümkün şey de
    gerçekten harika, değil mi?
  58. Küresel ısınmayla mücadele edebiliriz
  59. ama bunun çok kolay hâle
    gelmesini de istemezsin;
  60. rastgele birinin ve büyük annesinin
  61. Dünya ikliminde köklü değişiklikler
    yapabilmesini istemezsin.
  62. Ya da belki, ölümcül özerk drone'lar,
  63. toplu üretilmiş, sivrisinek boyunda
    öldürücü sürüler.
  64. Nanoteknoloji, yapay genel zekâ.
  65. CA: Yazıda savunduğun,

  66. nükleer gücün bir bomba
    yaratabileceğini öğrendiğimizde
  67. sen zaten herkes için erişilebilir
    daha kolay kaynaklarla
  68. şans eseri bir bomba yaratmış olabilirsin.
  69. NB: 1930'lu yılları düşünelim,

  70. nükleer fizikte harika yenilikler
    yaptığımız ilk zamanları,
  71. bazı dâhiler nükleer zincirleme reaksiyon
    yaratmanın mümkün olduğunu anlıyor
  72. ve sonra bunun ucunun
    bombaya uzanacağını anlıyor.
  73. Birkaç tane daha çalışma yaptık;
  74. bir nükleer bomba yapmak için
    ihtiyacın olan şeylerin,
  75. yüksek oranda zenginleştirilmiş
    uranyum ve plutonyum,
  76. elde etmesi çok zor materyaller.
  77. Ultrasantrifüje, reaktörlere,
  78. yani büyük miktarda enerjiye ihtiyaç var.
  79. Ama bunlar yerine,
  80. atomun enerjisini açığa çıkarmanın
    kolay bir yolu olduğunu düşün.
  81. Belki mikrodalga fırında kum pişirerek
  82. ya da bunun gibi bir şeyle
  83. bir nükleer patlama yaratabilirdin.
  84. Bunun fiziksel olarak
    imkânsız olduğunu biliyoruz.
  85. Ama ilgili fiziği bilmeden önce
  86. bunun neye dönüşeceğini
    nasıl bilebilirdin?
  87. CA: Ama şöyle düşünmüyor musun,

  88. Dünya'daki yaşamın evrilmesi
  89. ve bunun bir tür durağan çevre
    anlamına gelmesi için
  90. büyük nükleer reaksiyonlar yaratmak
    nispeten daha kolay ve mümkün olsaydı
  91. Dünya hiç sabit kalmazdı,
  92. biz burada bile olmazdık.
  93. NB: Evet, şayet bilerek yapılması kolay

  94. ama rastgele şansla olmayacak
    bir şey var olmasaydı.
  95. Yani kolayca yapabildiğimiz şeyler,
  96. üst üste 10 tane blok dizebiliriz
  97. ama doğada üst üste dizilmiş
    10 blok bulamazsın.
  98. CA: Tamam, yani bu muhtemelen

  99. çoğumuzun en çok endişelendiği şey
  100. ve evet yapay biyoloji belki de
    yakın gelecekte öngördüğümüz,
  101. bizi oraya götürebilecek en hızlı yöntem.
  102. NB: Evet ve diyelim ki bir öğleden sonra

  103. mutfağında çalışan herhangi birinin
    bir şehri yok edebilmesi
  104. nasıl olurdu bir düşün.
  105. Bizim bildiğimiz modern medeniyet
    böyle bir şeyden
  106. nasıl kurtulabilirdi kestirmek zor.
  107. Çünkü mutlaka her bir milyonluk
    insan nüfusunda,
  108. herhangi bir sebep için
    bu yıkıcı gücü kullanmayı
  109. seçecek biri olacaktır.
  110. Yani, eğer bu kıyamet kalıntısı
  111. bir şehri yok etmeyi
    ya da daha kötüsünü isterse
  112. şehirler yok edilirdi.
  113. CA: İşte başka tür bir zayıflık.

  114. Bunun hakkında konuşalım.
  115. NB: Evet, birçok şeyi
    patlatmayı mümkün kılan

  116. bu tür siyah topların yanında
  117. diğer türler de insanlarda
    onları zararlı şeyler yapmaya iten
  118. kötü güdüleri dürtebilir.
  119. Yani Tür 2A diye
    adlandırabileceğimiz bu şey,
  120. inanılmaz ölçüde kuvvet kullanarak
    yıkım yatratmak için
  121. büyük güçleri teşvik eden bir teknoloji.
  122. Aslında nükleer silahlar
    buna oldukça yakınlardı değil mi?
  123. Yaptığımız şey, 70.000 nükleer
    savaş başlığı yapmak için
  124. 10 trilyon dolar harcamak
  125. ve onları tetikte tutmaktı.
  126. Ve Soğuk Savaş sırasında
  127. neredeyse birbirimizi havaya
    uçurduğumuz zamanlar oldu.
  128. Birçok insan bunun iyi bir fikir olduğunu
    düşündüğünden değil,
  129. hadi kendimizi patlatmak için
    10 trilyon dolar harcayalım,
  130. teşvikler öyle bir ayarlandı ki
  131. kendimizi daha kötü olabilirdi
    diye düşünürken bulduk.
  132. Güvenli bir ilk atış olduğunu düşünün.
  133. O zaman bir kriz durumunda,
  134. bütün nükleer füzelerini fırlatmak
    kendilerini alıkoymaları zor olurdu.
  135. En kötü ihtimalle bunu diğer
    taraf yapabilir korkusu olurdu.
  136. CA: Evet, karşılıklı yıkım güvencesi
    Soğuk Savaş'ı nispeten dengede tuttu,

  137. o olmasaydı şu an
    burada olmayabilirdik.
  138. NB: Her şey daha istikrarsız olabilirdi.

  139. Ve daha farklı teknolojiler olabilirdi.
  140. Nükleer silahlar yerine daha küçük
  141. ya da daha az belirgin şeyler olsaydı
  142. silah anlaşmaları yapmak daha zor olurdu.
  143. CA: Güçlü aktörler için
    kötü teşvikler kadar

  144. Tür 2B'de hepimizin için olan kötü
    teşvikler için de endişeleniyorsun.
  145. NB: Evet, küresel ısınmayı ele alabiliriz.

  146. Pek çok küçük eylem var,
  147. her birimizin yapabileceği şeyler
  148. ama tek başımıza yapsak
    hiçbir etkisi olmayacak şeyler.
  149. Ama milyarlarca insan bunu yaparsa
  150. bunlar birikerek
    zararlı bir etkiye sahip olur.
  151. Küresel ısınma şimdikinden
    çok daha kötü olabilirdi.
  152. Bu yüzden iklim duyarlılığı ölçeğimiz var.
  153. Bu ölçek, belli bir miktarda
    sera gazı saldığında
  154. iklimin ne kadar ısındığını söylüyor.
  155. Bunun, yükselen ısı yerine saldığımız
    sera gazı miktarıyla ilgili varsayalım
  156. 2100'e kadar 3 ve 4,5 derece arası
    ısı yükselişi yerine
  157. 15 veya 20 derece arası olduğunu varsay.
  158. Çok kötü bir durumda olabilirdik.
  159. Ya da yenilenebilir enerji yapmanın
    çok daha zor olduğunu varsay.
  160. Ya da yer altında daha fazla
    fosil yakıt olduğunu.
  161. CA: Böyle bir durumda --

  162. eğer bugün yaptığımız şey
  163. görebileceğimiz süreçte
    10 derece farklılık yarattıysa
  164. aslında insanoğlu yerinden kalkıp
    bununla ilgili bir şeyler yapabilirdi.
  165. Aptalız ama belki de
    o kadar da aptal değiliz.
  166. Ya da belki öyleyiz.
  167. NB: Bu kadar emin olmazdım.

  168. (Kahkahalar)

  169. Diğer özellikleri hayal edebilirsin.

  170. Şu anda yenilenebilir ve diğerleri
    arasında geçiş yapmak bir miktar zor,
  171. evet, ama yapılabilir.
  172. Biraz farklı bir fizikle mümkün olabilirdi
  173. ama bu tür şeyleri yapmak
    daha pahalı olurdu.
  174. CA: Peki senin görüşün ne Nick?

  175. Bu ihtimalleri bir araya koyarsak
  176. bu yeryüzü, insanlık olarak biz,
  177. savunmasız bir dünya olarak sayılır mıyız?
  178. Geleceğimizde bir ölüm topu olur mu?
  179. NB: Bunu söylemek zor.

  180. Anlatmak istediğim, vazoda göründüğü
    gibi çok çeşitli siyah toplar olabilir.
  181. Siyah toplara karşı korunmamıza
    yardım edecek altın toplar da olabilir.
  182. Hangi sırayla ortaya
    çıkacaklarını bilmiyorum.
  183. CA: Yani, bu fikirle ilgili
    olası bir felsefi eleştiri de

  184. geleceğin aslında belirlenmiş olduğuyla
    ilgili bir görüşü işaret eder.
  185. O top ya vardır ya da yoktur.
  186. Ve bir taraftan,
  187. bu inanmak istediğim
    bir gelecek görüşü değil.
  188. Geleceğin belirlenmediğine,
    bugünkü kararlarımızın
  189. o vazodan hangi topu çekeceğimizi
    belirleyeceğine inanmak istiyorum.
  190. NB: İcat etmeye devam edersek

  191. en sonunda tüm topları çıkaracağız.
  192. Yani, oldukça mantıklı bir tür güçsüz,
    teknolojik determinizm var olabilir,
  193. el baltası ve jet uçaklar kullanan
    bir topluma rastlamak çok zormuş gibi.
  194. Ama teknolojiyi neredeyse bir takım
    sağlayıcı olarak düşünebilirsin.
  195. Teknoloji, farklı şeyler yapmamızı
  196. ve dünyada farklı etkilere
    ulaşmamızı sağlayan bir şey.
  197. Bunu nasıl kullandığımız
    tabii ki insan seçimlerine bağlı.
  198. Ama bu üç çeşit zaafı düşünürsek
  199. onları kullanma seçimimizle ilgili
    oldukça zayıf varsayımlar yapıyorlar.
  200. Tür-1 zaaf, yeniden,
    bu büyük, yıkıcı güç,
  201. milyonlarca insanlık bir nüfusta
  202. bunu yıkıcı bir şekilde kullanacak
    birinin olacağını düşünmek
  203. oldukça zayıf bir varsayım.
  204. CA: Benim için tek rahatsız edici argüman,

  205. ölüme mahkum edildiğimiz
    ihtimalinin yüksek olduğu
  206. bir tür bakış açısına sahip olabilirdik.
  207. Şöyle ki eğer hızlanan güce inanıyorsan --
  208. giderek hızlanan teknolojiye
  209. ve bununla bizi daha güçlü kılan
    araçları yaptığımıza
  210. o hâlde bir noktada tek bir kişinin
    hepimizi yok edebileceği bir sahne çıkıyor
  211. ve işimiz bitik görünüyor.
  212. Bu argüman oldukça korkutucu değil mi?
  213. NB: Ah, evet.

  214. (Kahkahalar)

  215. Bence --

  216. Evet, gittikçe daha çok güç kazanıyoruz
  217. ve bu gücü kullanmak gittikçe
    daha kolay hale geliyor
  218. ama insanların bu gücü nasıl kullandığını
    kontrol etmemize yardımcı olacak
  219. teknolojiler de üretebiliriz.
  220. CA: O zaman bunun hakkında konuşalım,
    geri bildirim hakkında.

  221. Şu an mevcut tüm ihtimalleri
    düşündüğünü var say --
  222. sadece sentetik biyoloji değil,
    siber savaş gibi bir şey bu,
  223. yapay zeka ve benzerleri gibi --
  224. geleceğimizde ciddi bir
    kötü sonla karşılaşabiliriz.
  225. Mümkün olan tepkiler neler?
  226. Dört olası tepki hakkında da konuşmuştun.
  227. NB: Teknolojik gelişime karşı bir
    durdurma hakkında konuşacak olursak

  228. teknolojik gelişimleri kısıtlamak
    hiç mantıklı görünmüyor.
  229. Bence ne ikisi de mümkün,
  230. ne de bunu yapabilseydik bile
    bu çekici olurdu.
  231. Bence, daha yavaş teknolojik
    gelişmeler isteyebileceğin
  232. oldukça sınırlı alanlar olabilir.
  233. Bana kalırsa biyolojik silahlarda
    ya da diyelim ki izotop ayırmada
  234. atom bombası yaratmayı
    daha kolay hâle getirebilecek hızda
  235. bir gelişme istemezsin.
  236. CA: Eskiden buna tamamen katılırdım.

  237. Ama bir dakikalığına
    bu fikri uzaklaştırıyorum.
  238. Her şeyden önce,
  239. eğer son birkaç on yıldaki
    tarihe bakacak olursak
  240. bu her zaman son hızda ilerlemiştir,
  241. bu konuda bir sıkıntı yok,
    tek şansımız bu.
  242. Ama küreselleşmeye
    yükseliş hızına bakarsan
  243. eğer "hızlı hareket et ve
    bir şeyleri kır" stratejisine
  244. ve bununla ne olduğuna bakarsan
  245. ve sonra sentetik biyolojinin
    potansiyeline bakacak olursan
  246. her evde ve lise laboratuvarında bir DNA
    yazıcısı olabildiği bir dünyaya
  247. hızlı bir şekilde
    veya hiçbir kısıtlama olmadan
  248. devam etmeli miyiz bilmiyorum.
  249. Bazı kısıtlamalar var değil mi?
  250. NB: Muhtemelen, ilk bölüm,
    mümkün olmaz.

  251. Bunu durdurmanın mantıklı
    olduğunu düşünürsen
  252. uygulanabilirlik sorunu var olur.
  253. Yani aslında bu hiç yardımcı olmazdı,
    şayet bir millet --
  254. CA: Hayır bir millet yapsa
    yardımcı olmazdı

  255. ama daha önce anlaşmalarımız vardı.
  256. Bu aslında nükleer tehditlerden
    nasıl kurtulduğumuzun cevabı,
  257. oraya giderek
  258. ve pazarlığın zorlu sürecinden geçerek.
  259. Sadece mantığının küresel bir öncelik
    olayı olup olmadığını merak ediyorum,
  260. oraya gidip şunu denememeliyiz,
  261. sentetik biyolojik araştırmaya dair
    kuralların müzakeresini yapmak...
  262. bunu demokratikleştirmek
    istemezsin, değil mi?
  263. NB: Buna kesinlikle katılıyorum --

  264. bu oldukça ilgi çekici olurdu, mesela,
  265. belki DNA sentez makinelerine sahip olmak,
  266. her laboratuvarın kendine ait olan
    bir ürünü olarak değil
  267. ama belki bir hizmet olarak.
  268. Belki dünyada dijital planını
    yolladığın ve DNA'nın geri geldiği
  269. dört ya da beş yer vardır, değil mi?
  270. Ve sonra, yetiye sahip olabilirsin,
  271. eğer bir gün bu gerçekten
    gerekli gibi görünürse
  272. sınırlı bir miktar tıkanma noktasına
    sahip olabiliriz.
  273. Sanırım sen daha sıkı bir kontrole
    sahip olabileceğin
  274. özel fırsatlara bakmak istiyorsun.
  275. CA: Temelde senin inancın,

  276. sadece geri çekilerek başarılı
    olamayacağındır.
  277. Birileri, bir yerler --
    mesela Kuzey Kore --
  278. eğer bilgi keşfedilecek bir yerdetse
    biri oraya gidecek
  279. ve bu bilgiyi keşfedecektir.
  280. NB: Şu anki koşullar altında
    mantıklı duruyor.

  281. Bu sadece sentetik biyoloji de değil.
  282. Demek istediğim, dünyadaki her türlü
    derin ve yeni değişim
  283. bir siyah topa dönüşebilir.
  284. CA: Bir diğer olası tepkiye bakalım.

  285. NB: Bence bu da sadece
    sınırlı potansiyele sahip.

  286. Yani, yine Tür-1 zaafla,
  287. dünyayı yok etmek için teşvik edilen
    insan sayısını düşürebilirsen
  288. ve bu araçlara sadece onlar erişebilse
    işte bu güzel olurdu.
  289. CA: Bizden yapmamızı istediğin bu görselde

  290. yüz tanıma sistemiyle tüm dünyada
    dolaşan drone'ları hayal ediyorsun.
  291. Sosyopatik davranış sergileyen
    birini saptadıklarında
  292. onları sevgiyle yıkayıp düzeltiyorlar.
  293. NB: Bunun hibrid bir görsel
    olduğunu düşünüyorum.

  294. Eleme ya hapsetmektir ya da öldürmek
  295. ya da onları daha iyi bir dünya
    görüşüne ikna etmek demektir.
  296. Ama asıl nokta şu ki
  297. bu konuda fazlasıyla
    başarılı olduğunu düşün
  298. ve bu tür bireylerin sayısını
    yarıya düşürdüğünü.
  299. Ve eğer bunu ikna yoluyla
    yapmak istiyorsan
  300. insanları ikna etme uğraşında
    diğer tüm güçlerle rekabet hâlindesin,
  301. partiler, din, eğitim sistemi.
  302. Ama yarıya kadar düşürdüğünü varsay,
  303. yine de riskin yarıya kadar
    düşeceğini düşünmüyorum.
  304. Belki yüzde 10 ya da 5 düşebilir.
  305. CA: İnsanlığın geleceğini tepki iki
    üzerine riske atmamızı önermiyorsun.

  306. NB: Bence insanları vazgeçirmeye
    ve ikna etmeye çalışmakta sıkıntı yok

  307. ama tek korumamız olarak
    buna sırt yaslamamalıyız.
  308. CA: Peki ya üç?

  309. NB: Bence olası zayıflıkların
    tüm spektrumuna karşı

  310. dünyayı stabilize edebilmek için
    kullanabileceğimiz iki genel metot var.
  311. Ve muhtemelen ikisine de
    ihtiyaç duyardık.
  312. Biri, önleyici politikalar yapmanın
    oldukça etkili bir yetisi.
  313. Müdahele edebilmek için.
  314. Eğer biri tehlikeli bir şey
    yapmaya başlamışsa,
  315. gerçek zamanlı olarak onları
    engelleyip durdurabilirsin.
  316. Bu eş zamanlı gözetim gerektirirdi,
  317. herkes, sürekli olarak izleniyor olurdu.
  318. CA: Bu özünde bir tür "Azınlık Raporu."

  319. NB: Yapay zekâ algoritmaların olabilir,

  320. bunu inceleyen büyük
    özgürlük merkezleri gibi.
  321. CA: Şu an bu kitle gözetimi pek sevilen
    bir terim değil biliyor musun?

  322. (Kahkahalar)

  323. NB: Evet, şuradaki küçük cihaz,

  324. farklı yönlü bir sürü kameralı,
    sürekli takmak zorunda olduğun
  325. o tarz bir kolyeyi hayal et.
  326. Ama daha trajikomik hâle getirmek için
  327. ona "özgürlük etiketi"
    ya da o tarz bir şey diyelim.
  328. (Kahkahalar)

  329. CA: Tamam.

  330. Yani, bu bir sohbet, arkadaşlar,
  331. bu denli akıllara durgunluk veren
    bir sohbet olmasının sebebi işte bu.
  332. NB: Aslında, sadece bunun üzerine
    kurulabilecek büyük bir sohbet olur.

  333. Bununla ilgili büyük problemler
    ve riskler var, değil mi?
  334. Buna geri döneriz.
  335. Ve diğeri, sonuncusu,
  336. diğer genel dengeleme yetimiz
  337. bir tür başka yönetişim boşluğu kapatmak.
  338. Gözetim mikro düzeyde
    yönetişim boşluğu olurdu,
  339. birilerini yasa dışı şeyler
    yapmaktan alıkoymak gibi.
  340. Böylece, makro düzeyde
    küresel boyutta
  341. uyumlu bir yönetim boşluğu olur.
  342. En kötü türde küresel koordinasyon
    hatalarını engellemek için
  343. bu yeteneğe ihtiyaç duyardık,
  344. büyük güçler arası savaşları,
  345. silah yarışlarını,
  346. kataklizmik doğal kaynak sorunları için.
  347. tüm bu Tip 2a zayıflıklarıyla
    başa çıkabilmek için.
  348. CA: Küresel yönetişim, şu anda

  349. kesinlikle demode olan bir terim,
  350. ama konuyu tarih boyunca,
    insan tarihi boyunca işleyemez misin?
  351. Teknolojik güç artışının her aşamasında
  352. insanlar gücü yeniden düzenledi
    ve bir bakıma merkezleştirdiler.
  353. Yani mesela bir grup başıboş suçlu,
  354. toplumu ele geçirdiğinde
  355. yanıt; peki, bir ulus devletin var
  356. ve gücü merkezleştirdin,
    polisi ya da bir ordu,
  357. yani "Hayır, bunu yapamazsın" olurdu.
  358. İnsanlığı ele geçirebilecek
    bir insan ya da belki bir grup mantığı da
  359. bir noktada bu yönden gitmemiz
    gerekecek anlamına gelmez mi?
  360. NB: İnsanlık tarihinin yolu boyunca
    politik organizasyon ölçeğinin

  361. yükseldiği kesinlikle doğru.
  362. Eskiden avcı-toplayıcı grup vardı
  363. ve sonra şerifler,
    şehir devletleri, uluslar,
  364. şimdi uluslararası organizasyonlar var
    ve buna benzer şeyler.
  365. Ben yine şunu vurgulamak istiyorum;
  366. hem kitlesel gözetim
    hem de küresel yönetişime dair
  367. dev dezavantajar
    ve de çok büyük riskler var.
  368. Şunu vurgulamak istiyorum ki
    eğer şanslıysak
  369. dünya öyle bir durumda olabilir ki
  370. bir siyah toptan kurtulmanın
    tek yolu bunlar olur.
  371. CA: Anladığım kadarıyla
    bu teorinin mantığı

  372. hepsine sahip olamayacağımızı
    anlamamız gerektiği.
  373. Bu bir bakıma,
  374. teknolojinin her zaman iyiye
    kullanılacağına dair
  375. hepimizin kurduğu
    saf bir hayal diyebilirim,
  376. devam et, durma,
    gidebildiğin kadar hızlı git
  377. ve bazı sonuçlara çok takılma
  378. ki bu aslında bir seçenek sayılmaz.
  379. Buna sahip olabiliriz.
  380. Buna sahip olursak
  381. bununla beraber
  382. diğer rahatsız edici şeyleri de
    kabullenmek zorunda kalırız
  383. ve bir bakıma kendimizle bir
    silahlanma yarışı içinde oluruz,
  384. güç istiyorsan onu sınırlaman lazım,
  385. nasıl sınırlandıracağını
    çözsen iyi edersin.
  386. NB: Bence bu bir seçenek,

  387. oldukça cazip bir seçenek,
    bi bakıma en kolay seçenek
  388. ve işe yarayabilir
  389. ama bu, özünde bir siyah top çekmeye
    eğimli olmamız anlamına gelir.
  390. Bence biraz koordinasyonla
  391. mesela, bu makro ve mikro yönetişim
    sorununu çözersen
  392. vazodaki bütün topları çıkarırdık
  393. ve bundan oldukça yararlanırdık.
  394. CA: Bir simülasyonda yaşıyorsak bile
    bu fark eder mi?

  395. Sadece yeniden başlatırız.
  396. (Kahkahalar)

  397. NB: O zaman... ben...

  398. (Kahkahalar)

  399. Bunu kestiremedim.
  400. CA: Peki senin görüşün ne?

  401. Bütün parçaları birleştirdiğinde
    işimizin bitik olduğu ne kadar olası?
  402. (Kahkahalar)

  403. Bu soruyu sorduğumda
    insanların gülmesine bayılıyorum.

  404. NB: Bir birey düzeyinde,

  405. zaten bir tür mahkumuz,
    sadece zaman çizgisiyle,
  406. çürüyor, yaşlanıyor ve bu tür diğer
    şeyleri yaşıyoruz değil mi?
  407. (Kahkahalar)

  408. Bu aslında biraz yanıltıcı.

  409. Bir ihtimal yakalamak için
    tuzak kurmak istiyorsan
  410. ilk olarak, biz kimiz?
  411. Eğer çok yaşlıysan, muhtemelen
    doğal sebeplerle öleceksin,
  412. eğer çok gençsen önünde
    100 yılın olabilir --
  413. ihtimali kime sorduğuna göre değişebilir.
  414. Sonrasında eşik, mesela,
    ne medeniyet yıkımı olarak sayılır?
  415. Yazıda, bunun sayılması için
    bir varoluş yıkımına ihtiyacım olmadı.
  416. Bu sadece tanımsal bir mesele,
  417. ben bir milyar ölü derim
  418. ya da dünya GSYİH'sinde
    yüzde 50 bir azalma
  419. ama senin eşiğe ne anlam
    yüklediğine bağlı,
  420. sen farklı bir olası tahmin yürütürsün.
  421. Ama sanırım beni korkmuş
    bir iyimser olarak yazardın.
  422. (Kahkahalar)

  423. CA: Sen korkmuş bir iyimsersin

  424. ve bence büyük sayıda başka
    korkmuş insan yarattın.
  425. (Kahkahalar)

  426. NB: Simülasyonda.

  427. CA: Simülasyonda.

  428. Nick Bostrom, zihnine hayranım.
  429. bize korku saldığın için çok teşekkürler.
  430. (Alkışlar)