WEBVTT

00:00:01.000 --> 00:00:02.809
Chris Anderson: Nick Bostrom.

00:00:02.833 --> 00:00:05.833
Bize çoktan birçok çılgın fikir verdin.

00:00:06.833 --> 00:00:07.958
Sanırım 20 yıl önce

00:00:08.153 --> 00:00:11.518
hepimizin bir simülasyonda yaşıyor
olabileceğini ortaya attın

00:00:11.542 --> 00:00:13.351
ya da geçmişte yaşadığımızı.

00:00:13.375 --> 00:00:14.726
Yakın zamanda,

00:00:14.750 --> 00:00:19.351
yapay genel zekânın nasıl
korkunç düzeyde kötüye gidebileceğinin

00:00:19.375 --> 00:00:21.248
en gerçekçi örneklerini gösterdin.

00:00:21.750 --> 00:00:23.143
Ve bu yıl da

00:00:23.167 --> 00:00:25.393
hassas dünya hipotezi denen
bir konu üzerinde

00:00:25.417 --> 00:00:29.351
bir yazı yayımlamak üzeresin.

00:00:29.375 --> 00:00:33.958
Bu akşam bizim görevimiz
buna örnekli bir kılavuz sunmak.

00:00:34.417 --> 00:00:36.250
Hadi başlayalım.

00:00:36.833 --> 00:00:38.625
Nedir bu hipotez?

NOTE Paragraph

00:00:39.360 --> 00:00:42.434
Nick Bostrom: Bu, şu anki insan durumunun

00:00:42.461 --> 00:00:45.127
bir tür yapısal özelliği üzerinde
düşünmeye çalışma.

00:00:47.125 --> 00:00:49.496
Sen vazo örneğini seviyorsun,

00:00:49.496 --> 00:00:51.687
bu yüzden açıklamak için
o örneği kullanacağım.

00:00:51.687 --> 00:00:55.768
Fikirleri, metotları
ve olası teknolojileri temsil eden

00:00:55.792 --> 00:00:59.750
toplarla dolu büyük bir vazo hayal et.

00:01:00.833 --> 00:01:04.559
İnsan yaratıcılığının tarihini,

00:01:04.583 --> 00:01:08.393
bu vazoya ulaşma ve topları birer birer
çıkarma süreci olarak düşünebilirsin

00:01:08.417 --> 00:01:11.643
ve ağ etkisi şimdiye kadar
oldukça yararlıydı değil mi?

00:01:11.667 --> 00:01:14.393
Bazısı hem faydalı hem zararlı olan
çeşitli gri tonlarda

00:01:14.417 --> 00:01:17.292
oldukça fazla sayıda beyaz top çıkardık.

00:01:18.042 --> 00:01:21.000
Şimdiye kadar siyah topu çıkarmadık --

00:01:22.292 --> 00:01:27.768
onu keşfeden medeniyeti
sürekli olarak yok eden bir teknoloji.

00:01:27.792 --> 00:01:31.059
Yazı, siyah topun ne olabileceği
üzerine düşünmeye çalışıyor.

NOTE Paragraph

00:01:31.083 --> 00:01:32.987
CA: Yani bu topu, kaçınılmaz bir şekilde

00:01:32.987 --> 00:01:36.421
medeniyet yıkımı getirecek
bir şey olarak tanımlıyorsun.

NOTE Paragraph

00:01:36.625 --> 00:01:41.934
NB: Yarı anarşik standart koşul diye
adlandırdığım şeyden çıkmadığımız sürece.

00:01:41.958 --> 00:01:43.458
Ama bir çeşit, varsayımla.

NOTE Paragraph

00:01:44.333 --> 00:01:47.851
CA: Yani, aslında şu zamana kadar

00:01:47.875 --> 00:01:49.893
şanslı olduğumuza inandığın,

00:01:49.917 --> 00:01:52.851
o ölüm topunu hiç bilmeden
çekmiş olabileceğimiz

00:01:52.875 --> 00:01:55.726
bir çeşit karşıt örnekler vererek

00:01:55.750 --> 00:01:57.309
durumu zorlaştırıyorsun.

00:01:57.333 --> 00:01:59.625
Evet bir alıntı var, nedir bu alıntı?

NOTE Paragraph

00:02:00.625 --> 00:02:03.309
NB: Sanırım, bu sadece

00:02:03.333 --> 00:02:05.434
ana keşiflerin neye yol açacağını

00:02:05.458 --> 00:02:08.143
öngörmenin zorluğunu anlatmaya yarıyor.

00:02:08.167 --> 00:02:11.226
Henüz bu yetiye sahip değiliz.

00:02:11.250 --> 00:02:14.601
Çünkü, topları çıkarmakta
çok iyi hâle geldik

00:02:14.625 --> 00:02:18.351
ama topu geri vazoya doğru şekilde koyma
yeteneğine aslında sahip değiliz.

00:02:18.375 --> 00:02:20.542
İcat edebiliyoruz ama geri bozamıyoruz.

00:02:21.583 --> 00:02:24.351
Yani bizim stratejimiz, olduğu gibi,

00:02:24.375 --> 00:02:26.809
vazoda hiç siyah top olmadığını ummak.

NOTE Paragraph

00:02:26.833 --> 00:02:30.803
CA: Yani bir kez dışarı çıktığında
dışarıdadır, onu geri içine koyamazsın

00:02:30.803 --> 00:02:32.434
ve şanslı olduğumuzu düşünüyorsun.

00:02:32.458 --> 00:02:34.684
Bu örneklerden bazıları
üzerinde konuşalım.

00:02:34.708 --> 00:02:37.809
Farklı türdeki zaaflar hakkında konuşalım.

NOTE Paragraph

00:02:37.833 --> 00:02:40.268
NB: Anlamanın en kolay türü

00:02:40.292 --> 00:02:43.434
büyük miktarda yıkımlara yol açmayı

00:02:43.458 --> 00:02:45.583
oldukça çok kolaylaştıran bir teknoloji.

00:02:47.375 --> 00:02:50.893
Sentetik biyoloji, bu siyah topu bulmakta
verimli bir kaynak olabilir

00:02:50.917 --> 00:02:53.601
ama iklim mühendisliğiyle ilgili
düşünebileceğimiz --

00:02:53.625 --> 00:02:56.143
diğer birçok mümkün şey de
gerçekten harika, değil mi?

00:02:56.167 --> 00:02:58.263
Küresel ısınmayla mücadele edebiliriz

00:02:58.263 --> 00:03:00.559
ama bunun çok kolay hâle
gelmesini de istemezsin;

00:03:00.583 --> 00:03:03.059
rastgele birinin ve büyük annesinin

00:03:03.083 --> 00:03:06.143
Dünya ikliminde köklü değişiklikler
yapabilmesini istemezsin.

00:03:06.167 --> 00:03:09.726
Ya da belki, ölümcül özerk drone'lar,

00:03:09.750 --> 00:03:13.083
toplu üretilmiş, sivrisinek boyunda
öldürücü sürüler.

00:03:14.500 --> 00:03:17.226
Nanoteknoloji, yapay genel zekâ.

NOTE Paragraph

00:03:17.250 --> 00:03:18.559
CA: Yazıda savunduğun,

00:03:18.583 --> 00:03:24.738
nükleer gücün bir bomba
yaratabileceğini öğrendiğimizde

00:03:24.958 --> 00:03:28.262
sen zaten herkes için erişilebilir
daha kolay kaynaklarla

00:03:28.262 --> 00:03:31.809
şans eseri bir bomba yaratmış olabilirsin.

NOTE Paragraph

00:03:31.833 --> 00:03:35.393
NB: 1930'lu yılları düşünelim,

00:03:35.417 --> 00:03:40.018
nükleer fizikte harika yenilikler
yaptığımız ilk zamanları,

00:03:40.042 --> 00:03:43.726
bazı dâhiler nükleer zincirleme reaksiyon
yaratmanın mümkün olduğunu anlıyor

00:03:43.750 --> 00:03:46.934
ve sonra bunun ucunun
bombaya uzanacağını anlıyor.

00:03:46.958 --> 00:03:48.851
Birkaç tane daha çalışma yaptık;

00:03:48.875 --> 00:03:51.601
bir nükleer bomba yapmak için
ihtiyacın olan şeylerin,

00:03:51.625 --> 00:03:54.102
yüksek oranda zenginleştirilmiş
uranyum ve plutonyum,

00:03:54.102 --> 00:03:56.133
elde etmesi çok zor materyaller.

00:03:56.133 --> 00:03:58.351
Ultrasantrifüje, reaktörlere,

00:03:58.375 --> 00:04:02.143
yani büyük miktarda enerjiye ihtiyaç var.

00:04:02.167 --> 00:04:03.976
Ama bunlar yerine,

00:04:04.000 --> 00:04:07.976
atomun enerjisini açığa çıkarmanın
kolay bir yolu olduğunu düşün.

00:04:08.000 --> 00:04:10.768
Belki mikrodalga fırında kum pişirerek

00:04:10.792 --> 00:04:12.059
ya da bunun gibi bir şeyle

00:04:12.083 --> 00:04:14.014
bir nükleer patlama yaratabilirdin.

00:04:14.014 --> 00:04:16.355
Bunun fiziksel olarak
imkânsız olduğunu biliyoruz.

00:04:16.375 --> 00:04:18.268
Ama ilgili fiziği bilmeden önce

00:04:18.292 --> 00:04:20.483
bunun neye dönüşeceğini
nasıl bilebilirdin?

NOTE Paragraph

00:04:20.507 --> 00:04:22.059
CA: Ama şöyle düşünmüyor musun,

00:04:22.083 --> 00:04:24.032
Dünya'daki yaşamın evrilmesi

00:04:24.032 --> 00:04:27.309
ve bunun bir tür durağan çevre
anlamına gelmesi için

00:04:27.333 --> 00:04:31.518
büyük nükleer reaksiyonlar yaratmak
nispeten daha kolay ve mümkün olsaydı

00:04:31.542 --> 00:04:33.400
Dünya hiç sabit kalmazdı,

00:04:33.424 --> 00:04:34.976
biz burada bile olmazdık.

NOTE Paragraph

00:04:35.000 --> 00:04:38.393
NB: Evet, şayet bilerek yapılması kolay

00:04:38.417 --> 00:04:41.268
ama rastgele şansla olmayacak
bir şey var olmasaydı.

00:04:41.292 --> 00:04:42.976
Yani kolayca yapabildiğimiz şeyler,

00:04:42.976 --> 00:04:45.006
üst üste 10 tane blok dizebiliriz

00:04:45.031 --> 00:04:48.228
ama doğada üst üste dizilmiş
10 blok bulamazsın.

NOTE Paragraph

00:04:48.253 --> 00:04:49.926
CA: Tamam, yani bu muhtemelen

00:04:49.950 --> 00:04:51.893
çoğumuzun en çok endişelendiği şey

00:04:51.917 --> 00:04:55.434
ve evet yapay biyoloji belki de
yakın gelecekte öngördüğümüz,

00:04:55.458 --> 00:04:58.476
bizi oraya götürebilecek en hızlı yöntem.

NOTE Paragraph

00:04:58.500 --> 00:05:01.434
NB: Evet ve diyelim ki bir öğleden sonra

00:05:01.458 --> 00:05:05.101
mutfağında çalışan herhangi birinin
bir şehri yok edebilmesi

00:05:05.125 --> 00:05:06.518
nasıl olurdu bir düşün.

00:05:06.542 --> 00:05:09.571
Bizim bildiğimiz modern medeniyet
böyle bir şeyden

00:05:09.571 --> 00:05:11.559
nasıl kurtulabilirdi kestirmek zor.

00:05:11.583 --> 00:05:14.101
Çünkü mutlaka her bir milyonluk
insan nüfusunda,

00:05:14.125 --> 00:05:16.809
herhangi bir sebep için
bu yıkıcı gücü kullanmayı

00:05:16.833 --> 00:05:18.917
seçecek biri olacaktır.

00:05:19.750 --> 00:05:22.573
Yani, eğer bu kıyamet kalıntısı

00:05:22.573 --> 00:05:24.893
bir şehri yok etmeyi
ya da daha kötüsünü isterse

00:05:24.917 --> 00:05:26.476
şehirler yok edilirdi.

NOTE Paragraph

00:05:26.500 --> 00:05:28.851
CA: İşte başka tür bir zayıflık.

00:05:28.875 --> 00:05:30.518
Bunun hakkında konuşalım.

NOTE Paragraph

00:05:30.542 --> 00:05:34.518
NB: Evet, birçok şeyi
patlatmayı mümkün kılan

00:05:34.542 --> 00:05:37.352
bu tür siyah topların yanında

00:05:37.376 --> 00:05:41.809
diğer türler de insanlarda
onları zararlı şeyler yapmaya iten

00:05:41.833 --> 00:05:44.059
kötü güdüleri dürtebilir.

00:05:44.083 --> 00:05:48.204
Yani Tür 2A diye
adlandırabileceğimiz bu şey,

00:05:48.214 --> 00:05:52.726
inanılmaz ölçüde kuvvet kullanarak
yıkım yatratmak için

00:05:52.750 --> 00:05:57.226
büyük güçleri teşvik eden bir teknoloji.

00:05:57.250 --> 00:06:00.083
Aslında nükleer silahlar
buna oldukça yakınlardı değil mi?

00:06:02.083 --> 00:06:05.143
Yaptığımız şey, 70.000 nükleer
savaş başlığı yapmak için

00:06:05.167 --> 00:06:07.684
10 trilyon dolar harcamak

00:06:07.708 --> 00:06:10.143
ve onları tetikte tutmaktı.

00:06:10.167 --> 00:06:11.324
Ve Soğuk Savaş sırasında

00:06:11.324 --> 00:06:13.917
neredeyse birbirimizi havaya
uçurduğumuz zamanlar oldu.

00:06:13.917 --> 00:06:16.958
Birçok insan bunun iyi bir fikir olduğunu
düşündüğünden değil,

00:06:16.958 --> 00:06:19.706
hadi kendimizi patlatmak için
10 trilyon dolar harcayalım,

00:06:19.706 --> 00:06:21.454
teşvikler öyle bir ayarlandı ki

00:06:21.454 --> 00:06:24.018
kendimizi daha kötü olabilirdi
diye düşünürken bulduk.

00:06:24.042 --> 00:06:26.476
Güvenli bir ilk atış olduğunu düşünün.

00:06:26.500 --> 00:06:28.499
O zaman bir kriz durumunda,

00:06:28.499 --> 00:06:32.546
bütün nükleer füzelerini fırlatmak
kendilerini alıkoymaları zor olurdu.

00:06:32.546 --> 00:06:36.018
En kötü ihtimalle bunu diğer
taraf yapabilir korkusu olurdu.

NOTE Paragraph

00:06:36.042 --> 00:06:40.625
CA: Evet, karşılıklı yıkım güvencesi
Soğuk Savaş'ı nispeten dengede tuttu,

00:06:40.625 --> 00:06:42.559
o olmasaydı şu an
burada olmayabilirdik.

NOTE Paragraph

00:06:42.583 --> 00:06:44.893
NB: Her şey daha istikrarsız olabilirdi.

00:06:44.917 --> 00:06:47.268
Ve daha farklı teknolojiler olabilirdi.

00:06:47.292 --> 00:06:49.601
Nükleer silahlar yerine daha küçük

00:06:49.625 --> 00:06:51.820
ya da daha az belirgin şeyler olsaydı

00:06:51.820 --> 00:06:54.268
silah anlaşmaları yapmak daha zor olurdu.

NOTE Paragraph

00:06:54.292 --> 00:06:56.851
CA: Güçlü aktörler için
kötü teşvikler kadar

00:06:56.875 --> 00:07:00.393
Tür 2B'de hepimizin için olan kötü
teşvikler için de endişeleniyorsun.

NOTE Paragraph

00:07:00.417 --> 00:07:04.667
NB: Evet, küresel ısınmayı ele alabiliriz.

00:07:06.958 --> 00:07:08.851
Pek çok küçük eylem var,

00:07:08.875 --> 00:07:11.059
her birimizin yapabileceği şeyler

00:07:11.083 --> 00:07:13.934
ama tek başımıza yapsak
hiçbir etkisi olmayacak şeyler.

00:07:13.958 --> 00:07:15.824
Ama milyarlarca insan bunu yaparsa

00:07:15.824 --> 00:07:18.018
bunlar birikerek
zararlı bir etkiye sahip olur.

00:07:18.042 --> 00:07:20.851
Küresel ısınma şimdikinden
çok daha kötü olabilirdi.

00:07:20.875 --> 00:07:23.851
Bu yüzden iklim duyarlılığı ölçeğimiz var.

00:07:23.875 --> 00:07:27.518
Bu ölçek, belli bir miktarda
sera gazı saldığında

00:07:27.542 --> 00:07:30.226
iklimin ne kadar ısındığını söylüyor.

00:07:30.250 --> 00:07:37.282
Bunun, yükselen ısı yerine saldığımız
sera gazı miktarıyla ilgili varsayalım

00:07:37.292 --> 00:07:41.018
2100'e kadar 3 ve 4,5 derece arası
ısı yükselişi yerine

00:07:41.042 --> 00:07:43.542
15 veya 20 derece arası olduğunu varsay.

00:07:44.375 --> 00:07:46.934
Çok kötü bir durumda olabilirdik.

00:07:46.958 --> 00:07:50.101
Ya da yenilenebilir enerji yapmanın
çok daha zor olduğunu varsay.

00:07:50.125 --> 00:07:52.768
Ya da yer altında daha fazla
fosil yakıt olduğunu.

NOTE Paragraph

00:07:52.792 --> 00:07:55.434
CA: Böyle bir durumda --

00:07:55.458 --> 00:07:57.184
eğer bugün yaptığımız şey

00:07:57.208 --> 00:08:01.768
görebileceğimiz süreçte
10 derece farklılık yarattıysa

00:08:01.792 --> 00:08:05.476
aslında insanoğlu yerinden kalkıp
bununla ilgili bir şeyler yapabilirdi.

00:08:05.500 --> 00:08:08.309
Aptalız ama belki de
o kadar da aptal değiliz.

00:08:08.333 --> 00:08:09.601
Ya da belki öyleyiz.

NOTE Paragraph

00:08:09.625 --> 00:08:10.913
NB: Bu kadar emin olmazdım.

NOTE Paragraph

00:08:10.947 --> 00:08:13.041
(Kahkahalar)

NOTE Paragraph

00:08:13.041 --> 00:08:14.809
Diğer özellikleri hayal edebilirsin.

00:08:14.833 --> 00:08:20.351
Şu anda yenilenebilir ve diğerleri
arasında geçiş yapmak bir miktar zor,

00:08:20.375 --> 00:08:21.643
evet, ama yapılabilir.

00:08:21.667 --> 00:08:24.667
Biraz farklı bir fizikle mümkün olabilirdi

00:08:24.667 --> 00:08:27.458
ama bu tür şeyleri yapmak
daha pahalı olurdu.

NOTE Paragraph

00:08:28.375 --> 00:08:29.893
CA: Peki senin görüşün ne Nick?

00:08:29.917 --> 00:08:32.351
Bu ihtimalleri bir araya koyarsak

00:08:32.375 --> 00:08:36.253
bu yeryüzü, insanlık olarak biz,

00:08:36.253 --> 00:08:38.250
savunmasız bir dünya olarak sayılır mıyız?

00:08:38.250 --> 00:08:40.667
Geleceğimizde bir ölüm topu olur mu?

NOTE Paragraph

00:08:43.958 --> 00:08:45.226
NB: Bunu söylemek zor.

00:08:45.250 --> 00:08:51.565
Anlatmak istediğim, vazoda göründüğü
gibi çok çeşitli siyah toplar olabilir.

00:08:51.565 --> 00:08:57.364
Siyah toplara karşı korunmamıza
yardım edecek altın toplar da olabilir.

00:08:57.583 --> 00:09:00.559
Hangi sırayla ortaya
çıkacaklarını bilmiyorum.

NOTE Paragraph

00:09:00.583 --> 00:09:04.434
CA: Yani, bu fikirle ilgili
olası bir felsefi eleştiri de

00:09:04.458 --> 00:09:10.101
geleceğin aslında belirlenmiş olduğuyla
ilgili bir görüşü işaret eder.

00:09:10.125 --> 00:09:12.601
O top ya vardır ya da yoktur.

00:09:12.625 --> 00:09:15.643
Ve bir taraftan,

00:09:15.667 --> 00:09:18.268
bu inanmak istediğim
bir gelecek görüşü değil.

00:09:18.292 --> 00:09:20.643
Geleceğin belirlenmediğine,
bugünkü kararlarımızın

00:09:20.667 --> 00:09:25.281
o vazodan hangi topu çekeceğimizi
belirleyeceğine inanmak istiyorum.

NOTE Paragraph

00:09:25.917 --> 00:09:29.684
NB: İcat etmeye devam edersek

00:09:29.708 --> 00:09:32.042
en sonunda tüm topları çıkaracağız.

00:09:32.875 --> 00:09:37.512
Yani, oldukça mantıklı bir tür güçsüz,
teknolojik determinizm var olabilir,

00:09:37.512 --> 00:09:43.050
el baltası ve jet uçaklar kullanan
bir topluma rastlamak çok zormuş gibi.

00:09:44.208 --> 00:09:48.268
Ama teknolojiyi neredeyse bir takım
sağlayıcı olarak düşünebilirsin.

00:09:48.292 --> 00:09:50.321
Teknoloji, farklı şeyler yapmamızı

00:09:50.321 --> 00:09:53.309
ve dünyada farklı etkilere
ulaşmamızı sağlayan bir şey.

00:09:53.333 --> 00:09:56.143
Bunu nasıl kullandığımız
tabii ki insan seçimlerine bağlı.

00:09:56.167 --> 00:09:58.851
Ama bu üç çeşit zaafı düşünürsek

00:09:58.875 --> 00:10:02.268
onları kullanma seçimimizle ilgili
oldukça zayıf varsayımlar yapıyorlar.

00:10:02.292 --> 00:10:05.684
Tür-1 zaaf, yeniden,
bu büyük, yıkıcı güç,

00:10:05.708 --> 00:10:07.297
milyonlarca insanlık bir nüfusta

00:10:07.297 --> 00:10:10.263
bunu yıkıcı bir şekilde kullanacak
birinin olacağını düşünmek

00:10:10.263 --> 00:10:12.518
oldukça zayıf bir varsayım.

NOTE Paragraph

00:10:12.542 --> 00:10:14.976
CA: Benim için tek rahatsız edici argüman,

00:10:15.000 --> 00:10:19.559
ölüme mahkum edildiğimiz
ihtimalinin yüksek olduğu

00:10:19.583 --> 00:10:23.101
bir tür bakış açısına sahip olabilirdik.

00:10:23.125 --> 00:10:27.768
Şöyle ki eğer hızlanan güce inanıyorsan --

00:10:27.792 --> 00:10:30.059
giderek hızlanan teknolojiye

00:10:30.083 --> 00:10:32.572
ve bununla bizi daha güçlü kılan
araçları yaptığımıza

00:10:32.572 --> 00:10:38.156
o hâlde bir noktada tek bir kişinin
hepimizi yok edebileceği bir sahne çıkıyor

00:10:38.292 --> 00:10:41.143
ve işimiz bitik görünüyor.

00:10:41.167 --> 00:10:44.101
Bu argüman oldukça korkutucu değil mi?

NOTE Paragraph

00:10:44.125 --> 00:10:45.875
NB: Ah, evet.

NOTE Paragraph

00:10:46.708 --> 00:10:47.976
(Kahkahalar)

NOTE Paragraph

00:10:48.000 --> 00:10:49.333
Bence --

00:10:50.595 --> 00:10:52.476
Evet, gittikçe daha çok güç kazanıyoruz

00:10:52.500 --> 00:10:56.434
ve bu gücü kullanmak gittikçe
daha kolay hale geliyor

00:10:56.458 --> 00:11:00.018
ama insanların bu gücü nasıl kullandığını
kontrol etmemize yardımcı olacak

00:11:00.042 --> 00:11:02.059
teknolojiler de üretebiliriz.

NOTE Paragraph

00:11:02.083 --> 00:11:04.934
CA: O zaman bunun hakkında konuşalım,
geri bildirim hakkında.

00:11:04.958 --> 00:11:09.088
Şu an mevcut tüm ihtimalleri
düşündüğünü var say --

00:11:09.417 --> 00:11:13.143
sadece sentetik biyoloji değil,
siber savaş gibi bir şey bu,

00:11:13.167 --> 00:11:16.518
yapay zeka ve benzerleri gibi --

00:11:16.542 --> 00:11:21.059
geleceğimizde ciddi bir
kötü sonla karşılaşabiliriz.

00:11:21.083 --> 00:11:22.684
Mümkün olan tepkiler neler?

00:11:22.708 --> 00:11:27.601
Dört olası tepki hakkında da konuşmuştun.

NOTE Paragraph

00:11:27.625 --> 00:11:31.268
NB: Teknolojik gelişime karşı bir
durdurma hakkında konuşacak olursak

00:11:31.292 --> 00:11:34.542
teknolojik gelişimleri kısıtlamak
hiç mantıklı görünmüyor.

00:11:34.542 --> 00:11:35.809
Bence ne ikisi de mümkün,

00:11:35.833 --> 00:11:38.143
ne de bunu yapabilseydik bile
bu çekici olurdu.

00:11:38.167 --> 00:11:41.184
Bence, daha yavaş teknolojik
gelişmeler isteyebileceğin

00:11:41.208 --> 00:11:43.934
oldukça sınırlı alanlar olabilir.

00:11:43.958 --> 00:11:47.351
Bana kalırsa biyolojik silahlarda
ya da diyelim ki izotop ayırmada

00:11:47.375 --> 00:11:50.268
atom bombası yaratmayı
daha kolay hâle getirebilecek hızda

00:11:50.268 --> 00:11:51.900
bir gelişme istemezsin.

NOTE Paragraph

00:11:52.583 --> 00:11:55.893
CA: Eskiden buna tamamen katılırdım.

00:11:55.917 --> 00:11:59.184
Ama bir dakikalığına
bu fikri uzaklaştırıyorum.

00:11:59.208 --> 00:12:00.518
Her şeyden önce,

00:12:00.542 --> 00:12:03.226
eğer son birkaç on yıldaki
tarihe bakacak olursak

00:12:03.250 --> 00:12:06.669
bu her zaman son hızda ilerlemiştir,

00:12:06.669 --> 00:12:08.708
bu konuda bir sıkıntı yok,
tek şansımız bu.

00:12:08.708 --> 00:12:12.976
Ama küreselleşmeye
yükseliş hızına bakarsan

00:12:13.000 --> 00:12:16.434
eğer "hızlı hareket et ve
bir şeyleri kır" stratejisine

00:12:16.458 --> 00:12:18.478
ve bununla ne olduğuna bakarsan

00:12:18.478 --> 00:12:21.309
ve sonra sentetik biyolojinin
potansiyeline bakacak olursan

00:12:21.333 --> 00:12:25.768
her evde ve lise laboratuvarında bir DNA
yazıcısı olabildiği bir dünyaya

00:12:25.792 --> 00:12:28.216
hızlı bir şekilde
veya hiçbir kısıtlama olmadan

00:12:28.216 --> 00:12:32.245
devam etmeli miyiz bilmiyorum.

00:12:33.167 --> 00:12:34.851
Bazı kısıtlamalar var değil mi?

NOTE Paragraph

00:12:34.875 --> 00:12:37.518
NB: Muhtemelen, ilk bölüm,
mümkün olmaz.

00:12:37.542 --> 00:12:39.726
Bunu durdurmanın mantıklı 
olduğunu düşünürsen

00:12:39.750 --> 00:12:41.476
uygulanabilirlik sorunu var olur.

00:12:41.500 --> 00:12:44.309
Yani aslında bu hiç yardımcı olmazdı,
şayet bir millet --

NOTE Paragraph

00:12:44.333 --> 00:12:46.445
CA: Hayır bir millet yapsa
yardımcı olmazdı

00:12:46.445 --> 00:12:49.309
ama daha önce anlaşmalarımız vardı.

00:12:49.333 --> 00:12:52.684
Bu aslında nükleer tehditlerden
nasıl kurtulduğumuzun cevabı,

00:12:52.708 --> 00:12:53.976
oraya giderek

00:12:54.000 --> 00:12:56.518
ve pazarlığın zorlu sürecinden geçerek.

00:12:56.542 --> 00:13:01.976
Sadece mantığının küresel bir öncelik
olayı olup olmadığını merak ediyorum,

00:13:02.000 --> 00:13:03.684
oraya gidip şunu denememeliyiz,

00:13:03.708 --> 00:13:09.003
sentetik biyolojik araştırmaya dair
kuralların müzakeresini yapmak...

00:13:09.011 --> 00:13:11.976
bunu demokratikleştirmek
istemezsin, değil mi?

NOTE Paragraph

00:13:12.000 --> 00:13:13.809
NB: Buna kesinlikle katılıyorum --

00:13:13.833 --> 00:13:18.059
bu oldukça ilgi çekici olurdu, mesela,

00:13:18.083 --> 00:13:21.684
belki DNA sentez makinelerine sahip olmak,

00:13:21.708 --> 00:13:25.268
her laboratuvarın kendine ait olan
bir ürünü olarak değil

00:13:25.292 --> 00:13:26.768
ama belki bir hizmet olarak.

00:13:26.792 --> 00:13:30.233
Belki dünyada dijital planını
yolladığın ve DNA'nın geri geldiği

00:13:30.233 --> 00:13:32.851
dört ya da beş yer vardır, değil mi?

00:13:32.875 --> 00:13:34.643
Ve sonra, yetiye sahip olabilirsin,

00:13:34.667 --> 00:13:37.039
eğer bir gün bu gerçekten
gerekli gibi görünürse

00:13:37.039 --> 00:13:39.578
sınırlı bir miktar tıkanma noktasına
sahip olabiliriz.

00:13:39.578 --> 00:13:42.976
Sanırım sen daha sıkı bir kontrole
sahip olabileceğin

00:13:43.000 --> 00:13:45.059
özel fırsatlara bakmak istiyorsun.

NOTE Paragraph

00:13:45.083 --> 00:13:46.726
CA: Temelde senin inancın,

00:13:46.750 --> 00:13:49.643
sadece geri çekilerek başarılı
olamayacağındır.

00:13:49.667 --> 00:13:52.393
Birileri, bir yerler --
mesela Kuzey Kore --

00:13:52.417 --> 00:13:55.894
eğer bilgi keşfedilecek bir yerdetse
biri oraya gidecek

00:13:55.894 --> 00:13:57.226
ve bu bilgiyi keşfedecektir.

NOTE Paragraph

00:13:57.250 --> 00:13:59.601
NB: Şu anki koşullar altında
mantıklı duruyor.

00:13:59.625 --> 00:14:01.559
Bu sadece sentetik biyoloji de değil.

00:14:01.583 --> 00:14:04.321
Demek istediğim, dünyadaki her türlü
derin ve yeni değişim

00:14:04.321 --> 00:14:05.727
bir siyah topa dönüşebilir.

NOTE Paragraph

00:14:05.727 --> 00:14:07.823
CA: Bir diğer olası tepkiye bakalım.

NOTE Paragraph

00:14:07.823 --> 00:14:10.226
NB: Bence bu da sadece
sınırlı potansiyele sahip.

00:14:10.250 --> 00:14:13.809
Yani, yine Tür-1 zaafla,

00:14:13.833 --> 00:14:19.241
dünyayı yok etmek için teşvik edilen
insan sayısını düşürebilirsen

00:14:19.346 --> 00:14:22.380
ve bu araçlara sadece onlar erişebilse
işte bu güzel olurdu.

NOTE Paragraph

00:14:22.380 --> 00:14:24.851
CA: Bizden yapmamızı istediğin bu görselde

00:14:24.875 --> 00:14:28.324
yüz tanıma sistemiyle tüm dünyada
dolaşan drone'ları hayal ediyorsun.

00:14:28.324 --> 00:14:31.415
Sosyopatik davranış sergileyen
birini saptadıklarında

00:14:31.415 --> 00:14:33.851
onları sevgiyle yıkayıp düzeltiyorlar.

NOTE Paragraph

00:14:33.875 --> 00:14:36.252
NB: Bunun hibrid bir görsel
olduğunu düşünüyorum.

00:14:36.252 --> 00:14:39.809
Eleme ya hapsetmektir ya da öldürmek

00:14:39.833 --> 00:14:42.851
ya da onları daha iyi bir dünya
görüşüne ikna etmek demektir.

00:14:42.875 --> 00:14:44.601
Ama asıl nokta şu ki

00:14:44.625 --> 00:14:46.768
bu konuda fazlasıyla
başarılı olduğunu düşün

00:14:46.792 --> 00:14:49.991
ve bu tür bireylerin sayısını
yarıya düşürdüğünü.

00:14:49.991 --> 00:14:52.018
Ve eğer bunu ikna yoluyla
yapmak istiyorsan

00:14:52.042 --> 00:14:56.024
insanları ikna etme uğraşında
diğer tüm güçlerle rekabet hâlindesin,

00:14:56.097 --> 00:14:57.934
partiler, din, eğitim sistemi.

00:14:57.958 --> 00:14:59.863
Ama yarıya kadar düşürdüğünü varsay,

00:14:59.887 --> 00:15:02.337
yine de riskin yarıya kadar
düşeceğini düşünmüyorum.

00:15:02.337 --> 00:15:03.920
Belki yüzde 10 ya da 5 düşebilir.

NOTE Paragraph

00:15:03.920 --> 00:15:08.101
CA: İnsanlığın geleceğini tepki iki
üzerine riske atmamızı önermiyorsun.

NOTE Paragraph

00:15:08.125 --> 00:15:11.497
NB: Bence insanları vazgeçirmeye
ve ikna etmeye çalışmakta sıkıntı yok

00:15:11.497 --> 00:15:14.143
ama tek korumamız olarak
buna sırt yaslamamalıyız.

NOTE Paragraph

00:15:14.167 --> 00:15:15.434
CA: Peki ya üç?

NOTE Paragraph

00:15:15.458 --> 00:15:18.295
NB: Bence olası zayıflıkların
tüm spektrumuna karşı

00:15:18.375 --> 00:15:25.375
dünyayı stabilize edebilmek için
kullanabileceğimiz iki genel metot var.

00:15:25.375 --> 00:15:27.338
Ve muhtemelen ikisine de
ihtiyaç duyardık.

00:15:27.338 --> 00:15:33.226
Biri, önleyici politikalar yapmanın
oldukça etkili bir yetisi.

00:15:33.292 --> 00:15:34.816
Müdahele edebilmek için.

00:15:34.840 --> 00:15:37.601
Eğer biri tehlikeli bir şey
yapmaya başlamışsa,

00:15:37.625 --> 00:15:40.309
gerçek zamanlı olarak onları
engelleyip durdurabilirsin.

00:15:40.333 --> 00:15:42.809
Bu eş zamanlı gözetim gerektirirdi,

00:15:42.833 --> 00:15:45.208
herkes, sürekli olarak izleniyor olurdu.

NOTE Paragraph

00:15:46.333 --> 00:15:48.893
CA: Bu özünde bir tür "Azınlık Raporu."

NOTE Paragraph

00:15:48.917 --> 00:15:50.851
NB: Yapay zekâ algoritmaların olabilir,

00:15:50.875 --> 00:15:55.292
bunu inceleyen büyük
özgürlük merkezleri gibi.

NOTE Paragraph

00:15:56.583 --> 00:16:00.976
CA: Şu an bu kitle gözetimi pek sevilen
bir terim değil biliyor musun?

NOTE Paragraph

00:16:01.000 --> 00:16:02.250
(Kahkahalar)

NOTE Paragraph

00:16:03.458 --> 00:16:05.268
NB: Evet, şuradaki küçük cihaz,

00:16:05.292 --> 00:16:08.893
farklı yönlü bir sürü kameralı,
sürekli takmak zorunda olduğun

00:16:08.917 --> 00:16:10.917
o tarz bir kolyeyi hayal et.

00:16:11.792 --> 00:16:13.601
Ama daha trajikomik hâle getirmek için

00:16:13.625 --> 00:16:16.149
ona "özgürlük etiketi"
ya da o tarz bir şey diyelim.

NOTE Paragraph

00:16:16.173 --> 00:16:18.184
(Kahkahalar)

NOTE Paragraph

00:16:18.208 --> 00:16:19.476
CA: Tamam.

00:16:19.500 --> 00:16:21.601
Yani, bu bir sohbet, arkadaşlar,

00:16:21.625 --> 00:16:25.184
bu denli akıllara durgunluk veren
bir sohbet olmasının sebebi işte bu.

NOTE Paragraph

00:16:25.208 --> 00:16:28.883
NB: Aslında, sadece bunun üzerine
kurulabilecek büyük bir sohbet olur.

00:16:29.317 --> 00:16:31.997
Bununla ilgili büyük problemler
ve riskler var, değil mi?

00:16:31.997 --> 00:16:32.934
Buna geri döneriz.

00:16:32.958 --> 00:16:34.226
Ve diğeri, sonuncusu,

00:16:34.250 --> 00:16:36.809
diğer genel dengeleme yetimiz

00:16:36.833 --> 00:16:38.893
bir tür başka yönetişim boşluğu kapatmak.

00:16:38.917 --> 00:16:43.101
Gözetim mikro düzeyde
yönetişim boşluğu olurdu,

00:16:43.125 --> 00:16:46.226
birilerini yasa dışı şeyler
yapmaktan alıkoymak gibi.

00:16:46.250 --> 00:16:48.559
Böylece, makro düzeyde
küresel boyutta

00:16:48.583 --> 00:16:50.518
uyumlu bir yönetim boşluğu olur.

00:16:50.542 --> 00:16:53.527
En kötü türde küresel koordinasyon
hatalarını engellemek için

00:16:53.527 --> 00:16:57.179
bu yeteneğe ihtiyaç duyardık,

00:16:57.179 --> 00:17:00.853
büyük güçler arası savaşları,

00:17:01.117 --> 00:17:02.793
silah yarışlarını,

00:17:03.304 --> 00:17:05.778
kataklizmik doğal kaynak sorunları için.

00:17:07.666 --> 00:17:11.487
tüm bu Tip 2a zayıflıklarıyla
başa çıkabilmek için.

NOTE Paragraph

00:17:11.875 --> 00:17:13.809
CA: Küresel yönetişim, şu anda

00:17:13.833 --> 00:17:16.059
kesinlikle demode olan bir terim,

00:17:16.083 --> 00:17:19.650
ama konuyu tarih boyunca,
insan tarihi boyunca işleyemez misin?

00:17:19.917 --> 00:17:25.351
Teknolojik güç artışının her aşamasında

00:17:25.375 --> 00:17:28.601
insanlar gücü yeniden düzenledi
ve bir bakıma merkezleştirdiler.

00:17:28.625 --> 00:17:32.059
Yani mesela bir grup başıboş suçlu,

00:17:32.083 --> 00:17:33.768
toplumu ele geçirdiğinde

00:17:33.792 --> 00:17:36.031
yanıt; peki, bir ulus devletin var

00:17:36.055 --> 00:17:38.409
ve gücü merkezleştirdin,
polisi ya da bir ordu,

00:17:38.409 --> 00:17:40.167
yani "Hayır, bunu yapamazsın" olurdu.

00:17:40.167 --> 00:17:46.316
İnsanlığı ele geçirebilecek
bir insan ya da belki bir grup mantığı da

00:17:46.417 --> 00:17:50.476
bir noktada bu yönden gitmemiz
gerekecek anlamına gelmez mi?

NOTE Paragraph

00:17:50.625 --> 00:17:54.309
NB: İnsanlık tarihinin yolu boyunca
politik organizasyon ölçeğinin

00:17:54.333 --> 00:17:56.476
yükseldiği kesinlikle doğru.

00:17:56.500 --> 00:17:58.518
Eskiden avcı-toplayıcı grup vardı

00:17:58.542 --> 00:18:01.476
ve sonra şerifler,
şehir devletleri, uluslar,

00:18:01.500 --> 00:18:05.476
şimdi uluslararası organizasyonlar var
ve buna benzer şeyler.

00:18:05.500 --> 00:18:08.598
Ben yine şunu vurgulamak istiyorum;

00:18:08.708 --> 00:18:12.076
hem kitlesel gözetim
hem de küresel yönetişime dair

00:18:12.250 --> 00:18:15.601
dev dezavantajar
ve de çok büyük riskler var.

00:18:15.625 --> 00:18:17.934
Şunu vurgulamak istiyorum ki
eğer şanslıysak

00:18:17.934 --> 00:18:19.904
dünya öyle bir durumda olabilir ki

00:18:19.904 --> 00:18:22.434
bir siyah toptan kurtulmanın
tek yolu bunlar olur.

NOTE Paragraph

00:18:22.458 --> 00:18:26.246
CA: Anladığım kadarıyla
bu teorinin mantığı

00:18:26.292 --> 00:18:29.893
hepsine sahip olamayacağımızı
anlamamız gerektiği.

00:18:29.917 --> 00:18:31.750
Bu bir bakıma,

00:18:33.500 --> 00:18:36.476
teknolojinin her zaman iyiye
kullanılacağına dair

00:18:36.500 --> 00:18:39.851
hepimizin kurduğu
saf bir hayal diyebilirim,

00:18:39.875 --> 00:18:42.851
devam et, durma,
gidebildiğin kadar hızlı git

00:18:42.875 --> 00:18:45.226
ve bazı sonuçlara çok takılma

00:18:45.250 --> 00:18:46.934
ki bu aslında bir seçenek sayılmaz.

00:18:46.958 --> 00:18:48.893
Buna sahip olabiliriz.

00:18:48.917 --> 00:18:50.184
Buna sahip olursak

00:18:50.208 --> 00:18:51.453
bununla beraber

00:18:51.453 --> 00:18:54.226
diğer rahatsız edici şeyleri de
kabullenmek zorunda kalırız

00:18:54.250 --> 00:18:57.110
ve bir bakıma kendimizle bir
silahlanma yarışı içinde oluruz,

00:18:57.110 --> 00:18:58.842
güç istiyorsan onu sınırlaman lazım,

00:18:58.842 --> 00:19:00.934
nasıl sınırlandıracağını
çözsen iyi edersin.

NOTE Paragraph

00:19:00.958 --> 00:19:04.434
NB: Bence bu bir seçenek,

00:19:04.458 --> 00:19:07.226
oldukça cazip bir seçenek,
bi bakıma en kolay seçenek

00:19:07.250 --> 00:19:08.518
ve işe yarayabilir

00:19:08.542 --> 00:19:13.351
ama bu, özünde bir siyah top çekmeye
eğimli olmamız anlamına gelir.

00:19:13.375 --> 00:19:15.518
Bence biraz koordinasyonla

00:19:15.542 --> 00:19:19.838
mesela, bu makro ve mikro yönetişim
sorununu çözersen

00:19:19.917 --> 00:19:22.226
vazodaki bütün topları çıkarırdık

00:19:22.250 --> 00:19:24.518
ve bundan oldukça yararlanırdık.

NOTE Paragraph

00:19:24.542 --> 00:19:27.976
CA: Bir simülasyonda yaşıyorsak bile
bu fark eder mi?

00:19:28.000 --> 00:19:29.309
Sadece yeniden başlatırız.

NOTE Paragraph

00:19:29.333 --> 00:19:30.601
(Kahkahalar)

NOTE Paragraph

00:19:30.625 --> 00:19:32.268
NB: O zaman... ben...

NOTE Paragraph

00:19:32.292 --> 00:19:34.768
(Kahkahalar)

00:19:34.792 --> 00:19:36.208
Bunu kestiremedim.

NOTE Paragraph

00:19:38.125 --> 00:19:39.393
CA: Peki senin görüşün ne?

00:19:39.417 --> 00:19:44.226
Bütün parçaları birleştirdiğinde
işimizin bitik olduğu ne kadar olası?

NOTE Paragraph

00:19:44.250 --> 00:19:46.208
(Kahkahalar)

NOTE Paragraph

00:19:46.882 --> 00:19:49.434
Bu soruyu sorduğumda
insanların gülmesine bayılıyorum.

NOTE Paragraph

00:19:49.458 --> 00:19:50.809
NB: Bir birey düzeyinde,

00:19:50.833 --> 00:19:54.684
zaten bir tür mahkumuz,
sadece zaman çizgisiyle,

00:19:54.708 --> 00:19:57.723
çürüyor, yaşlanıyor ve bu tür diğer
şeyleri yaşıyoruz değil mi?

NOTE Paragraph

00:19:57.723 --> 00:19:58.934
(Kahkahalar)

NOTE Paragraph

00:19:58.958 --> 00:20:00.643
Bu aslında biraz yanıltıcı.

00:20:00.667 --> 00:20:03.434
Bir ihtimal yakalamak için
tuzak kurmak istiyorsan

00:20:03.458 --> 00:20:04.726
ilk olarak, biz kimiz?

00:20:04.750 --> 00:20:07.476
Eğer çok yaşlıysan, muhtemelen
doğal sebeplerle öleceksin,

00:20:07.500 --> 00:20:09.851
eğer çok gençsen önünde
100 yılın olabilir --

00:20:09.875 --> 00:20:12.018
ihtimali kime sorduğuna göre değişebilir.

00:20:12.042 --> 00:20:16.268
Sonrasında eşik, mesela,
ne medeniyet yıkımı olarak sayılır?

00:20:16.292 --> 00:20:23.142
Yazıda, bunun sayılması için
bir varoluş yıkımına ihtiyacım olmadı.

00:20:23.417 --> 00:20:25.101
Bu sadece tanımsal bir mesele,

00:20:25.125 --> 00:20:26.434
ben bir milyar ölü derim

00:20:26.458 --> 00:20:28.518
ya da dünya GSYİH'sinde
yüzde 50 bir azalma

00:20:28.542 --> 00:20:30.768
ama senin eşiğe ne anlam
yüklediğine bağlı,

00:20:30.792 --> 00:20:32.768
sen farklı bir olası tahmin yürütürsün.

00:20:32.792 --> 00:20:37.309
Ama sanırım beni korkmuş
bir iyimser olarak yazardın.

NOTE Paragraph

00:20:37.333 --> 00:20:38.434
(Kahkahalar)

NOTE Paragraph

00:20:38.458 --> 00:20:40.101
CA: Sen korkmuş bir iyimsersin

00:20:40.125 --> 00:20:45.382
ve bence büyük sayıda başka
korkmuş insan yarattın.

NOTE Paragraph

00:20:45.708 --> 00:20:46.768
(Kahkahalar)

NOTE Paragraph

00:20:46.792 --> 00:20:48.059
NB: Simülasyonda.

NOTE Paragraph

00:20:48.083 --> 00:20:49.351
CA: Simülasyonda.

00:20:49.351 --> 00:20:51.483
Nick Bostrom, zihnine hayranım.

00:20:51.483 --> 00:20:53.976
bize korku saldığın için çok teşekkürler.

NOTE Paragraph

00:20:54.000 --> 00:20:56.375
(Alkışlar)