Medeniyet kendini nasıl yok edebilir -- ve bunu önlemenin 4 yolu
-
0:01 - 0:03Chris Anderson: Nick Bostrom.
-
0:03 - 0:06Bize çoktan birçok çılgın fikir verdin.
-
0:07 - 0:08Sanırım 20 yıl önce
-
0:08 - 0:12hepimizin bir simülasyonda yaşıyor
olabileceğini ortaya attın -
0:12 - 0:13ya da geçmişte yaşadığımızı.
-
0:13 - 0:15Yakın zamanda,
-
0:15 - 0:19yapay genel zekânın nasıl
korkunç düzeyde kötüye gidebileceğinin -
0:19 - 0:21en gerçekçi örneklerini gösterdin.
-
0:22 - 0:23Ve bu yıl da
-
0:23 - 0:25hassas dünya hipotezi denen
bir konu üzerinde -
0:25 - 0:29bir yazı yayımlamak üzeresin.
-
0:29 - 0:34Bu akşam bizim görevimiz
buna örnekli bir kılavuz sunmak. -
0:34 - 0:36Hadi başlayalım.
-
0:37 - 0:39Nedir bu hipotez?
-
0:39 - 0:42Nick Bostrom: Bu, şu anki insan durumunun
-
0:42 - 0:45bir tür yapısal özelliği üzerinde
düşünmeye çalışma. -
0:47 - 0:49Sen vazo örneğini seviyorsun,
-
0:49 - 0:52bu yüzden açıklamak için
o örneği kullanacağım. -
0:52 - 0:56Fikirleri, metotları
ve olası teknolojileri temsil eden -
0:56 - 1:00toplarla dolu büyük bir vazo hayal et.
-
1:01 - 1:05İnsan yaratıcılığının tarihini,
-
1:05 - 1:08bu vazoya ulaşma ve topları birer birer
çıkarma süreci olarak düşünebilirsin -
1:08 - 1:12ve ağ etkisi şimdiye kadar
oldukça yararlıydı değil mi? -
1:12 - 1:14Bazısı hem faydalı hem zararlı olan
çeşitli gri tonlarda -
1:14 - 1:17oldukça fazla sayıda beyaz top çıkardık.
-
1:18 - 1:21Şimdiye kadar siyah topu çıkarmadık --
-
1:22 - 1:28onu keşfeden medeniyeti
sürekli olarak yok eden bir teknoloji. -
1:28 - 1:31Yazı, siyah topun ne olabileceği
üzerine düşünmeye çalışıyor. -
1:31 - 1:33CA: Yani bu topu, kaçınılmaz bir şekilde
-
1:33 - 1:36medeniyet yıkımı getirecek
bir şey olarak tanımlıyorsun. -
1:37 - 1:42NB: Yarı anarşik standart koşul diye
adlandırdığım şeyden çıkmadığımız sürece. -
1:42 - 1:43Ama bir çeşit, varsayımla.
-
1:44 - 1:48CA: Yani, aslında şu zamana kadar
-
1:48 - 1:50şanslı olduğumuza inandığın,
-
1:50 - 1:53o ölüm topunu hiç bilmeden
çekmiş olabileceğimiz -
1:53 - 1:56bir çeşit karşıt örnekler vererek
-
1:56 - 1:57durumu zorlaştırıyorsun.
-
1:57 - 2:00Evet bir alıntı var, nedir bu alıntı?
-
2:01 - 2:03NB: Sanırım, bu sadece
-
2:03 - 2:05ana keşiflerin neye yol açacağını
-
2:05 - 2:08öngörmenin zorluğunu anlatmaya yarıyor.
-
2:08 - 2:11Henüz bu yetiye sahip değiliz.
-
2:11 - 2:15Çünkü, topları çıkarmakta
çok iyi hâle geldik -
2:15 - 2:18ama topu geri vazoya doğru şekilde koyma
yeteneğine aslında sahip değiliz. -
2:18 - 2:21İcat edebiliyoruz ama geri bozamıyoruz.
-
2:22 - 2:24Yani bizim stratejimiz, olduğu gibi,
-
2:24 - 2:27vazoda hiç siyah top olmadığını ummak.
-
2:27 - 2:31CA: Yani bir kez dışarı çıktığında
dışarıdadır, onu geri içine koyamazsın -
2:31 - 2:32ve şanslı olduğumuzu düşünüyorsun.
-
2:32 - 2:35Bu örneklerden bazıları
üzerinde konuşalım. -
2:35 - 2:38Farklı türdeki zaaflar hakkında konuşalım.
-
2:38 - 2:40NB: Anlamanın en kolay türü
-
2:40 - 2:43büyük miktarda yıkımlara yol açmayı
-
2:43 - 2:46oldukça çok kolaylaştıran bir teknoloji.
-
2:47 - 2:51Sentetik biyoloji, bu siyah topu bulmakta
verimli bir kaynak olabilir -
2:51 - 2:54ama iklim mühendisliğiyle ilgili
düşünebileceğimiz -- -
2:54 - 2:56diğer birçok mümkün şey de
gerçekten harika, değil mi? -
2:56 - 2:58Küresel ısınmayla mücadele edebiliriz
-
2:58 - 3:01ama bunun çok kolay hâle
gelmesini de istemezsin; -
3:01 - 3:03rastgele birinin ve büyük annesinin
-
3:03 - 3:06Dünya ikliminde köklü değişiklikler
yapabilmesini istemezsin. -
3:06 - 3:10Ya da belki, ölümcül özerk drone'lar,
-
3:10 - 3:13toplu üretilmiş, sivrisinek boyunda
öldürücü sürüler. -
3:14 - 3:17Nanoteknoloji, yapay genel zekâ.
-
3:17 - 3:19CA: Yazıda savunduğun,
-
3:19 - 3:25nükleer gücün bir bomba
yaratabileceğini öğrendiğimizde -
3:25 - 3:28sen zaten herkes için erişilebilir
daha kolay kaynaklarla -
3:28 - 3:32şans eseri bir bomba yaratmış olabilirsin.
-
3:32 - 3:35NB: 1930'lu yılları düşünelim,
-
3:35 - 3:40nükleer fizikte harika yenilikler
yaptığımız ilk zamanları, -
3:40 - 3:44bazı dâhiler nükleer zincirleme reaksiyon
yaratmanın mümkün olduğunu anlıyor -
3:44 - 3:47ve sonra bunun ucunun
bombaya uzanacağını anlıyor. -
3:47 - 3:49Birkaç tane daha çalışma yaptık;
-
3:49 - 3:52bir nükleer bomba yapmak için
ihtiyacın olan şeylerin, -
3:52 - 3:54yüksek oranda zenginleştirilmiş
uranyum ve plutonyum, -
3:54 - 3:56elde etmesi çok zor materyaller.
-
3:56 - 3:58Ultrasantrifüje, reaktörlere,
-
3:58 - 4:02yani büyük miktarda enerjiye ihtiyaç var.
-
4:02 - 4:04Ama bunlar yerine,
-
4:04 - 4:08atomun enerjisini açığa çıkarmanın
kolay bir yolu olduğunu düşün. -
4:08 - 4:11Belki mikrodalga fırında kum pişirerek
-
4:11 - 4:12ya da bunun gibi bir şeyle
-
4:12 - 4:14bir nükleer patlama yaratabilirdin.
-
4:14 - 4:16Bunun fiziksel olarak
imkânsız olduğunu biliyoruz. -
4:16 - 4:18Ama ilgili fiziği bilmeden önce
-
4:18 - 4:20bunun neye dönüşeceğini
nasıl bilebilirdin? -
4:21 - 4:22CA: Ama şöyle düşünmüyor musun,
-
4:22 - 4:24Dünya'daki yaşamın evrilmesi
-
4:24 - 4:27ve bunun bir tür durağan çevre
anlamına gelmesi için -
4:27 - 4:32büyük nükleer reaksiyonlar yaratmak
nispeten daha kolay ve mümkün olsaydı -
4:32 - 4:33Dünya hiç sabit kalmazdı,
-
4:33 - 4:35biz burada bile olmazdık.
-
4:35 - 4:38NB: Evet, şayet bilerek yapılması kolay
-
4:38 - 4:41ama rastgele şansla olmayacak
bir şey var olmasaydı. -
4:41 - 4:43Yani kolayca yapabildiğimiz şeyler,
-
4:43 - 4:45üst üste 10 tane blok dizebiliriz
-
4:45 - 4:48ama doğada üst üste dizilmiş
10 blok bulamazsın. -
4:48 - 4:50CA: Tamam, yani bu muhtemelen
-
4:50 - 4:52çoğumuzun en çok endişelendiği şey
-
4:52 - 4:55ve evet yapay biyoloji belki de
yakın gelecekte öngördüğümüz, -
4:55 - 4:58bizi oraya götürebilecek en hızlı yöntem.
-
4:58 - 5:01NB: Evet ve diyelim ki bir öğleden sonra
-
5:01 - 5:05mutfağında çalışan herhangi birinin
bir şehri yok edebilmesi -
5:05 - 5:07nasıl olurdu bir düşün.
-
5:07 - 5:10Bizim bildiğimiz modern medeniyet
böyle bir şeyden -
5:10 - 5:12nasıl kurtulabilirdi kestirmek zor.
-
5:12 - 5:14Çünkü mutlaka her bir milyonluk
insan nüfusunda, -
5:14 - 5:17herhangi bir sebep için
bu yıkıcı gücü kullanmayı -
5:17 - 5:19seçecek biri olacaktır.
-
5:20 - 5:23Yani, eğer bu kıyamet kalıntısı
-
5:23 - 5:25bir şehri yok etmeyi
ya da daha kötüsünü isterse -
5:25 - 5:26şehirler yok edilirdi.
-
5:26 - 5:29CA: İşte başka tür bir zayıflık.
-
5:29 - 5:31Bunun hakkında konuşalım.
-
5:31 - 5:35NB: Evet, birçok şeyi
patlatmayı mümkün kılan -
5:35 - 5:37bu tür siyah topların yanında
-
5:37 - 5:42diğer türler de insanlarda
onları zararlı şeyler yapmaya iten -
5:42 - 5:44kötü güdüleri dürtebilir.
-
5:44 - 5:48Yani Tür 2A diye
adlandırabileceğimiz bu şey, -
5:48 - 5:53inanılmaz ölçüde kuvvet kullanarak
yıkım yatratmak için -
5:53 - 5:57büyük güçleri teşvik eden bir teknoloji.
-
5:57 - 6:00Aslında nükleer silahlar
buna oldukça yakınlardı değil mi? -
6:02 - 6:05Yaptığımız şey, 70.000 nükleer
savaş başlığı yapmak için -
6:05 - 6:0810 trilyon dolar harcamak
-
6:08 - 6:10ve onları tetikte tutmaktı.
-
6:10 - 6:11Ve Soğuk Savaş sırasında
-
6:11 - 6:14neredeyse birbirimizi havaya
uçurduğumuz zamanlar oldu. -
6:14 - 6:17Birçok insan bunun iyi bir fikir olduğunu
düşündüğünden değil, -
6:17 - 6:20hadi kendimizi patlatmak için
10 trilyon dolar harcayalım, -
6:20 - 6:21teşvikler öyle bir ayarlandı ki
-
6:21 - 6:24kendimizi daha kötü olabilirdi
diye düşünürken bulduk. -
6:24 - 6:26Güvenli bir ilk atış olduğunu düşünün.
-
6:26 - 6:28O zaman bir kriz durumunda,
-
6:28 - 6:33bütün nükleer füzelerini fırlatmak
kendilerini alıkoymaları zor olurdu. -
6:33 - 6:36En kötü ihtimalle bunu diğer
taraf yapabilir korkusu olurdu. -
6:36 - 6:41CA: Evet, karşılıklı yıkım güvencesi
Soğuk Savaş'ı nispeten dengede tuttu, -
6:41 - 6:43o olmasaydı şu an
burada olmayabilirdik. -
6:43 - 6:45NB: Her şey daha istikrarsız olabilirdi.
-
6:45 - 6:47Ve daha farklı teknolojiler olabilirdi.
-
6:47 - 6:50Nükleer silahlar yerine daha küçük
-
6:50 - 6:52ya da daha az belirgin şeyler olsaydı
-
6:52 - 6:54silah anlaşmaları yapmak daha zor olurdu.
-
6:54 - 6:57CA: Güçlü aktörler için
kötü teşvikler kadar -
6:57 - 7:00Tür 2B'de hepimizin için olan kötü
teşvikler için de endişeleniyorsun. -
7:00 - 7:05NB: Evet, küresel ısınmayı ele alabiliriz.
-
7:07 - 7:09Pek çok küçük eylem var,
-
7:09 - 7:11her birimizin yapabileceği şeyler
-
7:11 - 7:14ama tek başımıza yapsak
hiçbir etkisi olmayacak şeyler. -
7:14 - 7:16Ama milyarlarca insan bunu yaparsa
-
7:16 - 7:18bunlar birikerek
zararlı bir etkiye sahip olur. -
7:18 - 7:21Küresel ısınma şimdikinden
çok daha kötü olabilirdi. -
7:21 - 7:24Bu yüzden iklim duyarlılığı ölçeğimiz var.
-
7:24 - 7:28Bu ölçek, belli bir miktarda
sera gazı saldığında -
7:28 - 7:30iklimin ne kadar ısındığını söylüyor.
-
7:30 - 7:37Bunun, yükselen ısı yerine saldığımız
sera gazı miktarıyla ilgili varsayalım -
7:37 - 7:412100'e kadar 3 ve 4,5 derece arası
ısı yükselişi yerine -
7:41 - 7:4415 veya 20 derece arası olduğunu varsay.
-
7:44 - 7:47Çok kötü bir durumda olabilirdik.
-
7:47 - 7:50Ya da yenilenebilir enerji yapmanın
çok daha zor olduğunu varsay. -
7:50 - 7:53Ya da yer altında daha fazla
fosil yakıt olduğunu. -
7:53 - 7:55CA: Böyle bir durumda --
-
7:55 - 7:57eğer bugün yaptığımız şey
-
7:57 - 8:02görebileceğimiz süreçte
10 derece farklılık yarattıysa -
8:02 - 8:05aslında insanoğlu yerinden kalkıp
bununla ilgili bir şeyler yapabilirdi. -
8:06 - 8:08Aptalız ama belki de
o kadar da aptal değiliz. -
8:08 - 8:10Ya da belki öyleyiz.
-
8:10 - 8:11NB: Bu kadar emin olmazdım.
-
8:11 - 8:13(Kahkahalar)
-
8:13 - 8:15Diğer özellikleri hayal edebilirsin.
-
8:15 - 8:20Şu anda yenilenebilir ve diğerleri
arasında geçiş yapmak bir miktar zor, -
8:20 - 8:22evet, ama yapılabilir.
-
8:22 - 8:25Biraz farklı bir fizikle mümkün olabilirdi
-
8:25 - 8:27ama bu tür şeyleri yapmak
daha pahalı olurdu. -
8:28 - 8:30CA: Peki senin görüşün ne Nick?
-
8:30 - 8:32Bu ihtimalleri bir araya koyarsak
-
8:32 - 8:36bu yeryüzü, insanlık olarak biz,
-
8:36 - 8:38savunmasız bir dünya olarak sayılır mıyız?
-
8:38 - 8:41Geleceğimizde bir ölüm topu olur mu?
-
8:44 - 8:45NB: Bunu söylemek zor.
-
8:45 - 8:52Anlatmak istediğim, vazoda göründüğü
gibi çok çeşitli siyah toplar olabilir. -
8:52 - 8:57Siyah toplara karşı korunmamıza
yardım edecek altın toplar da olabilir. -
8:58 - 9:01Hangi sırayla ortaya
çıkacaklarını bilmiyorum. -
9:01 - 9:04CA: Yani, bu fikirle ilgili
olası bir felsefi eleştiri de -
9:04 - 9:10geleceğin aslında belirlenmiş olduğuyla
ilgili bir görüşü işaret eder. -
9:10 - 9:13O top ya vardır ya da yoktur.
-
9:13 - 9:16Ve bir taraftan,
-
9:16 - 9:18bu inanmak istediğim
bir gelecek görüşü değil. -
9:18 - 9:21Geleceğin belirlenmediğine,
bugünkü kararlarımızın -
9:21 - 9:25o vazodan hangi topu çekeceğimizi
belirleyeceğine inanmak istiyorum. -
9:26 - 9:30NB: İcat etmeye devam edersek
-
9:30 - 9:32en sonunda tüm topları çıkaracağız.
-
9:33 - 9:38Yani, oldukça mantıklı bir tür güçsüz,
teknolojik determinizm var olabilir, -
9:38 - 9:43el baltası ve jet uçaklar kullanan
bir topluma rastlamak çok zormuş gibi. -
9:44 - 9:48Ama teknolojiyi neredeyse bir takım
sağlayıcı olarak düşünebilirsin. -
9:48 - 9:50Teknoloji, farklı şeyler yapmamızı
-
9:50 - 9:53ve dünyada farklı etkilere
ulaşmamızı sağlayan bir şey. -
9:53 - 9:56Bunu nasıl kullandığımız
tabii ki insan seçimlerine bağlı. -
9:56 - 9:59Ama bu üç çeşit zaafı düşünürsek
-
9:59 - 10:02onları kullanma seçimimizle ilgili
oldukça zayıf varsayımlar yapıyorlar. -
10:02 - 10:06Tür-1 zaaf, yeniden,
bu büyük, yıkıcı güç, -
10:06 - 10:07milyonlarca insanlık bir nüfusta
-
10:07 - 10:10bunu yıkıcı bir şekilde kullanacak
birinin olacağını düşünmek -
10:10 - 10:13oldukça zayıf bir varsayım.
-
10:13 - 10:15CA: Benim için tek rahatsız edici argüman,
-
10:15 - 10:20ölüme mahkum edildiğimiz
ihtimalinin yüksek olduğu -
10:20 - 10:23bir tür bakış açısına sahip olabilirdik.
-
10:23 - 10:28Şöyle ki eğer hızlanan güce inanıyorsan --
-
10:28 - 10:30giderek hızlanan teknolojiye
-
10:30 - 10:33ve bununla bizi daha güçlü kılan
araçları yaptığımıza -
10:33 - 10:38o hâlde bir noktada tek bir kişinin
hepimizi yok edebileceği bir sahne çıkıyor -
10:38 - 10:41ve işimiz bitik görünüyor.
-
10:41 - 10:44Bu argüman oldukça korkutucu değil mi?
-
10:44 - 10:46NB: Ah, evet.
-
10:47 - 10:48(Kahkahalar)
-
10:48 - 10:49Bence --
-
10:51 - 10:52Evet, gittikçe daha çok güç kazanıyoruz
-
10:52 - 10:56ve bu gücü kullanmak gittikçe
daha kolay hale geliyor -
10:56 - 11:00ama insanların bu gücü nasıl kullandığını
kontrol etmemize yardımcı olacak -
11:00 - 11:02teknolojiler de üretebiliriz.
-
11:02 - 11:05CA: O zaman bunun hakkında konuşalım,
geri bildirim hakkında. -
11:05 - 11:09Şu an mevcut tüm ihtimalleri
düşündüğünü var say -- -
11:09 - 11:13sadece sentetik biyoloji değil,
siber savaş gibi bir şey bu, -
11:13 - 11:17yapay zeka ve benzerleri gibi --
-
11:17 - 11:21geleceğimizde ciddi bir
kötü sonla karşılaşabiliriz. -
11:21 - 11:23Mümkün olan tepkiler neler?
-
11:23 - 11:28Dört olası tepki hakkında da konuşmuştun.
-
11:28 - 11:31NB: Teknolojik gelişime karşı bir
durdurma hakkında konuşacak olursak -
11:31 - 11:35teknolojik gelişimleri kısıtlamak
hiç mantıklı görünmüyor. -
11:35 - 11:36Bence ne ikisi de mümkün,
-
11:36 - 11:38ne de bunu yapabilseydik bile
bu çekici olurdu. -
11:38 - 11:41Bence, daha yavaş teknolojik
gelişmeler isteyebileceğin -
11:41 - 11:44oldukça sınırlı alanlar olabilir.
-
11:44 - 11:47Bana kalırsa biyolojik silahlarda
ya da diyelim ki izotop ayırmada -
11:47 - 11:50atom bombası yaratmayı
daha kolay hâle getirebilecek hızda -
11:50 - 11:52bir gelişme istemezsin.
-
11:53 - 11:56CA: Eskiden buna tamamen katılırdım.
-
11:56 - 11:59Ama bir dakikalığına
bu fikri uzaklaştırıyorum. -
11:59 - 12:01Her şeyden önce,
-
12:01 - 12:03eğer son birkaç on yıldaki
tarihe bakacak olursak -
12:03 - 12:07bu her zaman son hızda ilerlemiştir,
-
12:07 - 12:09bu konuda bir sıkıntı yok,
tek şansımız bu. -
12:09 - 12:13Ama küreselleşmeye
yükseliş hızına bakarsan -
12:13 - 12:16eğer "hızlı hareket et ve
bir şeyleri kır" stratejisine -
12:16 - 12:18ve bununla ne olduğuna bakarsan
-
12:18 - 12:21ve sonra sentetik biyolojinin
potansiyeline bakacak olursan -
12:21 - 12:26her evde ve lise laboratuvarında bir DNA
yazıcısı olabildiği bir dünyaya -
12:26 - 12:28hızlı bir şekilde
veya hiçbir kısıtlama olmadan -
12:28 - 12:32devam etmeli miyiz bilmiyorum.
-
12:33 - 12:35Bazı kısıtlamalar var değil mi?
-
12:35 - 12:38NB: Muhtemelen, ilk bölüm,
mümkün olmaz. -
12:38 - 12:40Bunu durdurmanın mantıklı
olduğunu düşünürsen -
12:40 - 12:41uygulanabilirlik sorunu var olur.
-
12:42 - 12:44Yani aslında bu hiç yardımcı olmazdı,
şayet bir millet -- -
12:44 - 12:46CA: Hayır bir millet yapsa
yardımcı olmazdı -
12:46 - 12:49ama daha önce anlaşmalarımız vardı.
-
12:49 - 12:53Bu aslında nükleer tehditlerden
nasıl kurtulduğumuzun cevabı, -
12:53 - 12:54oraya giderek
-
12:54 - 12:57ve pazarlığın zorlu sürecinden geçerek.
-
12:57 - 13:02Sadece mantığının küresel bir öncelik
olayı olup olmadığını merak ediyorum, -
13:02 - 13:04oraya gidip şunu denememeliyiz,
-
13:04 - 13:09sentetik biyolojik araştırmaya dair
kuralların müzakeresini yapmak... -
13:09 - 13:12bunu demokratikleştirmek
istemezsin, değil mi? -
13:12 - 13:14NB: Buna kesinlikle katılıyorum --
-
13:14 - 13:18bu oldukça ilgi çekici olurdu, mesela,
-
13:18 - 13:22belki DNA sentez makinelerine sahip olmak,
-
13:22 - 13:25her laboratuvarın kendine ait olan
bir ürünü olarak değil -
13:25 - 13:27ama belki bir hizmet olarak.
-
13:27 - 13:30Belki dünyada dijital planını
yolladığın ve DNA'nın geri geldiği -
13:30 - 13:33dört ya da beş yer vardır, değil mi?
-
13:33 - 13:35Ve sonra, yetiye sahip olabilirsin,
-
13:35 - 13:37eğer bir gün bu gerçekten
gerekli gibi görünürse -
13:37 - 13:40sınırlı bir miktar tıkanma noktasına
sahip olabiliriz. -
13:40 - 13:43Sanırım sen daha sıkı bir kontrole
sahip olabileceğin -
13:43 - 13:45özel fırsatlara bakmak istiyorsun.
-
13:45 - 13:47CA: Temelde senin inancın,
-
13:47 - 13:50sadece geri çekilerek başarılı
olamayacağındır. -
13:50 - 13:52Birileri, bir yerler --
mesela Kuzey Kore -- -
13:52 - 13:56eğer bilgi keşfedilecek bir yerdetse
biri oraya gidecek -
13:56 - 13:57ve bu bilgiyi keşfedecektir.
-
13:57 - 14:00NB: Şu anki koşullar altında
mantıklı duruyor. -
14:00 - 14:02Bu sadece sentetik biyoloji de değil.
-
14:02 - 14:04Demek istediğim, dünyadaki her türlü
derin ve yeni değişim -
14:04 - 14:06bir siyah topa dönüşebilir.
-
14:06 - 14:08CA: Bir diğer olası tepkiye bakalım.
-
14:08 - 14:10NB: Bence bu da sadece
sınırlı potansiyele sahip. -
14:10 - 14:14Yani, yine Tür-1 zaafla,
-
14:14 - 14:19dünyayı yok etmek için teşvik edilen
insan sayısını düşürebilirsen -
14:19 - 14:22ve bu araçlara sadece onlar erişebilse
işte bu güzel olurdu. -
14:22 - 14:25CA: Bizden yapmamızı istediğin bu görselde
-
14:25 - 14:28yüz tanıma sistemiyle tüm dünyada
dolaşan drone'ları hayal ediyorsun. -
14:28 - 14:31Sosyopatik davranış sergileyen
birini saptadıklarında -
14:31 - 14:34onları sevgiyle yıkayıp düzeltiyorlar.
-
14:34 - 14:36NB: Bunun hibrid bir görsel
olduğunu düşünüyorum. -
14:36 - 14:40Eleme ya hapsetmektir ya da öldürmek
-
14:40 - 14:43ya da onları daha iyi bir dünya
görüşüne ikna etmek demektir. -
14:43 - 14:45Ama asıl nokta şu ki
-
14:45 - 14:47bu konuda fazlasıyla
başarılı olduğunu düşün -
14:47 - 14:50ve bu tür bireylerin sayısını
yarıya düşürdüğünü. -
14:50 - 14:52Ve eğer bunu ikna yoluyla
yapmak istiyorsan -
14:52 - 14:56insanları ikna etme uğraşında
diğer tüm güçlerle rekabet hâlindesin, -
14:56 - 14:58partiler, din, eğitim sistemi.
-
14:58 - 15:00Ama yarıya kadar düşürdüğünü varsay,
-
15:00 - 15:02yine de riskin yarıya kadar
düşeceğini düşünmüyorum. -
15:02 - 15:04Belki yüzde 10 ya da 5 düşebilir.
-
15:04 - 15:08CA: İnsanlığın geleceğini tepki iki
üzerine riske atmamızı önermiyorsun. -
15:08 - 15:11NB: Bence insanları vazgeçirmeye
ve ikna etmeye çalışmakta sıkıntı yok -
15:11 - 15:14ama tek korumamız olarak
buna sırt yaslamamalıyız. -
15:14 - 15:15CA: Peki ya üç?
-
15:15 - 15:18NB: Bence olası zayıflıkların
tüm spektrumuna karşı -
15:18 - 15:25dünyayı stabilize edebilmek için
kullanabileceğimiz iki genel metot var. -
15:25 - 15:27Ve muhtemelen ikisine de
ihtiyaç duyardık. -
15:27 - 15:33Biri, önleyici politikalar yapmanın
oldukça etkili bir yetisi. -
15:33 - 15:35Müdahele edebilmek için.
-
15:35 - 15:38Eğer biri tehlikeli bir şey
yapmaya başlamışsa, -
15:38 - 15:40gerçek zamanlı olarak onları
engelleyip durdurabilirsin. -
15:40 - 15:43Bu eş zamanlı gözetim gerektirirdi,
-
15:43 - 15:45herkes, sürekli olarak izleniyor olurdu.
-
15:46 - 15:49CA: Bu özünde bir tür "Azınlık Raporu."
-
15:49 - 15:51NB: Yapay zekâ algoritmaların olabilir,
-
15:51 - 15:55bunu inceleyen büyük
özgürlük merkezleri gibi. -
15:57 - 16:01CA: Şu an bu kitle gözetimi pek sevilen
bir terim değil biliyor musun? -
16:01 - 16:02(Kahkahalar)
-
16:03 - 16:05NB: Evet, şuradaki küçük cihaz,
-
16:05 - 16:09farklı yönlü bir sürü kameralı,
sürekli takmak zorunda olduğun -
16:09 - 16:11o tarz bir kolyeyi hayal et.
-
16:12 - 16:14Ama daha trajikomik hâle getirmek için
-
16:14 - 16:16ona "özgürlük etiketi"
ya da o tarz bir şey diyelim. -
16:16 - 16:18(Kahkahalar)
-
16:18 - 16:19CA: Tamam.
-
16:20 - 16:22Yani, bu bir sohbet, arkadaşlar,
-
16:22 - 16:25bu denli akıllara durgunluk veren
bir sohbet olmasının sebebi işte bu. -
16:25 - 16:29NB: Aslında, sadece bunun üzerine
kurulabilecek büyük bir sohbet olur. -
16:29 - 16:32Bununla ilgili büyük problemler
ve riskler var, değil mi? -
16:32 - 16:33Buna geri döneriz.
-
16:33 - 16:34Ve diğeri, sonuncusu,
-
16:34 - 16:37diğer genel dengeleme yetimiz
-
16:37 - 16:39bir tür başka yönetişim boşluğu kapatmak.
-
16:39 - 16:43Gözetim mikro düzeyde
yönetişim boşluğu olurdu, -
16:43 - 16:46birilerini yasa dışı şeyler
yapmaktan alıkoymak gibi. -
16:46 - 16:49Böylece, makro düzeyde
küresel boyutta -
16:49 - 16:51uyumlu bir yönetim boşluğu olur.
-
16:51 - 16:54En kötü türde küresel koordinasyon
hatalarını engellemek için -
16:54 - 16:57bu yeteneğe ihtiyaç duyardık,
-
16:57 - 17:01büyük güçler arası savaşları,
-
17:01 - 17:03silah yarışlarını,
-
17:03 - 17:06kataklizmik doğal kaynak sorunları için.
-
17:08 - 17:11tüm bu Tip 2a zayıflıklarıyla
başa çıkabilmek için. -
17:12 - 17:14CA: Küresel yönetişim, şu anda
-
17:14 - 17:16kesinlikle demode olan bir terim,
-
17:16 - 17:20ama konuyu tarih boyunca,
insan tarihi boyunca işleyemez misin? -
17:20 - 17:25Teknolojik güç artışının her aşamasında
-
17:25 - 17:29insanlar gücü yeniden düzenledi
ve bir bakıma merkezleştirdiler. -
17:29 - 17:32Yani mesela bir grup başıboş suçlu,
-
17:32 - 17:34toplumu ele geçirdiğinde
-
17:34 - 17:36yanıt; peki, bir ulus devletin var
-
17:36 - 17:38ve gücü merkezleştirdin,
polisi ya da bir ordu, -
17:38 - 17:40yani "Hayır, bunu yapamazsın" olurdu.
-
17:40 - 17:46İnsanlığı ele geçirebilecek
bir insan ya da belki bir grup mantığı da -
17:46 - 17:50bir noktada bu yönden gitmemiz
gerekecek anlamına gelmez mi? -
17:51 - 17:54NB: İnsanlık tarihinin yolu boyunca
politik organizasyon ölçeğinin -
17:54 - 17:56yükseldiği kesinlikle doğru.
-
17:56 - 17:59Eskiden avcı-toplayıcı grup vardı
-
17:59 - 18:01ve sonra şerifler,
şehir devletleri, uluslar, -
18:02 - 18:05şimdi uluslararası organizasyonlar var
ve buna benzer şeyler. -
18:06 - 18:09Ben yine şunu vurgulamak istiyorum;
-
18:09 - 18:12hem kitlesel gözetim
hem de küresel yönetişime dair -
18:12 - 18:16dev dezavantajar
ve de çok büyük riskler var. -
18:16 - 18:18Şunu vurgulamak istiyorum ki
eğer şanslıysak -
18:18 - 18:20dünya öyle bir durumda olabilir ki
-
18:20 - 18:22bir siyah toptan kurtulmanın
tek yolu bunlar olur. -
18:22 - 18:26CA: Anladığım kadarıyla
bu teorinin mantığı -
18:26 - 18:30hepsine sahip olamayacağımızı
anlamamız gerektiği. -
18:30 - 18:32Bu bir bakıma,
-
18:34 - 18:36teknolojinin her zaman iyiye
kullanılacağına dair -
18:36 - 18:40hepimizin kurduğu
saf bir hayal diyebilirim, -
18:40 - 18:43devam et, durma,
gidebildiğin kadar hızlı git -
18:43 - 18:45ve bazı sonuçlara çok takılma
-
18:45 - 18:47ki bu aslında bir seçenek sayılmaz.
-
18:47 - 18:49Buna sahip olabiliriz.
-
18:49 - 18:50Buna sahip olursak
-
18:50 - 18:51bununla beraber
-
18:51 - 18:54diğer rahatsız edici şeyleri de
kabullenmek zorunda kalırız -
18:54 - 18:57ve bir bakıma kendimizle bir
silahlanma yarışı içinde oluruz, -
18:57 - 18:59güç istiyorsan onu sınırlaman lazım,
-
18:59 - 19:01nasıl sınırlandıracağını
çözsen iyi edersin. -
19:01 - 19:04NB: Bence bu bir seçenek,
-
19:04 - 19:07oldukça cazip bir seçenek,
bi bakıma en kolay seçenek -
19:07 - 19:09ve işe yarayabilir
-
19:09 - 19:13ama bu, özünde bir siyah top çekmeye
eğimli olmamız anlamına gelir. -
19:13 - 19:16Bence biraz koordinasyonla
-
19:16 - 19:20mesela, bu makro ve mikro yönetişim
sorununu çözersen -
19:20 - 19:22vazodaki bütün topları çıkarırdık
-
19:22 - 19:25ve bundan oldukça yararlanırdık.
-
19:25 - 19:28CA: Bir simülasyonda yaşıyorsak bile
bu fark eder mi? -
19:28 - 19:29Sadece yeniden başlatırız.
-
19:29 - 19:31(Kahkahalar)
-
19:31 - 19:32NB: O zaman... ben...
-
19:32 - 19:35(Kahkahalar)
-
19:35 - 19:36Bunu kestiremedim.
-
19:38 - 19:39CA: Peki senin görüşün ne?
-
19:39 - 19:44Bütün parçaları birleştirdiğinde
işimizin bitik olduğu ne kadar olası? -
19:44 - 19:46(Kahkahalar)
-
19:47 - 19:49Bu soruyu sorduğumda
insanların gülmesine bayılıyorum. -
19:49 - 19:51NB: Bir birey düzeyinde,
-
19:51 - 19:55zaten bir tür mahkumuz,
sadece zaman çizgisiyle, -
19:55 - 19:58çürüyor, yaşlanıyor ve bu tür diğer
şeyleri yaşıyoruz değil mi? -
19:58 - 19:59(Kahkahalar)
-
19:59 - 20:01Bu aslında biraz yanıltıcı.
-
20:01 - 20:03Bir ihtimal yakalamak için
tuzak kurmak istiyorsan -
20:03 - 20:05ilk olarak, biz kimiz?
-
20:05 - 20:07Eğer çok yaşlıysan, muhtemelen
doğal sebeplerle öleceksin, -
20:08 - 20:10eğer çok gençsen önünde
100 yılın olabilir -- -
20:10 - 20:12ihtimali kime sorduğuna göre değişebilir.
-
20:12 - 20:16Sonrasında eşik, mesela,
ne medeniyet yıkımı olarak sayılır? -
20:16 - 20:23Yazıda, bunun sayılması için
bir varoluş yıkımına ihtiyacım olmadı. -
20:23 - 20:25Bu sadece tanımsal bir mesele,
-
20:25 - 20:26ben bir milyar ölü derim
-
20:26 - 20:29ya da dünya GSYİH'sinde
yüzde 50 bir azalma -
20:29 - 20:31ama senin eşiğe ne anlam
yüklediğine bağlı, -
20:31 - 20:33sen farklı bir olası tahmin yürütürsün.
-
20:33 - 20:37Ama sanırım beni korkmuş
bir iyimser olarak yazardın. -
20:37 - 20:38(Kahkahalar)
-
20:38 - 20:40CA: Sen korkmuş bir iyimsersin
-
20:40 - 20:45ve bence büyük sayıda başka
korkmuş insan yarattın. -
20:46 - 20:47(Kahkahalar)
-
20:47 - 20:48NB: Simülasyonda.
-
20:48 - 20:49CA: Simülasyonda.
-
20:49 - 20:51Nick Bostrom, zihnine hayranım.
-
20:51 - 20:54bize korku saldığın için çok teşekkürler.
-
20:54 - 20:56(Alkışlar)
- Title:
- Medeniyet kendini nasıl yok edebilir -- ve bunu önlemenin 4 yolu
- Speaker:
- Nick Bostrom
- Description:
-
İnsanlık bir "siyah top" üretme yolunda: hepimizi yok edebilecek teknolojik bir buluş, diye öneriyor filozof Nick Bostrom. TED'in lideri Chris Anderson'la olan bu isabetli, şaşırtıcı bir şekilde kaygısız konuşmada, Bostrom eğer buluşlarımız kontrolümüzün dışına çıkarsa karşı karşıya kalabileceğimiz zayıflıkların altını çiziyor ve gelecek nesillerimizi nasıl koruyabileceğimizi keşfe çıkıyor.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 21:09
Cihan Ekmekçi approved Turkish subtitles for How civilization could destroy itself -- and 4 ways we could prevent it | ||
Figen Ergürbüz accepted Turkish subtitles for How civilization could destroy itself -- and 4 ways we could prevent it | ||
Figen Ergürbüz edited Turkish subtitles for How civilization could destroy itself -- and 4 ways we could prevent it | ||
Cihan Ekmekçi edited Turkish subtitles for How civilization could destroy itself -- and 4 ways we could prevent it | ||
Cihan Ekmekçi declined Turkish subtitles for How civilization could destroy itself -- and 4 ways we could prevent it | ||
Cihan Ekmekçi edited Turkish subtitles for How civilization could destroy itself -- and 4 ways we could prevent it | ||
Sevim Nur Yıldız edited Turkish subtitles for How civilization could destroy itself -- and 4 ways we could prevent it | ||
Sevim Nur Yıldız edited Turkish subtitles for How civilization could destroy itself -- and 4 ways we could prevent it |