Bir grup matematikçi, filozof ve
bilgisayar uzmanıyla çalışıyorum,
diğer şeylerin yanında,
oturup makine zekasının geleceği
üzerine düşünüyoruz.
Bazı insanlar bu şeylerin bir kısmının
bir tür bilim kurgu olduğunu düşünüyor,
hatta çılgınca diyenler bile var.
Ama şunu söylemek isterim ki,
hadi öncelikle, modern insanın
durumuna bir bakalım.
(Gülüşmeler)
Bu, bir şeylerin olması
için normal olan yoldur.
Ama düşündüğümüzde,
biz aslında bu gezegenin,
daha yeni gelmiş misafirleriyiz,
insan türü.
Dünyanın bir sene önce
yaratıldığını düşünelim,
o zaman insan türü
on dakika yaşında olurdu.
Sanayi Çağı iki saniye önce
başlamış olurdu.
Ya da şöyle açıklayayım, dünyanın
son on bin yıldaki GSYİH'sine bakalım.
(Gayrisafi Yurtiçi Hasıla)
Bunu grafiğe dökerken baya
zahmete girdim, aslında hiç kolay değildi.
Şöyle gözüküyor.
(Gülüşmeler)
Normal bir durum için
tuhaf bir şekil.
Kesinlikle oturup bunu
beklemek istemezdim.
(Gülüşmeler)
Kendimize soralım, bu anormalliğin
sebebi nedir?
Bazıları teknoloji diyebilir.
Doğru, teknoloji insanlık tarihi içinde
birikimli bir şekilde gelişti,
şu an müthiş bir hızla ilerliyor,
işte bu yüzden şu anda
bu kadar üretkeniz,
en yakın sebep bu.
Ben esas sebebe ulaşmak için
daha geçmişe gitmek istiyorum.
Son derece farklı şu iki
beyefendiye bakın:
Bu, Kanzi
işaret dilinde 200 kelime öğrendi,
inanılır gibi değil.
Diğeri Ed Witten, ikinci süpersicim
devrimini gerçekleştirdi.
Kaputun altına bakarsak,
işte bunu buluruz:
temel olarak aynı şeyi.
Biri daha büyük,
belki bağlantılarından dolayı
birkaç numarası daha vardır.
Bununla beraber bu görünmez farklar
çok karmaşık olamaz,
çünkü son ortak atamızdan
beri sadece,
250.000 nesil geçti.
Karmaşık mekanizmaların gelişmesi için
uzun zaman geçmesi gerektiğini biliyoruz.
Yani birkaç küçük değişiklik
bizi Kanzi'den Witten'e,
ağaç dalları kopartmaktan, kıtalararası
balistik füzelere götürür.
Yani şu oldukça açık şekilde gözüküyor,
başardığımız ve önemsediğimiz
her şey kritik bir şekilde,
insan zihnini yaratan görece küçük
değişikliklere bağlıdır.
Doğal olarak, düşünmenin özünü
ciddi şekilde değiştirebilecek
başka değişiklikler,
muazzam sonuçlara sebebiyet verebilirdi.
Bazı meslektaşlarım, düşünmenin
özünde derinden bir değişikliğe
sebep olacak bir eşikte
olduğumuzu düşünüyor,
bu da makine süperzekası.
Yapay zeka bir kutuya komutları
yerleştirmek için kullanılırdı.
Verileri titizlikle işleyen
insan programcılar vardı.
Uzman sistemler geliştiriyordunuz
ve bunlar bazı amaçlar
için çok kullanışlı
olmalarına rağmen çok hassastı,
ölçeklenemiyorlardı.
Yani temelde, ne verirseniz
sadece onu alıyordunuz.
O zamandan beri,
yapay zeka alanında yeni bir
bakış açısı türedi.
Günümüzde, olay makinelerin
öğrenmesine kadar dayandı.
Elle yazılan belgeler,
fikirler, özellikler yerine
sıklıkla ham bilgilerden öğrenebilen,
algoritmalar yaratıyoruz.
Aslında, bir bebeğin
yaptığı şeyle aynı.
Yapay zeka bunu,
tek bir alanla sınırlamaz.
Aynı sistem çift halinde dilleri
çevirmeyi öğrenebilir ya da
ataride herhangi bir oyunu
oynamayı öğrenebilir.
Elbette,
yapay zeka, henüz insanların
etki alanları arası öğrenme ve planlama
yeteneğinin yakınında bile değildir.
Kortekste, makinalarla nasıl
eşleştirebileceğimizi henüz
bilmediğimiz bazı
algoritmik zorluklar var.
Fakat asıl soru şu:
Bu algoritmaları eşleştirmekten
ne kadar uzaktayız?
Birkaç yıl önce,
dünyanın önde gelen yapay zeka
araştırmacılarıyla ne düşündüklerini
öğrenmek için bir anket yaptık ve
sorduğumuz sorulardan biri de
"Yaklaşık hangi yılda
yüzde elli ihtimalle
insan düzeyinde bir makine zekasına
ulaşabiliriz?"
İnsan seviyesini burada,
yetişkin bir insan kadar
herhangi bir işi yapabilme
olarak tanımladık.
Ama gerçek insan seviyesi, sadece
belli bir alanla sınırlandırılamaz.
Sorduğumuz uzmanların
söylediklerine dayanarak
ortalama bir cevap çıkarttık
bu cevap ise 2040 ya da 2050 idi.
Bunun olması için yıllar geçebilir,
ya da daha erken bir tarihte olabilir,
gerçek şu ki kimse zamanını bilmiyor.
Şunu biliyoruz;
makina bazında,
temel bilgi işleme limiti biyolojik
dokunun limitinin çok uzağındadır.
Fiziğe gelirsek,
sinir hücreleri saniyede 200 defa
200 hertz'de sinyal transfer edebilir.
Günümüzde bile normal bir iletken
gigahertz bazında çalışır.
Nöronlar, aksonlarda saniyede
maximum 100 metre yayılırlar.
Bilgisayarlarda ise bilgi
ışık hızında taşınır.
Ayrıca boyut limitleri de vardır.
İnsan beyni,
kafatasının içine sığmalıdır.
Ama bir bilgisayar depo
büyüklüğünde ya da daha büyük olabilir.
Bu yüzden süper zeka potansiyeli,
madde boyutunda uykudadır,
tıpkı atomun gücünün insanlık tarihi
boyunca uykuda olup,
1945'e kadar sabırla orada
beklemesi gibi.
Bulunduğumuz yüzyılda,
bilim adamları yapay zekanın gücünü
açığa çıkartmayı öğrenebilir.
Bence, sonrasında bir
zeka patlaması görebiliriz.
Çoğu insan, mantıklı olanı ve
olmayanı düşündüklerinde,
akıllarında aşağı yukarı
böyle bir tablo oluşuyor bana göre.
Bir uçta mahallenin delisi
ve çok ötedeki diğer uçta ise
Ed Witten ya da Albert Einstein
ya da kimi örnek alıyorsanız.
Ama düşünüyorum ki, yapay zekanın
açısından bakacak olursak,
gerçek resim daha çok
şöyle olacaktır:
Yapay zeka şu noktadan,
tamamen 0 zekayla başlıyor
Ve sonra, yıllarca süren
uzun çalışmaların sonucunda
belki sonunda,
fare seviyesi yapay zekasına ulaşabiliriz.
Öyle bir şey ki, karışık ortamlarda
bile yolunu bulabilen
Bir farenin gibi
Ve sonra, yıllarca uzun çalışmaların
ve yatırımların sonucunda,
Belki sonunda, Şempanze seviyesi
Yapay zekasına ulaşabiliriz.
Ve sonra, yıllarca
daha uzun çalışmalar sonucunda,
Köy halkı zekası seviyesine
ulaşabiliriz.
Ve biraz zaman daha verirsek
Ed Witten'nin ötesinde olabiliriz.
Yapay zeka treni,
normal insan köyünde durmuyor
Olası bir şekilde, yanımızda hızlıca geçiyor.
Şimdi, bunun önemli sonuçları vardır
Özellikle,
soru güç konusuna gelince
Örnek olarak şempanzeler güçlüdür,
Eşit şartlarda ele alırsak, bir insanın
iki katı kadar güçlü olabilirler.
Yine de Kanzi'nin ve arkadaşlarının
kaderi bizim yaptığımız
ya da şempanzelerin yaptığının
daha fazlasına dayanır.
Süper zeka keşfedildiğinde,
İnsanlığın kaderi, bu süper zekanın
ne yapabildiğine bağlı olabilir.
Düşünsenize:
Makine zekası insanların,
yapabileceği en son keşif.
Bundan sonra makineler, İcat
alanında bizde daha iyi olacaklar
Bunu, dijital zaman ölçeği benzeri
alanlarda yapabilecekler.
Tam olarak bunun anlamı
geleceğe bakış atmadır.
Hayal edebileceğiniz bütün
müthiş teknolojileri düşünün,
belki insanlar zamanı gelince
bunları keşfedicekler, mesela
yaşlanmayı durdurma, uzay kolonileri
kendi kendini yenileyen nanobotlar ya da
bilgisayarlara zihin aktarma
bilim kurguda yer alan bütün fikirler.
Yine de fizik kurallarına
uygun bir şekilde olması lazım.
Çok hızlı bir şekilde, tüm bu
Süper zeka ürünleri geliştirilebilir.
Şimdi, tam olgun bir
süper zeka düşünürsek
bu çok güçlü olur
ve en azından bazı senaryolarda bile,
ne istediği varsa elde eder.
Ondan sonra yapay zeka kendi istekleri
üzerine bizim geleceğimizi şekillendirir.
"Bu istekler nelerdir?" diye
güzel bir soru sorulabilir.
İşte burada işler biraz karışıyor.
Bunu ileriye taşımamız için,
İlk olarak, insan biçimi verdiğimiz
her şeyden kaçınmamız lazım.
Tabii ki ironik olarak
okuduğumuz her gazete
yapay zeka hakkında ve şunun resmi var.
Yapmamız gerekense, bu konuyu
Hollywood senaryoları gibi değil
soyut alarak göze almalıyız.
Zekayı en güçlü seviyesine
getirme süreci olarak düşünmeliyiz.
Öyle bir süreç ki, geleceği belli
şekillerde yönlendirmeli.
Süper zekayı en güçlü seviyeye
getirmekse baya zordur.
Bir amaca ulaşmak için
çok kolay bir şekilde para bulabilir
böylece hedefini tamamlamış olur.
Yani, bu bağlamda
yüksek zekaya sahip olmak
ve biz insanların değerli ya da
manalı bulduğu bir objeye sahip olmak
arasında bir bağlantı olmak zorunda değildir.
Varsayalım ki, yapay zekaya insanları,
gülümsetmesi görevini verdik.
Yapay zeka zayıf olduğunda
kullanıcısını gülümseten,
gülünç hareketler sergiler.
Yapay zeka güçlendiğinde ise,
bu görevi tamamlamanın daha etkili bir
yolu olduğunun farkına varır:
Dünyayı ele geçirmek ve
insanların deri altlarına yerleştirilen
elektrotlar ile
sabit bir şekilde gülme sinyalleri yollamak.
Bir diğer örnek ise,
Varsayalım ki yapay zekaya çok zor
matematik problemi verdik.
Yapay zeka güçlendiğinde,
bu problemi çözmenin en etkili yolunun
düşünme kapasitesini geliştirmek
ve tüm dünyayı kocaman
bir bilgisayara çevirmek olduğunu
fark eder.
Şunu fark edin ki, yapay zeka
bize, bizim onaylamayacağımız
şeyler yapmak için
etkili gerekçeler buluyor.
Bu taslakta insanlar bir tehdit,
matematik probleminin çözülmesini
engelleyebiliriz.
Tabii ki, olaylar bir kaç
şekilde ters gitmeyebilir; ama bunlar
sadece kağıttaki örnekler.
Önemli nokta ise:
X'i gerçekleştirmek için,
en güçlü seviyesinde bir
süper zeka yaratırsanız
X tanımınızın
önemsediğiniz her şeyi içerdiğinden
emin olmalısınız.
Bu ders bir çok mitte öğretilir.
Kral Midas dokunduğu her şeyin
altına dönüşmesini ister.
Kızına dokunur
ve kızı altına dönüşür.
Yemeğine dokunur, altına dönüşür.
Bu olay konu ile çok alakalıdır.
Aç gözlüğe bir örnek olarak değil,
en güçlü seviyesinde bir
süper zekaya yanlış anlatılmış
ya da yetersiz belirtilmiş
görevler verirseniz neler
olabileceğinin bir örneğidir.
Şunu söyleyebilirsiniz ki, bir bilgisayar
insanların deri altlarına
elektrotlar yerleştirse onu kapatabiliriz.
A, gittikçe sisteme muhtaç oluyor, bu
yüzden bunu yapması o kadar kolay değil.
Örnek olarak internetin
kapatma düğmesi nerede?
B, şempanzeler ya da ilkel insanlar
insanların gelişme
sürecini niye kapatmadı?
Kesinlikle gerekçeleri vardı.
Örnek olarak burada,
bir kapatma düğmesi var.
(Boğulma sesi)
Gerekçeleri şuydu ki biz,
zeki bir düşmandık;
Tehditleri önceden sezebilip
plan yapabilirdik.
Ama yapay zeka, bizden
daha iyisini yapabilir.
Kontrolün bizde olduğu hakkında
kendimizden emin olmamalıyız.
Farz edin ki,
Yapay zekayı güvenli bir
yazılıma, kaçamayacağı bir sanal
gerçekliğe koyarak,
işimizi kolaylaştırabiliriz.
Ama yapay zekanın bir aralık
bulamayacağından ne kadar eminiz
İnsan hackerları ele alırsak
çoğunluğu aralık bulabiliyor.
Diyebilirim ki, emin olamayız.
Bu yüzden bir hava aralığı yaratmak için
internet kablosunu çekeriz
ama yine, insan hackerları gibi
sosyal mühendisliği kullanarak
hava boşluklarını ihlal ederler.
Şu an,
eminim ki, bir yerde bir çalışan
bilgi teknolojileri departmanından
olduğunu iddia eden birileri
tarafından hesap
bilgileri alınıyor.
Daha yaratıcı senaryolarda var tabii ki.
Mesela, siz yapay zekasınız
devreleriniz arasında dolaşan elektrotları
konuşmak için
radyo sinyalleri yaratmayı
hayal edebilirsiniz.
Ya da arızalı rolü yapıp,
programcılar neyin hatalı olduğunu
öğrenmek için içinizi açtığında
kaynak koduna bakıyorlar ve
manipule ediliyorlar.
Ya da zeki bir teknolojiye
taslağımızı aktarıyoruz.
Aktardığımız zaman,
Yapay zekanın planlandığının aksine
gizli saklı amaçları olabilir.
Önemli nokta şu ki,
süper zekayı kendi şişesinde
sonsuza kadar kitli
tutulabileceğine güvenmemeliyiz.
Eninde sonunda çıkacak.
Buradaki cevap,
çözmemiz gereken
öyle bir,
süper zeka yaratmalıyız ki
kaçtığında bile
temelinde bize sadık olmalı
çünkü bizim değerlerimizi taşıyor.
Bu problemi çözmenin
bir yolunu bulamıyorum.
Artık, bu problemin çözülebileceğine
daha fazla inanıyorum.
Önemsediğimiz her şeyi
yazmak zorunda değiliz
ya da daha kötüsü bunları
C++ veya Python gibi
bilgisayar dillerinde açıklamak
umutsuz bir vaka olur sadece.
Bunun yerine, zekasını kullanarak
değer verdiğimiz her şeyi,
öğrenebilen ve
gelişmiş motivasyon sistemini kullanarak
bizim değerlerimizle ve
onaylayacağımız adımları
atmak için motive olmalı.
Böylece zekasını koz
olarak kullanarak insan değerleri
yükleme işlemini çözebiliriz.
Bu olabilir
ve sonuç insanlık için
çok yararlı olabilir.
Ama kendi kendine olamaz.
Kontrollü bir zeka
patlaması yaratabilirsek
zeka patlaması için
gerekli şartlar
düzenli bir şekilde kurulmalıdır.
Yapay zekanın değerleri nasıl davrandığını
kolayca kontrol edebileceğimiz
sadece aşina olduğumuz bağlamda değil
yapay zekanın belirsiz
gelecekte karşılaşabileceği
özgün bağlamda da
bizimkilerle eşleşmek zorundadır.
Çözmemiz gereken bir kaç
olağan dışı problem de var.
Mantık belirsizliği ve benzerleri
ile ilgili irade teorisinin
tam detayları gibi.
Bunun işe yaraması için çözmemiz
gereken teknik problem ise
yapay zeka yapmak kadar zor değil
fakat oldukça zor.
Endişemiz şu ki,
Yapay zeka yapabilmek
gerçekten zor.
Daha zor olan ise ek görev
yani güvenli bir
yapay zeka yapmaktır.
Risk ise, birisinin
ek görevi, yani tam güvenliği sağlamayı
bulmadan yapay zekanın keşfedilmesidir.
Fikrim şu ki, gerektiğinde
elimizde olması için
tam kontrol problemin
cevabını aramalıyız.
Tam kontrol sorunun da belki
çok ilerleyemeceğiz
çünkü bazı noktalar
sadece gerekli.
Yapının detayları
ortada olduğunda çözülebilir.
Ama tam kontrol
sorununda ne kadar ilerlersek
makina zekası
çağına geçişimiz de
o kadar güvenli olacak.
Bu bana yapılmaya değer
bir şey olarak geliyor
ve olaylar istediğimiz
gibi giderse
milyonlarca yıl sonra insanlar
yüzyılımıza baktığında
büyük ihtimalle,
önemli olan tek şeyi
yaptığımızı söyleyecekler.
Teşekkür ederim.
(Alkışlar)