Bilim-kurgu polisiye romanı yazıyorum.
yani, 'katil robotlar' dersem,
muhtemelen bunun gibi bir şey düşüneceksiniz.
Fakat, aslında roman hakkında konuşmak için burada değilim.
Burada olma nedenim çok gerçek olan öldürücü robotlar-
kendi kendini yöneten insansız hava araçları hakkında konuşmak.
Şu anda hedef alma kararını insanlardan alan
Predator ve Reaper uzaktan kumandalı uçaklarından bahsetmiyorum.
İnsanoğlu hakkındaki ölüm kararlarını
kendi başlarına veren tamamen özerk robot silahlar
hakkında konuşuyorum.
Aslında bunun için teknik bir terim var: Öldürücü Özerklik
Şimdi öldürücü bir şekilde özerk katil robotlar
pek çok şekil alabilirler--- uçan, hareket eden
ya da sadece pusuda yatan.
Ve aslında, çok hızlı bir şekilde gerçeğe dönüşüyorlar.
Bu gördükleriniz Kuzey ve Güney Kore arasındaki
askerden arındırılmış bölgede sevk edilmiş iki otomatik keskin nişancı üssü.
Bu makinelerin ikisi de otomatik olarak canlı hedefi tespit etme ve
solda bir kilometrenin üzerindeki mesafede bulunan
birine ateş etme kapasitesine sahipler.
Şimdi, her iki durumda da öldürücü ateş etme kararını vermek için
insanlar hala işin içinde,
fakat, bu teknolojik bir gereksinim değil, bir seçimdir.
Ve odaklanmak istediğim de işte bu seçim,
çünkü öldürme kararı vermeyi
insandan alıp yazılıma geçirdikçe
sadece insanoğlunu savaşın dışına itmiyor,
aynı zamanda sosyal yapımızı da tamamıyla
harp meydanından ötede değiştiriyoruz.
Bunun böyle olma nedeni insanların çatışmaları çözme şeklinin
sosyal yapımızı şekillendirmesidir.
Ve bu tarih boyunca hep böyle olmuştur.
Örneğin, bunlar milattan sonra 1400'deki en gelişmiş
silahlardı.
Bu aralar her ikisi de üretmek ve muhafaza etmek için çok pahalıydılar.
Fakat bunlarla halk tabakasını baskı altında tutabilirdiniz.
Ve feodal toplumlardaki politik güç dağılımı bunu yansıttı.
En üst seviyede güce odaklanılmıştı.
Ne değişti? Teknolojik buluşlar.
Barut, top.
Ve çok yakın zamanda zırhlar ve kaleler çok demode oldu
ve savaş meydanına kimi götürdüğün
kaç kişi götürdüğünden daha az önemliydi.
Ve orduların büyüklüğü arttıkça, milli devlet
politik ve lojistik savunma koşulları olarak meydana geldi.
Liderler daha çok halk tabakalarına dayanmak zorunda oldukları için
gücü paylaşmaya başladılar.
Temsili hükumet oluşmaya başladı.
Yani tekrardan, çatışmaları çözmek için kullanmakta olduğumuz araçlar
toplumsal araziyi şekillendirir.
Özerk robot silahlar bunu dışında öyle araçlardır ki
çok az insanın savaşa gitmesini gerektirerek
muhtemelen beş yüzyıllık bir trendi demokrasiye dönüştürecek olan
çok az kişinin eline merkezi iktidarı vermekle risk oluştururlar.
Şimdi, bunu bilerek düşünüyorum ki
uyumu sağlanmış demokratik enstitülerimizi muhafaza etmek
ve insanların en iyi yaptığı şeyi yapmak için kararlı adımlar atabiliriz.
Fakat zaman bir unsurdur.
70 millet kendi uzaktan kumandalı insansız
savaş uçaklarını geliştiriyor
ve gördüğünüz gibi uzaktan kumandalı savaş uçakları
özerk robot silahlarının habercisidirler.
Bunun nedeni uzaktan kumandalı savaş uçaklarını mevzilendirdiğiniz zaman
karar vermeyi insanlardan alıp
silah platformunun kendisine iten 3 güçlü etkenin olmasıdır.
Bunlardan birincisi insansız hava uçaklarının ürettiği görüntü akınıdır.
Örneğin, Birleşik Devletler insansız hava donanması 2004'te
analiz yapmak için genel toplamda 71 saatlik görüntü gözetimi yayınladı.
Bu durum 2011'e kadar 300.000 saate çıktı ki
bu da onu tamamıyla incelemek için insan kapasitesini aşmıştı.
Fakat, bu numara bile neredeyse şiddetle artacak.
Her bir insansız hava uçağı platformundaki Pentagon'un Gorgon Stare (12 kameradan aynı anda görüntü alan)
ve Argus (Yer-taban süreci) programları bağımsız çalıştırılan
65 kamera bakışına kadar artacaklar.
Ve bu da insan kapasitesinin inceleyebilmesinin çok daha üstüne çıkacak.
Bu, görsel istihbarat yazılımının onda ilgi öğeleri arama ihtiyacı
duyacağı anlamına gelir.
Ve bu, çok yakında insansız hava uçaklarının insanlara
nelere bakmaları gerektiğini söyleyeceği anlamına gelir,
aksi yönde bir şey değil.
Fakat karar vermeyi insanlardan alıp makinelere veren
ikinci güçlü güdüleyici atak var.
Bu, santral ve insansız hava uçağı arasındaki
bağlantıyı koparan elektromanyetik
yayın karıştırma aracıdır..
Şimdi, bunun 2011'debir örneğini gördük;
bir Amerikan RQ-170 gözcü uçağı
GPS'in yanıltıcı hamlesi yüzünden İran üzerindeyken biraz bocalamıştı.
Fakat herhangi bir uzaktan kumandalı hava uçağı bu tür ataklara duyarlıdır.
Bu, insansız hava uçaklarının daha fazla
karar verme sorumluluğunu üstlenmek zorunda olduğu anlamına gelir.
Uçuş amaçlarını bilecekler
ve insan yardımı olmaksızın görülmemiş durumlara karşılık verecekler.
Yabancı radyo sinyallerini görmezden gelip
kendi sinyallerinin çok azını gönderecekler.
Üçüncü ve en güçlü teşvik edici olan
karar almayı insandan alıp silahlara veren
maddeye getiren şey:
İnandırıcı yadsınabilirlik.
Şimdi küresel ekonomi içinde yaşıyoruz.
İleri teknoloji imalat çoğu kıtada meydana gelir.
Sanal casusluk gelişmiş tasarımları gizlice bilinmeyen taraflara
götürüyor
ve bu çevrede, büyük olasılıkla
fahiş piyasada hızla çoğalan başarılı insansız hava uçakları tasarımları
anlaşma imalathanelerinde hızla yapılacak.
Ve bu durumda, insansız hava uçağının hasarını
derinden inceleyerek, bu silahı kimin gönderdiğini söylemek
çok zor olacak.
Bu kimin yaptığı belli olmayan savaşların
çok hakiki ihtimalini artıracaktır.
Bu basınç yüksekliğinde bulunan jeopolitik dengeyi etkileyebilir,
ateş gücünü saldırganlara karşı çevirmeyi bir millet için
çok zorlaştırabilir, ve bu da 21. yüzyılda dengeyi
savunmadan alıp hücuma yöneltebilir.
Bu askeri harekatı sadece küçük toplumlar için değil
aynı zamanda suç örgütleri,
özel ticari kuruluşlar, hatta nüfuzlu insanlar için
geçerli bir seçenek yapar.
Bu, barolar ve sivil halkın yönetimini baltalayan
muhalif diktatörlere bir arazi oluşturacaktır.
Şimdi, sorumluluk ve şeffaflık
temsili meclisin iki temel taşıysa,
özerk robot silahları ikisini de sarsabilir.
Şimdi, şunu düşünüyor olabilirsin;
ileri teknoloji toplumları
herhangi bir robot savaşında avantajlı olabilir.
Bu ulusların vatandaşları daha savunmasız olacaklardır
özellikle gelişmekte olan uluslara karşı.
Fakat, gerçeğin tam tersi olduğunu düşünüyorum.
İleri teknoloji ülkesi vatandaşlarının
robot silahlara karşı daha savunmasız olduğunu düşüyorum.
Sebebi tek bir kelimede özetlenebilir: veri.
Veri ileri teknoloji toplumlarını güçlendirir.
Cep telefonu konum belirlemesi, telekom üst-verisi,
sosyal medya, e-posta, mesaj, finansal işlem verisi
ulaştırma verisi, o, insanların hareketleri ve
sosyal etkileşimlerindeki gerçek zaman verisinin bolluğudur.
Kısaca, tarihteki herhangi bir insandan çok
makinelere görünürüz
ve bu özerk silahların hedef tespiti ihtiyaçlarına mükemmel şekilde uyar.
Burada bakmakta olduğunuz şey
toplumsal bir grubun bağlantı analiz haritasıdır.
Çizgiler bireyler arasındaki sosyal etkileşimi göstermektedir.
Ve bu tür haritalar, modern insanların gerilerinde bıraktıkları
veri izine dayandırılarak otomatik olarak üretilebilirler.
Şimdi o genellikle mal ve hizmetleri hedeflenen nüfusa yönelik
piyasaya çıkarmak için kullanılır, fakat o çift kullanımlı bir teknolojidir.
Çünkü hedef başka bağlamda kullanılır.
Belli bireylerin aydınlatıldığını fark edin.
Bunlar sosyal ağların merkezleridir.
Bunlar, kurucular, fikir üreticileri, liderler
ve ayrıca iletişim şablonlarından otomatik olarak
tanımlanan bu insanlardır.
Şimdi, bir pazarlamacıysanız, o halde onları ürün numuneleri ile
hedefleyip sosyal gruplara markanızı
dağıtmaya çalışabilirsiniz.
Fakat politik düşmanlar arayan baskıcı bir
hükumet iseniz, bunun yerine onları uzaklaştırır,
ortadan kaldırır, sosyal gruplarını dağıtabilirsiniz
ve arkada kalan kısım sosyal dayanışma
ve sosyal örgütleri kaybeder.
Şimdi ucuz dünyada robot silahları çoğaltırsak,
sınırlar bir devleti başka bir ülkeden yöneten hükumetlere ve
uluslararası suç kuruluşlarının muhaliflerine
çok az koruma sunacaktır.
Değişim için kışkırtan popüler hareketler
önceden belirlenebilir ve fikirleri, kritik bir kitleyi elde etmeden önce
liderleri ortadan kaldırılabilir.
Ve kritik kitleyi elde eden fikirler tamamen
popüler hükumetteki politik eylemciliğin ne olduğuyla alakalıdır.
Anonim öldürücü silahlar, her tür çakışan çıkarlar için
kolay yol olarak ölümcül eylem yapabilirler.
Ve bu, serbest konuşma özgürlüğü ve
demokrasinin merkezi olan popüler politik eylemle ilişkisini keser.
Ve bu, robot silahlarda ve katil silahların
gelişimi ve konuşlanmasıyla alakalı özel bir küresel yasakta
uluslararası anlaşmaya ihtiyaç duymamızın sebebidir.
Şimdi biz çoktan nükleer ve biyolojik silahlar
üzerine uluslararası anlaşmaya sahibiz
her ne kadar tamamlanmamış olup büyük ölçüde kullanılıyorsa da.
Fakat, robot silahlar tamamen tehlikeli gibi olabilirler.
Çünkü onlar hemen hemen kesinlikle kullanılacak
ve ayrıca demokratik enstitülerimize karşı yıpratıcı olacaklar.
Şu anda, Birleşik Devletler Savunma Bakanlığı Kasım 2012'de
tüm ölümcül kararlarda
bir insanın mevcut olduğu direktif zorunluluğu tebliğ etti.
Bu geçici olarak etkin bir şekilde Birleşik Devletler ordusundaki özerk silahları yasakladı.
Ancak bu direktifin kalıcı hale getirilmesi gerekmektedir.
Ve küresel eylem için zemin hazırlayabilir.
Çünkü robot silahlar için bizim uluslar arası ölümcül taslağa
ihtiyacımız var.
Dünya uluslarının bu silahları kabul etmeyi hızlandırmasına neden olan
tahrip edici hücum ya da bir terörist hadisesinden önce
ve daha sonuçları düşünmeden
ona şimdi ihtiyacımız var.
Özerk robot silahlar çok fazla gücü çok az elde topluyor
ve onlar demokrasiyi tehlikeye atacaklar.
Şimdi, beni yanlış anlamayın ama silahsız sivil insansız hava uçakları için tonlarca
harika kullanımlar olduğunu düşünüyorum.
çevre denetimi, araştırma ve lojistiği kurtarma.
Robot silahlar üzerinde uluslararası bir anlaşmaya sahipsek
hala kendimizi yasa dışı robot silahlara karşı korurken
özerk uçak ve araçlardan
nasıl yarar sağlayacağız?
Sırrın belirgin olacağını düşünüyorum.
Hiç bir robotun umumi yerlerde mahremiyet beklentisi
olmamalıdır.
(Alkışlar)
Her bir robot ve uçak umumi yerlerde
devinimini takip etmesi için kullanılabilen
imalathanede çalışmaya hazırlanan şifreli işaretlenmiş bir kimliğe sahip olmalıdır.
Arabalarda plaka, hava araçlarında kuyruk numarasına sahibiz.
Bu da farklı değil.
Ve her vatandaş şimdi ve tarih boyunca
umumi alanlar çevresinde (yukarıdan) hareket eden uçaklar
ve özerk araçların nüfusunu gösteren bir uygulama
yüklemiş olabilmelidir.
Ve sivil liderler belirlemek için algılayıcı ve sivil uçakları haydut uçakları
harekete geçirmelidir
ve kendi katil uçaklarını, haydut uçakları ateş edip düşürmesi için göndermek yerine
onları insanlara haydut uçakların varlığını haber vermelidir.
Ve bazı çok yüksek güvenlik alanlarında
muhtemelen sivil uçaklar onları tuzağa düşürecek
ve bomba imha tesisine sürükleyecektir.
Fakat dikkat edin, bu, silah sisteminden çok
bağışıklık sistemidir.
Bu hala açık ve sivil toplumumuzu koruyorken
özerk araç ve uçakların kullanımından
yararlanmamıza izin verir.
Katil robotların gelişim ve mevzilenmesini
yasaklamalıyız.
Savaşı otomatikleştirmek için cazibesine yenik düşmeyelim.
Despot hükumetler ve suç örgütleri
hiç şüphesiz yenik düşecek, fakat biz onlara katılmayalım.
Özerk robot silahlar
çok fazla gücü çok az olan gizli ellerde
toplayacaktır,
ve bu temsili hükumete yıpratıcı olacaktır.
Emin olalım ki, en azından demokrasiler için
katil robotlar kurgu kalacaktır.
Teşekkür ederim.
(Alkışlar)