Daniel Suarez: Öldürme kararı bir robota ait olmamalıdır

Bir yazar olarak Daniel Suarez geleceğin distopyan hikayelerini tasarlamaktadır. Fakat TED küresel sahnesinde hakkında daha çok bilmemiz gereken gerçek hayat senaryosunu anlatmaktadır: kendi kendini yöneten robot savaş silahlarının yükselişi. Önerdiği gelişmiş insansız hava uçakları, otomatik robot silahları ve (Al)-pille çalışan istihbarat toplama araçları savaşları insanların kontrolünden alma kararını verebilir.

Bilim-kurgu polisiye romanı yazıyorum.

yani, 'katil robotlar' dersem,

muhtemelen bunun gibi bir şey düşüneceksiniz.

Fakat, aslında roman hakkında konuşmak için burada değilim.

Burada olma nedenim çok gerçek olan öldürücü robotlar-

kendi kendini yöneten insansız hava araçları hakkında konuşmak.

Şu anda hedef alma kararını insanlardan alan

Predator ve Reaper uzaktan kumandalı uçaklarından bahsetmiyorum.

İnsanoğlu hakkındaki ölüm kararlarını

kendi başlarına veren tamamen özerk robot silahlar

hakkında konuşuyorum.

Aslında bunun için teknik bir terim var: Öldürücü Özerklik

Şimdi öldürücü bir şekilde özerk katil robotlar

pek çok şekil alabilirler--- uçan, hareket eden

ya da sadece pusuda yatan.

Ve aslında, çok hızlı bir şekilde gerçeğe dönüşüyorlar.

Bu gördükleriniz Kuzey ve Güney Kore arasındaki

askerden arındırılmış bölgede sevk edilmiş iki otomatik keskin nişancı üssü.

Bu makinelerin ikisi de otomatik olarak canlı hedefi tespit etme ve

solda bir kilometrenin üzerindeki mesafede bulunan

birine ateş etme kapasitesine sahipler.

Şimdi, her iki durumda da öldürücü ateş etme kararını vermek için

insanlar hala işin içinde,

fakat, bu teknolojik bir gereksinim değil, bir seçimdir.

Ve odaklanmak istediğim de işte bu seçim,

çünkü öldürme kararı vermeyi

insandan alıp yazılıma geçirdikçe

sadece insanoğlunu savaşın dışına itmiyor,

aynı zamanda sosyal yapımızı da tamamıyla

harp meydanından ötede değiştiriyoruz.

Bunun böyle olma nedeni insanların çatışmaları çözme şeklinin

sosyal yapımızı şekillendirmesidir.

Ve bu tarih boyunca hep böyle olmuştur.

Örneğin, bunlar milattan sonra 1400'deki en gelişmiş

silahlardı.

Bu aralar her ikisi de üretmek ve muhafaza etmek için çok pahalıydılar.

Fakat bunlarla halk tabakasını baskı altında tutabilirdiniz.

Ve feodal toplumlardaki politik güç dağılımı bunu yansıttı.

En üst seviyede güce odaklanılmıştı.

Ne değişti? Teknolojik buluşlar.

Barut, top.

Ve çok yakın zamanda zırhlar ve kaleler çok demode oldu

ve savaş meydanına kimi götürdüğün

kaç kişi götürdüğünden daha az önemliydi.

Ve orduların büyüklüğü arttıkça, milli devlet

politik ve lojistik savunma koşulları olarak meydana geldi.

Liderler daha çok halk tabakalarına dayanmak zorunda oldukları için

gücü paylaşmaya başladılar.

Temsili hükumet oluşmaya başladı.

Yani tekrardan, çatışmaları çözmek için kullanmakta olduğumuz araçlar

toplumsal araziyi şekillendirir.

Özerk robot silahlar bunu dışında öyle araçlardır ki

çok az insanın savaşa gitmesini gerektirerek

muhtemelen beş yüzyıllık bir trendi demokrasiye dönüştürecek olan

çok az kişinin eline merkezi iktidarı vermekle risk oluştururlar.

Şimdi, bunu bilerek düşünüyorum ki

uyumu sağlanmış demokratik enstitülerimizi muhafaza etmek

ve insanların en iyi yaptığı şeyi yapmak için kararlı adımlar atabiliriz.

Fakat zaman bir unsurdur.

70 millet kendi uzaktan kumandalı insansız

savaş uçaklarını geliştiriyor

ve gördüğünüz gibi uzaktan kumandalı savaş uçakları

özerk robot silahlarının habercisidirler.

Bunun nedeni uzaktan kumandalı savaş uçaklarını mevzilendirdiğiniz zaman

karar vermeyi insanlardan alıp

silah platformunun kendisine iten 3 güçlü etkenin olmasıdır.

Bunlardan birincisi insansız hava uçaklarının ürettiği görüntü akınıdır.

Örneğin, Birleşik Devletler insansız hava donanması 2004'te

analiz yapmak için genel toplamda 71 saatlik görüntü gözetimi yayınladı.

Bu durum 2011'e kadar 300.000 saate çıktı ki

bu da onu tamamıyla incelemek için insan kapasitesini aşmıştı.

Fakat, bu numara bile neredeyse şiddetle artacak.

Her bir insansız hava uçağı platformundaki Pentagon'un Gorgon Stare (12 kameradan aynı anda görüntü alan)

ve Argus (Yer-taban süreci) programları bağımsız çalıştırılan

65 kamera bakışına kadar artacaklar.

Ve bu da insan kapasitesinin inceleyebilmesinin çok daha üstüne çıkacak.

Bu, görsel istihbarat yazılımının onda ilgi öğeleri arama ihtiyacı

duyacağı anlamına gelir.

Ve bu, çok yakında insansız hava uçaklarının insanlara

nelere bakmaları gerektiğini söyleyeceği anlamına gelir,

aksi yönde bir şey değil.

Fakat karar vermeyi insanlardan alıp makinelere veren

ikinci güçlü güdüleyici atak var.

Bu, santral ve insansız hava uçağı arasındaki

bağlantıyı koparan elektromanyetik

yayın karıştırma aracıdır..

Şimdi, bunun 2011'debir örneğini gördük;

bir Amerikan RQ-170 gözcü uçağı

GPS'in yanıltıcı hamlesi yüzünden İran üzerindeyken biraz bocalamıştı.

Fakat herhangi bir uzaktan kumandalı hava uçağı bu tür ataklara duyarlıdır.

Bu, insansız hava uçaklarının daha fazla

karar verme sorumluluğunu üstlenmek zorunda olduğu anlamına gelir.

Uçuş amaçlarını bilecekler

ve insan yardımı olmaksızın görülmemiş durumlara karşılık verecekler.

Yabancı radyo sinyallerini görmezden gelip

kendi sinyallerinin çok azını gönderecekler.

Üçüncü ve en güçlü teşvik edici olan

karar almayı insandan alıp silahlara veren

maddeye getiren şey:

İnandırıcı yadsınabilirlik.

Şimdi küresel ekonomi içinde yaşıyoruz.

İleri teknoloji imalat çoğu kıtada meydana gelir.

Sanal casusluk gelişmiş tasarımları gizlice bilinmeyen taraflara

götürüyor

ve bu çevrede, büyük olasılıkla

fahiş piyasada hızla çoğalan başarılı insansız hava uçakları tasarımları

anlaşma imalathanelerinde hızla yapılacak.

Ve bu durumda, insansız hava uçağının hasarını

derinden inceleyerek, bu silahı kimin gönderdiğini söylemek

çok zor olacak.

Bu kimin yaptığı belli olmayan savaşların

çok hakiki ihtimalini artıracaktır.

Bu basınç yüksekliğinde bulunan jeopolitik dengeyi etkileyebilir,

ateş gücünü saldırganlara karşı çevirmeyi bir millet için

çok zorlaştırabilir, ve bu da 21. yüzyılda dengeyi

savunmadan alıp hücuma yöneltebilir.

Bu askeri harekatı sadece küçük toplumlar için değil

aynı zamanda suç örgütleri,

özel ticari kuruluşlar, hatta nüfuzlu insanlar için

geçerli bir seçenek yapar.

Bu, barolar ve sivil halkın yönetimini baltalayan

muhalif diktatörlere bir arazi oluşturacaktır.

Şimdi, sorumluluk ve şeffaflık

temsili meclisin iki temel taşıysa,

özerk robot silahları ikisini de sarsabilir.

Şimdi, şunu düşünüyor olabilirsin;

ileri teknoloji toplumları

herhangi bir robot savaşında avantajlı olabilir.

Bu ulusların vatandaşları daha savunmasız olacaklardır

özellikle gelişmekte olan uluslara karşı.

Fakat, gerçeğin tam tersi olduğunu düşünüyorum.

İleri teknoloji ülkesi vatandaşlarının

robot silahlara karşı daha savunmasız olduğunu düşüyorum.

Sebebi tek bir kelimede özetlenebilir: veri.

Veri ileri teknoloji toplumlarını güçlendirir.

Cep telefonu konum belirlemesi, telekom üst-verisi,

sosyal medya, e-posta, mesaj, finansal işlem verisi

ulaştırma verisi, o, insanların hareketleri ve

sosyal etkileşimlerindeki gerçek zaman verisinin bolluğudur.

Kısaca, tarihteki herhangi bir insandan çok

makinelere görünürüz

ve bu özerk silahların hedef tespiti ihtiyaçlarına mükemmel şekilde uyar.

Burada bakmakta olduğunuz şey

toplumsal bir grubun bağlantı analiz haritasıdır.

Çizgiler bireyler arasındaki sosyal etkileşimi göstermektedir.

Ve bu tür haritalar, modern insanların gerilerinde bıraktıkları

veri izine dayandırılarak otomatik olarak üretilebilirler.

Şimdi o genellikle mal ve hizmetleri hedeflenen nüfusa yönelik

piyasaya çıkarmak için kullanılır, fakat o çift kullanımlı bir teknolojidir.

Çünkü hedef başka bağlamda kullanılır.

Belli bireylerin aydınlatıldığını fark edin.

Bunlar sosyal ağların merkezleridir.

Bunlar, kurucular, fikir üreticileri, liderler

ve ayrıca iletişim şablonlarından otomatik olarak

tanımlanan bu insanlardır.

Şimdi, bir pazarlamacıysanız, o halde onları ürün numuneleri ile

hedefleyip sosyal gruplara markanızı

dağıtmaya çalışabilirsiniz.

Fakat politik düşmanlar arayan baskıcı bir

hükumet iseniz, bunun yerine onları uzaklaştırır,

ortadan kaldırır, sosyal gruplarını dağıtabilirsiniz

ve arkada kalan kısım sosyal dayanışma

ve sosyal örgütleri kaybeder.

Şimdi ucuz dünyada robot silahları çoğaltırsak,

sınırlar bir devleti başka bir ülkeden yöneten hükumetlere ve

uluslararası suç kuruluşlarının muhaliflerine

çok az koruma sunacaktır.

Değişim için kışkırtan popüler hareketler

önceden belirlenebilir ve fikirleri, kritik bir kitleyi elde etmeden önce

liderleri ortadan kaldırılabilir.

Ve kritik kitleyi elde eden fikirler tamamen

popüler hükumetteki politik eylemciliğin ne olduğuyla alakalıdır.

Anonim öldürücü silahlar, her tür çakışan çıkarlar için

kolay yol olarak ölümcül eylem yapabilirler.

Ve bu, serbest konuşma özgürlüğü ve

demokrasinin merkezi olan popüler politik eylemle ilişkisini keser.

Ve bu, robot silahlarda ve katil silahların

gelişimi ve konuşlanmasıyla alakalı özel bir küresel yasakta

uluslararası anlaşmaya ihtiyaç duymamızın sebebidir.

Şimdi biz çoktan nükleer ve biyolojik silahlar

üzerine uluslararası anlaşmaya sahibiz

her ne kadar tamamlanmamış olup büyük ölçüde kullanılıyorsa da.

Fakat, robot silahlar tamamen tehlikeli gibi olabilirler.

Çünkü onlar hemen hemen kesinlikle kullanılacak

ve ayrıca demokratik enstitülerimize karşı yıpratıcı olacaklar.

Şu anda, Birleşik Devletler Savunma Bakanlığı Kasım 2012'de

tüm ölümcül kararlarda

bir insanın mevcut olduğu direktif zorunluluğu tebliğ etti.

Bu geçici olarak etkin bir şekilde Birleşik Devletler ordusundaki özerk silahları yasakladı.

Ancak bu direktifin kalıcı hale getirilmesi gerekmektedir.

Ve küresel eylem için zemin hazırlayabilir.

Çünkü robot silahlar için bizim uluslar arası ölümcül taslağa

ihtiyacımız var.

Dünya uluslarının bu silahları kabul etmeyi hızlandırmasına neden olan

tahrip edici hücum ya da bir terörist hadisesinden önce

ve daha sonuçları düşünmeden

ona şimdi ihtiyacımız var.

Özerk robot silahlar çok fazla gücü çok az elde topluyor

ve onlar demokrasiyi tehlikeye atacaklar.

Şimdi, beni yanlış anlamayın ama silahsız sivil insansız hava uçakları için tonlarca

harika kullanımlar olduğunu düşünüyorum.

çevre denetimi, araştırma ve lojistiği kurtarma.

Robot silahlar üzerinde uluslararası bir anlaşmaya sahipsek

hala kendimizi yasa dışı robot silahlara karşı korurken

özerk uçak ve araçlardan

nasıl yarar sağlayacağız?

Sırrın belirgin olacağını düşünüyorum.

Hiç bir robotun umumi yerlerde mahremiyet beklentisi

olmamalıdır.

(Alkışlar)

Her bir robot ve uçak umumi yerlerde

devinimini takip etmesi için kullanılabilen

imalathanede çalışmaya hazırlanan şifreli işaretlenmiş bir kimliğe sahip olmalıdır.

Arabalarda plaka, hava araçlarında kuyruk numarasına sahibiz.

Bu da farklı değil.

Ve her vatandaş şimdi ve tarih boyunca

umumi alanlar çevresinde (yukarıdan) hareket eden uçaklar

ve özerk araçların nüfusunu gösteren bir uygulama

yüklemiş olabilmelidir.

Ve sivil liderler belirlemek için algılayıcı ve sivil uçakları haydut uçakları

harekete geçirmelidir

ve kendi katil uçaklarını, haydut uçakları ateş edip düşürmesi için göndermek yerine

onları insanlara haydut uçakların varlığını haber vermelidir.

Ve bazı çok yüksek güvenlik alanlarında

muhtemelen sivil uçaklar onları tuzağa düşürecek

ve bomba imha tesisine sürükleyecektir.

Fakat dikkat edin, bu, silah sisteminden çok

bağışıklık sistemidir.

Bu hala açık ve sivil toplumumuzu koruyorken

özerk araç ve uçakların kullanımından

yararlanmamıza izin verir.

Katil robotların gelişim ve mevzilenmesini

yasaklamalıyız.

Savaşı otomatikleştirmek için cazibesine yenik düşmeyelim.

Despot hükumetler ve suç örgütleri

hiç şüphesiz yenik düşecek, fakat biz onlara katılmayalım.

Özerk robot silahlar

çok fazla gücü çok az olan gizli ellerde

toplayacaktır,

ve bu temsili hükumete yıpratıcı olacaktır.

Emin olalım ki, en azından demokrasiler için

katil robotlar kurgu kalacaktır.

Teşekkür ederim.

(Alkışlar)

(Alkışlar)