Bu bir düşünce deneyi.
Diyelim ki gelecekte, çok da uzak olmayan bir noktada,
sürücüsüz arabanızla otoyolda hızla giderken
diğer arabalar sizi dört bir yandan çeviriyor.
Birden önünüzdeki tırdan büyük, ağır bir nesne düşüyor.
Arabanız çarpışmadan kaçınmak için zamanında duramaz,
o yüzden bir karar vermesi lazım:
Düz gidip nesneye çarpmak,
soldaki cipin üzerine kırmak
veya sağdaki motosikletin üzerine kırmak.
Motosiklete çarparak güvenliğinize öncelik mi vermeli,
yandakilere doğru kırmayarak tehlikeyi mi azaltmalı,
büyük nesneye çarparak hayatınızı feda etmeniz anlamına gelse bile,
yoksa yolcu güvenlik puanlaması yüksek olan
cipe çarparak orta yolu mu seçmeli?
Bu durumda sürücüsüz araba ne yapmalı?
Eğer arabanın içinde manuel olarak biz sürüyor olsaydık,
ne şekilde reaksiyon vereceğimiz,
kasıtlı bir karar
olarak değil, bir reaksiyon olarak görülürdü.
Önceden düşünce veya kasıt olmayan içgüdüsel bir panik hareketi olurdu.
Ama bir programcı arabaya gelecekte hissettiği koşulları göz önüne alarak
aynı hareketi yapmasını emrederse,
bu önceden tasarlanmış bir cinayete benzer.
Adil olmak gerekirse,
sürücüsüz arabaların sürüş denkleminden insan hatasını kaldırarak
trafik kazalarını
ve ölümleri dramatik olarak azaltacağı öngörülüyor.
Artı, belki başka yararları da var:
Rahatlayan trafik sıkışıklığı,
düşen zararlı emisyonlar,
azalan verimsiz ve stresli sürüş zamanı.
Ama kazalar olabilir ve hâlâ olacaktır;
olduğu zamansa,
sonuçları programcılar veya karar alıcılar tarafından
aylar veya yıllar önce belirlenebilir.
Bazı zor kararlar vermeleri gerek.
Zararı azaltmak gibi genel karar alma prensiplerini
koymaları cazip gelmekle birlikte,
bu bile hemen etiksel olarak belirsiz kararlara yol açıyor.
Örneğin,
aynı başlangıç kurulumuna sahibiz diyelim,
ama şimdi solunuzda kask giymiş bir motosikletçi var
ve sağınızda ise kask giymemiş bir motosikletçi var.
Robot arabanız hangisine çarpmalı?
Eğer yaşaması daha muhtemel diye kasklı motosikletçiye derseniz,
o zaman sorumluluk sahibi olan motosikletçiyi cezalandırmıyor musunuz?
Eğer onun yerine sorumsuzca hareket ettiği için
kasksız motosikletçiyi kurtarırsanız,
o zaman zararı azaltma konusundaki ilk tasarım prensibinin çok ötesine geçtiniz
ve robot araba artık yol adaletini pay etmiş olur.
Burada etik düşünceler daha karmaşık hâle geliyor.
Her iki senaryomuzda da,
altta yatan tasarım sözde hedeflenen algoritma olarak işliyor.
Diğer bir deyişle,
çarpmak için belli türde bir nesneyi
sistemli olarak kayırıyor veya ayrım yapıyor.
Hedef araçların sahipleri ise
kendi hataları olmadan bu algoritmanın olumsuz
sonuçlarına katlanacak.
Yeni teknolojilerimiz pek çok değişik etiksel ikileme yol açıyor.
Örneğin, bir kazada hep mümkün olan
en çok hayatı kurtaran ile ne olursa olsun
sizi kurtaran bir araba arasında seçim yapmak zorunda kalsanız
hangisini alırdınız?
Eğer arabalar analiz etmeye ve arabaların yolcularını ve
onların hayatlarının ayrıntılarını dâhil etmeye başlarsa ne olur?
Rastgele bir kararın, zararı azaltmak için
tasarlanmış, önceden belirlenen bir karardan daha iyi olması hâlâ mümkün mü?
Bütün bu kararları bir şekilde kim veriyor?
Programcılar?
Şirketler?
Hükümetler?
Gerçek tam olarak düşünce deneylerimiz gibi olup bitmeyebilir,
ama esas husus bu değil.
Etik konusundaki önsezilerimizi soyutlayarak
stres testi yapmak için tasarlandılar,
aynı bilim deneylerinin fiziksel dünyaya yaptığı gibi.
Bu ahlak virajlarını şimdi fark etmek,
teknoloji etiklerinin bilinmeyen yollarında manevra yapmakta
bize yardımcı olur ve cesur, yeni geleceğimize güvenle
ve dikkatlice yol almamızı sağlar.