Sürücüsüz arabaların etiksel ikilemi - Patrick Lin

Dersin tamamı için: ttp://ed.ted.com/lessons/the-ethical-dilemma-of-self-driving-cars-patrick-lin

Sürücüsüz arabalar bugün yollarda boy gösteriyor. Bu arabalar, manüel benzerlerinden sonuç olarak daha güvenli ve temiz olsa da, kazaları tamamen engelleyemezler. Eğer engellenemez bir kazayla karşılaşırsa, araba nasıl programlanmalı? Patrick Lin sürücüsüz arabaların belirli olmayan etiğine doğru yola çıkıyor.

Ders: Patrick Lin, animasyon: Yukai Du.

Bu bir düşünce deneyi.

Diyelim ki gelecekte, çok da uzak
olmayan bir noktada,

sürücüsüz arabanızla
otoyolda hızla giderken

diğer arabalar sizi
dört bir yandan çeviriyor.

Birden önünüzdeki tırdan
büyük, ağır bir nesne düşüyor.

Arabanız çarpışmadan kaçınmak için
zamanında duramaz,

o yüzden bir karar vermesi lazım:

Düz gidip nesneye çarpmak,

soldaki cipin üzerine kırmak

veya sağdaki motosikletin üzerine kırmak.

Motosiklete çarparak
güvenliğinize öncelik mi vermeli,

yandakilere doğru kırmayarak
tehlikeyi mi azaltmalı,

büyük nesneye çarparak hayatınızı
feda etmeniz anlamına gelse bile,

yoksa yolcu güvenlik
puanlaması yüksek olan

cipe çarparak orta yolu mu seçmeli?

Bu durumda sürücüsüz araba ne yapmalı?

Eğer arabanın içinde
manuel olarak biz sürüyor olsaydık,

ne şekilde reaksiyon vereceğimiz,

kasıtlı bir karar

olarak değil, bir reaksiyon
olarak görülürdü.

Önceden düşünce veya kasıt olmayan
içgüdüsel bir panik hareketi olurdu.

Ama bir programcı arabaya gelecekte
hissettiği koşulları göz önüne alarak

aynı hareketi yapmasını emrederse,

bu önceden tasarlanmış
bir cinayete benzer.

Adil olmak gerekirse,

sürücüsüz arabaların sürüş denkleminden
insan hatasını kaldırarak

trafik kazalarını

ve ölümleri dramatik olarak
azaltacağı öngörülüyor.

Artı, belki başka yararları da var:

Rahatlayan trafik sıkışıklığı,

düşen zararlı emisyonlar,

azalan verimsiz ve stresli sürüş zamanı.

Ama kazalar olabilir ve hâlâ olacaktır;

olduğu zamansa,

sonuçları programcılar veya
karar alıcılar tarafından

aylar veya yıllar önce belirlenebilir.

Bazı zor kararlar vermeleri gerek.

Zararı azaltmak gibi genel
karar alma prensiplerini

koymaları cazip gelmekle birlikte,

bu bile hemen etiksel olarak
belirsiz kararlara yol açıyor.

Örneğin,

aynı başlangıç kurulumuna sahibiz diyelim,

ama şimdi solunuzda kask
giymiş bir motosikletçi var

ve sağınızda ise kask giymemiş
bir motosikletçi var.

Robot arabanız hangisine çarpmalı?

Eğer yaşaması daha muhtemel diye
kasklı motosikletçiye derseniz,

o zaman sorumluluk sahibi olan
motosikletçiyi cezalandırmıyor musunuz?

Eğer onun yerine
sorumsuzca hareket ettiği için

kasksız motosikletçiyi kurtarırsanız,

o zaman zararı azaltma konusundaki ilk
tasarım prensibinin çok ötesine geçtiniz

ve robot araba artık yol
adaletini pay etmiş olur.

Burada etik düşünceler
daha karmaşık hâle geliyor.

Her iki senaryomuzda da,

altta yatan tasarım sözde hedeflenen
algoritma olarak işliyor.

Diğer bir deyişle,

çarpmak için belli türde bir nesneyi

sistemli olarak kayırıyor
veya ayrım yapıyor.

Hedef araçların sahipleri ise

kendi hataları olmadan
bu algoritmanın olumsuz

sonuçlarına katlanacak.

Yeni teknolojilerimiz pek çok
değişik etiksel ikileme yol açıyor.

Örneğin, bir kazada hep mümkün olan

en çok hayatı kurtaran
ile ne olursa olsun

sizi kurtaran bir araba arasında
seçim yapmak zorunda kalsanız

hangisini alırdınız?

Eğer arabalar analiz etmeye
ve arabaların yolcularını ve

onların hayatlarının ayrıntılarını
dâhil etmeye başlarsa ne olur?

Rastgele bir kararın,
zararı azaltmak için

tasarlanmış, önceden belirlenen bir
karardan daha iyi olması hâlâ mümkün mü?

Bütün bu kararları
bir şekilde kim veriyor?

Programcılar?

Şirketler?

Hükümetler?

Gerçek tam olarak düşünce
deneylerimiz gibi olup bitmeyebilir,

ama esas husus bu değil.

Etik konusundaki
önsezilerimizi soyutlayarak

stres testi yapmak için tasarlandılar,

aynı bilim deneylerinin
fiziksel dünyaya yaptığı gibi.

Bu ahlak virajlarını şimdi fark etmek,

teknoloji etiklerinin bilinmeyen
yollarında manevra yapmakta

bize yardımcı olur ve
cesur, yeni geleceğimize güvenle

ve dikkatlice yol almamızı sağlar.