1
00:00:07,257 --> 00:00:09,309
Bu bir düşünce deneyi.

2
00:00:09,309 --> 00:00:11,917
Diyelim ki gelecekte, çok da uzak 
olmayan bir noktada,

3
00:00:11,917 --> 00:00:15,505
sürücüsüz arabanızla 
otoyolda hızla giderken

4
00:00:15,505 --> 00:00:19,809
diğer arabalar sizi 
dört bir yandan çeviriyor.

5
00:00:19,809 --> 00:00:24,213
Birden önünüzdeki tırdan 
büyük, ağır bir nesne düşüyor.

6
00:00:24,213 --> 00:00:27,364
Arabanız çarpışmadan kaçınmak için
zamanında duramaz,

7
00:00:27,364 --> 00:00:29,415
o yüzden bir karar vermesi lazım:

8
00:00:29,415 --> 00:00:31,673
Düz gidip nesneye çarpmak,

9
00:00:31,673 --> 00:00:33,953
soldaki cipin üzerine kırmak

10
00:00:33,953 --> 00:00:36,940
veya sağdaki motosikletin üzerine kırmak.

11
00:00:36,940 --> 00:00:40,450
Motosiklete çarparak 
güvenliğinize öncelik mi vermeli,

12
00:00:40,450 --> 00:00:43,267
yandakilere doğru kırmayarak 
tehlikeyi mi azaltmalı,

13
00:00:43,267 --> 00:00:47,346
büyük nesneye çarparak hayatınızı 
feda etmeniz anlamına gelse bile,

14
00:00:47,346 --> 00:00:50,104
yoksa yolcu güvenlik 
puanlaması yüksek olan

15
00:00:50,104 --> 00:00:53,087
cipe çarparak orta yolu mu seçmeli?

16
00:00:53,087 --> 00:00:56,298
Bu durumda sürücüsüz araba ne yapmalı?

17
00:00:56,298 --> 00:00:59,505
Eğer arabanın içinde 
manuel olarak biz sürüyor olsaydık,

18
00:00:59,505 --> 00:01:03,034
ne şekilde reaksiyon vereceğimiz,

19
00:01:03,034 --> 00:01:04,320
kasıtlı bir karar

20
00:01:04,320 --> 00:01:06,571
olarak değil, bir reaksiyon 
olarak görülürdü.

21
00:01:06,571 --> 00:01:10,869
Önceden düşünce veya kasıt olmayan
içgüdüsel bir panik hareketi olurdu.

22
00:01:10,869 --> 00:01:14,519
Ama bir programcı arabaya gelecekte 
hissettiği koşulları göz önüne alarak

23
00:01:14,519 --> 00:01:17,316
aynı hareketi yapmasını emrederse,

24
00:01:17,316 --> 00:01:21,619
bu önceden tasarlanmış 
bir cinayete benzer.

25
00:01:21,619 --> 00:01:22,637
Adil olmak gerekirse,

26
00:01:22,637 --> 00:01:26,709
sürücüsüz arabaların sürüş denkleminden 
insan hatasını kaldırarak

27
00:01:26,709 --> 00:01:27,956
trafik kazalarını

28
00:01:27,956 --> 00:01:31,398
ve ölümleri dramatik olarak 
azaltacağı öngörülüyor.

29
00:01:31,398 --> 00:01:33,512
Artı, belki başka yararları da var:

30
00:01:33,512 --> 00:01:35,150
Rahatlayan trafik sıkışıklığı,

31
00:01:35,150 --> 00:01:36,723
düşen zararlı emisyonlar,

32
00:01:36,723 --> 00:01:41,345
azalan verimsiz ve stresli sürüş zamanı.

33
00:01:41,345 --> 00:01:43,716
Ama kazalar olabilir ve hâlâ olacaktır;

34
00:01:43,716 --> 00:01:44,685
olduğu zamansa,

35
00:01:44,685 --> 00:01:49,147
sonuçları programcılar veya 
karar alıcılar tarafından

36
00:01:49,147 --> 00:01:51,752
aylar veya yıllar önce belirlenebilir.

37
00:01:51,752 --> 00:01:54,252
Bazı zor kararlar vermeleri gerek.

38
00:01:54,252 --> 00:01:57,204
Zararı azaltmak gibi genel 
karar alma prensiplerini

39
00:01:57,204 --> 00:01:59,099
koymaları cazip gelmekle birlikte,

40
00:01:59,099 --> 00:02:02,475
bu bile hemen etiksel olarak 
belirsiz kararlara yol açıyor.

41
00:02:02,475 --> 00:02:03,633
Örneğin,

42
00:02:03,633 --> 00:02:05,641
aynı başlangıç kurulumuna sahibiz diyelim,

43
00:02:05,641 --> 00:02:08,512
ama şimdi solunuzda kask 
giymiş bir motosikletçi var

44
00:02:08,512 --> 00:02:11,309
ve sağınızda ise kask giymemiş 
bir motosikletçi var.

45
00:02:11,309 --> 00:02:14,360
Robot arabanız hangisine çarpmalı?

46
00:02:14,360 --> 00:02:18,442
Eğer yaşaması daha muhtemel diye 
kasklı motosikletçiye derseniz,

47
00:02:18,442 --> 00:02:21,771
o zaman sorumluluk sahibi olan 
motosikletçiyi cezalandırmıyor musunuz?

48
00:02:21,771 --> 00:02:24,115
Eğer onun yerine 
sorumsuzca hareket ettiği için

49
00:02:24,115 --> 00:02:26,106
kasksız motosikletçiyi kurtarırsanız,

50
00:02:26,106 --> 00:02:31,017
o zaman zararı azaltma konusundaki ilk 
tasarım prensibinin çok ötesine geçtiniz

51
00:02:31,017 --> 00:02:34,871
ve robot araba artık yol
adaletini pay etmiş olur.

52
00:02:34,871 --> 00:02:38,403
Burada etik düşünceler 
daha karmaşık hâle geliyor.

53
00:02:38,403 --> 00:02:39,807
Her iki senaryomuzda da,

54
00:02:39,807 --> 00:02:44,400
altta yatan tasarım sözde hedeflenen 
algoritma olarak işliyor.

55
00:02:44,400 --> 00:02:45,299
Diğer bir deyişle,

56
00:02:45,299 --> 00:02:47,809
çarpmak için belli türde bir nesneyi

57
00:02:47,809 --> 00:02:51,298
sistemli olarak kayırıyor 
veya ayrım yapıyor.

58
00:02:51,298 --> 00:02:53,613
Hedef araçların sahipleri ise

59
00:02:53,613 --> 00:02:56,662
kendi hataları olmadan
bu algoritmanın olumsuz

60
00:02:56,662 --> 00:02:58,747
sonuçlarına katlanacak.

61
00:02:58,747 --> 00:03:03,401
Yeni teknolojilerimiz pek çok 
değişik etiksel ikileme yol açıyor.

62
00:03:03,401 --> 00:03:05,482
Örneğin, bir kazada hep mümkün olan

63
00:03:05,482 --> 00:03:09,534
en çok hayatı kurtaran 
ile ne olursa olsun

64
00:03:09,534 --> 00:03:12,565
sizi kurtaran bir araba arasında
seçim yapmak zorunda kalsanız

65
00:03:12,565 --> 00:03:14,262
hangisini alırdınız?

66
00:03:14,262 --> 00:03:17,577
Eğer arabalar analiz etmeye 
ve arabaların yolcularını ve

67
00:03:17,577 --> 00:03:21,047
onların hayatlarının ayrıntılarını 
dâhil etmeye başlarsa ne olur?

68
00:03:21,047 --> 00:03:23,219
Rastgele bir kararın, 
zararı azaltmak için

69
00:03:23,219 --> 00:03:28,125
tasarlanmış, önceden belirlenen bir
karardan daha iyi olması hâlâ mümkün mü?

70
00:03:28,125 --> 00:03:30,878
Bütün bu kararları 
bir şekilde kim veriyor?

71
00:03:30,878 --> 00:03:31,972
Programcılar?

72
00:03:31,972 --> 00:03:32,908
Şirketler?

73
00:03:32,908 --> 00:03:34,352
Hükümetler?

74
00:03:34,352 --> 00:03:37,566
Gerçek tam olarak düşünce 
deneylerimiz gibi olup bitmeyebilir,

75
00:03:37,566 --> 00:03:39,232
ama esas husus bu değil.

76
00:03:39,232 --> 00:03:41,433
Etik konusundaki 
önsezilerimizi soyutlayarak

77
00:03:41,433 --> 00:03:43,603
stres testi yapmak için tasarlandılar,

78
00:03:43,603 --> 00:03:46,589
aynı bilim deneylerinin 
fiziksel dünyaya yaptığı gibi.

79
00:03:46,589 --> 00:03:49,979
Bu ahlak virajlarını şimdi fark etmek,

80
00:03:49,979 --> 00:03:53,550
teknoloji etiklerinin bilinmeyen 
yollarında manevra yapmakta

81
00:03:53,550 --> 00:03:57,301
bize yardımcı olur ve 
cesur, yeni geleceğimize güvenle

82
00:03:57,301 --> 00:03:59,648
ve dikkatlice yol almamızı sağlar.