Đây là một thử nghiệm về nhận thức.
Giả sử tại một thời điểm nào đó không xa,
bạn đang đi trên đường cao tốc trong chiếc xe tự lái của bạn,
và bạn bị vây quanh bởi các xe khác.
Bỗng nhiên, một vật to và nặng rơi xuống từ chiếc xe tải ngay trước mặt bạn.
Bạn không thể dừng lại lập tức để tránh bị va chạm,
nên bạn cần ra quyết định lập tức:
đi thẳng và đụng vào vật đó,
quẹo trái trúng chiếc SUV,
hay quẹo phải trúng chiếc xe máy.
Chiếc xe sẽ ưu tiên sự an toàn của bạn bằng cách tông vào xe máy,
giảm nguy hiểm cho người khác bằng cách đi thẳng,
mặc dù đó nghĩa là tông vào vật lớn và hi sinh mạng sống của bạn,
hay lựa chọn tông vào chiếc SUV,
khi mà khả năng an toàn cho hành khách trên xe khá cao?
Vậy xe tự lái sẽ làm gì?
Nếu chúng ta chạy xe ở chế độ người lái,
cách phản ứng nào của chúng ta đều được xem là,
một phản ứng đơn thuần,
không phải một quyết định có tính suy xét.
Nó sẽ là phản ứng tự nhiên mà không có sự suy nghĩ hay ý đồ xấu.
Nhưng nếu một người lập trình ra lệnh cho chiếc xe phản ứng tương tự,
trong một tình huống có thể xảy ra ở tương lai,
có thể bị coi là giết người có chủ đích.
Để công bằng,
xe tự lái được cho là sẽ giảm thiểu tai nạn giao thông đáng kể
và tỉ lệ thương vong
bằng việc loại bỏ sự sai sót của con người trong phương trình lái xe.
Và, còn có những lợi ích khác:
giảm tắc đường,
giảm khí thải độc hại,
và rút ngắn thời gian lái xe vô bổ và căng thẳng.
Nhưng tai nạn vẫn và sẽ tiếp tục xảy ra,
và khi đó,
hậu quả của nó có thể đã được xác định vài tháng hay vài năm trước đó
bởi người lập trình viên hay nhà hoạch định chính sách
Và họ sẽ phải đưa ra những quyết định khó khăn.
Chúng ta thường hướng tới những nguyên tắc ra quyết định
như giảm thiểu thiệt hại,
nhưng những nguyên tắc này cũng gặp phải các vấn đề đạo đức.
Ví dụ như,
trong hoàn cảnh tương tự,
nhưng giờ người đi xe máy phía bên trái có đội nón bảo hiểm
và một người khác không đội nón bên phải bạn.
Xe tự lái của bạn sẽ chọn tông vào ai?
Nếu bạn nói người đó là người có nón bảo hiểm vì khả năng sống sót cao hơn,
vậy nghĩa là bạn đang trừng phạt một người lái xe có trách nhiệm?
Nói cách khác, bạn sẽ cứu người không có nón
bời vì anh ta hành động vô trách nhiệm,
khi đó bạn đã đi quá xa khỏi ranh giới nguyên tắc giảm thiểu thiệt hại,
và chiếc xe giờ đối mặt với công lý trên đường.
Vần đề đạo đức càng trở nên phức tạp hơn.
Trong cả hai tình huống trên,
thiết kế mấu chốt đang hoạt động như một hàm số.
Nói cách khác,
nó lựa chọn và lọc ra có hệ thống
những vật mà xe tự lái có thể va chạm.
Và người điều khiển phương tiện mục tiêu
sẽ phải chịu những hậu quả từ hàm số này
mặc dù họ không có lỗi.
Công nghệ mới của chúng ta đang mở ra nhiều tình huống nan giải khác.
Ví dụ, nếu bạn phải lựa chọn giữa việc
một chiếc xe luôn cố gắng cứu càng nhiều mạng người càng tốt khi tai nạn xảy ra,
và chiếc xe chỉ cứu sống bạn bằng mọi giá,
bạn sẽ mua chiếc nào?
Điều gì sẽ xảy ra nếu những chiếc xe tự phân tích và bao hàm
các hành khách trên xe và mạng sống của từng người?
Như vậy, liệu một quyết định ngẫu nhiên
sẽ tốt hơn là quyết định có suy tính trước để giảm thiểu thiệt hại?
Và ai sẽ là người ra những quyết định này?
Lập trình viên?
Công ty?
Chính phủ?
Thực tế có thể sẽ không giống thử nghiệm của chúng ta,
nhưng đó không phải là điểm chính.
Các thử nghiệm nhằm cô lập và thử thách trực giác của chúng ta về đạo đức,
giống như thí nghiệm khoa học đã làm trong thế giới vật chất.
Nhận ra các phương diện về mặt đạo đức
sẽ giúp chúng ta tinh chỉnh đạo đức công nghệ trên con đường mới mẻ,
và cho phép ta tự tin và sáng suốt trong hành trình
vào một tương lai tươi sáng.