Wyobraź sobie kolejkę pędzącą po torach
wprost na pięciu robotników, którzy nie mają jak uciec.
Stoisz obok dźwigni,
która przekieruje kolejkę na drugi tor.
Ale jest problem.
Na drugim torze też stoi robotnik.
Co zrobisz?
Czy uratujesz pięć osób kosztem jednej?
To dylemat wagonika,
eksperyment etyczny stworzony przez filozof Philippę Foot w 1967 roku.
Zyskał popularność, bo zmusza do refleksji nad tym,
co wybrać, kiedy nie ma dobrego wyjścia.
Czy postąpimy zgodnie z najlepszym rezultatem,
czy kodeksem moralnym, który zabrania zabijania?
W badaniu około 90% respondentów odpowiedziało, że pociągnęłoby za dźwignię
i poświęciło życie jednego robotnika, aby uratować pięciu.
Podobne wyniki dały badania z wirtualną symulacją dylematu.
Opinie te są zgodne z filozoficzną zasadą utylitaryzmu,
która mówi, że najwłaściwsza moralnie
jest decyzja maksymalizująca dobro jak największej liczby osób.
Pięć istnień znaczy więcej niż jedno,
nawet jeśli będzie to oznaczało skazanie kogoś na śmierć.
Ale ludzie nie zawsze dokonują utylitarystycznych wyborów,
co można łatwo zauważyć, jeśli zmienimy zasady dylematu.
Tym razem stoisz na moście nad torami
tuż przed przyjazdem kolejki.
Nie ma drugiego toru,
ale obok ciebie na moście stoi otyły człowiek.
Jeśli go popchniesz, swoim ciałem zatrzyma kolejkę
i uratuje pięciu robotników,
ale sam zginie.
Utylitaryści nie zmieniają decyzji.
Poświęcą jedną osobę, żeby uratować pięć.
Ale w tym wypadku tylko 10% badanych uważa,
że można zepchnąć człowieka z mostu.
Instynkt mówi nam, że celowe spowodowanie śmierci
to co innego, niż przyzwolenie na śmierć jako skutek uboczny.
Choć trudno to wyjaśnić, wydaje nam się to złe.
To dzięki skrzyżowaniu etyki z psychologią
dylemat wagonika jest tak ciekawy.
Różne wersje dylematu pokazują, że postrzeganie dobra i zła
zależy nie tylko od logicznego bilansu zysków i strat.
Mężczyźni częściej niż kobiety odpowiadali,
że zepchnęliby człowieka z mostu.
Podobnie jak uczestnicy, którym przed badaniem pokazano komedię.
W badaniu z wirtualną rzeczywistością
uczestnicy woleli poświęcić mężczyznę niż kobietę.
Naukowcy badali aktywność mózgu
uczestników wersji klasycznej i wersji z mostem.
Obie wersje aktywują obszary mózgu odpowiadające za świadome decyzje
i reakcje emocjonalne.
Ale w wersji z mostem reakcja emocjonalna była silniejsza.
Większa była też aktywność obszaru mózgu
odpowiadająca za rozważanie wewnętrznych konfliktów.
Skąd ta różnica?
Może zrzucanie kogoś z mostu wydaje się bardziej osobiste,
aktywując emocjonalną niechęć do zabicia drugiej osoby.
Jednocześnie czujemy się rozdarci, bo wiemy, że to wybór logiczny.
Część filozofów i psychologów krytykuje dylemat wagonika.
Ich zdaniem nie dowodzi on niczego, bo jego założenia są tak nierealne,
że uczestnicy nie traktują ich poważnie.
Rozwój technologii sprawia jednak, że ten rodzaj analizy etycznej
jest ważniejszy niż kiedykolwiek.
Na przykład samochody bez kierowcy mogą być zmuszone dokonać wyborów
takich jak spowodowanie mniejszego wypadku.
Rządy pracują nad samodzielnymi dronami wojskowymi,
które być może zdecydują, czy poświęcić życie cywilów,
żeby zaatakować strategiczny cel.
Jeśli chcemy, żeby wybierały etycznie,
musimy zawczasu zdecydować, na ile cenimy ludzkie życie
i czy wybieramy mniejsze zło.
Dlatego przy tworzeniu systemów decyzyjnych
naukowcy współpracują z filozofami,
aby rozwiązać problem etyki w działaniu maszyn.
To pokazuje, że nawet z hipotetycznymi dylematami
możemy kiedyś zetknąć się w rzeczywistości.