Das ethische Dilemma der selbstfahrenden Autos – Patrick Lin

Die ganze Lektion unter: http://ed.ted.com/lessons/the-ethical-dilemma-of-self-driving-cars-patrick-lin

Selbstfahrende Autos sind bereits heute auf den Straßen unterwegs. Während diese Autos letztendlich sicherer und sauberer sein werden, als ihre manuellen Vorgänger, können auch sie Unfälle nicht komplett verhindern. Doch wie sollte das Auto programmiert werden, wenn es mit einem unvermeidbaren Unfall konfrontiert ist? Patrick Lin navigiert durch die schwierigen ethischen Fragen der selbstfahrenden Autos.

Lektion von Patrick Lin, Animation von Yukai Du.

Dies ist ein Gedankenexperiment.

Angenommen, Sie fahren in naher Zukunft

in Ihrem selbstfahrenden Auto
auf der Autobahn

und sind von allen Seiten von
anderen Fahrzeugen umgeben.

Plötzlich fällt vom LKW vor Ihnen
ein großer, schwerer Gegenstand.

Ihr Auto kann einen
Zusammenstoß nicht vermeiden,

also muss es entscheiden:

darauf zufahren und das Objekt rammen,

nach links in einen SUV ausweichen,

oder nach rechts in ein Motorrad?

Sollte es Ihre Sicherheit priorisieren,
indem es Letzteres anfährt,

die Gefahr für andere minimieren,
indem es nicht ausweicht,

selbst wenn dies einen Zusammenstoß,
und damit Ihren Tod bedeuten könnte,

oder den Mittelweg wählen,
indem es den SUV trifft,

der die Insassen besser schützt?

Was sollte das selbstfahrende Auto tun?

Wenn wir das eingezwängte Auto
selbst im manuellen Modus fahren,

würde es, egal wie wir reagierten,
als genau dies verstanden werden:

eine Reaktion,

keine bewusste Entscheidung.

Es wäre eine instinktive Panikreaktion,
ohne Voraussicht oder Böswilligkeit.

Aber würde das Auto so programmiert,
dass es dasselbe Manöver ausführt,

wenn es merkt, dass bestimmte
Bedingungen erfüllt sind,

dann sähe dies eher
nach vorsätzlicher Tötung aus.

Bleiben wir fair:

Selbstfahrende Autos sollen die
Anzahl der Unfälle und Verkehrstoten

drastisch reduzieren,

indem menschliches Versagen
beim Fahren verhindert wird.

Es könnte auch viele
weitere Vorteile geben:

Weniger Stau,

weniger schädliche Abgase

und weniger unproduktive,
stressige Fahrzeit.

Aber Unfälle können und werden passieren,

und wenn es so ist,

wird ihr Ausgang vielleicht Monate
oder Jahre im Voraus bestimmt werden,

und zwar von Programmierern
oder Entscheidungsträgern,

die schwierige Entscheidungen
werden treffen müssen.

Man mag versucht sein
grundsätzliche Entscheidungsprinzipien,

wie Schadensminimierung, zu formulieren,

doch selbst dies kann zu moralisch
fragwürdigen Entscheidungen führen.

Sagen wir mal,

wir hätten die gleiche Ausgangssituation,

aber jetzt ist links
eine Rollerfahrerin mit Helm

und rechts fährt jemand ohne Helm.

Wen soll das Roboterauto rammen?

Nimmt man die Fahrerin mit Helm,
da sie eher überleben wird,

bestraft man dann nicht
verantwortungsbewusste Fahrer?

Nimmt man den Fahrer ohne Helm,

da er verantwortungslos handelt,

dann stellt man sich über das
ursprüngliche Schadensminimierungsprinzip

und das Roboterauto übt Selbstjustiz.

Die ethischen Erwägungen
werden hier komplizierter.

In beiden Szenarien

fungiert das zugrundeliegende Konstrukt
quasi als algorithmische Zielvorrichtung.

Anders gesagt,

favorisiert oder diskriminiert
es systematisch

bestimmte Objekte,
die gerammt werden sollten.

Und die Besitzer der Zielfahrzeuge

werden die negativen Konsequenzen
dieses Algorithmus tragen,

und zwar ohne eigenes Verschulden.

Unsere neuen Technologien bringen viele
neuartige ethische Dilemmata mit sich.

Hättest du etwa die Wahl
zwischen einem Auto,

das bei einem Unfall stets
so viele Leben wie möglich retten würde,

und einem Auto, das
definitiv dich retten würde,

welches würdest du kaufen?

Was passiert, wenn Autos anfangen,
ihre Insassen und die Details

aus deren Leben zu analysieren
und zu integrieren?

Ist eine zufällige Entscheidung besser,

als eine vorgegebene mit dem
Ziel der Schadensminimierung?

Und wer sollte all diese
Entscheidungen überhaupt treffen?

Programmierer?

Unternehmen?

Regierungen?

Unsere Gedankenexperimente
werden zwar nicht unbedingt Realität,

aber darum geht es nicht.

Sie sollen unsere Moralvorstellungen
ausloten und hinterfragen,

wie wissenschaftliche Experimente
über die physische Welt.

Wenn wir diese moralischen
Haarnadelkurven jetzt entdecken,

können wir die unbekannten Straßen
der Technologieethik bewältigen,

was uns ermöglicht,
souverän und gewissenhaft

in eine schöne neue Zukunft zu fahren.