Το ηθικό δίλημμα των αυτοοδηγούμενων οχημάτων - Πάτρικ Λιν

Δείτε ολόκληρο το μάθημα: http://ed.ted.com/lessons/the-ethical-dilemma-of-self-driving-cars-patrick-lin

Τα αυτοοδηγούμενα οχήματα κυκλοφορούν ήδη στους δρόμους. Και παρόλο που τελικά θα είναι ασφαλέστερα και πιο καθαρά για το περιβάλλον από τους χειροκίνητους προκατόχους τους, δεν μπορούν να αποφύγουν τελείως τα ατυχήματα. Πως θα έπρεπε το αμάξι να έχει προγραμματιστεί όταν αντιμετωπίζει ένα αναπόφευκτο ατύχημα; Ο Πάτρικ Λιν μας καθοδηγεί στην θολή εικόνα της ηθικής των αυτοοδηγούμενων οχημάτων.

Μάθημα από τον Πάτρικ Λιν, κινούμενη εικόνα από τον Γουκάι Ντου.

Αυτό είναι ένα πείραμα σκέψης.

Ας πούμε ότι μια μέρα
στο όχι και τόσο μακρινό μέλλον,

βρίσκεσαι στον αυτοκινητόδρομο
με το αυτοοδηγούμενο όχημα σου

και παγιδεύεσαι από όλες τις μεριές
από άλλα αυτοκίνητα.

Ξαφνικά ένα μεγάλο και βαρύ αντικείμενο
πέφτει από το φορτηγό μπροστά σου.

Το αυτοκίνητο σου δεν προλαβαίνει
να σταματήσει έγκαιρα για να το αποφύγει,

οπότε πρέπει να πάρει μια απόφαση:

συνεχίζει ευθεία
και χτυπάει στο αντικείμενο,

στρίβει αριστερά
και χτυπάει στο φορτηγάκι,

ή στρίβει δεξιά
και χτυπάει στην μηχανή.

Πρέπει για την ασφάλεια σου
να χτυπήσει την μηχανή,

να ελαχιστοποιήσει τον κίνδυνο
για τους υπόλοιπους μη στρίβοντας,

ακόμα κι αν αυτό σημαίνει να χτυπήσει
το αντικείμενο και να σκοτωθείς,

ή ακολουθεί την μέση λύση
χτυπώντας το φορτηγάκι,

το οποίο προσφέρει μεγάλη
παθητική ασφάλεια στους επιβάτες του;

Λοιπόν, τι θα έπρεπε να κάνει
το αυτοοδηγούμενο όχημα;

Αν οδηγούσαμε αυτό το παγιδευμένο
αυτοκίνητο χειροκίνητα,

οποιαδήποτε αντίδρασή μας
θα εκλαμβανόταν ως ένα μόνο πράγμα:

ως μια αντίδραση

και όχι ως μια εκούσια απόφαση.

Θα ήταν μια ενστικτώδης πανικόβλητη
αντίδραση χωρίς υστεροβουλία.

Αλλά αν ένας προγραμματιστής έπρεπε
να δώσει οδηγίες στο αμάξι

να αντιδράσει με τον ίδιο τρόπο
σε δεδομένες συνθήκες στο μέλλον,

αυτό μάλλον μοιάζει
με ανθρωποκτονία εκ προμελέτης.

Για να είμαστε δίκαιοι,

τα αυτοοδηγούμενα οχήματα προβλέπεται
να μειώσουν εντυπωσιακά

τα τροχαία ατυχήματα και τους θανάτους

απομακρύνοντας το ανθρώπινο λάθος
από την οδηγική εξίσωση.

Επίσης, θα υπάρχουν και άλλα οφέλη:

συντονισμένη κυκλοφορία,

μειωμένες εκπομπές ρύπων,

και ελαχιστοποίηση του μη παραγωγικού
και στρεσογόνου οδηγικού χρόνου.

Αλλά τα ατυχήματα
θα συνεχίσουν να γίνονται,

και όταν θα γίνονται

τα αποτελέσματα τους ίσως να καθορίζονται
μήνες και χρόνια εκ των προτέρων

από προγραμματιστές
ή διαμορφωτές πολιτικής.

Και θα πρέπει να πάρουν
αρκετά δύσκολες αποφάσεις.

Είναι δελεαστικό να βάλουμε
γενικές καθοριστικές αρχές,

όπως το ελάχιστο κακό,

αλλά ακόμα κι αυτό γρήγορα οδηγεί
σε ηθικά σκοτεινές αποφάσεις.

Για παράδειγμα,

ας πούμε ότι έχουμε την ίδια διευθέτηση,

αλλά τώρα υπάρχει ένας μοτοσυκλετιστής
με κράνος στα αριστερά

και ένας άλλος χωρίς κράνος
στα δεξιά σου.

Με ποιον από τους δύο
θα έπρεπε να συγκρουστεί;

Αν πεις τον αναβάτη με το κράνος,
επειδή είναι πιο πιθανό να επιβιώσει,

δεν τιμωρείς τότε
τον υπεύθυνο μοτοσυκλετιστή;

Αν αντιθέτως, πεις τον αναβάτη
χωρίς το κράνος

επειδή φέρεται ανεύθυνα,

τότε έχεις ξεφύγει κατά πολύ από την
αρχικά παραδεκτή αρχή της ελάχιστης ζημιάς

και το ρομπότ-αυτοκίνητο αποδίδει
πλέον δικαιοσύνη του δρόμου.

Εδώ οι ηθικές ανησυχίες
γίνονται πιο πολύπλοκες.

Και στα δύο σενάρια,

το βασικό σχέδιο λειτουργεί σαν ένας
αλγόριθμος στοχοποίησης ανά είδος.

Με άλλα λόγια,

συστηματικά προτιμάει ή ξεχωρίζει

έναν συγκεκριμένο τύπο οχημάτων
με τον οποίο θα συγκρούεται.

Και οι ιδιοκτήτες
των στοχευόμενων οχημάτων

θα υποστούν τις αρνητικές επιπτώσεις
αυτού του αλγόριθμου

χωρίς να φταίνε σε τίποτα.

Οι καινούργιες τεχνολογίες ανοίγουν πολλά
ακόμα πρωτότυπα ηθικά διλήμματα.

Για παράδειγμα αν έπρεπε
να διαλέξεις ανάμεσα

σε ένα αυτοκίνητο που θα έσωζε όσες
περισσότερες ζωές γίνεται σε ένα ατύχημα,

ή ένα που θα έσωζε εσένα με κάθε κόστος,

ποιο θα αγόραζες;

Τι θα συνέβαινε αν τα αμάξια άρχιζαν
να αναλύουν και να παραγοντοποιούν

τους επιβάτες των αυτοκινήτων
και στοιχεία από την ζωή τους;

Υπάρχει περίπτωση μια τυχαία απόφαση

να είναι καλύτερη από μια προκαθορισμένη
σχεδιασμένη να ελαχιστοποιεί την ζημιά;

Και ποιος θα έπρεπε να παίρνει
τελικά όλες αυτές τις αποφάσεις;

Προγραμματιστές;

Εταιρίες;

Κυβερνήσεις;

Η πραγματικότητα μπορεί να μην εξελιχτεί
ακριβώς όπως τα πειράματα σκέψης,

αλλά δεν είναι αυτό το θέμα.

Είναι σχεδιασμένα να απομονώνουν και να
δοκιμάζουν την αντίληψη μας περί ηθικής,

ακριβώς όπως τα επιστημονικά πειράματα
κάνουν στον φυσικό κόσμο.

Εντοπίζοντας αυτά τα ηθικά προβλήματα
από τώρα

θα μας βοηθήσει να ελιχθούμε στον άγνωστο
δρόμο της τεχνολογικής ηθικής,

και θα μας επιτρέψει να οδηγηθούμε
με αυτοπεποίθηση και σιγουριά

στο πολλά υποσχόμενο μέλλον.