Tämä on ajatuskoe.
Kuvittele, että jossain vaiheessa lähitulevaisuudessa
ajat itseohjautuvalla autolla valtatietä
ja huomaat olevasi muiden autojen välissä.
Yhtäkkiä raskas esine tipahtaa edelläsi kulkevasta rekasta eteesi.
Autosi ei voi pysähtyä ajoissa välttääkseen törmäystä,
joten sen on tehtävä päätös:
mennä suoraan esinettä päin
kaarrettava vasemmalla olevaan citymaasturiin
tai oikealle moottoriåyötää päin.
Pitäisikö sen priorisoida sinun etuasi törmäämällä moottoripyörään.
minimoida muiden vahinkoja pysymällä kaistalla,
vaikka se tarkoittaisi törmäämistä ja sinun elämäsi uhraamista,
vai törmätä maasturiin,
jolla on korkein luokitus matkustajaturvallisuudessa?
Mitä siis itseohjautuvan auton tulisi tehdä?
Jos ajaisimme autoa itse,
reaktiomme ymmärrettäisiin juuri sellaisena,
eli reaktiona,
ei tietoisena päätöksenä.
Se tulkittaisiin paniikinomaisena liikkeenä ilman pahaa tarkoitusta.
Mutta jos ohjelmoija antaa autolle ohjeet samaan liikkeeseen
määrittäen ehdot, joita se voi kohdata tulevaisuudessa,
se alkaisi näyttää enemmän harkitulta murhalta.
Ollaksemme reiluja:
itseohjautuvien autojen on ennustettu vähentävän onnettomuuksia dramaattisesti,
samoin kuolemia,
poistamalla yhtälöstä inhimillisen erehdyksen.
Niistä voi olla myös muunlaista hyötyä:
sujuvampaa liikennettä,
päästöjen vähentymistä.
ja vähemmän tuottamatonta ja stressaavaa ajoaikaa.
Onnettomuuksia voi silti tapahtua, ja tapahtuu,
ja kun niin käy,
lopputuloksen on ehkä määritellyt kuukausia tai vuosia sitten
ohjelmoija tai päättäjä.
Heillä on edessään vaikeita päätöksiä.
On houkuttavaa tarjota yleisiä päätöksentekoperiaatteita,
kuten haitan minimointia,
mutta jopa tämä johtaa pian moraalisesti hämäriin päätöksiin.
Esimerkiksi
oletetaan lähtötilanne muuten samaksi,
mutta nyt vasemmalla on kypäräpäinen moottoripyöräilijä
ja oikealla kypärätön.
Kumpaan robottiautosi tulisi törmätä?
Jos valitset kypäräpäisen siksi, että hän selviytyy todennäköisemmin,
etkö silloin rankaise vastuullista motoristia?
Jos taas valitset kypärättä ajavan pyöräilijän,
koska hän käyttäytyy vastuuttomasti,
olet kaukana alkuperäisestä ohjeesta vanhinkojen minimoimisesta
ja robottiauto harjoittaakin nyt katuoikeutta.
Eettinen pohdinta mutkistuu.
Molemmissa skenaarioissa
suunnitelma perustuu kohteen luokittelualgoritmiin.
Toisin sanoen
se systemaattisesti suosii tai syrjii
tiettyjä kohteita törmäystilanteessa.
Kohdeajoneuvojen kuljettajat
kärsivät näiden algoritmien kielteiset seuraukset
ilman omaa syytään.
Teknologiamme avaa tien uusille eettisille dilemmoille.
Esimerkiksi jos sinun on valittava
auto, joka aina pelastaisi onnettomuudessa mahdollisimman monta elämä,
tai auto, joka pelastaisi aina sinut,
kumman ostaisit?
Mitä tapahtuu, jos auto alkaa analysoida ja arvioida
auton matkustajien elämien arvoa?
Voiko sattumaan perustuva päätös
ollakin parempi kuin ennalta haitan minimoimiseen perustuva päätös?
Ja kenelle nämä päätökset kuuluvat?
Ohjelmoijille?
Yrityksille?
Hallituksille?
Todellisuus ei aina toimi kuten ajatuskokeemme,
mutta se ei ole tärkeää.
Niiden avulla voi eristää ja testata eettisiä intuitioitamme,
kuten tieteelliset kokeet testaavat fyysistä maailmaa.
Kun huomaamme näitä moraalisia käänteitä nyt,
se auttaa kulkemaan teknologian etiikan uusilla poluilla
ja kuljettaa meidät varmasti ja tietoisesti
kohti uljasta uutta tulevaisuutta.