Finnish subtitles

← Itseohjautuvien autojen eettinen dilemma - Patrick Lin

Get Embed Code
27 Languages

Showing Revision 3 created 07/27/2020 by Ulla Vainio.

  1. Tämä on ajatuskoe.
  2. Kuvittele, että jossain vaiheessa
    lähitulevaisuudessa

  3. ajat itseohjautuvalla autolla
    valtatietä
  4. ja huomaat olevasi muiden autojen
    välissä.
  5. Yhtäkkiä raskas esine tipahtaa edelläsi
    kulkevasta rekasta eteesi.
  6. Autosi ei voi pysähtyä ajoissa
    välttääkseen törmäystä,
  7. joten sen on tehtävä päätös:
  8. mennä suoraan esinettä päin
  9. kaarrettava vasemmalla olevaan
    citymaasturiin
  10. tai oikealle moottoriåyötää päin.
  11. Pitäisikö sen priorisoida sinun etuasi
    törmäämällä moottoripyörään.
  12. minimoida muiden vahinkoja
    pysymällä kaistalla,
  13. vaikka se tarkoittaisi törmäämistä ja
    sinun elämäsi uhraamista,
  14. vai törmätä maasturiin,
  15. jolla on korkein luokitus
    matkustajaturvallisuudessa?
  16. Mitä siis itseohjautuvan auton tulisi
    tehdä?
  17. Jos ajaisimme autoa itse,

  18. reaktiomme ymmärrettäisiin
    juuri sellaisena,
  19. eli reaktiona,
  20. ei tietoisena päätöksenä.
  21. Se tulkittaisiin paniikinomaisena
    liikkeenä ilman pahaa tarkoitusta.
  22. Mutta jos ohjelmoija antaa autolle
    ohjeet samaan liikkeeseen
  23. määrittäen ehdot, joita se voi kohdata
    tulevaisuudessa,
  24. se alkaisi näyttää enemmän
    harkitulta murhalta.
  25. Ollaksemme reiluja:

  26. itseohjautuvien autojen on ennustettu
    vähentävän onnettomuuksia dramaattisesti,
  27. samoin kuolemia,
  28. poistamalla yhtälöstä
    inhimillisen erehdyksen.
  29. Niistä voi olla myös muunlaista
    hyötyä:
  30. sujuvampaa liikennettä,
  31. päästöjen vähentymistä.
  32. ja vähemmän tuottamatonta ja
    stressaavaa ajoaikaa.
  33. Onnettomuuksia voi silti tapahtua,
    ja tapahtuu,
  34. ja kun niin käy,
  35. lopputuloksen on ehkä määritellyt
    kuukausia tai vuosia sitten
  36. ohjelmoija tai päättäjä.
  37. Heillä on edessään vaikeita
    päätöksiä.
  38. On houkuttavaa tarjota yleisiä
    päätöksentekoperiaatteita,
  39. kuten haitan minimointia,
  40. mutta jopa tämä johtaa pian
    moraalisesti hämäriin päätöksiin.
  41. Esimerkiksi

  42. oletetaan lähtötilanne muuten samaksi,
  43. mutta nyt vasemmalla on
    kypäräpäinen moottoripyöräilijä
  44. ja oikealla kypärätön.
  45. Kumpaan robottiautosi tulisi
    törmätä?
  46. Jos valitset kypäräpäisen siksi,
    että hän selviytyy todennäköisemmin,
  47. etkö silloin rankaise vastuullista
    motoristia?
  48. Jos taas valitset kypärättä ajavan
    pyöräilijän,
  49. koska hän käyttäytyy vastuuttomasti,
  50. olet kaukana alkuperäisestä ohjeesta
    vanhinkojen minimoimisesta
  51. ja robottiauto harjoittaakin nyt
    katuoikeutta.
  52. Eettinen pohdinta mutkistuu.

  53. Molemmissa skenaarioissa
  54. suunnitelma perustuu kohteen
    luokittelualgoritmiin.
  55. Toisin sanoen
  56. se systemaattisesti suosii tai
    syrjii
  57. tiettyjä kohteita törmäystilanteessa.
  58. Kohdeajoneuvojen kuljettajat
  59. kärsivät näiden algoritmien kielteiset
    seuraukset
  60. ilman omaa syytään.
  61. Teknologiamme avaa tien uusille
    eettisille dilemmoille.

  62. Esimerkiksi jos sinun on valittava
  63. auto, joka aina pelastaisi onnettomuudessa
    mahdollisimman monta elämä,
  64. tai auto, joka pelastaisi aina sinut,
  65. kumman ostaisit?
  66. Mitä tapahtuu, jos auto alkaa
    analysoida ja arvioida
  67. auton matkustajien elämien
    arvoa?
  68. Voiko sattumaan perustuva päätös
  69. ollakin parempi kuin ennalta haitan
    minimoimiseen perustuva päätös?
  70. Ja kenelle nämä päätökset kuuluvat?
  71. Ohjelmoijille?
  72. Yrityksille?
  73. Hallituksille?
  74. Todellisuus ei aina toimi kuten
    ajatuskokeemme,

  75. mutta se ei ole tärkeää.
  76. Niiden avulla voi eristää ja
    testata eettisiä intuitioitamme,
  77. kuten tieteelliset kokeet testaavat
    fyysistä maailmaa.
  78. Kun huomaamme näitä moraalisia
    käänteitä nyt,
  79. se auttaa kulkemaan teknologian
    etiikan uusilla poluilla
  80. ja kuljettaa meidät varmasti ja
    tietoisesti
  81. kohti uljasta uutta tulevaisuutta.