German subtitles

← Die Gefahr der künstlichen Intelligenz ist eigenartiger als man denkt

Get Embed Code
32 Languages

Showing Revision 32 created 06/05/2020 by Sonja Maria Neef.

  1. Künstliche Intelligenz ist dafür bekannt,
    allerlei Branchen durcheinanderzubringen.
  2. Was ist mit Eis?
  3. Welche unglaublichen neuen Eissorten
    könnte man mit den Fähigkeiten
  4. der hochentwickelten KI herstellen?
  5. Ich arbeitete mit den Programmierern
    der Kealing Middle School zusammen,
  6. um die Antwort auf diese Frage zu finden.
  7. Sie sammelten mehr als
    1 600 vorhandene Eissorten.
  8. Zusammen gaben wir sie im Algorithmus ein,
    um zu sehen, was daraus entstehen wird.
  9. Hier sind einige der Eissorten,
    die sich die KI ausgedacht hat.
  10. [Kürbis-Müll-Pause]

  11. (Lachen)

  12. [Erdnussbutter-Schleim]

  13. [Erdbeersahne-Krankheit]

  14. (Lachen)

  15. Diese Eissorten sind nicht so köstlich,
    wie wir es erwarteten.

  16. Die Frage ist also: Was ist passiert?
    Was ist schief gelaufen?
  17. Versucht die KI uns zu töten?
  18. Oder tut sie genau das, worum wir baten,
    aber es gab ein Problem?
  19. Wenn in Filmen etwas mit KI schief läuft,
    hat die KI häufig entschieden,

  20. den Menschen nicht mehr zu gehorchen
  21. und eigene Ziele zu verfolgen.
  22. Tatsächlich ist die heutige KI
    dafür noch nicht schlau genug.
  23. Sie hat etwa die Rechenleistung
    von einem Regenwurm,
  24. oder vielleicht höchstens
    die einer einzelnen Honigbiene
  25. und vermutlich sogar weniger.
  26. Wir erfahren über Gehirne
    ständig neue Aspekte, die stets zeigen,
  27. wie wenig die KI dem Gehirn entspricht.
  28. Die KI von heute kann einen Fußgänger
    auf einem Bild erkennen.
  29. Sie hat aber keine Vorstellung,
  30. dass ein Fußgänger mehr als eine Sammlung
    von Linien und Texturen ist.
  31. Sie weiß im Grunde nicht,
    was ein Mensch ist.
  32. Wird die KI das tun, worum wir sie bitten?
  33. Sie wird, wenn sie kann.
  34. Aber sie könnte vielleicht nicht das tun,
    was wir eigentlich wollen.
  35. Zum Beispiel möchten Sie,

  36. dass KI aus Roboterteilen
    einen Roboter zusammenbaut,
  37. um damit von Punkt A
    zu Punkt B zu gelangen.
  38. Die Lösung des Problems durch Schreiben
    eines herkömmlichen Computerprogamms
  39. würde schrittweise Anweisungen
    an das Computerprogramm beinhalten,
  40. wie aus den Teilen ein Roboter
    mit Beinen gebaut werden kann
  41. und wie man die Beine benutzt,
    um zum Punkt B zu gehen.
  42. Aber wenn man KI einsetzt,
    dann sieht die Lösung anders aus.
  43. Man bestimmt nicht, wie die KI
    das Problem lösen soll,
  44. sondern setzt nur das Ziel
  45. und die KI muss durch Probieren
    selbst herausfinden,
  46. wie sie das Ziel erreicht.
  47. Aber die KI löst das spezielle Problem so:
  48. Es baut sich in einen Turm,
    kippt damit um und landet auf Punkt B.
  49. Im Prinzip ist es eine Lösung.
  50. Formal kam sie zu Punkt B.
  51. Die Gefahr der KI besteht nicht darin,
    dass sie sich gegen uns auflehnt,
  52. sondern dass sie genau das tut,
    worum wir sie bitten.
  53. Die Kunst, mit KI zu arbeiten ist also:
  54. Wie bereitet man das Problem auf,
    damit sie das tut, was wir wollen?
  55. Dieser kleine Roboter hier
    ist von der KI gesteuert.

  56. Die KI entwickelte ein Design
    für die Roboterbeine und fand heraus,
  57. wie sie verwendet werden können,
    um alle diese Hindernisse zu überwinden.
  58. Aber als David Ha
    das Experiment vorbereitete,
  59. setzte er sehr, sehr enge Grenzen,
  60. wie groß die KI die Beine machen durfte,
  61. weil sonst ...
  62. (Lachen)

  63. Im Prinzip hat sie das Ende
    des Hindernislaufs erreicht.

  64. Es ist also kompliziert,
  65. KI etwas Einfaches wie Gehen beizubringen.
  66. Wenn man sieht, was die KI da macht,
    könnte man sagen: "Das gilt nicht!"

  67. Die KI kann nicht nur einen hohen Turm
    errichten und umkippen,
  68. sondern muss auf zwei Beinen gehen.
  69. Aber es zeigt sich, dass das auch
    nicht immer funktioniert.
  70. Diese Aufgabe für die KI war es,
    sich schnell zu bewegen.
  71. Es wurde nicht gesagt,
    dass sie vorwärts rennen musste
  72. oder dass sie ihre Hände
    nicht benutzen konnte.
  73. Wenn Sie die KI trainieren,
    sich schnell zu bewegen,
  74. dann bekommen Sie etwas
    wie Saltos und komische Gangarten.
  75. Es kommt echt häufig vor,
  76. genauso wie als Haufen
    über den Boden zu zucken.
  77. (Lachen)

  78. Wäre es nach mir gegangen,

  79. hätten die Terminator-Roboter
    viel seltsamer sein sollen,
  80. Die KI würde auch die "Matrix" hacken,
    wenn man ihr eine Chance gibt.
  81. Trainiert man die KI in einer Simulation
  82. wird sie lernen, die Rechenfehler
    der Simulation zu hacken
  83. und daraus Energie zu ziehen.
  84. Oder sie lernt, sich schneller zu bewegen,
  85. indem sie wiederholt
    im Boden verschwindet.
  86. Die Arbeit mit KI ähnelt nicht so sehr
    der Arbeit mit einem anderen Menschen.
  87. Es scheint eher wie die Arbeit
    mit einer seltsamen Naturgewalt.
  88. Es ist wirklich einfach, der KI
    ein falsches Problem zum Lösen zu geben.
  89. Oft merken wir das erst,
    wenn schon etwas schief gegangen ist.
  90. Bei einem Experiment wollte ich,
    dass die KI die Lackfarben kopiert

  91. und mit einer Liste wie der hier links,
    neue Lackfarben erfindet.
  92. Das hier hat sich die KI einfallen lassen.
  93. [Sindis Kacke, arschig,
    leiden, graue Scham]

  94. (Lachen)

  95. Im Prinzip tat sie das, worum ich bat.

  96. Ich dachte, ich bat um schöne Farbnamen,
  97. aber eigentlich ließ ich sie nur
    die Buchstabenkombinationen imitieren,
  98. die die KI im Original sah.
  99. Ich sagte nichts darüber,
    was Wörter bedeuten,
  100. oder dass die KI einige Wörter
    in den Farbnamen vermeiden soll.
  101. Ihre ganze Welt besteht
    aus Daten, die ich ihr gab.
  102. Wie bei den Eissorten,
    wusste sie nichts anderes.
  103. Durch die Daten sagen wir der KI
    häufig versehentlich, das Falsche zu tun.

  104. Das ist ein Fisch, "Schleie" genannt.
  105. Eine Gruppe von Forschern trainierte KI
    Schleien in Bildern zu erkennen.
  106. Aber als die Forscher fragten,
    welcher Teil des Bildes
  107. zur Fische-Erkennung verwendet wurde,
    wurde das hier hervorgehoben.
  108. Ja, das sind menschliche Finger.
  109. Warum sollte KI nach menschlichen Fingern
    bei der Fische-Erkennung suchen?
  110. Es stellte sich heraus,
    dass die Schleie ein Trophäenfisch ist,
  111. und in vielen Bildern
    mit der die KI trainiert wurde,
  112. sahen die Fische so aus.
  113. (Lachen)

  114. Sie wusste nicht, dass die Finger
    nicht zum Fisch gehören.

  115. Deshalb ist es so kompliziert,

  116. eine KI zu entwickeln,
    die versteht, was sie sieht.
  117. Darum ist es so schwer, die Bilderkennung
    von selbstfahrenden Autos zu entwickeln,
  118. und deshalb gibt es so viele Pannen,
    weil die KI verwirrt wurde.
  119. Ich möchte über ein Beispiel
    aus dem Jahr 2016 sprechen.
  120. Es gab einen tödlichen Unfall, als jemand
    die Autopilot-KI von Tesla benutzte.
  121. Aber statt sie auf der Autobahn zu nutzen,
    wofür sie entworfen wurde,
  122. setzte er sie in der Stadt ein.
  123. Ein Lastwagen fuhr vor dem Auto heraus
    und das Auto bremste nicht.
  124. Die KI wurde durchaus darauf trainiert,
    die Lastwagen in Bildern zu erkennen.
  125. Aber die KI wurde darauf trainiert,
    die LKWs auf Autobahnen zu erkennen,
  126. wo man sie normalerweise von hinten sieht.
  127. LKWs auf der Autobahn seitlich zu sehen,
    sollte eigentlich nicht passieren.
  128. Als die KI diesen LKW sah,
  129. erkannte sie ihn vermutlich
    als Verkehrszeichen,
  130. unter dem sie sicher
    drunter durch fahren konnte.
  131. Hier ist ein KI-Fehltritt
    aus einem anderen Bereich.

  132. Amazon musste kürzlich einen Algorithmus
    zur Sichtung von Lebensläufen aufgeben,
  133. weil der Algorithmus gelernt hatte,
    Frauen zu diskriminieren.
  134. Das geschah, weil er mit Lebensläufen
    von Leuten trainiert wurde,
  135. die sie in der Vergangenheit
    eingestellt hatten.
  136. Durch diese Lebensläufe lernte die KI,
    die Lebensläufe von Menschen zu meiden,
  137. die Hochschulen für Frauen besuchten
  138. oder in denen irgendwie
    der Begriff "Frauen" steckt,
  139. wie in "Frauenfußballmannschaft" oder
    "Gesellschaft der Ingenieurinnen".
  140. Die KI wusste nicht, dass sie nicht genau
    diesen besonderen Aspekt kopieren sollte,
  141. den sie Menschen hatte tun sehen.
  142. Im Prinzip tat die KI das,
    worum sie gebeten wurde.
  143. Sie baten die KI versehentlich,
    das Falsche zu tun.
  144. Das passiert mit der KI ständig.

  145. Die KI kann wirklich destruktiv sein
    und es nicht mal wissen.
  146. Die KIs, die neue Inhalte auf Facebook
    und YouTube empfehlen, wurden optimiert,
  147. um die Anzahl der Klicks
    und Seitenaufrufe zu erhöhen.
  148. Eine Möglichkeit dazu bot sich,
  149. Inhalte verschwörungstheoretischer
    oder fanatischer Natur zu empfehlen.
  150. Die KIs besitzen keine Vorstellung davon,
    was der Inhalt eigentlich ist,
  151. und haben keine Vorstellung davon,
  152. welche Konsequenzen die Empfehlung
    dieser Inhalte vielleicht hat.
  153. Wenn wir also mit der KI arbeiten,
    ist es an uns, Probleme zu vermeiden.

  154. Wenn wir Dinge vermeiden wollen,
  155. die auf das uralte Kommunikationsproblem
    zurückzuführen sind,
  156. müssen die Menschen lernen,
    wie man mit der KI kommuniziert.
  157. Wir müssen lernen, wozu die KI fähig ist
    und was sie nicht kann und verstehen,
  158. dass die KI mit ihrem winzigen Wurmhirn
    nicht wirklich begreift,
  159. worum wir sie bitten.
  160. Mit anderen Worten müssen wir
    darauf vorbereitet sein,
  161. mit einer KI zu arbeiten,
  162. die nicht überkompetent und allwissend
    wie in der Science-Fiction ist.
  163. Wir müssen uns darauf vorbereiten,
    mit der KI zu arbeiten, wie sie heute ist.
  164. Und die heutige KI ist
    schon eigenartig genug.
  165. Danke.

  166. (Beifall)