0:00:01.765,0:00:07.975
Künstliche Intelligenz ist dafür bekannt,[br]allerlei Branchen durcheinanderzubringen.

0:00:08.961,0:00:11.004
Was ist mit Eis?

0:00:11.879,0:00:15.542
Welche unglaublichen neuen Eissorten[br]könnte man mit den Fähigkeiten

0:00:15.542,0:00:18.518
der hochentwickelten KI herstellen?

0:00:19.011,0:00:23.192
Ich arbeitete mit den Programmierern[br]der Kealing Middle School zusammen,

0:00:23.196,0:00:25.461
um die Antwort auf diese Frage zu finden.

0:00:25.461,0:00:30.562
Sie sammelten mehr als[br]1 600 vorhandene Eissorten.

0:00:30.566,0:00:36.112
Zusammen gaben wir sie im Algorithmus ein,[br]um zu sehen, was daraus entstehen wird.

0:00:36.112,0:00:39.865
Hier sind einige der Eissorten,[br]die sich die KI ausgedacht hat.

0:00:39.974,0:00:41.675
[Kürbis-Müll-Pause]

0:00:41.675,0:00:43.077
(Lachen)

0:00:43.365,0:00:45.834
[Erdnussbutter-Schleim]

0:00:46.742,0:00:48.165
[Erdbeersahne-Krankheit]

0:00:48.179,0:00:49.795
(Lachen)

0:00:50.339,0:00:54.936
Diese Eissorten sind nicht so köstlich,[br]wie wir es erwarteten.

0:00:54.936,0:00:58.136
Die Frage ist also: Was ist passiert?[br]Was ist schief gelaufen?

0:00:58.136,0:01:00.225
Versucht die KI uns zu töten?

0:01:01.027,0:01:05.337
Oder tut sie genau das, worum wir baten,[br]aber es gab ein Problem?

0:01:06.567,0:01:11.791
Wenn in Filmen etwas mit KI schief läuft,[br]hat die KI häufig entschieden,

0:01:11.791,0:01:14.087
den Menschen nicht mehr zu gehorchen

0:01:14.087,0:01:16.710
und eigene Ziele zu verfolgen.

0:01:17.266,0:01:22.442
Tatsächlich ist die heutige KI[br]dafür noch nicht schlau genug.

0:01:22.781,0:01:27.087
Sie hat etwa die Rechenleistung[br]von einem Regenwurm,

0:01:27.087,0:01:30.514
oder vielleicht höchstens[br]die einer einzelnen Honigbiene

0:01:30.514,0:01:32.729
und vermutlich sogar weniger.

0:01:32.729,0:01:36.621
Wir erfahren über Gehirne[br]ständig neue Aspekte, die stets zeigen,

0:01:36.621,0:01:39.481
wie wenig die KI dem Gehirn entspricht.

0:01:39.601,0:01:45.418
Die KI von heute kann einen Fußgänger[br]auf einem Bild erkennen.

0:01:45.418,0:01:48.110
Sie hat aber keine Vorstellung,

0:01:48.110,0:01:53.421
dass ein Fußgänger mehr als eine Sammlung[br]von Linien und Texturen ist.

0:01:53.983,0:01:56.433
Sie weiß im Grunde nicht,[br]was ein Mensch ist.

0:01:56.822,0:02:00.128
Wird die KI das tun, worum wir sie bitten?

0:02:00.128,0:02:01.722
Sie wird, wenn sie kann.

0:02:01.722,0:02:05.026
Aber sie könnte vielleicht nicht das tun,[br]was wir eigentlich wollen.

0:02:05.026,0:02:06.935
Zum Beispiel möchten Sie,

0:02:06.935,0:02:09.574
dass KI aus Roboterteilen[br]einen Roboter zusammenbaut,

0:02:09.578,0:02:13.799
um damit von Punkt A[br]zu Punkt B zu gelangen.

0:02:13.799,0:02:18.449
Die Lösung des Problems durch Schreiben[br]eines herkömmlichen Computerprogamms

0:02:18.449,0:02:21.970
würde schrittweise Anweisungen[br]an das Computerprogramm beinhalten,

0:02:21.970,0:02:24.919
wie aus den Teilen ein Roboter[br]mit Beinen gebaut werden kann

0:02:24.919,0:02:29.023
und wie man die Beine benutzt,[br]um zum Punkt B zu gehen.

0:02:29.441,0:02:33.003
Aber wenn man KI einsetzt,[br]dann sieht die Lösung anders aus.

0:02:33.003,0:02:35.899
Man bestimmt nicht, wie die KI[br]das Problem lösen soll,

0:02:35.899,0:02:37.691
sondern setzt nur das Ziel

0:02:37.691,0:02:40.198
und die KI muss durch Probieren[br]selbst herausfinden,

0:02:40.198,0:02:41.822
wie sie das Ziel erreicht.

0:02:42.254,0:02:47.720
Aber die KI löst das spezielle Problem so:

0:02:47.720,0:02:52.923
Es baut sich in einen Turm,[br]kippt damit um und landet auf Punkt B.

0:02:53.130,0:02:55.983
Im Prinzip ist es eine Lösung.

0:02:55.983,0:02:57.646
Formal kam sie zu Punkt B.

0:02:57.646,0:03:01.935
Die Gefahr der KI besteht nicht darin,[br]dass sie sich gegen uns auflehnt,

0:03:01.935,0:03:06.429
sondern dass sie genau das tut,[br]worum wir sie bitten.

0:03:06.876,0:03:09.398
Die Kunst, mit KI zu arbeiten ist also:

0:03:09.398,0:03:13.226
Wie bereitet man das Problem auf,[br]damit sie das tut, was wir wollen?

0:03:14.726,0:03:18.056
Dieser kleine Roboter hier[br]ist von der KI gesteuert.

0:03:18.056,0:03:21.320
Die KI entwickelte ein Design[br]für die Roboterbeine und fand heraus,

0:03:21.320,0:03:24.996
wie sie verwendet werden können,[br]um alle diese Hindernisse zu überwinden.

0:03:24.996,0:03:27.761
Aber als David Ha[br]das Experiment vorbereitete,

0:03:27.761,0:03:30.641
setzte er sehr, sehr enge Grenzen,

0:03:30.641,0:03:33.933
wie groß die KI die Beine machen durfte,

0:03:33.933,0:03:35.507
weil sonst ...

0:03:43.058,0:03:46.019
(Lachen)

0:03:48.563,0:03:52.332
Im Prinzip hat sie das Ende[br]des Hindernislaufs erreicht.

0:03:52.332,0:03:54.386
Es ist also kompliziert,

0:03:54.386,0:03:57.298
KI etwas Einfaches wie Gehen beizubringen.

0:03:57.298,0:04:01.142
Wenn man sieht, was die KI da macht,[br]könnte man sagen: "Das gilt nicht!"

0:04:01.142,0:04:04.252
Die KI kann nicht nur einen hohen Turm[br]errichten und umkippen,

0:04:04.252,0:04:07.205
sondern muss auf zwei Beinen gehen.

0:04:07.205,0:04:09.988
Aber es zeigt sich, dass das auch[br]nicht immer funktioniert.

0:04:09.988,0:04:13.115
Diese Aufgabe für die KI war es,[br]sich schnell zu bewegen.

0:04:13.115,0:04:16.732
Es wurde nicht gesagt,[br]dass sie vorwärts rennen musste

0:04:16.732,0:04:19.230
oder dass sie ihre Hände[br]nicht benutzen konnte.

0:04:19.487,0:04:24.129
Wenn Sie die KI trainieren,[br]sich schnell zu bewegen,

0:04:24.129,0:04:27.663
dann bekommen Sie etwas[br]wie Saltos und komische Gangarten.

0:04:27.663,0:04:29.087
Es kommt echt häufig vor,

0:04:29.647,0:04:32.826
genauso wie als Haufen[br]über den Boden zu zucken.

0:04:32.826,0:04:34.270
(Lachen)

0:04:35.241,0:04:37.029
Wäre es nach mir gegangen,

0:04:37.029,0:04:40.045
hätten die Terminator-Roboter[br]viel seltsamer sein sollen,

0:04:40.256,0:04:44.011
Die KI würde auch die "Matrix" hacken,[br]wenn man ihr eine Chance gibt.

0:04:44.011,0:04:46.552
Trainiert man die KI in einer Simulation

0:04:46.552,0:04:50.689
wird sie lernen, die Rechenfehler[br]der Simulation zu hacken

0:04:50.689,0:04:52.944
und daraus Energie zu ziehen.

0:04:52.944,0:04:56.213
Oder sie lernt, sich schneller zu bewegen,

0:04:56.213,0:04:58.443
indem sie wiederholt[br]im Boden verschwindet.

0:04:58.443,0:05:02.322
Die Arbeit mit KI ähnelt nicht so sehr[br]der Arbeit mit einem anderen Menschen.

0:05:02.322,0:05:06.094
Es scheint eher wie die Arbeit[br]mit einer seltsamen Naturgewalt.

0:05:06.562,0:05:10.993
Es ist wirklich einfach, der KI[br]ein falsches Problem zum Lösen zu geben.

0:05:11.209,0:05:15.747
Oft merken wir das erst,[br]wenn schon etwas schief gegangen ist.

0:05:16.242,0:05:21.552
Bei einem Experiment wollte ich,[br]dass die KI die Lackfarben kopiert

0:05:21.552,0:05:26.378
und mit einer Liste wie der hier links, [br]neue Lackfarben erfindet.

0:05:26.798,0:05:29.826
Das hier hat sich die KI einfallen lassen.

0:05:29.826,0:05:32.993
[Sindis Kacke, arschig,[br]leiden, graue Scham]

0:05:32.993,0:05:35.963
(Lachen)

0:05:39.177,0:05:42.872
Im Prinzip tat sie das, worum ich bat.

0:05:42.975,0:05:46.307
Ich dachte, ich bat um schöne Farbnamen,

0:05:46.307,0:05:51.684
aber eigentlich ließ ich sie nur[br]die Buchstabenkombinationen imitieren,

0:05:51.684,0:05:53.677
die die KI im Original sah.

0:05:53.677,0:05:56.775
Ich sagte nichts darüber,[br]was Wörter bedeuten,

0:05:56.775,0:06:02.121
oder dass die KI einige Wörter[br]in den Farbnamen vermeiden soll.

0:06:03.141,0:06:06.659
Ihre ganze Welt besteht[br]aus Daten, die ich ihr gab.

0:06:06.659,0:06:10.687
Wie bei den Eissorten,[br]wusste sie nichts anderes.

0:06:12.491,0:06:18.355
Durch die Daten sagen wir der KI[br]häufig versehentlich, das Falsche zu tun.

0:06:18.694,0:06:21.750
Das ist ein Fisch, "Schleie" genannt.

0:06:21.750,0:06:27.487
Eine Gruppe von Forschern trainierte KI[br]Schleien in Bildern zu erkennen.

0:06:27.487,0:06:30.397
Aber als die Forscher fragten,[br]welcher Teil des Bildes

0:06:30.397,0:06:34.104
zur Fische-Erkennung verwendet wurde,[br]wurde das hier hervorgehoben.

0:06:35.203,0:06:37.136
Ja, das sind menschliche Finger.

0:06:37.136,0:06:41.355
Warum sollte KI nach menschlichen Fingern[br]bei der Fische-Erkennung suchen?

0:06:42.126,0:06:45.499
Es stellte sich heraus,[br]dass die Schleie ein Trophäenfisch ist,

0:06:45.499,0:06:50.324
und in vielen Bildern[br]mit der die KI trainiert wurde,

0:06:50.324,0:06:51.838
sahen die Fische so aus.

0:06:51.838,0:06:53.497
(Lachen)

0:06:53.497,0:06:56.937
Sie wusste nicht, dass die Finger[br]nicht zum Fisch gehören.

0:06:58.808,0:07:01.528
Deshalb ist es so kompliziert,

0:07:01.528,0:07:06.295
eine KI zu entwickeln,[br]die versteht, was sie sieht.

0:07:06.295,0:07:11.368
Darum ist es so schwer, die Bilderkennung[br]von selbstfahrenden Autos zu entwickeln,

0:07:11.368,0:07:15.977
und deshalb gibt es so viele Pannen,[br]weil die KI verwirrt wurde.

0:07:16.410,0:07:20.442
Ich möchte über ein Beispiel[br]aus dem Jahr 2016 sprechen.

0:07:20.442,0:07:24.921
Es gab einen tödlichen Unfall, als jemand[br]die Autopilot-KI von Tesla benutzte.

0:07:24.921,0:07:28.359
Aber statt sie auf der Autobahn zu nutzen,[br]wofür sie entworfen wurde,

0:07:28.359,0:07:30.564
setzte er sie in der Stadt ein.

0:07:31.239,0:07:35.728
Ein Lastwagen fuhr vor dem Auto heraus[br]und das Auto bremste nicht.

0:07:36.507,0:07:41.293
Die KI wurde durchaus darauf trainiert,[br]die Lastwagen in Bildern zu erkennen.

0:07:41.293,0:07:46.417
Aber die KI wurde darauf trainiert,[br]die LKWs auf Autobahnen zu erkennen,

0:07:46.417,0:07:49.340
wo man sie normalerweise von hinten sieht.

0:07:49.340,0:07:52.954
LKWs auf der Autobahn seitlich zu sehen,[br]sollte eigentlich nicht passieren.

0:07:52.954,0:07:56.263
Als die KI diesen LKW sah,

0:07:56.263,0:08:01.200
erkannte sie ihn vermutlich [br]als Verkehrszeichen,

0:08:01.200,0:08:03.814
unter dem sie sicher[br]drunter durch fahren konnte.

0:08:03.814,0:08:06.718
Hier ist ein KI-Fehltritt[br]aus einem anderen Bereich.

0:08:06.718,0:08:11.942
Amazon musste kürzlich einen Algorithmus[br]zur Sichtung von Lebensläufen aufgeben,

0:08:11.942,0:08:14.878
weil der Algorithmus gelernt hatte,[br]Frauen zu diskriminieren.

0:08:14.878,0:08:18.034
Das geschah, weil er mit Lebensläufen[br]von Leuten trainiert wurde,

0:08:18.034,0:08:20.384
die sie in der Vergangenheit[br]eingestellt hatten.

0:08:20.384,0:08:24.431
Durch diese Lebensläufe lernte die KI,[br]die Lebensläufe von Menschen zu meiden,

0:08:24.431,0:08:26.481
die Hochschulen für Frauen besuchten

0:08:26.481,0:08:29.527
oder in denen irgendwie[br]der Begriff "Frauen" steckt,

0:08:29.527,0:08:33.911
wie in "Frauenfußballmannschaft" oder[br]"Gesellschaft der Ingenieurinnen".

0:08:33.911,0:08:38.145
Die KI wusste nicht, dass sie nicht genau[br]diesen besonderen Aspekt kopieren sollte,

0:08:38.145,0:08:39.911
den sie Menschen hatte tun sehen.

0:08:39.911,0:08:43.112
Im Prinzip tat die KI das,[br]worum sie gebeten wurde.

0:08:43.112,0:08:45.827
Sie baten die KI versehentlich,[br]das Falsche zu tun.

0:08:46.653,0:08:49.548
Das passiert mit der KI ständig.

0:08:50.120,0:08:53.735
Die KI kann wirklich destruktiv sein[br]und es nicht mal wissen.

0:08:53.735,0:08:59.367
Die KIs, die neue Inhalte auf Facebook[br]und YouTube empfehlen, wurden optimiert,

0:08:59.367,0:09:02.400
um die Anzahl der Klicks[br]und Seitenaufrufe zu erhöhen.

0:09:02.400,0:09:05.860
Eine Möglichkeit dazu bot sich,

0:09:05.860,0:09:10.363
Inhalte verschwörungstheoretischer[br]oder fanatischer Natur zu empfehlen.

0:09:10.902,0:09:16.204
Die KIs besitzen keine Vorstellung davon,[br]was der Inhalt eigentlich ist,

0:09:16.204,0:09:18.923
und haben keine Vorstellung davon,

0:09:18.923,0:09:22.296
welche Konsequenzen die Empfehlung[br]dieser Inhalte vielleicht hat.

0:09:22.296,0:09:28.088
Wenn wir also mit der KI arbeiten,[br]ist es an uns, Probleme zu vermeiden.

0:09:28.537,0:09:30.884
Wenn wir Dinge vermeiden wollen,

0:09:30.884,0:09:35.434
die auf das uralte Kommunikationsproblem[br]zurückzuführen sind,

0:09:35.434,0:09:39.203
müssen die Menschen lernen,[br]wie man mit der KI kommuniziert.

0:09:39.203,0:09:43.266
Wir müssen lernen, wozu die KI fähig ist[br]und was sie nicht kann und verstehen,

0:09:43.266,0:09:47.142
dass die KI mit ihrem winzigen Wurmhirn[br]nicht wirklich begreift,

0:09:47.142,0:09:50.389
worum wir sie bitten.

0:09:51.148,0:09:54.469
Mit anderen Worten müssen wir[br]darauf vorbereitet sein,

0:09:54.469,0:09:56.415
mit einer KI zu arbeiten,

0:09:56.415,0:09:59.775
die nicht überkompetent und allwissend[br]wie in der Science-Fiction ist.

0:09:59.775,0:10:05.537
Wir müssen uns darauf vorbereiten,[br]mit der KI zu arbeiten, wie sie heute ist.

0:10:05.623,0:10:09.852
Und die heutige KI ist[br]schon eigenartig genug.

0:10:09.852,0:10:11.176
Danke.

0:10:11.176,0:10:14.061
(Beifall)