WEBVTT

00:00:01.765 --> 00:00:07.975
Künstliche Intelligenz ist dafür bekannt,
allerlei Branchen durcheinanderzubringen.

00:00:08.961 --> 00:00:11.004
Was ist mit Eis?

00:00:11.879 --> 00:00:15.542
Welche unglaublichen neuen Eissorten
könnte man mit den Fähigkeiten

00:00:15.542 --> 00:00:18.518
der hochentwickelten KI herstellen?

00:00:19.011 --> 00:00:23.192
Ich arbeitete mit den Programmierern
der Kealing Middle School zusammen,

00:00:23.196 --> 00:00:25.461
um die Antwort auf diese Frage zu finden.

00:00:25.461 --> 00:00:30.562
Sie sammelten mehr als
1 600 vorhandene Eissorten.

00:00:30.566 --> 00:00:36.112
Zusammen gaben wir sie im Algorithmus ein,
um zu sehen, was daraus entstehen wird.

00:00:36.112 --> 00:00:39.865
Hier sind einige der Eissorten,
die sich die KI ausgedacht hat.

NOTE Paragraph

00:00:39.974 --> 00:00:41.675
[Kürbis-Müll-Pause]

NOTE Paragraph

00:00:41.675 --> 00:00:43.077
(Lachen)

NOTE Paragraph

00:00:43.365 --> 00:00:45.834
[Erdnussbutter-Schleim]

NOTE Paragraph

00:00:46.742 --> 00:00:48.165
[Erdbeersahne-Krankheit]

NOTE Paragraph

00:00:48.179 --> 00:00:49.795
(Lachen)

NOTE Paragraph

00:00:50.339 --> 00:00:54.936
Diese Eissorten sind nicht so köstlich,
wie wir es erwarteten.

00:00:54.936 --> 00:00:58.136
Die Frage ist also: Was ist passiert?
Was ist schief gelaufen?

00:00:58.136 --> 00:01:00.225
Versucht die KI uns zu töten?

00:01:01.027 --> 00:01:05.337
Oder tut sie genau das, worum wir baten,
aber es gab ein Problem?

NOTE Paragraph

00:01:06.567 --> 00:01:11.791
Wenn in Filmen etwas mit KI schief läuft,
hat die KI häufig entschieden,

00:01:11.791 --> 00:01:14.087
den Menschen nicht mehr zu gehorchen

00:01:14.087 --> 00:01:16.710
und eigene Ziele zu verfolgen.

00:01:17.266 --> 00:01:22.442
Tatsächlich ist die heutige KI
dafür noch nicht schlau genug.

00:01:22.781 --> 00:01:27.087
Sie hat etwa die Rechenleistung
von einem Regenwurm,

00:01:27.087 --> 00:01:30.514
oder vielleicht höchstens
die einer einzelnen Honigbiene

00:01:30.514 --> 00:01:32.729
und vermutlich sogar weniger.

00:01:32.729 --> 00:01:36.621
Wir erfahren über Gehirne
ständig neue Aspekte, die stets zeigen,

00:01:36.621 --> 00:01:39.481
wie wenig die KI dem Gehirn entspricht.

00:01:39.601 --> 00:01:45.418
Die KI von heute kann einen Fußgänger
auf einem Bild erkennen.

00:01:45.418 --> 00:01:48.110
Sie hat aber keine Vorstellung,

00:01:48.110 --> 00:01:53.421
dass ein Fußgänger mehr als eine Sammlung
von Linien und Texturen ist.

00:01:53.983 --> 00:01:56.433
Sie weiß im Grunde nicht,
was ein Mensch ist.

00:01:56.822 --> 00:02:00.128
Wird die KI das tun, worum wir sie bitten?

00:02:00.128 --> 00:02:01.722
Sie wird, wenn sie kann.

00:02:01.722 --> 00:02:05.026
Aber sie könnte vielleicht nicht das tun,
was wir eigentlich wollen.

NOTE Paragraph

00:02:05.026 --> 00:02:06.935
Zum Beispiel möchten Sie,

00:02:06.935 --> 00:02:09.574
dass KI aus Roboterteilen
einen Roboter zusammenbaut,

00:02:09.578 --> 00:02:13.799
um damit von Punkt A
zu Punkt B zu gelangen.

00:02:13.799 --> 00:02:18.449
Die Lösung des Problems durch Schreiben
eines herkömmlichen Computerprogamms

00:02:18.449 --> 00:02:21.970
würde schrittweise Anweisungen
an das Computerprogramm beinhalten,

00:02:21.970 --> 00:02:24.919
wie aus den Teilen ein Roboter
mit Beinen gebaut werden kann

00:02:24.919 --> 00:02:29.023
und wie man die Beine benutzt,
um zum Punkt B zu gehen.

00:02:29.441 --> 00:02:33.003
Aber wenn man KI einsetzt,
dann sieht die Lösung anders aus.

00:02:33.003 --> 00:02:35.899
Man bestimmt nicht, wie die KI
das Problem lösen soll,

00:02:35.899 --> 00:02:37.691
sondern setzt nur das Ziel

00:02:37.691 --> 00:02:40.198
und die KI muss durch Probieren
selbst herausfinden,

00:02:40.198 --> 00:02:41.822
wie sie das Ziel erreicht.

00:02:42.254 --> 00:02:47.720
Aber die KI löst das spezielle Problem so:

00:02:47.720 --> 00:02:52.923
Es baut sich in einen Turm,
kippt damit um und landet auf Punkt B.

00:02:53.130 --> 00:02:55.983
Im Prinzip ist es eine Lösung.

00:02:55.983 --> 00:02:57.646
Formal kam sie zu Punkt B.

00:02:57.646 --> 00:03:01.935
Die Gefahr der KI besteht nicht darin,
dass sie sich gegen uns auflehnt,

00:03:01.935 --> 00:03:06.429
sondern dass sie genau das tut,
worum wir sie bitten.

00:03:06.876 --> 00:03:09.398
Die Kunst, mit KI zu arbeiten ist also:

00:03:09.398 --> 00:03:13.226
Wie bereitet man das Problem auf,
damit sie das tut, was wir wollen?

NOTE Paragraph

00:03:14.726 --> 00:03:18.056
Dieser kleine Roboter hier
ist von der KI gesteuert.

00:03:18.056 --> 00:03:21.320
Die KI entwickelte ein Design
für die Roboterbeine und fand heraus,

00:03:21.320 --> 00:03:24.996
wie sie verwendet werden können,
um alle diese Hindernisse zu überwinden.

00:03:24.996 --> 00:03:27.761
Aber als David Ha
das Experiment vorbereitete,

00:03:27.761 --> 00:03:30.641
setzte er sehr, sehr enge Grenzen,

00:03:30.641 --> 00:03:33.933
wie groß die KI die Beine machen durfte,

00:03:33.933 --> 00:03:35.507
weil sonst ...

NOTE Paragraph

00:03:43.058 --> 00:03:46.019
(Lachen)

NOTE Paragraph

00:03:48.563 --> 00:03:52.332
Im Prinzip hat sie das Ende
des Hindernislaufs erreicht.

00:03:52.332 --> 00:03:54.386
Es ist also kompliziert,

00:03:54.386 --> 00:03:57.298
KI etwas Einfaches wie Gehen beizubringen.

NOTE Paragraph

00:03:57.298 --> 00:04:01.142
Wenn man sieht, was die KI da macht,
könnte man sagen: "Das gilt nicht!"

00:04:01.142 --> 00:04:04.252
Die KI kann nicht nur einen hohen Turm
errichten und umkippen,

00:04:04.252 --> 00:04:07.205
sondern muss auf zwei Beinen gehen.

00:04:07.205 --> 00:04:09.988
Aber es zeigt sich, dass das auch
nicht immer funktioniert.

00:04:09.988 --> 00:04:13.115
Diese Aufgabe für die KI war es,
sich schnell zu bewegen.

00:04:13.115 --> 00:04:16.732
Es wurde nicht gesagt,
dass sie vorwärts rennen musste

00:04:16.732 --> 00:04:19.230
oder dass sie ihre Hände
nicht benutzen konnte.

00:04:19.487 --> 00:04:24.129
Wenn Sie die KI trainieren,
sich schnell zu bewegen,

00:04:24.129 --> 00:04:27.663
dann bekommen Sie etwas
wie Saltos und komische Gangarten.

00:04:27.663 --> 00:04:29.087
Es kommt echt häufig vor,

00:04:29.647 --> 00:04:32.826
genauso wie als Haufen
über den Boden zu zucken.

NOTE Paragraph

00:04:32.826 --> 00:04:34.270
(Lachen)

NOTE Paragraph

00:04:35.241 --> 00:04:37.029
Wäre es nach mir gegangen,

00:04:37.029 --> 00:04:40.045
hätten die Terminator-Roboter
viel seltsamer sein sollen,

00:04:40.256 --> 00:04:44.011
Die KI würde auch die "Matrix" hacken,
wenn man ihr eine Chance gibt.

00:04:44.011 --> 00:04:46.552
Trainiert man die KI in einer Simulation

00:04:46.552 --> 00:04:50.689
wird sie lernen, die Rechenfehler
der Simulation zu hacken

00:04:50.689 --> 00:04:52.944
und daraus Energie zu ziehen.

00:04:52.944 --> 00:04:56.213
Oder sie lernt, sich schneller zu bewegen,

00:04:56.213 --> 00:04:58.443
indem sie wiederholt
im Boden verschwindet.

00:04:58.443 --> 00:05:02.322
Die Arbeit mit KI ähnelt nicht so sehr
der Arbeit mit einem anderen Menschen.

00:05:02.322 --> 00:05:06.094
Es scheint eher wie die Arbeit
mit einer seltsamen Naturgewalt.

00:05:06.562 --> 00:05:10.993
Es ist wirklich einfach, der KI
ein falsches Problem zum Lösen zu geben.

00:05:11.209 --> 00:05:15.747
Oft merken wir das erst,
wenn schon etwas schief gegangen ist.

NOTE Paragraph

00:05:16.242 --> 00:05:21.552
Bei einem Experiment wollte ich,
dass die KI die Lackfarben kopiert

00:05:21.552 --> 00:05:26.378
und mit einer Liste wie der hier links, 
neue Lackfarben erfindet.

00:05:26.798 --> 00:05:29.826
Das hier hat sich die KI einfallen lassen.

NOTE Paragraph

00:05:29.826 --> 00:05:32.993
[Sindis Kacke, arschig,
leiden, graue Scham]

NOTE Paragraph

00:05:32.993 --> 00:05:35.963
(Lachen)

NOTE Paragraph

00:05:39.177 --> 00:05:42.872
Im Prinzip tat sie das, worum ich bat.

00:05:42.975 --> 00:05:46.307
Ich dachte, ich bat um schöne Farbnamen,

00:05:46.307 --> 00:05:51.684
aber eigentlich ließ ich sie nur
die Buchstabenkombinationen imitieren,

00:05:51.684 --> 00:05:53.677
die die KI im Original sah.

00:05:53.677 --> 00:05:56.775
Ich sagte nichts darüber,
was Wörter bedeuten,

00:05:56.775 --> 00:06:02.121
oder dass die KI einige Wörter
in den Farbnamen vermeiden soll.

00:06:03.141 --> 00:06:06.659
Ihre ganze Welt besteht
aus Daten, die ich ihr gab.

00:06:06.659 --> 00:06:10.687
Wie bei den Eissorten,
wusste sie nichts anderes.

NOTE Paragraph

00:06:12.491 --> 00:06:18.355
Durch die Daten sagen wir der KI
häufig versehentlich, das Falsche zu tun.

00:06:18.694 --> 00:06:21.750
Das ist ein Fisch, "Schleie" genannt.

00:06:21.750 --> 00:06:27.487
Eine Gruppe von Forschern trainierte KI
Schleien in Bildern zu erkennen.

00:06:27.487 --> 00:06:30.397
Aber als die Forscher fragten,
welcher Teil des Bildes

00:06:30.397 --> 00:06:34.104
zur Fische-Erkennung verwendet wurde,
wurde das hier hervorgehoben.

00:06:35.203 --> 00:06:37.136
Ja, das sind menschliche Finger.

00:06:37.136 --> 00:06:41.355
Warum sollte KI nach menschlichen Fingern
bei der Fische-Erkennung suchen?

00:06:42.126 --> 00:06:45.499
Es stellte sich heraus,
dass die Schleie ein Trophäenfisch ist,

00:06:45.499 --> 00:06:50.324
und in vielen Bildern
mit der die KI trainiert wurde,

00:06:50.324 --> 00:06:51.838
sahen die Fische so aus.

NOTE Paragraph

00:06:51.838 --> 00:06:53.497
(Lachen)

NOTE Paragraph

00:06:53.497 --> 00:06:56.937
Sie wusste nicht, dass die Finger
nicht zum Fisch gehören.

NOTE Paragraph

00:06:58.808 --> 00:07:01.528
Deshalb ist es so kompliziert,

00:07:01.528 --> 00:07:06.295
eine KI zu entwickeln,
die versteht, was sie sieht.

00:07:06.295 --> 00:07:11.368
Darum ist es so schwer, die Bilderkennung
von selbstfahrenden Autos zu entwickeln,

00:07:11.368 --> 00:07:15.977
und deshalb gibt es so viele Pannen,
weil die KI verwirrt wurde.

00:07:16.410 --> 00:07:20.442
Ich möchte über ein Beispiel
aus dem Jahr 2016 sprechen.

00:07:20.442 --> 00:07:24.921
Es gab einen tödlichen Unfall, als jemand
die Autopilot-KI von Tesla benutzte.

00:07:24.921 --> 00:07:28.359
Aber statt sie auf der Autobahn zu nutzen,
wofür sie entworfen wurde,

00:07:28.359 --> 00:07:30.564
setzte er sie in der Stadt ein.

00:07:31.239 --> 00:07:35.728
Ein Lastwagen fuhr vor dem Auto heraus
und das Auto bremste nicht.

00:07:36.507 --> 00:07:41.293
Die KI wurde durchaus darauf trainiert,
die Lastwagen in Bildern zu erkennen.

00:07:41.293 --> 00:07:46.417
Aber die KI wurde darauf trainiert,
die LKWs auf Autobahnen zu erkennen,

00:07:46.417 --> 00:07:49.340
wo man sie normalerweise von hinten sieht.

00:07:49.340 --> 00:07:52.954
LKWs auf der Autobahn seitlich zu sehen,
sollte eigentlich nicht passieren.

00:07:52.954 --> 00:07:56.263
Als die KI diesen LKW sah,

00:07:56.263 --> 00:08:01.200
erkannte sie ihn vermutlich 
als Verkehrszeichen,

00:08:01.200 --> 00:08:03.814
unter dem sie sicher
drunter durch fahren konnte.

NOTE Paragraph

00:08:03.814 --> 00:08:06.718
Hier ist ein KI-Fehltritt
aus einem anderen Bereich.

00:08:06.718 --> 00:08:11.942
Amazon musste kürzlich einen Algorithmus
zur Sichtung von Lebensläufen aufgeben,

00:08:11.942 --> 00:08:14.878
weil der Algorithmus gelernt hatte,
Frauen zu diskriminieren.

00:08:14.878 --> 00:08:18.034
Das geschah, weil er mit Lebensläufen
von Leuten trainiert wurde,

00:08:18.034 --> 00:08:20.384
die sie in der Vergangenheit
eingestellt hatten.

00:08:20.384 --> 00:08:24.431
Durch diese Lebensläufe lernte die KI,
die Lebensläufe von Menschen zu meiden,

00:08:24.431 --> 00:08:26.481
die Hochschulen für Frauen besuchten

00:08:26.481 --> 00:08:29.527
oder in denen irgendwie
der Begriff "Frauen" steckt,

00:08:29.527 --> 00:08:33.911
wie in "Frauenfußballmannschaft" oder
"Gesellschaft der Ingenieurinnen".

00:08:33.911 --> 00:08:38.145
Die KI wusste nicht, dass sie nicht genau
diesen besonderen Aspekt kopieren sollte,

00:08:38.145 --> 00:08:39.911
den sie Menschen hatte tun sehen.

00:08:39.911 --> 00:08:43.112
Im Prinzip tat die KI das,
worum sie gebeten wurde.

00:08:43.112 --> 00:08:45.827
Sie baten die KI versehentlich,
das Falsche zu tun.

NOTE Paragraph

00:08:46.653 --> 00:08:49.548
Das passiert mit der KI ständig.

00:08:50.120 --> 00:08:53.735
Die KI kann wirklich destruktiv sein
und es nicht mal wissen.

00:08:53.735 --> 00:08:59.367
Die KIs, die neue Inhalte auf Facebook
und YouTube empfehlen, wurden optimiert,

00:08:59.367 --> 00:09:02.400
um die Anzahl der Klicks
und Seitenaufrufe zu erhöhen.

00:09:02.400 --> 00:09:05.860
Eine Möglichkeit dazu bot sich,

00:09:05.860 --> 00:09:10.363
Inhalte verschwörungstheoretischer
oder fanatischer Natur zu empfehlen.

00:09:10.902 --> 00:09:16.204
Die KIs besitzen keine Vorstellung davon,
was der Inhalt eigentlich ist,

00:09:16.204 --> 00:09:18.923
und haben keine Vorstellung davon,

00:09:18.923 --> 00:09:22.296
welche Konsequenzen die Empfehlung
dieser Inhalte vielleicht hat.

NOTE Paragraph

00:09:22.296 --> 00:09:28.088
Wenn wir also mit der KI arbeiten,
ist es an uns, Probleme zu vermeiden.

00:09:28.537 --> 00:09:30.884
Wenn wir Dinge vermeiden wollen,

00:09:30.884 --> 00:09:35.434
die auf das uralte Kommunikationsproblem
zurückzuführen sind,

00:09:35.434 --> 00:09:39.203
müssen die Menschen lernen,
wie man mit der KI kommuniziert.

00:09:39.203 --> 00:09:43.266
Wir müssen lernen, wozu die KI fähig ist
und was sie nicht kann und verstehen,

00:09:43.266 --> 00:09:47.142
dass die KI mit ihrem winzigen Wurmhirn
nicht wirklich begreift,

00:09:47.142 --> 00:09:50.389
worum wir sie bitten.

00:09:51.148 --> 00:09:54.469
Mit anderen Worten müssen wir
darauf vorbereitet sein,

00:09:54.469 --> 00:09:56.415
mit einer KI zu arbeiten,

00:09:56.415 --> 00:09:59.775
die nicht überkompetent und allwissend
wie in der Science-Fiction ist.

00:09:59.775 --> 00:10:05.537
Wir müssen uns darauf vorbereiten,
mit der KI zu arbeiten, wie sie heute ist.

00:10:05.623 --> 00:10:09.852
Und die heutige KI ist
schon eigenartig genug.

NOTE Paragraph

00:10:09.852 --> 00:10:11.176
Danke.

NOTE Paragraph

00:10:11.176 --> 00:10:14.061
(Beifall)