Die Gefahr der künstlichen Intelligenz ist eigenartiger als man denkt
-
0:02 - 0:08Künstliche Intelligenz ist dafür bekannt,
allerlei Branchen durcheinanderzubringen. -
0:09 - 0:11Was ist mit Eis?
-
0:12 - 0:16Welche unglaublichen neuen Eissorten
könnte man mit den Fähigkeiten -
0:16 - 0:19der hochentwickelten KI herstellen?
-
0:19 - 0:23Ich arbeitete mit den Programmierern
der Kealing Middle School zusammen, -
0:23 - 0:25um die Antwort auf diese Frage zu finden.
-
0:25 - 0:31Sie sammelten mehr als
1 600 vorhandene Eissorten. -
0:31 - 0:36Zusammen gaben wir sie im Algorithmus ein,
um zu sehen, was daraus entstehen wird. -
0:36 - 0:40Hier sind einige der Eissorten,
die sich die KI ausgedacht hat. -
0:40 - 0:42[Kürbis-Müll-Pause]
-
0:42 - 0:43(Lachen)
-
0:43 - 0:46[Erdnussbutter-Schleim]
-
0:47 - 0:48[Erdbeersahne-Krankheit]
-
0:48 - 0:50(Lachen)
-
0:50 - 0:55Diese Eissorten sind nicht so köstlich,
wie wir es erwarteten. -
0:55 - 0:58Die Frage ist also: Was ist passiert?
Was ist schief gelaufen? -
0:58 - 1:00Versucht die KI uns zu töten?
-
1:01 - 1:05Oder tut sie genau das, worum wir baten,
aber es gab ein Problem? -
1:07 - 1:12Wenn in Filmen etwas mit KI schief läuft,
hat die KI häufig entschieden, -
1:12 - 1:14den Menschen nicht mehr zu gehorchen
-
1:14 - 1:17und eigene Ziele zu verfolgen.
-
1:17 - 1:22Tatsächlich ist die heutige KI
dafür noch nicht schlau genug. -
1:23 - 1:27Sie hat etwa die Rechenleistung
von einem Regenwurm, -
1:27 - 1:31oder vielleicht höchstens
die einer einzelnen Honigbiene -
1:31 - 1:33und vermutlich sogar weniger.
-
1:33 - 1:37Wir erfahren über Gehirne
ständig neue Aspekte, die stets zeigen, -
1:37 - 1:39wie wenig die KI dem Gehirn entspricht.
-
1:40 - 1:45Die KI von heute kann einen Fußgänger
auf einem Bild erkennen. -
1:45 - 1:48Sie hat aber keine Vorstellung,
-
1:48 - 1:53dass ein Fußgänger mehr als eine Sammlung
von Linien und Texturen ist. -
1:54 - 1:56Sie weiß im Grunde nicht,
was ein Mensch ist. -
1:57 - 2:00Wird die KI das tun, worum wir sie bitten?
-
2:00 - 2:02Sie wird, wenn sie kann.
-
2:02 - 2:05Aber sie könnte vielleicht nicht das tun,
was wir eigentlich wollen. -
2:05 - 2:07Zum Beispiel möchten Sie,
-
2:07 - 2:10dass KI aus Roboterteilen
einen Roboter zusammenbaut, -
2:10 - 2:14um damit von Punkt A
zu Punkt B zu gelangen. -
2:14 - 2:18Die Lösung des Problems durch Schreiben
eines herkömmlichen Computerprogamms -
2:18 - 2:22würde schrittweise Anweisungen
an das Computerprogramm beinhalten, -
2:22 - 2:25wie aus den Teilen ein Roboter
mit Beinen gebaut werden kann -
2:25 - 2:29und wie man die Beine benutzt,
um zum Punkt B zu gehen. -
2:29 - 2:33Aber wenn man KI einsetzt,
dann sieht die Lösung anders aus. -
2:33 - 2:36Man bestimmt nicht, wie die KI
das Problem lösen soll, -
2:36 - 2:38sondern setzt nur das Ziel
-
2:38 - 2:40und die KI muss durch Probieren
selbst herausfinden, -
2:40 - 2:42wie sie das Ziel erreicht.
-
2:42 - 2:48Aber die KI löst das spezielle Problem so:
-
2:48 - 2:53Es baut sich in einen Turm,
kippt damit um und landet auf Punkt B. -
2:53 - 2:56Im Prinzip ist es eine Lösung.
-
2:56 - 2:58Formal kam sie zu Punkt B.
-
2:58 - 3:02Die Gefahr der KI besteht nicht darin,
dass sie sich gegen uns auflehnt, -
3:02 - 3:06sondern dass sie genau das tut,
worum wir sie bitten. -
3:07 - 3:09Die Kunst, mit KI zu arbeiten ist also:
-
3:09 - 3:13Wie bereitet man das Problem auf,
damit sie das tut, was wir wollen? -
3:15 - 3:18Dieser kleine Roboter hier
ist von der KI gesteuert. -
3:18 - 3:21Die KI entwickelte ein Design
für die Roboterbeine und fand heraus, -
3:21 - 3:25wie sie verwendet werden können,
um alle diese Hindernisse zu überwinden. -
3:25 - 3:28Aber als David Ha
das Experiment vorbereitete, -
3:28 - 3:31setzte er sehr, sehr enge Grenzen,
-
3:31 - 3:34wie groß die KI die Beine machen durfte,
-
3:34 - 3:36weil sonst ...
-
3:43 - 3:46(Lachen)
-
3:49 - 3:52Im Prinzip hat sie das Ende
des Hindernislaufs erreicht. -
3:52 - 3:54Es ist also kompliziert,
-
3:54 - 3:57KI etwas Einfaches wie Gehen beizubringen.
-
3:57 - 4:01Wenn man sieht, was die KI da macht,
könnte man sagen: "Das gilt nicht!" -
4:01 - 4:04Die KI kann nicht nur einen hohen Turm
errichten und umkippen, -
4:04 - 4:07sondern muss auf zwei Beinen gehen.
-
4:07 - 4:10Aber es zeigt sich, dass das auch
nicht immer funktioniert. -
4:10 - 4:13Diese Aufgabe für die KI war es,
sich schnell zu bewegen. -
4:13 - 4:17Es wurde nicht gesagt,
dass sie vorwärts rennen musste -
4:17 - 4:19oder dass sie ihre Hände
nicht benutzen konnte. -
4:19 - 4:24Wenn Sie die KI trainieren,
sich schnell zu bewegen, -
4:24 - 4:28dann bekommen Sie etwas
wie Saltos und komische Gangarten. -
4:28 - 4:29Es kommt echt häufig vor,
-
4:30 - 4:33genauso wie als Haufen
über den Boden zu zucken. -
4:33 - 4:34(Lachen)
-
4:35 - 4:37Wäre es nach mir gegangen,
-
4:37 - 4:40hätten die Terminator-Roboter
viel seltsamer sein sollen, -
4:40 - 4:44Die KI würde auch die "Matrix" hacken,
wenn man ihr eine Chance gibt. -
4:44 - 4:47Trainiert man die KI in einer Simulation
-
4:47 - 4:51wird sie lernen, die Rechenfehler
der Simulation zu hacken -
4:51 - 4:53und daraus Energie zu ziehen.
-
4:53 - 4:56Oder sie lernt, sich schneller zu bewegen,
-
4:56 - 4:58indem sie wiederholt
im Boden verschwindet. -
4:58 - 5:02Die Arbeit mit KI ähnelt nicht so sehr
der Arbeit mit einem anderen Menschen. -
5:02 - 5:06Es scheint eher wie die Arbeit
mit einer seltsamen Naturgewalt. -
5:07 - 5:11Es ist wirklich einfach, der KI
ein falsches Problem zum Lösen zu geben. -
5:11 - 5:16Oft merken wir das erst,
wenn schon etwas schief gegangen ist. -
5:16 - 5:22Bei einem Experiment wollte ich,
dass die KI die Lackfarben kopiert -
5:22 - 5:26und mit einer Liste wie der hier links,
neue Lackfarben erfindet. -
5:27 - 5:30Das hier hat sich die KI einfallen lassen.
-
5:30 - 5:33[Sindis Kacke, arschig,
leiden, graue Scham] -
5:33 - 5:36(Lachen)
-
5:39 - 5:43Im Prinzip tat sie das, worum ich bat.
-
5:43 - 5:46Ich dachte, ich bat um schöne Farbnamen,
-
5:46 - 5:52aber eigentlich ließ ich sie nur
die Buchstabenkombinationen imitieren, -
5:52 - 5:54die die KI im Original sah.
-
5:54 - 5:57Ich sagte nichts darüber,
was Wörter bedeuten, -
5:57 - 6:02oder dass die KI einige Wörter
in den Farbnamen vermeiden soll. -
6:03 - 6:07Ihre ganze Welt besteht
aus Daten, die ich ihr gab. -
6:07 - 6:11Wie bei den Eissorten,
wusste sie nichts anderes. -
6:12 - 6:18Durch die Daten sagen wir der KI
häufig versehentlich, das Falsche zu tun. -
6:19 - 6:22Das ist ein Fisch, "Schleie" genannt.
-
6:22 - 6:27Eine Gruppe von Forschern trainierte KI
Schleien in Bildern zu erkennen. -
6:27 - 6:30Aber als die Forscher fragten,
welcher Teil des Bildes -
6:30 - 6:34zur Fische-Erkennung verwendet wurde,
wurde das hier hervorgehoben. -
6:35 - 6:37Ja, das sind menschliche Finger.
-
6:37 - 6:41Warum sollte KI nach menschlichen Fingern
bei der Fische-Erkennung suchen? -
6:42 - 6:45Es stellte sich heraus,
dass die Schleie ein Trophäenfisch ist, -
6:45 - 6:50und in vielen Bildern
mit der die KI trainiert wurde, -
6:50 - 6:52sahen die Fische so aus.
-
6:52 - 6:53(Lachen)
-
6:53 - 6:57Sie wusste nicht, dass die Finger
nicht zum Fisch gehören. -
6:59 - 7:02Deshalb ist es so kompliziert,
-
7:02 - 7:06eine KI zu entwickeln,
die versteht, was sie sieht. -
7:06 - 7:11Darum ist es so schwer, die Bilderkennung
von selbstfahrenden Autos zu entwickeln, -
7:11 - 7:16und deshalb gibt es so viele Pannen,
weil die KI verwirrt wurde. -
7:16 - 7:20Ich möchte über ein Beispiel
aus dem Jahr 2016 sprechen. -
7:20 - 7:25Es gab einen tödlichen Unfall, als jemand
die Autopilot-KI von Tesla benutzte. -
7:25 - 7:28Aber statt sie auf der Autobahn zu nutzen,
wofür sie entworfen wurde, -
7:28 - 7:31setzte er sie in der Stadt ein.
-
7:31 - 7:36Ein Lastwagen fuhr vor dem Auto heraus
und das Auto bremste nicht. -
7:37 - 7:41Die KI wurde durchaus darauf trainiert,
die Lastwagen in Bildern zu erkennen. -
7:41 - 7:46Aber die KI wurde darauf trainiert,
die LKWs auf Autobahnen zu erkennen, -
7:46 - 7:49wo man sie normalerweise von hinten sieht.
-
7:49 - 7:53LKWs auf der Autobahn seitlich zu sehen,
sollte eigentlich nicht passieren. -
7:53 - 7:56Als die KI diesen LKW sah,
-
7:56 - 8:01erkannte sie ihn vermutlich
als Verkehrszeichen, -
8:01 - 8:04unter dem sie sicher
drunter durch fahren konnte. -
8:04 - 8:07Hier ist ein KI-Fehltritt
aus einem anderen Bereich. -
8:07 - 8:12Amazon musste kürzlich einen Algorithmus
zur Sichtung von Lebensläufen aufgeben, -
8:12 - 8:15weil der Algorithmus gelernt hatte,
Frauen zu diskriminieren. -
8:15 - 8:18Das geschah, weil er mit Lebensläufen
von Leuten trainiert wurde, -
8:18 - 8:20die sie in der Vergangenheit
eingestellt hatten. -
8:20 - 8:24Durch diese Lebensläufe lernte die KI,
die Lebensläufe von Menschen zu meiden, -
8:24 - 8:26die Hochschulen für Frauen besuchten
-
8:26 - 8:30oder in denen irgendwie
der Begriff "Frauen" steckt, -
8:30 - 8:34wie in "Frauenfußballmannschaft" oder
"Gesellschaft der Ingenieurinnen". -
8:34 - 8:38Die KI wusste nicht, dass sie nicht genau
diesen besonderen Aspekt kopieren sollte, -
8:38 - 8:40den sie Menschen hatte tun sehen.
-
8:40 - 8:43Im Prinzip tat die KI das,
worum sie gebeten wurde. -
8:43 - 8:46Sie baten die KI versehentlich,
das Falsche zu tun. -
8:47 - 8:50Das passiert mit der KI ständig.
-
8:50 - 8:54Die KI kann wirklich destruktiv sein
und es nicht mal wissen. -
8:54 - 8:59Die KIs, die neue Inhalte auf Facebook
und YouTube empfehlen, wurden optimiert, -
8:59 - 9:02um die Anzahl der Klicks
und Seitenaufrufe zu erhöhen. -
9:02 - 9:06Eine Möglichkeit dazu bot sich,
-
9:06 - 9:10Inhalte verschwörungstheoretischer
oder fanatischer Natur zu empfehlen. -
9:11 - 9:16Die KIs besitzen keine Vorstellung davon,
was der Inhalt eigentlich ist, -
9:16 - 9:19und haben keine Vorstellung davon,
-
9:19 - 9:22welche Konsequenzen die Empfehlung
dieser Inhalte vielleicht hat. -
9:22 - 9:28Wenn wir also mit der KI arbeiten,
ist es an uns, Probleme zu vermeiden. -
9:29 - 9:31Wenn wir Dinge vermeiden wollen,
-
9:31 - 9:35die auf das uralte Kommunikationsproblem
zurückzuführen sind, -
9:35 - 9:39müssen die Menschen lernen,
wie man mit der KI kommuniziert. -
9:39 - 9:43Wir müssen lernen, wozu die KI fähig ist
und was sie nicht kann und verstehen, -
9:43 - 9:47dass die KI mit ihrem winzigen Wurmhirn
nicht wirklich begreift, -
9:47 - 9:50worum wir sie bitten.
-
9:51 - 9:54Mit anderen Worten müssen wir
darauf vorbereitet sein, -
9:54 - 9:56mit einer KI zu arbeiten,
-
9:56 - 10:00die nicht überkompetent und allwissend
wie in der Science-Fiction ist. -
10:00 - 10:06Wir müssen uns darauf vorbereiten,
mit der KI zu arbeiten, wie sie heute ist. -
10:06 - 10:10Und die heutige KI ist
schon eigenartig genug. -
10:10 - 10:11Danke.
-
10:11 - 10:14(Beifall)
- Title:
- Die Gefahr der künstlichen Intelligenz ist eigenartiger als man denkt
- Speaker:
- Janelle Shane
- Description:
-
Die Gefahr der künstlichen Intelligenz besteht nicht darin, dass sie sich gegen uns auflehnen wird, sondern dass sie genau das tut, worum wir sie bitten, so die KI-Forscherin Janelle Shane. Sie zeigt die eigenartigen, manchmal bedenklichen Mätzchen der KI-Algorithmen bei ihren Versuchen, menschliche Probleme wie der Erfindung neuer Eissorten oder dem Erkennen von Autos auf der Straße zu lösen. Janelle Shane legt dar, warum die KI noch nicht einem echten Gehirn entspricht.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Sonja Maria Neef approved German subtitles for The danger of AI is weirder than you think | ||
Sonja Maria Neef edited German subtitles for The danger of AI is weirder than you think | ||
Sonja Maria Neef edited German subtitles for The danger of AI is weirder than you think | ||
Johannes Duschner accepted German subtitles for The danger of AI is weirder than you think | ||
Johannes Duschner edited German subtitles for The danger of AI is weirder than you think | ||
Johannes Duschner edited German subtitles for The danger of AI is weirder than you think | ||
Johannes Duschner edited German subtitles for The danger of AI is weirder than you think | ||
Johannes Duschner edited German subtitles for The danger of AI is weirder than you think |