Die Gefahr der künstlichen Intelligenz ist eigenartiger als man denkt

Die Gefahr der künstlichen Intelligenz besteht nicht darin, dass sie sich gegen uns auflehnen wird, sondern dass sie genau das tut, worum wir sie bitten, so die KI-Forscherin Janelle Shane. Sie zeigt die eigenartigen, manchmal bedenklichen Mätzchen der KI-Algorithmen bei ihren Versuchen, menschliche Probleme wie der Erfindung neuer Eissorten oder dem Erkennen von Autos auf der Straße zu lösen. Janelle Shane legt dar, warum die KI noch nicht einem echten Gehirn entspricht.

Künstliche Intelligenz ist dafür bekannt,
allerlei Branchen durcheinanderzubringen.

Was ist mit Eis?

Welche unglaublichen neuen Eissorten
könnte man mit den Fähigkeiten

der hochentwickelten KI herstellen?

Ich arbeitete mit den Programmierern
der Kealing Middle School zusammen,

um die Antwort auf diese Frage zu finden.

Sie sammelten mehr als
1 600 vorhandene Eissorten.

Zusammen gaben wir sie im Algorithmus ein,
um zu sehen, was daraus entstehen wird.

Hier sind einige der Eissorten,
die sich die KI ausgedacht hat.

[Kürbis-Müll-Pause]

(Lachen)

[Erdnussbutter-Schleim]

[Erdbeersahne-Krankheit]

(Lachen)

Diese Eissorten sind nicht so köstlich,
wie wir es erwarteten.

Die Frage ist also: Was ist passiert?
Was ist schief gelaufen?

Versucht die KI uns zu töten?

Oder tut sie genau das, worum wir baten,
aber es gab ein Problem?

Wenn in Filmen etwas mit KI schief läuft,
hat die KI häufig entschieden,

den Menschen nicht mehr zu gehorchen

und eigene Ziele zu verfolgen.

Tatsächlich ist die heutige KI
dafür noch nicht schlau genug.

Sie hat etwa die Rechenleistung
von einem Regenwurm,

oder vielleicht höchstens
die einer einzelnen Honigbiene

und vermutlich sogar weniger.

Wir erfahren über Gehirne
ständig neue Aspekte, die stets zeigen,

wie wenig die KI dem Gehirn entspricht.

Die KI von heute kann einen Fußgänger
auf einem Bild erkennen.

Sie hat aber keine Vorstellung,

dass ein Fußgänger mehr als eine Sammlung
von Linien und Texturen ist.

Sie weiß im Grunde nicht,
was ein Mensch ist.

Wird die KI das tun, worum wir sie bitten?

Sie wird, wenn sie kann.

Aber sie könnte vielleicht nicht das tun,
was wir eigentlich wollen.

Zum Beispiel möchten Sie,

dass KI aus Roboterteilen
einen Roboter zusammenbaut,

um damit von Punkt A
zu Punkt B zu gelangen.

Die Lösung des Problems durch Schreiben
eines herkömmlichen Computerprogamms

würde schrittweise Anweisungen
an das Computerprogramm beinhalten,

wie aus den Teilen ein Roboter
mit Beinen gebaut werden kann

und wie man die Beine benutzt,
um zum Punkt B zu gehen.

Aber wenn man KI einsetzt,
dann sieht die Lösung anders aus.

Man bestimmt nicht, wie die KI
das Problem lösen soll,

sondern setzt nur das Ziel

und die KI muss durch Probieren
selbst herausfinden,

wie sie das Ziel erreicht.

Aber die KI löst das spezielle Problem so:

Es baut sich in einen Turm,
kippt damit um und landet auf Punkt B.

Im Prinzip ist es eine Lösung.

Formal kam sie zu Punkt B.

Die Gefahr der KI besteht nicht darin,
dass sie sich gegen uns auflehnt,

sondern dass sie genau das tut,
worum wir sie bitten.

Die Kunst, mit KI zu arbeiten ist also:

Wie bereitet man das Problem auf,
damit sie das tut, was wir wollen?

Dieser kleine Roboter hier
ist von der KI gesteuert.

Die KI entwickelte ein Design
für die Roboterbeine und fand heraus,

wie sie verwendet werden können,
um alle diese Hindernisse zu überwinden.

Aber als David Ha
das Experiment vorbereitete,

setzte er sehr, sehr enge Grenzen,

wie groß die KI die Beine machen durfte,

weil sonst ...

(Lachen)

Im Prinzip hat sie das Ende
des Hindernislaufs erreicht.

Es ist also kompliziert,

KI etwas Einfaches wie Gehen beizubringen.

Wenn man sieht, was die KI da macht,
könnte man sagen: "Das gilt nicht!"

Die KI kann nicht nur einen hohen Turm
errichten und umkippen,

sondern muss auf zwei Beinen gehen.

Aber es zeigt sich, dass das auch
nicht immer funktioniert.

Diese Aufgabe für die KI war es,
sich schnell zu bewegen.

Es wurde nicht gesagt,
dass sie vorwärts rennen musste

oder dass sie ihre Hände
nicht benutzen konnte.

Wenn Sie die KI trainieren,
sich schnell zu bewegen,

dann bekommen Sie etwas
wie Saltos und komische Gangarten.

Es kommt echt häufig vor,

genauso wie als Haufen
über den Boden zu zucken.

(Lachen)

Wäre es nach mir gegangen,

hätten die Terminator-Roboter
viel seltsamer sein sollen,

Die KI würde auch die "Matrix" hacken,
wenn man ihr eine Chance gibt.

Trainiert man die KI in einer Simulation

wird sie lernen, die Rechenfehler
der Simulation zu hacken

und daraus Energie zu ziehen.

Oder sie lernt, sich schneller zu bewegen,

indem sie wiederholt
im Boden verschwindet.

Die Arbeit mit KI ähnelt nicht so sehr
der Arbeit mit einem anderen Menschen.

Es scheint eher wie die Arbeit
mit einer seltsamen Naturgewalt.

Es ist wirklich einfach, der KI
ein falsches Problem zum Lösen zu geben.

Oft merken wir das erst,
wenn schon etwas schief gegangen ist.

Bei einem Experiment wollte ich,
dass die KI die Lackfarben kopiert

und mit einer Liste wie der hier links,
neue Lackfarben erfindet.

Das hier hat sich die KI einfallen lassen.

[Sindis Kacke, arschig,
leiden, graue Scham]

(Lachen)

Im Prinzip tat sie das, worum ich bat.

Ich dachte, ich bat um schöne Farbnamen,

aber eigentlich ließ ich sie nur
die Buchstabenkombinationen imitieren,

die die KI im Original sah.

Ich sagte nichts darüber,
was Wörter bedeuten,

oder dass die KI einige Wörter
in den Farbnamen vermeiden soll.

Ihre ganze Welt besteht
aus Daten, die ich ihr gab.

Wie bei den Eissorten,
wusste sie nichts anderes.

Durch die Daten sagen wir der KI
häufig versehentlich, das Falsche zu tun.

Das ist ein Fisch, "Schleie" genannt.

Eine Gruppe von Forschern trainierte KI
Schleien in Bildern zu erkennen.

Aber als die Forscher fragten,
welcher Teil des Bildes

zur Fische-Erkennung verwendet wurde,
wurde das hier hervorgehoben.

Ja, das sind menschliche Finger.

Warum sollte KI nach menschlichen Fingern
bei der Fische-Erkennung suchen?

Es stellte sich heraus,
dass die Schleie ein Trophäenfisch ist,

und in vielen Bildern
mit der die KI trainiert wurde,

sahen die Fische so aus.

(Lachen)

Sie wusste nicht, dass die Finger
nicht zum Fisch gehören.

Deshalb ist es so kompliziert,

eine KI zu entwickeln,
die versteht, was sie sieht.

Darum ist es so schwer, die Bilderkennung
von selbstfahrenden Autos zu entwickeln,

und deshalb gibt es so viele Pannen,
weil die KI verwirrt wurde.

Ich möchte über ein Beispiel
aus dem Jahr 2016 sprechen.

Es gab einen tödlichen Unfall, als jemand
die Autopilot-KI von Tesla benutzte.

Aber statt sie auf der Autobahn zu nutzen,
wofür sie entworfen wurde,

setzte er sie in der Stadt ein.

Ein Lastwagen fuhr vor dem Auto heraus
und das Auto bremste nicht.

Die KI wurde durchaus darauf trainiert,
die Lastwagen in Bildern zu erkennen.

Aber die KI wurde darauf trainiert,
die LKWs auf Autobahnen zu erkennen,

wo man sie normalerweise von hinten sieht.

LKWs auf der Autobahn seitlich zu sehen,
sollte eigentlich nicht passieren.

Als die KI diesen LKW sah,

erkannte sie ihn vermutlich
als Verkehrszeichen,

unter dem sie sicher
drunter durch fahren konnte.

Hier ist ein KI-Fehltritt
aus einem anderen Bereich.

Amazon musste kürzlich einen Algorithmus
zur Sichtung von Lebensläufen aufgeben,

weil der Algorithmus gelernt hatte,
Frauen zu diskriminieren.

Das geschah, weil er mit Lebensläufen
von Leuten trainiert wurde,

die sie in der Vergangenheit
eingestellt hatten.

Durch diese Lebensläufe lernte die KI,
die Lebensläufe von Menschen zu meiden,

die Hochschulen für Frauen besuchten

oder in denen irgendwie
der Begriff "Frauen" steckt,

wie in "Frauenfußballmannschaft" oder
"Gesellschaft der Ingenieurinnen".

Die KI wusste nicht, dass sie nicht genau
diesen besonderen Aspekt kopieren sollte,

den sie Menschen hatte tun sehen.

Im Prinzip tat die KI das,
worum sie gebeten wurde.

Sie baten die KI versehentlich,
das Falsche zu tun.

Das passiert mit der KI ständig.

Die KI kann wirklich destruktiv sein
und es nicht mal wissen.

Die KIs, die neue Inhalte auf Facebook
und YouTube empfehlen, wurden optimiert,

um die Anzahl der Klicks
und Seitenaufrufe zu erhöhen.

Eine Möglichkeit dazu bot sich,

Inhalte verschwörungstheoretischer
oder fanatischer Natur zu empfehlen.

Die KIs besitzen keine Vorstellung davon,
was der Inhalt eigentlich ist,

und haben keine Vorstellung davon,

welche Konsequenzen die Empfehlung
dieser Inhalte vielleicht hat.

Wenn wir also mit der KI arbeiten,
ist es an uns, Probleme zu vermeiden.

Wenn wir Dinge vermeiden wollen,

die auf das uralte Kommunikationsproblem
zurückzuführen sind,

müssen die Menschen lernen,
wie man mit der KI kommuniziert.

Wir müssen lernen, wozu die KI fähig ist
und was sie nicht kann und verstehen,

dass die KI mit ihrem winzigen Wurmhirn
nicht wirklich begreift,

worum wir sie bitten.

Mit anderen Worten müssen wir
darauf vorbereitet sein,

mit einer KI zu arbeiten,

die nicht überkompetent und allwissend
wie in der Science-Fiction ist.

Wir müssen uns darauf vorbereiten,
mit der KI zu arbeiten, wie sie heute ist.

Und die heutige KI ist
schon eigenartig genug.

Danke.

(Beifall)