Computer Says No – Künstliche Intelligenz & Herrschaft

Herald: Herzlich willkommen im C-Base
Livestream der Raumstation unter Berlin-

Mitte am S-Bahnhof Jannowitzbrücke. Es
freut mich ganz besonders, dass der Oskar

heute hier ist mit dem Thema "Computer
says no. Künstliche Intelligenz und

Herrschaft". Das freut mich deswegen ganz
besonders, weil ich ja ansonsten Technik

Philosophie mache. Und wir sind ja nun
seit ungefähr 25 Jahren darauf warten,

dass die ganzen künstlichen
Minderintelligenzen tatsächlich mal so was

wie Bewusstsein entwickeln. Das scheint
aber noch nicht der Fall zu sein, es sei

denn, Oskar hat hier Neuigkeiten für uns.
Und die interessante Frage ist ja, wie es

zu rechtfertigen ist, dass solche
künstlichen Minderintelligenzen dann

Herrschaft über uns ausüben, indem sie uns
Kredite verweigern, unsere Bankkarte nicht

verlängern oder auch unsere
Steuererklärung für potenziell gefälscht.

Das werden wir jetzt alles genau und näher
erfahren. Wie das fast schon akademische

Tradition ist, gibt es genau 45 Minuten
Zeit für Oskar. Oskar, du hast die Bühne

für ein Update zur künstlichen Intelligenz
und Herrschaft.

Oskar: Vielen Dank! Herzlich willkommen
auch allen Wesen an den Empfangsgeräten.

Die schlechte Nachricht zuerst. Es gibt
keine Neuigkeiten, sondern meine These ist

eher, dass ich seit 1844 ungefähr nichts
geändert hat, außer dass jetzt Computer

dabei sind. Bevor ich anfange, man kann
die Slides, alle meine Quellen und ein

Transkript des Talks unter dem Link
r.ovl.design/rc3-ki sehen oder über diesen

oben eingeblendeten QR-Code. Ich habe den
Link auch um 17:02, was ungefähr jetzt

sein sollte, getwittert. Danke, Künstliche
Intelligenz. Mein Twitter @_ovlb. Fangen

wir an. Künstliche Intelligenz. Was meine
ich eigentlich damit, wenn ich über

Künstliche Intelligenz spreche? Künstliche
Intelligenz an sich ist erst mal eine

recht grobe, grobe Kategorie. Deswegen
vorab auf einer technischen Ebene wird es

vor allen Dingen um Machine Learning
gehen. Ich werde aber trotzdem den Talk

über von KI sprechen. Ich werde von KI
sprechen, weil KI als gesellschaftlicher

Begriff weiter greifend ist als nur die
technische Ebene, sondern eine Formierung

von Politik, Arbeit, Kultur und Kapital
beinhaltet. Im Folgenden gehört es vor

allem um Politik. Arbeit und Kapital gehen
weniger um Kultur. Und das Ganze wird sich

folgendermaßen gliedern. Ich werde erst
über ImageNet reden, eines der vermutlich

einflussreichsten Datensätze in der
Geschichte des Machine Learning, danach

über Algorithmen und Arbeit und
schließlich über einen Teil namens

künstlichen Ideologie, wo ich ein bisschen
über staatliche Herrschaft und wie sich

Militär und Polizei künstliche Intelligenz
zu Nutze machen. Schließlich ein kleiner,

ein kleiner Ausblick unter dem Titel Was
tun? Genau das ist die grobe, grobe

Gliederung. Es ist also kein technischer
Vortrag. Ich werde nicht erklären, wie die

Machine Learning funktioniert und ich werde noch
nicht erklären, was und wie grundlegend

künstliche Intelligenz ist, oder? Also
wenn ihr jetzt einen technischen Vortrag

erwartet habt. Tut mir leid, gibt es
nicht. Okay, los geht's. ImageNet, oder wie

Machine Learning sich für immer
veränderte. Für die Leute von euch, die

vielleicht nicht einen großen Hintergrund
in der Geschichte des der künstlichen

Intelligenz haben. Eine kurze Erklärung, was
mit ImageNet eigentlich

ist. ImageNet ist, wie oben schon
erwähnt, der vermutlich einflussreichste

Datensatz. Warum, erkläre ich gleich. Und
darauf aufbauend wurde vermutlich einer

der einflussreichsten Algorithmen
geschrieben. Die Idee ist so kompliziert

wie simpel und wurde von Fei-Fei Li im
Jahr 2006 formuliert, nämlich den

Goldstandard für Bilder Datensätze zu
sammeln. Die Umsetzung dementsprechend

auch relativ einfach: Bilder sammeln. Nur
ist das natürlich, wenn man von einem

Goldstandard spricht und von den damit von
den Mengen an Bildern, die und die damit

gemeint sind, leichter gesagt als getan.
Fei-Fei Li und ihre Mitfahrenden hatten

zwei Sachen auf ihrer Seite, nämlich
einerseits Bilder suchen, die relativ neu

waren und andererseits immer
leistungsstärkere Computer. Trotzdem

dauert es drei Jahre, bis genug Bilder
zusammengesammelt waren, genug heißt hier

14 Millionen. Und das, um das ein bisschen
in Perspektive zu setzen. Einer der

Hauptvorläufer von imageNet, Pascal VOC
Pascal Virtual Object Classes beinhaltete

19737 Bilder in 20 Kategorien. Anstatt wie
jetzt in der mit 14 Millionen Bildern in

20000 Kategorien. Nun stellt sich aber
eine Frage, wie klassifiziert man denn

eigentlich 14 Millionen Bilder, nur weil
man in einer Bildersuche nach einem Apfel

gesucht hat, heißt das ja nicht, dass
jedes Bild, das bei rausgekommen ist,

einen Apfel beinhaltet. Traditionell wäre
das ein Job für Studienanfängerinnen

gewesen. Das heißt, man hat den Leuten,
die gerade ein Studium angefangen hat,

gesagt, hier einen Datensatz, bearbeite
den bitte. Guck, ob alles korrekt ist. Das

Problem ist, bei 14 Millionen Bildern hat
einer, der Mitforschenden ausgerechnet,

würde es ungefähr 19 Jahre dauern, bis die
Studienanfängerin diese 14 Millionen

Bilder auch wirklich klassifiziert hätten.
Aus der heutigen Perspektive mag man

vielleicht auch sagen, vielleicht ist es
ein Job für einen Algorithmus. Das Problem

ist nur, die Algorithmen, die wir heute
haben, sind schon nicht gut genug, dass

man einfach sagen kann, hier sind die
Bilder, sagt und was ist dann? Das muss

immer wieder kontrolliert werden. Die
Algorithmen, die es damals gab, waren noch

schlechter, also auch nicht wirklich die
Lösung des Problems. Die Lösung des

Problems kam von einer unverhofften
Richtung, von einer micro working, click

working Plattform namens Amazon Mechanical
Turk, die in 2015 eingeführt wurde.

Mechanical Turk ist benannt nach dieser
Konstruktion, wo ein vermeintlicher

Roboter von einem kleinwüchsigen Menschen
in diesem Kasten bedient wurde und dann so

getan hat, als würde er Schach spielen
können. Und Mechanical Turk erlaubte es,

sogenannte Human intelligente Tasks
einzustellen, also kleine Sachen wie zum

Beispiel, Kucke auf diesem Job, auf diesem
Bild ein Apfel ist, die dann von den

Arbeitenden auf der Plattform
vervollständigt werden konnten. Durch

diese Plattform war es möglich, diese 14
Millionen Bilder auf 49 000 Leute

aufzubrechen aufzuteilen, die in 167
Ländern daran gearbeitet haben und so

vergleichsweise schnell oder relativ
schnell, zumindest sehr viel schneller als

19 Jahre in der Lage waren, die Bilder zu
klassifizieren und zu gucken, ob das, was

angeblich auf den Bildern drauf ist, auch
wirklich drauf ist. Wir sehen hier eins

der Probleme, die uns immer wieder
begegnen werden, wenn wir heutzutage auf

Machine Learning gucken und zwar das
menschliche Wahrnehmung auf einen rein

mechanischen Prozess heruntergebrochen
wird. In dem Fall, dass visuelle

Intelligenzen reine Mustererkennung ist.
Das heißt aber auch, dass zum Beispiel

Erfahrungen von Menschen oder einen
Kontext, in welchen die Bilder gesehen

werden, komplett ausgeblendet wird und
dass nur noch über diesen mechanischen

Prozess geht. Bei einem Apfelkuchen mag
das okay sein, aber imageNet hat auch

Kategorien für Menschen enthalten. Und da
wird es schon wesentlich schwieriger zu

sagen, alles ist eins. Trotzdem Sie haben
es gemacht und sie waren damit auch soweit

zufrieden und hatten dann diese 14
Millionen Bilder mehr oder weniger sauber

klassifiziert rumliegen. Dann kam die
nächste Frage. Und jetzt? Was macht man

jetzt mit diesem Datensatz? Was macht man
mit diesen Bildern? Im Rahmen der

Forschung gab es von 2010 bis 2017 die
sogenannte ImageNet Large Scale Visual

Recognition Challenge. In dieser Challenge
hat sich erstmal relativ lange nichts

getan. Es wurde geforscht, bis schließlich
im Jahre 2012 der bereits angesprochene

einflussreiche Algorithmus vorgestellt
wurde. AlexNet. AlexNet ist es

eine Entwicklung von Alex Krichevsky und
seinem Team an der Universität Toronto

gewesen und führte ein neues Konzept ein,
nämlich das der neuronalen Netze, die im

Folgenden zu einem der tonangebenden
Paradigmen in Machine Learning wurden,

weil es dadurch möglich war, diese
Bildmassen und diese an diese Datenmassen

um wesentlich wesentlich schneller zu
bearbeiten bearbeiten, als es vorher

möglich war. Auch heute ist das quasi
immer noch der der Mechanismus, der

meistens verwendet wird. Okay, das quasi
so als kurzer historischer Hintergrund,

worüber wir meistens reden, wenn wir von
Algorithmen reden, nämlich um große

Datenmengen, die im Sinne von Machine
Learning oder Deep Learning, wie man es

auch nennt, bearbeitet werden. Okay. Wir
haben also unfassbare Mengen an Daten. Wir

haben einen fehlenden Konsens, also
niemand der Menschen, die in diesem

Datensatz aufgetaucht wurden, wurde vorher
gefragt, ob das vielleicht auch noch okay

ist, dass deren Bilder da gespeichert
wurden, sondern die Bilder waren einfach

in diesem Datensatz und sind es auch heute
noch größtenteils. Und wir haben ein

mechanisches Verständnis menschlicher
Wahrnehmung. Und schließlich haben wir

Deep Learning, also als technische Art und
Weise, damit umzugehen, dass alles. Diese

vier Punkte werden wir immer wieder und
wieder finden. Damit quasi der ImageNet zu Ende und der

nächste Teil zu Arbeit und Algorithmen.
Noch mal ich auch hier einen Schritt

zurück und die Frage, worüber rede ich
eigentlich, reden wir in diesem Kontext,

wenn wir von Arbeit reden. Wir reden
einerseits von unbezahlter Arbeit. Das

Beispiel dafür ist zum Beispiel Google
Recaptcha, wo wir, um Beweise zu beweisen,

dass wir Menschen sind, beweisen, dass wir
einen Schornstein erkennen können. Wir

haben als zweites unsichtbare Arbeit. Das
bedeutet, wie zum Beispiel die Leute auf

Amazons Mechanical Turk Platform, diese
49000, die tauchen nie als Co-Autorin oder

so was in den Papieren auf. Aber haben wir
doch einen fundamentalen Anteil der Arbeit

geliefert. Schließlich haben wir durch
Algorithmen kontrollierte Arbeit, hier zum

Beispiel Amazons Lagerhäuser oder
Lieferdienste wie Lieferando oder

Delivery. Über unbezahlte Arbeit möchte
ich jetzt nicht richtig sprechen, sondern

eher, sondern ich habe unsichtbare Arbeit
und die modifizierte Arbeit konzentrieren.

Fangen wir mit unsichtbarer Arbeit an..
Wie wir gesehen haben, bei imageNet haben

wir diese Erzählung von KI tut dieses oder
tut jenes. Wenn die KI erkennt, dass etwas

in den Bildern ist oder die KI hat in GO
gewonnen, die KI schreibt mit Gptt drei

unfassbar schöne Texte oder dumme Texte
von Teil zu Teil, KI betreibt Protein

foldern. Das Problem ist nur, die KI tut
das nicht. Die KI ist für die für die

Forscherin, die das eigentlich tun, ein
Werkzeug, das benutzt wird. Und es ist

nicht die KI, die plötzlich vom Himmel
kommt und sagt, Ja, herzlichen

Glückwunsch, GO, kann ich, sondern eher im
Gegenteil. Wie der Economist gezeigt hat,

zeigt es braucht es heutzutage ungefähr 80
prozent der Entwicklungszeit eines Machine

Learning Projektes sind menschliche
Arbeit. Nur da hinten beim Modeltraining,

dann kommt der Computer tatsächlich ins
Spiel. Aber der allergrößte Teil ist

menschliche Arbeit, die aber sowohl in der
öffentlichen Erzählung und in dieser der

Wahrnehmung unsichtbar gemacht wird. Und
es braucht halt genau diese menschliche

Arbeit, damit ein Algorithmus gut
funktioniert und ein Machine Learning

System, braucht es große Mengen an Daten.
Die müssen natürlich sauber sein, weil

wenn die Daten, aus denen der Algorithmus
lernt, nicht sauber sind, dann ist das,

was hinten rauskommt auch Mist. Und
deswegen muss das bis heute von von

Menschen unternommen werden. Wir sind also
wieder da, wo wir bei Mechanical Turk so

ein bisschen waren, bei einer Maschine,
die so tut, als wäre sie keine Maschine.

Eine andere Metapher vielleicht die, die
man benutzen kann, sind potemkinsche

Dörfer, wo vorne alles schön fein gemacht
wird. Und die Fassaden sehen aus, als

hätte man die schönsten, schönsten Häuser
der Welt. Aber hinten, wo es niemand

sieht, verfällt es einfach. Kate Crawford
nennt es, nennt diese Form der KI in

Anlehnung dessen auch potemkinsche KI,
also wenig mehr als Fassaden, die so

demonstrieren, wie ein autonomes System
aussehen würde, wenn es autonom wäre. Wir

es hier zu tun mit einem schönen Schein
des Automatismus. Diese Arbeit kann aber

auch anders aussehen. Das ist ein Foto von
der New York Daily News und diese

Schlange, die ich wir sehen, sind
Obdachlose, meistens schwarze Obdachlose,

die von einer Subfirma oder von einer
Firma oder die von Google da beauftragt

wurden. Eine Firma hat Google beauftragt
Daten zu sammeln, und zwar bestimmte

Daten, Daten der Gesichter von schwarzen
Menschen. Diese Leute haben dafür ein

Geschenkgutschein im Wert von 5 Dollar
gekriegt, dafür, dass ihr 3D-Modell auf

die Server von Google hochgeladen wurde.
Ziemlich niedriger Preis. Warum macht

Google das? Weil Google immer wieder in
Kritik kommt, dass ihre eigenen

Algorithmen schwarze Menschen nicht
erkennen oder wenn sie Schwarze

Menschen erkennen, so wie hier am Beispiel
von Algorithmen Watch aus 2020, ein

Thermometer in der Hand eines schwarzen
Menschen plötzlich für eine Waffe halten.

Wenn man aber mit mittleren Photoshop
Skills die Hand weiß macht, ist es

plötzlich keine Waffe mehr. Sowohl bei dem
Beispiel als auch Atlanta als auch bei dem

Beispiel mit der mit dem Thermometer, tat
es Google danach tierisch leid. Tut es

immer tierisch leid, wenn Google erwischt
wird, wenn es Google scheiße baut. Es ist

aber diese Geistesarbeit finden wir nicht
nur im Training von Machine Learning

Algorithmen, wir haben es bei der
Verifizierung von Bankaccount, wenn man

seine Daten hochlädt und dann plötzlich
kommt wie von Geisterhand eine

Verifizierung oder nicht zurück. Wir haben
es bei der Moderation von Inhalten, bei

Facebook, Twitter oder anderen sozialen
Netzwerken. Das alles führt dazu, dass

diese Erzählung davon, dass uns die
Roboter die Arbeit wegnehmen, vielleicht

nicht stimmt. Vielleicht sollten wir uns
nicht davor fürchten, dass uns die

Technologie ersetzt, sondern eher, dass
Menschen entwertet werden, dass Menschen

Arbeit machen müssen, die immer weniger
wert wird und immer weniger wertgeschätzt

wird. Ich würde deswegen sagen, dass wir
es hier mit einer Form von

Frühkapitalismus im digitalen Gewand zu
tun haben. Anderes Beispiel: Am 25. März

1911 brannte in New York die Triangel
Shirtbased Factory. Bei dem Feuer starben

146 Menschen. Teilweise verbrannten,
teilweise, weil sie aus dem Fenster

springen mussten, weil die
Fabrikeigentümer beschlossen hatten, dass

während der Arbeitszeit die Ausgänge der
Fabrik abgeschlossen zu sein haben. Das

Gebäude wurde so zur Todesfalle. Am 10.
12. 2021 traf ein Hurrikan ein Amazon

Lagerhaus und sechs Menschen starben
während Jeff Bezos damit zu zufrieden war,

dass er bald in den Weltraum fliegen kann.
More perfekt Union ist eine Organisation

aus den USA, veröffentlichte diesen
Screenshot einer der Angestellten vor Ort.

Er schrieb: "I will be at home after the
Storm" und seine Freundin schrieb "what do

you mean?". Und er schrieb zurück "Amazon
won't let us leaf". Das ist das letzte,

was er seinen Geliebten geschrieben hat.
Kurz danach traf der Hurrikan das

Lagerhaus und er starb zusammen mit fünf
anderen. Das ist kein Einzelfall, wenn man

sich die Anzahl schwerer Verletzung in der
Lagerindustrie in den USA anguckt, hat

Revier herausgefunden, dass die Anzahl bei
Amazon ungefähr doppelt so hoch ist wie im

Industriedurchschnitt. Wir haben es hier
mit einem Phänomen namens kybernetische

Verdichtung zu tun. Das haben. *trinkt
einen schluck Wasser". Das heißt, dass die

Arbeitskraft und die Arbeitszeit immer
weiter verdichtet wird, dass immer weniger

Zeit bleibt, die gleichen Sachen zu machen
und dass man zum Beispiel das Sortieren

von Paketen in Amazon Lagerhäusern immer
schneller und schneller machen muss. Das

führt dazu, dass mittlerweile ein
Unterschied von einer Sekunde oder zwei

Sekunden in der durchschnittlichen Zeit
dieser Aufgaben zu machen, der Unterschied

sind, ob man gelobt wird oder ob man
gewarnt wird, dass man zu schlecht

arbeitet. Und das führt natürlich dazu,
dass man anfängt, unsicher zu arbeiten,

dass man nicht auf sich achten kann, weil
die Zeit nicht mehr dafür da ist. You have

to do unsafe things to make you numbers.
Man kann nicht mehr auf sich achten. Und

diese Verdichtung nimmt immer, nimmt immer
weiter zu, diese Algorithmifizierung.

Dabei ist das an sich erst mal kein neues
Phänomen. Die Versuche, Arbeitskraft zu

automatisieren oder durch Automatisierung
zu optimieren, sind so alt wie der

Kapitalismus selber. In 1844 hat Friedrich
Engels Andrew Ure zitiert, der schrieb:

"In wenigen Monaten schon war eine
Maschine fertig, die dem Anschein nach mit

dem Denkvermögen Gefühl und Takt des
erfahrenen Arbeiter begabt war." Von Das

Zitat könnte eigentlich auch heute in der
in der verklärten Sicht auf auf

Automatisierung und Roboter kommen. Aber
kommt aus dem 19. Jahrhundert, aus der

Zeit des Frühkapitalismus. Was aber auch
aus der Zeit des Frühkapitalismus und der

Zeit danach kommt, ist, dass die
ArbeiterInnenbewegung sich Sozialstandards

erkämpft hat. Feste Arbeitsverhältnisse,
ein Recht auf Urlaub, Beschränkung der

Arbeitszeiten, ein Recht auf
gewerkschaftliche Organisierung und so

weiter und so fort. Also alles das, was
wir zum Beispiel bei Amazon oder auch in

anderen Firmen im Amazon. Nur als
prominentes Beispiel ist es nicht so, dass

Amazon der einzig Schuldige wäre. Sehen,
was wieder angegriffen wird, was Union

basstian betrieben wird
und so weiter und so fort. Das wurde alles

schon mal erkämpft und muss jetzt wieder
erkämpft werden bzw. muss immer wieder

erkämpft werden. So haben wir das
Phänomen, dass das, was heutzutage als

radikal neue Form der Arbeit daherkommt,
im Licht der historischen Entwicklung

oftmals nicht mehr, da fehlt ein nicht,
nicht mehr ist als eine Wiederkehr

früherer Arbeitsverhältnisse. Es ist gar
nicht so neu, was wir sehen, es ist nur.

Es hat sich nur in eine moderne Form
geändert. Man könnte sagen und ewig grüßt

das Kapitalverhältnistier. Und deswegen
erlaube man mir die Pathetik Friedrich

Engels selber zu zitieren, der schrieb die
Lage der arbeitenden Klasse in England.

"Die Arbeiter müssen sich also beschrieben
bestreben, aus dieser vertiefenden Lage

herauszukommen, und dies können sie nicht
tun, ohne dass gegen das Interesse der

Bourgeoisie als solcher anzukämpfen." Das
ist ein anderer Punkt in dieser Arbeit ist

die sogenannte algorithmische und
Undurchsichtigkeit. Algorithmische

Undurchsichtigkeit bedeutet entweder, dass
ein Algorithmus so kompliziert geworden

ist, dass man ihn technisch nicht mehr
verstehen kann, was vorkommt, oder aber,

dass man nicht mehr den Einblick in den
Algorithmus hat, dass man also die Frage,

welchen Einfluss haben Algorithmen auf
meine Arbeit? Nicht beantworten kann. Das

ist im Lagerhaus vielleicht noch relativ
offensichtlich. Wenn die Picking Raid

immer schneller, schneller wird, dann kann
man das auf den Algorithmus hin

hinausführen. Aber wenn ich zum Beispiel
bei Deliveroo arbeite oder bei Lieferant

oder Foodora oder wie die ganzen Buden
heißen, da ist das nicht unbedingt so

offensichtlich, weil die Algorithmen
natürlich geheim sind und sich von Firma

zu Firma unterscheiden. Deliveroo wurde in
Italien verklagt, weil der Algorithmus

diskriminiert hat. Wenn man zum Beispiel
krank gewesen ist oder sich an

Arbeitsorganisation beteiligt hat, dann
hat der Algorithmus einen so bestraft, wie

als wenn man einfach nicht gearbeitet
hätte. Das führt natürlich dazu, dass

Gerüchte entstehen und dass diese
Unklarheit zu Wissenshierarchien führt,

dass man nicht mehr verstehen kann, was
eigentlich passiert. Wir haben es mit

einem Phänomen zu tun, wo die Daten, die
angesammelt werden, nur noch in eine

Richtung fließen. Sie werden von den von
den Arbeiterinnen extrahiert und fließen

in den Wissensschatz der der Plattform, wo
sie angehäuft werden, ausgewertet werden

und so weiter. Das führt zu der Frage, wie
soll man denn eigentlich verstehen, was

nicht fassbar ist. Wenn ich nicht weiß,
was der Prozess ist, wie soll ich ihn

verstehen und wie sollen wir ihn überhaupt
fassen, was sich, was ich verändert?

Natürlich werden diese Algorithmen
weiterentwickelt und weiterentwickelt.

Wenn ein Manager von der Lieferkette sagt
unsere Algorithmen sind unfassbar dumm,

was tatsächlich passiert ist. Sie können
gar nicht so diskriminierend sein, wie ihr

euch das vorstellt, dann ist das ja keine
Garantie. Erstens, dass er nicht lügt, was

man im Manager vielleicht zutrauen sollte
und zweitens auch nicht, dass der

Algorithmus das vielleicht in zwei Monaten
vielleicht nicht mehr so dumm ist. Und

diese Hierarchien können nur aufgelöst
werden, wenn die Algorithmen offengelegt

werden, wenn es eine Möglichkeit gibt, zu
verstehen, was eigentlich gerade passiert.

Wir haben es hier also mit einer
Verdichtung der Arbeit zu tun, die auch

eine Verdichtung der Zeit ist. Unternehmen
versuchen alle Sekunden, die hinter den

Fabriktor stecken oder im Fall von Geeck
Work vielleicht auch in den Straßen, in

Arbeitszeit und in kontrollierte Zeit zu
verändern. Vielleicht hilft dagegen

Faulenzen, um die Überwachung zu
verändern. Vielleicht aber auch nicht. Die

Verlangsamung des Arbeit ist der Arbeit
ist ein Mittel des Arbeitskampfes. Der

sogenannte Bummelstreik ist gut erprobt.
Vielleicht kann man den noch gegen

Algorithmen einsetzen. Das wäre eine
These, die es auszuprobieren gilt. Und

dieses Bewusstsein von der Zeit ist nicht
unbedingt neu. Walter Benjamin schreibt in

seinen Geschichtsphilosophischen Thesen
über die Uni Revolution 1830. Das ist in

ganz Paris, also die Uni Revolution 1830, in
Paris, das in ganz Paris unabhängig

voneinander auf die Turnuhren geschossen
wurde, weil die Protestierenden verstanden

haben, dass diese Turnuhren als Symbol der
Zeit und als Symbol des Drucks durch die

Zeit stehen. Dieser Widerstand oder jeder
Widerstand an sich braucht Organisierung,

wir können nicht einfach, es gibt keine
Möglichkeit da als Einzelperson was gegen

zu machen, sondern man muss sich, man muss
sich mit seinen Arbeiterinnen und

Kolleginnen zusammen organisieren. Und
natürlich tun die Firmen alles, dass das

zu verhindern. Aber sie müssen dabei nicht
erfolgreich sein. Das zeigt allein schon

die Geschichte. Okay, das wäre der Teil
zur Arbeit. Gucken wir jetzt uns mal an,

was der Staat mit der ganzen Geschichte zu
tun hat. Ich rede hier ein bisschen über

über Daten und öffentliche Daten, dann
über ökonomische Abhängigkeiten in der

Forschung, über Polizei und Militär. Ein
kleines bisschen über Privatsphäre. Und

dann zum Schluss. Das ist ein schönes
Paket. Also öffentliche Daten und privates

Geld. Ich würde sagen, dass wir es hier
mit einer neuen Form der ursprünglichen

Akkumulation zu tun haben. Also private
Unternehmen versuchen möglichst viel

verwertbare Stoffe in ihre eigenen
Privatbesitz zu gelangen, um daraus Profit

zu schlagen. Der Rohstoff in diesem Fall
sind unsere Geschichten, unser Leben. Die

Märkte sind, wie wir sehen werden,
Kontrolle oder wie wir auch im

Arbeitskapitel schon gesehen haben und
Hokuspokus, wo gesagt wird, künstliche

Intelligenz wäre in der Lage, dies und
jenes zu tun, auch wenn es das auf keinen

Fall ist. Aber wir brauchen eure Daten.
Und ich würde deswegen sagen, dass die

Innovationen, die uns da verkauft werden,
keine ist, sondern einfach alt und

gebrechlich und stinkt. Was wir aber
trotzdem immer mehr sehen, ist eine

Konzentration unserer Daten in den
Rechenzentrum einiger weniger privater

Unternehmen. Und je mehr konzentriert
wird, umso mehr sind wir als Gesellschaft

darauf angewiesen, dass diese privaten
Unternehmen gut zu uns sind. Als Beispiel

zum Beispiel der Übersetzungsassistent von
Google, Google Translate, der zwar für

alle frei nutzbar ist, wir bezahlen nicht
dafür. Und trotzdem sammelt Google all

unsere Daten. Und je mehr wir diese
Nutzung in öffentliche Prozesse einbauen

oder auch in unser Leben einbauen, umso
mehr werden wir von Google abhängig und

umso mehr werden dafür werden wir davon
abhängig, dass Google nicht vielleicht

irgendwann sagt: Na gut, kein Bock mehr
auf umsonst, ab jetzt wird bezahlt. Diese

Abhängigkeit führt zu einer Frage, die wir
so in der Bankenkrise vielleicht schon

gesehen haben, als Finanzinstitute als too
big to fail bezeichnet wurden und immense

Summen Geld dafür ausgegeben werden werden
musste, diese diese Institute zu retten.

Die Tech-Unternehmen befinden sich immer
mehr auf dem Weg, so integrale

Bestandteile unserer Gesellschaften zu
werden, dass auch sie diesen too big to

fail Moment vermutlich erreichen, wenn
nicht schon erreicht haben. Aber es ist

nicht nur die Öffentlichkeit, die davon
abhängig ist, ist es auch zunehmend die

Forschung, die über künstliche Intelligenz
oder über tech generell, die mehr und mehr

davon abhängig ist, dass sie sich mit den
mit den Unternehmen gut stellt. Es sind

ein paar wenige Unternehmen, die nicht nur
die Entwicklungsumgebung stellen, die

Sprachen und aber auch die Software. Das
heißt, die um sie schaffen quasi die das

Wasser, wie Meredith Whitaker sagte, in
dem die Forschung zu künstlicher

Intelligenz schwimmt. Ein Beispiel hierfür
ist Timnit Gebru vermutlich das

prominenteste der letzten Monate und im
Februar ist eine der führenden

Forscherinnen im Bereich der der ethischen
KI und war lange Zeit Qlead bei Google. Im

Dezember letzten Jahres wurde sie
plötzlich gefeuert, angeblich weil sie

eine Mail an eine Mailingliste geschickt
hatte, die einem Manager nicht würdig war.

Die wahrscheinlichere These ist, dreht
sich um ein Paar. Ein Paper, in dem es um

sogenannte stochastische Papageien ging,
um stockastic parrats und um die Gefahren,

die Large Language Models, sehr große
Sprach Modelle, wie zum Beispiel das

bereits erwähnte Gpd3 führen würden, Gibru
und ihre Koathorinen haben in dem Paper

argumentiert, dass diese Language Modells
eine große Reichweite, große Vielfalt

an Kosten, aber auch Gefahren bilden, also
zum Beispiel Kosten werden Umweltkosten.

Es braucht sehr viel Rechenkapazitäten mit
diesen Models zu arbeiten. Harms Während

z.B. Rachel Harms diese sprach,
dass die Modelle es schaffen, künftig sehr

eloquent über Rassismus zu reden, gebe die
drei z.B. auch kurz nach seinem

Release schon angefangen, antisemitischen
und rassistischen Müll zu erzählen, auch

wenn das überhaupt gar nichts mit der
Fragestellung zu tun hat. Und wieder tat

es Google leid. Es tat Google sogar so
leid, dass sie im Februar 2021 MMitchel

gefeiert haben, Lied eines anderen iTeams
bei Alphabet Googles Mutterfirma. Und

Google sendet damit eine ganz eindeutige
Nachricht. Wenn wir die führenden Köpfe

dem Bereich ethical eye feuern können und
es uns zwar leid tut, aber wir es trotzdem

machen, dann seid ihr besser ganz ruhig
und benehmt euch oder ihr seid einfach

raus. Um diese Form der Abhängigkeit ist
ein bisschen simultan zu dem, was wir im

Kalten Krieg gesehen haben, als das US-
Militär immer mehr Geld in die Forschung

gesteckt hat. Technologie und Militär oder
wie ich sagen würde ziemlich beste

Freundinnen. Sie können bis zum Anfang des
Internet, als es noch ARPANET zurückdenkt,

hieß, zurückdenken und sehen, dass das
ARPANET eine Erfindung des Militärs war,

seine Ausgründung des Arpa, Advanced
Research Proposal und a und dass

Départements of Defence. Und von da an
gingen die Investitionen in Forschung und

Technologie immer weiter und weiter und
weiter Geschäfte mit dem Militär

heutzutage sind Teil des Kerngeschäfts von
Google, Facebook, Amazon und so weiter und

so fort. In Amerika ist eines der größten
Projekte, Project Maven. Als offizielles

erstes Logo hatten sie diese Roboter auf
Ecstasy, die dem eigentlichen Inhalt des

Ganzen, nämlich algorithmisch warfare
Cross Functional Team, nun wirklich nicht

gerecht werden. Am Projekt Melvin war ein
Projekt von beinahe allen US

amerikanischen Verteidigungsinstitution,
künstlich intelligente Spionage gang und

gäbe zu machen und nichts mehr auf der
Welt zu verpassen. In diesem Projekt

wurden auch technologische
Errungenschaften von YouTube verwendet, wo

eigentlich im Zivilen entwickelte
Techniken dem Militär nutzbar gemacht

wurden. Ein Beispiel wäre YouTubes
Empfehlungslgorithmus, der auch sogenannte

Cluster Analysis beruht und diese Cluster
Analysis, kann man einerseits benutzen, um

die Videos anzuzeigen, die dich
wahrscheinlich interessieren. Man kann sie

aber auch benutzen, um vermutete
Straftäterinnen zum Beispiel im Irak oder

so zu entdecken. Für Google ging das nicht
so gut aus. Bis zu 3000 MitarbeiterInnen haben

sich, haben protestiert und Google hat
sich aus Project Maven zurückgezogen und

hat gesagt, wir machen keine autonomen
Waffen mehr. Es tat Google natürlich leid.

Google hat aber auch gleichzeitig gesagt,
das Geschäft mit den Militärs und so

wichtig. Wir machen keine Waffen, aber
alles andere machen wir schon. Ein

jüngeres Beispiel aus Europa ist die 100
Millionen Dollar Investition von Daniel

Eck, dem CEO von Spotify, der mit seinem
Hedgefonds bei Helsingör eingestiegen ist,

einer deutschen Firma, die sagt, mit
ethischen, autonomen Waffensystemen die

freiheitlich demokratische Grundordnung
verteidigen zu wollen. Wo Amerika Roboter

auf Ecstasy hat, hat Deutschland das
Projekt das Kommando Cyber und

Informationsraum. Das ist ein Symbolbild
aus der Weihnachtszeit, das sich darum

kümmert, die Truppe zu digitalisieren und
voranzubringen. Momentan ist man in der

Phase des 2.0, was nur 20 Jahre nach dem
Web 2.0 für deutsche Verhältnisse ein

ziemlich ordentliches Tempo ist. Aber die
Sache ist ernster als blöde Witze. Mit der

neuen Koalition steht die Anschaffung
bewaffneter Drohnen im Koalitionsvertrag.

Man sagt zwar, man will sie nur bewaffnen,
man will sie nicht autonom machen. Aber

diese Autonomisierung ist im Endeffekt nur
noch ein Software-Update entfernt. Und

dann sollen sie natürlich nur ethisch
töten, weil na klar, wir sind hier in

Deutschland. Das Problem ist aber alleine
schon der Einsatz von normalen, von

normalen Drohnen mit Waffensystemen fügte,
führt dazu, dass die Schwelle zum Einsatz

militärischer Gewalt sinkt und Krieg
entgrenzt wird. Inwieweit entgrenzt wird

und wie wenig wie schlimm das für die
Zivilbevölkerung ausgehen kann, hat die

New York Times jüngst in einer sehr
ausführlichen Reportage belegt, in denen

sie Pentagon Papiere analysiert haben und
so zum Beispiel zivile Opfer der

Luftangriffe der USA veröffentlicht haben.
Aber auch hier haben wir es wieder mit

Problemen von Algorithmen oder Dummheit zu
tun. Das Pentagon hat jüngst über einen

Algorithmus berichtet, der zu 25 prozent
die richtigen Ziele ausgewählt hat. Von

sich selber aber dachte, es wären 90
prozent, der also ziemlich schlecht war,

aber gleichzeitig gedacht hatte Ich bin
richtig gut. Und das ist natürlich ein

Problem. Es ist auch ein Problem, weil die
Algorithmen mit der Zeit besser werden und

wir dann diese die vielleicht erste
offensichtliche Linse Ja, okay. Die

Algorithmen sind so schlecht und das ist
das Problem. Nein, das Problem ist

eigentlich staatliches Töten und wir
müssen uns bewusst sein, dass wir dahin

müssen, das zu formulieren. Sondern es
sagte Herrschaft durch Gewalt ist sowohl

in autonome Waffentechnologie als auch in
den Rahmen des Denkens und der Politik

eingemeißelt, welcher zu ihrer Entwicklung
und ihrem potenziellen Einsatz führt. Es

geht darum, diese Herrschaft durch Gewalt
zu kritisieren und nicht nur das Mittel,

mit dem sie durchgesetzt wird. Was im
Krieg nach außen durch autonome

Waffensysteme funktioniert, funktioniert
im Inneren zum Beispiel durch Gewalt,

durch Überwachungskameras, die
biometrische Daten sammeln. Die deutsche

Polizei macht da fleißig mit. Es gibt eine
gute Chance, dass wenn du Anfang Juli 2017

in Hamburg fast dein Gesicht für lange
Zeit in einer Datenbank der Polizei in

Hamburg gespeichert war Anfang Juli 2017
war die G20 Proteste und den nächsten Teil

wollte ich eigentlich überspringen. Und im
Rahmen dieser Strafprozesse im Rahmen

dieser Proteste kam es natürlich zu
Angriffen auf Polizeikräfte. Es kam aber

auch durch Angriffe durch, auf
Demonstrierende, durch die Polizei. Hier

zum Beispiel keine Polizeigewalt durch die
Polizei Hashtag Polizeiproblem. Diese

Software, die benutzt wurde, ist wie Demo
360 und man hat darin mehrere Terabyte

Daten hochgeladen, Videoaufnahmen,
Fotoaufnahmen, um potenzielle GewalttäterIn

zu identifizieren. Der Einsatz wurde
danach vom Verwaltungsgericht Hamburg für

rechtmäßig erklärt und eine Beschwerde des
Datenschutzbeauftragten Hamburgs

zurückgesetzt. Im neuen Polizeigesetz
wurden die Befugnisse des

Datenschutzbeauftragten weiter
zusammengeschnitten, sodass er einfach

keine Beschwerde mehr hatte, sondern
eigentlich nur noch zu einer doofen

Marionette wurde. Die Polizei hat diese
Datenbank mit den und mit den Daten zwar

2020 gelöscht, aber nicht, weil es ein
Fehler war, sondern weil es keine

strafrechtlich Erforderlichkeit mehr gab.
Das Gerichtsurteil ist bestehen geblieben

und der Präzedenzfall wurde gesetzt. Die
Polizei hat schon gesagt, dass sie

Interesse hat, mit solchen großen
Datenbanken weiterzuarbeiten. Bei neuen

Protesten deutschlandweit wird im Rahmen
des Programms Polizei 2020 an

bundeseinheitlichen Plattformen
gearbeitet, die versuchen, die momentane,

das momentane Chaos, das föderale
Überwachungs zu vereinheitlichen und die

Daten besser zugänglich zu machen. Die
Geschichte zeigt aber immer wieder, dass

Gesichtserkennung kein Tool ist, was
einfach funktioniert. Zum Beispiel in der

Gender Shell-Studie von 2008 wurde
gezeigt, dass eigentlich alle

Gesichtserkennung, Algorithmen, große
Unternehmen, schwarze Frauen wesentlich

schlechter erkennen als weiße Personen
oder auch männliche Person. Diese Bias

findet sich auch in Amazons Recognition
Tool wieder, das auf mehr Mitglieder des

US amerikanischen Kongresses losgelassen
wurde und einige von denen zu

Straftäterinnen machte. Natürlich, oder
das heißt natürlich aber kann es

überraschenderweise vor allen Dingen
People of Color. Aber auch hier gibt es

wieder ein grundlegendes Problem, nämlich
dass das Gesichtserkennung im öffentlichen

Raum eigentlich überhaupt nichts zu tun
hat, zu suchen hat und dass

Gesichtserkennung auch in den Tools der
Polizei nichts zu suchen hat. Die Polizei

ist ein schwer überwacher Organ und es ist
eigentlich unmöglich, demokratische

Kontrolle auszuüben, ihm dafür zu sorgen,
dass die Polizei keinen Unsinn macht. Wenn

man sich Prozesse wie NSU 2.0 oder
rechtsextreme TerrorChatgruppen anguckt,

sollte man vielleicht eher davon ausgehen,
dass das passieren wird. Wir sind hier in

einer Situation, wo die deutsche Polizei
machen will, was Facebook nicht mehr machen

möchte, nämlich flächendeckende
Gesichtserkennung. Und wenn man hinter

Facebook hinterherhinkt im Jahr 2021, dann
sollte man sich vielleicht Gedanken

machen. Falls ihr an dem Widerstand
dagegen interessiert seid. Es gibt eine

Kampagne namens Reclaim your face, die
sich gegen Gesichtserkennung und die

Sammlung von biometrischen Daten in Europa
einsetzt. Dafür gibt es auf diesem

Raumschiff morgen auch einen Vortrag, wo
der momentane Stand vorgestellt wird. Der

letzte, der letzte Teil des Policing, den
ich kurz ansprechen möchte und auch Teil

des neuen Polizeigesetzes in Hamburg, ist
Predictive Policing, Predictive Policing

oder kurz Voraus in die Vergangenheit. Es
wird gesagt, ein Algorithmus stellt fest,

wo morgen oder vielleicht später des Tages
Kriminalität stattfinden wird. Und

natürlich wird gesagt, das ist neutral.
Was soll schon passieren? Wieder Markup

aber jüngst festgestellt hat, führt es
eigentlich nur dazu, dass das die Orte, in

denen momentan Polizeieinsätze
stattfinden, auch morgen wieder Ziel von

Polizeieinsätzen werden. Niemand kann
beantworten, warum oder wie das in

Deutschland nicht passieren sollte. Ganz
im Gegenteil eigentlich sogar ein Panel

der UN warnt davor, dass der
unregulierte Einsatz von künstlicher

Intelligenz in vielen Regierungen
rassistische Vorurteile verstärken kann.

Wir haben es hier also zu tun mit einer
Infrastruktur des ständigen staatlichen

Zugriffs auf unsere Daten, auf unsere
Gesichter, auf unser Leben oder... Und es

geht nicht nur, es geht nicht mehr nur um
die Polizei oder nur um das Militär,

sondern es geht um eine ganzheitliche
Verbindung von Geheimdiensten, Polizei und

Militär, die alle das Gleiche wollen und
deren Daten zunehmend interoperabel

werden. Firmen wie Palantir z.B.
versinnbildlichen diese Gemengelage. Die

arbeiten zusammen mit der NSA, aber auch
mit der ISI , also mit der Behörde in den

USA, aber auch mit der hessischen Polizei
oder mit Europol. Also auch die

herkömmliche nationale Grenzen
verschwimmen, dazu einem gewissen Teil.

Außen und Innen, Polizei sein
Militärgeheimdienst verschmelzen und es

entsteht eigentlich eine große, umfassende
oder der Versuch einer großen, umfassenden

Überwachungsinfrastruktur. Das Schöne ist,
dass auch eine Firma wie Palantir Angst

hat vor einem Bewusstsein über
Privatsphäre und auch über ein Bewusstsein

dafür, dass die Algorithmen dieser Firmen
Scheiße bauen. Das heißt, wenn wir, wenn

wir daran arbeiten, dass nicht zur
Normalität werden zu lassen, dann haben

wir eine reelle Chance, das auch zu
verhindern. Und noch kurz ein paar

Anmerkungen zu Daten und Privatsphäre. Es
geht hier vor allem um Zusammenhang von

Privatsphäre und nicht um die
Datensammelwut von Facebook. Dafür gab es

jetzt hier gerade vorher zum Beispiel
einen Vortrag über die Facebook Papers und

noch ein, zwei andere Punkte im Fahrplan.
Wir haben bis jetzt über über staatliche

Überwachung gesprochen und wie sie immer
allgemeiner wird. Das führt dazu. Dass

einerseits alle betroffen sind, aber dass
andererseits Leute, die dem Staat mehr und

mehr ausgeliefert sind oder wehrloser
gegenüber sind, dass die Intensität der

Eingriffe diesem gegenüber zunimmt. Als
Beispiel werden zum Beispiel Hartz-IV-

Bezieher, in die quasi ein Offenbarungseid
gegenüber den Staat abliefern müssen,

Geflüchtete bei der Einreise oder auch
migrantische Communitys, die traditionell

immer wieder das gesteigerte Ziel von
polizeilicher Arbeit sind. Wir haben hier

also die Situation, dass Überwachung und
die die Aufhebung der Privatsphäre ein

Problem der betroffenen Individuen ist,
erst mal auf den ersten Blick. Aber das

sollte uns nicht dazu verleiten zu denken,
das ist ein individuelles Problem ist,

sondern es ist ein gesellschaftliches
Problem. Wir kommen nicht gegen diese

Dynamik an, mit dem, ich habe nichts zu
verbergen---narrativ, weil wir wissen

nicht, was morgen morgen trifft. Das
heißt, wir müssen diese Datafixierung

nicht auf einem individuellen Level
diskutieren, sondern auf einem

kollektiven. Auf welche Arten und Weisen
wollen wir, dass eine Gesellschaft

datafiziert ist? Was kann uns als
Gesellschaft einen einen Nutzen bringen

und was nicht? Schlussendlich muss es
alles, was es für alle möglich sein, ohne

Angst vor dem digitalen Panoptikum durch
die Straßen zu laufen. Privatsphäre und

Daten sind aber nicht nur ein Problem, das
sei noch kurz angemerkt Ich habe ja am

Anfang bei ImageNet erwähnt, dass niemand
gefragt wurde, ob man in diesem Datensatz

sein möchte oder nicht. Die Forscherin
Sascha Luchoni hat jüngst auf Twitter

gefragt, was denn ein gutes Example von
einem KI-Datensatz wäre, wo wirklich nach

Einverständnis gefragt wurde. Das it even
exists? Es stellt sich heraus in allen

Responses zu diesem Tweet. Es gibt genau
eins: Facebooks Casual Convent

Conversations Dataset scheint das einzige
große Daten, der einzige größere Datensatz

zu sein, in dem die Beteiligten
tatsächlich zugestimmt haben, dass ihre

Daten für Zwecke des maschinellen Lernens
verwendet werden. Okay, was tun jetzt oder

I want you tech for good? Wir haben
gesehen, dass wir einen gespenstischen

Wind haben, einen gespenstischen digitalen
Wind, der durch unser Haus, durch unsere

Gesellschaft bläst. Wir haben gesehen, wie
KI das menschliche Zusammenleben

kodifiziert und als Mittel staatlicher
Überwachung und kapitalistischer Kontrolle

dienen kann. Das heißt aber auch, dass
unsere Rassismen, unsere Sexismen und so

weiter in diese KI eingeschrieben wird und
dass gleichzeitig die Technologie sich

immer schneller und schneller entwickelt,
wir aber als Gesellschaft gar kein

ethisches Verständnis mehr davon schaffen,
dass hinterherkommt in dem Tempo der KI

und das auch dazu führt. Und dass es geht
mir jetzt nicht hier darum, KI an sich zu

verurteilen, sondern es gibt dafür schöne
Beispiele. Man kann KI benutzen, um es

gegen die Überwacher zu drehen und an zum
Beispiel für Gesichtserkennung Programme

auf die Polizei anzuwenden und so
Polizisten zu identifizieren, die gegen

Protestierende eingesetzt werden. Man kann
KI zu Hause rumliegen haben und deutsche

Behörden Maschinen lesbar machen und so
besser verstehbar machen. Aber bei allem,

dem dürfen wir nicht vergessen, dass
solange wir, solange wir die Herrschaft

der Menschen über die Menschen nicht in
den Fokus der Kritik richten, sondern uns

immer wieder nur an den Symptomen
abarbeiten, dass wir immer wieder an den

gleichen Punkt kommen werden, vielleicht
mit einer anderen Technologie, aber an den

gleichen Punkt. Wie Timnit Gebru sagte
daß, es geht darum, dass die wenigen

Systeme der Unterdrückung schaffen und die
"others constantly work to prevent harm

unable to find the time space or resources
to implement their own vision of future".

Und ich glaube tatsächlich, das ist das,
wo es im Endeffekt darum gehen würde, dass

wir es schaffen, die Zeit und den Willen
auch zu finden, unsere eigene Vision von

der Zukunft zu implementieren. Und dann
schlussendlich erst wenn wir als Menschen

gut zueinander sind, können die Maschinen
lernen, auch gut zu uns sein zu sein. Um

noch mal die Slides wie Sources und alle
meine Quellen findet ihr auf

r.ovl.design/rc3-ki, oder über diesen QR-
Code. Oder wie gesagt bei Twitter. Damit

komme ich zum Ende und möchte mich ganz
herzlich bedanken bei euch, die ihr

zugeguckt haben, bei der C-Base für die
Einladung hier sprechen zu dürfen und

natürlich bei allen Forscherinnen,
Aktivistinnen, Journalistinnen und so

weiter, auf deren Arbeit ich mich implizit
oder explizit bezogen habe. Vielen Dank!

Applaus

Herald: Das war großartig, Oskar, vielen
Dank! 45 Minuten, fast fast ohne Pause, da

gab es ja wirklich ein ordentliches
Update. Wir haben neue Wörter gelernt:

kybernetische Verdichtung, kybernetische
Verdichtung, digitaler Frühkapitalismus.

Demnach müssten wir Hacker jetzt helfen,
dass die modernen digitalen Arbeiter

wieder sich selbst ermächtigen und es
wieder zu einer Aufklärung kommt.

Wahrscheinlich.
Oskar: Zum Beispiel.

Herald: Algorithmische Undurchsichtigkeit.
Da müssten die Hacker dafür sorgen, dass

die Algorithmen irgendwie durchsichtiger
werden. Das Peinliche ist ja auch, dass

man dann sehen könnte, wie nackt der
Kaiser möglicherweise ist.

Oskar lacht
Herald: Und wir müssen den Wissensschatz

der Arbeiter, die davon überwacht und
gesteuert werden, irgendwie zu mehren

suchen. Und interessant fand ich auch
künstliche Ideologie. Das ist also so ein

bisschen, sonst spin gibt dahingehend zu
sagen, dass es künstlich, also ist es

intelligent, auch wenn es vielleicht gar
nicht so intelligent ist. Aber künstliche

Intelligenz ist ja schon mal ein Wert an
sich. Stochastische Papageien fand ich

auch interessant, dass also so große
Mengen an Daten, wenn man sie statistisch

auswertet, natürlich auch statistische
Artefakte produzieren. Wer hätte das nur

denken können? Aufgabe der Hacker hier
also auch Selbstermächtigung, Aufklärung

und Nachgucken. Wie funktioniert das
eigentlich, was wir immer schon gemacht

haben? Und jetzt die einzige Hörerfrage,
die in der kurzen Zeit jetzt gekommen ist.

Oder vielleicht auch Zuschauerfrage? Ist
Glaubst du, dass es einen künstlichen

Dunning-Krüger Effekt gibt?
Oskar: lacht verzweifelt Das ist eine

sehr interessante Frage, die ich
vielleicht nächstes Jahr in einem Vortrag

beantworten werde. Es ist eine sehr
interessante Frage. Ich muss darüber

nachdenken. Ich kann es mir vorstellen,
aber ich möchte, ich kann es jetzt gar

nicht so kohärent beantworten, wie die
Frage vielleicht beantwortet werden

müsste.
Herald: Okay, dafür ist die KI Landschaft

vielleicht ja auch etwas diverser als die
Menschen Landschaft da draußen.

Oskar: Na ja, bis jetzt hat sich gezeigt,
dass die KI Landschaft vor allen Dingen

ziemlich genau das Abbild der Menschen
Landschaft ist. Aber die Menschen

Landschaft ist natürlich auch sehr divers
und das ist ja auch ein Vorteil, den wir

haben können. Nur weil ich jetzt darüber
viel darüber gesprochen habe, wie

künstliche Intelligenz und Herrschaft
interagieren, heißt es ja, heißt das ja

nicht, dass das für immer so bleiben muss,
sondern künstliche Dinge kann auch

emanzipativ werden.
Herald: Ja, das ist ja interessant. Also

heißt das, die Geschichte wiederholt sich
wie immer einerseits ja, am Ende aber doch

nicht. Und es wird nicht so laufen. Mal
wieder nicht so, wie Marx es vorausgesagt

hat.
Oskar: Na ja.

Herald: Nicht mit wissenschaftlicher
Genauigkeit.

Oskar: Ich glaube, wenn man, wenn man
genauer hinguckt, der

Geschichtsdeterminismus und die
Voraussage, dass sich die Geschichte auf

eine bestimmte Art entwickeln wird, ist
wahrscheinlich einer der größten

Schwachpunkte bei Marx und Engels. Und
natürlich ist...

Herald: Bei der KI auch.
Oskar: Bei, bei der KI auch, wobei die KI

eigentlich immer wieder nur eine
Wiedergabe der Vergangenheit ist und

deswegen ja noch gar nicht damit
beschäftigt sein kann, wie die Zukunft

ist. Alles, was ihr über die Zukunft sagt,
so wie es gestern war und das bringt uns

alles und uns nichts.
Herald: Bringt das hier an Bord gar

nichts, wie wir rekonstruieren. Ja, die
Zukunft, das müsste die KI erst mal

lernen.
Oskar: Ja. Und wir können die Zukunft auch

gestalten, weil wir müssen nicht die
Fehler der Vergangenheit immer wieder und

wieder reproduzieren, sondern wir können
tatsächlich sagen, das war ein Fehler, wir

wollen es jetzt anders machen.
Herald: Also eine Riesenaufgabe für

Hacker. Ich glaube damit zusammen, dass es
die Sorte Vortrag, die man noch mal

angucken kann.
Oskar lacht

Herald: Herzlichen Dank! Grüße von der
C-Base. Es geht hier um 21 Uhr weiter. Bis

dann everything ist Lizenz cc by vor
Politisierung des Altvordere Community to

do what.

Untertitel erstellt von c3subtitles.de
im Jahr 2022. Mach mit und hilf uns!