34C3 - Die göttliche Informatik / The divine Computer Science

34C3 Vorspannmusik

Herald: So und jetzt begrüßt bitte Rainer,
ein Informatiker, ein Philosoph, der mit

uns darüber reden wird,
was die Informatik nicht kann.

Applaus

R: Herzlichen Dank für diese knappe
konzise Einführung. Genau, ich will heute

sprechen über die göttliche Informatik,
man kann das "göttliche" natürlich auch in

Gänsefüßchen stellen. Ich ... das ist so
ein bisschen Experiment, wo ich so ein

paar Sachen mal zusammenbringen will. Wenn
ihr nach dem Talk rausgeht und sagt "Die

eine Hälfte wusste ich schon, bei der
anderen Hälfte war alles komplett falsch,

aber diesen einen Gedanken, den fand ich
spannend", dann habe ich meine Mission

heute erfüllt. Werden wir mal sehen, wie
wir das hinkriegen. Ich find's immer ganz

wichtig zu wissen, wenn man jemanden hat,
der da vorne steht, zu wissen, aus welcher

Position er spricht, besonders weil wir im
Politischen und Sozial-Ethischen sind. Da

kann man ja quasi mal nicht ganz neutral
sprechen. Ich hab selber Philosophie und

Informatik an der Humboldt-Uni studiert,
war am Lehrstuhl für Informatik und

Gesellschaft, lehre jetzt auch
Datenschutz, Datensicherheit, Informatik

und Gesellschaft. In der Praxis mache ich
IT-Sicherheit, Datenschutz und Linux, bin

auch aktiv im Forum "InformatikerInnen für
Frieden und gesellschaftliche

Verantwortung", in der "Gesellschaft für
Informatik" und bei "Amnesty

International", das so als vorneweg
Disclaimer. Ich spreche aber jetzt quasi

für niemanden da. Selber, Ich hab halt
Philosophie studiert, hab ein bisschen

Philosophie der Wissenschaft gemacht,
Sprachphilosophie, Philosophy of Mind, hab

mich dann in die politische Philosophie
begeben, hab dann mich mit Informatik

beschäftigt, hab gemerkt, "sehr
interessant, da gibt es ganz schön viele

Überschneidungen" und hab jetzt einfach
mal das Zitat, was hier auch am Eingang

des Saals steht, rangeworfen: "Computer
sciences is no more about computers than

astronomie is about telescopes". Das heißt
der Computer ist an der Stelle eben ein

Werkzeug, um Dinge zu tun, der, und dieses
Werkzeug hat bestimmte Eigenschaften und

diese Eigenschaften sorgen dafür, dass man
es auf bestimmte Arten verwenden kann und

auf andere Arten wiederum nicht. Ich will
mal auch noch drauf hinweisen, dass

insbesondere Ada Lovelace im 18.
Jahrhundert, kann man so einordnen,

Charles Babbage, die Difference Engine
beim Übersetzen einer mathematischen

Maschine an der Stelle schon überlegt
hatte, wenn wir mit mathematischen

Konstruktionen irgendwie Objekte aus der
realen Welt darstellen könnten, dann

könnte man ja auch, wenn die Maschine
mathematisch auch darauf auf diesen Zahlen

rechnet, könnte man ja auch irgendwie
Objekte verarbeiten inhaltlicher Art also

es war meine eigene Literaturrecherche her
so eines der ersten Überlegungen, wie man

quasi mit Computern nicht nur rechnen,
sondern auch Sachverhalte irgendwie

bearbeiten kann. Ja, meine aktuelle
Ausgangslage ist, dass die Informatik für

Wünsche und Sehnsüchte nach einfachen
Lösungen gerade herhalten muss und ich als

Informatiker bin da so ein bisschen
kritisch, welche Wünsche da herangetragen

werden und auch welche Kolleginnen und
Kollegen aus meiner Zunft auch aktiv daran

mitarbeiten, diese Wünsche aufrecht zu
erhalten. Man kann auch noch sagen, bei

der göttlichen Informatik - ist vielleicht
ein bisschen vorgegriffen, aber die

Mathematik und die Physik und die
Biologie, die haben das alles schon durch,

was die Informatik gerade so durchlebt,
gerade in der Physik erinnert sich

vielleicht der eine und die andere so an
Bildern, wo gerade das nukleare Zeitalter

ausgerufen wurde und selbst der Herd in
der Küche wurde mit kleinen Nuklear-

Reaktoren betrieben und sozusagen das war
so ein bisschen die Idee sozusagen. Da war

dann alles nuklear und das Nukleare war
sozusagen die Lösung für alle Probleme.

Jetzt sprechen wir eben über das Internet,
Künstliche Intelligenz, Blockchain und so

weiter. Ich hab das mal als Informatik so
ein bisschen zusammengefasst. Der Vortrag

soll bestimmte Denkweisen explizieren, wie
gesagt, wenn ihr sozusagen protestiert,

dann protestiert. Also, ich würde ungern
mit sozusagen brennenden Holzscheiten aus

dem Haus gejagt werden. Wir können den
Diskurs suchen und ich würde auch gerne

so'n paar alternative Denkweisen
aufzeigen. Wie gesagt vielleicht ist die

Hälfte von euch da sowieso schon mit
dabei. Mein Ziel ist es ein bisschen, in

dem Thema zu navigieren, zumindest so wie
ich's sehe. Wir gucken uns erst mal kurz

im Sauseschritt die Informatik an, dann
reden wir kurz über Welt-Konzepte und

Menschenbilder. Dann gibt's einen kleinen
Exkurs über das Wirtschaften, dann rede

ich über unheilige Allianzen und dann die
Rolle, die die Politik spielen kann oder

soll. Und dann noch eine Literatur, paar
Literaturhinweise für das weitere

Interesse an dem Thema. Also die
Informatik, naja also die Grundlage der

Informatik ist ja irgendwie, der Computer,
also die universelle Maschine, jetzt nicht

des Gerät, sondern man könnte jetzt sagen
die Turingmaschine, universell in der

Hinsicht dass sie andere Maschinen
imitieren kann und dadurch Dinge ausführen

kann. Man formuliert dann irgendwie
Anforderungen und schreibt dann Software,

zum Beispiel in Form von Algorithmen oder
Heuristiken, um dann diese Anforderungen

umzusetzen. Das Spannende bei der
Informatik ist, dass sie als Wissenschaft

dann, wenn sie das alles gebaut hat, ihre
eigenen Produkte untersucht und sagt

"Hach? Wie reagiert die denn so? Ist ja
interessant. Wir machen jetzt ein

Netzwerk, Messungen und wie skaliert denn
das und so weiter" als so Blackbox

Testing, Whitebox Testing. Als wüsste man
gar nicht, was man da gebaut hat, weil

man's tatsächlich eben nicht weiß oder
wissen kann. Das heißt, an der Stelle ist

es ne interessante Mischwissenschaft, die
gleichzeitig Wissen und eben auch Produkte

produziert. Und es ist eben auch ein Teil
der Informatik, die eigene, die eigenen

Grundlagen zu reflektieren, was ja
allgemein bei Wissenschaften "Theorie"

genannt wird. Da fällt einem erst einmal
so die theoretische Informatik ein, wo es

dann so um Komplexitätstheorie geht,
Effizienz, Speicherverbrauch, so

Geschichten, Datenstrukturen,
Eigenschaften und so was,

Berechenbarkeits-Modelle, also was ist
berechenbar, welche Art von Aussagen kann

man über Programme treffen, kann man
nicht, oder welche kann man nicht treffen.

Hält ein Programm oder kann man
Widerspruchsfreiheit beweisen. Das gehört

alles dazu. Aber man kann genauso bei der
theoretischen, bei dem theoretischen

Aspekt gehören eben die gesellschaftlichen
Konsequenzen vom Computereinsatz mit dazu.

Das nennt sich dann Informatik und
Gesellschaft. Es ist immer innerhalb der

Informatik so'n bisschen der, in der
Informatik-Familie der Freak, der so

quasi, quasi die schlauen Bücher liest und
immer rummäkelt, so "macht doch mal

Datenbanken nicht dafür und dafür aber
schon und beschränkt euch mal und denkt

mal über eure Konsequenzen nach." Aber so
ist das halt. Und das Versprechen der

Informatik ist allgemein, ich werf das
jetzt mal so in den Raum: Ordentlich

modulierte Probleme können informatisch
bearbeitet werden und mit besserer Soft-

oder Hardware verbessern sich dann eben
die Ergebnisse damit der Informatik. Und

die Produkte, also was dann zum Schluss
sozusagen neben dem, neben dem Wissen, ich

lass jetzt mal sozusagen diesen
wissenschaftlichen Aspekt so'n bisschen

weg. Naja, so halb. Sind eben Werkzeuge
für alle möglichen Anwendungen, sind sehr

allgemein gesprochen, so was wie von
Bildbearbeitung bis hin zu AlphaGo, das

würde ich da alles mit rein berechnen von
globalen Datennetzen und autonomen

Fahrzeugen bis hin zu Facebook-Bots und
sozusagen die Grundlage für Social

Scoring, wobei wir heute auch schon gehört
haben, wer da mit dabei war. Und Klima-

Simulation genauso wie Abgasmessungen. Es
hat miteinander zu tun und manche sind

ungenauer als andere. Aber das ist so,
sozusagen die Bandbreite. Und die

aktuellen Verfahren, worüber ich heute
so'n bisschen sprechen möchte, eher

untechnisch, ist sowas wie Künstliche
Intelligenz, Maschine Learning und gerade

sowas wie trustless databases, Blockchain,
wo ja die Überlegung ist, kann man das

irgendwie für Voting, Crypto currencies,
smart contract und so weiter einsetzen.

Die Fragen im Vortrag, die ich so'n
bisschen behandeln will, sind sozusagen

die Modelle , die die Informatik
verwendet, um dann ihre Werkzeuge darauf

anzuwenden. Das heißt: was wird da wie
modelliert und was sind aber auch die

Grenzen der Modellierung, was an der
Stelle, so wie ich es am Anfang gesagt

habe, wenn die Informatik auf diesen
mathematischen Modellen arbeitet, dann

eben auch die Grenzen der Informatik
darstellt. Eine weitere Frage sind eben

die Anwendungen und ihre Folgen. Weil
gerade bei informatischen Werkzeugen

findet ja ne De- und Re-Kontextualisierung
statt. Das heißt man hat ja, sagen wir mal

z.B. ein Stück Software oder ein
informationstechnisches System, das hat

irgendwelche Eingaben und irgendwelche
Ausgaben und das kann man natürlich je

nachdem, man kann natürlich in dem Handy
in nem Club sich zusammen telefonieren,

wie man nen Vortrag aufnehmen kann, wie
man damit auch irgendwie zum Beispiel in

nem Sprint die Zeit nehmen kann und in
ganz verschiedenen Kontexten ein...

verwenden. Allerdings sind die
Verwendungs-Zusammenhänge da sehr, sehr

wichtig. Das heißt also nur mal als
Beispiel polizeiliche Datenbanken sind ja

sozusagen exemplarische Schlaglichter. Es
gab in Deutschland mal zum Beispiel die

politisch motivierte Straftäter-Datei
links, wo unser damaliger Bundes-

Datenschutzbeauftragter Peter Schaar
drauf geschaut hat und dann 90 Prozent der

dort erfassten quasi linken Gefährder
gelöscht werden mussten, weil verschiedene

Leute, die die Datenbanken befüllt haben,
verschiedene Kontexte damit verbunden

haben. Die einen meinten, die
Sicherheitsbehörden, ja wenn die irgendwie

gegen Atomkraft demonstrieren, dann sind
das schon Gefährder, und andere Behörden

haben sozusagen andere Limits angelegt.
Und in dem Moment war dann diese

Datenbanken selber durch die verschiedenen
Kontexte, die verwendet... wie sie

verwendet worden sind, dann im Endeffekt
nutzlos, weil niemand wusste aus welchem

Grund jemand anders das befüllt hat.
Beispiel Juden-Register in Holland ist

gerade als Verwendungs-Zusammenhänge.
Jahrzehnte wurde damals sehr genau

Volkszählungen durchgeführt und als dann
die Nazis kamen, haben sie gesagt "Ja

schön dass ihr's mal vorbereitet habt",
das war ne Re-Kontextualisierung dieser

Daten, die auf alle Fälle nicht so
vorgesehen war, aber die auf alle Fälle so

dann verwendet worden ist. Oder, lustige
Geschichte, SAP-Einführungen, so sagt man

ja immer irgendwie, wenn SAP eingeführt
wird, dann werden da drei Informatik-Leute

hingeschickt, die das installieren, und
dann kommen 30 Beraterinnen und Berater,

die das Unternehmen so umstrukturieren,
dass es auf die Software passt. Das ist

so'n bisschen so von wegen Re- und
De-Kontextualisierung. Und danach sagt man

"Hey ist doch'n super System, passt genau
zu unserer Firma." Genau, also ist die

Frage so'n bisschen, wie wird modelliert,
für welche Verwendungen werden solche

Systeme gedacht und was für Eigenschaften
haben die. Jetzt kommen wir zum Punkt 2:

Welt Konzepte und Menschenbilder. Ich hab
ja am Anfang gesagt, die Informatik

arbeitet auf Modellen. Ja, aber Modelle
sind so irgendwie... bilden so

Sachverhalte ab, sind irgendwie
vereinfachte Versionen davon, so dass dann

ein Computer damit arbeiten kann. Und da
haben wir im Groben auf ner ganz

abstrakten Sicht zwei Probleme. Einerseits
die mathematische Modellierung von

bestimmten Sachverhalten, das heißt also
zum Beispiel, wie kriegt man aus nem Bild

dann die Pixel-Werte, wie kriegt man aus
Tonwellen irgendwie mit ner Abtastung,

dann haben wir irgendwie Shannons
Abtasttheorie, wie kann man das, wie kann

man die Informationen irgendwie so
modellieren, dass sie dann verarbeitbar

sind und das Spannendere und das ist so'n
bisschen der Kern, bei dem's... um den's

bei mir hier geht, ist die Abstraktion von
Merkmalen. Das heißt also, ich möchte ein

informatisches System bauen, was z.B.
Menschen zusammenbringt, Freundschaften

darstellt und Kommunikationsmöglichkeiten
eröffnet. Dann muss ich natürlich

modellieren; Was ist ein Mensch? Was ist
ne Kommunikation? Wie können die

miteinander in Verbindung treten? Gibt es
bei den Menschen zwei Geschlechter zur

Auswahl oder ist das ein Freifeld zum
Beispiel? Oder nur... Es gibt nur eins,

zum Beispiel Eichhörnchen, man kann dann
ja oder nein klicken oder so. Das sind ja

alles Entscheidungen, die sozusagen auf
die Modellierung ne Auswirkung haben, wie

das System dann verwendet wird. Und diese
Abstraktion von Merkmalen, um die mal ein

bisschen konkreter zu fassen, also wie man
sozusagen das menschliche Verhalten dann

modellieren könnte, um informatische
Systeme damit zu verwenden, da gibt's ein

schönes Beispiel von Nelson Goodman,
Schüler von Whitehead. Der hat "Sprachen

der Kunst" geschrieben, ein Buch über so
Symbol-Theorie. Und da geht es ein

bisschen damit, was kann eigentlich
abgebildet werden in Modellen und er hat

so'n schönes Beispiel, wo sozusagen
Ethnologinnen und Ethnologen in Papua-

Neuguinea unterwegs waren und dann haben
sie halt so ein kleines kleines Foto mit

von den Hütten und gehen halt zu der
ersten Familie und sagt: Was siehst du

denn hier auf diesem Stück? und die sagen
so, "Ha, keine Ahnung, wissen wir nicht,

was soll denn da sein." "Ja, guck doch mal
genau hin, das ist doch eure Hütte" und

dann sagen sie "Na ja, aber meine Hütte
ist doch viel größer". Okay gehen sie

halt zum nächsten... zum nächsten sagen
"Ja, was ist denn, was ist hier auf diesem

Foto zu sehen. Und die Größe soll keine
Rolle spielen." "Ja, keine Ahnung. Wissen

wir nicht" und so weiter. "Ja, aber das
ist doch deine Hütte." "Ja aber meine

Hütte ist doch nicht glatt sondern aus
Holz." OK, gehn sie halt zum nächsten. "Ja

gut, was ist denn hierzu, sagt dir dieses
Bild - aus der anderen Sicht ist es kein

Bild - irgendwas die Größe und das
Material soll keine Rolle spielen". "Ja,

pfff, keine Ahnung." Die wussten wieder
nicht Bescheid und dann kam die Aussage

eben "Ja das ist doch deine Hütte." Dann
sagen Sie "Ja, aber ich kann auch in meine

Hütte reingehen, das kann ich hier nicht.
Warum soll das meine Hütte sein?" An der

Stelle kann man das ein bisschen
weitertreiben. Die Erkenntnis daraus war,

dass diese Idee der natürlichen Abbildung
- damals ging's um Fotografie - dass die

in dem Kontext jetzt den Ethnologinnen und
Ethnologen an der Stelle klar war, weil

sie aufgewachsen waren, was relevant ist
und was nicht. Die Größe bei nem Foto

spielt keine Rolle. Das Material spielt
auch keine Rolle. Aber was spielt ne

Rolle? Wie viele Fenster sind da, die
Farbe spielt ne Rolle und so weiter. Das

heißt also an der Stelle ist das eben gar
nicht so einfach, ein richtiges Modell für

ne Sache zu finden. Da hängen sehr, sehr
viele Auswahlmöglichkeiten mit dran, wie

man nen gegebenen Sachverhalt moduliert
und was es dann interessiert... was ist

interessant oder nicht. Das heißt also
diese Objektivität ist da schonmal gar

nicht gegeben. Auch wenn die Ergebnisse
von informatischen Systemen meist sehr

definiert sind. Der zweite Hinweis oder
den zweiten Gedanken darüber, wie man

Modelle der Welt baut, um sie dann
irgendwie zu verarbeiten, da gibt es ein

schönes Gedankenexperiment der
farbenblinden Neurobiologin, wo die Frage

ist an der Stelle, wenn diese
Neurobiologin alles über das Gehirn weiß,

was weiß sie über die Rot-Wahrnehmung.
Weil sie selber farbenblind ist. Das heißt

also, wie kann man auch quasi Sachverhalte
modellieren, in denen man selber nicht zu

Hause ist. Das ist ne ganz wichtige Frage,
wenn wir irgendwie Softwaresysteme bauen,

die dann in anderen kulturellen Kontexten
verwendet werden oder Kreisen verwendet

werden. Das heißt also diese
Bedeutungsverschiebung von Begriffen oder

von Sachverhalten, die wir informatisch
verarbeiten wollen, hin zu wohl

definierten Modellen, mit denen dann ein
Computer, eine Universal-Maschine was

anfangen kann, das ist echt schwierig. Und
die Begriffe, die wir verwenden, um selber

in der Informatik damit umzugehen, die
sind dann "die Maschine lernt" oder "sie

weiß was" oder... "da hat sie irgendwie
ein Symbol erkannt" oder "den Fußball

erkannt" oder "sie denken sie denkt gerade
nach", wenn da irgendwie der der Warteball

gerade ist. Oder solche Systeme
"entscheiden etwas" oder "sie fühlen

etwas". Da muss man eben sehr sehr, sehr
sehr aufpassen. Aus den Gründen, die ich

eben genannt habe. Jetzt klingt das alles
sehr, sehr weich und sehr sehr hm, naja,

was machen wir denn jetzt da draus? Es
gibt allerdings zwei oder drei aktuelle

Richtungen, die da sehr sehr sehr klare
Antworten haben. Und das ist so'n

bisschen, warum ich das "die göttliche
Informatik" genannt habe. Der erste ist

der Transhumanismus. Ich geh nur ganz kurz
darauf ein. Der hat halt ganz klare und

ganz einfache Antworten. Naja wir... wir
hacken das einfach alles rein und sagen

dann "schneller sein ist besser, länger
leben ist besser, mehr erinnern ist

besser". Sozusagen. Also nicht irgendwie
woraus besteht der... woraus besteht die

Hütte oder so, sondern wir definieren das,
legen das fest und alle wollen länger

leben, alle wollen stärker sein und alle
... so die Idee. Und deswegen ist

sozusagen diese menschliche Verbesserung,
die Frage danach stellt sich natürlich,

wenn man das so festsetzt, stellt sich die
Frage gar nicht, was heißt denn überhaupt

besser und wollen es überhaupt alle. Das
vereinfacht so ne Modellierung ganz

ungemein. Aber da geht eben auch viel
verloren. Künstliche Intelligenz - ich

unterscheide jetzt mal nicht zwischen
general und domain specific. Es gibt auch

für die Modellierungsfragen auch ganz
interessante Antworten. Zum Beispiel: naja

der Mensch ist ja ne Informationsmaschine
und alles ist quali-- quantifizierbare

Information in endlicher Auflösung, muss
man da fairerweise sagen, für die

Konsistenz dieser Sichtweise. Und
sämtliche Aspekte menschlichen Lebens sind

deswegen berechenbar. Das heißt so'n
bisschen von hintenrum definiert zu sagen,

also, alles was wir quantifiziert
modellieren können, oder andersrum: weil

die Welt im Endeffekt aus Informationen
besteht, ist alles quantifizierbar und das

Quantifizierbare ist mathematisch
modellierbar. Und das was dann... also es

gibt ja nichts was da nicht reinpasst.
Deswegen sind diese Modellierungsfragen

immer nur so Auswahlmöglichkeiten zwischen
A, B und C, aber es ist kein... keine

wirkliche Entscheidungen an der Stelle.
Genau. Und diese Sicht weisen beide, die

erinnern so'n bisschen an die Kybernetik,
die ja vielleicht der eine oder die

andere noch so'n bisschen im Kopf hat. Da
war so'n bisschen die Überlegung, naja die

gesamte Welt besteht irgendwie aus
Regelkreisen, man kann's auch beschreiben

als Mathematisierung der Biologie. Da war
so ne Überlegung, naja also wir kennen ja

alle nen... so ein Heizungs-Ventil, da
stellt man 22 Grad ein. Und dann ist ein

Sensor und wenn's zu heiß ist, dann geht
das Ventil zu, und wenn's zu kalt ist,

dann geht's wieder auf und irgendwann
kommt da so'n equilibrium. Und dieses Bild

sollte dann verwendet werden auch für den
menschlichen Kreislauf und dann irgendwann

auch fürs menschliche Denken. Und man
merkt schon an der Stelle, dass es auch

so... geht so auch in diese Richtung der
von mir vorher angesprochenen beiden

Herangehensweisen, hat aber leider keine
zufriedenstellenden Erkenntnisse erzeugt,

weil im Endeffekt die spannenden
Erkenntnisse da gekommen wären, wo die

reale Welt zu komplex wird, um in solche
Regelkreise hineingepackt zu werden. Das

heißt, es sind an der Stelle, kann man
sagen, totalitäre Ansätze. Wir erinnern

uns: alles ist Information oder alles ist
beschreibbar. Das sind totalitäre

Modellierungsansätze, die eben ne
abschließende Antwort schon bereitstellen.

Und alle, die dem widersprechen, sind dann
eben Ungläubige oder eben noch nicht

Gläubige. Na, das ist ja immer so die
klassische Herangehensweise. Das heißt,

was sie auch gemeinsam haben, das ist eben
die Reduktion aufs Berechenbare, zu sagen

alles was sozusagen berechenbar ist, ist
ist real und das können wir verarbeiten

und alles andere blenden wir einfach aus.
Oder das gibt es sowieso nicht. Dabei muss

man natürlich auch den Unterschied
beachten zwischen Genauigkeit und

Richtigkeit. Man kann ja sozusagen sehr
genau das Falsche berechnen, wenn man sagt

irgendwie das Ergebnis dieser Berechnung
ist bis 15 Stellen nach dem Komma, dann

kann es ja das falsche Ergebnis sein, aber
sehr, sehr genau, das muss man dann

unterscheiden an der Stelle. Und diese
totalitären Ansätze, da ist es meistens so

dass in letzter Konsequenz dann sozusagen
als als Beispiel, warum das doch ne sehr

schöne Art ist, wie man sozusagen
menschliche Sachverhalte modellieren kann,

ist dann die Physik: wie die Teilchen sich
bewegen und das Gehirn ist ja dann quasi

auch Zusammenballung von Teilchen und die
kann man doch modulieren und in letzter

Konsequenz kann man... ist das
letztgültige Modell so klein wie möglich

und das kann man irgendwie mit
Rechenmaschinen abbilden. Da will ich nur

so als kleinen Trüffel mal auf die... auf
das Dreikörperproblem hinweisen, dafür

haben wir keine Berechnungsvorschrift. Da
kann man sich nur approximativ nähern.

Aber das... da will ich jetzt nicht näher
drauf eingehen. Die Gemeinsamkeit dieser

Abs... dieser Ansätze, die sehr, sehr weit
verbreitet sind, leider gerade, gerade

sozusagen in der Technikerinnen- und
Techniker-Gemeinde, ist immer die

Reduktion. Aber Reduktion nicht im Sinne
von "Wir haben eine komplexe Welt und ein

komplexer Sachverhalt und den reduzieren
wir auf Modelle und dann rechnen wir mit

diesen Modellen weiter", sondern worüber
ich hier spreche, ist die Reduktion des

Sachverhalts an sich, damit er ins Modell
passt. Das heißt also tatsächlich ein

unbewusstes Ausblenden der Grenzen dessen,
worüber man spricht. Ich würd das jetzt

auch mal so'n bisschen nen Daten-Fetisch
nennen, weil die Dinge, die man dann damit

modelliert hat, die sind dann in Daten
abbildbar. Und die Komplexität dürfte noch

weiter reduziert, indem man dann sagt: Ja
wenn man aber informationstechnische

Systeme irgendwie zwischen Freunden oder
in der Gesellschaft verwendet , dann ist

das... passt das auch in diese Modelle
nicht so richtig rein, mit denen man dann

arbeiten will. Also ist es oftmals auch
so, dass eine Gesellschaft definiert wird

als eine Menge von Individuen. Das sind
alles Einzelne und dann passt das auch

wieder in diese Modelle hinein. Und da
klopft dann auch natürlich Ayn Rand mit

ihrem Ultra-Objektivismus an die Tür. Und
diese diese Vermischung, die lässt sich,

wenn es jetzt so ein bisschen flirrend
klingt, auch ein bisschen auf den Nenner

bringen, mehr Daten heißt mehr Wissen.
Wissen im Sinne von sozusagen

Verbindungen, Verknüpfungen von
Informationen, auf die zugegriffen werden

kann, mit denen gehandhabt werden kann als
Mensch, Wissen an der Stelle versus Daten

als syntaktisches Vorhandensein dieser
Modellierungen. Und an der Stelle ist da

natürlich mehr Daten zu haben schon quasi
Selbstzweck, weil das automatisch ja dann

auch gleich Wissen ist. Das heißt, das wird
dann so zusammen kombiniert. Und wenn man

diese Denkweisen - ich weiß nicht, bei wem
von euch da jetzt ihr sagt, naja gut, das

sehe ich schon so. Die Welt besteht aus
wohldefinierbaren Informationen.

Vielleicht mal Hand hoch für die, die die
das glauben, dass in letzter Konsequenz

alles definiert... definierte
Informationsstrukturen sind und da nichts

mehr dazwischen liegt. Okay, also die
Mutigen haben sich gemeldet - von denen,

die das glauben, mein ich. Das
Interessante dabei ist - vielen Dank auf

alle Fälle - zwischen diesen aus meiner
Sicht reduzierten Datenobjekten verliert

dann natürlich so'n menschlicher
Nutzungskontext an Farbe. Also, wer jetzt

nicht ganz weiß, was ich damit meine, der
nehme sich mal gerne ein altdeutsches

Märchen über ne Dorfgemeinschaft,
wie differenziert an der Stelle dann

sozusagen die Menschen miteinander
interagieren und welche, welche Zeichen

da sich gegeben werden, um
irgendwelche Gruppenzugehörigkeiten

zu zeigen, was man auf ganz viele Arten
auch interpretieren kann.

Und ja, man kann es so ein
bisschen auch nochmal eindampfen,

der Robotiker Hiroshi Ishiguro hat das mal
so formuliert: Wenn er seine Roboter baut,

naja meistens wenn er zu Hause ist, ist er
eh so müde, dass er nur auf der Couch

sitzt und fernsieht, das kann ja nun
wirklich auch ein Roboter übernehmen. Für

die Kinder ist das ja egal, ob er nicht
mit ihnen spielt oder der Roboter nicht

mit ihnen spielt. Ich will jetzt nicht
sagen, dass das immer automatisch

zusammenpasst. Aber wenn eine Weltsicht
oder die Weltmodelle so aussehen, dann ist

es natürlich sehr einfach oder wenn die
Weltvorstellung so aussieht, dann ist es

natürlich sehr einfach, davon ein Modell
zu bauen und dazu dann die passenden

Maschinen oder Computersysteme. Und ich
spreche hier auch nicht - das hab ich ja

so ein bisschen eine Einleitung auch
angedeutet - über einfach nur rein

philosophische Überlegungen. Diese
Technikgläubigkeit, oder ich nenn's

Technikgläubigkeit, verbreitet sich auch
rasant. Spiekermann hat das mal sehr schön

geschrieben: "Die Singularity University
in Silicon Valley turns out a class of

well-funded brainwashed entrepreneurs each
year to build the technologies needed for

the Transhumanistic vision." Also, es gibt
da auch viel Geld und diese Denkweisen

werden auch gut dotiert sozusagen in
existierende Softwaresysteme gegossen, die

dann auch ihre gesellschaftsbringende
Wirkung entfalten. Okay, vielleicht ein

bisschen weniger martialisches und weniger
weniger kritisches Beispiel, aber nur mal

um... Ich springe jetzt in dem Kontext, um
vielleicht die Parallelen so'n bisschen

klarzustellen. Die Blockchain-Technologie
an sich als konkrete Technik, die ja von

sich selber sagt, sie wär ein trustless
ledger, also sozusagen so ne allgemeine

Datenbank, die sozusagen von allen
betrachtet werden kann und wo sich

sozusagen, wo es keine zentralen
Autoritäten gibt, denen man irgendwie

trauen muss. Aktuell ist es scheint es die
Lösung für alles zu sein, von Microsoft

bis hin zu Banken forschen daran. Die
Überlegung ist dann immer, das kann man

mal für Wahlsysteme, für Währung, smart
contracts und Märkte verwenden. Sehr

schön, hab ich gefunden, so'n kleinen
Chart, wo man überlegen kann, ist das, was

man eigentlich machen möchte, was man
modellieren möchte, ist dafür irgendwie ne

Blockchain überhaupt gedacht. Weil, oder
ist es nicht einfach mit ner normalen

Datenbank auch getan. Also ist es dann für
den also... Weil - jetzt komm ich wieder

auf den Punkt vorher zurück - die
interessante Frage ist ja an der Stelle,

damit ich irgendwie mit der Blockchain gut
arbeite und das alles... dieser trust

tatsächlich verteilt ist, dann muss ich ja
auch irgendwie sicherstellen, dass die

mitarbeitenden Systeme und die Rechner
alle ungefähr gleich stark sind. Weil wie

wir es zum Beispielt bei Bitcoin aktuell
sehen, wenn eine Firma in einem Land zum

Beispiel einfach sehr, sehr große, sehr
starke Systeme hat, dann können die

natürlich auch bestimmen, wo es lang geht.
Und das ist dann natürlich eben nicht mehr

dezentral. Also wäre die Frage, hat sich
das Vertrauen bei solchen Technologien -

das kann man nachher noch diskutieren -
nicht einfach nur aus der technischen

Sphäre sozusagen diese Vertrauen oder
Vertrauenslosigkeit aus der technischen

Sphäre heraus bewegt durch diese
Technologie und ist jetzt aber woanders

vorhanden. Also dieser trustless ledger
bezieht sich auf die Technologie, aber

welchen Akteuren muss auf welche andere
Art vertraut werden? Und das liegt dann

vielleicht eben außerhalb der technischen
Betrachtung, aber deswegen ist es eben

nicht weg. Deswegen stellen sich die
Fragen: Wer kontrolliert die Maschinen,

wie stark sind sie und so weiter. Okay,
dann komm ich jetzt mal zum Exkurs des

Wirtschaftens. Das... da weiß ich jetzt
schon, im Raum gibts ein paar, denen sich

gleich auch die Fußnägel hochrollen, aber
das ist auch ganz okay so. Ich rede mal

kurz über den Neoliberalismus. Schöne
Einleitung, oder? Also im letzten

Jahrhundert im Wettkampf der
Wirtschaftssysteme kann man so'n bisschen

sagen vom Kommunismus bis zum
Ultra-Libertarismus nenn ich jetzt gerade

mal... würd ich jetzt mal ganz kurz
rausgreifen - und gleich wird hoffentlich

auch klar warum - den Neoliberalismus. Ich
nenne... oder ich betrachte das so im

Geschmack der Chicago Boys in Chile unter
Pinochet und so'n bisschen in

abgeschwächter Form so Thatcher in
Großbritannien so ab den Siebzigern, so

nachdem Bretton Woods so abgeschmiert ist,
sozusagen die Dollar-Bindung von einer

globalen Währung in ? Geld. Was ich damit meine
- wir können den Begriff auch dann ändern,

gerne, ist ... ist sozusagen Austerität
und Privatisierung als Eigenschaft und ne

Unterordnung aller Lebensbereiche in ne
Wirtschaftsorientierung. Außerdem spielt

da ne Rolle Individualisierung,
insbesondere von Verantwortung, jeder ist

ihres Glückes Schmied, und als Psychologie
dieser handelnden Individuen wird dann

verwendet sowas wie Spieltheorie und
rational choice-Ansätze, so ne Mischung

aus Reiz-Reaktions-Theorien, Anreize und
Gelegenheiten. Das heißt, der Mensch

reagiert darauf und... und handelt
sozusagen rational in diesen

Spannungsfeldern. Und dem einen oder der
anderen... merkte an der Stelle schon, da

gibt's Parallelen zu dieser informatischen
Sichtweise sozusagen, wie Menschen

reagieren, warum sie reagieren und wie man
sie dann auch steuern oder kontrollieren

kann. Oder Nudgen, also locken. Konkrete
Vorhaben war in dem Beispiel, das ist

jetzt hauptsächlich aus Chile... also
hauptsächlich Chile. Aber das hat sich

dann 80ern auch weltweit sehr weit
ausgebreitet. Dieses Staats- und

Wirtschafts-Verständnis, da ging's ...
gerade unter Pinochet wurde das halt

radikal umgesetzt. Deswegen galt das so'n
bisschen als Labor des Neoliberalismus.

Privatisierung des Gesundheitssystems,
Privatisierung des Rentensystems,

staatlich umlagefinanziert hin zu privat
kapitalgedeckt. Das sehen wir auch

hierzulande so'n bisschen am Kommen.
Privatisierung des Schulsystems wurde

durchgesetzt und Erschwerung von
gewerkschaftlicher Arbeit, insbesondere in

Chile wurden dann gewerkschaftliche
Organisationen verboten, Deregulation von

Banken und dem Finanzmarkt allgemein und
gerade so was wie Steuersenkungen für

Unternehmen, um mehr Investitionen
anzulocken. Das Resultat war an der Stelle

dann, dass die Wirtschaftsleistung nominal
sozusagen stiegen, aber die Mittelschicht

zum Beispiel reduziert wurde, Arm-und-
reich-Spreizung zunahmen, Arbeitslosigkeit

inbesondere in Chile anstieg, kann man
natürlich auch nochmal drüber sprechen,

was gilt als Arbeitslosigkeit und was
nicht. Der allgemeine Gesundheitsstand

sank, die staatlichen Ausgaben gingen
stark zurück durch die Kürzung der

Sozialsysteme. Und - das fehlt da jetzt
noch - und die staatlichen Einnahmen

insgesamt die gingen natürlich auch zurück
durch die Steuer... Steuersenkungen. Das

heißt, und ist auch ne Entwicklung, die
teilweise in Deutschland in Ansätzen

erkennbar ist, in anderen Ländern viel
mehr, kann man so sagen. Interessant ist

es vielleicht als politische
Nebenbedeutung, Neben - Bemerkung: in

Großbritannien und den USA wird sozusagen
Widerstand dagegen auch merkbar, sowas

wie, wie Bernie Sanders oder Jeremy
Corbyn, die ja quasi gerade so sehr links

einschwenken. Warum erzähl ich das aber
eigentlich gerade: Es geht um die

unheilige Allianz, denn jetzt haben wir
sozusagen diese bisschen vereinfachten

Weltsichten, die ich vorhin genannt habe,
mit so ner verheißungsvollen, endlich die

Antworten auf komplexe Fragen, und das
zusammentreffend mit finanzschwachen

öffentlichen Händen... mit ner
finanzschwachen öffentlichen Hand. Wir

haben grad eben ganz kurz gehört über die
Ausgaben und Eingaben, äh Einnahmen-

Reduzierungen, so dass dann so ne halb
verstandene Daten-Lösung, die mit so ner

schönen alles-neu-und-alles-gut-Ideologie
gewürzt sind, dann eben schnelle Erfolge

versprechen. Das heißt also, man hat ja
auch viel im Portfolio, wenn man sich

anschaut, die weltgrößte Zimmervermietung
hat selber gar keine Zimmer, das

weltgrösste Taxi-Unternehmen hat gar keine
Taxis. Und die digital Etablierten zählen

ja auch zu den wertvollsten Unternehmen.
Die können ja so falsch nicht liegen. Das

heißt also, diese ökonomischen
Randbedingungen, die ich gerade so'n

bisschen extremer beschrieben habe, die
passen in gewissem Maße genau zusammen mit

dieser informatischen Sichtweise zu sagen:
Wir können diese... erstens teilen wir

diese vereinfachten Weltbilder und
zweitens haben wir da Lösungen, haben wir

für diese Probleme, die es da so gibt ,
entsprechende Lösungen. Man könnte es ein

bisschen rauer auch die Silicon-Valley-
Ideologie nennen. Und das ist sozusagen

denn... man kann ja auch ein Produkt
besser verkaufen, wenn man noch ein

schönes Lebensgefühl dazu packt. Es hat ja
Harley Davidson mal gesagt: Bei uns kauft

man ein Lebensgefühl und dann gibt's ein
Motorrad kostenlos dazu. Und die Aussage

hier ist immer, es ist die digitale
Revolution jetzt gerade und seid mit

dabei, die alten Industrien haben
ausgedient und jetzt disrupt everything,

auch den Sozialstaat, Klammer zu, und make
the world a better place, wer will da

nicht dabei sein. Die Frage, die sich
natürlich stellt, auch mit klammen Kassen

der öffentlichen Hand, a better place, die
Welt wird also besser, wie besser wird sie

denn und was genau wird besser und für
wen? Weil interessant ist es schon, dass

da nicht gesagt wird, naja wir wollen
einfach nur informatische Systeme bauen,

die irgendwie gut ihre Arbeit tun, sondern
dass man diesen Pathos mit dazu haben

will. Das ist schon interessant, sozusagen
diese Betrachtung der besseren Welt. Denn

die Frage verweist ja irgendwie, wenn man
sagt, wir wollen irgendwie ne bessere

Welt, wir wollen eine bessere Welt haben,
irgendwie zeigt das ja schon auf ne ganz

relevante Frage, nämlich wie wollen wir
eigentlich leben. Man könnte jetzt, wenn

man manchmal - ketzerisch sage jetzt mal,
da das Ohr ans Silicon Valley legt -

hören, die Frage ist, wie wollen wir
Tische im Restaurant bestellen. Aber

eigentlich zeigt die Frage ja daraufhin,
wie wollen wir mit Armut Ungleichheit und

Hummer umgehen - Hunger natürlich.
Lachen,Applaus

Noch ist es der Hunger. Also wie gehen wir
damit um, wenn alle Hummer... genau. Naja,

bei Hunger und Hummer ist auf alle Fälle
so, dass es dafür ne App gibt, das ist ja

immer so das klassische. Die Frage ist
aber so'n bisschen, wenn man in diese

technischen Sichtweisen so navigiert, da
scheint es mir zumindest oftmals so, dass

man sagt, welches Problem passt denn zu
unserer Lösung hier? Wir haben hier was

Schönes gebaut, jetzt ist es Internet oder
so was. Was für ein Problem passt denn

jetzt dazu, was können wir denn da lösen.
Und es ist sogar gar nicht so abwegig,

dass so ketzerisch zu formulieren, denn
ich weiß nicht, wer von euch mal was von

UberHop oder Lyft Shuttle gehört hat, das
sind ja, sind ja beides sowas wie Taxi-

Unternehmen und die hatten großartige
Ideen zu sagen, ja man könnt ja mal ein

bisschen größere Autos nehmen und die muss
man nicht rufen, sondern die fahren auf

festen Routen und dann kann man da
einsteigen und total günstig mit anderen

zusammen fahren, also als würde man sich
ein Taxi teilen - und der Rest der Welt

dachte so: Ach, Bus, ja, hm. lacht
Applaus

Also es war jedenfalls ein sehr
erhellender Moment, als Silicon Valley

dann den öffentlichen Personen-Nahverkehr
erfunden hat. Ja, aber der Witz ist, es

funktioniert ja irgendwie wirtschaftlich.
Also Google, Facebook, Amazon durchdringen

unseren Alltag mit den Ideen - das sind
natürlich nicht alles unsinnige Ideen,

will ich nicht gesagt haben - aber warum
das für uns jetzt relevant ist, das ist,

dass Startups mit diesem Weltbild, was ich
vorhin beschrieben habe, auf gewichtige

Geldgeber treffen. Und dann auch noch
gewisser wirtschaftlicher oder

wirtschaftspolitischer Unterstützung. Und
dann diese Weltbilder auch sozusagen

finanzstark in die Welt und auch hierhin
tragen. Da gibt es ja auch, wenn es darum

geht z.B. deutsches Recht zu erfüllen,
dann werden halt Nazi-Kreuze verpixelt,

aber ich warte eigentlich mal auf den
Aufschrei, wenn deutsche Facebook-

Userinnen und -User ihr Recht auf Nippel
einfordern. Weil die Frage ist ja nicht,

was wird verboten, sondern was wird
eigentlich ausgeblendet, obwohl es hier

erlaubt wäre. Ne, das kann man ja auch mal
andersherum sehen. Okay, damit will ich

nicht zitiert werden.
Lachen

Jedenfalls also die Beschreibungen, es
gibt so bestimmte Theoretiker, die Silicon

Valley so'n bisschen als useful idiots
bezeichnen, die selber denken, sie bauen

an was Wichtigem mit, sind aber eigentlich
sozusagen die Türöffner für ganz andere

dahinterstehende Geldgeber. Nämlich auch
zum Beispiel Versicherungen, Auto-

Hersteller und so weiter. Und da fragt man
sich dann, was von dem disrupt noch übrig

bleibt. OK. Genau. Das heißt aber im
Endeffekt, die öffentlichen Stellen

übernehmen bestimmte Produkte, die
eigentlich für ne kommerzielle Nutzung

gedacht waren... worden sind. Und das ist
ja ganz praktisch, weil Erfolg dort

quantifizierbar ist. Und das hat dann
irgendwie ne eigene Logik. Die öffentliche

Hand funktioniert ja ein bisschen anders.
Von Kommunikationsinfrastruktur irgendwie,

wenn das ZDF bestimmte Dinge einfach bei
Youtube speichert, weil sie selber nicht

die eigene Infrastruktur haben, dann kauft
man sich damit eben diese Rechte und

Beschränkungen ein, über ÖPNV bis hin zur
Stadtplanung, also in Toronto wird jetzt

ein Stadtteil zum Beispiel von Google
Sidewalk Labs entwickelt.

Gesundheitssystem-Optimierungen bis
Verbesserung der Altenpflege, das reicht

so je nach dem wo man auf der Welt
hinguckt. Und vieles davon sogar günstig

bis kostenlos. Weil das natürlich sehr
viel Daten generiert, über die die

Unternehmen dann sehr, sehr froh sind.
City as a service fand ich nen sehr

schönen Spruch an der Stelle. Okay. Ja und
ich hab manchmal den Eindruck, dass die...

sozusagen die Politik so'n bisschen faul
wird mit der Komplexität der Probleme und

die sind vielleicht auch noch global und
wir kriegen die alle nicht gelöst und

jetzt kommt da jemand und dann könnte man
das ja einfach mal probieren und die

leeren Kassen sind sowieso da. Also es
passt so'n bisschen alles zusammen. Und

auch Geheimdienste sitzen ja ner gewissen
Logik auf, zu sagen, die Weltlage

verschlimmert sich, wir brauchen einfach
noch mehr Daten und selber aber, die

Leute, die tatsächlich an diesen Daten
arbeiten und daraus sinnvolle

Informationen generieren müssen, nämlich
Wissen, die sagen selber, wir ertrinken,

wir brauchen, wir brauchen nicht noch
mehr. Aber das hält niemanden auf. Dann

geh ich jetzt nochmal drüber. So. Und
naja, bei dieser immer engeren Verzahnung

stellen sich natürlich bestimmte Fragen.
Weil Unternehmen, die man so eng dann in

die öffentlichen... in den öffentlichen
Raum hinein lässt, die müssen ja dann

bestimmte Eigenschaften erfüllen, was die
meisten nicht tun. Unternehmen

funktionieren eben nicht demokratisch.
Also, sie haben bestimmte interne Abläufe,

eigene Dynamiken. Also wenn irgendwie
Wayze, das ist so'n Routing-Dienst, wenn

der sagt, naja, da ist gerade ne
Baustelle, wir routen jetzt mal hier, weil

unserem Stadtplan gemäß sieht es sehr gut
aus, und dann sind es aber irgendwelche

kleinen Straßen, die da gar nicht dafür
gedacht waren und auch dadurch dann

kaputtgehen und so weiter. Da treffen dann
verschiedene Motivationen aufeinander,

nämlich wie ne öffentliche Politik und
vielleicht menschliche Selbstverwaltung,

der Stadtteil und so sich das gedacht hat,
und wie ne Firma gedacht hat, was das

Beste wäre. Und dann ist die Frage, wer
hat halt die Durchsetzungsmacht. Und bei

dieser Übermacht von solchen... von
solchen Firmen, die man sich für

öffentliche Aufgaben holt, ist natürlich
die Frage, wie... wie geht man damit jetzt

irgendwie um. Also geht man das weiter,
was sind die Folgen. Und da kommen wir

jetzt natürlich zur Rolle der Politik.
Wenn wir jetzt mal zur göttlichen

Informatik zurückkehren und fragen, was
kann die Informatik oder vielleicht auch,

wovor hat man irgendwie Angst, wofür hat
man irgendwie Angst. Dann würde ich zum

Beispiel sagen, ich hab... also hat man
Angst vor einer KI oder hat man Angst vor

Unternehmen, die mit KI ihre eigenen Ziele
durchsetzen. Na, jetzt merkt man nämlich,

wenn man diese Dinge, die ich vorhin
gesagt habe, wenn man die mal darauf

anwendet, was... sozusagen, rutscht uns
die Kontrolle aus der Hand? Ist es die

Kontrolle über Technik, die uns aus der
Hand rutscht? Oder ist es die Kontrolle

über Organisationen, die Technik
einsetzen? Und dann passt das damit

nämlich schon wieder ganz anders zusammen.
Und dann kann man darüber anders

nachdenken. Weil nämlich - und jetzt
schließt sich so langsam der Kreis - sowas

wie Spiele oder Wirtschaft sind sehr schön
zu modellieren, weil da klar ist, was ist

das Gute: gewonnen, verloren, Wirtschaft
irgendwie, Gewinn, Profit, Verlust,

A/B-Test, das kann man ganz klar sozusagen
mit Kriterien belegen. Aber so was wie

soziale Einbindung, Akzeptanz, Offenheit,
Transparenz oder Grundrechtseinhaltung, da

ist es plötzlich sehr, sehr schwierig, da
zu sagen, ist es... wurde das jetzt

eingehalten oder nicht. Da kann man
Systeme sehr sehr, sehr sehr komplex nur

drauf optimieren oder daraufhin
ausrichten. Das sehen wir auch gerade in

Bezug auf die Datenschutzgrundverordnung.
So. Ja und der Sinn von Politik besteht ja

gerade darin, irgendwie Optionen zu haben,
Entscheidungen zu treffen,

Verantwortlichkeiten zu klären und vor
allem sie auch zu diskutieren. Das heißt

also, es geht auch darum, diese Systeme,
die wir benutzen wollen, über das Design

zu sprechen, nicht nur über die
Ergebnisse. Das heißt also, wenn wir

sagen... Wenn wir sagen, wir wollen zum
Beispiel Schwächere schützen, dann ist das

sehr, sehr kompliziert und sehr, sehr
komplex an der Stelle, das zu definieren

und auch vor allem damit umzugehen, dass
Systeme dann eben auch ineffizient werden,

weil man alle mitnehmen möchte, weil man
eben nicht der reinen Effizienz oder dem

reinen Gewinn nach das designen kann. Das
heißt also, an der Stelle muss sich eben

auch die Informatik damit beschäftigen,
dass ihre Systeme aktiv... das ist

sozusagen die Anforderung an die Systeme
mit Absicht mal ineffizient gestaltet

werden, damit irgendwie Macht verteilt
wird, die ja immer vorhanden ist, dass sie

zum Beispiel nicht Menschen- oder
Gesellschaft-feindlich konstruiert wird.

Das heißt, es geht nicht darum bei so ner
Position, wenn ich so die Grenzen der

Technik beschreibe, dass man sich
irgendwie technikfeindlich verhält,

sondern darum dass die Technik sozusagen
der Gesellschaft und den Menschen dient an

der Stelle. Das heißt also, informatisch
gesprochen, die requirements sind die

gesellschaftlichen Werte, gern auch
effizient, aber das ist dann zweitrangig.

Und als allerletzten Punkt würde ich nur
sagen, es gibt auch positive Beispiele -

weil ich das jetzt so ein bisschen groß
aufgezogen habe - wer sich das mal

anschauen will z.B. wie gerade die smart
city-Strategie in Barcelona funktioniert,

die ist hoch partizipativ,
emanzipatorisch. Das heißt also, die

Systeme bleiben unter Kontrolle der
Betroffenen und dadurch dass die Systeme

auch von der Stadt selber betrieben
werden, gibt es eben auch keine

Betriebsgeheimnisse und derartige Dinge.
Das kann man mal sehr schön nachschauen.

Gnu-Taler ist Experimentierstadium, ich
nenn es deswegen, weil das eine anonyme

Bezahlweise ist, die aber sagt, wer
bezahlt, bleibt anonym, aber der Händler

oder die Händlerin, die die Zahlung
entgegennimmt, kann kryptografisch

beweisen, dass es diese Zahlung gegeben
hat. Das heißt es kann auch besteuert

werden, heißt es ist so'n Gegenkonzept zu
diesem sozusagen Cypherpunks, wir wollen

gar keinen Staat, es gibt sozusagen auch
diese Ansätze. Oder ich nenne es mal, ganz

schön: "Frag den Staat" oder "Verklag den
Staat". So ne kritische... kritisch

verwendetes Einklagen von Rechten, was
aber, wenn man sich anschaut, wie sich die

Macherinnen und Macher mit dem Thema
beschäftigen, die immer mit reflektieren,

welche Machtverhältnisse gibt es da, wie
wollen wir die thematisieren und diese

Reflektionen, die hebt dann... sozusagen
senkt die Informatik von diesem göttlichen

alles Lösen hin zu nem sehr mondänen, aber
dann auch sehr fruchtbaren Werkzeug.

Vielen Dank.
Applaus

Herald: So, jetzt haben wir noch eine
Viertelstunde Zeit für Fragen. Wenn ihr

unbedingt gehn müsst, dann geht bitte
leise und versucht, nicht vor den Kameras

zu laufen. Und ansonsten, 13 Minuten habt
ihr noch Zeit, sitzen bleiben, Fragen

überlegen, fragen. Ihr kennt das Spiel,
wir haben 4 Mikrofone, einfach anstellen,

ich ruf euch dann auf und im Internet
haben wir auch Fragen und wir fangen jetzt

direkt mal an mit einer Frage aus der
Quelle Internet.

Signal-Engel: Die Frage ist, ob und
inwieweit Simulationsmodelle eine Basis

für politische Entscheidungen wären.
R: Das ist ne sehr, sehr gute Frage. Das

hängt so'n bisschen davon ab, was da
simuliert wird. Also es gibt ja ganz viele

sozialwissenschaftliche Modelle, die im
Endeffekt dann so auf die Interaktion

zwischen Menschen - wen guckt man denn an,
wenn ne Frage aus dem Internet kommt? -

H: Das Internet.
R: Okay, gut... die dann die einzelnen

Menschen so'n bisschen physikalisch
modellieren und die Interaktion. Da würde

man an der Stelle jetzt sehen, das ist
wieder zu kurz gegriffen, an der Stelle

würde ich sagen, als Informatiker, ich
würde mal mit Sozialwissenschaftlerinnen

und Sozialwissenschaftlern sprechen, was
sie dazu sagen, zu meinen Methoden, und mit

denen zusammenarbeiten, was sie sagen, was
sind denn für ihre Betrachtungen adäquate

Modelle. Das heißt also, an der Stelle
erstmal mit denen sprechen, die sich damit

beschäftigen, um nicht dann diese gleichen
Fehler nochmal zu machen. Das ist

vielleicht sozusagen der Hinweis. Bisschen
unbefriedigend vielleicht, aber... das

ist. glaub ich, genau der richtige Weg.
H: Mikrofon 4, stehst du an oder guckst du

auf dein Handy?
M4: Beides, aber ich kann auch schon mit

ner Frage beginnen.
H: Ja, fang an.

M4: Also, nerd-bedingt bin ich auch so'n
bisschen Asimov-Fan, da gibt's so diese

drei Roboter-Gesetze, du hast davon
gesprochen, wie sich Maschinenlogik und

biologische Logik nicht komplett
miteinander vereinbaren lassen und

vertragen. Ich geh da mit, es gibt aber
auch systemtheoretische Ansätze, mit denen

sich Psychologie sehr gut beschreiben
lässt und auch psychologische

Interventionen machen lassen, um zum
Beispiel in der Psychotherapie und

Organisationspsychologie weiterzukommen,
also wenn sozusagen der Mensch als System

von Persönlichkeitsanteieln verstanden
wird oder eine Organisation als System

verschiedener Stakeholder begriffen
werden, also ich geh aber mit, dass diese

Atomisierung kontraproduktiv ist für ne
coole Gesellschaftsentwicklung. Jetzt die

Frage...
R: Ich bin gespannt, ja.

M4: Wie siehst du das und welche
Ansätze...

Lachen, Applaus
Moment, Moment... welche Ansätze dessen,

dass man Kybernetik quasi in der
Gesamtschau, einerseits Biologie und

andererseits Technologie betrachtet,
welches davon findest du trotzdem noch

produktiv?

R: Ich fand die Anfangsbemerkung auch wenn
ich mitgelacht habe, trotzdem sehr sehr

spannend und hätte reagiert, auch wenn da
jetzt keine Frage mehr gekommen wäre. Ich

glaube, der wesentliche Punkt dabei ist,
immer zu fragen, was möchte ich mit diesem

Modell gerade bezwecken. Die dann
anzuwenden, wenn es zum Beispiel in ner

Psychotherapie funktioniert, auch nach den
Regeln der Psychologie, dann ist daran ja

nichts falsch. Es geht an der Stelle, so
wie ich's beschrieben habe, ging's darum

zu sagen, das funktioniert doch da, also
benutzen wir das jetzt nicht überall, aber

auch bei den Sachen, die so ähnlich sind,
ohne nochmal zurückzuchecken. Also an der

Stelle geht das so'n bisschen auch darum
zu sagen, wir benutzen die Modelle, und

behalten aber im Hinterkopf, dass es
Modelle sind. Und wenn es da hakt oder

auch die ganze Zeit sind wir in so ner
kritischen Feedbackschleife zu gucken, ist

das Modell noch adäquat oder ist es nicht
adäquat. und wenn es nicht adäquat ist,

dann kann vielleicht auch die Erkenntnis
reifen, dass es für die Sache, die man

gerade modellieren will, kein adäquates
Modell gibt. Das ist ne mögliche Antwort.

Und mir geht's so'n bisschen darum, das
immer noch offen zu haben und stehen zu

lassen und nicht zu sagen, super, das ist
doch jetzt das perfekte und damit ist die

Totalität dann erledigt. Und mit dieser
Totalität ist die Frage dann endlich

erledigt, ne, diese komplexen... In Bezug
auf die Kybernetik... ja, es ist... ich

glaub, das kann man so allgemein gar nicht
sagen, da müsste man sozusagen konkret auf

ne Situation beziehen, glaub ich. Wenn ich
die Frage so richtig verstanden habe. Das

ist so'n bisschen so Plädoyer dafür, dass
man diese Anforderungen dann eben mal

kritisch reflektiert und dann konkret
darauf verwendet und nicht so one size

fits all. Ok, ich hoffe, das war...
H: So, Mikrofon Nummer 1 bitte.

M1: Also ich hatte - oh das ist laut -
gewisse Probleme mit deinem Vortrag, weil

du wirklich extremst vieles reingepresst
hast, von Philosophie, früheren

Beispielen, Ökonomie, also du hast ja
wirklich alles irgendwie reingebracht, und

dabei hat mir eben so'n bisschen der
eine Punkt gefehlt, räuspert sich

und vor allem hatte ich
mir ehrlich gesagt

erhofft, so wie der Vortrag
angekündigt war, dass vielleicht

was dazu kommt, dass du dich n bisschen
mehr darauf fokussiert hättest, was denn

genau die Grenzen der Technik jetzt
eigentlich sind. Beziehungsweise die

Grenzen der Informatik. Weil du hast ja
selbst gesagt, das ist eine

Mischwissenschaft, die in alle anderen
Wissenschaften mit eingreift. Das heißt,

geht's dir darum, ist Wissenschaft
generell begrenzt, was kann sie nicht, und

dann hast du vielleicht n bisschen was zu
Bewusstsein gesagt, wir können kein

Bewusstsein modellieren. Aber es geht doch
letzten Endes darum, dass sich viele

hinstellen und von superintelligence
sprechen, und das sehr seriöse

Wissenschaftler sind, die sagen, 25 Jahre
- dann haben wir das. Also was ist damit?

Also ich mein, relativierst du nicht ein
bisschen, die tatsächlichen Gefahren, die

es trotz allem gibt, mit so einer Art von
Vortrag?

R: Das ist ein sehr interessanter Punkt.
Also erstens die Superintelligenz, dass

die in 25 Jahren kommt, das ist ja seit 50
Jahren schon so. Ich würd es nicht

relativieren an der Stelle, die Genzen,
die ich versucht habe zu beschreiben,

sind... die hängen daran, inwiefern man
die Sachverhalte, die man bearbeiten will,

mathematisch beschreiben kann. Wenn es
darum geht, wie schnell fährt ein Auto,

dann kann man das tun. Wenn's darum geht,
mit A/B-Tests Umsätze zu messen, dann kann

ich das tun. Wenn ich Klick-Raten messen
will, dann kann ich das auch tun. Wenn ich

allerdings Kundenzufriedenheit messen
will, dann muss ich kritisch darüber

nachdenken, ob die 5 Sterne, die man da
geklickt hat, ob das tatsächlich die

Kundenzufriedenheit ist, die ich da gerade
messe, oder ob ich tatsächlich gemessen

habe, wie oft Leute auf 5 Sterne klicken.
Das kann ja auch sein, ist mir völlig

egal, ich klick 5 Sterne, weil dann das
Fenster am schnellsten zugeht auf meinem

Rechner. Keine Ahnung. Also diese
kritische Distanz an der Stelle sozusagen,

das wäre die Grenze... meiner Ansicht nach
die Grenze der Informatik. Wo man sich

fragt, gibt es da Entscheidungen, was
Optimierungskriterien sind, oder was kommt

ins Modell rein und was kommt nicht ins
Modell? Und da würde ich sozusagen die

Grenze ziehen, weil die Infomatik
tatsächlich, das ist halt ne mathematische

Wissenschaft an der Stelle. Und zu dem
zweiten Punkt: Ich hatte... das war

genau... also danke für die Frage... genau
der Grund... na, find ich's schnell

genug... warum... nee, find ich nicht
schnell genug - doch! - warum ich auf

dieser Folie, die... ganz oben - schade,
ist nicht Folie 42 - Angst vor der KI oder

Angst vor Unternehmen, die mit KI ihre
Ziele durchsetzen... Was ich damit sagen

wollte: Ich hab überhaupt keine Angst,
wenn ich die Frage richtig verstehe, davor

dass sich da irgendwas selbständig macht
oder dass sozusagen die

Superintelligenz... tatsächlich hab ich
da... da hab ich nach allem, was ich über

Digitalcomputer weiß, hab ich sozusagen...
diese Möglichkeit besteht immer, aber ich

sehe für diese Annahme aktuell einfach
keine Gründe, das zu glauben. Das ist so'n

bisschen, wenn mir... ich frag in so nen
Diskussionen öfters mal, ok, ich hab jetzt

verstanden, bald kommt die
Superintelliganz, aber was sind denn jetzt

richtige Anzeichen, dass das passiert?
Wenn man sich zum Beispiel die KI-

Forschung anschaut, die Hardware-
Verbesserung, da ist ganz viel

exponentiell, aber die Erkennungsraten und
sozusagen die Möglichkeiten von KIs

jeglicher Form, die wachsen immer linear.
Das heißt, man muss da ganz genau

hinschauen, was wird da eigentlich
gemessen? Und die klassischen

Argumentationen sind, wir stehen kurz vor
dem Punkt, wo es richtig hochgeht. Und

auch Ray Kurzweil sagt, auch die, die
darin arbeiten, werden nicht wissen, wann

es passiert, aber es wird bald passieren.
Wenn ich... wenn mir jemand dafür keine

Anzeichen präsentiert, warum die Person
das glaubt, dann ist das genau das, n

Glaube. Also ich lass mich sehr gerne
davon überzeugen davon, dass es bald so

weit ist, aber bis zu dem Punkt hab ich
eher Sorge, dafür... davor dass

Unternehmen Technik verwenden, um ihre
eigenen Ziele durchzusetzen. Und das ist

aber ne ganz klassische politische Frage.
Das ist keine technische Frage und das ist

auch keine mysthische Frage, das haben wir
ganz oft schon gehabt: mit Sklaverei, mit

Kinderarbeit und so weiter, wo irgendwann
mal gesagt hat, jetzt ist aber Schluss.

Zumindest hier.
H: Bald ist hier auch Schluss. So, einmal

das Internet, bitte.
S: Ist geplant, die wichtigsten

Erkenntnisse der Kybernetik doch noch
aufzugreifen in Bezug auf polykontexturale

Logik?
Lachen

R: Nochmal bitte.
I: Ähhh...

R: Was heißt "nochmal darauf zuzugreifen",
das... den Kontext hab ich jetzt nicht

verstanden.
I: Ist geplant, die wichtigsten

Erkenntnisse der Kybernetik doch noch
aufzugreifen in Bezug auf polykontexturale

Logik?
R: Also, da steck ich jetzt nicht ganz

tief drin, aber da würd ich auch sagen,
wenn es dafür adäquate Modelle gibt, für

das, was man da modellieren will, dann
kann man das machen. Aber in dem Kontext,

wie ich jetzt hier den Einsatz der
Informatik beschrieben habe, kann es auch

wieder für Einzellösungen nur
funktionieren, aber nicht in diesem "Wenn

wir das auf alles anwenden, dann wird
alles besser". Gut, das hab ich jetzt ein

bisschen allgemeiner zusammengefasst.
H: Nummer 4 bitte.

M4: Hallo, danke für den Talk. Und ich
komm jetzt gerad so'n bisschen aus dem

Konstruktiven und versuch, ein bisschen
zu überlegen, was kann man denn machen und

überlege, durch den Vortrag hat sich
durchgezogen der Begriff Macht irgendwie

für mich und Macht kann ja auch heißen,
dass alle das Gefühl haben, dass sie sich

frei entscheiden, und dennoch ne gewisse
Macht ausgeübt wird. Und deswegen die

Frage an dich: Erstens, kennst du
Betrachtungen, die informatische Systeme

oder deren Konzeption und Verwaltung von
diesem Blickwinkel her betrachten

beziehungswise hältst du es für eine
richtige Herangehensweise daran?

R: Das find ich ne sehr, sehr spannende
Frage. Tatsächlich gibt es diese

Prinzipien ja. An der Stelle... deswegen
hab ich das ja da genannt, es gibt so

kleine Projekte oder größere Projekte, die
genau diese Fragen sich stellen. Das hat

mal jemand auch zum Beispiel... Christian
Kühner hat das mal 'herrschaftsfreie

kooperative Systeme' genannt, wo so'n
bisschen die Frage war, wie kann man denn

so'n System, gerade bei peer-to-peer-
Systemen wird das ja oft mit in Design-

Entscheidungen mit einfließen gelassen,
dass sich sozusagen diese Machtverteilung

in die Hardware... in die Software
einschreiben lässt und dann aber auch

nicht durch andere Entscheidungen wieder
rausgenommen werden kann. Das heißt, das

sind auf alle Fälle Systeme, die das aktiv
mitdenken. Das Wesentliche dabei ist immer

nur, das muss immer meiner Ansicht nach in
so nem politischen Kontext auch sein, wo

dann auch verstehbar ist, was da passiert
und teilweise auch regulierend, meiner

Ansicht nach, vielleicht eingegriffen
werden kann. Ich denk da gerade ... Das

müsste man wahrscheinlich vom
Anwendungsfall abhängig machen, aber

grundsätzlich die Richtung ist auf alle
Fälle sowas wie peer-to-peer-Systeme. Wär

jetzt erstmal meine erste Antwort. Oder
eben sowas wie GNU-Taler das sagt, von der

einen Richtung kann man das überprüfen,
von der anderen Richtung kann man's nicht

überprüfen. Also ist definitiv... wird das
in allerlei Software-Projekten auch

mitgedacht, ja.
H: So, das war's. Einen Applaus für Rainer

bitte!
Applaus

R: Dankeschön!

Abspann-Musik

Untertitel erstellt von c3subtitles.de
im Jahr 2018. Mach mit und hilf uns!