34C3 Vorspannmusik
Herald: So und jetzt begrüßt bitte Rainer,
ein Informatiker, ein Philosoph, der mit
uns darüber reden wird,
was die Informatik nicht kann.
Applaus
R: Herzlichen Dank für diese knappe
konzise Einführung. Genau, ich will heute
sprechen über die göttliche Informatik,
man kann das "göttliche" natürlich auch in
Gänsefüßchen stellen. Ich ... das ist so
ein bisschen Experiment, wo ich so ein
paar Sachen mal zusammenbringen will. Wenn
ihr nach dem Talk rausgeht und sagt "Die
eine Hälfte wusste ich schon, bei der
anderen Hälfte war alles komplett falsch,
aber diesen einen Gedanken, den fand ich
spannend", dann habe ich meine Mission
heute erfüllt. Werden wir mal sehen, wie
wir das hinkriegen. Ich find's immer ganz
wichtig zu wissen, wenn man jemanden hat,
der da vorne steht, zu wissen, aus welcher
Position er spricht, besonders weil wir im
Politischen und Sozial-Ethischen sind. Da
kann man ja quasi mal nicht ganz neutral
sprechen. Ich hab selber Philosophie und
Informatik an der Humboldt-Uni studiert,
war am Lehrstuhl für Informatik und
Gesellschaft, lehre jetzt auch
Datenschutz, Datensicherheit, Informatik
und Gesellschaft. In der Praxis mache ich
IT-Sicherheit, Datenschutz und Linux, bin
auch aktiv im Forum "InformatikerInnen für
Frieden und gesellschaftliche
Verantwortung", in der "Gesellschaft für
Informatik" und bei "Amnesty
International", das so als vorneweg
Disclaimer. Ich spreche aber jetzt quasi
für niemanden da. Selber, Ich hab halt
Philosophie studiert, hab ein bisschen
Philosophie der Wissenschaft gemacht,
Sprachphilosophie, Philosophy of Mind, hab
mich dann in die politische Philosophie
begeben, hab dann mich mit Informatik
beschäftigt, hab gemerkt, "sehr
interessant, da gibt es ganz schön viele
Überschneidungen" und hab jetzt einfach
mal das Zitat, was hier auch am Eingang
des Saals steht, rangeworfen: "Computer
sciences is no more about computers than
astronomie is about telescopes". Das heißt
der Computer ist an der Stelle eben ein
Werkzeug, um Dinge zu tun, der, und dieses
Werkzeug hat bestimmte Eigenschaften und
diese Eigenschaften sorgen dafür, dass man
es auf bestimmte Arten verwenden kann und
auf andere Arten wiederum nicht. Ich will
mal auch noch drauf hinweisen, dass
insbesondere Ada Lovelace im 18.
Jahrhundert, kann man so einordnen,
Charles Babbage, die Difference Engine
beim Übersetzen einer mathematischen
Maschine an der Stelle schon überlegt
hatte, wenn wir mit mathematischen
Konstruktionen irgendwie Objekte aus der
realen Welt darstellen könnten, dann
könnte man ja auch, wenn die Maschine
mathematisch auch darauf auf diesen Zahlen
rechnet, könnte man ja auch irgendwie
Objekte verarbeiten inhaltlicher Art also
es war meine eigene Literaturrecherche her
so eines der ersten Überlegungen, wie man
quasi mit Computern nicht nur rechnen,
sondern auch Sachverhalte irgendwie
bearbeiten kann. Ja, meine aktuelle
Ausgangslage ist, dass die Informatik für
Wünsche und Sehnsüchte nach einfachen
Lösungen gerade herhalten muss und ich als
Informatiker bin da so ein bisschen
kritisch, welche Wünsche da herangetragen
werden und auch welche Kolleginnen und
Kollegen aus meiner Zunft auch aktiv daran
mitarbeiten, diese Wünsche aufrecht zu
erhalten. Man kann auch noch sagen, bei
der göttlichen Informatik - ist vielleicht
ein bisschen vorgegriffen, aber die
Mathematik und die Physik und die
Biologie, die haben das alles schon durch,
was die Informatik gerade so durchlebt,
gerade in der Physik erinnert sich
vielleicht der eine und die andere so an
Bildern, wo gerade das nukleare Zeitalter
ausgerufen wurde und selbst der Herd in
der Küche wurde mit kleinen Nuklear-
Reaktoren betrieben und sozusagen das war
so ein bisschen die Idee sozusagen. Da war
dann alles nuklear und das Nukleare war
sozusagen die Lösung für alle Probleme.
Jetzt sprechen wir eben über das Internet,
Künstliche Intelligenz, Blockchain und so
weiter. Ich hab das mal als Informatik so
ein bisschen zusammengefasst. Der Vortrag
soll bestimmte Denkweisen explizieren, wie
gesagt, wenn ihr sozusagen protestiert,
dann protestiert. Also, ich würde ungern
mit sozusagen brennenden Holzscheiten aus
dem Haus gejagt werden. Wir können den
Diskurs suchen und ich würde auch gerne
so'n paar alternative Denkweisen
aufzeigen. Wie gesagt vielleicht ist die
Hälfte von euch da sowieso schon mit
dabei. Mein Ziel ist es ein bisschen, in
dem Thema zu navigieren, zumindest so wie
ich's sehe. Wir gucken uns erst mal kurz
im Sauseschritt die Informatik an, dann
reden wir kurz über Welt-Konzepte und
Menschenbilder. Dann gibt's einen kleinen
Exkurs über das Wirtschaften, dann rede
ich über unheilige Allianzen und dann die
Rolle, die die Politik spielen kann oder
soll. Und dann noch eine Literatur, paar
Literaturhinweise für das weitere
Interesse an dem Thema. Also die
Informatik, naja also die Grundlage der
Informatik ist ja irgendwie, der Computer,
also die universelle Maschine, jetzt nicht
des Gerät, sondern man könnte jetzt sagen
die Turingmaschine, universell in der
Hinsicht dass sie andere Maschinen
imitieren kann und dadurch Dinge ausführen
kann. Man formuliert dann irgendwie
Anforderungen und schreibt dann Software,
zum Beispiel in Form von Algorithmen oder
Heuristiken, um dann diese Anforderungen
umzusetzen. Das Spannende bei der
Informatik ist, dass sie als Wissenschaft
dann, wenn sie das alles gebaut hat, ihre
eigenen Produkte untersucht und sagt
"Hach? Wie reagiert die denn so? Ist ja
interessant. Wir machen jetzt ein
Netzwerk, Messungen und wie skaliert denn
das und so weiter" als so Blackbox
Testing, Whitebox Testing. Als wüsste man
gar nicht, was man da gebaut hat, weil
man's tatsächlich eben nicht weiß oder
wissen kann. Das heißt, an der Stelle ist
es ne interessante Mischwissenschaft, die
gleichzeitig Wissen und eben auch Produkte
produziert. Und es ist eben auch ein Teil
der Informatik, die eigene, die eigenen
Grundlagen zu reflektieren, was ja
allgemein bei Wissenschaften "Theorie"
genannt wird. Da fällt einem erst einmal
so die theoretische Informatik ein, wo es
dann so um Komplexitätstheorie geht,
Effizienz, Speicherverbrauch, so
Geschichten, Datenstrukturen,
Eigenschaften und so was,
Berechenbarkeits-Modelle, also was ist
berechenbar, welche Art von Aussagen kann
man über Programme treffen, kann man
nicht, oder welche kann man nicht treffen.
Hält ein Programm oder kann man
Widerspruchsfreiheit beweisen. Das gehört
alles dazu. Aber man kann genauso bei der
theoretischen, bei dem theoretischen
Aspekt gehören eben die gesellschaftlichen
Konsequenzen vom Computereinsatz mit dazu.
Das nennt sich dann Informatik und
Gesellschaft. Es ist immer innerhalb der
Informatik so'n bisschen der, in der
Informatik-Familie der Freak, der so
quasi, quasi die schlauen Bücher liest und
immer rummäkelt, so "macht doch mal
Datenbanken nicht dafür und dafür aber
schon und beschränkt euch mal und denkt
mal über eure Konsequenzen nach." Aber so
ist das halt. Und das Versprechen der
Informatik ist allgemein, ich werf das
jetzt mal so in den Raum: Ordentlich
modulierte Probleme können informatisch
bearbeitet werden und mit besserer Soft-
oder Hardware verbessern sich dann eben
die Ergebnisse damit der Informatik. Und
die Produkte, also was dann zum Schluss
sozusagen neben dem, neben dem Wissen, ich
lass jetzt mal sozusagen diesen
wissenschaftlichen Aspekt so'n bisschen
weg. Naja, so halb. Sind eben Werkzeuge
für alle möglichen Anwendungen, sind sehr
allgemein gesprochen, so was wie von
Bildbearbeitung bis hin zu AlphaGo, das
würde ich da alles mit rein berechnen von
globalen Datennetzen und autonomen
Fahrzeugen bis hin zu Facebook-Bots und
sozusagen die Grundlage für Social
Scoring, wobei wir heute auch schon gehört
haben, wer da mit dabei war. Und Klima-
Simulation genauso wie Abgasmessungen. Es
hat miteinander zu tun und manche sind
ungenauer als andere. Aber das ist so,
sozusagen die Bandbreite. Und die
aktuellen Verfahren, worüber ich heute
so'n bisschen sprechen möchte, eher
untechnisch, ist sowas wie Künstliche
Intelligenz, Maschine Learning und gerade
sowas wie trustless databases, Blockchain,
wo ja die Überlegung ist, kann man das
irgendwie für Voting, Crypto currencies,
smart contract und so weiter einsetzen.
Die Fragen im Vortrag, die ich so'n
bisschen behandeln will, sind sozusagen
die Modelle , die die Informatik
verwendet, um dann ihre Werkzeuge darauf
anzuwenden. Das heißt: was wird da wie
modelliert und was sind aber auch die
Grenzen der Modellierung, was an der
Stelle, so wie ich es am Anfang gesagt
habe, wenn die Informatik auf diesen
mathematischen Modellen arbeitet, dann
eben auch die Grenzen der Informatik
darstellt. Eine weitere Frage sind eben
die Anwendungen und ihre Folgen. Weil
gerade bei informatischen Werkzeugen
findet ja ne De- und Re-Kontextualisierung
statt. Das heißt man hat ja, sagen wir mal
z.B. ein Stück Software oder ein
informationstechnisches System, das hat
irgendwelche Eingaben und irgendwelche
Ausgaben und das kann man natürlich je
nachdem, man kann natürlich in dem Handy
in nem Club sich zusammen telefonieren,
wie man nen Vortrag aufnehmen kann, wie
man damit auch irgendwie zum Beispiel in
nem Sprint die Zeit nehmen kann und in
ganz verschiedenen Kontexten ein...
verwenden. Allerdings sind die
Verwendungs-Zusammenhänge da sehr, sehr
wichtig. Das heißt also nur mal als
Beispiel polizeiliche Datenbanken sind ja
sozusagen exemplarische Schlaglichter. Es
gab in Deutschland mal zum Beispiel die
politisch motivierte Straftäter-Datei
links, wo unser damaliger Bundes-
Datenschutzbeauftragter Peter Schaar
drauf geschaut hat und dann 90 Prozent der
dort erfassten quasi linken Gefährder
gelöscht werden mussten, weil verschiedene
Leute, die die Datenbanken befüllt haben,
verschiedene Kontexte damit verbunden
haben. Die einen meinten, die
Sicherheitsbehörden, ja wenn die irgendwie
gegen Atomkraft demonstrieren, dann sind
das schon Gefährder, und andere Behörden
haben sozusagen andere Limits angelegt.
Und in dem Moment war dann diese
Datenbanken selber durch die verschiedenen
Kontexte, die verwendet... wie sie
verwendet worden sind, dann im Endeffekt
nutzlos, weil niemand wusste aus welchem
Grund jemand anders das befüllt hat.
Beispiel Juden-Register in Holland ist
gerade als Verwendungs-Zusammenhänge.
Jahrzehnte wurde damals sehr genau
Volkszählungen durchgeführt und als dann
die Nazis kamen, haben sie gesagt "Ja
schön dass ihr's mal vorbereitet habt",
das war ne Re-Kontextualisierung dieser
Daten, die auf alle Fälle nicht so
vorgesehen war, aber die auf alle Fälle so
dann verwendet worden ist. Oder, lustige
Geschichte, SAP-Einführungen, so sagt man
ja immer irgendwie, wenn SAP eingeführt
wird, dann werden da drei Informatik-Leute
hingeschickt, die das installieren, und
dann kommen 30 Beraterinnen und Berater,
die das Unternehmen so umstrukturieren,
dass es auf die Software passt. Das ist
so'n bisschen so von wegen Re- und
De-Kontextualisierung. Und danach sagt man
"Hey ist doch'n super System, passt genau
zu unserer Firma." Genau, also ist die
Frage so'n bisschen, wie wird modelliert,
für welche Verwendungen werden solche
Systeme gedacht und was für Eigenschaften
haben die. Jetzt kommen wir zum Punkt 2:
Welt Konzepte und Menschenbilder. Ich hab
ja am Anfang gesagt, die Informatik
arbeitet auf Modellen. Ja, aber Modelle
sind so irgendwie... bilden so
Sachverhalte ab, sind irgendwie
vereinfachte Versionen davon, so dass dann
ein Computer damit arbeiten kann. Und da
haben wir im Groben auf ner ganz
abstrakten Sicht zwei Probleme. Einerseits
die mathematische Modellierung von
bestimmten Sachverhalten, das heißt also
zum Beispiel, wie kriegt man aus nem Bild
dann die Pixel-Werte, wie kriegt man aus
Tonwellen irgendwie mit ner Abtastung,
dann haben wir irgendwie Shannons
Abtasttheorie, wie kann man das, wie kann
man die Informationen irgendwie so
modellieren, dass sie dann verarbeitbar
sind und das Spannendere und das ist so'n
bisschen der Kern, bei dem's... um den's
bei mir hier geht, ist die Abstraktion von
Merkmalen. Das heißt also, ich möchte ein
informatisches System bauen, was z.B.
Menschen zusammenbringt, Freundschaften
darstellt und Kommunikationsmöglichkeiten
eröffnet. Dann muss ich natürlich
modellieren; Was ist ein Mensch? Was ist
ne Kommunikation? Wie können die
miteinander in Verbindung treten? Gibt es
bei den Menschen zwei Geschlechter zur
Auswahl oder ist das ein Freifeld zum
Beispiel? Oder nur... Es gibt nur eins,
zum Beispiel Eichhörnchen, man kann dann
ja oder nein klicken oder so. Das sind ja
alles Entscheidungen, die sozusagen auf
die Modellierung ne Auswirkung haben, wie
das System dann verwendet wird. Und diese
Abstraktion von Merkmalen, um die mal ein
bisschen konkreter zu fassen, also wie man
sozusagen das menschliche Verhalten dann
modellieren könnte, um informatische
Systeme damit zu verwenden, da gibt's ein
schönes Beispiel von Nelson Goodman,
Schüler von Whitehead. Der hat "Sprachen
der Kunst" geschrieben, ein Buch über so
Symbol-Theorie. Und da geht es ein
bisschen damit, was kann eigentlich
abgebildet werden in Modellen und er hat
so'n schönes Beispiel, wo sozusagen
Ethnologinnen und Ethnologen in Papua-
Neuguinea unterwegs waren und dann haben
sie halt so ein kleines kleines Foto mit
von den Hütten und gehen halt zu der
ersten Familie und sagt: Was siehst du
denn hier auf diesem Stück? und die sagen
so, "Ha, keine Ahnung, wissen wir nicht,
was soll denn da sein." "Ja, guck doch mal
genau hin, das ist doch eure Hütte" und
dann sagen sie "Na ja, aber meine Hütte
ist doch viel größer". Okay gehen sie
halt zum nächsten... zum nächsten sagen
"Ja, was ist denn, was ist hier auf diesem
Foto zu sehen. Und die Größe soll keine
Rolle spielen." "Ja, keine Ahnung. Wissen
wir nicht" und so weiter. "Ja, aber das
ist doch deine Hütte." "Ja aber meine
Hütte ist doch nicht glatt sondern aus
Holz." OK, gehn sie halt zum nächsten. "Ja
gut, was ist denn hierzu, sagt dir dieses
Bild - aus der anderen Sicht ist es kein
Bild - irgendwas die Größe und das
Material soll keine Rolle spielen". "Ja,
pfff, keine Ahnung." Die wussten wieder
nicht Bescheid und dann kam die Aussage
eben "Ja das ist doch deine Hütte." Dann
sagen Sie "Ja, aber ich kann auch in meine
Hütte reingehen, das kann ich hier nicht.
Warum soll das meine Hütte sein?" An der
Stelle kann man das ein bisschen
weitertreiben. Die Erkenntnis daraus war,
dass diese Idee der natürlichen Abbildung
- damals ging's um Fotografie - dass die
in dem Kontext jetzt den Ethnologinnen und
Ethnologen an der Stelle klar war, weil
sie aufgewachsen waren, was relevant ist
und was nicht. Die Größe bei nem Foto
spielt keine Rolle. Das Material spielt
auch keine Rolle. Aber was spielt ne
Rolle? Wie viele Fenster sind da, die
Farbe spielt ne Rolle und so weiter. Das
heißt also an der Stelle ist das eben gar
nicht so einfach, ein richtiges Modell für
ne Sache zu finden. Da hängen sehr, sehr
viele Auswahlmöglichkeiten mit dran, wie
man nen gegebenen Sachverhalt moduliert
und was es dann interessiert... was ist
interessant oder nicht. Das heißt also
diese Objektivität ist da schonmal gar
nicht gegeben. Auch wenn die Ergebnisse
von informatischen Systemen meist sehr
definiert sind. Der zweite Hinweis oder
den zweiten Gedanken darüber, wie man
Modelle der Welt baut, um sie dann
irgendwie zu verarbeiten, da gibt es ein
schönes Gedankenexperiment der
farbenblinden Neurobiologin, wo die Frage
ist an der Stelle, wenn diese
Neurobiologin alles über das Gehirn weiß,
was weiß sie über die Rot-Wahrnehmung.
Weil sie selber farbenblind ist. Das heißt
also, wie kann man auch quasi Sachverhalte
modellieren, in denen man selber nicht zu
Hause ist. Das ist ne ganz wichtige Frage,
wenn wir irgendwie Softwaresysteme bauen,
die dann in anderen kulturellen Kontexten
verwendet werden oder Kreisen verwendet
werden. Das heißt also diese
Bedeutungsverschiebung von Begriffen oder
von Sachverhalten, die wir informatisch
verarbeiten wollen, hin zu wohl
definierten Modellen, mit denen dann ein
Computer, eine Universal-Maschine was
anfangen kann, das ist echt schwierig. Und
die Begriffe, die wir verwenden, um selber
in der Informatik damit umzugehen, die
sind dann "die Maschine lernt" oder "sie
weiß was" oder... "da hat sie irgendwie
ein Symbol erkannt" oder "den Fußball
erkannt" oder "sie denken sie denkt gerade
nach", wenn da irgendwie der der Warteball
gerade ist. Oder solche Systeme
"entscheiden etwas" oder "sie fühlen
etwas". Da muss man eben sehr sehr, sehr
sehr aufpassen. Aus den Gründen, die ich
eben genannt habe. Jetzt klingt das alles
sehr, sehr weich und sehr sehr hm, naja,
was machen wir denn jetzt da draus? Es
gibt allerdings zwei oder drei aktuelle
Richtungen, die da sehr sehr sehr klare
Antworten haben. Und das ist so'n
bisschen, warum ich das "die göttliche
Informatik" genannt habe. Der erste ist
der Transhumanismus. Ich geh nur ganz kurz
darauf ein. Der hat halt ganz klare und
ganz einfache Antworten. Naja wir... wir
hacken das einfach alles rein und sagen
dann "schneller sein ist besser, länger
leben ist besser, mehr erinnern ist
besser". Sozusagen. Also nicht irgendwie
woraus besteht der... woraus besteht die
Hütte oder so, sondern wir definieren das,
legen das fest und alle wollen länger
leben, alle wollen stärker sein und alle
... so die Idee. Und deswegen ist
sozusagen diese menschliche Verbesserung,
die Frage danach stellt sich natürlich,
wenn man das so festsetzt, stellt sich die
Frage gar nicht, was heißt denn überhaupt
besser und wollen es überhaupt alle. Das
vereinfacht so ne Modellierung ganz
ungemein. Aber da geht eben auch viel
verloren. Künstliche Intelligenz - ich
unterscheide jetzt mal nicht zwischen
general und domain specific. Es gibt auch
für die Modellierungsfragen auch ganz
interessante Antworten. Zum Beispiel: naja
der Mensch ist ja ne Informationsmaschine
und alles ist quali-- quantifizierbare
Information in endlicher Auflösung, muss
man da fairerweise sagen, für die
Konsistenz dieser Sichtweise. Und
sämtliche Aspekte menschlichen Lebens sind
deswegen berechenbar. Das heißt so'n
bisschen von hintenrum definiert zu sagen,
also, alles was wir quantifiziert
modellieren können, oder andersrum: weil
die Welt im Endeffekt aus Informationen
besteht, ist alles quantifizierbar und das
Quantifizierbare ist mathematisch
modellierbar. Und das was dann... also es
gibt ja nichts was da nicht reinpasst.
Deswegen sind diese Modellierungsfragen
immer nur so Auswahlmöglichkeiten zwischen
A, B und C, aber es ist kein... keine
wirkliche Entscheidungen an der Stelle.
Genau. Und diese Sicht weisen beide, die
erinnern so'n bisschen an die Kybernetik,
die ja vielleicht der eine oder die
andere noch so'n bisschen im Kopf hat. Da
war so'n bisschen die Überlegung, naja die
gesamte Welt besteht irgendwie aus
Regelkreisen, man kann's auch beschreiben
als Mathematisierung der Biologie. Da war
so ne Überlegung, naja also wir kennen ja
alle nen... so ein Heizungs-Ventil, da
stellt man 22 Grad ein. Und dann ist ein
Sensor und wenn's zu heiß ist, dann geht
das Ventil zu, und wenn's zu kalt ist,
dann geht's wieder auf und irgendwann
kommt da so'n equilibrium. Und dieses Bild
sollte dann verwendet werden auch für den
menschlichen Kreislauf und dann irgendwann
auch fürs menschliche Denken. Und man
merkt schon an der Stelle, dass es auch
so... geht so auch in diese Richtung der
von mir vorher angesprochenen beiden
Herangehensweisen, hat aber leider keine
zufriedenstellenden Erkenntnisse erzeugt,
weil im Endeffekt die spannenden
Erkenntnisse da gekommen wären, wo die
reale Welt zu komplex wird, um in solche
Regelkreise hineingepackt zu werden. Das
heißt, es sind an der Stelle, kann man
sagen, totalitäre Ansätze. Wir erinnern
uns: alles ist Information oder alles ist
beschreibbar. Das sind totalitäre
Modellierungsansätze, die eben ne
abschließende Antwort schon bereitstellen.
Und alle, die dem widersprechen, sind dann
eben Ungläubige oder eben noch nicht
Gläubige. Na, das ist ja immer so die
klassische Herangehensweise. Das heißt,
was sie auch gemeinsam haben, das ist eben
die Reduktion aufs Berechenbare, zu sagen
alles was sozusagen berechenbar ist, ist
ist real und das können wir verarbeiten
und alles andere blenden wir einfach aus.
Oder das gibt es sowieso nicht. Dabei muss
man natürlich auch den Unterschied
beachten zwischen Genauigkeit und
Richtigkeit. Man kann ja sozusagen sehr
genau das Falsche berechnen, wenn man sagt
irgendwie das Ergebnis dieser Berechnung
ist bis 15 Stellen nach dem Komma, dann
kann es ja das falsche Ergebnis sein, aber
sehr, sehr genau, das muss man dann
unterscheiden an der Stelle. Und diese
totalitären Ansätze, da ist es meistens so
dass in letzter Konsequenz dann sozusagen
als als Beispiel, warum das doch ne sehr
schöne Art ist, wie man sozusagen
menschliche Sachverhalte modellieren kann,
ist dann die Physik: wie die Teilchen sich
bewegen und das Gehirn ist ja dann quasi
auch Zusammenballung von Teilchen und die
kann man doch modulieren und in letzter
Konsequenz kann man... ist das
letztgültige Modell so klein wie möglich
und das kann man irgendwie mit
Rechenmaschinen abbilden. Da will ich nur
so als kleinen Trüffel mal auf die... auf
das Dreikörperproblem hinweisen, dafür
haben wir keine Berechnungsvorschrift. Da
kann man sich nur approximativ nähern.
Aber das... da will ich jetzt nicht näher
drauf eingehen. Die Gemeinsamkeit dieser
Abs... dieser Ansätze, die sehr, sehr weit
verbreitet sind, leider gerade, gerade
sozusagen in der Technikerinnen- und
Techniker-Gemeinde, ist immer die
Reduktion. Aber Reduktion nicht im Sinne
von "Wir haben eine komplexe Welt und ein
komplexer Sachverhalt und den reduzieren
wir auf Modelle und dann rechnen wir mit
diesen Modellen weiter", sondern worüber
ich hier spreche, ist die Reduktion des
Sachverhalts an sich, damit er ins Modell
passt. Das heißt also tatsächlich ein
unbewusstes Ausblenden der Grenzen dessen,
worüber man spricht. Ich würd das jetzt
auch mal so'n bisschen nen Daten-Fetisch
nennen, weil die Dinge, die man dann damit
modelliert hat, die sind dann in Daten
abbildbar. Und die Komplexität dürfte noch
weiter reduziert, indem man dann sagt: Ja
wenn man aber informationstechnische
Systeme irgendwie zwischen Freunden oder
in der Gesellschaft verwendet , dann ist
das... passt das auch in diese Modelle
nicht so richtig rein, mit denen man dann
arbeiten will. Also ist es oftmals auch
so, dass eine Gesellschaft definiert wird
als eine Menge von Individuen. Das sind
alles Einzelne und dann passt das auch
wieder in diese Modelle hinein. Und da
klopft dann auch natürlich Ayn Rand mit
ihrem Ultra-Objektivismus an die Tür. Und
diese diese Vermischung, die lässt sich,
wenn es jetzt so ein bisschen flirrend
klingt, auch ein bisschen auf den Nenner
bringen, mehr Daten heißt mehr Wissen.
Wissen im Sinne von sozusagen
Verbindungen, Verknüpfungen von
Informationen, auf die zugegriffen werden
kann, mit denen gehandhabt werden kann als
Mensch, Wissen an der Stelle versus Daten
als syntaktisches Vorhandensein dieser
Modellierungen. Und an der Stelle ist da
natürlich mehr Daten zu haben schon quasi
Selbstzweck, weil das automatisch ja dann
auch gleich Wissen ist. Das heißt, das wird
dann so zusammen kombiniert. Und wenn man
diese Denkweisen - ich weiß nicht, bei wem
von euch da jetzt ihr sagt, naja gut, das
sehe ich schon so. Die Welt besteht aus
wohldefinierbaren Informationen.
Vielleicht mal Hand hoch für die, die die
das glauben, dass in letzter Konsequenz
alles definiert... definierte
Informationsstrukturen sind und da nichts
mehr dazwischen liegt. Okay, also die
Mutigen haben sich gemeldet - von denen,
die das glauben, mein ich. Das
Interessante dabei ist - vielen Dank auf
alle Fälle - zwischen diesen aus meiner
Sicht reduzierten Datenobjekten verliert
dann natürlich so'n menschlicher
Nutzungskontext an Farbe. Also, wer jetzt
nicht ganz weiß, was ich damit meine, der
nehme sich mal gerne ein altdeutsches
Märchen über ne Dorfgemeinschaft,
wie differenziert an der Stelle dann
sozusagen die Menschen miteinander
interagieren und welche, welche Zeichen
da sich gegeben werden, um
irgendwelche Gruppenzugehörigkeiten
zu zeigen, was man auf ganz viele Arten
auch interpretieren kann.
Und ja, man kann es so ein
bisschen auch nochmal eindampfen,
der Robotiker Hiroshi Ishiguro hat das mal
so formuliert: Wenn er seine Roboter baut,
naja meistens wenn er zu Hause ist, ist er
eh so müde, dass er nur auf der Couch
sitzt und fernsieht, das kann ja nun
wirklich auch ein Roboter übernehmen. Für
die Kinder ist das ja egal, ob er nicht
mit ihnen spielt oder der Roboter nicht
mit ihnen spielt. Ich will jetzt nicht
sagen, dass das immer automatisch
zusammenpasst. Aber wenn eine Weltsicht
oder die Weltmodelle so aussehen, dann ist
es natürlich sehr einfach oder wenn die
Weltvorstellung so aussieht, dann ist es
natürlich sehr einfach, davon ein Modell
zu bauen und dazu dann die passenden
Maschinen oder Computersysteme. Und ich
spreche hier auch nicht - das hab ich ja
so ein bisschen eine Einleitung auch
angedeutet - über einfach nur rein
philosophische Überlegungen. Diese
Technikgläubigkeit, oder ich nenn's
Technikgläubigkeit, verbreitet sich auch
rasant. Spiekermann hat das mal sehr schön
geschrieben: "Die Singularity University
in Silicon Valley turns out a class of
well-funded brainwashed entrepreneurs each
year to build the technologies needed for
the Transhumanistic vision." Also, es gibt
da auch viel Geld und diese Denkweisen
werden auch gut dotiert sozusagen in
existierende Softwaresysteme gegossen, die
dann auch ihre gesellschaftsbringende
Wirkung entfalten. Okay, vielleicht ein
bisschen weniger martialisches und weniger
weniger kritisches Beispiel, aber nur mal
um... Ich springe jetzt in dem Kontext, um
vielleicht die Parallelen so'n bisschen
klarzustellen. Die Blockchain-Technologie
an sich als konkrete Technik, die ja von
sich selber sagt, sie wär ein trustless
ledger, also sozusagen so ne allgemeine
Datenbank, die sozusagen von allen
betrachtet werden kann und wo sich
sozusagen, wo es keine zentralen
Autoritäten gibt, denen man irgendwie
trauen muss. Aktuell ist es scheint es die
Lösung für alles zu sein, von Microsoft
bis hin zu Banken forschen daran. Die
Überlegung ist dann immer, das kann man
mal für Wahlsysteme, für Währung, smart
contracts und Märkte verwenden. Sehr
schön, hab ich gefunden, so'n kleinen
Chart, wo man überlegen kann, ist das, was
man eigentlich machen möchte, was man
modellieren möchte, ist dafür irgendwie ne
Blockchain überhaupt gedacht. Weil, oder
ist es nicht einfach mit ner normalen
Datenbank auch getan. Also ist es dann für
den also... Weil - jetzt komm ich wieder
auf den Punkt vorher zurück - die
interessante Frage ist ja an der Stelle,
damit ich irgendwie mit der Blockchain gut
arbeite und das alles... dieser trust
tatsächlich verteilt ist, dann muss ich ja
auch irgendwie sicherstellen, dass die
mitarbeitenden Systeme und die Rechner
alle ungefähr gleich stark sind. Weil wie
wir es zum Beispielt bei Bitcoin aktuell
sehen, wenn eine Firma in einem Land zum
Beispiel einfach sehr, sehr große, sehr
starke Systeme hat, dann können die
natürlich auch bestimmen, wo es lang geht.
Und das ist dann natürlich eben nicht mehr
dezentral. Also wäre die Frage, hat sich
das Vertrauen bei solchen Technologien -
das kann man nachher noch diskutieren -
nicht einfach nur aus der technischen
Sphäre sozusagen diese Vertrauen oder
Vertrauenslosigkeit aus der technischen
Sphäre heraus bewegt durch diese
Technologie und ist jetzt aber woanders
vorhanden. Also dieser trustless ledger
bezieht sich auf die Technologie, aber
welchen Akteuren muss auf welche andere
Art vertraut werden? Und das liegt dann
vielleicht eben außerhalb der technischen
Betrachtung, aber deswegen ist es eben
nicht weg. Deswegen stellen sich die
Fragen: Wer kontrolliert die Maschinen,
wie stark sind sie und so weiter. Okay,
dann komm ich jetzt mal zum Exkurs des
Wirtschaftens. Das... da weiß ich jetzt
schon, im Raum gibts ein paar, denen sich
gleich auch die Fußnägel hochrollen, aber
das ist auch ganz okay so. Ich rede mal
kurz über den Neoliberalismus. Schöne
Einleitung, oder? Also im letzten
Jahrhundert im Wettkampf der
Wirtschaftssysteme kann man so'n bisschen
sagen vom Kommunismus bis zum
Ultra-Libertarismus nenn ich jetzt gerade
mal... würd ich jetzt mal ganz kurz
rausgreifen - und gleich wird hoffentlich
auch klar warum - den Neoliberalismus. Ich
nenne... oder ich betrachte das so im
Geschmack der Chicago Boys in Chile unter
Pinochet und so'n bisschen in
abgeschwächter Form so Thatcher in
Großbritannien so ab den Siebzigern, so
nachdem Bretton Woods so abgeschmiert ist,
sozusagen die Dollar-Bindung von einer
globalen Währung in ? Geld. Was ich damit meine
- wir können den Begriff auch dann ändern,
gerne, ist ... ist sozusagen Austerität
und Privatisierung als Eigenschaft und ne
Unterordnung aller Lebensbereiche in ne
Wirtschaftsorientierung. Außerdem spielt
da ne Rolle Individualisierung,
insbesondere von Verantwortung, jeder ist
ihres Glückes Schmied, und als Psychologie
dieser handelnden Individuen wird dann
verwendet sowas wie Spieltheorie und
rational choice-Ansätze, so ne Mischung
aus Reiz-Reaktions-Theorien, Anreize und
Gelegenheiten. Das heißt, der Mensch
reagiert darauf und... und handelt
sozusagen rational in diesen
Spannungsfeldern. Und dem einen oder der
anderen... merkte an der Stelle schon, da
gibt's Parallelen zu dieser informatischen
Sichtweise sozusagen, wie Menschen
reagieren, warum sie reagieren und wie man
sie dann auch steuern oder kontrollieren
kann. Oder Nudgen, also locken. Konkrete
Vorhaben war in dem Beispiel, das ist
jetzt hauptsächlich aus Chile... also
hauptsächlich Chile. Aber das hat sich
dann 80ern auch weltweit sehr weit
ausgebreitet. Dieses Staats- und
Wirtschafts-Verständnis, da ging's ...
gerade unter Pinochet wurde das halt
radikal umgesetzt. Deswegen galt das so'n
bisschen als Labor des Neoliberalismus.
Privatisierung des Gesundheitssystems,
Privatisierung des Rentensystems,
staatlich umlagefinanziert hin zu privat
kapitalgedeckt. Das sehen wir auch
hierzulande so'n bisschen am Kommen.
Privatisierung des Schulsystems wurde
durchgesetzt und Erschwerung von
gewerkschaftlicher Arbeit, insbesondere in
Chile wurden dann gewerkschaftliche
Organisationen verboten, Deregulation von
Banken und dem Finanzmarkt allgemein und
gerade so was wie Steuersenkungen für
Unternehmen, um mehr Investitionen
anzulocken. Das Resultat war an der Stelle
dann, dass die Wirtschaftsleistung nominal
sozusagen stiegen, aber die Mittelschicht
zum Beispiel reduziert wurde, Arm-und-
reich-Spreizung zunahmen, Arbeitslosigkeit
inbesondere in Chile anstieg, kann man
natürlich auch nochmal drüber sprechen,
was gilt als Arbeitslosigkeit und was
nicht. Der allgemeine Gesundheitsstand
sank, die staatlichen Ausgaben gingen
stark zurück durch die Kürzung der
Sozialsysteme. Und - das fehlt da jetzt
noch - und die staatlichen Einnahmen
insgesamt die gingen natürlich auch zurück
durch die Steuer... Steuersenkungen. Das
heißt, und ist auch ne Entwicklung, die
teilweise in Deutschland in Ansätzen
erkennbar ist, in anderen Ländern viel
mehr, kann man so sagen. Interessant ist
es vielleicht als politische
Nebenbedeutung, Neben - Bemerkung: in
Großbritannien und den USA wird sozusagen
Widerstand dagegen auch merkbar, sowas
wie, wie Bernie Sanders oder Jeremy
Corbyn, die ja quasi gerade so sehr links
einschwenken. Warum erzähl ich das aber
eigentlich gerade: Es geht um die
unheilige Allianz, denn jetzt haben wir
sozusagen diese bisschen vereinfachten
Weltsichten, die ich vorhin genannt habe,
mit so ner verheißungsvollen, endlich die
Antworten auf komplexe Fragen, und das
zusammentreffend mit finanzschwachen
öffentlichen Händen... mit ner
finanzschwachen öffentlichen Hand. Wir
haben grad eben ganz kurz gehört über die
Ausgaben und Eingaben, äh Einnahmen-
Reduzierungen, so dass dann so ne halb
verstandene Daten-Lösung, die mit so ner
schönen alles-neu-und-alles-gut-Ideologie
gewürzt sind, dann eben schnelle Erfolge
versprechen. Das heißt also, man hat ja
auch viel im Portfolio, wenn man sich
anschaut, die weltgrößte Zimmervermietung
hat selber gar keine Zimmer, das
weltgrösste Taxi-Unternehmen hat gar keine
Taxis. Und die digital Etablierten zählen
ja auch zu den wertvollsten Unternehmen.
Die können ja so falsch nicht liegen. Das
heißt also, diese ökonomischen
Randbedingungen, die ich gerade so'n
bisschen extremer beschrieben habe, die
passen in gewissem Maße genau zusammen mit
dieser informatischen Sichtweise zu sagen:
Wir können diese... erstens teilen wir
diese vereinfachten Weltbilder und
zweitens haben wir da Lösungen, haben wir
für diese Probleme, die es da so gibt ,
entsprechende Lösungen. Man könnte es ein
bisschen rauer auch die Silicon-Valley-
Ideologie nennen. Und das ist sozusagen
denn... man kann ja auch ein Produkt
besser verkaufen, wenn man noch ein
schönes Lebensgefühl dazu packt. Es hat ja
Harley Davidson mal gesagt: Bei uns kauft
man ein Lebensgefühl und dann gibt's ein
Motorrad kostenlos dazu. Und die Aussage
hier ist immer, es ist die digitale
Revolution jetzt gerade und seid mit
dabei, die alten Industrien haben
ausgedient und jetzt disrupt everything,
auch den Sozialstaat, Klammer zu, und make
the world a better place, wer will da
nicht dabei sein. Die Frage, die sich
natürlich stellt, auch mit klammen Kassen
der öffentlichen Hand, a better place, die
Welt wird also besser, wie besser wird sie
denn und was genau wird besser und für
wen? Weil interessant ist es schon, dass
da nicht gesagt wird, naja wir wollen
einfach nur informatische Systeme bauen,
die irgendwie gut ihre Arbeit tun, sondern
dass man diesen Pathos mit dazu haben
will. Das ist schon interessant, sozusagen
diese Betrachtung der besseren Welt. Denn
die Frage verweist ja irgendwie, wenn man
sagt, wir wollen irgendwie ne bessere
Welt, wir wollen eine bessere Welt haben,
irgendwie zeigt das ja schon auf ne ganz
relevante Frage, nämlich wie wollen wir
eigentlich leben. Man könnte jetzt, wenn
man manchmal - ketzerisch sage jetzt mal,
da das Ohr ans Silicon Valley legt -
hören, die Frage ist, wie wollen wir
Tische im Restaurant bestellen. Aber
eigentlich zeigt die Frage ja daraufhin,
wie wollen wir mit Armut Ungleichheit und
Hummer umgehen - Hunger natürlich.
Lachen,Applaus
Noch ist es der Hunger. Also wie gehen wir
damit um, wenn alle Hummer... genau. Naja,
bei Hunger und Hummer ist auf alle Fälle
so, dass es dafür ne App gibt, das ist ja
immer so das klassische. Die Frage ist
aber so'n bisschen, wenn man in diese
technischen Sichtweisen so navigiert, da
scheint es mir zumindest oftmals so, dass
man sagt, welches Problem passt denn zu
unserer Lösung hier? Wir haben hier was
Schönes gebaut, jetzt ist es Internet oder
so was. Was für ein Problem passt denn
jetzt dazu, was können wir denn da lösen.
Und es ist sogar gar nicht so abwegig,
dass so ketzerisch zu formulieren, denn
ich weiß nicht, wer von euch mal was von
UberHop oder Lyft Shuttle gehört hat, das
sind ja, sind ja beides sowas wie Taxi-
Unternehmen und die hatten großartige
Ideen zu sagen, ja man könnt ja mal ein
bisschen größere Autos nehmen und die muss
man nicht rufen, sondern die fahren auf
festen Routen und dann kann man da
einsteigen und total günstig mit anderen
zusammen fahren, also als würde man sich
ein Taxi teilen - und der Rest der Welt
dachte so: Ach, Bus, ja, hm. lacht
Applaus
Also es war jedenfalls ein sehr
erhellender Moment, als Silicon Valley
dann den öffentlichen Personen-Nahverkehr
erfunden hat. Ja, aber der Witz ist, es
funktioniert ja irgendwie wirtschaftlich.
Also Google, Facebook, Amazon durchdringen
unseren Alltag mit den Ideen - das sind
natürlich nicht alles unsinnige Ideen,
will ich nicht gesagt haben - aber warum
das für uns jetzt relevant ist, das ist,
dass Startups mit diesem Weltbild, was ich
vorhin beschrieben habe, auf gewichtige
Geldgeber treffen. Und dann auch noch
gewisser wirtschaftlicher oder
wirtschaftspolitischer Unterstützung. Und
dann diese Weltbilder auch sozusagen
finanzstark in die Welt und auch hierhin
tragen. Da gibt es ja auch, wenn es darum
geht z.B. deutsches Recht zu erfüllen,
dann werden halt Nazi-Kreuze verpixelt,
aber ich warte eigentlich mal auf den
Aufschrei, wenn deutsche Facebook-
Userinnen und -User ihr Recht auf Nippel
einfordern. Weil die Frage ist ja nicht,
was wird verboten, sondern was wird
eigentlich ausgeblendet, obwohl es hier
erlaubt wäre. Ne, das kann man ja auch mal
andersherum sehen. Okay, damit will ich
nicht zitiert werden.
Lachen
Jedenfalls also die Beschreibungen, es
gibt so bestimmte Theoretiker, die Silicon
Valley so'n bisschen als useful idiots
bezeichnen, die selber denken, sie bauen
an was Wichtigem mit, sind aber eigentlich
sozusagen die Türöffner für ganz andere
dahinterstehende Geldgeber. Nämlich auch
zum Beispiel Versicherungen, Auto-
Hersteller und so weiter. Und da fragt man
sich dann, was von dem disrupt noch übrig
bleibt. OK. Genau. Das heißt aber im
Endeffekt, die öffentlichen Stellen
übernehmen bestimmte Produkte, die
eigentlich für ne kommerzielle Nutzung
gedacht waren... worden sind. Und das ist
ja ganz praktisch, weil Erfolg dort
quantifizierbar ist. Und das hat dann
irgendwie ne eigene Logik. Die öffentliche
Hand funktioniert ja ein bisschen anders.
Von Kommunikationsinfrastruktur irgendwie,
wenn das ZDF bestimmte Dinge einfach bei
Youtube speichert, weil sie selber nicht
die eigene Infrastruktur haben, dann kauft
man sich damit eben diese Rechte und
Beschränkungen ein, über ÖPNV bis hin zur
Stadtplanung, also in Toronto wird jetzt
ein Stadtteil zum Beispiel von Google
Sidewalk Labs entwickelt.
Gesundheitssystem-Optimierungen bis
Verbesserung der Altenpflege, das reicht
so je nach dem wo man auf der Welt
hinguckt. Und vieles davon sogar günstig
bis kostenlos. Weil das natürlich sehr
viel Daten generiert, über die die
Unternehmen dann sehr, sehr froh sind.
City as a service fand ich nen sehr
schönen Spruch an der Stelle. Okay. Ja und
ich hab manchmal den Eindruck, dass die...
sozusagen die Politik so'n bisschen faul
wird mit der Komplexität der Probleme und
die sind vielleicht auch noch global und
wir kriegen die alle nicht gelöst und
jetzt kommt da jemand und dann könnte man
das ja einfach mal probieren und die
leeren Kassen sind sowieso da. Also es
passt so'n bisschen alles zusammen. Und
auch Geheimdienste sitzen ja ner gewissen
Logik auf, zu sagen, die Weltlage
verschlimmert sich, wir brauchen einfach
noch mehr Daten und selber aber, die
Leute, die tatsächlich an diesen Daten
arbeiten und daraus sinnvolle
Informationen generieren müssen, nämlich
Wissen, die sagen selber, wir ertrinken,
wir brauchen, wir brauchen nicht noch
mehr. Aber das hält niemanden auf. Dann
geh ich jetzt nochmal drüber. So. Und
naja, bei dieser immer engeren Verzahnung
stellen sich natürlich bestimmte Fragen.
Weil Unternehmen, die man so eng dann in
die öffentlichen... in den öffentlichen
Raum hinein lässt, die müssen ja dann
bestimmte Eigenschaften erfüllen, was die
meisten nicht tun. Unternehmen
funktionieren eben nicht demokratisch.
Also, sie haben bestimmte interne Abläufe,
eigene Dynamiken. Also wenn irgendwie
Wayze, das ist so'n Routing-Dienst, wenn
der sagt, naja, da ist gerade ne
Baustelle, wir routen jetzt mal hier, weil
unserem Stadtplan gemäß sieht es sehr gut
aus, und dann sind es aber irgendwelche
kleinen Straßen, die da gar nicht dafür
gedacht waren und auch dadurch dann
kaputtgehen und so weiter. Da treffen dann
verschiedene Motivationen aufeinander,
nämlich wie ne öffentliche Politik und
vielleicht menschliche Selbstverwaltung,
der Stadtteil und so sich das gedacht hat,
und wie ne Firma gedacht hat, was das
Beste wäre. Und dann ist die Frage, wer
hat halt die Durchsetzungsmacht. Und bei
dieser Übermacht von solchen... von
solchen Firmen, die man sich für
öffentliche Aufgaben holt, ist natürlich
die Frage, wie... wie geht man damit jetzt
irgendwie um. Also geht man das weiter,
was sind die Folgen. Und da kommen wir
jetzt natürlich zur Rolle der Politik.
Wenn wir jetzt mal zur göttlichen
Informatik zurückkehren und fragen, was
kann die Informatik oder vielleicht auch,
wovor hat man irgendwie Angst, wofür hat
man irgendwie Angst. Dann würde ich zum
Beispiel sagen, ich hab... also hat man
Angst vor einer KI oder hat man Angst vor
Unternehmen, die mit KI ihre eigenen Ziele
durchsetzen. Na, jetzt merkt man nämlich,
wenn man diese Dinge, die ich vorhin
gesagt habe, wenn man die mal darauf
anwendet, was... sozusagen, rutscht uns
die Kontrolle aus der Hand? Ist es die
Kontrolle über Technik, die uns aus der
Hand rutscht? Oder ist es die Kontrolle
über Organisationen, die Technik
einsetzen? Und dann passt das damit
nämlich schon wieder ganz anders zusammen.
Und dann kann man darüber anders
nachdenken. Weil nämlich - und jetzt
schließt sich so langsam der Kreis - sowas
wie Spiele oder Wirtschaft sind sehr schön
zu modellieren, weil da klar ist, was ist
das Gute: gewonnen, verloren, Wirtschaft
irgendwie, Gewinn, Profit, Verlust,
A/B-Test, das kann man ganz klar sozusagen
mit Kriterien belegen. Aber so was wie
soziale Einbindung, Akzeptanz, Offenheit,
Transparenz oder Grundrechtseinhaltung, da
ist es plötzlich sehr, sehr schwierig, da
zu sagen, ist es... wurde das jetzt
eingehalten oder nicht. Da kann man
Systeme sehr sehr, sehr sehr komplex nur
drauf optimieren oder daraufhin
ausrichten. Das sehen wir auch gerade in
Bezug auf die Datenschutzgrundverordnung.
So. Ja und der Sinn von Politik besteht ja
gerade darin, irgendwie Optionen zu haben,
Entscheidungen zu treffen,
Verantwortlichkeiten zu klären und vor
allem sie auch zu diskutieren. Das heißt
also, es geht auch darum, diese Systeme,
die wir benutzen wollen, über das Design
zu sprechen, nicht nur über die
Ergebnisse. Das heißt also, wenn wir
sagen... Wenn wir sagen, wir wollen zum
Beispiel Schwächere schützen, dann ist das
sehr, sehr kompliziert und sehr, sehr
komplex an der Stelle, das zu definieren
und auch vor allem damit umzugehen, dass
Systeme dann eben auch ineffizient werden,
weil man alle mitnehmen möchte, weil man
eben nicht der reinen Effizienz oder dem
reinen Gewinn nach das designen kann. Das
heißt also, an der Stelle muss sich eben
auch die Informatik damit beschäftigen,
dass ihre Systeme aktiv... das ist
sozusagen die Anforderung an die Systeme
mit Absicht mal ineffizient gestaltet
werden, damit irgendwie Macht verteilt
wird, die ja immer vorhanden ist, dass sie
zum Beispiel nicht Menschen- oder
Gesellschaft-feindlich konstruiert wird.
Das heißt, es geht nicht darum bei so ner
Position, wenn ich so die Grenzen der
Technik beschreibe, dass man sich
irgendwie technikfeindlich verhält,
sondern darum dass die Technik sozusagen
der Gesellschaft und den Menschen dient an
der Stelle. Das heißt also, informatisch
gesprochen, die requirements sind die
gesellschaftlichen Werte, gern auch
effizient, aber das ist dann zweitrangig.
Und als allerletzten Punkt würde ich nur
sagen, es gibt auch positive Beispiele -
weil ich das jetzt so ein bisschen groß
aufgezogen habe - wer sich das mal
anschauen will z.B. wie gerade die smart
city-Strategie in Barcelona funktioniert,
die ist hoch partizipativ,
emanzipatorisch. Das heißt also, die
Systeme bleiben unter Kontrolle der
Betroffenen und dadurch dass die Systeme
auch von der Stadt selber betrieben
werden, gibt es eben auch keine
Betriebsgeheimnisse und derartige Dinge.
Das kann man mal sehr schön nachschauen.
Gnu-Taler ist Experimentierstadium, ich
nenn es deswegen, weil das eine anonyme
Bezahlweise ist, die aber sagt, wer
bezahlt, bleibt anonym, aber der Händler
oder die Händlerin, die die Zahlung
entgegennimmt, kann kryptografisch
beweisen, dass es diese Zahlung gegeben
hat. Das heißt es kann auch besteuert
werden, heißt es ist so'n Gegenkonzept zu
diesem sozusagen Cypherpunks, wir wollen
gar keinen Staat, es gibt sozusagen auch
diese Ansätze. Oder ich nenne es mal, ganz
schön: "Frag den Staat" oder "Verklag den
Staat". So ne kritische... kritisch
verwendetes Einklagen von Rechten, was
aber, wenn man sich anschaut, wie sich die
Macherinnen und Macher mit dem Thema
beschäftigen, die immer mit reflektieren,
welche Machtverhältnisse gibt es da, wie
wollen wir die thematisieren und diese
Reflektionen, die hebt dann... sozusagen
senkt die Informatik von diesem göttlichen
alles Lösen hin zu nem sehr mondänen, aber
dann auch sehr fruchtbaren Werkzeug.
Vielen Dank.
Applaus
Herald: So, jetzt haben wir noch eine
Viertelstunde Zeit für Fragen. Wenn ihr
unbedingt gehn müsst, dann geht bitte
leise und versucht, nicht vor den Kameras
zu laufen. Und ansonsten, 13 Minuten habt
ihr noch Zeit, sitzen bleiben, Fragen
überlegen, fragen. Ihr kennt das Spiel,
wir haben 4 Mikrofone, einfach anstellen,
ich ruf euch dann auf und im Internet
haben wir auch Fragen und wir fangen jetzt
direkt mal an mit einer Frage aus der
Quelle Internet.
Signal-Engel: Die Frage ist, ob und
inwieweit Simulationsmodelle eine Basis
für politische Entscheidungen wären.
R: Das ist ne sehr, sehr gute Frage. Das
hängt so'n bisschen davon ab, was da
simuliert wird. Also es gibt ja ganz viele
sozialwissenschaftliche Modelle, die im
Endeffekt dann so auf die Interaktion
zwischen Menschen - wen guckt man denn an,
wenn ne Frage aus dem Internet kommt? -
H: Das Internet.
R: Okay, gut... die dann die einzelnen
Menschen so'n bisschen physikalisch
modellieren und die Interaktion. Da würde
man an der Stelle jetzt sehen, das ist
wieder zu kurz gegriffen, an der Stelle
würde ich sagen, als Informatiker, ich
würde mal mit Sozialwissenschaftlerinnen
und Sozialwissenschaftlern sprechen, was
sie dazu sagen, zu meinen Methoden, und mit
denen zusammenarbeiten, was sie sagen, was
sind denn für ihre Betrachtungen adäquate
Modelle. Das heißt also, an der Stelle
erstmal mit denen sprechen, die sich damit
beschäftigen, um nicht dann diese gleichen
Fehler nochmal zu machen. Das ist
vielleicht sozusagen der Hinweis. Bisschen
unbefriedigend vielleicht, aber... das
ist. glaub ich, genau der richtige Weg.
H: Mikrofon 4, stehst du an oder guckst du
auf dein Handy?
M4: Beides, aber ich kann auch schon mit
ner Frage beginnen.
H: Ja, fang an.
M4: Also, nerd-bedingt bin ich auch so'n
bisschen Asimov-Fan, da gibt's so diese
drei Roboter-Gesetze, du hast davon
gesprochen, wie sich Maschinenlogik und
biologische Logik nicht komplett
miteinander vereinbaren lassen und
vertragen. Ich geh da mit, es gibt aber
auch systemtheoretische Ansätze, mit denen
sich Psychologie sehr gut beschreiben
lässt und auch psychologische
Interventionen machen lassen, um zum
Beispiel in der Psychotherapie und
Organisationspsychologie weiterzukommen,
also wenn sozusagen der Mensch als System
von Persönlichkeitsanteieln verstanden
wird oder eine Organisation als System
verschiedener Stakeholder begriffen
werden, also ich geh aber mit, dass diese
Atomisierung kontraproduktiv ist für ne
coole Gesellschaftsentwicklung. Jetzt die
Frage...
R: Ich bin gespannt, ja.
M4: Wie siehst du das und welche
Ansätze...
Lachen, Applaus
Moment, Moment... welche Ansätze dessen,
dass man Kybernetik quasi in der
Gesamtschau, einerseits Biologie und
andererseits Technologie betrachtet,
welches davon findest du trotzdem noch
produktiv?
R: Ich fand die Anfangsbemerkung auch wenn
ich mitgelacht habe, trotzdem sehr sehr
spannend und hätte reagiert, auch wenn da
jetzt keine Frage mehr gekommen wäre. Ich
glaube, der wesentliche Punkt dabei ist,
immer zu fragen, was möchte ich mit diesem
Modell gerade bezwecken. Die dann
anzuwenden, wenn es zum Beispiel in ner
Psychotherapie funktioniert, auch nach den
Regeln der Psychologie, dann ist daran ja
nichts falsch. Es geht an der Stelle, so
wie ich's beschrieben habe, ging's darum
zu sagen, das funktioniert doch da, also
benutzen wir das jetzt nicht überall, aber
auch bei den Sachen, die so ähnlich sind,
ohne nochmal zurückzuchecken. Also an der
Stelle geht das so'n bisschen auch darum
zu sagen, wir benutzen die Modelle, und
behalten aber im Hinterkopf, dass es
Modelle sind. Und wenn es da hakt oder
auch die ganze Zeit sind wir in so ner
kritischen Feedbackschleife zu gucken, ist
das Modell noch adäquat oder ist es nicht
adäquat. und wenn es nicht adäquat ist,
dann kann vielleicht auch die Erkenntnis
reifen, dass es für die Sache, die man
gerade modellieren will, kein adäquates
Modell gibt. Das ist ne mögliche Antwort.
Und mir geht's so'n bisschen darum, das
immer noch offen zu haben und stehen zu
lassen und nicht zu sagen, super, das ist
doch jetzt das perfekte und damit ist die
Totalität dann erledigt. Und mit dieser
Totalität ist die Frage dann endlich
erledigt, ne, diese komplexen... In Bezug
auf die Kybernetik... ja, es ist... ich
glaub, das kann man so allgemein gar nicht
sagen, da müsste man sozusagen konkret auf
ne Situation beziehen, glaub ich. Wenn ich
die Frage so richtig verstanden habe. Das
ist so'n bisschen so Plädoyer dafür, dass
man diese Anforderungen dann eben mal
kritisch reflektiert und dann konkret
darauf verwendet und nicht so one size
fits all. Ok, ich hoffe, das war...
H: So, Mikrofon Nummer 1 bitte.
M1: Also ich hatte - oh das ist laut -
gewisse Probleme mit deinem Vortrag, weil
du wirklich extremst vieles reingepresst
hast, von Philosophie, früheren
Beispielen, Ökonomie, also du hast ja
wirklich alles irgendwie reingebracht, und
dabei hat mir eben so'n bisschen der
eine Punkt gefehlt, räuspert sich
und vor allem hatte ich
mir ehrlich gesagt
erhofft, so wie der Vortrag
angekündigt war, dass vielleicht
was dazu kommt, dass du dich n bisschen
mehr darauf fokussiert hättest, was denn
genau die Grenzen der Technik jetzt
eigentlich sind. Beziehungsweise die
Grenzen der Informatik. Weil du hast ja
selbst gesagt, das ist eine
Mischwissenschaft, die in alle anderen
Wissenschaften mit eingreift. Das heißt,
geht's dir darum, ist Wissenschaft
generell begrenzt, was kann sie nicht, und
dann hast du vielleicht n bisschen was zu
Bewusstsein gesagt, wir können kein
Bewusstsein modellieren. Aber es geht doch
letzten Endes darum, dass sich viele
hinstellen und von superintelligence
sprechen, und das sehr seriöse
Wissenschaftler sind, die sagen, 25 Jahre
- dann haben wir das. Also was ist damit?
Also ich mein, relativierst du nicht ein
bisschen, die tatsächlichen Gefahren, die
es trotz allem gibt, mit so einer Art von
Vortrag?
R: Das ist ein sehr interessanter Punkt.
Also erstens die Superintelligenz, dass
die in 25 Jahren kommt, das ist ja seit 50
Jahren schon so. Ich würd es nicht
relativieren an der Stelle, die Genzen,
die ich versucht habe zu beschreiben,
sind... die hängen daran, inwiefern man
die Sachverhalte, die man bearbeiten will,
mathematisch beschreiben kann. Wenn es
darum geht, wie schnell fährt ein Auto,
dann kann man das tun. Wenn's darum geht,
mit A/B-Tests Umsätze zu messen, dann kann
ich das tun. Wenn ich Klick-Raten messen
will, dann kann ich das auch tun. Wenn ich
allerdings Kundenzufriedenheit messen
will, dann muss ich kritisch darüber
nachdenken, ob die 5 Sterne, die man da
geklickt hat, ob das tatsächlich die
Kundenzufriedenheit ist, die ich da gerade
messe, oder ob ich tatsächlich gemessen
habe, wie oft Leute auf 5 Sterne klicken.
Das kann ja auch sein, ist mir völlig
egal, ich klick 5 Sterne, weil dann das
Fenster am schnellsten zugeht auf meinem
Rechner. Keine Ahnung. Also diese
kritische Distanz an der Stelle sozusagen,
das wäre die Grenze... meiner Ansicht nach
die Grenze der Informatik. Wo man sich
fragt, gibt es da Entscheidungen, was
Optimierungskriterien sind, oder was kommt
ins Modell rein und was kommt nicht ins
Modell? Und da würde ich sozusagen die
Grenze ziehen, weil die Infomatik
tatsächlich, das ist halt ne mathematische
Wissenschaft an der Stelle. Und zu dem
zweiten Punkt: Ich hatte... das war
genau... also danke für die Frage... genau
der Grund... na, find ich's schnell
genug... warum... nee, find ich nicht
schnell genug - doch! - warum ich auf
dieser Folie, die... ganz oben - schade,
ist nicht Folie 42 - Angst vor der KI oder
Angst vor Unternehmen, die mit KI ihre
Ziele durchsetzen... Was ich damit sagen
wollte: Ich hab überhaupt keine Angst,
wenn ich die Frage richtig verstehe, davor
dass sich da irgendwas selbständig macht
oder dass sozusagen die
Superintelligenz... tatsächlich hab ich
da... da hab ich nach allem, was ich über
Digitalcomputer weiß, hab ich sozusagen...
diese Möglichkeit besteht immer, aber ich
sehe für diese Annahme aktuell einfach
keine Gründe, das zu glauben. Das ist so'n
bisschen, wenn mir... ich frag in so nen
Diskussionen öfters mal, ok, ich hab jetzt
verstanden, bald kommt die
Superintelliganz, aber was sind denn jetzt
richtige Anzeichen, dass das passiert?
Wenn man sich zum Beispiel die KI-
Forschung anschaut, die Hardware-
Verbesserung, da ist ganz viel
exponentiell, aber die Erkennungsraten und
sozusagen die Möglichkeiten von KIs
jeglicher Form, die wachsen immer linear.
Das heißt, man muss da ganz genau
hinschauen, was wird da eigentlich
gemessen? Und die klassischen
Argumentationen sind, wir stehen kurz vor
dem Punkt, wo es richtig hochgeht. Und
auch Ray Kurzweil sagt, auch die, die
darin arbeiten, werden nicht wissen, wann
es passiert, aber es wird bald passieren.
Wenn ich... wenn mir jemand dafür keine
Anzeichen präsentiert, warum die Person
das glaubt, dann ist das genau das, n
Glaube. Also ich lass mich sehr gerne
davon überzeugen davon, dass es bald so
weit ist, aber bis zu dem Punkt hab ich
eher Sorge, dafür... davor dass
Unternehmen Technik verwenden, um ihre
eigenen Ziele durchzusetzen. Und das ist
aber ne ganz klassische politische Frage.
Das ist keine technische Frage und das ist
auch keine mysthische Frage, das haben wir
ganz oft schon gehabt: mit Sklaverei, mit
Kinderarbeit und so weiter, wo irgendwann
mal gesagt hat, jetzt ist aber Schluss.
Zumindest hier.
H: Bald ist hier auch Schluss. So, einmal
das Internet, bitte.
S: Ist geplant, die wichtigsten
Erkenntnisse der Kybernetik doch noch
aufzugreifen in Bezug auf polykontexturale
Logik?
Lachen
R: Nochmal bitte.
I: Ähhh...
R: Was heißt "nochmal darauf zuzugreifen",
das... den Kontext hab ich jetzt nicht
verstanden.
I: Ist geplant, die wichtigsten
Erkenntnisse der Kybernetik doch noch
aufzugreifen in Bezug auf polykontexturale
Logik?
R: Also, da steck ich jetzt nicht ganz
tief drin, aber da würd ich auch sagen,
wenn es dafür adäquate Modelle gibt, für
das, was man da modellieren will, dann
kann man das machen. Aber in dem Kontext,
wie ich jetzt hier den Einsatz der
Informatik beschrieben habe, kann es auch
wieder für Einzellösungen nur
funktionieren, aber nicht in diesem "Wenn
wir das auf alles anwenden, dann wird
alles besser". Gut, das hab ich jetzt ein
bisschen allgemeiner zusammengefasst.
H: Nummer 4 bitte.
M4: Hallo, danke für den Talk. Und ich
komm jetzt gerad so'n bisschen aus dem
Konstruktiven und versuch, ein bisschen
zu überlegen, was kann man denn machen und
überlege, durch den Vortrag hat sich
durchgezogen der Begriff Macht irgendwie
für mich und Macht kann ja auch heißen,
dass alle das Gefühl haben, dass sie sich
frei entscheiden, und dennoch ne gewisse
Macht ausgeübt wird. Und deswegen die
Frage an dich: Erstens, kennst du
Betrachtungen, die informatische Systeme
oder deren Konzeption und Verwaltung von
diesem Blickwinkel her betrachten
beziehungswise hältst du es für eine
richtige Herangehensweise daran?
R: Das find ich ne sehr, sehr spannende
Frage. Tatsächlich gibt es diese
Prinzipien ja. An der Stelle... deswegen
hab ich das ja da genannt, es gibt so
kleine Projekte oder größere Projekte, die
genau diese Fragen sich stellen. Das hat
mal jemand auch zum Beispiel... Christian
Kühner hat das mal 'herrschaftsfreie
kooperative Systeme' genannt, wo so'n
bisschen die Frage war, wie kann man denn
so'n System, gerade bei peer-to-peer-
Systemen wird das ja oft mit in Design-
Entscheidungen mit einfließen gelassen,
dass sich sozusagen diese Machtverteilung
in die Hardware... in die Software
einschreiben lässt und dann aber auch
nicht durch andere Entscheidungen wieder
rausgenommen werden kann. Das heißt, das
sind auf alle Fälle Systeme, die das aktiv
mitdenken. Das Wesentliche dabei ist immer
nur, das muss immer meiner Ansicht nach in
so nem politischen Kontext auch sein, wo
dann auch verstehbar ist, was da passiert
und teilweise auch regulierend, meiner
Ansicht nach, vielleicht eingegriffen
werden kann. Ich denk da gerade ... Das
müsste man wahrscheinlich vom
Anwendungsfall abhängig machen, aber
grundsätzlich die Richtung ist auf alle
Fälle sowas wie peer-to-peer-Systeme. Wär
jetzt erstmal meine erste Antwort. Oder
eben sowas wie GNU-Taler das sagt, von der
einen Richtung kann man das überprüfen,
von der anderen Richtung kann man's nicht
überprüfen. Also ist definitiv... wird das
in allerlei Software-Projekten auch
mitgedacht, ja.
H: So, das war's. Einen Applaus für Rainer
bitte!
Applaus
R: Dankeschön!
Abspann-Musik
Untertitel erstellt von c3subtitles.de
im Jahr 2018. Mach mit und hilf uns!