36c3 Vorspannmusik Herald: Der nächste Vortrag handelt von etwas, was mich etwas beunruhigt, möglicherweise aber was auch extrem spannend ist. Wir haben uns ja schon damit abgefunden, dass uns Maschinen zunehmend überholen, also dass ich nicht mehr schneller rechnen kann als mein Computer zuhause. Das überrascht mich überhaupt nicht. Als Wissenschaftler benutzen wir Rechner, um uns zu unterstützen, große Datenmengen zu analysieren. Aber so ein Rückzugsgebiet war für mich immer noch die Kunst. Da habe ich das Gefühl, dass es etwas Menschliches. Da wird man uns so schnell nicht einholen, dieses Kreative. Aber die Frage ist: Ist das eigentlich noch Stand der Technik? Ist das überhaupt noch? Kann man das überhaupt noch so sagen? Und da werden wir jetzt einen schönen Vortrag hören von jemandem, der sich genau damit auskennt. Von Simon Hegelich. Simon ist nämlich Professor für Political Data Science an der TU München. Er benutzt Deep Learning Tools unter anderem auch für das Kunstprojekt TensorFloyd. Er wird reden über: Mensch - Kunst - Maschine mit künstlicher Intelligenz zu neuer Kunst zum kybernetischen Verstand. Simon, die Bühne gehört dir. Simon: Danke sehr. Applaus Simon: Ich finde es ja super, dass sich so viele Leute das anhören wollen. Ich hatte die Gelegenheit, gestern Abend auch schon sehr viel mit tollen Leuten hier auf dem Kongress zu reden, die selber KI benutzen, um damit Kunst zu machen. Wir haben sofort festgestellt, dass es viel zu diskutieren gibt. Insofern will ich mich auch bemühen, nicht ganz die Zeit auszureizen, dass wir nachher noch ein bisschen Raum für Diskussionen zusammen haben, weil ich glaube, dass da sehr viel Kontroversen geben wird. Weil es einfach zwei große Begriffe zusammenbringt, die beide für sich genommen überhaupt gar nicht wirklich definiert sind, nämlich Kunst und künstliche Intelligenz. Die eine Hälfte von euch sagt wahrscheinlich: "Ja, das ist aber keine Kunst", die andere sagt: "Das ist keine künstliche Intelligenz". Und ihr habt auch recht damit. Aber was ich heute machen will ist, ein bisschen zeigen, was ist eigentlich der Stand der Technik, auch wirklich über die Technik reden, was wird da eigentlich gerade gemacht? Zum Einstieg habe ich mir folgendes überlegt: Ich möchte zwei Gedichte vortragen, und das eine ist von einer künstlichen Intelligenz geschrieben, die ich programmiert habe, und das andere von Jim Morrison. Und dann möchte ich natürlich gerne nachher wissen, wer glaubt, welches Gedicht von wem denn ei- gentlich geschrieben ist. Ich fang mal an! I exorcise a ghost the sun glared on the dark the dead the dead have in the spruce the dead abstractedness the dead have very close relatives. my mother is good for her. Erstes Gedicht. Zweites Gedicht: The fear eternal consciousness in the void makes trial ... jail seem almost friendly a kiss in the storm i'm freezing animals dead white wings of rabbits Wer glaubt, dass das erste Gedicht Jim Morrison war? Und wer glaubt, dass das zweite Gedicht Jim Morrison war? Ich kann es vom Licht her ziemlich schlecht sehen, aber ihr seht auf jeden Fall. Beide Antworten haben eine Followerschaft. Wir wissen jetzt schon gar nicht mehr - genau, ich könnte hier das Video auch noch starten übrigens. Wir sind offenbar jetzt schon an einem Stand, wo Computer Kunst generieren können, die wir ohne weiteres nicht unterscheiden können von menschlich generierter Kunst. Und jetzt möchte ich erst mal kurz erzählen, was haben wir denn da gerade eigentlich erlebt? Was war das? Was ist da passiert? Also, wir haben seit einigen Jahren ja jetzt einen, wie man gestern hören konnte hier auf dem Kongress einen Hype, was Deep Learning anbelangt, und Deep Learning ist aber ein bisschen mehr als nur ein Hype. Da steckt tatsächlich was dahinter. Erst mal ist es ein Verfahren des maschinellen Lernens, und das Grundprinzip, wenn man sich das ganz einfach vorstellt, ist so, dass wir beliebige unstrukturierte Daten nehmen können und wir kennen aber schon die Antwort. Das nennt sich dann Supervised Learning. Und dann bauen wir eine große, komplexe mathematische Formel, die den Input, den wir haben, in irgendetwas transformiert, was möglichst nah an dem dran ist, was wir als Output eigentlich erwarten, was wir haben wollen. Dieses Prinzip, da brauche ich kein Deep Learning für, das ist erst mal das Grundprinzip maschinellen Lernens. Gibt es ganz unter- schiedliche Algorithmen dafür, wo es dann halt um die Frage geht: Was baue ich eigentlich für eine mathematische Formel zwischen diesem Input und dem Output? Und ich kann das auch mit Texten machen. Ich kann Texte, Wörter umformen in Zahlen. Da kann der Computer damit rechnen, und dann kann ich eine mathematische Funktion machen, die ihm diese Zahlen umwandelt in die Zahlen, die ich eigentlich dann erwarte vom Output her. Was ich hier verwendet habe, ist ein sogenanntes Sequence-to-Sequence-Model. Das ist ein Deep Learning Model erst einmal, bevor wir zu Deep Learning kommen. Es gibt eine Klasse von Algorithmen, die verwendet wird für dieses maschinelle Lernen, das nennt sich neuronale Netze. Ein neuronales Netz ist an sich eigentlich etwas ziemlich Einfaches. Ich muss mir das so vorstellen: Ich habe jetzt Worte zum Beispiel, und jedes Wort kriegt eine Zahl zugeordnet. Und dann habe ich eine... es wird immer gesagt Neuronale Netze, das ist so wie das Gehirn. Also neuronale Sachen - ist totaler Unfug. Das hat mit dem Gehirn eigentlich wirklich überhaupt nichts zu tun, ist noch nicht mal ein Netz, sondern ist eigentlich nur eine andere Darstellungsweise, wie ich eine mathematische Funktion aufschreiben kann, nämlich in Form eines Graphen. Die mathematische Funktion bei neuronalen Netzen ist relativ primitiv. Da geht es einfach nur darum, dass Inputs multipliziert werden mit einem Parameter. Der ist dann noch näher zu bestimmen. Und das wird alles aufaddiert. Und dann ist die Frage: Löst es eine Aktivierungsfunktion aus oder nicht? Und wenn es das tut, dann wird das Signal weitergegeben, und dann kann ich verschiedene Layers hintereinander machen. Der Vorteil bei neuronalen Netzen ist, dass ich sehr viele von diesen Parametern in meine mathematische Formel reinbringen kann und dann einen relativ effizienten Algorithmus habe, der diese Parameter automatisch optimiert. Das heißt also, ich stelle das Modell auf. Der Computer berechnet dann aber anhand der Daten, die es gibt, was sind eigentlich die richtigen Werte für diese Parameter? So, jetzt geht Deep Learning noch ein bisschen darüber hinaus. Da ist der Unterschied, dass diese Signale nicht mehr einfach nur ein Signal ans nächste weitergegeben werden, sondern dass ich komplexere Architekturen aufbaue, wo es zum Beispiel Feedbackfunktionen gibt. Im konkreten Fall ist es, wie gesagt, ein sogenanntes Sequence-to- Sequence-Model, was mit Attention funktioniert. Das sind so Zauberwörter im Moment, aber das ist eigentlich relativ primitiv. Das heißt, ich habe als Input eine Sequenz von einem Satz, die geht in ein neuronales Netz, das ist dann ein sogenannter Encoder, der produziert ein Signal. Ich habe aber auch ein zweites neuronales Netz, den sogenannten Decoder. Der kriegt den schon bekannten Output, auch wieder eine Sequenz von Texten, und die können dann eben halt unterschiedlich lang sein, ist also keine Wort zu Wort- Übersetzung mehr und verwandelt den Output aus dem Encoder im Decoder wieder dann in irgendwas, was möglichst nahe da dran sein soll. Attention ist dann noch so eine Subklasse davon. Da ist man übergegangen, das, was wir gleich noch sehen werden. An einer Stelle ist das sehr wichtig. In diesen neuronalen Netzen ist sehr viel Zufall drin. Die ganzen Parameter, die werden erst mal zufällig gesetzt und dann Schritt für Schritt optimiert. Da ist es sehr interessant, wenn man mehrere Netze gleichzeitig trainiert und dann schaut, wenn ich eine Korrelation zwischen diesen Netzen bilde, welche Position, welches Wort in dem Satz zum Beispiel ist eigentlich jetzt besonders wichtig. Und das ist das Prinzip hinter diesen attention networks, die im Moment ziemlich, ziemlich angesagt sind, weil sie sehr gute Ergebnisse bringen. Das ist das, was wir gerade gesehen haben. Das heißt wir hatten also einen Input. Und jetzt noch die Frage: Was war eigentlich der Input? Dieses Netzwerk, was ich benutzt habe, ist trainiert, mehr oder weniger auf den kompletten Kanon der amerikanischen Lyrik, und zwar so, dass der Input immer die erste Zeile eines Gedichts ist und der Output die zweite. Eigentlich ist das ein Algorithmus, der häufig verwendet wird für automatische Übersetzung. Wenn ich zum Beispiel vom Spanischen ins Englische automatisch übersetzen will. Ich kann jetzt aber eben auch was anderes reinschmeißen in dieses Netz. Ich gebe dem Computer die erste Zeile und der soll dann die zweite Zeile eines Gedichts vorhersagen. Und dazwischen, und das macht es ein bisschen kompliziert, steht jetzt also unser Modell, was eigentlich eine mathematische Formel ist. Aber diese mathematische Formel hat im konkreten Fall 160 Millionen unbekannte Parameter, trinkt die optimiert werden und das ist der Grund, warum man tatsächlich sagt: Diese Deep Learning Modelle sind letzten Endes Blackbox Modelle, weil selbst wenn ich weiß, wie das funktioniert, habe ich eigentlich keine Chance mehr herauszufinden, welchen Einfluss welcher dieser 160 Millionen Parameter auf mein Modell nachher hat. Ich kann nur über weitere Verfahren z.B. über generative Modelle versuchen, herauszufinden, welche Muster hat denn dieses Modell eigentlich gelernt? Und das ist wieder ein ganz interessanter Ansatz, um neue kreative Elemente, Werkzeuge zu finden. Also hier zum Beispiel, was wir sehen. Das ist sehr viel, was hier verwendet wird, einerseits, in diesen Videos nennt sich Style Transfer, aber auch Deep Dream und gerade Deep Dream, mein Algorithmus, der eigentlich entwickelt worden ist, um wieder zu visualisieren, welche Muster diese tiefen neuronalen Netze eigentlich gelernt haben. Das heißt, es entstehen also neue Tools und ich glaube, das ist eigentlich im Moment auch der Stand, den wir tatsächlich haben, bei der Frage: Was ist eigentlich künstliche Kunst heute? Wir haben, glaube ich, keine künstliche Kunst, sondern was wir haben, ist, dass wir ziemlich coole Tools haben, die wir verwenden können, die interessante Sachen machen. Denn die Frage ist ja: Wenn wir es hinbekommen, dass ein Computer etwas produziert, was aussieht wie Kunst, reicht das, dass das Kunst ist. Und da würde ich sagen: Nein, das reicht nicht. Wir haben zwar viele kreative Sachen, die wir verwenden können, die aber eigentlich auch nichts anderes sind als eine neue Art von Pinsel oder so. Wo wir halt neue Verfahren anwenden können. Und wir selber sind aber kreativ. Wir benutzen das, wir erschaffen damit etwas Neues. Der Computer erschafft ja in dem Sinne gar nichts. Der kriegt es zwar hin, uns vorzugaukeln, dass da irgendwie was rauskommt, was Kunst ist. Aber ich denke, die meisten Leute werden mit mir übereinstimmen, dass das eigentlich nicht das ist, was wir meinen, wenn wir über Kunst reden. Also zum Beispiel: sich heute hinzusetzen - jeder, der Kunst studiert hat, zum Beispiel, könnte sich theoretisch hinsetzen und könnte vermutlich ziemlich ziemlich gute Bilder malen, die sehr nach Picasso aussehen. Das ist ja auch teilweise gar nicht so schwer, was Picasso da gemalt hat. Also Picasso zu simulieren, ist sicherlich gar nicht die große Herausforderung. Aber wer von uns möchte sagen, dass er ein Picasso ist? Man merkt schon, wenn wir über Kunst reden, geht es eigentlich um mehr als nur darum, dass wir das Publikum reinlegen. Das ist übrigens generell, weil es soll ja auch um künstliche Intelligenz gehen, ein großes Problem an dieser alten Vorstellung des Turing-Tests. Alan Turing, in seinem Imitation Game, hat halt genau darauf gesetzt; er hat gesagt, wenn wir einen Computer bauen, wo Menschen nicht unterscheiden können, denkt er jetzt eigentlich oder denkt er nicht bzw. Konversation mit dem Computer - der Mensch kann nicht unterscheiden, rede ich mit einem Menschen oder mit einem Computer? Wenn wir das hinkriegen, haben wir echte künstliche Intelligenz. Eigentlich Unfug, weil nur weil ein Computer in der Lage ist, uns Menschen reinzulegen, heißt das ja noch lange nicht, dass er wirklich dazu in der Lage wäre, ja, zu denken, einen Verstand zu produzieren. Und das Gleiche gilt bei Kunst. Nur weil irgendwas aus dem Computer rauskommt, was vielleicht auch für das ungeschulte Auge aussieht, als wäre es Kunst, ist es damit ja noch lange nicht das, was wir eigentlich mit Kunst meinen, weil eben gerade diese diese Kreativität fehlt. Weil das Neue fehlt. Es wird gar nichts Neues erschaffen. Und da ist der Hauptgrund dafür, dass diese Systeme erzkonservativ sind. Die lernen aus großen Datenmengen Muster, die dann in diesen Daten schon drin sind. Die erschaffen aber in dem Sinne gar nichts Neues. Es ist wirklich Pattern Recognition. Das heißt nur ein Muster, was schon vorhanden ist in den Daten und eigentlich auch nur ein Muster, was schon deutlich vorhanden ist, selbst wenn es vielleicht ein Muster ist - da sind diese Systeme sehr, sehr gut - was wir selber gar nicht erkennen würden. Die leisten schon da was, aber sie leisten eben genau das. Sie leisten Mustererkennung, sie finden irgendwelche Muster und sind dann in der Lage, diese Muster zu reproduzieren. Das ist eigentlich genau das Gegenteil von dem, was wir uns vorstellen, wenn wir über Kunst reden. Jetzt kann man allerdings einwenden - und ihr merkt, das dreht sich jetzt die ganze Zeit immer, es ist es ein sehr dialektischer Talk - man kann jetzt einwenden: Na ja, gut, Determinismus und Kunst, das passt nicht zusammen. Aber die Negation des Determinismus, das ist ja der Zufall. Also wenn etwas zufällig ist, ist es nicht determiniert. Ist durchaus was dran. Jetzt ist der erste Punkt schon mal: Allein von der Technik steckt in diesen Deep Learning Modellen extrem viel Zufall. Jeder dieser 160 Millionen Parameter, über die ich vorhin gesprochen habe, ist zufällig gesetzt (jetzt kann man sich immer noch fragen, gibt es eigentlich wirklich ein Zufall in Computern? Das ist eine andere, das ist eine computerwissenschaftliche Metadebatte, weil der Computer muss ja irgendwie diese Zufallszahlen entwickeln. Lassen wir mal raus.) Nehmen wir mal an, die Initialisierung dieses Netzes ist tatsächlich zufällig. Und dann ist es sehr, sehr leicht, an jeder Stelle noch einmal zusätzlichen Zufall zu injizieren, wenn ich das möchte. Das heisst also, ich kann Systeme erzeugen, die tatsächlich zufällig was Neues produzieren. So. Jetzt ist Zufall und Kunst aber ja auch noch nicht ganz das Gleiche. Wenn wir das machen würden, dann wäre ja noch die Frage: Ist das, was rauskommt, jetzt Kunst oder kann das weg? Ist das jetzt einfach irgendwie Schrott, der produziert worden ist? Oder ist da irgendwas dran? Und da wird's jetzt spannend, weil da ist eigentlich die Kunsttheorie, die sich zwar sehr viel mit solchen Fragen schon auseinandergesetzt hat, aber eigentlich relativ schlecht aufgestellt. Woran mache ich das denn jetzt fest, was wirklich Kunst ist? Dann kommt sehr schnell der Betrachter rein. Das Publikum. So da ist aber auch die Frage: Wer ist das Publikum? Wenn wir einfach sagen würden, das Publikum ist, wer auch immer das sieht? Dann hatten wir ja vorhin schon den Test, dann müssen wir jetzt sagen, okay, das ist Kunst gewesen, weil es gab ja bei jedem der Gedichte einige Leute, die gesagt haben, das halte ich für Kunst. Wenn ich vom allgemeinen Publikum weggehe, dann wird es sehr schnell sehr elitär. Dann bin ich bei der Frage, Kunst ist ei- gentlich das, was entweder Institutionen mit Macht, wie der Kunstmarkt, schätzen oder Personen mit Autorität. Kunst ist, was andere Künstler sagen, was Kunst ist, oder was Kunstkritiker sagen, was Kunst ist. Kunst ist, was sich auf dem Kunstmarkt verkauft. Auch da ist man jetzt in einem Bereich, da gibt's ganz viele Widersprüche drin und auch ganz viele widersprüchliche Theorien. Viele Leute würden das auch sagen, nein, das stimmt nicht. Kunst ist - ja was denn eigentlich? Was als Kunst empfunden wird? Da ist man wieder bei der Frage, von wem denn eigentlich empfunden? Also, wenn wir diese elitären Ansätze nicht wollen, haben wir ein Problem an der Stelle, wenn wir sie akzeptieren in irgendeiner Art und Weise, dass wir sagen, es gibt eine Autorität, die darüber entscheidet, was Kunst ist und was nicht Kunst ist. Dann sind wir heute an dem Punkt, dass neuronale Netze eigentlich die Entscheidungen dieser Autorität selber mit simulieren können. Da sind wir bei einer neuen Klasse von neuronalen Netzen, sogenannten GANS - Generative Adversarial Networks. Das Prinzip ist ziemlich einfach, weil das Prinzip ist genau das Gleiche, was wir vorhin am Anfang mit den Gedichten gesehen haben. Ich kann jetzt (während ich das Modell trainiere, was die Gedichte baut) einfach ein zweites Netzwerk noch dazunehmen und das entscheidet, das kriegt echte Gedichte und die produzierten Gedichte, und dieses zweite Netzwerk soll sagen, war das echt oder war das nicht echt? Und jedes Mal, wenn das zweite Netzwerk eine richtige Entscheidung trifft, wird der Computer dafür belohnt. Aber jedes Mal, wenn das erste Netzwerk es schafft, dem zweiten Netzwerk ein falsches Gedicht unterzujubeln, wird der Computer auch belohnt. Und dann habe ich eine eine ziemlich komplizierte mathematische Formel, die ist dann auch nicht so einfach zu optimieren, weil ich dann zwei unterschiedliche Sachen gleichzeitig optimieren will. Es geht aber theoretisch. Das heißt also, wenn wir nur genügend Informationen darüber hätten, wie diese Autorität, wer auch immer das sein soll, entscheidet, was Kunst ist und was nicht, dann können wir das rein technisch machen und können vermutlich sogar konsistentere Entscheidungen in diesem Bereich treffen als die wirkliche Autorität dies tut. Insofern sind wir eigentlich jetzt bei dem Punkt, dass man sagen muss, na ja, gut, eigentlich ist alles beieinander. Wir können, wenn wir die Frage, was Kunst ist, einer externen Autorität überantworten wollen, können wir das rein technisch machen. Dann haben wir vielleicht immer noch Probleme, die Systeme sind noch nicht gut genug, und das ist wirklich auch gerade Stand der Forschung. Da wird viel dran gemacht. Die werden aber auch wirk- lich jeden Monat besser. Da passiert so viel in dem Bereich. Oder wir sagen, das reicht für Kunst immer noch nicht aus. Und das wäre meine Meinung. Also ich glaube, dass es zur richtigen Kunst dann immer noch etwas fehlt dabei. Und da lehne ich mich jetzt aus dem Fenster. Ich glaube, Kunst ist intentional, auch wenn das etwas ist, was viele Leute vielleicht so nicht teilen werden. Ich glaube, es braucht eine Intention. Es geht darum, dass man mit irgendwelchen handwerklichen Methoden, mit Malerei, Musik, Lyrik was auch immer, versucht, irgendetwas auszudrücken, häufig Gefühle, können aber auch abstrakte Gedanken sein. Und mir geht es jetzt gar nicht so darum, was der Künstler eigentlich damit sagen will, also ob der Künstler sich gedacht hat, ich will jetzt ein Gedicht über den Winter schreiben, und jeder andere liest darin ein Gedicht über den Tod. Das ist mir eigentlich total egal. Ich glaube nicht, dass es um die Intention des Künstlers geht, sondern ich glaube, dass es darum geht, dass das Intentionale sich nachher in dem Kunstwerk zeigt. Ob das dann übereinstimmt mit dem, was der Künstler gedacht hat, wissen wir sowieso nicht, weil wenn man die fragt, lügen die meistens. Also ist es relativ irrelevant, was sich der Künstler gedacht hat. Aber dieser Prozess, dass irgendetwas zielgerichtet gestaltet wird, das wäre nochmal eine Negation des Zufalls. Wir hatten den Zufall als Negation des Determinismus, aber eigentlich müssen wir jetzt auch noch einmal die Negation der Negation da reinbringen. Und das wäre so etwas wie Intention, Wille. Und da kann man sich jetzt fragen, gibt es das im Moment? Momentan: Nein. Aber kriegen wir das vielleicht in den Computer rein? Schwierig. Gibt's keine Ansätze, die da wirklich vielversprechend sind. In der Deep Learning Welt gibt's ein paar Leute, die glauben, wir kriegen das hin, wenn wir einfach immer größere, tiefere neuronale Netze bauen, die sich untereinander befruchten in einer Art und Weise. Das halte ich für Unfug, weil es wird ja immer wieder das reproduziert, was man vorher schon hatte. Man kommt da eigentlich gar nicht raus. Aber: wenn man sich jetzt mal fragt, gerade im Bereich Kunst, was ist denn jetzt eigentlich das Intentionale dabei? Das ist ja gar nicht so komplex, oder es muss nicht unbedingt komplex sein, es kann komplex sein, muss es aber nicht. Ich glaube, wenn man Computer dazu kriegen würde, und das ist halt das Projekt, an dem ich eigentlich dran bin, allerdings mit meiner Firma, versuchen wir, den Bereich Strong AI - Allgemeine Künstliche Intelligenz - da irgendwie einen Schritt weiterzukommen. Die Idee ist, dass man das vielleicht darüber hinkriegt, dass man den Computer dazu anleitet, zu widersprechen. Der Widerspruch als die Grundform der Intention. Und dann müsste man noch irgendwie dazu kommen, dass der Computer nicht nur widerspricht, sondern dass er gleichzeitig versucht, die Gegensätze auf einer höheren Ebene wieder versöhnbar zu machen. Und dann sind wir bei der Hegelschen Logik. Mein zweites Lieblingsfeld - könnte ich jetzt den ganzen Tag drüber reden, mach ich aber nicht. Die Idee, da, ich mach's ganz kurz, wäre, dass man sagt, dass man eine Logik hat, die wirklich nicht binär ist, sondern die versucht, Widersprüche denkbar zu machen. Das ist, glaube ich, viel, viel näher an dem dran, wie unser tatsächliches Denken geht. Man kann es in drei ziemlich platten Sachen zusammenfassen. Das erste ist omnis determinatio est negatio. Das heißt, alles, was bestimmt ist, ist eine Negation. Eine erste Grundthese, dass immer, wenn ich über irgendetwas rede, was es ist, sage ich immer, was es nicht ist. Zweite Grundthese wäre, die zwei Momente der Identität, die zwei Momente des Unterschieds sind die Identität und der Unterschied. Und da merkt man schon, wenn man sich das jetzt computermäßig durchdenkt, komme ich da in eine rekursive Schleife rein. Und das wird dann in einem dritten Punkt noch einmal bestätigt. Die Reflektion ist die Bewegung von nichts zu nichts und dadurch zu sich selbst zurück. Und ich glaube, dass das genau auch der Weg ist, wie wir das hinkriegen können. Dass Computer auch wirklich schon bald - nicht erst irgendwie in 50 Jahren oder so was, wirklich eigenständig Kunst produzieren, weil sie sich von dem, was sie gelernt haben, trennen, dadurch, dass sie versuchen, das zu negieren. Das was sie selber gelernt haben über Deep Learning. Deep Learning ist total wichtig dabei, weil ansonsten sind es einfach nur Zahlen. Also erst durch Deep Learning kann ich das überhaupt erst strukturieren, kann da Muster drin finden. Das ist ja etwas, was wir Menschen auch machen. Also Deep Learning wird man brauchen, aber dann muss das Gelernte negiert werden und diese Negation umgeformt werden in etwas Neues, in die Negation der Negation. Und wie das genau gehen kann, ist ein ziemlich schwieriges Konzept, aber. Ja, das war so in etwa das, was ich, was ich euch heute sagen wollte. Mal sehen, ob ich noch etwas vergessen habe. Eigentlich können wir von mir aus gerne jetzt schon in die Diskussion einsteigen und gucken, ob euch das irgendwie inspiriert hat oder ob ihr findet, das war alles totaler Unfug. Applaus Herald: Ja, wunderbar, dann haben wir viel Zeit zum Diskutieren und ich sehe, hier gehts auch schon los, an Mikrofon 2. Bitte! Mikro 2: Hallo! Danke für den inspirierenden Talk. War sehr schön. Du hast sehr schön durchgeleitet durch die Diskussion über Kunst und KI. Ich fand es auch sehr gut, dass du nicht sofort Stellung bezogen hast. Was ich aber trotzdem glaube ist, dass es ein Irrweg ist zu glauben, dass man sozusagen in der Intention oder in dem, was das kunstproduzierende Wesen in sich trägt, sozusagen dann festmachen kann, ob es Kunst ist. Wenn ich eine Banane an die Wand klebe, dann kann ich noch so viel Intention haben zu widersprechen. Das ist keine Kunst. Wenn ich es aber auf der Art Basel mache, dann wird es Kunst. Und ich denke, das versteht man auch gut mit der Unterscheidung zwischen System und Umwelt, dass man sagt Kunst ist ein soziales System. Und was dieses Kunstsystem als Kunst akzeptiert und aufnimmt, und das ist natürlich auch sehr flüssig, das wird ständig neu verhandelt. Also, was vor 30, 40 Jahren Kunst war, ist heute nicht mehr Kunst und umgekehrt. Ich glaube, das bringt uns näher an ein Verständnis ran, was Kunst ist, wenn man diese Frage überhaupt beantworten möchte. Simon: Ja, danke! Erst mal glaube ich, das hatte ich ganz am Anfang schon versucht anzudeuten, ich glaube, das das sowieso auch eine falsche Idee wäre zu sagen, wir wollen jetzt einen widerspruchsfreien Kunstbegriff als Erstes und an dem messen wir dann alles. Weil wie du richtig gesagt hast, das verändert sich ja auch. Und auch das ist so eine Grundthese bei Hegel, dass Hegel sagt: Es ist unsere falsche Zärtlichkeit den Dingen gegenüber, dass wir deren Widersprüche immer uns anlasten und nicht ihnen, weil die Dinge in Wirklichkeit widersprüchlich sind und Kunst ist natürlich, was total widersprüchliches. Auf der anderen Seite gerade das Beispiel mit "die Banane an die Wand tackern" - was ist denn eigentlich die Intention dabei gewesen? Da kommt eine Schwierigkeit rein in der Debatte. Wir haben ja gerade in der modernen Kunst eine Intention, die vom Inhalt her darauf geht, ich möchte eigentlich zeigen, dass die Kunst als Ganze an ihre Grenzen gestoßen ist. Das heißt also, ich habe schon eine sehr widersprüchliche Intention. Deshalb funktioniert es aber auch nur, wenn ich das auf der Art Basel mache und nicht, wenn ich das bei mir zu Hause mache. Da fehlt, wie du sagst, der soziale Resonanzraum dabei. So, aber an dem Beispiel ist es ja trotzdem schön zu sehen, dass sich auch die Gelehrten und die Kritiker und so etwas sehr uneinig sind darüber, ob das jetzt Kunst ist oder nicht. Und woran entscheidet sich das dann? Nämlich eigentlich an der Frage, ob man diese Intention, diesen sehr abstrakten Gedanken "Ich zeige selbstironisch, dass alles Kunst sein kann, wenn es nur im richtigen Raum ist" (oder irgendwie sowas wird es ja vermutlich gewesen sein), wenn ich den mitgehe, dann kann ich sagen, das ist Kunst. Ich kann aber auch sagen "ach, komm Leute, das ist aber doch auch schon tausend Mal gesehen..". Nur dann würde ich auch wieder sagen, wenn es schon so schwierig ist, bei dem was, was unsereins sich so ausdenkt, also wir Menschlein, festzustellen, ob das Kunst ist oder nicht, dann ist der Anspruch, der an Computer angelegt wird, zu sagen, da muss man jetzt aber eindeutig entscheiden können, ob das Kunst ist oder nicht, natürlich auch sehr, sehr schwierig. Einen wichtigen Punkt, gerade noch, weil ich den vorhin vergessen hatte.. Eigentlich habe ich mein ganzes Fazit vergessen, was ich eigentlich noch sagen wollte. Jetzt geht den Gedanken mal mit: Stellt euch mal vor, stellt euch mal vor, wir haben jetzt Computer, die Kunst schaffen, was auch immer das ist. Mal angenommen, wir hätten uns darauf geeinigt, was Kunst wäre und ab wann man dem Computer das zugesteht, dass er Kunst schafft. Und jetzt stellt euch vor, wir haben einen solchen Computer, tatsächlich, der Kunst schafft. Dann haben wir plötzlich, sind wir in einem neuen Zeitalter, weil dann etwas, was wir mehr oder weniger exklusiv, klar, gibt Diskussionen: Schimpansen machen die Kunst, können die Kunst machen oder sowas, aber wir sind bei etwas, was mehr oder weniger exklusiv den Menschen vorbehalten ist und wo wir ganz sicher in den nächsten Jahren aber in eine Situation kommen werden, wo wir uns fragen müssen, ob nicht eigentlich Computer inzwischen kognitive Fähigkeiten haben, die bislang exklusiv beim Menschen gelegen haben und wo wir auch unseren kompletten Umgang mit Computern eventuell neu überdenken müssen. Und das meine ich jetzt gerade nicht in die Richtung Terminator Szenario, sondern genau umgekehrt. Wie schützen wir eigentlich künstlerisch schaffende Computer vor den Menschen? Herald: Ja, vielen Dank, ich habe gesehen, wir haben auch Fragen aus dem Stream. Aber ihr steht schon so lange, deswegen machen wir erst mal Mikrofon 1. Simon: Tut mir leid, ich antworte jetzt kürzer. Herald: Ne, das sollte jetzt nicht an dich gehen. Mikrofon 1, bitte. Mikro 1: Ja, hey. Ein Satz erstmal, ich komme aus der Medienkunst, und ich denke, es ist eine ziemlich steile These, dass Menschen die Kunst studiert haben, irgendwas malen können. Applaus Ich bin schon ziemlich lang in der Kunst, ich hatte noch nie nen Pinsel in der Hand. Aber davon abgesehen, es gibt ja extrem viele Menschen, die machen heute diese Kunst, die eigentlich gar keine Kunst mehr sein dürfte, nach irgendwelchen Definitionen von [unverständlich]. Also Menschen, die heutzutage Flachware produzieren, können es ja super verkaufen. Und eigentlich dürfte es ja gar keine Kunst mehr sein, wir würden der AI das abschreiben, dass es Kunst ist, wenn sie es machen würden. Und deswegen ist meine Frage, Kunst ist ja eigentlich ne soziale Praxis. Das heißt einerseits soziale Praxis sowieso, verkaufen und kaufen, aber es ist hauptsächlich eine soziale Praxis, weil ich auf Vernissagen rumhänge und Bier trinke. Wie soll AI Kunst machen, ohne auf Vernissagen rumhängen zu können und Bier zu trinken? Simon: Das Rumhängen kriegen wir glaub ich hin und das Diskutieren auch irgendwann, das mit dem Bier trinken? Na gut, aber klar. Kunst ist ein soziales Phänomen, und das heißt, es findet in einem sozialen Kontext statt. Und jetzt kann ich mich auf den Standpunkt stellen, dass ich sage, Kunst gibt es nicht getrennt von diesem sozialen Phänomen und nur wenn ich das komplette soziale Umfeld reproduzieren kann, dann wäre es auch Kunst. Ich könnte mir aber jetzt zum Beispiel vorstellen, dass ich Vernissagen habe, wo Computer mit Computern rumhängen und vielleicht kein Bier trinken, sondern Strom konsumieren oder sonst irgendwas, was dann auch sehr spannend wird, wenn wir uns vorstellen, dass es vielleicht Kunst gibt, die gar nicht für Menschen gemacht wurde, sondern für Computer von Computern. Ja, aber generell kann ich nur sagen: Ja, genau. Du hast völlig recht. Das sind halt die Widersprüche darin. Wir glauben immer, es gäbe diesen festen Kunstbegriff und messen daran das, was KI macht. Aber selbstverständlich ist das, was du, was du ansprichst, ist ja eigentlich schon wahr. Es ist ja schon so, dass KI Kunst bei Sotheby's verkauft wird und sonst was. Ich find's eigentlich unbefriedigend auf diese elitären Kunstbegriffe zu schauen und zu sagen Kunst ist, was am Markt funktioniert oder wo es eine Vernissage gibt. Aber dein Punkt ist richtig, leuchtet mir ein. Herald: Mal eine Frage von der zwei und dann fragen wir den Stream. Hier das mittlere Mikro genau. Mikro 2: Ja, erst mal Danke für deinen Vortrag. Ich habe auch Kunst studiert, und ich muss sagen, ich habe durchgängig die Hände überm Kopf zusammengeschlagen während deines Vortrags. Simon: Ich hab keine Kunst studiert. Mikro 2: Erstmal will ich ne kleine Kritik geben und dann dann eine Frage daraus formulieren. Erstens gibt's nicht mehr die Kunst, sondern es gibt die Künste. Das ist unglaublich weit gespreadet. Und weiterhin mit einem vereinheitlichten Kunstbegriff zu arbeiten, macht überhaupt keinen Sinn. Worauf ich mich frage, Wieso, wenn man in diesem Feld forscht oder das zusammenbringen möchte.. Ich meine, sie haben ja auch Picasso gebracht. Und Hegel? Ich meine, mein Gott, Hegel ist über 250 Jahre alt. Wie kann man im 21. Jahrhundert ein Forschungsfeld auf einem philosophischen System von Hegel aufbauen? Oder das mit seiner Theorie füttern? Es gibt.. Also dann bitte wenigstens Bruno Latour.. Also irgendwas aus dem 20., 21. Jahrhundert nehmen, aber nicht aus dem achtzehnten. Simon: Warum? Mikro 2: Weil, weil dieses System von Hegel. Das ist eine philosophische Frage. Aber selbst das hat nur funktioniert, weil es wahnsinnig ausschließend war. Aber ich frage mich so ein bisschen, ja, mit welchem Kunstbegriff arbeiten Sie, wenn Sie sozusagen in diesem Feld forschen? Also sozusagen, gehen Sie jetzt von so klassischen künstlerischen Bereichen aus, oder nehmen Sie auch neuere künstlerische Phänomene, neuere, die auch schon 80 Jahre alt sind oder älter? Also sozusagen.. was wird da eingespeist, um zur KI Kunst zu kommen? Simon: Ja, vielen Dank, aber da muss ich leider widersprechen, gerade wenn ich sage, es gibt nicht den Kunstbegriff, sondern es gibt viele Künste. Dann unterstelle ich damit ja, dass diese Künste alle irgendwie etwas gemeinsam haben, was sie als Kunst macht. Ich komme aus dem, was ist Kunst? Aus der Frage gar nicht aus. Dadurch, dass ich sage Kunst ist eine Vielzahl von Sachen, weil ich sage ja, jedes einzelne dieser "Kunst" hat an sich das, was Kunst irgendwie macht. Dass wir diesen Begriff nicht bestimmen können, habe ich glaub ich, vorhin ja auch schon gesagt. Das liegt aber eben auch daran, dass es ein in sich widersprüchlicher Begriff ist, der auch nicht konstant ist, dass ist keine absolute Wahrheit. Die Kunst, die es gibt. Mir ging es halt gerade darum, das eigentlich deutlich zu machen und zu zeigen, dass wir, wenn wir über KI Kunst reden, dann plötzlich mit ganz harten Maßstäben rangehen, die wir ansonsten bei einem Kunstbegriff nie gelten lassen würden. Und das mit Hegel. Das ist halt einfach... es hat einen meiner Meinung nach, aber da stehe ich ziemlich alleine da, ich bin ein Outsider in dieser Frage, es hat meiner Meinung nach einen philosophischen Umbruch gegeben, der mit Kant angefangen hat und der unser komplettes wissenschaftliches Weltbild, was wir heute als das wissenschaftliche Weltbild kennen, eigentlich damals schon in Frage gestellt hat, was noch gar nicht richtig einbezogen wurde. Es gab die Versuche, 1980 Gotthard Günther in den USA das in den Bereich der KI reinzubringen, und ich glaube, dass das sehr, sehr fruchtbar ist. Aber es ist ein Rogue Ansatz, den außer mir niemand groß verfolgt, und ich freue mich auch, wenn andere Leute etwas anderes machen. Vielleicht lass ich es auch einfach. Herald: Dann hätte ich jetzt gerne einmal den Signal-Angel, die Fragen aus dem Stream. Das Mikro geht nicht. Signal Angel: Test, Test? Ja, der Stream hat mal eine kürzere Frage, wo es einfach heißt Kannst du bitte was zur KI bei der Erzeugung von Musik sagen? Und da den aktuellen Stand der Dinge mal so ein bisschen zusammenfassen? Simon: Das geht ganz schnell. Das sind eigentlich die gleichen Algorithmen wie vorher. Das meiste, was momentan gemacht wird bei der Erzeugung von Musik, ist, dass ich midi-Dateien nehme. Dann hab ich die schon codiert und dann kann ich die midi-Dateien im Prinzip behandeln wie Texte oder wie Bilddateien und kann genau die gleichen Algorithmen da drauf schmeißen. Ich habe es ausprobiert. Klingt sehr random. Ich habe es aber auch auf allen Yes-Platten trainiert. War vielleicht auch nicht so klug. Herald: Dann bitte Mikro 2 in der Mitte nochmal. Mikro 2: Vielen Dank für die interessante Einführung. Ich hätte auch noch einen Kommentar und zwar finde ich, dass die Kunst einfach dazu da ist, um uns selbst zu befreien. Und deshalb finde ich diese externen Autoritäten, die du da vielleicht auch mit einspielen möchtest in die KI - du, du wolltest ja damit spielen. Die haben da nichts zu suchen, also jegliche Form von Autorität, hat in der Kunst meiner Meinung nach nichts zu suchen. Und weil alles, alles, was passiert ist, und alles, was nicht passiert, ist eben relevant für Kunst gewesen. Und ich finde es auch schwierig, sich nur darauf zu.. oder nur darauf zu schauen, ob letztlich was produziert werden kann, weil darum gehts irgendwie gar nicht. Es geht darum, dass es eine Intention gibt, aber eben auch eine Intensität gibt. Und das ist das eigentlich Relevante. Würde ich sagen. Simon: Würde ich dir einfach total recht geben. Also, das, .. ich glaube, es wäre total super, wenn wir es hinkriegen würden... mit produzieren meine ich jetzt nicht unbedingt als Ware produzieren oder sowas, sondern ich meine, wenn wir es hinkriegen würden, dass Computer was machen, was bei uns tatsächlich was bewegt. So. Aber dann hängen halt andere Fragen dran, bewegt es, wenn Computer das tatsächlich können, bewegt es vielleicht bei den Computern auch was? Man ist da schon... Also es gibt da nochmal eine Meta-Ebene dazu. Aber alles, was du gesagt hast, finde ich total richtig. Herald: Machen wir weiter mit Mikro 2. Mikro 2: Also, ich würde gern zwei Punkte ansprechen. Einmal finde ich.. In dem Zusammenhang könnte man nochmal auf die Debatte um die Frage, ob Fotografie eigentlich Kunst ist, sicherlich nochmal eingehen. Weil vieles, was wir jetzt auf dem Bildschirm z.B. gesehen haben, könnte man eigentlich so als Informationsverarbeitung sehen? Im Prinzip das, was eine Kamera auch macht. Simon: Ist es auch, ja. Mikro 2: Und die Entwicklung davon - wann wurde Fotografie als Kunst anerkannt und warum überhaupt? Und der zweite Punkt ist mir gerade entfallen. Simon: Ja, auch das zeigt ja wieder, was Kunst ist, das verändert sich historisch. Und ich glaube, wenn ich einen philosophischen Gedanken dazu sagen darf. Es gibt ja diese Schrift, "Das Kunstwerk im Zeitalter seiner technischen Reproduzierbarkeit", wo es auch sehr viel um die Fotografie geht. Ich glaube, dass wir halt jetzt eben noch einen Schritt weiter sind, dass wir jetzt eigentlich über das Kunstwerk im Zeitalter seiner technischen Produzierbarkeit nachdenken müssen. Aber auch das wird nicht dazu führen, dass jetzt alles plötzlich nicht mehr, nicht mehr gilt und nichts mehr Kunst ist und alles nur noch Scheiße. Irgendwas wird passieren, das verändert sich da gerade sehr viel und der Talk heute ist eigentlich genau dafür da, um dafür ein bisschen zu sensibilisieren und darüber nachzudenken, was da eigentlich passiert, weil die Antworten habe ich ja gar nicht. Herald: Wir haben noch Fragen vom Signal Angel, aber wir machen ja, ihr steht so geduldig, deswegen machen wir weiter mit 2 erstmal. Mikro 2: Genau, der Mensch kann stehen und Signal nicht. In der Frage sozusagen, was ist Kunst, worum sich das immer dreht, habe ich mich jetzt gefragt, ob eben die KI oder der Computer die Antwort geben kann. Simon: Ja, ja, das ist halt genau der Punkt. Wenn wir, wenn wir auf der einen Seite einen harten Kunstbegriff haben, also wie ich es versucht hatte so einzuleiten, dass wir halt sagen, rein, die reine Simulation, das reicht uns nicht aus. Wir wollen, dass da irgendwie was drin ist, was wir eigentlich dem Menschen zuschreiben. Kreativität oder Intention oder keine Ahnung, wie man das dann tatsächlich fasst. Wenn wir dann aber davon ausgehen, dass es Computer gibt, die sowas hinbekommen, dann können die, und das ist jetzt die Antwort auf die Frage, dann können die vielleicht auch darüber nachdenken. Mikro 2: Ja, aber macht es uns vielleicht zum Menschen, dass wir erkennen, dass eine angetapte Banane Kunst sein kann? Simon: Ja, aber wenn ein Computer das erkennen könnte... Mikro 2: Und nicht, dass wir die Banane ankleben können? Simon: Ja, ist schon klar. Genau das, genau das meine ich auch. Wenn wir uns vorstellen, das ist ein Gedankenexperiment, weil ich sage, es gibt im Moment keine Computer, die wirklich Kunst machen. Aber wenn wir uns vorstellen, dass es Computer gäbe, die Kunst machen könnten, dann können wir uns auch vorstellen, dass es Computer gäbe, die Kunst verstehen können. Und dann sind wir halt plötzlich in genau der Frage, was macht uns denn eigentlich als menschliche Lebewesen aus in einem Bereich, wo wir sagen müssen, sind da nicht eventuell plötzlich fundamentale Grundsachen des menschlichen Daseins auf ein technisches Artefakt übergegangen? Und was heisst das? Und reden da wir nicht eigentlich über das Zeitalter des Transhumanismus? Mikro 2: Könnte der Computer dann vielleicht etwas als Kunst definieren, das uns selbst verborgen bleibt? Simon: Ich könnte mir tatsächlich solche Szenarien vorstellen, wo Computer Kunst für Computer produzieren, die wir überhaupt nicht mehr verstehen können. Herald: Und wir stehen nur noch staunend daneben und müssen das über uns ergehen lassen. Machen wir mit 2 weiter. Mikro 2: Genau, einmal noch die Frage, gibt es oder gibt es deiner Meinung nach überhaupt die Möglichkeit, dass man sagt, die Kunst ist jetzt von der KI, weil eigentlich spielt ja eigentlich auch alles mit ein, wer am Ende die KI geschrieben hat, kann man auch gleich wieder auf Hegels Weltgeist beziehen, das ist jede Kleinigkeit eigentlich am Ende auf das Endprodukt einspielt. Simon: Die Frage nach der Urheberschaft. Das ist etwas, was man momentan rechtlich zum Beispiel behandelt wird. Und was sich ja, was sich anschliesst, einfach. Also, wenn es einen Urheber gibt, wird es sicherlich ein Kollektiv sein. Weil dann müsste man ja sagen, wer hat denn eigentlich an der Entwicklung der Algorithmen mitgearbeitet? Das meiste davon ist Open Source. Das sind große Entwickler-Communities, die das machen. Die großen Internetfirmen spielen da eine große Rolle. Facebook, Google, Baidu, die treiben diese Entwicklung voran. Dann ist aber hier immer noch die Frage, wer die Daten zur Verfügung gestellt oder ist vielleicht in diesem Sotheby-Beispiel, wo dann KI-Kunst versteigert wurde, gab es auch jemanden, der gesagt hat, mir kommt es so vor, als hättet ihr der KI einfach alle meine Bilder gegeben und die hat daraus jetzt was Neues gemacht. Eigentlich bin ich der Maler, also die Urheber-Frage ist einerseits philosophisch sehr, sehr schwierig, wird vermutlich dann aber irgendwie plump rechtlich behandelt werden. Und im Moment gibt's den Fall, geht's um Patente, es gibt Patente in den USA, die bewilligt sind, die von einer KI geschrieben wurden. Und da stellt sich jetzt die Frage, wer ist eigentlich der Erfinder? Aber meistens werden diese Sachen dann halt irgendwie rechtlich rechtlich bearbeitet, damit es gut ist für die Wirtschaft und dann geht es weiter. Aber philosophisch ist das eine total spannende Frage. Herald: Jetzt noch einmal mein Signal Angel, was haben wir noch aus den sozialen Medien? Signal Angel: Ja, und noch eine Frage via Twitter. Hast du Tipps, wie man als AI-Neuling in das Thema Kunst mit AI machen einsteigen kann? Simon: Ja, weil wenn man das, was momentan richtig spannend ist meiner Meinung nach sind halt diese deep learning Geschichten. Und deep learning ist wirklich eine recht offene Community, die gleichzeitig aber, wie gesagt, von den großen Internetkonzernen aus anderen Interessen genommen wird. Wir haben PyTorch als Entwicklerumgebung oder TensorFlow. Wenn wir TensorFlow nehmen, das ist unter dem Dach von Google. Und auf der TensorFlow Seite gibt es sehr schöne Tutorials, wie man generative Modelle in TensorFlow bauen kann. Aber momentan ist es noch so, dass, wenn man da richtig einsteigen will, dass es tatsächlich auch ein Stück weit programmiertechnische Kenntnisse erfordert, das umzusetzen. Herald: Ok, machen wir weiter mit 2 in der Mitte. Mikro 2: Du bist an einer Stelle davon ausgegangen, dass KI bloss Muster erkennt, aber der Mensch was Neues erschaffen kann. Da stelle ich mir die Frage, was macht denn unser Hirn anderes, ausser in sehr, sehr viel komplexer als die KI natürlich, was machen wir denn anderes, als einfach Muster aus der Umwelt aufzunehmen und die neu zusammenzusetzen? Aber im Prinzip ist das ja auch nichts Neues. Simon: Das ist eine ganz große Frage immer noch in der Kognitionswissenschaft, ob wir was anderes machen oder nicht. Legst du auch wieder den Finger auf eine Sollbruchstelle, sozusagen, in meiner Argumentation. Ich glaube, dass wir etwas anderes machen, als einfach nur Muster erkennen. Es gibt aber viele Forscher, die sagen würden, nein. Es gibt auch viele, die sagen, es gibt keinen freien Willen und es gibt gar keine Kreativität, sondern das ist einfach nur Neuronenfeuer, was bei uns im Gehirn funktioniert. Wenn ich davon ausgehe, kann ich natürlich der deep learning Community folgen und sagen, okay, dann mache ich jetzt halt die Netze immer tiefer und noch tiefer und noch tiefer und noch tiefer. Und dann gibts irgendwann den kreativen Funken, auch wenn ich ihn nicht mehr verstehe, der dann da reinkommt. Ich glaube aber, dass wir etwas anders machen. Ich glaube schon, dass wir nicht nur Muster erkennen, sondern dass wir halt eben Widersprüche generieren. Dass wir anfangen zu spekulieren und dass Spekulation wirklich etwas ist, was über die Muster, die wir haben, hinausgeht. Zum Beispiel neulich habe ich ein Kind auf der Straße getroffen, kam mir entgegen mit seinem Vater, und ich hatte meinen Fahrradhelm auf. Aber der Fahrradhelm hat so ein Visier. Ok, sieht albern aus vielleicht, aber ist wirklich gut gegen die Sonne und so. Und das Kind hat gesagt, schau mal, Papa, ein Motorradfahrer. So, was hat es gemacht? Es hat also einerseits ein Muster erkannt, Helm mit Visier, hat aber andererseits gleich angefangen zu spekulieren und hat gesagt, deshalb war das ja auch nur überhaupt relevant, dieses Muster ist auf diese neue Situation anzuwenden. Und das fällt KI im Moment noch sehr, sehr schwer, selbst solche ganz einfachen Sachen. Wir bauen zehntausende, hunderttausende von Trainingsbeispielen, um überhaupt irgendwelche Muster zu erkennen. Wir Menschen kommen mit 5 Beispielen normalerweise aus. Herald: Bleiben wir bei der 2. Mikro 2: Ein Begriff, den ich noch einbringen wollte, ist der Begriff der glitch art. Und ich glaube, da kommt dieses hegelsche Bild, was du vorher reingebracht hast, ganz gut zum Vorschein, weil man damit sagen könnte, das sind nicht einfach nur interessant aussehende Verarbeitungsfehler, sondern wenn man das bei KIs betrachtet, vielleicht kommen wir da dann irgendwann zu einem Punkt zu sagen, ok, da erkennen wir tatsächlich die Verweigerung der KI, das zu machen, was wir eigentlich von ihr wollten. Und ja, das ist ein ziemlich spannendes Feld, was man aus deiner Perspektive vielleicht ganz gut betrachten kann. Simon: Danke für die Anregung. Das muss ich mir anschauen, das klingt gut. Herald: Da machen wir nochmals schnell den Signal Angel drüben. Signal Angel: Und die nächste Frage via Twitter. Ist die Negation, also der Widerspruch des Computers, nicht auch eine von außen herangetragene und damit nicht internationale Konstruktion, die im Kontext Computer bleibt und damit keine Kunst? Simon: lacht Ja, natürlich ist sie das. Nur, jede Form hat selber einen Inhalt und jeder Inhalt hat eine Form und irgendwann dreht das Ganze sich halt um. Aber, ja, das ist, an einer Stelle hatte ich darauf hingewiesen, ich kann mich sogar fragen, ob irgendwas, was ein Computer produzieren kann, tatsächlich Zufall sein kann, weil es ja letzten Endes ein deterministisches System ist. Aber spätestens wenn wir Quantencomputer in die Rechnung nehmen, sieht es vielleicht nochmals anders aus. Aber bislang sieht es so aus, als würden wir auch, schade, dass wir den Quantenvortrag jetzt nicht hören können. Eigentlich sieht es so aus, als würden wir sehr viel, was man mit Quantencomputern machen kann, auch auf normalen Computern machen können. Aber da ist irgendwie ein Widerspruch, dass wir einerseits, offenbar kann, kann irgendwas über Systeme hinaus da entstehen, glaube ich, schauen wir mal. Herald: Wir machen einmal Mikro 3, dann bist du endlich mal dran. Mikro 3: Ich wollte noch einmal kurz auf diese Intention eingehen. Ich bin auch Malerin, und ich habe auch Kunst studiert und ich find.. ja, was langweiliges.. Malerin... Ich finde das überhaupt, also meine Intention, wenn ich anfange, ein Bild zu malen, ich fände es super langweilig, wenn das dann genauso wird wie meine Intention ist, wenn da eins zu eins, das abgebildet wird, was in meinem Kopf als Ausgangsidee war. Das bedeutet, während ich male, reagiere ich mit dem Bild auf das, was, also ich muss wirklich auf dieses Bild reagieren, zuhören, wegnehmen. Dann ist irgendwie noch so ein Realitätsaspekt. Ich habe irgendwie das Gefühl, es sind so mehrere Elemente vereint, und ich reagiere einfach nur. Und dann, je besser ich irgendwie zuhöre und reagiere, desto interessanter wird eventuell das, was passiert und ich komme jetzt vielleicht nicht ganz woanders an, aber ... schon. Und trotzdem ist dann ja nicht alles, was ich gemalt habe Kunst. Das heißt, ich suche ja auch noch aus, was danach jetzt Kunst ist und was nicht. Ich fände es super interessant, wenn ich jetzt so KI hätte, die das jetzt analysiert, welches Bild für mich, was ich jetzt im Endeffekt auswähle und was jetzt Kunst ist und was nicht. Und ich für mich würde dann sehen, ah ok, das ist irgendwie mein Kunstbegriff. Und wenn man jetzt irgendwie ganz viele Künstler nehmen würde, die dann... also das mit ganz vielen Künstlern machen würde, vielleicht würde, könnte man das - und die KI würde das halt lernen von ganz vielen Künstlern, vielleicht würde man da dann irgendwie irgendwo hinkommen. Aber ja, zum Beispiel für mich ist Kunst, der beste Begriff, den ich kenne, ist, dass Kunst Wissenschaft ohne Ziel ist, was jetzt auch dem widersprechen würde, was du sagst. Und dann könnte man natürlich auch noch sagen, macht die Natur Kunst, ist das irgendwie Kunst und Wissenschaft vereint. Und wir sind einfach nur doof, dass wir das alles trennen, und haben es einfach noch nicht verstanden. Wir sind totale Anfänger, und die macht das schon seit super langer Zeit. Und Kunst ist überhaupt nicht irgendwas, was jetzt nur der Mensch macht. Simon: Zum ersten Teil. Ich glaube, das, was du dir da - sag ich jetzt mal - wünschst, für die praktische Arbeit, da ist man schon sehr weit. Ich glaube, das sind Sachen, die tatsächlich sehr bald auch schon auf dem Niveau funktionieren werden, dass auch professionelle Künstler damit arbeiten wollen, dass da was bei rumkommt. Es hat natürlich immer das Problem. Wenn ich einzelne Künstler nehme, zum Beispiel nur deine Bilder und dann von allem, was du malst, soll der Computer jetzt entscheiden, was passt am besten zu dem, was du bislang gemacht hast? Dann habe ich wahrscheinlich nicht genügend Daten. Genau. Und wenn ich aber alle Bilder der Welt nehme, dann entsteht halt dieses "reduced to the mean". Dann kommt halt sozusagen der Massengeschmack daraus extrahiert oder sowas. Das ist dann vielleicht auch nicht ganz das, was man will. Aber in dem Bereich, in dem Bereich passiert schon relativ viel und was ja auch schon, was z.B. geht, wäre, dass man den Stil von einem Bild, was du gemalt hast, nimmt und auf andere Bilder überträgt. Und vielleicht ist das dann auch wieder etwas, was für den Künstler zu Inspirationen beitragen kann. Achja, so könnte das aussehen. Und dann fange ich an zu malen. Dann kommt am Ende trotzdem wieder etwas ganz anderes raus. Schön finde ich auch, dass du den künstlerischen Prozess nochmal viel besser dargestellt hast als ich das jetzt so schnell gemacht habe. Und auch das sind Sachen.. Jedes Mal, wenn man es beschreiben kann, was da eigentlich passiert, kann man sich auch überlegen, dass ne KI da reingeht und das macht, also solche Feedback Loops z.B. auch macht und dann die ursprüngliche Intention wieder ändert. Naturkunst am Ende und die Frage, brauchst du dafür überhaupt eine Intention? Ich glaube, das hängt sehr viel daran, wie man jetzt den Begriff der Intention versteht. Wenn man sagt, es muss im Vorhinein alles in Stein gemeißelt sein, dann kommt man da sicherlich in Schwierigkeiten. Ich selber würde sagen, dass die Natur zwar unglaublich schön sein kann, dass sie aber eigentlich keine Kunst ist und schafft. Aber auch da, weiss ich, gibt es viele Leute, die dem widersprechen. Ich möchte es für den Vortrag auch deshalb nochmal sagen, weil mir gings eigentlich ja auch gerade um die Aussage, was passiert mit uns Menschen, wenn jetzt irgendwas, wo wir bislang gesagt haben, das können nur wir Menschen, wenn das jetzt technisch machbar wird. Was heißt das dann eigentlich? Wenn ich jetzt aber den Kunstbegriff so fasse, was auch okay ist, dass ich sage, rein ästhetisch zum Beispiel: alles, was schön ist, ist Kunst. Dann hab ich aber gar nicht mehr diesen Knackpunkt, dass ich sage, okay, der Computer.. Dass der Computer was Schönes produzieren kann, da sind wir uns glaub ich einig, das geht relativ gut. Herald: Dann machen wir die zwei endlich. Mikro 2: Ein Aspekt, wo ich nochmal nachfragen würde ist zur Idee von Kunst und wie sie mit Rausch oder Drogen zusammenhängt. Es ist einmal son abgenutztes Klischee vom Künstler, der ständig besoffen ist. Aber wenn man sich die Künstler und die Kunstuni so anschaut, ist doch irgendwie was dran. Dann ist da die Frage, kann eine KI einen Rausch empfinden? Kann sich eine KI besaufen? Wie funktioniert das? Oder ist das überhaupt nicht relevant für deine Arbeit? Simon: Das ist eine Frage, über die ich so noch nicht nachgedacht habe. Ich versuch's aber trotzdem mal. Es ist ja schon so, wenn ich das mit dem, was ich über Intention gesagt habe, in Verbindung bringe, es geht ja häufig- nicht immer, Kunst kann auch sehr abstrakte Gedanken haben, die sie zum Ausdruck bringen will - aber häufig geht es tatsächlich auch darum, sehr, sehr tief liegende Gefühle irgendwie zu transportieren da drin. Und da kann ich mir durchaus vorstellen, dass Drogen einem selber einen Weg eröffnen, zu diesen tiefen Gefühlen eher vorzudringen. Und dass es vielleicht darüber einen Zusammenhang gibt. Vielleicht liegt der aber auch auf einer ganz anderen Ebene. Vielleicht sind auch besonders labile Menschen anfällig für Drogen und besonders kreativ aus völlig anderen Gründen, oder sowas? Ich weiß es nicht, hab's nicht untersucht. Wie könnte man eine KI berauschen? Das finde ich jetzt allerdings spannend. Vielleicht, vielleicht wäre das tatsächlich auch noch so ein Weg, ich hatte halt richtig mehr so an den formalen Widerspruch gedacht. Aber vielleicht kann man die ja auch.. zum Beispiel zusätzliches Rauschen reinschmeissen in die Netze.. Das wird teilweise auch tatsächlich schon gemacht, fällt mir auf, bei Auto-Encodern. Da wird Rauschen injiziert, damit man nachher Ergebnisse hat, die von einzelnen Zufälligkeiten unabhängig sind und mehr so das Allgemeine treffen. Vielleicht ist eine KI mit viel Rauschen, auch irgendwie berauscht, müsste ich mal drüber nachdenken. Herald: Oh Wahnsinn. Das wäre fast das Schlusswort. Aber machen wir mal weiter mit der zwei. Mikro 2: Ich frage mich, ob die Debatte um Intentionalität nicht einfach in der Debatte, die man schon Anfang des letzten Jahrhunderts hatte, in der Kunst, ob sie nicht dahinter zurückfällt, wo man schon sagt, man kann sich vom Autor vom Werkschaffenden, kann man sich distanzieren und eigentlich kommt es auf die Deutung an, die eine künstlerische Intention meinetwegen unterstellt, aber eben als Blackbox unterstellt, weil wir wissen ja nicht, wie die andere Person reagiert. Und da frage ich mich, warum sollte das bei KIs nicht genauso möglich sein? Kann man sich nicht besser von Intentionen distanzieren, indem man zum Beispiel sagt, ok, Kunstwerke bestimmen sich in irgendeiner Form selbst, so wie wir es vorhin bei Mikro 3 gehört haben. Wenn man ein Bild oder eine Oper auf eine bestimmte Art und Weise anfängt, dann kann man nicht mehr beliebig weitermachen. Am Anfang hat man noch alle Freiheiten. Aber je mehr man ein Bild oder ein Stück weiterkomponiert, desto mehr kommen irgendwelche Zwänge rein, wo ich sagen würde, genau das ist dann die Kunst, dass es diese Nicht-Beliebigkeit ist aber die Kunstregeln sozusagen sind, die es ja implizit und explizit gibt. Und sowas kommt ja auch wiederum die KI dann machen. Simon: Ja, die KI könnte vor allem vielleicht eventuell auch diese Regeln finden. Nur haben wir dann halt wieder das Problem, dass die Kunst, wenn wir sie historisch betrachten, ja auch gerade immer darin besteht, dass diese Regeln gebrochen werden und dass genau das uns besonders künstlerisch dann auch wieder zu einem bestimmten Zeitpunkt vorkommt. Ich glaube aber nicht, dass ich auf diese alte Debatte zurückgekommen bin mit Intentionen, dass ich sage, die KI oder eben der Künstler, die Intention des Künstlers, das ist das Wichtige, sondern mir ging es ja auch darum, wie der intensionale Prozess auf das Kunstwerk wirkt und nicht, was der Künstler sich dabei gedacht hat. Insofern sind wir da gar nicht so weit auseinander. Herald: OK, machen wir die drei noch und dann gehen wir noch einmal an den Signal Angel, und dann ist leider auch die Zeit rum. Also die drei bitte. Mikro 3: Ich muss mich erst mal entschuldigen, denn ich habe den Talk verpennt. Ich habe es verpasst. Ich möchte trotzdem ne Frage stellen, dafür muss ich ne Unterstellung machen und zwar nehme ich an, dass die Daten die die KI bekommen hat, um damit etwas anzufangen und Kunst zu machen allesamt vorgefertigt waren. Es sind keine eigenen Erfahrungen gewesen. Also müsste man eine KI befähigen, eigene Erfahrungen, eigene Bilder mit Kameras und Sensoren auszustatten, so dass sie etwas aus der eigenen Erfahrung heraus schaffen würde, und würde dieses Schaffen dann eher als Kunst betrachtet. Simon: Das zielt auf eine große theoretische Richtung in der KI Forschung, die ich nicht teile, aber die weit verbreitet ist, wo man sagt, "brain in a tube" das funktioniert nicht, also ich kann nicht irgendwie einen Geist in der Kugel haben, sondern ich muss, wenn es um so etwas geht wie Kunst oder überhaupt denken, alle kognitiven Fähigkeiten, das lernt man nur durch das Erleben. Das heißt, letzten Endes müsste ich dann eigentlich einen Roboter haben, der sich in der Welt bewegt mit Menschen, da seine eigenen Erfahrungen macht und so weiter und so fort. Das ist eine weit verbreitete These. Ich halte die nicht für richtig. Ich halte die deshalb nicht für richtig, weil ja ganz viele von den menschlichen Erfahrungen vorliegen in Form von Texten, in Form von Bildern, in Form von Musik. Und wenn das vorliegt, warum soll ein Computer nicht davon lernen können? Warum muss er das alles selber erleben? Ich kann auch viele Sachen denken, die ich selber nie erlebt habe, weil ich sie irgendwo gelesen habe oder so. Aber wie an allen Punkten: es gibt auch da sehr, sehr viele, sehr, sehr ernst zu nehmende Leute, die die Hände über dem Kopf zusammenschlagen bei dem, was ich erzähle hier. Klar. Mikro 2: inaudible ... zum Beispiel auch anderen KIs oder anderen Menschen. Und eben diese Interaktion fehlt ja dann. Simon: Genau. Die einzige Interaktion, die es bei jedem Zeug oder sowas gibt ist wirklich die Interaktion der KI mit Daten und die Daten sind teilweise von mir gemacht und teilweise aber auch irgendwie aus dem Fundus, dem kulturellen Fundus irgendwie geraubt. Spannend wäre es natürlich, wenn - was passiert, wenn KIs tatsächlich in der Lage wären, in einen künstlerischen Prozess einzusteigen, wenn die dann auch noch miteinander irgendwie Erfahrungen austauschen können oder kommunizieren können und das sind eben genau die Szenarien, die immer so nach Science-Fiction klingen, wo ich aber wirklich glaube, dass das wirklich bald schon kommt. Und dass wir uns eigentlich jetzt heute schon ganz ernsthaft Gedanken darum machen müssen, wie gehen wir eigentlich mit einer Situation um, in der wir Menschen unser Monopol auf ganz viele kognitive Fähigkeiten abgetreten haben an etwas, was wir selber erzeugt haben? Und dass wirft lauter ethische Fragen auf und das wirft lauter gesellschaftliche Fragen, es wirft lauter machtpolitische Fragen, zum Beispiel die Frage, wem gehört das dann, wenn man das macht? Und das sind einfach die - meiner Meinung nach - ein paar der wirklich großen wichtigen Fragen für die nächsten Jahre. Herald: Ja, vielen Dank, wir sind jetzt doch schon zwei Minuten drüber. Deswegen stellen wir die Frage zurück. Ich möchte euch danken, dass ihr so lebhaft diskutiert habt. Das war extrem spannend. Und natürlich wollen wir zusammen Simon danken für den schönen Vortrag. Simon: Danke sehr! Applaus 36c3 Abspannmusik Untertitel erstellt von c3subtitles.de im Jahr 2020. Mach mit und hilf uns!