[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.00,0:00:18.66,Default,,0000,0000,0000,,{\i1}36C3 Vorspannmusik{\i0}
Dialogue: 0,0:00:18.66,0:00:25.18,Default,,0000,0000,0000,,Herald: Ich freue mich ganz besonders,\Njetzt den nächsten Vortrag ankündigen zu
Dialogue: 0,0:00:25.18,0:00:29.72,Default,,0000,0000,0000,,können, der zwei Themen vereint, die ich\Nbeide interessant finde. Zwar geht es zum
Dialogue: 0,0:00:29.72,0:00:33.82,Default,,0000,0000,0000,,einen um Machine Learning, im Speziellen\NDeep Learning, aber auch gleichzeitig um
Dialogue: 0,0:00:33.82,0:00:40.28,Default,,0000,0000,0000,,Nachhaltigkeit. Wie das Ganze verbunden\Nwerden kann und ob vielleicht der Deep
Dialogue: 0,0:00:40.28,0:00:44.59,Default,,0000,0000,0000,,Learning Hype irgendwie doch zu groß ist,\Nerklären uns Nadja Geisler und Benjamin
Dialogue: 0,0:00:44.59,0:00:48.91,Default,,0000,0000,0000,,Hättasch, die an der TU Darmstadt arbeiten\Nund forschen oder irgendwo zwischendrin
Dialogue: 0,0:00:48.91,0:00:55.29,Default,,0000,0000,0000,,sind. Und deswegen will ich jetzt gar\Nnicht weiter groß reden und freue mich auf
Dialogue: 0,0:00:55.29,0:00:57.74,Default,,0000,0000,0000,,den Talk. Herzlich willkommen, Nadja und\NBenjamin!
Dialogue: 0,0:00:57.74,0:01:04.19,Default,,0000,0000,0000,,{\i1}Applaus{\i0}
Dialogue: 0,0:01:04.19,0:01:07.12,Default,,0000,0000,0000,,Nadja Geisler: Herzlichen Dank! Hallo\Nerstmal und schön, dass wir hier sein
Dialogue: 0,0:01:07.12,0:01:10.74,Default,,0000,0000,0000,,können, schön das ihr alle hier seid. Wir\Nfreuen uns wirklich wahnsinnig. Es ist für
Dialogue: 0,0:01:10.74,0:01:13.77,Default,,0000,0000,0000,,uns beide auch der erste Kongress, und das\Nist etwas ganz Besonderes dann auch gleich
Dialogue: 0,0:01:13.77,0:01:18.10,Default,,0000,0000,0000,,hier oben zu stehen. Ich bin Nadja und wie\Ner schon gesagt hat, bin ich mit dem
Dialogue: 0,0:01:18.10,0:01:20.30,Default,,0000,0000,0000,,Master-Studium an der TU Darmstadt fertig\Nund werde wahrscheinlich demnächst dort
Dialogue: 0,0:01:20.30,0:01:25.01,Default,,0000,0000,0000,,anfangen zu promovieren.\NBenjamin Hättasch: Ich mache das schon
Dialogue: 0,0:01:25.01,0:01:29.32,Default,,0000,0000,0000,,seit zwei Jahren und habe festgestellt:\NIch will mich nicht nur damit
Dialogue: 0,0:01:29.32,0:01:32.81,Default,,0000,0000,0000,,beschäftigen, irgendwie toll Deep Learning\Nanzuwenden, sondern ein bisschen drüber
Dialogue: 0,0:01:32.81,0:01:36.23,Default,,0000,0000,0000,,nachzudenken, was das alles so bedeutet.\NUnd weil wir da einiges herausgefunden
Dialogue: 0,0:01:36.23,0:01:38.92,Default,,0000,0000,0000,,haben, sind wir heute hier, um euch das\Nauch zu erzählen.
Dialogue: 0,0:01:38.92,0:01:42.97,Default,,0000,0000,0000,,Nadja: Unser Talk ist so zustande\Ngekommen, dass wir das 36C3 Motto gesehen
Dialogue: 0,0:01:42.97,0:01:47.59,Default,,0000,0000,0000,,haben und uns dachten: Nachhaltigkeit\Nvereint doch eigentlich mehrere Aspekte,
Dialogue: 0,0:01:47.59,0:01:50.24,Default,,0000,0000,0000,,die wir schon immer spannend fanden, was\Ndas Thema Deep Learning und maschinelles
Dialogue: 0,0:01:50.24,0:01:53.96,Default,,0000,0000,0000,,Lernen angeht. Aspekte, die sich unter dem\NStichwort zusammenfassen lassen, obwohl
Dialogue: 0,0:01:53.96,0:01:56.83,Default,,0000,0000,0000,,sie an sich sehr unterschiedlich sind und\Nmit dem wir uns in verschiedene Art schon
Dialogue: 0,0:01:56.83,0:02:00.54,Default,,0000,0000,0000,,beschäftigt hatten. Zu den Aspekten wollen\Nwir euch heute was erzählen, weil gerade
Dialogue: 0,0:02:00.54,0:02:04.30,Default,,0000,0000,0000,,das Thema Nachhaltigkeit momentan\Nbesonders aktuell, besonders wichtig und
Dialogue: 0,0:02:04.30,0:02:09.52,Default,,0000,0000,0000,,besonders relevant für unsere Zukunft ist.\NBevor wir aber auf die drei verschiedenen
Dialogue: 0,0:02:09.52,0:02:12.37,Default,,0000,0000,0000,,Ebenen von Nachhaltigkeit, über die wir\Nreden wollen, eingehen, das ist die
Dialogue: 0,0:02:12.37,0:02:15.55,Default,,0000,0000,0000,,wissenschaftliche Ebene, die\Ngesellschaftliche Ebene und die Umwelt-
Dialogue: 0,0:02:15.55,0:02:19.79,Default,,0000,0000,0000,,Ebene, müssen wir zuerst klären: Wovon\Nreden wir, wenn wir Deep Learning sagen?
Dialogue: 0,0:02:19.79,0:02:23.77,Default,,0000,0000,0000,,Was sind die absoluten Basics für das, was\Nwir die nächsten 30, 45 Minuten reden
Dialogue: 0,0:02:23.77,0:02:28.37,Default,,0000,0000,0000,,werden? Was müsst ihr wissen, damit wir\Neuch gut mitnehmen können? Und das wollen
Dialogue: 0,0:02:28.37,0:02:31.19,Default,,0000,0000,0000,,wir jetzt machen. Das beinhaltet unter\Nanderem: was meinen Sie damit, wenn wir
Dialogue: 0,0:02:31.19,0:02:34.43,Default,,0000,0000,0000,,Deep Learning sagen? Wie funktioniert das\Nauf einer intuitiven Ebene, nicht so sehr
Dialogue: 0,0:02:34.43,0:02:38.36,Default,,0000,0000,0000,,auf einer detailreichen technischen Ebene?\NUnd wozu wird das aktuell jetzt schon
Dialogue: 0,0:02:38.36,0:02:44.92,Default,,0000,0000,0000,,angewendet? Und wenn Deep Learning sagen,\Ndann vor allem dieses Konstrukt, was sich
Dialogue: 0,0:02:44.92,0:02:50.29,Default,,0000,0000,0000,,dann neuronales Netz nennt, Artificial\NNeural Network auf Englisch. Das sind so
Dialogue: 0,0:02:50.29,0:02:53.50,Default,,0000,0000,0000,,Machine Learning Konstrukte, die es schon\Nsehr lange gibt, die dann zwischendurch
Dialogue: 0,0:02:53.50,0:02:56.36,Default,,0000,0000,0000,,mal eine starke Flaute in der Beliebtheit\Nhaben, weil sie eben doch nicht die
Dialogue: 0,0:02:56.36,0:03:00.07,Default,,0000,0000,0000,,Ergebnisse gebracht haben, die man sich\Nerhofft hatte. Inzwischen sind sie wieder
Dialogue: 0,0:03:00.07,0:03:04.67,Default,,0000,0000,0000,,extrem beliebt, um alle möglichen\NProbleme, Aufgaben im maschinellen Lernen
Dialogue: 0,0:03:04.67,0:03:09.79,Default,,0000,0000,0000,,anzugehen. Dabei bezeichnet ein neuronales\NNetz im Wesentlichen eine Verknüpfung von
Dialogue: 0,0:03:09.79,0:03:13.51,Default,,0000,0000,0000,,Knoten. Diese Knoten können je nach\NArchitektur verschieden miteinander
Dialogue: 0,0:03:13.51,0:03:16.21,Default,,0000,0000,0000,,vernetzt und durch verschiedene\Nmathematische Funktionen verbunden sein.
Dialogue: 0,0:03:16.21,0:03:20.73,Default,,0000,0000,0000,,Jeder Knoten wiederum repräsentiert\Neigentlich nur eine nichtlineare
Dialogue: 0,0:03:20.73,0:03:25.50,Default,,0000,0000,0000,,Berechnungsfunktion. So weit, so logisch.\NWir berechnen also sehr, sehr viel. Und
Dialogue: 0,0:03:25.50,0:03:28.82,Default,,0000,0000,0000,,wenn diese Gewichte zwischen den\NBerechnungen erst einmal fertig bestimmt
Dialogue: 0,0:03:28.82,0:03:32.34,Default,,0000,0000,0000,,sind, sprich wenn das neuronale Netz\Ntrainiert ist, dann lässt sich für jede
Dialogue: 0,0:03:32.34,0:03:37.03,Default,,0000,0000,0000,,numerische Eingabe, die man im Netz gibt,\Nauch eine entsprechende Ausgabe bestimmen.
Dialogue: 0,0:03:37.03,0:03:40.64,Default,,0000,0000,0000,,Diese Ausgabe macht dann Aussagen über\Nirgendwelche Größen, über irgendwelche
Dialogue: 0,0:03:40.64,0:03:44.33,Default,,0000,0000,0000,,Klassifizierungen oder irgendwelche\NZuordnungen. Die wichtigste Voraussetzung
Dialogue: 0,0:03:44.33,0:03:47.86,Default,,0000,0000,0000,,für viele, wenn auch nicht alle Arten von\Nneuronalen Netzen, sind entsprechende
Dialogue: 0,0:03:47.86,0:03:51.66,Default,,0000,0000,0000,,Trainingsdaten und die auch noch in großer\NMenge. Ob diese Trainingsdaten gelabelt
Dialogue: 0,0:03:51.66,0:03:55.28,Default,,0000,0000,0000,,sein müssen, also so etwas wie schon eine\NBezeichnung der eigentlichen Zielgröße
Dialogue: 0,0:03:55.28,0:03:59.31,Default,,0000,0000,0000,,haben müssen vorher oder nicht, das kann\Nunterschiedlich sein, ist aber an der
Dialogue: 0,0:03:59.31,0:04:02.31,Default,,0000,0000,0000,,Stelle auch gar nicht so relevant. Was wir\Nbrauchen, sind wahrscheinlich sehr, sehr
Dialogue: 0,0:04:02.31,0:04:05.88,Default,,0000,0000,0000,,viele Daten, wenn wir mit neuronalen\NNetzwerken arbeiten wollen. Anhand dieser
Dialogue: 0,0:04:05.88,0:04:09.97,Default,,0000,0000,0000,,Daten, die möglichst vielfältig, möglichst\Nrepräsentativ sein sollten für die spätere
Dialogue: 0,0:04:09.97,0:04:14.56,Default,,0000,0000,0000,,Wirklichkeit oder das, was wir dann damit\Nbearbeiten und einfangen wollen, daran
Dialogue: 0,0:04:14.56,0:04:19.23,Default,,0000,0000,0000,,wird das Modell gelernt. Um das Modell\Nspäter einzusetzen, das sieht man hier
Dialogue: 0,0:04:19.23,0:04:22.45,Default,,0000,0000,0000,,ganz gut, wenn man einmal von links nach\Nrechts schaut, braucht man zunächst
Dialogue: 0,0:04:22.45,0:04:25.43,Default,,0000,0000,0000,,Inputdaten. Die müssen in einem\Nnumerischen Format sein. Wie man da
Dialogue: 0,0:04:25.43,0:04:27.84,Default,,0000,0000,0000,,hinkommt? Das sind sehr viele verschiedene\NMethoden, aber an dieser Stelle auch gar
Dialogue: 0,0:04:27.84,0:04:31.41,Default,,0000,0000,0000,,nicht so weit relevant. Diese Inputdaten\Ngehen dann zu diesen Knoten, zu den
Dialogue: 0,0:04:31.41,0:04:35.57,Default,,0000,0000,0000,,Neuronen, und jedes Neuron repräsentiert\Nirgendwo an bestimmte eine bestimmte
Dialogue: 0,0:04:35.57,0:04:39.32,Default,,0000,0000,0000,,Eigenschaft, ein bestimmtes Feature. Bei\Neiner Bilderkennung könnte das eine Kante
Dialogue: 0,0:04:39.32,0:04:42.16,Default,,0000,0000,0000,,sein oder eine Ecke oder ein\NHelligkeitsunterschied, ganz verschiedene
Dialogue: 0,0:04:42.16,0:04:46.71,Default,,0000,0000,0000,,Dinge. Je weiter wir in das neuronalen\NNetz reingehen, je tiefer die Ebenen
Dialogue: 0,0:04:46.71,0:04:49.86,Default,,0000,0000,0000,,werden, desto höher-levelig sind die\NEigenschaften, die wir repräsentieren. Das
Dialogue: 0,0:04:49.86,0:04:52.85,Default,,0000,0000,0000,,Problem bei der ganzen Sache ist\Nnormalerweise, dass wir gar nicht so genau
Dialogue: 0,0:04:52.85,0:04:56.85,Default,,0000,0000,0000,,wissen, was dieses Neuron repräsentiert.\NBei einem Algorithmus, der Bilder
Dialogue: 0,0:04:56.85,0:05:00.33,Default,,0000,0000,0000,,klassifiziert, der zum Beispiel Hunde und\NWölfe voneinander entscheiden kann, können
Dialogue: 0,0:05:00.33,0:05:03.31,Default,,0000,0000,0000,,wir uns nicht ein Neuron anschauen und\Nkönnen sagen: Aha! Das da schaut, ob da
Dialogue: 0,0:05:03.31,0:05:06.65,Default,,0000,0000,0000,,eine Kante ist, die einen Schwanz\Nrepräsentieren könnte. Sondern es sind für
Dialogue: 0,0:05:06.65,0:05:10.11,Default,,0000,0000,0000,,uns einfach irgendwelche Zahlenwerte, die\Nwir nicht weiter interpretieren können.
Dialogue: 0,0:05:10.11,0:05:13.20,Default,,0000,0000,0000,,Das bedeutet, wir haben Black Box Modelle.\NWir verstehen also nicht im Detail,
Dialogue: 0,0:05:13.20,0:05:15.83,Default,,0000,0000,0000,,welches Gewicht wofür steht, was wir\Neigentlich gelernt haben. Und im
Dialogue: 0,0:05:15.83,0:05:19.82,Default,,0000,0000,0000,,Endeffekt, wenn ein Input reingeht, warum\Nder Output rauskommt, der am Ende
Dialogue: 0,0:05:19.82,0:05:27.03,Default,,0000,0000,0000,,tatsächlich herauskommt. Das bildet also\Nim Prinzip die Basis für alle Systeme, die
Dialogue: 0,0:05:27.03,0:05:29.24,Default,,0000,0000,0000,,irgendwie als Teil von Deep Learning\Nbezeichnet werden.
Dialogue: 0,0:05:29.24,0:05:35.65,Default,,0000,0000,0000,,Benjamin: Was wir da an der Stelle also\Nhaben, ist: Wir nehmen Mathe, wir nehmen
Dialogue: 0,0:05:35.65,0:05:43.01,Default,,0000,0000,0000,,große Mengen von Daten und wenden einfach\NTricks aus der Statistik an. Wir nutzen
Dialogue: 0,0:05:43.01,0:05:47.24,Default,,0000,0000,0000,,aus, dass bestimmte Dinge, wenn man es nur\Noft genug betrachtet, wenn man es nur oft
Dialogue: 0,0:05:47.24,0:05:52.40,Default,,0000,0000,0000,,genug anwendet, durchführt, dann eine\Ngewisse Systematik ergeben, dass man
Dialogue: 0,0:05:52.40,0:05:58.59,Default,,0000,0000,0000,,Muster erkennen kann. Wir generalisieren.\NWie man hier also sieht, werden einfach
Dialogue: 0,0:05:58.59,0:06:06.88,Default,,0000,0000,0000,,Tricks übernommen, die es in der Statistik\Nschon seit vielen hundert Jahren gibt. Und
Dialogue: 0,0:06:06.88,0:06:11.05,Default,,0000,0000,0000,,dafür angewandt, um jetzt irgendwie zu\Nversuchen, aus einem Haufen Daten, ohne
Dialogue: 0,0:06:11.05,0:06:15.37,Default,,0000,0000,0000,,ihn wirklich zu verstehen, ohne genau zu\Nwissen, was da drinsteckt, einfach durch
Dialogue: 0,0:06:15.37,0:06:21.05,Default,,0000,0000,0000,,schiere Masse, Muster zu erkennen und\Ndann hoffentlich zu wissen: Okay, wenn ich
Dialogue: 0,0:06:21.05,0:06:25.61,Default,,0000,0000,0000,,jetzt weit genug generalisiert habe, wird\Nmein System schon irgendwie gut genug sein
Dialogue: 0,0:06:25.61,0:06:34.94,Default,,0000,0000,0000,,für mein Anwendungszweck. Das hat aber,\Nobwohl der Name Deep Learning und
Dialogue: 0,0:06:34.94,0:06:41.25,Default,,0000,0000,0000,,Künstliche Intelligenz, alles nicht so\Nwahnsinnig viel damit zu tun, was wir als
Dialogue: 0,0:06:41.25,0:06:47.16,Default,,0000,0000,0000,,Intelligenz verstehen, was wir als Lernen\Nverstehen. Der Tweet hier fasst das ganz
Dialogue: 0,0:06:47.16,0:06:52.69,Default,,0000,0000,0000,,gut zusammen. Er sagt, das menschliche\NHirn funktioniert ganz anders. Wenn das
Dialogue: 0,0:06:52.69,0:06:55.99,Default,,0000,0000,0000,,menschliche Hirn so wie Deep Learning\Nfunktionieren würde, dann müssten wir
Dialogue: 0,0:06:55.99,0:07:01.16,Default,,0000,0000,0000,,einfach 200 mal ins Gesicht geschlagen\Nwerden, bevor wir überhaupt raffen, dass
Dialogue: 0,0:07:01.16,0:07:04.37,Default,,0000,0000,0000,,wir das nicht mögen. So ist das\Ntatsächlich wenn ich bei Deep Learning,
Dialogue: 0,0:07:04.37,0:07:09.04,Default,,0000,0000,0000,,wenn ich ihm 50, 100, 200 Wölfe und Hunde\Nzeige, dann weiß das System noch gar
Dialogue: 0,0:07:09.04,0:07:14.14,Default,,0000,0000,0000,,nichts, weil es nicht schnell genug\Ninterpretieren kann, nicht genug Kontext-
Dialogue: 0,0:07:14.14,0:07:17.87,Default,,0000,0000,0000,,Informationen einbeziehen kann, nicht\Ngenug von all dem nutzen können, was das
Dialogue: 0,0:07:17.87,0:07:22.69,Default,,0000,0000,0000,,menschliche Hirn, was wir können, wenn wir\Nirgendwas machen, um irgendwie
Dialogue: 0,0:07:22.69,0:07:27.91,Default,,0000,0000,0000,,Entscheidungen zu treffen. Und das ist ein\Ngroßes Problem. Warum genau, werden wir
Dialogue: 0,0:07:27.91,0:07:36.37,Default,,0000,0000,0000,,gleich nochmal im Detail besprechen. Sorgt\Naber dafür, dass wir einfach nur auf Masse
Dialogue: 0,0:07:36.37,0:07:39.70,Default,,0000,0000,0000,,gehen und dadurch einfach eine bestimmte\NGenauigkeit so leicht nicht erreichen
Dialogue: 0,0:07:39.70,0:07:43.41,Default,,0000,0000,0000,,können, wie wir sie gerne hätten.\NNadja: Die intuitive Ursprungsidee hinter
Dialogue: 0,0:07:43.41,0:07:47.87,Default,,0000,0000,0000,,neuronalen Netzen war tatsächlich mal\Nsozusagen die Funktionalität des Gehirns
Dialogue: 0,0:07:47.87,0:07:51.06,Default,,0000,0000,0000,,nachzubauen. Unsere Neuronen feuern auch,\Nsind miteinander vernetzt, können
Dialogue: 0,0:07:51.06,0:07:55.57,Default,,0000,0000,0000,,irgendwelche Dinge auslösen. Das ist aber\Nheutzutage nicht mehr wie Neuronale Netze
Dialogue: 0,0:07:55.57,0:07:58.64,Default,,0000,0000,0000,,funktionieren. Wir bilden damit nicht\Nwirklich die Funktion organischer Gehirne
Dialogue: 0,0:07:58.64,0:08:01.92,Default,,0000,0000,0000,,nach, sondern und das war zwar die\NIntuition dahinter, das funktioniert aber
Dialogue: 0,0:08:01.92,0:08:08.03,Default,,0000,0000,0000,,tatsächlich sehr anders. Der für uns\Ninteressante Teil ist aber inzwischen, wie
Dialogue: 0,0:08:08.03,0:08:11.92,Default,,0000,0000,0000,,wird das Ganze eigentlich angewendet, wo\Nbegegnet uns das im Alltag, nicht nur in
Dialogue: 0,0:08:11.92,0:08:15.48,Default,,0000,0000,0000,,Forschungslabors, nicht nur in\Nakademischen Institutionen, sondern auch
Dialogue: 0,0:08:15.48,0:08:18.97,Default,,0000,0000,0000,,tatsächlich in Systemen, die wir jeden Tag\Nbenutzen, die inzwischen weit verbreitet
Dialogue: 0,0:08:18.97,0:08:23.62,Default,,0000,0000,0000,,sind. Mit allen Nach- und Vorteilen, nach\Nder großen Flaute, von der wir es eben
Dialogue: 0,0:08:23.62,0:08:28.47,Default,,0000,0000,0000,,schon kurz hatten, erlebt das Feld gerade\Nwieder ein riesiges Hoch, und sie sind in
Dialogue: 0,0:08:28.47,0:08:31.61,Default,,0000,0000,0000,,so vielen Bereichen im Einsatz, dass einen\Nkurzen Überblick davon zu verschaffen
Dialogue: 0,0:08:31.61,0:08:35.52,Default,,0000,0000,0000,,quasi unmöglich ist. Extrem weit\Nverbreitet sind Sachen wie
Dialogue: 0,0:08:35.52,0:08:39.37,Default,,0000,0000,0000,,Sprachassistenten. In den letzten Jahren\NSiri, Alexa, Echo, all das. Sie müssen so
Dialogue: 0,0:08:39.37,0:08:42.20,Default,,0000,0000,0000,,etwas können, wie Sprachverarbeitung, die\Nmüssen so etwas können wie
Dialogue: 0,0:08:42.20,0:08:45.37,Default,,0000,0000,0000,,Textverarbeitung, die müssen\NSprachsynthese beherrschen, sie müssen
Dialogue: 0,0:08:45.37,0:08:47.71,Default,,0000,0000,0000,,auch irgendwo Information Retrieval\Nbeherrschen und tatsächlich auch die
Dialogue: 0,0:08:47.71,0:08:52.60,Default,,0000,0000,0000,,Informationen aus dem riesigen\NInformationscluster, der das Internet nun
Dialogue: 0,0:08:52.60,0:08:57.86,Default,,0000,0000,0000,,mal ist, hervorzuholen. Aber auch weit\Nverbreitet durch solche Unternehmen wie
Dialogue: 0,0:08:57.86,0:09:01.05,Default,,0000,0000,0000,,Tesla oder Uber sind inzwischen die\NBereiche des autonomen Fahrens oder
Dialogue: 0,0:09:01.05,0:09:04.78,Default,,0000,0000,0000,,generell des autonomen Transports, die\Nsich dann eher mit vielleicht
Dialogue: 0,0:09:04.78,0:09:08.73,Default,,0000,0000,0000,,Bilderkennung bearbeiten müssen, mit\NNavigation, mit Fein-Kontrolle an
Dialogue: 0,0:09:08.73,0:09:12.60,Default,,0000,0000,0000,,motorischen Bauteilen etc. Nicht ganz so\Noffensichtlich, aber dennoch, wenn man
Dialogue: 0,0:09:12.60,0:09:16.51,Default,,0000,0000,0000,,darüber nachdenkt oder wenn man es gesagt\Nbekommt, dann doch sehr gut sichtbar: Für
Dialogue: 0,0:09:16.51,0:09:20.41,Default,,0000,0000,0000,,alle Menschen im Alltag sind\NRecommendation Systems, so etwas wie
Dialogue: 0,0:09:20.41,0:09:23.75,Default,,0000,0000,0000,,"Amazon Kunden kauften auch", "Sie könnte\Ninteressieren", alles, was uns irgendwie
Dialogue: 0,0:09:23.75,0:09:28.66,Default,,0000,0000,0000,,Vorschläge generiert. Die Sortierung von\NGoogle Ergebnissen oder generell von
Dialogue: 0,0:09:28.66,0:09:32.34,Default,,0000,0000,0000,,Suchmaschinen, wie mir Ergebnisse\Nangezeigt werden, was wie gerankt wird.
Dialogue: 0,0:09:32.34,0:09:36.36,Default,,0000,0000,0000,,Aber auch sowas wie, was zeigt mir mein\NFacebook Newsfeed überhaupt an? Wer
Dialogue: 0,0:09:36.36,0:09:40.12,Default,,0000,0000,0000,,bekommt was, wann und wie oft zu sehen?\NDas ist bei weitem nicht so
Dialogue: 0,0:09:40.12,0:09:44.53,Default,,0000,0000,0000,,straightforward, nicht so offensichtlich,\Nwie sich das viele Leute denken. Deutlich
Dialogue: 0,0:09:44.53,0:09:48.28,Default,,0000,0000,0000,,weniger bekannt sind dann schon Systeme,\Ndie sowas wie
Dialogue: 0,0:09:48.28,0:09:52.02,Default,,0000,0000,0000,,Rückfälligkeitseinschätzungen für\Nstraffällig gewordene machen, die in
Dialogue: 0,0:09:52.02,0:09:55.59,Default,,0000,0000,0000,,Gerichtsverfahren dazu verwendet werden,\Num anhand von irgendwelchen Scores
Dialogue: 0,0:09:55.59,0:10:02.10,Default,,0000,0000,0000,,Strafmaße zu vergeben. Das geschieht in\Nden USA schon seit Jahren. Aber auch
Dialogue: 0,0:10:02.10,0:10:05.77,Default,,0000,0000,0000,,Sachen, die anhand von Gesichtserkennung\Nversuchen, verdächtige Personen zu
Dialogue: 0,0:10:05.77,0:10:12.28,Default,,0000,0000,0000,,identifizieren, oder die Scoring\NAlgorithmen, die für irgendwelche sozialen
Dialogue: 0,0:10:12.28,0:10:16.81,Default,,0000,0000,0000,,Systeme verwendet werden oder zur\NEinschätzung für Versicherungen verwendet
Dialogue: 0,0:10:16.81,0:10:21.94,Default,,0000,0000,0000,,werden. Aber auch Einstellungsverfahren,\Ndie anhand von Stichwörtern, von
Dialogue: 0,0:10:21.94,0:10:26.16,Default,,0000,0000,0000,,Lebensläufen, noch bevor jemals jemand auf\Ndie Unterlagen drauf geschaut hat,
Dialogue: 0,0:10:26.16,0:10:31.59,Default,,0000,0000,0000,,Kandidatinnen aussortieren.\NBenjamin: Diese Systeme arbeiten auch da
Dialogue: 0,0:10:31.59,0:10:35.14,Default,,0000,0000,0000,,wieder so, dass wir häufig nicht\Nverstehen, genau was sie tun. Teilweise
Dialogue: 0,0:10:35.14,0:10:38.89,Default,,0000,0000,0000,,so, dass man im Nachhinein denkt: Um\NGottes Willen, wie können die so
Dialogue: 0,0:10:38.89,0:10:43.48,Default,,0000,0000,0000,,funktionieren? Das heißt, sowohl diese\NEinstellung bei Gesichtsinterpretation
Dialogue: 0,0:10:43.48,0:10:49.82,Default,,0000,0000,0000,,oder für Bewerbungsverfahren, wo ein 15\Nsekündiges Video analysiert wird,
Dialogue: 0,0:10:49.82,0:10:54.50,Default,,0000,0000,0000,,übernimmt regelmäßig solche Systeme wie,\Nwir messen jetzt Abstand zwischen Augen,
Dialogue: 0,0:10:54.50,0:10:58.56,Default,,0000,0000,0000,,Nase, Mund, was weiß ich, was wir leider,\Nwenn man ganz ehrlich ist, kennen aus
Dialogue: 0,0:10:58.56,0:11:03.66,Default,,0000,0000,0000,,irgendwelcher Genetik, die die Nazis\Nbetrieben haben, um irgendwelche
Dialogue: 0,0:11:03.66,0:11:10.14,Default,,0000,0000,0000,,überlegenen Rassen zu identifizieren. Und\Nsolche Dinge werden in Systemen heutzutage
Dialogue: 0,0:11:10.14,0:11:14.23,Default,,0000,0000,0000,,eingesetzt. Nicht unbedingt absichtlich.\NAber wenn man sich die Mühe macht zu
Dialogue: 0,0:11:14.23,0:11:17.38,Default,,0000,0000,0000,,verstehen, was das System eigentlich\Ntut, stellt man plötzlich mit großem
Dialogue: 0,0:11:17.38,0:11:21.12,Default,,0000,0000,0000,,Bedauern fest, dass es genau das tut.\NNadja: In all diesen Bereichen, in allen
Dialogue: 0,0:11:21.12,0:11:24.62,Default,,0000,0000,0000,,Unteraufgaben davon und noch viel mehr\Nkommen diese Deep Learning Systeme mit all
Dialogue: 0,0:11:24.62,0:11:28.30,Default,,0000,0000,0000,,ihren Nachteilen und oftmals mit\Nunbeabsichtigten Nebenwirkungen aktuell
Dialogue: 0,0:11:28.30,0:11:34.38,Default,,0000,0000,0000,,zum Einsatz. Und es werden immer mehr.\NGenug dazu, was die Grundlage ist, genug
Dialogue: 0,0:11:34.38,0:11:37.30,Default,,0000,0000,0000,,dazu, was wir unter Deep Learning\Nverstehen und wo es angewendet wird. Wir
Dialogue: 0,0:11:37.30,0:11:39.39,Default,,0000,0000,0000,,wollen uns als nächstes mit\Nwissenschaftlicher Nachhaltigkeit
Dialogue: 0,0:11:39.39,0:11:44.19,Default,,0000,0000,0000,,beschäftigen. Und die erste Frage, die\Nsich die meisten Leute dazu stellen: Was
Dialogue: 0,0:11:44.19,0:11:47.70,Default,,0000,0000,0000,,bedeutet denn wissenschaftliche\NNachhaltigkeit eigentlich? Wenn wir das
Dialogue: 0,0:11:47.70,0:11:51.100,Default,,0000,0000,0000,,sagen, meinen wir solche Fragen wie, wie\Nrelevant ist eigentlich das Thema, an dem
Dialogue: 0,0:11:51.100,0:11:56.10,Default,,0000,0000,0000,,wir forschen? Wie relevant sind meine\NErgebnisse für die Zukunft, für die
Dialogue: 0,0:11:56.10,0:12:00.08,Default,,0000,0000,0000,,weitere Entwicklung des Feldes, für den\NAlltag der Menschen, um die es
Dialogue: 0,0:12:00.08,0:12:04.53,Default,,0000,0000,0000,,letztendlich geht? Wir fragen uns aber\Nauch: Können wir diese Ergebnisse
Dialogue: 0,0:12:04.53,0:12:09.13,Default,,0000,0000,0000,,überhaupt reproduzieren? Kann irgendjemand\Nanderes, wenn er dieses Paper gelesen hat,
Dialogue: 0,0:12:09.13,0:12:11.88,Default,,0000,0000,0000,,zu den gleichen Zahlen, zu dem gleichen\NErgebnis oder zumindest zu der gleichen
Dialogue: 0,0:12:11.88,0:12:16.40,Default,,0000,0000,0000,,Größenordnung kommen? Haben wir die dazu\Nnotwendigen Mittel? Haben wir die Details
Dialogue: 0,0:12:16.40,0:12:21.45,Default,,0000,0000,0000,,publiziert? Und sind die Ergebnisse so\Nverlässlich, dass es möglich ist? Wir
Dialogue: 0,0:12:21.45,0:12:24.40,Default,,0000,0000,0000,,meinen auch: Können wir Dinge, die in der\NForschung entwickelt werden,
Dialogue: 0,0:12:24.40,0:12:28.11,Default,,0000,0000,0000,,wiederverwenden? Oder sind sie nur für\Ndiese eine sehr spezielle Aufgabe
Dialogue: 0,0:12:28.11,0:12:32.56,Default,,0000,0000,0000,,relevant? Wir meinen auch: Sind wir\Nkonkurrenzfähig? Oder sind andere Systeme,
Dialogue: 0,0:12:32.56,0:12:36.71,Default,,0000,0000,0000,,die mit den gleichen oder sogar weniger\NAufwand entwickelbar, einsetzbar sind,
Dialogue: 0,0:12:36.71,0:12:41.30,Default,,0000,0000,0000,,nicht vielleicht sogar besser? Wir meinen\Nauch: Mit welcher Systematik wurde dieses
Dialogue: 0,0:12:41.30,0:12:45.89,Default,,0000,0000,0000,,System gebaut? Nach welchem System wurde\Nuntersucht, was an dieser Stelle hilfreich
Dialogue: 0,0:12:45.89,0:12:49.92,Default,,0000,0000,0000,,ist und was nicht? Oder war das völlig\Nwillkürlich? Und schlussendlich meinen wir
Dialogue: 0,0:12:49.92,0:12:52.66,Default,,0000,0000,0000,,auch: Was ist die Aussagekraft meiner\NErgebnisse? Wie war die
Dialogue: 0,0:12:52.66,0:12:57.91,Default,,0000,0000,0000,,Evaluationsmethodik? Was ist dabei am Ende\Nrausgekommen, was tatsächlich relevant,
Dialogue: 0,0:12:57.91,0:13:07.100,Default,,0000,0000,0000,,nennenswert, statistisch signifikant ist?\NBenjamin: Und an der Stelle überlegen wir
Dialogue: 0,0:13:07.100,0:13:11.15,Default,,0000,0000,0000,,uns kurz, ich weiß nicht, einige von euch\Nkommen sicherlich aus dem
Dialogue: 0,0:13:11.15,0:13:16.32,Default,,0000,0000,0000,,wissenschaftlichen Bereich, andere aus der\NIndustrie, ist völlig egal, wie man sich
Dialogue: 0,0:13:16.32,0:13:20.46,Default,,0000,0000,0000,,eigentlich wünschen würde, dass\NWissenschaft funktioniert, nämlich
Dialogue: 0,0:13:20.46,0:13:24.26,Default,,0000,0000,0000,,irgendwie systematisch. Menschen denken\Nsich Dinge aus, überprüfen sie, stellen
Dialogue: 0,0:13:24.26,0:13:28.24,Default,,0000,0000,0000,,fest, sie stimmen, und alles ist gut.\NTatsächlich haben wir in diesem Bereich
Dialogue: 0,0:13:28.24,0:13:34.91,Default,,0000,0000,0000,,häufig, sehr häufig, ein völlig anderes\NVerfahren. Es gibt Publikationen zu
Dialogue: 0,0:13:34.91,0:13:37.15,Default,,0000,0000,0000,,irgendwelchen Arten: Wie \Nkann man diese
Dialogue: 0,0:13:37.15,0:13:38.15,Default,,0000,0000,0000,,Neuronen, die wir vorhin hatten, \Nwie kann man diese Modelle
Dialogue: 0,0:13:38.15,0:13:41.77,Default,,0000,0000,0000,,aufbauen? Was kann man\Nda machen? Dass die Daten dadurch fließen?
Dialogue: 0,0:13:41.77,0:13:47.15,Default,,0000,0000,0000,,Dazu denken sich Leute was aus. Dann\Npublizieren sie das, veröffentlichen das,
Dialogue: 0,0:13:47.15,0:13:51.25,Default,,0000,0000,0000,,und andere Leute denken sich, okay, das\Nklingt doch spannend. Lass das mal nehmen,
Dialogue: 0,0:13:51.25,0:13:55.45,Default,,0000,0000,0000,,um daraus jetzt irgendwie für meinen\NAnwendungsfall ein neues System zu bauen.
Dialogue: 0,0:13:55.45,0:13:59.64,Default,,0000,0000,0000,,Das heißt, Sie nehmen dieses Modell, was\Nman irgendwo gehört hat, was gerade durch
Dialogue: 0,0:13:59.64,0:14:07.45,Default,,0000,0000,0000,,die Fachwelt geistert. Dann überlegt man\Nsich grob: Wie baut man das auf? Wie nehme
Dialogue: 0,0:14:07.45,0:14:12.54,Default,,0000,0000,0000,,ich das? Ich packe jetzt so viele\NSchichten von diesem Typ hintereinander.
Dialogue: 0,0:14:12.54,0:14:17.44,Default,,0000,0000,0000,,Sagen wir mal so und so viele, und die\NSchichten machen wir so groß, wir arbeiten
Dialogue: 0,0:14:17.44,0:14:21.54,Default,,0000,0000,0000,,jetzt mit so und so vielen dimensionalen\NVektoren. Das denkt man sich einfach aus,
Dialogue: 0,0:14:21.54,0:14:24.02,Default,,0000,0000,0000,,was irgendwie plausibel klingt. \NDann guckt man,
Dialogue: 0,0:14:24.02,0:14:25.02,Default,,0000,0000,0000,,dass man die Daten noch\Nirgendwie so lange schlägt,
Dialogue: 0,0:14:25.02,0:14:28.41,Default,,0000,0000,0000,,bis sie irgendwie halbwegs\Nin das Format reinpassen, was man gerade
Dialogue: 0,0:14:28.41,0:14:31.58,Default,,0000,0000,0000,,haben will, macht da irgendwelche\Nnumerischen Werte draus, auf teilweise
Dialogue: 0,0:14:31.58,0:14:36.58,Default,,0000,0000,0000,,sehr fragwürdige Art und Weise. Und dann\Nwird das Ganze in das Netzwerk gepackt,
Dialogue: 0,0:14:36.58,0:14:39.75,Default,,0000,0000,0000,,und das ganze Ding nennt sich ja Deep\NLearning. Das heißt, jetzt kommt das
Dialogue: 0,0:14:39.75,0:14:44.12,Default,,0000,0000,0000,,Lernen. Das basiert halt darauf, dass man\Ndie Daten reinschiebt, guckt, wie gut es
Dialogue: 0,0:14:44.12,0:14:50.20,Default,,0000,0000,0000,,passt. Wie gut war die Vorhersage. Dann\Nanhand dessen das System anpasst, die
Dialogue: 0,0:14:50.20,0:14:53.65,Default,,0000,0000,0000,,Daten wieder durchfließen lässt und das\NGanze immer und immer wiederholt, bis man
Dialogue: 0,0:14:53.65,0:14:59.18,Default,,0000,0000,0000,,am Ende irgendwie schön Gewichte in diesen\NFunktionen, die man im Prinzip
Dialogue: 0,0:14:59.18,0:15:04.61,Default,,0000,0000,0000,,konstruiert, geraten hat oder gelernt hat,\Ndie plausibel erscheinen für den Zweck,
Dialogue: 0,0:15:04.61,0:15:08.45,Default,,0000,0000,0000,,den man braucht. Das ergibt dann das\NModell. Wenn die Zahlen, die dann
Dialogue: 0,0:15:08.45,0:15:12.91,Default,,0000,0000,0000,,rauskommen, auf den Daten mit dem man das\Ntestet, ganz gut aussehen, dann nehmen die
Dialogue: 0,0:15:12.91,0:15:19.25,Default,,0000,0000,0000,,Leute das und schreiben ihr Paper darüber\Nund sagen Okay, für Klassifikationen von
Dialogue: 0,0:15:19.25,0:15:24.08,Default,,0000,0000,0000,,Wölfen gegen Hunde haben wir jetzt\Nfolgende Architektur, folgendes Dings.
Dialogue: 0,0:15:24.08,0:15:28.09,Default,,0000,0000,0000,,Hier sind unsere Daten. Das sind die\NWerte, die wir haben. Bitteschön, dass ist
Dialogue: 0,0:15:28.09,0:15:32.09,Default,,0000,0000,0000,,jetzt das tolle neue Forschungsergebnis.\NWenn die Werte nicht so gut aussehen, dann
Dialogue: 0,0:15:32.09,0:15:37.20,Default,,0000,0000,0000,,hat man wohl vielleicht die falsche State\Nof the Art System genommen, was gerade
Dialogue: 0,0:15:37.20,0:15:40.94,Default,,0000,0000,0000,,jemand veröffentlicht hat. Oder man hat\Neine Schlicht zu wenig, eine Schicht zu
Dialogue: 0,0:15:40.94,0:15:44.94,Default,,0000,0000,0000,,viel, die Vektoren haben die falsche\NDimensionierung. Na naja, gut, dann rate
Dialogue: 0,0:15:44.94,0:15:50.08,Default,,0000,0000,0000,,ich eben neue Parameter. Ist ja alles nur\NStrom und Zeit, lässt das Ganze weiter
Dialogue: 0,0:15:50.08,0:15:56.13,Default,,0000,0000,0000,,trainieren. Da laufen die GPUs heiß. Und\Ndann fängt man von vorne an damit und
Dialogue: 0,0:15:56.13,0:16:01.96,Default,,0000,0000,0000,,guckt, ob jetzt gute Zahlen rauskommen.\NUnd je nachdem sagt man dann, Okay, ich
Dialogue: 0,0:16:01.96,0:16:07.16,Default,,0000,0000,0000,,mache weiter, oder ich fall wieder durch.\NDazu kommt dann noch, das Ganze ist jetzt
Dialogue: 0,0:16:07.16,0:16:11.42,Default,,0000,0000,0000,,ja schon irgendwie ziemlich\Nunwissenschaftlich. Das ist nicht mal mehr
Dialogue: 0,0:16:11.42,0:16:16.16,Default,,0000,0000,0000,,empirische Forschung. Das ist wirklich\Nausprobieren und hoffen, dass etwas Gutes
Dialogue: 0,0:16:16.16,0:16:21.81,Default,,0000,0000,0000,,rauskommt. Aber danach kann man jetzt ja\Nnoch die üblichen Schönungs-Methoden
Dialogue: 0,0:16:21.81,0:16:27.36,Default,,0000,0000,0000,,anwenden, die es natürlich in der\NWissenschaft gibt, die man auch so leicht
Dialogue: 0,0:16:27.36,0:16:31.70,Default,,0000,0000,0000,,gar nicht finden kann. Leider. Man kann\Nnatürlich jetzt sagen, ich zeige nur die
Dialogue: 0,0:16:31.70,0:16:34.99,Default,,0000,0000,0000,,Ergebnisse auf den Datensets, bei denen\Ndie Zahlen gut aussehen, und auf dem
Dialogue: 0,0:16:34.99,0:16:38.45,Default,,0000,0000,0000,,zweiten Datensets mit den Fotos aus einer\Nanderen Perspektive oder mit einem anderen
Dialogue: 0,0:16:38.45,0:16:42.27,Default,,0000,0000,0000,,Hintergrund jetzt leider nicht gut\Nfunktioniert hat, das muss ich ja
Dialogue: 0,0:16:42.27,0:16:46.88,Default,,0000,0000,0000,,niemandem erzählen. Das veröffentliche ich\Neinfach nicht mit. Das bleibt bei mir, und
Dialogue: 0,0:16:46.88,0:16:49.46,Default,,0000,0000,0000,,meinen anderen Zahlen sehen ja gut aus,\Nund das muss man jetzt erst mal jemand
Dialogue: 0,0:16:49.46,0:16:52.65,Default,,0000,0000,0000,,nachmachen und zeigen, dass es mit etwas\Nanderem nicht funktioniert. Selbst wenn
Dialogue: 0,0:16:52.65,0:16:56.84,Default,,0000,0000,0000,,nicht: Ich habe ja eine Publikation. Und\Ndas ist leider in vielen Feldern
Dialogue: 0,0:16:56.84,0:17:00.67,Default,,0000,0000,0000,,heutzutage was, was wichtig ist. Irgendwo\Nbei einer wichtigen Konferenz ein Paper zu
Dialogue: 0,0:17:00.67,0:17:04.83,Default,,0000,0000,0000,,veröffentlichen, mit der man eine\Nminimale Verbesserung gegenüber dem
Dialogue: 0,0:17:04.83,0:17:10.08,Default,,0000,0000,0000,,bisherigen State of the Art gezeigt hat.\NNatürlich kann ich außerdem, eigentlich
Dialogue: 0,0:17:10.08,0:17:13.79,Default,,0000,0000,0000,,sollte ich solche Experimente mehrfach\Nwiederholen und Mittelwerte bilden. Aber
Dialogue: 0,0:17:13.79,0:17:16.96,Default,,0000,0000,0000,,ich kann natürlich Experimente mehrfach\Nwiederholen und einfach nur den besten
Dialogue: 0,0:17:16.96,0:17:26.72,Default,,0000,0000,0000,,Score veröffentlichen. Und weitere solche\NTricks anwenden. Das heißt, wir haben
Dialogue: 0,0:17:26.72,0:17:32.36,Default,,0000,0000,0000,,sowieso schon einen schlechten Prozess,\Nder dann auch noch teilweise missbraucht
Dialogue: 0,0:17:32.36,0:17:37.51,Default,,0000,0000,0000,,wird, um schneller bessere Ergebnisse zu\Nkriegen und das dann zu publizieren. Das
Dialogue: 0,0:17:37.51,0:17:41.93,Default,,0000,0000,0000,,ist das, was wir viel in diesen Feldern\Nsehen. Definitiv nicht bei allen Papern.
Dialogue: 0,0:17:41.93,0:17:47.47,Default,,0000,0000,0000,,Gerade die Grundlagen Paper sind\Nsicherlich gut erforscht. Aber die vielen
Dialogue: 0,0:17:47.47,0:17:53.81,Default,,0000,0000,0000,,Anwendungspaper können an der Stelle, und\Nallein schon indem, wie sie entstanden
Dialogue: 0,0:17:53.81,0:17:57.52,Default,,0000,0000,0000,,sind, begründet, keinen wirklichen\NMehrwert liefern. Was ihre Relevanz und
Dialogue: 0,0:17:57.52,0:18:01.00,Default,,0000,0000,0000,,ihren Vorteil, der daraus entsteht,\Nergibt.
Dialogue: 0,0:18:01.00,0:18:07.23,Default,,0000,0000,0000,,Nadja: Das Ganze ist natürlich plakativ\Nformuliert und natürlich bringen wir das
Dialogue: 0,0:18:07.23,0:18:10.85,Default,,0000,0000,0000,,Ganze ein bisschen auf den Punkt, um zu\Nüberspitzen. Aber Tatsache ist, wenn man
Dialogue: 0,0:18:10.85,0:18:13.41,Default,,0000,0000,0000,,sich in einem Feld bewegt, was sehr viel\NDruck hat, wenn man sich in einem Feld
Dialogue: 0,0:18:13.41,0:18:17.07,Default,,0000,0000,0000,,bewegt, was so viele mögliche Gründe und\Nso viele Dinge hat, die diese
Dialogue: 0,0:18:17.07,0:18:20.50,Default,,0000,0000,0000,,Fallstricke begünstigen, dann werden sie\Nauch immer mehr genutzt.
Dialogue: 0,0:18:20.50,0:18:29.68,Default,,0000,0000,0000,,Benjamin: Genau. Wir sehen natürlich\Nbesonders, es gibt gerade im Deep Learning
Dialogue: 0,0:18:29.68,0:18:33.59,Default,,0000,0000,0000,,diese Möglichkeiten. Denn wir haben schon\Ngesagt: wir verstehen nicht, was diese
Dialogue: 0,0:18:33.59,0:18:36.85,Default,,0000,0000,0000,,Modelle tun normalerweise. Es gibt ein\NForschungsfeld, was daran arbeitet. Aber
Dialogue: 0,0:18:36.85,0:18:40.92,Default,,0000,0000,0000,,normalerweise verstehen wir nicht, was\Ndiese Systeme tun. Das sind Blackbox
Dialogue: 0,0:18:40.92,0:18:43.89,Default,,0000,0000,0000,,Modelle, die kriegen Daten rein, damit\Nwird irgendwas damit gemacht. Am Ende
Dialogue: 0,0:18:43.89,0:18:49.95,Default,,0000,0000,0000,,kommen Daten raus. Das Ganze geht noch\Nüber mehrere Schritte. Wir haben die
Dialogue: 0,0:18:49.95,0:18:53.52,Default,,0000,0000,0000,,Daten, die werden irgendwie\Nvorverarbeitet. Dann kommen die Daten
Dialogue: 0,0:18:53.52,0:18:57.73,Default,,0000,0000,0000,,rein, gehen durch dieses System, dann\Nwerden sie eventuell nachverarbeitet. Am
Dialogue: 0,0:18:57.73,0:19:00.96,Default,,0000,0000,0000,,Ende muss noch evaluiert werden,\Nentschieden werden: Was ist jetzt richtig?
Dialogue: 0,0:19:00.96,0:19:04.26,Default,,0000,0000,0000,,Was ist exakt richtig? Was ist gerade so\Nrichtig? Reicht mir das vielleicht, um es
Dialogue: 0,0:19:04.26,0:19:09.84,Default,,0000,0000,0000,,als als wahr, stimmt es schon so, um es in\Nmeinem Paper zu publizieren? Was ich genau
Dialogue: 0,0:19:09.84,0:19:14.55,Default,,0000,0000,0000,,gemessen habe, wird häufig gar nicht erst\Nangegeben. Das heißt, dort ist es extrem
Dialogue: 0,0:19:14.55,0:19:21.26,Default,,0000,0000,0000,,leicht möglich, auf diese Art und Weise zu\Narbeiten. Und gerade dadurch, dass überall
Dialogue: 0,0:19:21.26,0:19:27.57,Default,,0000,0000,0000,,heutzutage Expertinnen für dieses Feld\Ngesucht werden, dass überall jemand
Dialogue: 0,0:19:27.57,0:19:31.25,Default,,0000,0000,0000,,Anwendungen haben möchte für Deep\NLearning, kommt man damit eben ganz gut
Dialogue: 0,0:19:31.25,0:19:34.95,Default,,0000,0000,0000,,durch. Deswegen passiert das dort\Nbesonders. Man muss auf der anderen Seite,
Dialogue: 0,0:19:34.95,0:19:39.53,Default,,0000,0000,0000,,wenn man die guten Jobs kriegen will, auch\Nsolche Publikationen vorweisen. Also wird
Dialogue: 0,0:19:39.53,0:19:44.39,Default,,0000,0000,0000,,das entsprechend gemacht. Und genauso: es\Nsind halt sehr viele Low Hanging Fruits
Dialogue: 0,0:19:44.39,0:19:50.18,Default,,0000,0000,0000,,dabei. Das heißt Dinge, wo man weiß, okay,\Nmit wenig eigenen, großartigen Ideen und
Dialogue: 0,0:19:50.18,0:19:56.55,Default,,0000,0000,0000,,mehr anwenden von Handwerkszeug kann ich\Nirgendwo was bauen, was es noch nicht
Dialogue: 0,0:19:56.55,0:20:02.69,Default,,0000,0000,0000,,gibt. Und solange ich der Erste dazu bin,\Nkriege ich das leichter hin. Ich muss mich
Dialogue: 0,0:20:02.69,0:20:06.02,Default,,0000,0000,0000,,nicht mit irgendwem vergleichen. Ich zeige\NOkay, mein System kann das mit einer
Dialogue: 0,0:20:06.02,0:20:10.59,Default,,0000,0000,0000,,akzeptablen Genauigkeit, exakte Zahlen und\NErgebnissen. Damit bin ich die erste
Dialogue: 0,0:20:10.59,0:20:13.98,Default,,0000,0000,0000,,Person, die das geschafft hat, und kann\Ndas entsprechend veröffentlichen. Deswegen
Dialogue: 0,0:20:13.98,0:20:19.98,Default,,0000,0000,0000,,versuchen möglichst viele Leute, möglichst\Nschnell solche Dinge rauszuhauen, neue
Dialogue: 0,0:20:19.98,0:20:30.21,Default,,0000,0000,0000,,Publikationen in diesen Bereichen zu\Nveröffentlichen. Wenn wir jetzt wissen
Dialogue: 0,0:20:30.21,0:20:35.99,Default,,0000,0000,0000,,wollen, wie gut eigentlich ein System ist,\Nwas vorgestellt wird, wäre es natürlich
Dialogue: 0,0:20:35.99,0:20:40.12,Default,,0000,0000,0000,,schön, wenn wir die Experimente einfach\Nwiederholen könnten. Das ist allerdings
Dialogue: 0,0:20:40.12,0:20:47.56,Default,,0000,0000,0000,,leider gar nicht so trivial. Denn auch\Nwenn die Systeme, die eingesetzt werden,
Dialogue: 0,0:20:47.56,0:20:50.98,Default,,0000,0000,0000,,die Grundlagen-Systeme, häufig ein\Ngewisser Standard sind und irgendwie auch
Dialogue: 0,0:20:50.98,0:20:57.38,Default,,0000,0000,0000,,als Open Source existieren, gilt das eben\Nnicht für die ganzen Anpassungen, die
Dialogue: 0,0:20:57.38,0:21:00.88,Default,,0000,0000,0000,,ganzen Details, die die Personen einbauen.\NDas gilt also nicht für den eigentlichen
Dialogue: 0,0:21:00.88,0:21:06.87,Default,,0000,0000,0000,,Code, für die Pipeline, aber auch für die\NPre-Processing, für die Evaluierung. Das
Dialogue: 0,0:21:06.87,0:21:12.32,Default,,0000,0000,0000,,gilt nicht unbedingt für die Daten. Häufig\Nsind Daten nicht verfügbar. Wir wissen,
Dialogue: 0,0:21:12.32,0:21:16.67,Default,,0000,0000,0000,,Daten sind wertvoll, deswegen will man sie\Nnicht aus der Hand geben. Aber so
Dialogue: 0,0:21:16.67,0:21:19.89,Default,,0000,0000,0000,,funktioniert Wissenschaft nicht. Ich kann\Nnicht auf meinen Daten, die ich für mich
Dialogue: 0,0:21:19.89,0:21:23.31,Default,,0000,0000,0000,,behalte, arbeiten, sie niemandem zeigen\Nund sagen: Aber mein System ist gut, ich
Dialogue: 0,0:21:23.31,0:21:29.92,Default,,0000,0000,0000,,habe es ja selbst getestet. Das ihr es\Nnicht überprüft könnt, Pech gehabt. Ich
Dialogue: 0,0:21:29.92,0:21:35.11,Default,,0000,0000,0000,,habe in diesen Systemen enorm viele Hyper-\NParameter, die wir haben es ja gesagt,
Dialogue: 0,0:21:35.11,0:21:39.94,Default,,0000,0000,0000,,erst einmal häufig geraten werden oder\Ndurch durch grobes Ausprobieren bestimmt
Dialogue: 0,0:21:39.94,0:21:44.18,Default,,0000,0000,0000,,werden. Wenn ich diese Parameter und diese\NHyper-Parameter nicht weiß, habe ich keine
Dialogue: 0,0:21:44.18,0:21:49.41,Default,,0000,0000,0000,,Chance, das System nachzubauen. Ich weiß\Nauch nicht, mit welchen Initialisierungen,
Dialogue: 0,0:21:49.41,0:21:51.42,Default,,0000,0000,0000,,die zufällig geschehen und \Nmit welchen Reihenfolgen
Dialogue: 0,0:21:51.42,0:21:52.83,Default,,0000,0000,0000,,und Aufteilung der Daten\Ndas Ganze geschehen ist.
Dialogue: 0,0:21:52.83,0:21:55.68,Default,,0000,0000,0000,,Das heißt, wenn ich diese \Nganzen Details nicht habe, habe ich
Dialogue: 0,0:21:55.68,0:22:01.87,Default,,0000,0000,0000,,erst mal keine Chance, genau ein System\Nnachzubauen. Ich brauche aber genau diese
Dialogue: 0,0:22:01.87,0:22:06.94,Default,,0000,0000,0000,,exakten Werte, weil diese Systeme enorm\Nfragil sind. Das heißt, wenn ich
Dialogue: 0,0:22:06.94,0:22:12.30,Default,,0000,0000,0000,,Kleinigkeiten ändere, ein bisschen die\NDimensionen verändere, die Größe der
Dialogue: 0,0:22:12.30,0:22:15.61,Default,,0000,0000,0000,,Schichten, gar so gar die Funktionen, die\Nda aneinandergekettet werden, ein bisschen
Dialogue: 0,0:22:15.61,0:22:19.26,Default,,0000,0000,0000,,ändere, kriege ich völlig andere\NErgebnisse und weiß nicht mehr, ob das
Dialogue: 0,0:22:19.26,0:22:23.55,Default,,0000,0000,0000,,andere System wirklich schlecht oder gut\Nwar oder ob es eben nur daran liegt, dass
Dialogue: 0,0:22:23.55,0:22:32.02,Default,,0000,0000,0000,,ich es nicht genau nachbauen kann.\NProblem: Aktuell gibt es zwar
Dialogue: 0,0:22:32.02,0:22:36.25,Default,,0000,0000,0000,,Bestrebungen, dass das so etwas besser\Nwird, aber keinen Zwang oder so dafür. Das
Dialogue: 0,0:22:36.25,0:22:40.22,Default,,0000,0000,0000,,heißt, wenn ich ein Paper publiziere auf\Neiner der großen Konferenzen, in meinem
Dialogue: 0,0:22:40.22,0:22:45.75,Default,,0000,0000,0000,,Anwendungsgebiet oder auch im Kern Machine\NLearning Bereich, dann ist es gewünscht,
Dialogue: 0,0:22:45.75,0:22:50.96,Default,,0000,0000,0000,,dass sie reproduzierbar sind. Es ist aber\Nnicht erzwungen. Das heißt, es gibt
Dialogue: 0,0:22:50.96,0:22:56.09,Default,,0000,0000,0000,,zusätzlich nochmal das, ich möchte möchte,\Ndass mein Paper so ein Siegel kriegt, das
Dialogue: 0,0:22:56.09,0:22:58.76,Default,,0000,0000,0000,,ist reproduzierbar. Dann muss ich dafür\Nein paar Dinge machen. Da muss ich im
Dialogue: 0,0:22:58.76,0:23:03.90,Default,,0000,0000,0000,,Prinzip diese Dinge hier bereitstellen,\Ndie wir ja aufgelistet haben. Und dann
Dialogue: 0,0:23:03.90,0:23:08.80,Default,,0000,0000,0000,,versuchen andere Leute nachzuvollziehen,\Nob das, was ich mache, auch stimmt. Und
Dialogue: 0,0:23:08.80,0:23:12.23,Default,,0000,0000,0000,,dann ich halt so ein Häkchen. Aber wenn\Nich das nicht tue, dann mache ich es eben
Dialogue: 0,0:23:12.23,0:23:18.26,Default,,0000,0000,0000,,nicht. Und das ist sicherlich eine Stelle,\Ndie man hinterfragen muss, wo auch zum
Dialogue: 0,0:23:18.26,0:23:22.90,Default,,0000,0000,0000,,Glück schon Dinge geschehen. Diese\NReproduzierbarkeit wird, rückt mehr in den
Dialogue: 0,0:23:22.90,0:23:30.17,Default,,0000,0000,0000,,Fokus der Konferenzen. Der Effekt von dem\NGanzen ist natürlich dadurch: Wir haben
Dialogue: 0,0:23:30.17,0:23:34.48,Default,,0000,0000,0000,,ganz viel Forschung, die nicht genutzt\Nwerden kann von anderen Leuten. Das heißt,
Dialogue: 0,0:23:34.48,0:23:37.19,Default,,0000,0000,0000,,ich muss natürlich Forschung an der Stelle\Nwiederholen. Andere Leute müssen sie
Dialogue: 0,0:23:37.19,0:23:43.83,Default,,0000,0000,0000,,wiederholen und zusätzlich durch das,\Nsowohl durch diesen Effekt als auch durch
Dialogue: 0,0:23:43.83,0:23:47.53,Default,,0000,0000,0000,,den Drang, möglichst viel und möglichst\Nschnell zu publizieren, wird halt extrem
Dialogue: 0,0:23:47.53,0:23:51.33,Default,,0000,0000,0000,,viel Forschung auch so wiederholt und an\Nähnlichen Problemen immer wieder
Dialogue: 0,0:23:51.33,0:23:56.21,Default,,0000,0000,0000,,gearbeitet, um minimale Verbesserung zu\Nbekommen, weil man ja auch schon ein "Mein
Dialogue: 0,0:23:56.21,0:24:00.13,Default,,0000,0000,0000,,System ist 0,5 Prozentpunkte besser als\Ndas bisherige State of the Art System"
Dialogue: 0,0:24:00.13,0:24:08.69,Default,,0000,0000,0000,,wieder publizieren kann. Das heißt,\Nwünschenswert wäre es, wir hätten überall
Dialogue: 0,0:24:08.69,0:24:13.65,Default,,0000,0000,0000,,diese Reproduzierbarkeit. Das heißt, das\NWichtigste wäre natürlich wir alle immer,
Dialogue: 0,0:24:13.65,0:24:17.27,Default,,0000,0000,0000,,wenn wir hier sitzen und wenn wir\Nirgendwas erforschen. Wir müssen unseren
Dialogue: 0,0:24:17.27,0:24:19.46,Default,,0000,0000,0000,,Source Code veröffentlichen. Guck mal, da\Nein Eichhörnchen.
Dialogue: 0,0:24:19.46,0:24:23.83,Default,,0000,0000,0000,,Nadja: Das ist leider, was uns viel zu\Nhäufig passiert, wenn es einen
Dialogue: 0,0:24:23.83,0:24:27.70,Default,,0000,0000,0000,,wissenschaftlichen Code geht. Das heißt,\Nselbst die Autorinnen, die vorhatten ihren
Dialogue: 0,0:24:27.70,0:24:31.00,Default,,0000,0000,0000,,Code zu publizieren, das Ganze öffentlich\Nzu machen, Open Source zu machen, werden
Dialogue: 0,0:24:31.00,0:24:35.03,Default,,0000,0000,0000,,viel zu schnell vom nächsten Projekt, von\Nder größeren Deadline, von den
Dialogue: 0,0:24:35.03,0:24:38.39,Default,,0000,0000,0000,,beschäftigten Doktorandinnen oder von der\NTatsache, dass der Code immer noch nicht
Dialogue: 0,0:24:38.39,0:24:41.28,Default,,0000,0000,0000,,aufgeräumt ist, wenn man einfach nicht\Ndazu gekommen ist vor der Deadline,
Dialogue: 0,0:24:41.28,0:24:45.33,Default,,0000,0000,0000,,abgelenkt. Wir haben einen extrem hohen\NPublikationsdruck im Bereich Deep
Dialogue: 0,0:24:45.33,0:24:49.33,Default,,0000,0000,0000,,Learning. Die Publikationen steigen\Neffektiv exponentiell. Man muss immer
Dialogue: 0,0:24:49.33,0:24:51.06,Default,,0000,0000,0000,,schneller sein, um \Nwirklich noch state of
Dialogue: 0,0:24:51.06,0:24:52.46,Default,,0000,0000,0000,,the art zu sein, um \Nselbst die eigene
Dialogue: 0,0:24:52.46,0:24:54.30,Default,,0000,0000,0000,,Verbesserung noch an den \NMarkt bringen zu können.
Dialogue: 0,0:24:54.30,0:24:55.30,Default,,0000,0000,0000,,Das sorgt dafür, dass\Nirgendwo unsauber
Dialogue: 0,0:24:55.30,0:24:58.54,Default,,0000,0000,0000,,gearbeitet wird. Mein Code wird\Nnicht dokumentiert, da wird Spaghetti Code
Dialogue: 0,0:24:58.54,0:25:02.35,Default,,0000,0000,0000,,geschrieben. Er wird irgendwie hingehackt,\NHauptsache, es funktioniert. Und danach
Dialogue: 0,0:25:02.35,0:25:06.10,Default,,0000,0000,0000,,müsste ich mich hinsetzen und das Ganze\Nwieder aufarbeiten. Und das ist ein Riesen-
Dialogue: 0,0:25:06.10,0:25:09.79,Default,,0000,0000,0000,,stück Arbeit. Und eigentlich steht ja\Nschon die nächste Publikation an. Und alles
Dialogue: 0,0:25:09.79,0:25:12.54,Default,,0000,0000,0000,,ist es plötzlich interessanter, als den\NCode zugänglich zu machen. Das gilt wieder
Dialogue: 0,0:25:12.54,0:25:15.47,Default,,0000,0000,0000,,nicht für alle Paper. Natürlich gibt es\NLeute, die das machen. Wir versuchen es
Dialogue: 0,0:25:15.47,0:25:19.96,Default,,0000,0000,0000,,zum Beispiel auch. Aber es funktioniert\Nleider immer noch viel zu selten.
Dialogue: 0,0:25:19.96,0:25:25.17,Default,,0000,0000,0000,,Tatsächlich gab es dazu oder gibt es doch\Nimmer noch von einer großen Konferenz in
Dialogue: 0,0:25:25.17,0:25:28.86,Default,,0000,0000,0000,,dem Bereich, die Reproducibility\NChallenge, wo im wesentlichen
Dialogue: 0,0:25:28.86,0:25:32.41,Default,,0000,0000,0000,,Wissenschaftler aufgefordert werden, sich\Nein akzeptiertes Paper aus der Konferenz
Dialogue: 0,0:25:32.41,0:25:37.18,Default,,0000,0000,0000,,2018 oder jetzt 2019 rauszusuchen und mit\Nallen Mitteln und Wegen zu versuchen, die
Dialogue: 0,0:25:37.18,0:25:41.26,Default,,0000,0000,0000,,Ergebnisse nachzuvollziehen. Teilweise\Noder im Detail, komplett, erst mal
Dialogue: 0,0:25:41.26,0:25:44.96,Default,,0000,0000,0000,,rausfinden, was kann ich überhaupt? Die\NAutoren sind angehalten, kurz publizieren
Dialogue: 0,0:25:44.96,0:25:48.91,Default,,0000,0000,0000,,und zu kooperieren. Die Leute versuchen\Nwirklich, auch Zeitaufwand, mit dem
Dialogue: 0,0:25:48.91,0:25:52.64,Default,,0000,0000,0000,,entsprechenden Fachwissen, die Ergebnisse\Nnachvollziehbar und erklärbar und
Dialogue: 0,0:25:52.64,0:25:58.60,Default,,0000,0000,0000,,reproduzierbar zu machen. Die Erfolgsrate?\NJa, ein Teil können wir nachvollziehen,
Dialogue: 0,0:25:58.60,0:26:03.48,Default,,0000,0000,0000,,immerhin 50 Prozent. Immerhin ein\NGroßteil, das nachvollziehen konnten 30
Dialogue: 0,0:26:03.48,0:26:08.80,Default,,0000,0000,0000,,Prozent, gar nicht reproduzieren waren \Naber immer noch 10 Prozent. Jetzt
Dialogue: 0,0:26:08.80,0:26:12.51,Default,,0000,0000,0000,,ist das interessante aber ja der\NSchwierigkeitsgrad, dass man das irgendwie
Dialogue: 0,0:26:12.51,0:26:15.25,Default,,0000,0000,0000,,reproduzieren kann, ist an sich \Nschon mal gut, aber noch
Dialogue: 0,0:26:15.25,0:26:17.37,Default,,0000,0000,0000,,nicht ausreichend. Wenn \Nich die komplette
Dialogue: 0,0:26:17.37,0:26:19.34,Default,,0000,0000,0000,,Forschung dafür neu machen\Nmuss, dann lohnt das den Aufwand schlicht
Dialogue: 0,0:26:19.34,0:26:24.93,Default,,0000,0000,0000,,und einfach nicht. Reasonable difficulty\Nist in dem Fall sagen wir ein nicht sehr
Dialogue: 0,0:26:24.93,0:26:28.91,Default,,0000,0000,0000,,konkretes Wort. Aber Tatsache ist, dass es\Nbei mindestens 20 Prozent der Paper sehr,
Dialogue: 0,0:26:28.91,0:26:33.31,Default,,0000,0000,0000,,sehr schwierig war und überhaupt keine\NProbleme aufgetreten sind bei einem
Dialogue: 0,0:26:33.31,0:26:37.46,Default,,0000,0000,0000,,absolut vernachlässigbaren Teil. Was Sie\Ndabei noch gemacht haben, ist Sie haben
Dialogue: 0,0:26:37.46,0:26:41.55,Default,,0000,0000,0000,,gefragt, diese Wissenschaftlerinnen, denen\Ndiese Challenge gestellt wurde, haben wir
Dialogue: 0,0:26:41.55,0:26:45.97,Default,,0000,0000,0000,,momentan eine Reproducibility Crisis im\NBereich Maschinenlearning? Seht ihr hier ein
Dialogue: 0,0:26:45.97,0:26:52.47,Default,,0000,0000,0000,,Problem? Und die Anzahl der Leute, die ein\NProblem sehen, ist über diese Challenge um
Dialogue: 0,0:26:52.47,0:26:57.35,Default,,0000,0000,0000,,diverse Prozentpunkte gestiegen. Das\Nheißt, einfach mal selbst zu versuchen,
Dialogue: 0,0:26:57.35,0:27:01.41,Default,,0000,0000,0000,,hat nochmal 15 Prozentpunkte mehr der\Nbefragten Wissenschaftlerinnen ungefähr,
Dialogue: 0,0:27:01.41,0:27:04.50,Default,,0000,0000,0000,,davon überzeugt, dass da tatsächlich\NProbleme existiert und dazu geführt, dass
Dialogue: 0,0:27:04.50,0:27:07.79,Default,,0000,0000,0000,,drei Viertel der befragten\NWissenschaftlerinnen ein Problem sehen, in
Dialogue: 0,0:27:07.79,0:27:16.56,Default,,0000,0000,0000,,unterschiedlichem Ausmaße.\NBenjamin: Noch ein Beispiel. Das ist
Dialogue: 0,0:27:16.56,0:27:20.32,Default,,0000,0000,0000,,jetzt, es gibt tatsächlich inzwischen\NPaper, die sich damit beschäftigen, wie
Dialogue: 0,0:27:20.32,0:27:26.61,Default,,0000,0000,0000,,gut andere Paper reproduzierbar sind. In\Ndem Fall aus dem Bereich von
Dialogue: 0,0:27:26.61,0:27:31.81,Default,,0000,0000,0000,,Recommendation. Es geht darum, aus einer\NMenge von Dokumenten bestimmte Dokumente
Dialogue: 0,0:27:31.81,0:27:35.82,Default,,0000,0000,0000,,für eine Anfrage oder Frage, oder was\Nweiss ich, vorzuschlagen. Da gab es in den
Dialogue: 0,0:27:35.82,0:27:40.10,Default,,0000,0000,0000,,letzten Jahren 18 Publikationen, die alle\Nauf Deep Learning setzen, bei großen
Dialogue: 0,0:27:40.10,0:27:46.44,Default,,0000,0000,0000,,Konferenzen. Und dann haben sich die Leute\Nmal hingesetzt und geguckt, wieviel können
Dialogue: 0,0:27:46.44,0:27:50.20,Default,,0000,0000,0000,,wir davon reproduzieren? Inklusive, wir\Nschicken erst einmal dem Autor in eine
Dialogue: 0,0:27:50.20,0:27:54.92,Default,,0000,0000,0000,,E-Mail, ob sie uns vielleicht ihren Code\Ngeben können, bitten nochmal nach und
Dialogue: 0,0:27:54.92,0:27:57.70,Default,,0000,0000,0000,,versuchen, die Sachen zum Laufen zu\Nbringen, versuchen irgendwie, teilweise
Dialogue: 0,0:27:57.70,0:28:01.89,Default,,0000,0000,0000,,sogar ähnliche Hardware zu beschaffen, wie\Ndie verwendet haben und bauen das nach.
Dialogue: 0,0:28:01.89,0:28:07.02,Default,,0000,0000,0000,,Insgesamt haben sich von diesen, für\Ndieses Beispiel, von diesen 18 Papern,
Dialogue: 0,0:28:07.02,0:28:11.49,Default,,0000,0000,0000,,ganze 7 Paper wirklich reproduzieren\Nkönnen. Das heißt, bei denen können sie
Dialogue: 0,0:28:11.49,0:28:15.63,Default,,0000,0000,0000,,die ganzen Sachen nachbauen, können es\Nlaufen lassen und kommen dann auf ähnliche
Dialogue: 0,0:28:15.63,0:28:18.87,Default,,0000,0000,0000,,Ergebnisse.\NNadja: Aber wichtig, erst nachdem Sie die
Dialogue: 0,0:28:18.87,0:28:21.85,Default,,0000,0000,0000,,Arbeit investiert haben, erst nachdem Sie\Nnachgefragt haben, erst nachdem Sie
Dialogue: 0,0:28:21.85,0:28:25.33,Default,,0000,0000,0000,,versucht haben, die Dinge aufzutreiben,\Ndie nicht von sich aus herausgegeben
Dialogue: 0,0:28:25.33,0:28:27.33,Default,,0000,0000,0000,,wurden.\NBenjamin: Das ist nicht der Standard
Dialogue: 0,0:28:27.33,0:28:30.78,Default,,0000,0000,0000,,Prozess. Also normalerweise, wenn ich\Nirgendwo auf der Konferenz ein Paper
Dialogue: 0,0:28:30.78,0:28:34.49,Default,,0000,0000,0000,,schicke und sage, Okay, das möchte ich\Nveröffentlichen. Dann lesen Leute nur
Dialogue: 0,0:28:34.49,0:28:38.96,Default,,0000,0000,0000,,dieses Paper. Gucken Sie sich eventuell\Nnoch ein Video an oder vielleicht sogar
Dialogue: 0,0:28:38.96,0:28:42.70,Default,,0000,0000,0000,,ganze zusätzliche Datensätze, die\Nhochgeladen werden. Aber normalerweise
Dialogue: 0,0:28:42.70,0:28:47.20,Default,,0000,0000,0000,,lesen Sie nur dieses Paper, diese 6, 8,\N10, manchmal 12 Seiten mit eng
Dialogue: 0,0:28:47.20,0:28:51.45,Default,,0000,0000,0000,,geschriebenen Ergebnissen und entscheiden\Nnur anhand des Textes, der dort dann
Dialogue: 0,0:28:51.45,0:28:55.72,Default,,0000,0000,0000,,steht, und anhand der Zahlen, die die\NAutorin selbst herausgegeben haben, ob
Dialogue: 0,0:28:55.72,0:29:02.33,Default,,0000,0000,0000,,diese Arbeit relevant, richtig und\Nirgendwie nutzbar erscheint. Und dann wird
Dialogue: 0,0:29:02.33,0:29:06.93,Default,,0000,0000,0000,,entschieden, ob sie veröffentlicht wird\Noder nicht. Aber sie können normalerweise
Dialogue: 0,0:29:06.93,0:29:11.17,Default,,0000,0000,0000,,nicht in irgendeiner Form überprüfen, ob\Ndas wirklich so ist. Sie müssen komplett
Dialogue: 0,0:29:11.17,0:29:17.92,Default,,0000,0000,0000,,auf den Text vertrauen, ohne. Das ist\Nder Standardfall, wenn wir nicht explizit
Dialogue: 0,0:29:17.92,0:29:22.70,Default,,0000,0000,0000,,Reproduzierbarkeit fordern für\Nirgendwelche Konferenzen. Und wie gesagt,
Dialogue: 0,0:29:22.70,0:29:27.74,Default,,0000,0000,0000,,die bisherigen großen Konferenzen. Es gibt\Nkeine, die einen von den angewandten
Dialogue: 0,0:29:27.74,0:29:32.13,Default,,0000,0000,0000,,Konferenzen, die Reproduzierbarkeit\Nexplizit fordert. Es ist immer nur ein
Dialogue: 0,0:29:32.13,0:29:36.52,Default,,0000,0000,0000,,zusätzliches Challenge, oder ein\Nzusätzliches Siegel, oder was weiß ich.
Dialogue: 0,0:29:36.52,0:29:40.56,Default,,0000,0000,0000,,Bisher basiert die Annahme und die\NVeröffentlichung von irgendwelchen Papern
Dialogue: 0,0:29:40.56,0:29:44.79,Default,,0000,0000,0000,,komplett nur auf dem Reviewen von den\Neingereichten Sachen, ohne den Versuch es
Dialogue: 0,0:29:44.79,0:29:51.35,Default,,0000,0000,0000,,auch zu reproduzieren. Noch zu dem\NBeispiel, um es noch demotivierender zu
Dialogue: 0,0:29:51.35,0:29:57.71,Default,,0000,0000,0000,,machen. Von diesen 7 Ergebnissen, die sie\Nreproduzieren konnten, haben sie dann
Dialogue: 0,0:29:57.71,0:30:03.75,Default,,0000,0000,0000,,außerdem nochmal nicht Deep Learning\Nbasierte Ansätze genommen, die damit
Dialogue: 0,0:30:03.75,0:30:09.30,Default,,0000,0000,0000,,verglichen und festgestellt, dass wenn man\Nda sich ein bisschen Mühe gibt, sie von 6
Dialogue: 0,0:30:09.30,0:30:12.82,Default,,0000,0000,0000,,von diesen 7 Paper noch besserere,\Ntrotzdem noch bessere Ergebnisse kriegen.
Dialogue: 0,0:30:12.82,0:30:20.07,Default,,0000,0000,0000,,Das heißt, von diesen 18 Publikationen hat\Neine für externe Leute messbaren
Dialogue: 0,0:30:20.07,0:30:28.34,Default,,0000,0000,0000,,wissenschaftlichen Fortschritt gebracht.\NUnd genau diese anderen Ansätze sind
Dialogue: 0,0:30:28.34,0:30:34.06,Default,,0000,0000,0000,,nämlich leider etwas, was sehr stark durch\Ndiesen Hype, der ja offensichtlich
Dialogue: 0,0:30:34.06,0:30:39.62,Default,,0000,0000,0000,,funktioniert, so voll wie sie heute ist,\Ndas Wort Deep Learning zieht, werden die
Dialogue: 0,0:30:39.62,0:30:43.71,Default,,0000,0000,0000,,verdrängt. Der Rest sind häufig nur\NBaselines. Ich muss ja nur im Paper
Dialogue: 0,0:30:43.71,0:30:48.59,Default,,0000,0000,0000,,irgendwas angeben, was ein anderes System\Nist, mit dem ich es vergleiche, damit ich
Dialogue: 0,0:30:48.59,0:30:52.59,Default,,0000,0000,0000,,zeige, dass mein neues System besser ist\Nals das, was bisher da ist. Dann gebe ich
Dialogue: 0,0:30:52.59,0:30:57.25,Default,,0000,0000,0000,,mir auch keine Mühe, dass ich diesen\NAnteil, dieses andere System besonders gut
Dialogue: 0,0:30:57.25,0:31:00.34,Default,,0000,0000,0000,,dastehen lasse. Denn dann wird es\Nschwieriger, dass mein neues System besser
Dialogue: 0,0:31:00.34,0:31:04.61,Default,,0000,0000,0000,,abschneidet. Das heisst, es wird\Nhauptsächlich eben an diesem Deep
Dialogue: 0,0:31:04.61,0:31:09.70,Default,,0000,0000,0000,,Learnings Krams geforscht, und alles\Nandere wird vernachlässigt, obwohl man da
Dialogue: 0,0:31:09.70,0:31:13.68,Default,,0000,0000,0000,,noch sehr viel rausholen könnte, wenn man\Nes denn wollte und irgendeinen Vorteil
Dialogue: 0,0:31:13.68,0:31:20.50,Default,,0000,0000,0000,,davon hätte. Und es wird wirklich alles\Nandere nur als Baseline betrachtet. Ganz
Dialogue: 0,0:31:20.50,0:31:24.83,Default,,0000,0000,0000,,kurz noch Exkurs, das ist ein Foundation\NTalk. Baseline, ich brauche irgendein
Dialogue: 0,0:31:24.83,0:31:27.74,Default,,0000,0000,0000,,System, mit dem ich zeige, dass meine\NDaten valide sind. Das ist irgendwie
Dialogue: 0,0:31:27.74,0:31:31.08,Default,,0000,0000,0000,,Plausible ist, was ich raus kriege. Im\Nsimpelsten Fall ist ein Baseline Ansatz
Dialogue: 0,0:31:31.08,0:31:34.74,Default,,0000,0000,0000,,für eine binäre Entscheidung einfach ein\NMünzwurf. Wenn ich ein System baue, was
Dialogue: 0,0:31:34.74,0:31:39.08,Default,,0000,0000,0000,,zwischen Hund oder Wolf entscheiden muss\Nund es hat nur 5 Prozent Genauigkeit, dann
Dialogue: 0,0:31:39.08,0:31:42.32,Default,,0000,0000,0000,,hätte ich mal lieber eine Münze geworfen.\NDa würde ich mit 50 Prozent Genauigkeit
Dialogue: 0,0:31:42.32,0:31:45.68,Default,,0000,0000,0000,,kriegen. Dann ist mein System\Naußerordentlich schlecht. Sobald ich über
Dialogue: 0,0:31:45.68,0:31:49.24,Default,,0000,0000,0000,,diese 50 Prozent drüber kommen über diese\NBaseline, kann ich in diesem Paper
Dialogue: 0,0:31:49.24,0:31:54.64,Default,,0000,0000,0000,,inhaltlich begründen, warum mein neues\NSystem besser ist als diese Baseline. Nun
Dialogue: 0,0:31:54.64,0:31:57.61,Default,,0000,0000,0000,,gebe es vielleicht bessere, klügere\NAnsätze als einen reinen Münzwurf. Aber
Dialogue: 0,0:31:57.61,0:32:00.42,Default,,0000,0000,0000,,wenn ich den halt möglichst low halte,\Nhabe ich es an der
Dialogue: 0,0:32:00.42,0:32:04.18,Default,,0000,0000,0000,,anderen Stelle leichter.\NNadja: Dazu ganz kurz, um das in Zahlen zu
Dialogue: 0,0:32:04.18,0:32:06.73,Default,,0000,0000,0000,,fassen. Kaggle ist eine Plattform, die\NDaten-
Dialogue: 0,0:32:06.73,0:32:07.73,Default,,0000,0000,0000,,wissenschaftliche Challenges\Nstellt, an der jeder
Dialogue: 0,0:32:07.73,0:32:11.13,Default,,0000,0000,0000,,dann mitarbeiten kann und\Neinen Versuch einreichen kann, diese
Dialogue: 0,0:32:11.13,0:32:14.38,Default,,0000,0000,0000,,Challenge zu schlagen. Z.B. im Bereich\NBilderkennung, aber eigentlich alles, was
Dialogue: 0,0:32:14.38,0:32:17.87,Default,,0000,0000,0000,,da ist, an wissenschaftliche oder\Nmaschinelles Lernen in Worte fasst. Das
Dialogue: 0,0:32:17.87,0:32:20.66,Default,,0000,0000,0000,,ist der Unterschied zur akademischen\NForschung, dass wir uns nicht so sehr am
Dialogue: 0,0:32:20.66,0:32:23.74,Default,,0000,0000,0000,,State of the art orientieren, sondern die\NLeute versuchen, oftmals sind es auch
Dialogue: 0,0:32:23.74,0:32:27.58,Default,,0000,0000,0000,,Privatpersonen, das zu nehmen, was\Nfunktioniert. Da ist auch viel Deep
Dialogue: 0,0:32:27.58,0:32:30.23,Default,,0000,0000,0000,,Learning dabei. Weil Deep Learning, halt\Nein paar Sachens sind, wo viel entwickelt
Dialogue: 0,0:32:30.23,0:32:33.45,Default,,0000,0000,0000,,wird, wo es viele fertige Frameworks gibt\Nund was verrufen ist als das, was
Dialogue: 0,0:32:33.45,0:32:38.01,Default,,0000,0000,0000,,irgendwie mit allem funktioniert, unter\Ngewissen Voraussetzungen. Aber trotzdem
Dialogue: 0,0:32:38.01,0:32:42.85,Default,,0000,0000,0000,,sehen wir das auch., dass klassische\NAnsätze hier sehr, sehr hohen Anteil
Dialogue: 0,0:32:42.85,0:32:47.37,Default,,0000,0000,0000,,einnehmen, einen höheren Anteil als\Nmanchmal bei entsprechenden Konferenzen zu
Dialogue: 0,0:32:47.37,0:32:50.63,Default,,0000,0000,0000,,finden ist. Das heißt, wenn es mir nur\Ndarum geht, dass jetzt etwas funktioniert
Dialogue: 0,0:32:50.63,0:32:53.08,Default,,0000,0000,0000,,und ich nicht maximalen Aufwand\Nreinstecken will, ich nicht unbedingt die
Dialogue: 0,0:32:53.08,0:32:56.00,Default,,0000,0000,0000,,Buzzwords unterbringen will, ist Deep\NLearning plötzlich nicht mehr ganz so
Dialogue: 0,0:32:56.00,0:33:00.62,Default,,0000,0000,0000,,beliebt. Und dafür gibt's mit Sicherheit\Nein Grund. Wir wollen aber noch zu zwei
Dialogue: 0,0:33:00.62,0:33:03.45,Default,,0000,0000,0000,,weiteren Aspekten kommen. Und der nächste,\Nder der gesellschaftlichen Auswirkungen.
Dialogue: 0,0:33:03.45,0:33:07.34,Default,,0000,0000,0000,,Weil auch, was unsere Gesamtgesellschaft\Nbetrifft, müssen wir in der Forschung, was
Dialogue: 0,0:33:07.34,0:33:10.44,Default,,0000,0000,0000,,das maschinelle Lernen und Deep Learning\Nangeht, ein bisschen auf Nachhaltigkeit
Dialogue: 0,0:33:10.44,0:33:15.30,Default,,0000,0000,0000,,achten. Gerade das Thema Erklärbarkeit und\NTransparenz, das Thema kann nicht das
Dialogue: 0,0:33:15.30,0:33:18.54,Default,,0000,0000,0000,,System, was vielleicht sogar\Nlebenswichtige Entscheidungen trifft,
Dialogue: 0,0:33:18.54,0:33:22.73,Default,,0000,0000,0000,,irgendwie verstehen. Dieses inzwischen\Nrelativ weit verbreitete Beispiel kommt
Dialogue: 0,0:33:22.73,0:33:26.85,Default,,0000,0000,0000,,aus der Software Compass, ich habe es\Nschon erwähnt, die wird verwendet, um bei
Dialogue: 0,0:33:26.85,0:33:29.62,Default,,0000,0000,0000,,straffällig gewordene Menschen in\NGerichtsverfahren einen Score zu
Dialogue: 0,0:33:29.62,0:33:32.25,Default,,0000,0000,0000,,ermitteln, mit welcher Wahrscheinlichkeit\Nsie rückfällig werden im weiteren Verlauf
Dialogue: 0,0:33:32.25,0:33:37.37,Default,,0000,0000,0000,,ihres Lebens. Dieser Score wird vom\NRichter dann verwendet, um das Strafmaß zu
Dialogue: 0,0:33:37.37,0:33:43.11,Default,,0000,0000,0000,,bestimmen. Wenn wir uns jetzt den\NHintergrund der Hautfarbe, Hautfarbe
Dialogue: 0,0:33:43.11,0:33:47.04,Default,,0000,0000,0000,,dieser Menschen anschauen, für die diese\NScores bestimmt wurden, erkennen wir eine
Dialogue: 0,0:33:47.04,0:33:50.90,Default,,0000,0000,0000,,sehr unterschiedliche Verteilung zwischen\NMenschen mit weißer Hautfarbe und Menschen
Dialogue: 0,0:33:50.90,0:33:55.57,Default,,0000,0000,0000,,mit anderer Hautfarbe. Das heißt, oben\Nlinks sehen wir, dass hohe und niedrige
Dialogue: 0,0:33:55.57,0:34:00.02,Default,,0000,0000,0000,,Scores annähernd gleichmäßig verteilt\Nwerden, während wir eben bei Menschen mit
Dialogue: 0,0:34:00.02,0:34:03.25,Default,,0000,0000,0000,,eindeutig weißer Hautfarbe oder die so\Nwahrgenommen werden eine sehr starke
Dialogue: 0,0:34:03.25,0:34:07.93,Default,,0000,0000,0000,,Häufung niedrigen Scores haben. Das hat\Nsich an vielen Einzelbeispiele inzwischen
Dialogue: 0,0:34:07.93,0:34:11.95,Default,,0000,0000,0000,,gezeigt, dass das schlicht und einfach\Nfalsch ist. Dass für ähnliche Verbrechen
Dialogue: 0,0:34:11.95,0:34:15.48,Default,,0000,0000,0000,,sehr unterschiedliche Strafen vergeben\Nwurden und das nicht der Fall ist, dass
Dialogue: 0,0:34:15.48,0:34:19.07,Default,,0000,0000,0000,,die Personen mit dem höheren Score auch\Nzwangsläufig eher rückfällig geworden ist.
Dialogue: 0,0:34:19.07,0:34:22.78,Default,,0000,0000,0000,,In einigen Fällen haben auch Menschen, die\Nin dem Bereich tätig sind, drauf geschaut
Dialogue: 0,0:34:22.78,0:34:24.53,Default,,0000,0000,0000,,und haben gesagt, eigentlich hätte anhand\Nder Vorstrafen gerade andersherum
Dialogue: 0,0:34:24.53,0:34:29.12,Default,,0000,0000,0000,,verteilt. Das ist ein Riesenproblem, weil\Ndas System sind, die hier aktuell zum
Dialogue: 0,0:34:29.12,0:34:31.69,Default,,0000,0000,0000,,Einsatz kommen und die für Menschen \Nlebenswichtige Entscheidungen
Dialogue: 0,0:34:31.69,0:34:35.14,Default,,0000,0000,0000,,treffen müssen. Für niemanden er\Nsichtlich, warum dieser Score gegeben
Dialogue: 0,0:34:35.14,0:34:38.81,Default,,0000,0000,0000,,wird. Die Firma sagt von sich, und das ist\Ninsofern auch korrekt, wenn man es
Dialogue: 0,0:34:38.81,0:34:43.11,Default,,0000,0000,0000,,wörtlich nimmt, dass der Hintergrund und\Ndie Hautfarbe dieser Menschen nicht
Dialogue: 0,0:34:43.11,0:34:47.18,Default,,0000,0000,0000,,eingegangen ist in das Training. Aber das\Nkorreliert mit so vielen Dingen in den
Dialogue: 0,0:34:47.18,0:34:50.48,Default,,0000,0000,0000,,USA, mit dem Einkommen, mit dem Wohnort\Netc., dass das gar nicht der entscheidende
Dialogue: 0,0:34:50.48,0:34:56.40,Default,,0000,0000,0000,,Faktor ist. Als weiteres Beispiel können\Nwir mal drüber nachdenken, was wir dann
Dialogue: 0,0:34:56.40,0:35:00.23,Default,,0000,0000,0000,,mit dem Begriff eindeutige Handlungs-\NVorschrift meinen. Viele Menschen
Dialogue: 0,0:35:00.23,0:35:04.62,Default,,0000,0000,0000,,bezeichnen damit Algorithmen, was sie\Ndamit nicht bezeichnen wollen, dass wir
Dialogue: 0,0:35:04.62,0:35:07.91,Default,,0000,0000,0000,,alles, was algorithmische System uns\Nvorschlagen, auch als Handlungs-Vorschrift
Dialogue: 0,0:35:07.91,0:35:12.26,Default,,0000,0000,0000,,zu behandeln haben. Das ist nicht, wie wir\Ndas gemeint haben, sondern wir müssen mit
Dialogue: 0,0:35:12.26,0:35:17.28,Default,,0000,0000,0000,,diesem System immer reflektiert und\Nkritisierend umgehen. Ob jetzt Deep
Dialogue: 0,0:35:17.28,0:35:20.57,Default,,0000,0000,0000,,Learning überhaupt noch auf diesen Begriff\Npasst, auf diese eindeutige Handlungs-
Dialogue: 0,0:35:20.57,0:35:23.72,Default,,0000,0000,0000,,Vorschrift ist schon wieder extrem\Nfragwürdig. Denn wir reden hier von sehr
Dialogue: 0,0:35:23.72,0:35:28.20,Default,,0000,0000,0000,,stark statistisch geprägten Systemen, wo\Nsehr viel Zufall mitspielt. Man könnte
Dialogue: 0,0:35:28.20,0:35:31.39,Default,,0000,0000,0000,,sie, wie es in diesem Thread geschehen\Nist, vielleicht eher als
Dialogue: 0,0:35:31.39,0:35:34.29,Default,,0000,0000,0000,,maschinelles Bauchgefühl bezeichnen, \Nals eindeutige Handlungs-Vorschrift.
Dialogue: 0,0:35:34.29,0:35:40.82,Default,,0000,0000,0000,,Benjamin: Das heißt, was wir hier\Neigentlich erleben, ist eine wahnsinnige
Dialogue: 0,0:35:40.82,0:35:44.68,Default,,0000,0000,0000,,Generalisierung nur. Wir nehmen\NDatenpunkte aus der Vergangenheit, die wir
Dialogue: 0,0:35:44.68,0:35:50.33,Default,,0000,0000,0000,,schon kennen. Wir wenden sie an, wir\Ntrainieren darauf und danach versuchen wir
Dialogue: 0,0:35:50.33,0:35:54.56,Default,,0000,0000,0000,,einfach und hoffen, dass, wenn wir diese\NSachen, die wir, die wir haben, wenn wir
Dialogue: 0,0:35:54.56,0:35:59.37,Default,,0000,0000,0000,,nur weit genug generalisieren, wenn wir\Nirgendwo versuchen auf Teufel komm raus
Dialogue: 0,0:35:59.37,0:36:03.55,Default,,0000,0000,0000,,und das System muss immer was liefern.\NNormalerweise liefern die Systeme immer
Dialogue: 0,0:36:03.55,0:36:08.81,Default,,0000,0000,0000,,einfach ein Ergebnis, egal, ob sie einen\Nguten Grund dafür sehen oder nicht. Sie
Dialogue: 0,0:36:08.81,0:36:12.55,Default,,0000,0000,0000,,versuchen einfach, ein Muster zu finden\Nund dann liefern sie ein Ergebnis. Und das
Dialogue: 0,0:36:12.55,0:36:18.87,Default,,0000,0000,0000,,bedeutet, dass das, was immer landläufig\Nals die KI sagt etwas vorher oder denkt
Dialogue: 0,0:36:18.87,0:36:22.58,Default,,0000,0000,0000,,sich etwas aus oder was weiß ich, im\NPrinzip nur ein auswendig lernen und
Dialogue: 0,0:36:22.58,0:36:25.74,Default,,0000,0000,0000,,generalisieren und das Ergebnis irgendwie\Nwieder raushauen ist.
Dialogue: 0,0:36:25.74,0:36:30.14,Default,,0000,0000,0000,,Nadja: Bei gelernten Systemen reden wir\Noft von Prediction oder Vorhersage. Was
Dialogue: 0,0:36:30.14,0:36:32.51,Default,,0000,0000,0000,,wir aber eigentlich getan haben, ist nicht\Nüber die Zukunft nachzudenken, sondern
Dialogue: 0,0:36:32.51,0:36:35.88,Default,,0000,0000,0000,,ausschließlich über die Vergangenheit. Und\Ndann ist es die interessante Frage, ob
Dialogue: 0,0:36:35.88,0:36:40.74,Default,,0000,0000,0000,,wirklich Dinge vorhersagen oder eigentlich\Nnur reproduzieren.
Dialogue: 0,0:36:40.74,0:36:47.77,Default,,0000,0000,0000,,Benjamin: Das Problem ist aber auch, dass\Ndie Menschen den Computern vertrauen. Das
Dialogue: 0,0:36:47.77,0:36:50.51,Default,,0000,0000,0000,,trifft vermutlich jetzt nicht auf alle\NLeute hier im Raum zu. Das ist sehr
Dialogue: 0,0:36:50.51,0:36:55.77,Default,,0000,0000,0000,,angenehm, aber in der Gesellschaft ist das\Nenorm verbreitet inzwischen. KI ist
Dialogue: 0,0:36:55.77,0:37:00.77,Default,,0000,0000,0000,,irgendwas Tolles, KI ist super, KI wird\Nuns retten. KI kann das, was wir nicht
Dialogue: 0,0:37:00.77,0:37:07.86,Default,,0000,0000,0000,,können. Beispiele: Wir haben diese große\NForschungsinitiative, überall muss KI
Dialogue: 0,0:37:07.86,0:37:12.10,Default,,0000,0000,0000,,gemacht werden. Wenn ich KI in meine\NAnträge schreibe, kriege ich Geld. Wenn
Dialogue: 0,0:37:12.10,0:37:16.73,Default,,0000,0000,0000,,ich auf meine Hautcreme draufschreiben,\Ndass sie mit KI optimiert wurde, kann ich
Dialogue: 0,0:37:16.73,0:37:21.91,Default,,0000,0000,0000,,sie besser verkaufen. Und wenn ich will,\Ndass mein System und ich als Firma gut
Dialogue: 0,0:37:21.91,0:37:26.18,Default,,0000,0000,0000,,dastehe, dann kann es sich sogar lohnen,\Nwas geschieht, was Google aber auch viele
Dialogue: 0,0:37:26.18,0:37:31.49,Default,,0000,0000,0000,,andere machen, kann es sich lohnen, Leute\Neinzustellen, die so tun, als wären sie
Dialogue: 0,0:37:31.49,0:37:35.40,Default,,0000,0000,0000,,Computer, zum Beispiel, die irgendwo\Nanrufen, weil der Computer dazu noch nicht
Dialogue: 0,0:37:35.40,0:37:39.60,Default,,0000,0000,0000,,in der Lage ist und dann die Restaurant\NReservierung oder was weiß ich
Dialogue: 0,0:37:39.60,0:37:43.29,Default,,0000,0000,0000,,durchführen, nur damit man dann am Ende\Nrausschreiben kann, dass die eigenen KI-
Dialogue: 0,0:37:43.29,0:37:50.05,Default,,0000,0000,0000,,Systeme ja so wahnsinnig toll sind. Und\Nweil es ja kein Mensch ist, sondern der
Dialogue: 0,0:37:50.05,0:37:55.70,Default,,0000,0000,0000,,Computer, der ja bestimmt viel weiser sein\Nmuss, kann man dadurch sich Vorteile
Dialogue: 0,0:37:55.70,0:37:58.43,Default,,0000,0000,0000,,verschaffen.\NNadja: Ein ganz besonders beunruhigendes
Dialogue: 0,0:37:58.43,0:38:00.28,Default,,0000,0000,0000,,Beispiel haben wir uns außerdem noch\Nmitgebracht.
Dialogue: 0,0:38:00.28,0:40:03.54,Default,,0000,0000,0000,,{\i1}Musik{\i0}\N{\i1}Dialog der Maschine und dem Mann auf japanisch{\i0}
Dialogue: 0,0:40:03.54,0:40:07.87,Default,,0000,0000,0000,,Um die Frage direkt vorwegzunehmen, ja,\Ndas gibt es wirklich. Und ich hoffe
Dialogue: 0,0:40:07.87,0:40:10.51,Default,,0000,0000,0000,,ehrlich gesagt, ich muss gar nicht\Nerklären, warum das so unglaublich
Dialogue: 0,0:40:10.51,0:40:14.42,Default,,0000,0000,0000,,kritisch ist. Aber ich frag einfach mal,\Nwas passiert mit uns Menschen so rein
Dialogue: 0,0:40:14.42,0:40:18.23,Default,,0000,0000,0000,,soziologisch, so rein psychologisch, wenn\Nwir mit Maschinen interagieren, als wären
Dialogue: 0,0:40:18.23,0:40:21.75,Default,,0000,0000,0000,,sie Menschen, als hätten sie Gefühle, wenn\Nsie Muster imitieren, wie sie in der
Dialogue: 0,0:40:21.75,0:40:25.37,Default,,0000,0000,0000,,Beziehung und zwischenmenschlicher\NKommunikation stattfinden. Was passiert da
Dialogue: 0,0:40:25.37,0:40:28.97,Default,,0000,0000,0000,,mit uns? Worauf lassen wir uns ein? Wie\Nviel Bios, den wir nicht haben sollten,
Dialogue: 0,0:40:28.97,0:40:35.51,Default,,0000,0000,0000,,akzeptieren wir? Um noch zu einem ganz\Nanderen Thema zu kommen. Ich hoffe, das
Dialogue: 0,0:40:35.51,0:40:37.67,Default,,0000,0000,0000,,müssen wir hier nur kurz anschneiden, denn\Nich habe keine Antwort auf die Frage, die
Dialogue: 0,0:40:37.67,0:40:41.05,Default,,0000,0000,0000,,ich gerade gestellt habe. Daten. Ich\Nglaube, das ist ein Rahmen, in dem ich
Dialogue: 0,0:40:41.05,0:40:44.56,Default,,0000,0000,0000,,wenig erklären muss, warum\NDatensparsamkeit wichtig ist. Wir haben
Dialogue: 0,0:40:44.56,0:40:48.58,Default,,0000,0000,0000,,aber mit Deep Learning ein fundamentales\NProblem. Wir brauchen nämlich extrem viele
Dialogue: 0,0:40:48.58,0:40:53.45,Default,,0000,0000,0000,,Daten. Und das beißt sich ganz, ganz stark\Nmit unseren gesellschaftlichen Interessen.
Dialogue: 0,0:40:53.45,0:40:57.64,Default,,0000,0000,0000,,Das ist aber ein Thema, über das könnte\Nman mindestens einen eigenen Talk halten.
Dialogue: 0,0:40:57.64,0:41:01.32,Default,,0000,0000,0000,,Außerdem Beispiele wie das: Wie viele\Nwerden es auch schon gesehen haben, eine
Dialogue: 0,0:41:01.32,0:41:05.04,Default,,0000,0000,0000,,KI, die sich gefühlte 15 Minuten im Netz\Nbewegt hat. Und plötzlich überaus
Dialogue: 0,0:41:05.04,0:41:08.06,Default,,0000,0000,0000,,rassistisch und anderweitig inakzeptable\NÄußerungen gebracht hat, weil sie nun mal
Dialogue: 0,0:41:08.06,0:41:11.44,Default,,0000,0000,0000,,aus dem Internet gelernt hat. Und die\Ninteressante Frage stellt sich an der
Dialogue: 0,0:41:11.44,0:41:15.03,Default,,0000,0000,0000,,Stelle ganz krass, sollten wir wirklich\Nversuchen, mit maschinellen Systemen
Dialogue: 0,0:41:15.03,0:41:18.79,Default,,0000,0000,0000,,Menschen nachzubilden? Oder ist das\Nvielleicht eine sehr schlechte Idee?
Dialogue: 0,0:41:18.79,0:41:27.08,Default,,0000,0000,0000,,Benjamin: Ein weiterer Punkt, den wir uns,\Ndem wir uns stellen müssen, der für uns
Dialogue: 0,0:41:27.08,0:41:31.31,Default,,0000,0000,0000,,alle relevant ist, denn wir arbeiten in\Nirgendeiner Form an Systemen, die
Dialogue: 0,0:41:31.31,0:41:36.86,Default,,0000,0000,0000,,irgendwie was in der Welt bewegen sollen.\NWer ist für all das verantwortlich? Ganz
Dialogue: 0,0:41:36.86,0:41:41.86,Default,,0000,0000,0000,,typisches Beispiel haben wir bei den\Nautonomen Fahrzeugen. Da wird es schon x
Dialogue: 0,0:41:41.86,0:41:47.14,Default,,0000,0000,0000,,mal diskutiert, wer ist dafür\Nverantwortlich, wenn ein Unfall passiert?
Dialogue: 0,0:41:47.14,0:41:51.22,Default,,0000,0000,0000,,Aber bei jedem weiteren System gilt das\Nauch. Es gibt so viele Stellen, die daran
Dialogue: 0,0:41:51.22,0:41:54.85,Default,,0000,0000,0000,,beteiligt sind. Wir haben die Person, die\Ndas Ganze programmieren. Die Personen, die
Dialogue: 0,0:41:54.85,0:41:58.80,Default,,0000,0000,0000,,es in Auftrag gegeben haben. Die Firma,\Ndie das Ganze kauft, vermarktet.
Dialogue: 0,0:41:58.80,0:42:02.08,Default,,0000,0000,0000,,Vielleicht öffentliche Stellen, die\Nentsprechende Regularien dafür
Dialogue: 0,0:42:02.08,0:42:05.52,Default,,0000,0000,0000,,veröffentlichen. Wir haben\NVersicherungskonzerne. Wir haben
Dialogue: 0,0:42:05.52,0:42:09.68,Default,,0000,0000,0000,,Privatpersonen, die ein autonomes Fahrzeug\Noder irgendein anderes intelligentes
Dialogue: 0,0:42:09.68,0:42:16.64,Default,,0000,0000,0000,,System besitzen. Wer ist schuld? Wer kann\Nbelangt werden, wenn irgendetwas passiert?
Dialogue: 0,0:42:16.64,0:42:20.51,Default,,0000,0000,0000,,Und welche Auswirkungen hat das? Denn, je\Nnachdem, wer dafür belangt werden kann,
Dialogue: 0,0:42:20.51,0:42:25.23,Default,,0000,0000,0000,,ergeben sich völlig unterschiedliche\NEntscheidungen von den beteiligten
Dialogue: 0,0:42:25.23,0:42:30.04,Default,,0000,0000,0000,,Personen, wogegen sie ihre Systeme\Nabsichern, wie sie ihre Systeme designen.
Dialogue: 0,0:42:30.04,0:42:37.06,Default,,0000,0000,0000,,Und diesen Punkt, dazu gibt es keine\Nbefriedigende Antwort. Eine Umfrage unter
Dialogue: 0,0:42:37.06,0:42:44.64,Default,,0000,0000,0000,,den Amerikaner sagt, dass sie, die\NMehrheit das inakzeptabel findet, dass ein
Dialogue: 0,0:42:44.64,0:42:48.92,Default,,0000,0000,0000,,Computersystem oder algorithmische Systeme\Ngenutzt werden, um in bestimmten
Dialogue: 0,0:42:48.92,0:42:55.16,Default,,0000,0000,0000,,Bereichen, zum Beispiel bei der\NEinschätzung von Strafmaßen oder für den
Dialogue: 0,0:42:55.16,0:42:58.46,Default,,0000,0000,0000,,Bewerbungsprozess von Menschen, dass der\NComputer wesentliche Entscheidungen dafür
Dialogue: 0,0:42:58.46,0:43:04.61,Default,,0000,0000,0000,,trifft. Blöd nur, all das wird heutzutage\Nschon gemacht, und zwar eben mit immer
Dialogue: 0,0:43:04.61,0:43:10.11,Default,,0000,0000,0000,,stärker werdenden Ausmaß.\NNadja: Und als Drittes kommen wir jetzt zu
Dialogue: 0,0:43:10.11,0:43:14.00,Default,,0000,0000,0000,,einem Punkt, der oft vernachlässigt wird,\Nwenn es um Deep Learning geht. Ja, das
Dialogue: 0,0:43:14.00,0:43:17.12,Default,,0000,0000,0000,,werden die alle, die wir heute gesagt\Nhaben, aber der ganz besonders. Und wir
Dialogue: 0,0:43:17.12,0:43:20.58,Default,,0000,0000,0000,,glauben, dass der trotzdem relevant ist.\NNämlich gerade zu Zeiten, wo das Thema
Dialogue: 0,0:43:20.58,0:43:24.38,Default,,0000,0000,0000,,Klimawandel wieder mehr in den Medien\Nkommt, wo sowohl die Gegner als auch die
Dialogue: 0,0:43:24.38,0:43:27.57,Default,,0000,0000,0000,,Befürworter von irgendwelchen Maßnahmen\Nstärker werden, ist das ein Thema über das
Dialogue: 0,0:43:27.57,0:43:30.42,Default,,0000,0000,0000,,wir auch nachdenken müssen, auch\Nwenn es auf den ersten Blick
Dialogue: 0,0:43:30.42,0:43:34.38,Default,,0000,0000,0000,,nichts mit unserer Arbeit zu tun hat.\NBenjamin: Wir haben natürlich, bekannt ist
Dialogue: 0,0:43:34.38,0:43:37.59,Default,,0000,0000,0000,,es im Bereich, z. B. von den\NCryptocurrencies, dass die enormen
Dialogue: 0,0:43:37.59,0:43:43.81,Default,,0000,0000,0000,,Stromverbrauch haben, zum Beispiel ein\NBitcoin Transaktion verbraucht ungefähr so
Dialogue: 0,0:43:43.81,0:43:52.62,Default,,0000,0000,0000,,viel Strom wie 500.000 Visa Transaktionen,\Neine einzige! Und das entspricht ungefähr
Dialogue: 0,0:43:52.62,0:43:58.06,Default,,0000,0000,0000,,dem Stromverbrauch eines Kühlschranks für\N8 Jahre für eine Transaktion. Aber
Dialogue: 0,0:43:58.06,0:44:04.23,Default,,0000,0000,0000,,Bitcoins ist nicht der einzige Bereich, wo\Nwir Probleme kriegen, in der Hinsicht. Wir
Dialogue: 0,0:44:04.23,0:44:11.69,Default,,0000,0000,0000,,haben auch das generell in allen Formen,\Nwo wir große Daten haben. Deep Learning
Dialogue: 0,0:44:11.69,0:44:15.04,Default,,0000,0000,0000,,braucht große Datenmengen, Datenmengen\Nmüssen wir speichern, verarbeiten,
Dialogue: 0,0:44:15.04,0:44:20.34,Default,,0000,0000,0000,,transportieren und dafür haben wir\Nweltweit inzwischen eine relativ groß
Dialogue: 0,0:44:20.34,0:44:25.28,Default,,0000,0000,0000,,steigende Anzahl an Rechenzentren, die\Nzwischen 200 und 500 Milliarden
Dialogue: 0,0:44:25.28,0:44:28.27,Default,,0000,0000,0000,,Kilowattstunden pro Jahr gerade\Nverbrauchen. Ganz genau kann man das
Dialogue: 0,0:44:28.27,0:44:33.23,Default,,0000,0000,0000,,natürlich nicht sagen, weil die Firmen\Nauch diese Daten als Geheimnis betrachten.
Dialogue: 0,0:44:33.23,0:44:38.20,Default,,0000,0000,0000,,Wenn man alle Rechenzentren zusammen als\NLand betrachten würde, hätten wir fünf
Dialogue: 0,0:44:38.20,0:44:41.20,Default,,0000,0000,0000,,Länder auf der Erde, die mehr Strom\Nverbrauchen, dann kommen die
Dialogue: 0,0:44:41.20,0:44:44.72,Default,,0000,0000,0000,,Rechenzentren, dann kommen alle anderen\NLänder, und auch das wird weiterhin
Dialogue: 0,0:44:44.72,0:44:55.82,Default,,0000,0000,0000,,steigen. Wir haben, wenn man jetzt noch\Nkleiner guckt auf das, was wir jetzt
Dialogue: 0,0:44:55.82,0:45:00.16,Default,,0000,0000,0000,,beschrieben haben, den Trainingsprozess\Nvon einzelnen Modellen, auch da schon
Dialogue: 0,0:45:00.16,0:45:05.78,Default,,0000,0000,0000,,einen erschreckend hohen Stromverbrauch,\Nder auch dort leider nicht linear, sondern
Dialogue: 0,0:45:05.78,0:45:12.72,Default,,0000,0000,0000,,sondern deutlich darüber ansteigt. Wenn\Nwir also ein einzelnes, einzelne Modelle
Dialogue: 0,0:45:12.72,0:45:16.85,Default,,0000,0000,0000,,trainieren wollen, sehen wir, dass die\Ngroßen State of the Art Systeme, die dann
Dialogue: 0,0:45:16.85,0:45:21.67,Default,,0000,0000,0000,,natürlich von Firmen wie Google und\NFacebook AI und anderen
Dialogue: 0,0:45:21.67,0:45:25.20,Default,,0000,0000,0000,,Forschungsinstitute, Einrichtungen von\Ngroßen, großen Firmen vorgeschlagen
Dialogue: 0,0:45:25.20,0:45:34.25,Default,,0000,0000,0000,,werden, dass dort Strom verbraucht wird\Nfür hunderttausende teilweise Millionen an
Dialogue: 0,0:45:34.25,0:45:42.65,Default,,0000,0000,0000,,Euro. Dass dort auch inzwischen natürlich\Nzusätzlich noch GPUs, CPUs eingesetzt
Dialogue: 0,0:45:42.65,0:45:47.51,Default,,0000,0000,0000,,werden, die schwer zu bekommen sind, die\Nteuer anzuschaffen sind, sodass wir
Dialogue: 0,0:45:47.51,0:45:50.56,Default,,0000,0000,0000,,natürlich auch sowohl durch den\NStromverbrauch als auch durch die
Dialogue: 0,0:45:50.56,0:45:56.25,Default,,0000,0000,0000,,Infrastruktur. Erstens haben wir diesen\NUmwelteffekt. Zweitens, wenn wir den
Dialogue: 0,0:45:56.25,0:46:01.27,Default,,0000,0000,0000,,Effekt, dass immer weniger Firmen, immer\Nweniger große Einrichtungen in der Lage
Dialogue: 0,0:46:01.27,0:46:06.57,Default,,0000,0000,0000,,sind, Deep Learning auf dem State of the\NArt durchzuführen. Der Rest wird
Dialogue: 0,0:46:06.57,0:46:10.21,Default,,0000,0000,0000,,abgehängt. Das heißt auch da\Ngesellschaftliche Auswirkungen ---
Dialogue: 0,0:46:10.21,0:46:14.95,Default,,0000,0000,0000,,problematisch, Umweltauswirkungen ---\Nproblematisch und leider ein Trend, der
Dialogue: 0,0:46:14.95,0:46:19.74,Default,,0000,0000,0000,,offensichtlich genau in die falsche\NRichtung geht. Wenn man sich das nochmal
Dialogue: 0,0:46:19.74,0:46:26.76,Default,,0000,0000,0000,,hier anguckt, was das auch für den\NCO2-Ausstoß bedeutet, sehen wir, dass das
Dialogue: 0,0:46:26.76,0:46:33.30,Default,,0000,0000,0000,,Training von einem einzigen Modell, wie es\Ndann veröffentlicht wird am Ende, von so
Dialogue: 0,0:46:33.30,0:46:38.36,Default,,0000,0000,0000,,einem großen Modell ungefähr so viel CO2\Nausstößt wie fünf Autos in ihrer ganzen
Dialogue: 0,0:46:38.36,0:46:43.21,Default,,0000,0000,0000,,Lebensdauer, inklusive Produktion und\Ninklusive sämtlichen Sprit, der dann darin
Dialogue: 0,0:46:43.21,0:46:47.60,Default,,0000,0000,0000,,verbrannt wird. Und solche Forschung\Nfindet ständig weiterhin statt, weil man
Dialogue: 0,0:46:47.60,0:46:51.32,Default,,0000,0000,0000,,ja weiter publizieren will, wie wir am\NAnfang schon erzählt haben. Das heißt,
Dialogue: 0,0:46:51.32,0:46:55.03,Default,,0000,0000,0000,,dauerhaft werden solche Modelle gerade auf\Nder Welt trainiert, um dann irgendwo in
Dialogue: 0,0:46:55.03,0:46:58.09,Default,,0000,0000,0000,,irgendeinem kleinen Teilbereich eine neue\NPublikationen machen zu können.
Dialogue: 0,0:46:58.09,0:47:02.80,Default,,0000,0000,0000,,Nadja: Jetzt komme ich und bringe die\NFrohbotschaft. Nein, es ist nicht alles
Dialogue: 0,0:47:02.80,0:47:06.20,Default,,0000,0000,0000,,ganz so schlimm, wie es jetzt gerade\Nscheint, wenn wir die Nachteile auflisten.
Dialogue: 0,0:47:06.20,0:47:09.07,Default,,0000,0000,0000,,Tatsächlich kann der ganze Bereich des\Nmaschinellen Lernen auch Vorteile mit sich
Dialogue: 0,0:47:09.07,0:47:11.88,Default,,0000,0000,0000,,bringen und hier in diesem Beispiel sogar\Nauch tatsächlich das Deep Learning. Es
Dialogue: 0,0:47:11.88,0:47:16.70,Default,,0000,0000,0000,,geht darum, dass Google über Jahre hinweg\Nversucht hatte, mithilfe von maschinellen
Dialogue: 0,0:47:16.70,0:47:22.70,Default,,0000,0000,0000,,Lernen die Betriebe ihrer Datenzentren zu\Noptimieren. Da eine Einsparung im
Dialogue: 0,0:47:22.70,0:47:25.22,Default,,0000,0000,0000,,Stromverbrauch zu erreichen. Wir reden\Nhier von Reinforsment Learning für die,
Dialogue: 0,0:47:25.22,0:47:29.76,Default,,0000,0000,0000,,denen es was sagt. Was die Kühlungsteuerung,\Ndie Abschaltung von Servernet et cetera
Dialogue: 0,0:47:29.76,0:47:32.92,Default,,0000,0000,0000,,beeinflussen konnte und damit der\NStromverbrauch um bis zu 40 Prozent
Dialogue: 0,0:47:32.92,0:47:36.84,Default,,0000,0000,0000,,gesenkt hat. Das ist auf jeden Fall eine\Ngute Nachricht. Natürlich ist auch mir die
Dialogue: 0,0:47:36.84,0:47:40.13,Default,,0000,0000,0000,,Ironie klar, dass wir hier den\NStromverbrauch von Datenzentren sprechen,
Dialogue: 0,0:47:40.13,0:47:44.30,Default,,0000,0000,0000,,ohne das Feld auch gar nicht so sehr nötig\Nwären. Trotzdem Man kann diese
Dialogue: 0,0:47:44.30,0:47:49.25,Default,,0000,0000,0000,,Wissenschaft, man kann diesen Bereich auch\Ndurchaus für gute Sachen nutzen, die uns
Dialogue: 0,0:47:49.25,0:47:54.16,Default,,0000,0000,0000,,allen was helfen kann. Das lässt sich\Nnatürlich nicht auf alle großen Strom und
Dialogue: 0,0:47:54.16,0:47:58.44,Default,,0000,0000,0000,,CO2 Produzenten übertragen, die wir in\Nunserer Industrie so haben. In der
Dialogue: 0,0:47:58.44,0:48:01.56,Default,,0000,0000,0000,,Autoindustrie wird das schon sehr viel\Nschwieriger, wenn wir von Montagerozessen
Dialogue: 0,0:48:01.56,0:48:04.72,Default,,0000,0000,0000,,reden, von Produktionsprozessen reden. Da\Nkann man nicht einfach wild durch die
Dialogue: 0,0:48:04.72,0:48:07.82,Default,,0000,0000,0000,,Gegend tauschen, welcher Task denn\Nausgeführt wird. Wenn die Server
Dialogue: 0,0:48:07.82,0:48:11.85,Default,,0000,0000,0000,,vielleicht nicht ausgelastet sind oder sie\Nnicht direkt ausführen, damit der Server
Dialogue: 0,0:48:11.85,0:48:16.30,Default,,0000,0000,0000,,noch mal abgeschaltet bleiben kann. Aber\Nist das was, womit wir uns auf jeden Fall
Dialogue: 0,0:48:16.30,0:48:22.00,Default,,0000,0000,0000,,beschäftigen sollten. Mit Strom und CO2\Nist das Lied um die Umweltauswirkungen
Dialogue: 0,0:48:22.00,0:48:25.54,Default,,0000,0000,0000,,noch nicht zu Ende. Es geht auch darum,\Nwie wir unsere Infrastruktur belasten, wie
Dialogue: 0,0:48:25.54,0:48:30.04,Default,,0000,0000,0000,,wir Straßen, Städte, Gebäude und so weiter\Nbeanspruchen für den Bau, für den Betrieb,
Dialogue: 0,0:48:30.04,0:48:33.39,Default,,0000,0000,0000,,für den Transport. Für die Vernetzung von\Nden ganzen Systemen, die wir für diesen
Dialogue: 0,0:48:33.39,0:48:36.42,Default,,0000,0000,0000,,Forschungszweig brauchen. Es geht darum,\Nwas wir für Platz beanspruchen mit
Dialogue: 0,0:48:36.42,0:48:41.24,Default,,0000,0000,0000,,Forschungszentren, mit Datenzentren, mit\NSupercomputern und GPU Produktion. Es geht
Dialogue: 0,0:48:41.24,0:48:45.04,Default,,0000,0000,0000,,darum, wie viel Arbeitskraft und wie viel\NZeitaufwand gebunden ist. Nur um ein neues
Dialogue: 0,0:48:45.04,0:48:48.12,Default,,0000,0000,0000,,Netz zu forschen. Es geht darum, wie viel\NForschungsgelder darin investiert werden,
Dialogue: 0,0:48:48.12,0:48:51.16,Default,,0000,0000,0000,,mit denen man noch andere Dinge tun\Nkönnte. Es geht um endliche Ressourcen
Dialogue: 0,0:48:51.16,0:48:55.33,Default,,0000,0000,0000,,unserer Erde wie Metalle wie die\Nsogenannten Seltenen Erden oder wie Erdöl,
Dialogue: 0,0:48:55.33,0:48:59.99,Default,,0000,0000,0000,,die dafür gebraucht werden. Und es gibt\Nnoch so viel mehr. Das war nur ein ganz
Dialogue: 0,0:48:59.99,0:49:03.01,Default,,0000,0000,0000,,kleiner Einblick in das Thema, und es ist\Nganz wichtig: Es geht nicht nur um den
Dialogue: 0,0:49:03.01,0:49:07.29,Default,,0000,0000,0000,,Stromverbrauch. Die Awareness an der\NStelle ist noch viel zu niedrig, um
Dialogue: 0,0:49:07.29,0:49:11.70,Default,,0000,0000,0000,,darüber quantitativ Aussagen treffen zu\Nkönnen. Aber es ist auf jeden Fall ein
Dialogue: 0,0:49:11.70,0:49:15.53,Default,,0000,0000,0000,,Faktor. So viel wissen wir. Wir kommen\Ndamit auch schon zur Frage: Wie kann es
Dialogue: 0,0:49:15.53,0:49:21.89,Default,,0000,0000,0000,,eigentlich weitergehen?\NBenjamin: Wichtig ist, dass wir alle uns
Dialogue: 0,0:49:21.89,0:49:26.01,Default,,0000,0000,0000,,bewusst sind, dass wir die Verantwortung\Ntragen, wie es in dem Bereich weitergeht.
Dialogue: 0,0:49:26.01,0:49:30.01,Default,,0000,0000,0000,,Denn sowohl die Leute, die in diesem Land\Narbeiten, aber auch in allen Bereichen,
Dialogue: 0,0:49:30.01,0:49:35.58,Default,,0000,0000,0000,,die damit verbunden sind. Wir forschen.\NWir bauen Systeme. Wir sorgen dafür, dass
Dialogue: 0,0:49:35.58,0:49:40.29,Default,,0000,0000,0000,,solche Systeme weiter entstehen, dass sie\Nwichtiger werden, dass sie, obwohl wir
Dialogue: 0,0:49:40.29,0:49:43.24,Default,,0000,0000,0000,,wissen, dass zum Beispiel das alles der\NGeneralisierung, aus Vereinfachungen
Dialogue: 0,0:49:43.24,0:49:47.76,Default,,0000,0000,0000,,besteht. Dass sie trotzdem für Dinge\Neingesetzt werden. Wir sorgen dafür, dass
Dialogue: 0,0:49:47.76,0:49:54.18,Default,,0000,0000,0000,,unsere Sensorik, die wir in Autos\Nverbauen, irgendwelche 25 Gigabyte pro
Dialogue: 0,0:49:54.18,0:49:57.26,Default,,0000,0000,0000,,Stunde an Daten produzieren, die man dann\Nwieder auswerten, um daraus etwas machen
Dialogue: 0,0:49:57.26,0:50:02.93,Default,,0000,0000,0000,,kann. Wir sorgen dafür, dass Systeme\Noptimiert werden. Wir sorgen dafür, dass
Dialogue: 0,0:50:02.93,0:50:09.26,Default,,0000,0000,0000,,das gebaut werden für die Industrie, damit\Ndas komische Hautpflegeprodukten
Dialogue: 0,0:50:09.26,0:50:14.28,Default,,0000,0000,0000,,plötzlich KI optimiert ist. Das kann\Nman natürlich alles einfach so machen,
Dialogue: 0,0:50:14.28,0:50:18.69,Default,,0000,0000,0000,,weil man in dem Bereich gut Geld verdienen\Nkann. Ist aber vermutlich keine gute Idee,
Dialogue: 0,0:50:18.69,0:50:22.91,Default,,0000,0000,0000,,sondern man sollte sich wirklich\Nüberlegen: Was sind die Konsequenzen von
Dialogue: 0,0:50:22.91,0:50:27.49,Default,,0000,0000,0000,,dem Ganzen, und was müssten wir eigentlich\Nalle ändern, um dieses ganze Feld
Dialogue: 0,0:50:27.49,0:50:33.98,Default,,0000,0000,0000,,weiterzutreiben? Denn, das ist das Schöne,\Nzumindest im Forschungssektor. Es ist
Dialogue: 0,0:50:33.98,0:50:38.25,Default,,0000,0000,0000,,alles von der Community angetrieben. Es\Nist immer eine Entscheidung von allen
Dialogue: 0,0:50:38.25,0:50:44.01,Default,,0000,0000,0000,,Forscher in den ganzen Bereichen, ob sie\Ngenauso weitermachen oder ob sie ihre
Dialogue: 0,0:50:44.01,0:50:50.53,Default,,0000,0000,0000,,Arten schieben, ob sie anders agieren, ob\Nsie mehr und mehr auf solche Dinge achten
Dialogue: 0,0:50:50.53,0:50:54.03,Default,,0000,0000,0000,,oder eben nicht.\NNadja: Grundsätzlich um weiterzumachen,
Dialogue: 0,0:50:54.03,0:50:56.38,Default,,0000,0000,0000,,gerade um die gesellschaftlichen\NAuswirkungen des Themas zu beeinflussen.
Dialogue: 0,0:50:56.38,0:51:00.04,Default,,0000,0000,0000,,Was müssen wir anstreben? Wir müssen\NDiskurs anstreben. Wir müssen mit der
Dialogue: 0,0:51:00.04,0:51:03.16,Default,,0000,0000,0000,,gesamten Gesellschaft, mit einer riesigen\NBreite an Menschen darüber reden. Was
Dialogue: 0,0:51:03.16,0:51:05.77,Default,,0000,0000,0000,,wollen wir von diesen Systemen? Unter\Nwelchen Umständen machen wir das System?
Dialogue: 0,0:51:05.77,0:51:09.53,Default,,0000,0000,0000,,Was sind die Auflagen, die wir stellen,\Nwas akzeptabel und was nicht? Das
Dialogue: 0,0:51:09.53,0:51:12.35,Default,,0000,0000,0000,,funktioniert nicht, wenn diese\NEntscheidungen getroffen werden von fünf
Dialogue: 0,0:51:12.35,0:51:15.03,Default,,0000,0000,0000,,Leuten, die irgendwie ihre eigenen\NInteressen vertreten müssen. Das ist ein
Dialogue: 0,0:51:15.03,0:51:17.60,Default,,0000,0000,0000,,Diskurs, der auf jeden Fall in die\Ngesellschaftliche Breite gehen muss. Es
Dialogue: 0,0:51:17.60,0:51:20.87,Default,,0000,0000,0000,,gibt einfach keine klare Antwort, und die\NAntworten, die wir brauchen, die müssen
Dialogue: 0,0:51:20.87,0:51:24.11,Default,,0000,0000,0000,,wir zusammen finden. Wir müssen aber auch\NBildung auf allen Ebenen vorantreiben.
Dialogue: 0,0:51:24.11,0:51:28.08,Default,,0000,0000,0000,,Weil ich muss als Informatikerin auch die\Nethischen Auswirkungen eines Handelns
Dialogue: 0,0:51:28.08,0:51:33.02,Default,,0000,0000,0000,,bedenken. Ich muss auch dem Enduser sagen\Nkönnen, was das bedeutet, wenn er etwas
Dialogue: 0,0:51:33.02,0:51:36.59,Default,,0000,0000,0000,,einsetzt. Auch wenn er die technischen\NDetails nicht versteht, muss er in der
Dialogue: 0,0:51:36.59,0:51:40.22,Default,,0000,0000,0000,,Lage sein einzuschätzen, ob der Einsatz an\Nder Stelle sinnvoll ist und gerade auch
Dialogue: 0,0:51:40.22,0:51:43.29,Default,,0000,0000,0000,,die Menschen, die die Legislatur\Nvorantreiben. Diese Menschen sollte es auf
Dialogue: 0,0:51:43.29,0:51:46.27,Default,,0000,0000,0000,,jeden Fall geben müssen, genug davon\Nverstehen und auch wirklich einschätzen
Dialogue: 0,0:51:46.27,0:51:49.31,Default,,0000,0000,0000,,können, was sie da gerade erlauben oder\Nnicht erlauben, damit wir auch die
Dialogue: 0,0:51:49.31,0:51:54.02,Default,,0000,0000,0000,,positiven Aspekte solcher Felder mitnehmen\Nkönnen. Awareness ist ganz besonders
Dialogue: 0,0:51:54.02,0:51:57.12,Default,,0000,0000,0000,,wichtig, damit wir diesen Diskurs führen\Nkönnen. Damit wir diese Bildung
Dialogue: 0,0:51:57.12,0:52:00.15,Default,,0000,0000,0000,,vorantreiben kann, müssen wir darüber\Nreden: Wie funktionieren unsere Daten?
Dialogue: 0,0:52:00.15,0:52:03.01,Default,,0000,0000,0000,,Unter welchen Umständen verwenden wir sie?\NWo kommen die Modelle her? Wie
Dialogue: 0,0:52:03.01,0:52:05.99,Default,,0000,0000,0000,,funktionieren Erklärbarkeit und\NReproduzierbarkeit? Aber auch wer trägt
Dialogue: 0,0:52:05.99,0:52:08.99,Default,,0000,0000,0000,,die Verantwortung? Was sind die\NKonsequenzen? Und wie führen wir diesen
Dialogue: 0,0:52:08.99,0:52:13.78,Default,,0000,0000,0000,,Diskurs? Am Ende gilt: Wir müssen\Numdenken, statt nur zu folgen. Es
Dialogue: 0,0:52:13.78,0:52:17.06,Default,,0000,0000,0000,,funktioniert nicht, wenn wir einfach so\Nweitermachen wie bisher. Sondern wir
Dialogue: 0,0:52:17.06,0:52:21.01,Default,,0000,0000,0000,,müssen in manchen Dingen einfach\Ngrundlegend auch nochmal nachdenken. Viele
Dialogue: 0,0:52:21.01,0:52:24.43,Default,,0000,0000,0000,,dieser Maßnahmen sind tatsächlich doppelt\Nhilfreich, begünstigen sich gegenseitig.
Dialogue: 0,0:52:24.43,0:52:27.32,Default,,0000,0000,0000,,Wir stecken da nicht unbedingt in einem\NTeufelskreis. Wenn wir systematisch
Dialogue: 0,0:52:27.32,0:52:30.26,Default,,0000,0000,0000,,arbeiten, dann tun wir der\NReproduzierbarkeit gefallen. Aber auch
Dialogue: 0,0:52:30.26,0:52:33.91,Default,,0000,0000,0000,,unseren Ressourcenverbrauch, weil wir viel\Nweniger nochmal machen müssen, wenn wir
Dialogue: 0,0:52:33.91,0:52:36.94,Default,,0000,0000,0000,,die Alternativen zu Deep Learning auch\Nnutzen, tun wir der Erklärbarkeit
Dialogue: 0,0:52:36.94,0:52:39.82,Default,,0000,0000,0000,,Gefallen, aber auch der Datensparsamkeit.\NWahrscheinlich, wenn wir den Publications
Dialogue: 0,0:52:39.82,0:52:44.05,Default,,0000,0000,0000,,Druck senken und damit die Qualität in die\NHöhe schreiben. Dann fördern wir den
Dialogue: 0,0:52:44.05,0:52:46.62,Default,,0000,0000,0000,,wissenschaftlichen Anspruch, und wir\Nhelfen unserem Ressourcenverbrauch. Aber
Dialogue: 0,0:52:46.62,0:52:50.12,Default,,0000,0000,0000,,insgesamt ist unsere große Herausforderung\Nmomentan in der Gesellschaft verbreitete
Dialogue: 0,0:52:50.12,0:52:53.15,Default,,0000,0000,0000,,Unwissenheit, und das nicht richtig\Nreflektiert wird, was das für Auswirkungen
Dialogue: 0,0:52:53.15,0:52:57.50,Default,,0000,0000,0000,,hat, was wir machen und in welchen Skalen\Nbewegen. Damit sagen wir fürs Erste auch
Dialogue: 0,0:52:57.50,0:53:01.24,Default,,0000,0000,0000,,schon Danke, schön, dass Sie hier waren.\NWir haben uns wirklich gefreut gesagt. So
Dialogue: 0,0:53:01.24,0:53:04.24,Default,,0000,0000,0000,,dürfen wir hoffen. Wir geben ein paar\NDenkanstöße mit. Wir können dieses Thema
Dialogue: 0,0:53:04.24,0:53:07.07,Default,,0000,0000,0000,,nur sehr, sehr oberflächlich einsteigen in\N50 Minuten. Wir sind jetzt schon relativ
Dialogue: 0,0:53:07.07,0:53:10.06,Default,,0000,0000,0000,,weit in der Zeit. Trotzdem haben wir noch\Nein paar Minuten für Fragen, aber auch
Dialogue: 0,0:53:10.06,0:53:13.27,Default,,0000,0000,0000,,über den Vortrag hinaus. Sind wir da froh,\Nwenn Leute sich informieren,
Dialogue: 0,0:53:13.27,0:53:18.51,Default,,0000,0000,0000,,recherchieren, selbst kritisieren und\Nreflektieren oder auf uns zukommen.
Dialogue: 0,0:53:18.51,0:53:19.19,Default,,0000,0000,0000,,Dankeschön.
Dialogue: 0,0:53:19.19,0:53:25.01,Default,,0000,0000,0000,,{\i1}Applaus{\i0}
Dialogue: 0,0:53:25.01,0:53:28.83,Default,,0000,0000,0000,,Herald: Okay, alles klar. Wir haben noch\Nein paar Minuten Zeit für Fragen.
Dialogue: 0,0:53:28.83,0:53:33.21,Default,,0000,0000,0000,,Damit wir auch möglichst viele und zügig\Ndurchkommen. Bewegt euch doch bitte direkt
Dialogue: 0,0:53:33.21,0:53:37.52,Default,,0000,0000,0000,,zu den Mikrofonen. Und wir fangen direkt\Nhier mit Mikrofon 4 and.
Dialogue: 0,0:53:37.52,0:53:46.32,Default,,0000,0000,0000,,Mik 4: Ich versuche, mich kurz zu halten.\NKI für Autos ist ziemlich faszinierend,
Dialogue: 0,0:53:46.32,0:53:51.20,Default,,0000,0000,0000,,die unterscheidet zuverlässig zwischen\Neinem Baum und einem Verkehrsschild. Ich
Dialogue: 0,0:53:51.20,0:53:55.66,Default,,0000,0000,0000,,bin immer wieder enttäuscht, wenn ich KI\Nsehe für Suchmaschinenoptimierung, was ich
Dialogue: 0,0:53:55.66,0:54:01.76,Default,,0000,0000,0000,,da angeboten bekomme. Ich glaube, das\NProblem ist die Datengrundlage. Ein Baum,
Dialogue: 0,0:54:01.76,0:54:05.59,Default,,0000,0000,0000,,da gibts keine Diskussion. Das ist ein\NBaum. Was ist die schönste Website ist
Dialogue: 0,0:54:05.59,0:54:12.62,Default,,0000,0000,0000,,oder das nächstbeste Video? Das ist eine\NGeschmacksfrage. Worauf ich hinaus möchte:
Dialogue: 0,0:54:12.62,0:54:18.62,Default,,0000,0000,0000,,wäre es nicht sinnvoll oder dringend\Nnotwendig, darüber nachzudenken, wie die
Dialogue: 0,0:54:18.62,0:54:24.50,Default,,0000,0000,0000,,Trainingsdaten qualifiziert sind, ob man\Ndie qualitativ einsortieren sollte?
Dialogue: 0,0:54:24.50,0:54:30.28,Default,,0000,0000,0000,,Nadja: Ich stimme soweit absolut zu,\NTrainingstagendiskussion steht an. Müssen
Dialogue: 0,0:54:30.28,0:54:34.45,Default,,0000,0000,0000,,wir führen? Qualität ist extrem wichtig.\NDas Problem geht aber noch darüber hinaus.
Dialogue: 0,0:54:34.45,0:54:38.66,Default,,0000,0000,0000,,Zum einen die Frage mit dem Auto und dem\NFußgänger, wie uns der Überkräsch 2018
Dialogue: 0,0:54:38.66,0:54:41.74,Default,,0000,0000,0000,,gezeigt hat, gar nicht so trivial.\NFestgestellt haben die Annahme, dass
Dialogue: 0,0:54:41.74,0:54:45.15,Default,,0000,0000,0000,,Fußgänger nur auf dem Fußgängerüberweg zu\Nfinden ist, das vielleicht gar nicht so
Dialogue: 0,0:54:45.15,0:54:49.60,Default,,0000,0000,0000,,realistisch. Trivial ist es also nicht.\NNatürlich sind Suchmaschinen auch eine
Dialogue: 0,0:54:49.60,0:54:53.52,Default,,0000,0000,0000,,subjektive Entscheidung. Weil was ich\Nsuche, weiß am Ende nur ich. Jemand mit
Dialogue: 0,0:54:53.52,0:54:56.37,Default,,0000,0000,0000,,der gleichen Suchanfrage sucht vielleicht\Netwas anderes. Natürlich ist das Internet
Dialogue: 0,0:54:56.37,0:55:00.20,Default,,0000,0000,0000,,einfach eine extrem riesige Datenbasis mit\Nsehr unsauberen Daten. Das heißt, dass es
Dialogue: 0,0:55:00.20,0:55:02.64,Default,,0000,0000,0000,,eine völlig andere Herausforderung als\NBildklassifikation von autonomen
Dialogue: 0,0:55:02.64,0:55:06.47,Default,,0000,0000,0000,,Fahrzeugen. Grundsätzlich Trainingstagen,\NDiskussionen, aber auch über das Monopol
Dialogue: 0,0:55:06.47,0:55:09.64,Default,,0000,0000,0000,,von solchen Unternehmen, wie Google.\NGerade was Suchmaschinen angeht, müssen
Dialogue: 0,0:55:09.64,0:55:14.44,Default,,0000,0000,0000,,wir definitiv reden. Herald: Alles was,\Ndann machen wir direkt weiter mit einer
Dialogue: 0,0:55:14.44,0:55:18.64,Default,,0000,0000,0000,,Frage vom Signal-Engel aus dem Internet.\NSignal-Engel: Das Internet fragt: Sollen
Dialogue: 0,0:55:18.64,0:55:22.65,Default,,0000,0000,0000,,wir das mit dem Deep Learning dann\Neigentlich lieber lassen? Oder seht ihr
Dialogue: 0,0:55:22.65,0:55:26.82,Default,,0000,0000,0000,,auch sinnvolle Anwendungen, zum Beispiel\Num irgendeinen hohen Datenaufwand für
Dialogue: 0,0:55:26.82,0:55:31.03,Default,,0000,0000,0000,,freigiebige Nutzer irgendwie zu reduzieren\Nzum Beispiel.
Dialogue: 0,0:55:31.03,0:55:35.08,Default,,0000,0000,0000,,Benjamin: Es sein zu lassen, ist\Nsicherlich nicht der richtige Ansatz. Das
Dialogue: 0,0:55:35.08,0:55:39.34,Default,,0000,0000,0000,,zeigt sich ja, dass Deep Learming für\Nbestimmte Dinge sehr wertvoll ist. Wir
Dialogue: 0,0:55:39.34,0:55:43.43,Default,,0000,0000,0000,,haben jetzt Beispiele gezeigt, wo es gut\Nfunktioniert, schlechter funktioniert.
Dialogue: 0,0:55:43.43,0:55:48.34,Default,,0000,0000,0000,,Gerade bei komplexen Dingen haben wir\Nwenig Ansätze, die anders gut
Dialogue: 0,0:55:48.34,0:55:52.18,Default,,0000,0000,0000,,funktionieren. Die Verarbeitung\Nmenschlicher Sprache zum Beispiel hat
Dialogue: 0,0:55:52.18,0:55:55.71,Default,,0000,0000,0000,,einen Riesenschritt nach vorne gemacht\Ndurch die Deep Learning, weil menschliche
Dialogue: 0,0:55:55.71,0:55:59.25,Default,,0000,0000,0000,,Sprache so unglaublich komplex ist, dass\Nich mit allen bisherigen Ansatz, bei denen
Dialogue: 0,0:55:59.25,0:56:02.47,Default,,0000,0000,0000,,ich Silben zähle und Buchstaben vergleiche\Noder so etwas nicht so wirklich
Dialogue: 0,0:56:02.47,0:56:07.29,Default,,0000,0000,0000,,weiterkomme. Da brauche ich ganz viel\NWissen rein. Das heißt, man muss, aber man
Dialogue: 0,0:56:07.29,0:56:12.00,Default,,0000,0000,0000,,muss sich eben überlegen. Ist es für\Ndiesen Zweck der richtige Ansatz? Also,
Dialogue: 0,0:56:12.00,0:56:17.18,Default,,0000,0000,0000,,ich will das jetzt nicht pauschal\Nbeantworten. Das muss man sich gründlich
Dialogue: 0,0:56:17.18,0:56:21.58,Default,,0000,0000,0000,,überlegen. Das sollte sicher Message sein.\NNadja: Wir stellen im Prinzip nicht die
Dialogue: 0,0:56:21.58,0:56:24.15,Default,,0000,0000,0000,,Frage: Sollten wir die Planung verwenden,\Nsondern Wofür sollten wir es verwenden?
Dialogue: 0,0:56:24.15,0:56:29.15,Default,,0000,0000,0000,,Und was müssen wir vorher bedenken?\NHerald: Ich versuche, es mit den Fragen
Dialogue: 0,0:56:29.15,0:56:33.04,Default,,0000,0000,0000,,hier im Raum so halbwegs chronologisch zu\Nmachen. Aber mit Mikro 1 weiter.
Dialogue: 0,0:56:33.04,0:56:38.02,Default,,0000,0000,0000,,Mik 1: Eine Frage zur Reproduzierbarkeit.\NIch saß gerade in einem Lightening Talk,
Dialogue: 0,0:56:38.02,0:56:43.75,Default,,0000,0000,0000,,Da hatte jemand genau das Problem, das\Nnicht reproduzieren konnte. Eine seiner
Dialogue: 0,0:56:43.75,0:56:47.71,Default,,0000,0000,0000,,Hauptforderungen, um das zu beheben, war,\Ndas alles, was man braucht, zum
Dialogue: 0,0:56:47.71,0:56:51.57,Default,,0000,0000,0000,,Reproduzieren zur Verfügung gestellt wird\Nund dass das auch von Journals enforced
Dialogue: 0,0:56:51.57,0:56:56.92,Default,,0000,0000,0000,,wird. Über Reviews oder über irgendwelche\Nandere Sachen. Sieht Ihr, dass es
Dialogue: 0,0:56:56.92,0:57:00.84,Default,,0000,0000,0000,,irgendwelche Bestrebungen in diese\NRichtung gibt. Oder es ist ein zu großer
Dialogue: 0,0:57:00.84,0:57:05.28,Default,,0000,0000,0000,,Hype, als dass man da irgendwie eingreifen\Nkönnte sinnvoll.
Dialogue: 0,0:57:05.28,0:57:07.68,Default,,0000,0000,0000,,Benjamin: Es gibt, wie\Ngesagt,
Dialogue: 0,0:57:07.68,0:57:14.45,Default,,0000,0000,0000,,diese Sigel bei vielen Konferenzen,\Nsicherlich auch bei Journals. Je nach Feld
Dialogue: 0,0:57:14.45,0:57:17.26,Default,,0000,0000,0000,,in dem Bereich, hier wird gar nicht so\Nviel in Journals publiziert, weil man
Dialogue: 0,0:57:17.26,0:57:21.42,Default,,0000,0000,0000,,Konferenzen leichter hinkriegt. Und alles\Ngeht schneller, Journals dauert irgendwie
Dialogue: 0,0:57:21.42,0:57:25.28,Default,,0000,0000,0000,,immer zu lang. Es wäre\Nwünschenswert, dass da mehr passiert.
Dialogue: 0,0:57:25.28,0:57:29.77,Default,,0000,0000,0000,,Dafür müssen sich aber quasi\Ndiese Ältestenrates, die sich
Dialogue: 0,0:57:29.77,0:57:33.14,Default,,0000,0000,0000,,zusammensetzen und diese Konferenzen\Nplanen, organisieren, dafür entscheiden,
Dialogue: 0,0:57:33.14,0:57:38.03,Default,,0000,0000,0000,,dass für sie das auf der Liste auch so\Nweit oben ist, dass sie das erzwingen.
Dialogue: 0,0:57:38.03,0:57:41.44,Default,,0000,0000,0000,,Bisher ist es alles optional.\NWünschenswert wäre es definitiv.
Dialogue: 0,0:57:41.44,0:57:44.40,Default,,0000,0000,0000,,Nadja: Sicherlich reden wir doch in\Nirgendeiner Form über Regularien. Und
Dialogue: 0,0:57:44.40,0:57:46.62,Default,,0000,0000,0000,,dabei müssen wir dann immer noch\Nunterscheiden zwischen öffentlich
Dialogue: 0,0:57:46.62,0:57:50.29,Default,,0000,0000,0000,,geförderten Forschungseinrichtungen und\Nprivater Forschung. Das ist nämlich sehr
Dialogue: 0,0:57:50.29,0:57:54.93,Default,,0000,0000,0000,,unterschiedliche Herausforderungen.\NHerald: Okay, dann gehen wir gerade mal
Dialogue: 0,0:57:54.93,0:58:01.37,Default,,0000,0000,0000,,kurz zum Mikro Nr. 7 da ganz am Rand.\NMik 7: Hallo, danke für den Vortrag.
Dialogue: 0,0:58:01.37,0:58:05.82,Default,,0000,0000,0000,,Haltet ihr AGI für möglich? Und wann\Nkönnte es soweit sein?
Dialogue: 0,0:58:05.82,0:58:09.24,Default,,0000,0000,0000,,Nadja: AGI Omnipotenz, Intelligenz oder\N...
Dialogue: 0,0:58:09.24,0:58:14.03,Default,,0000,0000,0000,,Mik 7: Artifical General Intelligence.\NNadja: Momentaner Forschungsstand "Hell
Dialogue: 0,0:58:14.03,0:58:18.22,Default,,0000,0000,0000,,know". Das war eine relativ\Nunprofessionelle Antwort. Aber momentan
Dialogue: 0,0:58:18.22,0:58:20.53,Default,,0000,0000,0000,,haben wir hauptsächlich sehr\Nspezialisierte Expertensysteme, die genau
Dialogue: 0,0:58:20.53,0:58:25.46,Default,,0000,0000,0000,,ein detailreichen Task machen kann. Selbst\Nbei Sprachassistenzsystemen, die irgendwie
Dialogue: 0,0:58:25.46,0:58:29.53,Default,,0000,0000,0000,,ein Paar Tasks, die noch immer eine sehr\Neingeschränkte Menge machen, haben in
Dialogue: 0,0:58:29.53,0:58:32.89,Default,,0000,0000,0000,,aktuellen Forschungsstand zwar große\NFortschritte, aber man kann sie ja sehr
Dialogue: 0,0:58:32.89,0:58:36.80,Default,,0000,0000,0000,,einfach die Schwächen ausnutzen. Es gibt\Neine total spannende Professorin in USA,
Dialogue: 0,0:58:36.80,0:58:39.89,Default,,0000,0000,0000,,die sagt, gibt mir irgendeinen\NSprachverarbeitungsystem, in drei Fragen
Dialogue: 0,0:58:39.89,0:58:43.46,Default,,0000,0000,0000,,mache ich spätestens kaputt, und sie hat\Nes bisher immer geschafft. Wir haben
Dialogue: 0,0:58:43.46,0:58:47.47,Default,,0000,0000,0000,,momentan mit dem aktuellen Stand der\NTechnik ziemlich krasse Limitationen in
Dialogue: 0,0:58:47.47,0:58:51.98,Default,,0000,0000,0000,,den nächsten Jahren. Ich persönlich nicht\Nkommen. Grundsätzlich ist die künstliche
Dialogue: 0,0:58:51.98,0:58:55.48,Default,,0000,0000,0000,,Intelligenz aber auf allen Ebenen etwas,\Ndas sie im Auge behalten sollen. Also ich
Dialogue: 0,0:58:55.48,0:58:57.77,Default,,0000,0000,0000,,würde auch wiederum nicht behaupten, dass\Ndavon keinerlei Gefahr ausgeht.
Dialogue: 0,0:58:57.77,0:58:59.21,Default,,0000,0000,0000,,Benjamin: Es ist aber\Nauch nicht der
Dialogue: 0,0:58:59.21,0:59:01.99,Default,,0000,0000,0000,,zentrale Punkt zur Zeit. \NDas meiste, was, woran die Leute
Dialogue: 0,0:59:01.99,0:59:05.68,Default,,0000,0000,0000,,forschen, sind spezialisierte Systeme und\Nvielleicht noch zusätzliche Systeme, die
Dialogue: 0,0:59:05.68,0:59:09.25,Default,,0000,0000,0000,,vorne dran gestellt werden, die dann\Nentscheiden, an welches Teilsystem das
Dialogue: 0,0:59:09.25,0:59:14.19,Default,,0000,0000,0000,,Ganze weitergereicht wird. Aber daran zu\Nforschen, ein weltverstehendes System, was
Dialogue: 0,0:59:14.19,0:59:18.16,Default,,0000,0000,0000,,irgendwie auch noch beliebige Formate von\NAntworten geben kann, so sowas zu bauen,
Dialogue: 0,0:59:18.16,0:59:21.89,Default,,0000,0000,0000,,das gibt es sicherlich die Forschung. Aber\Nes ist nicht das, was irgendwie auch in
Dialogue: 0,0:59:21.89,0:59:25.77,Default,,0000,0000,0000,,den Publikationen Platz findet, weil man\Ndort überhaupt nicht soweit wäre und das
Dialogue: 0,0:59:25.77,0:59:29.24,Default,,0000,0000,0000,,andere einfach viel einfacher ist und man\Nda vielleicht was veröffentlichen kann.
Dialogue: 0,0:59:29.24,0:59:31.85,Default,,0000,0000,0000,,Wen das Fachliche interessiert, wäre das ein \Nschönes Einstiegspunt in das ein semantische
Dialogue: 0,0:59:31.85,0:59:34.82,Default,,0000,0000,0000,,Modellierung. Weil wir bei vielen\NKünstliche Intelligenzen darüber sprechen,
Dialogue: 0,0:59:34.82,0:59:37.72,Default,,0000,0000,0000,,ist das Allgemeinwissen,\NHintergrundwissen, diese ganzen Sachen
Dialogue: 0,0:59:37.72,0:59:40.78,Default,,0000,0000,0000,,fehlen und die Darstellung dafür auch. Das\Nist eine der großen Herausforderungen,
Dialogue: 0,0:59:40.78,0:59:44.32,Default,,0000,0000,0000,,so als Stichwort.\NHerald: Okay. Nehmen wir doch eine Frage
Dialogue: 0,0:59:44.32,0:59:47.64,Default,,0000,0000,0000,,aus dem Internet.\NSignal-Engel: Ich sage erst mal Liebe
Dialogue: 0,0:59:47.64,0:59:53.74,Default,,0000,0000,0000,,Grüße aus D. 120, das wisst ihr jetzt\Nbesser als ich. {\i1}Nadja lacht{\i0} Die Frage
Dialogue: 0,0:59:53.74,0:59:58.37,Default,,0000,0000,0000,,ist Ist die Reproduzierbarkeit nur oder\Ngerade im Deep Learning ein Problem, oder
Dialogue: 0,0:59:58.37,1:00:01.55,Default,,0000,0000,0000,,betrifft das nicht sogar große Teile der\Nmachienelearning Forschung?
Dialogue: 0,1:00:01.55,1:00:03.45,Default,,0000,0000,0000,,Nadja: Definitiv große Teile\Nder machiene learning
Dialogue: 0,1:00:03.45,1:00:05.43,Default,,0000,0000,0000,,Forschung. Ehrlich gesagt auch\Ndarüber hinaus.
Dialogue: 0,1:00:05.43,1:00:09.08,Default,,0000,0000,0000,,Reproduzierbarkeit ist bei\Nfast allen wissenschaftlichen
Dialogue: 0,1:00:09.08,1:00:12.27,Default,,0000,0000,0000,,Publikationen ein Faktor, es gibt nur die\NSachen, die dafür anfälliger und weniger
Dialogue: 0,1:00:12.27,1:00:15.27,Default,,0000,0000,0000,,anfällig sind. Gerade wenn man über\Ndigitale Themen reden. Aber an sich
Dialogue: 0,1:00:15.27,1:00:17.96,Default,,0000,0000,0000,,Reproduzierbarkeit ist immer in der\NForschung gewünscht und leider nicht weit
Dialogue: 0,1:00:17.96,1:00:20.87,Default,,0000,0000,0000,,genug verbreitet. Also defintiv die\Ngesamte Informatik generell.
Dialogue: 0,1:00:20.87,1:00:28.03,Default,,0000,0000,0000,,Benjamin: Generell vieles, was wir hier\Ngesagt haben, trifft auf machiene learning
Dialogue: 0,1:00:28.03,1:00:31.57,Default,,0000,0000,0000,,im Allgemeinen zu. Aber das Deep Learning,\Ngerade durch diese riesigen Datenmengen
Dialogue: 0,1:00:31.57,1:00:35.58,Default,,0000,0000,0000,,und so weiter. Da treten die Effekte\Nverstärken besonders auf. Deswegen haben
Dialogue: 0,1:00:35.58,1:00:38.64,Default,,0000,0000,0000,,wir uns hier darauf konzentriert. Aber man\Nkann es auch beliebig...
Dialogue: 0,1:00:38.64,1:00:41.77,Default,,0000,0000,0000,,Nadja: Und gerade weil es ein Passwort\Nist, macht es auch nochmal
Dialogue: 0,1:00:41.77,1:00:45.75,Default,,0000,0000,0000,,anfälliger dafür .\NHerald: Ok, dann Mikrophon Nr. 8.
Dialogue: 0,1:00:45.75,1:00:51.17,Default,,0000,0000,0000,,Mik 8: Daran anschließend. Ich hab\Nirgendwie das Gefühl, dass es ein großer
Dialogue: 0,1:00:51.17,1:00:56.48,Default,,0000,0000,0000,,Teil auch Publicationsbios ist, wo so\Nlange gespielt wird an den Daten, bis
Dialogue: 0,1:00:56.48,1:01:02.78,Default,,0000,0000,0000,,irgendwie ein Ergebnis raus kommt. Und ich\Nhab, es ist so einen Trend in der Psychologie, wo
Dialogue: 0,1:01:02.78,1:01:06.08,Default,,0000,0000,0000,,die das Problem ganz massiv hatten. Und\Ndie haben das dadurch gelöst, dass die
Dialogue: 0,1:01:06.08,1:01:10.51,Default,,0000,0000,0000,,sagen, Hey, ich muss die Studien bei\Nmanchen Journals vorregistrieren, so: Dass
Dialogue: 0,1:01:10.51,1:01:14.52,Default,,0000,0000,0000,,sind meine. Das möchte ich machen. Und\Ndann kommt am Ende vielleicht ein
Dialogue: 0,1:01:14.52,1:01:19.56,Default,,0000,0000,0000,,negativer Ergebnis raus. Gibt es da\NBemühungen, machiene learning, sodass man
Dialogue: 0,1:01:19.56,1:01:24.73,Default,,0000,0000,0000,,sagt: Ich publiziere den Korpus vorher,\Nden ich auf dem ich lernen will, und wenn
Dialogue: 0,1:01:24.73,1:01:28.02,Default,,0000,0000,0000,,dann nichts funktioniert, dann ist das\Nhalt so.
Dialogue: 0,1:01:28.02,1:01:29.49,Default,,0000,0000,0000,,Nadja: Ich würde \Nsagen, es ist relativ schwer
Dialogue: 0,1:01:29.49,1:01:32.51,Default,,0000,0000,0000,,zu beantworten für den Bereich,\Nweil es vielleicht nicht ganz so
Dialogue: 0,1:01:32.51,1:01:36.75,Default,,0000,0000,0000,,funktioniert. Ein Datenkorpus zu\Npublizieren an sich. Es gibt zum Daten
Dialogue: 0,1:01:36.75,1:01:40.80,Default,,0000,0000,0000,,Konferenzen, die sich einfach auf sowas\Nkonzentrieren. Aber auf einem Korpus kann
Dialogue: 0,1:01:40.80,1:01:46.46,Default,,0000,0000,0000,,ich sehr viele Dinge tun, und dadurch\Nhilft mir das noch nicht unbedingt. Ich
Dialogue: 0,1:01:46.46,1:01:50.90,Default,,0000,0000,0000,,glaube, dass da die Fragestellung einfach\Nkomplexer ist. Ich kenne keine konkreten
Dialogue: 0,1:01:50.90,1:01:53.45,Default,,0000,0000,0000,,Bemühungen, die jetzt in eine Richtung\Ngehen. Ich fände es wünschenswert...
Dialogue: 0,1:01:53.45,1:01:58.77,Default,,0000,0000,0000,,Benjamin: Es wäre definitiv wünschenswert.\NAber es wird in der Form kaum gemacht. Es
Dialogue: 0,1:01:58.77,1:02:03.20,Default,,0000,0000,0000,,sind eben keine. Ich bin bisher fast\Nnirgendwo. Oder bei den großen
Dialogue: 0,1:02:03.20,1:02:08.07,Default,,0000,0000,0000,,Konferenzen bin ich niemals gezwungen,\Nvorher zu sagen, was ich glaube, wie es
Dialogue: 0,1:02:08.07,1:02:13.14,Default,,0000,0000,0000,,ausgeht, sondern ich liefere erst wenn ich\Nmein Ergebnis vorstelle, sage ich, was da
Dialogue: 0,1:02:13.14,1:02:17.51,Default,,0000,0000,0000,,rauskommt und welche Fehlschläge ich hatte\Nund ob ich überhaupt verklausuliert ins
Dialogue: 0,1:02:17.51,1:02:20.54,Default,,0000,0000,0000,,Paper reinschreiben oder ob es komplett\Nsein lasse. Da zwingt mich niemand zu.
Dialogue: 0,1:02:20.54,1:02:24.20,Default,,0000,0000,0000,,Nadja: Es gibt ein paar Bestrebungen, die\NPublikation von Fehlschlägen oder
Dialogue: 0,1:02:24.20,1:02:28.23,Default,,0000,0000,0000,,Messergebnissen zu machen. Aber auch das\Nwird immer noch von so vielen Leuten
Dialogue: 0,1:02:28.23,1:02:31.51,Default,,0000,0000,0000,,belächelt, so als Unterhaltungsmedium mehr\Nals ernst zu nehmende Wissenschaft. Das
Dialogue: 0,1:02:31.51,1:02:34.11,Default,,0000,0000,0000,,glaube ich auch ein Problem, weil \Ndadurch die gleichen
Dialogue: 0,1:02:34.11,1:02:36.19,Default,,0000,0000,0000,,Fehler z.B. im machiene learning, \Ngerade wo wir nicht
Dialogue: 0,1:02:36.19,1:02:38.44,Default,,0000,0000,0000,,systematisch arbeiten,\Nsondern auch ein bisschen nach
Dialogue: 0,1:02:38.44,1:02:42.19,Default,,0000,0000,0000,,Bauchgefühl gehen müssen, wiederholt\Nwerden, was eigentlich unmöglich ist.
Dialogue: 0,1:02:42.19,1:02:46.05,Default,,0000,0000,0000,,Dieser typische Satz, das weiß man doch,\Ndass der Ansatz da nicht funktioniert.
Dialogue: 0,1:02:46.05,1:02:48.01,Default,,0000,0000,0000,,Woher soll man das wissen, wenn \Nman noch studiert?
Dialogue: 0,1:02:48.01,1:02:54.24,Default,,0000,0000,0000,,Herald: Okay, wir haben noch Zeit für eine\Nkurze Frage und gehen zum Mikrofon 5.
Dialogue: 0,1:02:54.24,1:03:01.57,Default,,0000,0000,0000,,Mik 5: Ich will ein paar Details zu dieser\NBeschreibung von Black Box Wissen. Ich
Dialogue: 0,1:03:01.57,1:03:08.56,Default,,0000,0000,0000,,weiß, dass man durch featuremaps das\NNetzwerk untersuchen kann, und wollte
Dialogue: 0,1:03:08.56,1:03:14.37,Default,,0000,0000,0000,,wissen, was hier eine Blackbox, weil es\Nist nicht so Black entscheidend.
Dialogue: 0,1:03:14.37,1:03:18.39,Default,,0000,0000,0000,,Nadja: Es kommt drauf an wie die Systeme\Ngebaut sind. Es gibt zum Beispiel einen
Dialogue: 0,1:03:18.39,1:03:23.62,Default,,0000,0000,0000,,Ansatz von Explainable Neural Netz (ExNN),\Ndurchaus Valides Konzepts, und es wird
Dialogue: 0,1:03:23.62,1:03:28.92,Default,,0000,0000,0000,,auch eingesetzt. Es gibt aber auch\NArchitekturen, die per se erst einmal
Dialogue: 0,1:03:28.92,1:03:33.54,Default,,0000,0000,0000,,völlig unlesbar sind, und die Ansätze, die\Ndarauf existierende Erklärbarkeit
Dialogue: 0,1:03:33.54,1:03:37.35,Default,,0000,0000,0000,,reinzubringen, sind noch sehr beschränkt.\NEs gibt sie. Sie tun auch sinnvolle Dinge
Dialogue: 0,1:03:37.35,1:03:41.22,Default,,0000,0000,0000,,im Bereich, aber zum Beispiel beschränken\Nsie sich oft nur auf den Bereich des
Dialogue: 0,1:03:41.22,1:03:44.65,Default,,0000,0000,0000,,eigentlichen Modells, was trainiert wurde.\NDie Pipeline der Maschinenlearning ist aber
Dialogue: 0,1:03:44.65,1:03:49.09,Default,,0000,0000,0000,,viel länger. Die beginnt ja schon bei der\NDatenerhebung, bei der Auswahl, bei der
Dialogue: 0,1:03:49.09,1:03:52.08,Default,,0000,0000,0000,,Verarbeitung. Bei der Auswahl der\NFeatures, aber auch beim PostProcessing,
Dialogue: 0,1:03:52.08,1:03:56.20,Default,,0000,0000,0000,,bei Evaluationsmetriken und so weiter. \NDas sind alles irgendwo Stellschrauben für
Dialogue: 0,1:03:56.20,1:04:00.42,Default,,0000,0000,0000,,Erklärbarkeit. Wir haben da auf jeden Fall\Nnoch einen weiten Weg vor uns. Aber klar,
Dialogue: 0,1:04:00.42,1:04:03.20,Default,,0000,0000,0000,,es gibt Bestrebungen in die Richtung, die\Nauch durchaus funktionieren
Dialogue: 0,1:04:03.20,1:04:05.66,Default,,0000,0000,0000,,für das, wofür Sie gedacht sind.\NHerald: Okay, dann sind wir am Ende der
Dialogue: 0,1:04:05.66,1:04:11.20,Default,,0000,0000,0000,,Zeit angekommen. Vielen Dank nochmal Nadja\Nund Benjamin.
Dialogue: 0,1:04:11.20,1:04:15.56,Default,,0000,0000,0000,,{\i1}Applaus{\i0}
Dialogue: 0,1:04:15.56,1:04:34.64,Default,,0000,0000,0000,,{\i1}36c3 Abspannmusik{\i0}
Dialogue: 0,1:04:34.64,1:04:38.78,Default,,0000,0000,0000,,Untertitel erstellt von c3subtitles.de\Nim Jahr 2020. Mach mit und hilf uns!