[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:15.72,0:00:21.53,Default,,0000,0000,0000,,Herald-Angel: Der nächste Vortrag ist\N„Beeinflussung durch Künstliche
Dialogue: 0,0:00:21.53,0:00:27.17,Default,,0000,0000,0000,,Intelligenz". Es ist ein\NEinführungsvortrag, also einer der
Dialogue: 0,0:00:27.17,0:00:31.58,Default,,0000,0000,0000,,explizit dazu gedacht ist, dass ihr das\Nohne Vorkenntnisse versteht. Und es geht
Dialogue: 0,0:00:31.58,0:00:41.16,Default,,0000,0000,0000,,ums Maschinelle Lernen. Unsere Sprecher\Nsind die Karen – sie forscht in Amsterdam
Dialogue: 0,0:00:41.16,0:00:47.73,Default,,0000,0000,0000,,an Maschinellem Lernen, kommt ursprünglich\Naus Leipzig – und der Hendrik Heuer, der
Dialogue: 0,0:00:47.73,0:00:55.44,Default,,0000,0000,0000,,in Bremen an Mensch-Computer-Interaktion\Nforscht. Großes Willkommen für die beiden!
Dialogue: 0,0:00:55.44,0:01:03.19,Default,,0000,0000,0000,,{\i1}Applaus{\i0}
Dialogue: 0,0:01:03.19,0:01:06.93,Default,,0000,0000,0000,,Hendrik Heuer: Vielen Dank! Moin erstmal!\NWillkommen zu unserem Vortrag
Dialogue: 0,0:01:06.93,0:01:10.91,Default,,0000,0000,0000,,„Beeinflussung durch Künstliche\NIntelligenz" über die Banalität der
Dialogue: 0,0:01:10.91,0:01:14.92,Default,,0000,0000,0000,,Beeinflussung und das Leben mit\NAlgorithmen. Wir würden gern mit einem
Dialogue: 0,0:01:14.92,0:01:19.98,Default,,0000,0000,0000,,Zitat von Kate Crawford beginnen. Kate\NCrawford ist die Gründerin des AI Now
Dialogue: 0,0:01:19.98,0:01:23.84,Default,,0000,0000,0000,,Institut das die sozialen Auswirkungen von\Nkünstlicher Intelligenz untersucht. Sie
Dialogue: 0,0:01:23.84,0:01:28.09,Default,,0000,0000,0000,,ist außerdem ein Principal Researcher bei\NMicrosoft Research und Professorin an der
Dialogue: 0,0:01:28.09,0:01:33.84,Default,,0000,0000,0000,,New York University. Und die hat beim AI\NNow Symposium in diesem Jahr gesagt: „Die
Dialogue: 0,0:01:33.84,0:01:37.17,Default,,0000,0000,0000,,Menschen befürchten, dass Computer zu\Nintelligent werden und die Welt erobern.
Dialogue: 0,0:01:37.17,0:01:42.55,Default,,0000,0000,0000,,Aber Computer sind zu dumm und haben die\NWelt bereits erobert." Wir teilen diese
Dialogue: 0,0:01:42.55,0:01:47.42,Default,,0000,0000,0000,,Ansicht. Es gibt keine digitale Welt. Die\NWelt ist digital, das heißt durch digitale
Dialogue: 0,0:01:47.42,0:01:51.80,Default,,0000,0000,0000,,Medien konstruiert. Und uns war es ein\NAnliegen, einige englischsprachige
Dialogue: 0,0:01:51.80,0:01:55.66,Default,,0000,0000,0000,,Diskussion jetzt nochmal auf Deutsch\Nzusammenzuführen. Es können also Beispiele
Dialogue: 0,0:01:55.66,0:02:00.70,Default,,0000,0000,0000,,kommen die der eine oder andere vielleicht\Nschon kennt. Aber wir führen sie hier
Dialogue: 0,0:02:00.70,0:02:05.39,Default,,0000,0000,0000,,nochmal zusammen und versuchen sie zu\Nkontextualisieren. Warum Banalität der
Dialogue: 0,0:02:05.39,0:02:09.88,Default,,0000,0000,0000,,Überwachung? Banalität, weil die Systeme\Ndes maschinellen Lernens im Kern sehr
Dialogue: 0,0:02:09.88,0:02:14.52,Default,,0000,0000,0000,,simpel sind, weil aber auch die\NBeeinflussung sehr subtil sein kann und
Dialogue: 0,0:02:14.52,0:02:17.08,Default,,0000,0000,0000,,das Ganze ist auch eine Reminiszenz an\NHannah Arendt.
Dialogue: 0,0:02:17.08,0:02:21.33,Default,,0000,0000,0000,,Noch mal kurz zu uns. Wie gesagt: Ich\Nwerde die ersten 20 Minuten sprechen über
Dialogue: 0,0:02:21.33,0:02:25.28,Default,,0000,0000,0000,,die Mensch-Computer-Interaktions-\NPerspektive, Karen Ullrich wird die zweite
Dialogue: 0,0:02:25.28,0:02:29.17,Default,,0000,0000,0000,,Hälfte bestreiten. Karen ist\Nwissenschaftliche Mitarbeiterin in
Dialogue: 0,0:02:29.17,0:02:33.92,Default,,0000,0000,0000,,Amsterdam, im Amsterdam Machine Learning\NLab, und sie forscht direkt zu den
Dialogue: 0,0:02:33.92,0:02:37.66,Default,,0000,0000,0000,,Algorithmen des maschinellen Lernens,\Ninsbesondere Bayesian methods, also ein
Dialogue: 0,0:02:37.66,0:02:41.95,Default,,0000,0000,0000,,Hintergrund im Deep Learning und der\NInformationstheorie. Ich bin
Dialogue: 0,0:02:41.95,0:02:46.47,Default,,0000,0000,0000,,wissenschaftlicher Mitarbeiter im Institut\Nfür Informationsmanagement Bremen und mir
Dialogue: 0,0:02:46.47,0:02:50.00,Default,,0000,0000,0000,,geht es um die Nutzererfahrung von\NMaschine Learning, insbesondere das
Dialogue: 0,0:02:50.00,0:02:56.38,Default,,0000,0000,0000,,Vertrauen. Wir würden jetzt gerne anfangen\Nmit einem Beispiel, das jeder kennt: Spam-
Dialogue: 0,0:02:56.38,0:02:59.99,Default,,0000,0000,0000,,Erkennung. Benutzt wahrscheinlich jeder\Nhier. Funktioniert auch nicht immer. Aber
Dialogue: 0,0:02:59.99,0:03:03.09,Default,,0000,0000,0000,,man muss sich wirklich vor Augen führen,\Ndass es eine beeindruckende technische
Dialogue: 0,0:03:03.09,0:03:07.10,Default,,0000,0000,0000,,Leistung ist, auch wenn es manchmal nicht\Nfunktioniert. Und wir nehmen es hier, um
Dialogue: 0,0:03:07.10,0:03:11.62,Default,,0000,0000,0000,,den Unterschied zwischen imperativer\NProgrammierung und maschinellem Lernen zu
Dialogue: 0,0:03:11.62,0:03:16.54,Default,,0000,0000,0000,,verdeutlichen. Imperative Programmierung\Nist das, woran wahrscheinlich jeder denkt,
Dialogue: 0,0:03:16.54,0:03:18.48,Default,,0000,0000,0000,,wenn er an Informatik und Programmierung\Ndenkt.
Dialogue: 0,0:03:18.48,0:03:21.94,Default,,0000,0000,0000,,Es geht um Regeln und Anweisungen: Wenn X
Dialogue: 0,0:03:21.94,0:03:26.43,Default,,0000,0000,0000,,dann Y. Das Wort Imperativ für Befehl\Nsteckt ja auch schon im Namen. Und wenn
Dialogue: 0,0:03:26.43,0:03:30.21,Default,,0000,0000,0000,,wir jetzt Spam imperativ erkennen wollen\Nwürden, dann würde man zum Beispiel
Dialogue: 0,0:03:30.21,0:03:34.14,Default,,0000,0000,0000,,gucken, Okay das Wort Viagra wird so\Ngeschrieben in der Nachricht vorkommen,
Dialogue: 0,0:03:34.14,0:03:39.21,Default,,0000,0000,0000,,dann ist es eine Spam-Nachricht.\NAndererseits ist es eine gutartige
Dialogue: 0,0:03:39.21,0:03:43.71,Default,,0000,0000,0000,,Nachricht. Maschinelles Lernen ist jetzt\Nein komplett anderer Ansatz. Da hat man
Dialogue: 0,0:03:43.71,0:03:49.04,Default,,0000,0000,0000,,eine Vorhersage die man iterativ, also\Nimmer und immer wieder, verbessert. Für
Dialogue: 0,0:03:49.04,0:03:53.00,Default,,0000,0000,0000,,die Spam-Klassifikation versucht man zum\NBeispiel Kombinationen von Wörtern zu
Dialogue: 0,0:03:53.00,0:03:56.90,Default,,0000,0000,0000,,finden, durch die es wahrscheinlich wird,\Ndass es sich um Spam handelt.
Dialogue: 0,0:03:56.90,0:04:02.16,Default,,0000,0000,0000,,Der Kernbegriff ist hier also wahrscheinlich. Und\Ndas sieht dann so aus, dass man für viele
Dialogue: 0,0:04:02.16,0:04:07.40,Default,,0000,0000,0000,,verschiedene Beispiele prognostiziert, ob\Neine Nachricht Spam ist oder nicht. Dann
Dialogue: 0,0:04:07.40,0:04:12.01,Default,,0000,0000,0000,,berechnet man Fehler mit einer geeigneten\NFehlerfunktion und dann ändert man seine
Dialogue: 0,0:04:12.01,0:04:16.72,Default,,0000,0000,0000,,Parameter, um den Fehler zu verringern und\Ngeht wieder zum ersten Schritt und macht
Dialogue: 0,0:04:16.72,0:04:21.59,Default,,0000,0000,0000,,das immer und immer wieder. Natürlich ist\Nes nicht ganz so einfach, diesen Fehler zu
Dialogue: 0,0:04:21.59,0:04:24.63,Default,,0000,0000,0000,,berechnen, und auch die Parameter zu\Nverändern, ist ein eigenes
Dialogue: 0,0:04:24.63,0:04:28.03,Default,,0000,0000,0000,,Forschungsgebiet. Aber im Kern ist es\Nwirklich so simpel wie wir es hier
Dialogue: 0,0:04:28.03,0:04:33.08,Default,,0000,0000,0000,,darstellen. Und deswegen ist es spannend\Nim Hinterkopf zu behalten. Dabei ist es
Dialogue: 0,0:04:33.08,0:04:36.72,Default,,0000,0000,0000,,aber spannend im Hinterkopf zu behalten,\Ndass Spam-Erkennen nicht mit
Dialogue: 0,0:04:36.72,0:04:40.79,Default,,0000,0000,0000,,Textverständnis gleichzusetzen ist. Das\Nheißt der Algorithmus muss nicht erst
Dialogue: 0,0:04:40.79,0:04:45.03,Default,,0000,0000,0000,,Kafka verstehen können, um zu erkennen, ob\Netwas Spam ist oder nicht. Und dieses
Dialogue: 0,0:04:45.03,0:04:48.96,Default,,0000,0000,0000,,Problem, dass etwas wirkungsvoller\Naussieht als es vermeintlich ist, wird uns
Dialogue: 0,0:04:48.96,0:04:54.84,Default,,0000,0000,0000,,im Laufe des Vortrags noch begegnen.\NWir haben jetzt ein weiteres, immer noch
Dialogue: 0,0:04:54.84,0:04:58.70,Default,,0000,0000,0000,,vereinfachtes Beispiel für eine\NEntscheidungshilfe, hier aus der Medizin.
Dialogue: 0,0:04:58.70,0:05:03.96,Default,,0000,0000,0000,,Das Ziel ist hier die Erkennung von\NBrustkrebs. Statt Wörtern wie beim Spam
Dialogue: 0,0:05:03.96,0:05:09.66,Default,,0000,0000,0000,,haben wir verschiedene Features, das heißt\NCharakteristika, an denen man zum Beispiel
Dialogue: 0,0:05:09.66,0:05:14.76,Default,,0000,0000,0000,,gutartigen von bösartigem Brustkrebs\Nunterscheiden kann. Dazu gehören hier der
Dialogue: 0,0:05:14.76,0:05:20.85,Default,,0000,0000,0000,,Radius, die Textur, Umfang, Fläche, Glätte\Naber auch so Sachen wie die Symmetrie und
Dialogue: 0,0:05:20.85,0:05:25.78,Default,,0000,0000,0000,,die Zahl konkaver Punkte, also nach innen\Ngewölbter Punkte, das seht ihr hier oben.
Dialogue: 0,0:05:25.78,0:05:30.61,Default,,0000,0000,0000,,Insgesamt gibt es in diesem vereinfachten\NDatensatz 32 verschiedene Charakteristika.
Dialogue: 0,0:05:30.61,0:05:36.26,Default,,0000,0000,0000,,Und wenn wir jetzt zwei Charakteristika\Nwie z.B. die durchschnittliche Zahl der
Dialogue: 0,0:05:36.26,0:05:41.19,Default,,0000,0000,0000,,konkaven Punkte und die durchschnittliche\NFläche in Pixeln anschauen und abtragen,
Dialogue: 0,0:05:41.19,0:05:45.45,Default,,0000,0000,0000,,dann erkennt man eine deutliche Tendenz:\NAb einem bestimmten Punkt – ab einer
Dialogue: 0,0:05:45.45,0:05:48.52,Default,,0000,0000,0000,,bestimmten Zahl Punkte und ab einer\Nbestimmten Fläche – sehen wir nur noch
Dialogue: 0,0:05:48.52,0:05:54.00,Default,,0000,0000,0000,,bösartigen Brustkrebs. Das heißt\Nmathematisch können wir im Beispiel
Dialogue: 0,0:05:54.00,0:05:58.09,Default,,0000,0000,0000,,einfach eine Linie durch diesen Datensatz\Nziehen und das ist eine sogenannte
Dialogue: 0,0:05:58.09,0:06:02.17,Default,,0000,0000,0000,,Entscheidungsgrenze, die Decision-\NBoundary. Die Entscheidungsgrenze muss
Dialogue: 0,0:06:02.17,0:06:05.00,Default,,0000,0000,0000,,nicht linear sein, es muss nicht eine\Neinfache Linie sein.
Dialogue: 0,0:06:05.00,0:06:10.14,Default,,0000,0000,0000,,Die kann durchaus komplexer sein und in\Nder Regel ist sie das. Und dieser Ansatz
Dialogue: 0,0:06:10.14,0:06:14.65,Default,,0000,0000,0000,,ist durchaus analog zu dem, was eine\Nerfahrene Ärztin oder ein erfahrener Arzt
Dialogue: 0,0:06:14.65,0:06:18.53,Default,,0000,0000,0000,,mehr oder weniger bewusst machen würde.\NDie haben auch aus Erfahrung gelernt: ab
Dialogue: 0,0:06:18.53,0:06:23.80,Default,,0000,0000,0000,,der Größe, und ab der Fläche und der Zahl\Nist es wahrscheinlich bösartig oder
Dialogue: 0,0:06:23.80,0:06:27.48,Default,,0000,0000,0000,,gutartig. Der Clou am Maschinellen Lernen\Nist jetzt, dass wir das für viele
Dialogue: 0,0:06:27.48,0:06:31.62,Default,,0000,0000,0000,,verschiedene Charakteristika gleichzeitig\Nmachen können. Und darüber hinaus
Dialogue: 0,0:06:31.62,0:06:36.06,Default,,0000,0000,0000,,profitieren wir sehr stark davon, wenn wir\Nmehr Daten haben, weil wir dadurch bessere
Dialogue: 0,0:06:36.06,0:06:38.56,Default,,0000,0000,0000,,Entscheidungen treffen können. Weil wir\Neine bessere Entscheidungsgrenze finden.
Dialogue: 0,0:06:38.56,0:06:45.34,Default,,0000,0000,0000,,Ihr seht aber auch, dass eine gute Zahl an\Nroten und blauen Punkten im Beispiel auf
Dialogue: 0,0:06:45.34,0:06:49.87,Default,,0000,0000,0000,,der falschen Seite der Grenze liegen.\NDas heißt dort machen wir Fehler und da
Dialogue: 0,0:06:49.87,0:06:53.30,Default,,0000,0000,0000,,muss man im Hinterkopf behalten, dass es\Nverschiedene Arten von Fehlern gibt und
Dialogue: 0,0:06:53.30,0:06:57.01,Default,,0000,0000,0000,,die auch verschiedene Auswirkungen haben.\NFalls ich zum Beispiel jemandem mit
Dialogue: 0,0:06:57.01,0:07:02.67,Default,,0000,0000,0000,,gutartigen Brustkrebs fälschlicherweise\Nsage, dass ihr Brustkrebs bösartig ist,
Dialogue: 0,0:07:02.67,0:07:07.87,Default,,0000,0000,0000,,löst das sicherlich Stress aus und ist\Nkeine angenehme Situation. Falls ich aber
Dialogue: 0,0:07:07.87,0:07:11.56,Default,,0000,0000,0000,,jemanden mit bösartigem Brustkrebs\Nfälschlicherweise sage, dass ihr
Dialogue: 0,0:07:11.56,0:07:15.13,Default,,0000,0000,0000,,Brustkrebs gutartig ist und sie auch\Nentsprechend behandle, kann das deutlich
Dialogue: 0,0:07:15.13,0:07:19.90,Default,,0000,0000,0000,,schlimmere Konsequenzen haben. Das ist\Njetzt natürlich ein vereinfachtes
Dialogue: 0,0:07:19.90,0:07:24.90,Default,,0000,0000,0000,,Beispiel. Aber gleichzeitig werden wir\Nzeigen, dass ähnliche Entscheidungshilfen
Dialogue: 0,0:07:24.90,0:07:29.21,Default,,0000,0000,0000,,durchaus in sehr kritischen Bereichen\Ngenutzt werden. Vorher wollen wir noch
Dialogue: 0,0:07:29.21,0:07:33.75,Default,,0000,0000,0000,,einmal die Wirkungsmacht von Big Data\Nzeigen und da geht es darum,
Dialogue: 0,0:07:33.75,0:07:39.80,Default,,0000,0000,0000,,Persönlichkeitsmerkmale zu erkennen. Das\Nheißt hier nimmt man digitale Spuren wie
Dialogue: 0,0:07:39.80,0:07:43.96,Default,,0000,0000,0000,,Facebook-Likes, die relativ einfach\Nzugänglich sind, es aber ermöglichen,
Dialogue: 0,0:07:43.96,0:07:47.46,Default,,0000,0000,0000,,hochgradig sensible\NPersönlichkeitsmerkmale vorherzusagen.
Dialogue: 0,0:07:47.46,0:07:54.38,Default,,0000,0000,0000,,Das ist ein Paper von 2013 und für die\NStudie haben sie 58.000 Freiwillige in den
Dialogue: 0,0:07:54.38,0:07:58.06,Default,,0000,0000,0000,,USA gefunden, die eine Facebook-App\Nbenutzt haben. Und die haben dieser
Dialogue: 0,0:07:58.06,0:08:02.12,Default,,0000,0000,0000,,Facebook-App ihr komplettes Profil zur\NVerfügung gestellt mit allen Likes aber
Dialogue: 0,0:08:02.12,0:08:06.06,Default,,0000,0000,0000,,auch mit allen Informationen wie zum\NBeispiel der sexuellen Orientierung oder
Dialogue: 0,0:08:06.06,0:08:10.54,Default,,0000,0000,0000,,der religiösen Zugehörigkeit. Was jetzt\Ngemacht wurde ist mit einem sehr einfachen
Dialogue: 0,0:08:10.54,0:08:16.70,Default,,0000,0000,0000,,Modell, mit einem einfachen Regressions-\NModell, vorhergesagt, von welchen Likes,
Dialogue: 0,0:08:16.70,0:08:21.27,Default,,0000,0000,0000,,ob man anhand der Likes bestimmte\NPersönlichkeitsmerkmale erkennen kann. Und
Dialogue: 0,0:08:21.27,0:08:26.57,Default,,0000,0000,0000,,es zeigt sich, dass man zum Beispiel mit\N95-prozentiger Genauigkeit erkennen kann,
Dialogue: 0,0:08:26.57,0:08:32.62,Default,,0000,0000,0000,,ob jemand weiß oder afroamerikanisch ist.\NSexuelle Orientierung kann man auch mit
Dialogue: 0,0:08:32.62,0:08:38.100,Default,,0000,0000,0000,,sehr hoher Genauigkeit nur anhand der\NLikes erkennen, das Geschlecht, die
Dialogue: 0,0:08:38.100,0:08:44.35,Default,,0000,0000,0000,,politische Orientierung, die religiöse\NZugehörigkeit, aber auch so Sachen wie die
Dialogue: 0,0:08:44.35,0:08:49.10,Default,,0000,0000,0000,,Drogenerfahrung und der Familienstand der\NEltern in der Kindheit.
Dialogue: 0,0:08:49.10,0:08:53.97,Default,,0000,0000,0000,,Und ihr seht schon bei der religiösen\NZugehörigkeit sind wir bei 82 Prozent
Dialogue: 0,0:08:53.97,0:08:58.59,Default,,0000,0000,0000,,Genauigkeit, bei so etwas wie\NDrogenerfahrung und der Ehe ist es relativ
Dialogue: 0,0:08:58.59,0:09:03.58,Default,,0000,0000,0000,,wenig mit der Genauigkeit: Es ist eine\N50/50 Chance, wenn wir raten würden.
Dialogue: 0,0:09:03.58,0:09:09.39,Default,,0000,0000,0000,,Aber es ist trotzdem eine Indikation. Und\Nwir zeigen das auch nur, weil das
Dialogue: 0,0:09:09.39,0:09:12.99,Default,,0000,0000,0000,,wahnsinnige Möglichkeiten der\NDiskriminierung bildet. Und das passiert
Dialogue: 0,0:09:12.99,0:09:17.66,Default,,0000,0000,0000,,auch auf dem Wohnungsmarkt oder auf dem\NArbeitsmarkt. Das heißt was wir hier
Dialogue: 0,0:09:17.66,0:09:21.09,Default,,0000,0000,0000,,zeigen wollen, ist, dass wir unsere\NVorstellungen von Datenschutz überdenken
Dialogue: 0,0:09:21.09,0:09:26.02,Default,,0000,0000,0000,,und ausweiten müssen, weil man halt auch\NPersönlichkeitsmerkmale inferieren können
Dialogue: 0,0:09:26.02,0:09:31.63,Default,,0000,0000,0000,,kann. Denn man kann mit solchen Modellen\Nauch die Likes finden, die am
Dialogue: 0,0:09:31.63,0:09:36.05,Default,,0000,0000,0000,,aussagekräftigsten für ein bestimmtes\NCharakteristikum sind. Das heißt wir haben
Dialogue: 0,0:09:36.05,0:09:41.17,Default,,0000,0000,0000,,hier drei Likes: einmal die Marke Harley-\NDavidson, Kringel-Pommes/curly fries und
Dialogue: 0,0:09:41.17,0:09:45.02,Default,,0000,0000,0000,,das Musical Wicked. Und ich überlasse es\Neuch mal, herauszufinden, welches Bild mit
Dialogue: 0,0:09:45.02,0:09:49.79,Default,,0000,0000,0000,,niedriger Intelligenz, hoher Intelligenz\Nund Homosexualität bei Männern verbunden
Dialogue: 0,0:09:49.79,0:09:56.44,Default,,0000,0000,0000,,ist. Diese durchaus fragwürdige\NForschungsrichtung nennt sich Psychometrik
Dialogue: 0,0:09:56.44,0:10:00.86,Default,,0000,0000,0000,,oder auch Psychografie. Und das Spannende\Nist, dass sie ja relativ nah dran ist am
Dialogue: 0,0:10:00.86,0:10:04.01,Default,,0000,0000,0000,,Kern-Versprechen von so Unternehmen wie\NGoogle und Facebook.
Dialogue: 0,0:10:04.01,0:10:08.74,Default,,0000,0000,0000,,Denn die versprechen ihren Kunden – ihren\NWerbekunden – wir finden für euch
Dialogue: 0,0:10:08.74,0:10:13.15,Default,,0000,0000,0000,,Leute, die sich für Dienst X oder Produkt\NY interessieren könnten. Und hier haben
Dialogue: 0,0:10:13.15,0:10:18.28,Default,,0000,0000,0000,,wir jetzt das Element der Beeinflussung.\NBeeinflussung heißt hier, Big Data zu
Dialogue: 0,0:10:18.28,0:10:23.23,Default,,0000,0000,0000,,nutzen, um Leute zu finden, und die\NBeeinflussung ist noch sehr banal. Aber
Dialogue: 0,0:10:23.23,0:10:26.81,Default,,0000,0000,0000,,solche Forschung kann natürlich auch\Ngenutzt werden, um zum Beispiel in einer
Dialogue: 0,0:10:26.81,0:10:31.06,Default,,0000,0000,0000,,großen Menge von Wählerinnen jene zu\Nfinden, die noch überzeugt werden könnten.
Dialogue: 0,0:10:31.06,0:10:34.77,Default,,0000,0000,0000,,Und ihr habt – viele von euch haben\Nwahrscheinlich den Artikel in das Magazin
Dialogue: 0,0:10:34.77,0:10:39.20,Default,,0000,0000,0000,,gelesen, wo kolportiert wurde, dass diese Art\Nvon Psychografie für Trump und Brexit
Dialogue: 0,0:10:39.20,0:10:43.08,Default,,0000,0000,0000,,verantwortlich ist. Vor der Bundestagswahl\Ngab es ja auch eine große Diskussion, dass
Dialogue: 0,0:10:43.08,0:10:47.69,Default,,0000,0000,0000,,das hier passieren könnte. Wir glauben,\Ndass das mit Vorsicht zu genießen ist,
Dialogue: 0,0:10:47.69,0:10:51.16,Default,,0000,0000,0000,,aber die Möglichkeit mit derartigen\NAnsätzen überzeugbare Wählerinnen und Wähler
Dialogue: 0,0:10:51.16,0:10:53.79,Default,,0000,0000,0000,,zu finden und anzusprechen, ist durchaus\Nrealistisch.
Dialogue: 0,0:10:53.79,0:11:00.99,Default,,0000,0000,0000,,Und wir haben schon gesehen, dass es\Ndadurch so eine Art Diskriminierung 2.0
Dialogue: 0,0:11:00.99,0:11:05.31,Default,,0000,0000,0000,,gibt. Denn ein homophober Arbeitgeber muss\Nnicht mehr direkt erfragen, ob jemand
Dialogue: 0,0:11:05.31,0:11:09.61,Default,,0000,0000,0000,,homosexuell ist, wenn er es aus einem\NFacebook-Profil vorhersagen kann, und es
Dialogue: 0,0:11:09.61,0:11:13.13,Default,,0000,0000,0000,,interessiert ihn vielleicht auch nicht, ob\Ner da einen Fehler macht und einen
Dialogue: 0,0:11:13.13,0:11:18.21,Default,,0000,0000,0000,,Heterosexuellen möglicherweise falsch\Neinordnet. Diese Beeinflussung kann aber
Dialogue: 0,0:11:18.21,0:11:23.69,Default,,0000,0000,0000,,durchaus direkter sein. In den USA werden\NAlgorithmen jetzt schon im Justizsystem
Dialogue: 0,0:11:23.69,0:11:28.30,Default,,0000,0000,0000,,als Entscheidungshilfe eingesetzt, und da\Nwird zum Beispiel mit bestimmten
Dialogue: 0,0:11:28.30,0:11:32.64,Default,,0000,0000,0000,,Informationen über die Leute vorhergesagt,\Nob jemand rückfällig wird, der im
Dialogue: 0,0:11:32.64,0:11:37.76,Default,,0000,0000,0000,,Gefängnis ist, oder nicht. Das heißt man\Nversucht vorherzusagen auf einer Skala von
Dialogue: 0,0:11:37.76,0:11:43.59,Default,,0000,0000,0000,,1 für ungefährlich bis 10 für hochgradig\Ngefährlich, wo jemand hinkommt. Und hier
Dialogue: 0,0:11:43.59,0:11:49.07,Default,,0000,0000,0000,,haben wir zwei Beispiele: Einmal den Herrn\Nlinks – VP die Initialen –, der zwei
Dialogue: 0,0:11:49.07,0:11:53.98,Default,,0000,0000,0000,,bewaffnete Raubüberfälle begangen und\Neinen versuchten bewaffneten Raubüberfall,
Dialogue: 0,0:11:53.98,0:11:58.52,Default,,0000,0000,0000,,und die Risikoeinschätzung ist hier 3\Nniedriges Risiko.
Dialogue: 0,0:11:58.52,0:12:03.73,Default,,0000,0000,0000,,Daneben steht die Dame – BB –, die hat\Nvier Ordnungswidrigkeiten unter
Dialogue: 0,0:12:03.73,0:12:11.51,Default,,0000,0000,0000,,Jugendstrafrecht auf dem Kerbholz, und die\Nwird eingestuft mit hohes Risiko. Und wie
Dialogue: 0,0:12:11.51,0:12:15.20,Default,,0000,0000,0000,,sieht das jetzt aus. Also die Leute von\NProPublica die das recherchiert haben,
Dialogue: 0,0:12:15.20,0:12:20.60,Default,,0000,0000,0000,,haben jetzt über zwei Jahre geguckt, wer\Nwirklich rückfällig wird und wer nicht. BB
Dialogue: 0,0:12:20.60,0:12:24.69,Default,,0000,0000,0000,,– die Dame rechts –, die begeht keine\Nweiteren Verbrechen. VP – der Herr links
Dialogue: 0,0:12:24.69,0:12:27.87,Default,,0000,0000,0000,,–, der begeht nach seiner Freilassung\Ndirekt einen schweren Diebstahl. Das
Dialogue: 0,0:12:27.87,0:12:31.27,Default,,0000,0000,0000,,Besondere ist hier, und ihr werdet es\Nwahrscheinlich schon geraten haben, ist,
Dialogue: 0,0:12:31.27,0:12:35.90,Default,,0000,0000,0000,,dass der Algorithmus systematisch\NAfroamerikanerinnen diskriminiert. Es gibt
Dialogue: 0,0:12:35.90,0:12:41.25,Default,,0000,0000,0000,,also ein Bias, eine Verzerrung, gegen\NSchwarze. Darüber hinaus sind diese
Dialogue: 0,0:12:41.25,0:12:46.06,Default,,0000,0000,0000,,Vorhersagen von den proprietären Kompass-\NSystemen nur in 61 Prozent derzeit
Dialogue: 0,0:12:46.06,0:12:51.21,Default,,0000,0000,0000,,richtig. Wenn man jetzt die wirkliche\NRückfälligkeit über zwei Jahren nimmt. Und
Dialogue: 0,0:12:51.21,0:12:55.09,Default,,0000,0000,0000,,wir kennen das aus der Statistik: Dort\Nunterscheiden wir den Fehler erster Art
Dialogue: 0,0:12:55.09,0:12:59.15,Default,,0000,0000,0000,,und den Fehler zweiter Art. Das heißt\Nunsere Nullhypothese ist: Der oder die
Dialogue: 0,0:12:59.15,0:13:03.69,Default,,0000,0000,0000,,Straftäterin wird nicht rückfällig.\NDer Fehler erster Art ist jetzt, dass die,
Dialogue: 0,0:13:03.69,0:13:08.74,Default,,0000,0000,0000,,die mit hohem Risiko eingestuft werden,\Naber nicht rückfällig werden. Und da sehen
Dialogue: 0,0:13:08.74,0:13:12.50,Default,,0000,0000,0000,,wir – oder hat ProPublica herausgefunden\N–, dass die Wahrscheinlichkeit, dass ein
Dialogue: 0,0:13:12.50,0:13:18.19,Default,,0000,0000,0000,,Weißer oder eine Weiße Opfer dieses\NFehlers wird, bei 23,5 Prozent liegt und
Dialogue: 0,0:13:18.19,0:13:22.20,Default,,0000,0000,0000,,bei Afroamerikanerinnen liegt die\NWahrscheinlichkeit bei 44,9, also fast
Dialogue: 0,0:13:22.20,0:13:25.91,Default,,0000,0000,0000,,doppelt so hoch. Es gibt auch den Fehler\Nzweiter Art. Das ist die
Dialogue: 0,0:13:25.91,0:13:29.43,Default,,0000,0000,0000,,Wahrscheinlichkeit,\Ndass jemand mit niedrigem Risiko
Dialogue: 0,0:13:29.43,0:13:33.59,Default,,0000,0000,0000,,eingestuft wird, aber trotzdem rückfällig\Nwird. Und hier ist die Wahrscheinlichkeit
Dialogue: 0,0:13:33.59,0:13:41.78,Default,,0000,0000,0000,,umgekehrt: Weiße haben eine 47-Prozent-\NChance diesem Fehler zum Opfer zu fallen.
Dialogue: 0,0:13:41.78,0:13:49.55,Default,,0000,0000,0000,,Afroamerikanerinnen nur 28 Prozent. Aber\Nwie kommt das? Wir nehmen jetzt mal an,
Dialogue: 0,0:13:49.55,0:13:53.29,Default,,0000,0000,0000,,dass das kompetente Programmiererinnen\Nsind, die in den Maschine Learning Kursen,
Dialogue: 0,0:13:53.29,0:13:56.92,Default,,0000,0000,0000,,die sie gemacht haben, gut aufgepasst\Nhaben und technisch alles richtig gemacht
Dialogue: 0,0:13:56.92,0:13:59.98,Default,,0000,0000,0000,,haben.\NNun lernt Maschine Learning immer eine
Dialogue: 0,0:13:59.98,0:14:05.46,Default,,0000,0000,0000,,Abbildung von einem X auf ein Y. Z. B.\Nhier haben wir bestimmte Informationen zu
Dialogue: 0,0:14:05.46,0:14:11.09,Default,,0000,0000,0000,,Gefangenen und diese Rückfälligkeit der\NGefangenen. Das Problem ist jetzt das X
Dialogue: 0,0:14:11.09,0:14:15.30,Default,,0000,0000,0000,,ist keine Stichprobe der Grundgesamtheit,\Nsondern eine Untermenge der
Dialogue: 0,0:14:15.30,0:14:19.18,Default,,0000,0000,0000,,Grundgesamtheit, die die Polizei\Nuntersucht hat. Es ist also ein X', es ist
Dialogue: 0,0:14:19.18,0:14:24.01,Default,,0000,0000,0000,,nicht repräsentativ. Und das kann eine\Nselbsterfüllende Prophezeiung sein. Denn
Dialogue: 0,0:14:24.01,0:14:27.22,Default,,0000,0000,0000,,vielleicht sind Afroamerikanerinnen\Neinfach in der Situation, dass sie
Dialogue: 0,0:14:27.22,0:14:31.78,Default,,0000,0000,0000,,deutlich häufiger kontrolliert werden und\Nes einfach dadurch mehr Straffälle in
Dialogue: 0,0:14:31.78,0:14:36.55,Default,,0000,0000,0000,,dem Datensatz gibt. Und auf der auch auf\Nder anderen Seite auf der Y Seite, das
Dialogue: 0,0:14:36.55,0:14:40.46,Default,,0000,0000,0000,,heißt diese Risikobeurteilung, ob man\Nrückfällig wird oder nicht, ist ebenfalls
Dialogue: 0,0:14:40.46,0:14:45.27,Default,,0000,0000,0000,,eine Verfälschung. Denn die bezieht sich\Nja auch nur auf die, die vom Rechtssystem
Dialogue: 0,0:14:45.27,0:14:49.90,Default,,0000,0000,0000,,verurteilt werden.\NDas heißt hier haben wir auch ein Y'. Wenn
Dialogue: 0,0:14:49.90,0:14:54.09,Default,,0000,0000,0000,,man zum Beispiel ein Jurysystem hat, wie\Nman es in den USA findet, dann kann auch
Dialogue: 0,0:14:54.09,0:14:58.79,Default,,0000,0000,0000,,dort latent oder weniger latent\Ndiskriminiert werden. Das macht Maschine
Dialogue: 0,0:14:58.79,0:15:04.40,Default,,0000,0000,0000,,Learning – pseudo-objektive, mathematische\NModelle – zu einer Art Geldwäsche für
Dialogue: 0,0:15:04.40,0:15:08.65,Default,,0000,0000,0000,,Vorurteile. Weil sie fallen in dieses\NSystem rein und sind dann erst einmal
Dialogue: 0,0:15:08.65,0:15:14.36,Default,,0000,0000,0000,,nicht mehr sichtbar. Und hier kommen wir\Njetzt zum Element der direkten
Dialogue: 0,0:15:14.36,0:15:17.34,Default,,0000,0000,0000,,Beeinflussung.\NDenn diese Systeme werden zwar nur als
Dialogue: 0,0:15:17.34,0:15:22.02,Default,,0000,0000,0000,,Entscheidungshilfen verkauft, es sind halt\Nnur Werkzeuge, die genutzt werden können,
Dialogue: 0,0:15:22.02,0:15:26.35,Default,,0000,0000,0000,,aber die Leute, die die Entscheidung\Ntreffen, verlassen sich direkt auf diese
Dialogue: 0,0:15:26.35,0:15:29.95,Default,,0000,0000,0000,,Systeme. Das heißt sie vertrauen diesen\Ndiskriminierenden Algorithmen. Das
Dialogue: 0,0:15:29.95,0:15:33.43,Default,,0000,0000,0000,,Beispiel kommt aus dem hervorragenden\NDeutschlandfunk-Feature von Thomas
Dialogue: 0,0:15:33.43,0:15:39.69,Default,,0000,0000,0000,,Schimmeck. Und der hat zum Beispiel\NVeronika Hiller, die Bewährungshelferin,
Dialogue: 0,0:15:39.69,0:15:45.02,Default,,0000,0000,0000,,die dem Richter im Endeffekt ein Strafmaß\Nvorschlägt, interviewt. Das Spannende ist,
Dialogue: 0,0:15:45.02,0:15:48.19,Default,,0000,0000,0000,,die hat also ein Vierteljahrhundert\NErfahrung im Dienst. Aber sie schwört auf
Dialogue: 0,0:15:48.19,0:15:52.84,Default,,0000,0000,0000,,diesen Algorithmus. Sie sagt der ist gut,\Nakkurat und einfach. Was wir einfach
Dialogue: 0,0:15:52.84,0:15:57.99,Default,,0000,0000,0000,,zeigen wollen, ist, dass es hier um sozio-\Ntechnische Systeme geht. Das heißt es
Dialogue: 0,0:15:57.99,0:16:01.52,Default,,0000,0000,0000,,geht nicht nur um das Maschine Learning.\NEs geht nicht nur um den Algorithmus.
Dialogue: 0,0:16:01.52,0:16:05.39,Default,,0000,0000,0000,,Sondern es geht auch um die Menschen, die\Nihn nutzen. Denn selbst wenn das System
Dialogue: 0,0:16:05.39,0:16:09.57,Default,,0000,0000,0000,,fair wäre – wir haben gerade gesehen dass\Nes das nicht ist –, heißt es immer noch
Dialogue: 0,0:16:09.57,0:16:13.91,Default,,0000,0000,0000,,nicht, dass die Ergebnisse des Systems\Nauch fair interpretiert werden, und wir
Dialogue: 0,0:16:13.91,0:16:17.74,Default,,0000,0000,0000,,finden das ist sehr wichtig für jene, die\Nsolche Systeme bauen – und da sind
Dialogue: 0,0:16:17.74,0:16:22.39,Default,,0000,0000,0000,,wahrscheinlich einige heute hier. Diese\NVerzerrung in und durch Daten sind
Dialogue: 0,0:16:22.39,0:16:27.09,Default,,0000,0000,0000,,allgegenwärtig. Wir haben zum Beispiel\Nhier ein Beispiel von Google. Das ist eine
Dialogue: 0,0:16:27.09,0:16:32.10,Default,,0000,0000,0000,,Suche nach den Keywords „Three White\NTeenagers". Und das ist eine Suche nach
Dialogue: 0,0:16:32.10,0:16:38.49,Default,,0000,0000,0000,,den Keywords „Three Black Teenagers". Das\Nheißt Technologie offenbart hier
Dialogue: 0,0:16:38.49,0:16:41.78,Default,,0000,0000,0000,,gesellschaftliche Probleme.\NWir haben es wie gesagt mit sozi-
Dialogue: 0,0:16:41.78,0:16:46.77,Default,,0000,0000,0000,,technischen Systemen zu tun, die eine\Nbestimmte Weltvorstellung festschreiben,
Dialogue: 0,0:16:46.77,0:16:51.66,Default,,0000,0000,0000,,vermitteln, aber auch verstärken können.\NUnd die Probleme können ganz subtil und
Dialogue: 0,0:16:51.66,0:16:55.75,Default,,0000,0000,0000,,banal sein wie zum Beispiel dieses\NBeispiel aus der statistischen Übersetzung
Dialogue: 0,0:16:55.75,0:16:59.50,Default,,0000,0000,0000,,zeigt: Jetzt muss man wissen, dass die\Ntürkische Sprache nicht zwischen
Dialogue: 0,0:16:59.50,0:17:04.28,Default,,0000,0000,0000,,Geschlechtern unterscheidet, das heißt\N„er", „sie" und „es" sind alle „o". Es
Dialogue: 0,0:17:04.28,0:17:07.67,Default,,0000,0000,0000,,gibt auch keine Unterscheidung zwischen\N„Arzt" und „Ärztin" beides „Doktor". Und
Dialogue: 0,0:17:07.67,0:17:11.87,Default,,0000,0000,0000,,wenn wir jetzt mit Google Translate oder\Neinem anderen statistischen
Dialogue: 0,0:17:11.87,0:17:16.97,Default,,0000,0000,0000,,Übersetzungsprogramm Sätze wie „Er ist ein\NBabysitter." und „Sie ist eine Ärztin."
Dialogue: 0,0:17:16.97,0:17:21.45,Default,,0000,0000,0000,,hin und her übersetzen, dann stellen wir\Nfest, dass die Übersetzung bestimmte
Dialogue: 0,0:17:21.45,0:17:23.14,Default,,0000,0000,0000,,Geschlechterklischees widerspiegelt.
Dialogue: 0,0:17:23.14,0:17:27.66,Default,,0000,0000,0000,,Und ihr könnt mit dem was ihr bisher über\NMachine Learning gelernt habt in diesem
Dialogue: 0,0:17:27.66,0:17:32.38,Default,,0000,0000,0000,,Vortrag vielleicht schon erklären, wie das\Npassiert. Wir lernen aus Beispielen und in
Dialogue: 0,0:17:32.38,0:17:37.52,Default,,0000,0000,0000,,diesen Beispielen sind Verzerrungen. In\Ndiesem Fall mehr weibliche Babysitter,
Dialogue: 0,0:17:37.52,0:17:41.44,Default,,0000,0000,0000,,mehr männliche Ärzte.\NDenn wenn wir übersetzen dann berechnen
Dialogue: 0,0:17:41.44,0:17:45.08,Default,,0000,0000,0000,,wir ja Wahrscheinlichkeiten und nehmen in\Nder Regel einfach das wahrscheinlichste
Dialogue: 0,0:17:45.08,0:17:49.17,Default,,0000,0000,0000,,Ergebnis. Das heißt selbst minimale\NVerzerrungen können verstärkt werden. Das
Dialogue: 0,0:17:49.17,0:17:54.54,Default,,0000,0000,0000,,heißt eine Babysitterin mehr, ein Arzt\Nmehr und diese Übersetzung sieht so aus,
Dialogue: 0,0:17:54.54,0:17:59.30,Default,,0000,0000,0000,,wie wir sie gerade sehen. Aber hier haben\Nwir etwas, das technisch erklärbar ist.
Dialogue: 0,0:17:59.30,0:18:03.01,Default,,0000,0000,0000,,Aber welche Auswirkungen hat das auf die\NNutzerInnen. Welche Auswirkungen hat das
Dialogue: 0,0:18:03.01,0:18:09.45,Default,,0000,0000,0000,,auf die Weltsicht, wenn man die Google-\NErgebnisse so sieht wie man sie sieht. Und
Dialogue: 0,0:18:09.45,0:18:13.76,Default,,0000,0000,0000,,anhand von Facebook wollen wir jetzt\Nzeigen, wie direkt und intransparent diese
Dialogue: 0,0:18:13.76,0:18:17.73,Default,,0000,0000,0000,,Beeinflussung sein kann. Auch Facebook ist\Nein hochkomplexes sozio-technisches
Dialogue: 0,0:18:17.73,0:18:22.76,Default,,0000,0000,0000,,System, in dem NutzerInnen gleichzeitig\NProduzenten und KonsumentInnen sind.
Dialogue: 0,0:18:22.76,0:18:28.69,Default,,0000,0000,0000,,Facebooks erklärtes Ziel lautet ja, jedem\Nzu jeder Zeit die richtigen Inhalte zu
Dialogue: 0,0:18:28.69,0:18:34.25,Default,,0000,0000,0000,,zeigen. Dafür nutzt Facebook nach eigener\NAussage hundert tausend verschiedene
Dialogue: 0,0:18:34.25,0:18:38.44,Default,,0000,0000,0000,,Faktoren, um algorithmisch die besten\NGeschichten aus den potenziellen
Dialogue: 0,0:18:38.44,0:18:40.16,Default,,0000,0000,0000,,Geschichten auszuwählen.
Dialogue: 0,0:18:40.16,0:18:44.55,Default,,0000,0000,0000,,Das heißt, wenn ihr euch jetzt vorstellt -\Ndas sind jetzt Zahlen aus dem Kosinski-
Dialogue: 0,0:18:44.55,0:18:50.75,Default,,0000,0000,0000,,Paper mit den Persönlichkeitsmerkmalen.\NDas heißt da haben die Leute im Median 200
Dialogue: 0,0:18:50.75,0:18:56.71,Default,,0000,0000,0000,,Bekannte und liken 68 Seiten. Das heißt\Nwenn nur jeder Dritte was macht, dann sind
Dialogue: 0,0:18:56.71,0:19:00.97,Default,,0000,0000,0000,,das pro Tag 90 potenzielle Beiträge. Wenn\Nman jetzt nur fünf oder zehn Minuten auf
Dialogue: 0,0:19:00.97,0:19:04.46,Default,,0000,0000,0000,,der Seite verweilt, dann kann man sich\Nnicht angucken. Das heißt eine
Dialogue: 0,0:19:04.46,0:19:10.13,Default,,0000,0000,0000,,chronologische Darstellung ist zwecklos\Nund eine Kuration unumgänglich. Und
Dialogue: 0,0:19:10.13,0:19:15.08,Default,,0000,0000,0000,,deswegen sortiert Facebook die Nachrichten\Nnach einem Algorithmus. Das Problem ist
Dialogue: 0,0:19:15.08,0:19:18.24,Default,,0000,0000,0000,,aber, dass dieser Vorgang sehr\Nintransparent ist. Das heißt die
Dialogue: 0,0:19:18.24,0:19:19.93,Default,,0000,0000,0000,,NutzerInnen sehen und verstehen die\NAlgorithmen nicht
Dialogue: 0,0:19:19.93,0:19:25.00,Default,,0000,0000,0000,,Und die glauben im Zweifelsfall wenn sie\Ndarauf angesprochen werden, dass die
Dialogue: 0,0:19:25.00,0:19:30.18,Default,,0000,0000,0000,,Algorithmen objektiv und unabhängig sind.\NUnd dabei beziehe ich mich auf folgende
Dialogue: 0,0:19:30.18,0:19:35.62,Default,,0000,0000,0000,,Studie. Die kommt aus der CHI, der\NComputer Human Interaction Community. Und
Dialogue: 0,0:19:35.62,0:19:42.18,Default,,0000,0000,0000,,dort waren sich 62,5% der Teilnehmer und\NTeilnehmerinnen in dieser Studie der
Dialogue: 0,0:19:42.18,0:19:47.66,Default,,0000,0000,0000,,Existenz von Newsfeed-Algorithmen, also\Nvon dieser algorithmischen Kuration, nicht
Dialogue: 0,0:19:47.66,0:19:51.83,Default,,0000,0000,0000,,bewusst. Das heißt wir haben hier eine\Nqualitative Studie mit 40 TeilnehmerInnen,
Dialogue: 0,0:19:51.83,0:19:56.01,Default,,0000,0000,0000,,die so ausgewählt wurden, dass sie\Nrepräsentativ sind für die US-
Dialogue: 0,0:19:56.01,0:20:00.98,Default,,0000,0000,0000,,Grundgesamtheit. Und von denen war also 25\NPersonen nicht bewusst, dass überhaupt
Dialogue: 0,0:20:00.98,0:20:06.58,Default,,0000,0000,0000,,irgendwie sortiert wird. Die Studie zeigt\Nauch, dass die TeilnehmerInnen durchaus
Dialogue: 0,0:20:06.58,0:20:11.03,Default,,0000,0000,0000,,verärgert sind, wenn sie Posts von engen\NFreunden oder Familienmitgliedern nicht
Dialogue: 0,0:20:11.03,0:20:15.96,Default,,0000,0000,0000,,sehen. Spannend ist aber jetzt: Die\NTeilnehmer suchen den Fehler eher bei sich
Dialogue: 0,0:20:15.96,0:20:19.33,Default,,0000,0000,0000,,oder anderen, als bei einem Algorithmus,\Nvon dem sie im Zweifelsfall auch nichts
Dialogue: 0,0:20:19.33,0:20:24.66,Default,,0000,0000,0000,,wissen. Sie glauben dann z.B. dass sie\Netwas übersehen haben oder sie denken,
Dialogue: 0,0:20:24.66,0:20:30.03,Default,,0000,0000,0000,,dass ihnen bestimmte Bekannte bewusst\NGeschichten vorenthalten, weil sie
Dialogue: 0,0:20:30.03,0:20:33.65,Default,,0000,0000,0000,,vielleicht nicht so gut miteinander\Nbekannt sind, sich noch nicht so gut
Dialogue: 0,0:20:33.65,0:20:37.29,Default,,0000,0000,0000,,kennen. Daher kommt auch dieses\Ntitelgebende Zitat: "I always assumed that
Dialogue: 0,0:20:37.29,0:20:41.48,Default,,0000,0000,0000,,I wasn't really that close to [that\Nperson], so that's fine. What the hell?"
Dialogue: 0,0:20:41.48,0:20:45.13,Default,,0000,0000,0000,,Das heißt hier hat jemand gedacht "Okay,\Nich sehe die Babyfotos vielleicht nicht,
Dialogue: 0,0:20:45.13,0:20:49.49,Default,,0000,0000,0000,,weil ich die Person nicht so gut kenne,\Naber die Person hat das für alle geteilt".
Dialogue: 0,0:20:49.49,0:20:54.10,Default,,0000,0000,0000,,Und hier hat der Algorithmus jetzt die\NEntscheidung getroffen, dass Person A das
Dialogue: 0,0:20:54.10,0:20:59.59,Default,,0000,0000,0000,,Baby von Person B nicht sieht. Das heißt\Ndiese Systeme, die im Schatten agieren und
Dialogue: 0,0:20:59.59,0:21:04.09,Default,,0000,0000,0000,,denen sich die BenutzerInnen nicht bewusst\Nsind, haben Auswirkungen auf
Dialogue: 0,0:21:04.09,0:21:08.37,Default,,0000,0000,0000,,zwischenmenschliche Beziehungen. Sie\Nrekonfigurieren sie. Und darüber hinaus
Dialogue: 0,0:21:08.37,0:21:11.82,Default,,0000,0000,0000,,muss man sich auch noch einmal bewusst\Nmachen, was diese Nachrichten-
Dialogue: 0,0:21:11.82,0:21:15.90,Default,,0000,0000,0000,,Empfehlungssysteme eigentlich erreichen\Nwollen. Sie sind ja von der Art her wie
Dialogue: 0,0:21:15.90,0:21:20.91,Default,,0000,0000,0000,,Netflix. Das heißt wenn ich auf Youtube\Noder einem anderen Portal mir Videos
Dialogue: 0,0:21:20.91,0:21:24.99,Default,,0000,0000,0000,,angucke und ich gucke mir zehn Videos an\Nund davon sind vier mit lustigen Hunde-
Dialogue: 0,0:21:24.99,0:21:30.46,Default,,0000,0000,0000,,Babys, dann folgert das System "Ok,\NHendrik mag lustige Hunde-Babys. Dem zeige
Dialogue: 0,0:21:30.46,0:21:34.70,Default,,0000,0000,0000,,ich jetzt in Zukunft mehr lustige Hunde-\NBabys". Nun sind aber auch Nachrichten auf
Dialogue: 0,0:21:34.70,0:21:39.35,Default,,0000,0000,0000,,Plattformen wie Youtube. Das heißt wenn\Nich mir jetzt zehn Videos angucke und von
Dialogue: 0,0:21:39.35,0:21:43.71,Default,,0000,0000,0000,,denen geht es in vielen darum, dass\NFlüchtlinge kriminell sind, dann empfiehlt
Dialogue: 0,0:21:43.71,0:21:48.72,Default,,0000,0000,0000,,mir das System Videos von kriminellen\NFlüchtlingen. Das heißt da passiert etwas
Dialogue: 0,0:21:48.72,0:21:55.17,Default,,0000,0000,0000,,mit meiner Weltwahrnehmung. Das heißt so\Nderartige Filterblasen und Echokammern
Dialogue: 0,0:21:55.17,0:21:59.84,Default,,0000,0000,0000,,entstehen online. Die gibts natürlich auch\Nim echten Leben. Der Freundeskreis ist
Dialogue: 0,0:21:59.84,0:22:04.70,Default,,0000,0000,0000,,auch eine Echokammer, in der bestimmte\NWeltvorstellungen geteilt werden, aber
Dialogue: 0,0:22:04.70,0:22:09.36,Default,,0000,0000,0000,,hier sind sie durchaus intransparenter,\Ndenn es passiert unter dem gleichen Logo.
Dialogue: 0,0:22:09.36,0:22:14.83,Default,,0000,0000,0000,,Bei mir ist ein YouTube-Logo, bei euch ist\Nein YouTube-Logo. Und das sind Probleme,
Dialogue: 0,0:22:14.83,0:22:18.19,Default,,0000,0000,0000,,denen wir uns stellen müssen, mit denen\Nwir umgehen müssen.
Dialogue: 0,0:22:18.19,0:22:22.82,Default,,0000,0000,0000,,Und das war mein Teil zur Perspektive der\NMensch-Computer-Interaktion, die sich also
Dialogue: 0,0:22:22.82,0:22:26.80,Default,,0000,0000,0000,,als eigenes Feld mit derartigen\NFragestellungen auseinandersetzt. Und ich
Dialogue: 0,0:22:26.80,0:22:31.37,Default,,0000,0000,0000,,übergebe jetzt an Karen, die nochmal\Ntechnisch ins Detail gehen wird.
Dialogue: 0,0:22:31.37,0:22:43.65,Default,,0000,0000,0000,,{\i1}Applaus{\i0}\NKaren: Ja. Zum ersten Teil dieser Präsentation
Dialogue: 0,0:22:43.65,0:22:48.31,Default,,0000,0000,0000,,zeigten wir, dass Algorithmen uns schon\Nheute schon beeinflussen, bewusst und
Dialogue: 0,0:22:48.31,0:22:52.10,Default,,0000,0000,0000,,unbewusst, direkt und indirekt. Und wir\Nhaben gesehen mit welcher Rigorosität ihre
Dialogue: 0,0:22:52.10,0:22:57.22,Default,,0000,0000,0000,,Voraussagen umgesetzt werden, nachdem sie\Neinmal zur Verfügung stehen. Das immer
Dialogue: 0,0:22:57.22,0:23:00.15,Default,,0000,0000,0000,,unter der Annahme der\NUnvoreingenommenheit. Wir haben auch
Dialogue: 0,0:23:00.15,0:23:04.47,Default,,0000,0000,0000,,bereits angedeutet, dass dieses massive\NVertrauen nicht unbedingt angebracht ist.
Dialogue: 0,0:23:04.47,0:23:08.87,Default,,0000,0000,0000,,In diesem zweiten Teil der Präsentation\Nmöchten wir darauf eingehen wann dieses
Dialogue: 0,0:23:08.87,0:23:12.02,Default,,0000,0000,0000,,Vertrauen nicht angebracht ist. Dabei\Nmöchte ich besonders auf ein Wort
Dialogue: 0,0:23:12.02,0:23:17.32,Default,,0000,0000,0000,,eingehen, das wir bereits viel verwendet\Nhaben. Das Wort Bias oder zu Deutsch
Dialogue: 0,0:23:17.32,0:23:20.63,Default,,0000,0000,0000,,Verzerrung. Beim maschinellen Lernen\Nkönnen wir grundsätzlich in zwei
Dialogue: 0,0:23:20.63,0:23:24.05,Default,,0000,0000,0000,,verschiedene Formen von Bias\Nunterscheiden. Auf der einen Seite haben
Dialogue: 0,0:23:24.05,0:23:29.32,Default,,0000,0000,0000,,wir Bias der Daten, also Bias der ein\NSpiegel ist unserer eigenen Vorurteile und
Dialogue: 0,0:23:29.32,0:23:33.09,Default,,0000,0000,0000,,Moralvorstellungen, ob uns das jetzt\Nbewusst ist oder nicht.
Dialogue: 0,0:23:33.09,0:23:37.11,Default,,0000,0000,0000,,Bias in Daten kann aber auch entstehen\Nganz zufällig durch mangelhafte Erhebung
Dialogue: 0,0:23:37.11,0:23:42.89,Default,,0000,0000,0000,,von Daten. Wenn das passiert wird eine\NGrundgesamtheit also die Population
Dialogue: 0,0:23:42.89,0:23:48.58,Default,,0000,0000,0000,,verzerrt abgebildet. Auf der anderen Seite\Nbefindet sich der Bias durch das
Dialogue: 0,0:23:48.58,0:23:51.40,Default,,0000,0000,0000,,Modellieren.\NDas sind also die Gesamtheit aller
Dialogue: 0,0:23:51.40,0:23:54.37,Default,,0000,0000,0000,,Annahmen die Ingenieure und\NWissenschaftler von Algorithmen machen und
Dialogue: 0,0:23:54.37,0:24:00.49,Default,,0000,0000,0000,,machen müssen, um überhaupt Voraussagen\Ntreffen zu können. Dabei kann sich
Dialogue: 0,0:24:00.49,0:24:08.12,Default,,0000,0000,0000,,wiederum der Bias des Modells so auf die\NDaten auswirken, dass der Bias in den
Dialogue: 0,0:24:08.12,0:24:11.92,Default,,0000,0000,0000,,Daten verringert wird. Dazu gibt es\Nvielfältige Forschung. Es kann aber auch
Dialogue: 0,0:24:11.92,0:24:18.63,Default,,0000,0000,0000,,den Bias in den Daten verstärken. Auf der\Nanderen Seite knn auch Bias in Daten den
Dialogue: 0,0:24:18.63,0:24:24.69,Default,,0000,0000,0000,,Modellier-Bias beeinflussen. Wir werden im\NFolgenden, den folgenden 4 Beispielen, uns
Dialogue: 0,0:24:24.69,0:24:28.86,Default,,0000,0000,0000,,mit all diesen Phänomenen auseinander-\Nsetzen. Maschinelles Lernen hat in den
Dialogue: 0,0:24:28.86,0:24:32.66,Default,,0000,0000,0000,,letzten Jahren viele Durchbrüche bei der\Nalgorithmischen Wahrnehmung erzielt.
Dialogue: 0,0:24:32.66,0:24:37.25,Default,,0000,0000,0000,,Algorithmen bewältigen kognitive Aufgaben,\Ndie vor kurzem in weiter Ferne schienen.
Dialogue: 0,0:24:37.25,0:24:42.22,Default,,0000,0000,0000,,Das hat aber auch eine Welle von Forschung\Nausgelöst, die unlösbar geglaubte Aufgaben
Dialogue: 0,0:24:42.22,0:24:46.81,Default,,0000,0000,0000,,wieder aufgreift und neu bewertet.\NEine Studie dieser Welle ist im November
Dialogue: 0,0:24:46.81,0:24:52.78,Default,,0000,0000,0000,,letzten Jahres erschienen zwei Forscher\Nder Shanghai Jiaotong-Universität
Dialogue: 0,0:24:52.78,0:24:57.62,Default,,0000,0000,0000,,behaupten zeigen zu können, dass man\NMenschen mit kriminellen Absichten bereits
Dialogue: 0,0:24:57.62,0:25:01.29,Default,,0000,0000,0000,,an einem einfachen Ausweis-Foto erkennen\Nkann und dies mit 90 prozentiger
Dialogue: 0,0:25:01.29,0:25:06.67,Default,,0000,0000,0000,,Trefferwahrscheinlichkeit. Dieses Ergebnis\Nsteht natürlich im starken Kontrast zu den
Dialogue: 0,0:25:06.67,0:25:10.25,Default,,0000,0000,0000,,Forschungsergebnissen der letzten Dekaden,\Ndie Kriminalität eher sozio-ökonomischen
Dialogue: 0,0:25:10.25,0:25:14.02,Default,,0000,0000,0000,,Umständen zuschreiben. Wir wollen uns also\Nim Folgenden mit dieser Studie ein
Dialogue: 0,0:25:14.02,0:25:19.93,Default,,0000,0000,0000,,bisschen näher beschäftigen. Die Autoren\Nsammelten hierzu 1800 Fotos von Chinesen
Dialogue: 0,0:25:19.93,0:25:24.74,Default,,0000,0000,0000,,im Alter zwischen 18 und 55 Jahren, die\Nkeine bemerkbaren Gesichtsbehaarungen,
Dialogue: 0,0:25:24.74,0:25:30.12,Default,,0000,0000,0000,,Narben oder Tattoos zeigten. Dabei\Nrepräsentieren zirka 700 Fotos die Rubrik
Dialogue: 0,0:25:30.12,0:25:35.89,Default,,0000,0000,0000,,kriminell. Die Fotos selbst wurden von der\NPolizei bereitgestellt und es handelt sich
Dialogue: 0,0:25:35.89,0:25:39.67,Default,,0000,0000,0000,,bei allen Fotos um bereits verurteilte\NStraftäter.
Dialogue: 0,0:25:39.67,0:25:42.73,Default,,0000,0000,0000,,Auf der anderen Seite mussten nun auch\NBilder rechtschaffender Bürger
Dialogue: 0,0:25:42.73,0:25:47.43,Default,,0000,0000,0000,,repräsentiert werden. Dafür wurden 1100\NFotos aus verschiedenen Quellen des
Dialogue: 0,0:25:47.43,0:25:50.75,Default,,0000,0000,0000,,Internets beschafft. Dabei ist anzunehmen,\Ndass diese von Seiten wie LinkedIn
Dialogue: 0,0:25:50.75,0:25:55.19,Default,,0000,0000,0000,,stammen, da die Autoren den Beruf der\Nvermeintlich rechtschaffenen kennen. Um
Dialogue: 0,0:25:55.19,0:25:59.68,Default,,0000,0000,0000,,uns nun ein besseres Bild über die Daten\Nzu machen, wollen wir uns also ein paar
Dialogue: 0,0:25:59.68,0:26:03.71,Default,,0000,0000,0000,,Datenpunkte anschauen.\NJeder dieser Reihe entsprechen drei
Dialogue: 0,0:26:03.71,0:26:07.63,Default,,0000,0000,0000,,Datenpunkte aus jeweils einer Kategorie\Nkriminell oder rechtschaffend.
Dialogue: 0,0:26:07.63,0:26:10.45,Default,,0000,0000,0000,,Dazu würde ich ein kleines Experiment\Nwagen. Also ich zähle dann gleich mal bis
Dialogue: 0,0:26:10.45,0:26:15.22,Default,,0000,0000,0000,,zwei und alle die glauben, die obere Reihe\Nseien die Rechtschaffenden, die bitte ich
Dialogue: 0,0:26:15.22,0:26:20.43,Default,,0000,0000,0000,,dann die linke Hand zu heben. Ich hebe die\Nrechte Hand, damit ihr wisst, welche Hand.
Dialogue: 0,0:26:20.43,0:26:24.14,Default,,0000,0000,0000,,Und diejenigen, die denken die untere\NReihe wären die Rechtschaffenden, die
Dialogue: 0,0:26:24.14,0:26:27.32,Default,,0000,0000,0000,,bitte ich also die rechte Hand zu heben.\NDas können wir gleich mal probieren, also
Dialogue: 0,0:26:27.32,0:26:32.83,Default,,0000,0000,0000,,ich zähle nochmal bis 2: eins, zwei und\Ndann heben wir halt die Hand.
Dialogue: 0,0:26:32.83,0:26:36.62,Default,,0000,0000,0000,,Okay. Also die meisten von uns sind uns\Nrelativ einig dass wir die rechtschaffenen
Dialogue: 0,0:26:36.62,0:26:40.55,Default,,0000,0000,0000,,identifizieren können. Aber warum können\Nwir das? Eigentlich sollten Menschen dazu
Dialogue: 0,0:26:40.55,0:26:45.19,Default,,0000,0000,0000,,ja nicht in der Lage sein und wir wissen,\Ndass wir dazu nicht in der Lage sind.
Dialogue: 0,0:26:45.19,0:26:49.87,Default,,0000,0000,0000,,Ich denke also die meisten von uns haben\Ngewisse Hinweise in den Bildern
Dialogue: 0,0:26:49.87,0:26:53.49,Default,,0000,0000,0000,,wahrgenommen, die auf der\NUnterschiedlichkeit der Quellen beruhen.
Dialogue: 0,0:26:53.49,0:26:57.40,Default,,0000,0000,0000,,Also ganz offensichtlich hier der Kragen\Nim Bild, der darauf hinweist, dass es
Dialogue: 0,0:26:57.40,0:27:02.38,Default,,0000,0000,0000,,vielleicht ein Bewerbungsfoto sein könnte\Noder ein leichtes Grinsen im Gesicht.
Dialogue: 0,0:27:02.38,0:27:07.44,Default,,0000,0000,0000,,Dahingegen sind die Leute, die auf der\Nkriminellen Seite sind nicht besonders
Dialogue: 0,0:27:07.44,0:27:10.36,Default,,0000,0000,0000,,vorteilhaft dargestellt. Also dem Mann\Nhier wird der Scheinwerfer ins Gesicht
Dialogue: 0,0:27:10.36,0:27:17.26,Default,,0000,0000,0000,,gestrahlt, was dann Hautunreinheiten und\NFalten besonders betont. Wohingegen bei
Dialogue: 0,0:27:17.26,0:27:21.05,Default,,0000,0000,0000,,den Bewerbungsfotos offensichtlich Make-Up\Nim Spiel ist oder Photoshop. Im
Dialogue: 0,0:27:21.05,0:27:28.94,Default,,0000,0000,0000,,trivialsten Fall kann es also sein, dass\Nder Algorithmus einfach nur erkennt, in
Dialogue: 0,0:27:28.94,0:27:32.71,Default,,0000,0000,0000,,welchen Fotos Photoshop nachgeholfen hat.\NDas kann man also zum Beispiel schon an
Dialogue: 0,0:27:32.71,0:27:37.50,Default,,0000,0000,0000,,lokalen Pixel Statistiken gut erkennen.\NDiese Studie ist vielleicht ein extremes
Dialogue: 0,0:27:37.50,0:27:41.91,Default,,0000,0000,0000,,Beispiel, wie gravierend sich die\Nverwendeten Daten auf das Ergebnis einer
Dialogue: 0,0:27:41.91,0:27:45.73,Default,,0000,0000,0000,,Voraussage eines Algorithmus auswirken\Nkönnen. Dies ist ein besonders starkes
Dialogue: 0,0:27:45.73,0:27:50.36,Default,,0000,0000,0000,,Beispiel für Stichproben-Verzerrung, also\NBias in dem Gruppen unterschiedlich
Dialogue: 0,0:27:50.36,0:27:53.71,Default,,0000,0000,0000,,dargestellt werden.\NBias kann aber auch entstehen ganz
Dialogue: 0,0:27:53.71,0:27:57.19,Default,,0000,0000,0000,,zufällig, wenn zu wenige Datenpunkte\Nvorhanden sind, um verlässliche Aussagen
Dialogue: 0,0:27:57.19,0:27:59.94,Default,,0000,0000,0000,,zu treffen.\NSolche Probleme sehen wir also oft in
Dialogue: 0,0:27:59.94,0:28:04.93,Default,,0000,0000,0000,,medizinischen Studien oder psychologischen\NStudien, wo Tests teuer und langwierig
Dialogue: 0,0:28:04.93,0:28:08.75,Default,,0000,0000,0000,,sind.\NMelde-Bias beschreibt, wenn Befragte
Dialogue: 0,0:28:08.75,0:28:11.38,Default,,0000,0000,0000,,unkorrekte Angaben machen.\NDas geschieht zum Beispiel oft bei
Dialogue: 0,0:28:11.38,0:28:15.53,Default,,0000,0000,0000,,Gewaltverbrechen, bei denen Angst und\NRepression eine Rolle spielen. Und
Dialogue: 0,0:28:15.53,0:28:20.14,Default,,0000,0000,0000,,natürlich spielen auch die verwendeten\NMerkmale, die ein gewisses Problem
Dialogue: 0,0:28:20.14,0:28:25.25,Default,,0000,0000,0000,,beschreiben sollen, eine große Rolle.\NKommen wir nun zur zweiten Kategorie: dem
Dialogue: 0,0:28:25.25,0:28:29.05,Default,,0000,0000,0000,,Bias in den Modellen.\NHat man sich früher also vor dem die
Dialogue: 0,0:28:29.05,0:28:33.59,Default,,0000,0000,0000,,Deeplearning-Hype, sagen wir mal vor 2012\Neine Einführungsveranstaltung zum
Dialogue: 0,0:28:33.59,0:28:37.70,Default,,0000,0000,0000,,maschinellen Lernen gesetzt, dann begann\Nfast jeder mit dem Erklären des No-free-
Dialogue: 0,0:28:37.70,0:28:44.66,Default,,0000,0000,0000,,Lunch-Theorems. Also der Aussage, dass\Nkein Modell in allen möglichen Szenarien
Dialogue: 0,0:28:44.66,0:28:47.55,Default,,0000,0000,0000,,funktioniert.\NDaraus schlussfolgerten wir, dass wir
Dialogue: 0,0:28:47.55,0:28:52.82,Default,,0000,0000,0000,,Annahmen machen müssen, die das Modell im\NHinblick auf unser spezifisches Problem
Dialogue: 0,0:28:52.82,0:28:58.12,Default,,0000,0000,0000,,beschränken. Diese Annahmen haben aber\Nihre Grenzen. Dann versagt das Modell,
Dialogue: 0,0:28:58.12,0:29:00.40,Default,,0000,0000,0000,,ohne dass sich das Modell darüber bewusst\Nist.
Dialogue: 0,0:29:00.40,0:29:07.23,Default,,0000,0000,0000,,Das heißt also unser Job als\NWissenschaftler oder Studierender ist es,
Dialogue: 0,0:29:07.23,0:29:14.89,Default,,0000,0000,0000,,diese Grenzfälle zu benennen und zu\Ntesten, ob in unserem speziellen
Dialogue: 0,0:29:14.89,0:29:17.95,Default,,0000,0000,0000,,Anwendungsfall diese Algorithmen nicht\Nversagen.
Dialogue: 0,0:29:17.95,0:29:23.03,Default,,0000,0000,0000,,An diesen Prinzipien hat sich auch bis\Nheute nichts geändert, aber der Erfolg des
Dialogue: 0,0:29:23.03,0:29:25.49,Default,,0000,0000,0000,,maschinellen Lernens in bestimmten\NBereichen lässt selbst uns
Dialogue: 0,0:29:25.49,0:29:29.61,Default,,0000,0000,0000,,WissenschaftlerInnen diese universalen\NRegeln manchmal vergessen.
Dialogue: 0,0:29:29.61,0:29:33.51,Default,,0000,0000,0000,,Wir sind dann versucht zu glauben, dass\NModelle so flexibel sind, dass die Grenzen
Dialogue: 0,0:29:33.51,0:29:37.00,Default,,0000,0000,0000,,quasi nicht mehr existieren.\NIm Folgenden möchte ich aber auf ein
Dialogue: 0,0:29:37.00,0:29:40.97,Default,,0000,0000,0000,,Beispiel eingehen, das sich auch mit dem\NDeeplearning-Hype gar nicht geändert hat.
Dialogue: 0,0:29:40.97,0:29:46.75,Default,,0000,0000,0000,,Und das ist das Problem der Zielsetzung\Nund die Frage, wie Erfolg zu bewerten ist.
Dialogue: 0,0:29:46.75,0:29:51.80,Default,,0000,0000,0000,,Am Beginn des Vortrags sprach Hendrik über\Ndas Messen von Fehlern und, dass das
Dialogue: 0,0:29:51.80,0:29:55.05,Default,,0000,0000,0000,,Korrigieren dieser Fehler ein wichtiger\NMechanismus sei, um Algorithmen zu
Dialogue: 0,0:29:55.05,0:29:58.59,Default,,0000,0000,0000,,trainieren.\NDoch was ein Fehler ist, ist oft nicht
Dialogue: 0,0:29:58.59,0:30:02.20,Default,,0000,0000,0000,,einfach zu bestimmen und es liegt in der\NHand des Ingenieurs zu definieren.
Dialogue: 0,0:30:02.20,0:30:04.32,Default,,0000,0000,0000,,Zum Beispiel wie messe ich Erfolg bei\NYouTube-Empfehlungen?
Dialogue: 0,0:30:04.32,0:30:09.15,Default,,0000,0000,0000,,Messe ich die Zeit die jemand auf der\NPlattform verbringt? Das kann aber auch
Dialogue: 0,0:30:09.15,0:30:12.22,Default,,0000,0000,0000,,bedeuten, dass der PC vielleicht noch\Neiner Ecke steht und die Personen gar
Dialogue: 0,0:30:12.22,0:30:15.71,Default,,0000,0000,0000,,nicht mehr im Raum ist oder messe ich die\NAnzahl von Klicks? Aber wenn diese zu
Dialogue: 0,0:30:15.71,0:30:19.25,Default,,0000,0000,0000,,frequent sind, dann bedeutet das\Nvielleicht, dass die Person das Video gar
Dialogue: 0,0:30:19.25,0:30:23.58,Default,,0000,0000,0000,,nicht mag.\NEin anderes Problem sind Übersetzungen.
Dialogue: 0,0:30:23.58,0:30:32.17,Default,,0000,0000,0000,,Stellen Sie sich nur also vor, dass wir\Neinen Korpus von Übersetzungen haben und
Dialogue: 0,0:30:32.17,0:30:36.38,Default,,0000,0000,0000,,wir wollen messen, ob ein Text richtig\Nübersetzt wurde.
Dialogue: 0,0:30:36.38,0:30:43.62,Default,,0000,0000,0000,,Wie können wir das messen? Wort für Wort\Noder Paragraph für Paragraph? Wenn wir
Dialogue: 0,0:30:43.62,0:30:46.87,Default,,0000,0000,0000,,Wort für Wort messen, dann spielen wir\Nvielleicht mit der Wortreihenfolge in
Dialogue: 0,0:30:46.87,0:30:49.30,Default,,0000,0000,0000,,verschiedenen Sprachen und das\Nfunktioniert dann nicht so gut. Wenn wir
Dialogue: 0,0:30:49.30,0:30:53.66,Default,,0000,0000,0000,,Paragraph für Paragraph messen,\Nfunktioniert das vielleicht nicht so gut,
Dialogue: 0,0:30:53.66,0:30:58.18,Default,,0000,0000,0000,,weil der Algorithmus den Kontext nicht\Nmehr begreift. Und wie gehen wir mit
Dialogue: 0,0:30:58.18,0:31:01.13,Default,,0000,0000,0000,,Synonymen um? Wenn also der Algorithmus\Nein richtiges Synonymen gefunden hat, wird
Dialogue: 0,0:31:01.13,0:31:04.72,Default,,0000,0000,0000,,dann trotzdem ein Fehler berechnet, wenn\Nder spezielle Datenpunkt besagt, dass das
Dialogue: 0,0:31:04.72,0:31:08.34,Default,,0000,0000,0000,,vielleicht als ein anderes Synonym zu\Nübersetzen ist? Man muss also
Dialogue: 0,0:31:08.34,0:31:13.30,Default,,0000,0000,0000,,Entscheidungen treffen. Die Ingenieure bei\NGoogle und anderen führenden
Dialogue: 0,0:31:13.30,0:31:20.97,Default,,0000,0000,0000,,Übersetzungssystem beantworten die Frage\Nfolgendermaßen: Wir übersetzen Satz für
Dialogue: 0,0:31:20.97,0:31:25.88,Default,,0000,0000,0000,,Satz. Dabei gehen wir davon aus, dass\NSätze unabhängig sind und nur das
Dialogue: 0,0:31:25.88,0:31:30.05,Default,,0000,0000,0000,,wahrscheinlichste Wort oder die\Nwahrscheinlichste Phrase wird richtig
Dialogue: 0,0:31:30.05,0:31:35.38,Default,,0000,0000,0000,,bewertet. Wenn wir also nochmal auf das\NBeispiel aus der ersten Hälfte des
Dialogue: 0,0:31:35.38,0:31:40.36,Default,,0000,0000,0000,,Vortrags eingehen. Wenn wir\Nnun "Sie ist eine Frau. Sie ist Ärztin" in
Dialogue: 0,0:31:40.36,0:31:45.69,Default,,0000,0000,0000,,das genderneutrale Türkisch übersetzen zu\N"O bir kadın. O bir doktor." und dann
Dialogue: 0,0:31:45.69,0:31:51.09,Default,,0000,0000,0000,,zurückübersetzen ins Deutsche, dann wird\Ndies mit "Sie ist eine Frau. Er ist Arzt"
Dialogue: 0,0:31:51.09,0:31:55.20,Default,,0000,0000,0000,,übersetzt. Und jetzt wissen wir auch\Nwarum. Da wir annahmen, dass Sätze
Dialogue: 0,0:31:55.20,0:31:58.78,Default,,0000,0000,0000,,unabhängig sind weiß der Algorithmus gar\Nnichts vom Kontext, also dass wir hier
Dialogue: 0,0:31:58.78,0:32:04.58,Default,,0000,0000,0000,,über eine Frau sprechen. Wenn der\NAlgorithmus "O bir doktor" dann übersetzt,
Dialogue: 0,0:32:04.58,0:32:08.36,Default,,0000,0000,0000,,übersetzt der nur die wahrscheinlichste\NPhrase und die ist "Er ist Arzt". Es
Dialogue: 0,0:32:08.36,0:32:12.39,Default,,0000,0000,0000,,handelt sich hier also nicht um Bias in\Nden Daten oder zumindest nicht unbedingt,
Dialogue: 0,0:32:12.39,0:32:20.01,Default,,0000,0000,0000,,sondern um Bias in den Annahmen die das\NModell zu sehr vereinfachen. Ein zweites
Dialogue: 0,0:32:20.01,0:32:23.29,Default,,0000,0000,0000,,Beispiel führt das noch klarer vor Augen.\NWenn wir hier eben den Punkt durch ein
Dialogue: 0,0:32:23.29,0:32:30.83,Default,,0000,0000,0000,,Komma ersetzen, dann kann der Algorithmus\Nes richtig übersetzen, weil er sich des
Dialogue: 0,0:32:30.83,0:32:36.97,Default,,0000,0000,0000,,Kontexts bewusst ist. Im nächsten Beispiel\Num das Phänomen Bias wollen wir zeigen wie
Dialogue: 0,0:32:36.97,0:32:39.91,Default,,0000,0000,0000,,Bias in Modellen Bias in Daten verstärken\Nkann.
Dialogue: 0,0:32:39.91,0:32:44.82,Default,,0000,0000,0000,,Dies wird besonders in sogenannten aktiven\NLernszenarien bewusst. Aktives Lernen
Dialogue: 0,0:32:44.82,0:32:52.19,Default,,0000,0000,0000,,funktioniert wie folgt. Wir haben Daten,\Nauf deren Grundlage wir einen Algorithmus
Dialogue: 0,0:32:52.19,0:32:55.99,Default,,0000,0000,0000,,lernen. Für manche Voraussagen sind wir\Nuns aber nicht sicher. Darum fragen wir
Dialogue: 0,0:32:55.99,0:32:59.99,Default,,0000,0000,0000,,einen menschlichen Experten um Rat und der\NAlgorithmus fragt dann meistens die
Dialogue: 0,0:32:59.99,0:33:06.95,Default,,0000,0000,0000,,folgende Frage: Habe ich diesen Datenpunkt\Nrichtig bewertet? Und falls nicht, bitte
Dialogue: 0,0:33:06.95,0:33:11.97,Default,,0000,0000,0000,,um Feedback! Das führt dazu, dass der\NAlgorithmus in der Zukunft mehr Daten zur
Dialogue: 0,0:33:11.97,0:33:16.31,Default,,0000,0000,0000,,Verfügung gestellt bekommt, um dann besser\Nzu lernen und weniger oft um Hilfe fragen
Dialogue: 0,0:33:16.31,0:33:22.07,Default,,0000,0000,0000,,zu müssen. Das klingt gut. Und so viel zum\Nstörungsfreien Ablauf. Was aber nun wenn
Dialogue: 0,0:33:22.07,0:33:27.07,Default,,0000,0000,0000,,ein Datenpunkt mit falschen oder\Nverzerrten Merkmalen beschrieben wird? Und
Dialogue: 0,0:33:27.07,0:33:31.40,Default,,0000,0000,0000,,dazu kommt, dass unser Mensch vielleicht\Nnicht so wachsam ist, wie wir in unserem
Dialogue: 0,0:33:31.40,0:33:37.42,Default,,0000,0000,0000,,Modell annehmen. Wir haben also eine\Nkleine Verzerrung im Datensatz, und die
Dialogue: 0,0:33:37.42,0:33:42.71,Default,,0000,0000,0000,,Annahme des idealen Menschen wird verletzt\Nin unserem eigentlichen Phänomen. Dieser
Dialogue: 0,0:33:42.71,0:33:47.91,Default,,0000,0000,0000,,falsche Datenpunkt wird also ignoriert.\NDas führt dann dazu, dass, obwohl die
Dialogue: 0,0:33:47.91,0:33:52.49,Default,,0000,0000,0000,,Ursache der Verzerrung nicht mehr aktiv\Nist, dieser Datenpunkt nun vermehrt wird
Dialogue: 0,0:33:52.49,0:33:57.00,Default,,0000,0000,0000,,aufgrund der Tatsache, dass der Mensch\Nnicht auf die Frage, habe ich diesen
Dialogue: 0,0:33:57.00,0:34:02.51,Default,,0000,0000,0000,,Datenpunkt richtig bewertet, reagiert.\NUnd das führt dann wiederum dazu, wenn man
Dialogue: 0,0:34:02.51,0:34:04.72,Default,,0000,0000,0000,,mehr\Nverzerrte Daten hat, dass diese mehr
Dialogue: 0,0:34:04.72,0:34:08.59,Default,,0000,0000,0000,,verzerrten Daten sich immer weiter\Nvermehren können. Wann kann ich das also
Dialogue: 0,0:34:08.59,0:34:13.71,Default,,0000,0000,0000,,jetzt in freier Wildbahn beobachten? Es\Nist relativ schwer zu sagen, weil sich
Dialogue: 0,0:34:13.71,0:34:16.60,Default,,0000,0000,0000,,natürlich solche großen Player wie Google\Noder Facebook nicht immer in die Karten
Dialogue: 0,0:34:16.60,0:34:21.32,Default,,0000,0000,0000,,blicken lassen. Aber ich denke ein Tweet\Naus dem vergangenen Jahr lässt darauf
Dialogue: 0,0:34:21.32,0:34:27.09,Default,,0000,0000,0000,,schließen, dass das vielleicht hier\Npassiert sein könnte. Also eine
Dialogue: 0,0:34:27.09,0:34:30.68,Default,,0000,0000,0000,,Afroamerikanerin mit Kussmund, in der\NMitte unten, wird hier als Gorilla
Dialogue: 0,0:34:30.68,0:34:33.49,Default,,0000,0000,0000,,bezeichnet. Das ist eine\Ngeschichtsträchtige Bezeichnung für
Dialogue: 0,0:34:33.49,0:34:37.13,Default,,0000,0000,0000,,Afroamerikaner in Amerika und hat\Nnatürlich große Wellen geschlagen. Google
Dialogue: 0,0:34:37.13,0:34:41.19,Default,,0000,0000,0000,,erklärt die Ursache des Fehlers nicht\Ngenau genug, um genau zu wissen, was ihn
Dialogue: 0,0:34:41.19,0:34:46.67,Default,,0000,0000,0000,,ausgelöst hat, aber zwei Probleme können\Neine Rolle gespielt haben. Eins wäre, dass
Dialogue: 0,0:34:46.67,0:34:50.32,Default,,0000,0000,0000,,die Bildbeschreibung immer von Menschen\Nbereitgestellt wird, und die erlauben sich
Dialogue: 0,0:34:50.32,0:34:55.68,Default,,0000,0000,0000,,gerne mal zu trollen und verfälschen das\Noriginale Datenset damit. Das kann aber
Dialogue: 0,0:34:55.68,0:34:59.18,Default,,0000,0000,0000,,nicht die einzige Ursache sein. Es kommt\Nalso mindestens noch dazu, dass gewisse
Dialogue: 0,0:34:59.18,0:35:02.18,Default,,0000,0000,0000,,Gruppen von Menschen entweder einfach sehr\Nklein sind in einer Gesellschaft oder
Dialogue: 0,0:35:02.18,0:35:06.48,Default,,0000,0000,0000,,unterrepräsentiert sind. Und vielleicht\Nauch drittens, man muss schon sagen dass
Dialogue: 0,0:35:06.48,0:35:11.65,Default,,0000,0000,0000,,bei großen Tech-Firmen sehr wenig\NGrenzszenarien oder Szenarien getestet
Dialogue: 0,0:35:11.65,0:35:15.56,Default,,0000,0000,0000,,werden. Wir denken da zum Beispiel an den\NMicrosoft Chatbot, der ganz ähnliche
Dialogue: 0,0:35:15.56,0:35:22.13,Default,,0000,0000,0000,,Phänomene gezeigt hat. Also der dann auch\Nsehr rassistische Chat-Nachrichten
Dialogue: 0,0:35:22.13,0:35:26.88,Default,,0000,0000,0000,,geschrieben hat. Das letzte relevante\NBeispiel zum Thema Bias soll aus dem
Dialogue: 0,0:35:26.88,0:35:32.13,Default,,0000,0000,0000,,Bereich des übertragenden Lernens kommen.\NHierbei ist das Ziel das Lösen einer
Dialogue: 0,0:35:32.13,0:35:37.49,Default,,0000,0000,0000,,Aufgabe. Und diese Aufgabe hat aber nur\Nwenige Datenpunkte. Und das sind nicht
Dialogue: 0,0:35:37.49,0:35:40.96,Default,,0000,0000,0000,,genug, um den Algorithmus erfolgreich\Nlernen zu lassen. Aber es gibt eine
Dialogue: 0,0:35:40.96,0:35:44.95,Default,,0000,0000,0000,,ähnliche Aufgabe, die erfolgreich gelöst\Nwerden kann. Und die Idee ist nun, dass
Dialogue: 0,0:35:44.95,0:35:50.10,Default,,0000,0000,0000,,gut funktionierende Modell zu verwenden um\Nunseren eigentlichen Problemen zu helfen.
Dialogue: 0,0:35:50.10,0:35:57.31,Default,,0000,0000,0000,,Diese Technik führt aber wieder zu\NVerzerrungen, die nur schwer bestimmt und
Dialogue: 0,0:35:57.31,0:36:00.75,Default,,0000,0000,0000,,kontrolliert werden können.\NDas wird klar, wenn wir ein konkretes
Dialogue: 0,0:36:00.75,0:36:04.44,Default,,0000,0000,0000,,Beispiel betrachten. Wir können eine ganze\NHalle voll Roboterarme stellen, um ihnen
Dialogue: 0,0:36:04.44,0:36:10.18,Default,,0000,0000,0000,,bestimmte motorische Aufgaben\Nbeizubringen. Aber selbst 1000 Roboterarme
Dialogue: 0,0:36:10.18,0:36:17.53,Default,,0000,0000,0000,,lernen nur mühsam. Was also gang und gäbe\Nist in der modernen Robotik, sind dass man
Dialogue: 0,0:36:17.53,0:36:23.02,Default,,0000,0000,0000,,Systeme in Simulationen üben lässt.\NSysteme werden also für Tausende Jahre in
Dialogue: 0,0:36:23.02,0:36:26.73,Default,,0000,0000,0000,,Simulationen geübt. Das ist natürlich aber\Nnie Realität. Also wir denken da an
Dialogue: 0,0:36:26.73,0:36:31.54,Default,,0000,0000,0000,,Gravitationssimulationen, die Fehler\Nenthalten kann. Lichtbedingungen, die
Dialogue: 0,0:36:31.54,0:36:34.91,Default,,0000,0000,0000,,nicht ganz real sind, oder der\Nidealisierte Roboterarm, der hier
Dialogue: 0,0:36:34.91,0:36:40.19,Default,,0000,0000,0000,,verwendet wird. In diesem Zusammenhang\Nmöchte ich auch sagen, wie attraktiv auch
Dialogue: 0,0:36:40.19,0:36:44.10,Default,,0000,0000,0000,,die Zukunft mit selbstfahrenden Autos\Nerscheinen mag, mit ihren Versprechen nach
Dialogue: 0,0:36:44.10,0:36:47.97,Default,,0000,0000,0000,,mehr Platz in den Städten, weniger\NUnfällen und effektiverer Verkehrsführung,
Dialogue: 0,0:36:47.97,0:36:51.58,Default,,0000,0000,0000,,so sollte man auch sehr skeptisch sein,\Ndenn auch diese Systeme haben die meiste
Dialogue: 0,0:36:51.58,0:36:58.84,Default,,0000,0000,0000,,Lebenserfahrung in Simulationen gesammelt.\NEine ganz andere Betrachtungsweise auf
Dialogue: 0,0:36:58.84,0:37:03.14,Default,,0000,0000,0000,,Daten ist die der Datendichte. Daten\Nkönnen dicht beieinander liegen oder weit
Dialogue: 0,0:37:03.14,0:37:09.38,Default,,0000,0000,0000,,voneinander entfernt. In Bereichen mit\Nvielen Daten ist es oft einfach korrekte
Dialogue: 0,0:37:09.38,0:37:13.65,Default,,0000,0000,0000,,Aussagen zu treffen. Neue Datenpunkte in\Ndiesen Bereichen zu beschreiben nennt man
Dialogue: 0,0:37:13.65,0:37:18.64,Default,,0000,0000,0000,,Interpolation. Wohingegen Bereiche mit\Nwenigen Daten oder keinen Datenpunkten
Dialogue: 0,0:37:18.64,0:37:22.92,Default,,0000,0000,0000,,sehr schwer zu beschreiben sind. Diese\NAufgabe beschreibt man mit Extrapolation.
Dialogue: 0,0:37:22.92,0:37:27.69,Default,,0000,0000,0000,,Korrektes extrapolieren ist im Allgemeinen\Nnicht möglich oder nur möglich, wenn man
Dialogue: 0,0:37:27.69,0:37:30.50,Default,,0000,0000,0000,,korrekte Annahmen über den\NEntstehungsprozess der Daten macht.
Dialogue: 0,0:37:30.50,0:37:35.79,Default,,0000,0000,0000,,Interpolieren, also das Wandern von einem\Noder mehreren Datenpunkte zum anderen,
Dialogue: 0,0:37:35.79,0:37:40.57,Default,,0000,0000,0000,,kann so wichtige Fragen des Alltags\Nbeantworten wie: Wie würde das Kind von
Dialogue: 0,0:37:40.57,0:37:46.65,Default,,0000,0000,0000,,Kim Jong-un und Donald J. Trump aussehen?\NNeueste Anwendungen dieser Technik
Dialogue: 0,0:37:46.65,0:37:51.28,Default,,0000,0000,0000,,beinhalten auch das gezielte Verändern von\NVideo in Bild und Sprache. Beispielsweise
Dialogue: 0,0:37:51.28,0:37:55.47,Default,,0000,0000,0000,,wurde hier das Gesicht von der\NHauptdarstellerin des Wonder Woman Films,
Dialogue: 0,0:37:55.47,0:38:01.67,Default,,0000,0000,0000,,Gal Gadot, auf einen pornografischen Film\Ngelegt. Und man muss nicht weit denken um
Dialogue: 0,0:38:01.67,0:38:03.37,Default,,0000,0000,0000,,sich die Konsequenzen solcher Techniken,\Nfür
Dialogue: 0,0:38:03.37,0:38:07.44,Default,,0000,0000,0000,,Fake News zum\NBeispiel, vorzustellen. Im extremsten Fall
Dialogue: 0,0:38:07.44,0:38:12.42,Default,,0000,0000,0000,,gibt es sehr wenige oder keine Daten wo\Neine Aussage getroffen werden soll. Nun
Dialogue: 0,0:38:12.42,0:38:16.22,Default,,0000,0000,0000,,ist es wichtig, die richtigen Annahmen zu\Ntreffen um extrapolieren zu können. Das
Dialogue: 0,0:38:16.22,0:38:20.73,Default,,0000,0000,0000,,haben wir bereits gesagt. Das ist aber\Neine extrem schwere Aufgabe, zu der auch
Dialogue: 0,0:38:20.73,0:38:24.75,Default,,0000,0000,0000,,moderne Wissenschaft nur wenige und\Nunvollständige Antworten weiß. Was also
Dialogue: 0,0:38:24.75,0:38:28.33,Default,,0000,0000,0000,,anstatt in aller Regel passiert, ist, dass\NAlgorithmen keine Annahmen machen. Und das
Dialogue: 0,0:38:28.33,0:38:33.63,Default,,0000,0000,0000,,kann zu unvorhergesehenen Phänomenen\Nführen. Im schlimmsten Fall kann man
Dialogue: 0,0:38:33.63,0:38:38.53,Default,,0000,0000,0000,,dieses Wissen auch nutzen zu sogenannten\Nfeindlichen Attacken auf Algorithmen. Eine
Dialogue: 0,0:38:38.53,0:38:43.34,Default,,0000,0000,0000,,Attacke verläuft beispielsweise so: Man\Nnehme einen Datenpunkt aus dem Datenset
Dialogue: 0,0:38:43.34,0:38:47.43,Default,,0000,0000,0000,,und dessen beschreibende Merkmale, also\Nhier z.B. die Bilder von Verkehrsschildern
Dialogue: 0,0:38:47.43,0:38:48.43,Default,,0000,0000,0000,,und die Verkehrsschilder.
Dialogue: 0,0:38:48.43,0:38:49.43,Default,,0000,0000,0000,,[38:48]
Dialogue: 0,0:38:49.43,0:38:54.09,Default,,0000,0000,0000,,Man suche dann fernab von den Daten einen\NPunkt der sehr ähnlich ist, den aber der
Dialogue: 0,0:38:54.09,0:38:58.83,Default,,0000,0000,0000,,Algorithmus mit all mit einem ganz anderen\NMerkmal beschreiben würde. Und das
Dialogue: 0,0:38:58.83,0:39:08.91,Default,,0000,0000,0000,,gruselige ist, dass dies auch funktioniert\Nmit ausgedruckten Version derselben
Dialogue: 0,0:39:08.91,0:39:13.58,Default,,0000,0000,0000,,Attacke. Und wenn man nicht dieselben\NDaten und nicht einmal denselben dasselbe
Dialogue: 0,0:39:13.58,0:39:19.47,Default,,0000,0000,0000,,Modell kennt oder verwendet. Wen das\Ninteressiert dem empfehle ich sehr für die
Dialogue: 0,0:39:19.47,0:39:22.70,Default,,0000,0000,0000,,nächste Präsentation zu bleiben. Das wird\Nglaube ich ja der Kernpunkt der nächsten
Dialogue: 0,0:39:22.70,0:39:27.78,Default,,0000,0000,0000,,Präsentation sein. Abschließend zum Thema\NMöchte ich nochmal ganz deutlich machen,
Dialogue: 0,0:39:27.78,0:39:33.35,Default,,0000,0000,0000,,dass in allen Systemen des modernen\Nmaschinellen Lernens Korrelation evaluiert
Dialogue: 0,0:39:33.35,0:39:39.32,Default,,0000,0000,0000,,wird und nicht Kausalität. Mathematische\NKausalitätsforschung, also dem Suchen nach
Dialogue: 0,0:39:39.32,0:39:43.45,Default,,0000,0000,0000,,Ursache und Effekt für komplexe Systeme\Nist erstens ein Kinderschuh und
Dialogue: 0,0:39:43.45,0:39:47.44,Default,,0000,0000,0000,,Korrelation zu finden und zu beschreiben\Nist nur einer der Schritte der dazu nötig
Dialogue: 0,0:39:47.44,0:39:53.32,Default,,0000,0000,0000,,ist. Bevor ich die Frage dann- die Runde\Nfür Fragen öffne haben Hendrik und ich
Dialogue: 0,0:39:53.32,0:39:56.05,Default,,0000,0000,0000,,noch ein Anliegen. Also ich hoffe wir\Nhaben umfassend die technischen
Dialogue: 0,0:39:56.05,0:40:00.22,Default,,0000,0000,0000,,Möglichkeiten des maschinellen Lernens\Ndargestellt und welche Begrenzungen es
Dialogue: 0,0:40:00.22,0:40:06.15,Default,,0000,0000,0000,,aufweist. Letzteres soll und wird uns als\NGesellschaft aber nicht davon abhalten
Dialogue: 0,0:40:06.15,0:40:11.14,Default,,0000,0000,0000,,diese großartigen Fortschritte zu\Ngeniessen. Also denken wir an Mediziner
Dialogue: 0,0:40:11.14,0:40:14.85,Default,,0000,0000,0000,,und Molekulare Biologie in denen diese\NTechniken großes Versprechen und auch
Dialogue: 0,0:40:14.85,0:40:19.74,Default,,0000,0000,0000,,schon geliefert haben. Daraus ergeben sich\Ntrotzdem große politische Fragen die uns
Dialogue: 0,0:40:19.74,0:40:23.49,Default,,0000,0000,0000,,alle etwas angehen. Entscheidungen die\NWissenschaftler nicht alleine treffen
Dialogue: 0,0:40:23.49,0:40:28.57,Default,,0000,0000,0000,,können, wollen oder sollten. Also wir\Nmüssen uns Sachen fragen wie: Wer soll im
Dialogue: 0,0:40:28.57,0:40:32.81,Default,,0000,0000,0000,,konkreten Fall Entscheidungen treffen,\NMenschen oder Maschinen. Wer ist Schuld
Dialogue: 0,0:40:32.81,0:40:38.50,Default,,0000,0000,0000,,wenn Fehler passieren: Ingenieure, Firmen,\NStaat oder vielleicht gar niemand. Wie
Dialogue: 0,0:40:38.50,0:40:44.29,Default,,0000,0000,0000,,können staatliche Garantien wie Gleichheit\Njuristisch umgesetzt werden im Angesicht
Dialogue: 0,0:40:44.29,0:40:49.70,Default,,0000,0000,0000,,solcher neuen Algorithmen. Und natürlich\Nauch wie können Algorithmen oder sollten
Dialogue: 0,0:40:49.70,0:40:53.39,Default,,0000,0000,0000,,Algorithmen reguliert werden. An der\NStelle möchte ich mich bedanken für
Dialogue: 0,0:40:53.39,0:40:57.07,Default,,0000,0000,0000,,Aufmerksamkeit\Nund würde die Runde eröffnen für Fragen.
Dialogue: 0,0:40:57.07,0:41:12.62,Default,,0000,0000,0000,,Herald-Angel: Vielen Dank Karen, vielen
Dialogue: 0,0:41:12.62,0:41:19.43,Default,,0000,0000,0000,,Dank Hendrik. Wenn ihr Fragen habt, bitte\Nan den Mikros aufstellen. Und dann
Dialogue: 0,0:41:19.43,0:41:21.77,Default,,0000,0000,0000,,entsprechend warten. Mikrophon 1\Nbitteschön.
Dialogue: 0,0:41:21.77,0:41:24.42,Default,,0000,0000,0000,,Mikrofon 1: Ja, vielen Dank für den
Dialogue: 0,0:41:24.42,0:41:31.36,Default,,0000,0000,0000,,großartigen Vortrag, war super spannend\Nund es ist ein sehr sehr wichtiges Thema,
Dialogue: 0,0:41:31.36,0:41:35.90,Default,,0000,0000,0000,,wie gehen wir damit um, weil es wirklich\NAuswirkungen hat auf die politische
Dialogue: 0,0:41:35.90,0:41:41.65,Default,,0000,0000,0000,,Organisation, auf die Demokratie, all\Ndiese Sachen. Jetzt vom Beispiel das
Dialogue: 0,0:41:41.65,0:41:45.25,Default,,0000,0000,0000,,Hendrik gebracht hat, im ersten Teil\Nging's ja jetzt auch zum Beispiel über die
Dialogue: 0,0:41:45.25,0:41:51.82,Default,,0000,0000,0000,,Anwendung von KI für ja sagen wir\Npolitische Propaganda, könnte man auch
Dialogue: 0,0:41:51.82,0:41:58.30,Default,,0000,0000,0000,,sehen, Cambridge Analytica, die ganzen\NSachen und gleichzeitig als zweites Thema
Dialogue: 0,0:41:58.30,0:42:03.72,Default,,0000,0000,0000,,die Filterbubbles die sich bilden, also wo\Nnatürlich eine Verstärkung dieses
Dialogue: 0,0:42:03.72,0:42:09.10,Default,,0000,0000,0000,,Phaenomens möglich ist. Meine Frage, die\Nich mich in diesem Jahr gestellt habe, mit
Dialogue: 0,0:42:09.10,0:42:19.58,Default,,0000,0000,0000,,Brexit, mit Trumpwahlen und so weiter, was\Nsind die Möglichkeiten die sich bieten um
Dialogue: 0,0:42:19.58,0:42:26.89,Default,,0000,0000,0000,,dem entgegenzuwirken, dass sich Meinungen\Nso stark durch Filterbubbles polarisieren,
Dialogue: 0,0:42:26.89,0:42:33.86,Default,,0000,0000,0000,,dass Leute durch Targeted Advertisement\Nbeeinflusst werden, die mit AI generiert
Dialogue: 0,0:42:33.86,0:42:41.06,Default,,0000,0000,0000,,werden und Big Data. Wie ja- habt ihr\Nkonkrete Vorschläge?
Dialogue: 0,0:42:41.06,0:42:44.06,Default,,0000,0000,0000,,Hendrik: Vielen Dank für die Frage. Es
Dialogue: 0,0:42:44.06,0:42:47.90,Default,,0000,0000,0000,,geht also darum was man jetzt gegen diese\NProbleme insbesondere im politischen
Dialogue: 0,0:42:47.90,0:42:52.62,Default,,0000,0000,0000,,Bereich machen kann. Und es ist natürlich\Neine riesige Frage, wird uns warscheinlich
Dialogue: 0,0:42:52.62,0:42:57.40,Default,,0000,0000,0000,,auch noch lange Begleiten, ich glaube\Nkognitive Diversität im Bekannten- und
Dialogue: 0,0:42:57.40,0:43:02.63,Default,,0000,0000,0000,,Freundeskreis, ganz wichtig, vor allem aber\Nauch in Unternehmen. Und unsere Ansätze, so
Dialogue: 0,0:43:02.63,0:43:06.49,Default,,0000,0000,0000,,kommen sie ja zusammen, mir gehts ja darum\Nwie können wir Leute untersützten, wie
Dialogue: 0,0:43:06.49,0:43:09.93,Default,,0000,0000,0000,,machen wir Visualisierungen, wie machen\Nwir Algorithmen sichtbar, wie helfen wir
Dialogue: 0,0:43:09.93,0:43:13.86,Default,,0000,0000,0000,,den Leuten zu verstehen was da passiert.\NMeine Perspektive, Karens Perspektive
Dialogue: 0,0:43:13.86,0:43:17.30,Default,,0000,0000,0000,,dann: Wie können wir die ALgorithmen, die\NBlackbox aufmachen, wie können wir
Dialogue: 0,0:43:17.30,0:43:21.20,Default,,0000,0000,0000,,erklären, wie kann ein System auch sagen\Nwie sicher es ist mit seiner Vorhersage.
Dialogue: 0,0:43:21.20,0:43:28.28,Default,,0000,0000,0000,,Also es gibt ja auch viel Arbeit, es gibt\Ndie Fairness, Transparency... Fairness,
Dialogue: 0,0:43:28.28,0:43:32.23,Default,,0000,0000,0000,,Accountability, and Transparency in\NMachine Learning fatml.org. Da gibt es
Dialogue: 0,0:43:32.23,0:43:35.63,Default,,0000,0000,0000,,eine ganz große Gruppe von Leuten die sich\Ndamit auseinandersetzt, auch aus ganz
Dialogue: 0,0:43:35.63,0:43:39.07,Default,,0000,0000,0000,,verschiedenen Richtungen, weil es gibt\Nviel Arbeit dazu in der Psychologie, in
Dialogue: 0,0:43:39.07,0:43:43.70,Default,,0000,0000,0000,,der Soziologie, aber auch halt in der\NInformatik. Genau fatml.org ist eine sehr
Dialogue: 0,0:43:43.70,0:43:44.70,Default,,0000,0000,0000,,gute Addresse für sowas.
Dialogue: 0,0:43:44.70,0:43:50.63,Default,,0000,0000,0000,,Herald-Angel: Eine Bitte an die, die\Ngerade rausgehen: Macht das bitte so leise
Dialogue: 0,0:43:50.63,0:43:54.01,Default,,0000,0000,0000,,wie es geht und versucht durch die Tür zu\Nmeiner Linken, zu eurer Rechten dort
Dialogue: 0,0:43:54.01,0:44:00.79,Default,,0000,0000,0000,,hinten, den Saal zu verlassen, danke\Nschön.
Dialogue: 0,0:44:00.79,0:44:04.79,Default,,0000,0000,0000,,Jawohl, Mikrofon 5, du hast eine Frage?
Dialogue: 0,0:44:04.79,0:44:08.96,Default,,0000,0000,0000,,Mikrophon 5: Ja, eher ein kurzer Kommentar\Naus dem Bereich des Machine Learnings, ist
Dialogue: 0,0:44:08.96,0:44:13.17,Default,,0000,0000,0000,,das, was wir da gesehen haben bei der bei\Ndem Gorillabeispiel, ebenso bei dem
Dialogue: 0,0:44:13.17,0:44:18.55,Default,,0000,0000,0000,,Übersetzungsbeispiel nicht eher ein Bias\Nin der Kostenfunktion? Dadurch, dass wir
Dialogue: 0,0:44:18.55,0:44:22.38,Default,,0000,0000,0000,,dem Algorithmus gesagt haben, es ist\Ngenauso teuer, wenn du die Klasse Gorilla
Dialogue: 0,0:44:22.38,0:44:27.41,Default,,0000,0000,0000,,mit der Klasse mit einer anderen Klasse\Nverwechselst, versus, dass wir die
Dialogue: 0,0:44:27.41,0:44:33.47,Default,,0000,0000,0000,,Oberklasse Mensch mit der Oberklasse Tier\Nverwechselst, oder in dem Genderbeispiel
Dialogue: 0,0:44:33.47,0:44:37.90,Default,,0000,0000,0000,,dass "Er" und "Sie" als Verwechselung\Neines einzelnen Worts genauso teuer sind
Dialogue: 0,0:44:37.90,0:44:40.80,Default,,0000,0000,0000,,wie beliebige andere Worverwechselungen.
Dialogue: 0,0:44:40.80,0:44:44.62,Default,,0000,0000,0000,,Hendrik: Sehr guter Punkt. Also man kann\Nnatürlich in der Kostenfunktion dagegen
Dialogue: 0,0:44:44.62,0:44:48.35,Default,,0000,0000,0000,,vorwirken, man kann sagen dieser Fehler\Nist schlimmer für uns als der andere
Dialogue: 0,0:44:48.35,0:44:53.15,Default,,0000,0000,0000,,Fehler, aber wenn wir davon ausgehen, dass\Nalle Klassen gleich sind und wir einfach
Dialogue: 0,0:44:53.15,0:44:56.55,Default,,0000,0000,0000,,für alle Klassen gleich gute Ergebnisse\Nhaben wollen, und das kommt ja aus Google
Dialogue: 0,0:44:56.55,0:45:01.03,Default,,0000,0000,0000,,Fotos, wo wir das für alle Kategorien\Nmachen wollen, dann ist es halt da kommt
Dialogue: 0,0:45:01.03,0:45:04.18,Default,,0000,0000,0000,,der Mensch wieder rein. Das ist dann\Nnichtmehr allgemeines Machine Learning,
Dialogue: 0,0:45:04.18,0:45:07.52,Default,,0000,0000,0000,,sondern wieder so Frickellösung. Und\Ndieses Problem des Bias, und darum gings
Dialogue: 0,0:45:07.52,0:45:11.16,Default,,0000,0000,0000,,ja, ist einfach dem Machine Learning\Ninherent, und wir müssen damit umgehen.
Dialogue: 0,0:45:11.16,0:45:14.11,Default,,0000,0000,0000,,Und ich glaube nicht, dass man das einfach\Nin die Kostenfunktion schreiben kann. Oder
Dialogue: 0,0:45:14.11,0:45:15.56,Default,,0000,0000,0000,,willst du noch was dazu sagen?
Dialogue: 0,0:45:15.56,0:45:21.77,Default,,0000,0000,0000,,Karen: Ja der Punkt von dem Beispiel war\Nja auch quasi wie einerseits da muss ein
Dialogue: 0,0:45:21.77,0:45:27.24,Default,,0000,0000,0000,,falscher Datenpunkt exestiert haben, und\Nwie das quasi durch die ein Bias
Dialogue: 0,0:45:27.24,0:45:30.35,Default,,0000,0000,0000,,vielleicht, oder eine Annahme in der\NKostenfunktion dann eigentlich noch viel
Dialogue: 0,0:45:30.35,0:45:34.90,Default,,0000,0000,0000,,verstärkt wird. Es geht ja darum wie quasi\Neine Negativ-Spirale manchmal losgetreten
Dialogue: 0,0:45:34.90,0:45:38.24,Default,,0000,0000,0000,,werden kann. Dadurch, dass wir einerseits\NBias in den Daten haben, aber auch andere
Dialogue: 0,0:45:38.24,0:45:42.75,Default,,0000,0000,0000,,gewisse Annahmen machen, die vielleicht\Ndie Realität zu sehr vereinfachen.
Dialogue: 0,0:45:42.75,0:45:44.54,Default,,0000,0000,0000,,Das war ja der Punkt dieses Beispiels.
Dialogue: 0,0:45:44.54,0:45:47.67,Default,,0000,0000,0000,,Hendrik: Und vielleicht dazu noch: Das\Nsind natürlich sehr offensichtliche
Dialogue: 0,0:45:47.67,0:45:50.97,Default,,0000,0000,0000,,Beispiele, auch um das hier deutlich zu\Nmachen. Es gibt natürlich auch immer diese
Dialogue: 0,0:45:50.97,0:45:55.22,Default,,0000,0000,0000,,Blindstellen, Blindspots, wo halt was\Npassiert, von dem wir das garnicht wissen.
Dialogue: 0,0:45:55.22,0:45:57.53,Default,,0000,0000,0000,,Das ist ja auf eine Art auch ein\NBlindspot, der vielleicht auch damit
Dialogue: 0,0:45:57.53,0:46:02.26,Default,,0000,0000,0000,,zusammenhängt, dass Google nicht divers\Ngenug ist und nicht genug Leute derartige
Dialogue: 0,0:46:02.26,0:46:04.94,Default,,0000,0000,0000,,Daten damit getestet haben, bevor sie es\Npublic gemacht haben.
Dialogue: 0,0:46:04.94,0:46:08.45,Default,,0000,0000,0000,,Herald-Angel: Mikrophon 1, deine Frage.
Dialogue: 0,0:46:08.45,0:46:11.42,Default,,0000,0000,0000,,Mikrophon 1: Ja vielen Dank, euer Vortrag
Dialogue: 0,0:46:11.42,0:46:15.29,Default,,0000,0000,0000,,war ja so ein bischen als Einführung\Ngedacht, das Thema auf die Agenda zu
Dialogue: 0,0:46:15.29,0:46:17.75,Default,,0000,0000,0000,,bringen, was ich ganz großartig finde,\Naber deswegen hätte ich jetzt eher so eine
Dialogue: 0,0:46:17.75,0:46:21.82,Default,,0000,0000,0000,,Kommunikationsstrategische Frage. Ihr habt\Nja ganz viel über Bias gesprochen, über
Dialogue: 0,0:46:21.82,0:46:25.26,Default,,0000,0000,0000,,Verzerrung, wenn man das so sagt denkt man\Nimplizit ganz oft an neutral und
Dialogue: 0,0:46:25.26,0:46:29.94,Default,,0000,0000,0000,,Unverzerrt, und ich fands toll, du hattest\Nja das No-Free-Lunch-Theorem da, also
Dialogue: 0,0:46:29.94,0:46:33.25,Default,,0000,0000,0000,,sagen: Machine Learning ohne Bias gibt's\Ngarnicht, du hast auch gerade gesagt, das
Dialogue: 0,0:46:33.25,0:46:36.92,Default,,0000,0000,0000,,ist Machine-Learning inherent. Aber das\Nist ja ganz wichtig zu sagen, deswegen
Dialogue: 0,0:46:36.92,0:46:40.08,Default,,0000,0000,0000,,wollte ich einfach mal fragen wenn es um\Npolitische Debatten geht, um öffentliche
Dialogue: 0,0:46:40.08,0:46:44.26,Default,,0000,0000,0000,,Debatten geht, ob ihr dann denkt, dass\NBias und Verzerrung sozusagen der richtige
Dialogue: 0,0:46:44.26,0:46:48.77,Default,,0000,0000,0000,,Header ist, um das alles zu thematisieren.\NWeil es eben dieses Neutrale, Unverzerrte
Dialogue: 0,0:46:48.77,0:46:52.88,Default,,0000,0000,0000,,immer mit impliziert, oder ihr denkt, dass\Nman das dann nochmal anders framen müsste.
Dialogue: 0,0:46:52.88,0:46:54.89,Default,,0000,0000,0000,,Hendrik: Wir sind aufjedenfall keine
Dialogue: 0,0:46:54.89,0:46:59.41,Default,,0000,0000,0000,,Kommunikationsstrategen. Es gibt natürlich\Nviele hervorragende Mediensoziologen,
Dialogue: 0,0:46:59.41,0:47:02.65,Default,,0000,0000,0000,,Kommunikationswissenschaftler, die das\Nwarscheinlich viel besser machen können.
Dialogue: 0,0:47:02.65,0:47:07.95,Default,,0000,0000,0000,,Wir wollten jetzt erstmal in diesem Rahmen\Nzeigen, welche Probleme wir als Techniker,
Dialogue: 0,0:47:07.95,0:47:12.38,Default,,0000,0000,0000,,als Informatiker - wir promovieren ja\Nbeide zu diesen Themen - sehen. Also...
Dialogue: 0,0:47:12.38,0:47:16.52,Default,,0000,0000,0000,,Also das ist wird uns ja aber auch noch\Nsehr lange beschäftigen, das richtig an
Dialogue: 0,0:47:16.52,0:47:17.52,Default,,0000,0000,0000,,die Leute zu bringen.
Dialogue: 0,0:47:17.52,0:47:22.86,Default,,0000,0000,0000,,Herald-Angel: Okay, Dankeschön. Wir haben\Neine Frage aus dem IRC.
Dialogue: 0,0:47:22.86,0:47:25.54,Default,,0000,0000,0000,,Signal-Angel: Ja, danke, eine Frage aus
Dialogue: 0,0:47:25.54,0:47:28.53,Default,,0000,0000,0000,,dem Internet: Hat menschliches Lernen\Nnicht genau genommen die selben Probleme
Dialogue: 0,0:47:28.53,0:47:32.73,Default,,0000,0000,0000,,wie maschienelles Lernen? Oder gibt es da\Nim Prinzipiellen Unterschiede?
Dialogue: 0,0:47:32.73,0:47:38.75,Default,,0000,0000,0000,,Hendrik: Ich guck mal zu dir.
Dialogue: 0,0:47:38.75,0:47:42.59,Default,,0000,0000,0000,,Karen: Also, das ist eine Frage, die
Dialogue: 0,0:47:42.59,0:47:44.44,Default,,0000,0000,0000,,natürlich nicht nur das maschienelle\NLernen betrifft, sondern auch die
Dialogue: 0,0:47:44.44,0:47:48.69,Default,,0000,0000,0000,,Psychologie, oder die Evolutionsforschung,\Nzu der ich mich nicht auskenne. Der
Dialogue: 0,0:47:48.69,0:47:56.68,Default,,0000,0000,0000,,Algorithmus oder die Idee, die Grundidee\Ndes maschienellen Lernens ist ja quasi
Dialogue: 0,0:47:56.68,0:48:01.72,Default,,0000,0000,0000,,Fehler festzustellen, und die dann zu\Nkommunizieren und das Modell wird dann
Dialogue: 0,0:48:01.72,0:48:05.89,Default,,0000,0000,0000,,daraufhin besser. Ob das jetzt bei uns\NMenschen so funktioniert, ich bin mir
Dialogue: 0,0:48:05.89,0:48:12.25,Default,,0000,0000,0000,,nicht sicher ob das jemals jemand genauso\Ngesagt hat. Aber ich glaube im Sinne von,
Dialogue: 0,0:48:12.25,0:48:19.02,Default,,0000,0000,0000,,dass unser Gehirn optimiert, das wird,\Noder das habe ich bestreiten gehört von
Dialogue: 0,0:48:19.02,0:48:24.40,Default,,0000,0000,0000,,Psychologen. Also die Frage ist nicht so\Nsehr wie, oder das Problem, dass ich mit
Dialogue: 0,0:48:24.40,0:48:26.77,Default,,0000,0000,0000,,der Frage habe ist nicht so sehr wie jetzt\Ndas maschienelle Lernen funktioniert,
Dialogue: 0,0:48:26.77,0:48:29.59,Default,,0000,0000,0000,,sondern wie wir selbst funktionieren. Ich\Nglaube wir sind gerade auf dem Weg das
Dialogue: 0,0:48:29.59,0:48:34.54,Default,,0000,0000,0000,,herauszufinden und die Modelle des Machine\NLearnings, maschienellen Lernens sind oft
Dialogue: 0,0:48:34.54,0:48:39.10,Default,,0000,0000,0000,,nur grobe Vereinfachungen dafür wie wir\Nselbst funktioneren.
Dialogue: 0,0:48:39.10,0:48:40.79,Default,,0000,0000,0000,,Hendrik: Genau, ich würde auch sagen, es
Dialogue: 0,0:48:40.79,0:48:44.93,Default,,0000,0000,0000,,ist bio-inspiriert, aber es gab auch eine\NZeit wo alles Maschienen waren, der Körper
Dialogue: 0,0:48:44.93,0:48:48.55,Default,,0000,0000,0000,,als Maschine. Das ist halt die Metapher\Nihrer Zeit. Jetzt haben wir diese
Dialogue: 0,0:48:48.55,0:48:52.40,Default,,0000,0000,0000,,künstlichen neuronalen Netzwerke und jetzt\Nsind das die Metaphern, die wir nutzen,
Dialogue: 0,0:48:52.40,0:48:55.57,Default,,0000,0000,0000,,also ich glaube da ist ein fundamentaler\NUnterschied zwischen menschlichem und
Dialogue: 0,0:48:55.57,0:48:56.57,Default,,0000,0000,0000,,künstlichem Lernen.
Dialogue: 0,0:48:56.57,0:49:00.53,Default,,0000,0000,0000,,Karen: Ja es gibt auch so einen zentralen\NLeitsatz im maschinellen Lernen, der
Dialogue: 0,0:49:00.53,0:49:05.17,Default,,0000,0000,0000,,besagt, dass alle Modelle falsch sind, und\Neinige vielleicht nützlich sind. Und ich
Dialogue: 0,0:49:05.17,0:49:08.47,Default,,0000,0000,0000,,denke das trifft auch auf uns Menschen zu,\Nalle Modelle die wir verwenden, alle
Dialogue: 0,0:49:08.47,0:49:11.51,Default,,0000,0000,0000,,Annahmen die wir machen, alle Stereotypen\Ndie wir benutzen, die sind vielleicht
Dialogue: 0,0:49:11.51,0:49:17.13,Default,,0000,0000,0000,,manchmal nützlich, aber in der Gesamtheit\Nimmer falsch. Ich denke das trifft für
Dialogue: 0,0:49:17.13,0:49:25.06,Default,,0000,0000,0000,,Menschen und Maschinen zu.\N{\i1}Applaus{\i0}
Dialogue: 0,0:49:25.06,0:49:28.17,Default,,0000,0000,0000,,Herald-Angel: Dankeschön. Mikrophon 4,
Dialogue: 0,0:49:28.17,0:49:29.17,Default,,0000,0000,0000,,deine Frage.
Dialogue: 0,0:49:29.17,0:49:36.86,Default,,0000,0000,0000,,Mikrophon 4: Vielleicht eine etwas naive\NFrage, aber bestehen oder gibt es Metriken
Dialogue: 0,0:49:36.86,0:49:43.56,Default,,0000,0000,0000,,um diesen Bias, der uns täglich im Netz\Nbegegnet, zu bewerten? Also dass man das
Dialogue: 0,0:49:43.56,0:49:49.33,Default,,0000,0000,0000,,schon visualisieren kann oder vermitteln\Nkann, dass man sich in einem hohen Bias
Dialogue: 0,0:49:49.33,0:49:56.25,Default,,0000,0000,0000,,also einer hohen Verzerrung bewegt oder\Nauf Glatteis läuft in dem Sinne. Ein hoch
Dialogue: 0,0:49:56.25,0:50:04.08,Default,,0000,0000,0000,,komplexes Thema wirklich, runtergebrochen\Nauf eine, ich sag mal, Bewusstbarmachung
Dialogue: 0,0:50:04.08,0:50:08.23,Default,,0000,0000,0000,,von hoher statistischer Verzerrung, die\Neinen umgibt.
Dialogue: 0,0:50:08.23,0:50:10.87,Default,,0000,0000,0000,,Hendrik: Also es gibt durchaus Forschung
Dialogue: 0,0:50:10.87,0:50:14.87,Default,,0000,0000,0000,,in die Richtung es gibt z.B. die Civic\NMedia Group am MIT Media Lab die sich mit
Dialogue: 0,0:50:14.87,0:50:18.34,Default,,0000,0000,0000,,soetwas aueinandersetzt. Das sind aber so\Neinzelne Beispiele wo sie z.B. Leuten
Dialogue: 0,0:50:18.34,0:50:22.08,Default,,0000,0000,0000,,einfach mal zeigen, was für einen Gender-\NBias sie bei den Leuten, die sie auf
Dialogue: 0,0:50:22.08,0:50:26.25,Default,,0000,0000,0000,,Twitter folgen, haben, also die folgen nur\NMännern z.B..
Dialogue: 0,0:50:26.25,0:50:30.35,Default,,0000,0000,0000,,Solche Bewusstbarmachungen sind wichtig\Nund sind glaube ich auch ein Teil des
Dialogue: 0,0:50:30.35,0:50:33.02,Default,,0000,0000,0000,,Puzzels, aber ich glaube die\NMedienpädagogik muss halt ernstgenommen
Dialogue: 0,0:50:33.02,0:50:36.18,Default,,0000,0000,0000,,werden, den Leuten muss das bewusst sein\Nwenn wir diese Dinger benutzen wollen,
Dialogue: 0,0:50:36.18,0:50:40.93,Default,,0000,0000,0000,,wenn wir in solchen Autos rumfahren\Nwollen, dann müssen wir das verstehen. Es
Dialogue: 0,0:50:40.93,0:50:44.56,Default,,0000,0000,0000,,gibt halt immer diese Blindspots und man\Nkann einfach da nicht darauf eingehen, man
Dialogue: 0,0:50:44.56,0:50:47.46,Default,,0000,0000,0000,,kann nicht jeden Spot da bedenken vorher.
Dialogue: 0,0:50:47.46,0:50:54.24,Default,,0000,0000,0000,,Karen: Um die vielleicht Frage zu\Nkontextualisieren von den Algorithmus-
Dialogue: 0,0:50:54.24,0:50:59.54,Default,,0000,0000,0000,,Wissenschaftlichen-Blickpunkt. Wir machen\Njetzt nicht unbedingt den Unterschied
Dialogue: 0,0:50:59.54,0:51:04.16,Default,,0000,0000,0000,,zwischen vielleicht dem was eine negative\Noder positive Verzerrung ist, also
Dialogue: 0,0:51:04.16,0:51:09.44,Default,,0000,0000,0000,,wahrgenommen wird, sondern für uns gibt es\Nhalt nur Merkmale die auf gewisse andere
Dialogue: 0,0:51:09.44,0:51:13.65,Default,,0000,0000,0000,,Merkmale schließen lassen und das führt\Ndann wieder zu der Frage der Korrelation
Dialogue: 0,0:51:13.65,0:51:21.93,Default,,0000,0000,0000,,und wenn wir sagen wir haben oft ja\NMerkmale die Proxys sind für andere
Dialogue: 0,0:51:21.93,0:51:28.92,Default,,0000,0000,0000,,Merkmale, also wo ich wohne ist oft proxy\Ndafür wie ich aussehe oder woher ich
Dialogue: 0,0:51:28.92,0:51:31.96,Default,,0000,0000,0000,,komme.\NWas ich also im Machine Learning machen
Dialogue: 0,0:51:31.96,0:51:34.58,Default,,0000,0000,0000,,kann, oder wie sich die Wissenschaft damit\Nauseinandersetzt ist zu sagen, ok, wenn
Dialogue: 0,0:51:34.58,0:51:42.92,Default,,0000,0000,0000,,ich weiß welche Merkmale sensitiv sind,\Nalso welche ich nicht möchte dass die mein
Dialogue: 0,0:51:42.92,0:51:46.59,Default,,0000,0000,0000,,System korreliert mit der eigentlichen\NAussage die das System treffen soll, dann
Dialogue: 0,0:51:46.59,0:51:54.21,Default,,0000,0000,0000,,kann quasi ich in meine Fehlerfunktion\Neinen extra Term reinspeisen, der sagt du
Dialogue: 0,0:51:54.21,0:52:00.39,Default,,0000,0000,0000,,dekorrelierst jetzt das Ergebnis was du\Nhast mit dem besonderen Merkmal was du als
Dialogue: 0,0:52:00.39,0:52:06.38,Default,,0000,0000,0000,,sensitiv also z.B. der Wohnort oder dein\NBildungsstatus oder dein Einkommen, dass
Dialogue: 0,0:52:06.38,0:52:10.90,Default,,0000,0000,0000,,die keine Rolle spielen dafür, wie der\NAlgorithmus Vorraussagen macht.
Dialogue: 0,0:52:10.90,0:52:15.63,Default,,0000,0000,0000,,Mikrophon 4: Was ich jetzt meinte war
Dialogue: 0,0:52:15.63,0:52:19.79,Default,,0000,0000,0000,,jetzt wirklich nicht die Unterscheidung\Nzwischen gut und schlecht, sondern
Dialogue: 0,0:52:19.79,0:52:25.36,Default,,0000,0000,0000,,wirklich eine Visualisierung, dieser\NDatensatz oder dieses Ergebnis basiert auf
Dialogue: 0,0:52:25.36,0:52:31.59,Default,,0000,0000,0000,,wenigen Datensichten -- klar im Kontext\Nkompliziert zu bewerkstelligen, aber dass
Dialogue: 0,0:52:31.59,0:52:37.52,Default,,0000,0000,0000,,man eine Möglichkeit findet sowas\Ndarzustellen dass diese Daten auf einer
Dialogue: 0,0:52:37.52,0:52:40.79,Default,,0000,0000,0000,,hohen Datendichte basieren und so weiter.
Dialogue: 0,0:52:40.79,0:52:46.02,Default,,0000,0000,0000,,Hendrik: Unsere Antwort is quasi, es gibt\Nsolche Sachen, es gibt sowas zu messen
Dialogue: 0,0:52:46.02,0:52:50.52,Default,,0000,0000,0000,,aber es ist immer eine Reduktion von\NKomplexität und da verliert man immer was
Dialogue: 0,0:52:50.52,0:52:53.97,Default,,0000,0000,0000,,und da muss man sich immer bewusst machen,\Nwie viel reduzieren dürfen wir, wie
Dialogue: 0,0:52:53.97,0:52:55.81,Default,,0000,0000,0000,,einfach dürfen wir es machen.
Dialogue: 0,0:52:55.81,0:52:59.73,Default,,0000,0000,0000,,Karen: Zur Frage der Datensichte kann\Nman vielleicht noch sagen, da ist wieder
Dialogue: 0,0:52:59.73,0:53:05.19,Default,,0000,0000,0000,,ein andere Kernansatz, der Bayesianische\NKernansatz, der sich jetzt nicht die Frage
Dialogue: 0,0:53:05.19,0:53:10.01,Default,,0000,0000,0000,,stellt, wie ist meine Hypothese aufgrund\Nder vorhandenen Daten zu bewerten sondern
Dialogue: 0,0:53:10.01,0:53:14.08,Default,,0000,0000,0000,,wie sind meine Daten aufgrund der\Nverwedeten Hypothese zu bewerten. Das ist
Dialogue: 0,0:53:14.08,0:53:18.39,Default,,0000,0000,0000,,also nochmal eine ganz andere Ansicht auf\Ndie Sache und der wiederum erlaubt uns
Dialogue: 0,0:53:18.39,0:53:22.24,Default,,0000,0000,0000,,dann gewisse Unsicherheiten auszudrücken\Nüber Vorrausagen, die ich treffe. Also
Dialogue: 0,0:53:22.24,0:53:26.03,Default,,0000,0000,0000,,wenn jetzt zum Beispiel ein Datenpunkt\Nüber den ich eine Aussage treffen will
Dialogue: 0,0:53:26.03,0:53:30.74,Default,,0000,0000,0000,,weitab liegt von Daten die ich habe, dann\Nwird dieser Ansatz oder wenn ich diesen
Dialogue: 0,0:53:30.74,0:53:34.20,Default,,0000,0000,0000,,Ansatz verwende wird mir dann sagen; über\Ndie Voraussage die ich jetzt treffe bin
Dialogue: 0,0:53:34.20,0:53:37.88,Default,,0000,0000,0000,,ich sehr unsicher und das ist eine\NForschungsrichtung mit der sich viele
Dialogue: 0,0:53:37.88,0:53:44.21,Default,,0000,0000,0000,,Leute beschäftigen, die jetzt aber für\Ndiese großen, komplexen Systeme, ich würde
Dialogue: 0,0:53:44.21,0:53:46.38,Default,,0000,0000,0000,,sagen, noch sehr am Anfang steht.
Dialogue: 0,0:53:46.38,0:53:48.84,Default,,0000,0000,0000,,Herald-Angel: Mikrofon 1 bitte.
Dialogue: 0,0:53:48.84,0:53:53.46,Default,,0000,0000,0000,,Mikrofon 1: Danke für den super-\Ninteressanten Vortrag und danke auch an
Dialogue: 0,0:53:53.46,0:53:57.04,Default,,0000,0000,0000,,die Gebärden-Dolmetscherin, die hier ohne\NUnterlass die ganze Zeit übersetzt.
Dialogue: 0,0:53:57.04,0:54:10.45,Default,,0000,0000,0000,,{\i1}Applaus{\i0}\NIch habe folgende Frage: Wie nützlich
Dialogue: 0,0:54:10.45,0:54:15.97,Default,,0000,0000,0000,,würdet ihr es einschätzen, das mit einer\NQualitätskontrolle also einem
Dialogue: 0,0:54:15.97,0:54:21.02,Default,,0000,0000,0000,,Qualitätsmeilenstein für das Endergebnis\Nzu kombinieren. Also als Beispiel; ein
Dialogue: 0,0:54:21.02,0:54:26.75,Default,,0000,0000,0000,,Auto ist dann hinreichend gut, wenn es im\NVerkehr weniger Leute umbringt als ein
Dialogue: 0,0:54:26.75,0:54:31.91,Default,,0000,0000,0000,,durschnittlicher menschlicher Fahrer oder\Nsowas. Würde das einen zusätzlichen Nutzen
Dialogue: 0,0:54:31.91,0:54:36.06,Default,,0000,0000,0000,,ergeben? Kann man daraus noch mehr\NRückschlüsse ziehen, oder sind das völlig
Dialogue: 0,0:54:36.06,0:54:37.23,Default,,0000,0000,0000,,getrennte Sachen?
Dialogue: 0,0:54:37.23,0:54:41.53,Default,,0000,0000,0000,,Karen: Also das ist eigentlich genau das\Nworauf wir hinaus wollten, dass das eine
Dialogue: 0,0:54:41.53,0:54:44.26,Default,,0000,0000,0000,,politische Frage ist, die wir nicht\Nbeantworten wollen.
Dialogue: 0,0:54:44.26,0:54:45.26,Default,,0000,0000,0000,,Hendrik: Oder eine juristische.
Dialogue: 0,0:54:45.26,0:54:46.58,Default,,0000,0000,0000,,Karen: Oder eine juristische, das müsst
Dialogue: 0,0:54:46.58,0:54:49.22,Default,,0000,0000,0000,,ihr sagen, was ihr richtig findet, das ist\Ndoch nicht unsere Aufgabe zu sagen ...
Dialogue: 0,0:54:49.22,0:54:50.27,Default,,0000,0000,0000,,Hendrik: Nein also die Gesellschaft muss
Dialogue: 0,0:54:50.27,0:54:53.59,Default,,0000,0000,0000,,es aushandeln, wir können Probleme\Naufzeigen, aber die Antwort muss die
Dialogue: 0,0:54:53.59,0:54:55.02,Default,,0000,0000,0000,,Gesellschaft als ganzes finden.
Dialogue: 0,0:54:55.02,0:54:59.00,Default,,0000,0000,0000,,Mikrophon 1: Das ist klar, die Frage ist\Nnur, wenn man so einen Punkt definiert hat
Dialogue: 0,0:54:59.00,0:55:02.43,Default,,0000,0000,0000,,und sich dann die Ergebnisse anschauen\Nwürde, die kurz vor und kurz nach diesem
Dialogue: 0,0:55:02.43,0:55:06.01,Default,,0000,0000,0000,,Punkt aufgetreten sind, ob das\NRückschlüsse zulassen würde auf
Dialogue: 0,0:55:06.01,0:55:09.54,Default,,0000,0000,0000,,irgendeinen Bias oder irgendwelche anderen\NSachen, oder ob dieser Punkt völlig
Dialogue: 0,0:55:09.54,0:55:11.18,Default,,0000,0000,0000,,unerheblich für euch wäre.
Dialogue: 0,0:55:11.18,0:55:13.55,Default,,0000,0000,0000,,Hendrik: Kannst du nochmal den Punkt\Nbenennen?
Dialogue: 0,0:55:13.55,0:55:15.25,Default,,0000,0000,0000,,Mikrophon 1: Also man definiert
Dialogue: 0,0:55:15.25,0:55:20.99,Default,,0000,0000,0000,,irgendeinen Punkt x, der ein bestimmtes\NQualitätskriterium hat. Also der Wagen
Dialogue: 0,0:55:20.99,0:55:25.33,Default,,0000,0000,0000,,bringt eben nicht mehr Menschen um als ein\Ndurchschnittlicher Fahrer sondern weniger.
Dialogue: 0,0:55:25.33,0:55:32.90,Default,,0000,0000,0000,,Sind die Ergebnisse die um diesen Punkt\Nliegen, die man dann messen kann. Sind die
Dialogue: 0,0:55:32.90,0:55:36.16,Default,,0000,0000,0000,,in irgendeiner Art relevant für den\NAusgang, kann man da irgendwelche
Dialogue: 0,0:55:36.16,0:55:40.03,Default,,0000,0000,0000,,Rückschlüsse daraus ziehen, oder ist das\Nnur irgendein Punkt, wie jeder andere
Dialogue: 0,0:55:40.03,0:55:41.03,Default,,0000,0000,0000,,auch?
Dialogue: 0,0:55:41.03,0:55:44.22,Default,,0000,0000,0000,,Hendrik: Also ich finde das problematisch,\Ndiesen Punkt zu finden, weil man ja auch
Dialogue: 0,0:55:44.22,0:55:47.97,Default,,0000,0000,0000,,den ganzen Kontext sehen muss bei den\NAutounfällen und warum sie passieren, also
Dialogue: 0,0:55:47.97,0:55:52.06,Default,,0000,0000,0000,,welche Gründe sie haben und das ganze\Ndatafizieren, das in einen Punkt zu
Dialogue: 0,0:55:52.06,0:55:55.85,Default,,0000,0000,0000,,pressen, und den dann als\NEvaluationsmetrik für was anderes
Dialogue: 0,0:55:55.85,0:55:58.70,Default,,0000,0000,0000,,hochkomplexes zu nehmen halte ich für sehr\Nproblematisch, ich glaube da ist wirklich,
Dialogue: 0,0:55:58.70,0:56:02.30,Default,,0000,0000,0000,,das meint Karen, die politsche Antwort\Nwichtiger.
Dialogue: 0,0:56:02.30,0:56:04.60,Default,,0000,0000,0000,,Karen: Beim konkreten Beispiel von
Dialogue: 0,0:56:04.60,0:56:07.64,Default,,0000,0000,0000,,selbstfahrenden Autos muss man natürlich\Nauch sagen, dass es das echte
Dialogue: 0,0:56:07.64,0:56:11.47,Default,,0000,0000,0000,,selbstfahrende Auto nie üben kann einen\NCrash zu haben, also dieses Crash-Szenario
Dialogue: 0,0:56:11.47,0:56:14.10,Default,,0000,0000,0000,,kann natürlich nie geübt werden, also wir\Nwollen da ja natürlich niemanden sterben
Dialogue: 0,0:56:14.10,0:56:18.24,Default,,0000,0000,0000,,lassen oder nicht so viele Autos crashen,\Ndas ist ein bisschen teuer. Das heißt
Dialogue: 0,0:56:18.24,0:56:21.94,Default,,0000,0000,0000,,Crash-Szenarios werden eigentlich auch\Nimmer nur in der Simulation geübt und das
Dialogue: 0,0:56:21.94,0:56:26.50,Default,,0000,0000,0000,,ist genau das Problem, dass wir heute --\Nzumindest soweit ich das weiß -- sehr
Dialogue: 0,0:56:26.50,0:56:31.89,Default,,0000,0000,0000,,wenige Szenarien haben in denen wir sagen\Nkönnen; wenn wir jetzt in der Simulation
Dialogue: 0,0:56:31.89,0:56:37.91,Default,,0000,0000,0000,,geübt haben, was für Annahmen übernehmen\Nwir denn dann in die echte Welt. Die
Dialogue: 0,0:56:37.91,0:56:43.14,Default,,0000,0000,0000,,einfach nur benennen zu können würde uns\Nja schon helfen eventuelle Fehlerszenarien
Dialogue: 0,0:56:43.14,0:56:47.10,Default,,0000,0000,0000,,vorrauszusagen, aber selbst das Benennen\Ndieser Annahmen das fällt uns ja selbst
Dialogue: 0,0:56:47.10,0:56:52.08,Default,,0000,0000,0000,,schon schwer, also das ist noch ein weiter\NWeg.
Dialogue: 0,0:56:52.08,0:56:53.92,Default,,0000,0000,0000,,Herald-Angel: Mikro 1
Dialogue: 0,0:56:53.92,0:56:58.80,Default,,0000,0000,0000,,Mikrofon 1: Auch vielen Dank für den
Dialogue: 0,0:56:58.80,0:57:05.63,Default,,0000,0000,0000,,Vortrag. Die ganze Diskussion über die\NBiase, die ihr ja getrieben habt, besagt
Dialogue: 0,0:57:05.63,0:57:09.12,Default,,0000,0000,0000,,ja letztlich, dass es darum geht die\NWahrheit zu finden, Wahrheit und letztlich
Dialogue: 0,0:57:09.12,0:57:13.48,Default,,0000,0000,0000,,eine Stichprobe der Wahrheit dem Computer\Nzum Lernen zu geben und das bringt mich
Dialogue: 0,0:57:13.48,0:57:16.60,Default,,0000,0000,0000,,dann zu der Parallele in der Wissenschaft\Nhaben wir das ja auch, also wie sieht
Dialogue: 0,0:57:16.60,0:57:21.23,Default,,0000,0000,0000,,meine Stichprobe aus, die ideale\NStichprobe, oder ist da ein Bias drin.
Dialogue: 0,0:57:21.23,0:57:25.59,Default,,0000,0000,0000,,Habt ihr diese Parallele schonmal\Ngedanklich gezogen oder ist das ... ja.
Dialogue: 0,0:57:25.59,0:57:28.06,Default,,0000,0000,0000,,Hendrik: Also wir sind ja Wissenschaftler
Dialogue: 0,0:57:28.06,0:57:31.94,Default,,0000,0000,0000,,und wir müssen natürlich auch erstmal für\Nuns wissen, ob was wir herasugefunden
Dialogue: 0,0:57:31.94,0:57:35.54,Default,,0000,0000,0000,,haben, gerade wenn wir mit Menschen\Narbeiten, wir hatten ja gestern auch den
Dialogue: 0,0:57:35.54,0:57:42.17,Default,,0000,0000,0000,,Vortrag "Science is broken", der da\Nirgendwie, also es ist immer schwierig die
Dialogue: 0,0:57:42.17,0:57:45.92,Default,,0000,0000,0000,,richtige Samplesize zu haben um die\NEffectsize zu berücksichtigen, um zu
Dialogue: 0,0:57:45.92,0:57:48.55,Default,,0000,0000,0000,,wissen, dass man was weiß, das sind ja\Nepistemische Fragen.
Dialogue: 0,0:57:48.55,0:57:49.99,Default,,0000,0000,0000,,Mikrophon 1: Aber gibt's da irgendwie
Dialogue: 0,0:57:49.99,0:57:54.44,Default,,0000,0000,0000,,schon für neuronale Netze irgendwelche\NRichtwerte, dass man dann irgendwie weiß.
Dialogue: 0,0:57:54.44,0:57:58.51,Default,,0000,0000,0000,,Weil in der Psychologie lernt man, dass\Ndie Sampelsize muss mindestens 5.000 Bla
Dialogue: 0,0:57:58.51,0:58:01.69,Default,,0000,0000,0000,,betragen, keine Ahnung, oder so und so\NProzente. Gibt's Richtwerte, gibt's sowas
Dialogue: 0,0:58:01.69,0:58:07.44,Default,,0000,0000,0000,,schon für neuronale Netze? In Abhängigkeit\Nder Layer oder der Parameter oder..?
Dialogue: 0,0:58:07.44,0:58:09.70,Default,,0000,0000,0000,,Hendrik: Nicht dass ich wüsste, weisst du
Dialogue: 0,0:58:09.70,0:58:10.70,Default,,0000,0000,0000,,was?
Dialogue: 0,0:58:10.70,0:58:14.20,Default,,0000,0000,0000,,Karen: Die Frage geht jetzt vielleicht ein\Nbisschen tief. Für frühe Systeme, also
Dialogue: 0,0:58:14.20,0:58:22.68,Default,,0000,0000,0000,,sehr einfache neuronale Netze, die aus den\NAnfang der 90ern, so wie Boltzmann-machines oder
Dialogue: 0,0:58:22.68,0:58:28.99,Default,,0000,0000,0000,,Hofman-Networks. Für solche Sachen kann\Nman sagen, wenn die Saturieren und mit
Dialogue: 0,0:58:28.99,0:58:34.80,Default,,0000,0000,0000,,wievielen Bits an Daten man da reingeht\Nbis die Saturieren. Für aber diese hoch-
Dialogue: 0,0:58:34.80,0:58:40.59,Default,,0000,0000,0000,,nicht-linearen Systeme, die wir jetzt\Nverwenden, kann man das nicht sagen, oder
Dialogue: 0,0:58:40.59,0:58:47.37,Default,,0000,0000,0000,,nur asymptothisch sagen. Es gibt viel\NForschung zu dem Thema, aber nichts, was
Dialogue: 0,0:58:47.37,0:58:50.72,Default,,0000,0000,0000,,jetzt besonders handfest wäre; sagen wir\Nmal so. Oder man jetzt im echten Leben
Dialogue: 0,0:58:50.72,0:58:51.72,Default,,0000,0000,0000,,verwenden könnte.
Dialogue: 0,0:58:51.72,0:58:56.00,Default,,0000,0000,0000,,Mikrophon 1: Ja gut, dann irgendwie so\Neine Ausage zu haben, so und so viele
Dialogue: 0,0:58:56.00,0:58:58.76,Default,,0000,0000,0000,,Testdatensampels brauchst du für dein\Nneuronales Netz, wenn das so und so
Dialogue: 0,0:58:58.76,0:59:02.99,Default,,0000,0000,0000,,strukturiert ist. Irgendwie, das könnte\Nvielleicht eine Form von Verifikation oder
Dialogue: 0,0:59:02.99,0:59:05.75,Default,,0000,0000,0000,,Validierung, Pre-Validierung bringen,\Nirgendwie.
Dialogue: 0,0:59:05.75,0:59:08.35,Default,,0000,0000,0000,,Hendrik: Ja, das macht man ja. Man hat ja
Dialogue: 0,0:59:08.35,0:59:12.13,Default,,0000,0000,0000,,einen großen Datensatz, einen\NTrainingsdatensatz, einen Testdatensatz
Dialogue: 0,0:59:12.13,0:59:15.94,Default,,0000,0000,0000,,und einen Validierungsdatensatz, mit dem\Nman dann nochmal guckt, was haben wir
Dialogue: 0,0:59:15.94,0:59:18.74,Default,,0000,0000,0000,,wirlich gelernt und haben wir nicht\Neinfach nur die Eigenheiten des
Dialogue: 0,0:59:18.74,0:59:22.22,Default,,0000,0000,0000,,Datensatzes auswendig gelernt. Haben wir\Nwirklich generalisiert. Also auf dem
Dialogue: 0,0:59:22.22,0:59:26.37,Default,,0000,0000,0000,,Niveau passiert das schon. Auf dem höheren\NNiveau wäre das bestimmt noch eine
Dialogue: 0,0:59:26.37,0:59:27.53,Default,,0000,0000,0000,,hervorragende Doktorarbeit.
Dialogue: 0,0:59:27.53,0:59:30.43,Default,,0000,0000,0000,,Herald-Angel: Mikro 5, deine Frage?
Dialogue: 0,0:59:30.43,0:59:36.68,Default,,0000,0000,0000,,Mikrofon 5: Vielen Dank für den Vortrag.\NMeine Frage ist: Diese Biases, die sind ja
Dialogue: 0,0:59:36.68,0:59:40.71,Default,,0000,0000,0000,,jetzt nicht neu, die kennt man ja seit\NDekaden in der Statistik. Was hat sich
Dialogue: 0,0:59:40.71,0:59:46.61,Default,,0000,0000,0000,,denn mit der künstlichen Intelligenz, bzw.\Nmit Deep Learning geändert? Und daran
Dialogue: 0,0:59:46.61,0:59:51.86,Default,,0000,0000,0000,,anschließend: Kennt ihr irgendwelche\NStudien, dass solche Filterblasen wirklich
Dialogue: 0,0:59:51.86,0:59:55.04,Default,,0000,0000,0000,,irgendwelche tatsächlichen messbaren\NAuswirkungen haben? Weil man hört
Dialogue: 0,0:59:55.04,0:59:59.85,Default,,0000,0000,0000,,unglaublich viel in den Medien, aber mir\Nist keine belastbare Studie bekannt, die
Dialogue: 0,0:59:59.85,1:00:05.85,Default,,0000,0000,0000,,sagt, dass das da tatsächlich was\Nverschlimmert wird, was nicht vorher schon
Dialogue: 0,1:00:05.85,1:00:07.16,Default,,0000,0000,0000,,da war.
Dialogue: 0,1:00:07.16,1:00:10.53,Default,,0000,0000,0000,,Hendrik: Ich hab die erste Frage schon\Nwieder vergessen. Kannst du einmal noch
Dialogue: 0,1:00:10.53,1:00:11.53,Default,,0000,0000,0000,,die erste sagen?
Dialogue: 0,1:00:11.53,1:00:16.58,Default,,0000,0000,0000,,Mikrophon 5: Die erste Frage war, was sich\Ngeändert hat, weil diese Biases, die sind
Dialogue: 0,1:00:16.58,1:00:17.58,Default,,0000,0000,0000,,ja jetzt nicht neu.
Dialogue: 0,1:00:17.58,1:00:20.57,Default,,0000,0000,0000,,Hendrik: Genau, nein, die sind natürlich\Nnicht neu. Und die ganzen Vorurteil sind
Dialogue: 0,1:00:20.57,1:00:24.06,Default,,0000,0000,0000,,auch nicht neu. Ich glaube, es wird halt\Neinfach sehr, sehr viel Machine Learning
Dialogue: 0,1:00:24.06,1:00:27.71,Default,,0000,0000,0000,,gerade benutzt. Auch aus sehr guten\NGründen. Also, z.B. es gibt hervoragende
Dialogue: 0,1:00:27.71,1:00:31.65,Default,,0000,0000,0000,,Python Bibliotheken, es gibt hervoragende\NR Bibliotheken, die das super einfach
Dialogue: 0,1:00:31.65,1:00:37.09,Default,,0000,0000,0000,,machen. Die Unis lehren das fast überall.\NData Science ist der große Hypeterm, und
Dialogue: 0,1:00:37.09,1:00:39.81,Default,,0000,0000,0000,,das wird einfach nur nochmal drängender,\Nweil Leute diese Sachen jetzt auf einmal
Dialogue: 0,1:00:39.81,1:00:44.34,Default,,0000,0000,0000,,in ihre Systeme reinschmeißen, die\Nbenutzen, um vielleicht Geld zu verdienen,
Dialogue: 0,1:00:44.34,1:00:49.64,Default,,0000,0000,0000,,sich aber dann dieser Probleme gar nicht\Nbewusst sind. Und zur 2. Frage: Ich bin
Dialogue: 0,1:00:49.64,1:00:52.78,Default,,0000,0000,0000,,mir ziemlich sicher, dass es viel zu\NEchokammern gibt. Ich weiß nicht, was du
Dialogue: 0,1:00:52.78,1:00:56.95,Default,,0000,0000,0000,,gefragt hast, ob man das wirklich auch\Nwissenschaftlich so testen kann? Also, wie
Dialogue: 0,1:00:56.95,1:01:01.56,Default,,0000,0000,0000,,da quasi der Versuchsaufbau aussähe? Aber\Nes gibt, auch gerade in der Soziologie,
Dialogue: 0,1:01:01.56,1:01:10.30,Default,,0000,0000,0000,,viel zu Echokammern. Aber mir fällt gerade\Nkein Autor ein dazu.
Dialogue: 0,1:01:10.30,1:01:12.62,Default,,0000,0000,0000,,Herald-Angel: Vielen Dank für den Vortrag.
Dialogue: 0,1:01:12.62,1:01:15.56,Default,,0000,0000,0000,,Ich sehe, dass da noch Fragen sind, aber\Nleider ist die Zeit rum. Seid ihr noch da?
Dialogue: 0,1:01:15.56,1:01:16.98,Default,,0000,0000,0000,,Können die Leute euch noch ansprechen?
Dialogue: 0,1:01:16.98,1:01:17.67,Default,,0000,0000,0000,,Hendrik: OK.
Dialogue: 0,1:01:17.67,1:01:20.41,Default,,0000,0000,0000,,Herald-Angel: Super. Vielen, vielen Dank!
Dialogue: 0,1:01:20.41,1:01:23.79,Default,,0000,0000,0000,,{\i1}Applaus{\i0}
Dialogue: 0,1:01:23.79,1:01:43.39,Default,,0000,0000,0000,,Untertitel erstellt von c3subtitles.de\Nim Jahr 2018. Mach mit und hilf uns!