[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.00,0:00:14.82,Default,,0000,0000,0000,,{\i1}Intro Musik{\i0}
Dialogue: 0,0:00:14.82,0:00:19.74,Default,,0000,0000,0000,,Hallo und herzlich willkommen zu meinem\NVortrag "KI im Klassenzimmer - yay oder
Dialogue: 0,0:00:19.74,0:00:24.03,Default,,0000,0000,0000,,nay?" Ich bin Nina, ich bin derzeit\Nwissenschaftliche Mitarbeiterin im Büro
Dialogue: 0,0:00:24.03,0:00:26.88,Default,,0000,0000,0000,,von Birke Bull-Bischoff. Sie ist die\Nbildungspolitische Sprecherin der
Dialogue: 0,0:00:26.88,0:00:30.99,Default,,0000,0000,0000,,Linksfraktion im Bundestag. Die letzten\Nzwei Jahre habe ich auch die Enquete-
Dialogue: 0,0:00:30.99,0:00:35.31,Default,,0000,0000,0000,,Kommission KI im Bundestag für die Linke\Nmitbegleitet. Und davor habe ich auch
Dialogue: 0,0:00:35.31,0:00:38.76,Default,,0000,0000,0000,,schon mal im Bildungssektor gearbeitet,\Nsodass ich diesen Vortrag jetzt hier
Dialogue: 0,0:00:38.76,0:00:42.99,Default,,0000,0000,0000,,nutzen möchte, um mal alle meine\NBeobachtungen zum Thema KI in der Schule
Dialogue: 0,0:00:42.99,0:00:49.23,Default,,0000,0000,0000,,zusammenzutragen und vor allem auch einen\NBlick auf die dabei verarbeiteten Daten zu
Dialogue: 0,0:00:49.23,0:00:53.19,Default,,0000,0000,0000,,werfen und einen Ausblick darauf zu\Nschaffen, wie KI vielleicht sogar dafür
Dialogue: 0,0:00:53.19,0:00:57.42,Default,,0000,0000,0000,,benutzt werden kann, um strukturelle\NProbleme im Bildungssektor anzugehen.
Dialogue: 0,0:00:57.42,0:01:03.15,Default,,0000,0000,0000,,Vorausschicken möchte ich, dass wenn ich\Nhier von KI rede, ich jeweils sogenannte
Dialogue: 0,0:01:03.15,0:01:07.82,Default,,0000,0000,0000,,schwache KI meine und mich auf Machine\NLearning in als seinen Ausprägung beziehe.
Dialogue: 0,0:01:07.82,0:01:13.89,Default,,0000,0000,0000,,Ich möchte euch zuerst einen kleinen Überblick\Ngeben, wie KI im Schulbereich im Moment schon
Dialogue: 0,0:01:13.89,0:01:17.70,Default,,0000,0000,0000,,eingesetzt werden kann. Was dabei auch\Ntatsächlich noch nicht so wahnsinnig gut
Dialogue: 0,0:01:17.70,0:01:21.69,Default,,0000,0000,0000,,läuft. Dann natürlich zeigen, was meiner\NMeinung nach besser laufen könnte, welche
Dialogue: 0,0:01:21.69,0:01:25.26,Default,,0000,0000,0000,,Anforderungen es braucht, damit es besser\Nlaufen kann und dann auch am Ende mit
Dialogue: 0,0:01:25.26,0:01:30.24,Default,,0000,0000,0000,,einer konkreten Empfehlung schließen. Als\Nich mich vor ungefähr einem Jahr
Dialogue: 0,0:01:30.24,0:01:35.22,Default,,0000,0000,0000,,angefangen habe, mit diesem Thema vertieft\Nzu beschäftigen, sind mir zwei Dinge
Dialogue: 0,0:01:35.22,0:01:39.87,Default,,0000,0000,0000,,aufgefallen. Zum einen ist der Begriff KI\Neigentlich noch nicht wirklich konkret und
Dialogue: 0,0:01:39.87,0:01:44.52,Default,,0000,0000,0000,,allgemein definiert und all diese KI\NAnwendungen im Bildungsbereich auch noch
Dialogue: 0,0:01:44.52,0:01:49.71,Default,,0000,0000,0000,,nicht. Da wird also viel experimentiert\Nund herumgeworfen mit Learning Analytics,
Dialogue: 0,0:01:49.71,0:01:53.97,Default,,0000,0000,0000,,mit Tutor Systemen, intelligenten Tutor\NSystemen. Das ganze unter die Oberbegriffe
Dialogue: 0,0:01:53.97,0:01:59.85,Default,,0000,0000,0000,,von Educational Data Mining gestellt. Das\Nist wiederum teilweise die Voraussetzung
Dialogue: 0,0:01:59.85,0:02:04.71,Default,,0000,0000,0000,,oder steht neben dem anderen Begriff von\NAIED, also Artificial Intelligence in
Dialogue: 0,0:02:04.71,0:02:11.94,Default,,0000,0000,0000,,Education. Also da kann man je nach Autor\Nund je nach Anwendungsbereich baut das
Dialogue: 0,0:02:11.94,0:02:16.08,Default,,0000,0000,0000,,eine auf dem anderen auf oder steht\Nnebeneinander oder ist eine Folge davon.
Dialogue: 0,0:02:16.08,0:02:20.25,Default,,0000,0000,0000,,All das ist ein Signal dafür, dass wir in\Ndiesem Bereich tatsächlich noch sehr am
Dialogue: 0,0:02:20.25,0:02:24.20,Default,,0000,0000,0000,,Anfang stehen, dass das alles sehr\Nunstrukturiert ist. Und letztendlich ist
Dialogue: 0,0:02:24.20,0:02:28.70,Default,,0000,0000,0000,,auch der ganze Anbietermarkt von diesem\NSystem noch sehr am Anfang und
Dialogue: 0,0:02:28.70,0:02:34.04,Default,,0000,0000,0000,,unstrukturiert. Derzeit sind es vor allem\Noder eigentlich ausschließlich proprietäre
Dialogue: 0,0:02:34.04,0:02:37.55,Default,,0000,0000,0000,,Systeme, sodass auch teilweise Forscher\Nmanchmal gar nicht so richtig wissen:
Dialogue: 0,0:02:37.55,0:02:42.80,Default,,0000,0000,0000,,Arbeitet ein System, das mit KI wirbt,\Neigentlich wirklich mit KI im Sinne von
Dialogue: 0,0:02:42.80,0:02:46.56,Default,,0000,0000,0000,,Machine Learning oder ist es nur ein\Neinfacher Algorithmus ohne Lernverfahren?
Dialogue: 0,0:02:46.56,0:02:51.47,Default,,0000,0000,0000,,Oder wie viel Werbung und wie viel\NMarketing steckt eigentlich in diesem
Dialogue: 0,0:02:51.47,0:02:56.54,Default,,0000,0000,0000,,Anbietersystem eigentlich wirklich\Ndahinter? Dann gibt es aber neben dem
Dialogue: 0,0:02:56.54,0:03:01.88,Default,,0000,0000,0000,,ganzen Learning Analytics Bereich, der\Nsich sehr konkret auf die Erhebung und
Dialogue: 0,0:03:01.88,0:03:08.48,Default,,0000,0000,0000,,Analyse von lernenden Daten, also zur\NVerbesserung von Lernerlebnissen und
Dialogue: 0,0:03:08.48,0:03:12.68,Default,,0000,0000,0000,,Lernenergebnissen beschäftigt, gibt es\Nnoch weitere Anwendungsbereiche, in denen
Dialogue: 0,0:03:12.68,0:03:17.27,Default,,0000,0000,0000,,KI eingesetzt wird. In den USA gibt es zum\NBeispiel ein Verfahren, dass das
Dialogue: 0,0:03:17.27,0:03:23.18,Default,,0000,0000,0000,,Surfverhalten analysiert. Auf dieser\NKeyword Liste der Risikofaktoren stehen
Dialogue: 0,0:03:23.18,0:03:28.37,Default,,0000,0000,0000,,dann allerdings auch Begriffe wie schwul,\Nqueer oder Gedichtsammlung. Also selbst
Dialogue: 0,0:03:28.37,0:03:31.40,Default,,0000,0000,0000,,wenn wir jetzt auch von sehr intoleranten\NGesellschaften ausgehen, ist es natürlich
Dialogue: 0,0:03:31.40,0:03:34.82,Default,,0000,0000,0000,,überhaupt nicht zu unterstützen, dass\Ndiese Begriffe überhaupt irgendwie
Dialogue: 0,0:03:34.82,0:03:38.45,Default,,0000,0000,0000,,Personen zugeordnet und im Sinne einer\NRisikoprävention verwendet werden.
Dialogue: 0,0:03:38.45,0:03:43.82,Default,,0000,0000,0000,,Gesichtserkennung auf dem Schulgelände gab\Nes neben den USA auch in Europa schon. Das
Dialogue: 0,0:03:43.82,0:03:46.88,Default,,0000,0000,0000,,hat Schweden mal an einer Schule probiert\Nund die wurden dann aber nach sehr, sehr
Dialogue: 0,0:03:46.88,0:03:51.41,Default,,0000,0000,0000,,kurzer Zeit auf Basis der DSGVO auch schon\Nmit einer hohen Strafe versehen. Also
Dialogue: 0,0:03:51.41,0:03:55.67,Default,,0000,0000,0000,,nicht unbedingt nachahmenswert. In China\Nist man da schon ein bisschen weiter und
Dialogue: 0,0:03:55.67,0:03:59.15,Default,,0000,0000,0000,,auch ein bisschen toleranter. Dort gibt es\NGesichtserkennung auch in der Mensa und in
Dialogue: 0,0:03:59.15,0:04:03.77,Default,,0000,0000,0000,,Bibliotheken, sodass dann ganz nebenbei\Nauch noch Ernährungsverhalten und
Dialogue: 0,0:04:03.77,0:04:09.02,Default,,0000,0000,0000,,Leseverhalten noch mit erfasst und\Nanalysiert werden. Ganz besonders charmant
Dialogue: 0,0:04:09.02,0:04:13.34,Default,,0000,0000,0000,,ist natürlich, dass Eltern sich in\NKlassenzimmerkameras auch mit einloggen
Dialogue: 0,0:04:13.34,0:04:18.62,Default,,0000,0000,0000,,können, um ihre Kinder dort direkt im\NUnterricht damit zu beobachten. Es gibt
Dialogue: 0,0:04:18.62,0:04:21.80,Default,,0000,0000,0000,,zwar hier und da sogar in China\NWiderstände dagegen und das finden nicht
Dialogue: 0,0:04:21.80,0:04:24.83,Default,,0000,0000,0000,,alle Eltern toll. Aber so wie ich das\Nmitbekommen habe in den letzten Monaten,
Dialogue: 0,0:04:24.83,0:04:28.82,Default,,0000,0000,0000,,ist die Entwicklung da wahrscheinlich eher\Nnoch schwer aufzuhalten. Hier in
Dialogue: 0,0:04:28.82,0:04:33.23,Default,,0000,0000,0000,,Deutschland gibt es Forschungsprojekte, um\Nzum Beispiel mit einem Stift direkt beim
Dialogue: 0,0:04:33.23,0:04:38.00,Default,,0000,0000,0000,,Schreiben, Üben, Schreibfehler oder\NSchreibschwächen rechtzeitig zu erkennen.
Dialogue: 0,0:04:38.00,0:04:42.80,Default,,0000,0000,0000,,Eher aus dem Hochschulbereich ist dieses\NBeispiel entnommen vom KIT, wo die
Dialogue: 0,0:04:42.80,0:04:46.46,Default,,0000,0000,0000,,Studienabbruchswahrscheinlichkeit\Nberechnet wird. Je nachdem was man mit den
Dialogue: 0,0:04:46.46,0:04:49.91,Default,,0000,0000,0000,,Ergebnissen macht, kann das vielleicht\Nsogar sinnvoll sein, weil dann rechtzeitig
Dialogue: 0,0:04:49.91,0:04:54.59,Default,,0000,0000,0000,,Hilfestellung gegeben werden kann. Aber\Nwie dann einzelne Entscheider:innen mit
Dialogue: 0,0:04:54.59,0:04:57.08,Default,,0000,0000,0000,,solchen Ergebnissen umgehen, das steht\Nnatürlich nochmal auf einem ganz anderen
Dialogue: 0,0:04:57.08,0:05:03.56,Default,,0000,0000,0000,,Blatt. Und dann wird am DFKI und auch in\Nder Universität von Tübingen an
Dialogue: 0,0:05:03.56,0:05:10.19,Default,,0000,0000,0000,,intelligenten Schulbüchern geforscht, die\Nauch mit Daten arbeiten aus iTrackern, EEG
Dialogue: 0,0:05:10.19,0:05:13.91,Default,,0000,0000,0000,,Messung und sogar aus der\NNasentemperaturmessung. Dabei wird davon
Dialogue: 0,0:05:13.91,0:05:19.04,Default,,0000,0000,0000,,ausgegangen, dass wenn die Nasentemperatur\Nfällt, davon auszugehen ist, dass einem
Dialogue: 0,0:05:19.04,0:05:25.40,Default,,0000,0000,0000,,Lernenden bei seinem Lernstoff gerade\NSchwierigkeiten begegnen und das würde
Dialogue: 0,0:05:25.40,0:05:29.48,Default,,0000,0000,0000,,dann letztendlich in einer perfekten\Nintelligenten Schulbuchversion dazu
Dialogue: 0,0:05:29.48,0:05:33.65,Default,,0000,0000,0000,,führen, dass ihnen noch ergänzende andere\NInhalte angezeigt werden oder vielleicht
Dialogue: 0,0:05:33.65,0:05:38.00,Default,,0000,0000,0000,,irgendwie der ganze Lernpfad dann in\NZukunft anders aufgebaut wird. Ich bin
Dialogue: 0,0:05:38.00,0:05:45.47,Default,,0000,0000,0000,,sehr gespannt, ob diese System Entwicklung\Njetzt auch im Pandemiewinter Daten erhebt,
Dialogue: 0,0:05:45.47,0:05:50.45,Default,,0000,0000,0000,,wo wahrscheinlich jeder Schüler zu jeder\NZeit einfach kalte Nasen hat und was das
Dialogue: 0,0:05:50.45,0:05:54.80,Default,,0000,0000,0000,,letztendlich für die Lernpfadentwicklung\Nbedeutet. Aber das ist ein anderes Thema.
Dialogue: 0,0:05:54.80,0:06:00.68,Default,,0000,0000,0000,,Kann KI denn überhaupt im Bildungssystem\Netwas Positives beitragen? Und wenn wir
Dialogue: 0,0:06:00.68,0:06:03.92,Default,,0000,0000,0000,,uns die Stärken von KI angucken, dann\Nsieht es auf den ersten Blick tatsächlich
Dialogue: 0,0:06:03.92,0:06:08.15,Default,,0000,0000,0000,,so aus, als wäre das eigentlich gar keine\Nso schlechte Idee. Gerade im Bereich der
Dialogue: 0,0:06:08.15,0:06:12.17,Default,,0000,0000,0000,,Spracherkennung oder Übersetzungssysteme\Nmit allen Schwächen, die damit
Dialogue: 0,0:06:12.17,0:06:17.60,Default,,0000,0000,0000,,einhergehen, kann es tatsächlich dazu\Nbeitragen, dass Integration oder auch
Dialogue: 0,0:06:17.60,0:06:23.87,Default,,0000,0000,0000,,Inklusion an Schulen einfach erleichtert\Nwerden im Sinne von ergänzt werden. Wenn
Dialogue: 0,0:06:23.87,0:06:28.55,Default,,0000,0000,0000,,Systeme gut gemacht sind, können sie\Nzumindest kurzfristig immerhin auch die
Dialogue: 0,0:06:28.55,0:06:33.47,Default,,0000,0000,0000,,Motivation von Schüler:innen steigern und\Nkönnen im Idealfall Lehrkräfte auch
Dialogue: 0,0:06:33.47,0:06:38.57,Default,,0000,0000,0000,,tatsächlich entlasten. Das wäre alles\Ntotal wunderschön, wenn es nicht auch
Dialogue: 0,0:06:38.57,0:06:44.36,Default,,0000,0000,0000,,Schwächen im KI-System gibt, die euch alle\Nsicherlich total vertraut sind. Die
Dialogue: 0,0:06:44.36,0:06:48.41,Default,,0000,0000,0000,,Qualität eines KI-Systems bemisst sich vor\Nallem nach der Datenbasis. Garbage in
Dialogue: 0,0:06:48.41,0:06:53.48,Default,,0000,0000,0000,,garbage out, wie man so schön sagt. Und\Nviele Daten im Bildungsprozess, der ja ein
Dialogue: 0,0:06:53.48,0:06:57.02,Default,,0000,0000,0000,,sozialer Prozess ist, der ist vielleicht\Ngar nicht unbedingt optimal
Dialogue: 0,0:06:57.02,0:07:00.89,Default,,0000,0000,0000,,operationalisierbar, d.h. da stellt sich\Nimmer noch die große Frage: Welche Daten
Dialogue: 0,0:07:00.89,0:07:05.63,Default,,0000,0000,0000,,können überhaupt erfasst werden und wie\Nkönnen sie überhaupt sinnvoll analysiert
Dialogue: 0,0:07:05.63,0:07:11.45,Default,,0000,0000,0000,,werden? Lerndaten betreffend MINT-Fächer,\Ndie auf Logik basiert sind, eignen sich
Dialogue: 0,0:07:11.45,0:07:16.19,Default,,0000,0000,0000,,dafür sicherlich besser als zum Beispiel\Ndie sogenannten 4K Kompetenzen, also
Dialogue: 0,0:07:16.19,0:07:20.51,Default,,0000,0000,0000,,Kollaboration, Kreativität zum Beispiel.\NWie will man sowas messen und wie will man
Dialogue: 0,0:07:20.51,0:07:27.32,Default,,0000,0000,0000,,sowas in Operationalisierbarkeit pressen?\NDas steht noch im Raum. Dann haben wir
Dialogue: 0,0:07:27.32,0:07:30.68,Default,,0000,0000,0000,,natürlich auch im Bildungsbereich die\Nüblichen Probleme mit der
Dialogue: 0,0:07:30.68,0:07:35.60,Default,,0000,0000,0000,,Nachvollziehbarkeit und mit der\NErklärbarkeit und die Risiken von
Dialogue: 0,0:07:35.60,0:07:40.94,Default,,0000,0000,0000,,Verzerrungen. Auch nicht ganz unwichtig\Nist die Problematik, dass eine Korrelation
Dialogue: 0,0:07:40.94,0:07:45.29,Default,,0000,0000,0000,,noch keine Kausalität mit sich bringt.\NAlso hier nochmal das Beispiel mit der
Dialogue: 0,0:07:45.29,0:07:49.40,Default,,0000,0000,0000,,Nase und Temperatur. Es kann ganz viele\Nverschiedene Gründe haben, warum
Dialogue: 0,0:07:49.40,0:07:55.13,Default,,0000,0000,0000,,Gehirnströme gerade einen bestimmten Weg\Nnehmen, warum Körpertemperatur sich
Dialogue: 0,0:07:55.13,0:08:00.65,Default,,0000,0000,0000,,verändern oder warum sich Augenbewegungen\Nentweder direkt bei einem Lerninhalten
Dialogue: 0,0:08:00.65,0:08:04.43,Default,,0000,0000,0000,,oder auch im Raum bewegen. Das hat alles\Nnicht zwangsläufig was mit dem
Dialogue: 0,0:08:04.43,0:08:09.35,Default,,0000,0000,0000,,Lerninhalten oder mit der Lernatmosphäre\Nzu tun. Bei all meinen Recherchen für
Dialogue: 0,0:08:09.35,0:08:12.71,Default,,0000,0000,0000,,diesen Vortrag habe ich immer ganz\Nexplizit gefragt: Gibt es denn Beweise
Dialogue: 0,0:08:12.71,0:08:16.55,Default,,0000,0000,0000,,dafür überhaupt, dass diese KI-Systeme\Nvielleicht auch gut funktionieren und den
Dialogue: 0,0:08:16.55,0:08:20.93,Default,,0000,0000,0000,,Lernenden tatsächlich was bringen? Aber\Ndiese Evidenz gibt es bislang nicht. Ich
Dialogue: 0,0:08:20.93,0:08:24.80,Default,,0000,0000,0000,,habe interessanterweise, als kleine\NAnekdote am Rande, auf der Webseite von
Dialogue: 0,0:08:24.80,0:08:29.67,Default,,0000,0000,0000,,bettermarks eine Bewertung gefunden für das\NSystem bettermarks von dem
Dialogue: 0,0:08:29.67,0:08:32.85,Default,,0000,0000,0000,,neurowissenschaftlichen Institut, das\Nunter der Leitung von Manfred Spitzer
Dialogue: 0,0:08:32.85,0:08:37.38,Default,,0000,0000,0000,,steht, der ist den Freunden der digitalen\NBildung vor allem dadurch bekannt, dass er
Dialogue: 0,0:08:37.38,0:08:41.31,Default,,0000,0000,0000,,viele Elemente der digitalen Bildung\Neigentlich eher verteufelt. Aber dort wird
Dialogue: 0,0:08:41.31,0:08:44.79,Default,,0000,0000,0000,,auf der Website natürlich dem System\Nbettermarks bescheinigt, dass es einen total
Dialogue: 0,0:08:44.79,0:08:49.50,Default,,0000,0000,0000,,guten Lerneffekt hat. Wie gesagt, Forscher\Nkonnten das bisher noch nicht bestätigen.
Dialogue: 0,0:08:49.50,0:08:56.40,Default,,0000,0000,0000,,Wenn wir nun diese KI-Systeme mit all\Nihren Schwächen auf die Schulen ungebremst
Dialogue: 0,0:08:56.40,0:09:01.29,Default,,0000,0000,0000,,loslassen, dann kann das dazu führen, dass\Nwir eigentlich anstatt dieser Entlastung
Dialogue: 0,0:09:01.29,0:09:06.45,Default,,0000,0000,0000,,eher Überforderung produzieren, dass wir\NNormierungen und Standardisierungen in
Dialogue: 0,0:09:06.45,0:09:10.02,Default,,0000,0000,0000,,Bereichen einführen, die vielleicht gar\Nnicht ohne weiteres standardisierbar sind.
Dialogue: 0,0:09:10.02,0:09:15.24,Default,,0000,0000,0000,,Wir können Lehrkräfte in unangenehme\NSituationen bringen, wenn sie z.B. in
Dialogue: 0,0:09:15.24,0:09:18.75,Default,,0000,0000,0000,,einer Elternsprechstunde mit Eltern\Nkonfrontiert sind, die nicht nur die
Dialogue: 0,0:09:18.75,0:09:21.63,Default,,0000,0000,0000,,Methoden des Lehrers hinterfragen. Das\Nmachen sie ja jetzt schon häufig genug.
Dialogue: 0,0:09:21.63,0:09:25.02,Default,,0000,0000,0000,,Sondern dann vielleicht auch\NBewertungssysteme hinterfragen und dann
Dialogue: 0,0:09:25.02,0:09:29.76,Default,,0000,0000,0000,,von Lehrkräften wissen wollen: Wie kommt\Ndenn dieses System zu dem Ergebnis oder zu
Dialogue: 0,0:09:29.76,0:09:33.12,Default,,0000,0000,0000,,dieser Bewertung meines Kindes? Und\NLehrkräfte so was nicht einfach erklären
Dialogue: 0,0:09:33.12,0:09:40.26,Default,,0000,0000,0000,,können. Größtes Problem ist natürlich,\Ndass alle Systeme, über die im Moment im
Dialogue: 0,0:09:40.26,0:09:43.68,Default,,0000,0000,0000,,Bildungssektor gesprochen wird, diese\NLearning Analytics Systeme und Tutor
Dialogue: 0,0:09:43.68,0:09:48.12,Default,,0000,0000,0000,,Systeme, dass die mit personenbezogenen\NDaten von ja größtenteils minderjährigen
Dialogue: 0,0:09:48.12,0:09:52.74,Default,,0000,0000,0000,,Schüler:innen arbeiten. D.h. da werden\NDatensammlungen angefertigt, es werden
Dialogue: 0,0:09:52.74,0:09:57.60,Default,,0000,0000,0000,,Datenprofile angefertigt und das alles\Nunterwandert die informationelle
Dialogue: 0,0:09:57.60,0:10:03.99,Default,,0000,0000,0000,,Selbstbestimmung der Kinder. Selbst wenn\NEltern dieser Verwendung natürlich
Dialogue: 0,0:10:03.99,0:10:07.77,Default,,0000,0000,0000,,zustimmen müssen, stellt sich ja auch noch\Ndie Frage: Wie gut sind die Eltern denn
Dialogue: 0,0:10:07.77,0:10:12.24,Default,,0000,0000,0000,,überhaupt informiert über all die\NKonsequenzen und die Folgen, die das hat?
Dialogue: 0,0:10:12.24,0:10:16.50,Default,,0000,0000,0000,,Inwieweit gibt es vielleicht auch einen\Ngewissen sozialen Gruppenzwang in einem
Dialogue: 0,0:10:16.50,0:10:19.29,Default,,0000,0000,0000,,Klassenverband oder einer Schule sich\Nanzuschließen, auch wenn man vielleicht
Dialogue: 0,0:10:19.29,0:10:22.95,Default,,0000,0000,0000,,als Eltern selber gar nicht genau weiß,\Nwas das dann eigentlich bedeutet? All das
Dialogue: 0,0:10:22.95,0:10:28.17,Default,,0000,0000,0000,,ist im Moment noch ein bisschen unklar.\NUnd das sind genau diese Punkte, über die
Dialogue: 0,0:10:28.17,0:10:32.46,Default,,0000,0000,0000,,meiner Meinung nach im Moment noch viel zu\Nwenig tatsächlich offen gesprochen wird.
Dialogue: 0,0:10:32.46,0:10:37.83,Default,,0000,0000,0000,,Was diese Schwäche tatsächlich in der\NPraxis für Probleme mit sich bringen
Dialogue: 0,0:10:37.83,0:10:43.25,Default,,0000,0000,0000,,können, sehen wir auch schon in\Nausländischen Anwendungen. Zum Glück muss
Dialogue: 0,0:10:43.25,0:10:47.24,Default,,0000,0000,0000,,man fast sagen, im Moment. Ich weiß ich,\Nob ihr das mitbekommen habt. Im Sommer gab
Dialogue: 0,0:10:47.24,0:10:52.52,Default,,0000,0000,0000,,es diese Problematik mit dem britischen\NSystem Ofqual. Genauso wie bei uns auch
Dialogue: 0,0:10:52.52,0:10:56.51,Default,,0000,0000,0000,,haben die Schulen unter der Pandemie\Ngelitten und es konnten bestimmte
Dialogue: 0,0:10:56.51,0:11:02.42,Default,,0000,0000,0000,,Prüfungen zu Abschlüssen nicht richtig gut\Noder überhaupt nicht durchgeführt werden.
Dialogue: 0,0:11:02.42,0:11:05.84,Default,,0000,0000,0000,,D.h. Lehrkräfte wurden gebeten, doch\Naufgrund von ihren persönlichen
Dialogue: 0,0:11:05.84,0:11:10.64,Default,,0000,0000,0000,,Einschätzung dann die Schüler mit einer\NAbschlussnote zu versehen. Diese
Dialogue: 0,0:11:10.64,0:11:14.12,Default,,0000,0000,0000,,Abschlussnoten waren dann aber den\NBehörden offensichtlich zu gut, sodass sie
Dialogue: 0,0:11:14.12,0:11:17.33,Default,,0000,0000,0000,,nochmal einen Algorithmus eingesetzt\Nhaben, der das Ganze nachrechnen sollte.
Dialogue: 0,0:11:17.33,0:11:21.41,Default,,0000,0000,0000,,Das wiederum führte dazu, dass viele Noten\Nwieder abgewertet worden und die Schüler
Dialogue: 0,0:11:21.41,0:11:24.56,Default,,0000,0000,0000,,sich verschlechtert haben. Dagegen sind\Ndann natürlich die Schüler:innen wiederum auf
Dialogue: 0,0:11:24.56,0:11:28.52,Default,,0000,0000,0000,,die Straße gegangen und haben sich\Ngewehrt, sodass am Ende doch wieder die
Dialogue: 0,0:11:28.52,0:11:32.99,Default,,0000,0000,0000,,Beurteilung der Lehrkräfte eingesetzt\Nwurde. Zum Glück. Ein anderes Beispiel,
Dialogue: 0,0:11:32.99,0:11:36.59,Default,,0000,0000,0000,,von dem ich gelesen habe, ist das System\NEdgenuity. Ich weiß jetzt nicht wie das
Dialogue: 0,0:11:36.59,0:11:40.73,Default,,0000,0000,0000,,richtig betont ist. Dort hat eine Mutter\Nfestgestellt, dass die
Dialogue: 0,0:11:40.73,0:11:47.30,Default,,0000,0000,0000,,Textverarbeitungssysteme, die die Aufsätze\Nihres Kindes bewerten sollen, viel, viel
Dialogue: 0,0:11:47.30,0:11:51.74,Default,,0000,0000,0000,,schlechter bewerten als frühe die\NAufsätze, die das Kind einfach ganz normal
Dialogue: 0,0:11:51.74,0:11:54.74,Default,,0000,0000,0000,,mit der Hand in der Schule geschrieben\Nhat. Und dann ist in diesem System auf den
Dialogue: 0,0:11:54.74,0:12:00.11,Default,,0000,0000,0000,,Grund gegangen und hat festgestellt, dass\Ndas System vor allem bewertet anhand der
Dialogue: 0,0:12:00.11,0:12:04.40,Default,,0000,0000,0000,,Häufigkeit von bestimmten Stichwörtern.\NUnd dann hat sie versucht, einfach mal so
Dialogue: 0,0:12:04.40,0:12:08.33,Default,,0000,0000,0000,,als Beispiel einfach nur mit\NStichwortwolken so eine Aufsatzaufgabe zu
Dialogue: 0,0:12:08.33,0:12:14.09,Default,,0000,0000,0000,,erfüllen. Und tatsächlich wurden dieses\NStichwortwolken besser bewertet als ein
Dialogue: 0,0:12:14.09,0:12:18.68,Default,,0000,0000,0000,,komplett zusammenhängender Text. Was\Nnatürlich, wenn man das System so weit
Dialogue: 0,0:12:18.68,0:12:22.82,Default,,0000,0000,0000,,einmal verstanden und geknackt hat,\Nrelativ leicht ist, solche Aufgaben zu
Dialogue: 0,0:12:22.82,0:12:26.51,Default,,0000,0000,0000,,bestehen, aber natürlich überhaupt gar\Nkeinen Bildungseffekt mehr mit sich
Dialogue: 0,0:12:26.51,0:12:32.66,Default,,0000,0000,0000,,bringt. Auch eher aus dem Hochschulbereich\Nsind diese Testverfahren Proctorio und
Dialogue: 0,0:12:32.66,0:12:37.73,Default,,0000,0000,0000,,ExamSoft bekannt, sollen hier an dieser\NStelle aber trotzdem angesprochen werden.
Dialogue: 0,0:12:37.73,0:12:41.30,Default,,0000,0000,0000,,Einfach um schon mal aufzuzeigen, welche\NProbleme damit einhergehen, bevor wir auf
Dialogue: 0,0:12:41.30,0:12:45.50,Default,,0000,0000,0000,,die Idee kommen, sie vielleicht auch an\Nden Schulen einzusetzen. Diese Systeme
Dialogue: 0,0:12:45.50,0:12:51.73,Default,,0000,0000,0000,,arbeiten vor allem mit Kameraüberwachung,\Naber auch mit Geräuschanalysen und mit
Dialogue: 0,0:12:51.73,0:12:56.74,Default,,0000,0000,0000,,Bewegungsanalysen, um daraus Rückschlüsse\Nzu ziehen, ob ein Prüfling gerade versucht
Dialogue: 0,0:12:56.74,0:13:02.44,Default,,0000,0000,0000,,zu täuschen. Und diese Systeme haben jetzt\Nschon in der Praxis verschiedene Probleme
Dialogue: 0,0:13:02.44,0:13:06.49,Default,,0000,0000,0000,,aufgezeigt. Also das ganz typische\NProblem, was wir ja schon in anderen
Dialogue: 0,0:13:06.49,0:13:10.81,Default,,0000,0000,0000,,Kamerakontexten kennen bei People of\NColor. Sie werden dann von der Kamera
Dialogue: 0,0:13:10.81,0:13:16.00,Default,,0000,0000,0000,,nicht erkannt, werden dann gebeten noch\Nzusätzliche Lichtquellen einzusetzen. Dann
Dialogue: 0,0:13:16.00,0:13:19.45,Default,,0000,0000,0000,,kann das tatsächlich dazu führen, dass\NMenschen diskriminiert werden, die in
Dialogue: 0,0:13:19.45,0:13:23.62,Default,,0000,0000,0000,,beengten Verhältnissen in einer WG wohnen\Noder vielleicht noch Kinder um sich haben,
Dialogue: 0,0:13:23.62,0:13:27.85,Default,,0000,0000,0000,,weil dann unbekannte Geräusche Quellen\Nauftauchen, die ein System vielleicht als
Dialogue: 0,0:13:27.85,0:13:31.51,Default,,0000,0000,0000,,Täuschungsversuch oder als\NUnterstützerperson klassifizieren kann.
Dialogue: 0,0:13:31.51,0:13:37.60,Default,,0000,0000,0000,,Aber auch gesundheitlich beeinträchtigte\NMenschen sind zusätzlich belastet, einfach
Dialogue: 0,0:13:37.60,0:13:41.53,Default,,0000,0000,0000,,weil sie angeben müssen, dass sie\Nvielleicht häufiger mal ins Bad müssen
Dialogue: 0,0:13:41.53,0:13:46.18,Default,,0000,0000,0000,,oder dass sie eine Insulinpumpe tragen,\Neinfach damit das System von bestimmten
Dialogue: 0,0:13:46.18,0:13:50.56,Default,,0000,0000,0000,,Signalen also z.B. nicht irritiert ist.\NAlso all das führt dazu, dass Menschen
Dialogue: 0,0:13:50.56,0:13:56.32,Default,,0000,0000,0000,,gezwungen werden, Dinge offenzulegen und\Nvor allem diese Daten auch in Datenbanken
Dialogue: 0,0:13:56.32,0:13:59.29,Default,,0000,0000,0000,,mit erfasst werden, die eigentlich sehr\Npersönlich und sehr privat sind und mit
Dialogue: 0,0:13:59.29,0:14:03.61,Default,,0000,0000,0000,,einem Prüfergebnisse überhaupt gar nichts\Nzu tun haben. Hier in Deutschland kennen
Dialogue: 0,0:14:03.61,0:14:06.85,Default,,0000,0000,0000,,wir alle oder die meisten von euch\Nwahrscheinlich diese Anwendung Duolingo
Dialogue: 0,0:14:06.85,0:14:12.01,Default,,0000,0000,0000,,zum Vokabel- oder zum Sprachtraining.\NDuolingo hat auch ein Englisch Test
Dialogue: 0,0:14:12.01,0:14:16.30,Default,,0000,0000,0000,,aufgelegt, der auch online absolviert\Nwerden kann und auch dort wird mit
Dialogue: 0,0:14:16.30,0:14:23.80,Default,,0000,0000,0000,,Kamerasystem gearbeitet und ich habe bei\Neiner Forschung nachgelesen, dass
Dialogue: 0,0:14:23.80,0:14:27.40,Default,,0000,0000,0000,,Forschenden dann versucht haben, da auch\Nmal auf den Grund zu gehen, ob Duolingo
Dialogue: 0,0:14:27.40,0:14:30.91,Default,,0000,0000,0000,,denn ausschließen kann, dass diese\Nbekannten Systeme bei Duolingo nicht
Dialogue: 0,0:14:30.91,0:14:35.05,Default,,0000,0000,0000,,auftauchen. Also diese Diskriminierungen\Nnicht passieren können oder auch z.B.
Dialogue: 0,0:14:35.05,0:14:39.76,Default,,0000,0000,0000,,Diskriminierung aufgrund von Akzenten\Nnicht automatisch als fehlerhaft
Dialogue: 0,0:14:39.76,0:14:43.69,Default,,0000,0000,0000,,eingestuft werden. Und leider konnte\Nzumindest zu dem Zeitpunkt der Befragung
Dialogue: 0,0:14:43.69,0:14:48.91,Default,,0000,0000,0000,,Duolingo diese Diskriminierung nicht\Nausschließen. Ein System, über das ich
Dialogue: 0,0:14:48.91,0:14:53.65,Default,,0000,0000,0000,,gestolpert bin bei meiner Recherche ist\NDyRiAS. Ich habe leider noch nicht
Dialogue: 0,0:14:53.65,0:14:58.48,Default,,0000,0000,0000,,herausgefunden, ob Schulen überhaupt damit\Narbeiten. Und wenn ja, wie viele. Wenn ihr
Dialogue: 0,0:14:58.48,0:15:01.90,Default,,0000,0000,0000,,was über dieses System und seine Anwendung\Nwisst, bin ich für sachdienliche Hinweise
Dialogue: 0,0:15:01.90,0:15:06.58,Default,,0000,0000,0000,,total dankbar. Was ich darüber gelesen\Nhabe ist, dass DyRiAS ist ein
Dialogue: 0,0:15:06.58,0:15:12.97,Default,,0000,0000,0000,,Risikoanalysesystem, was unter anderem\Nauch genutzt werden kann, um ein Risiko
Dialogue: 0,0:15:12.97,0:15:17.53,Default,,0000,0000,0000,,für häusliche Gewalt zu identifizieren. Es\Nwird auch in der Schule angewendet, sodass
Dialogue: 0,0:15:17.53,0:15:22.84,Default,,0000,0000,0000,,Lehrkräfte nach einer Schulung und wenn\Nsie eine Lizenz erworben haben, mit diesem
Dialogue: 0,0:15:22.84,0:15:28.45,Default,,0000,0000,0000,,System erkennen können, ob Schüler:innen\Ndemnächst vielleicht mal Amok laufen. Und
Dialogue: 0,0:15:28.45,0:15:35.05,Default,,0000,0000,0000,,dazu werden Kommunikationsverhalten und\NVerhaltensweisen analysiert. Wie genau das
Dialogue: 0,0:15:35.05,0:15:37.66,Default,,0000,0000,0000,,System funktioniert, wie gesagt, weiß ich\Nim Detail nicht. Da werde ich aber
Dialogue: 0,0:15:37.66,0:15:42.13,Default,,0000,0000,0000,,sicherlich nochmal in Zukunft etwas tiefer\Neinsteigen, um das zu verstehen. Weil mich
Dialogue: 0,0:15:42.13,0:15:47.44,Default,,0000,0000,0000,,das sehr irritiert. Im Ergebnis bekommen\NLehrkräfte dann so einen farblichen
Dialogue: 0,0:15:47.44,0:15:52.78,Default,,0000,0000,0000,,Balken. Das ist also ein original\NScreenshot aus der Broschüre. Und
Dialogue: 0,0:15:52.78,0:15:56.86,Default,,0000,0000,0000,,vollkommen unklar ist für mich tatsächlich\Nauch, was genau passiert oder wer Zugang
Dialogue: 0,0:15:56.86,0:16:00.70,Default,,0000,0000,0000,,zu diesen Daten hat. Wenn dann ein Kind\Ntatsächlich immer weiter in diesen roten
Dialogue: 0,0:16:00.70,0:16:05.11,Default,,0000,0000,0000,,Bereich rutscht. Was heißt überhaupt roter\NBereich und bedeutet das höchste Warnstufe
Dialogue: 0,0:16:05.11,0:16:11.47,Default,,0000,0000,0000,,oder bedeutet Stufe 5 schon, hier musst du\Neigentlich sofort die Polizei rufen. Dazu
Dialogue: 0,0:16:11.47,0:16:15.25,Default,,0000,0000,0000,,kommt noch, dass die Daten, die für dieses\NSystem erfasst werden, dass die
Dialogue: 0,0:16:15.25,0:16:21.91,Default,,0000,0000,0000,,browserbasiert, verarbeitet werden.\NImmerhin verschlüsselt. Weiteres halbwegs
Dialogue: 0,0:16:21.91,0:16:25.15,Default,,0000,0000,0000,,beruhigendes Signal ist, das DyRiAS in\Nseiner Broschüre zumindest darauf
Dialogue: 0,0:16:25.15,0:16:29.80,Default,,0000,0000,0000,,hinweist, dass die Nutzung von\Ngewaltorientierten Computerspielen oder
Dialogue: 0,0:16:29.80,0:16:33.52,Default,,0000,0000,0000,,auch das Tragen eines Irokesenschnitt zum\NBeispiel keine Indikatoren seien für eine
Dialogue: 0,0:16:33.52,0:16:37.03,Default,,0000,0000,0000,,erhöhte Gewaltbereitschaft. Aber wie\Ngesagt, da werde ich mich auf jeden Fall
Dialogue: 0,0:16:37.03,0:16:40.93,Default,,0000,0000,0000,,nochmal weiter informieren wollen, wie\Ndieses System genau in der Praxis
Dialogue: 0,0:16:40.93,0:16:46.45,Default,,0000,0000,0000,,arbeitet. Und letztendlich ist es auch mal\Nsehr interessant zu wissen, was passiert
Dialogue: 0,0:16:46.45,0:16:50.44,Default,,0000,0000,0000,,dann eigentlich mit diesem\NFarbskalasystem. In der ganzen
Dialogue: 0,0:16:50.44,0:16:55.21,Default,,0000,0000,0000,,Beschäftigung mit KI in den letzten zwei\NJahren hat sich bei uns im Fraktionsteam
Dialogue: 0,0:16:55.21,0:16:59.50,Default,,0000,0000,0000,,irgendwann mal diese Frage aufgedrängt,\Nwas es denn überhaupt mit den Menschen
Dialogue: 0,0:16:59.50,0:17:04.14,Default,,0000,0000,0000,,macht, die mit solchen KI-Systeme\Narbeiten. Und es wird immer so ein
Dialogue: 0,0:17:04.14,0:17:08.61,Default,,0000,0000,0000,,bisschen als beruhigendes, ja sozusagen\Nals so eine Art Feigenblatt ganz oft
Dialogue: 0,0:17:08.61,0:17:13.32,Default,,0000,0000,0000,,erwähnt. Naja, am Ende die letzte\NEntscheidung trifft ja der Mensch. Aber
Dialogue: 0,0:17:13.32,0:17:16.80,Default,,0000,0000,0000,,was bedeutet das eigentlich? Weil für uns\Nhat dann tatsächlich an der Stelle diese
Dialogue: 0,0:17:16.80,0:17:20.91,Default,,0000,0000,0000,,Debatte nicht aufgehört, sondern erst\Nangefangen. Weil die Frage ist dann:
Dialogue: 0,0:17:20.91,0:17:25.74,Default,,0000,0000,0000,,Welche Verantwortung kann ein Mensch dann\Nüberhaupt für seine Entscheidung
Dialogue: 0,0:17:25.74,0:17:30.00,Default,,0000,0000,0000,,übernehmen und wenn er tatsächlich diese\NEntscheidung treffen soll, ist er
Dialogue: 0,0:17:30.00,0:17:32.61,Default,,0000,0000,0000,,überhaupt dazu befähigt, diese\NEntscheidung zu treffen? Einmal
Dialogue: 0,0:17:32.61,0:17:37.71,Default,,0000,0000,0000,,tatsächlich kognitiv - weiß er überhaupt,\Nwie das System funktioniert? Kann er
Dialogue: 0,0:17:37.71,0:17:41.76,Default,,0000,0000,0000,,einschätzen, wenn eine Klassifizierung\Noder eine Entscheidungsvorbereitung
Dialogue: 0,0:17:41.76,0:17:45.78,Default,,0000,0000,0000,,vorgenommen oder vielleicht sogar eine\NEntscheidung getroffen wird? Kann er
Dialogue: 0,0:17:45.78,0:17:51.45,Default,,0000,0000,0000,,überhaupt erkennen, ob diese Entscheidung\Ndes Systems richtig ist in seinem Sinne
Dialogue: 0,0:17:51.45,0:17:55.62,Default,,0000,0000,0000,,oder ob er vielleicht sich dagegen\Nentscheiden sollte? Und selbst wenn er
Dialogue: 0,0:17:55.62,0:17:59.91,Default,,0000,0000,0000,,sich entscheidet, sich dagegen zu\Nentscheiden, ist er überhaupt dazu
Dialogue: 0,0:17:59.91,0:18:03.57,Default,,0000,0000,0000,,berechtigt aufgrund von seiner Rolle in\Nder Organisation? Es gibt Organisationen,
Dialogue: 0,0:18:03.57,0:18:07.20,Default,,0000,0000,0000,,da wird es ja vielleicht durchaus\Nerwartet, dass er eigenmächtig entscheidet
Dialogue: 0,0:18:07.20,0:18:10.26,Default,,0000,0000,0000,,und dann gibt es andere\NOrganisationsformen, wo es genau von ihm
Dialogue: 0,0:18:10.26,0:18:14.34,Default,,0000,0000,0000,,erwartet wird, sich nicht eigenmächtig zu\Nentscheiden. Das betrifft jetzt alles
Dialogue: 0,0:18:14.34,0:18:22.59,Default,,0000,0000,0000,,nicht nur den Bereich Bildung, sondern\Ninsgesamt soziale Kontexte im Einsatz von
Dialogue: 0,0:18:22.59,0:18:27.21,Default,,0000,0000,0000,,KI-Systemne. Eine grundsätzliche Frage, die\Nwir uns stellen müssen in allen
Dialogue: 0,0:18:27.21,0:18:30.45,Default,,0000,0000,0000,,Anwendungssektoren ist: Wer entscheidet\Ndenn überhaupt besser der Mensch oder die
Dialogue: 0,0:18:30.45,0:18:34.77,Default,,0000,0000,0000,,Maschine? Und nach welchen Gütekriterien\Nwird das entschieden? Im Bildungsbereich
Dialogue: 0,0:18:34.77,0:18:39.45,Default,,0000,0000,0000,,gibt es ja durchaus die Meinung, dass es\Nheißt, lieber sollen Schüler von scheinbar
Dialogue: 0,0:18:39.45,0:18:44.37,Default,,0000,0000,0000,,neutralen Systemen bewertet werden als von\Nvorurteilsbelasteten Menschen. Aber auch
Dialogue: 0,0:18:44.37,0:18:49.08,Default,,0000,0000,0000,,ein System ist natürlich niemals neutral.\NUnd auch selbst wenn ein Mensch mit
Dialogue: 0,0:18:49.08,0:18:54.09,Default,,0000,0000,0000,,Vorurteilen belastet ist, hat er trotzdem\Nnur einen relativ kleinen
Dialogue: 0,0:18:54.09,0:18:58.56,Default,,0000,0000,0000,,Entscheidungsspielraum. Wenn hingegen für\NBewertungsverfahren Systeme eingesetzt
Dialogue: 0,0:18:58.56,0:19:02.01,Default,,0000,0000,0000,,werden, dann wirken sie direkt auf die\Nganze Schule oder im schlechtesten Fall
Dialogue: 0,0:19:02.01,0:19:07.35,Default,,0000,0000,0000,,vielleicht sogar für das ganze Land. Und\Nauch wenn wir uns dafür entscheiden, dass
Dialogue: 0,0:19:07.35,0:19:12.63,Default,,0000,0000,0000,,Entscheidungen an Maschinen ausgelagert\Nwerden soll, um Schaden zu vermeiden, ist
Dialogue: 0,0:19:12.63,0:19:15.27,Default,,0000,0000,0000,,auch die Frage: Wodurch entsteht denn\Nüberhaupt ein Schaden? Entsteht ein
Dialogue: 0,0:19:15.27,0:19:20.55,Default,,0000,0000,0000,,Schaden durch ein richtig funktionierendes\NSystem, das dann aber langfristig
Dialogue: 0,0:19:20.55,0:19:26.16,Default,,0000,0000,0000,,gesellschaftliche Schäden mit sich bringt?\NOder entsteht ein Schaden durch ein nicht
Dialogue: 0,0:19:26.16,0:19:31.05,Default,,0000,0000,0000,,gut funktionierendes System oder nicht wie\Nerwartet funktionierendes System? Und
Dialogue: 0,0:19:31.05,0:19:35.34,Default,,0000,0000,0000,,entstehen Schäden eigentlich nur durch Tun\Noder entstehen Schäden auch durch
Dialogue: 0,0:19:35.34,0:19:40.26,Default,,0000,0000,0000,,Unterlassung? Das heißt bezogen auf diese\NEntscheidung: Wer entscheidet besser,
Dialogue: 0,0:19:40.26,0:19:44.43,Default,,0000,0000,0000,,Mensch oder Maschine? Müssen all diese\NAspekte mit betrachtet werden. Und auch
Dialogue: 0,0:19:44.43,0:19:48.36,Default,,0000,0000,0000,,der Verzicht auf ein maschinelles System,\Ndas vielleicht irgendwann nachweislich
Dialogue: 0,0:19:48.36,0:19:54.60,Default,,0000,0000,0000,,einen positiven Effekt hat, kann\Ntatsächlich zu einem Schaden führen. Wenn
Dialogue: 0,0:19:54.60,0:19:59.46,Default,,0000,0000,0000,,wir uns dann dafür entschieden haben, dass\Nwir ein KI System ergänzend einsetzen wollen
Dialogue: 0,0:19:59.46,0:20:03.48,Default,,0000,0000,0000,,in einem bestimmten Anwendungssektor, dann\Nmuss als nächstes entschieden werden: Wie
Dialogue: 0,0:20:03.48,0:20:06.93,Default,,0000,0000,0000,,viel Entscheidungsspielraum soll der\NMensch dann überhaupt noch haben, wenn es
Dialogue: 0,0:20:06.93,0:20:11.22,Default,,0000,0000,0000,,heißt: Am Schluss trifft der Mensch die\Nletzte Entscheidung? Die Papiere von der
Dialogue: 0,0:20:11.22,0:20:15.60,Default,,0000,0000,0000,,EU-Kommission zum Beispiel gehen im Moment\Nvon drei verschiedenen Stufen aus. Human
Dialogue: 0,0:20:15.60,0:20:20.76,Default,,0000,0000,0000,,in Command, Human on Command und Human in\Nthe Loop. Aber es gibt schon aus der
Dialogue: 0,0:20:20.76,0:20:24.48,Default,,0000,0000,0000,,Informatik viel ältere\NKlassifizierungssysteme, die viel
Dialogue: 0,0:20:24.48,0:20:29.91,Default,,0000,0000,0000,,ausgefeilter sind, z.B. vom MIT aus den\N1980er Jahren, die bis zu zehn Stufen
Dialogue: 0,0:20:29.91,0:20:34.89,Default,,0000,0000,0000,,unterscheiden, in denen verschiedene\NAutonomiegrade vom Menschen bis zur
Dialogue: 0,0:20:34.89,0:20:38.88,Default,,0000,0000,0000,,Maschine einmal durchlaufen werden, also\Nvon der vollständigen Autonomie für den
Dialogue: 0,0:20:38.88,0:20:43.92,Default,,0000,0000,0000,,Menschen bis hin zur vollständigen\NAutonomie durch die Maschine. Das heißt,
Dialogue: 0,0:20:43.92,0:20:49.14,Default,,0000,0000,0000,,da ist dieser, diese Aussage, die\Nmenschliche, die letzte Entscheidung
Dialogue: 0,0:20:49.14,0:20:53.79,Default,,0000,0000,0000,,trifft der Mensch ist noch so viel\Nwahnsinnig vielen Fragen unterworfen und
Dialogue: 0,0:20:53.79,0:20:57.96,Default,,0000,0000,0000,,vor allem aber, finde halte ich das für\Ndie allerwichtigste Frage, genau diese
Dialogue: 0,0:20:57.96,0:21:00.93,Default,,0000,0000,0000,,Abstufungen, welchen\NEntscheidungsspielraum Mensch überhaupt
Dialogue: 0,0:21:00.93,0:21:04.77,Default,,0000,0000,0000,,hat, weil daraus leitet sich dann\Nletztendlich auch ab, wie ein Mensch
Dialogue: 0,0:21:04.77,0:21:08.28,Default,,0000,0000,0000,,weitergebildet werden muss, mit diesem\NSystem überhaupt zu arbeiten und welche
Dialogue: 0,0:21:08.28,0:21:11.73,Default,,0000,0000,0000,,Vereinbarungen er vielleicht in seinem\NArbeitsvertrag braucht, also welche Rechte
Dialogue: 0,0:21:11.73,0:21:14.70,Default,,0000,0000,0000,,er überhaupt hat, diesen\NEntscheidungsspielraum tatsächlich
Dialogue: 0,0:21:14.70,0:21:23.72,Default,,0000,0000,0000,,wahrzunehmen. So, selbst wenn er diesen\NEntscheidungsspielraum dann für sich
Dialogue: 0,0:21:23.72,0:21:27.08,Default,,0000,0000,0000,,festgelegt hat, dann ist auch noch die\NFrage: Wie viel Entscheidungsspielraum
Dialogue: 0,0:21:27.08,0:21:30.83,Default,,0000,0000,0000,,lässt das System dann tatsächlich zu? Es\Ngibt in diesem ganzen Bereich Mensch-
Dialogue: 0,0:21:30.83,0:21:35.48,Default,,0000,0000,0000,,Maschine Interaktion derzeit noch sehr,\Nsehr wenig Forschung. Aber die ersten
Dialogue: 0,0:21:35.48,0:21:40.46,Default,,0000,0000,0000,,Forschungen, die es schon gegeben hat, die\Nzeigen zum Beispiel: Selbst wenn Menschen
Dialogue: 0,0:21:40.46,0:21:44.63,Default,,0000,0000,0000,,erkennen, dass das System gerade nicht\Noptimal arbeitet und sie möchten gerne in
Dialogue: 0,0:21:44.63,0:21:48.35,Default,,0000,0000,0000,,das System eingreifen, um einen Fehler zu\Neliminieren oder eine Korrektur
Dialogue: 0,0:21:48.35,0:21:52.55,Default,,0000,0000,0000,,vorzunehmen und dann dabei feststellen,\Ndass dieser Prozess so wahnsinnig
Dialogue: 0,0:21:52.55,0:21:56.18,Default,,0000,0000,0000,,aufwendig und kompliziert ist, dann neigen\NMenschen tatsächlich dazu, mit diesem
Dialogue: 0,0:21:56.18,0:22:00.59,Default,,0000,0000,0000,,fehlerhaften System trotz besseren Wissens\Nweiterzuarbeiten. Und das ist halt etwas,
Dialogue: 0,0:22:00.59,0:22:06.20,Default,,0000,0000,0000,,was wir gerade in sozialen Kontexten und\Ngerade in Bereichen, in denen KI-Systeme
Dialogue: 0,0:22:06.20,0:22:10.88,Default,,0000,0000,0000,,über das Leben oder Lebenswege von\NMenschen entscheiden, einfach ganz genau
Dialogue: 0,0:22:10.88,0:22:14.39,Default,,0000,0000,0000,,hinschauen sollten, was es denn eigentlich\Nbedeutet, wenn der Mensch die letzte
Dialogue: 0,0:22:14.39,0:22:18.08,Default,,0000,0000,0000,,Entscheidung treffen soll. Denn am Ende\Nkann es tatsächlich sein, dass der
Dialogue: 0,0:22:18.08,0:22:21.83,Default,,0000,0000,0000,,Entscheidungsspielraum, der dort\Nangedeutet wird, mit dieser Aussage viel,
Dialogue: 0,0:22:21.83,0:22:25.10,Default,,0000,0000,0000,,viel kleiner ist als angenommen\NHandlungsspielräume geklärt sind. Und
Dialogue: 0,0:22:25.10,0:22:29.21,Default,,0000,0000,0000,,auch, weil wir von total optimal\Nfunktionierenden KI-System ausgehen. Dann
Dialogue: 0,0:22:29.21,0:22:32.39,Default,,0000,0000,0000,,ergeben sich immer noch Probleme auf der\Nstrukturellen Ebene, sodass wir auf lange
Dialogue: 0,0:22:32.39,0:22:35.93,Default,,0000,0000,0000,,Sicht einfach schauen müssen: Was macht\Ndas dann mit der Lernkultur, mit der
Dialogue: 0,0:22:35.93,0:22:40.64,Default,,0000,0000,0000,,Bildungskultur an Schulen? Das fängt an\Nbei der Erhebung von den Daten, also der
Dialogue: 0,0:22:40.64,0:22:44.99,Default,,0000,0000,0000,,Datafisierung von Lernprozessen. Aber ich\Nwerde nicht müde, immer wieder zu
Dialogue: 0,0:22:44.99,0:22:48.38,Default,,0000,0000,0000,,wiederholen, dass wir immer noch mit\Npersonenbezogenen Daten von größtenteils
Dialogue: 0,0:22:48.38,0:22:52.58,Default,,0000,0000,0000,,minderjährigen Schüler:innen arbeiten und\Ndass wir Kinder auch schon sehr, sehr früh
Dialogue: 0,0:22:52.58,0:22:56.18,Default,,0000,0000,0000,,daran gewöhnen, sich mit algorithmischen\NKlassifizierungs- und Bewertungsverfahren
Dialogue: 0,0:22:56.18,0:23:00.77,Default,,0000,0000,0000,,auseinanderzusetzen und sich vielleicht\Nihnen auch sogar zu unterwerfen, ohne dass
Dialogue: 0,0:23:00.77,0:23:05.15,Default,,0000,0000,0000,,sie sie aufgrund der Black-Box Problematik\Nvielleicht nachvollziehen können. Nächste
Dialogue: 0,0:23:05.15,0:23:09.47,Default,,0000,0000,0000,,Problematik ist das Ding der\NStandardisierung, Operationalisierung von
Dialogue: 0,0:23:09.47,0:23:13.82,Default,,0000,0000,0000,,Daten. Welche Dinge werden dabei\Nausgelassen? Wer bestimmt, was der
Dialogue: 0,0:23:13.82,0:23:17.60,Default,,0000,0000,0000,,Standard ist? Wer bestimmt, was das\Nnormale ist? Inwieweit können diese
Dialogue: 0,0:23:17.60,0:23:21.14,Default,,0000,0000,0000,,Systeme überhaupt hinterfragt werden?\NWelche Qualitäts- und Fairness-Maße beim
Dialogue: 0,0:23:21.14,0:23:28.19,Default,,0000,0000,0000,,Training, welche Feedback an diese Systeme\Ngegeben werden? In der Bildung gehört es
Dialogue: 0,0:23:28.19,0:23:31.31,Default,,0000,0000,0000,,letztendlich dazu, auch nicht\Nstandardisierte Wege zu gehen. Hetty,
Dialogue: 0,0:23:31.31,0:23:34.10,Default,,0000,0000,0000,,einer der renommiertesten\NBildungsforscher, hat in seiner Studie
Dialogue: 0,0:23:34.10,0:23:38.78,Default,,0000,0000,0000,,Visible Learning unter anderem nochmal\Nherausgestellt, dass es zum einen zum
Dialogue: 0,0:23:38.78,0:23:43.37,Default,,0000,0000,0000,,Bildungserfolg gehört und dass es auch mit\NBildungserfolg beiträgt, wenn Schüler:innen
Dialogue: 0,0:23:43.37,0:23:48.20,Default,,0000,0000,0000,,befähigt werden, vorgegebene Lösungswege\Naufzubrechen oder auch ihre eigenen zu
Dialogue: 0,0:23:48.20,0:23:52.52,Default,,0000,0000,0000,,finden. Aber durch diese ganze\NVereinzelung und durch die
Dialogue: 0,0:23:52.52,0:23:57.50,Default,,0000,0000,0000,,Standardisierung gehen halt einfach auch\Nbestimmte Möglichkeiten im Lern-Spektrum
Dialogue: 0,0:23:57.50,0:24:02.93,Default,,0000,0000,0000,,verloren, sodass Schüler:innen gar nicht\Nmit alternativen Möglichkeiten vielleicht
Dialogue: 0,0:24:02.93,0:24:06.98,Default,,0000,0000,0000,,mehr konfrontiert werden, um ihren\NHorizont zu erweitern. Die nächste
Dialogue: 0,0:24:06.98,0:24:12.38,Default,,0000,0000,0000,,Problematik ist das Scheitern. Wenn ich\Njetzt in einem normalen Klassenverbund
Dialogue: 0,0:24:12.38,0:24:15.74,Default,,0000,0000,0000,,vielleicht selber schon mal merke, ich\Nkomme hier an meine Grenzen oder ich komme
Dialogue: 0,0:24:15.74,0:24:19.19,Default,,0000,0000,0000,,mit der Aufgabenstellung nicht zurecht,\Ndann ist das natürlich total frustrierend.
Dialogue: 0,0:24:19.19,0:24:22.58,Default,,0000,0000,0000,,Aber gleichzeitig gehört das auch mit zum\NBildungsprozess und zur
Dialogue: 0,0:24:22.58,0:24:27.68,Default,,0000,0000,0000,,Persönlichkeitsentwicklung auch dazu,\NGrenzen zu erkennen, auch mit Misserfolgen
Dialogue: 0,0:24:27.68,0:24:31.52,Default,,0000,0000,0000,,umzugehen. Und wenn all dies ausbleibt,\Ndann verschieben sich diese Grenzen
Dialogue: 0,0:24:31.52,0:24:37.82,Default,,0000,0000,0000,,einfach viel, viel weiter nach hinten,\Nweil dann immer nur der Inhalt präsentiert
Dialogue: 0,0:24:37.82,0:24:44.57,Default,,0000,0000,0000,,wird, der geradezu meinem vom System\Nerrechneten Lernniveau passt und ich aber
Dialogue: 0,0:24:44.57,0:24:48.32,Default,,0000,0000,0000,,vielleicht gar nicht mehr dazu richtig\Ngefordert werde, mich auch aber mit Dingen
Dialogue: 0,0:24:48.32,0:24:53.12,Default,,0000,0000,0000,,auseinanderzusetzen, die ich vielleicht\Nnoch gar nicht können kann, die mich aber
Dialogue: 0,0:24:53.12,0:24:57.02,Default,,0000,0000,0000,,vielleicht jetzt aktuell nochmal\Nweiterbringen. Jetzt im Klassenverband
Dialogue: 0,0:24:57.02,0:24:59.93,Default,,0000,0000,0000,,gibt es zwar auch das Thema der\NBinnendifferenzierung, also dass es
Dialogue: 0,0:24:59.93,0:25:03.65,Default,,0000,0000,0000,,unterschiedliche Inhalte idealerweise für\Nverschiedene Lernniveaus oder für
Dialogue: 0,0:25:03.65,0:25:08.39,Default,,0000,0000,0000,,verschiedene Lerntypen gibt. Aber in einem\NKlassenverband gibt es immer noch die
Dialogue: 0,0:25:08.39,0:25:13.34,Default,,0000,0000,0000,,Möglichkeit, das in Gruppenarbeiten z.B.\Nzu organisieren, wo etwas schwächere
Dialogue: 0,0:25:13.34,0:25:16.58,Default,,0000,0000,0000,,Schüler mit etwas stärkeren Schülern\Nzusammen an einer Lösung arbeiten können.
Dialogue: 0,0:25:16.58,0:25:21.20,Default,,0000,0000,0000,,Wenn wir auf individualisierte\Nsystembasierte Lernpfade gehen, dann
Dialogue: 0,0:25:21.20,0:25:25.28,Default,,0000,0000,0000,,sitzen im Prinzip die Schüler:innen dort\Nalleine und das System entscheidet, was
Dialogue: 0,0:25:25.28,0:25:28.04,Default,,0000,0000,0000,,hier präsentiert wird und was nicht\Npräsentiert wird. Da geht einfach sehr,
Dialogue: 0,0:25:28.04,0:25:32.30,Default,,0000,0000,0000,,sehr viel verloren. Das Spektrum verengt\Nsich. Gleichzeitig kann es aber auch
Dialogue: 0,0:25:32.30,0:25:37.13,Default,,0000,0000,0000,,passieren, dass Lehrkräfte vielleicht noch\Nmehr angegriffen werden, als sie es
Dialogue: 0,0:25:37.13,0:25:40.73,Default,,0000,0000,0000,,vielleicht jetzt schon werden von Eltern\Neinfach in Frage gestellt werden. Ihre
Dialogue: 0,0:25:40.73,0:25:44.51,Default,,0000,0000,0000,,Entscheidungssysteme können mehr in Frage\Ngestellt werden, weil Lehrkräfte
Dialogue: 0,0:25:44.51,0:25:49.13,Default,,0000,0000,0000,,vielleicht verlangen, dass ein System\Nnochmal die Bewertung nachvollzieht, was
Dialogue: 0,0:25:49.13,0:25:52.22,Default,,0000,0000,0000,,letztendlich sehr demotivierend für\NLehrkräfte sein kann, was Vertrauen
Dialogue: 0,0:25:52.22,0:25:56.00,Default,,0000,0000,0000,,unterwandern kann und letztendlich auch\Ndie Autorität von Lehrkräften wieder
Dialogue: 0,0:25:56.00,0:25:59.48,Default,,0000,0000,0000,,unterwandern kann. Wir haben sowieso schon\Nein großes Problem mit Lehrkräftemangel
Dialogue: 0,0:25:59.48,0:26:05.21,Default,,0000,0000,0000,,und die Frage ist, ob solche Entwicklungen\NLehrkräfte oder angehende Lehrkräfte
Dialogue: 0,0:26:05.21,0:26:09.20,Default,,0000,0000,0000,,motiviert, diesen Beruf dann überhaupt\Nnoch zu ergreifen, wenn sie sich dann auch
Dialogue: 0,0:26:09.20,0:26:13.37,Default,,0000,0000,0000,,zukünftig immer mit technischen System\Nmessen müssen. Letztendlich aber
Dialogue: 0,0:26:13.37,0:26:17.87,Default,,0000,0000,0000,,wahrscheinlich das größte Problem: Was\Nmacht es mit der Ungleichheit? Also alle
Dialogue: 0,0:26:17.87,0:26:21.59,Default,,0000,0000,0000,,Bildungsberichte gehen im Prinzip immer\Nwieder davon aus, dass wir
Dialogue: 0,0:26:21.59,0:26:24.74,Default,,0000,0000,0000,,Bildungsungleichheiten und\NUngerechtigkeiten haben. Das ist eines der
Dialogue: 0,0:26:24.74,0:26:29.63,Default,,0000,0000,0000,,größten Probleme im Bildungssektor, das es\Ntatsächlich gibt, und die Frage ist,
Dialogue: 0,0:26:29.63,0:26:36.80,Default,,0000,0000,0000,,inwieweit die der verstärkte Einsatz von\NKI-Systemen diese Ungleichheiten entweder
Dialogue: 0,0:26:36.80,0:26:41.27,Default,,0000,0000,0000,,aushebelt oder vielleicht sogar verstärken\Nkann. Das kann auf der individuellen Ebene
Dialogue: 0,0:26:41.27,0:26:45.23,Default,,0000,0000,0000,,passieren, dass Schüler:innen, die sich\Nvielleicht sehr gut selbst organisieren
Dialogue: 0,0:26:45.23,0:26:48.20,Default,,0000,0000,0000,,können und vielleicht sehr gut mit Systemen\Narbeiten können, dieses schneller
Dialogue: 0,0:26:48.20,0:26:52.22,Default,,0000,0000,0000,,verstehen, vielleicht auch schneller\Nwissen, wie sie es umgehen können. Während
Dialogue: 0,0:26:52.22,0:26:57.05,Default,,0000,0000,0000,,vielleicht eher lernschwache Schüler sich\Ndem System eher ausgeliefert fühlen und
Dialogue: 0,0:26:57.05,0:27:00.92,Default,,0000,0000,0000,,vielleicht eher demotiviert werden, sich\Ndann nochmal Hilfe zu suchen oder
Dialogue: 0,0:27:00.92,0:27:04.16,Default,,0000,0000,0000,,vielleicht auch Lehrkräfte das gar nicht\Nunbedingt erkennen können, dass
Dialogue: 0,0:27:04.16,0:27:06.98,Default,,0000,0000,0000,,Schüler:innen vielleicht überhaupt\NSchwierigkeiten haben, wenn sie diese
Dialogue: 0,0:27:06.98,0:27:11.72,Default,,0000,0000,0000,,Systeme zuhause anwenden oder vielleicht\Nhinter einem Bildschirm verschwinden. Auf
Dialogue: 0,0:27:11.72,0:27:16.88,Default,,0000,0000,0000,,einer größeren Ebene kann der Einsatz von\NKI Systemen die Ungleichheit verschärfen,
Dialogue: 0,0:27:16.88,0:27:21.77,Default,,0000,0000,0000,,weil einfach die Frage ist: Werden sich\Ndann zukünftig eher gut ausgestattete
Dialogue: 0,0:27:21.77,0:27:26.93,Default,,0000,0000,0000,,Schulen in reichen Bundesländern, in\Nprivilegierten Umfeldern KI-Systeme zur
Dialogue: 0,0:27:26.93,0:27:32.15,Default,,0000,0000,0000,,Unterstützung leisten können? Oder werden\NKI-Systeme eher eingesetzt werden können
Dialogue: 0,0:27:32.15,0:27:36.32,Default,,0000,0000,0000,,in weniger privilegierten Kontexten? Es\Ngibt in den USA gab es jetzt die
Dialogue: 0,0:27:36.32,0:27:41.06,Default,,0000,0000,0000,,Gründungen von Rocketchip Schulen. Ich\Nkann mir den Namen immer sehr schlecht
Dialogue: 0,0:27:41.06,0:27:47.51,Default,,0000,0000,0000,,merken. Rocketchip Public Schools heißen\Nsie und dort sitzt dann im Prinzip nur
Dialogue: 0,0:27:47.51,0:27:50.96,Default,,0000,0000,0000,,noch eine Hilfslehrkraft, die dann bis zu\N90 Schüler:innen an ihren
Dialogue: 0,0:27:50.96,0:27:58.68,Default,,0000,0000,0000,,Computerbildschirmen steuert, anleitet,\Nirgendwie unterstützt, um einfach auch
Dialogue: 0,0:27:58.68,0:28:02.99,Default,,0000,0000,0000,,Stellen an gut ausgebildeten Lehrkräften\Neinzusparen. Dort läuft es auf eine Art
Dialogue: 0,0:28:02.99,0:28:07.76,Default,,0000,0000,0000,,Massenabfertigung hin und die Forschung,\Ndie es da gegeben hat, hat jetzt zumindest
Dialogue: 0,0:28:07.76,0:28:12.65,Default,,0000,0000,0000,,letztes Jahr schon gezeigt, dass die\NErgebnisse, die die Schüler:innen dort erzielen,
Dialogue: 0,0:28:12.65,0:28:16.76,Default,,0000,0000,0000,,bis zu einer Note schlechter sind als\NSchüler:innen, die in einem herkömmlichen
Dialogue: 0,0:28:16.76,0:28:21.17,Default,,0000,0000,0000,,Klassenverband mit vernünftig\Nausgebildeten Lehrkräften lernen. Wir
Dialogue: 0,0:28:21.17,0:28:25.28,Default,,0000,0000,0000,,kennen diese Diskussionen auch im\NGesundheitsbereich, in der Pflege. Auch da
Dialogue: 0,0:28:25.28,0:28:29.66,Default,,0000,0000,0000,,wird diskutiert, ob Robotics Systeme in\Nder Pflege eher ein System für die
Dialogue: 0,0:28:29.66,0:28:35.33,Default,,0000,0000,0000,,Privilegierten sind. Wer es sich leisten\Nkann, holt sich einen Roboter dazu. Oder
Dialogue: 0,0:28:35.33,0:28:40.40,Default,,0000,0000,0000,,ob es auch da eher um eine Auslagerung an\NTechnik geht, dass wir in weniger
Dialogue: 0,0:28:40.40,0:28:44.09,Default,,0000,0000,0000,,privilegierten Einrichtungen einfach von\NMaschinen betreut werden anstatt von
Dialogue: 0,0:28:44.09,0:28:47.57,Default,,0000,0000,0000,,Menschen. Also da kann der Bildungssektor\Nsich vielleicht ganz gut am
Dialogue: 0,0:28:47.57,0:28:51.92,Default,,0000,0000,0000,,Gesundheitssektor orientieren und diese\NDebatte dort mal verfolgen, in welche
Dialogue: 0,0:28:51.92,0:28:59.09,Default,,0000,0000,0000,,Richtung das geht. All diese Schwächen und\NRisiken zusammengenommen frage ich mich
Dialogue: 0,0:28:59.09,0:29:07.49,Default,,0000,0000,0000,,tatsächlich, ob das Werben für KI-Systeme\Nan Schulen oder auch teilweise der Druck,
Dialogue: 0,0:29:07.49,0:29:10.94,Default,,0000,0000,0000,,der da gemacht wird, dass das eigentlich\Ntotale super Sache ist. Ob das nicht
Dialogue: 0,0:29:10.94,0:29:15.53,Default,,0000,0000,0000,,letztendlich einfach nur gemacht wird, um\Ndie eigentlichen Probleme im Schulsystem
Dialogue: 0,0:29:15.53,0:29:19.70,Default,,0000,0000,0000,,zu verschleiern. Denn eigentlich haben wir\Nes mit einer großen Mangelfinanzierung zu
Dialogue: 0,0:29:19.70,0:29:23.63,Default,,0000,0000,0000,,tun. Wir haben zu große Klassen, wir haben\Nzu wenig Lehrkräfte, wir haben einen
Dialogue: 0,0:29:23.63,0:29:27.99,Default,,0000,0000,0000,,wahnsinnigen Sanierungsstau. Und wenn\Ngleichzeitig dann aber von Regierungen
Dialogue: 0,0:29:27.99,0:29:32.99,Default,,0000,0000,0000,,mitempfohlen wird, dass wir doch KI-\NSysteme und Learning Analytics einsetzen,
Dialogue: 0,0:29:32.99,0:29:35.93,Default,,0000,0000,0000,,weil dadurch die Lehrkräfte entlastet\Nwerden und sich dann besser um die
Dialogue: 0,0:29:35.93,0:29:40.73,Default,,0000,0000,0000,,Schüler:innen kümmern sollen. Wobei wir\Neigentlich gar keine Evidenz dafür haben,
Dialogue: 0,0:29:40.73,0:29:44.66,Default,,0000,0000,0000,,dass das tatsächlich so funktioniert und\Nso klappt. Dann habe ich einfach zunehmend
Dialogue: 0,0:29:44.66,0:29:48.53,Default,,0000,0000,0000,,das Gefühl, dass genau diese\NMangelwirtschaft einfach aufrechterhalten
Dialogue: 0,0:29:48.53,0:29:51.50,Default,,0000,0000,0000,,werden soll und dadurch verschleiert\Nwerden soll, dass wir mal wieder
Dialogue: 0,0:29:51.50,0:29:55.85,Default,,0000,0000,0000,,versuchen, soziale Probleme mit Technik zu\Nlösen. Und das ist etwas, wo wir meiner
Dialogue: 0,0:29:55.85,0:30:00.14,Default,,0000,0000,0000,,Meinung nach genau jetzt an diesem Punkt\Nsind, diese Diskussion zu führen und diese
Dialogue: 0,0:30:00.14,0:30:04.22,Default,,0000,0000,0000,,Entwicklung zu verhindern, weil\Ndiejenigen, die letztendlich darunter
Dialogue: 0,0:30:04.22,0:30:08.99,Default,,0000,0000,0000,,leiden, sind neben den Lehrkräften, die am\NEnde nämlich nur scheinbar entlastet
Dialogue: 0,0:30:08.99,0:30:13.46,Default,,0000,0000,0000,,werden, vor allem die Schülerinnen und\NSchüler, deren Daten jetzt einfach erhoben
Dialogue: 0,0:30:13.46,0:30:16.31,Default,,0000,0000,0000,,werden und verarbeitet werden sollen und\Nwir gar nicht wissen, was daraus am Ende
Dialogue: 0,0:30:16.31,0:30:23.54,Default,,0000,0000,0000,,wird. So bedeutet das jetzt aber, dass KI-\NSysteme im Bildungssektor und in der
Dialogue: 0,0:30:23.54,0:30:26.63,Default,,0000,0000,0000,,Schule gar nichts verloren haben. So weit\Nwürde ich gar nicht gehen, sondern ich
Dialogue: 0,0:30:26.63,0:30:30.41,Default,,0000,0000,0000,,möchte gerne in Zukunft unterscheiden, auf\Nwelchen Ebenen wir KI-Systeme im
Dialogue: 0,0:30:30.41,0:30:34.01,Default,,0000,0000,0000,,Bildungssektor einsetzen. Wir haben jetzt\Nbisher immer so ein bisschen betrachtet,
Dialogue: 0,0:30:34.01,0:30:38.63,Default,,0000,0000,0000,,was auf der Mikroebene passiert, also wo\Npersonenbezogene Daten von Schüler:innen
Dialogue: 0,0:30:38.63,0:30:42.59,Default,,0000,0000,0000,,oder von Lehrkräften analysiert und\Nverarbeitet werden. Es gibt aber auch noch
Dialogue: 0,0:30:42.59,0:30:47.51,Default,,0000,0000,0000,,die Meso und Makroebene im Bildungssystem.\NAuf der Mesoebene reden wir von dem Zugang
Dialogue: 0,0:30:47.51,0:30:53.27,Default,,0000,0000,0000,,zu Lernorten oder auch zu Lerninhalten und\Ndie Makroebene betrachtet tatsächlich die
Dialogue: 0,0:30:53.27,0:30:57.05,Default,,0000,0000,0000,,übergreifende Steuerung von\NBildungssysteme, wo sich z.B. auch die
Dialogue: 0,0:30:57.05,0:31:02.42,Default,,0000,0000,0000,,Problematik der Ungerechtigkeit lösen\Nlassen müsste. Auf der Meso- und auf der
Dialogue: 0,0:31:02.42,0:31:07.34,Default,,0000,0000,0000,,Makroebene gibt es tatsächlich dann die\NMöglichkeit mit Open Data zu arbeiten und
Dialogue: 0,0:31:07.34,0:31:12.56,Default,,0000,0000,0000,,nicht mit personenbezogenen Daten, um halt\Ndiese bestimmten oder diese konkreten
Dialogue: 0,0:31:12.56,0:31:16.28,Default,,0000,0000,0000,,Probleme mit anzugehen. Und ich möchte\Njetzt im Folgenden eigentlich mal
Dialogue: 0,0:31:16.28,0:31:19.91,Default,,0000,0000,0000,,vorstellen, welche Beispiele es dafür\Njetzt schon gibt oder welche es geben
Dialogue: 0,0:31:19.91,0:31:29.93,Default,,0000,0000,0000,,könnte, damit es nicht so als Behauptung\Nim leeren Raum steht. Also nochmal zurück
Dialogue: 0,0:31:29.93,0:31:35.51,Default,,0000,0000,0000,,auf die Mikroebene gegangen, gibt es dort\Nauch durchaus Möglichkeiten, mit Systemen
Dialogue: 0,0:31:35.51,0:31:40.85,Default,,0000,0000,0000,,zu arbeiten, die nicht unbedingt die\Npersonenbezogenen Daten von Schülerinnen
Dialogue: 0,0:31:40.85,0:31:43.94,Default,,0000,0000,0000,,und Schülern verarbeiten. Das ist zum\Neinen die Möglichkeit: Es gibt ein System,
Dialogue: 0,0:31:43.94,0:31:50.15,Default,,0000,0000,0000,,dass Lehrkräfte neue Methoden zum Beispiel\Nanhand einer KI trainieren können und
Dialogue: 0,0:31:50.15,0:31:55.07,Default,,0000,0000,0000,,aufgrund des Feedbacks der KI dann sehen\Nkönnen, wo Verständnisschwächen entstehen,
Dialogue: 0,0:31:55.07,0:31:59.21,Default,,0000,0000,0000,,sodass sie dann ihre Methoden und ihre\NErklärweisen nochmal anpassen können,
Dialogue: 0,0:31:59.21,0:32:02.87,Default,,0000,0000,0000,,bevor sie damit konkret in die Klasse\Ngehen. Dann gibt es natürlich diesen
Dialogue: 0,0:32:02.87,0:32:08.96,Default,,0000,0000,0000,,ganzen Bereich der Administration,\NVertretungspläne, Stundenpläne oder auch
Dialogue: 0,0:32:08.96,0:32:13.55,Default,,0000,0000,0000,,Postverwaltung. Da gibt es ja schon einige\NBeispiele, auch aus Behörden, wie sowas
Dialogue: 0,0:32:13.55,0:32:18.47,Default,,0000,0000,0000,,eingesetzt werden kann mit ganz, ganz\Nunkritischen Anwendungsbereichen und
Dialogue: 0,0:32:18.47,0:32:24.65,Default,,0000,0000,0000,,keinen großen personenbezogenen Daten, die\Ndafür nötig sind. Was auch total günstig
Dialogue: 0,0:32:24.65,0:32:30.20,Default,,0000,0000,0000,,ist, ist natürlich alles, was dazu\Nbeiträgt, das System KI zu verstehen. Also
Dialogue: 0,0:32:30.20,0:32:35.06,Default,,0000,0000,0000,,selbst wenn ich Anwendungen durchaus in\Ngewissen Bereichen hier intensiv in Frage
Dialogue: 0,0:32:35.06,0:32:39.41,Default,,0000,0000,0000,,stellen möchte, ist zu keinem Zeitpunkt in\NFrage zu stellen, dass natürlich
Dialogue: 0,0:32:39.41,0:32:43.97,Default,,0000,0000,0000,,verstanden und gelernt werden muss, wie\Nalgorithmische und KI-Systeme
Dialogue: 0,0:32:43.97,0:32:49.14,Default,,0000,0000,0000,,funktionieren und was man mit ihnen machen\Nkann. Das heißt, als Unterstützung für
Dialogue: 0,0:32:49.14,0:32:53.78,Default,,0000,0000,0000,,Lernmethoden oder auch um Experimente\Ndurchzuführen, ist es auch für Schüler
Dialogue: 0,0:32:53.78,0:32:58.28,Default,,0000,0000,0000,,durchaus geeignet. Es gab mal diesen\NWettbewerb. Ich weiß nicht, ob der jedes
Dialogue: 0,0:32:58.28,0:33:02.33,Default,,0000,0000,0000,,Jahr stattfindet, zur KI Schule des\NJahres. Dort haben jugendliche
Dialogue: 0,0:33:02.33,0:33:05.36,Default,,0000,0000,0000,,Schüler:innen unter anderem ein System\Nentwickelt, um Zugverspätung
Dialogue: 0,0:33:05.36,0:33:11.48,Default,,0000,0000,0000,,vorherzusagen, also sehr anwendungsnah und\Nsehr sinnvoll für viele von uns. Und auch
Dialogue: 0,0:33:11.48,0:33:16.61,Default,,0000,0000,0000,,Methoden der Textanalyse oder Datenbank-\NAnalysen. Auch die können Schülern
Dialogue: 0,0:33:16.61,0:33:20.39,Default,,0000,0000,0000,,durchaus zugutekommen, sodass sie sie als\NWerkzeuge für das eigene Lernen benutzen
Dialogue: 0,0:33:20.39,0:33:24.74,Default,,0000,0000,0000,,und dabei aber weniger Schüler:innen\NWerkzeuge für das KI-System darstellen
Dialogue: 0,0:33:24.74,0:33:31.10,Default,,0000,0000,0000,,müssen. Auf der Meso-Ebene habe ich\Ntatsächlich im Moment sehr, sehr wenig
Dialogue: 0,0:33:31.10,0:33:35.51,Default,,0000,0000,0000,,Anwendungsbeispiele gefunden, was da\Ngemacht werden kann. Also eine Sache, die
Dialogue: 0,0:33:35.51,0:33:41.06,Default,,0000,0000,0000,,mich inspiriert hat, ist das Ergebnis\Neines EDU Hacks. Dort hat eine Gruppe eine
Dialogue: 0,0:33:41.06,0:33:46.25,Default,,0000,0000,0000,,Open Source Bibliothek entwickelt und\Nsowas kann ich mir sehr sehr gut auch
Dialogue: 0,0:33:46.25,0:33:51.14,Default,,0000,0000,0000,,tatsächlich für Deutschland vorstellen,\Ndass wir, wir haben ja diese Problematik,
Dialogue: 0,0:33:51.14,0:33:55.52,Default,,0000,0000,0000,,Lehrkräfte von euch werden das kennen, ich\Nhab das jetzt auch schon oft gehört, dass
Dialogue: 0,0:33:55.52,0:34:00.05,Default,,0000,0000,0000,,Lehrkräfte immer auf der Suche sind. Wo\Nfinde ich denn gute OER Materialien? Woher
Dialogue: 0,0:34:00.05,0:34:02.63,Default,,0000,0000,0000,,weiß ich dann, dass die gut sind oder\Nnicht? Woher weiß ich, ob die zu meinem
Dialogue: 0,0:34:02.63,0:34:05.69,Default,,0000,0000,0000,,Unterricht passen? Es ist alles so weit\Nverstreut. Ich weiß gar nicht, wo ich das
Dialogue: 0,0:34:05.69,0:34:10.64,Default,,0000,0000,0000,,ganze gute Zeug finden soll. Sowas alles\Nin eine Datenbank zu packen und dann mit
Dialogue: 0,0:34:10.64,0:34:14.36,Default,,0000,0000,0000,,KI-Systeme durchsuchbar zu machen und\Nvielleicht auch so durchsuchbar zu machen,
Dialogue: 0,0:34:14.36,0:34:19.10,Default,,0000,0000,0000,,dass Lehrkräfte schnell dort auch wissen,\Nwie komme ich dann an genau die
Dialogue: 0,0:34:19.10,0:34:22.07,Default,,0000,0000,0000,,Ergebnisse, die ich gerade für meinen\NUnterricht gebrauchen kann. Könnte ein
Dialogue: 0,0:34:22.07,0:34:27.11,Default,,0000,0000,0000,,Anwendungsbeispiel sein. Die OER-Strategie\Nder Bundesregierung ist ja jetzt
Dialogue: 0,0:34:27.11,0:34:32.99,Default,,0000,0000,0000,,ausgelaufen. Wird gerade neu entwickelt.\NKommt im nächsten Jahr. Und wir wissen
Dialogue: 0,0:34:32.99,0:34:36.56,Default,,0000,0000,0000,,leider noch nicht, was drin steht. Aber es\Nbleibt einfach zu hoffen, dass eine
Dialogue: 0,0:34:36.56,0:34:41.42,Default,,0000,0000,0000,,Zentralisierung oder zumindest eine\Nbessere Auffindbarkeit von OER-Inhalten
Dialogue: 0,0:34:41.42,0:34:47.66,Default,,0000,0000,0000,,dort mitgedacht wird. Das Thema Inklusion-\NIntegration hatten wir schon angesprochen.
Dialogue: 0,0:34:47.66,0:34:52.13,Default,,0000,0000,0000,,Auch da sehe ich bei KI, wenn man diese\Nganzen Problematiken bei der
Dialogue: 0,0:34:52.13,0:34:57.95,Default,,0000,0000,0000,,Spracherkennung und Übersetzung\Nausgehebelt sind, wenn die ausgehebelt
Dialogue: 0,0:34:57.95,0:35:01.94,Default,,0000,0000,0000,,sind, dass wir dort auch noch viele\NPotenziale haben, die es zu heben gilt, um
Dialogue: 0,0:35:01.94,0:35:06.86,Default,,0000,0000,0000,,Inklusion und Integration einfach\Neinfacher zu machen. Und was ich auch sehe
Dialogue: 0,0:35:06.86,0:35:14.09,Default,,0000,0000,0000,,ist im Kontext autonomes Fahren oder auch\NVerkehrsleitsysteme, das ganze Thema
Dialogue: 0,0:35:14.09,0:35:18.20,Default,,0000,0000,0000,,Schultransporte, sei es\Njahreszeitenbedingt oder vielleicht auch
Dialogue: 0,0:35:18.20,0:35:23.24,Default,,0000,0000,0000,,im ländlichen Raum und vor allem aber auch\Nmit Blick auf Förderschulen oder inklusive
Dialogue: 0,0:35:23.24,0:35:28.28,Default,,0000,0000,0000,,Schulen. KI-Systeme können sicherlich\Ndabei unterstützen, den Transport gut zu
Dialogue: 0,0:35:28.28,0:35:32.48,Default,,0000,0000,0000,,organisieren und effizient zu\Norganisieren. Und wir werden es ja
Dialogue: 0,0:35:32.48,0:35:36.98,Default,,0000,0000,0000,,mindestens im nächsten Jahr auch noch mit\Ndieser Pandemie zu tun haben. Und gerade
Dialogue: 0,0:35:36.98,0:35:41.45,Default,,0000,0000,0000,,inklusive Schulen oder Förderschulen haben\Nbei diesem ganzen Transport Thema
Dialogue: 0,0:35:41.45,0:35:49.01,Default,,0000,0000,0000,,tatsächlich ein großes Problem, weil dort\Ndie Zusammenkunft von Schüler:innen in so
Dialogue: 0,0:35:49.01,0:35:54.14,Default,,0000,0000,0000,,einem Schulbus oder in so einem Transport\NBus hin zur Schule für Menschen oder
Dialogue: 0,0:35:54.14,0:35:57.77,Default,,0000,0000,0000,,Schüler:innen mit Behinderung einfach noch\Nein viel, viel größeres Risiko darstellen,
Dialogue: 0,0:35:57.77,0:36:02.87,Default,,0000,0000,0000,,als es für gesunde Schüler:innen ist. Also\NMenschen mit Behinderung gehören zur
Dialogue: 0,0:36:02.87,0:36:10.50,Default,,0000,0000,0000,,Risikogruppe Nummer eins. Zu weiteren\NPotenzialen auf der Makroebene. Dort gibt
Dialogue: 0,0:36:10.50,0:36:13.86,Default,,0000,0000,0000,,es tatsächlich schon konkrete\NAnwendungsfälle, die uns für Deutschland
Dialogue: 0,0:36:13.86,0:36:18.99,Default,,0000,0000,0000,,auch ein Vorbild sein könnten. Also sowohl\Ndie Schweiz als auch Belgien haben zum
Dialogue: 0,0:36:18.99,0:36:22.47,Default,,0000,0000,0000,,Beispiel Systeme entwickelt, um die\NDurchmischung, die soziale Durchmischung
Dialogue: 0,0:36:22.47,0:36:28.05,Default,,0000,0000,0000,,an Schulen zu optimieren. Dass in etwas\Nwohlhabenderen Stadtvierteln nicht nur
Dialogue: 0,0:36:28.05,0:36:31.98,Default,,0000,0000,0000,,privilegierte Schüleri:nnen sind und die\Nweniger Privilegierten dann halt in
Dialogue: 0,0:36:31.98,0:36:36.18,Default,,0000,0000,0000,,Problemschulen landen, sondern dass dort\Neinfach nochmal neu berechnet wird, wie
Dialogue: 0,0:36:36.18,0:36:39.63,Default,,0000,0000,0000,,eine bessere Durchmischung stattfinden\Nkann. Das wurde in der Schweiz zum
Dialogue: 0,0:36:39.63,0:36:45.18,Default,,0000,0000,0000,,Beispiel so gemacht, dass die die\NStraßenzüge neu berechnet werden, wie
Dialogue: 0,0:36:45.18,0:36:49.65,Default,,0000,0000,0000,,Wohngebiete bestimmten Schulen zugeteilt\Nwerden. Das unter der Maßgabe, dass die
Dialogue: 0,0:36:49.65,0:36:53.34,Default,,0000,0000,0000,,Schulwege sicher sein müssen und dass sie\Nnicht länger sein sollen als bisher
Dialogue: 0,0:36:53.34,0:36:57.90,Default,,0000,0000,0000,,gehabt. Und das hat im ersten Versuch\Ntatsächlich so gut funktioniert, dass
Dialogue: 0,0:36:57.90,0:37:02.82,Default,,0000,0000,0000,,jetzt mehrere Kantone versuchen wollen,\Ndieses System zu übernehmen. In Belgien
Dialogue: 0,0:37:02.82,0:37:07.05,Default,,0000,0000,0000,,hat es ein ähnliches Projekt gegeben. Dort\Nwird jetzt im Moment das System aber
Dialogue: 0,0:37:07.05,0:37:12.87,Default,,0000,0000,0000,,nochmal überarbeitet, weil dort Eltern\Nsich beschwert haben, dass dass sie ihre
Dialogue: 0,0:37:12.87,0:37:17.70,Default,,0000,0000,0000,,Kinder nicht mehr auf Schulen schicken\Noder gehen lassen können, die zum Beispiel
Dialogue: 0,0:37:17.70,0:37:20.76,Default,,0000,0000,0000,,bestimmte Schwerpunkte haben. Dann gibt es\Ndann eine Schule, die hat eine
Dialogue: 0,0:37:20.76,0:37:25.32,Default,,0000,0000,0000,,Spezialisierung auf den musischen Bereich\Noder auf den sportlichen Bereich. Und dort
Dialogue: 0,0:37:25.32,0:37:28.68,Default,,0000,0000,0000,,wird das System jetzt so überarbeitet,\Ndass die Schulen dort auch Faktoren
Dialogue: 0,0:37:28.68,0:37:32.82,Default,,0000,0000,0000,,gewichten können, sodass es dort\Nzusätzlich zu der besseren sozialen
Dialogue: 0,0:37:32.82,0:37:36.66,Default,,0000,0000,0000,,Durchmischung auch die Möglichkeit gibt,\Nnoch bestimmte Schwerpunkte zu setzen.
Dialogue: 0,0:37:36.66,0:37:43.59,Default,,0000,0000,0000,,Auch wieder in UK gibt es ein System, dass\Nes Behörden erleichtern soll,
Dialogue: 0,0:37:43.59,0:37:48.18,Default,,0000,0000,0000,,Schulinspektionen vorzunehmen. Das heißt,\Ndort wird aufgrund von bestimmten
Dialogue: 0,0:37:48.18,0:37:52.62,Default,,0000,0000,0000,,Indikatoren rechtzeitig prognostiziert,\Nwelcher Schule vielleicht nochmal eine
Dialogue: 0,0:37:52.62,0:37:56.61,Default,,0000,0000,0000,,Inspektion oder ein Besuch durch die\NBehörde bedarf, um bestimmte Entwicklungen
Dialogue: 0,0:37:56.61,0:38:01.56,Default,,0000,0000,0000,,vielleicht rechtzeitig zu stoppen. Und\Nauch in England, das fand ich ganz gut,
Dialogue: 0,0:38:01.56,0:38:07.47,Default,,0000,0000,0000,,gibt es ein, gibt es die NGO Nesta, die\Neinige von euch vielleicht kennen. Und die
Dialogue: 0,0:38:07.47,0:38:12.45,Default,,0000,0000,0000,,haben ein eigenes Papier entwickelt, das\Ngenau auf das abzielt, was ich hier auch
Dialogue: 0,0:38:12.45,0:38:16.65,Default,,0000,0000,0000,,vorstellen möchte. Nämlich wenn wir KI im\NBildungssektor schon einsetzen wollen,
Dialogue: 0,0:38:16.65,0:38:20.49,Default,,0000,0000,0000,,dann sollten wir uns auf die strukturellen\NProbleme konzentrieren. Oder wenn wir
Dialogue: 0,0:38:20.49,0:38:23.58,Default,,0000,0000,0000,,schon auf der Mikroebene arbeiten, dann\Nsollten wir uns auf Systeme konzentrieren,
Dialogue: 0,0:38:23.58,0:38:28.32,Default,,0000,0000,0000,,die mit den Daten von Lehrkräften arbeiten\Nund Lehrkräfte bei ihrer Arbeit
Dialogue: 0,0:38:28.32,0:38:32.13,Default,,0000,0000,0000,,unterstützen. Zumindest jetzt in einem\Nersten Schritt, wenn die KI-Systeme noch
Dialogue: 0,0:38:32.13,0:38:37.47,Default,,0000,0000,0000,,nicht so gut und so weiterentwickelt sind,\Nwie wir sie vielleicht gerne hätten. Diese
Dialogue: 0,0:38:37.47,0:38:42.87,Default,,0000,0000,0000,,Systeme können tatsächlich schon Vorbild\Nsein, auch für Deutschland. Und wovon ich
Dialogue: 0,0:38:42.87,0:38:46.47,Default,,0000,0000,0000,,in Deutschland auch ein bisschen träume\Nund woran wir gerade politisch arbeiten,
Dialogue: 0,0:38:46.47,0:38:51.03,Default,,0000,0000,0000,,ist dieser leidige Königsteiner Schlüssel\Nzum Beispiel. Der Königsteiner Schlüssel
Dialogue: 0,0:38:51.03,0:38:55.56,Default,,0000,0000,0000,,verteilt im Moment Fördergelder nach\NBevölkerungsdichte und nach
Dialogue: 0,0:38:55.56,0:38:59.28,Default,,0000,0000,0000,,Steueraufkommen. Da funktioniert das ganz\Nklassisch jetzt im Moment nach dem
Dialogue: 0,0:38:59.28,0:39:02.49,Default,,0000,0000,0000,,Matthäus Prinzip. Wer hat, dem wird\Ngegeben. Reiche Länder bekommen den
Dialogue: 0,0:39:02.49,0:39:06.99,Default,,0000,0000,0000,,höheren Anteil an Fördergeldern und die\Netwas ärmeren Länder bekommen halt nicht
Dialogue: 0,0:39:06.99,0:39:11.55,Default,,0000,0000,0000,,so viel. Dabei sollte es doch eigentlich\Ngenau umgekehrt sein. Und wenn es
Dialogue: 0,0:39:11.55,0:39:19.95,Default,,0000,0000,0000,,tatsächlich möglich wäre, mit einem KI-\NSystem auf Basis von noch mehr oder
Dialogue: 0,0:39:19.95,0:39:24.63,Default,,0000,0000,0000,,anderen Daten zu ermitteln, welcher\NFörderzweck genau welche Förderhöhe
Dialogue: 0,0:39:24.63,0:39:29.58,Default,,0000,0000,0000,,brauch, dann wäre es doch vielleicht sogar\Nmöglich, dass wir je nach Förderzweck
Dialogue: 0,0:39:29.58,0:39:34.41,Default,,0000,0000,0000,,jedes Mal diesen Verteilungsschlüssel neu\Nerrechnen. Also wenn es dort Möglichkeiten
Dialogue: 0,0:39:34.41,0:39:38.16,Default,,0000,0000,0000,,gibt oder wenn es dort Ansätze gibt sowas\Nzu entwickeln, bitte ich um
Dialogue: 0,0:39:38.16,0:39:42.36,Default,,0000,0000,0000,,Kontaktaufnahme. Das würde mich sehr sehr\Ninteressieren. Selbstverständlich würde
Dialogue: 0,0:39:42.36,0:39:46.56,Default,,0000,0000,0000,,das voraussetzen, dass von den Schulen,\NSchulträgern und auch Schulbehörden
Dialogue: 0,0:39:46.56,0:39:51.81,Default,,0000,0000,0000,,nochmal ganz andere Daten auch erhoben und\Nerfasst werden. Es gibt aber auch bereits
Dialogue: 0,0:39:51.81,0:39:56.97,Default,,0000,0000,0000,,Bildungsdatenbank. Es gibt die\NForschungsdatenbank Bildung, wo jetzt im
Dialogue: 0,0:39:56.97,0:40:00.72,Default,,0000,0000,0000,,Moment schon Bildungsstudien eingestellt\Nsind, also die Infrastruktur letztendlich
Dialogue: 0,0:40:00.72,0:40:05.22,Default,,0000,0000,0000,,wäre für sowas vorhanden. Es müsste sich\Nvielleicht nur etwas in der Kultur ändern,
Dialogue: 0,0:40:05.22,0:40:12.09,Default,,0000,0000,0000,,damit Schulen auch bereit sind oder damit\Nüberhaupt auch Länder und Behörden dort
Dialogue: 0,0:40:12.09,0:40:17.73,Default,,0000,0000,0000,,anfangen bestimmte Daten zu erheben, um\Ndann halt auch die strukturellen Systeme
Dialogue: 0,0:40:17.73,0:40:25.38,Default,,0000,0000,0000,,auflösen zu können. So, welche\NAnforderungen brauchen wir letztendlich,
Dialogue: 0,0:40:25.38,0:40:30.60,Default,,0000,0000,0000,,um auf dieser Makroebene an die\Nstrukturellen Probleme heranzugehen? Dort
Dialogue: 0,0:40:30.60,0:40:33.69,Default,,0000,0000,0000,,würde ich gerne unterscheiden, ein\Nbisschen was können Menschen auf der
Dialogue: 0,0:40:33.69,0:40:37.95,Default,,0000,0000,0000,,persönlichen Ebene tun? Was muss auf der\NOrganisationsebene passieren und vor
Dialogue: 0,0:40:37.95,0:40:41.49,Default,,0000,0000,0000,,allem was braucht es noch auf der\Nrechtlichen Ebene? Im Moment wird ja ganz,
Dialogue: 0,0:40:41.49,0:40:45.36,Default,,0000,0000,0000,,ganz viel immer davon geredet. Lehrkräfte\Nmüssen sich fortbilden, damit sie mit
Dialogue: 0,0:40:45.36,0:40:50.70,Default,,0000,0000,0000,,diesem System arbeiten können. Ja, das ist\Naber auch nur ein Teil, der getan werden
Dialogue: 0,0:40:50.70,0:40:55.02,Default,,0000,0000,0000,,muss. Und Teil dieser Fortbildung ist\Nnatürlich nicht nur, dass es darum geht,
Dialogue: 0,0:40:55.02,0:40:59.04,Default,,0000,0000,0000,,wie diese Systeme angewendet werden,\Nsondern es braucht ein tiefes Verständnis
Dialogue: 0,0:40:59.04,0:41:04.41,Default,,0000,0000,0000,,einfach von KI als soziotechnisches\NSystem. Und es braucht das schöne
Dialogue: 0,0:41:04.41,0:41:10.68,Default,,0000,0000,0000,,Stichwort Data Literacy. Das heißt, ein\NVerständnis dafür zu entwickeln, was Daten
Dialogue: 0,0:41:10.68,0:41:16.56,Default,,0000,0000,0000,,überhaupt aussagen und aber vor allem\Nanderen eigentlich braucht es auf der ganz
Dialogue: 0,0:41:16.56,0:41:20.64,Default,,0000,0000,0000,,individuellen Ebene immer noch ganz viel\NFortbildung, was überhaupt das Thema
Dialogue: 0,0:41:20.64,0:41:26.22,Default,,0000,0000,0000,,Digitalisierung betrifft und auch der\Ndamit verbundene Kulturwandel. Überhaupt,
Dialogue: 0,0:41:26.22,0:41:32.67,Default,,0000,0000,0000,,sich zu öffnen, um Informationen oder auch\NInhalte zu teilen, um eine gewisse
Dialogue: 0,0:41:32.67,0:41:37.17,Default,,0000,0000,0000,,Fehlerkultur zu entwickeln. All das ist ja\Ngerade noch im Umbruch. Und wenn wir jetzt
Dialogue: 0,0:41:37.17,0:41:40.68,Default,,0000,0000,0000,,davon reden, dass wir KI-Systeme an den\NSchulen wollen oder dass es gefördert
Dialogue: 0,0:41:40.68,0:41:44.82,Default,,0000,0000,0000,,werden soll, dann habe ich manchmal das\NGefühl, wir wollen einem Kind, das gerade
Dialogue: 0,0:41:44.82,0:41:48.75,Default,,0000,0000,0000,,das Fahrradfahren gelernt hat, wollen wir\Njetzt in einen Rennwagen setzen, weil es
Dialogue: 0,0:41:48.75,0:41:52.56,Default,,0000,0000,0000,,damit ja noch sicherer zur Schule kommt.\NDas passiert alles in einem sehr, sehr
Dialogue: 0,0:41:52.56,0:41:57.90,Default,,0000,0000,0000,,großen Tempo, das nicht damit erledigt\Nwerden sollte, dass wir uns einfach nur
Dialogue: 0,0:41:57.90,0:42:01.25,Default,,0000,0000,0000,,darauf zurücklehnen und sagen, Lehrkräfte\Nmüssen sich weiterbilden und dann können
Dialogue: 0,0:42:01.25,0:42:04.86,Default,,0000,0000,0000,,sie auch KI-Systeme in der Schule\Neinsetzen. Die Eltern habe ich jetzt
Dialogue: 0,0:42:04.86,0:42:07.95,Default,,0000,0000,0000,,nochmal in Klammern gesetzt. Davon\Nausgehend, dass wir es vielleicht wirklich
Dialogue: 0,0:42:07.95,0:42:11.37,Default,,0000,0000,0000,,schaffen, unsere Forschungs- und\NEntwicklungsschwerpunkte mehr auf die
Dialogue: 0,0:42:11.37,0:42:15.54,Default,,0000,0000,0000,,Makro und auf die Meso Ebene zu legen und\Nweniger auf die Schüler basierten Systeme.
Dialogue: 0,0:42:15.54,0:42:20.46,Default,,0000,0000,0000,,auf der Organisationsebene, also dort wo\Nentschieden wird. Letztendlich kommt ein
Dialogue: 0,0:42:20.46,0:42:25.29,Default,,0000,0000,0000,,KI System zum Einsatz - Ja oder nein. Das\Nist die Schulleitung oder das Schulträger
Dialogue: 0,0:42:25.29,0:42:30.15,Default,,0000,0000,0000,,oder vielleicht auch Bundesländer. Muss\Nnatürlich als allererstes mal hinterfragt
Dialogue: 0,0:42:30.15,0:42:33.66,Default,,0000,0000,0000,,werden. Wozu brauche ich das System? Ich\Nhabe es eben schon angesprochen. Wenn wir
Dialogue: 0,0:42:33.66,0:42:37.15,Default,,0000,0000,0000,,ein soziales Problem an der Schule\Nfeststellen, ist ein technisches System
Dialogue: 0,0:42:37.15,0:42:41.50,Default,,0000,0000,0000,,tatsächlich dafür die Lösung? Oder sollten\Nwir vielleicht eher auf der sozialen Ebene
Dialogue: 0,0:42:41.50,0:42:45.64,Default,,0000,0000,0000,,nochmal schauen, was wir vielleicht an\Nunseren Lernzielen oder an unseren
Dialogue: 0,0:42:45.64,0:42:49.21,Default,,0000,0000,0000,,Methoden oder an unserer\NOrganisationskultur verändern müssen?
Dialogue: 0,0:42:49.21,0:42:53.68,Default,,0000,0000,0000,,Selbst wenn wir uns entscheiden für ein\Ntechnisches System, dann muss natürlich
Dialogue: 0,0:42:53.68,0:42:57.91,Default,,0000,0000,0000,,entsprechend die Infrastruktur gegeben\Nsein. Das heißt, die Frage ist: Wo werden
Dialogue: 0,0:42:57.91,0:43:01.99,Default,,0000,0000,0000,,Daten, mit denen gearbeitet wird? Wo\Nwerden sie gespeichert? Sind sie dort
Dialogue: 0,0:43:01.99,0:43:05.92,Default,,0000,0000,0000,,überhaupt sicher genug? Haben wir\Nüberhaupt WLAN an den Schule, damit dort
Dialogue: 0,0:43:05.92,0:43:10.24,Default,,0000,0000,0000,,vor Ort gearbeitet werden kann? All diese\NFragen. Natürlich braucht es auch auf der
Dialogue: 0,0:43:10.24,0:43:14.44,Default,,0000,0000,0000,,Entscheidungsebene Kompetenzen. Es braucht\Nden Kulturwandel und überhaupt erst einmal
Dialogue: 0,0:43:14.44,0:43:19.75,Default,,0000,0000,0000,,die Grundlagen der Digitalisierung, bevor\Nwir mit KI die nächsten Stufe gehen. Wir
Dialogue: 0,0:43:19.75,0:43:23.95,Default,,0000,0000,0000,,brauchen die Regelung zur menschlichen\NEntscheidungsfähigkeit tatsächlich auch in
Dialogue: 0,0:43:23.95,0:43:29.98,Default,,0000,0000,0000,,den Arbeitsverträgen und wie auch in\Nanderen Verwaltungsbereichen auch sollte
Dialogue: 0,0:43:29.98,0:43:33.82,Default,,0000,0000,0000,,es auch im Bildungsbereich einfach ganz\Nklare Beschaffungsrichtlinien geben. Wenn
Dialogue: 0,0:43:33.82,0:43:38.92,Default,,0000,0000,0000,,Systeme angeschafft werden, dann braucht\Nes ganz klare Anforderungskataloge, wie
Dialogue: 0,0:43:38.92,0:43:44.86,Default,,0000,0000,0000,,diese Systeme gestaltet werden sollen. Und\Nnatürlich muss sich dann auch der Bund
Dialogue: 0,0:43:44.86,0:43:50.41,Default,,0000,0000,0000,,entscheiden, Förderungen in die richtige\NRichtung zu schicken und diese Systeme zu
Dialogue: 0,0:43:50.41,0:43:54.91,Default,,0000,0000,0000,,fördern und zu unterstützen, die sich auf\Ndie Meso- und Makroebene fokussieren und
Dialogue: 0,0:43:54.91,0:44:02.05,Default,,0000,0000,0000,,nicht die Attack Startups, die versuchen,\Ndas Lernerlebnis für Schüler zu
Dialogue: 0,0:44:02.05,0:44:06.25,Default,,0000,0000,0000,,verbessern, obwohl es dafür keine Evidenz\Ngibt, werde ich auch nicht müde, das immer
Dialogue: 0,0:44:06.25,0:44:11.20,Default,,0000,0000,0000,,wieder zu wiederholen. Und dann haben wir\Nnatürlich auf der rechtlichen Ebene noch
Dialogue: 0,0:44:11.20,0:44:14.80,Default,,0000,0000,0000,,viele offene Fragen, die KI-Systeme im\NAllgemeinen betreffen und gar nicht
Dialogue: 0,0:44:14.80,0:44:19.36,Default,,0000,0000,0000,,unbedingt nur auf den Bildungssektor\NAnwendung finden. Und das ist einmal die
Dialogue: 0,0:44:19.36,0:44:24.07,Default,,0000,0000,0000,,Problematik der Nachvollziehbarkeit. Also\Nsolange KI-Systeme an sich selber nicht
Dialogue: 0,0:44:24.07,0:44:27.70,Default,,0000,0000,0000,,nachvollziehbar sind, müssen zumindest\NSchnittstellen geschaffen werden, dass
Dialogue: 0,0:44:27.70,0:44:32.98,Default,,0000,0000,0000,,Evualator:innen oder Forscher:innen\Nzumindest reingucken können, was das
Dialogue: 0,0:44:32.98,0:44:38.02,Default,,0000,0000,0000,,System überhaupt macht. Wir brauchen eine\NNachweisbarkeit, dass diese Systeme
Dialogue: 0,0:44:38.02,0:44:42.79,Default,,0000,0000,0000,,funktionieren, erst recht, wenn wir mit\NSchüler:innen an Daten arbeiten wollen. Und
Dialogue: 0,0:44:42.79,0:44:48.34,Default,,0000,0000,0000,,wir brauchen eine Kritikalität ex ante.\NWir reden hier vom Bildungssektor. Dort
Dialogue: 0,0:44:48.34,0:44:52.30,Default,,0000,0000,0000,,werden Lebenswege vorbestimmt. Das ist\Nnicht der Raum, um Experimente zu machen
Dialogue: 0,0:44:52.30,0:44:56.59,Default,,0000,0000,0000,,und mal Systeme loszulassen, laufen zu\Nlassen und dann mal zu gucken, welche
Dialogue: 0,0:44:56.59,0:45:01.00,Default,,0000,0000,0000,,Probleme sie eventuell entwickeln. Wir\Nhaben aus dem Ausland jetzt schon genügend
Dialogue: 0,0:45:01.00,0:45:04.87,Default,,0000,0000,0000,,Beispiele, was nicht gut funktioniert. Ich\Nwäre kein Fan davon, wenn wir das Ganze
Dialogue: 0,0:45:04.87,0:45:09.79,Default,,0000,0000,0000,,hier in Deutschland nochmal wiederholen\Nwollen. Eigentlich nicht nötig, das zu
Dialogue: 0,0:45:09.79,0:45:12.19,Default,,0000,0000,0000,,sagen, aber es braucht letztendlich auch\Neine rechtlich bindende
Dialogue: 0,0:45:12.19,0:45:17.47,Default,,0000,0000,0000,,Anbieterstabilität. Es gab tatsächlich,\Nich glaube auch in den USA, das System
Dialogue: 0,0:45:17.47,0:45:21.76,Default,,0000,0000,0000,,inBlue. Das wurde überall ausgerollt und\Neingesetzt. Und dann irgendwann hat der
Dialogue: 0,0:45:21.76,0:45:25.39,Default,,0000,0000,0000,,Anbieter entschieden, seine Dienste\Neinzustellen. Was aus den Daten geworden
Dialogue: 0,0:45:25.39,0:45:31.27,Default,,0000,0000,0000,,ist bis dahin weiß letztendlich kein\NMensch. Das ganze Thema Offenheit sollte
Dialogue: 0,0:45:31.27,0:45:35.23,Default,,0000,0000,0000,,gerade bei KI Entwicklung im\NBildungssektor viel, viel stärker auch
Dialogue: 0,0:45:35.23,0:45:41.88,Default,,0000,0000,0000,,eingefordert und verankert werden. Das\Nheißt, auch KI-Systeme sollten wie Open-
Dialogue: 0,0:45:41.88,0:45:47.71,Default,,0000,0000,0000,,Source-Software behandelt werden, als\NOpenAI z.B. stärker mitgefördert werden. Wir
Dialogue: 0,0:45:47.71,0:45:54.40,Default,,0000,0000,0000,,müssen viel stärker entwickeln im Bereich\NOER Open Data, um dann diese ganzen Daten,
Dialogue: 0,0:45:54.40,0:45:59.74,Default,,0000,0000,0000,,die wir im Lern-Kontext dann auch sammeln,\Nwiederum als Open Educational Data, also
Dialogue: 0,0:45:59.74,0:46:05.38,Default,,0000,0000,0000,,als OED auch wieder zur Verfügung zu\Nstellen. Ohne offene Datenbasis kommen wir
Dialogue: 0,0:46:05.38,0:46:10.81,Default,,0000,0000,0000,,da nicht hin. Sehr charmant finde ich auch\Ndie Idee der öffentlichen Register. Dort
Dialogue: 0,0:46:10.81,0:46:14.77,Default,,0000,0000,0000,,sollten sich auch KI-Systeme im\NBildungsbereich eintragen lassen. Und was
Dialogue: 0,0:46:14.77,0:46:19.48,Default,,0000,0000,0000,,auf jeden Fall passieren muss, ist die\NÜberarbeitung des Artikels 22 der DSGVO.
Dialogue: 0,0:46:19.48,0:46:24.04,Default,,0000,0000,0000,,Dort werden im Moment ja nur\NEntscheidungen geregelt,
Dialogue: 0,0:46:25.06,0:46:29.95,Default,,0000,0000,0000,,vollautomatisierte Entscheidungen sind\Ndort geregelt. Was nicht geregelt ist,
Dialogue: 0,0:46:29.95,0:46:34.63,Default,,0000,0000,0000,,sind teilautomatisierte Systeme und\Nteilautomatisierte Systeme sind ja die, die
Dialogue: 0,0:46:34.63,0:46:38.17,Default,,0000,0000,0000,,jetzt eigentlich weitestgehend im Einsatz\Nsind. Und wenn wir auch da wieder im
Dialogue: 0,0:46:38.17,0:46:41.47,Default,,0000,0000,0000,,Hinterkopf haben, dass ja als Argument\Nimmer noch gilt: Der Mensch trifft die
Dialogue: 0,0:46:41.47,0:46:45.16,Default,,0000,0000,0000,,letzte Entscheidung, werden wir es auch\Nzukünftig verstärkt mit teil-
Dialogue: 0,0:46:45.16,0:46:49.84,Default,,0000,0000,0000,,automatisierten System zu tun haben. Und\Ndort müssen Einspruchsrechte und
Dialogue: 0,0:46:49.84,0:46:55.37,Default,,0000,0000,0000,,Widerspruchsrechte einfach noch klarer\Ngeregelt werden. Ach nee, bevor ich zu
Dialogue: 0,0:46:55.37,0:47:00.38,Default,,0000,0000,0000,,meinem Fazit komme, möchte ich nochmal auf\Ndie lange Kette der Verantwortlichkeit
Dialogue: 0,0:47:00.38,0:47:05.54,Default,,0000,0000,0000,,auch nochmal eingehen. Wenn Systeme\Ntatsächlich ausgewählt werden, müssen
Dialogue: 0,0:47:05.54,0:47:11.36,Default,,0000,0000,0000,,Entscheider in der Lage sein, auch diese\NSysteme zu beurteilen. Und in ganz, ganz
Dialogue: 0,0:47:11.36,0:47:16.10,Default,,0000,0000,0000,,grober Anlehnung an diese lange Kette der\NVerantwortlichkeit von Katharina Zweig und
Dialogue: 0,0:47:16.10,0:47:21.47,Default,,0000,0000,0000,,Tobias Kraft sollte es mit in einen\NAnforderungskatalog und sollte es mit in
Dialogue: 0,0:47:21.47,0:47:26.09,Default,,0000,0000,0000,,den Kompetenzkatalog von all denjenigen,\Ndie dazu entscheiden, dass sie in der Lage
Dialogue: 0,0:47:26.09,0:47:30.62,Default,,0000,0000,0000,,sind, zu hinterfragen und zu prüfen.\NAufgrund von welcher Datenbasis wurde ein
Dialogue: 0,0:47:30.62,0:47:35.00,Default,,0000,0000,0000,,System trainiert, also welche Qualität,\Nwelche Quantität? Wie alt sind die Daten?
Dialogue: 0,0:47:35.00,0:47:39.53,Default,,0000,0000,0000,,Passen sie überhaupt zum Trainingszweck?\NDann letztendlich auch nach welchen
Dialogue: 0,0:47:39.53,0:47:45.50,Default,,0000,0000,0000,,Maßgaben wurde das System trainiert? Ganz\Nganz wichtig ist ja auch ein KI-System,
Dialogue: 0,0:47:45.50,0:47:48.95,Default,,0000,0000,0000,,das einmal für einen bestimmten Zweck\Ntrainiert wurde, ist nicht unbedingt
Dialogue: 0,0:47:48.95,0:47:52.43,Default,,0000,0000,0000,,günstig in einem ganz anderen\NAnwendungskontext. Gerade im
Dialogue: 0,0:47:52.43,0:47:55.85,Default,,0000,0000,0000,,Bildungsbereich, wenn damit geworben wird,\Ndass bei Übersetzungssystemen oder
Dialogue: 0,0:47:55.85,0:48:00.08,Default,,0000,0000,0000,,Spracherkennungssystemen das es ja ganz\Nganz tolle Software as a Service Systeme
Dialogue: 0,0:48:00.08,0:48:04.25,Default,,0000,0000,0000,,schon gibt, die quasi von der Stange\Ngekauft werden können, muss immer noch
Dialogue: 0,0:48:04.25,0:48:08.00,Default,,0000,0000,0000,,hinterfragt werden: Passt das tatsächlich\Nzu meinem Anwendungskontext? Und
Dialogue: 0,0:48:08.00,0:48:12.35,Default,,0000,0000,0000,,letztendlich passt auch dieses System zu\Nmeinem Ethik-System, das ich bei mir an
Dialogue: 0,0:48:12.35,0:48:17.93,Default,,0000,0000,0000,,der Schule habe. Datenverwendung ist ganz,\Nganz wichtig. Was passiert mit den Daten,
Dialogue: 0,0:48:17.93,0:48:22.49,Default,,0000,0000,0000,,die erhoben werden an einer Schule, auch\Nwenn es nur Daten von Lehrkräften sind?
Dialogue: 0,0:48:22.49,0:48:26.39,Default,,0000,0000,0000,,Gerade in dem Moment, wo es\Npersonenbezogene Daten sind, muss einfach
Dialogue: 0,0:48:26.39,0:48:31.31,Default,,0000,0000,0000,,sichergestellt werden, dass nicht nur\Nrechtlich, sondern auch tatsächlich aktiv
Dialogue: 0,0:48:31.31,0:48:34.67,Default,,0000,0000,0000,,in der Anwendung ist, es überhaupt kein\NWeg gibt, dass diese Daten an Stellen
Dialogue: 0,0:48:34.67,0:48:38.90,Default,,0000,0000,0000,,weitergegeben werden, wo sie nicht\Nhingehören. Es gibt aus den USA, auch mal
Dialogue: 0,0:48:38.90,0:48:46.28,Default,,0000,0000,0000,,wieder dort dieses Beispiel, dass Akteure\Nder Wissenschaftsverlagsbranche Daten von
Dialogue: 0,0:48:46.28,0:48:50.54,Default,,0000,0000,0000,,Wissenschaftlern weitergegeben haben an\Ndie Einwanderungsbehörde ICE, was auch
Dialogue: 0,0:48:50.54,0:48:53.60,Default,,0000,0000,0000,,immer sie dort verloren haben. Aber das\Nsind alles Entwicklungen, die müssen
Dialogue: 0,0:48:53.60,0:48:58.40,Default,,0000,0000,0000,,ausgeschlossen sein. Ganz großer Komplex\NIT-Sicherheit. Das muss sichergestellt
Dialogue: 0,0:48:58.40,0:49:03.74,Default,,0000,0000,0000,,sein. Das ist im Prinzip ein eigener\NVortrag. Dort möchte ich hier aber
Dialogue: 0,0:49:03.74,0:49:07.84,Default,,0000,0000,0000,,verweisen auf die Arbeiten der Stiftung\NNeue Verantwortung, die schon ganz, ganz
Dialogue: 0,0:49:07.84,0:49:11.53,Default,,0000,0000,0000,,viel dazu untersucht und entwickelt und\Nauch Schaubilder gemacht haben, welche
Dialogue: 0,0:49:11.53,0:49:16.45,Default,,0000,0000,0000,,Angriffs-Vektoren es für KI-Systeme\Nüberhaupt gibt. Und letztendlich müssen
Dialogue: 0,0:49:16.45,0:49:20.83,Default,,0000,0000,0000,,Entscheider:innen auch sicherstellen, dass es\NRessourcen gibt, um dieses Thema, wenn sie
Dialogue: 0,0:49:20.83,0:49:23.92,Default,,0000,0000,0000,,dann einmal im Einsatz sind, auch\Ntatsächlich dauerhaft evaluiert sind,
Dialogue: 0,0:49:23.92,0:49:27.55,Default,,0000,0000,0000,,damit sich diese ganzen Schwächen, die wir\Nja kennen, nicht erst in der Praxis, dann
Dialogue: 0,0:49:27.55,0:49:33.52,Default,,0000,0000,0000,,auch noch einschleichen. Das heißt, wenn\Neinem bewusst wird, was es alles für
Dialogue: 0,0:49:33.52,0:49:37.78,Default,,0000,0000,0000,,Anforderungen braucht, um KI-Systeme im\NBildungssektor egal zu welchem Zweck
Dialogue: 0,0:49:37.78,0:49:42.94,Default,,0000,0000,0000,,einzusetzen, dann wird glaube ich klar,\Ndass das etwas ist, was noch ein sehr
Dialogue: 0,0:49:42.94,0:49:47.35,Default,,0000,0000,0000,,langer Weg ist, was nicht überhastet\Nangegangen werden soll und was noch sehr,
Dialogue: 0,0:49:47.35,0:49:51.58,Default,,0000,0000,0000,,sehr viel Qualifizierung und\NWeiterentwicklung braucht. Und das
Dialogue: 0,0:49:51.58,0:49:55.96,Default,,0000,0000,0000,,letztendlich bringt mich jetzt zu meinem\NFazit. Bisher ist es so, dass bei KI im
Dialogue: 0,0:49:55.96,0:49:59.68,Default,,0000,0000,0000,,Bildungssektor vornehmlich darüber\Ngesprochen wird, dass Learning Analytics
Dialogue: 0,0:49:59.68,0:50:03.25,Default,,0000,0000,0000,,Systeme eingesetzt werden, um halt das\NLernverhalten von Schülerinnen und
Dialogue: 0,0:50:03.25,0:50:07.84,Default,,0000,0000,0000,,Schülern zu analysieren und dabei mit\Npersonenbezogenen Daten gearbeitet wird.
Dialogue: 0,0:50:07.84,0:50:12.58,Default,,0000,0000,0000,,Letztendlich gibt es zum jetzigen\NZeitpunkt noch keine Evidenz dafür, dass
Dialogue: 0,0:50:12.58,0:50:15.91,Default,,0000,0000,0000,,diese Systeme funktionieren und dass diese\Nganzen Datensammlungen auch tatsächlich
Dialogue: 0,0:50:15.91,0:50:19.60,Default,,0000,0000,0000,,sinnvoll sind. Es ist ganz, ganz viel\NMarketing und vor allem auch
Dialogue: 0,0:50:19.60,0:50:22.99,Default,,0000,0000,0000,,Wirtschaftsförderung dahinter. Wenn diese\NStartups jetzt in die Richtung gefördert
Dialogue: 0,0:50:22.99,0:50:28.06,Default,,0000,0000,0000,,werden und das Risiko, das damit entsteht,\Nwenn diese Systeme weiterhin in die
Dialogue: 0,0:50:28.06,0:50:31.45,Default,,0000,0000,0000,,Schulen gedrückt werden, ist dass die\Nwahren strukturellen Probleme einfach
Dialogue: 0,0:50:31.45,0:50:35.02,Default,,0000,0000,0000,,dadurch verschleiert werden und dass diese\NMangelwirtschaft einfach fortgesetzt
Dialogue: 0,0:50:35.02,0:50:39.04,Default,,0000,0000,0000,,werden und diese ganzen Potenziale, die KI\Ntatsächlich mit sich bringt, diese
Dialogue: 0,0:50:39.04,0:50:45.19,Default,,0000,0000,0000,,Probleme tatsächlich mit zu lösen, dass\Ndie einfach gar nicht gehoben werden. Das
Dialogue: 0,0:50:45.19,0:50:51.25,Default,,0000,0000,0000,,Risiko dabei ist, dass es vornehmlich\Nimmer um personenbezogene Daten von
Dialogue: 0,0:50:51.25,0:50:55.54,Default,,0000,0000,0000,,minderjährigen Schüler:innen geht und dass\Ndie ganzen Chancen, die wir im OpenData
Dialogue: 0,0:50:55.54,0:51:00.67,Default,,0000,0000,0000,,Bereich haben, dafür einfach weiterhin\Nnicht genutzt werden. Und wir haben jetzt
Dialogue: 0,0:51:00.67,0:51:04.90,Default,,0000,0000,0000,,den Zeitpunkt, wo die Weichen gestellt\Nwerden. Ist das genau der Pfad, auf dem
Dialogue: 0,0:51:04.90,0:51:08.62,Default,,0000,0000,0000,,wir jetzt auch weitergehen wollen? Oder\Nwollen wir jetzt anfangen, in diese
Dialogue: 0,0:51:08.62,0:51:13.60,Default,,0000,0000,0000,,Entwicklung einzugreifen und den Fokus\Nmehr auf die Meso- und Makroebene legen?
Dialogue: 0,0:51:13.60,0:51:19.51,Default,,0000,0000,0000,,Die EU-Kommission hat jetzt kürzlich ihren\Nüberarbeiteten Digital Education Plan
Dialogue: 0,0:51:19.51,0:51:24.07,Default,,0000,0000,0000,,vorgestellt. Dort ist zu diesem ganzen\NThema KI vorgesehen, dass Lehrkräfte
Dialogue: 0,0:51:24.07,0:51:29.14,Default,,0000,0000,0000,,weitergebildet werden müssen. Dass es\NEthik-Leitlinien geben müssen und
Dialogue: 0,0:51:29.14,0:51:32.14,Default,,0000,0000,0000,,letztendlich auch, dass Forschung nochmal\Nintensiviert werden muss. Und das ist
Dialogue: 0,0:51:32.14,0:51:37.06,Default,,0000,0000,0000,,jetzt genau der Punkt, um dort reinzugehen\Nund die Fragen zu stellen und darauf hin
Dialogue: 0,0:51:37.06,0:51:42.58,Default,,0000,0000,0000,,zu drängen, dass in die richtige Richtung\Ngeforscht wird. Das hat mich letztendlich
Dialogue: 0,0:51:42.58,0:51:48.25,Default,,0000,0000,0000,,in dieser ganzen Vorbereitung zu meiner\NEmpfehlung gebracht. In Anlehnung an diese
Dialogue: 0,0:51:48.25,0:51:52.36,Default,,0000,0000,0000,,Pyramide von der Datenethikkommissionen,\Ndie ich eigentlich, wenn das Prinzip der
Dialogue: 0,0:51:52.36,0:51:56.80,Default,,0000,0000,0000,,Risiko-Klassifizierung diskutabel ist,\Nfinde ich eigentlich dieses
Dialogue: 0,0:51:56.80,0:52:03.10,Default,,0000,0000,0000,,Pyramidensystem sehr gelungen. Und\Nübertragen auf KI-Systeme im
Dialogue: 0,0:52:03.10,0:52:07.90,Default,,0000,0000,0000,,Bildungsbereich sehe ich einen ganz, ganz\Ngroßen, grünen, unkritischen Bereich, wenn
Dialogue: 0,0:52:07.90,0:52:11.23,Default,,0000,0000,0000,,es darum geht, die Forschung und\NEntwicklung auf der Makroebene weiter zu
Dialogue: 0,0:52:11.23,0:52:16.21,Default,,0000,0000,0000,,unterstützen und weiter zu fördern. Alles\Nunter der Nutzung von Open Data, die
Dialogue: 0,0:52:16.21,0:52:20.68,Default,,0000,0000,0000,,entweder schon vorhanden sind oder\Nvielleicht auch noch weiter erhoben und
Dialogue: 0,0:52:20.68,0:52:24.58,Default,,0000,0000,0000,,genutzt werden können. Das fließt\Ngrößtenteils auch noch mit rein in die
Dialogue: 0,0:52:24.58,0:52:29.77,Default,,0000,0000,0000,,Meso Ebene, die auch auf der Basis von\NOpen Data schon sehr sehr viel Gutes
Dialogue: 0,0:52:29.77,0:52:34.69,Default,,0000,0000,0000,,erreichen kann. Und ganz ganz oben in der\NSpitze, wo ich den roten Bereich sehe, ist
Dialogue: 0,0:52:34.69,0:52:39.88,Default,,0000,0000,0000,,tatsächlich die Mikroebene, wenn es um die\NAnalyse-Systeme geht für Schüler:innen und
Dialogue: 0,0:52:39.88,0:52:44.47,Default,,0000,0000,0000,,für Lehrkräfte, wo mit personenbezogenen\NDaten gearbeitet wird. Wenn es dort
Dialogue: 0,0:52:44.47,0:52:48.82,Default,,0000,0000,0000,,weitere Entwicklungen geben sollte, dann\Nwürde ich es bevorzugen, wenn es dort ein
Dialogue: 0,0:52:48.82,0:52:52.18,Default,,0000,0000,0000,,Forschungsbereich gibt oder den\NAnwendungsbereich vielleicht höchstens für
Dialogue: 0,0:52:52.18,0:52:57.94,Default,,0000,0000,0000,,Lehrkräfte. Aber dass wir die ganze\NAnalyse von Schüler:innen vielleicht
Dialogue: 0,0:52:57.94,0:53:01.45,Default,,0000,0000,0000,,erst mal noch außen vorlassen, bis wir\Nvielleicht viel mehr über KI-Systeme
Dialogue: 0,0:53:01.45,0:53:05.74,Default,,0000,0000,0000,,wissen und alles immer unter der\NVoraussetzung, dass die Daten, die erhoben
Dialogue: 0,0:53:05.74,0:53:09.58,Default,,0000,0000,0000,,werden, dann auch weiter zur Verfügung\Ngestellt werden für die Generierung von
Dialogue: 0,0:53:09.58,0:53:16.84,Default,,0000,0000,0000,,Open Educational Data. Das war's. Vielen\NDank für eure Aufmerksamkeit. Alle
Dialogue: 0,0:53:16.84,0:53:20.59,Default,,0000,0000,0000,,Anregungen, um die ich gebeten habe, alle\NLücken, die ich vielleicht noch gelassen
Dialogue: 0,0:53:20.59,0:53:24.44,Default,,0000,0000,0000,,habe, oder alle Interessenten, die Lust\Nhaben, an diesem Thema auch noch mit
Dialogue: 0,0:53:24.44,0:53:28.67,Default,,0000,0000,0000,,weiterzuarbeiten, freue ich mich total\Nüber Kontaktaufnahme und Feedback und
Dialogue: 0,0:53:28.67,0:53:33.47,Default,,0000,0000,0000,,weitere Informationen. Ich habe hier auch\Nnoch einen großen Anhang mit Quellen, die
Dialogue: 0,0:53:33.47,0:53:38.48,Default,,0000,0000,0000,,ich verarbeitet habe. Wenn es dazu auch\Nnoch Rückfragen gibt, kommt jederzeit
Dialogue: 0,0:53:38.48,0:53:42.77,Default,,0000,0000,0000,,- nicht jederzeit, nich nachts um drei. Also per E-Mail\Nschon, aber vielleicht nicht per Telefon.
Dialogue: 0,0:53:42.77,0:53:46.55,Default,,0000,0000,0000,,Aber die habt ihr ja auch gar nicht die\NNummer - egal, kommt einfach auf mich zu.
Dialogue: 0,0:53:46.55,0:53:50.45,Default,,0000,0000,0000,,Und dann würde es mich freuen, wenn wir im\NGespräch bleiben. Vielen Dank.
Dialogue: 0,0:53:50.45,0:53:56.27,Default,,0000,0000,0000,,Herald: Hallo Nina, schön, dass du da
Dialogue: 0,0:53:56.27,0:54:02.27,Default,,0000,0000,0000,,warst. Danke für den spannenden Vortrag\Ngrade. Wir hatten so ein bisschen
Dialogue: 0,0:54:02.27,0:54:05.66,Default,,0000,0000,0000,,technische Probleme im Hintergrund. Ich\Nhoffe deswegen, dass alle im Live-Stream
Dialogue: 0,0:54:05.66,0:54:14.45,Default,,0000,0000,0000,,den Talk auch gut sehen konnten. Nina, du\Nhast viel erzählt über KI und die Grenzen
Dialogue: 0,0:54:14.45,0:54:19.88,Default,,0000,0000,0000,,und Vorteile. Was sind denn so aus deiner\NSicht vielleicht die klugen nächsten
Dialogue: 0,0:54:19.88,0:54:23.54,Default,,0000,0000,0000,,Schritte, die man so gehen müsste? Was\Nkünstliche Intelligenz und Klassenzimmer
Dialogue: 0,0:54:23.54,0:54:29.33,Default,,0000,0000,0000,,betrifft?\NNina: Hallo Nina, ja genau. Was sind die,
Dialogue: 0,0:54:29.33,0:54:33.47,Default,,0000,0000,0000,,was sind die nächsten Schritte? Also ich\Nglaube wir sind im Moment an so einer
Dialogue: 0,0:54:33.47,0:54:37.76,Default,,0000,0000,0000,,Entwicklungsphase, wo KI in der Schule und\Nim Bildungsbereich einfach noch nicht so
Dialogue: 0,0:54:37.76,0:54:40.79,Default,,0000,0000,0000,,wahnsinnig weit verbreitet ist. Und ich\Nhab das ja auch gemerkt bei meiner
Dialogue: 0,0:54:40.79,0:54:45.38,Default,,0000,0000,0000,,Recherche und auch z.B. hier, was diese\NMeso-Ebene angeht. Es gibt noch nicht so
Dialogue: 0,0:54:45.38,0:54:50.45,Default,,0000,0000,0000,,extrem viele Anwendungen, wo man konkret\Njetzt schon reingehen und eingreifen kann
Dialogue: 0,0:54:50.45,0:54:52.91,Default,,0000,0000,0000,,und sagen wir wollen hier eine andere\NEntwicklung oder das und das muss so
Dialogue: 0,0:54:52.91,0:54:59.27,Default,,0000,0000,0000,,konkret weitergehen. Was allerdings gut an\Ndieser Entwicklung ist, ist eben, dass wir
Dialogue: 0,0:54:59.27,0:55:04.67,Default,,0000,0000,0000,,noch an diesem frühen Punkt sind und auch\Ndie Möglichkeiten haben, Einfluss nehmen
Dialogue: 0,0:55:04.67,0:55:09.04,Default,,0000,0000,0000,,zu können. Habe ich da ein äh im\NHintergrund gehört? Ja okay, ich rede
Dialogue: 0,0:55:09.04,0:55:14.26,Default,,0000,0000,0000,,einfach weiter. Das heißt, nach allem, was\Nich jetzt mitbekommen habe, wie sich das
Dialogue: 0,0:55:14.26,0:55:20.05,Default,,0000,0000,0000,,Thema KI in der Bildung gerade ansetzt zu\Nentwickeln, möchte ich eigentlich gerne so
Dialogue: 0,0:55:20.05,0:55:24.25,Default,,0000,0000,0000,,eine Art Break machen. Einen kleinen\NSchnitt und nochmal hinterfragen ist der
Dialogue: 0,0:55:24.25,0:55:28.30,Default,,0000,0000,0000,,Weg, der jetzt eingeschlagen wird von den\NAttack-Startups und auch von den
Dialogue: 0,0:55:28.30,0:55:32.20,Default,,0000,0000,0000,,Regierungen, ist das überhaupt der\NRichtige, dass wir KI-Systeme einsetzen,
Dialogue: 0,0:55:32.20,0:55:38.65,Default,,0000,0000,0000,,um das Verhalten und Lernverhalten von\NLernenden zu analysieren? Oder wollen wir
Dialogue: 0,0:55:38.65,0:55:42.16,Default,,0000,0000,0000,,nicht nochmal überlegen, ob wir nicht die\NKI-Systeme, die wir jetzt haben, dazu
Dialogue: 0,0:55:42.16,0:55:45.49,Default,,0000,0000,0000,,nutzen können, die strukturellen Probleme\Nim Bildungssektor anzugehen? Davon gibt es
Dialogue: 0,0:55:45.49,0:55:49.51,Default,,0000,0000,0000,,genug. Dort haben wir eine ganz andere\NDatenbasis und es kann vor allem weniger
Dialogue: 0,0:55:49.51,0:55:54.37,Default,,0000,0000,0000,,Schaden angerichtet werden für die\Neinzelnen Personen, die analysiert werden
Dialogue: 0,0:55:54.37,0:55:57.94,Default,,0000,0000,0000,,oder dann halt auch im besten Fall gar\Nnicht mehr analysiert werden, weil alles,
Dialogue: 0,0:55:57.94,0:56:02.50,Default,,0000,0000,0000,,was wir aus der KI Geschichte wissen, dass\Nes sehr, sehr viel Schwierigkeiten gibt,
Dialogue: 0,0:56:02.50,0:56:06.97,Default,,0000,0000,0000,,sobald KI in sozialen Kontexten eingesetzt\Nwerden. Also wenn KI-Systeme benutzt
Dialogue: 0,0:56:06.97,0:56:10.57,Default,,0000,0000,0000,,werden, um Menschen zu analysieren, jetzt\Nkurz auf den Punkt gebracht, dann führt
Dialogue: 0,0:56:10.57,0:56:14.38,Default,,0000,0000,0000,,das meistens zu größeren Problemen und wir\Nsollten in der Bildung nicht diese Fehler
Dialogue: 0,0:56:14.38,0:56:18.76,Default,,0000,0000,0000,,wiederholen.\NHerald: Ja, das sind auf jeden Fall
Dialogue: 0,0:56:18.76,0:56:23.53,Default,,0000,0000,0000,,ziemlich gute Gedankenanstöße. Wir haben\Nleider gar nicht so richtig, richtig viel
Dialogue: 0,0:56:23.53,0:56:26.44,Default,,0000,0000,0000,,Zeit, um jetzt hier noch Fragen zu\Nbeantworten. Ich sehe gerade im Chat auch
Dialogue: 0,0:56:26.44,0:56:31.33,Default,,0000,0000,0000,,tatsächlich keine. Ich bin aber sicher,\Ndass es da noch viel Gesprächsbedarf gibt.
Dialogue: 0,0:56:31.33,0:56:36.79,Default,,0000,0000,0000,,Deswegen würde ich vorschlagen, dass wir\Njetzt mit dir in einen Big Blue Button
Dialogue: 0,0:56:36.79,0:56:38.02,Default,,0000,0000,0000,,umziehen.
Dialogue: 0,0:56:38.02,0:56:40.75,Default,,0000,0000,0000,,{\i1}Outro Musik{\i0}
Dialogue: 0,0:56:40.75,0:56:48.00,Default,,0000,0000,0000,,Untertitel erstellt von c3subtitles.de\Nim Jahr 2021. Mach mit und hilf uns!