0:00:00.000,0:00:14.820
<i>Intro Musik</i>

0:00:14.820,0:00:19.740
Hallo und herzlich willkommen zu meinem[br]Vortrag "KI im Klassenzimmer - yay oder

0:00:19.740,0:00:24.030
nay?" Ich bin Nina, ich bin derzeit[br]wissenschaftliche Mitarbeiterin im Büro

0:00:24.030,0:00:26.880
von Birke Bull-Bischoff. Sie ist die[br]bildungspolitische Sprecherin der

0:00:26.880,0:00:30.990
Linksfraktion im Bundestag. Die letzten[br]zwei Jahre habe ich auch die Enquete-

0:00:30.990,0:00:35.310
Kommission KI im Bundestag für die Linke[br]mitbegleitet. Und davor habe ich auch

0:00:35.310,0:00:38.760
schon mal im Bildungssektor gearbeitet,[br]sodass ich diesen Vortrag jetzt hier

0:00:38.760,0:00:42.990
nutzen möchte, um mal alle meine[br]Beobachtungen zum Thema KI in der Schule

0:00:42.990,0:00:49.230
zusammenzutragen und vor allem auch einen[br]Blick auf die dabei verarbeiteten Daten zu

0:00:49.230,0:00:53.190
werfen und einen Ausblick darauf zu[br]schaffen, wie KI vielleicht sogar dafür

0:00:53.190,0:00:57.420
benutzt werden kann, um strukturelle[br]Probleme im Bildungssektor anzugehen.

0:00:57.420,0:01:03.150
Vorausschicken möchte ich, dass wenn ich[br]hier von KI rede, ich jeweils sogenannte

0:01:03.150,0:01:07.820
schwache KI meine und mich auf Machine[br]Learning in als seinen Ausprägung beziehe.

0:01:07.820,0:01:13.890
Ich möchte euch zuerst einen kleinen Überblick[br]geben, wie KI im Schulbereich im Moment schon

0:01:13.890,0:01:17.700
eingesetzt werden kann. Was dabei auch[br]tatsächlich noch nicht so wahnsinnig gut

0:01:17.700,0:01:21.690
läuft. Dann natürlich zeigen, was meiner[br]Meinung nach besser laufen könnte, welche

0:01:21.690,0:01:25.260
Anforderungen es braucht, damit es besser[br]laufen kann und dann auch am Ende mit

0:01:25.260,0:01:30.240
einer konkreten Empfehlung schließen. Als[br]ich mich vor ungefähr einem Jahr

0:01:30.240,0:01:35.220
angefangen habe, mit diesem Thema vertieft[br]zu beschäftigen, sind mir zwei Dinge

0:01:35.220,0:01:39.870
aufgefallen. Zum einen ist der Begriff KI[br]eigentlich noch nicht wirklich konkret und

0:01:39.870,0:01:44.520
allgemein definiert und all diese KI[br]Anwendungen im Bildungsbereich auch noch

0:01:44.520,0:01:49.710
nicht. Da wird also viel experimentiert[br]und herumgeworfen mit Learning Analytics,

0:01:49.710,0:01:53.970
mit Tutor Systemen, intelligenten Tutor[br]Systemen. Das ganze unter die Oberbegriffe

0:01:53.970,0:01:59.850
von Educational Data Mining gestellt. Das[br]ist wiederum teilweise die Voraussetzung

0:01:59.850,0:02:04.710
oder steht neben dem anderen Begriff von[br]AIED, also Artificial Intelligence in

0:02:04.710,0:02:11.940
Education. Also da kann man je nach Autor[br]und je nach Anwendungsbereich baut das

0:02:11.940,0:02:16.080
eine auf dem anderen auf oder steht[br]nebeneinander oder ist eine Folge davon.

0:02:16.080,0:02:20.250
All das ist ein Signal dafür, dass wir in[br]diesem Bereich tatsächlich noch sehr am

0:02:20.250,0:02:24.200
Anfang stehen, dass das alles sehr[br]unstrukturiert ist. Und letztendlich ist

0:02:24.200,0:02:28.700
auch der ganze Anbietermarkt von diesem[br]System noch sehr am Anfang und

0:02:28.700,0:02:34.040
unstrukturiert. Derzeit sind es vor allem[br]oder eigentlich ausschließlich proprietäre

0:02:34.040,0:02:37.550
Systeme, sodass auch teilweise Forscher[br]manchmal gar nicht so richtig wissen:

0:02:37.550,0:02:42.800
Arbeitet ein System, das mit KI wirbt,[br]eigentlich wirklich mit KI im Sinne von

0:02:42.800,0:02:46.560
Machine Learning oder ist es nur ein[br]einfacher Algorithmus ohne Lernverfahren?

0:02:46.560,0:02:51.470
Oder wie viel Werbung und wie viel[br]Marketing steckt eigentlich in diesem

0:02:51.470,0:02:56.540
Anbietersystem eigentlich wirklich[br]dahinter? Dann gibt es aber neben dem

0:02:56.540,0:03:01.880
ganzen Learning Analytics Bereich, der[br]sich sehr konkret auf die Erhebung und

0:03:01.880,0:03:08.480
Analyse von lernenden Daten, also zur[br]Verbesserung von Lernerlebnissen und

0:03:08.480,0:03:12.680
Lernenergebnissen beschäftigt, gibt es[br]noch weitere Anwendungsbereiche, in denen

0:03:12.680,0:03:17.270
KI eingesetzt wird. In den USA gibt es zum[br]Beispiel ein Verfahren, dass das

0:03:17.270,0:03:23.180
Surfverhalten analysiert. Auf dieser[br]Keyword Liste der Risikofaktoren stehen

0:03:23.180,0:03:28.370
dann allerdings auch Begriffe wie schwul,[br]queer oder Gedichtsammlung. Also selbst

0:03:28.370,0:03:31.400
wenn wir jetzt auch von sehr intoleranten[br]Gesellschaften ausgehen, ist es natürlich

0:03:31.400,0:03:34.820
überhaupt nicht zu unterstützen, dass[br]diese Begriffe überhaupt irgendwie

0:03:34.820,0:03:38.450
Personen zugeordnet und im Sinne einer[br]Risikoprävention verwendet werden.

0:03:38.450,0:03:43.820
Gesichtserkennung auf dem Schulgelände gab[br]es neben den USA auch in Europa schon. Das

0:03:43.820,0:03:46.880
hat Schweden mal an einer Schule probiert[br]und die wurden dann aber nach sehr, sehr

0:03:46.880,0:03:51.410
kurzer Zeit auf Basis der DSGVO auch schon[br]mit einer hohen Strafe versehen. Also

0:03:51.410,0:03:55.670
nicht unbedingt nachahmenswert. In China[br]ist man da schon ein bisschen weiter und

0:03:55.670,0:03:59.150
auch ein bisschen toleranter. Dort gibt es[br]Gesichtserkennung auch in der Mensa und in

0:03:59.150,0:04:03.770
Bibliotheken, sodass dann ganz nebenbei[br]auch noch Ernährungsverhalten und

0:04:03.770,0:04:09.020
Leseverhalten noch mit erfasst und[br]analysiert werden. Ganz besonders charmant

0:04:09.020,0:04:13.340
ist natürlich, dass Eltern sich in[br]Klassenzimmerkameras auch mit einloggen

0:04:13.340,0:04:18.620
können, um ihre Kinder dort direkt im[br]Unterricht damit zu beobachten. Es gibt

0:04:18.620,0:04:21.800
zwar hier und da sogar in China[br]Widerstände dagegen und das finden nicht

0:04:21.800,0:04:24.830
alle Eltern toll. Aber so wie ich das[br]mitbekommen habe in den letzten Monaten,

0:04:24.830,0:04:28.820
ist die Entwicklung da wahrscheinlich eher[br]noch schwer aufzuhalten. Hier in

0:04:28.820,0:04:33.230
Deutschland gibt es Forschungsprojekte, um[br]zum Beispiel mit einem Stift direkt beim

0:04:33.230,0:04:38.000
Schreiben, Üben, Schreibfehler oder[br]Schreibschwächen rechtzeitig zu erkennen.

0:04:38.000,0:04:42.800
Eher aus dem Hochschulbereich ist dieses[br]Beispiel entnommen vom KIT, wo die

0:04:42.800,0:04:46.460
Studienabbruchswahrscheinlichkeit[br]berechnet wird. Je nachdem was man mit den

0:04:46.460,0:04:49.910
Ergebnissen macht, kann das vielleicht[br]sogar sinnvoll sein, weil dann rechtzeitig

0:04:49.910,0:04:54.590
Hilfestellung gegeben werden kann. Aber[br]wie dann einzelne Entscheider:innen mit

0:04:54.590,0:04:57.080
solchen Ergebnissen umgehen, das steht[br]natürlich nochmal auf einem ganz anderen

0:04:57.080,0:05:03.560
Blatt. Und dann wird am DFKI und auch in[br]der Universität von Tübingen an

0:05:03.560,0:05:10.190
intelligenten Schulbüchern geforscht, die[br]auch mit Daten arbeiten aus iTrackern, EEG

0:05:10.190,0:05:13.910
Messung und sogar aus der[br]Nasentemperaturmessung. Dabei wird davon

0:05:13.910,0:05:19.040
ausgegangen, dass wenn die Nasentemperatur[br]fällt, davon auszugehen ist, dass einem

0:05:19.040,0:05:25.400
Lernenden bei seinem Lernstoff gerade[br]Schwierigkeiten begegnen und das würde

0:05:25.400,0:05:29.480
dann letztendlich in einer perfekten[br]intelligenten Schulbuchversion dazu

0:05:29.480,0:05:33.650
führen, dass ihnen noch ergänzende andere[br]Inhalte angezeigt werden oder vielleicht

0:05:33.650,0:05:38.000
irgendwie der ganze Lernpfad dann in[br]Zukunft anders aufgebaut wird. Ich bin

0:05:38.000,0:05:45.470
sehr gespannt, ob diese System Entwicklung[br]jetzt auch im Pandemiewinter Daten erhebt,

0:05:45.470,0:05:50.450
wo wahrscheinlich jeder Schüler zu jeder[br]Zeit einfach kalte Nasen hat und was das

0:05:50.450,0:05:54.800
letztendlich für die Lernpfadentwicklung[br]bedeutet. Aber das ist ein anderes Thema.

0:05:54.800,0:06:00.680
Kann KI denn überhaupt im Bildungssystem[br]etwas Positives beitragen? Und wenn wir

0:06:00.680,0:06:03.920
uns die Stärken von KI angucken, dann[br]sieht es auf den ersten Blick tatsächlich

0:06:03.920,0:06:08.150
so aus, als wäre das eigentlich gar keine[br]so schlechte Idee. Gerade im Bereich der

0:06:08.150,0:06:12.170
Spracherkennung oder Übersetzungssysteme[br]mit allen Schwächen, die damit

0:06:12.170,0:06:17.600
einhergehen, kann es tatsächlich dazu[br]beitragen, dass Integration oder auch

0:06:17.600,0:06:23.870
Inklusion an Schulen einfach erleichtert[br]werden im Sinne von ergänzt werden. Wenn

0:06:23.870,0:06:28.550
Systeme gut gemacht sind, können sie[br]zumindest kurzfristig immerhin auch die

0:06:28.550,0:06:33.470
Motivation von Schüler:innen steigern und[br]können im Idealfall Lehrkräfte auch

0:06:33.470,0:06:38.570
tatsächlich entlasten. Das wäre alles[br]total wunderschön, wenn es nicht auch

0:06:38.570,0:06:44.360
Schwächen im KI-System gibt, die euch alle[br]sicherlich total vertraut sind. Die

0:06:44.360,0:06:48.410
Qualität eines KI-Systems bemisst sich vor[br]allem nach der Datenbasis. Garbage in

0:06:48.410,0:06:53.480
garbage out, wie man so schön sagt. Und[br]viele Daten im Bildungsprozess, der ja ein

0:06:53.480,0:06:57.020
sozialer Prozess ist, der ist vielleicht[br]gar nicht unbedingt optimal

0:06:57.020,0:07:00.890
operationalisierbar, d.h. da stellt sich[br]immer noch die große Frage: Welche Daten

0:07:00.890,0:07:05.630
können überhaupt erfasst werden und wie[br]können sie überhaupt sinnvoll analysiert

0:07:05.630,0:07:11.450
werden? Lerndaten betreffend MINT-Fächer,[br]die auf Logik basiert sind, eignen sich

0:07:11.450,0:07:16.190
dafür sicherlich besser als zum Beispiel[br]die sogenannten 4K Kompetenzen, also

0:07:16.190,0:07:20.510
Kollaboration, Kreativität zum Beispiel.[br]Wie will man sowas messen und wie will man

0:07:20.510,0:07:27.320
sowas in Operationalisierbarkeit pressen?[br]Das steht noch im Raum. Dann haben wir

0:07:27.320,0:07:30.680
natürlich auch im Bildungsbereich die[br]üblichen Probleme mit der

0:07:30.680,0:07:35.600
Nachvollziehbarkeit und mit der[br]Erklärbarkeit und die Risiken von

0:07:35.600,0:07:40.940
Verzerrungen. Auch nicht ganz unwichtig[br]ist die Problematik, dass eine Korrelation

0:07:40.940,0:07:45.290
noch keine Kausalität mit sich bringt.[br]Also hier nochmal das Beispiel mit der

0:07:45.290,0:07:49.400
Nase und Temperatur. Es kann ganz viele[br]verschiedene Gründe haben, warum

0:07:49.400,0:07:55.130
Gehirnströme gerade einen bestimmten Weg[br]nehmen, warum Körpertemperatur sich

0:07:55.130,0:08:00.650
verändern oder warum sich Augenbewegungen[br]entweder direkt bei einem Lerninhalten

0:08:00.650,0:08:04.430
oder auch im Raum bewegen. Das hat alles[br]nicht zwangsläufig was mit dem

0:08:04.430,0:08:09.350
Lerninhalten oder mit der Lernatmosphäre[br]zu tun. Bei all meinen Recherchen für

0:08:09.350,0:08:12.710
diesen Vortrag habe ich immer ganz[br]explizit gefragt: Gibt es denn Beweise

0:08:12.710,0:08:16.550
dafür überhaupt, dass diese KI-Systeme[br]vielleicht auch gut funktionieren und den

0:08:16.550,0:08:20.930
Lernenden tatsächlich was bringen? Aber[br]diese Evidenz gibt es bislang nicht. Ich

0:08:20.930,0:08:24.800
habe interessanterweise, als kleine[br]Anekdote am Rande, auf der Webseite von

0:08:24.800,0:08:29.670
bettermarks eine Bewertung gefunden für das[br]System bettermarks von dem

0:08:29.670,0:08:32.850
neurowissenschaftlichen Institut, das[br]unter der Leitung von Manfred Spitzer

0:08:32.850,0:08:37.380
steht, der ist den Freunden der digitalen[br]Bildung vor allem dadurch bekannt, dass er

0:08:37.380,0:08:41.310
viele Elemente der digitalen Bildung[br]eigentlich eher verteufelt. Aber dort wird

0:08:41.310,0:08:44.790
auf der Website natürlich dem System[br]bettermarks bescheinigt, dass es einen total

0:08:44.790,0:08:49.500
guten Lerneffekt hat. Wie gesagt, Forscher[br]konnten das bisher noch nicht bestätigen.

0:08:49.500,0:08:56.400
Wenn wir nun diese KI-Systeme mit all[br]ihren Schwächen auf die Schulen ungebremst

0:08:56.400,0:09:01.290
loslassen, dann kann das dazu führen, dass[br]wir eigentlich anstatt dieser Entlastung

0:09:01.290,0:09:06.450
eher Überforderung produzieren, dass wir[br]Normierungen und Standardisierungen in

0:09:06.450,0:09:10.020
Bereichen einführen, die vielleicht gar[br]nicht ohne weiteres standardisierbar sind.

0:09:10.020,0:09:15.240
Wir können Lehrkräfte in unangenehme[br]Situationen bringen, wenn sie z.B. in

0:09:15.240,0:09:18.750
einer Elternsprechstunde mit Eltern[br]konfrontiert sind, die nicht nur die

0:09:18.750,0:09:21.630
Methoden des Lehrers hinterfragen. Das[br]machen sie ja jetzt schon häufig genug.

0:09:21.630,0:09:25.020
Sondern dann vielleicht auch[br]Bewertungssysteme hinterfragen und dann

0:09:25.020,0:09:29.760
von Lehrkräften wissen wollen: Wie kommt[br]denn dieses System zu dem Ergebnis oder zu

0:09:29.760,0:09:33.120
dieser Bewertung meines Kindes? Und[br]Lehrkräfte so was nicht einfach erklären

0:09:33.120,0:09:40.260
können. Größtes Problem ist natürlich,[br]dass alle Systeme, über die im Moment im

0:09:40.260,0:09:43.680
Bildungssektor gesprochen wird, diese[br]Learning Analytics Systeme und Tutor

0:09:43.680,0:09:48.120
Systeme, dass die mit personenbezogenen[br]Daten von ja größtenteils minderjährigen

0:09:48.120,0:09:52.740
Schüler:innen arbeiten. D.h. da werden[br]Datensammlungen angefertigt, es werden

0:09:52.740,0:09:57.600
Datenprofile angefertigt und das alles[br]unterwandert die informationelle

0:09:57.600,0:10:03.990
Selbstbestimmung der Kinder. Selbst wenn[br]Eltern dieser Verwendung natürlich

0:10:03.990,0:10:07.770
zustimmen müssen, stellt sich ja auch noch[br]die Frage: Wie gut sind die Eltern denn

0:10:07.770,0:10:12.240
überhaupt informiert über all die[br]Konsequenzen und die Folgen, die das hat?

0:10:12.240,0:10:16.500
Inwieweit gibt es vielleicht auch einen[br]gewissen sozialen Gruppenzwang in einem

0:10:16.500,0:10:19.290
Klassenverband oder einer Schule sich[br]anzuschließen, auch wenn man vielleicht

0:10:19.290,0:10:22.950
als Eltern selber gar nicht genau weiß,[br]was das dann eigentlich bedeutet? All das

0:10:22.950,0:10:28.170
ist im Moment noch ein bisschen unklar.[br]Und das sind genau diese Punkte, über die

0:10:28.170,0:10:32.460
meiner Meinung nach im Moment noch viel zu[br]wenig tatsächlich offen gesprochen wird.

0:10:32.460,0:10:37.830
Was diese Schwäche tatsächlich in der[br]Praxis für Probleme mit sich bringen

0:10:37.830,0:10:43.250
können, sehen wir auch schon in[br]ausländischen Anwendungen. Zum Glück muss

0:10:43.250,0:10:47.240
man fast sagen, im Moment. Ich weiß ich,[br]ob ihr das mitbekommen habt. Im Sommer gab

0:10:47.240,0:10:52.520
es diese Problematik mit dem britischen[br]System Ofqual. Genauso wie bei uns auch

0:10:52.520,0:10:56.510
haben die Schulen unter der Pandemie[br]gelitten und es konnten bestimmte

0:10:56.510,0:11:02.420
Prüfungen zu Abschlüssen nicht richtig gut[br]oder überhaupt nicht durchgeführt werden.

0:11:02.420,0:11:05.840
D.h. Lehrkräfte wurden gebeten, doch[br]aufgrund von ihren persönlichen

0:11:05.840,0:11:10.640
Einschätzung dann die Schüler mit einer[br]Abschlussnote zu versehen. Diese

0:11:10.640,0:11:14.120
Abschlussnoten waren dann aber den[br]Behörden offensichtlich zu gut, sodass sie

0:11:14.120,0:11:17.330
nochmal einen Algorithmus eingesetzt[br]haben, der das Ganze nachrechnen sollte.

0:11:17.330,0:11:21.410
Das wiederum führte dazu, dass viele Noten[br]wieder abgewertet worden und die Schüler

0:11:21.410,0:11:24.560
sich verschlechtert haben. Dagegen sind[br]dann natürlich die Schüler:innen wiederum auf

0:11:24.560,0:11:28.520
die Straße gegangen und haben sich[br]gewehrt, sodass am Ende doch wieder die

0:11:28.520,0:11:32.990
Beurteilung der Lehrkräfte eingesetzt[br]wurde. Zum Glück. Ein anderes Beispiel,

0:11:32.990,0:11:36.590
von dem ich gelesen habe, ist das System[br]Edgenuity. Ich weiß jetzt nicht wie das

0:11:36.590,0:11:40.730
richtig betont ist. Dort hat eine Mutter[br]festgestellt, dass die

0:11:40.730,0:11:47.300
Textverarbeitungssysteme, die die Aufsätze[br]ihres Kindes bewerten sollen, viel, viel

0:11:47.300,0:11:51.740
schlechter bewerten als frühe die[br]Aufsätze, die das Kind einfach ganz normal

0:11:51.740,0:11:54.740
mit der Hand in der Schule geschrieben[br]hat. Und dann ist in diesem System auf den

0:11:54.740,0:12:00.110
Grund gegangen und hat festgestellt, dass[br]das System vor allem bewertet anhand der

0:12:00.110,0:12:04.400
Häufigkeit von bestimmten Stichwörtern.[br]Und dann hat sie versucht, einfach mal so

0:12:04.400,0:12:08.330
als Beispiel einfach nur mit[br]Stichwortwolken so eine Aufsatzaufgabe zu

0:12:08.330,0:12:14.090
erfüllen. Und tatsächlich wurden dieses[br]Stichwortwolken besser bewertet als ein

0:12:14.090,0:12:18.680
komplett zusammenhängender Text. Was[br]natürlich, wenn man das System so weit

0:12:18.680,0:12:22.820
einmal verstanden und geknackt hat,[br]relativ leicht ist, solche Aufgaben zu

0:12:22.820,0:12:26.510
bestehen, aber natürlich überhaupt gar[br]keinen Bildungseffekt mehr mit sich

0:12:26.510,0:12:32.660
bringt. Auch eher aus dem Hochschulbereich[br]sind diese Testverfahren Proctorio und

0:12:32.660,0:12:37.730
ExamSoft bekannt, sollen hier an dieser[br]Stelle aber trotzdem angesprochen werden.

0:12:37.730,0:12:41.300
Einfach um schon mal aufzuzeigen, welche[br]Probleme damit einhergehen, bevor wir auf

0:12:41.300,0:12:45.500
die Idee kommen, sie vielleicht auch an[br]den Schulen einzusetzen. Diese Systeme

0:12:45.500,0:12:51.730
arbeiten vor allem mit Kameraüberwachung,[br]aber auch mit Geräuschanalysen und mit

0:12:51.730,0:12:56.740
Bewegungsanalysen, um daraus Rückschlüsse[br]zu ziehen, ob ein Prüfling gerade versucht

0:12:56.740,0:13:02.440
zu täuschen. Und diese Systeme haben jetzt[br]schon in der Praxis verschiedene Probleme

0:13:02.440,0:13:06.490
aufgezeigt. Also das ganz typische[br]Problem, was wir ja schon in anderen

0:13:06.490,0:13:10.810
Kamerakontexten kennen bei People of[br]Color. Sie werden dann von der Kamera

0:13:10.810,0:13:16.000
nicht erkannt, werden dann gebeten noch[br]zusätzliche Lichtquellen einzusetzen. Dann

0:13:16.000,0:13:19.450
kann das tatsächlich dazu führen, dass[br]Menschen diskriminiert werden, die in

0:13:19.450,0:13:23.620
beengten Verhältnissen in einer WG wohnen[br]oder vielleicht noch Kinder um sich haben,

0:13:23.620,0:13:27.850
weil dann unbekannte Geräusche Quellen[br]auftauchen, die ein System vielleicht als

0:13:27.850,0:13:31.510
Täuschungsversuch oder als[br]Unterstützerperson klassifizieren kann.

0:13:31.510,0:13:37.600
Aber auch gesundheitlich beeinträchtigte[br]Menschen sind zusätzlich belastet, einfach

0:13:37.600,0:13:41.530
weil sie angeben müssen, dass sie[br]vielleicht häufiger mal ins Bad müssen

0:13:41.530,0:13:46.180
oder dass sie eine Insulinpumpe tragen,[br]einfach damit das System von bestimmten

0:13:46.180,0:13:50.560
Signalen also z.B. nicht irritiert ist.[br]Also all das führt dazu, dass Menschen

0:13:50.560,0:13:56.320
gezwungen werden, Dinge offenzulegen und[br]vor allem diese Daten auch in Datenbanken

0:13:56.320,0:13:59.290
mit erfasst werden, die eigentlich sehr[br]persönlich und sehr privat sind und mit

0:13:59.290,0:14:03.610
einem Prüfergebnisse überhaupt gar nichts[br]zu tun haben. Hier in Deutschland kennen

0:14:03.610,0:14:06.850
wir alle oder die meisten von euch[br]wahrscheinlich diese Anwendung Duolingo

0:14:06.850,0:14:12.010
zum Vokabel- oder zum Sprachtraining.[br]Duolingo hat auch ein Englisch Test

0:14:12.010,0:14:16.300
aufgelegt, der auch online absolviert[br]werden kann und auch dort wird mit

0:14:16.300,0:14:23.800
Kamerasystem gearbeitet und ich habe bei[br]einer Forschung nachgelesen, dass

0:14:23.800,0:14:27.400
Forschenden dann versucht haben, da auch[br]mal auf den Grund zu gehen, ob Duolingo

0:14:27.400,0:14:30.910
denn ausschließen kann, dass diese[br]bekannten Systeme bei Duolingo nicht

0:14:30.910,0:14:35.050
auftauchen. Also diese Diskriminierungen[br]nicht passieren können oder auch z.B.

0:14:35.050,0:14:39.760
Diskriminierung aufgrund von Akzenten[br]nicht automatisch als fehlerhaft

0:14:39.760,0:14:43.690
eingestuft werden. Und leider konnte[br]zumindest zu dem Zeitpunkt der Befragung

0:14:43.690,0:14:48.910
Duolingo diese Diskriminierung nicht[br]ausschließen. Ein System, über das ich

0:14:48.910,0:14:53.650
gestolpert bin bei meiner Recherche ist[br]DyRiAS. Ich habe leider noch nicht

0:14:53.650,0:14:58.480
herausgefunden, ob Schulen überhaupt damit[br]arbeiten. Und wenn ja, wie viele. Wenn ihr

0:14:58.480,0:15:01.900
was über dieses System und seine Anwendung[br]wisst, bin ich für sachdienliche Hinweise

0:15:01.900,0:15:06.580
total dankbar. Was ich darüber gelesen[br]habe ist, dass DyRiAS ist ein

0:15:06.580,0:15:12.970
Risikoanalysesystem, was unter anderem[br]auch genutzt werden kann, um ein Risiko

0:15:12.970,0:15:17.530
für häusliche Gewalt zu identifizieren. Es[br]wird auch in der Schule angewendet, sodass

0:15:17.530,0:15:22.840
Lehrkräfte nach einer Schulung und wenn[br]sie eine Lizenz erworben haben, mit diesem

0:15:22.840,0:15:28.450
System erkennen können, ob Schüler:innen[br]demnächst vielleicht mal Amok laufen. Und

0:15:28.450,0:15:35.050
dazu werden Kommunikationsverhalten und[br]Verhaltensweisen analysiert. Wie genau das

0:15:35.050,0:15:37.660
System funktioniert, wie gesagt, weiß ich[br]im Detail nicht. Da werde ich aber

0:15:37.660,0:15:42.130
sicherlich nochmal in Zukunft etwas tiefer[br]einsteigen, um das zu verstehen. Weil mich

0:15:42.130,0:15:47.440
das sehr irritiert. Im Ergebnis bekommen[br]Lehrkräfte dann so einen farblichen

0:15:47.440,0:15:52.780
Balken. Das ist also ein original[br]Screenshot aus der Broschüre. Und

0:15:52.780,0:15:56.860
vollkommen unklar ist für mich tatsächlich[br]auch, was genau passiert oder wer Zugang

0:15:56.860,0:16:00.700
zu diesen Daten hat. Wenn dann ein Kind[br]tatsächlich immer weiter in diesen roten

0:16:00.700,0:16:05.110
Bereich rutscht. Was heißt überhaupt roter[br]Bereich und bedeutet das höchste Warnstufe

0:16:05.110,0:16:11.470
oder bedeutet Stufe 5 schon, hier musst du[br]eigentlich sofort die Polizei rufen. Dazu

0:16:11.470,0:16:15.250
kommt noch, dass die Daten, die für dieses[br]System erfasst werden, dass die

0:16:15.250,0:16:21.910
browserbasiert, verarbeitet werden.[br]Immerhin verschlüsselt. Weiteres halbwegs

0:16:21.910,0:16:25.150
beruhigendes Signal ist, das DyRiAS in[br]seiner Broschüre zumindest darauf

0:16:25.150,0:16:29.800
hinweist, dass die Nutzung von[br]gewaltorientierten Computerspielen oder

0:16:29.800,0:16:33.520
auch das Tragen eines Irokesenschnitt zum[br]Beispiel keine Indikatoren seien für eine

0:16:33.520,0:16:37.030
erhöhte Gewaltbereitschaft. Aber wie[br]gesagt, da werde ich mich auf jeden Fall

0:16:37.030,0:16:40.930
nochmal weiter informieren wollen, wie[br]dieses System genau in der Praxis

0:16:40.930,0:16:46.450
arbeitet. Und letztendlich ist es auch mal[br]sehr interessant zu wissen, was passiert

0:16:46.450,0:16:50.440
dann eigentlich mit diesem[br]Farbskalasystem. In der ganzen

0:16:50.440,0:16:55.210
Beschäftigung mit KI in den letzten zwei[br]Jahren hat sich bei uns im Fraktionsteam

0:16:55.210,0:16:59.500
irgendwann mal diese Frage aufgedrängt,[br]was es denn überhaupt mit den Menschen

0:16:59.500,0:17:04.140
macht, die mit solchen KI-Systeme[br]arbeiten. Und es wird immer so ein

0:17:04.140,0:17:08.610
bisschen als beruhigendes, ja sozusagen[br]als so eine Art Feigenblatt ganz oft

0:17:08.610,0:17:13.320
erwähnt. Naja, am Ende die letzte[br]Entscheidung trifft ja der Mensch. Aber

0:17:13.320,0:17:16.800
was bedeutet das eigentlich? Weil für uns[br]hat dann tatsächlich an der Stelle diese

0:17:16.800,0:17:20.910
Debatte nicht aufgehört, sondern erst[br]angefangen. Weil die Frage ist dann:

0:17:20.910,0:17:25.740
Welche Verantwortung kann ein Mensch dann[br]überhaupt für seine Entscheidung

0:17:25.740,0:17:30.000
übernehmen und wenn er tatsächlich diese[br]Entscheidung treffen soll, ist er

0:17:30.000,0:17:32.610
überhaupt dazu befähigt, diese[br]Entscheidung zu treffen? Einmal

0:17:32.610,0:17:37.710
tatsächlich kognitiv - weiß er überhaupt,[br]wie das System funktioniert? Kann er

0:17:37.710,0:17:41.760
einschätzen, wenn eine Klassifizierung[br]oder eine Entscheidungsvorbereitung

0:17:41.760,0:17:45.780
vorgenommen oder vielleicht sogar eine[br]Entscheidung getroffen wird? Kann er

0:17:45.780,0:17:51.450
überhaupt erkennen, ob diese Entscheidung[br]des Systems richtig ist in seinem Sinne

0:17:51.450,0:17:55.620
oder ob er vielleicht sich dagegen[br]entscheiden sollte? Und selbst wenn er

0:17:55.620,0:17:59.910
sich entscheidet, sich dagegen zu[br]entscheiden, ist er überhaupt dazu

0:17:59.910,0:18:03.570
berechtigt aufgrund von seiner Rolle in[br]der Organisation? Es gibt Organisationen,

0:18:03.570,0:18:07.200
da wird es ja vielleicht durchaus[br]erwartet, dass er eigenmächtig entscheidet

0:18:07.200,0:18:10.260
und dann gibt es andere[br]Organisationsformen, wo es genau von ihm

0:18:10.260,0:18:14.340
erwartet wird, sich nicht eigenmächtig zu[br]entscheiden. Das betrifft jetzt alles

0:18:14.340,0:18:22.590
nicht nur den Bereich Bildung, sondern[br]insgesamt soziale Kontexte im Einsatz von

0:18:22.590,0:18:27.210
KI-Systemne. Eine grundsätzliche Frage, die[br]wir uns stellen müssen in allen

0:18:27.210,0:18:30.450
Anwendungssektoren ist: Wer entscheidet[br]denn überhaupt besser der Mensch oder die

0:18:30.450,0:18:34.770
Maschine? Und nach welchen Gütekriterien[br]wird das entschieden? Im Bildungsbereich

0:18:34.770,0:18:39.450
gibt es ja durchaus die Meinung, dass es[br]heißt, lieber sollen Schüler von scheinbar

0:18:39.450,0:18:44.370
neutralen Systemen bewertet werden als von[br]vorurteilsbelasteten Menschen. Aber auch

0:18:44.370,0:18:49.080
ein System ist natürlich niemals neutral.[br]Und auch selbst wenn ein Mensch mit

0:18:49.080,0:18:54.090
Vorurteilen belastet ist, hat er trotzdem[br]nur einen relativ kleinen

0:18:54.090,0:18:58.560
Entscheidungsspielraum. Wenn hingegen für[br]Bewertungsverfahren Systeme eingesetzt

0:18:58.560,0:19:02.010
werden, dann wirken sie direkt auf die[br]ganze Schule oder im schlechtesten Fall

0:19:02.010,0:19:07.350
vielleicht sogar für das ganze Land. Und[br]auch wenn wir uns dafür entscheiden, dass

0:19:07.350,0:19:12.630
Entscheidungen an Maschinen ausgelagert[br]werden soll, um Schaden zu vermeiden, ist

0:19:12.630,0:19:15.270
auch die Frage: Wodurch entsteht denn[br]überhaupt ein Schaden? Entsteht ein

0:19:15.270,0:19:20.550
Schaden durch ein richtig funktionierendes[br]System, das dann aber langfristig

0:19:20.550,0:19:26.160
gesellschaftliche Schäden mit sich bringt?[br]Oder entsteht ein Schaden durch ein nicht

0:19:26.160,0:19:31.050
gut funktionierendes System oder nicht wie[br]erwartet funktionierendes System? Und

0:19:31.050,0:19:35.340
entstehen Schäden eigentlich nur durch Tun[br]oder entstehen Schäden auch durch

0:19:35.340,0:19:40.260
Unterlassung? Das heißt bezogen auf diese[br]Entscheidung: Wer entscheidet besser,

0:19:40.260,0:19:44.430
Mensch oder Maschine? Müssen all diese[br]Aspekte mit betrachtet werden. Und auch

0:19:44.430,0:19:48.360
der Verzicht auf ein maschinelles System,[br]das vielleicht irgendwann nachweislich

0:19:48.360,0:19:54.600
einen positiven Effekt hat, kann[br]tatsächlich zu einem Schaden führen. Wenn

0:19:54.600,0:19:59.460
wir uns dann dafür entschieden haben, dass[br]wir ein KI System ergänzend einsetzen wollen

0:19:59.460,0:20:03.480
in einem bestimmten Anwendungssektor, dann[br]muss als nächstes entschieden werden: Wie

0:20:03.480,0:20:06.930
viel Entscheidungsspielraum soll der[br]Mensch dann überhaupt noch haben, wenn es

0:20:06.930,0:20:11.220
heißt: Am Schluss trifft der Mensch die[br]letzte Entscheidung? Die Papiere von der

0:20:11.220,0:20:15.600
EU-Kommission zum Beispiel gehen im Moment[br]von drei verschiedenen Stufen aus. Human

0:20:15.600,0:20:20.760
in Command, Human on Command und Human in[br]the Loop. Aber es gibt schon aus der

0:20:20.760,0:20:24.480
Informatik viel ältere[br]Klassifizierungssysteme, die viel

0:20:24.480,0:20:29.910
ausgefeilter sind, z.B. vom MIT aus den[br]1980er Jahren, die bis zu zehn Stufen

0:20:29.910,0:20:34.890
unterscheiden, in denen verschiedene[br]Autonomiegrade vom Menschen bis zur

0:20:34.890,0:20:38.880
Maschine einmal durchlaufen werden, also[br]von der vollständigen Autonomie für den

0:20:38.880,0:20:43.920
Menschen bis hin zur vollständigen[br]Autonomie durch die Maschine. Das heißt,

0:20:43.920,0:20:49.140
da ist dieser, diese Aussage, die[br]menschliche, die letzte Entscheidung

0:20:49.140,0:20:53.790
trifft der Mensch ist noch so viel[br]wahnsinnig vielen Fragen unterworfen und

0:20:53.790,0:20:57.960
vor allem aber, finde halte ich das für[br]die allerwichtigste Frage, genau diese

0:20:57.960,0:21:00.930
Abstufungen, welchen[br]Entscheidungsspielraum Mensch überhaupt

0:21:00.930,0:21:04.770
hat, weil daraus leitet sich dann[br]letztendlich auch ab, wie ein Mensch

0:21:04.770,0:21:08.280
weitergebildet werden muss, mit diesem[br]System überhaupt zu arbeiten und welche

0:21:08.280,0:21:11.730
Vereinbarungen er vielleicht in seinem[br]Arbeitsvertrag braucht, also welche Rechte

0:21:11.730,0:21:14.700
er überhaupt hat, diesen[br]Entscheidungsspielraum tatsächlich

0:21:14.700,0:21:23.720
wahrzunehmen. So, selbst wenn er diesen[br]Entscheidungsspielraum dann für sich

0:21:23.720,0:21:27.080
festgelegt hat, dann ist auch noch die[br]Frage: Wie viel Entscheidungsspielraum

0:21:27.080,0:21:30.829
lässt das System dann tatsächlich zu? Es[br]gibt in diesem ganzen Bereich Mensch-

0:21:30.829,0:21:35.480
Maschine Interaktion derzeit noch sehr,[br]sehr wenig Forschung. Aber die ersten

0:21:35.480,0:21:40.460
Forschungen, die es schon gegeben hat, die[br]zeigen zum Beispiel: Selbst wenn Menschen

0:21:40.460,0:21:44.630
erkennen, dass das System gerade nicht[br]optimal arbeitet und sie möchten gerne in

0:21:44.630,0:21:48.350
das System eingreifen, um einen Fehler zu[br]eliminieren oder eine Korrektur

0:21:48.350,0:21:52.550
vorzunehmen und dann dabei feststellen,[br]dass dieser Prozess so wahnsinnig

0:21:52.550,0:21:56.180
aufwendig und kompliziert ist, dann neigen[br]Menschen tatsächlich dazu, mit diesem

0:21:56.180,0:22:00.590
fehlerhaften System trotz besseren Wissens[br]weiterzuarbeiten. Und das ist halt etwas,

0:22:00.590,0:22:06.200
was wir gerade in sozialen Kontexten und[br]gerade in Bereichen, in denen KI-Systeme

0:22:06.200,0:22:10.880
über das Leben oder Lebenswege von[br]Menschen entscheiden, einfach ganz genau

0:22:10.880,0:22:14.390
hinschauen sollten, was es denn eigentlich[br]bedeutet, wenn der Mensch die letzte

0:22:14.390,0:22:18.080
Entscheidung treffen soll. Denn am Ende[br]kann es tatsächlich sein, dass der

0:22:18.080,0:22:21.830
Entscheidungsspielraum, der dort[br]angedeutet wird, mit dieser Aussage viel,

0:22:21.830,0:22:25.100
viel kleiner ist als angenommen[br]Handlungsspielräume geklärt sind. Und

0:22:25.100,0:22:29.210
auch, weil wir von total optimal[br]funktionierenden KI-System ausgehen. Dann

0:22:29.210,0:22:32.390
ergeben sich immer noch Probleme auf der[br]strukturellen Ebene, sodass wir auf lange

0:22:32.390,0:22:35.930
Sicht einfach schauen müssen: Was macht[br]das dann mit der Lernkultur, mit der

0:22:35.930,0:22:40.640
Bildungskultur an Schulen? Das fängt an[br]bei der Erhebung von den Daten, also der

0:22:40.640,0:22:44.990
Datafisierung von Lernprozessen. Aber ich[br]werde nicht müde, immer wieder zu

0:22:44.990,0:22:48.380
wiederholen, dass wir immer noch mit[br]personenbezogenen Daten von größtenteils

0:22:48.380,0:22:52.580
minderjährigen Schüler:innen arbeiten und[br]dass wir Kinder auch schon sehr, sehr früh

0:22:52.580,0:22:56.180
daran gewöhnen, sich mit algorithmischen[br]Klassifizierungs- und Bewertungsverfahren

0:22:56.180,0:23:00.770
auseinanderzusetzen und sich vielleicht[br]ihnen auch sogar zu unterwerfen, ohne dass

0:23:00.770,0:23:05.150
sie sie aufgrund der Black-Box Problematik[br]vielleicht nachvollziehen können. Nächste

0:23:05.150,0:23:09.470
Problematik ist das Ding der[br]Standardisierung, Operationalisierung von

0:23:09.470,0:23:13.820
Daten. Welche Dinge werden dabei[br]ausgelassen? Wer bestimmt, was der

0:23:13.820,0:23:17.600
Standard ist? Wer bestimmt, was das[br]normale ist? Inwieweit können diese

0:23:17.600,0:23:21.140
Systeme überhaupt hinterfragt werden?[br]Welche Qualitäts- und Fairness-Maße beim

0:23:21.140,0:23:28.190
Training, welche Feedback an diese Systeme[br]gegeben werden? In der Bildung gehört es

0:23:28.190,0:23:31.310
letztendlich dazu, auch nicht[br]standardisierte Wege zu gehen. Hetty,

0:23:31.310,0:23:34.100
einer der renommiertesten[br]Bildungsforscher, hat in seiner Studie

0:23:34.100,0:23:38.780
Visible Learning unter anderem nochmal[br]herausgestellt, dass es zum einen zum

0:23:38.780,0:23:43.370
Bildungserfolg gehört und dass es auch mit[br]Bildungserfolg beiträgt, wenn Schüler:innen

0:23:43.370,0:23:48.200
befähigt werden, vorgegebene Lösungswege[br]aufzubrechen oder auch ihre eigenen zu

0:23:48.200,0:23:52.520
finden. Aber durch diese ganze[br]Vereinzelung und durch die

0:23:52.520,0:23:57.500
Standardisierung gehen halt einfach auch[br]bestimmte Möglichkeiten im Lern-Spektrum

0:23:57.500,0:24:02.930
verloren, sodass Schüler:innen gar nicht[br]mit alternativen Möglichkeiten vielleicht

0:24:02.930,0:24:06.980
mehr konfrontiert werden, um ihren[br]Horizont zu erweitern. Die nächste

0:24:06.980,0:24:12.380
Problematik ist das Scheitern. Wenn ich[br]jetzt in einem normalen Klassenverbund

0:24:12.380,0:24:15.740
vielleicht selber schon mal merke, ich[br]komme hier an meine Grenzen oder ich komme

0:24:15.740,0:24:19.190
mit der Aufgabenstellung nicht zurecht,[br]dann ist das natürlich total frustrierend.

0:24:19.190,0:24:22.580
Aber gleichzeitig gehört das auch mit zum[br]Bildungsprozess und zur

0:24:22.580,0:24:27.680
Persönlichkeitsentwicklung auch dazu,[br]Grenzen zu erkennen, auch mit Misserfolgen

0:24:27.680,0:24:31.520
umzugehen. Und wenn all dies ausbleibt,[br]dann verschieben sich diese Grenzen

0:24:31.520,0:24:37.820
einfach viel, viel weiter nach hinten,[br]weil dann immer nur der Inhalt präsentiert

0:24:37.820,0:24:44.570
wird, der geradezu meinem vom System[br]errechneten Lernniveau passt und ich aber

0:24:44.570,0:24:48.320
vielleicht gar nicht mehr dazu richtig[br]gefordert werde, mich auch aber mit Dingen

0:24:48.320,0:24:53.120
auseinanderzusetzen, die ich vielleicht[br]noch gar nicht können kann, die mich aber

0:24:53.120,0:24:57.020
vielleicht jetzt aktuell nochmal[br]weiterbringen. Jetzt im Klassenverband

0:24:57.020,0:24:59.930
gibt es zwar auch das Thema der[br]Binnendifferenzierung, also dass es

0:24:59.930,0:25:03.650
unterschiedliche Inhalte idealerweise für[br]verschiedene Lernniveaus oder für

0:25:03.650,0:25:08.390
verschiedene Lerntypen gibt. Aber in einem[br]Klassenverband gibt es immer noch die

0:25:08.390,0:25:13.340
Möglichkeit, das in Gruppenarbeiten z.B.[br]zu organisieren, wo etwas schwächere

0:25:13.340,0:25:16.580
Schüler mit etwas stärkeren Schülern[br]zusammen an einer Lösung arbeiten können.

0:25:16.580,0:25:21.200
Wenn wir auf individualisierte[br]systembasierte Lernpfade gehen, dann

0:25:21.200,0:25:25.280
sitzen im Prinzip die Schüler:innen dort[br]alleine und das System entscheidet, was

0:25:25.280,0:25:28.040
hier präsentiert wird und was nicht[br]präsentiert wird. Da geht einfach sehr,

0:25:28.040,0:25:32.300
sehr viel verloren. Das Spektrum verengt[br]sich. Gleichzeitig kann es aber auch

0:25:32.300,0:25:37.130
passieren, dass Lehrkräfte vielleicht noch[br]mehr angegriffen werden, als sie es

0:25:37.130,0:25:40.730
vielleicht jetzt schon werden von Eltern[br]einfach in Frage gestellt werden. Ihre

0:25:40.730,0:25:44.510
Entscheidungssysteme können mehr in Frage[br]gestellt werden, weil Lehrkräfte

0:25:44.510,0:25:49.130
vielleicht verlangen, dass ein System[br]nochmal die Bewertung nachvollzieht, was

0:25:49.130,0:25:52.220
letztendlich sehr demotivierend für[br]Lehrkräfte sein kann, was Vertrauen

0:25:52.220,0:25:56.000
unterwandern kann und letztendlich auch[br]die Autorität von Lehrkräften wieder

0:25:56.000,0:25:59.480
unterwandern kann. Wir haben sowieso schon[br]ein großes Problem mit Lehrkräftemangel

0:25:59.480,0:26:05.210
und die Frage ist, ob solche Entwicklungen[br]Lehrkräfte oder angehende Lehrkräfte

0:26:05.210,0:26:09.200
motiviert, diesen Beruf dann überhaupt[br]noch zu ergreifen, wenn sie sich dann auch

0:26:09.200,0:26:13.370
zukünftig immer mit technischen System[br]messen müssen. Letztendlich aber

0:26:13.370,0:26:17.870
wahrscheinlich das größte Problem: Was[br]macht es mit der Ungleichheit? Also alle

0:26:17.870,0:26:21.590
Bildungsberichte gehen im Prinzip immer[br]wieder davon aus, dass wir

0:26:21.590,0:26:24.740
Bildungsungleichheiten und[br]Ungerechtigkeiten haben. Das ist eines der

0:26:24.740,0:26:29.630
größten Probleme im Bildungssektor, das es[br]tatsächlich gibt, und die Frage ist,

0:26:29.630,0:26:36.800
inwieweit die der verstärkte Einsatz von[br]KI-Systemen diese Ungleichheiten entweder

0:26:36.800,0:26:41.270
aushebelt oder vielleicht sogar verstärken[br]kann. Das kann auf der individuellen Ebene

0:26:41.270,0:26:45.230
passieren, dass Schüler:innen, die sich[br]vielleicht sehr gut selbst organisieren

0:26:45.230,0:26:48.200
können und vielleicht sehr gut mit Systemen[br]arbeiten können, dieses schneller

0:26:48.200,0:26:52.220
verstehen, vielleicht auch schneller[br]wissen, wie sie es umgehen können. Während

0:26:52.220,0:26:57.050
vielleicht eher lernschwache Schüler sich[br]dem System eher ausgeliefert fühlen und

0:26:57.050,0:27:00.920
vielleicht eher demotiviert werden, sich[br]dann nochmal Hilfe zu suchen oder

0:27:00.920,0:27:04.160
vielleicht auch Lehrkräfte das gar nicht[br]unbedingt erkennen können, dass

0:27:04.160,0:27:06.980
Schüler:innen vielleicht überhaupt[br]Schwierigkeiten haben, wenn sie diese

0:27:06.980,0:27:11.720
Systeme zuhause anwenden oder vielleicht[br]hinter einem Bildschirm verschwinden. Auf

0:27:11.720,0:27:16.880
einer größeren Ebene kann der Einsatz von[br]KI Systemen die Ungleichheit verschärfen,

0:27:16.880,0:27:21.770
weil einfach die Frage ist: Werden sich[br]dann zukünftig eher gut ausgestattete

0:27:21.770,0:27:26.930
Schulen in reichen Bundesländern, in[br]privilegierten Umfeldern KI-Systeme zur

0:27:26.930,0:27:32.150
Unterstützung leisten können? Oder werden[br]KI-Systeme eher eingesetzt werden können

0:27:32.150,0:27:36.320
in weniger privilegierten Kontexten? Es[br]gibt in den USA gab es jetzt die

0:27:36.320,0:27:41.060
Gründungen von Rocketchip Schulen. Ich[br]kann mir den Namen immer sehr schlecht

0:27:41.060,0:27:47.510
merken. Rocketchip Public Schools heißen[br]sie und dort sitzt dann im Prinzip nur

0:27:47.510,0:27:50.960
noch eine Hilfslehrkraft, die dann bis zu[br]90 Schüler:innen an ihren

0:27:50.960,0:27:58.685
Computerbildschirmen steuert, anleitet,[br]irgendwie unterstützt, um einfach auch

0:27:58.685,0:28:02.990
Stellen an gut ausgebildeten Lehrkräften[br]einzusparen. Dort läuft es auf eine Art

0:28:02.990,0:28:07.760
Massenabfertigung hin und die Forschung,[br]die es da gegeben hat, hat jetzt zumindest

0:28:07.760,0:28:12.650
letztes Jahr schon gezeigt, dass die[br]Ergebnisse, die die Schüler:innen dort erzielen,

0:28:12.650,0:28:16.760
bis zu einer Note schlechter sind als[br]Schüler:innen, die in einem herkömmlichen

0:28:16.760,0:28:21.170
Klassenverband mit vernünftig[br]ausgebildeten Lehrkräften lernen. Wir

0:28:21.170,0:28:25.280
kennen diese Diskussionen auch im[br]Gesundheitsbereich, in der Pflege. Auch da

0:28:25.280,0:28:29.660
wird diskutiert, ob Robotics Systeme in[br]der Pflege eher ein System für die

0:28:29.660,0:28:35.330
Privilegierten sind. Wer es sich leisten[br]kann, holt sich einen Roboter dazu. Oder

0:28:35.330,0:28:40.400
ob es auch da eher um eine Auslagerung an[br]Technik geht, dass wir in weniger

0:28:40.400,0:28:44.090
privilegierten Einrichtungen einfach von[br]Maschinen betreut werden anstatt von

0:28:44.090,0:28:47.570
Menschen. Also da kann der Bildungssektor[br]sich vielleicht ganz gut am

0:28:47.570,0:28:51.920
Gesundheitssektor orientieren und diese[br]Debatte dort mal verfolgen, in welche

0:28:51.920,0:28:59.090
Richtung das geht. All diese Schwächen und[br]Risiken zusammengenommen frage ich mich

0:28:59.090,0:29:07.490
tatsächlich, ob das Werben für KI-Systeme[br]an Schulen oder auch teilweise der Druck,

0:29:07.490,0:29:10.940
der da gemacht wird, dass das eigentlich[br]totale super Sache ist. Ob das nicht

0:29:10.940,0:29:15.530
letztendlich einfach nur gemacht wird, um[br]die eigentlichen Probleme im Schulsystem

0:29:15.530,0:29:19.700
zu verschleiern. Denn eigentlich haben wir[br]es mit einer großen Mangelfinanzierung zu

0:29:19.700,0:29:23.630
tun. Wir haben zu große Klassen, wir haben[br]zu wenig Lehrkräfte, wir haben einen

0:29:23.630,0:29:27.990
wahnsinnigen Sanierungsstau. Und wenn[br]gleichzeitig dann aber von Regierungen

0:29:27.990,0:29:32.990
mitempfohlen wird, dass wir doch KI-[br]Systeme und Learning Analytics einsetzen,

0:29:32.990,0:29:35.930
weil dadurch die Lehrkräfte entlastet[br]werden und sich dann besser um die

0:29:35.930,0:29:40.730
Schüler:innen kümmern sollen. Wobei wir[br]eigentlich gar keine Evidenz dafür haben,

0:29:40.730,0:29:44.660
dass das tatsächlich so funktioniert und[br]so klappt. Dann habe ich einfach zunehmend

0:29:44.660,0:29:48.530
das Gefühl, dass genau diese[br]Mangelwirtschaft einfach aufrechterhalten

0:29:48.530,0:29:51.500
werden soll und dadurch verschleiert[br]werden soll, dass wir mal wieder

0:29:51.500,0:29:55.850
versuchen, soziale Probleme mit Technik zu[br]lösen. Und das ist etwas, wo wir meiner

0:29:55.850,0:30:00.140
Meinung nach genau jetzt an diesem Punkt[br]sind, diese Diskussion zu führen und diese

0:30:00.140,0:30:04.220
Entwicklung zu verhindern, weil[br]diejenigen, die letztendlich darunter

0:30:04.220,0:30:08.990
leiden, sind neben den Lehrkräften, die am[br]Ende nämlich nur scheinbar entlastet

0:30:08.990,0:30:13.460
werden, vor allem die Schülerinnen und[br]Schüler, deren Daten jetzt einfach erhoben

0:30:13.460,0:30:16.310
werden und verarbeitet werden sollen und[br]wir gar nicht wissen, was daraus am Ende

0:30:16.310,0:30:23.540
wird. So bedeutet das jetzt aber, dass KI-[br]Systeme im Bildungssektor und in der

0:30:23.540,0:30:26.630
Schule gar nichts verloren haben. So weit[br]würde ich gar nicht gehen, sondern ich

0:30:26.630,0:30:30.410
möchte gerne in Zukunft unterscheiden, auf[br]welchen Ebenen wir KI-Systeme im

0:30:30.410,0:30:34.010
Bildungssektor einsetzen. Wir haben jetzt[br]bisher immer so ein bisschen betrachtet,

0:30:34.010,0:30:38.630
was auf der Mikroebene passiert, also wo[br]personenbezogene Daten von Schüler:innen

0:30:38.630,0:30:42.590
oder von Lehrkräften analysiert und[br]verarbeitet werden. Es gibt aber auch noch

0:30:42.590,0:30:47.510
die Meso und Makroebene im Bildungssystem.[br]Auf der Mesoebene reden wir von dem Zugang

0:30:47.510,0:30:53.270
zu Lernorten oder auch zu Lerninhalten und[br]die Makroebene betrachtet tatsächlich die

0:30:53.270,0:30:57.050
übergreifende Steuerung von[br]Bildungssysteme, wo sich z.B. auch die

0:30:57.050,0:31:02.420
Problematik der Ungerechtigkeit lösen[br]lassen müsste. Auf der Meso- und auf der

0:31:02.420,0:31:07.340
Makroebene gibt es tatsächlich dann die[br]Möglichkeit mit Open Data zu arbeiten und

0:31:07.340,0:31:12.560
nicht mit personenbezogenen Daten, um halt[br]diese bestimmten oder diese konkreten

0:31:12.560,0:31:16.280
Probleme mit anzugehen. Und ich möchte[br]jetzt im Folgenden eigentlich mal

0:31:16.280,0:31:19.910
vorstellen, welche Beispiele es dafür[br]jetzt schon gibt oder welche es geben

0:31:19.910,0:31:29.930
könnte, damit es nicht so als Behauptung[br]im leeren Raum steht. Also nochmal zurück

0:31:29.930,0:31:35.510
auf die Mikroebene gegangen, gibt es dort[br]auch durchaus Möglichkeiten, mit Systemen

0:31:35.510,0:31:40.850
zu arbeiten, die nicht unbedingt die[br]personenbezogenen Daten von Schülerinnen

0:31:40.850,0:31:43.940
und Schülern verarbeiten. Das ist zum[br]einen die Möglichkeit: Es gibt ein System,

0:31:43.940,0:31:50.150
dass Lehrkräfte neue Methoden zum Beispiel[br]anhand einer KI trainieren können und

0:31:50.150,0:31:55.070
aufgrund des Feedbacks der KI dann sehen[br]können, wo Verständnisschwächen entstehen,

0:31:55.070,0:31:59.210
sodass sie dann ihre Methoden und ihre[br]Erklärweisen nochmal anpassen können,

0:31:59.210,0:32:02.870
bevor sie damit konkret in die Klasse[br]gehen. Dann gibt es natürlich diesen

0:32:02.870,0:32:08.960
ganzen Bereich der Administration,[br]Vertretungspläne, Stundenpläne oder auch

0:32:08.960,0:32:13.550
Postverwaltung. Da gibt es ja schon einige[br]Beispiele, auch aus Behörden, wie sowas

0:32:13.550,0:32:18.470
eingesetzt werden kann mit ganz, ganz[br]unkritischen Anwendungsbereichen und

0:32:18.470,0:32:24.650
keinen großen personenbezogenen Daten, die[br]dafür nötig sind. Was auch total günstig

0:32:24.650,0:32:30.200
ist, ist natürlich alles, was dazu[br]beiträgt, das System KI zu verstehen. Also

0:32:30.200,0:32:35.060
selbst wenn ich Anwendungen durchaus in[br]gewissen Bereichen hier intensiv in Frage

0:32:35.060,0:32:39.410
stellen möchte, ist zu keinem Zeitpunkt in[br]Frage zu stellen, dass natürlich

0:32:39.410,0:32:43.970
verstanden und gelernt werden muss, wie[br]algorithmische und KI-Systeme

0:32:43.970,0:32:49.136
funktionieren und was man mit ihnen machen[br]kann. Das heißt, als Unterstützung für

0:32:49.136,0:32:53.780
Lernmethoden oder auch um Experimente[br]durchzuführen, ist es auch für Schüler

0:32:53.780,0:32:58.280
durchaus geeignet. Es gab mal diesen[br]Wettbewerb. Ich weiß nicht, ob der jedes

0:32:58.280,0:33:02.330
Jahr stattfindet, zur KI Schule des[br]Jahres. Dort haben jugendliche

0:33:02.330,0:33:05.360
Schüler:innen unter anderem ein System[br]entwickelt, um Zugverspätung

0:33:05.360,0:33:11.480
vorherzusagen, also sehr anwendungsnah und[br]sehr sinnvoll für viele von uns. Und auch

0:33:11.480,0:33:16.610
Methoden der Textanalyse oder Datenbank-[br]Analysen. Auch die können Schülern

0:33:16.610,0:33:20.390
durchaus zugutekommen, sodass sie sie als[br]Werkzeuge für das eigene Lernen benutzen

0:33:20.390,0:33:24.740
und dabei aber weniger Schüler:innen[br]Werkzeuge für das KI-System darstellen

0:33:24.740,0:33:31.100
müssen. Auf der Meso-Ebene habe ich[br]tatsächlich im Moment sehr, sehr wenig

0:33:31.100,0:33:35.510
Anwendungsbeispiele gefunden, was da[br]gemacht werden kann. Also eine Sache, die

0:33:35.510,0:33:41.060
mich inspiriert hat, ist das Ergebnis[br]eines EDU Hacks. Dort hat eine Gruppe eine

0:33:41.060,0:33:46.250
Open Source Bibliothek entwickelt und[br]sowas kann ich mir sehr sehr gut auch

0:33:46.250,0:33:51.140
tatsächlich für Deutschland vorstellen,[br]dass wir, wir haben ja diese Problematik,

0:33:51.140,0:33:55.520
Lehrkräfte von euch werden das kennen, ich[br]hab das jetzt auch schon oft gehört, dass

0:33:55.520,0:34:00.050
Lehrkräfte immer auf der Suche sind. Wo[br]finde ich denn gute OER Materialien? Woher

0:34:00.050,0:34:02.630
weiß ich dann, dass die gut sind oder[br]nicht? Woher weiß ich, ob die zu meinem

0:34:02.630,0:34:05.690
Unterricht passen? Es ist alles so weit[br]verstreut. Ich weiß gar nicht, wo ich das

0:34:05.690,0:34:10.640
ganze gute Zeug finden soll. Sowas alles[br]in eine Datenbank zu packen und dann mit

0:34:10.640,0:34:14.360
KI-Systeme durchsuchbar zu machen und[br]vielleicht auch so durchsuchbar zu machen,

0:34:14.360,0:34:19.100
dass Lehrkräfte schnell dort auch wissen,[br]wie komme ich dann an genau die

0:34:19.100,0:34:22.070
Ergebnisse, die ich gerade für meinen[br]Unterricht gebrauchen kann. Könnte ein

0:34:22.070,0:34:27.110
Anwendungsbeispiel sein. Die OER-Strategie[br]der Bundesregierung ist ja jetzt

0:34:27.110,0:34:32.990
ausgelaufen. Wird gerade neu entwickelt.[br]Kommt im nächsten Jahr. Und wir wissen

0:34:32.990,0:34:36.560
leider noch nicht, was drin steht. Aber es[br]bleibt einfach zu hoffen, dass eine

0:34:36.560,0:34:41.420
Zentralisierung oder zumindest eine[br]bessere Auffindbarkeit von OER-Inhalten

0:34:41.420,0:34:47.660
dort mitgedacht wird. Das Thema Inklusion-[br]Integration hatten wir schon angesprochen.

0:34:47.660,0:34:52.130
Auch da sehe ich bei KI, wenn man diese[br]ganzen Problematiken bei der

0:34:52.130,0:34:57.950
Spracherkennung und Übersetzung[br]ausgehebelt sind, wenn die ausgehebelt

0:34:57.950,0:35:01.940
sind, dass wir dort auch noch viele[br]Potenziale haben, die es zu heben gilt, um

0:35:01.940,0:35:06.860
Inklusion und Integration einfach[br]einfacher zu machen. Und was ich auch sehe

0:35:06.860,0:35:14.090
ist im Kontext autonomes Fahren oder auch[br]Verkehrsleitsysteme, das ganze Thema

0:35:14.090,0:35:18.200
Schultransporte, sei es[br]jahreszeitenbedingt oder vielleicht auch

0:35:18.200,0:35:23.240
im ländlichen Raum und vor allem aber auch[br]mit Blick auf Förderschulen oder inklusive

0:35:23.240,0:35:28.280
Schulen. KI-Systeme können sicherlich[br]dabei unterstützen, den Transport gut zu

0:35:28.280,0:35:32.480
organisieren und effizient zu[br]organisieren. Und wir werden es ja

0:35:32.480,0:35:36.980
mindestens im nächsten Jahr auch noch mit[br]dieser Pandemie zu tun haben. Und gerade

0:35:36.980,0:35:41.450
inklusive Schulen oder Förderschulen haben[br]bei diesem ganzen Transport Thema

0:35:41.450,0:35:49.010
tatsächlich ein großes Problem, weil dort[br]die Zusammenkunft von Schüler:innen in so

0:35:49.010,0:35:54.140
einem Schulbus oder in so einem Transport[br]Bus hin zur Schule für Menschen oder

0:35:54.140,0:35:57.770
Schüler:innen mit Behinderung einfach noch[br]ein viel, viel größeres Risiko darstellen,

0:35:57.770,0:36:02.870
als es für gesunde Schüler:innen ist. Also[br]Menschen mit Behinderung gehören zur

0:36:02.870,0:36:10.500
Risikogruppe Nummer eins. Zu weiteren[br]Potenzialen auf der Makroebene. Dort gibt

0:36:10.500,0:36:13.860
es tatsächlich schon konkrete[br]Anwendungsfälle, die uns für Deutschland

0:36:13.860,0:36:18.990
auch ein Vorbild sein könnten. Also sowohl[br]die Schweiz als auch Belgien haben zum

0:36:18.990,0:36:22.470
Beispiel Systeme entwickelt, um die[br]Durchmischung, die soziale Durchmischung

0:36:22.470,0:36:28.050
an Schulen zu optimieren. Dass in etwas[br]wohlhabenderen Stadtvierteln nicht nur

0:36:28.050,0:36:31.980
privilegierte Schüleri:nnen sind und die[br]weniger Privilegierten dann halt in

0:36:31.980,0:36:36.180
Problemschulen landen, sondern dass dort[br]einfach nochmal neu berechnet wird, wie

0:36:36.180,0:36:39.630
eine bessere Durchmischung stattfinden[br]kann. Das wurde in der Schweiz zum

0:36:39.630,0:36:45.180
Beispiel so gemacht, dass die die[br]Straßenzüge neu berechnet werden, wie

0:36:45.180,0:36:49.650
Wohngebiete bestimmten Schulen zugeteilt[br]werden. Das unter der Maßgabe, dass die

0:36:49.650,0:36:53.340
Schulwege sicher sein müssen und dass sie[br]nicht länger sein sollen als bisher

0:36:53.340,0:36:57.900
gehabt. Und das hat im ersten Versuch[br]tatsächlich so gut funktioniert, dass

0:36:57.900,0:37:02.820
jetzt mehrere Kantone versuchen wollen,[br]dieses System zu übernehmen. In Belgien

0:37:02.820,0:37:07.050
hat es ein ähnliches Projekt gegeben. Dort[br]wird jetzt im Moment das System aber

0:37:07.050,0:37:12.870
nochmal überarbeitet, weil dort Eltern[br]sich beschwert haben, dass dass sie ihre

0:37:12.870,0:37:17.700
Kinder nicht mehr auf Schulen schicken[br]oder gehen lassen können, die zum Beispiel

0:37:17.700,0:37:20.760
bestimmte Schwerpunkte haben. Dann gibt es[br]dann eine Schule, die hat eine

0:37:20.760,0:37:25.320
Spezialisierung auf den musischen Bereich[br]oder auf den sportlichen Bereich. Und dort

0:37:25.320,0:37:28.680
wird das System jetzt so überarbeitet,[br]dass die Schulen dort auch Faktoren

0:37:28.680,0:37:32.820
gewichten können, sodass es dort[br]zusätzlich zu der besseren sozialen

0:37:32.820,0:37:36.660
Durchmischung auch die Möglichkeit gibt,[br]noch bestimmte Schwerpunkte zu setzen.

0:37:36.660,0:37:43.590
Auch wieder in UK gibt es ein System, dass[br]es Behörden erleichtern soll,

0:37:43.590,0:37:48.180
Schulinspektionen vorzunehmen. Das heißt,[br]dort wird aufgrund von bestimmten

0:37:48.180,0:37:52.620
Indikatoren rechtzeitig prognostiziert,[br]welcher Schule vielleicht nochmal eine

0:37:52.620,0:37:56.610
Inspektion oder ein Besuch durch die[br]Behörde bedarf, um bestimmte Entwicklungen

0:37:56.610,0:38:01.560
vielleicht rechtzeitig zu stoppen. Und[br]auch in England, das fand ich ganz gut,

0:38:01.560,0:38:07.470
gibt es ein, gibt es die NGO Nesta, die[br]einige von euch vielleicht kennen. Und die

0:38:07.470,0:38:12.450
haben ein eigenes Papier entwickelt, das[br]genau auf das abzielt, was ich hier auch

0:38:12.450,0:38:16.650
vorstellen möchte. Nämlich wenn wir KI im[br]Bildungssektor schon einsetzen wollen,

0:38:16.650,0:38:20.490
dann sollten wir uns auf die strukturellen[br]Probleme konzentrieren. Oder wenn wir

0:38:20.490,0:38:23.580
schon auf der Mikroebene arbeiten, dann[br]sollten wir uns auf Systeme konzentrieren,

0:38:23.580,0:38:28.320
die mit den Daten von Lehrkräften arbeiten[br]und Lehrkräfte bei ihrer Arbeit

0:38:28.320,0:38:32.130
unterstützen. Zumindest jetzt in einem[br]ersten Schritt, wenn die KI-Systeme noch

0:38:32.130,0:38:37.470
nicht so gut und so weiterentwickelt sind,[br]wie wir sie vielleicht gerne hätten. Diese

0:38:37.470,0:38:42.870
Systeme können tatsächlich schon Vorbild[br]sein, auch für Deutschland. Und wovon ich

0:38:42.870,0:38:46.470
in Deutschland auch ein bisschen träume[br]und woran wir gerade politisch arbeiten,

0:38:46.470,0:38:51.030
ist dieser leidige Königsteiner Schlüssel[br]zum Beispiel. Der Königsteiner Schlüssel

0:38:51.030,0:38:55.560
verteilt im Moment Fördergelder nach[br]Bevölkerungsdichte und nach

0:38:55.560,0:38:59.280
Steueraufkommen. Da funktioniert das ganz[br]klassisch jetzt im Moment nach dem

0:38:59.280,0:39:02.490
Matthäus Prinzip. Wer hat, dem wird[br]gegeben. Reiche Länder bekommen den

0:39:02.490,0:39:06.990
höheren Anteil an Fördergeldern und die[br]etwas ärmeren Länder bekommen halt nicht

0:39:06.990,0:39:11.550
so viel. Dabei sollte es doch eigentlich[br]genau umgekehrt sein. Und wenn es

0:39:11.550,0:39:19.950
tatsächlich möglich wäre, mit einem KI-[br]System auf Basis von noch mehr oder

0:39:19.950,0:39:24.630
anderen Daten zu ermitteln, welcher[br]Förderzweck genau welche Förderhöhe

0:39:24.630,0:39:29.580
brauch, dann wäre es doch vielleicht sogar[br]möglich, dass wir je nach Förderzweck

0:39:29.580,0:39:34.410
jedes Mal diesen Verteilungsschlüssel neu[br]errechnen. Also wenn es dort Möglichkeiten

0:39:34.410,0:39:38.160
gibt oder wenn es dort Ansätze gibt sowas[br]zu entwickeln, bitte ich um

0:39:38.160,0:39:42.360
Kontaktaufnahme. Das würde mich sehr sehr[br]interessieren. Selbstverständlich würde

0:39:42.360,0:39:46.560
das voraussetzen, dass von den Schulen,[br]Schulträgern und auch Schulbehörden

0:39:46.560,0:39:51.810
nochmal ganz andere Daten auch erhoben und[br]erfasst werden. Es gibt aber auch bereits

0:39:51.810,0:39:56.970
Bildungsdatenbank. Es gibt die[br]Forschungsdatenbank Bildung, wo jetzt im

0:39:56.970,0:40:00.720
Moment schon Bildungsstudien eingestellt[br]sind, also die Infrastruktur letztendlich

0:40:00.720,0:40:05.220
wäre für sowas vorhanden. Es müsste sich[br]vielleicht nur etwas in der Kultur ändern,

0:40:05.220,0:40:12.090
damit Schulen auch bereit sind oder damit[br]überhaupt auch Länder und Behörden dort

0:40:12.090,0:40:17.730
anfangen bestimmte Daten zu erheben, um[br]dann halt auch die strukturellen Systeme

0:40:17.730,0:40:25.380
auflösen zu können. So, welche[br]Anforderungen brauchen wir letztendlich,

0:40:25.380,0:40:30.600
um auf dieser Makroebene an die[br]strukturellen Probleme heranzugehen? Dort

0:40:30.600,0:40:33.690
würde ich gerne unterscheiden, ein[br]bisschen was können Menschen auf der

0:40:33.690,0:40:37.950
persönlichen Ebene tun? Was muss auf der[br]Organisationsebene passieren und vor

0:40:37.950,0:40:41.490
allem was braucht es noch auf der[br]rechtlichen Ebene? Im Moment wird ja ganz,

0:40:41.490,0:40:45.360
ganz viel immer davon geredet. Lehrkräfte[br]müssen sich fortbilden, damit sie mit

0:40:45.360,0:40:50.700
diesem System arbeiten können. Ja, das ist[br]aber auch nur ein Teil, der getan werden

0:40:50.700,0:40:55.020
muss. Und Teil dieser Fortbildung ist[br]natürlich nicht nur, dass es darum geht,

0:40:55.020,0:40:59.040
wie diese Systeme angewendet werden,[br]sondern es braucht ein tiefes Verständnis

0:40:59.040,0:41:04.410
einfach von KI als soziotechnisches[br]System. Und es braucht das schöne

0:41:04.410,0:41:10.680
Stichwort Data Literacy. Das heißt, ein[br]Verständnis dafür zu entwickeln, was Daten

0:41:10.680,0:41:16.560
überhaupt aussagen und aber vor allem[br]anderen eigentlich braucht es auf der ganz

0:41:16.560,0:41:20.640
individuellen Ebene immer noch ganz viel[br]Fortbildung, was überhaupt das Thema

0:41:20.640,0:41:26.220
Digitalisierung betrifft und auch der[br]damit verbundene Kulturwandel. Überhaupt,

0:41:26.220,0:41:32.670
sich zu öffnen, um Informationen oder auch[br]Inhalte zu teilen, um eine gewisse

0:41:32.670,0:41:37.170
Fehlerkultur zu entwickeln. All das ist ja[br]gerade noch im Umbruch. Und wenn wir jetzt

0:41:37.170,0:41:40.680
davon reden, dass wir KI-Systeme an den[br]Schulen wollen oder dass es gefördert

0:41:40.680,0:41:44.820
werden soll, dann habe ich manchmal das[br]Gefühl, wir wollen einem Kind, das gerade

0:41:44.820,0:41:48.750
das Fahrradfahren gelernt hat, wollen wir[br]jetzt in einen Rennwagen setzen, weil es

0:41:48.750,0:41:52.560
damit ja noch sicherer zur Schule kommt.[br]Das passiert alles in einem sehr, sehr

0:41:52.560,0:41:57.900
großen Tempo, das nicht damit erledigt[br]werden sollte, dass wir uns einfach nur

0:41:57.900,0:42:01.250
darauf zurücklehnen und sagen, Lehrkräfte[br]müssen sich weiterbilden und dann können

0:42:01.250,0:42:04.860
sie auch KI-Systeme in der Schule[br]einsetzen. Die Eltern habe ich jetzt

0:42:04.860,0:42:07.950
nochmal in Klammern gesetzt. Davon[br]ausgehend, dass wir es vielleicht wirklich

0:42:07.950,0:42:11.370
schaffen, unsere Forschungs- und[br]Entwicklungsschwerpunkte mehr auf die

0:42:11.370,0:42:15.540
Makro und auf die Meso Ebene zu legen und[br]weniger auf die Schüler basierten Systeme.

0:42:15.540,0:42:20.460
auf der Organisationsebene, also dort wo[br]entschieden wird. Letztendlich kommt ein

0:42:20.460,0:42:25.290
KI System zum Einsatz - Ja oder nein. Das[br]ist die Schulleitung oder das Schulträger

0:42:25.290,0:42:30.150
oder vielleicht auch Bundesländer. Muss[br]natürlich als allererstes mal hinterfragt

0:42:30.150,0:42:33.660
werden. Wozu brauche ich das System? Ich[br]habe es eben schon angesprochen. Wenn wir

0:42:33.660,0:42:37.150
ein soziales Problem an der Schule[br]feststellen, ist ein technisches System

0:42:37.150,0:42:41.500
tatsächlich dafür die Lösung? Oder sollten[br]wir vielleicht eher auf der sozialen Ebene

0:42:41.500,0:42:45.640
nochmal schauen, was wir vielleicht an[br]unseren Lernzielen oder an unseren

0:42:45.640,0:42:49.210
Methoden oder an unserer[br]Organisationskultur verändern müssen?

0:42:49.210,0:42:53.680
Selbst wenn wir uns entscheiden für ein[br]technisches System, dann muss natürlich

0:42:53.680,0:42:57.910
entsprechend die Infrastruktur gegeben[br]sein. Das heißt, die Frage ist: Wo werden

0:42:57.910,0:43:01.990
Daten, mit denen gearbeitet wird? Wo[br]werden sie gespeichert? Sind sie dort

0:43:01.990,0:43:05.920
überhaupt sicher genug? Haben wir[br]überhaupt WLAN an den Schule, damit dort

0:43:05.920,0:43:10.240
vor Ort gearbeitet werden kann? All diese[br]Fragen. Natürlich braucht es auch auf der

0:43:10.240,0:43:14.440
Entscheidungsebene Kompetenzen. Es braucht[br]den Kulturwandel und überhaupt erst einmal

0:43:14.440,0:43:19.750
die Grundlagen der Digitalisierung, bevor[br]wir mit KI die nächsten Stufe gehen. Wir

0:43:19.750,0:43:23.950
brauchen die Regelung zur menschlichen[br]Entscheidungsfähigkeit tatsächlich auch in

0:43:23.950,0:43:29.980
den Arbeitsverträgen und wie auch in[br]anderen Verwaltungsbereichen auch sollte

0:43:29.980,0:43:33.820
es auch im Bildungsbereich einfach ganz[br]klare Beschaffungsrichtlinien geben. Wenn

0:43:33.820,0:43:38.920
Systeme angeschafft werden, dann braucht[br]es ganz klare Anforderungskataloge, wie

0:43:38.920,0:43:44.860
diese Systeme gestaltet werden sollen. Und[br]natürlich muss sich dann auch der Bund

0:43:44.860,0:43:50.410
entscheiden, Förderungen in die richtige[br]Richtung zu schicken und diese Systeme zu

0:43:50.410,0:43:54.910
fördern und zu unterstützen, die sich auf[br]die Meso- und Makroebene fokussieren und

0:43:54.910,0:44:02.050
nicht die Attack Startups, die versuchen,[br]das Lernerlebnis für Schüler zu

0:44:02.050,0:44:06.250
verbessern, obwohl es dafür keine Evidenz[br]gibt, werde ich auch nicht müde, das immer

0:44:06.250,0:44:11.200
wieder zu wiederholen. Und dann haben wir[br]natürlich auf der rechtlichen Ebene noch

0:44:11.200,0:44:14.800
viele offene Fragen, die KI-Systeme im[br]Allgemeinen betreffen und gar nicht

0:44:14.800,0:44:19.360
unbedingt nur auf den Bildungssektor[br]Anwendung finden. Und das ist einmal die

0:44:19.360,0:44:24.070
Problematik der Nachvollziehbarkeit. Also[br]solange KI-Systeme an sich selber nicht

0:44:24.070,0:44:27.700
nachvollziehbar sind, müssen zumindest[br]Schnittstellen geschaffen werden, dass

0:44:27.700,0:44:32.980
Evualator:innen oder Forscher:innen[br]zumindest reingucken können, was das

0:44:32.980,0:44:38.020
System überhaupt macht. Wir brauchen eine[br]Nachweisbarkeit, dass diese Systeme

0:44:38.020,0:44:42.790
funktionieren, erst recht, wenn wir mit[br]Schüler:innen an Daten arbeiten wollen. Und

0:44:42.790,0:44:48.340
wir brauchen eine Kritikalität ex ante.[br]Wir reden hier vom Bildungssektor. Dort

0:44:48.340,0:44:52.300
werden Lebenswege vorbestimmt. Das ist[br]nicht der Raum, um Experimente zu machen

0:44:52.300,0:44:56.590
und mal Systeme loszulassen, laufen zu[br]lassen und dann mal zu gucken, welche

0:44:56.590,0:45:01.000
Probleme sie eventuell entwickeln. Wir[br]haben aus dem Ausland jetzt schon genügend

0:45:01.000,0:45:04.870
Beispiele, was nicht gut funktioniert. Ich[br]wäre kein Fan davon, wenn wir das Ganze

0:45:04.870,0:45:09.790
hier in Deutschland nochmal wiederholen[br]wollen. Eigentlich nicht nötig, das zu

0:45:09.790,0:45:12.190
sagen, aber es braucht letztendlich auch[br]eine rechtlich bindende

0:45:12.190,0:45:17.470
Anbieterstabilität. Es gab tatsächlich,[br]ich glaube auch in den USA, das System

0:45:17.470,0:45:21.760
inBlue. Das wurde überall ausgerollt und[br]eingesetzt. Und dann irgendwann hat der

0:45:21.760,0:45:25.390
Anbieter entschieden, seine Dienste[br]einzustellen. Was aus den Daten geworden

0:45:25.390,0:45:31.270
ist bis dahin weiß letztendlich kein[br]Mensch. Das ganze Thema Offenheit sollte

0:45:31.270,0:45:35.230
gerade bei KI Entwicklung im[br]Bildungssektor viel, viel stärker auch

0:45:35.230,0:45:41.883
eingefordert und verankert werden. Das[br]heißt, auch KI-Systeme sollten wie Open-

0:45:41.883,0:45:47.710
Source-Software behandelt werden, als[br]OpenAI z.B. stärker mitgefördert werden. Wir

0:45:47.710,0:45:54.400
müssen viel stärker entwickeln im Bereich[br]OER Open Data, um dann diese ganzen Daten,

0:45:54.400,0:45:59.740
die wir im Lern-Kontext dann auch sammeln,[br]wiederum als Open Educational Data, also

0:45:59.740,0:46:05.380
als OED auch wieder zur Verfügung zu[br]stellen. Ohne offene Datenbasis kommen wir

0:46:05.380,0:46:10.810
da nicht hin. Sehr charmant finde ich auch[br]die Idee der öffentlichen Register. Dort

0:46:10.810,0:46:14.770
sollten sich auch KI-Systeme im[br]Bildungsbereich eintragen lassen. Und was

0:46:14.770,0:46:19.480
auf jeden Fall passieren muss, ist die[br]Überarbeitung des Artikels 22 der DSGVO.

0:46:19.480,0:46:24.040
Dort werden im Moment ja nur[br]Entscheidungen geregelt,

0:46:25.060,0:46:29.950
vollautomatisierte Entscheidungen sind[br]dort geregelt. Was nicht geregelt ist,

0:46:29.950,0:46:34.630
sind teilautomatisierte Systeme und[br]teilautomatisierte Systeme sind ja die, die

0:46:34.630,0:46:38.170
jetzt eigentlich weitestgehend im Einsatz[br]sind. Und wenn wir auch da wieder im

0:46:38.170,0:46:41.470
Hinterkopf haben, dass ja als Argument[br]immer noch gilt: Der Mensch trifft die

0:46:41.470,0:46:45.160
letzte Entscheidung, werden wir es auch[br]zukünftig verstärkt mit teil-

0:46:45.160,0:46:49.840
automatisierten System zu tun haben. Und[br]dort müssen Einspruchsrechte und

0:46:49.840,0:46:55.370
Widerspruchsrechte einfach noch klarer[br]geregelt werden. Ach nee, bevor ich zu

0:46:55.370,0:47:00.380
meinem Fazit komme, möchte ich nochmal auf[br]die lange Kette der Verantwortlichkeit

0:47:00.380,0:47:05.540
auch nochmal eingehen. Wenn Systeme[br]tatsächlich ausgewählt werden, müssen

0:47:05.540,0:47:11.360
Entscheider in der Lage sein, auch diese[br]Systeme zu beurteilen. Und in ganz, ganz

0:47:11.360,0:47:16.100
grober Anlehnung an diese lange Kette der[br]Verantwortlichkeit von Katharina Zweig und

0:47:16.100,0:47:21.470
Tobias Kraft sollte es mit in einen[br]Anforderungskatalog und sollte es mit in

0:47:21.470,0:47:26.090
den Kompetenzkatalog von all denjenigen,[br]die dazu entscheiden, dass sie in der Lage

0:47:26.090,0:47:30.620
sind, zu hinterfragen und zu prüfen.[br]Aufgrund von welcher Datenbasis wurde ein

0:47:30.620,0:47:35.000
System trainiert, also welche Qualität,[br]welche Quantität? Wie alt sind die Daten?

0:47:35.000,0:47:39.530
Passen sie überhaupt zum Trainingszweck?[br]Dann letztendlich auch nach welchen

0:47:39.530,0:47:45.500
Maßgaben wurde das System trainiert? Ganz[br]ganz wichtig ist ja auch ein KI-System,

0:47:45.500,0:47:48.950
das einmal für einen bestimmten Zweck[br]trainiert wurde, ist nicht unbedingt

0:47:48.950,0:47:52.430
günstig in einem ganz anderen[br]Anwendungskontext. Gerade im

0:47:52.430,0:47:55.850
Bildungsbereich, wenn damit geworben wird,[br]dass bei Übersetzungssystemen oder

0:47:55.850,0:48:00.080
Spracherkennungssystemen das es ja ganz[br]ganz tolle Software as a Service Systeme

0:48:00.080,0:48:04.250
schon gibt, die quasi von der Stange[br]gekauft werden können, muss immer noch

0:48:04.250,0:48:08.000
hinterfragt werden: Passt das tatsächlich[br]zu meinem Anwendungskontext? Und

0:48:08.000,0:48:12.350
letztendlich passt auch dieses System zu[br]meinem Ethik-System, das ich bei mir an

0:48:12.350,0:48:17.930
der Schule habe. Datenverwendung ist ganz,[br]ganz wichtig. Was passiert mit den Daten,

0:48:17.930,0:48:22.490
die erhoben werden an einer Schule, auch[br]wenn es nur Daten von Lehrkräften sind?

0:48:22.490,0:48:26.390
Gerade in dem Moment, wo es[br]personenbezogene Daten sind, muss einfach

0:48:26.390,0:48:31.310
sichergestellt werden, dass nicht nur[br]rechtlich, sondern auch tatsächlich aktiv

0:48:31.310,0:48:34.670
in der Anwendung ist, es überhaupt kein[br]Weg gibt, dass diese Daten an Stellen

0:48:34.670,0:48:38.900
weitergegeben werden, wo sie nicht[br]hingehören. Es gibt aus den USA, auch mal

0:48:38.900,0:48:46.280
wieder dort dieses Beispiel, dass Akteure[br]der Wissenschaftsverlagsbranche Daten von

0:48:46.280,0:48:50.540
Wissenschaftlern weitergegeben haben an[br]die Einwanderungsbehörde ICE, was auch

0:48:50.540,0:48:53.600
immer sie dort verloren haben. Aber das[br]sind alles Entwicklungen, die müssen

0:48:53.600,0:48:58.400
ausgeschlossen sein. Ganz großer Komplex[br]IT-Sicherheit. Das muss sichergestellt

0:48:58.400,0:49:03.740
sein. Das ist im Prinzip ein eigener[br]Vortrag. Dort möchte ich hier aber

0:49:03.740,0:49:07.840
verweisen auf die Arbeiten der Stiftung[br]Neue Verantwortung, die schon ganz, ganz

0:49:07.840,0:49:11.530
viel dazu untersucht und entwickelt und[br]auch Schaubilder gemacht haben, welche

0:49:11.530,0:49:16.450
Angriffs-Vektoren es für KI-Systeme[br]überhaupt gibt. Und letztendlich müssen

0:49:16.450,0:49:20.830
Entscheider:innen auch sicherstellen, dass es[br]Ressourcen gibt, um dieses Thema, wenn sie

0:49:20.830,0:49:23.920
dann einmal im Einsatz sind, auch[br]tatsächlich dauerhaft evaluiert sind,

0:49:23.920,0:49:27.550
damit sich diese ganzen Schwächen, die wir[br]ja kennen, nicht erst in der Praxis, dann

0:49:27.550,0:49:33.520
auch noch einschleichen. Das heißt, wenn[br]einem bewusst wird, was es alles für

0:49:33.520,0:49:37.780
Anforderungen braucht, um KI-Systeme im[br]Bildungssektor egal zu welchem Zweck

0:49:37.780,0:49:42.940
einzusetzen, dann wird glaube ich klar,[br]dass das etwas ist, was noch ein sehr

0:49:42.940,0:49:47.350
langer Weg ist, was nicht überhastet[br]angegangen werden soll und was noch sehr,

0:49:47.350,0:49:51.580
sehr viel Qualifizierung und[br]Weiterentwicklung braucht. Und das

0:49:51.580,0:49:55.960
letztendlich bringt mich jetzt zu meinem[br]Fazit. Bisher ist es so, dass bei KI im

0:49:55.960,0:49:59.680
Bildungssektor vornehmlich darüber[br]gesprochen wird, dass Learning Analytics

0:49:59.680,0:50:03.250
Systeme eingesetzt werden, um halt das[br]Lernverhalten von Schülerinnen und

0:50:03.250,0:50:07.840
Schülern zu analysieren und dabei mit[br]personenbezogenen Daten gearbeitet wird.

0:50:07.840,0:50:12.580
Letztendlich gibt es zum jetzigen[br]Zeitpunkt noch keine Evidenz dafür, dass

0:50:12.580,0:50:15.910
diese Systeme funktionieren und dass diese[br]ganzen Datensammlungen auch tatsächlich

0:50:15.910,0:50:19.600
sinnvoll sind. Es ist ganz, ganz viel[br]Marketing und vor allem auch

0:50:19.600,0:50:22.990
Wirtschaftsförderung dahinter. Wenn diese[br]Startups jetzt in die Richtung gefördert

0:50:22.990,0:50:28.060
werden und das Risiko, das damit entsteht,[br]wenn diese Systeme weiterhin in die

0:50:28.060,0:50:31.450
Schulen gedrückt werden, ist dass die[br]wahren strukturellen Probleme einfach

0:50:31.450,0:50:35.020
dadurch verschleiert werden und dass diese[br]Mangelwirtschaft einfach fortgesetzt

0:50:35.020,0:50:39.040
werden und diese ganzen Potenziale, die KI[br]tatsächlich mit sich bringt, diese

0:50:39.040,0:50:45.190
Probleme tatsächlich mit zu lösen, dass[br]die einfach gar nicht gehoben werden. Das

0:50:45.190,0:50:51.250
Risiko dabei ist, dass es vornehmlich[br]immer um personenbezogene Daten von

0:50:51.250,0:50:55.540
minderjährigen Schüler:innen geht und dass[br]die ganzen Chancen, die wir im OpenData

0:50:55.540,0:51:00.670
Bereich haben, dafür einfach weiterhin[br]nicht genutzt werden. Und wir haben jetzt

0:51:00.670,0:51:04.900
den Zeitpunkt, wo die Weichen gestellt[br]werden. Ist das genau der Pfad, auf dem

0:51:04.900,0:51:08.620
wir jetzt auch weitergehen wollen? Oder[br]wollen wir jetzt anfangen, in diese

0:51:08.620,0:51:13.600
Entwicklung einzugreifen und den Fokus[br]mehr auf die Meso- und Makroebene legen?

0:51:13.600,0:51:19.510
Die EU-Kommission hat jetzt kürzlich ihren[br]überarbeiteten Digital Education Plan

0:51:19.510,0:51:24.070
vorgestellt. Dort ist zu diesem ganzen[br]Thema KI vorgesehen, dass Lehrkräfte

0:51:24.070,0:51:29.140
weitergebildet werden müssen. Dass es[br]Ethik-Leitlinien geben müssen und

0:51:29.140,0:51:32.140
letztendlich auch, dass Forschung nochmal[br]intensiviert werden muss. Und das ist

0:51:32.140,0:51:37.060
jetzt genau der Punkt, um dort reinzugehen[br]und die Fragen zu stellen und darauf hin

0:51:37.060,0:51:42.580
zu drängen, dass in die richtige Richtung[br]geforscht wird. Das hat mich letztendlich

0:51:42.580,0:51:48.250
in dieser ganzen Vorbereitung zu meiner[br]Empfehlung gebracht. In Anlehnung an diese

0:51:48.250,0:51:52.360
Pyramide von der Datenethikkommissionen,[br]die ich eigentlich, wenn das Prinzip der

0:51:52.360,0:51:56.800
Risiko-Klassifizierung diskutabel ist,[br]finde ich eigentlich dieses

0:51:56.800,0:52:03.100
Pyramidensystem sehr gelungen. Und[br]übertragen auf KI-Systeme im

0:52:03.100,0:52:07.900
Bildungsbereich sehe ich einen ganz, ganz[br]großen, grünen, unkritischen Bereich, wenn

0:52:07.900,0:52:11.230
es darum geht, die Forschung und[br]Entwicklung auf der Makroebene weiter zu

0:52:11.230,0:52:16.210
unterstützen und weiter zu fördern. Alles[br]unter der Nutzung von Open Data, die

0:52:16.210,0:52:20.680
entweder schon vorhanden sind oder[br]vielleicht auch noch weiter erhoben und

0:52:20.680,0:52:24.580
genutzt werden können. Das fließt[br]größtenteils auch noch mit rein in die

0:52:24.580,0:52:29.770
Meso Ebene, die auch auf der Basis von[br]Open Data schon sehr sehr viel Gutes

0:52:29.770,0:52:34.690
erreichen kann. Und ganz ganz oben in der[br]Spitze, wo ich den roten Bereich sehe, ist

0:52:34.690,0:52:39.880
tatsächlich die Mikroebene, wenn es um die[br]Analyse-Systeme geht für Schüler:innen und

0:52:39.880,0:52:44.470
für Lehrkräfte, wo mit personenbezogenen[br]Daten gearbeitet wird. Wenn es dort

0:52:44.470,0:52:48.820
weitere Entwicklungen geben sollte, dann[br]würde ich es bevorzugen, wenn es dort ein

0:52:48.820,0:52:52.180
Forschungsbereich gibt oder den[br]Anwendungsbereich vielleicht höchstens für

0:52:52.180,0:52:57.940
Lehrkräfte. Aber dass wir die ganze[br]Analyse von Schüler:innen vielleicht

0:52:57.940,0:53:01.450
erst mal noch außen vorlassen, bis wir[br]vielleicht viel mehr über KI-Systeme

0:53:01.450,0:53:05.740
wissen und alles immer unter der[br]Voraussetzung, dass die Daten, die erhoben

0:53:05.740,0:53:09.580
werden, dann auch weiter zur Verfügung[br]gestellt werden für die Generierung von

0:53:09.580,0:53:16.840
Open Educational Data. Das war's. Vielen[br]Dank für eure Aufmerksamkeit. Alle

0:53:16.840,0:53:20.590
Anregungen, um die ich gebeten habe, alle[br]Lücken, die ich vielleicht noch gelassen

0:53:20.590,0:53:24.440
habe, oder alle Interessenten, die Lust[br]haben, an diesem Thema auch noch mit

0:53:24.440,0:53:28.670
weiterzuarbeiten, freue ich mich total[br]über Kontaktaufnahme und Feedback und

0:53:28.670,0:53:33.470
weitere Informationen. Ich habe hier auch[br]noch einen großen Anhang mit Quellen, die

0:53:33.470,0:53:38.480
ich verarbeitet habe. Wenn es dazu auch[br]noch Rückfragen gibt, kommt jederzeit

0:53:38.480,0:53:42.770
- nicht jederzeit, nich nachts um drei. Also per E-Mail[br]schon, aber vielleicht nicht per Telefon.

0:53:42.770,0:53:46.550
Aber die habt ihr ja auch gar nicht die[br]Nummer - egal, kommt einfach auf mich zu.

0:53:46.550,0:53:50.450
Und dann würde es mich freuen, wenn wir im[br]Gespräch bleiben. Vielen Dank.

0:53:50.450,0:53:56.270
Herald: Hallo Nina, schön, dass du da

0:53:56.270,0:54:02.270
warst. Danke für den spannenden Vortrag[br]grade. Wir hatten so ein bisschen

0:54:02.270,0:54:05.660
technische Probleme im Hintergrund. Ich[br]hoffe deswegen, dass alle im Live-Stream

0:54:05.660,0:54:14.450
den Talk auch gut sehen konnten. Nina, du[br]hast viel erzählt über KI und die Grenzen

0:54:14.450,0:54:19.880
und Vorteile. Was sind denn so aus deiner[br]Sicht vielleicht die klugen nächsten

0:54:19.880,0:54:23.540
Schritte, die man so gehen müsste? Was[br]künstliche Intelligenz und Klassenzimmer

0:54:23.540,0:54:29.330
betrifft?[br]Nina: Hallo Nina, ja genau. Was sind die,

0:54:29.330,0:54:33.470
was sind die nächsten Schritte? Also ich[br]glaube wir sind im Moment an so einer

0:54:33.470,0:54:37.760
Entwicklungsphase, wo KI in der Schule und[br]im Bildungsbereich einfach noch nicht so

0:54:37.760,0:54:40.790
wahnsinnig weit verbreitet ist. Und ich[br]hab das ja auch gemerkt bei meiner

0:54:40.790,0:54:45.380
Recherche und auch z.B. hier, was diese[br]Meso-Ebene angeht. Es gibt noch nicht so

0:54:45.380,0:54:50.450
extrem viele Anwendungen, wo man konkret[br]jetzt schon reingehen und eingreifen kann

0:54:50.450,0:54:52.910
und sagen wir wollen hier eine andere[br]Entwicklung oder das und das muss so

0:54:52.910,0:54:59.270
konkret weitergehen. Was allerdings gut an[br]dieser Entwicklung ist, ist eben, dass wir

0:54:59.270,0:55:04.670
noch an diesem frühen Punkt sind und auch[br]die Möglichkeiten haben, Einfluss nehmen

0:55:04.670,0:55:09.040
zu können. Habe ich da ein äh im[br]Hintergrund gehört? Ja okay, ich rede

0:55:09.040,0:55:14.260
einfach weiter. Das heißt, nach allem, was[br]ich jetzt mitbekommen habe, wie sich das

0:55:14.260,0:55:20.050
Thema KI in der Bildung gerade ansetzt zu[br]entwickeln, möchte ich eigentlich gerne so

0:55:20.050,0:55:24.250
eine Art Break machen. Einen kleinen[br]Schnitt und nochmal hinterfragen ist der

0:55:24.250,0:55:28.300
Weg, der jetzt eingeschlagen wird von den[br]Attack-Startups und auch von den

0:55:28.300,0:55:32.200
Regierungen, ist das überhaupt der[br]Richtige, dass wir KI-Systeme einsetzen,

0:55:32.200,0:55:38.650
um das Verhalten und Lernverhalten von[br]Lernenden zu analysieren? Oder wollen wir

0:55:38.650,0:55:42.160
nicht nochmal überlegen, ob wir nicht die[br]KI-Systeme, die wir jetzt haben, dazu

0:55:42.160,0:55:45.490
nutzen können, die strukturellen Probleme[br]im Bildungssektor anzugehen? Davon gibt es

0:55:45.490,0:55:49.510
genug. Dort haben wir eine ganz andere[br]Datenbasis und es kann vor allem weniger

0:55:49.510,0:55:54.370
Schaden angerichtet werden für die[br]einzelnen Personen, die analysiert werden

0:55:54.370,0:55:57.940
oder dann halt auch im besten Fall gar[br]nicht mehr analysiert werden, weil alles,

0:55:57.940,0:56:02.500
was wir aus der KI Geschichte wissen, dass[br]es sehr, sehr viel Schwierigkeiten gibt,

0:56:02.500,0:56:06.970
sobald KI in sozialen Kontexten eingesetzt[br]werden. Also wenn KI-Systeme benutzt

0:56:06.970,0:56:10.570
werden, um Menschen zu analysieren, jetzt[br]kurz auf den Punkt gebracht, dann führt

0:56:10.570,0:56:14.380
das meistens zu größeren Problemen und wir[br]sollten in der Bildung nicht diese Fehler

0:56:14.380,0:56:18.760
wiederholen.[br]Herald: Ja, das sind auf jeden Fall

0:56:18.760,0:56:23.530
ziemlich gute Gedankenanstöße. Wir haben[br]leider gar nicht so richtig, richtig viel

0:56:23.530,0:56:26.440
Zeit, um jetzt hier noch Fragen zu[br]beantworten. Ich sehe gerade im Chat auch

0:56:26.440,0:56:31.330
tatsächlich keine. Ich bin aber sicher,[br]dass es da noch viel Gesprächsbedarf gibt.

0:56:31.330,0:56:36.790
Deswegen würde ich vorschlagen, dass wir[br]jetzt mit dir in einen Big Blue Button

0:56:36.790,0:56:38.022
umziehen.

0:56:38.022,0:56:40.750
<i>Outro Musik</i>

0:56:40.750,0:56:48.000
Untertitel erstellt von c3subtitles.de[br]im Jahr 2021. Mach mit und hilf uns!