35C3 Vorspannmusik Herald: Ich weiß nicht, wie es euch geht aber jedes Mal wenn ich höre, dass irgendwie die Bundesrepublik irgendwas an Computerprogramm geschrieben hat, dann läuft es mir ziemlich kalt den Rücken runter. Und wenn ich dann auch noch höre, dass sie über Menschenleben entscheiden wollen, lieber ein Computerprogramm einsetzen, statt einen kompetenten Mitarbeiter, dann finde ich das Ganze irgendwie noch viel verwerflicher und Anna Biselli ist der Frage seit ungefähr anderthalb Jahren nachgegangen, wie das passiert und was in diesem Abstimmungsprozess passiert. Und sie wird uns heute erzählen wie Computer über das Asyl mitentscheiden. Einen großen Applaus für Anna Biselli Applaus Anna Biselli: Hallo und schön, dass ihr gekommen seid. Ich sehe euch zwar jetzt nicht mehr, weil es so hell geworden ist. Es soll um Computer gehen, die über Asyl (mit)entscheiden. Und das BAMF nennt das anders. Das BAMF nennt das „Integriertes Identitätsmanagement - Plausibilisierung, Datenqualität und Sicherheitsaspekte". Das sind Systeme, die das BAMF vor anderthalb Jahren eingeführt hat und die die ganzen Asylprozesse effizienter machen sollen. Und es geht um folgende Systeme. Es geht um ein System zur Namentranskription , das heißt zur Übertragung von arabischen Namen in lateinische Buchstaben. Es geht um Sprachbiometrie oder vielleicht einfacher verständlich: Dialektanalyse, um festzustellen wo jemand herkommt und es geht um das Auslesen mobiler Datenträger, das heißt salopp gesagt, um eine Handyauswertung. Und wir wollen auch in dieser Reihenfolge, die diese Schulungen für BAMF-Mitarbeiter vorgibt, vorgehen. Gerade sind wir noch bei der Einführung aber ich will noch ein bisschen was zu der Geschichte dieses Talks erzählen. Und zwar beschäftige ich mich mit dem Thema seit zum ersten Mal gesagt wurde das BAMF will Dialekterkennung einsetzen, um herauszufinden, woher jemand kommt und eigentlich bin ich Informatikerin, bin dann zur Journalistin geworden und so aus meiner Zeit sage ich mal an der Uni, wo man sich über automatische Entscheidungssysteme Gedanken gemacht hat, dachte ich: Okay, man kann natürlich Anhaltspunkte dafür finden, welche Sprache jemand spricht aber das ist ja alles ganz schön schwierig. Dann habe ich angefangen mich mit diesem Thema zu beschäftigen und je mehr ich mich damit beschäftigt hab, desto schlimmer fand ich die ganze Sache. Und hab versucht mehr Infos dazu zu bekommen. Unter anderem habe ich in diesem Jahr im April dem BAMF eine Informationsfreiheitanfrage gestellt und gesagt: „Bitte schickt mir doch mal die Unterlagen, die ihr euren Entscheidern und Mitarbeitern gebt, mit denen sie geschult werden, diese Systeme zu bedienen", weil ich wissen wollte.... Solche Programme sind oftmals nicht einfach zu verstehen weil es einfach sehr komplexe Di nge sind, da muss man eigentlich verstehen was stehen da für Algorithmen dahinter, wie treffsicher sind die Programme, wie interpretiere ich irgendwelche Ergebnisse, die aus Statistiken bestehen und da wollte ich wissen, wie können die Leute überhaupt damit umgehen. Wie gesagt, das war im April. Und dann... Normalerweise sollen IFG-Anfragen innerhalb eines Monats beantwortet werden und ich musste dann warten. Ziemlich lange warten. Und zwar hat es dann gedauert und dann hab ich dem BAMF gesagt: „Bitte, bitte schickt mir die doch." Dann wurde es plötzlich Juni. Dann wurde es Juli und irgendwann im August kam dann eine Antwort und sie sagten mir: „Okay, wir schicken ihnen jetzt die Schulungsunterlagen und sogar die Benutzerhandbücher." Nach denen hatte ich gar nicht gefragt. Das hat mich sehr gefreut. Dann habe ich weiter gelesen. Und das BAMF hat gesagt: „Na ja, wir schicken Ihnen die jetzt zwar aber die sind nur für Ihre Kenntnisnahme und zur Befriedigung ihres nach dem IFG gegebenen Anspruchs auf Informationszugang bestimmt." Und das darf man aber nicht veröffentlichen oder anderen Personen zugänglich machen. Da dachte ich mir, na ja, hm, eigentlich ist das genau mein Job und deshalb machen wir das jetzt. Applaus A: Und weil das Ganze 123 Folien sind und nochmal so...weiß ich nicht 80 Seiten Benutzerhandbücher wollte ich die nicht in 60 Minuten durchprügeln, die findet Ihr jetzt auf FragDenStaat und Netzpolitik, falls ihr die dann nachlesen wollt. Applaus A: Kommen wir zum ersten Punkt der Zielsetzung. Und zwar meine Zielsetzung ist sicherlich eine andere als die des BAMF. Ich will aufzeigen, was für Probleme es gibt und was da schief gehen kann und tatsächlich sind diese Folien ganz gutes Material, um zu zeigen was da wirklich schief geht. Genau. Hier nochmal die Übersicht. Das sind die neuen Bestandteile. Die Bildbiometrie, das heißt der Abgleich von Gesichtsbildern mit bereits bestehenden Akten, um herauszufinden, wer vielleicht schon mal registriert war, lassen wir hier raus, weil das nochmal ein System ist, das ist so ein bisschen alt abgehangen und nicht neu in dem Sinne, nur neu für das BAMF. Und wir fragen uns erst einmal, wie kam es überhaupt zu diesen ganzen Systemen. Wir wissen ja, okay, 2015, 2016 kamen sehr viele Menschen nach Deutschland und haben hier Schutz gesucht. Und dann gab es diese hässlichen Schlagzeilen oder diese hässlichen Bilder von ganz vielen Menschenschlangen, die vor dem BAMF warten. Menschen, deren Asylanträge irgendwo in der Warteschleife steckten und man hat versucht, dieses Problem zu lösen, denn irgendwann war ja auch Wahlkampf. Das heißt, kurz vor der heißen Wahlkampfphase 2017 hat man dann diese Systeme vorgestellt mit einer relativ..ja, pompösen Pressebegleitung und hat gesagt: „Wir können jetzt unsere Asyl...ja, unseren Asylantragsstau quasi beheben, indem wir diese Assistenztools haben." Und damals hat Markus Richter, das ist der damalige Leiter der IT des BAMF gesagt: „Die tragen zu einem schnelleren und sichereren Asylverfahren bei, da sie Unklarheiten ausräumen können." Reibt sich mit Taschentuch die Nase A: Woher kommt das? Woher kommt dieser Gedanke? Der Gedanke kommt von diversen Unternehmensberatungen, die das BAMF beraten haben. Das BAMF ist eine der Behörden in Deutschland, die die meisten Unternehmensberatungsbudgets gekriegt haben. Das sieht man unter anderem auch daher dass ein früherer BAMF-Chef, der Frank-Jürgen Weise, hat vorher bei der Arbeitsagentur das Gleiche für die ganzen Hartz IV-Beantragung gemacht. Das heißt wir sehen eine ganze Digitalisierung eines Prozesses, der ähnlich lief, wie früher bei den Arbeitsagenturen. Und so kam es eben, dass dann im Jahr 2016 allein McKinsey für die Beratung des BAMF ungefähr 20 bis 30 Millionen Euro bekommen hat und das war nicht die einzige Unternehmensberatung, die das gemacht hat. Und die haben eben auf Digitalisierung gesetzt. Ich werde jetzt damit anfangen, das erste System zu beschreiben. Das ist dieser sogenannte Transliterationsassistent, auch genannt TraLiTa. Das ist ein System, das macht, dass jemand seinen Namen in arabischer Schrift eingibt und dieser Name dann einheitlich in lateinische Buchstaben übertragen werden soll. Einfach deshalb, weil man verhindern will, dass es Doppeldeutigkeiten gibt, weil man eben bei der Übertragung von arabischen Schriftzeichen in lateinische Buchstaben nicht immer ein einheitliches Verfahren hat und vorher haben das zum Teil die Dolmetscher gemacht und die das dann nach ihrem eigenen angelernten Verfahren oder nach ihrem Gehör gemacht haben. Das kann man, finde ich, noch relativ gut nachvollziehen. Und diese Schulungunterlagen geben auch eine sehr detaillierte Klickanleitung. Da sieht man dann, okay, hier musst du die Personennummer eingeben und dann im nächsten Schritt muss dann der Antragsteller seine Daten eingeben, muss alle seinen Namen eingeben, dann klickst du weiter und dann wird das gespeichert, die Eingabe überprüft und so weiter und so fort. Dieses System aber...macht aber nicht nur das. Das heißt, es geht nicht nur darum, einen Namen in lateinische Buchstaben zu übertragen, sondern das System will auch...herausfinden, ob dieser Name plausibel ist. Das heißt, man sieht es da unten unter dieser Empfehlung Transliteration. Da stehen dann so drei Länder und dahinter stehen Prozentzeichen und diese Prozentzeichen sollen eben sagen, na wie wahrscheinlich ist es denn, dass diese Personen wirklich aus dem Land kommt, aus dem sie sagt, dass sie herkommt. Um dann eben festzustellen, na ja in dem folgenden Land ist dieser Name besonders gebräuchlich und in diesem Land ist dieser Name besonders gebräuchlich. Und das Ganze hat man dann vielleicht eingesehen, dass das mit den Prozentzahlen nicht so richtig gut funktioniert weil das ist noch der Stand aus den Schulungsunterlagen. In der Realität sehen die anders aus. Das ist ein Ausschnitt aus einer Dienstanweisung, die wir jetzt auch veröffentlicht haben. Und da steht dann nur noch: Der Name kommt im angegebenen Land Afghanistan selten vor und in anderen Ländern kommt er auch selten vor, am häufigsten noch dort und dort. Wenn man sich anguckt wie diese Software arbeitet...das ist eine kommerzielle Datenbank. Die besteht aus Milliarden Einträgen an Namen und den zugehörigen Ländern, wahrscheinlich indem sie Telefonbücher geparsed haben und für arabischsprachige Länder sind dort jeweils 20000 Einträge drin. Wenn man sich überlegt, okay, wie viele Namen gibt es so in einem Land und wie viele sind dort üblich, ist das nicht so super viel. Und dieses System hat das BAMF dafür aber ziemlich viel gekostet. Nämlich insgesamt 3,1 Millionen Euro, die bis Ende 2019 vorgesehen sind. Und es ist auch ziemlich weit entfernt von dem was Markus Richter, der damalige IT-Leiter der mittlerweile zum Vizechef des BAMF aufgestiegen ist, vorgegeben hat. Er hat sich nämlich hingestellt und gesagt: „Wir haben alle Telefonbücher der arabischen Welt gescannt." Und ich würde bezweifeln, dass alle Telefonbücher der arabischen Welt aus 20000 Einträgen pro Herkunftsland bestehen. Und ich würde es auch bezweifeln, dass man aus irgendeinem Telefonbuch ableiten kann, zuverlässig ableiten kann, ob eine Person wirklich die Wahrheit über ihre Herkunftsangabe sagt. Das hat mittlerweile auch das BAMF selber eingesehen, und zwar gab es eine kürzliche kleine Anfrage, deren Antwort leider immer noch nicht öffentlich ist, weil im Bundestag auch Weihnachten ist. Da hat das Innenministerium gesagt: „Na ja, die Erfolgsquote die schwankt so ein bisschen. Und zwar, ja okay, wir haben eine Erfolgsquote von so 85 bis 90 Prozent bei Ländern wie Syrien aber in Maghreb- Staaten, das heißt zum Beispiel in Marokko, da haben wir nur noch eine 35 prozentige Erfolgsquote." Was man andersherum sagen könnte: In 65 Prozent der Fälle kommt totaler Bullshit raus. Das liegt dann daran, na ja, man hat dann ja auch andere Einflüsse, z.B. französische oder italienische Namen. Das heißt, wenn man das auf Deutschland überträgt, wenn du Horst heißt ist alles in Ordnung, wenn du Nancy heißt, ist nicht mehr so cool. Und...man muss dann eben...es klingt ein bisschen witzig aber man muss sich eben vorstellen, eine Personen in ihrem Asylverfahren gibt diese Daten an und hat vielleicht nicht den üblichsten Namen für die Region. Und dann steht da aber ein Hinweis. Da steht da, dieser Name ist für dieses Land nicht typisch. Das heißt wir generieren dadurch ein Misstrauen. Das heißt, dieses Programm gibt einen Hinweis vor, das sagt: okay, diese Person könnte vielleicht lügen und das wird sich dann jemand angucken. Das Ganze wird aber auch noch ein bisschen drastischer, wenn man sich die Sprachbiometrie anschaut. Ich hatte schon gesagt, die Sprachbiometrie dient dazu oder soll dazu dienen, Sprachen und Dialekte zu erkennen. Das geht, indem jemand ungefähr zwei Minuten lang in einen Telefonhörer spricht. Den Telefonhörer bewirbt das BAMF in einer anderen Präsentation als schlankes Frontend. Das finde ich tatsächlich relativ amüsant. Und für dieses System hat das BAMF einen Preis gewonnen. Nämlich das...den E-Government- Wettbewerb für das beste Digitalisierungsprojekt in der Verwaltung. Lachen A: Das kann man so glauben oder man kann es so nicht glauben. Auf jeden Fall ist das BAMF sehr stolz auf dieses System und das schlanke Frontend ist relativ einfach. Das heißt, jemand wählt die Nummer 72099. Dann drückt man eine Taste und bestätigt das mit Raute und dann spricht jemand zwei Minuten lang. Das heißt, da sitzt dann jemand und die Person hat Bilder vor sich, ein Bild oder mehrere. Und auf diesen Bildern sind so typische Szenen. Eine Person mit der ich gesprochen hab, sagte zum Beispiel: da war ein Haus und vor dem Haus war ein Garten und da war eine Mutter mit Kindern drin. Und dann sollte die Person eben diese Szene auf ihrer Muttersprache beschreiben und idealerweise zwei Minuten reden. Danach wird eine Taste gedrückt wird wieder die Rautetaste und man kriegt den Ergebnisbericht. Dieses System soll in der Lage sein, verschiedene Sprachen und Dialekte auseinanderzuhalten. Und vor allem hat es das BAMF auf arabische Dialekte abgesehen. Das heißt, das sieht man auch da auf der Folie. Es gibt verschiedene Regionen, in denen sich Dialekte im Arabischen unterscheiden. Das sind fünf Dialektgruppen, die das BAMF unterscheiden will. Natürlich gibt es noch viel mehr. Und das dient eben dazu, diese Verfahren zu beschleunigen und zu digitalisieren und die Asylentscheidung auf eine breite Grundlage zu stellen. Was aber, wie wir später sehen, werden nicht so richtig funktioniert. Eigentlich, das System das sie gekauft haben, das kommt von dem Hersteller Nuance, kann noch mehr Sprachen. Das heißt wir sehen hier okay Bulgarisch kann es, Deutsch kann es, amerikanisches Englisch kann es, Persisch kann es, Farsi und Dari. Aber die Entscheider oder bzw. die Asylverfahren- Sekretariatsmitarbeiter sind angehalten, das nur bei arabischsprachigen Antragstellern einzusetzen. Das ist auch das, was das BAMF immer behauptet. Wir haben aber trotzdem nach, sag ich mal nicht besonders langwierigen Recherchen mehrere Leute gefunden, bei denen das nicht der Fall war. Ich habe zum Beispiel einen Menschen gefunden, der ist eigentlich Kurde und kommt aus den Autonomieregionen im Irak, spricht also Kurdisch. Und spricht einen kleineren kurdischen Dialekt. Und dieser kurdische Dialekt taucht überhaupt nicht in dieser Liste auf. Dieser Mensch wurde trotzdem durch dieses System gejagt. Dieses System hätte niemals erkennen können, dass er die Sprache spricht, die er sagt, dass er sie spricht. Und dann kam dann raus: Okay, du sprichst Türkisch. Vielleicht sprichst du auch Hebräisch. Und dann saß dieser Mensch und sagte: „Hebräisch, was ist denn das überhaupt?" Er wusste es nämlich tatsächlich wirklich nicht und das ist einfach sehr krass, weil... ganz eklatante Fehler in diesem Verfahren passieren, weil den BAMF-Mitarbeitern nicht ordentlich mitgeteilt wird, für was sie das wirklich benutzen können. Das heißt, wir haben da eine Missachtung von den Vorschriften, die es schon gibt, um diese Systeme überhaupt zu bedienen. Wir sehen das auch nochmal unabhängig bestätigt, eben in der Antwort auf diese kleine Anfrage, die ich erwähnte. Da gibt es eine Tabelle drin, wo die Herkunftslandangaben der Personen aufgeschlüsselt sind, bei denen diese Spracherkennung gemacht wurde. Und da sieht man okay, da sind Menschen aus Kenia dabei. Da sind Menschen aus Bangladesch dabei. Da sind Menschen aus Venezuela dabei. Und das sind alles keine Länder, in denen Menschen normalerweise arabische Muttersprachler*innen sind. Und dann wird es richtig interessant und zwar das ist so ein Auswertungszettel aus den Schulungsunterlagen. Und wir sehen hier oben, da sind dann die Wahrscheinlichkeiten für verschiedene Dialekte drin, zum Beispiel Golf-Arabisch mit 76,1 Prozent, andere arabische Dialekte mit weniger Prozent und dann noch so unbekannte Sprachen. Und dann sieht man die Aufnahmedetails und dann sieht man noch ein paar technische Details und da steht unter anderem der Signal-Rausch- Abstand drin. Das ist ja eigentlich ein relativ relevantes Maß dafür, wie qualitativ die Aufnahme war. Das heißt eigentlich will ich ja, dass ich einen großen Signal-Rausch-Abstand habe, damit nicht zum Beispiel der Lkw, der im Hintergrund durchgefahren ist, länger, also lauter war, als die Sprache dessen, der in den Telephonhörer gesprochen hat. Aber das BAMF macht es sich da relativ einfach und seinen Mitarbeitern auch relativ einfach, indem sie einfach sagen: Es ist nicht relevant. Das braucht ihr überhaupt nicht beachten. Was man in diesen Dingern auch vergeblich sucht ist irgendein Hinweis darauf, ab wann so ein Ergebnis überhaupt aussagekräftig ist. Das heißt, da steht nirgendswo in diesen ganzen Unterlagen, die wir angefragt haben: Leute Ihr könnt erst Ergebnisse ab einer Wahrscheinlichkeit von, was weiß ich, 90 Prozent überhaupt als Anhaltspunkt nehmen. Das steht da nicht. Das heißt, die Leute sind damit komplett allein. Da kommt ein Zettel, da steht da irgendeine Sprache drauf, die ganz oben steht und dann denkt man sich halt so: Naja, was soll das denn überhaupt. Was mir daran auch sehr große Sorgen macht ist, dass es einfach überhaupt keine Qualitätskontrolle dazu gibt. Das BAMF selber sagt: Wir haben eine Fehlerquote von 15 Prozent. Das heißt, bei jedem fünften bis sechsten Menschen, der Asyl sucht, liegt dieses System falsch und das BAMF weiß das auch. Aber das BAMF gibt einfach keine Hinweise darauf, wie damit umzugehen ist. Das BAMF hat auch immer noch keine wissenschaftliche Begleitung zu diesem Prozess angefangen, obwohl sie das seit über einem Jahr behaupten, dass sie das bald mal machen wollen. Lange Zeit haben sie versucht zu verkaufen, dass sie mit der University of Pennsylvania geredet hätten. Dann haben wir nachgefragt. Dann hat sich herausgestellt: Okay, Sie haben bei denen ein Sprachpaket für 3000 Euro gekauft und das war dann Ihre wissenschaftliche Zusammenarbeit. Außerdem ganz abgesehen von diesen ganzen Sachen: Sprache ist eben nicht statisch. Sprache ist nicht mit dem Lineal gezogen. Sprache verändert sich im Laufe des Lebens. Und ich glaube wir haben hier ein Video, das nicht abspielen wird. Nö. Aber ich glaube, wir können den Ton abspielen lassen. Applaus Tonspur (Plattdeutsch): Und als ik damals Bürgmester wesse bin, in miin eigen Gemeind, da heb ik damals - wie jetzt - davon tücht [unverständlich] west, dat dat beete is wenn man [...unverständlich] og in Plattütsch sproken kann. ik würde seagen... Ende der Aufnahme A: Ja, das ist Deutsch. Tonspur (bayrisch): Ich arbeite mit dem Hans-Peter Ude jetzt schon irrsinnig lange Zeit zusammen, sehr gut. Er ist ein gestandenes Mannsbild, er hat eine klare politische Vorstellung. Er gehört zu den Politikern, bei denen man nach einem Gespräch auch weiß, was er will. Ende der Aufnahme A: Das ist auch Deutsch. Und ich glaube, das zeigt schon relativ eindrücklich, und wenn man sich selbst überlegt, wie sich die eigene Sprache innerhalb der eigenen Lebensgeschichte entwickelt, dass so etwas nicht als ernsthafter Hinweis funktionieren kann und dass es nicht sein darf, dass Menschen anhand eines solchen statistischen Merkmals wirklich kategorisiert werden. Applaus A: Man könnte jetzt sagen und das tut das BAMF auch immer wieder, dass das nur ein Hinweis unter vielen ist und dass in der Gesamtschau aller Hinweise, diese Asylanträge entschieden werden sollen. Ich habe noch eine andere Person getroffen, bei der war es so: Die Person hatte einen Flüchtlingsausweis aus einem Palästinenser-Camp dabei. Die Person hatte die Heiratsurkunde ihrer Eltern dabei. Diese Person hatte ihren Führerschein dabei aus Syrien und diese Person hatte eine lupenreine Fluchtgeschichte, die nachgewiesen werden konnte, hat das alles dem BAMF vorgelegt. Dann hat man diese Sprachanalyse gemacht und dann hat diese Sprachanalyse gesagt: Du kommst aber aus Ägypten. Und dann hat das BAMF gesagt: Dein Asylantrag wird leider abgelehnt. Und es gab wirklich keinen einzigen anderen Hinweis in dieser gesamten Akte, der gesagt hätte, dass diese Person nicht über ihre Herkunft die Wahrheit gesagt hätte. Und da sehen wir eben, dass diese Fälle eintreten. Da kann das BAMF noch so oft sagen: Das sind quasi alle Hinweise, die beachtet werden und das wird niemals alleine über das Asyl entscheiden. Sondern tatsächlich passiert es in Fällen. Wir müssen auch sehen: Ein Entscheider, der soll drei Fälle am Tag entscheiden. Das heißt, wenn man sich überlegt: Ok, da gibt es eine Anhörung von der Person, die kann auch mal zwei Stunden dauern, wenn sie viel zu erzählen hat. Dann müsste man sich mit der Geschichte dieser Person auseinandersetzen. Dann muss man noch irgendeine Entscheidung treffen und dann ist man eben in der Situation: Naja, der Computer hat aber gesagt, der Computer hat mir da so einen schönen Zettel gegeben, da stehen Prozentzahlen drauf, die haben sogar eine Nachkommastelle. Der muss ja recht haben. Und genau das ist das Problem an diesen Scheiß-Systemen, dass sie Leuten eine Sicherheit vermitteln, die es überhaupt nicht gibt und das sie dann anhand dieser Sicherheiten, die sie vermeinen zu haben, irgendwelche Entscheidungen über das Leben anderer Menschen treffen, die sie überhaupt nicht überschauen können. Applaus A: Das Problem ist tatsächlich sogar noch größer: Nämlich die Entscheidungen, die dann anhand solcher Ergebnisse getroffen werden, lauten nämlich die Person hat gelogen. Und wenn die Person gelogen hat, dann wird ihr Asylantrag nicht einfach nur abgelehnt. Dann wird ihr Asylantrag als offensichtlich unbegründet abgelehnt. Und das heißt, dass die Person nur eine Woche Zeit hat, um dem zu widersprechen und dagegen zu klagen. Das heißt eine Woche Zeit, um so ein Behördenschreiben zu interpretieren, um so ein Behördenschreiben zu erwidern und dann noch zu sagen: Ich akzeptiere das nicht. Ist schon ziemlich kurz, wenn man sich selber überlegt, wie lange man braucht, um Behördenschreiben zu verstehen. Und das ist glaube ich für sehr viele Menschen, die nicht mit diesem deutschen bürokratischen System aufgewachsen sind, einfach nur fast unmöglich, wenn sie nicht genug Unterstützung bekommen das zu tun. Und deshalb ist es eine besonders perfide Art und Weise, Leute damit wegzukriegen. Aber das erzähle ich später noch, was man dagegen tun kann. Erst einmal: Wie viel hat der Spaß gekostet? Der Spaß hat, oder soll, bis 2019 insgesamt 2,1 Millionen kosten. Das ist noch das billigste System von allen dreien. Das heißt wir merken uns: 3,1 Millionen für Namens-Wahrsagerei; 2,1 Millionen für die Sprachanalyse. Und dann kommen wir zu dem, glaube ich, medial am Besten berichteten System: dem Auslesen von mobilen Datenträgern, meistens sind das Handys. Und das ist ein System, bei dem merkt man auch ganz schön, wofür es eigentlich da ist. Weil die Befugnis dazu, die Handys von Geflüchteten auszulesen, kam mit einem Gesetz, das 2016 erlassen wurde. Und zwar dieses Gesetz heißt: Das Gesetz zur besseren Durchsetzung der Ausreisepflicht. Das heißt, da sieht man wofür diese ganzen Systeme eigentlich da sind. Man kann natürlich auch sagen, Ja, sagt das BAMF auch gerne, damit können ja die Antragsteller auch ihre Identität leichter belegen, und so weiter und so fort. Aber eigentlich geht es darum, dass man Menschen schneller ausweisen kann. Das funktioniert folgendermaßen: Eine Person, wenn sie nach Deutschland kommt und registriert wird und keinen Pass dabei hat, kann dazu aufgefordert werden, ihr Handy herauszugeben. Und dann wird dieses Handy angestöpselt, ausgelesen und es wird ein Bericht erstellt und dieser Bericht liegt dann erst einmal rum. Das, was interessant daran ist, ist dass da steht: Wenn diese Herkunft nicht durch ein milderes Mittel nachgewiesen werden kann, kann der Datenträger ausgelesen werden. Wenn man sich dann aber genau anguckt, was dieses mildere Mittel ist, wird das Ganze ziemlich lächerlich. Das hat man auch während dieses Gesetzgebungsprozess immer wieder gesagt, dass das nur die ultima ratio sein soll, weil es ist einfach ein ziemlich krasser Eingriff in die Privatsphäre von einem Menschen, sein ganzes Handy einmal abzuziehen und das mildere Mittel heißt eigentlich nur, dass du einen glaubwürdigen Pass vorlegen kannst. So. Das steht auch in der Dienstanweisung drin, die jetzt öffentlich sein sollte. Da steht drin, quasi mildere Mittel ist auch nicht die Anhörung, weil die Anhörung kommt nämlich immer erst nachdem dieses Ding ausgelesen wurde. Das heißt, du hast überhaupt keine Chance deine Geschichte überhaupt in irgendeiner Art und Weise plausibel zu machen, sondern erst einmal wird dein Handy runtergezogen. Das muss dann im späteren Verlauf freigegeben werden. Das heißt die Person, die dieses Handy ausliest, ist eine andere Person als die, die dir dann später in der Anhörung gegenübersitzt und die Person, die die Anhörung dann später macht, muss sagen: Okay, ich hätte jetzt gerne den Auswertungsbericht dieses Handys. Und das muss dann freigegeben werden von einem Juristen mit der Befähigung zum Richteramt und wird dann eben in einem Report ausgegeben. Man kann sich aber erst mal anschauen wie sieht dieses System überhaupt aus. Das wollte das BAMF ganz, ganz lange nicht verraten, was das genau für ein System ist. Dann stand es irgendwie auf so Pressefotos selber drauf. Und in dieser Präsentation ist es auch inklusive Kamera und Kabel und zwar geht es um ein System von MSAB. Und da hab ich eigentlich auch ein Video, das aber jetzt wahrscheinlich auch leider nicht abspielen wird. Wir probieren es trotzdem mal ganz kurz. Nö. Gut, dann erzähle ich ganz kurz was dazu: MSAB ist eine Firma, die macht Mobilforensik, und macht Mobilforensik vor allem aber auch für Polizeien und Geheimdienste und Militärs, und wirbt auch damit, dass sie genau das tun. Das heißt, es ist eigentlich eine Technologie, die man jetzt nicht unbedingt in einer Asylbehörde vermuten würde, sondern wirklich in der Strafverfolgung oder in dem geheimdienstlichen Bereich. Das sind Mitbewerber von Celebrite. Das ist diese nette israelische Firma die ihre Software auch gerne mal an autoritäre Regime verkauft, um damit irgendwelche Oppositionellen auszuspähen und irgendwie zu verfolgen. MSAB hat bisher medial zumindest noch eine reine Weste. Aber Celebrite hat das BAMF dann auch ausprobiert. Das haben sie jetzt nach mehrmaligem Nachfragen endlich auch mal zugegeben. Und dieses System macht Folgendes: Das ist relativ einfach. Das wird in diesem Video auch schön erklärt, wie leicht sich das bedienen lässt. Und zwar: man hat ein paar Knöpfe auf einem Bildschirm und dann drückt man hier auf "Anmelden" und dann sagt man: Okay, gib deinen Benutzernamen ein. Dein Passwort erhältst du bei BSB-IT, wenn du es vergessen hast und dann musst du bestätigen, dass du damit vertraut bist. Nur geschulte und autorisierte Nutzer dürfen dieses System benutzen. Das heißt, da muss man dann einfach, naja, "Weiter" klicken und dann drückt man auf den großen Knopf "Handy auslesen". Dann wird dann noch erhoben: Okay, in welchem Land hast du dein Handy gekauft? Wann hast du dein Handy gekauft, wenn du das sagen kannst. Dann wird das Gerät fotografiert. Ich habe mich am Anfang gefragt: Warum fotografieren die das Gerät. Es geht um Schadensersatzansprüche, wenn der BAMF- Mitarbeiter einen Kratzer in das Display macht. Und dann wird ausgelesen. Es kommt so ein bisschen darauf an, wie viel das BAMF auslesen kann je nach Gerätetyp. Das heißt, das unterscheidet sich immer ein bisschen: Von manchen Geräten können sie eben mehr, von manchen weniger. Und um Handys auch ordentlich zu erkennen, gibt das BAMF seinen Mitarbeitern eine hilfreiche Handreichung mit, nämlich die verschiedenen Gerätetypen, die existieren. Lachen A: Das ist ein bisschen weird. Das ist auch mit Abstand meine Lieblingsfolie in diesem ganzen Ding. Das heißt, da wird dann gesagt: Okay, Handys müssen nicht immer gleich aussehen. Damit ihr die irgendwie erkennt, geben wir euch jetzt mal ein paar Beispiele an die Hand. Das heißt das eine Handy sieht so aus wie so ein altes PDA, so ein altes Klapphandy, oder auch ein Handy in einem Pistolengriff versteckt, kann man ja auch mal machen. Also falls dann ein Geflüchteter ins BAMF kommt, seine Pistole dabei hat, bin ich sicher, dass der BAMF-Mitarbeiter erst mal sagt: "Mensch, ist da dein Handy drin, kann ich da mal kurz ran?" Gelächter im Hintergrund Aber, Naja. Applaus A: Genau, das ist übrigens ein Photoshop. Das stammt von einer Seite, die heißt Military Jobs, kommt von 2008 und ist eigentlich gar kein echtes Modell, kann man also nicht kaufen. Lachen A: Aber das ist bei der Zusammenstellung der Präsentation wahrscheinlich nicht aufgefallen. Mittlerweile gibt es Selfie-Gewehre, die kann man wirklich kaufen. Aber auch eher unwahrscheinlich. Genau, dann wird auch noch erklärt: Okay, Android ist am weitesten verbreitet. Das gibt's nicht nur als irgendwie Smartphone, das kann auch in deinem Autoradio drin sein. Dann musst du das auch noch auslesen und dann der ganz wichtige Punkt: Die Freigabe muss durch den Antragsteller durchgeführt werden. Das heißt, das BAMF zieht sich darauf zurück, das Ganze ist ja mehr oder weniger freiwillig. Das wurde auch medial in diesem ganzen Gesetzgebungsprozess immer wieder versucht zu betonen, dass die Menschen ja ihr Telefon freiwillig hergeben und da keine Geräte geknackt werden. Und das ist immer so ein Moment, wo man skeptisch wird und dann guckt man sich an, wie freiwillig ist das eigentlich? Und dann steht in der Dienstanweisungen drin: Naja, der Antragsteller muss zwar sein Gerät selber entsperren, aber es gibt die sogenannte Mitwirkungspflicht im Asylverfahren. Und wenn der Antragsteller seiner Mitwirkungspflicht nicht nachkommt, das heißt, wenn er nicht sein Passwort eingibt und nicht sagt: Hier, du darfst hier einmal USB-Debuggen, dann kann dieser Asylantrag als zurückgezogen angesehen werden. Das heißt Freiwilligkeit ist halt auch irgendwie so relativ und im Endeffekt ist es eine Verpflichtung. Und ich glaube nicht, dass jemand, der in der Situation ist, dass er in Deutschland Schutz sucht, weil er in seiner Heimat verfolgt wird, sich dann besonders freiwillig fühlt, wenn dann jemand sagt: Bitte gib mal dein Handy her. Auch gut: Apple-Geräte können leichter ausgelesen werden. Fand ich auch sehr schön. Aber was passiert dann mit diesem ganzen Kram, der von diesem Telefon kommt? Was guckt sich das BAMF dabei an? Ungefähr das: nämlich den Anrufverlauf, das Adressbuch, die Lokationsdaten. Nachrichten: Sowohl wohin sie gehen, als auch in welcher Sprache sie geschrieben sind. Dann Allgemeine Geräteinformationen und Nutzerkennungen von Apps. Das BAMF legt sehr viel Wert darauf zu sagen, dass sie keine Inhalte analysieren. Wobei ich sagen würde, naja, wenn man sich Nutzerkennungen anguckt und guckt in welcher Sprache Nachrichten geschrieben sind, geht das schon ziemlich ziemlich nahe an Inhaltsanalyse ran. Und dann wird das Ganze in einem Bericht zusammengefasst. Und dieser Bericht sieht dann zum Beispiel so aus: Da sind dann Diagramme drin, in welche Länder hast du am häufigsten telefoniert? Oder aus welchen Ländern hast du am häufigsten Anrufe bekommen? Wie lange hast du mit diesen Ländern telefoniert? oder auch: Wo hast du Nachrichten hingeschickt und in welchen Sprachen hast du Nachrichten geschickt? Das wird beides sowohl für ein- und ausgehende Nachrichten gemacht und da steht dann auch noch wenn als Sprache Arabisch erkannt wird, erfolgt eine Dialektanalyse. Das heißt wir haben eigentlich genau das Gleiche wie vorher mit der Sprachaufnahme. Wir haben das Ganze dann nur auf der gesprochen... auf der geschriebenen statt der gesprochenen Sprache. Das liegt daran, dass es im arabischen Sprachraum verschiedene Chat- Dialekte gibt. Das heißt man hat dann... Das sieht dann ungefähr so aus. Man hat eigentlich arabische Schriftzeichen, aber wenn man eben versucht die auf einer normalen Tastatur zu tippen, bzw. was heißt auf einer normalen Tastatur, auf einer Tastatur mit lateinischen Buchstaben, muss man eben manche Zeichen durch Ziffern ersetzen, zum Beispiel. Und die unterscheiden sich auch nach den Ländern ungefähr. Laut dem BAMF kann das Ding ungefähr 130 geschriebene Sprachen analysieren. Zu den Angaben, wie gut das funktioniert: Das wissen wir leider nicht, weil es dazu bisher noch überhaupt keine Angaben gibt. Würde mich aber interessieren. Genau, dann wird auch das Adressbuch ausgewertet. Das heißt, in welche Länder hast du deine Kontakte eingespeichert? Auch welche Webseiten hast du aufgerufen? Und welche Lokationsdaten gibt dein Telefon so her? Das ist ein interessanter Punkt, weil wir nicht genau wissen und auch das BAMF nicht genau herausgibt, welche Locations sie da überhaupt benutzen. Das heißt, wir wissen: Okay, sie nutzen Geodaten aus Fotos. Sie nutzen auch irgendwelche Geodaten, die Apps erheben, aber wir wissen auch nicht welche sie auslesen können, denn alle gehen anscheinend nicht. Und daraus wird dann so ein Bild gemacht. Ich habe mir so ein System mal angeschaut und gefragt: So naja, wieso sind denn da keine Pfeile dazwischen. Dann meinte sie, das haben die Bundesdatenschutzbeauftragte uns herausgestrichen. Aber wenn man sich das mal anguckt, kann man sich halt überlegen, dass jemand meinetwegen nicht von Syrien nach Deutschland, dann nochmal nach Griechenland und wieder zurück gefahren ist. Das heißt eigentlich ist das so ein ziemlicher Placebo, das man das herausgestrichen hat. Unten das, das sind die Account-Namen. Das heißt das ist einfach nochmal eine Möglichkeit weitergehend zu analysieren, was die Person so tut, wenn man ihre E-Mail- Accounts hat. Wenn man ihre Facebook- Accounts hat. Wenn man, weiß ich nicht, "Viber ID" kenne ich nicht, aber wenn man alle möglichen Nutzerkennungen für alle möglichen Apps hat. Tatsächlich ist das das System, für das das BAMF noch am meisten Hinweise zur Interpretation gibt. Und zwar sagen sie: Ok, natürlich bei einem Feature Phone kann ich nicht so besonders viele Sachen analysieren wie bei einem Smartphone. Ich muss natürlich auch gucken, naja, wie oft benutzt diese Personen dieses Gerät überhaupt, gehört der Person das Gerät überhaupt schon seit langem und wie viele Daten kriege ich da raus und dann sagen sie: Ok, klar, wenn da wenig Daten drin sind, wird die Person das Gerät nicht so lange benutzen. Oder zum Beispiel wenn sich gewisse Daten nicht mit anderen Daten decken, könnte es natürlich sein, dass unterschiedliche SIM-Karten benutzt wurden, oder dass unterschiedliche Leute dieses Gerät in Benutzung hatten, was glaube ich bei Menschen mit einer Fluchtgeschichte nicht besonders unüblich ist. Und dann gibt es noch die... das Ergebnis, dass die im Bereich Identität angeführten Applikationen vielfältig sind. Und dann geht man eben von einer hohen Aussagekraft aus, weil man dann eben weiß mit welchen Identitäten eine Person wann unterwegs war und was sie da getan hat. Das heißt, da dann einfach nur noch von der Metadaten Analyse zu sprechen, finde ich ziemlich sportlich. Und ich würde auch gerne wissen, warum Booking.com Login- Daten besser sind als Dating-App Login- Daten. Falls da jemand Hinweise hat: Ich nehme sie gerne entgegen. Das konnte ich mir so nicht erschließen. So ein System weckt Begehrlichkeiten. Wir sehen, ja okay, dieses Ding kann alles Mögliche auslesen und dieses System dieses Herstellers MSAB kann auch noch viel mehr. Das heißt MSAB kann Smartphones knacken. MSAB Ist der einzige seriöse, also ernsthafte, Mitbewerber von Celebrite und die könnten Telefone aufmachen. Sie machen es halt angeblich nicht, weil sie es nicht dürfen. Und das System kann aber auch einfach nur die kompletten Inhaltsdaten auslesen und das ist eine Begehrlichkeit, die nicht erst seit kurzem besteht. Und zwar schon im November 2017 hat die damalige BAMF-Chefin Jutta Cordt in einem Interview gesagt: Na ja, wir haben ja jetzt dieses schöne System, aber wir würden auch gerne an die Fotos ran, weil da sehen wir ja viel mehr, was die Leute da gemacht haben. Und das ist glaube ich einfach nur noch eine Frage der Zeit und in einer neuen Antwort des Innenministeriums auf diese kleine Anfrage haben sie eben auch gesagt: Naja, wir prüfen gerade die Möglichkeiten das zu erweitern. Das heißt es wird nicht bei diesem Stand bleiben, dass man dann Statistiken erstellt und guckt, wo die Leute vielleicht waren, sondern dass man dann eben noch viel, viel tiefer in die Privatsphäre von Leuten eingreift. Und dann muss man sich fragen: a) Was für ein krasser Grundrechtseingriff ist das? Und wie krass wäre das, wenn das, sage ich mal, jemandem in Deutschland passiert, der zu einem Amt geht und irgendeinen Antrag stellt, wo dann das Amt sagt: Gibt erst mal bitte dein Telefon her. Ich glaube, wenn man sich das vorstellt, merkt man, wie beschissen man eigentlich mit Leuten umgeht, die hier in Deutschland fast keine Lobby haben und die sich nicht wehren können, weil sie in der krassen Drucksituation sind und wie wenig man sich erst mal wagen würde, das bei Menschen zu machen, die hier schon seit langem wohnen und dieses System kennen. Aber da probiert man es halt aus. Und das ist, glaube ich, etwas, was man nicht akzeptieren darf und was man auch gar nicht erst anfangen lassen darf, weil das ist im Endeffekt ein Testballon, um weitere Dinge auszuprobieren. Applaus Ok, dann die Betrachtung. Wir haben ja gesagt, Okay 3,1 Millionen für die Transliteration, 2,1 Millionen für die Sprachbiometrie. Was schätzen wir für die Handyauswertung? Das sind bis Ende 2019 voraussichtlich 11,2 Millionen Euro. Und diese 11,2 Millionen Euro gehen zum einen in die Hardware. Das heißt, wir müssen dieses Gerät irgendwie auslesen, gehen in die Software für die Analyse dieses Dings und für den Support. Und weil ja immer neue Gerätetypen da vorkommen, wird es auch nicht aufhören, Geld zu kosten. Das heißt natürlich muss ich dieses System immer weiter pflegen, wenn es neue Smartphones gibt und die ausgelesen und analysiert werden sollen. Wenn man das jetzt mal aus einer rein, ne, wenn man jetzt mal diese ganzen Grundrechtsbedenken über Bord wirft und sich einfach überlegt, wie sinnvoll kann das denn sein? Der BAMF-Vizechef Marcus Richter sagt: "Wir haben bisher 27. 000 Handys ausgelesen." Das ist die Werbezahl, mit der er vor ungefähr einer Woche auf PR-Tour gegangen ist. Vor ungefähr einer Woche hat das Innenministerium geantwortet: Naja also, in 9.710 Fällen wurden Handys ausgelesen und ausgewertet. Selbst diese Zahl muss man sich nochmal angucken, nämlich ausgelesen und ausgewertet heißt, es wurde so ein Bericht generiert. Das heißt aber nicht, dass diesen Bericht auch mal jemand gesehen hat. Wie oft hat diesen Bericht jemand gesehen? In 2.845 Fällen. Es wird immer weniger. Das heißt wir waren am Anfang mal bei 27.000 jetzt sind wir bei 2.845. Dann guckt man sich an, ok, wo wurde das gemacht? Ich habe dafür in Motherboard eine Grafik gemacht und da sieht man einfach auch, dass die verschiedenen Dienststellen des BAMF das ziemlich unterschiedlich häufig einsetzen. Das da in der Mitte ist Gießen, die mögen das System anscheinend. Und selbst wenn man das auf die Anzahl der Menschen bezieht, die an diesen BAMF- Dienststellen ankommen, ist das immer noch sehr unverhältnismäßig. Ok. Das heißt, einmal zurück, 2.845. Wie oft war die Auswertung überhaupt brauchbar? In 35 Prozent der Fälle. Das heißt in 65 Prozent der Fälle hat man gar keine brauchbaren Ergebnisse dadurch bekommen, sei es, dass die Personen vielleicht das Telefon erst seit kurzem hat, sei es dadurch, dass Telefone weitergegeben werden, dass Telefone kaputt gegangen sind, dass Telefone nicht ausgelesen werden konnten, weil sie zu alt sind. Das Innenministerium sagt auch, man hat Probleme mit proprietären Anschlüssen und mit alten Handys, die keine USB-Anschlüsse haben. Ok, verwertbare Ergebnisse: Was einen aber eigentlich interessiert, bzw. was das BAMF eigentlich interessiert, in wieviel Fällen kriege ich denn Hinweise darauf, dass jemand da so Widersprüche in seiner Geschichte hat? Zwei Prozent. Zwei Prozent, das rechnet man mal um auf diese 2.845. Dann landet man bei weniger als 60 Fällen und dann guckt man sich nochmal an, ok 11,2 Millionen Euro. Ist ziemlich sportlich, finde ich. Auf jeden Fall ist das auch eine Zahl, für die kann man ziemlich viele Leute einstellen, die sich vielleicht mit Menschen beschäftigen können. Man könnte sich auch überlegen, ob man so viel Geld ausgeben will, um Menschen aus Deutschland rauszuhalten oder ob man nicht einfach seine Grundeinstellung vielleicht mal ändern will und einfach Leute nach Deutschland kommen lassen will und einzusehen, dass man ein scheiß reiches Land ist, das für irgendwelche bescheuerten Softwaresysteme so viel Geld einsetzt. Applaus Genau deshalb: Ich missbrauche nochmal kurz das Motto des letzten Kongresses. Und zwar: Das klingt alles so als wäre es jetzt da und als wäre das jetzt irgendwie so ein Ding, mit dem man leben müsste. Ist es aber nicht. Und zwar ich würde gerne alle bitten, sich gegen diese Systeme zu wehren. Das heißt, das kann sowohl sein, wenn Menschen selbst betroffen sind, sich gegen diese Systeme zu wehren, als auch wenn ihr Menschen unterstützen könnt, sich dagegen zu wehren, weil, ich habe vorhin schon gesagt, es gab diese Menschen, die ich getroffen hatte, die damit Probleme bekommen haben. Und diese ganze Kacke hat ein Gutes: Und zwar, es hat keine Gutachtenqualität. Früher war es zum Beispiel so bei diesen Sprachgutachten, das haben dann anonym gehaltene Gutachter gemacht. Die haben dann gesagt, ok die Sprache der Personen und die Worte, die die Person benutzt, klingen so, als würde sie da und da herkommen, das konnte man vor Gericht vorlegen. Wenn man mit so einem Zettel, mit so einem komischen Prozentzettel vor Gericht geht und sagt: Ok, die Software hat eine Fehlerquote von 15 Prozent, dann gilt das überhaupt nichts. Das heißt, wenn Menschen aufgrund solcher komischen Zettel Probleme kriegen, kann man dagegen relativ gut vorgehen. Bei der einen Person, die ich getroffen habe, hat das auch mittlerweile schon funktioniert, weil eben gesagt wurde: Ok guck mal, das ist der einzige Hinweis darauf, dass die Person nicht die Wahrheit gesagt hat und das ist ein absolut unzuverlässiges Programm. Und dann muss man eben einfach nur schauen, dass es schnell geht. Das heißt, die Person hat eine Woche Zeit, um Widerspruch einzulegen und dagegen zu klagen. Aber das ist eine Sache, die ist möglich. Und das ist auch eine Sache, bei denen ich Leute bitten würde, die Geflüchtete unterstützen oder irgendwie mit Geflüchteten reden, ihnen zu sagen, dass man sich dagegen wehren kann und dass man das eben nicht hinnehmen muss. Eine andere Möglichkeit, wie man irgendwas tun kann: Man kann sich informieren und man kann mich informieren. Das heißt irgendwo in meiner Talkbeschreibung stehen bestimmt Kontaktdaten, die jetzt nicht auf dieser Folie sind. Und falls ihr noch mehr Informationen zu diesen schönen Systemen habt, schickt sie mir, ich werde sie weiter veröffentlichen und damit danke ich euch für eure Aufmerksamkeit. Applaus Herald: Danke Anna für den Talk. Ich würde euch bitten, wenn ihr Fragen habt, euch an die Mikrofone zu stellen. Hier vorne gibt es eine Reihe, da gibt es eine Reihe und ganz hinten gibt es auch noch ein fünftes Mikrofon und ich würde als erstes das Wort dem Signal Angel geben. Signal Angel: Hallo! Gibt es Hinweise darauf, dass der Zugriff auf Smartphones beim Auslesen von Daten auch zur Installation weiterer Software auf den Geräten genutzt wird? Vielleicht auch ohne das Wissen der BAMF-Mitarbeiter sogar? Anna: Nein. Sorry, ne. Tatsächlich sind mir keine Fälle bekannt, in denen sowas passiert ist. Und tatsächlich suche ich auch noch nach Menschen, bei denen so etwas generell mal passiert ist, weil man relativ wenige Leute findet, bei denen das durchgeführt wurde und bei denen es nicht technisch gescheitert ist. Gelächter Also ich habe schon drei Leute gefunden, bei denen es technisch gescheitert ist, aber ich hätte gerne noch Menschen, die mir davon berichten, wie es ist, wenn es nicht scheitert. Herald: Mikrofon zwei Zwei kurze Fragen: Frage Nummer eins, läuft da irgendwie eine Klage gegen diese Handy-Auslese-Aktion oder sowas oder sind die Betroffenen einfach zu eingeschüchtert und wehrlos, als das die da was machen können? Und Frage Nummer 2: Habt ihr mal irgendwie versucht, vielleicht in Kombination mit irgendeinem Amt, so zum Beispiel die Videos, die du eben hattest, mit den Sprachsamples durchlaufen zu lassen und zu gucken aus welchen arabischen Staaten die Herren denn kommen? Anna: lacht Also zu der zweiten Frage, fangen wir damit an. Das ist mir eine ewige Mission. Und ich stelle dem BAMF sicherlich seit einem dreiviertel Jahr Anfragen und sage bitte bitte bitte zeig mir diese Systeme mal. Und eigentlich, mein geheimes Ziel, das kann ich jetzt auch verraten, da sie mich nicht reinlassen, ist einfach zu beweisen, dass Horst Seehofer nicht zu Deutschland gehört. GelächterApplaus Aber die letzte Ausrede, die ich vom BAMF bekommen habe, warum ich nicht in die Räume gehen kann, ist, dass sie zu klein sind. Gelächter Das ist tatsächlich leider kein Scherz, aber ich versuche es weiter. Vielleicht lässt man mich ja irgendwann mal rein. Zu der ersten Frage: Klage. Falls es Menschen gibt, die daran interessiert sind, gegen dieses System zu klagen. Gerne zu mir schicken, eventuell gibt es da Pläne. Dass Menschen dagegen vorgehen im Rahmen von Klagen gegen Ablehnungsbescheide, ja, aber ich glaube, das System müsste man erst einmal an einer grundsätzlicheren Ebene angreifen, wenn eben Leute dazu bereit sind, das ein mal durchzufechten. Herald: Ok dann Mikrofon eins bitte. Mik 1: Bei der Auswertung der Handydaten sollen ja Lokationsdaten, wie zum Beispiel in Fotos und auch Anruflisten und dergleichen zum Einsatz kommen. Ich schätze mal, da geht es dann darum, ob es sich um Telefonnummern aus den entsprechenden Ländern handelt oder anderen Ländern. Nun es ist ja bei Fluchtgeschichten so, dass das oft auch mal hin und her geht oder mal eine Weile bei einer bestimmten Station bleibt. Inwieweit haben die Antragsteller die Möglichkeit dazu dann überhaupt eine Stellungnahme abzugeben und zum Beispiel zu sagen: "Natürlich sind das alles jordanische Nummern, meine Familie sitzt in Jordanien und ich bin eben weiter nach Deutschland gekommen. Trotzdem sind wir Syrer!", beispielsweise? Anna: Ja. Das ist eine gute Frage. Und zwar, es ist so, dass diese ganzen Auswertungen eigentlich passieren sollen, bevor die Anhörungen sind. Das heißt schon quasi, wenn du registriert wirst, wird dieses Bild von dir gemacht und dann wird eben geschaut hast du einen Pass, lässt der sich überprüfen und wenn nicht, gehen wir eben durch diese ganze Kette durch. Dann sollst du in deiner Anhörung die Chance bekommen dazu Stellung zu nehmen. Handyauswertung hat man anscheinend nicht besonders viel bei Altverfahren gemacht, aber es gibt diverse Altverfahren, in denen solche Sprachanalyse gemacht wurden. Das heißt einfach Asylprozesse von Menschen, die schon seit 2015 oder 2016 in Deutschland waren, bei denen es eben immer weiter gedauert hat, die immer weiter aufgeschoben wurden und bei denen dann auch ein Sprachgutachten in Auftrag gegeben wurde. Das heißt so ein Ding, da muss jemand eine halbe Stunde lang reden mit einem Dolmetscher und muss dann erzählen und so weiter und so fort. Das wird erst einem Menschen vorgelegt, der macht dazu ein Gutachten, die sind furchtbar teuer. Dann gab es irgendwann eine Dienstanweisung vom BAMF. dass gesagt hat: Ok, bitte Leute, guckt mal all die Fälle durch, wo wir diese Sprachgutachten durch diese Sprachanalysen ersetzen können. Und da wurden dann eben diese Analysen im Nachhinein gemacht, das heißt nach der Anhörung. Und da habe ich drei Leute gefunden, die dann im Nachhinein keine Gelegenheit mehr bekommen haben, da Stellung zu zu nehmen. Das heißt, es ist eigentlich vorgesehen, aber ich glaube, gerade bei diesen ganzen älteren schon rumliegenden Verfahren, wird das nicht mehr unbedingt gemacht. Herald: Dann einmal Mikrofon drei bitte. Mik 3: Deine Analyse bezüglich der Effizienz der Auslesung der Smartphones war relativ eindeutig, also mathematisch. Da müsste das BAMF doch selbst auf die Idee kommen, dass es Quatsch ist. Planen die eine Überprüfung der Zahlen oder irgendetwas, ist da was bekannt? Anna: Das BAMF gibt ja andere Zahlen raus. Das BAMF gibt ja die Zahlen von "Wir haben 27.000 Auswertungen gemacht" raus. Das das dann nur die Fälle sind, in denen sie so ein Handy an ein Kabel gestopft haben und nicht Fälle sind, in denen irgendwas dabei herausgekommen ist, das sagen sie halt nicht. Das heißt, wir haben schon öfter eben die Erfahrung gemacht: Man hat irgendwelche Informationen über diese Systeme, man plant einen Bericht dazu und einen Tag vorher kommt dann ein Bericht in einem anderen Medium, wo das BAMF dann eben sagt, wie super das alles funktioniert, sagt beste Leben, Asyl, top. So. Und ich glaube, das ist eben so ein bisschen dieses Ding, man verschließt, glaube ich, die Augen davor, wie sinnlos dieser ganze Kram eigentlich ist, weil man sich so darauf verschossen hat. Man hat dann eben kurz vor der Bundestagswahl 2017 gesagt: Wir haben diese tollen Systeme und wir sind jetzt Vorreiter in Sachen Digitalisierung in der öffentlichen Verwaltung. Wir sind quasi das Leuchtturmprojekt für ganz Europa, wir wollen unsere Systeme irgendwie der ganzen EU zur Verfügung stellen und mit denen teilen und verbessern und wollen damit quasi Digitalisierungsvorreiter werden. Ich glaube, ich kann allen von euch mal empfehlen, auf die BAMF-Homepage zu gehen. Da gibts auch so tolle Werbevideos. Unter anderem, wie das BAMF einen Scrum-Master-Raum eingerichtet hat, wo dann eben die Entwickler mit den Fachmitarbeitern zusammensitzen, in einem mit Graffitis angesprühten Raum, richtig cool und mit Sofas. Und ich glaube daran sieht man ganz gut, wo das Problem ist. Man will nämlich eine moderne Behörde sein und man will cool sein und man will irgendwie digitalisiert sein. Und ich glaube dahinter kommt man nicht mehr so richtig zurück. Herald: Dann Mikrofon Nummer vier bitte. Mik 4: Wenn ich das richtig verstanden habe, hast du ja gesagt, dass die Tools oder die Systeme angewendet wurden aufgrund von Unternehmensberatung. Sind die da jetzt falsch beraten worden oder funktionieren die Systeme, wenn sie ordentlich oder anders angewendet werden, besser? Anna: Na was heißt erst mal, was heißt aufgrund von Unternehmensberatungen? Wir wissen eben, dass in einer gewissen Zeit ganz viele Unternehmensberatungen das BAMF beraten haben und ihnen zu diversen mehr oder weniger fragwürdigen Dingen geraten haben. Zum Beispiel auch zu der Sache mit man muss Geflüchtete in mehrere Klassen einteilen, die Menschen mit einer relativ guten Bleibeperspektive, die mit einer nicht so guten Bleibeperspektive und die Menschen, die wahrscheinlich sowieso abgeschoben werden, weil sie aus Ländern kommen, wo die Schutzquote eher gering ist. Das heißt, da ging es ganz ganz ganz viel um Effizienz und da ging es eben auch um diese Digitalisierungsprozesse. Da geht es zum einen auch um, ja, papierfreiere Büros, aber da geht es dann auch um diese Systeme. Und die Frage, ob man Systeme bauen könnte, die gut funktionieren. Ich finde, das ist keine Frage, die man sich stellen sollte. Für mich ist es eine ethische Frage. Weißt du, wir motzen alle, weil es diese komische Schufa gibt, die irgendwelche Algorithmen hat, die wir nicht verstehen, die irgendwelche komischen, ja, Merkmale heranziehen, die wir nicht verstehen und nicht kennen und weil wir dann keinen Handy-Vertrag kriegen. Aber da geht es um Software. Da gibt es auch Algorithmen, die keiner versteht. Da gibts Datenbasen, die nicht transparent sind und deshalb kriegen Menschen kein Asyl. Und ich finde, wenn man schon irgendwie sagt, dass die Schufa nicht so intransparent agieren kann, kann man so ein System einfach gleich abschalten. Und man muss sich einfach mal vorstellen, was das heißt. Applaus Herald: Dann Mikrofon Nummer 2 bitte. Mik 2: Ja nochmal zu der Sprachzuordnung oder zu der Dialektzuordnung. Es gab vor kurzem auch einen Bericht im MDR darüber, "Das BAMF hat diese tolle Technologie und ist die nicht auch einsetzbar für die Polizei und für andere Institutionen?". Sie werben sogar selber damit. Hast du Informationen darüber, ob die Information, ob diese Technologien auch von anderen Institutionen in Deutschland eingesetzt wird? Anna: Habe ich nicht. Glaube ich aber tatsächlich auch momentan nicht. Das hat der MDR ja auch quasi geschrieben, glaube ich, dass das momentan noch niemand anderes einsetzen will. Also wüsste ich tatsächlich auch nicht. Was man eher hat, sind so Softwares, die versuchen, Sprecher zu identifizieren, zum Beispiel, irgendwie zu gucken: Ok, ist die Person, die jetzt eine Drohung am Telefon ausgesprochen hat, diese Person oder so weiter. Aber eine Dialektanalyse in dem Sinne ist, glaube ich, für andere deutsche Behörden momentan eher uninteressant. Interessanter ist es natürlich für andere europäische Migrationsbehörden, und das BAMF versucht dann eben auch darauf zuzugehen und sich zum Vorbild zu machen und es dort zu etablieren. Herald: Dann einmal Mikrofon Nummer eins. Mik 1: Hi. Ist es aus deiner Sicht schlau, wenn man sein Handy wiped, bevor man hier nach Deutschland kommt und vielleicht die Daten exportiert irgendwie, um s ie später wieder draufzuladen oder ist das vielleicht kontraproduktiv? Ist das ein Rat, den man jemanden geben könnte, der nach Deutschland kommt? Anna: Das ist eine gute Frage. Kann ich dir nicht beantworten. Also kann ich dir tatsächlich einfach wirklich nichts sagen, weil weiß ich nicht. Also das BAMF ist sich tatsächlich auch dessen bewusst, dass es gefälschte Handys gibt, die im Umlauf sind. Das heißt, dass es Handys gibt, wo eine plausible Geschichte draufgespielt wurde. Ich meine, klar, ok, der Markt passt sich an, es gibt dieses System. Dieses System analysiert gewisse Dinge, irgendwann weiß man, was es analysiert und dann kann man eben Handys generieren, auf denen genau das drauf ist, was man will. Das heißt, Menschen, die, wenn man es so nennen will, oder die sozusagen betrügen, überführt man damit sowieso nicht. Das heißt, diese zwei Prozent der Fälle, wo es dann irgendwie Widersprüche gab, da hat vielleicht einfach jemand irgendwo ein Handy gefunden und mitgenommen und da war dann blöderweise irgendwas anderes drauf. Aber natürlich ist es ein Einfaches irgendwie, das System zu überwinden und eigentlich weiß das BAMF das auch so. Herald: Dann Mikrofon Nummer drei. Mik 3: Dann stellt sich die Frage, ob die 200.000 Euro pro Erfolg bei dieser Handyauswertung, neben dem ohnehin unethischen Thema, nicht ein Fall für den Bundesrechnungshof sind. Gelächter Applaus Wie siehst du das? Anna: Ja, der Bundesrechnungshof sollte das BAMF in diesem Jahr geprüft haben. Wenn jemand den Bericht dazu hat, nehme ich ihn gerne. Also ja, sicher. Ich glaube, wenn man das so betrachten will, wenn man aus der finanziellen Warte betrachten will, kann man diese Frage auf jeden Fall stellen. Und sollte man dann auch. Man kann sich auch fragen, wie viel Personal kann ich dafür einstellen? Oder: wieviel Menschen kann ich dadurch ein Leben in Deutschland ermöglichen? Also, ja, ich finde es absolut rausgeschmissenes Geld. Herald: Also wer Berichte hat, bitte vertrauensvoll an Anna wenden. Mikrofone Nummer fünf ganz hinten bitte. Mik 5: Ich war vor knapp zwei Monaten mit einem Jugendlichen bei der Anhörung beim BAMF. Da ist wohl auch auf jeden Fall das Handy erfolgreich ausgelesen worden. Und neben der ganzen Thematik, wie unzumutbar das eigentlich ist innerhalb des Verfahrens, habe ich mich auch gefragt, wo diese Daten gespeichert werden und wie sicher die gespeichert werden. Weißt du dazu was? Anna: Man kann die Frage zehnmal an das BAMF stellen. Man bekommt immer die gleiche Antwort und zwar "in einem sicheren Datentresor." Gelächter Also nein, weiß ich nicht. lacht Also ich weiß es nicht. Es ist anscheinend so, beziehungsweise das BAMF sagt es eben so, dass diese Freischaltung durch einen Volljuristen erfolgen muss und dass die Entscheider da selber nicht auf diese Datenbank, in der das liegt, Zugriff haben. Das glaube ich ihnen auch tatsächlich. Aber wie sicher die Daten im Sinne, im physischen Sinne sind, das weiß ich nicht. Herald: Dann Mikrofon Nummer eins. Mik 1: In der Talk Ankündigung stand als letzten Satz drin, dass das BAMF noch so ein Projekt mit Blockchain macht. lacht Ja sprengt das jetzt den Rahmen oder magst du dazu noch etwas sagen? Das klang sehr erschreckend. Anna: Ja. Dazu gibt es dann im Januar mehr. Und das BAMF macht auch etwas mit Blockchain richtig. Und zwar es heißt "Blockchain at BAMF". Richtig gut. Gelächter Ich will da nicht zu viel zu sagen. Es ist eigentlich ein ganz. Ja. Es ist halt cool, was mit Blockchain zu machen, deshalb macht das BAMF jetzt auch etwas mit Blockchain und man überlegt sich halt ob man das Asylverfahren irgendwie auch auf die Blockchain packen könnte. Dazu gab es wohl ein Proof of Concept beziehungsweise dazu gab es ein Proof of Concept und dazu läuft angeblich gerade eine Pilotierung im Ankerzentrum in Dresden. Das heißt gar nicht weit. Und da will man eben erreichen, dass die Verfahrensstände im Asylverfahren zum Beispiel auch anderen Behörden schneller zugänglich sind. Und dann eben fäschungssicherer sind. Das heißt man kann dann sagen, "ok Person wurde registriert, das schreiben wir in die Blockchain" und dann kann irgendeine andere Behörde da auch darauf zugreifen. Aber da gibt es noch Fragen, das heißt dazu gibt es auch ein Whitepaper, das kann man sich auf der BAMF Seite mal angucken. Da haben Sie dann auch irgendwann gemerkt, dass mit der Blockchain ist ja ein bisschen blöde, weil da kriegt man die Sachen nicht so einfach wieder raus und eigentlich müssen die Daten ja nach zehn Jahren gelöscht werden. Das ist auch blöd. Dann aber ja, dann kann man irgendwas mit Pseudonymen machen und vielleicht kann man Blockchains auch wieder nach hinten löschen und so. Also es bleibt spannend. Ich hab nicht besonders große Angst vor diesem Projekt, weil es ist halt was mit Blockchain und es geht vorbei. Aber. GelächterApplaus Genau. Eine Kolleginnen und ich schauen uns das gerade an. Sagen wir es so. Herald: Dann ein mal der Signal Angel bitte. Signal Angel: Also solange es die Blockchain noch nicht gibt, gibt es dann Richtlinien wie lange diese Daten gespeichert werden, die in so einem Verfahren erhoben werden? Anna: Ja, gibt es. Ich kann sie nicht auswendig. Grunddaten werden zehn Jahre gespeichert, andere Daten, die sensibler sind wie Gesundheitsdaten im Asylverfahren, es gibt ja noch eine ganze Menge andere Daten, die im Asylverfahren erhoben werden. Unter anderem dein Impfstatus und die Sprachkurse, die du besucht hast und so weiter und so fort. Die werden, ich glaue Gesundheitsdaten nur für ein Jahr, aber würde ich mich nicht drauf festnageln lassen. Das ist eine Angabe, die in der Verordnung zur Durchführung des Datenaustauschverbesserungsgesetzes steht glaube ich. Kann man nachlesen, habe ich nicht im Kopf. Herald: Dann einmal Mikrofon Nummer zwei. Mik 2: Hallo ich habe auch folgende Frage und zwar weiß ich eigentlich auch aus meinem Arbeitsleben, dass es gerade bei den Namen ganz oft zu Fehlern kommt. Und ich meine, wenn man jetzt Vorname A mit Vorname B verwechselt, ist es vielleicht noch nicht erfassbar. Aber das es auch zu solchen Fehlern kommt wie es gibt nur einen Vornamen. Der Vorname ist dann der Name einer Stadt. Und wirklich offensichtliche Fehler. Aber wenn das halt erst einmal durch das BAMF oder durch die Ausländerbehörde auf dem Aufenthaltstitel ist, ist im Prinzip nur wirklich mit mehreren Anhörungen und Terminen mit dem Dolmetscher und mit einer langen Prozedur überhaupt wieder irgendwas zu ändern. Und ich frage mich wenn das Programm eine Fehlerquote von 15 Prozent hat, wieso ist es dann so schwer, da irgendetwas gegen zu machen? Anna: Das Programm mit einer Fehlerquote von 15 Prozent war diese Sprachauswertung. Dieses Namensprogramm soll ja erst einmal nur dafür sorgen, dass die Übertragung von arabischen Schriftzeichen die die Person selber eingibt, das heißt die Person soll selber ihren Namen schreiben. Es sei denn sie ist nicht in der Lage zu schreiben dann macht es der Dolmetscher, diese einheitlich zu übertragen. Und das ist vielleicht auch erst mal ein Fall der relativ einleuchtend ist, das heißt man will irgendeine Einheitlichkeit haben, aber ich glaube da ist nochmal ein anderes Problem. Nämlich das man verschiedene zuständige Stellen hat. Man hat die Ausländerbehörden, man kann auch irgendwie in die Situation geraten bei einer Polizei registriert zu werden und ich glaube dann diese ganzen Prozesse aufzurollen da Daten zu korrigieren ist eben schwierig und gerade für das sogenannte Ausländer Zentralregister ist das BAMF ja die zuständige Behörde. Das heißt die müssen sich eigentlich darum kümmern, diese ganzen Daten irgendwie richtig zu halten. Sie geben aber die Verantwortung dafür in einer gewissen Art und Weise ab, indem sie eben sagen: "Die Verantwortung für die Richtigkeit der Daten können wir nicht übernehmen. Das muss quasi die Stelle machen, die diese Daten eingetragen hat." Das heißt ich glaube das ist ein Problem, das wird nicht so schnell weggehen. Herald: Dann danke Anna für den großartigen Talk und bitte gebt ihr einen dicken fetten Applaus dafür. Applaus Abspannmusik Untertitel erstellt von c3subtitles.de im Jahr 2020. Mach mit und hilf uns!