35C3 Vorspannmusik
Herald: Ich weiß nicht, wie es euch geht
aber jedes Mal wenn ich höre, dass
irgendwie die Bundesrepublik irgendwas an
Computerprogramm geschrieben hat, dann
läuft es mir ziemlich kalt den Rücken
runter. Und wenn ich dann auch noch höre,
dass sie über Menschenleben entscheiden
wollen, lieber ein Computerprogramm
einsetzen, statt einen kompetenten
Mitarbeiter, dann finde ich das Ganze
irgendwie noch viel verwerflicher und Anna
Biselli ist der Frage seit ungefähr
anderthalb Jahren nachgegangen, wie das
passiert und was in diesem
Abstimmungsprozess passiert. Und sie wird
uns heute erzählen wie Computer
über das Asyl mitentscheiden. Einen
großen Applaus für Anna Biselli
Applaus
Anna Biselli: Hallo und schön, dass ihr
gekommen seid. Ich sehe euch zwar jetzt
nicht mehr, weil es so hell geworden ist. Es soll um Computer gehen,
die über Asyl (mit)entscheiden. Und das BAMF nennt das anders.
Das BAMF nennt das
„Integriertes Identitätsmanagement -
Plausibilisierung, Datenqualität und Sicherheitsaspekte".
Das sind Systeme, die das BAMF vor anderthalb
Jahren eingeführt hat und die die ganzen
Asylprozesse effizienter machen sollen.
Und es geht um folgende Systeme. Es geht
um ein System zur Namentranskription ,
das heißt zur Übertragung von arabischen
Namen in lateinische Buchstaben. Es geht
um Sprachbiometrie oder vielleicht
einfacher verständlich: Dialektanalyse, um
festzustellen wo jemand herkommt und es
geht um das Auslesen mobiler
Datenträger, das heißt salopp gesagt, um
eine Handyauswertung. Und wir wollen auch
in dieser Reihenfolge, die diese
Schulungen für BAMF-Mitarbeiter vorgibt,
vorgehen. Gerade sind wir noch bei der
Einführung aber ich will noch ein bisschen
was zu der Geschichte dieses Talks
erzählen. Und zwar beschäftige ich mich
mit dem Thema seit zum ersten Mal gesagt
wurde das BAMF will Dialekterkennung
einsetzen, um herauszufinden, woher jemand
kommt und eigentlich bin ich
Informatikerin, bin dann zur Journalistin
geworden und so aus meiner Zeit sage ich
mal an der Uni, wo man sich über
automatische Entscheidungssysteme Gedanken
gemacht hat, dachte ich: Okay, man kann
natürlich Anhaltspunkte dafür finden,
welche Sprache jemand spricht aber das ist
ja alles ganz schön schwierig. Dann habe
ich angefangen mich mit diesem Thema zu
beschäftigen und je mehr ich mich damit
beschäftigt hab, desto schlimmer fand ich
die ganze Sache. Und hab versucht mehr
Infos dazu zu bekommen. Unter anderem habe
ich in diesem Jahr im April dem BAMF eine
Informationsfreiheitanfrage gestellt und gesagt:
„Bitte schickt mir doch mal die Unterlagen,
die ihr euren Entscheidern und
Mitarbeitern gebt, mit denen sie geschult
werden, diese Systeme zu bedienen",
weil ich wissen wollte.... Solche Programme
sind oftmals nicht einfach zu verstehen
weil es einfach sehr komplexe Di nge sind,
da muss man eigentlich verstehen
was stehen da für Algorithmen dahinter,
wie treffsicher sind die Programme,
wie interpretiere ich irgendwelche Ergebnisse,
die aus Statistiken bestehen
und da wollte ich wissen, wie können
die Leute überhaupt damit umgehen.
Wie gesagt, das war im April. Und dann...
Normalerweise sollen IFG-Anfragen
innerhalb eines Monats beantwortet werden
und ich musste dann warten.
Ziemlich lange warten. Und zwar hat es dann
gedauert und dann hab ich dem BAMF gesagt:
„Bitte, bitte schickt mir die doch."
Dann wurde es plötzlich Juni.
Dann wurde es Juli und irgendwann im August
kam dann eine Antwort und sie sagten mir:
„Okay, wir schicken ihnen jetzt die
Schulungsunterlagen und sogar die
Benutzerhandbücher."
Nach denen hatte ich gar nicht gefragt.
Das hat mich sehr gefreut.
Dann habe ich weiter gelesen.
Und das BAMF hat gesagt:
„Na ja, wir schicken Ihnen die jetzt zwar
aber die sind nur für Ihre Kenntnisnahme
und zur Befriedigung ihres nach dem IFG
gegebenen Anspruchs auf Informationszugang
bestimmt." Und das darf man aber nicht
veröffentlichen oder anderen Personen
zugänglich machen. Da dachte ich mir,
na ja, hm, eigentlich ist das genau
mein Job und deshalb machen wir das jetzt.
Applaus
A: Und weil das Ganze 123 Folien sind und
nochmal so...weiß ich nicht 80 Seiten
Benutzerhandbücher wollte ich die nicht in
60 Minuten durchprügeln, die findet Ihr
jetzt auf FragDenStaat und Netzpolitik,
falls ihr die dann nachlesen wollt.
Applaus
A: Kommen wir zum ersten Punkt der
Zielsetzung. Und zwar meine Zielsetzung
ist sicherlich eine andere als die des
BAMF. Ich will aufzeigen, was für Probleme
es gibt und was da schief gehen kann und
tatsächlich sind diese Folien ganz
gutes Material, um zu zeigen was da
wirklich schief geht. Genau. Hier nochmal
die Übersicht. Das sind die neuen
Bestandteile. Die Bildbiometrie, das heißt
der Abgleich von Gesichtsbildern mit
bereits bestehenden Akten, um
herauszufinden, wer vielleicht schon mal
registriert war, lassen wir hier raus,
weil das nochmal ein System ist, das ist so ein
bisschen alt abgehangen und nicht neu in
dem Sinne, nur neu für das BAMF. Und wir
fragen uns erst einmal, wie kam es
überhaupt zu diesen ganzen Systemen. Wir
wissen ja, okay, 2015, 2016 kamen sehr
viele Menschen nach Deutschland und haben
hier Schutz gesucht. Und dann gab es diese
hässlichen Schlagzeilen oder diese
hässlichen Bilder von ganz vielen
Menschenschlangen, die vor dem BAMF
warten. Menschen, deren Asylanträge
irgendwo in der Warteschleife steckten und
man hat versucht, dieses Problem zu lösen,
denn irgendwann war ja auch Wahlkampf. Das
heißt, kurz vor der heißen Wahlkampfphase
2017 hat man dann diese Systeme
vorgestellt mit einer relativ..ja,
pompösen Pressebegleitung und hat gesagt:
„Wir können jetzt unsere Asyl...ja,
unseren Asylantragsstau quasi beheben,
indem wir diese Assistenztools haben." Und
damals hat Markus Richter, das ist der
damalige Leiter der IT des BAMF gesagt:
„Die tragen zu einem schnelleren und
sichereren Asylverfahren bei, da sie
Unklarheiten ausräumen können."
Reibt sich mit Taschentuch die Nase
A: Woher kommt das? Woher kommt dieser
Gedanke? Der Gedanke kommt von diversen
Unternehmensberatungen, die das BAMF
beraten haben. Das BAMF ist eine der
Behörden in Deutschland, die die meisten
Unternehmensberatungsbudgets gekriegt
haben. Das sieht man unter anderem auch
daher dass ein früherer BAMF-Chef, der
Frank-Jürgen Weise, hat vorher bei der
Arbeitsagentur das Gleiche für die ganzen
Hartz IV-Beantragung gemacht. Das heißt
wir sehen eine ganze Digitalisierung
eines Prozesses, der ähnlich lief, wie
früher bei den Arbeitsagenturen. Und so
kam es eben, dass dann im Jahr 2016 allein
McKinsey für die Beratung des BAMF
ungefähr 20 bis 30 Millionen Euro bekommen
hat und das war nicht die einzige
Unternehmensberatung, die das gemacht hat.
Und die haben eben auf Digitalisierung
gesetzt. Ich werde jetzt damit anfangen,
das erste System zu beschreiben. Das ist
dieser sogenannte
Transliterationsassistent, auch genannt
TraLiTa. Das ist ein System, das macht,
dass jemand seinen Namen in arabischer
Schrift eingibt und dieser Name dann
einheitlich in lateinische Buchstaben
übertragen werden soll. Einfach deshalb,
weil man verhindern will, dass es
Doppeldeutigkeiten gibt, weil man eben bei
der Übertragung von arabischen
Schriftzeichen in lateinische Buchstaben
nicht immer ein einheitliches Verfahren hat
und vorher haben das zum Teil die
Dolmetscher gemacht und die das dann nach
ihrem eigenen angelernten Verfahren oder
nach ihrem Gehör gemacht haben. Das kann
man, finde ich, noch relativ gut
nachvollziehen. Und diese
Schulungunterlagen geben auch eine sehr
detaillierte Klickanleitung. Da sieht man
dann, okay, hier musst du die Personennummer
eingeben und dann im nächsten Schritt muss
dann der Antragsteller seine Daten
eingeben, muss alle seinen Namen eingeben,
dann klickst du weiter und dann wird das
gespeichert, die Eingabe überprüft und so
weiter und so fort. Dieses System
aber...macht aber nicht nur das. Das
heißt, es geht nicht nur darum, einen
Namen in lateinische Buchstaben zu
übertragen, sondern das System will
auch...herausfinden, ob dieser Name
plausibel ist. Das heißt, man sieht es da
unten unter dieser Empfehlung
Transliteration. Da stehen dann so drei
Länder und dahinter stehen Prozentzeichen
und diese Prozentzeichen sollen eben
sagen, na wie wahrscheinlich ist es denn,
dass diese Personen wirklich aus dem Land
kommt, aus dem sie sagt, dass sie
herkommt. Um dann eben festzustellen, na
ja in dem folgenden Land ist dieser Name
besonders gebräuchlich und in diesem Land
ist dieser Name besonders gebräuchlich.
Und das Ganze hat man dann vielleicht
eingesehen, dass das mit den Prozentzahlen
nicht so richtig gut funktioniert weil das
ist noch der Stand aus den
Schulungsunterlagen. In der Realität sehen
die anders aus. Das ist ein Ausschnitt aus
einer Dienstanweisung, die wir jetzt auch
veröffentlicht haben. Und da steht dann
nur noch: Der Name kommt im angegebenen
Land Afghanistan selten vor und in anderen
Ländern kommt er auch selten vor, am
häufigsten noch dort und dort. Wenn man
sich anguckt wie diese Software
arbeitet...das ist eine kommerzielle
Datenbank. Die besteht aus Milliarden
Einträgen an Namen und den zugehörigen
Ländern, wahrscheinlich indem sie
Telefonbücher geparsed haben und für
arabischsprachige Länder sind dort jeweils
20000 Einträge drin. Wenn man sich
überlegt, okay, wie viele Namen gibt es so
in einem Land und wie viele sind dort
üblich, ist das nicht so super viel. Und
dieses System hat das BAMF dafür aber
ziemlich viel gekostet. Nämlich insgesamt
3,1 Millionen Euro, die bis Ende 2019
vorgesehen sind. Und es ist auch ziemlich
weit entfernt von dem was Markus Richter,
der damalige IT-Leiter der mittlerweile
zum Vizechef des BAMF aufgestiegen ist,
vorgegeben hat. Er hat sich nämlich
hingestellt und gesagt: „Wir haben alle
Telefonbücher der arabischen Welt
gescannt." Und ich würde bezweifeln, dass
alle Telefonbücher der arabischen Welt aus
20000 Einträgen pro Herkunftsland
bestehen. Und ich würde es auch
bezweifeln, dass man aus irgendeinem
Telefonbuch ableiten kann, zuverlässig
ableiten kann, ob eine Person wirklich die
Wahrheit über ihre Herkunftsangabe sagt.
Das hat mittlerweile auch das BAMF selber
eingesehen, und zwar gab es eine kürzliche
kleine Anfrage, deren Antwort leider immer
noch nicht öffentlich ist, weil im Bundestag
auch Weihnachten ist. Da hat das
Innenministerium gesagt: „Na ja, die
Erfolgsquote die schwankt so ein bisschen.
Und zwar, ja okay, wir haben eine
Erfolgsquote von so 85 bis 90 Prozent bei
Ländern wie Syrien aber in Maghreb-
Staaten, das heißt zum Beispiel in
Marokko, da haben wir nur noch eine 35
prozentige Erfolgsquote." Was man
andersherum sagen könnte: In 65 Prozent
der Fälle kommt totaler Bullshit raus. Das
liegt dann daran, na ja, man hat dann ja
auch andere Einflüsse, z.B. französische
oder italienische Namen. Das heißt, wenn
man das auf Deutschland überträgt, wenn du
Horst heißt ist alles in Ordnung, wenn du
Nancy heißt, ist nicht mehr so cool.
Und...man muss dann eben...es klingt ein
bisschen witzig aber man muss sich eben
vorstellen, eine Personen in ihrem
Asylverfahren gibt diese Daten an und hat
vielleicht nicht den üblichsten Namen für
die Region. Und dann steht da aber ein
Hinweis. Da steht da, dieser Name ist für
dieses Land nicht typisch. Das heißt wir
generieren dadurch ein Misstrauen. Das
heißt, dieses Programm gibt einen Hinweis
vor, das sagt: okay, diese Person könnte
vielleicht lügen und das wird sich dann
jemand angucken. Das Ganze wird aber auch
noch ein bisschen drastischer, wenn man
sich die Sprachbiometrie anschaut. Ich
hatte schon gesagt, die Sprachbiometrie
dient dazu oder soll dazu dienen, Sprachen
und Dialekte zu erkennen. Das geht, indem
jemand ungefähr zwei Minuten lang in einen
Telefonhörer spricht. Den Telefonhörer
bewirbt das BAMF in einer anderen
Präsentation als schlankes Frontend. Das
finde ich tatsächlich relativ amüsant. Und
für dieses System hat das BAMF einen Preis
gewonnen. Nämlich das...den E-Government-
Wettbewerb für das beste
Digitalisierungsprojekt in der Verwaltung.
Lachen
A: Das kann man so glauben oder man kann
es so nicht glauben. Auf jeden Fall ist
das BAMF sehr stolz auf dieses System und
das schlanke Frontend ist relativ einfach.
Das heißt, jemand wählt die Nummer 72099.
Dann drückt man eine Taste und bestätigt
das mit Raute und dann spricht jemand zwei
Minuten lang. Das heißt, da sitzt dann
jemand und die Person hat Bilder vor sich,
ein Bild oder mehrere. Und auf diesen
Bildern sind so typische Szenen. Eine
Person mit der ich gesprochen hab, sagte
zum Beispiel: da war ein Haus und vor dem
Haus war ein Garten und da war eine Mutter
mit Kindern drin. Und dann sollte die
Person eben diese Szene auf ihrer
Muttersprache beschreiben und idealerweise
zwei Minuten reden. Danach wird eine Taste
gedrückt wird wieder die Rautetaste und
man kriegt den Ergebnisbericht. Dieses
System soll in der Lage sein, verschiedene
Sprachen und Dialekte auseinanderzuhalten.
Und vor allem hat es das BAMF auf
arabische Dialekte abgesehen. Das heißt,
das sieht man auch da auf der Folie. Es
gibt verschiedene Regionen, in denen sich
Dialekte im Arabischen unterscheiden. Das
sind fünf Dialektgruppen, die das BAMF
unterscheiden will. Natürlich gibt es noch
viel mehr. Und das dient eben dazu, diese
Verfahren zu beschleunigen und zu
digitalisieren und die Asylentscheidung
auf eine breite Grundlage zu stellen. Was
aber, wie wir später sehen, werden nicht so
richtig funktioniert. Eigentlich, das
System das sie gekauft haben, das kommt
von dem Hersteller Nuance, kann noch mehr
Sprachen. Das heißt wir sehen hier okay
Bulgarisch kann es, Deutsch kann es,
amerikanisches Englisch kann es, Persisch
kann es, Farsi und Dari. Aber die
Entscheider oder bzw. die Asylverfahren-
Sekretariatsmitarbeiter sind angehalten,
das nur bei arabischsprachigen
Antragstellern einzusetzen. Das ist auch
das, was das BAMF immer behauptet. Wir
haben aber trotzdem nach, sag ich mal
nicht besonders langwierigen Recherchen
mehrere Leute gefunden, bei denen das
nicht der Fall war. Ich habe zum Beispiel
einen Menschen gefunden, der ist
eigentlich Kurde und kommt aus den
Autonomieregionen im Irak, spricht also
Kurdisch. Und spricht einen kleineren
kurdischen Dialekt. Und dieser kurdische
Dialekt taucht überhaupt nicht in dieser
Liste auf. Dieser Mensch wurde trotzdem
durch dieses System gejagt. Dieses System
hätte niemals erkennen können, dass er die
Sprache spricht, die er sagt, dass er sie
spricht.
Und dann kam dann raus: Okay, du
sprichst Türkisch. Vielleicht sprichst du
auch Hebräisch. Und dann saß dieser Mensch
und sagte:
„Hebräisch, was ist denn das überhaupt?"
Er wusste es nämlich tatsächlich wirklich
nicht und das ist einfach sehr krass, weil...
ganz eklatante Fehler in diesem Verfahren
passieren, weil
den BAMF-Mitarbeitern nicht ordentlich
mitgeteilt wird, für was sie das wirklich
benutzen können. Das heißt, wir haben da
eine Missachtung von den Vorschriften, die
es schon gibt, um diese Systeme überhaupt
zu bedienen. Wir sehen das auch nochmal
unabhängig bestätigt, eben in der Antwort
auf diese kleine Anfrage, die ich erwähnte.
Da gibt es eine Tabelle drin, wo
die Herkunftslandangaben der Personen
aufgeschlüsselt sind, bei denen diese
Spracherkennung gemacht wurde. Und da
sieht man okay, da sind Menschen aus Kenia
dabei. Da sind Menschen aus Bangladesch
dabei. Da sind Menschen aus Venezuela
dabei. Und das sind alles keine Länder, in
denen Menschen normalerweise arabische
Muttersprachler*innen sind. Und dann wird
es richtig interessant und zwar das ist so
ein Auswertungszettel aus den
Schulungsunterlagen. Und wir sehen hier
oben, da sind dann die
Wahrscheinlichkeiten für verschiedene
Dialekte drin, zum Beispiel Golf-Arabisch
mit 76,1 Prozent, andere arabische
Dialekte mit weniger Prozent und dann noch
so unbekannte Sprachen. Und dann sieht man
die Aufnahmedetails und dann sieht man
noch ein paar technische Details und da
steht unter anderem der Signal-Rausch-
Abstand drin. Das ist ja eigentlich ein
relativ relevantes Maß dafür, wie
qualitativ die Aufnahme war. Das heißt
eigentlich will ich ja, dass ich einen
großen Signal-Rausch-Abstand habe, damit
nicht zum Beispiel der Lkw, der im
Hintergrund durchgefahren ist, länger,
also lauter war, als die Sprache dessen,
der in den Telephonhörer gesprochen hat.
Aber das BAMF macht es sich da relativ
einfach und seinen Mitarbeitern auch
relativ einfach, indem sie einfach sagen:
Es ist nicht relevant. Das braucht ihr
überhaupt nicht beachten. Was man in
diesen Dingern auch vergeblich sucht ist
irgendein Hinweis darauf, ab wann so ein
Ergebnis überhaupt aussagekräftig ist. Das
heißt, da steht nirgendswo in diesen
ganzen Unterlagen, die wir angefragt
haben: Leute Ihr könnt erst Ergebnisse ab
einer Wahrscheinlichkeit von, was weiß
ich, 90 Prozent überhaupt als Anhaltspunkt
nehmen. Das steht da nicht. Das heißt, die
Leute sind damit komplett allein. Da kommt
ein Zettel, da steht da irgendeine Sprache
drauf, die ganz oben steht und dann denkt
man sich halt so: Naja, was soll das denn
überhaupt. Was mir daran auch sehr große
Sorgen macht ist, dass es einfach
überhaupt keine Qualitätskontrolle dazu
gibt. Das BAMF selber sagt: Wir haben eine
Fehlerquote von 15 Prozent. Das heißt, bei
jedem fünften bis sechsten Menschen, der
Asyl sucht, liegt dieses System falsch und
das BAMF weiß das auch. Aber das BAMF gibt
einfach keine Hinweise darauf, wie damit
umzugehen ist. Das BAMF hat auch immer
noch keine wissenschaftliche Begleitung zu
diesem Prozess angefangen, obwohl sie das
seit über einem Jahr behaupten, dass sie
das bald mal machen wollen. Lange Zeit
haben sie versucht zu verkaufen, dass sie
mit der University of Pennsylvania geredet
hätten. Dann haben wir nachgefragt. Dann
hat sich herausgestellt: Okay, Sie haben
bei denen ein Sprachpaket für 3000 Euro
gekauft und das war dann Ihre
wissenschaftliche Zusammenarbeit. Außerdem
ganz abgesehen von diesen ganzen Sachen:
Sprache ist eben nicht statisch. Sprache
ist nicht mit dem Lineal gezogen. Sprache
verändert sich im Laufe des Lebens. Und
ich glaube wir haben hier ein Video, das
nicht abspielen wird. Nö. Aber ich glaube,
wir können den Ton abspielen lassen.
Applaus
Tonspur (Plattdeutsch): Und als ik damals
Bürgmester wesse bin, in miin eigen
Gemeind, da heb ik damals - wie jetzt -
davon tücht [unverständlich] west,
dat dat beete is wenn man
[...unverständlich]
og in Plattütsch sproken kann.
ik würde seagen...
Ende der Aufnahme
A: Ja, das ist Deutsch.
Tonspur (bayrisch): Ich arbeite mit dem
Hans-Peter Ude jetzt schon irrsinnig lange
Zeit zusammen, sehr gut. Er ist ein
gestandenes Mannsbild, er hat eine klare
politische Vorstellung. Er gehört zu den
Politikern, bei denen man nach einem
Gespräch auch weiß, was er will.
Ende der Aufnahme
A: Das ist auch Deutsch. Und ich glaube,
das zeigt schon relativ eindrücklich, und
wenn man sich selbst überlegt, wie sich
die eigene Sprache innerhalb der eigenen
Lebensgeschichte entwickelt, dass so etwas
nicht als ernsthafter Hinweis
funktionieren kann und dass es nicht sein
darf, dass Menschen anhand eines solchen
statistischen Merkmals wirklich kategorisiert
werden.
Applaus
A: Man könnte jetzt sagen und das tut das
BAMF auch immer wieder, dass das nur ein
Hinweis unter vielen ist und dass in der
Gesamtschau aller Hinweise, diese
Asylanträge entschieden werden sollen. Ich
habe noch eine andere Person getroffen,
bei der war es so: Die Person hatte einen
Flüchtlingsausweis aus einem
Palästinenser-Camp dabei. Die Person hatte
die Heiratsurkunde ihrer Eltern dabei.
Diese Person hatte ihren Führerschein
dabei aus Syrien und diese Person hatte
eine lupenreine Fluchtgeschichte, die
nachgewiesen werden konnte, hat das alles
dem BAMF vorgelegt. Dann hat man diese
Sprachanalyse gemacht und dann hat diese
Sprachanalyse gesagt: Du kommst aber aus
Ägypten. Und dann hat das BAMF gesagt:
Dein Asylantrag wird leider abgelehnt. Und
es gab wirklich keinen einzigen anderen
Hinweis in dieser gesamten Akte, der
gesagt hätte, dass diese Person nicht über
ihre Herkunft die Wahrheit gesagt hätte.
Und da sehen wir eben, dass diese Fälle
eintreten. Da kann das BAMF noch so oft
sagen: Das sind quasi alle Hinweise, die
beachtet werden und das wird niemals
alleine über das Asyl entscheiden. Sondern
tatsächlich passiert es in Fällen. Wir
müssen auch sehen: Ein Entscheider, der
soll drei Fälle am Tag entscheiden. Das
heißt, wenn man sich überlegt: Ok, da gibt
es eine Anhörung von der Person, die kann
auch mal zwei Stunden dauern, wenn sie
viel zu erzählen hat. Dann müsste man sich
mit der Geschichte dieser Person
auseinandersetzen. Dann muss man noch
irgendeine Entscheidung treffen und dann
ist man eben in der Situation: Naja, der
Computer hat aber gesagt, der Computer hat
mir da so einen schönen Zettel gegeben, da
stehen Prozentzahlen drauf, die haben
sogar eine Nachkommastelle. Der muss ja
recht haben. Und genau das ist das Problem
an diesen Scheiß-Systemen, dass sie Leuten
eine Sicherheit vermitteln, die es
überhaupt nicht gibt und das sie dann
anhand dieser Sicherheiten, die sie
vermeinen zu haben, irgendwelche
Entscheidungen über das Leben anderer
Menschen treffen, die sie überhaupt nicht
überschauen können.
Applaus
A: Das Problem ist tatsächlich sogar noch
größer:
Nämlich die Entscheidungen, die
dann anhand solcher Ergebnisse getroffen
werden, lauten nämlich die Person hat
gelogen. Und wenn die Person gelogen hat,
dann wird ihr Asylantrag nicht einfach nur
abgelehnt. Dann wird ihr Asylantrag als
offensichtlich unbegründet abgelehnt. Und
das heißt, dass die Person nur eine Woche
Zeit hat, um dem zu widersprechen und
dagegen zu klagen. Das heißt eine Woche
Zeit, um so ein Behördenschreiben zu
interpretieren, um so ein
Behördenschreiben zu erwidern und dann
noch zu sagen: Ich akzeptiere das nicht.
Ist schon ziemlich kurz, wenn man sich
selber überlegt, wie lange man braucht, um
Behördenschreiben zu verstehen. Und das
ist glaube ich für sehr viele Menschen,
die nicht mit diesem deutschen
bürokratischen System aufgewachsen sind,
einfach nur fast unmöglich, wenn sie nicht
genug Unterstützung bekommen das zu tun.
Und deshalb ist es eine besonders perfide
Art und Weise, Leute damit wegzukriegen.
Aber das erzähle ich später noch, was man
dagegen tun kann. Erst einmal: Wie viel
hat der Spaß gekostet? Der Spaß hat, oder
soll, bis 2019 insgesamt 2,1 Millionen
kosten. Das ist noch das billigste System
von allen dreien. Das heißt wir merken
uns: 3,1 Millionen für Namens-Wahrsagerei;
2,1 Millionen für die Sprachanalyse. Und
dann kommen wir zu dem, glaube ich, medial
am Besten berichteten System: dem Auslesen
von mobilen Datenträgern, meistens sind
das Handys. Und das ist ein System, bei
dem merkt man auch ganz schön, wofür es
eigentlich da ist. Weil die Befugnis dazu,
die Handys von Geflüchteten auszulesen,
kam mit einem Gesetz, das 2016 erlassen
wurde. Und zwar dieses Gesetz heißt: Das
Gesetz zur besseren Durchsetzung der
Ausreisepflicht. Das heißt, da sieht man
wofür diese ganzen Systeme eigentlich da
sind. Man kann natürlich auch sagen, Ja,
sagt das BAMF auch gerne, damit können ja
die Antragsteller auch ihre Identität
leichter belegen, und so weiter und so
fort. Aber eigentlich geht es darum, dass
man Menschen schneller ausweisen kann. Das
funktioniert folgendermaßen: Eine Person,
wenn sie nach Deutschland kommt und
registriert wird und keinen Pass dabei
hat, kann dazu aufgefordert werden, ihr
Handy herauszugeben. Und dann wird dieses
Handy angestöpselt, ausgelesen und es wird
ein Bericht erstellt und dieser Bericht
liegt dann erst einmal rum.
Das, was interessant daran ist, ist dass da steht:
Wenn diese Herkunft nicht durch ein
milderes Mittel nachgewiesen werden kann,
kann der Datenträger ausgelesen werden.
Wenn man sich dann aber genau anguckt, was
dieses mildere Mittel ist, wird das Ganze
ziemlich lächerlich. Das hat man auch
während dieses Gesetzgebungsprozess immer
wieder gesagt, dass das nur die ultima
ratio sein soll, weil es ist einfach ein
ziemlich krasser Eingriff in die
Privatsphäre von einem Menschen, sein
ganzes Handy einmal abzuziehen und das
mildere Mittel heißt eigentlich nur,
dass du einen glaubwürdigen Pass vorlegen
kannst. So. Das steht auch in der
Dienstanweisung drin, die jetzt öffentlich
sein sollte. Da steht drin, quasi mildere
Mittel ist auch nicht die Anhörung, weil
die Anhörung kommt nämlich immer erst
nachdem dieses Ding ausgelesen wurde. Das
heißt, du hast überhaupt keine Chance
deine Geschichte überhaupt in irgendeiner
Art und Weise plausibel zu machen, sondern
erst einmal wird dein Handy runtergezogen.
Das muss dann im späteren Verlauf
freigegeben werden. Das heißt die Person,
die dieses Handy ausliest, ist eine andere
Person als die, die dir dann später in der
Anhörung gegenübersitzt und die Person,
die die Anhörung dann später macht, muss
sagen: Okay, ich hätte jetzt gerne den
Auswertungsbericht dieses Handys. Und das
muss dann freigegeben werden von einem
Juristen mit der Befähigung zum Richteramt
und wird dann eben in einem Report
ausgegeben. Man kann sich aber erst mal
anschauen wie sieht dieses System
überhaupt aus. Das wollte das BAMF ganz,
ganz lange nicht verraten, was das genau
für ein System ist. Dann stand es
irgendwie auf so Pressefotos selber drauf.
Und in dieser Präsentation ist es auch
inklusive Kamera und Kabel und zwar geht
es um ein System von MSAB. Und da hab ich
eigentlich auch ein Video, das aber jetzt
wahrscheinlich auch leider nicht abspielen
wird. Wir probieren es trotzdem mal ganz kurz.
Nö.
Gut, dann erzähle ich ganz kurz
was dazu: MSAB ist eine Firma, die macht
Mobilforensik, und macht Mobilforensik vor
allem aber auch für Polizeien und
Geheimdienste und Militärs, und wirbt auch
damit, dass sie genau das tun. Das heißt,
es ist eigentlich eine Technologie, die
man jetzt nicht unbedingt in einer
Asylbehörde vermuten würde, sondern
wirklich in der Strafverfolgung oder in
dem geheimdienstlichen Bereich. Das sind
Mitbewerber von Celebrite. Das ist diese
nette israelische Firma die ihre Software
auch gerne mal an autoritäre Regime
verkauft, um damit irgendwelche
Oppositionellen auszuspähen und irgendwie
zu verfolgen. MSAB hat bisher medial
zumindest noch eine reine Weste. Aber
Celebrite hat das BAMF dann auch
ausprobiert. Das haben sie jetzt nach
mehrmaligem Nachfragen endlich auch mal
zugegeben. Und dieses System macht
Folgendes: Das ist relativ einfach. Das
wird in diesem Video auch schön erklärt,
wie leicht sich das bedienen lässt. Und
zwar: man hat ein paar Knöpfe auf einem
Bildschirm und dann drückt man hier auf
"Anmelden" und dann sagt man: Okay, gib
deinen Benutzernamen ein. Dein Passwort
erhältst du bei BSB-IT, wenn du es
vergessen hast und dann musst du
bestätigen, dass du damit vertraut bist.
Nur geschulte und autorisierte Nutzer
dürfen dieses System benutzen. Das heißt,
da muss man dann einfach, naja, "Weiter"
klicken und dann drückt man auf den großen
Knopf "Handy auslesen". Dann wird dann
noch erhoben: Okay, in welchem Land hast
du dein Handy gekauft? Wann hast du dein
Handy gekauft, wenn du das sagen kannst.
Dann wird das Gerät fotografiert. Ich habe
mich am Anfang gefragt: Warum
fotografieren die das Gerät. Es geht um
Schadensersatzansprüche, wenn der BAMF-
Mitarbeiter einen Kratzer in das Display
macht. Und dann wird ausgelesen. Es kommt
so ein bisschen darauf an, wie viel das
BAMF auslesen kann je nach Gerätetyp. Das
heißt, das unterscheidet sich immer ein
bisschen: Von manchen Geräten können sie
eben mehr, von manchen weniger. Und um
Handys auch ordentlich zu erkennen, gibt
das BAMF seinen Mitarbeitern eine
hilfreiche Handreichung mit, nämlich die
verschiedenen Gerätetypen, die existieren.
Lachen
A: Das ist ein bisschen weird. Das ist
auch mit Abstand meine Lieblingsfolie in
diesem ganzen Ding. Das heißt, da wird
dann gesagt: Okay, Handys müssen nicht
immer gleich aussehen. Damit ihr die
irgendwie erkennt, geben wir euch jetzt
mal ein paar Beispiele an die Hand. Das
heißt das eine Handy sieht so aus wie so
ein altes PDA, so ein altes Klapphandy,
oder auch ein Handy in einem Pistolengriff
versteckt, kann man ja auch mal machen.
Also falls dann ein Geflüchteter ins BAMF
kommt, seine Pistole dabei hat, bin ich
sicher, dass der BAMF-Mitarbeiter erst mal
sagt: "Mensch, ist da dein Handy drin, kann
ich da mal kurz ran?"
Gelächter im Hintergrund
Aber, Naja.
Applaus
A: Genau, das ist übrigens ein Photoshop.
Das stammt von einer Seite, die heißt
Military Jobs, kommt von 2008 und ist
eigentlich gar kein echtes Modell, kann
man also nicht kaufen.
Lachen
A: Aber das ist bei der Zusammenstellung
der Präsentation wahrscheinlich nicht
aufgefallen.
Mittlerweile gibt es Selfie-Gewehre, die
kann man wirklich kaufen. Aber auch eher
unwahrscheinlich. Genau, dann wird auch
noch erklärt: Okay, Android ist am
weitesten verbreitet. Das gibt's nicht nur
als irgendwie Smartphone, das kann auch in
deinem Autoradio drin sein. Dann musst du
das auch noch auslesen und dann der ganz
wichtige Punkt: Die Freigabe muss durch
den Antragsteller durchgeführt werden. Das
heißt, das BAMF zieht sich darauf zurück,
das Ganze ist ja mehr oder weniger
freiwillig. Das wurde auch medial in
diesem ganzen Gesetzgebungsprozess immer
wieder versucht zu betonen, dass die
Menschen ja ihr Telefon freiwillig
hergeben und da keine Geräte geknackt
werden. Und das ist immer so ein Moment,
wo man skeptisch wird und dann guckt man
sich an, wie freiwillig ist das eigentlich?
Und dann steht in der Dienstanweisungen
drin: Naja, der Antragsteller muss zwar
sein Gerät selber entsperren, aber es gibt
die sogenannte Mitwirkungspflicht im
Asylverfahren. Und wenn der Antragsteller
seiner Mitwirkungspflicht nicht nachkommt,
das heißt, wenn er nicht sein Passwort
eingibt und nicht sagt: Hier, du darfst
hier einmal USB-Debuggen, dann kann dieser
Asylantrag als zurückgezogen angesehen
werden. Das heißt Freiwilligkeit ist halt
auch irgendwie so relativ und im Endeffekt
ist es eine Verpflichtung. Und ich glaube
nicht, dass jemand, der in der Situation
ist, dass er in Deutschland Schutz sucht,
weil er in seiner Heimat verfolgt wird,
sich dann besonders freiwillig fühlt, wenn
dann jemand sagt: Bitte gib mal dein Handy
her. Auch gut: Apple-Geräte können
leichter ausgelesen werden. Fand ich auch
sehr schön. Aber was passiert dann mit
diesem ganzen Kram, der von diesem Telefon
kommt? Was guckt sich das BAMF dabei an?
Ungefähr das: nämlich den Anrufverlauf,
das Adressbuch, die Lokationsdaten.
Nachrichten: Sowohl wohin sie gehen, als
auch in welcher Sprache sie geschrieben
sind. Dann Allgemeine Geräteinformationen
und Nutzerkennungen von Apps. Das BAMF
legt sehr viel Wert darauf zu sagen, dass
sie keine Inhalte analysieren. Wobei ich
sagen würde, naja, wenn man sich
Nutzerkennungen anguckt und guckt in
welcher Sprache Nachrichten geschrieben
sind, geht das schon ziemlich ziemlich
nahe an Inhaltsanalyse ran. Und dann wird
das Ganze in einem Bericht
zusammengefasst. Und dieser Bericht sieht
dann zum Beispiel so aus: Da sind dann
Diagramme drin, in welche Länder hast du
am häufigsten telefoniert? Oder aus welchen
Ländern hast du am häufigsten Anrufe
bekommen? Wie lange hast du mit diesen
Ländern telefoniert? oder auch: Wo hast du
Nachrichten hingeschickt und in welchen
Sprachen hast du Nachrichten geschickt?
Das wird beides sowohl für ein- und
ausgehende Nachrichten gemacht und da
steht dann auch noch wenn als Sprache
Arabisch erkannt wird, erfolgt eine
Dialektanalyse. Das heißt wir haben
eigentlich genau das Gleiche wie vorher
mit der Sprachaufnahme. Wir haben das
Ganze dann nur auf der gesprochen... auf
der geschriebenen statt der gesprochenen
Sprache. Das liegt daran, dass es im
arabischen Sprachraum verschiedene Chat-
Dialekte gibt. Das heißt man hat dann...
Das sieht dann ungefähr so aus. Man hat
eigentlich arabische Schriftzeichen, aber
wenn man eben versucht die auf einer
normalen Tastatur zu tippen, bzw. was
heißt auf einer normalen Tastatur, auf
einer Tastatur mit lateinischen
Buchstaben, muss man eben manche Zeichen
durch Ziffern ersetzen, zum Beispiel. Und
die unterscheiden sich auch nach den
Ländern ungefähr. Laut dem BAMF kann das
Ding ungefähr 130 geschriebene Sprachen
analysieren. Zu den Angaben, wie gut das
funktioniert: Das wissen wir leider nicht,
weil es dazu bisher noch überhaupt keine
Angaben gibt. Würde mich aber
interessieren. Genau, dann wird auch das
Adressbuch ausgewertet. Das heißt, in
welche Länder hast du deine Kontakte
eingespeichert? Auch welche Webseiten hast
du aufgerufen? Und welche Lokationsdaten
gibt dein Telefon so her? Das ist ein
interessanter Punkt, weil wir nicht genau
wissen und auch das BAMF nicht genau
herausgibt, welche Locations sie da
überhaupt benutzen. Das heißt, wir wissen:
Okay, sie nutzen Geodaten aus Fotos. Sie
nutzen auch irgendwelche Geodaten, die
Apps erheben, aber wir wissen auch nicht
welche sie auslesen können, denn alle
gehen anscheinend nicht. Und daraus wird
dann so ein Bild gemacht. Ich habe mir so
ein System mal angeschaut und gefragt:
So naja, wieso sind denn da keine Pfeile
dazwischen. Dann meinte sie, das haben die
Bundesdatenschutzbeauftragte uns
herausgestrichen. Aber wenn man sich das
mal anguckt, kann man sich halt überlegen,
dass jemand meinetwegen nicht von Syrien
nach Deutschland, dann nochmal nach
Griechenland und wieder zurück gefahren
ist. Das heißt eigentlich ist das so ein
ziemlicher Placebo, das man das
herausgestrichen hat. Unten das, das sind
die Account-Namen. Das heißt das ist
einfach nochmal eine Möglichkeit
weitergehend zu analysieren, was die
Person so tut, wenn man ihre E-Mail-
Accounts hat. Wenn man ihre Facebook-
Accounts hat. Wenn man, weiß ich nicht,
"Viber ID" kenne ich nicht, aber wenn man
alle möglichen Nutzerkennungen für alle
möglichen Apps hat. Tatsächlich ist das
das System, für das das BAMF noch am
meisten Hinweise zur Interpretation gibt.
Und zwar sagen sie: Ok, natürlich bei einem
Feature Phone kann ich nicht so besonders
viele Sachen analysieren wie bei einem
Smartphone. Ich muss natürlich auch
gucken, naja, wie oft benutzt diese
Personen dieses Gerät überhaupt, gehört
der Person das Gerät überhaupt schon seit
langem und wie viele Daten kriege ich da
raus und dann sagen sie: Ok, klar, wenn da
wenig Daten drin sind, wird die Person das
Gerät nicht so lange benutzen. Oder zum
Beispiel wenn sich gewisse Daten nicht mit
anderen Daten decken, könnte es natürlich
sein, dass unterschiedliche SIM-Karten
benutzt wurden, oder dass unterschiedliche
Leute dieses Gerät in Benutzung hatten,
was glaube ich bei Menschen mit einer
Fluchtgeschichte nicht besonders unüblich
ist. Und dann gibt es noch die... das
Ergebnis, dass die im Bereich Identität
angeführten Applikationen vielfältig sind.
Und dann geht man eben von einer hohen
Aussagekraft aus, weil man dann eben weiß
mit welchen Identitäten eine Person wann
unterwegs war und was sie da getan hat.
Das heißt, da dann einfach nur noch von
der Metadaten Analyse zu sprechen, finde
ich ziemlich sportlich. Und ich würde auch
gerne wissen, warum Booking.com Login-
Daten besser sind als Dating-App Login-
Daten. Falls da jemand Hinweise hat: Ich
nehme sie gerne entgegen. Das konnte ich
mir so nicht erschließen. So ein System
weckt Begehrlichkeiten. Wir sehen, ja
okay, dieses Ding kann alles Mögliche
auslesen und dieses System dieses
Herstellers MSAB kann auch noch viel mehr.
Das heißt MSAB kann Smartphones knacken.
MSAB Ist der einzige seriöse, also
ernsthafte, Mitbewerber von Celebrite und
die könnten Telefone aufmachen. Sie machen
es halt angeblich nicht, weil sie es nicht
dürfen. Und das System kann aber auch
einfach nur die kompletten Inhaltsdaten
auslesen und das ist eine Begehrlichkeit,
die nicht erst seit kurzem besteht. Und
zwar schon im November 2017 hat die
damalige BAMF-Chefin Jutta Cordt in einem
Interview gesagt: Na ja, wir haben ja
jetzt dieses schöne System, aber wir
würden auch gerne an die Fotos ran, weil
da sehen wir ja viel mehr, was die Leute
da gemacht haben. Und das ist glaube ich
einfach nur noch eine Frage der Zeit und
in einer neuen Antwort des
Innenministeriums auf diese kleine Anfrage
haben sie eben auch gesagt: Naja, wir prüfen
gerade die Möglichkeiten das zu erweitern.
Das heißt es wird nicht bei diesem Stand
bleiben, dass man dann Statistiken
erstellt und guckt, wo die Leute vielleicht
waren, sondern dass man dann eben noch
viel, viel tiefer in die Privatsphäre von
Leuten eingreift. Und dann muss man sich
fragen: a) Was für ein krasser
Grundrechtseingriff ist das? Und wie krass
wäre das, wenn das, sage ich mal, jemandem in
Deutschland passiert, der zu einem Amt
geht und irgendeinen Antrag stellt, wo
dann das Amt sagt: Gibt erst mal bitte dein
Telefon her. Ich glaube, wenn man sich das
vorstellt, merkt man, wie beschissen man
eigentlich mit Leuten umgeht, die hier in
Deutschland fast keine Lobby haben und die
sich nicht wehren können, weil sie in der
krassen Drucksituation sind und wie wenig
man sich erst mal wagen würde, das bei
Menschen zu machen, die hier schon seit
langem wohnen und dieses System kennen. Aber da probiert man es halt aus. Und das
ist, glaube ich, etwas, was man nicht
akzeptieren darf und was man auch gar
nicht erst anfangen lassen darf, weil
das ist im Endeffekt ein Testballon,
um weitere Dinge auszuprobieren.
Applaus
Ok, dann die Betrachtung. Wir haben ja gesagt,
Okay 3,1 Millionen für die
Transliteration, 2,1 Millionen für die
Sprachbiometrie. Was schätzen wir für die
Handyauswertung? Das sind bis Ende 2019
voraussichtlich 11,2 Millionen Euro. Und
diese 11,2 Millionen Euro gehen zum einen
in die Hardware. Das heißt, wir müssen
dieses Gerät irgendwie auslesen, gehen in
die Software für die Analyse dieses Dings
und für den Support. Und weil ja immer neue
Gerätetypen da vorkommen, wird es auch
nicht aufhören, Geld zu kosten. Das heißt
natürlich muss ich dieses System immer
weiter pflegen, wenn es neue Smartphones
gibt und die ausgelesen und analysiert
werden sollen. Wenn man das jetzt mal aus
einer rein, ne, wenn man jetzt mal diese
ganzen Grundrechtsbedenken über Bord wirft
und sich einfach überlegt, wie sinnvoll
kann das denn sein? Der BAMF-Vizechef
Marcus Richter sagt: "Wir haben bisher 27.
000 Handys ausgelesen." Das ist die
Werbezahl, mit der er vor ungefähr einer
Woche auf PR-Tour gegangen ist. Vor
ungefähr einer Woche hat das
Innenministerium geantwortet: Naja also, in
9.710 Fällen wurden Handys ausgelesen und
ausgewertet. Selbst diese Zahl muss man
sich nochmal angucken, nämlich
ausgelesen und ausgewertet heißt, es wurde
so ein Bericht generiert. Das heißt aber
nicht, dass diesen Bericht auch mal jemand
gesehen hat. Wie oft hat diesen Bericht
jemand gesehen? In 2.845 Fällen. Es wird
immer weniger. Das heißt wir waren am
Anfang mal bei 27.000 jetzt sind wir bei
2.845. Dann guckt man sich an, ok, wo
wurde das gemacht? Ich habe dafür in Motherboard eine
Grafik gemacht und da sieht man einfach auch, dass
die verschiedenen Dienststellen des BAMF
das ziemlich unterschiedlich häufig
einsetzen. Das da in der Mitte ist Gießen,
die mögen das System anscheinend. Und
selbst wenn man das auf die Anzahl der
Menschen bezieht, die an diesen BAMF-
Dienststellen ankommen, ist das immer noch
sehr unverhältnismäßig. Ok. Das heißt,
einmal zurück, 2.845. Wie oft war die
Auswertung überhaupt brauchbar? In 35
Prozent der Fälle. Das heißt in 65 Prozent
der Fälle hat man gar keine brauchbaren
Ergebnisse dadurch bekommen, sei es, dass
die Personen vielleicht das Telefon erst
seit kurzem hat, sei es dadurch, dass
Telefone weitergegeben werden, dass
Telefone kaputt gegangen sind, dass
Telefone nicht ausgelesen werden konnten,
weil sie zu alt sind. Das Innenministerium
sagt auch, man hat Probleme mit
proprietären Anschlüssen und mit alten
Handys, die keine USB-Anschlüsse haben.
Ok, verwertbare Ergebnisse: Was einen aber
eigentlich interessiert, bzw. was das BAMF
eigentlich interessiert, in wieviel Fällen
kriege ich denn Hinweise darauf, dass
jemand da so Widersprüche in seiner
Geschichte hat? Zwei Prozent. Zwei
Prozent, das rechnet man mal um auf diese
2.845. Dann landet man bei weniger als 60
Fällen und dann guckt man sich nochmal an,
ok 11,2 Millionen Euro. Ist ziemlich
sportlich, finde ich. Auf jeden Fall ist
das auch eine Zahl, für die kann man
ziemlich viele Leute einstellen, die sich
vielleicht mit Menschen beschäftigen
können. Man könnte sich auch überlegen, ob man
so viel Geld ausgeben will, um Menschen
aus Deutschland rauszuhalten oder ob man
nicht einfach seine Grundeinstellung
vielleicht mal ändern will und einfach
Leute nach Deutschland kommen lassen will
und einzusehen, dass man ein scheiß
reiches Land ist, das für irgendwelche
bescheuerten Softwaresysteme so viel Geld
einsetzt. Applaus
Genau deshalb: Ich missbrauche
nochmal kurz das Motto des letzten
Kongresses. Und zwar: Das klingt alles so
als wäre es jetzt da und als wäre das jetzt
irgendwie so ein Ding, mit dem man leben
müsste. Ist es aber nicht. Und zwar ich würde
gerne alle bitten, sich gegen diese
Systeme zu wehren. Das heißt, das kann
sowohl sein, wenn Menschen selbst
betroffen sind, sich gegen diese Systeme zu
wehren, als auch wenn ihr Menschen
unterstützen könnt, sich dagegen zu wehren,
weil, ich habe vorhin schon gesagt, es gab
diese Menschen, die ich getroffen hatte,
die damit Probleme bekommen haben. Und
diese ganze Kacke hat ein Gutes: Und zwar,
es hat keine Gutachtenqualität. Früher war
es zum Beispiel so bei diesen
Sprachgutachten, das haben dann anonym
gehaltene Gutachter gemacht. Die haben
dann gesagt, ok die Sprache der Personen
und die Worte, die die Person benutzt,
klingen so, als würde sie da und da
herkommen, das konnte man vor Gericht
vorlegen. Wenn man mit so einem Zettel,
mit so einem komischen Prozentzettel vor
Gericht geht und sagt: Ok, die Software hat
eine Fehlerquote von 15 Prozent, dann gilt
das überhaupt nichts. Das heißt, wenn
Menschen aufgrund solcher komischen Zettel
Probleme kriegen, kann man dagegen relativ
gut vorgehen. Bei der einen Person, die ich
getroffen habe, hat das auch mittlerweile
schon funktioniert, weil eben gesagt wurde:
Ok guck mal, das ist der einzige Hinweis
darauf, dass die Person nicht die Wahrheit
gesagt hat und das ist ein absolut
unzuverlässiges Programm. Und dann muss
man eben einfach nur schauen, dass es
schnell geht. Das heißt, die Person hat
eine Woche Zeit, um Widerspruch einzulegen
und dagegen zu klagen. Aber das ist eine
Sache, die ist möglich. Und das ist auch eine
Sache, bei denen ich Leute bitten würde,
die Geflüchtete unterstützen oder
irgendwie mit Geflüchteten reden, ihnen zu
sagen, dass man sich dagegen wehren kann
und dass man das eben nicht hinnehmen
muss. Eine andere Möglichkeit, wie man
irgendwas tun kann: Man kann sich
informieren und man kann mich informieren.
Das heißt irgendwo in meiner
Talkbeschreibung stehen bestimmt
Kontaktdaten, die jetzt nicht auf dieser
Folie sind. Und falls ihr noch mehr
Informationen zu diesen schönen Systemen
habt, schickt sie mir, ich werde sie
weiter veröffentlichen und damit danke ich
euch für eure Aufmerksamkeit.
Applaus
Herald: Danke Anna für den Talk. Ich würde
euch bitten, wenn ihr Fragen habt, euch an
die Mikrofone zu stellen. Hier vorne gibt
es eine Reihe, da gibt es eine Reihe und
ganz hinten gibt es auch noch ein fünftes
Mikrofon und ich würde als erstes das Wort
dem Signal Angel geben.
Signal Angel: Hallo! Gibt es Hinweise
darauf, dass der Zugriff auf Smartphones
beim Auslesen von Daten auch zur
Installation weiterer Software auf den
Geräten genutzt wird? Vielleicht auch ohne
das Wissen der BAMF-Mitarbeiter sogar?
Anna: Nein. Sorry, ne. Tatsächlich sind mir keine
Fälle bekannt, in denen sowas passiert
ist. Und tatsächlich suche ich auch noch
nach Menschen, bei denen so etwas generell
mal passiert ist, weil man relativ wenige
Leute findet, bei denen das durchgeführt
wurde und bei denen es nicht technisch
gescheitert ist. Gelächter Also ich habe
schon drei Leute gefunden, bei denen es
technisch gescheitert ist, aber ich hätte
gerne noch Menschen, die mir davon
berichten, wie es ist, wenn es nicht
scheitert.
Herald: Mikrofon zwei
Zwei kurze Fragen: Frage Nummer eins, läuft da
irgendwie eine Klage gegen diese
Handy-Auslese-Aktion oder sowas oder sind die
Betroffenen einfach zu eingeschüchtert und
wehrlos, als das die da was machen können?
Und Frage Nummer 2: Habt ihr mal irgendwie
versucht, vielleicht in Kombination mit
irgendeinem Amt, so zum Beispiel die Videos,
die du eben hattest, mit den Sprachsamples durchlaufen
zu lassen und zu gucken aus welchen
arabischen Staaten die Herren denn kommen?
Anna: lacht Also zu der zweiten Frage,
fangen wir damit an. Das ist mir eine
ewige Mission. Und ich stelle dem BAMF
sicherlich seit einem dreiviertel Jahr
Anfragen und sage bitte bitte bitte zeig
mir diese Systeme mal. Und eigentlich, mein
geheimes Ziel, das kann ich jetzt auch
verraten, da sie mich nicht reinlassen,
ist einfach zu beweisen, dass Horst
Seehofer nicht zu Deutschland gehört.
GelächterApplaus Aber die letzte
Ausrede, die ich vom BAMF bekommen habe,
warum ich nicht in die Räume gehen kann,
ist, dass sie zu klein sind. Gelächter
Das ist tatsächlich leider kein Scherz,
aber ich versuche es weiter. Vielleicht
lässt man mich ja irgendwann mal rein. Zu
der ersten Frage: Klage. Falls es Menschen
gibt, die daran interessiert sind, gegen
dieses System zu klagen. Gerne zu mir
schicken, eventuell gibt es da Pläne. Dass
Menschen dagegen vorgehen im Rahmen von
Klagen gegen Ablehnungsbescheide, ja, aber
ich glaube, das System müsste man erst
einmal an einer grundsätzlicheren Ebene
angreifen, wenn eben Leute dazu bereit
sind, das ein mal durchzufechten.
Herald: Ok dann Mikrofon eins bitte.
Mik 1: Bei der Auswertung der Handydaten
sollen ja Lokationsdaten, wie zum Beispiel
in Fotos und auch Anruflisten und
dergleichen zum Einsatz kommen. Ich
schätze mal, da geht es dann darum, ob es
sich um Telefonnummern aus den
entsprechenden Ländern handelt oder
anderen Ländern. Nun es ist ja bei
Fluchtgeschichten so, dass das oft auch
mal hin und her geht oder mal eine Weile
bei einer bestimmten Station bleibt.
Inwieweit haben die Antragsteller die
Möglichkeit dazu dann überhaupt eine
Stellungnahme abzugeben und zum Beispiel
zu sagen: "Natürlich sind das alles
jordanische Nummern, meine Familie sitzt
in Jordanien und ich bin eben weiter nach
Deutschland gekommen. Trotzdem sind wir
Syrer!", beispielsweise?
Anna: Ja. Das ist eine gute Frage. Und
zwar, es ist so, dass diese ganzen
Auswertungen eigentlich passieren sollen,
bevor die Anhörungen sind. Das heißt schon
quasi, wenn du registriert wirst, wird
dieses Bild von dir gemacht und dann wird
eben geschaut hast du einen Pass, lässt
der sich überprüfen und wenn nicht, gehen
wir eben durch diese ganze Kette durch.
Dann sollst du in deiner Anhörung die
Chance bekommen dazu Stellung zu nehmen.
Handyauswertung hat man anscheinend nicht
besonders viel bei Altverfahren gemacht,
aber es gibt diverse Altverfahren, in denen
solche Sprachanalyse gemacht wurden. Das
heißt einfach Asylprozesse von Menschen,
die schon seit 2015 oder 2016 in
Deutschland waren, bei denen es eben immer
weiter gedauert hat, die immer weiter
aufgeschoben wurden und bei denen dann
auch ein Sprachgutachten in Auftrag
gegeben wurde. Das heißt so ein Ding, da
muss jemand eine halbe Stunde lang reden
mit einem Dolmetscher und muss dann
erzählen und so weiter und so fort. Das
wird erst einem Menschen vorgelegt, der
macht dazu ein Gutachten, die sind
furchtbar teuer. Dann gab es irgendwann
eine Dienstanweisung vom BAMF. dass gesagt
hat: Ok, bitte Leute, guckt mal all die Fälle
durch, wo wir diese Sprachgutachten durch
diese Sprachanalysen ersetzen können. Und
da wurden dann eben diese Analysen im
Nachhinein gemacht, das heißt nach der
Anhörung. Und da habe ich drei Leute
gefunden, die dann im Nachhinein keine
Gelegenheit mehr bekommen haben, da
Stellung zu zu nehmen. Das heißt, es ist
eigentlich vorgesehen, aber ich glaube, gerade bei diesen ganzen älteren schon
rumliegenden Verfahren, wird das nicht
mehr unbedingt gemacht.
Herald: Dann einmal Mikrofon drei bitte.
Mik 3: Deine Analyse bezüglich der
Effizienz der Auslesung der Smartphones
war relativ eindeutig, also mathematisch.
Da müsste das BAMF doch selbst auf die
Idee kommen, dass es Quatsch ist. Planen
die eine Überprüfung der Zahlen oder
irgendetwas, ist da was bekannt?
Anna: Das BAMF gibt ja andere Zahlen raus.
Das BAMF gibt ja die Zahlen von "Wir haben
27.000 Auswertungen gemacht" raus. Das das
dann nur die Fälle sind, in denen sie so
ein Handy an ein Kabel gestopft haben und
nicht Fälle sind, in denen irgendwas dabei
herausgekommen ist, das sagen sie halt
nicht. Das heißt, wir haben schon öfter
eben die Erfahrung gemacht: Man hat
irgendwelche Informationen über diese
Systeme, man plant einen Bericht dazu und
einen Tag vorher kommt dann ein Bericht in
einem anderen Medium, wo das BAMF dann eben
sagt, wie super das alles funktioniert,
sagt beste Leben, Asyl, top. So. Und ich
glaube, das ist eben so ein bisschen
dieses Ding, man verschließt, glaube ich, die Augen
davor, wie sinnlos dieser ganze Kram
eigentlich ist, weil man sich so darauf
verschossen hat. Man hat dann eben kurz
vor der Bundestagswahl 2017 gesagt: Wir
haben diese tollen Systeme und wir sind
jetzt Vorreiter in Sachen Digitalisierung
in der öffentlichen Verwaltung. Wir sind
quasi das Leuchtturmprojekt für ganz
Europa, wir wollen unsere Systeme
irgendwie der ganzen EU zur Verfügung
stellen und mit denen teilen und
verbessern und wollen damit quasi
Digitalisierungsvorreiter werden. Ich
glaube, ich kann allen von euch mal
empfehlen, auf die BAMF-Homepage zu gehen.
Da gibts auch so tolle Werbevideos. Unter
anderem, wie das BAMF einen
Scrum-Master-Raum eingerichtet hat, wo dann eben die
Entwickler mit den Fachmitarbeitern
zusammensitzen, in einem mit Graffitis
angesprühten Raum, richtig cool und mit
Sofas. Und ich glaube daran sieht man ganz
gut, wo das Problem ist. Man will nämlich
eine moderne Behörde sein und man will
cool sein und man will irgendwie
digitalisiert sein. Und ich glaube
dahinter kommt man nicht mehr so richtig
zurück.
Herald: Dann Mikrofon Nummer vier bitte.
Mik 4: Wenn ich das richtig verstanden
habe, hast du ja gesagt, dass die Tools
oder die Systeme angewendet wurden
aufgrund von Unternehmensberatung. Sind
die da jetzt falsch beraten worden oder
funktionieren die Systeme, wenn sie
ordentlich oder anders angewendet werden,
besser?
Anna: Na was heißt erst mal, was heißt
aufgrund von Unternehmensberatungen? Wir
wissen eben, dass in einer gewissen Zeit
ganz viele Unternehmensberatungen das BAMF
beraten haben und ihnen zu diversen mehr
oder weniger fragwürdigen Dingen geraten
haben. Zum Beispiel auch zu der Sache mit
man muss Geflüchtete in mehrere Klassen
einteilen, die Menschen mit einer relativ
guten Bleibeperspektive, die mit einer
nicht so guten Bleibeperspektive und die
Menschen, die wahrscheinlich sowieso
abgeschoben werden, weil sie aus Ländern
kommen, wo die Schutzquote eher gering
ist. Das heißt, da ging es ganz ganz ganz
viel um Effizienz und da ging es eben auch um
diese Digitalisierungsprozesse. Da geht es
zum einen auch um, ja, papierfreiere
Büros, aber da geht es dann auch um diese
Systeme. Und die Frage, ob man Systeme
bauen könnte, die gut funktionieren. Ich
finde, das ist keine Frage, die man sich
stellen sollte. Für mich ist es eine
ethische Frage. Weißt du, wir motzen alle,
weil es diese komische Schufa gibt, die
irgendwelche Algorithmen hat, die wir
nicht verstehen, die irgendwelche
komischen, ja, Merkmale heranziehen, die
wir nicht verstehen und nicht kennen und
weil wir dann keinen Handy-Vertrag kriegen.
Aber da geht es um Software. Da gibt es auch
Algorithmen, die keiner versteht. Da gibts
Datenbasen, die nicht transparent sind und
deshalb kriegen Menschen kein Asyl. Und
ich finde, wenn man schon irgendwie sagt,
dass die Schufa nicht so intransparent
agieren kann, kann man so ein System
einfach gleich abschalten. Und man muss
sich einfach mal vorstellen, was das
heißt.
Applaus
Herald: Dann Mikrofon Nummer 2 bitte.
Mik 2: Ja nochmal zu der Sprachzuordnung
oder zu der Dialektzuordnung. Es gab vor kurzem
auch einen Bericht im MDR darüber, "Das
BAMF hat diese tolle Technologie und ist
die nicht auch einsetzbar für die Polizei
und für andere Institutionen?". Sie werben
sogar selber damit. Hast du Informationen
darüber, ob die Information, ob diese
Technologien auch von anderen
Institutionen in Deutschland eingesetzt
wird?
Anna: Habe ich nicht. Glaube ich aber
tatsächlich auch momentan nicht. Das
hat der MDR ja auch quasi geschrieben,
glaube ich, dass das momentan noch niemand
anderes einsetzen will. Also wüsste ich
tatsächlich auch nicht. Was man eher hat,
sind so Softwares, die versuchen, Sprecher
zu identifizieren, zum Beispiel, irgendwie
zu gucken: Ok, ist die Person, die jetzt
eine Drohung am Telefon ausgesprochen hat,
diese Person oder so weiter. Aber eine
Dialektanalyse in dem Sinne ist, glaube
ich, für andere deutsche Behörden momentan
eher uninteressant. Interessanter ist es
natürlich für andere europäische
Migrationsbehörden, und das BAMF versucht
dann eben auch darauf zuzugehen und sich
zum Vorbild zu machen und es dort zu
etablieren.
Herald: Dann einmal Mikrofon Nummer eins.
Mik 1: Hi. Ist es aus deiner Sicht schlau,
wenn man sein Handy wiped, bevor man hier
nach Deutschland kommt und vielleicht die
Daten exportiert irgendwie, um s ie später
wieder draufzuladen oder ist das
vielleicht kontraproduktiv? Ist das ein
Rat, den man jemanden geben könnte, der
nach Deutschland kommt?
Anna: Das ist eine gute Frage. Kann ich
dir nicht beantworten. Also kann ich dir
tatsächlich einfach wirklich nichts sagen, weil
weiß ich nicht. Also das BAMF ist sich
tatsächlich auch dessen bewusst, dass es
gefälschte Handys gibt, die im Umlauf sind.
Das heißt, dass es Handys gibt, wo eine
plausible Geschichte draufgespielt wurde.
Ich meine, klar, ok, der Markt passt sich an,
es gibt dieses System. Dieses System
analysiert gewisse Dinge, irgendwann weiß
man, was es analysiert und dann kann man
eben Handys generieren, auf denen genau
das drauf ist, was man will. Das heißt,
Menschen, die, wenn man es so nennen will,
oder die sozusagen betrügen, überführt man
damit sowieso nicht. Das heißt, diese zwei
Prozent der Fälle, wo es dann irgendwie
Widersprüche gab, da hat vielleicht
einfach jemand irgendwo ein Handy gefunden
und mitgenommen und da war dann
blöderweise irgendwas anderes drauf. Aber natürlich ist es ein Einfaches irgendwie, das
System zu überwinden und eigentlich
weiß das BAMF das auch so.
Herald: Dann Mikrofon Nummer drei.
Mik 3: Dann stellt sich die Frage, ob die
200.000 Euro pro Erfolg bei dieser
Handyauswertung, neben dem ohnehin
unethischen Thema, nicht ein Fall für den
Bundesrechnungshof sind. Gelächter
Applaus Wie siehst du das?
Anna: Ja, der Bundesrechnungshof sollte das
BAMF in diesem Jahr geprüft haben. Wenn
jemand den Bericht dazu hat, nehme ich ihn
gerne. Also ja, sicher. Ich glaube, wenn man
das so betrachten will, wenn man aus der
finanziellen Warte betrachten will, kann
man diese Frage auf jeden Fall stellen.
Und sollte man dann auch. Man kann sich
auch fragen, wie viel Personal kann ich
dafür einstellen? Oder: wieviel Menschen
kann ich dadurch ein Leben in Deutschland
ermöglichen? Also, ja, ich finde es
absolut rausgeschmissenes Geld.
Herald: Also wer Berichte hat, bitte
vertrauensvoll an Anna wenden.
Mikrofone Nummer fünf ganz hinten bitte.
Mik 5: Ich war vor knapp zwei Monaten mit
einem Jugendlichen bei der Anhörung beim
BAMF. Da ist wohl auch auf jeden Fall das
Handy erfolgreich ausgelesen worden. Und
neben der ganzen Thematik, wie unzumutbar
das eigentlich ist innerhalb des
Verfahrens, habe ich mich auch gefragt, wo
diese Daten gespeichert werden und wie
sicher die gespeichert werden. Weißt du
dazu was?
Anna: Man kann die Frage zehnmal an das
BAMF stellen. Man bekommt immer die
gleiche Antwort und zwar "in einem
sicheren Datentresor." Gelächter Also
nein, weiß ich nicht. lacht Also ich
weiß es nicht. Es ist anscheinend so,
beziehungsweise das BAMF sagt es eben so,
dass diese Freischaltung durch einen
Volljuristen erfolgen muss und dass die
Entscheider da selber nicht auf diese
Datenbank, in der das liegt, Zugriff
haben. Das glaube ich ihnen auch
tatsächlich. Aber wie sicher die Daten im
Sinne, im physischen Sinne sind, das weiß
ich nicht.
Herald: Dann Mikrofon Nummer eins.
Mik 1: In der Talk Ankündigung stand als
letzten Satz drin, dass das BAMF noch so
ein Projekt mit Blockchain macht. lacht
Ja sprengt das jetzt den Rahmen oder magst
du dazu noch etwas sagen? Das klang sehr
erschreckend.
Anna: Ja. Dazu gibt es dann im Januar
mehr. Und das BAMF macht auch etwas mit
Blockchain richtig. Und zwar es heißt
"Blockchain at BAMF". Richtig gut.
Gelächter Ich will da nicht zu viel zu
sagen. Es ist eigentlich ein ganz. Ja. Es
ist halt cool, was mit Blockchain zu
machen, deshalb macht das BAMF jetzt auch
etwas mit Blockchain und man überlegt sich
halt ob man das Asylverfahren irgendwie
auch auf die Blockchain packen könnte.
Dazu gab es wohl ein Proof of Concept
beziehungsweise dazu gab es ein Proof of
Concept und dazu läuft angeblich gerade
eine Pilotierung im Ankerzentrum in
Dresden. Das heißt gar nicht weit. Und da
will man eben erreichen, dass die
Verfahrensstände im Asylverfahren zum
Beispiel auch anderen Behörden schneller
zugänglich sind. Und dann eben
fäschungssicherer sind. Das heißt man kann
dann sagen, "ok Person wurde registriert,
das schreiben wir in die Blockchain" und
dann kann irgendeine andere Behörde da
auch darauf zugreifen. Aber da gibt es
noch Fragen, das heißt dazu gibt es auch
ein Whitepaper, das kann man sich auf der
BAMF Seite mal angucken. Da haben Sie dann
auch irgendwann gemerkt, dass mit der
Blockchain ist ja ein bisschen blöde, weil
da kriegt man die Sachen nicht so einfach
wieder raus und eigentlich müssen die
Daten ja nach zehn Jahren gelöscht werden.
Das ist auch blöd. Dann aber ja, dann kann
man irgendwas mit Pseudonymen machen und
vielleicht kann man Blockchains auch
wieder nach hinten löschen und so. Also es
bleibt spannend. Ich hab nicht besonders
große Angst vor diesem Projekt, weil es
ist halt was mit Blockchain und es geht
vorbei. Aber. GelächterApplaus Genau.
Eine Kolleginnen und ich schauen uns das
gerade an. Sagen wir es so.
Herald: Dann ein mal der Signal Angel
bitte.
Signal Angel: Also solange es die
Blockchain noch nicht gibt, gibt es dann
Richtlinien wie lange diese Daten
gespeichert werden, die in so einem
Verfahren erhoben werden?
Anna: Ja, gibt es. Ich kann sie nicht
auswendig. Grunddaten werden zehn Jahre
gespeichert, andere Daten, die sensibler
sind wie Gesundheitsdaten im
Asylverfahren, es gibt ja noch eine ganze
Menge andere Daten, die im Asylverfahren
erhoben werden. Unter anderem dein
Impfstatus und die Sprachkurse, die du
besucht hast und so weiter und so fort.
Die werden, ich glaue Gesundheitsdaten nur
für ein Jahr, aber würde ich mich nicht
drauf festnageln lassen. Das ist eine
Angabe, die in der Verordnung zur
Durchführung des
Datenaustauschverbesserungsgesetzes steht
glaube ich. Kann man nachlesen, habe ich
nicht im Kopf.
Herald: Dann einmal Mikrofon Nummer zwei.
Mik 2: Hallo ich habe auch folgende Frage
und zwar weiß ich eigentlich auch aus
meinem Arbeitsleben, dass es gerade bei
den Namen ganz oft zu Fehlern kommt. Und
ich meine, wenn man jetzt Vorname A mit
Vorname B verwechselt, ist es vielleicht
noch nicht erfassbar. Aber das es auch zu
solchen Fehlern kommt wie es gibt nur
einen Vornamen. Der Vorname ist dann der
Name einer Stadt. Und wirklich
offensichtliche Fehler. Aber wenn das halt
erst einmal durch das BAMF oder durch die
Ausländerbehörde auf dem Aufenthaltstitel
ist, ist im Prinzip nur wirklich mit
mehreren Anhörungen und Terminen mit dem
Dolmetscher und mit einer langen Prozedur
überhaupt wieder irgendwas zu ändern. Und
ich frage mich wenn das Programm eine
Fehlerquote von 15 Prozent hat, wieso ist
es dann so schwer, da irgendetwas gegen zu
machen?
Anna: Das Programm mit einer Fehlerquote
von 15 Prozent war diese Sprachauswertung.
Dieses Namensprogramm soll ja erst einmal
nur dafür sorgen, dass die Übertragung von
arabischen Schriftzeichen die die Person
selber eingibt, das heißt die Person soll
selber ihren Namen schreiben. Es sei denn
sie ist nicht in der Lage zu schreiben
dann macht es der Dolmetscher, diese
einheitlich zu übertragen. Und das ist
vielleicht auch erst mal ein Fall der
relativ einleuchtend ist, das heißt man
will irgendeine Einheitlichkeit haben,
aber ich glaube da ist nochmal ein anderes
Problem. Nämlich das man verschiedene
zuständige Stellen hat. Man hat die
Ausländerbehörden, man kann auch irgendwie
in die Situation geraten bei einer Polizei
registriert zu werden und ich glaube dann
diese ganzen Prozesse aufzurollen da Daten
zu korrigieren ist eben schwierig und
gerade für das sogenannte Ausländer
Zentralregister ist das BAMF ja die
zuständige Behörde. Das heißt die müssen
sich eigentlich darum kümmern, diese
ganzen Daten irgendwie richtig zu halten.
Sie geben aber die Verantwortung dafür in
einer gewissen Art und Weise ab, indem sie
eben sagen: "Die Verantwortung für die
Richtigkeit der Daten können wir nicht
übernehmen. Das muss quasi die Stelle
machen, die diese Daten eingetragen hat."
Das heißt ich glaube das ist ein Problem,
das wird nicht so schnell weggehen.
Herald: Dann danke Anna für den
großartigen Talk und bitte gebt ihr einen
dicken fetten Applaus dafür.
Applaus
Abspannmusik
Untertitel erstellt von c3subtitles.de
im Jahr 2020. Mach mit und hilf uns!