35C3 - Computer, die über Asyl (mit)entscheiden

35C3 Vorspannmusik

Herald: Ich weiß nicht, wie es euch geht
aber jedes Mal wenn ich höre, dass

irgendwie die Bundesrepublik irgendwas an
Computerprogramm geschrieben hat, dann

läuft es mir ziemlich kalt den Rücken
runter. Und wenn ich dann auch noch höre,

dass sie über Menschenleben entscheiden
wollen, lieber ein Computerprogramm

einsetzen, statt einen kompetenten
Mitarbeiter, dann finde ich das Ganze

irgendwie noch viel verwerflicher und Anna
Biselli ist der Frage seit ungefähr

anderthalb Jahren nachgegangen, wie das
passiert und was in diesem

Abstimmungsprozess passiert. Und sie wird
uns heute erzählen wie Computer

über das Asyl mitentscheiden. Einen
großen Applaus für Anna Biselli

Applaus

Anna Biselli: Hallo und schön, dass ihr
gekommen seid. Ich sehe euch zwar jetzt

nicht mehr, weil es so hell geworden ist. Es soll um Computer gehen,

die über Asyl (mit)entscheiden. Und das BAMF nennt das anders.

Das BAMF nennt das

„Integriertes Identitätsmanagement -
Plausibilisierung, Datenqualität und Sicherheitsaspekte".

Das sind Systeme, die das BAMF vor anderthalb
Jahren eingeführt hat und die die ganzen

Asylprozesse effizienter machen sollen.
Und es geht um folgende Systeme. Es geht

um ein System zur Namentranskription ,
das heißt zur Übertragung von arabischen

Namen in lateinische Buchstaben. Es geht
um Sprachbiometrie oder vielleicht

einfacher verständlich: Dialektanalyse, um
festzustellen wo jemand herkommt und es

geht um das Auslesen mobiler
Datenträger, das heißt salopp gesagt, um

eine Handyauswertung. Und wir wollen auch
in dieser Reihenfolge, die diese

Schulungen für BAMF-Mitarbeiter vorgibt,
vorgehen. Gerade sind wir noch bei der

Einführung aber ich will noch ein bisschen
was zu der Geschichte dieses Talks

erzählen. Und zwar beschäftige ich mich
mit dem Thema seit zum ersten Mal gesagt

wurde das BAMF will Dialekterkennung
einsetzen, um herauszufinden, woher jemand

kommt und eigentlich bin ich
Informatikerin, bin dann zur Journalistin

geworden und so aus meiner Zeit sage ich
mal an der Uni, wo man sich über

automatische Entscheidungssysteme Gedanken
gemacht hat, dachte ich: Okay, man kann

natürlich Anhaltspunkte dafür finden,
welche Sprache jemand spricht aber das ist

ja alles ganz schön schwierig. Dann habe
ich angefangen mich mit diesem Thema zu

beschäftigen und je mehr ich mich damit
beschäftigt hab, desto schlimmer fand ich

die ganze Sache. Und hab versucht mehr
Infos dazu zu bekommen. Unter anderem habe

ich in diesem Jahr im April dem BAMF eine
Informationsfreiheitanfrage gestellt und gesagt:

„Bitte schickt mir doch mal die Unterlagen,
die ihr euren Entscheidern und

Mitarbeitern gebt, mit denen sie geschult
werden, diese Systeme zu bedienen",

weil ich wissen wollte.... Solche Programme
sind oftmals nicht einfach zu verstehen

weil es einfach sehr komplexe Di nge sind,
da muss man eigentlich verstehen

was stehen da für Algorithmen dahinter,
wie treffsicher sind die Programme,

wie interpretiere ich irgendwelche Ergebnisse,
die aus Statistiken bestehen

und da wollte ich wissen, wie können
die Leute überhaupt damit umgehen.

Wie gesagt, das war im April. Und dann...
Normalerweise sollen IFG-Anfragen

innerhalb eines Monats beantwortet werden
und ich musste dann warten.

Ziemlich lange warten. Und zwar hat es dann
gedauert und dann hab ich dem BAMF gesagt:

„Bitte, bitte schickt mir die doch."
Dann wurde es plötzlich Juni.

Dann wurde es Juli und irgendwann im August
kam dann eine Antwort und sie sagten mir:

„Okay, wir schicken ihnen jetzt die
Schulungsunterlagen und sogar die
Benutzerhandbücher."

Nach denen hatte ich gar nicht gefragt.
Das hat mich sehr gefreut.

Dann habe ich weiter gelesen.
Und das BAMF hat gesagt:

„Na ja, wir schicken Ihnen die jetzt zwar
aber die sind nur für Ihre Kenntnisnahme

und zur Befriedigung ihres nach dem IFG
gegebenen Anspruchs auf Informationszugang

bestimmt." Und das darf man aber nicht
veröffentlichen oder anderen Personen

zugänglich machen. Da dachte ich mir,
na ja, hm, eigentlich ist das genau

mein Job und deshalb machen wir das jetzt.

Applaus

A: Und weil das Ganze 123 Folien sind und

nochmal so...weiß ich nicht 80 Seiten
Benutzerhandbücher wollte ich die nicht in

60 Minuten durchprügeln, die findet Ihr
jetzt auf FragDenStaat und Netzpolitik,

falls ihr die dann nachlesen wollt.

Applaus

A: Kommen wir zum ersten Punkt der
Zielsetzung. Und zwar meine Zielsetzung

ist sicherlich eine andere als die des
BAMF. Ich will aufzeigen, was für Probleme

es gibt und was da schief gehen kann und
tatsächlich sind diese Folien ganz

gutes Material, um zu zeigen was da
wirklich schief geht. Genau. Hier nochmal

die Übersicht. Das sind die neuen
Bestandteile. Die Bildbiometrie, das heißt

der Abgleich von Gesichtsbildern mit
bereits bestehenden Akten, um

herauszufinden, wer vielleicht schon mal
registriert war, lassen wir hier raus,

weil das nochmal ein System ist, das ist so ein
bisschen alt abgehangen und nicht neu in

dem Sinne, nur neu für das BAMF. Und wir
fragen uns erst einmal, wie kam es

überhaupt zu diesen ganzen Systemen. Wir
wissen ja, okay, 2015, 2016 kamen sehr

viele Menschen nach Deutschland und haben
hier Schutz gesucht. Und dann gab es diese

hässlichen Schlagzeilen oder diese
hässlichen Bilder von ganz vielen

Menschenschlangen, die vor dem BAMF
warten. Menschen, deren Asylanträge

irgendwo in der Warteschleife steckten und
man hat versucht, dieses Problem zu lösen,

denn irgendwann war ja auch Wahlkampf. Das
heißt, kurz vor der heißen Wahlkampfphase

2017 hat man dann diese Systeme
vorgestellt mit einer relativ..ja,

pompösen Pressebegleitung und hat gesagt:
„Wir können jetzt unsere Asyl...ja,

unseren Asylantragsstau quasi beheben,
indem wir diese Assistenztools haben." Und

damals hat Markus Richter, das ist der
damalige Leiter der IT des BAMF gesagt:

„Die tragen zu einem schnelleren und
sichereren Asylverfahren bei, da sie

Unklarheiten ausräumen können."

Reibt sich mit Taschentuch die Nase

A: Woher kommt das? Woher kommt dieser
Gedanke? Der Gedanke kommt von diversen

Unternehmensberatungen, die das BAMF
beraten haben. Das BAMF ist eine der

Behörden in Deutschland, die die meisten
Unternehmensberatungsbudgets gekriegt

haben. Das sieht man unter anderem auch
daher dass ein früherer BAMF-Chef, der

Frank-Jürgen Weise, hat vorher bei der
Arbeitsagentur das Gleiche für die ganzen

Hartz IV-Beantragung gemacht. Das heißt
wir sehen eine ganze Digitalisierung

eines Prozesses, der ähnlich lief, wie
früher bei den Arbeitsagenturen. Und so

kam es eben, dass dann im Jahr 2016 allein
McKinsey für die Beratung des BAMF

ungefähr 20 bis 30 Millionen Euro bekommen
hat und das war nicht die einzige

Unternehmensberatung, die das gemacht hat.
Und die haben eben auf Digitalisierung

gesetzt. Ich werde jetzt damit anfangen,
das erste System zu beschreiben. Das ist

dieser sogenannte
Transliterationsassistent, auch genannt

TraLiTa. Das ist ein System, das macht,
dass jemand seinen Namen in arabischer

Schrift eingibt und dieser Name dann
einheitlich in lateinische Buchstaben

übertragen werden soll. Einfach deshalb,
weil man verhindern will, dass es

Doppeldeutigkeiten gibt, weil man eben bei
der Übertragung von arabischen

Schriftzeichen in lateinische Buchstaben
nicht immer ein einheitliches Verfahren hat

und vorher haben das zum Teil die
Dolmetscher gemacht und die das dann nach

ihrem eigenen angelernten Verfahren oder
nach ihrem Gehör gemacht haben. Das kann

man, finde ich, noch relativ gut
nachvollziehen. Und diese

Schulungunterlagen geben auch eine sehr
detaillierte Klickanleitung. Da sieht man

dann, okay, hier musst du die Personennummer
eingeben und dann im nächsten Schritt muss

dann der Antragsteller seine Daten
eingeben, muss alle seinen Namen eingeben,

dann klickst du weiter und dann wird das
gespeichert, die Eingabe überprüft und so

weiter und so fort. Dieses System
aber...macht aber nicht nur das. Das

heißt, es geht nicht nur darum, einen
Namen in lateinische Buchstaben zu

übertragen, sondern das System will
auch...herausfinden, ob dieser Name

plausibel ist. Das heißt, man sieht es da
unten unter dieser Empfehlung

Transliteration. Da stehen dann so drei
Länder und dahinter stehen Prozentzeichen

und diese Prozentzeichen sollen eben
sagen, na wie wahrscheinlich ist es denn,

dass diese Personen wirklich aus dem Land
kommt, aus dem sie sagt, dass sie

herkommt. Um dann eben festzustellen, na
ja in dem folgenden Land ist dieser Name

besonders gebräuchlich und in diesem Land
ist dieser Name besonders gebräuchlich.

Und das Ganze hat man dann vielleicht
eingesehen, dass das mit den Prozentzahlen

nicht so richtig gut funktioniert weil das
ist noch der Stand aus den

Schulungsunterlagen. In der Realität sehen
die anders aus. Das ist ein Ausschnitt aus

einer Dienstanweisung, die wir jetzt auch
veröffentlicht haben. Und da steht dann

nur noch: Der Name kommt im angegebenen
Land Afghanistan selten vor und in anderen

Ländern kommt er auch selten vor, am
häufigsten noch dort und dort. Wenn man

sich anguckt wie diese Software
arbeitet...das ist eine kommerzielle

Datenbank. Die besteht aus Milliarden
Einträgen an Namen und den zugehörigen

Ländern, wahrscheinlich indem sie
Telefonbücher geparsed haben und für

arabischsprachige Länder sind dort jeweils
20000 Einträge drin. Wenn man sich

überlegt, okay, wie viele Namen gibt es so
in einem Land und wie viele sind dort

üblich, ist das nicht so super viel. Und
dieses System hat das BAMF dafür aber

ziemlich viel gekostet. Nämlich insgesamt
3,1 Millionen Euro, die bis Ende 2019

vorgesehen sind. Und es ist auch ziemlich
weit entfernt von dem was Markus Richter,

der damalige IT-Leiter der mittlerweile
zum Vizechef des BAMF aufgestiegen ist,

vorgegeben hat. Er hat sich nämlich
hingestellt und gesagt: „Wir haben alle

Telefonbücher der arabischen Welt
gescannt." Und ich würde bezweifeln, dass

alle Telefonbücher der arabischen Welt aus
20000 Einträgen pro Herkunftsland

bestehen. Und ich würde es auch
bezweifeln, dass man aus irgendeinem

Telefonbuch ableiten kann, zuverlässig
ableiten kann, ob eine Person wirklich die

Wahrheit über ihre Herkunftsangabe sagt.
Das hat mittlerweile auch das BAMF selber

eingesehen, und zwar gab es eine kürzliche
kleine Anfrage, deren Antwort leider immer

noch nicht öffentlich ist, weil im Bundestag
auch Weihnachten ist. Da hat das

Innenministerium gesagt: „Na ja, die
Erfolgsquote die schwankt so ein bisschen.

Und zwar, ja okay, wir haben eine
Erfolgsquote von so 85 bis 90 Prozent bei

Ländern wie Syrien aber in Maghreb-
Staaten, das heißt zum Beispiel in

Marokko, da haben wir nur noch eine 35
prozentige Erfolgsquote." Was man

andersherum sagen könnte: In 65 Prozent
der Fälle kommt totaler Bullshit raus. Das

liegt dann daran, na ja, man hat dann ja
auch andere Einflüsse, z.B. französische

oder italienische Namen. Das heißt, wenn
man das auf Deutschland überträgt, wenn du

Horst heißt ist alles in Ordnung, wenn du
Nancy heißt, ist nicht mehr so cool.

Und...man muss dann eben...es klingt ein
bisschen witzig aber man muss sich eben

vorstellen, eine Personen in ihrem
Asylverfahren gibt diese Daten an und hat

vielleicht nicht den üblichsten Namen für
die Region. Und dann steht da aber ein

Hinweis. Da steht da, dieser Name ist für
dieses Land nicht typisch. Das heißt wir

generieren dadurch ein Misstrauen. Das
heißt, dieses Programm gibt einen Hinweis

vor, das sagt: okay, diese Person könnte
vielleicht lügen und das wird sich dann

jemand angucken. Das Ganze wird aber auch
noch ein bisschen drastischer, wenn man

sich die Sprachbiometrie anschaut. Ich
hatte schon gesagt, die Sprachbiometrie

dient dazu oder soll dazu dienen, Sprachen
und Dialekte zu erkennen. Das geht, indem

jemand ungefähr zwei Minuten lang in einen
Telefonhörer spricht. Den Telefonhörer

bewirbt das BAMF in einer anderen
Präsentation als schlankes Frontend. Das

finde ich tatsächlich relativ amüsant. Und
für dieses System hat das BAMF einen Preis

gewonnen. Nämlich das...den E-Government-
Wettbewerb für das beste

Digitalisierungsprojekt in der Verwaltung.

Lachen

A: Das kann man so glauben oder man kann
es so nicht glauben. Auf jeden Fall ist

das BAMF sehr stolz auf dieses System und
das schlanke Frontend ist relativ einfach.

Das heißt, jemand wählt die Nummer 72099.
Dann drückt man eine Taste und bestätigt

das mit Raute und dann spricht jemand zwei
Minuten lang. Das heißt, da sitzt dann

jemand und die Person hat Bilder vor sich,
ein Bild oder mehrere. Und auf diesen

Bildern sind so typische Szenen. Eine
Person mit der ich gesprochen hab, sagte

zum Beispiel: da war ein Haus und vor dem
Haus war ein Garten und da war eine Mutter

mit Kindern drin. Und dann sollte die
Person eben diese Szene auf ihrer

Muttersprache beschreiben und idealerweise
zwei Minuten reden. Danach wird eine Taste

gedrückt wird wieder die Rautetaste und
man kriegt den Ergebnisbericht. Dieses

System soll in der Lage sein, verschiedene
Sprachen und Dialekte auseinanderzuhalten.

Und vor allem hat es das BAMF auf
arabische Dialekte abgesehen. Das heißt,

das sieht man auch da auf der Folie. Es
gibt verschiedene Regionen, in denen sich

Dialekte im Arabischen unterscheiden. Das
sind fünf Dialektgruppen, die das BAMF

unterscheiden will. Natürlich gibt es noch
viel mehr. Und das dient eben dazu, diese

Verfahren zu beschleunigen und zu
digitalisieren und die Asylentscheidung

auf eine breite Grundlage zu stellen. Was
aber, wie wir später sehen, werden nicht so

richtig funktioniert. Eigentlich, das
System das sie gekauft haben, das kommt

von dem Hersteller Nuance, kann noch mehr
Sprachen. Das heißt wir sehen hier okay

Bulgarisch kann es, Deutsch kann es,
amerikanisches Englisch kann es, Persisch

kann es, Farsi und Dari. Aber die
Entscheider oder bzw. die Asylverfahren-

Sekretariatsmitarbeiter sind angehalten,
das nur bei arabischsprachigen

Antragstellern einzusetzen. Das ist auch
das, was das BAMF immer behauptet. Wir

haben aber trotzdem nach, sag ich mal
nicht besonders langwierigen Recherchen

mehrere Leute gefunden, bei denen das
nicht der Fall war. Ich habe zum Beispiel

einen Menschen gefunden, der ist
eigentlich Kurde und kommt aus den

Autonomieregionen im Irak, spricht also
Kurdisch. Und spricht einen kleineren

kurdischen Dialekt. Und dieser kurdische
Dialekt taucht überhaupt nicht in dieser

Liste auf. Dieser Mensch wurde trotzdem
durch dieses System gejagt. Dieses System

hätte niemals erkennen können, dass er die
Sprache spricht, die er sagt, dass er sie
spricht.

Und dann kam dann raus: Okay, du
sprichst Türkisch. Vielleicht sprichst du

auch Hebräisch. Und dann saß dieser Mensch
und sagte:

„Hebräisch, was ist denn das überhaupt?"

Er wusste es nämlich tatsächlich wirklich
nicht und das ist einfach sehr krass, weil...

ganz eklatante Fehler in diesem Verfahren
passieren, weil

den BAMF-Mitarbeitern nicht ordentlich
mitgeteilt wird, für was sie das wirklich

benutzen können. Das heißt, wir haben da
eine Missachtung von den Vorschriften, die

es schon gibt, um diese Systeme überhaupt
zu bedienen. Wir sehen das auch nochmal

unabhängig bestätigt, eben in der Antwort
auf diese kleine Anfrage, die ich erwähnte.

Da gibt es eine Tabelle drin, wo
die Herkunftslandangaben der Personen

aufgeschlüsselt sind, bei denen diese
Spracherkennung gemacht wurde. Und da

sieht man okay, da sind Menschen aus Kenia
dabei. Da sind Menschen aus Bangladesch

dabei. Da sind Menschen aus Venezuela
dabei. Und das sind alles keine Länder, in

denen Menschen normalerweise arabische
Muttersprachler*innen sind. Und dann wird

es richtig interessant und zwar das ist so
ein Auswertungszettel aus den

Schulungsunterlagen. Und wir sehen hier
oben, da sind dann die

Wahrscheinlichkeiten für verschiedene
Dialekte drin, zum Beispiel Golf-Arabisch

mit 76,1 Prozent, andere arabische
Dialekte mit weniger Prozent und dann noch

so unbekannte Sprachen. Und dann sieht man
die Aufnahmedetails und dann sieht man

noch ein paar technische Details und da
steht unter anderem der Signal-Rausch-

Abstand drin. Das ist ja eigentlich ein
relativ relevantes Maß dafür, wie

qualitativ die Aufnahme war. Das heißt
eigentlich will ich ja, dass ich einen

großen Signal-Rausch-Abstand habe, damit
nicht zum Beispiel der Lkw, der im

Hintergrund durchgefahren ist, länger,
also lauter war, als die Sprache dessen,

der in den Telephonhörer gesprochen hat.
Aber das BAMF macht es sich da relativ

einfach und seinen Mitarbeitern auch
relativ einfach, indem sie einfach sagen:

Es ist nicht relevant. Das braucht ihr
überhaupt nicht beachten. Was man in

diesen Dingern auch vergeblich sucht ist
irgendein Hinweis darauf, ab wann so ein

Ergebnis überhaupt aussagekräftig ist. Das
heißt, da steht nirgendswo in diesen

ganzen Unterlagen, die wir angefragt
haben: Leute Ihr könnt erst Ergebnisse ab

einer Wahrscheinlichkeit von, was weiß
ich, 90 Prozent überhaupt als Anhaltspunkt

nehmen. Das steht da nicht. Das heißt, die
Leute sind damit komplett allein. Da kommt

ein Zettel, da steht da irgendeine Sprache
drauf, die ganz oben steht und dann denkt

man sich halt so: Naja, was soll das denn
überhaupt. Was mir daran auch sehr große

Sorgen macht ist, dass es einfach
überhaupt keine Qualitätskontrolle dazu

gibt. Das BAMF selber sagt: Wir haben eine
Fehlerquote von 15 Prozent. Das heißt, bei

jedem fünften bis sechsten Menschen, der
Asyl sucht, liegt dieses System falsch und

das BAMF weiß das auch. Aber das BAMF gibt
einfach keine Hinweise darauf, wie damit

umzugehen ist. Das BAMF hat auch immer
noch keine wissenschaftliche Begleitung zu

diesem Prozess angefangen, obwohl sie das
seit über einem Jahr behaupten, dass sie

das bald mal machen wollen. Lange Zeit
haben sie versucht zu verkaufen, dass sie

mit der University of Pennsylvania geredet
hätten. Dann haben wir nachgefragt. Dann

hat sich herausgestellt: Okay, Sie haben
bei denen ein Sprachpaket für 3000 Euro

gekauft und das war dann Ihre
wissenschaftliche Zusammenarbeit. Außerdem

ganz abgesehen von diesen ganzen Sachen:
Sprache ist eben nicht statisch. Sprache

ist nicht mit dem Lineal gezogen. Sprache
verändert sich im Laufe des Lebens. Und

ich glaube wir haben hier ein Video, das
nicht abspielen wird. Nö. Aber ich glaube,

wir können den Ton abspielen lassen.

Applaus

Tonspur (Plattdeutsch): Und als ik damals
Bürgmester wesse bin, in miin eigen

Gemeind, da heb ik damals - wie jetzt -
davon tücht [unverständlich] west,

dat dat beete is wenn man
[...unverständlich]
og in Plattütsch sproken kann.

ik würde seagen...
Ende der Aufnahme

A: Ja, das ist Deutsch.

Tonspur (bayrisch): Ich arbeite mit dem
Hans-Peter Ude jetzt schon irrsinnig lange

Zeit zusammen, sehr gut. Er ist ein
gestandenes Mannsbild, er hat eine klare

politische Vorstellung. Er gehört zu den
Politikern, bei denen man nach einem

Gespräch auch weiß, was er will.
Ende der Aufnahme

A: Das ist auch Deutsch. Und ich glaube,

das zeigt schon relativ eindrücklich, und
wenn man sich selbst überlegt, wie sich

die eigene Sprache innerhalb der eigenen
Lebensgeschichte entwickelt, dass so etwas

nicht als ernsthafter Hinweis
funktionieren kann und dass es nicht sein

darf, dass Menschen anhand eines solchen
statistischen Merkmals wirklich kategorisiert
werden.

Applaus

A: Man könnte jetzt sagen und das tut das
BAMF auch immer wieder, dass das nur ein

Hinweis unter vielen ist und dass in der
Gesamtschau aller Hinweise, diese

Asylanträge entschieden werden sollen. Ich
habe noch eine andere Person getroffen,

bei der war es so: Die Person hatte einen
Flüchtlingsausweis aus einem

Palästinenser-Camp dabei. Die Person hatte
die Heiratsurkunde ihrer Eltern dabei.

Diese Person hatte ihren Führerschein
dabei aus Syrien und diese Person hatte

eine lupenreine Fluchtgeschichte, die
nachgewiesen werden konnte, hat das alles

dem BAMF vorgelegt. Dann hat man diese
Sprachanalyse gemacht und dann hat diese

Sprachanalyse gesagt: Du kommst aber aus
Ägypten. Und dann hat das BAMF gesagt:

Dein Asylantrag wird leider abgelehnt. Und
es gab wirklich keinen einzigen anderen

Hinweis in dieser gesamten Akte, der
gesagt hätte, dass diese Person nicht über

ihre Herkunft die Wahrheit gesagt hätte.
Und da sehen wir eben, dass diese Fälle

eintreten. Da kann das BAMF noch so oft
sagen: Das sind quasi alle Hinweise, die

beachtet werden und das wird niemals
alleine über das Asyl entscheiden. Sondern

tatsächlich passiert es in Fällen. Wir
müssen auch sehen: Ein Entscheider, der

soll drei Fälle am Tag entscheiden. Das
heißt, wenn man sich überlegt: Ok, da gibt

es eine Anhörung von der Person, die kann
auch mal zwei Stunden dauern, wenn sie

viel zu erzählen hat. Dann müsste man sich
mit der Geschichte dieser Person

auseinandersetzen. Dann muss man noch
irgendeine Entscheidung treffen und dann

ist man eben in der Situation: Naja, der
Computer hat aber gesagt, der Computer hat

mir da so einen schönen Zettel gegeben, da
stehen Prozentzahlen drauf, die haben

sogar eine Nachkommastelle. Der muss ja
recht haben. Und genau das ist das Problem

an diesen Scheiß-Systemen, dass sie Leuten
eine Sicherheit vermitteln, die es

überhaupt nicht gibt und das sie dann
anhand dieser Sicherheiten, die sie

vermeinen zu haben, irgendwelche
Entscheidungen über das Leben anderer

Menschen treffen, die sie überhaupt nicht
überschauen können.

Applaus

A: Das Problem ist tatsächlich sogar noch
größer:

Nämlich die Entscheidungen, die
dann anhand solcher Ergebnisse getroffen

werden, lauten nämlich die Person hat
gelogen. Und wenn die Person gelogen hat,

dann wird ihr Asylantrag nicht einfach nur
abgelehnt. Dann wird ihr Asylantrag als

offensichtlich unbegründet abgelehnt. Und
das heißt, dass die Person nur eine Woche

Zeit hat, um dem zu widersprechen und
dagegen zu klagen. Das heißt eine Woche

Zeit, um so ein Behördenschreiben zu
interpretieren, um so ein

Behördenschreiben zu erwidern und dann
noch zu sagen: Ich akzeptiere das nicht.

Ist schon ziemlich kurz, wenn man sich
selber überlegt, wie lange man braucht, um

Behördenschreiben zu verstehen. Und das
ist glaube ich für sehr viele Menschen,

die nicht mit diesem deutschen
bürokratischen System aufgewachsen sind,

einfach nur fast unmöglich, wenn sie nicht
genug Unterstützung bekommen das zu tun.

Und deshalb ist es eine besonders perfide
Art und Weise, Leute damit wegzukriegen.

Aber das erzähle ich später noch, was man
dagegen tun kann. Erst einmal: Wie viel

hat der Spaß gekostet? Der Spaß hat, oder
soll, bis 2019 insgesamt 2,1 Millionen

kosten. Das ist noch das billigste System
von allen dreien. Das heißt wir merken

uns: 3,1 Millionen für Namens-Wahrsagerei;
2,1 Millionen für die Sprachanalyse. Und

dann kommen wir zu dem, glaube ich, medial
am Besten berichteten System: dem Auslesen

von mobilen Datenträgern, meistens sind
das Handys. Und das ist ein System, bei

dem merkt man auch ganz schön, wofür es
eigentlich da ist. Weil die Befugnis dazu,

die Handys von Geflüchteten auszulesen,
kam mit einem Gesetz, das 2016 erlassen

wurde. Und zwar dieses Gesetz heißt: Das
Gesetz zur besseren Durchsetzung der

Ausreisepflicht. Das heißt, da sieht man
wofür diese ganzen Systeme eigentlich da

sind. Man kann natürlich auch sagen, Ja,
sagt das BAMF auch gerne, damit können ja

die Antragsteller auch ihre Identität
leichter belegen, und so weiter und so

fort. Aber eigentlich geht es darum, dass
man Menschen schneller ausweisen kann. Das

funktioniert folgendermaßen: Eine Person,
wenn sie nach Deutschland kommt und

registriert wird und keinen Pass dabei
hat, kann dazu aufgefordert werden, ihr

Handy herauszugeben. Und dann wird dieses
Handy angestöpselt, ausgelesen und es wird

ein Bericht erstellt und dieser Bericht
liegt dann erst einmal rum.

Das, was interessant daran ist, ist dass da steht:
Wenn diese Herkunft nicht durch ein

milderes Mittel nachgewiesen werden kann,
kann der Datenträger ausgelesen werden.

Wenn man sich dann aber genau anguckt, was
dieses mildere Mittel ist, wird das Ganze

ziemlich lächerlich. Das hat man auch
während dieses Gesetzgebungsprozess immer

wieder gesagt, dass das nur die ultima
ratio sein soll, weil es ist einfach ein

ziemlich krasser Eingriff in die
Privatsphäre von einem Menschen, sein

ganzes Handy einmal abzuziehen und das
mildere Mittel heißt eigentlich nur,

dass du einen glaubwürdigen Pass vorlegen
kannst. So. Das steht auch in der

Dienstanweisung drin, die jetzt öffentlich
sein sollte. Da steht drin, quasi mildere

Mittel ist auch nicht die Anhörung, weil
die Anhörung kommt nämlich immer erst

nachdem dieses Ding ausgelesen wurde. Das
heißt, du hast überhaupt keine Chance

deine Geschichte überhaupt in irgendeiner
Art und Weise plausibel zu machen, sondern

erst einmal wird dein Handy runtergezogen.
Das muss dann im späteren Verlauf

freigegeben werden. Das heißt die Person,
die dieses Handy ausliest, ist eine andere

Person als die, die dir dann später in der
Anhörung gegenübersitzt und die Person,

die die Anhörung dann später macht, muss
sagen: Okay, ich hätte jetzt gerne den

Auswertungsbericht dieses Handys. Und das
muss dann freigegeben werden von einem

Juristen mit der Befähigung zum Richteramt
und wird dann eben in einem Report

ausgegeben. Man kann sich aber erst mal
anschauen wie sieht dieses System

überhaupt aus. Das wollte das BAMF ganz,
ganz lange nicht verraten, was das genau

für ein System ist. Dann stand es
irgendwie auf so Pressefotos selber drauf.

Und in dieser Präsentation ist es auch
inklusive Kamera und Kabel und zwar geht

es um ein System von MSAB. Und da hab ich
eigentlich auch ein Video, das aber jetzt

wahrscheinlich auch leider nicht abspielen
wird. Wir probieren es trotzdem mal ganz kurz.

Nö.

Gut, dann erzähle ich ganz kurz
was dazu: MSAB ist eine Firma, die macht

Mobilforensik, und macht Mobilforensik vor
allem aber auch für Polizeien und

Geheimdienste und Militärs, und wirbt auch
damit, dass sie genau das tun. Das heißt,

es ist eigentlich eine Technologie, die
man jetzt nicht unbedingt in einer

Asylbehörde vermuten würde, sondern
wirklich in der Strafverfolgung oder in

dem geheimdienstlichen Bereich. Das sind
Mitbewerber von Celebrite. Das ist diese

nette israelische Firma die ihre Software
auch gerne mal an autoritäre Regime

verkauft, um damit irgendwelche
Oppositionellen auszuspähen und irgendwie

zu verfolgen. MSAB hat bisher medial
zumindest noch eine reine Weste. Aber

Celebrite hat das BAMF dann auch
ausprobiert. Das haben sie jetzt nach

mehrmaligem Nachfragen endlich auch mal
zugegeben. Und dieses System macht

Folgendes: Das ist relativ einfach. Das
wird in diesem Video auch schön erklärt,

wie leicht sich das bedienen lässt. Und
zwar: man hat ein paar Knöpfe auf einem

Bildschirm und dann drückt man hier auf
"Anmelden" und dann sagt man: Okay, gib

deinen Benutzernamen ein. Dein Passwort
erhältst du bei BSB-IT, wenn du es

vergessen hast und dann musst du
bestätigen, dass du damit vertraut bist.

Nur geschulte und autorisierte Nutzer
dürfen dieses System benutzen. Das heißt,

da muss man dann einfach, naja, "Weiter"
klicken und dann drückt man auf den großen

Knopf "Handy auslesen". Dann wird dann
noch erhoben: Okay, in welchem Land hast

du dein Handy gekauft? Wann hast du dein
Handy gekauft, wenn du das sagen kannst.

Dann wird das Gerät fotografiert. Ich habe
mich am Anfang gefragt: Warum

fotografieren die das Gerät. Es geht um
Schadensersatzansprüche, wenn der BAMF-

Mitarbeiter einen Kratzer in das Display
macht. Und dann wird ausgelesen. Es kommt

so ein bisschen darauf an, wie viel das
BAMF auslesen kann je nach Gerätetyp. Das

heißt, das unterscheidet sich immer ein
bisschen: Von manchen Geräten können sie

eben mehr, von manchen weniger. Und um
Handys auch ordentlich zu erkennen, gibt

das BAMF seinen Mitarbeitern eine
hilfreiche Handreichung mit, nämlich die

verschiedenen Gerätetypen, die existieren.

Lachen

A: Das ist ein bisschen weird. Das ist
auch mit Abstand meine Lieblingsfolie in

diesem ganzen Ding. Das heißt, da wird
dann gesagt: Okay, Handys müssen nicht

immer gleich aussehen. Damit ihr die
irgendwie erkennt, geben wir euch jetzt

mal ein paar Beispiele an die Hand. Das
heißt das eine Handy sieht so aus wie so

ein altes PDA, so ein altes Klapphandy,
oder auch ein Handy in einem Pistolengriff

versteckt, kann man ja auch mal machen.
Also falls dann ein Geflüchteter ins BAMF

kommt, seine Pistole dabei hat, bin ich
sicher, dass der BAMF-Mitarbeiter erst mal

sagt: "Mensch, ist da dein Handy drin, kann
ich da mal kurz ran?"

Gelächter im Hintergrund
Aber, Naja.

Applaus

A: Genau, das ist übrigens ein Photoshop.

Das stammt von einer Seite, die heißt
Military Jobs, kommt von 2008 und ist

eigentlich gar kein echtes Modell, kann
man also nicht kaufen.

Lachen

A: Aber das ist bei der Zusammenstellung

der Präsentation wahrscheinlich nicht
aufgefallen.

Mittlerweile gibt es Selfie-Gewehre, die
kann man wirklich kaufen. Aber auch eher

unwahrscheinlich. Genau, dann wird auch
noch erklärt: Okay, Android ist am

weitesten verbreitet. Das gibt's nicht nur
als irgendwie Smartphone, das kann auch in

deinem Autoradio drin sein. Dann musst du
das auch noch auslesen und dann der ganz

wichtige Punkt: Die Freigabe muss durch
den Antragsteller durchgeführt werden. Das

heißt, das BAMF zieht sich darauf zurück,
das Ganze ist ja mehr oder weniger

freiwillig. Das wurde auch medial in
diesem ganzen Gesetzgebungsprozess immer

wieder versucht zu betonen, dass die
Menschen ja ihr Telefon freiwillig

hergeben und da keine Geräte geknackt
werden. Und das ist immer so ein Moment,

wo man skeptisch wird und dann guckt man
sich an, wie freiwillig ist das eigentlich?

Und dann steht in der Dienstanweisungen
drin: Naja, der Antragsteller muss zwar

sein Gerät selber entsperren, aber es gibt
die sogenannte Mitwirkungspflicht im

Asylverfahren. Und wenn der Antragsteller
seiner Mitwirkungspflicht nicht nachkommt,

das heißt, wenn er nicht sein Passwort
eingibt und nicht sagt: Hier, du darfst

hier einmal USB-Debuggen, dann kann dieser
Asylantrag als zurückgezogen angesehen

werden. Das heißt Freiwilligkeit ist halt
auch irgendwie so relativ und im Endeffekt

ist es eine Verpflichtung. Und ich glaube
nicht, dass jemand, der in der Situation

ist, dass er in Deutschland Schutz sucht,
weil er in seiner Heimat verfolgt wird,

sich dann besonders freiwillig fühlt, wenn
dann jemand sagt: Bitte gib mal dein Handy

her. Auch gut: Apple-Geräte können
leichter ausgelesen werden. Fand ich auch

sehr schön. Aber was passiert dann mit
diesem ganzen Kram, der von diesem Telefon

kommt? Was guckt sich das BAMF dabei an?
Ungefähr das: nämlich den Anrufverlauf,

das Adressbuch, die Lokationsdaten.
Nachrichten: Sowohl wohin sie gehen, als

auch in welcher Sprache sie geschrieben
sind. Dann Allgemeine Geräteinformationen

und Nutzerkennungen von Apps. Das BAMF
legt sehr viel Wert darauf zu sagen, dass

sie keine Inhalte analysieren. Wobei ich
sagen würde, naja, wenn man sich

Nutzerkennungen anguckt und guckt in
welcher Sprache Nachrichten geschrieben

sind, geht das schon ziemlich ziemlich
nahe an Inhaltsanalyse ran. Und dann wird

das Ganze in einem Bericht
zusammengefasst. Und dieser Bericht sieht

dann zum Beispiel so aus: Da sind dann
Diagramme drin, in welche Länder hast du

am häufigsten telefoniert? Oder aus welchen
Ländern hast du am häufigsten Anrufe

bekommen? Wie lange hast du mit diesen
Ländern telefoniert? oder auch: Wo hast du

Nachrichten hingeschickt und in welchen
Sprachen hast du Nachrichten geschickt?

Das wird beides sowohl für ein- und
ausgehende Nachrichten gemacht und da

steht dann auch noch wenn als Sprache
Arabisch erkannt wird, erfolgt eine

Dialektanalyse. Das heißt wir haben
eigentlich genau das Gleiche wie vorher

mit der Sprachaufnahme. Wir haben das
Ganze dann nur auf der gesprochen... auf

der geschriebenen statt der gesprochenen
Sprache. Das liegt daran, dass es im

arabischen Sprachraum verschiedene Chat-
Dialekte gibt. Das heißt man hat dann...

Das sieht dann ungefähr so aus. Man hat
eigentlich arabische Schriftzeichen, aber

wenn man eben versucht die auf einer
normalen Tastatur zu tippen, bzw. was

heißt auf einer normalen Tastatur, auf
einer Tastatur mit lateinischen

Buchstaben, muss man eben manche Zeichen
durch Ziffern ersetzen, zum Beispiel. Und

die unterscheiden sich auch nach den
Ländern ungefähr. Laut dem BAMF kann das

Ding ungefähr 130 geschriebene Sprachen
analysieren. Zu den Angaben, wie gut das

funktioniert: Das wissen wir leider nicht,
weil es dazu bisher noch überhaupt keine

Angaben gibt. Würde mich aber
interessieren. Genau, dann wird auch das

Adressbuch ausgewertet. Das heißt, in
welche Länder hast du deine Kontakte

eingespeichert? Auch welche Webseiten hast
du aufgerufen? Und welche Lokationsdaten

gibt dein Telefon so her? Das ist ein
interessanter Punkt, weil wir nicht genau

wissen und auch das BAMF nicht genau
herausgibt, welche Locations sie da

überhaupt benutzen. Das heißt, wir wissen:
Okay, sie nutzen Geodaten aus Fotos. Sie

nutzen auch irgendwelche Geodaten, die
Apps erheben, aber wir wissen auch nicht

welche sie auslesen können, denn alle
gehen anscheinend nicht. Und daraus wird

dann so ein Bild gemacht. Ich habe mir so
ein System mal angeschaut und gefragt:

So naja, wieso sind denn da keine Pfeile
dazwischen. Dann meinte sie, das haben die

Bundesdatenschutzbeauftragte uns
herausgestrichen. Aber wenn man sich das

mal anguckt, kann man sich halt überlegen,
dass jemand meinetwegen nicht von Syrien

nach Deutschland, dann nochmal nach
Griechenland und wieder zurück gefahren

ist. Das heißt eigentlich ist das so ein
ziemlicher Placebo, das man das

herausgestrichen hat. Unten das, das sind
die Account-Namen. Das heißt das ist

einfach nochmal eine Möglichkeit
weitergehend zu analysieren, was die

Person so tut, wenn man ihre E-Mail-
Accounts hat. Wenn man ihre Facebook-

Accounts hat. Wenn man, weiß ich nicht,
"Viber ID" kenne ich nicht, aber wenn man

alle möglichen Nutzerkennungen für alle
möglichen Apps hat. Tatsächlich ist das

das System, für das das BAMF noch am
meisten Hinweise zur Interpretation gibt.

Und zwar sagen sie: Ok, natürlich bei einem
Feature Phone kann ich nicht so besonders

viele Sachen analysieren wie bei einem
Smartphone. Ich muss natürlich auch

gucken, naja, wie oft benutzt diese
Personen dieses Gerät überhaupt, gehört

der Person das Gerät überhaupt schon seit
langem und wie viele Daten kriege ich da

raus und dann sagen sie: Ok, klar, wenn da
wenig Daten drin sind, wird die Person das

Gerät nicht so lange benutzen. Oder zum
Beispiel wenn sich gewisse Daten nicht mit

anderen Daten decken, könnte es natürlich
sein, dass unterschiedliche SIM-Karten

benutzt wurden, oder dass unterschiedliche
Leute dieses Gerät in Benutzung hatten,

was glaube ich bei Menschen mit einer
Fluchtgeschichte nicht besonders unüblich

ist. Und dann gibt es noch die... das
Ergebnis, dass die im Bereich Identität

angeführten Applikationen vielfältig sind.
Und dann geht man eben von einer hohen

Aussagekraft aus, weil man dann eben weiß
mit welchen Identitäten eine Person wann

unterwegs war und was sie da getan hat.
Das heißt, da dann einfach nur noch von

der Metadaten Analyse zu sprechen, finde
ich ziemlich sportlich. Und ich würde auch

gerne wissen, warum Booking.com Login-
Daten besser sind als Dating-App Login-

Daten. Falls da jemand Hinweise hat: Ich
nehme sie gerne entgegen. Das konnte ich

mir so nicht erschließen. So ein System
weckt Begehrlichkeiten. Wir sehen, ja

okay, dieses Ding kann alles Mögliche
auslesen und dieses System dieses

Herstellers MSAB kann auch noch viel mehr.
Das heißt MSAB kann Smartphones knacken.

MSAB Ist der einzige seriöse, also
ernsthafte, Mitbewerber von Celebrite und

die könnten Telefone aufmachen. Sie machen
es halt angeblich nicht, weil sie es nicht

dürfen. Und das System kann aber auch
einfach nur die kompletten Inhaltsdaten

auslesen und das ist eine Begehrlichkeit,
die nicht erst seit kurzem besteht. Und

zwar schon im November 2017 hat die
damalige BAMF-Chefin Jutta Cordt in einem

Interview gesagt: Na ja, wir haben ja
jetzt dieses schöne System, aber wir

würden auch gerne an die Fotos ran, weil
da sehen wir ja viel mehr, was die Leute

da gemacht haben. Und das ist glaube ich
einfach nur noch eine Frage der Zeit und

in einer neuen Antwort des
Innenministeriums auf diese kleine Anfrage

haben sie eben auch gesagt: Naja, wir prüfen
gerade die Möglichkeiten das zu erweitern.

Das heißt es wird nicht bei diesem Stand
bleiben, dass man dann Statistiken

erstellt und guckt, wo die Leute vielleicht
waren, sondern dass man dann eben noch

viel, viel tiefer in die Privatsphäre von
Leuten eingreift. Und dann muss man sich

fragen: a) Was für ein krasser
Grundrechtseingriff ist das? Und wie krass

wäre das, wenn das, sage ich mal, jemandem in
Deutschland passiert, der zu einem Amt

geht und irgendeinen Antrag stellt, wo
dann das Amt sagt: Gibt erst mal bitte dein

Telefon her. Ich glaube, wenn man sich das
vorstellt, merkt man, wie beschissen man

eigentlich mit Leuten umgeht, die hier in
Deutschland fast keine Lobby haben und die

sich nicht wehren können, weil sie in der
krassen Drucksituation sind und wie wenig

man sich erst mal wagen würde, das bei
Menschen zu machen, die hier schon seit

langem wohnen und dieses System kennen. Aber da probiert man es halt aus. Und das

ist, glaube ich, etwas, was man nicht
akzeptieren darf und was man auch gar

nicht erst anfangen lassen darf, weil
das ist im Endeffekt ein Testballon,

um weitere Dinge auszuprobieren.

Applaus

Ok, dann die Betrachtung. Wir haben ja gesagt,

Okay 3,1 Millionen für die
Transliteration, 2,1 Millionen für die

Sprachbiometrie. Was schätzen wir für die
Handyauswertung? Das sind bis Ende 2019

voraussichtlich 11,2 Millionen Euro. Und
diese 11,2 Millionen Euro gehen zum einen

in die Hardware. Das heißt, wir müssen
dieses Gerät irgendwie auslesen, gehen in

die Software für die Analyse dieses Dings
und für den Support. Und weil ja immer neue

Gerätetypen da vorkommen, wird es auch
nicht aufhören, Geld zu kosten. Das heißt

natürlich muss ich dieses System immer
weiter pflegen, wenn es neue Smartphones

gibt und die ausgelesen und analysiert
werden sollen. Wenn man das jetzt mal aus

einer rein, ne, wenn man jetzt mal diese
ganzen Grundrechtsbedenken über Bord wirft

und sich einfach überlegt, wie sinnvoll
kann das denn sein? Der BAMF-Vizechef

Marcus Richter sagt: "Wir haben bisher 27.
000 Handys ausgelesen." Das ist die

Werbezahl, mit der er vor ungefähr einer
Woche auf PR-Tour gegangen ist. Vor

ungefähr einer Woche hat das
Innenministerium geantwortet: Naja also, in

9.710 Fällen wurden Handys ausgelesen und
ausgewertet. Selbst diese Zahl muss man

sich nochmal angucken, nämlich
ausgelesen und ausgewertet heißt, es wurde

so ein Bericht generiert. Das heißt aber
nicht, dass diesen Bericht auch mal jemand

gesehen hat. Wie oft hat diesen Bericht
jemand gesehen? In 2.845 Fällen. Es wird

immer weniger. Das heißt wir waren am
Anfang mal bei 27.000 jetzt sind wir bei

2.845. Dann guckt man sich an, ok, wo
wurde das gemacht? Ich habe dafür in Motherboard eine

Grafik gemacht und da sieht man einfach auch, dass
die verschiedenen Dienststellen des BAMF

das ziemlich unterschiedlich häufig
einsetzen. Das da in der Mitte ist Gießen,

die mögen das System anscheinend. Und
selbst wenn man das auf die Anzahl der

Menschen bezieht, die an diesen BAMF-
Dienststellen ankommen, ist das immer noch

sehr unverhältnismäßig. Ok. Das heißt,
einmal zurück, 2.845. Wie oft war die

Auswertung überhaupt brauchbar? In 35
Prozent der Fälle. Das heißt in 65 Prozent

der Fälle hat man gar keine brauchbaren
Ergebnisse dadurch bekommen, sei es, dass

die Personen vielleicht das Telefon erst
seit kurzem hat, sei es dadurch, dass

Telefone weitergegeben werden, dass
Telefone kaputt gegangen sind, dass

Telefone nicht ausgelesen werden konnten,
weil sie zu alt sind. Das Innenministerium

sagt auch, man hat Probleme mit
proprietären Anschlüssen und mit alten

Handys, die keine USB-Anschlüsse haben.
Ok, verwertbare Ergebnisse: Was einen aber

eigentlich interessiert, bzw. was das BAMF
eigentlich interessiert, in wieviel Fällen

kriege ich denn Hinweise darauf, dass
jemand da so Widersprüche in seiner

Geschichte hat? Zwei Prozent. Zwei
Prozent, das rechnet man mal um auf diese

2.845. Dann landet man bei weniger als 60
Fällen und dann guckt man sich nochmal an,

ok 11,2 Millionen Euro. Ist ziemlich
sportlich, finde ich. Auf jeden Fall ist

das auch eine Zahl, für die kann man
ziemlich viele Leute einstellen, die sich

vielleicht mit Menschen beschäftigen
können. Man könnte sich auch überlegen, ob man

so viel Geld ausgeben will, um Menschen
aus Deutschland rauszuhalten oder ob man

nicht einfach seine Grundeinstellung
vielleicht mal ändern will und einfach

Leute nach Deutschland kommen lassen will
und einzusehen, dass man ein scheiß

reiches Land ist, das für irgendwelche
bescheuerten Softwaresysteme so viel Geld

einsetzt. Applaus

Genau deshalb: Ich missbrauche
nochmal kurz das Motto des letzten

Kongresses. Und zwar: Das klingt alles so
als wäre es jetzt da und als wäre das jetzt

irgendwie so ein Ding, mit dem man leben
müsste. Ist es aber nicht. Und zwar ich würde

gerne alle bitten, sich gegen diese
Systeme zu wehren. Das heißt, das kann

sowohl sein, wenn Menschen selbst
betroffen sind, sich gegen diese Systeme zu

wehren, als auch wenn ihr Menschen
unterstützen könnt, sich dagegen zu wehren,

weil, ich habe vorhin schon gesagt, es gab
diese Menschen, die ich getroffen hatte,

die damit Probleme bekommen haben. Und
diese ganze Kacke hat ein Gutes: Und zwar,

es hat keine Gutachtenqualität. Früher war
es zum Beispiel so bei diesen

Sprachgutachten, das haben dann anonym
gehaltene Gutachter gemacht. Die haben

dann gesagt, ok die Sprache der Personen
und die Worte, die die Person benutzt,

klingen so, als würde sie da und da
herkommen, das konnte man vor Gericht

vorlegen. Wenn man mit so einem Zettel,
mit so einem komischen Prozentzettel vor

Gericht geht und sagt: Ok, die Software hat
eine Fehlerquote von 15 Prozent, dann gilt

das überhaupt nichts. Das heißt, wenn
Menschen aufgrund solcher komischen Zettel

Probleme kriegen, kann man dagegen relativ
gut vorgehen. Bei der einen Person, die ich

getroffen habe, hat das auch mittlerweile
schon funktioniert, weil eben gesagt wurde:

Ok guck mal, das ist der einzige Hinweis
darauf, dass die Person nicht die Wahrheit

gesagt hat und das ist ein absolut
unzuverlässiges Programm. Und dann muss

man eben einfach nur schauen, dass es
schnell geht. Das heißt, die Person hat

eine Woche Zeit, um Widerspruch einzulegen
und dagegen zu klagen. Aber das ist eine

Sache, die ist möglich. Und das ist auch eine
Sache, bei denen ich Leute bitten würde,

die Geflüchtete unterstützen oder
irgendwie mit Geflüchteten reden, ihnen zu

sagen, dass man sich dagegen wehren kann
und dass man das eben nicht hinnehmen

muss. Eine andere Möglichkeit, wie man
irgendwas tun kann: Man kann sich

informieren und man kann mich informieren.
Das heißt irgendwo in meiner

Talkbeschreibung stehen bestimmt
Kontaktdaten, die jetzt nicht auf dieser

Folie sind. Und falls ihr noch mehr
Informationen zu diesen schönen Systemen

habt, schickt sie mir, ich werde sie
weiter veröffentlichen und damit danke ich

euch für eure Aufmerksamkeit.

Applaus

Herald: Danke Anna für den Talk. Ich würde

euch bitten, wenn ihr Fragen habt, euch an
die Mikrofone zu stellen. Hier vorne gibt

es eine Reihe, da gibt es eine Reihe und
ganz hinten gibt es auch noch ein fünftes

Mikrofon und ich würde als erstes das Wort
dem Signal Angel geben.

Signal Angel: Hallo! Gibt es Hinweise
darauf, dass der Zugriff auf Smartphones

beim Auslesen von Daten auch zur
Installation weiterer Software auf den

Geräten genutzt wird? Vielleicht auch ohne
das Wissen der BAMF-Mitarbeiter sogar?

Anna: Nein. Sorry, ne. Tatsächlich sind mir keine
Fälle bekannt, in denen sowas passiert

ist. Und tatsächlich suche ich auch noch
nach Menschen, bei denen so etwas generell

mal passiert ist, weil man relativ wenige
Leute findet, bei denen das durchgeführt

wurde und bei denen es nicht technisch
gescheitert ist. Gelächter Also ich habe

schon drei Leute gefunden, bei denen es
technisch gescheitert ist, aber ich hätte

gerne noch Menschen, die mir davon
berichten, wie es ist, wenn es nicht

scheitert.
Herald: Mikrofon zwei

Zwei kurze Fragen: Frage Nummer eins, läuft da
irgendwie eine Klage gegen diese

Handy-Auslese-Aktion oder sowas oder sind die
Betroffenen einfach zu eingeschüchtert und

wehrlos, als das die da was machen können?
Und Frage Nummer 2: Habt ihr mal irgendwie

versucht, vielleicht in Kombination mit
irgendeinem Amt, so zum Beispiel die Videos,

die du eben hattest, mit den Sprachsamples durchlaufen
zu lassen und zu gucken aus welchen

arabischen Staaten die Herren denn kommen?
Anna: lacht Also zu der zweiten Frage,

fangen wir damit an. Das ist mir eine
ewige Mission. Und ich stelle dem BAMF

sicherlich seit einem dreiviertel Jahr
Anfragen und sage bitte bitte bitte zeig

mir diese Systeme mal. Und eigentlich, mein
geheimes Ziel, das kann ich jetzt auch

verraten, da sie mich nicht reinlassen,
ist einfach zu beweisen, dass Horst

Seehofer nicht zu Deutschland gehört.
GelächterApplaus Aber die letzte

Ausrede, die ich vom BAMF bekommen habe,
warum ich nicht in die Räume gehen kann,

ist, dass sie zu klein sind. Gelächter
Das ist tatsächlich leider kein Scherz,

aber ich versuche es weiter. Vielleicht
lässt man mich ja irgendwann mal rein. Zu

der ersten Frage: Klage. Falls es Menschen
gibt, die daran interessiert sind, gegen

dieses System zu klagen. Gerne zu mir
schicken, eventuell gibt es da Pläne. Dass

Menschen dagegen vorgehen im Rahmen von
Klagen gegen Ablehnungsbescheide, ja, aber

ich glaube, das System müsste man erst
einmal an einer grundsätzlicheren Ebene

angreifen, wenn eben Leute dazu bereit
sind, das ein mal durchzufechten.

Herald: Ok dann Mikrofon eins bitte.
Mik 1: Bei der Auswertung der Handydaten

sollen ja Lokationsdaten, wie zum Beispiel
in Fotos und auch Anruflisten und

dergleichen zum Einsatz kommen. Ich
schätze mal, da geht es dann darum, ob es

sich um Telefonnummern aus den
entsprechenden Ländern handelt oder

anderen Ländern. Nun es ist ja bei
Fluchtgeschichten so, dass das oft auch

mal hin und her geht oder mal eine Weile
bei einer bestimmten Station bleibt.

Inwieweit haben die Antragsteller die
Möglichkeit dazu dann überhaupt eine

Stellungnahme abzugeben und zum Beispiel
zu sagen: "Natürlich sind das alles

jordanische Nummern, meine Familie sitzt
in Jordanien und ich bin eben weiter nach

Deutschland gekommen. Trotzdem sind wir
Syrer!", beispielsweise?

Anna: Ja. Das ist eine gute Frage. Und
zwar, es ist so, dass diese ganzen

Auswertungen eigentlich passieren sollen,
bevor die Anhörungen sind. Das heißt schon

quasi, wenn du registriert wirst, wird
dieses Bild von dir gemacht und dann wird

eben geschaut hast du einen Pass, lässt
der sich überprüfen und wenn nicht, gehen

wir eben durch diese ganze Kette durch.
Dann sollst du in deiner Anhörung die

Chance bekommen dazu Stellung zu nehmen.
Handyauswertung hat man anscheinend nicht

besonders viel bei Altverfahren gemacht,
aber es gibt diverse Altverfahren, in denen

solche Sprachanalyse gemacht wurden. Das
heißt einfach Asylprozesse von Menschen,

die schon seit 2015 oder 2016 in
Deutschland waren, bei denen es eben immer

weiter gedauert hat, die immer weiter
aufgeschoben wurden und bei denen dann

auch ein Sprachgutachten in Auftrag
gegeben wurde. Das heißt so ein Ding, da

muss jemand eine halbe Stunde lang reden
mit einem Dolmetscher und muss dann

erzählen und so weiter und so fort. Das
wird erst einem Menschen vorgelegt, der

macht dazu ein Gutachten, die sind
furchtbar teuer. Dann gab es irgendwann

eine Dienstanweisung vom BAMF. dass gesagt
hat: Ok, bitte Leute, guckt mal all die Fälle

durch, wo wir diese Sprachgutachten durch
diese Sprachanalysen ersetzen können. Und

da wurden dann eben diese Analysen im
Nachhinein gemacht, das heißt nach der

Anhörung. Und da habe ich drei Leute
gefunden, die dann im Nachhinein keine

Gelegenheit mehr bekommen haben, da
Stellung zu zu nehmen. Das heißt, es ist

eigentlich vorgesehen, aber ich glaube, gerade bei diesen ganzen älteren schon

rumliegenden Verfahren, wird das nicht
mehr unbedingt gemacht.

Herald: Dann einmal Mikrofon drei bitte.
Mik 3: Deine Analyse bezüglich der

Effizienz der Auslesung der Smartphones
war relativ eindeutig, also mathematisch.

Da müsste das BAMF doch selbst auf die
Idee kommen, dass es Quatsch ist. Planen

die eine Überprüfung der Zahlen oder
irgendetwas, ist da was bekannt?

Anna: Das BAMF gibt ja andere Zahlen raus.
Das BAMF gibt ja die Zahlen von "Wir haben

27.000 Auswertungen gemacht" raus. Das das
dann nur die Fälle sind, in denen sie so

ein Handy an ein Kabel gestopft haben und
nicht Fälle sind, in denen irgendwas dabei

herausgekommen ist, das sagen sie halt
nicht. Das heißt, wir haben schon öfter

eben die Erfahrung gemacht: Man hat
irgendwelche Informationen über diese

Systeme, man plant einen Bericht dazu und
einen Tag vorher kommt dann ein Bericht in

einem anderen Medium, wo das BAMF dann eben
sagt, wie super das alles funktioniert,

sagt beste Leben, Asyl, top. So. Und ich
glaube, das ist eben so ein bisschen

dieses Ding, man verschließt, glaube ich, die Augen
davor, wie sinnlos dieser ganze Kram

eigentlich ist, weil man sich so darauf
verschossen hat. Man hat dann eben kurz

vor der Bundestagswahl 2017 gesagt: Wir
haben diese tollen Systeme und wir sind

jetzt Vorreiter in Sachen Digitalisierung
in der öffentlichen Verwaltung. Wir sind

quasi das Leuchtturmprojekt für ganz
Europa, wir wollen unsere Systeme

irgendwie der ganzen EU zur Verfügung
stellen und mit denen teilen und

verbessern und wollen damit quasi
Digitalisierungsvorreiter werden. Ich

glaube, ich kann allen von euch mal
empfehlen, auf die BAMF-Homepage zu gehen.

Da gibts auch so tolle Werbevideos. Unter
anderem, wie das BAMF einen

Scrum-Master-Raum eingerichtet hat, wo dann eben die
Entwickler mit den Fachmitarbeitern

zusammensitzen, in einem mit Graffitis
angesprühten Raum, richtig cool und mit

Sofas. Und ich glaube daran sieht man ganz
gut, wo das Problem ist. Man will nämlich

eine moderne Behörde sein und man will
cool sein und man will irgendwie

digitalisiert sein. Und ich glaube
dahinter kommt man nicht mehr so richtig

zurück.
Herald: Dann Mikrofon Nummer vier bitte.

Mik 4: Wenn ich das richtig verstanden
habe, hast du ja gesagt, dass die Tools

oder die Systeme angewendet wurden
aufgrund von Unternehmensberatung. Sind

die da jetzt falsch beraten worden oder
funktionieren die Systeme, wenn sie

ordentlich oder anders angewendet werden,
besser?

Anna: Na was heißt erst mal, was heißt
aufgrund von Unternehmensberatungen? Wir

wissen eben, dass in einer gewissen Zeit
ganz viele Unternehmensberatungen das BAMF

beraten haben und ihnen zu diversen mehr
oder weniger fragwürdigen Dingen geraten

haben. Zum Beispiel auch zu der Sache mit
man muss Geflüchtete in mehrere Klassen

einteilen, die Menschen mit einer relativ
guten Bleibeperspektive, die mit einer

nicht so guten Bleibeperspektive und die
Menschen, die wahrscheinlich sowieso

abgeschoben werden, weil sie aus Ländern
kommen, wo die Schutzquote eher gering

ist. Das heißt, da ging es ganz ganz ganz
viel um Effizienz und da ging es eben auch um

diese Digitalisierungsprozesse. Da geht es
zum einen auch um, ja, papierfreiere

Büros, aber da geht es dann auch um diese
Systeme. Und die Frage, ob man Systeme

bauen könnte, die gut funktionieren. Ich
finde, das ist keine Frage, die man sich

stellen sollte. Für mich ist es eine
ethische Frage. Weißt du, wir motzen alle,

weil es diese komische Schufa gibt, die
irgendwelche Algorithmen hat, die wir

nicht verstehen, die irgendwelche
komischen, ja, Merkmale heranziehen, die

wir nicht verstehen und nicht kennen und
weil wir dann keinen Handy-Vertrag kriegen.

Aber da geht es um Software. Da gibt es auch
Algorithmen, die keiner versteht. Da gibts

Datenbasen, die nicht transparent sind und
deshalb kriegen Menschen kein Asyl. Und

ich finde, wenn man schon irgendwie sagt,
dass die Schufa nicht so intransparent

agieren kann, kann man so ein System
einfach gleich abschalten. Und man muss

sich einfach mal vorstellen, was das
heißt.

Applaus
Herald: Dann Mikrofon Nummer 2 bitte.

Mik 2: Ja nochmal zu der Sprachzuordnung
oder zu der Dialektzuordnung. Es gab vor kurzem

auch einen Bericht im MDR darüber, "Das
BAMF hat diese tolle Technologie und ist

die nicht auch einsetzbar für die Polizei
und für andere Institutionen?". Sie werben

sogar selber damit. Hast du Informationen
darüber, ob die Information, ob diese

Technologien auch von anderen
Institutionen in Deutschland eingesetzt

wird?
Anna: Habe ich nicht. Glaube ich aber

tatsächlich auch momentan nicht. Das
hat der MDR ja auch quasi geschrieben,

glaube ich, dass das momentan noch niemand
anderes einsetzen will. Also wüsste ich

tatsächlich auch nicht. Was man eher hat,
sind so Softwares, die versuchen, Sprecher

zu identifizieren, zum Beispiel, irgendwie
zu gucken: Ok, ist die Person, die jetzt

eine Drohung am Telefon ausgesprochen hat,
diese Person oder so weiter. Aber eine

Dialektanalyse in dem Sinne ist, glaube
ich, für andere deutsche Behörden momentan

eher uninteressant. Interessanter ist es
natürlich für andere europäische

Migrationsbehörden, und das BAMF versucht
dann eben auch darauf zuzugehen und sich

zum Vorbild zu machen und es dort zu
etablieren.

Herald: Dann einmal Mikrofon Nummer eins.
Mik 1: Hi. Ist es aus deiner Sicht schlau,

wenn man sein Handy wiped, bevor man hier
nach Deutschland kommt und vielleicht die

Daten exportiert irgendwie, um s ie später
wieder draufzuladen oder ist das

vielleicht kontraproduktiv? Ist das ein
Rat, den man jemanden geben könnte, der

nach Deutschland kommt?
Anna: Das ist eine gute Frage. Kann ich

dir nicht beantworten. Also kann ich dir
tatsächlich einfach wirklich nichts sagen, weil

weiß ich nicht. Also das BAMF ist sich
tatsächlich auch dessen bewusst, dass es

gefälschte Handys gibt, die im Umlauf sind.
Das heißt, dass es Handys gibt, wo eine

plausible Geschichte draufgespielt wurde.
Ich meine, klar, ok, der Markt passt sich an,

es gibt dieses System. Dieses System
analysiert gewisse Dinge, irgendwann weiß

man, was es analysiert und dann kann man
eben Handys generieren, auf denen genau

das drauf ist, was man will. Das heißt,
Menschen, die, wenn man es so nennen will,

oder die sozusagen betrügen, überführt man
damit sowieso nicht. Das heißt, diese zwei

Prozent der Fälle, wo es dann irgendwie
Widersprüche gab, da hat vielleicht

einfach jemand irgendwo ein Handy gefunden
und mitgenommen und da war dann

blöderweise irgendwas anderes drauf. Aber natürlich ist es ein Einfaches irgendwie, das

System zu überwinden und eigentlich
weiß das BAMF das auch so.

Herald: Dann Mikrofon Nummer drei.
Mik 3: Dann stellt sich die Frage, ob die

200.000 Euro pro Erfolg bei dieser
Handyauswertung, neben dem ohnehin

unethischen Thema, nicht ein Fall für den
Bundesrechnungshof sind. Gelächter

Applaus Wie siehst du das?
Anna: Ja, der Bundesrechnungshof sollte das

BAMF in diesem Jahr geprüft haben. Wenn
jemand den Bericht dazu hat, nehme ich ihn

gerne. Also ja, sicher. Ich glaube, wenn man
das so betrachten will, wenn man aus der

finanziellen Warte betrachten will, kann
man diese Frage auf jeden Fall stellen.

Und sollte man dann auch. Man kann sich
auch fragen, wie viel Personal kann ich

dafür einstellen? Oder: wieviel Menschen
kann ich dadurch ein Leben in Deutschland

ermöglichen? Also, ja, ich finde es
absolut rausgeschmissenes Geld.

Herald: Also wer Berichte hat, bitte
vertrauensvoll an Anna wenden.

Mikrofone Nummer fünf ganz hinten bitte.
Mik 5: Ich war vor knapp zwei Monaten mit

einem Jugendlichen bei der Anhörung beim
BAMF. Da ist wohl auch auf jeden Fall das

Handy erfolgreich ausgelesen worden. Und
neben der ganzen Thematik, wie unzumutbar

das eigentlich ist innerhalb des
Verfahrens, habe ich mich auch gefragt, wo

diese Daten gespeichert werden und wie
sicher die gespeichert werden. Weißt du

dazu was?
Anna: Man kann die Frage zehnmal an das

BAMF stellen. Man bekommt immer die
gleiche Antwort und zwar "in einem

sicheren Datentresor." Gelächter Also
nein, weiß ich nicht. lacht Also ich

weiß es nicht. Es ist anscheinend so,
beziehungsweise das BAMF sagt es eben so,

dass diese Freischaltung durch einen
Volljuristen erfolgen muss und dass die

Entscheider da selber nicht auf diese
Datenbank, in der das liegt, Zugriff

haben. Das glaube ich ihnen auch
tatsächlich. Aber wie sicher die Daten im

Sinne, im physischen Sinne sind, das weiß
ich nicht.

Herald: Dann Mikrofon Nummer eins.
Mik 1: In der Talk Ankündigung stand als

letzten Satz drin, dass das BAMF noch so
ein Projekt mit Blockchain macht. lacht

Ja sprengt das jetzt den Rahmen oder magst
du dazu noch etwas sagen? Das klang sehr

erschreckend.
Anna: Ja. Dazu gibt es dann im Januar

mehr. Und das BAMF macht auch etwas mit
Blockchain richtig. Und zwar es heißt

"Blockchain at BAMF". Richtig gut.
Gelächter Ich will da nicht zu viel zu

sagen. Es ist eigentlich ein ganz. Ja. Es
ist halt cool, was mit Blockchain zu

machen, deshalb macht das BAMF jetzt auch
etwas mit Blockchain und man überlegt sich

halt ob man das Asylverfahren irgendwie
auch auf die Blockchain packen könnte.

Dazu gab es wohl ein Proof of Concept
beziehungsweise dazu gab es ein Proof of

Concept und dazu läuft angeblich gerade
eine Pilotierung im Ankerzentrum in

Dresden. Das heißt gar nicht weit. Und da
will man eben erreichen, dass die

Verfahrensstände im Asylverfahren zum
Beispiel auch anderen Behörden schneller

zugänglich sind. Und dann eben
fäschungssicherer sind. Das heißt man kann

dann sagen, "ok Person wurde registriert,
das schreiben wir in die Blockchain" und

dann kann irgendeine andere Behörde da
auch darauf zugreifen. Aber da gibt es

noch Fragen, das heißt dazu gibt es auch
ein Whitepaper, das kann man sich auf der

BAMF Seite mal angucken. Da haben Sie dann
auch irgendwann gemerkt, dass mit der

Blockchain ist ja ein bisschen blöde, weil
da kriegt man die Sachen nicht so einfach

wieder raus und eigentlich müssen die
Daten ja nach zehn Jahren gelöscht werden.

Das ist auch blöd. Dann aber ja, dann kann
man irgendwas mit Pseudonymen machen und

vielleicht kann man Blockchains auch
wieder nach hinten löschen und so. Also es

bleibt spannend. Ich hab nicht besonders
große Angst vor diesem Projekt, weil es

ist halt was mit Blockchain und es geht
vorbei. Aber. GelächterApplaus Genau.

Eine Kolleginnen und ich schauen uns das
gerade an. Sagen wir es so.

Herald: Dann ein mal der Signal Angel
bitte.

Signal Angel: Also solange es die
Blockchain noch nicht gibt, gibt es dann

Richtlinien wie lange diese Daten
gespeichert werden, die in so einem

Verfahren erhoben werden?
Anna: Ja, gibt es. Ich kann sie nicht

auswendig. Grunddaten werden zehn Jahre
gespeichert, andere Daten, die sensibler

sind wie Gesundheitsdaten im
Asylverfahren, es gibt ja noch eine ganze

Menge andere Daten, die im Asylverfahren
erhoben werden. Unter anderem dein

Impfstatus und die Sprachkurse, die du
besucht hast und so weiter und so fort.

Die werden, ich glaue Gesundheitsdaten nur
für ein Jahr, aber würde ich mich nicht

drauf festnageln lassen. Das ist eine
Angabe, die in der Verordnung zur

Durchführung des
Datenaustauschverbesserungsgesetzes steht

glaube ich. Kann man nachlesen, habe ich
nicht im Kopf.

Herald: Dann einmal Mikrofon Nummer zwei.
Mik 2: Hallo ich habe auch folgende Frage

und zwar weiß ich eigentlich auch aus
meinem Arbeitsleben, dass es gerade bei

den Namen ganz oft zu Fehlern kommt. Und
ich meine, wenn man jetzt Vorname A mit

Vorname B verwechselt, ist es vielleicht
noch nicht erfassbar. Aber das es auch zu

solchen Fehlern kommt wie es gibt nur
einen Vornamen. Der Vorname ist dann der

Name einer Stadt. Und wirklich
offensichtliche Fehler. Aber wenn das halt

erst einmal durch das BAMF oder durch die
Ausländerbehörde auf dem Aufenthaltstitel

ist, ist im Prinzip nur wirklich mit
mehreren Anhörungen und Terminen mit dem

Dolmetscher und mit einer langen Prozedur
überhaupt wieder irgendwas zu ändern. Und

ich frage mich wenn das Programm eine
Fehlerquote von 15 Prozent hat, wieso ist

es dann so schwer, da irgendetwas gegen zu
machen?

Anna: Das Programm mit einer Fehlerquote
von 15 Prozent war diese Sprachauswertung.

Dieses Namensprogramm soll ja erst einmal
nur dafür sorgen, dass die Übertragung von

arabischen Schriftzeichen die die Person
selber eingibt, das heißt die Person soll

selber ihren Namen schreiben. Es sei denn
sie ist nicht in der Lage zu schreiben

dann macht es der Dolmetscher, diese
einheitlich zu übertragen. Und das ist

vielleicht auch erst mal ein Fall der
relativ einleuchtend ist, das heißt man

will irgendeine Einheitlichkeit haben,
aber ich glaube da ist nochmal ein anderes

Problem. Nämlich das man verschiedene
zuständige Stellen hat. Man hat die

Ausländerbehörden, man kann auch irgendwie
in die Situation geraten bei einer Polizei

registriert zu werden und ich glaube dann
diese ganzen Prozesse aufzurollen da Daten

zu korrigieren ist eben schwierig und
gerade für das sogenannte Ausländer

Zentralregister ist das BAMF ja die
zuständige Behörde. Das heißt die müssen

sich eigentlich darum kümmern, diese
ganzen Daten irgendwie richtig zu halten.

Sie geben aber die Verantwortung dafür in
einer gewissen Art und Weise ab, indem sie

eben sagen: "Die Verantwortung für die
Richtigkeit der Daten können wir nicht

übernehmen. Das muss quasi die Stelle
machen, die diese Daten eingetragen hat."

Das heißt ich glaube das ist ein Problem,
das wird nicht so schnell weggehen.

Herald: Dann danke Anna für den
großartigen Talk und bitte gebt ihr einen

dicken fetten Applaus dafür.

Applaus

Abspannmusik

Untertitel erstellt von c3subtitles.de
im Jahr 2020. Mach mit und hilf uns!