36C3 Vorspannmusik
Herald: So, unser nächster Vortrag für
heute hat den Titel "Geheimdienstliche
Massenüberwachung vs. Menschenrechte."
Darin gibt es ein Update zu den
Verhandlungen am Europäischen Gerichtshof
für Menschenrechte über die durch Ed
Snowden aufgedeckten Überwachungen.
Zurzeit laufen da ja drei Verfahren.
Einmal das um den britischen GCHQ, einmal
um den schwedischen Geheimdienst und gegen
das BND-Gesetz. Die Sprecherin ist Dr.
Constanze Kurz, Sprecherin des CCC,
Autorin bei Netzpolitik.org und selbst
auch eine der Beschwerdeführerinnen im
britischen Verfahren, also dem des GCHQ.
Begrüßt sie mit einem herzlichen Applaus.
Applaus
Constanze Kurz: Ja, vielen Dank, ich freue
mich sehr, dass so viele Fans der
geheimdienstlichen Massenüberwachung den
Weg hierher gefunden haben. Ich sage es
nochmal, obwohl es der Herald natürlich
schon gesagt hat: Ich bin in einem Fall
selber Beschwerdeführerin. Bedeutet
natürlich, dass ich nicht unbedingt
objektiv über die geheimdienstliche
Massenüberwachung sprechen werde, sondern
ich bin hier ganz klar Partei, also...
aber das wird man wahrscheinlich durch den
gesamten Vortrag merken. Ich habe quasi
drei Schwerpunkte, die ich machen will.
Einmal die beiden Verfahren, die in
Straßburg, Straßburg laufen. Die laufen
seit mehr als, ja, fast fünf Jahren. Und
ich will ein bisschen sprechen über das
BND-Gesetz. Das BND-Gesetz hat nämlich
überraschenderweise jetzt, Anfang Januar,
eine mündliche Anhörung und das wird
sicherlich ein sehr grundsätzliches Urteil
geben. Und der CCC hat dazu eine
Stellungnahme abgegeben und die werde ich
am Ende des Vortrags kurz zusammenfassen
und ein bisschen auch während des Vortrags
vergleichen: wie unterscheiden sich denn
die technischen und auch die gesetzlichen
Rahmenbedingungen für geheimdienstliche
Massenüberwachung zwischen Schweden,
zwischen Großbritannien und Deutschland?
Mir geht es also tatsächlich um diese Form
der millionenfachen Erfassung, vor allen
Dingen von Telekommunikationsdaten, aber
ich will auch ein bisschen darauf kommen,
warum das eigentlich keine
Telekommunikationsdaten im engeren Sinne
mehr sind. In Europa gibt es eigentlich
vier Länder, die massenhaft solche Daten
erfassen, Verkehrsdaten, und zwar durch
einen Zugriff auf die Infrastrukturen, die
eh in der Regel also in diesen vier
Ländern gesetzlich geregelt sind. Das ist
Großbritannien, Schweden, Frankreich und
Deutschland. Über Frankreich werde ich
jetzt hier nicht reden, aber auch da
laufen Verfahren. Ich will nur darauf
hinweisen, dass der GCHQ, was sozusagen
die technische Geheimdienstbehörde ist für
Großbritannien, in einer anderen Liga
spielt als die anderen drei Länder, weil
die ein sehr viel höheres Budget haben und
sehr viel mehr Personal. Vielleicht kann
man zusammenfassend zu all diesen Ländern
sagen, aber vor allen Dingen auch zu den
drei Beispielen, die ich bringen werde,
nämlich Großbritannien, Schweden und
Deutschland: die gesetzlichen Regelungen
sind oft vage. Das werde ich nachher auch
ein bisschen am Beispiel klarmachen. Sie
sind in der Regel technisch lückenhaft,
weil es natürlich rechtliche Befugnisse
sind, aber sie sind vor allen Dingen auch
in der Aufsicht und Kontrolle der
Geheimdienste ebenfalls sehr lückenhaft,
da wurde ja in Deutschland auch schon sehr
viel darüber gesprochen. Ich will also
beginnen mit dem britischen Fall, der mir
natürlich auch am Herzen liegt, schlicht,
weil ich selber eine der
Beschwerdeführerinnen bin, weil ich aber
auch glaube, dass er von der Art, wie er
behandelt wurde, am
Menschenrechtsgerichtshof eine gute Chance
hat. Dass wir nächstes Jahr ein Urteil
kriegen werden, was sehr klare und
deutliche Worte findet für die
geheimdienstliche Massenüberwachung. Da
geht es also um GCHQ, dieses Bild wird
jeder kennen, das ist ja mittlerweile
schon, quasi schon eine Ikone geworden,
also eine riesige Behörde mit Tausenden
von Mitarbeitern, Millionen Budget. Wir
wissen aber vor allen Dingen jetzt sehr
viel mehr über das GCHQ, über die
Veröffentlichungen der Journalisten aus
den Snowden-Papieren. Und von den
Veröffentlichungen gibt es kein Programm,
und ein paar Programme werde ich gleich
erwähnen, die nämlich auch vor Gericht
dann quasi angegriffen werden, die von der
britischen Regierung quasi in ihrer
Existenz bestritten werden. Da gibt's
welche, die werden nicht kommentiert, aber
es gibt eigentlich keine wo man, wo man
den Fall hätte, dass ein Programm aus den
Snowden-Veröffentlichungen, die ja alle so
einen merkwürdigen Namen haben, da kommen
wir nachher nochmal drauf, nicht
stattgefunden hätte oder das es nicht
existiert. Das erwähne ich deshalb, weil
natürlich diese Programme im Rahmen der
Beschwerdeverfahren einfach auch erwähnt
wurden und die Vertreter der britischen
Regierung in Straßburg sich natürlich auch
diesen Themen dann widmen mussten. Ich
will mal kurz das Verfahren klarmachen:
Man, man erwartet in der Regel, wenn man
vor dem Europäischen
Menschenrechtsgerichtshof ein Verfahren
beginnt, nicht, dass es eine mündliche
Anhörung gibt, sondern das sind in der
Regel Verfahren, die ohne Anhörung gemacht
werden. Wir hatten verdammtes Glück. "Wir"
ist eine Gruppe von NGOs, nämlich die Open
Rights Group, Big Brother Watch und die
Schriftstellervereinigung Pen aus
Großbritannien und ich selbst, wobei
natürlich, ich als einzige Ausländerin
bin, das ist vielleicht ein bisschen
wichtig für die Ausgestaltung. Und man
erwartet nicht unbedingt, dass man eine
mündliche Anhörung hat. Wir hatten aber
zum einen eine Priorisierung, dafür gibt
es bei dem Gericht eine Möglichkeit, dass
man sozusagen einem Fall eine Priorität
einräumt. Und wir hatten sogar zwei
mündliche Anhörungen, die ich dann gleich
nochmal erwähnen werde. Das ist
ungewöhnlich. Ein Verfahren ist ganz
anders, als man es hier in Karlsruhe
kennt. Wer das jemals schon erlebt hat,
das ist also sehr viel strukturierter. Es
gibt keinen Dialog wie in Karlsruhe sehr
häufig, sondern das ist ein sehr
standardisiertes Verfahren, wo also die
Beschwerdeführerseite spricht, dann
spricht der Vertreter der britischen
Regierung oder einer anderen Regierung und
dann gibt es eine Fragerunde. Dann hat man
eine kurze Pause, sich auf die Fragen
vorzubereiten, und dann werden die Fragen
in sehr, sehr kurzer Zeit beantwortet. So
ungefähr läuft das ab. Und es gibt keine
Urteilsverkündung wie in Karlsruhe,
sondern das ist dann auch wieder ein
schriftliches Verfahren. Man bekommt das
Urteil quasi dann schriftlich, es gibt
kein Verlesen wie in Karlsruhe, aus meiner
Sicht ist das eigentlich eine gute Sache
in Karlsruhe, aber das gibt es dort in
Straßburg nicht. Ich will mal sozusagen
den Kern der Beschwerde kurz darstellen,
das ist natürlich die Massenüberwachung
über das TEMPORA-Programm und ich rufe
nochmal in Erinnerung, wer sich jetzt
daran nicht erinnert. TEMPORA ist eine
mehrteilige geheimdienstliche Operation
und umfasst die Hard- und Software an den
Glasfaserkabeln, denn irgendwo müssen die
Rohdaten ja herkommen, dann ein
sogenanntes MVR-System, das ist einfach
nur um die riesenhafte Menge, man muss
auch mal YouTube und YouPorn wegschmeißen,
ja, man muss also die Volumina reduzieren.
Und dann gibt's ein Programm, was
POKERFACE heißt – ich glaube, die haben da
einen extra Angestellten für bekloppte
Geheimdienstoperationsnamen – das ist eine
Datenbereinigung und schnelle
Löschroutine. Und dazu gehört dann das
hier auch bekannte XKEYSCORE-System, das
haben ja auch deutsche Geheimdienste
probieren dürfen, damit verbindet man dann
die gefundenen gefilterten Datensätze.
Also das ist sozusagen, wenn man das mal
zusammenfassen will, das TEMPORA-Programm,
viele werden sich erinnern, das ist ja
ganz am Anfang schon der Snowden-
Veröffentlichungen, also 2013, öffentlich
geworden, und kurz danach hatten wir auch
schon die Beschwerde im Gange. Allerdings
zog es sich trotz der Priorisierung sehr,
sehr lange, schlicht deshalb, weil andere
NGOs, große NGOs wie Privacy International
und Amnesty hinzugezogen wurden. Also wir
hatten dann so einen Fall, wo, weil die
Beschwerden sehr ähnlich waren, die
zusammen verhandelt wurden. Ich will
nochmal kurz beschreiben, was in
Großbritannien gesetzlich erlaubt ist. Das
Gesetz ist allerdings mittlerweile bereits
einmal novelliert worden, das heißt die
Beschwerde läuft eigentlich gegen ein
Gesetz, was gar nicht mehr, so nicht mehr
existiert, und zwar erlaubt ist "external
communication". Wenn also Nicht-Briten
beteiligt sind, in Deutschland wäre das
sozusagen wie die Auslandsfern-
meldeüberwachung im BND-Gesetz
oder die internationalen Verbindungen. Es
ist also ein Unterschied. Es müssen also
Nicht-Briten beteiligt sein.
Innerbritische Kommunikation darf also
gesetzlich so nicht überwacht werden. Und
ich will daran erinnern, dass ein Großteil
der innerbritischen Kommunikation aus
ökonomischen Gründen, aber auch aus
technischen Gründen übers Ausland geleitet
wird, weswegen das einmal von Bedeutung
ist für den Geheimdienst, aber zum anderen
auch die Frage "Wie viel von dem
transatlantischen Datenverkehr können Sie
damit abgreifen und weitergeben?", denn
Großbritannien ist ja Teil der Five Eyes
und ist natürlich auch eng mit der NSA in
Kooperation. Ich habe es nochmal, einmal –
wahrscheinlich werden viele diese Grafiken
kennen – damit man eine Idee hat, von
wieviel Kabeln wir da ungefähr sprechen.
2013, als wir die Beschwerde eingereicht
haben, waren das so ungefähr 200
Unterwasserkabel. Man sieht hier vor allen
Dingen: Cornwall ist sozusagen der Kern
der Anlandestation, wo die
transatlantischen Kabel rübergehen, aber
es gibt natürlich auch eine Verbindung
innerhalb, also ein Geheimdienstnetz
innerhalb von Großbritannien, weil ja die
Daten dann irgendwo auch weiterverarbeitet
werden müssen und mit den Satelliten
verbunden werden. Man sieht hier von euch
aus auf der linken Karte die
Satellitenstationen, mit denen man noch
das ja auch noch verbinden will. Also das
ist ja nicht nur Glasfaser, sondern auch
Satellitenkommunikation wird erfasst,
genauso wie in Deutschland auch und auch
in anderen europäischen Ländern, weswegen
man die natürlich auch in schneller, mit
schneller Verbindung weiter transportieren
will. Das ist ein "Full take", so wie in
Deutschland auch. Also "Full take"
bedeutet man nimmt den gesamten
Rohatenstrom. Sie haben aber nicht wegen
sozusagen wegen der Menge, also 2013 reden
Sie von über 20 Terabyte, haben Sie
manchmal schneller wegschmeißen müssen,
als Sie filtern konnten. Darüber ist ja
relativ viel berichtet worden. Und dass
sind, sozusagen, die technischen
Voraussetzungen auf die man die Beschwerde
stützen kann und sagen kann "Wir haben
eine europäische Menschenrechtskonvention,
die hat einen Artikel 8, und der gibt uns ein
Menschenrecht auf Privatsphäre. Und diese
massenhafte Überwachung, wo ja sozusagen
im Geheimsprech heist das dann "Bulk
Collection", also wie die Massen der Daten
da angesammelt werden, widerspräche der
Menschenrechtskonvention, darauf gründet
sich das. Ich habe jetzt mal nochmal ein
Bild mitgebracht von diesem Gerichtshof.
Der hat allerdings natürlich auch schon
öfter mal über Massenüberwachung
geurteilt. Auch schon in der Zeit wo es
digital los ging. Also die ersten Urteile,
ich hab es hier mal aufgelistet, wenn sich
jemand dafür interessiert, die kann man
natürlich nachlesen, sind auch nicht
uninteressant. Dass ging in neueren
Bereich von 2008 bis über 2009 bis 2013.
Das sind die Fälle um automatisierte
Datensammlung und jeweils ist auch
festgestellt worden, wie bei anderen
Höchstgerichten in Europa, dass diese Form
von automatisierter Datensammlung begrenzt
sein muss. Denn wenn man so eine
Beschwerde aufsetzte, das hab natürlich
nicht ich geschrieben, sondern britische
Anwälte, die wir bezahlt haben und die
auch durch eine große Spendenaktion 2013
europaweit finanziert wurden. Die stützen
sich natürlich immer auf ältere Urteile.
Deswegen, wenn man die Beschwerden liest,
die hängen auch im Netz, dann kann man
sich immer nochmal Rückgriff nehmen auf
die alten Urteile. Vielleicht noch mal
eine kurze Sache zu diesem ganzen
Verfahren. Es gab eine Anhörung 2017, dann
gab es ein Urteil 2018, und dieses Jahr
gab es eine neuerliche Anhörung. Da fragt
man sich "Wie kann das sein, wenn ein
Urteil gefallen ist?" Das ist anders in
Straßburg. Wenn in Karlsruhe ein Urteil
fällt, dann ist es ja endgültig, dann ist
das ein Urteil. In Straßburg ist es aber
so, dass man auch noch danach die große
Kammer anrufen kann, wenn man gute
Argumente vorbringt. Das heist, man kann
quasi einen Widerspruch gegen ein
höchstrichterliches Urteil einlegen und
sagen "Wir möchten die gesamte Kammer
anrufen, weil wir haben diese und jene
Argumente." Davon habe ich jetzt ein Teil
gleich nochmal gebracht. Das ist hier
geschehen, und die Richter haben das
angenommen, weswegen es eine zweite
mündliche Anhörung gab. Jetzt, im
Frühsommer, und da ist das ein ganz
merkwürdiges Prozedere, ich will das nun
mal beschreiben, weil ich das selber auch
noch nicht erlebt habe und weil so viele
Menschen wahrscheinlich auch nicht
unbedingt nach Straßburg fahren, um sich
sowas anzusehen. Es ist ein richtig, so
richtig, so eine Papierschlacht. Da kommen
die mit Koffern, die Anwälte, und
schleppen ihre großen Akten hin. Sowohl
die Vertreter der britischen Regierung wie
auch unsere eigenen Anwälte, die natürlich
auch in großer Menge da waren, weil
mittlerweile zehn NGO's zusammengezogen
wurden, die ja alle ein, zwei Anwälte
haben. Das war bei dem schwedischen Fall
genauso. Der wurde dann am selben Tag
nachmittags verhandelt. Man sitzt dann
halt da und schreibt auf Papier, weil man
keine Telefone und keine Rechner mit haben
kann. Das sind damals meine Mitschriften,
wo mir erst spät auffiel, dass ich
tatsächlich auf einem Stasi-Unterlagen
Block geschrieben habe.
lachen
Also, das war wirklich ein Zufall, mir ist
das erst später aufgefallen. OK,
festgestellt ist zum einen, dass ein Teil
der britischen Gesetzgebung gegen Artikel
8 der Menschenrechtskonvention, die
bereits 1953 in Kraft trat, verstößt.
Interessant an diesem ersten Urteil ist
natürlich auch, dass die Risiken von
dieser geheim hinter dem Rücken der
Menschen laufenden Massenüberwachung schon
benannt wurden. Nämlich sozusagen ein -
ich übersetze das jetzt mal - ein Risiko,
dass diese geheime Überwachung, die
eigentlich der nationalen Sicherheit
dienen soll, die Demokratie unterminiert,
sozusagen unter dem Deckmantel, sie zu
verteidigen. Das sind schon relativ klare
Worte. Es gibt ein langes Urteil, da geht
es um drei Aspekte. Das eine ist die
Massenüberwachung selbst, und wie gut die
Filter dafür eigentlich funktionieren.
Dann die Frage der Kontrolle: Wer
kontrolliert diese Geheimen? Wer guckt
sich mal an, welche Technik an den anderen
Stationen angebracht wird? Wer genehmigt
die? Und zum anderen, der dritte Aspekt
sind die Datenkarusselle. Also die Frage,
wer von welchen Geheimdiensten gibt was an
andere Geheimdienste weiter? Und das sind
exakt auch die Fragen, die jetzt im BND-
Gesetzverfahren, was im Januar in
Karlsruhe besprochen wird, auch eine Rolle
spielen. Da sind eine Menge Ähnlichkeit.
Das ist mir erst später klargeworden, denn
das BND Gesetz gab es ja noch nicht, als
wir die Beschwerde gemacht haben. Snowden
hat sich damals sehr gefreut. Ich habe mal
den alten Tweet mitgebracht. Er sagt: "For
five long years, governments have denied
that global mass surveillance violates
your rights. And for five long years, we
have chased them through the doors of
every court. Today, we won. Don't thank
me: thank all of those who never stopped
fighting." Ich denke, das war ein bisschen
voreilig. Denn wenn man sich das Urteil,
was natürlich dann in voller Länge
rauskam, genauer ansieht, dann ist so ein
typisches Urteil von Höchstgerichten, wo
man sagen kann: "Ja... aber." Das heißt,
es gibt Verstöße gegen das Menschenrecht
auf Privatsphäre, also Artikel 8, aber das
ist nicht so, dass das Gericht alle
Punkte, die die Beschwerdeführer von
diesen verschiedenen NGOs vorgebracht
haben, tatsächlich auch anerkannt haben.
Und da will ich mal ein paar Aspekte
nennen, weswegen es ja jetzt auch noch vor
die Große Kammer kam. Also nicht, dass ich
mich nicht gefreut hätte. So nicht. Aber
die Anwälte haben eigentlich gleich an dem
Tag gesagt: "Na, da gucken wir mal, ob wir
was schreiben." Zum einen hat diese
unendliche Berechtigung, hat die Kammer
nicht anerkannt. Also die Frage, wenn ich
ein warrant, also eine Berechtigung für
eine Massenüberwachung, ausstelle, bleibt
das eigentlich ewig bestehen. Es gibt in
Großbritannien nicht wie bei uns ein
Richtervorbehalt. Da sagt kein Richter,
auch kein Geheimrichter, sondern das geht
über den Tisch des Ministers dort. Und
dass es so sei, wie wir in der
Beschwerdeschrift gesagt haben, dass die
sozusagen unendlich läuft, das hat das
Gericht so nicht anerkannt. Und dagegen
haben wir uns gewehrt. Das nennt sich
"rolling warrant renewals", weil die nie
enden. Indem wir gesagt haben, zum einen
ist es eine faktische Befugnis, die keine
Zeitbegrenzung hat, einfach weil es so
ist. Es ist nie unterbrochen worden, wenn
man auch erst einmal so ein Y-Stück an
einem Glasfaserkabel - oder jedenfalls an
einem Teil von einem Glasfaserkabel - hat,
dann wird es nicht wieder abgestellt. Und
weil auch die Definition, warum man das
machen kann, so vage ist. Genau wie bei
uns, das ist nationale Sicherheit. Bei uns
heißt es, im BND-Gesetz heißt es - ich
habe das mal zitiert - "Besondere Relevanz
für die Sicherheit der Bundesrepublik
Deutschland". Das sind Begriffe, die sehr
vage sind. Und da kann man natürlich immer
davon ausgehen, dass es erneuert wird. Das
ist auch faktisch so geschehen. Und
offenbar war diese Argumentation gut
genug, dass das Gericht die Große Kammer
dazu angerufen hat. Aber nicht nur das,
sondern teilweise sind diese
Berechtigungen, diese "warrants", gar
nicht geschehen. Das konnte man dann in
der Zeitung lesen. Zum Beispiel in dem
Programm DISHFIRE. Da ist sozusagen in
Kooperation mit der NSA vor allen Dingen
SMS-Nachrichten, aber auch noch andere
Metadaten, weitergegeben worden. Dafür
hatten sie nicht mal eine Berechtigung,
das hat man dann in der Zeitung lesen
können. Also das heißt, dieses System der
Kontrolle, dass das zumindest über den
Ministertisch geht, hat gar nicht immer
stattgefunden, und konnten wir natürlich
dann vorbringen, weil im Rahmen des
Verfahrens gingen ja die
Veröffentlichungen immer noch weiter. Es
hat sich so ergeben, dass im Rahmen des
Verfahrens relativ viel nachgereicht wurde
an Papieren. Es haben aber auch sehr viele
NGOs europaweit mit
Unterstützungsschreiben diese Verfahren
schriftlich unterstützt, das war sehr
wichtig für uns. Und ein dritter Punkt,
den finde ich auch, die Anwältin, Helen
Mount hieß die, die gesprochen hat - das
Video kann man sich auch ansehen, das
Gericht zeichnet diese Anhörung auf, ist
der wichtigste Punkt, den wir machen
wollten. Dass wir nicht mehr nur auf das
Telekommunikationsgeheimnis wollen.
Sondern wir wollen klar machen, ich habe
jetzt hier eine Liste, die mir gestern
Morgen einfiel: Arbeiten, Lesen,
Entertainment, Banking, Shopping, Dating,
politisches Engagement, Lernen. Wir
wollten sagen, dass es nicht um
Telekommunikation geht, sondern dass es
sozusagen das digitale Ich abbildet. Diese
Art von Massenüberwachung hat nicht mehr
nur diesen engen Telekommunikationsrahmen.
Und ich glaube, diesen Punkt, den konnten
die Anwälte sehr gut machen, sowohl
schriftlich, als auch mündlich. Ich muss
natürlich der Fairness halber mal sagen,
was die Vertreter James Edie der
britischen Regierung gesagt hat - im
Wesentlichen hat er immer gesagt: "Aber
Terror." Klar. Und dann muss man natürlich
auch nicht sehr viel begründen, weil
dieses "Die nationale Sicherheit ist
bedroht." zieht natürlich als Argument.
Aber faktisch gibt es drei Gründe,
weswegen Massenüberwachung
geheimdienstlicher Art gemacht werden
kann. Das ist einmal sozusagen nationale
Sicherheit, aber es ist auch schwere
Verbrechen. Und das ist in Großbritannien
so, dass die Geheimdienste auch
Schwerverbrecher jagen dürfen. Und das
dritte ist Wirtschaftsspionage. Also das
ist anders formuliert, aber man die
Interessen der britischen Wirtschaft sind
auch ein Grund, weswegen man
Massenüberwachung machen kann. Da geht es
vor allen Dingen um Export, Proliferation
und so weiter. Damit will ich, weil ich zu
den anderen Fällen noch kommen kann, mal
abschließen mit diesem britischen Fall.
Ich sehe sehr gute Chancen, dass wir ein
besseres Urteil kriegen, sonst hätten sie
es auch nicht vor die große Kammer
gebracht, und dass Sie die anlasslose
geheime Massenüberwachung insofern kippen.
Wir haben eigentlich schon beim EuGH so
ein Urteil bekommen - also beim
Europäischen Gerichtshof- da gab es ja im
Rahmen der Vorratsdatenspeicherungs-
Verhandlungen schon mal so einen Punkt,
dass der EuGH gesagt hat, dass es
unzulässig ist, dass man Eingriffe, die
anlasslos sind und sich auf sämtliche
Verkehrsdaten erstrecken, ohne dass man
eine Einschränkung oder Ausnahmen oder
Differenzierung hat, dass man die so nicht
durchführen kann. Wir hoffen natürlich
auch, dass das Gericht in Straßburg das
jetzt so klar sagt. Mir ist schon klar,
dass nachher nicht die Geheimdienste weder
die britischen noch die anderen sagen: Na
gut, dann klappt mal die Sachen zusammen,
dann machen wir nicht weiter. Aber ich
glaube schon, dass, wenn man den
europäischen Raum als Rechtsraum versteht
und wenn es die Länder gibt, die die
Europäische Menschenrechtskonvention
ratifiziert haben, dass das eine Rolle
spielt. Aber ich glaube auch, dass wir
dazu beitragen müssen. Ich sehe es an mir
selber - und das wird wahrscheinlich auch
jeder von euch kennen: Man regt sich sehr
schnell auf über Urteile, die einem nicht
gefallen, oder Aspekte von Urteilen - aber
ich zumindest tue mich schwer damit,
Urteile, die ich sehr wichtig finde, auch
zu puschen und zu sagen: "Das ist ein
wichtiges, vielleicht sogar
höchstgerichtliches Urteil, da müssen wir
uns hinterstellen. Und wir müssen auch
fordern, dass es politisch umgesetzt
wird." Ich hoffe, dass wenn nächstes Jahr
das Urteil kommt, es dann auch viel
Unterstützung gibt von einer breiten und
auch europäischen Öffentlichkeit. Es geht
aber weiter. Also während wir fünf Jahre
verhandelt haben und jetzt ein zweites
Urteil bekommen werden - und hoffentlich
ein Gutes - da sind die Briten schon einen
weiter: Sind sie von der bulk surveillance
- also von der der Massenüberwachung -
jetzt schon bei der bulk equipped
interference. Das ist also schon eine Form
von bulk hacking. Das GCHQ will jetzt
nicht mehr nur massenhaft Daten sammeln,
sondern will auch massenhaft hacken. Da
sind wir also schon ein Stück weiter. Man
muss schon sagen, dass gerade in
Großbritannien die Geheimdienste
Unterstützung auch sehr groß ist, ich
glaube, größer als bei uns. Im Rahmen des
NSA-BND-Untersuchungsausschusses gab es ja
auch eine Menge Kritik. Dort ist es ein
bisschen anders. Die haben aber noch ein
anderes Parteiensystem und hatten
vielleicht auch noch ein paar andere
Sorgen. Ich will noch kurz zu dem
Schweden-Verfahren kommen. Nicht so
furchtbar lange, aber ich will zumindest
mal darstellen, wo die Unterschiede sind.
Wie die Kammer dazu entscheiden wird, das
natürlich schwer abzusehen. Aber dadurch,
dass sie das an denselben Tag gelegt
haben, gehe ich davon aus, dass sie auch
ein sehr ähnliches Urteil fällen werden.
Aber der schwedische Fall ist ein bisschen
anders gelagert: Das läuft schon seit
2008. Die haben also den nationalen
Rechtsweg beschritten, während wir ja
gleich nach Straßburg gezogen sind, was
möglich ist und ja auch angenommen wurde.
Aber die ziehen das dann halt schon seit
mehr als zehn Jahren und das ist ein
Beschwerdeführer, der klassische
Litigation macht, also eine strategische
Prozessführung. Die wollten das
strategisch gesetzlich geklärt haben. Das
ist eine Vereinigung von Anwälten, die das
sozusagen auch mit echt langem Atem tut.
Und ich will die Unterschiede jetzt mal
kurz darstellen. Obwohl - vielleicht
sollte ich vorher noch etwas Anderes
sagen: Was machen die da eigentlich? Die
haben vor allen Dingen die Glasfaserkabel
an der Ostsee - auch genau mit dem Gesetz,
das 2008 erlassen wurde, dürfen die
sozusagen die Kommunikation - es geht
wieder um external communication - die
nach Schweden reingehen und aus Schweden
kommen, aufzeichnen. Aber nicht nur
Metadaten, sondern auch Emails, SMS und
Inhalte der Telefonate und so weiter. Das
Interessante daran ist eigentlich etwas
Anderes: Ein Großteil der russischen
Kommunikation geht darüber, weswegen Obama
eigens dahin geflogen ist. Und da gab es,
als Obama noch Präsident war, hochkarätige
Gespräche über eine Kooperation bereits
seit 2011. Weil natürlich klar war: Wenn
ein Teil der russischen Kommunikation
darüber geht, dann wollen die natürlich da
ran. Und ich habe jetzt den Vergleich mal
gemacht: Das eine ist, in dem Fall wurden
die Rechtsmittel innerhalb von Schweden
erschöpft (das ist sehr selten), aber
haben aber auch einige von den britischen
Beschwerdeführer gemacht, denn es gibt in
Großbritannien das IPT. Das ist ein
Geheimgericht. Und das heißt, dass einige
der Beschwerdeführer, die jetzt mit uns
zusammen klagen, haben innerbritisch schon
geklagt. Das stünde mir übrigens auch
offen als Ausländer, aber das ist
natürlich nur eine theoretische
Möglichkeit. Die haben eine unabhängige
vorab-Autorisierung, dass gibt es nicht,
genauso wie einen Richtervorbehalt in
Großbritannien. Die haben auch eine
Mitteilungspflicht in ihrem Gesetz, das
gibt es auch nicht in Großbritannien. Die
haben eine sehr viel genauere
Spezifizierung, warum überwacht werden
darf, während das in Deutschland und auch
in Großbritannien ganz vage Begriffe sind,
so National-Security halt, und die haben
die Nutzung von faktischen Namen, also im
Sinne von Vor- und Zunamen begrenzt. Das
ist schon nicht ganz unwichtig, wie
speziell man in die Gesetze schreibt, was
die eigentlich dürfen. Wenn man so eine
Generalerlaubnis hat, wie das jetzt in
Deutschland in dem BND-Gesetz ist oder in
Großbritannien, ist das natürlich etwas
ganz anders. Und sie haben eine qualitativ
bessere Kontrolle des Geheimdienstes, aber
ich will jetzt mal kurz darstellen, was es
bedeutet, wenn ich sage "qualitativ
besser", heißt: es existiert theoretisch.
Deswegen habe ich mal ein Beispiel, was
allerdings von den Beschwerdeführern
selbst ist: Alle Beschwerden, die jemals
an den Justizminister gingen gegen den
Geheimdienst, sind ohne Verfahren
abgelehnt worden und in 22 Jahren hat der
eigens dafür zuständige parlamentarische
Ombudsmann, den es in Schweden gibt,
einmal ein Telefonat geführt. Also das
"qualitativ besser", man muss sich also
vorstellen, dass es nur dieser Form von
Kontrolle gar nicht gibt in
Großbritannien, da gibt es halt nur dieses
Geheimgericht, das ist wirklich ein
Geheimgericht. Die verhandeln halt nicht
öffentlich, sondern geheim. Und es gibt
keine Möglichkeit in Großbritannien, dass
man als Einzelperson sich versucht zu
wehren, wie man hier sich beschweren kann,
etwa bei dem Ombudsmann. Also gut, ich
will zu den Schweden sonst nichts weiter
sagen, einfach weil ich, mir fällt es da
schwer zu orakeln. Man kann sich natürlich
die Anhörung ansehen, und auch da haben
die Richter sehr kritische Fragen
gestellt. Ich empfehle es auch jedem mal
anzusehen, die waren aber auch sehr
ähnlich. Also wird da ordentlich
gefiltert, werden da keine Schweden
miterfasst, wer kontrolliert es? Die
Fragen waren dieselben und ich vermute
mal, dass die Urteile auch ähnlich
ausfallen. Im schwedischen Fall ist
nämlich bereits auch ein Urteil ergangen
im letzten Jahr. Und die haben halt keine
Feststellungen bekommen, nach zehn Jahren
Prozessführung, dass es gegen Artikel 8
der Menschenrechtskonvention verstößt. Das
wird sich sicherlich ändern für den
schwedischen Fall. Aber das Gesetz ist
auch nicht ganz so vage wie in Deutschland
oder in Großbritannien. So. Dann will ich
zu dem letzten Fall kommen. Ich habe jetzt
noch, weiß nicht, so ungefähr eine
Viertelstunde oder so, muss mich also ein
bisschen sputen. Zum BND: das ist das
sympathische neue Gebäude in Mitte, werden
wahrscheinlich viele kennen. Übrigens
fällt mir gerade ein, die hatten ja
vorher, also bevor in Berlin-Mitte dieses
riesenhafte Ding mit dieser modernen
Architektur und der Überwachungspalme
eröffnet wurde, auch einen tausend-Mann-
starken Standort in Lichterfelde und ich
las gerade kurz vor der feierlichen
Eröffnung, wo die Architekturexperten
durch das BND-Gebäude gewandert sind und
schöne Artikel geschrieben haben, dass die
tausend Mann in Lichterfelde, das ist auch
so eine hässliche Kaserne, möchte ich auch
nicht arbeiten, bleibt erhalten, weil
jetzt schon diese riesen Zentrale in Mitte
zu klein ist. Also die behalten ihren
Standort in Lichterfelde, wo auch ein Teil
der technischen Aufklärung läuft. Die
Abhörpraktiken des BND sind im
Wesentlichen nicht durch Edward Snowden,
sondern im Wesentlichen durch den NSA-BND-
Untersuchungsausschuss klar geworden. Da
wurde doch eigentlich aus der Tatsache,
dass von der NSA und vom GCHQ sowieso
niemand kam und irgendwas gesagt hat, da
schon ein gewisses Verfahren gegen den
BND. Da waren ja auch einige Sachen
überraschend, insbesondere die wirklich
dreiste Weltraum-Theorie zur Frage, ob man
sozusagen im Weltraum überwachen kann,
also die Satellitenkommunikation; aber
auch die Funktionsträger-Theorie, also
wenn jemand sozusagen ein Mensch ist, aber
gleichzeitig Funktionsträger ist, darf man
ihn abhören. Aber es ging auch um die
Frage, ob das Telekommunikations-Geheimnis
eigentlich für jeden gilt oder nur für
Deutsche. Auf jeden Fall war eine Folge,
dass 2016 das BND-Gesetz verabschiedet
wurde (das ist mit Abstand die größte
Geheimdienst-Reform der letzten
Jahrzehnte) ist deshalb interessant, weil
natürlich das Bundesverfassungsgericht
schon mal über die Befugnisse zur
Massenüberwachung des BND gesprochen hat,
nämlich 1999, da gab es schon mal ein
Urteil. Und das Interessante, und da
werden wir sicherlich im Januar auch
nochmal daran erinnert werden, ist, dass
nach dem damaligen Recht dieses
strategische Abhören, diese
Massenüberwachung gerade noch als
verhältnismäßig erklärt wurde, schon
deshalb, weil nur ein Bruchteil der
Telekommunikations-Verkehre dabei
aufgezeichnet wurde. Heute ist das
natürlich anders. Da wird im großen Stil
sozusagen insbesondere am DE-CIX in
Frankfurt abgehört und man durchlöchert
damit die Rohdaten. Und die Richter, die
uns für die Stellungnahme einige Fragen
geschickt haben, haben auch genau wissen
wollen: Wie viel der internationalen
Kommunikation können die denn potenziell
mit dieser gesetzlichen Befugnis im BND
Gesetz abhören? Leider konnten wir die
Frage so nicht ganz beantworten. Das liegt
daran, dass in einigen Kontinenten,
insbesondere in Asien, keine
Veröffentlichung stattfinden, was die so
für Datenraten an den großen Exchanges
haben. Das heißt, auch der DE-CIX selbst
weiß nicht so richtig, wieviel Prozent
durch Europa laufen. Einfach schlicht,
weil in anderen Kontinenten dazu keine
Zahlen veröffentlicht werden, was in
Europa und Amerika eigentlich üblich ist.
Vielleicht muss man noch dazu sagen, die
Praktiken, die bekannt wurden und die
rechtswidrig waren, sind sozusagen durch
dieses Gesetz legalisiert worden, und zwar
bevor der Abschlussbericht des NSA-BND-
Untersuchungsausschusses dann rauskam.
Also eigentlich eine Frechheit gegenüber
den Parlamentariern, die gerade noch am
Untersuchen waren. Es gab natürlich eine
Verfassungsbeschwerde, ich habe jetzt
einige der Beschwerdeführer genannt:
Reporter ohne Grenzen, die Gesellschaft
für Freiheitsrechte und
Journalistenverbände und weitere. Deswegen
ist ein Fokus dieser Verfassungsbeschwerde
auch Journalisten. Es geht im Wesentlichen
um die Ausland-Ausland-Aufklärung, also
das massenhafte Abgreifen von
Telekommunikation zwischen Ausländern. Man
unterscheidet sozusagen in Deutschland
Inland-Ausland-Verkehr, das ist das
sogenannte G10-Gesetz in Deutschland, also
wenn ein Inländer beteiligt ist, und
Ausland-Ausland, das ist das BND Gesetz.
Es gibt natürlich auch noch Inland-Inland,
wird jetzt ja jedem logisch aufgefallen
sein. Das wird mit dem sogenannten
G10-Filter gefiltert. Das ist der zweite
Schwerpunkt dieses Verfahrens, dass sie
sich natürlich fragen: Wie gut sind die
Filter? Werden da wirklich die Inländer
rausgefiltert? Denn Inländer darf der
Auslandsgeheimdienst BND nicht überwachen.
Das ist auch ein Schwerpunkt unserer
Stellungnahme zu erklären, wie diese
Filter funktionieren. Ich habe da gleich
nochmal eine Folie. Aber ich will auch
nochmal verweisen auf etwas anderes, ich
habe eine Sottise mitgebracht von unserem
Bundespräsidenten, denn viele werden es
vergessen haben. Steinmeier war mal der
Bundeskanzleramtschef, und er ist
verantwortlich für die rechtswidrige
Praxis des BND, der einfach Rohdaten
weitergegeben hat. Und der, ich zitiere
hier von seinen Aussagen im NSA-BND-
Untersuchungsausschuss, angesprochen auf
seine Ahnungslosigkeit in Bezug auf die
rechtswidrige Weitergabe von Daten, hat er
gesagt: "Es geht mir wie Ihnen: Als Chef
der Kontrollbehörde dieses BNDs". Und er
hat sich zu dem Satz, was, glaube ich, ein
absoluter Offenbarungseid ist, als Chef
des Bundeskanzleramtes, hat er sich mit
dem Satz "Als ich gehört habe, dass der
BND befreundete Regierungen und
internationale Institutionen abhört, war
ich, gelinde gesagt, überrascht." Ich
glaube, das macht vollständig klar,
worüber wir hier eigentlich reden. Dass
nämlich auch die Kontrolle in Deutschland
sehr mangelhaft ist und dass sozusagen
gerade die Tatsache, dass es so wenig
Aufsicht und Kontrolle gibt, dazu führt,
dass es Rechtsbrüche gibt. Es gibt eine
Änderung im BND Gesetz, da sind jetzt
sozusagen neue Möglichkeiten der Kontrolle
etabliert worden. Das sind insbesondere
drei BGH-Richter mit drei Vertretern. Die
sollen sozusagen als unabhängiges Gremium
nur die Ausland-Ausland-Aufklärung
kontrollieren. Allerdings hat man es jetzt
so gemacht, dass wenn ein Eilfall
stattfindet, dann darf der BND auch ohne
Vorab-Check durch dieses unabhängige
Gremium tätig werden und kann dann
sozusagen nachfolgend sich sein Okay
holen. Ich verweise jetzt auch noch mal
rückwärts auf den Vortrag von letztem
Jahr, denn Klaus Landefeld war hier und
hat ein bisschen über das Verfahren am
Bundesverwaltungsgericht gesprochen.
Unterdessen ist er bereits vors
Bundesverfassungsgericht gezogen. Nämlich
als Vertreter des Ecco, der ja den DE-CIX
betreibt, (in Frankfurt.) Und er hatte mal
die Folie, die hier nochmal zitiere, damit
man sich klarmacht, worüber wir hier
reden, wenn wir über G10-Filter und die
Frage, ob die tatsächlich in der Lage
sind, Inländer und Ausländer zu trennen,
reden. Und der hat die verschiedenen
Filter-Qualitäten von 99,9, 99,5 und 99,0
mal ausgerechnet, was für Verbindungen
(faktische) hätten. Wobei sich die Zahlen
haben sich natürlich schon wieder erhöht,
das ist ein Jahr alt. Die Folie
mittlerweile schon ein bisschen weiter,
ich glaube es sind jetzt so 6TB Peak
mittlerweile. Aber trotzdem bleibt die
Größe ungefähr. Wir reden von mehr als
einer Milliarde falschen, gefilterten
Verbindungen. Wenn die Filter so gut sind,
wie dort behauptet, was wir natürlich
nicht wissen. Denn dieser sogenannte
"DAVIS"-Filter der BND benutzt, den
durften die Parlamentarier auch nicht
wirklich prüfen. Es wird sich in dieser
Verhandlung, ich habe jetzt schon mal den
Termin notiert und ich habe auch, hier für
schnell- oder Abfotografierer, die
Stellungnahme hochgeladen. Wir werden aber
erst eine Pressemitteilung zu der
Stellungnahme machen am Tag vor der
Anhörung, nämlich am 13. Januar oder am
12./13. Wer jetzt aber schon lesen will,
kann das natürlich gerne machen. Ich hätte
mal Kurzlink dahin schreiben müssen. Aber
wer jetzt Lust hat, kann das fotografieren
und kann auch schon lesen. Ich habe es
erst hochgeladen. Wir haben natürlich
argumentiert, dass diese Filter nicht
sicher sind, um Inländer zu filtern. Wir
haben natürlich auch nochmal erklärt, wie
das Netz heute funktioniert. Im Sinne von
"Wie ist die typische paketeorientierte
Daten, der Datentransfer heute
organisiert?", das haben wir schon mal für
den NSA-Untersuchungsausschuss damals
gemacht. Und wir haben natürlich auch noch
mal was geschrieben zur
Satellitenkommunikation. Denn auch darum
geht es natürlich beim BND. Man kann sich
einfach hinstellen und
Satellitenkommunikation abhören. Da sind
ja viele Aspekte in dieser
Verfassungsbeschwerde, die mehr sind als
nur die Frage, ob sie wirklich sicher filtern
können oder ob sie auch Inländer abhören.
Trotzdem erhoffen wir uns natürlich
zumindest aufgrund der Fragen, die der CCC
bekommen hat, aber auch alle anderen
Sachverständigen, schon die Hoffnung, dass
da etwas sehr Grundsätzliches folgen wird.
Ich darf nochmal erinnern, 1999, war ja
ein Grund, die strategische
Massenüberwachung zuzulassen, dass man
gesagt hat, da ist eben nur ein Bruchteil,
und jetzt sind wir halt in der
volldigitalen Welt und die packen da
einfach ihre Y-Stücke und schneiden sich
sozusagen die Kopie von Rohdatenströmen
mit. Da kann man natürlich nicht mehr
davon reden, dass es nicht einen ganz
großen, milliardenfachen Datentransfer
gibt, und ich glaube da muss sich was
ändern. Und genau wie in Großbritannien
ist mir natürlich der Aspekt wichtig, dass
wir nicht mehr nur über
Telekommunikationsgeheimnis reden können,
sondern wir müssen darüber reden, dass wir
unsere digitalen Leben darin abbilden. Und
das nicht nur in der Filterung, sondern
auch in der Weiternutzung und vor allen
Dingen in der Weitergabe an andere
Geheimdienste. Große Achillesferse dieser
Massenüberwachung liegt auch, damit ist ja
der BND erwischt worden. Wir erinnern uns
daran. Zwar wusste Steinmeier nichts
davon, aber es ist ein Fakt, dass er
rechtswidrig auch ungefilterte Daten
weitergegeben hat an unsere amerikanischen
Freunde. Insofern Sie sind ja sozusagen
mit der Hand in einer Bonbontüte schon
einmal erwischt worden. Wir werden sehen.
Also ich hoffe auch hier, genau wie bei
dem Urteil nächstes Jahr aus Straßburg,
dass die Öffentlichkeit Interesse daran
zeigen wird, dass die Anhörung, die ja
erst mal kein Urteil mit sich bringt, aber
hoffentlich eine Menge Fakten mit sich
bringen wird, auch eine interessierte
Öffentlichkeit treffen wird. Denn mein
Eindruck ist, dass diese Demos, wenn ich -
ich hab mal ein Bild mitgebracht aus der
Mitte der Snowdens Veröffentlichungen -
dieses Image der Geheimdienste ist wieder
auf dem aufsteigenden Ast. Während in
Deutschland, glaube ich, sehr schwierig
war im Rahmen des NSA/BND
Untersuchungsausschusses. Man hat schon
gemerkt, da war sehr viel Skepsis
gegenüber den Geheimdiensten, die sind
einfach auch rechtswidrig vorgegangen.
Aber dadurch, dass der Bundestag mit den
Stimmen von CDU/CSU und SPD dieses BND-
Gesetz erlassen hat, wurde ja sozusagen
legalisiert ab 2016. Ich glaube, die
Stimmung ist aber gekippt. Das hat
verschiedene Gründe. Aus meiner Sicht ist
es vor allen Dingen auch so, dass man so
einen großen Skandal nicht ewig auf diesem
Level halten kann. Irgendwann finden sich
die Leute damit ab, und dann ist das eben
so, und wir wissen jetzt, wir werden
abgehört, aber hm, jetzt ist das eben so.
Aber andererseits ist technisch wiederum
eine Menge passiert. Ich habe jetzt mal
ein Beispiel dafür, das ist die
Verschlüsselung von Datenverkehr. Das sind
hier die Jahre, 2018 hab ich noch nicht
gefunden. Aber es hat sogar noch
zugenommen 2018. Man sieht, dass ein
Großteil der Telekommunikations-Verkehre
mittlerweile verschlüsselt sind. Also der
Break-Even-Point von der Hälfte ist schon
überschritten. Das macht natürlich den
Geheimdiensten viel mehr aus,
wahrscheinlich viel mehr aus als
irgendwelche Gerichtsverfahren oder
Beschwerden in Karlsruhe. Denn zumindest
ein Teil bei dem britischen Geheimdienst
ist doch vollständig klar, ist eh nicht
kontrolliert. Insofern hoffe ich, dass es
also neben den den Urteilen, die es geben
wird, auch weiter technische Maßnahmen
gibt, um dieses Massenüberwachen ein
bisschen einzudämmen. Letztlich glaube ich
aber, dass nur die Urteile auch nicht
helfen werden, sondern man muss sich
glaube ich auch daran machen, die Essenz
der Urteile politisch umzusetzen. Das ist
glaube ich ziemlich schwierig in der
derzeitigen politischen Lage in
Großbritannien, wahrscheinlich unmöglich.
Auch in Schweden sehr schwierig. Aber in
Deutschland haben wir noch am ehesten die
Chance, mit einem relativ breiten, mit
einer relativ breiten Parteiaufstellung
zumindest ein paar parlamentarische
Fraktionen zu haben, die sich dahinter
stellen und die die Urteile auch umsetzen.
Ich darf ja daran erinnern, dass die Fülle
von 14 überwachungskritischen Urteilen aus
Karlsruhe ja zum Großteil keinen Widerhall
gefunden haben in der Politik. Natürlich,
gut, wir könnten wahrscheinlich auch
einfach die CDU abwählen, aber das wird
wahrscheinlich nicht so einfach. Der Punkt
ist, dass wir glaube ich mehr auch wir,
also alle, die sich dafür interessieren,
dafür tun müssen, dass diese Urteile auch
Druck entfalten, das ist glaube ich kein
Selbstläufer mehr. Dafür ist die Ignoranz
einer Politik für die Karlsruher Urteile
zu groß geworden. Straßburg ist aus meiner
Sicht noch schwieriger, das ist halt weit
weg. Zwar ist in allen europäischen
Ländern der politische Wille, Urteile aus
Straßburg umzusetzen, recht hoch, auch in
Großbritannien übrigens, aber ich habe den
Eindruck, dass das noch weniger als beim
EuGH oder beim Bundesverfassungsgericht
auf eine interessierte Öffentlichkeit
trifft. Da müssen wir glaube ich auch
einfach stärker dafür werben und uns mit
den Urteilen ein bisschen
auseinandersetzen. Ich möchte mich bei -
Ich bin jetzt eigentlich am Schluss, aber
ich möchte mich bei zwei Entitäten
bedanken, das eine ist Rainer Rehack, der
mitgeholfen hat, die Stellungnahme zu
schreiben. Aber ich möchte mich auch
nochmal ganz explizit bedanken bei mehr
als 5000 Leuten, die vor vier Jahren mit
kleinen Geldspenden diese Verfassungs-
oder diese Menschenrechtsbeschwerde
ermöglicht haben. Aus allen Teilen
Europas. Ich habe das hier glaube ich auf
dem Podium, obwohl das jetzt schon vier
Jahre läuft nie gesagt, aber ich werde
mich hier bedanken bei den vielen Leuten,
die irgendwie kleine Summen geschickt
haben, um die Anwälte zu bezahlen, um das
so hin zu kriegen. Und denen verdankt man
letztlich, wenn wir nächstes Jahr das
Urteil kriegen, dass das überhaupt
stattfinden konnte. Es ist nämlich, anders
als in Karlsruhe, nicht ganz billig so ein
Fall in Straßburg hinzukriegen und das
Interesse war gerade 2013/2014 noch so
groß, dass es locker gereicht hat, die
Gelder zusammenzukriegen. Dafür will ich
mich bedanken. Und außerdem natürlich bei
Edward Snowden.
Applaus
Es gibt eine ganze Menge Details zu diesen
Verfahren. Ich habe aber auch darüber
geschrieben, also wer darüber ein bisschen
lesen will, kann das bei ccc.de, aber auch
bei netzpolitik.org ein bisschen lesen.
Ich habe auch jeweils über die Anhörung
selber gesprochen, also wer sich jetzt ein
bisschen für die Prozedere interessiert:
Bei privacynotprism.co.uk ist auch ein
Großteil der Papiere, also wer das
nachlesen will, kann das tun und wir
werden zu dem BND-Gesetz, kurz vor der
Anhörung am 14. Januar, auch nochmal eine
Pressemitteilung machen und dann kann man,
wenn man möchte, noch eine Zusammenfassung
oder Stellungnahme lesen. Und jetzt haben
wir, glaube ich, noch zehn Minuten Zeit
für Fragen, wenn ihr möchtet.
Herald: Wir haben sogar noch 20 Minuten
Zeit für Fragen. Vielen Dank für den Vortrag.
Applaus
Signalangel, eine Frage aus dem Internet.
Constanze Kurz: Also die Fans der
geheimdienstlichen Massenüberwachung
können jetzt an die Mikrophone gehen.
Signalangel: Hier ist der erste Fan. Die
erste Frage bezieht sich auf die
Massenüberwachung in Schweden und
Frankreich. Und zwar ist da die Frage,
warum in der Berichterstattung NSA und BND
relativ groß thematisiert worden, aber
Schweden und Frankreich nicht, was dazu
führt, dass so eine Schieflage ist.
Constanze Kurz: Ich glaube, das hat zum
einen damit zu tun, dass durch den
parlamentarischen Untersuchungsausschuss
hier und auch durch eine kritische
Öffentlichkeit gegenüber den
Geheimdiensten hier, mehr berichtet wurde,
die schwedische Verfahren lief halt ewig
lange. Das Gesetz ist schon lange nicht
mehr in Kraft. Das haben die auch schon
novelliert und in Frankreich gibt es aus
meiner Sicht auch eine Sprachbarriere. Ich
traf die Beschwerdeführer in Frankreich
mal in Brüssel nämlich, da haben die dort
im Europäischen Parlament darüber
berichtet. Aber ich glaube das ist eine
gewisse Sprachbarriere. Die machen auch,
zumindest soweit ich zu sehen habe, keine
englischen Übersetzungen. Und ich denke da
es einfach keine europäische
Öffentlichkeit da. Bei dem schwedischen
Fall ist das Urteil nicht positiv
verlaufen, das erste. Und niemand hätte
oder zumindest ich hätte auch nicht
erwartet, dass die auch vor die große
Kammer kommen, also das die das schaffen
nach dem ersten Urteil Widerspruch
einzulegen und die Große Kammer anzurufen.
Das war ja letztlich ein Misserfolg. So
erklär ichs mir. Nun muss man auch sagen,
Schweden und der BND sind immer noch
Kreisliga gegenüber dem GCHQ, einfach von
ihren technischen Möglichkeiten, von dem
Geld und vom Personal.
Herald: Mikrophon Nummer eins, deine
Frage.
Mikrophon 1: Erstmal Danke für deinen
Vortrag und meine Frage wäre, wie wird
sich der Brexit auf die Situation beim
GCHQ auswirken?
Constanze Kurz: Gar nicht. Die Europäische
Menschenrechtskonvention ist ratifiziert
und ein völkerrechtlicher Vertrag und hat
mit der EU nichts zu tun. Und wenn man
sich mal ansieht über die Jahrzehnte haben
die Briten in sehr guter Qualität mit den
Urteilen aus Strassburg kooperiert. Die
sind also besser als ihr Ruf. Wenn die
Frage größer gemeint ist und nicht nur der
Beschwerdefall, sondern die Frage, wie das
Daten-Karussell weiterlaufen wird. Schon
der alte Innenminister De Maizière hat
gesagt, dass der Brexit mit unseren
Freunden nichts zu tun haben wird. Fakt
ist aber auch, dass der alte
Fragenkatalog, der noch von der
Justizministerin Leutheusser-
Schnarrenberger geschrieben wurde, an die
britische Regierung in Bezug auf die
Überwachung durch den britischen
Geheimdienst nie beantwortet worden.
Ich denke faktisch wird sich nichts ändern.
Legalistisch ändert sich wenig, weil die
Menschenrechtskonvention ja gilt, ob die
nun austreten oder nicht. Und weil die
Abhängigkeit Beziehung ist nicht reziprok.
Ich würde gerne was anderes antworten. Wär
doch auch irgendiwe Geil, wenn die Ihren
Brexit machen. Und dann.. aber naja.
Herald: Mikrophon Nummer 4 Deine Frage
bitte!
Mikrofon 4: Hallo nochmal vielen Dank für
den Vortrag bei der letzten Folie mit dem
Traffic verschlüsselt und unverschlüsselt.
Das hat sie nicht zu hundert summiert. Was
waren die verbleibenden neun Prozent oder
was da jeweils war?
Constanze Kurz: Na das sind doch Jahre!
Mikrofon 4: Von 2017 waren es 51 Prozent
verschlüsselt und 41 Prozent
unverschlüsselt.
Constanze Kurz: Oh ja, interessant. Ich
meine, wer sich ein bisschen auskennt mit
sandvine. Ich würde vermuten, dass Sie das
für die Anzahl sicher sagen können. Würde
ich erwartet, weiß ich aber nicht. Also
kann ich mich nicht erinnern. Ich hatte
das auch rausgesucht vor mehreren Wochen.
Die hatten da eine Beschreibung, müsste
ich nachreichen. Kann ich aber gerne
machen, weiß ich nicht genau. Ich würde
schon davon ausgehen, dass das eine 1:0
Entscheidung ist, verschlüsselt oder nicht.
Vielleicht haben Sie aber auch eine
Kategorie verschlüsselt, aber zu knacken
für Arme. Weiß nicht. Nicht verschlüsselt,
aber für Geheimdienste kein Problem. Weiß
ich wirklich nicht. Tut mir leid, es ist mir
auch nicht aufgefallen, ehrlich gesagt.
Naja.
Herald: Mikrophon Nummer 5, deine Frage
bitte.
Constanze Kurz: Mach die mal weg.
Mikrophon 5: Danke. Die komplexe
Wechselwirkung zwischen EU und den
nationalen Regierungen arbeitet die für
uns oder gegen uns insgesamt? Was ist dein
Eindruck?
Constanze Kurz: Das ist wirklich eine
schwierige Frage. Mein Eindruck ist, dass,
es gibt in der EU Julian King, der dafür
zuständig ist, als Kommissar der letzten
Legislatur dafür zuständig war. Ich tue
mich schwer damit, ein Urteil zu fällen.
Das Europäische Parlament hat natürlich in
den Ausschüssen vor allen Dingen im ?name?
Ausschuss, ganz andere Stellungnahmen
abgegeben, auch überhaupt zu den Snowden
Veröffentlichungen und zu der
geheimdienstlichen Massenüberwachung. Ich
war da auch einmal selber da, im ?name?
Ausschuss, als es zum Beispiel der
Innenausschuss macht. Also tue ich mich
schwer mit das zu beantworten. Wird auch
die Geheimdienste interessieren? Ich
glaube, das größte Problem ist eigentlich,
dass wir keine europäische Öffentlichkeit
haben, die zusammen debattiert, sondern
oft eine nationale Debatte, wenn wir
nationale Gesetzgebung betrifft oder
nationaler Fall ist. Ich habe den
Eindruck, dass habe ich in Straßburg auch
gemerkt an den Journalisten. Zu unserem
Fall reisen dann die deutschen an und die
britischen. Und zu dem schwedischen Fall
reisen die Schweden an. Selbst beim EuGH
ist das mittlerweile ein bisschen anders.
Aber ich habe den Eindruck, dass wir noch
nicht zusammen über so eine Probleme
debattieren. Und Deutschland ist, glaube
ich, auch immer noch mit Abstand am
Geheimdienst kritischten, vielleicht auch
wegen seiner Geschichte.
Herald: Mikrophon Nummer 3. Deine Frage.
Mikrophon 3: Ich habe eine Frage, und zwar
die zielt darauf ab, was wir gesehen
haben, nämlich die Verschlüsselung.
Inwieweit kann Verschlüsselung zu einer
Verhinderung einer Massenüberwachung
führen?
Constanze Kurz: Das kann man relativ
einfach beantworten. Natürlich sind ein
Großteil der Filter damit sozusagen
wirkungslos. Die Inhalte hineinschauen
können und wenn die Selektoren auf Inhalte
abzielenden, dann fällt das natürlich ins
Leere? Also sehr sinnvoll, dass die großen
Plattformen damit angefangen haben. Viele
von denen weiß ich nicht. Facebook oder
Gmail Nutzer haben ja nicht mitgekriegt,
dass die großen Tech-Konzerne angefangen
haben Standardmäßig Datenverkehr zu
verschlüsseln, war sehr wichtig.
Mikrophon 3: Da möchte ich noch eine
anschließende Frage stellen. Und zwar
Inwieweit ist es denn dann möglich, dass
dadurch das jetzt noch mehr verschlüsselt
wird hoffentlich, dass dann da
irgendwelche Gesetze wieder erlassen
werden, die das Ganze wieder aufheben.
Constanze Kurz: Das ist die sogenannte
Going Dark Debatte, die in den USA jetzt
schon seit acht oder neun Jahren geführt
wird. Neuerdings heist die ja auch
"responsible encryption Debatte". Also
Verschlüsselung nur mit ganz viel
Verantwortung für Strafverfolger und
Geheimdienste. Dieser Kampf ist ziemlich
genau in der Mitte. Jetzt. Es gibt einige
Länder wie Australien, die ja bereits
gesetzliche Fakten geschaffen haben, was
ziemlich wichtig war, weil der eben auch
ein Five Eyes Land ist. Ich glaube aber,
dass, gerade wenn ich jetzt so gucke, auf
die aktuelle Debatte um Ransomware oder
generell um die ganze Panik gegenüber
Schadsoftware ist, so mein Eindruck, dass
Verschlüsselung imagemäßig wieder
wichtiger wird. Herr de Maizière hat
diesen Spruch geprägt, dass wir die
Verschlüsselung ja auch brauchen. Deswegen
gibt es trotzdem eine Going Dark Debatte
in Deutschland, dass Bereiche, die die
Geheimdienste, aber auch Strafverfolger
nicht reingucken können durch
Verschlüsselung. Aber wir werden nicht so
einen Weg wie Australien gehen. Kann mir
nicht vorstellen, zumal die Gesetzgebung
in den Ländern einfach wichtiger wird, die
große Infrastruktur, also technische
Infrastruktur Anbieter haben, also die
wird wichtiger sein als die nationale
Debatte hier. Wir müssen uns wehren. Ich
will hier nicht als Schäfchen dargestellt
sein, so zu sagen. Ich glaube, dass wir
unsere Stimmen laut machen sollten. Gerade
wir hier. Es ist ja nicht, die beschließen
was, sondern wir können das kommentieren
und das sollten wir auch. Verschlüsselung
irgendwie zu verbannen ist dämmlich.
Applaus
Constanze Kurz: Also ich werde jetzt hier
keine Neuigkeiten erzählt haben.
Herald: Mikrophon Nummer 1, deine Frage
bitte.
Constanze Kurz: Ist das ein Aluhut?
lachen
Mikrophon 1: Ich hoffe, es ist okay, eine
Antwort auf eine Frage von vorhin zu
geben, und zwar das aufsummieren in den
Prozenten, die letzten Prozent sind im
Merging also noch nicht klassifiziert von
sandvine.
Constanze Kurz: Vielen Dank, aber habe ich
gut erraten, oder?
Herald: Mikrophon Nr. 4 Deine Frage?
Constanze Kurz: Hatte ich irgend einen
Zusammenhang zu dem Aluhut?
lachen
Mikrophon 4: Vielen Dank für euer
Engagement! Ich habe eine Frage zu den
Kontrollen, die du angesprochen hast. Das
heißt, in Deutschland ist ja auch die
Bundesdatenschutzbehörde Aufsichtsbehörde
für BND und Bundesverfassungsschutz. Ist
dein Eindruck, dass die etwas mehr
Möglichkeiten haben, wirkungsvoll zu
kontrollieren?
Constanze Kurz: In Deutschland ist das ja
ein bisschen mehrschichtig. Ich hatte ja
dieses neue, unabhängige Gremium erwähnt,
dass ist der Bundesdatenschutzbeauftragte.
Der BND hat ja auch eine eigene
Datenschutzbeauftragte. Die hat ja auch
gesprochen im deutschen Parlament und ist
ja auch offenbar mit Ihrer Amtsleitung
nicht immer einig. Wir haben auch noch das
PKGr, das Parlamentarische
Kontrollgremium. Wir haben die G10
Kommission. Das ist ja relativ breit
aufgestellt. Ein Problem ist, dass die
nicht miteinander reden dürfen und dass
die auch nach Ende ihrer Amtszeit
natürlich zur Verschwiegenheit
verpflichtet sind, das die teilweise keine
Vorabchecks machen brauchen, die können
auch nachgelagert ja sozusagen ihr "Ja"
geben. Es ist aus meiner Sicht kein
Zufall, dass Mitglieder in diesen Gremien
diese Beratung als Märchenstunde
bezeichnet haben, hier auf dieser Bühne,
auch vor zwei Jahren Christian Ströbele,
der jahrelang in diesen Gremien war. Ich
habe schon berichtet, dass der
Bundesdatenschutzbeauftragte und auch von
ihrem Vorgänger Schaar gelesen, die ich
sehr hilfreich fand. Aber bleibt natürlich
eine Kontrolle. Das haben wir jetzt auch
in der aktuellen Stellungnahme zum BND-
Gesetz geschrieben, die sich immer nur
auch anlehnen kann an das, was überhaupt
geregelt ist. Wenn z.B., BND-Gesetz, nur
mal als Beispiel könnte man für
Großbritannien oder Schweden genauso sehen
keine konkreten Regelungen hat, wie ein
Kontrolleur auch technisch prüfen kann,
weil das einfach nicht vorgesehen ist,
dass man z.B. in Form von Stichproben
ermöglicht oder dass man bestimmte Dinge
erklärt, wie etwas technisch funktioniert.
In deren z.B. "DAVIS"-Filter oder andere
Filter-Technologien. Dann wird man
natürlich auch die Prüfung damit
erschweren. Der Bundestag hatte sich so
ein bischen ausgeholfen mit diesem
Sonderermittler, den es ja eigentlich gar
nicht gibt, den Herrn Kurt Graulich. Der
hat ja die Dreistigkeit begangen, ein
Großteil von dem BND Papier abzuschreiben
und dann als Sonderermittlungsbericht den
Parlamentariern zu kredenzen. Hier ist
vieles im Argen. Aber wenn man sich das im
europäischen Vergleich ansieht, gibt es
halt schlimmere, zum Beispiel die Briten.
Die sind so im Mittelfeld hier in
Deutschland würde ich mal sagen. Das sie
nicht miteinander reden können, führt
natürlich dazu, dass sie auch Wissen als
Kontrolleure nicht miteinander teilen
können. Die Haymon. Ich hatte das Beispiel
mit Steinmeier nicht umsonst gewählt. Also
der Chef Kontrolleur im Bundeskanzleramt,
das ist ja sozusagen die Hauptbehörde, die
die Aufsicht über den BND ausübt, war
vollkommen ahnungslos. Ich habe noch nie
so einen Offenbarungseid gesehen wie von
dem Chef des Bundeskanzleramts, der
letztlich sich auch auf der Nase hat
rumtanzen lassen von der Behörde, die er
beaufsichtigen soll. Und der Schindler,
der zurücktreten musste, Gerhard
Schindler. Der stellt sich jetzt hin und
kommentiert sozusagen die aktuelle Techno
Politik. What the Fuck? Ich sehe da schon
so einige Probleme. Ich komme jetzt so zum
ranten, ich hör auf.
Herald: Mikrofon Nummer 3, deine Frage
bitte.
Mikrophon 3: Hallo, ich habe folgende
Frage Ich bin ja Deutscher, und
dementsprechend würden die Filter auf mich
zutreffen. Und wäre es da nicht keinerlei
größeres Problem, die Daten einfach nach
England weiterzuleiten? Und für die bin ja
dann Ausländer? Damit könnten sie
abgespeichert werden. Und sollten jemals
Fragen über mich oder über mich sein, dann
fragt der BND einfach schnell an und
kriegt dann trotzdem alle Daten. Was soll
den der Schwachsinn dann?
Constanze Kurz: Ja das ist das
geheimdienstliche Datenkarussel. Das ist
auch tatsächlich passiert, gibt ja einige
Beispiele in den Snowden Papieren.
Natürlich. Damit kann man nationale
Befugnisse einfach umgehen. Ist auch
tatsächlich passiert. Sie sagen natürlich
immer, das die das auf keinen Fall machen.
Und ja, natürlich sie haben mal Rohdaten
weitergegeben, aber in Zukunft wird das
natürlich nie wieder passieren. Außerdem
würde ich empfehlen, als Deutscher immer
nur die .de Mailadressen, also mit ner
Endung de. Sicher ist sicher, ne?
lachen
Herald: Mikrofon Nummer 6, deine Frage?
Applaus
Constanze Kurz: Gibt übrigens auch ne
Emailverschlüsselung.
Mikrophon 6: Dankeschön. Durch die
Rechtsprechungen, die bisher gekommen
sind: Was für Konsequenzen gab es dadurch?
Constanze Kurz: Na ja, das ist eine sehr
komplexe Frage, weil es sehr viele Urteile
gab und die Konsequenzen unterschiedlich
waren. Ich will mal ein typisches Beispiel
nennen, weil jetzt viele kennen werden aus
Straßburg die zwei Urteile zu der
Sicherungsverwahrung. Deutschland hat
darauf gesetzlich reagiert. Die
Sicherungsverwahrung, wie sie in
Deutschland Gesetz war, war rechtswidrig
gegen die Menschenrechtskonvention. Der
Bundestag hat das novelliert. Für
Großbritannien gibt es auch eine ganze
Reihe solche Fälle. Natürlich sind die
mitteleuropäischen Länder nicht die mit
den meisten Urteilen, das sind schon immer
noch die Türkei und Russland und so. Auch
die haben die Europäische
Menschenrechtskonvention unterzeichnet. In
der Regel ist man fest an diesen
völkerrechtlichen Vertrag gebunden und hat
das umzusetzen. Die Compliance ist höher
als bei anderen Gerichten. Tatsächlich bin
ich da aber immer ein bisschen erstaunt,
wenn man, da gibt es auch so
wissenschaftliche Arbeiten drüber, die
sich angucken über die Jahrzehnte, wie die
Urteile umgesetzt wurden, ist ziemlich
gut. Mein Eindruck ist aber nicht
wissenschaftlich unterfüttert. Es ist ein
subjektiver Eindruck ist, den ich auch in
Karlsruhe habe, dass die Akzeptanz
politischer Art für höchstrichterliche
Urteile geringer wird? Das sehe ich in
Karlsruhe ganz deutlich. Ich habe früher,
wenn ich an die Zeiten vom
Wahlcomputerurteil denke oder das erste
Staatstrojanerurteil von 2007/2008. Da war
es nicht so, dass sich der aktuelle
Innenminister hingestellt hat und gesagt
hat: Hier schlägt uns ein Richter aus
Karlsruhe unsere Waffen aus dem Arm. Das
war da nicht so. Meiner Meinung ist, das
der Zeitgeist sich da schon ein bisschen
verändert hat. Aber ich glaube auch, das
es an uns liegt. Ich denke, wir müssen uns
hinter diese Urteile stellen, wenn wir sie
für richtig und wichtig halten. Das heißt
auch, eine Öffentlichkeit dafür
herstellen. Das habe ich aber, glaube ich,
jetzt schon dreimal gesagt.
Herald: Signal-Angel eine Frage aus dem
Internet?
Constanze Kurz: Wie lange geht die Frage
und Antwortsession?
lachen
Signal-Angel: Ich habe auch nur eine ganz
kurze Frage, eine Klarstellungsfrage.
Constanze Kurz: Ich kann aber nicht kurz
antworten.
Signal-Angel: Dann antworte lange auf: Was
ist mit dem G10-Filter gemeint? Ist das
nur der de-Domain wird schon deutsch sein
Filter oder?
Constanze Kurz: Ja, der G10-Filter. G10
bezieht sich auf Artikel 10 des
Grundgesetzes, das Fernmeldegeheimnis, ihr
wisst schon, dieser unglaublich löchrige
Käse. Und das bedeutet schlicht, dass mit
dem G10-Filter deutsche Kommunikation
ausgefiltert werden soll, weil ja ein
Auslands Nachrichtendienst Inländer nicht
abhören darf. Der ist sozusagen der
Fachterminus deswegen heisst das auch
G10-Kommission. Der DAVIS-Filter BND für der
technische Begriff dafür, den auch der
Bundesdatenschutzbeauftragte immer mal
testet, und der von Kurt Graulich getestet
wurde, also dem Sonderermittler.
Herald: Vielen Dank. Mikrophon Nummer 4,
Die letzte Frage bitte.
Mikrophon 4: Noch einmal Vielen Dank auch
von meiner Seite, dass du so toll immer
die Sachen weg klagst oder versuchst. Und
das macht ja wahnsinnig viel Arbeit.
Wahrscheinlich. Ich hätte eine Frage
nochmal in Richtung Verschlüsselung. Damit
können wir die Geheimdienste ein bisschen
ärgern. Und die trauen sich schon nicht,
die Verschlüsselung uns ganz zu verbieten.
Hast du schon auf dem Schirm dieses tolle
Gesetz zur Bekämpfung des
Rechtsextremismus im Internet vom 18.12.
Gerade erst erschienen. Mir scheint das ja
so ein bisschen neuer Ansatz zu sein. Wir
gucken einfach hinter der Verschlüsselung
auf dem Server.
Constanze Kurz: Naja, darüber wurde ja
jetzt vor Weihnachten ne ganze Reihe
geredet. Ich hab mir den Entwurf natürlich
auch angesehen. Es gibt ja nur einen
Entwurf, es ist ja noch kein Gesetz. Das
die natürlich jetzt an die Passwörter rann
wollen und auf möglichst einfachem Wege
überrascht mich nicht. Das hat aber wenig
Bezug zu der geheimdienstlichen
Massenüberwachung. Natürlich ist in diesem
Zusammenhang auch nicht nur über
Strafverfolgungsbehörden, sondern auch
über Geheimdienste wieder gesprochen
worden. Weil ja offenbar jetzt immer alle
verwechseln, dass Geheimdienste irgendwie
auch Polizeiaufgaben wahrnehmen. Das
scheint ja jetzt normal zu sein und jede
Beleidigung soll jetzt plötzlich auch bei
den Geheimdiensten landen. So wie das
jetzt vorgestellt wurde, denke ich, wird
das auf keinen Fall kommen. Sie sind
dreist und nehmen verfassungswidrige
Gesetze auch in Kauf, das haben wir ja
auch in der letzten Legislaturperiode
gesehen und ich denke, dass ein paar davon
noch in Karlsruhe erfolgreich angegriffen
werden. Aber so werden sie das dann doch
nicht durch den Bundestag bringen. Wir
müssen aufmerksam sein, weil jetzt wieder
so eine Phase in der Legislatur beginnt,
wo sie sich ein bisschen beeilen müssen,
die Gesetze einzubringen, damit sie vor
Ende noch ordentlich durchgehen. Aber so,
wie es jetzt im Entwurf steht, wird es
wahrscheinlich nicht kommen. Also das
halte ich eigentlich für, ich mein, gut
Seehofer.
Mikrophon 4: Da kannst du es dann ganz
schnell wegklagen?
Constanze Kurz: Nee, nee. Nein, nein, ich
habe noch genug hiermit zu tun. Ich glaube
auch, dass in Deutschland zumindest
Verfassungsbeschwerden da sind schon immer
noch eine Menge Leute, die dort
strategisch Beschwerden einlegen und auch
sehr erfolgreich. Also dieses Jahr hat man
ja gesehen, dass sie eine ganze Reihe
Verfassungsbeschwerden angenommen haben,
aber trotzdem ich jetzt über Straßburg und
Karlsruhe geredet habe: Ich bin ein
Vertreter davon, dass nicht immer alles in
Karlsruhe zu bekämpfen, das ist sozusagen
unser Last Resort. Ich bin der
überzeugung, dass unsere Verfassung im
Parlament zu verteidigen ist und nicht
dahinten, ich finde das nicht richtig.
Applaus
Constanze Kurz: Jetzt habe ich mir selber
ins Bein geschossen oder?
Herald: Vielen, vielen Dank für deinen
Vortrag und vielen Dank für das geduldige
Antworten auf alle Fragen.
Applaus
36c3 Abspannmusik
Untertitel erstellt von c3subtitles.de
im Jahr 2019. Mach mit und hilf uns!