36C3 - Geheimdienstliche Massenüberwachung vs. Menschenrechte

36C3 Vorspannmusik

Herald: So, unser nächster Vortrag für
heute hat den Titel "Geheimdienstliche

Massenüberwachung vs. Menschenrechte."
Darin gibt es ein Update zu den

Verhandlungen am Europäischen Gerichtshof
für Menschenrechte über die durch Ed

Snowden aufgedeckten Überwachungen.
Zurzeit laufen da ja drei Verfahren.

Einmal das um den britischen GCHQ, einmal
um den schwedischen Geheimdienst und gegen

das BND-Gesetz. Die Sprecherin ist Dr.
Constanze Kurz, Sprecherin des CCC,

Autorin bei Netzpolitik.org und selbst
auch eine der Beschwerdeführerinnen im

britischen Verfahren, also dem des GCHQ.
Begrüßt sie mit einem herzlichen Applaus.

Applaus

Constanze Kurz: Ja, vielen Dank, ich freue
mich sehr, dass so viele Fans der

geheimdienstlichen Massenüberwachung den
Weg hierher gefunden haben. Ich sage es

nochmal, obwohl es der Herald natürlich
schon gesagt hat: Ich bin in einem Fall

selber Beschwerdeführerin. Bedeutet
natürlich, dass ich nicht unbedingt

objektiv über die geheimdienstliche
Massenüberwachung sprechen werde, sondern

ich bin hier ganz klar Partei, also...
aber das wird man wahrscheinlich durch den

gesamten Vortrag merken. Ich habe quasi
drei Schwerpunkte, die ich machen will.

Einmal die beiden Verfahren, die in
Straßburg, Straßburg laufen. Die laufen

seit mehr als, ja, fast fünf Jahren. Und
ich will ein bisschen sprechen über das

BND-Gesetz. Das BND-Gesetz hat nämlich
überraschenderweise jetzt, Anfang Januar,

eine mündliche Anhörung und das wird
sicherlich ein sehr grundsätzliches Urteil

geben. Und der CCC hat dazu eine
Stellungnahme abgegeben und die werde ich

am Ende des Vortrags kurz zusammenfassen
und ein bisschen auch während des Vortrags

vergleichen: wie unterscheiden sich denn
die technischen und auch die gesetzlichen

Rahmenbedingungen für geheimdienstliche
Massenüberwachung zwischen Schweden,

zwischen Großbritannien und Deutschland?
Mir geht es also tatsächlich um diese Form

der millionenfachen Erfassung, vor allen
Dingen von Telekommunikationsdaten, aber

ich will auch ein bisschen darauf kommen,
warum das eigentlich keine

Telekommunikationsdaten im engeren Sinne
mehr sind. In Europa gibt es eigentlich

vier Länder, die massenhaft solche Daten
erfassen, Verkehrsdaten, und zwar durch

einen Zugriff auf die Infrastrukturen, die
eh in der Regel also in diesen vier

Ländern gesetzlich geregelt sind. Das ist
Großbritannien, Schweden, Frankreich und

Deutschland. Über Frankreich werde ich
jetzt hier nicht reden, aber auch da

laufen Verfahren. Ich will nur darauf
hinweisen, dass der GCHQ, was sozusagen

die technische Geheimdienstbehörde ist für
Großbritannien, in einer anderen Liga

spielt als die anderen drei Länder, weil
die ein sehr viel höheres Budget haben und

sehr viel mehr Personal. Vielleicht kann
man zusammenfassend zu all diesen Ländern

sagen, aber vor allen Dingen auch zu den
drei Beispielen, die ich bringen werde,

nämlich Großbritannien, Schweden und
Deutschland: die gesetzlichen Regelungen

sind oft vage. Das werde ich nachher auch
ein bisschen am Beispiel klarmachen. Sie

sind in der Regel technisch lückenhaft,
weil es natürlich rechtliche Befugnisse

sind, aber sie sind vor allen Dingen auch
in der Aufsicht und Kontrolle der

Geheimdienste ebenfalls sehr lückenhaft,
da wurde ja in Deutschland auch schon sehr

viel darüber gesprochen. Ich will also
beginnen mit dem britischen Fall, der mir

natürlich auch am Herzen liegt, schlicht,
weil ich selber eine der

Beschwerdeführerinnen bin, weil ich aber
auch glaube, dass er von der Art, wie er

behandelt wurde, am
Menschenrechtsgerichtshof eine gute Chance

hat. Dass wir nächstes Jahr ein Urteil
kriegen werden, was sehr klare und

deutliche Worte findet für die
geheimdienstliche Massenüberwachung. Da

geht es also um GCHQ, dieses Bild wird
jeder kennen, das ist ja mittlerweile

schon, quasi schon eine Ikone geworden,
also eine riesige Behörde mit Tausenden

von Mitarbeitern, Millionen Budget. Wir
wissen aber vor allen Dingen jetzt sehr

viel mehr über das GCHQ, über die
Veröffentlichungen der Journalisten aus

den Snowden-Papieren. Und von den
Veröffentlichungen gibt es kein Programm,

und ein paar Programme werde ich gleich
erwähnen, die nämlich auch vor Gericht

dann quasi angegriffen werden, die von der
britischen Regierung quasi in ihrer

Existenz bestritten werden. Da gibt's
welche, die werden nicht kommentiert, aber

es gibt eigentlich keine wo man, wo man
den Fall hätte, dass ein Programm aus den

Snowden-Veröffentlichungen, die ja alle so
einen merkwürdigen Namen haben, da kommen

wir nachher nochmal drauf, nicht
stattgefunden hätte oder das es nicht

existiert. Das erwähne ich deshalb, weil
natürlich diese Programme im Rahmen der

Beschwerdeverfahren einfach auch erwähnt
wurden und die Vertreter der britischen

Regierung in Straßburg sich natürlich auch
diesen Themen dann widmen mussten. Ich

will mal kurz das Verfahren klarmachen:
Man, man erwartet in der Regel, wenn man

vor dem Europäischen
Menschenrechtsgerichtshof ein Verfahren

beginnt, nicht, dass es eine mündliche
Anhörung gibt, sondern das sind in der

Regel Verfahren, die ohne Anhörung gemacht
werden. Wir hatten verdammtes Glück. "Wir"

ist eine Gruppe von NGOs, nämlich die Open
Rights Group, Big Brother Watch und die

Schriftstellervereinigung Pen aus
Großbritannien und ich selbst, wobei

natürlich, ich als einzige Ausländerin
bin, das ist vielleicht ein bisschen

wichtig für die Ausgestaltung. Und man
erwartet nicht unbedingt, dass man eine

mündliche Anhörung hat. Wir hatten aber
zum einen eine Priorisierung, dafür gibt

es bei dem Gericht eine Möglichkeit, dass
man sozusagen einem Fall eine Priorität

einräumt. Und wir hatten sogar zwei
mündliche Anhörungen, die ich dann gleich

nochmal erwähnen werde. Das ist
ungewöhnlich. Ein Verfahren ist ganz

anders, als man es hier in Karlsruhe
kennt. Wer das jemals schon erlebt hat,

das ist also sehr viel strukturierter. Es
gibt keinen Dialog wie in Karlsruhe sehr

häufig, sondern das ist ein sehr
standardisiertes Verfahren, wo also die

Beschwerdeführerseite spricht, dann
spricht der Vertreter der britischen

Regierung oder einer anderen Regierung und
dann gibt es eine Fragerunde. Dann hat man

eine kurze Pause, sich auf die Fragen
vorzubereiten, und dann werden die Fragen

in sehr, sehr kurzer Zeit beantwortet. So
ungefähr läuft das ab. Und es gibt keine

Urteilsverkündung wie in Karlsruhe,
sondern das ist dann auch wieder ein

schriftliches Verfahren. Man bekommt das
Urteil quasi dann schriftlich, es gibt

kein Verlesen wie in Karlsruhe, aus meiner
Sicht ist das eigentlich eine gute Sache

in Karlsruhe, aber das gibt es dort in
Straßburg nicht. Ich will mal sozusagen

den Kern der Beschwerde kurz darstellen,
das ist natürlich die Massenüberwachung

über das TEMPORA-Programm und ich rufe
nochmal in Erinnerung, wer sich jetzt

daran nicht erinnert. TEMPORA ist eine
mehrteilige geheimdienstliche Operation

und umfasst die Hard- und Software an den
Glasfaserkabeln, denn irgendwo müssen die

Rohdaten ja herkommen, dann ein
sogenanntes MVR-System, das ist einfach

nur um die riesenhafte Menge, man muss
auch mal YouTube und YouPorn wegschmeißen,

ja, man muss also die Volumina reduzieren.
Und dann gibt's ein Programm, was

POKERFACE heißt – ich glaube, die haben da
einen extra Angestellten für bekloppte

Geheimdienstoperationsnamen – das ist eine
Datenbereinigung und schnelle

Löschroutine. Und dazu gehört dann das
hier auch bekannte XKEYSCORE-System, das

haben ja auch deutsche Geheimdienste
probieren dürfen, damit verbindet man dann

die gefundenen gefilterten Datensätze.
Also das ist sozusagen, wenn man das mal

zusammenfassen will, das TEMPORA-Programm,
viele werden sich erinnern, das ist ja

ganz am Anfang schon der Snowden-
Veröffentlichungen, also 2013, öffentlich

geworden, und kurz danach hatten wir auch
schon die Beschwerde im Gange. Allerdings

zog es sich trotz der Priorisierung sehr,
sehr lange, schlicht deshalb, weil andere

NGOs, große NGOs wie Privacy International
und Amnesty hinzugezogen wurden. Also wir

hatten dann so einen Fall, wo, weil die
Beschwerden sehr ähnlich waren, die

zusammen verhandelt wurden. Ich will
nochmal kurz beschreiben, was in

Großbritannien gesetzlich erlaubt ist. Das
Gesetz ist allerdings mittlerweile bereits

einmal novelliert worden, das heißt die
Beschwerde läuft eigentlich gegen ein

Gesetz, was gar nicht mehr, so nicht mehr
existiert, und zwar erlaubt ist "external

communication". Wenn also Nicht-Briten
beteiligt sind, in Deutschland wäre das

sozusagen wie die Auslandsfern-
meldeüberwachung im BND-Gesetz

oder die internationalen Verbindungen. Es
ist also ein Unterschied. Es müssen also

Nicht-Briten beteiligt sein.
Innerbritische Kommunikation darf also

gesetzlich so nicht überwacht werden. Und
ich will daran erinnern, dass ein Großteil

der innerbritischen Kommunikation aus
ökonomischen Gründen, aber auch aus

technischen Gründen übers Ausland geleitet
wird, weswegen das einmal von Bedeutung

ist für den Geheimdienst, aber zum anderen
auch die Frage "Wie viel von dem

transatlantischen Datenverkehr können Sie
damit abgreifen und weitergeben?", denn

Großbritannien ist ja Teil der Five Eyes
und ist natürlich auch eng mit der NSA in

Kooperation. Ich habe es nochmal, einmal –
wahrscheinlich werden viele diese Grafiken

kennen – damit man eine Idee hat, von
wieviel Kabeln wir da ungefähr sprechen.

2013, als wir die Beschwerde eingereicht
haben, waren das so ungefähr 200

Unterwasserkabel. Man sieht hier vor allen
Dingen: Cornwall ist sozusagen der Kern

der Anlandestation, wo die
transatlantischen Kabel rübergehen, aber

es gibt natürlich auch eine Verbindung
innerhalb, also ein Geheimdienstnetz

innerhalb von Großbritannien, weil ja die
Daten dann irgendwo auch weiterverarbeitet

werden müssen und mit den Satelliten
verbunden werden. Man sieht hier von euch

aus auf der linken Karte die
Satellitenstationen, mit denen man noch

das ja auch noch verbinden will. Also das
ist ja nicht nur Glasfaser, sondern auch

Satellitenkommunikation wird erfasst,
genauso wie in Deutschland auch und auch

in anderen europäischen Ländern, weswegen
man die natürlich auch in schneller, mit

schneller Verbindung weiter transportieren
will. Das ist ein "Full take", so wie in

Deutschland auch. Also "Full take"
bedeutet man nimmt den gesamten

Rohatenstrom. Sie haben aber nicht wegen
sozusagen wegen der Menge, also 2013 reden

Sie von über 20 Terabyte, haben Sie
manchmal schneller wegschmeißen müssen,

als Sie filtern konnten. Darüber ist ja
relativ viel berichtet worden. Und dass

sind, sozusagen, die technischen
Voraussetzungen auf die man die Beschwerde

stützen kann und sagen kann "Wir haben
eine europäische Menschenrechtskonvention,

die hat einen Artikel 8, und der gibt uns ein
Menschenrecht auf Privatsphäre. Und diese

massenhafte Überwachung, wo ja sozusagen
im Geheimsprech heist das dann "Bulk

Collection", also wie die Massen der Daten
da angesammelt werden, widerspräche der

Menschenrechtskonvention, darauf gründet
sich das. Ich habe jetzt mal nochmal ein

Bild mitgebracht von diesem Gerichtshof.
Der hat allerdings natürlich auch schon

öfter mal über Massenüberwachung
geurteilt. Auch schon in der Zeit wo es

digital los ging. Also die ersten Urteile,
ich hab es hier mal aufgelistet, wenn sich

jemand dafür interessiert, die kann man
natürlich nachlesen, sind auch nicht

uninteressant. Dass ging in neueren
Bereich von 2008 bis über 2009 bis 2013.

Das sind die Fälle um automatisierte
Datensammlung und jeweils ist auch

festgestellt worden, wie bei anderen
Höchstgerichten in Europa, dass diese Form

von automatisierter Datensammlung begrenzt
sein muss. Denn wenn man so eine

Beschwerde aufsetzte, das hab natürlich
nicht ich geschrieben, sondern britische

Anwälte, die wir bezahlt haben und die
auch durch eine große Spendenaktion 2013

europaweit finanziert wurden. Die stützen
sich natürlich immer auf ältere Urteile.

Deswegen, wenn man die Beschwerden liest,
die hängen auch im Netz, dann kann man

sich immer nochmal Rückgriff nehmen auf
die alten Urteile. Vielleicht noch mal

eine kurze Sache zu diesem ganzen
Verfahren. Es gab eine Anhörung 2017, dann

gab es ein Urteil 2018, und dieses Jahr
gab es eine neuerliche Anhörung. Da fragt

man sich "Wie kann das sein, wenn ein
Urteil gefallen ist?" Das ist anders in

Straßburg. Wenn in Karlsruhe ein Urteil
fällt, dann ist es ja endgültig, dann ist

das ein Urteil. In Straßburg ist es aber
so, dass man auch noch danach die große

Kammer anrufen kann, wenn man gute
Argumente vorbringt. Das heist, man kann

quasi einen Widerspruch gegen ein
höchstrichterliches Urteil einlegen und

sagen "Wir möchten die gesamte Kammer
anrufen, weil wir haben diese und jene

Argumente." Davon habe ich jetzt ein Teil
gleich nochmal gebracht. Das ist hier

geschehen, und die Richter haben das
angenommen, weswegen es eine zweite

mündliche Anhörung gab. Jetzt, im
Frühsommer, und da ist das ein ganz

merkwürdiges Prozedere, ich will das nun
mal beschreiben, weil ich das selber auch

noch nicht erlebt habe und weil so viele
Menschen wahrscheinlich auch nicht

unbedingt nach Straßburg fahren, um sich
sowas anzusehen. Es ist ein richtig, so

richtig, so eine Papierschlacht. Da kommen
die mit Koffern, die Anwälte, und

schleppen ihre großen Akten hin. Sowohl
die Vertreter der britischen Regierung wie

auch unsere eigenen Anwälte, die natürlich
auch in großer Menge da waren, weil

mittlerweile zehn NGO's zusammengezogen
wurden, die ja alle ein, zwei Anwälte

haben. Das war bei dem schwedischen Fall
genauso. Der wurde dann am selben Tag

nachmittags verhandelt. Man sitzt dann
halt da und schreibt auf Papier, weil man

keine Telefone und keine Rechner mit haben
kann. Das sind damals meine Mitschriften,

wo mir erst spät auffiel, dass ich
tatsächlich auf einem Stasi-Unterlagen

Block geschrieben habe.
lachen

Also, das war wirklich ein Zufall, mir ist
das erst später aufgefallen. OK,

festgestellt ist zum einen, dass ein Teil
der britischen Gesetzgebung gegen Artikel

8 der Menschenrechtskonvention, die
bereits 1953 in Kraft trat, verstößt.

Interessant an diesem ersten Urteil ist
natürlich auch, dass die Risiken von

dieser geheim hinter dem Rücken der
Menschen laufenden Massenüberwachung schon

benannt wurden. Nämlich sozusagen ein -
ich übersetze das jetzt mal - ein Risiko,

dass diese geheime Überwachung, die
eigentlich der nationalen Sicherheit

dienen soll, die Demokratie unterminiert,
sozusagen unter dem Deckmantel, sie zu

verteidigen. Das sind schon relativ klare
Worte. Es gibt ein langes Urteil, da geht

es um drei Aspekte. Das eine ist die
Massenüberwachung selbst, und wie gut die

Filter dafür eigentlich funktionieren.
Dann die Frage der Kontrolle: Wer

kontrolliert diese Geheimen? Wer guckt
sich mal an, welche Technik an den anderen

Stationen angebracht wird? Wer genehmigt
die? Und zum anderen, der dritte Aspekt

sind die Datenkarusselle. Also die Frage,
wer von welchen Geheimdiensten gibt was an

andere Geheimdienste weiter? Und das sind
exakt auch die Fragen, die jetzt im BND-

Gesetzverfahren, was im Januar in
Karlsruhe besprochen wird, auch eine Rolle

spielen. Da sind eine Menge Ähnlichkeit.
Das ist mir erst später klargeworden, denn

das BND Gesetz gab es ja noch nicht, als
wir die Beschwerde gemacht haben. Snowden

hat sich damals sehr gefreut. Ich habe mal
den alten Tweet mitgebracht. Er sagt: "For

five long years, governments have denied
that global mass surveillance violates

your rights. And for five long years, we
have chased them through the doors of

every court. Today, we won. Don't thank
me: thank all of those who never stopped

fighting." Ich denke, das war ein bisschen
voreilig. Denn wenn man sich das Urteil,

was natürlich dann in voller Länge
rauskam, genauer ansieht, dann ist so ein

typisches Urteil von Höchstgerichten, wo
man sagen kann: "Ja... aber." Das heißt,

es gibt Verstöße gegen das Menschenrecht
auf Privatsphäre, also Artikel 8, aber das

ist nicht so, dass das Gericht alle
Punkte, die die Beschwerdeführer von

diesen verschiedenen NGOs vorgebracht
haben, tatsächlich auch anerkannt haben.

Und da will ich mal ein paar Aspekte
nennen, weswegen es ja jetzt auch noch vor

die Große Kammer kam. Also nicht, dass ich
mich nicht gefreut hätte. So nicht. Aber

die Anwälte haben eigentlich gleich an dem
Tag gesagt: "Na, da gucken wir mal, ob wir

was schreiben." Zum einen hat diese
unendliche Berechtigung, hat die Kammer

nicht anerkannt. Also die Frage, wenn ich
ein warrant, also eine Berechtigung für

eine Massenüberwachung, ausstelle, bleibt
das eigentlich ewig bestehen. Es gibt in

Großbritannien nicht wie bei uns ein
Richtervorbehalt. Da sagt kein Richter,

auch kein Geheimrichter, sondern das geht
über den Tisch des Ministers dort. Und

dass es so sei, wie wir in der
Beschwerdeschrift gesagt haben, dass die

sozusagen unendlich läuft, das hat das
Gericht so nicht anerkannt. Und dagegen

haben wir uns gewehrt. Das nennt sich
"rolling warrant renewals", weil die nie

enden. Indem wir gesagt haben, zum einen
ist es eine faktische Befugnis, die keine

Zeitbegrenzung hat, einfach weil es so
ist. Es ist nie unterbrochen worden, wenn

man auch erst einmal so ein Y-Stück an
einem Glasfaserkabel - oder jedenfalls an

einem Teil von einem Glasfaserkabel - hat,
dann wird es nicht wieder abgestellt. Und

weil auch die Definition, warum man das
machen kann, so vage ist. Genau wie bei

uns, das ist nationale Sicherheit. Bei uns
heißt es, im BND-Gesetz heißt es - ich

habe das mal zitiert - "Besondere Relevanz
für die Sicherheit der Bundesrepublik

Deutschland". Das sind Begriffe, die sehr
vage sind. Und da kann man natürlich immer

davon ausgehen, dass es erneuert wird. Das
ist auch faktisch so geschehen. Und

offenbar war diese Argumentation gut
genug, dass das Gericht die Große Kammer

dazu angerufen hat. Aber nicht nur das,
sondern teilweise sind diese

Berechtigungen, diese "warrants", gar
nicht geschehen. Das konnte man dann in

der Zeitung lesen. Zum Beispiel in dem
Programm DISHFIRE. Da ist sozusagen in

Kooperation mit der NSA vor allen Dingen
SMS-Nachrichten, aber auch noch andere

Metadaten, weitergegeben worden. Dafür
hatten sie nicht mal eine Berechtigung,

das hat man dann in der Zeitung lesen
können. Also das heißt, dieses System der

Kontrolle, dass das zumindest über den
Ministertisch geht, hat gar nicht immer

stattgefunden, und konnten wir natürlich
dann vorbringen, weil im Rahmen des

Verfahrens gingen ja die
Veröffentlichungen immer noch weiter. Es

hat sich so ergeben, dass im Rahmen des
Verfahrens relativ viel nachgereicht wurde

an Papieren. Es haben aber auch sehr viele
NGOs europaweit mit

Unterstützungsschreiben diese Verfahren
schriftlich unterstützt, das war sehr

wichtig für uns. Und ein dritter Punkt,
den finde ich auch, die Anwältin, Helen

Mount hieß die, die gesprochen hat - das
Video kann man sich auch ansehen, das

Gericht zeichnet diese Anhörung auf, ist
der wichtigste Punkt, den wir machen

wollten. Dass wir nicht mehr nur auf das
Telekommunikationsgeheimnis wollen.

Sondern wir wollen klar machen, ich habe
jetzt hier eine Liste, die mir gestern

Morgen einfiel: Arbeiten, Lesen,
Entertainment, Banking, Shopping, Dating,

politisches Engagement, Lernen. Wir
wollten sagen, dass es nicht um

Telekommunikation geht, sondern dass es
sozusagen das digitale Ich abbildet. Diese

Art von Massenüberwachung hat nicht mehr
nur diesen engen Telekommunikationsrahmen.

Und ich glaube, diesen Punkt, den konnten
die Anwälte sehr gut machen, sowohl

schriftlich, als auch mündlich. Ich muss
natürlich der Fairness halber mal sagen,

was die Vertreter James Edie der
britischen Regierung gesagt hat - im

Wesentlichen hat er immer gesagt: "Aber
Terror." Klar. Und dann muss man natürlich

auch nicht sehr viel begründen, weil
dieses "Die nationale Sicherheit ist

bedroht." zieht natürlich als Argument.
Aber faktisch gibt es drei Gründe,

weswegen Massenüberwachung
geheimdienstlicher Art gemacht werden

kann. Das ist einmal sozusagen nationale
Sicherheit, aber es ist auch schwere

Verbrechen. Und das ist in Großbritannien
so, dass die Geheimdienste auch

Schwerverbrecher jagen dürfen. Und das
dritte ist Wirtschaftsspionage. Also das

ist anders formuliert, aber man die
Interessen der britischen Wirtschaft sind

auch ein Grund, weswegen man
Massenüberwachung machen kann. Da geht es

vor allen Dingen um Export, Proliferation
und so weiter. Damit will ich, weil ich zu

den anderen Fällen noch kommen kann, mal
abschließen mit diesem britischen Fall.

Ich sehe sehr gute Chancen, dass wir ein
besseres Urteil kriegen, sonst hätten sie

es auch nicht vor die große Kammer
gebracht, und dass Sie die anlasslose

geheime Massenüberwachung insofern kippen.
Wir haben eigentlich schon beim EuGH so

ein Urteil bekommen - also beim
Europäischen Gerichtshof- da gab es ja im

Rahmen der Vorratsdatenspeicherungs-
Verhandlungen schon mal so einen Punkt,

dass der EuGH gesagt hat, dass es
unzulässig ist, dass man Eingriffe, die

anlasslos sind und sich auf sämtliche
Verkehrsdaten erstrecken, ohne dass man

eine Einschränkung oder Ausnahmen oder
Differenzierung hat, dass man die so nicht

durchführen kann. Wir hoffen natürlich
auch, dass das Gericht in Straßburg das

jetzt so klar sagt. Mir ist schon klar,
dass nachher nicht die Geheimdienste weder

die britischen noch die anderen sagen: Na
gut, dann klappt mal die Sachen zusammen,

dann machen wir nicht weiter. Aber ich
glaube schon, dass, wenn man den

europäischen Raum als Rechtsraum versteht
und wenn es die Länder gibt, die die

Europäische Menschenrechtskonvention
ratifiziert haben, dass das eine Rolle

spielt. Aber ich glaube auch, dass wir
dazu beitragen müssen. Ich sehe es an mir

selber - und das wird wahrscheinlich auch
jeder von euch kennen: Man regt sich sehr

schnell auf über Urteile, die einem nicht
gefallen, oder Aspekte von Urteilen - aber

ich zumindest tue mich schwer damit,
Urteile, die ich sehr wichtig finde, auch

zu puschen und zu sagen: "Das ist ein
wichtiges, vielleicht sogar

höchstgerichtliches Urteil, da müssen wir
uns hinterstellen. Und wir müssen auch

fordern, dass es politisch umgesetzt
wird." Ich hoffe, dass wenn nächstes Jahr

das Urteil kommt, es dann auch viel
Unterstützung gibt von einer breiten und

auch europäischen Öffentlichkeit. Es geht
aber weiter. Also während wir fünf Jahre

verhandelt haben und jetzt ein zweites
Urteil bekommen werden - und hoffentlich

ein Gutes - da sind die Briten schon einen
weiter: Sind sie von der bulk surveillance

- also von der der Massenüberwachung -
jetzt schon bei der bulk equipped

interference. Das ist also schon eine Form
von bulk hacking. Das GCHQ will jetzt

nicht mehr nur massenhaft Daten sammeln,
sondern will auch massenhaft hacken. Da

sind wir also schon ein Stück weiter. Man
muss schon sagen, dass gerade in

Großbritannien die Geheimdienste
Unterstützung auch sehr groß ist, ich

glaube, größer als bei uns. Im Rahmen des
NSA-BND-Untersuchungsausschusses gab es ja

auch eine Menge Kritik. Dort ist es ein
bisschen anders. Die haben aber noch ein

anderes Parteiensystem und hatten
vielleicht auch noch ein paar andere

Sorgen. Ich will noch kurz zu dem
Schweden-Verfahren kommen. Nicht so

furchtbar lange, aber ich will zumindest
mal darstellen, wo die Unterschiede sind.

Wie die Kammer dazu entscheiden wird, das
natürlich schwer abzusehen. Aber dadurch,

dass sie das an denselben Tag gelegt
haben, gehe ich davon aus, dass sie auch

ein sehr ähnliches Urteil fällen werden.
Aber der schwedische Fall ist ein bisschen

anders gelagert: Das läuft schon seit
2008. Die haben also den nationalen

Rechtsweg beschritten, während wir ja
gleich nach Straßburg gezogen sind, was

möglich ist und ja auch angenommen wurde.
Aber die ziehen das dann halt schon seit

mehr als zehn Jahren und das ist ein
Beschwerdeführer, der klassische

Litigation macht, also eine strategische
Prozessführung. Die wollten das

strategisch gesetzlich geklärt haben. Das
ist eine Vereinigung von Anwälten, die das

sozusagen auch mit echt langem Atem tut.
Und ich will die Unterschiede jetzt mal

kurz darstellen. Obwohl - vielleicht
sollte ich vorher noch etwas Anderes

sagen: Was machen die da eigentlich? Die
haben vor allen Dingen die Glasfaserkabel

an der Ostsee - auch genau mit dem Gesetz,
das 2008 erlassen wurde, dürfen die

sozusagen die Kommunikation - es geht
wieder um external communication - die

nach Schweden reingehen und aus Schweden
kommen, aufzeichnen. Aber nicht nur

Metadaten, sondern auch Emails, SMS und
Inhalte der Telefonate und so weiter. Das

Interessante daran ist eigentlich etwas
Anderes: Ein Großteil der russischen

Kommunikation geht darüber, weswegen Obama
eigens dahin geflogen ist. Und da gab es,

als Obama noch Präsident war, hochkarätige
Gespräche über eine Kooperation bereits

seit 2011. Weil natürlich klar war: Wenn
ein Teil der russischen Kommunikation

darüber geht, dann wollen die natürlich da
ran. Und ich habe jetzt den Vergleich mal

gemacht: Das eine ist, in dem Fall wurden
die Rechtsmittel innerhalb von Schweden

erschöpft (das ist sehr selten), aber
haben aber auch einige von den britischen

Beschwerdeführer gemacht, denn es gibt in
Großbritannien das IPT. Das ist ein

Geheimgericht. Und das heißt, dass einige
der Beschwerdeführer, die jetzt mit uns

zusammen klagen, haben innerbritisch schon
geklagt. Das stünde mir übrigens auch

offen als Ausländer, aber das ist
natürlich nur eine theoretische

Möglichkeit. Die haben eine unabhängige
vorab-Autorisierung, dass gibt es nicht,

genauso wie einen Richtervorbehalt in
Großbritannien. Die haben auch eine

Mitteilungspflicht in ihrem Gesetz, das
gibt es auch nicht in Großbritannien. Die

haben eine sehr viel genauere
Spezifizierung, warum überwacht werden

darf, während das in Deutschland und auch
in Großbritannien ganz vage Begriffe sind,

so National-Security halt, und die haben
die Nutzung von faktischen Namen, also im

Sinne von Vor- und Zunamen begrenzt. Das
ist schon nicht ganz unwichtig, wie

speziell man in die Gesetze schreibt, was
die eigentlich dürfen. Wenn man so eine

Generalerlaubnis hat, wie das jetzt in
Deutschland in dem BND-Gesetz ist oder in

Großbritannien, ist das natürlich etwas
ganz anders. Und sie haben eine qualitativ

bessere Kontrolle des Geheimdienstes, aber
ich will jetzt mal kurz darstellen, was es

bedeutet, wenn ich sage "qualitativ
besser", heißt: es existiert theoretisch.

Deswegen habe ich mal ein Beispiel, was
allerdings von den Beschwerdeführern

selbst ist: Alle Beschwerden, die jemals
an den Justizminister gingen gegen den

Geheimdienst, sind ohne Verfahren
abgelehnt worden und in 22 Jahren hat der

eigens dafür zuständige parlamentarische
Ombudsmann, den es in Schweden gibt,

einmal ein Telefonat geführt. Also das
"qualitativ besser", man muss sich also

vorstellen, dass es nur dieser Form von
Kontrolle gar nicht gibt in

Großbritannien, da gibt es halt nur dieses
Geheimgericht, das ist wirklich ein

Geheimgericht. Die verhandeln halt nicht
öffentlich, sondern geheim. Und es gibt

keine Möglichkeit in Großbritannien, dass
man als Einzelperson sich versucht zu

wehren, wie man hier sich beschweren kann,
etwa bei dem Ombudsmann. Also gut, ich

will zu den Schweden sonst nichts weiter
sagen, einfach weil ich, mir fällt es da

schwer zu orakeln. Man kann sich natürlich
die Anhörung ansehen, und auch da haben

die Richter sehr kritische Fragen
gestellt. Ich empfehle es auch jedem mal

anzusehen, die waren aber auch sehr
ähnlich. Also wird da ordentlich

gefiltert, werden da keine Schweden
miterfasst, wer kontrolliert es? Die

Fragen waren dieselben und ich vermute
mal, dass die Urteile auch ähnlich

ausfallen. Im schwedischen Fall ist
nämlich bereits auch ein Urteil ergangen

im letzten Jahr. Und die haben halt keine
Feststellungen bekommen, nach zehn Jahren

Prozessführung, dass es gegen Artikel 8
der Menschenrechtskonvention verstößt. Das

wird sich sicherlich ändern für den
schwedischen Fall. Aber das Gesetz ist

auch nicht ganz so vage wie in Deutschland
oder in Großbritannien. So. Dann will ich

zu dem letzten Fall kommen. Ich habe jetzt
noch, weiß nicht, so ungefähr eine

Viertelstunde oder so, muss mich also ein
bisschen sputen. Zum BND: das ist das

sympathische neue Gebäude in Mitte, werden
wahrscheinlich viele kennen. Übrigens

fällt mir gerade ein, die hatten ja
vorher, also bevor in Berlin-Mitte dieses

riesenhafte Ding mit dieser modernen
Architektur und der Überwachungspalme

eröffnet wurde, auch einen tausend-Mann-
starken Standort in Lichterfelde und ich

las gerade kurz vor der feierlichen
Eröffnung, wo die Architekturexperten

durch das BND-Gebäude gewandert sind und
schöne Artikel geschrieben haben, dass die

tausend Mann in Lichterfelde, das ist auch
so eine hässliche Kaserne, möchte ich auch

nicht arbeiten, bleibt erhalten, weil
jetzt schon diese riesen Zentrale in Mitte

zu klein ist. Also die behalten ihren
Standort in Lichterfelde, wo auch ein Teil

der technischen Aufklärung läuft. Die
Abhörpraktiken des BND sind im

Wesentlichen nicht durch Edward Snowden,
sondern im Wesentlichen durch den NSA-BND-

Untersuchungsausschuss klar geworden. Da
wurde doch eigentlich aus der Tatsache,

dass von der NSA und vom GCHQ sowieso
niemand kam und irgendwas gesagt hat, da

schon ein gewisses Verfahren gegen den
BND. Da waren ja auch einige Sachen

überraschend, insbesondere die wirklich
dreiste Weltraum-Theorie zur Frage, ob man

sozusagen im Weltraum überwachen kann,
also die Satellitenkommunikation; aber

auch die Funktionsträger-Theorie, also
wenn jemand sozusagen ein Mensch ist, aber

gleichzeitig Funktionsträger ist, darf man
ihn abhören. Aber es ging auch um die

Frage, ob das Telekommunikations-Geheimnis
eigentlich für jeden gilt oder nur für

Deutsche. Auf jeden Fall war eine Folge,
dass 2016 das BND-Gesetz verabschiedet

wurde (das ist mit Abstand die größte
Geheimdienst-Reform der letzten

Jahrzehnte) ist deshalb interessant, weil
natürlich das Bundesverfassungsgericht

schon mal über die Befugnisse zur
Massenüberwachung des BND gesprochen hat,

nämlich 1999, da gab es schon mal ein
Urteil. Und das Interessante, und da

werden wir sicherlich im Januar auch
nochmal daran erinnert werden, ist, dass

nach dem damaligen Recht dieses
strategische Abhören, diese

Massenüberwachung gerade noch als
verhältnismäßig erklärt wurde, schon

deshalb, weil nur ein Bruchteil der
Telekommunikations-Verkehre dabei

aufgezeichnet wurde. Heute ist das
natürlich anders. Da wird im großen Stil

sozusagen insbesondere am DE-CIX in
Frankfurt abgehört und man durchlöchert

damit die Rohdaten. Und die Richter, die
uns für die Stellungnahme einige Fragen

geschickt haben, haben auch genau wissen
wollen: Wie viel der internationalen

Kommunikation können die denn potenziell
mit dieser gesetzlichen Befugnis im BND

Gesetz abhören? Leider konnten wir die
Frage so nicht ganz beantworten. Das liegt

daran, dass in einigen Kontinenten,
insbesondere in Asien, keine

Veröffentlichung stattfinden, was die so
für Datenraten an den großen Exchanges

haben. Das heißt, auch der DE-CIX selbst
weiß nicht so richtig, wieviel Prozent

durch Europa laufen. Einfach schlicht,
weil in anderen Kontinenten dazu keine

Zahlen veröffentlicht werden, was in
Europa und Amerika eigentlich üblich ist.

Vielleicht muss man noch dazu sagen, die
Praktiken, die bekannt wurden und die

rechtswidrig waren, sind sozusagen durch
dieses Gesetz legalisiert worden, und zwar

bevor der Abschlussbericht des NSA-BND-
Untersuchungsausschusses dann rauskam.

Also eigentlich eine Frechheit gegenüber
den Parlamentariern, die gerade noch am

Untersuchen waren. Es gab natürlich eine
Verfassungsbeschwerde, ich habe jetzt

einige der Beschwerdeführer genannt:
Reporter ohne Grenzen, die Gesellschaft

für Freiheitsrechte und
Journalistenverbände und weitere. Deswegen

ist ein Fokus dieser Verfassungsbeschwerde
auch Journalisten. Es geht im Wesentlichen

um die Ausland-Ausland-Aufklärung, also
das massenhafte Abgreifen von

Telekommunikation zwischen Ausländern. Man
unterscheidet sozusagen in Deutschland

Inland-Ausland-Verkehr, das ist das
sogenannte G10-Gesetz in Deutschland, also

wenn ein Inländer beteiligt ist, und
Ausland-Ausland, das ist das BND Gesetz.

Es gibt natürlich auch noch Inland-Inland,
wird jetzt ja jedem logisch aufgefallen

sein. Das wird mit dem sogenannten
G10-Filter gefiltert. Das ist der zweite

Schwerpunkt dieses Verfahrens, dass sie
sich natürlich fragen: Wie gut sind die

Filter? Werden da wirklich die Inländer
rausgefiltert? Denn Inländer darf der

Auslandsgeheimdienst BND nicht überwachen.
Das ist auch ein Schwerpunkt unserer

Stellungnahme zu erklären, wie diese
Filter funktionieren. Ich habe da gleich

nochmal eine Folie. Aber ich will auch
nochmal verweisen auf etwas anderes, ich

habe eine Sottise mitgebracht von unserem
Bundespräsidenten, denn viele werden es

vergessen haben. Steinmeier war mal der
Bundeskanzleramtschef, und er ist

verantwortlich für die rechtswidrige
Praxis des BND, der einfach Rohdaten

weitergegeben hat. Und der, ich zitiere
hier von seinen Aussagen im NSA-BND-

Untersuchungsausschuss, angesprochen auf
seine Ahnungslosigkeit in Bezug auf die

rechtswidrige Weitergabe von Daten, hat er
gesagt: "Es geht mir wie Ihnen: Als Chef

der Kontrollbehörde dieses BNDs". Und er
hat sich zu dem Satz, was, glaube ich, ein

absoluter Offenbarungseid ist, als Chef
des Bundeskanzleramtes, hat er sich mit

dem Satz "Als ich gehört habe, dass der
BND befreundete Regierungen und

internationale Institutionen abhört, war
ich, gelinde gesagt, überrascht." Ich

glaube, das macht vollständig klar,
worüber wir hier eigentlich reden. Dass

nämlich auch die Kontrolle in Deutschland
sehr mangelhaft ist und dass sozusagen

gerade die Tatsache, dass es so wenig
Aufsicht und Kontrolle gibt, dazu führt,

dass es Rechtsbrüche gibt. Es gibt eine
Änderung im BND Gesetz, da sind jetzt

sozusagen neue Möglichkeiten der Kontrolle
etabliert worden. Das sind insbesondere

drei BGH-Richter mit drei Vertretern. Die
sollen sozusagen als unabhängiges Gremium

nur die Ausland-Ausland-Aufklärung
kontrollieren. Allerdings hat man es jetzt

so gemacht, dass wenn ein Eilfall
stattfindet, dann darf der BND auch ohne

Vorab-Check durch dieses unabhängige
Gremium tätig werden und kann dann

sozusagen nachfolgend sich sein Okay
holen. Ich verweise jetzt auch noch mal

rückwärts auf den Vortrag von letztem
Jahr, denn Klaus Landefeld war hier und

hat ein bisschen über das Verfahren am
Bundesverwaltungsgericht gesprochen.

Unterdessen ist er bereits vors
Bundesverfassungsgericht gezogen. Nämlich

als Vertreter des Ecco, der ja den DE-CIX
betreibt, (in Frankfurt.) Und er hatte mal

die Folie, die hier nochmal zitiere, damit
man sich klarmacht, worüber wir hier

reden, wenn wir über G10-Filter und die
Frage, ob die tatsächlich in der Lage

sind, Inländer und Ausländer zu trennen,
reden. Und der hat die verschiedenen

Filter-Qualitäten von 99,9, 99,5 und 99,0
mal ausgerechnet, was für Verbindungen

(faktische) hätten. Wobei sich die Zahlen
haben sich natürlich schon wieder erhöht,

das ist ein Jahr alt. Die Folie
mittlerweile schon ein bisschen weiter,

ich glaube es sind jetzt so 6TB Peak
mittlerweile. Aber trotzdem bleibt die

Größe ungefähr. Wir reden von mehr als
einer Milliarde falschen, gefilterten

Verbindungen. Wenn die Filter so gut sind,
wie dort behauptet, was wir natürlich

nicht wissen. Denn dieser sogenannte
"DAVIS"-Filter der BND benutzt, den

durften die Parlamentarier auch nicht
wirklich prüfen. Es wird sich in dieser

Verhandlung, ich habe jetzt schon mal den
Termin notiert und ich habe auch, hier für

schnell- oder Abfotografierer, die
Stellungnahme hochgeladen. Wir werden aber

erst eine Pressemitteilung zu der
Stellungnahme machen am Tag vor der

Anhörung, nämlich am 13. Januar oder am
12./13. Wer jetzt aber schon lesen will,

kann das natürlich gerne machen. Ich hätte
mal Kurzlink dahin schreiben müssen. Aber

wer jetzt Lust hat, kann das fotografieren
und kann auch schon lesen. Ich habe es

erst hochgeladen. Wir haben natürlich
argumentiert, dass diese Filter nicht

sicher sind, um Inländer zu filtern. Wir
haben natürlich auch nochmal erklärt, wie

das Netz heute funktioniert. Im Sinne von
"Wie ist die typische paketeorientierte

Daten, der Datentransfer heute
organisiert?", das haben wir schon mal für

den NSA-Untersuchungsausschuss damals
gemacht. Und wir haben natürlich auch noch

mal was geschrieben zur
Satellitenkommunikation. Denn auch darum

geht es natürlich beim BND. Man kann sich
einfach hinstellen und

Satellitenkommunikation abhören. Da sind
ja viele Aspekte in dieser

Verfassungsbeschwerde, die mehr sind als
nur die Frage, ob sie wirklich sicher filtern

können oder ob sie auch Inländer abhören.
Trotzdem erhoffen wir uns natürlich

zumindest aufgrund der Fragen, die der CCC
bekommen hat, aber auch alle anderen

Sachverständigen, schon die Hoffnung, dass
da etwas sehr Grundsätzliches folgen wird.

Ich darf nochmal erinnern, 1999, war ja
ein Grund, die strategische

Massenüberwachung zuzulassen, dass man
gesagt hat, da ist eben nur ein Bruchteil,

und jetzt sind wir halt in der
volldigitalen Welt und die packen da

einfach ihre Y-Stücke und schneiden sich
sozusagen die Kopie von Rohdatenströmen

mit. Da kann man natürlich nicht mehr
davon reden, dass es nicht einen ganz

großen, milliardenfachen Datentransfer
gibt, und ich glaube da muss sich was

ändern. Und genau wie in Großbritannien
ist mir natürlich der Aspekt wichtig, dass

wir nicht mehr nur über
Telekommunikationsgeheimnis reden können,

sondern wir müssen darüber reden, dass wir
unsere digitalen Leben darin abbilden. Und

das nicht nur in der Filterung, sondern
auch in der Weiternutzung und vor allen

Dingen in der Weitergabe an andere
Geheimdienste. Große Achillesferse dieser

Massenüberwachung liegt auch, damit ist ja
der BND erwischt worden. Wir erinnern uns

daran. Zwar wusste Steinmeier nichts
davon, aber es ist ein Fakt, dass er

rechtswidrig auch ungefilterte Daten
weitergegeben hat an unsere amerikanischen

Freunde. Insofern Sie sind ja sozusagen
mit der Hand in einer Bonbontüte schon

einmal erwischt worden. Wir werden sehen.
Also ich hoffe auch hier, genau wie bei

dem Urteil nächstes Jahr aus Straßburg,
dass die Öffentlichkeit Interesse daran

zeigen wird, dass die Anhörung, die ja
erst mal kein Urteil mit sich bringt, aber

hoffentlich eine Menge Fakten mit sich
bringen wird, auch eine interessierte

Öffentlichkeit treffen wird. Denn mein
Eindruck ist, dass diese Demos, wenn ich -

ich hab mal ein Bild mitgebracht aus der
Mitte der Snowdens Veröffentlichungen -

dieses Image der Geheimdienste ist wieder
auf dem aufsteigenden Ast. Während in

Deutschland, glaube ich, sehr schwierig
war im Rahmen des NSA/BND

Untersuchungsausschusses. Man hat schon
gemerkt, da war sehr viel Skepsis

gegenüber den Geheimdiensten, die sind
einfach auch rechtswidrig vorgegangen.

Aber dadurch, dass der Bundestag mit den
Stimmen von CDU/CSU und SPD dieses BND-

Gesetz erlassen hat, wurde ja sozusagen
legalisiert ab 2016. Ich glaube, die

Stimmung ist aber gekippt. Das hat
verschiedene Gründe. Aus meiner Sicht ist

es vor allen Dingen auch so, dass man so
einen großen Skandal nicht ewig auf diesem

Level halten kann. Irgendwann finden sich
die Leute damit ab, und dann ist das eben

so, und wir wissen jetzt, wir werden
abgehört, aber hm, jetzt ist das eben so.

Aber andererseits ist technisch wiederum
eine Menge passiert. Ich habe jetzt mal

ein Beispiel dafür, das ist die
Verschlüsselung von Datenverkehr. Das sind

hier die Jahre, 2018 hab ich noch nicht
gefunden. Aber es hat sogar noch

zugenommen 2018. Man sieht, dass ein
Großteil der Telekommunikations-Verkehre

mittlerweile verschlüsselt sind. Also der
Break-Even-Point von der Hälfte ist schon

überschritten. Das macht natürlich den
Geheimdiensten viel mehr aus,

wahrscheinlich viel mehr aus als
irgendwelche Gerichtsverfahren oder

Beschwerden in Karlsruhe. Denn zumindest
ein Teil bei dem britischen Geheimdienst

ist doch vollständig klar, ist eh nicht
kontrolliert. Insofern hoffe ich, dass es

also neben den den Urteilen, die es geben
wird, auch weiter technische Maßnahmen

gibt, um dieses Massenüberwachen ein
bisschen einzudämmen. Letztlich glaube ich

aber, dass nur die Urteile auch nicht
helfen werden, sondern man muss sich

glaube ich auch daran machen, die Essenz
der Urteile politisch umzusetzen. Das ist

glaube ich ziemlich schwierig in der
derzeitigen politischen Lage in

Großbritannien, wahrscheinlich unmöglich.
Auch in Schweden sehr schwierig. Aber in

Deutschland haben wir noch am ehesten die
Chance, mit einem relativ breiten, mit

einer relativ breiten Parteiaufstellung
zumindest ein paar parlamentarische

Fraktionen zu haben, die sich dahinter
stellen und die die Urteile auch umsetzen.

Ich darf ja daran erinnern, dass die Fülle
von 14 überwachungskritischen Urteilen aus

Karlsruhe ja zum Großteil keinen Widerhall
gefunden haben in der Politik. Natürlich,

gut, wir könnten wahrscheinlich auch
einfach die CDU abwählen, aber das wird

wahrscheinlich nicht so einfach. Der Punkt
ist, dass wir glaube ich mehr auch wir,

also alle, die sich dafür interessieren,
dafür tun müssen, dass diese Urteile auch

Druck entfalten, das ist glaube ich kein
Selbstläufer mehr. Dafür ist die Ignoranz

einer Politik für die Karlsruher Urteile
zu groß geworden. Straßburg ist aus meiner

Sicht noch schwieriger, das ist halt weit
weg. Zwar ist in allen europäischen

Ländern der politische Wille, Urteile aus
Straßburg umzusetzen, recht hoch, auch in

Großbritannien übrigens, aber ich habe den
Eindruck, dass das noch weniger als beim

EuGH oder beim Bundesverfassungsgericht
auf eine interessierte Öffentlichkeit

trifft. Da müssen wir glaube ich auch
einfach stärker dafür werben und uns mit

den Urteilen ein bisschen
auseinandersetzen. Ich möchte mich bei -

Ich bin jetzt eigentlich am Schluss, aber
ich möchte mich bei zwei Entitäten

bedanken, das eine ist Rainer Rehack, der
mitgeholfen hat, die Stellungnahme zu

schreiben. Aber ich möchte mich auch
nochmal ganz explizit bedanken bei mehr

als 5000 Leuten, die vor vier Jahren mit
kleinen Geldspenden diese Verfassungs-

oder diese Menschenrechtsbeschwerde
ermöglicht haben. Aus allen Teilen

Europas. Ich habe das hier glaube ich auf
dem Podium, obwohl das jetzt schon vier

Jahre läuft nie gesagt, aber ich werde
mich hier bedanken bei den vielen Leuten,

die irgendwie kleine Summen geschickt
haben, um die Anwälte zu bezahlen, um das

so hin zu kriegen. Und denen verdankt man
letztlich, wenn wir nächstes Jahr das

Urteil kriegen, dass das überhaupt
stattfinden konnte. Es ist nämlich, anders

als in Karlsruhe, nicht ganz billig so ein
Fall in Straßburg hinzukriegen und das

Interesse war gerade 2013/2014 noch so
groß, dass es locker gereicht hat, die

Gelder zusammenzukriegen. Dafür will ich
mich bedanken. Und außerdem natürlich bei

Edward Snowden.
Applaus

Es gibt eine ganze Menge Details zu diesen
Verfahren. Ich habe aber auch darüber

geschrieben, also wer darüber ein bisschen
lesen will, kann das bei ccc.de, aber auch

bei netzpolitik.org ein bisschen lesen.
Ich habe auch jeweils über die Anhörung

selber gesprochen, also wer sich jetzt ein
bisschen für die Prozedere interessiert:

Bei privacynotprism.co.uk ist auch ein
Großteil der Papiere, also wer das

nachlesen will, kann das tun und wir
werden zu dem BND-Gesetz, kurz vor der

Anhörung am 14. Januar, auch nochmal eine
Pressemitteilung machen und dann kann man,

wenn man möchte, noch eine Zusammenfassung
oder Stellungnahme lesen. Und jetzt haben

wir, glaube ich, noch zehn Minuten Zeit
für Fragen, wenn ihr möchtet.

Herald: Wir haben sogar noch 20 Minuten
Zeit für Fragen. Vielen Dank für den Vortrag.

Applaus

Signalangel, eine Frage aus dem Internet.
Constanze Kurz: Also die Fans der

geheimdienstlichen Massenüberwachung
können jetzt an die Mikrophone gehen.

Signalangel: Hier ist der erste Fan. Die
erste Frage bezieht sich auf die

Massenüberwachung in Schweden und
Frankreich. Und zwar ist da die Frage,

warum in der Berichterstattung NSA und BND
relativ groß thematisiert worden, aber

Schweden und Frankreich nicht, was dazu
führt, dass so eine Schieflage ist.

Constanze Kurz: Ich glaube, das hat zum
einen damit zu tun, dass durch den

parlamentarischen Untersuchungsausschuss
hier und auch durch eine kritische

Öffentlichkeit gegenüber den
Geheimdiensten hier, mehr berichtet wurde,

die schwedische Verfahren lief halt ewig
lange. Das Gesetz ist schon lange nicht

mehr in Kraft. Das haben die auch schon
novelliert und in Frankreich gibt es aus

meiner Sicht auch eine Sprachbarriere. Ich
traf die Beschwerdeführer in Frankreich

mal in Brüssel nämlich, da haben die dort
im Europäischen Parlament darüber

berichtet. Aber ich glaube das ist eine
gewisse Sprachbarriere. Die machen auch,

zumindest soweit ich zu sehen habe, keine
englischen Übersetzungen. Und ich denke da

es einfach keine europäische
Öffentlichkeit da. Bei dem schwedischen

Fall ist das Urteil nicht positiv
verlaufen, das erste. Und niemand hätte

oder zumindest ich hätte auch nicht
erwartet, dass die auch vor die große

Kammer kommen, also das die das schaffen
nach dem ersten Urteil Widerspruch

einzulegen und die Große Kammer anzurufen.
Das war ja letztlich ein Misserfolg. So

erklär ichs mir. Nun muss man auch sagen,
Schweden und der BND sind immer noch

Kreisliga gegenüber dem GCHQ, einfach von
ihren technischen Möglichkeiten, von dem

Geld und vom Personal.
Herald: Mikrophon Nummer eins, deine

Frage.
Mikrophon 1: Erstmal Danke für deinen

Vortrag und meine Frage wäre, wie wird
sich der Brexit auf die Situation beim

GCHQ auswirken?
Constanze Kurz: Gar nicht. Die Europäische

Menschenrechtskonvention ist ratifiziert
und ein völkerrechtlicher Vertrag und hat

mit der EU nichts zu tun. Und wenn man
sich mal ansieht über die Jahrzehnte haben

die Briten in sehr guter Qualität mit den
Urteilen aus Strassburg kooperiert. Die

sind also besser als ihr Ruf. Wenn die
Frage größer gemeint ist und nicht nur der

Beschwerdefall, sondern die Frage, wie das
Daten-Karussell weiterlaufen wird. Schon

der alte Innenminister De Maizière hat
gesagt, dass der Brexit mit unseren

Freunden nichts zu tun haben wird. Fakt
ist aber auch, dass der alte

Fragenkatalog, der noch von der
Justizministerin Leutheusser-

Schnarrenberger geschrieben wurde, an die
britische Regierung in Bezug auf die

Überwachung durch den britischen
Geheimdienst nie beantwortet worden.

Ich denke faktisch wird sich nichts ändern.
Legalistisch ändert sich wenig, weil die

Menschenrechtskonvention ja gilt, ob die
nun austreten oder nicht. Und weil die

Abhängigkeit Beziehung ist nicht reziprok.
Ich würde gerne was anderes antworten. Wär

doch auch irgendiwe Geil, wenn die Ihren
Brexit machen. Und dann.. aber naja.

Herald: Mikrophon Nummer 4 Deine Frage
bitte!

Mikrofon 4: Hallo nochmal vielen Dank für
den Vortrag bei der letzten Folie mit dem

Traffic verschlüsselt und unverschlüsselt.
Das hat sie nicht zu hundert summiert. Was

waren die verbleibenden neun Prozent oder
was da jeweils war?

Constanze Kurz: Na das sind doch Jahre!
Mikrofon 4: Von 2017 waren es 51 Prozent

verschlüsselt und 41 Prozent
unverschlüsselt.

Constanze Kurz: Oh ja, interessant. Ich
meine, wer sich ein bisschen auskennt mit

sandvine. Ich würde vermuten, dass Sie das
für die Anzahl sicher sagen können. Würde

ich erwartet, weiß ich aber nicht. Also
kann ich mich nicht erinnern. Ich hatte

das auch rausgesucht vor mehreren Wochen.
Die hatten da eine Beschreibung, müsste

ich nachreichen. Kann ich aber gerne
machen, weiß ich nicht genau. Ich würde

schon davon ausgehen, dass das eine 1:0
Entscheidung ist, verschlüsselt oder nicht.

Vielleicht haben Sie aber auch eine
Kategorie verschlüsselt, aber zu knacken

für Arme. Weiß nicht. Nicht verschlüsselt,
aber für Geheimdienste kein Problem. Weiß

ich wirklich nicht. Tut mir leid, es ist mir
auch nicht aufgefallen, ehrlich gesagt.

Naja.
Herald: Mikrophon Nummer 5, deine Frage

bitte.
Constanze Kurz: Mach die mal weg.

Mikrophon 5: Danke. Die komplexe
Wechselwirkung zwischen EU und den

nationalen Regierungen arbeitet die für
uns oder gegen uns insgesamt? Was ist dein

Eindruck?
Constanze Kurz: Das ist wirklich eine

schwierige Frage. Mein Eindruck ist, dass,
es gibt in der EU Julian King, der dafür

zuständig ist, als Kommissar der letzten
Legislatur dafür zuständig war. Ich tue

mich schwer damit, ein Urteil zu fällen.
Das Europäische Parlament hat natürlich in

den Ausschüssen vor allen Dingen im ?name?
Ausschuss, ganz andere Stellungnahmen

abgegeben, auch überhaupt zu den Snowden
Veröffentlichungen und zu der

geheimdienstlichen Massenüberwachung. Ich
war da auch einmal selber da, im ?name?

Ausschuss, als es zum Beispiel der
Innenausschuss macht. Also tue ich mich

schwer mit das zu beantworten. Wird auch
die Geheimdienste interessieren? Ich

glaube, das größte Problem ist eigentlich,
dass wir keine europäische Öffentlichkeit

haben, die zusammen debattiert, sondern
oft eine nationale Debatte, wenn wir

nationale Gesetzgebung betrifft oder
nationaler Fall ist. Ich habe den

Eindruck, dass habe ich in Straßburg auch
gemerkt an den Journalisten. Zu unserem

Fall reisen dann die deutschen an und die
britischen. Und zu dem schwedischen Fall

reisen die Schweden an. Selbst beim EuGH
ist das mittlerweile ein bisschen anders.

Aber ich habe den Eindruck, dass wir noch
nicht zusammen über so eine Probleme

debattieren. Und Deutschland ist, glaube
ich, auch immer noch mit Abstand am

Geheimdienst kritischten, vielleicht auch
wegen seiner Geschichte.

Herald: Mikrophon Nummer 3. Deine Frage.
Mikrophon 3: Ich habe eine Frage, und zwar

die zielt darauf ab, was wir gesehen
haben, nämlich die Verschlüsselung.

Inwieweit kann Verschlüsselung zu einer
Verhinderung einer Massenüberwachung

führen?
Constanze Kurz: Das kann man relativ

einfach beantworten. Natürlich sind ein
Großteil der Filter damit sozusagen

wirkungslos. Die Inhalte hineinschauen
können und wenn die Selektoren auf Inhalte

abzielenden, dann fällt das natürlich ins
Leere? Also sehr sinnvoll, dass die großen

Plattformen damit angefangen haben. Viele
von denen weiß ich nicht. Facebook oder

Gmail Nutzer haben ja nicht mitgekriegt,
dass die großen Tech-Konzerne angefangen

haben Standardmäßig Datenverkehr zu
verschlüsseln, war sehr wichtig.

Mikrophon 3: Da möchte ich noch eine
anschließende Frage stellen. Und zwar

Inwieweit ist es denn dann möglich, dass
dadurch das jetzt noch mehr verschlüsselt

wird hoffentlich, dass dann da
irgendwelche Gesetze wieder erlassen

werden, die das Ganze wieder aufheben.
Constanze Kurz: Das ist die sogenannte

Going Dark Debatte, die in den USA jetzt
schon seit acht oder neun Jahren geführt

wird. Neuerdings heist die ja auch
"responsible encryption Debatte". Also

Verschlüsselung nur mit ganz viel
Verantwortung für Strafverfolger und

Geheimdienste. Dieser Kampf ist ziemlich
genau in der Mitte. Jetzt. Es gibt einige

Länder wie Australien, die ja bereits
gesetzliche Fakten geschaffen haben, was

ziemlich wichtig war, weil der eben auch
ein Five Eyes Land ist. Ich glaube aber,

dass, gerade wenn ich jetzt so gucke, auf
die aktuelle Debatte um Ransomware oder

generell um die ganze Panik gegenüber
Schadsoftware ist, so mein Eindruck, dass

Verschlüsselung imagemäßig wieder
wichtiger wird. Herr de Maizière hat

diesen Spruch geprägt, dass wir die
Verschlüsselung ja auch brauchen. Deswegen

gibt es trotzdem eine Going Dark Debatte
in Deutschland, dass Bereiche, die die

Geheimdienste, aber auch Strafverfolger
nicht reingucken können durch

Verschlüsselung. Aber wir werden nicht so
einen Weg wie Australien gehen. Kann mir

nicht vorstellen, zumal die Gesetzgebung
in den Ländern einfach wichtiger wird, die

große Infrastruktur, also technische
Infrastruktur Anbieter haben, also die

wird wichtiger sein als die nationale
Debatte hier. Wir müssen uns wehren. Ich

will hier nicht als Schäfchen dargestellt
sein, so zu sagen. Ich glaube, dass wir

unsere Stimmen laut machen sollten. Gerade
wir hier. Es ist ja nicht, die beschließen

was, sondern wir können das kommentieren
und das sollten wir auch. Verschlüsselung

irgendwie zu verbannen ist dämmlich.
Applaus

Constanze Kurz: Also ich werde jetzt hier
keine Neuigkeiten erzählt haben.

Herald: Mikrophon Nummer 1, deine Frage
bitte.

Constanze Kurz: Ist das ein Aluhut?
lachen

Mikrophon 1: Ich hoffe, es ist okay, eine
Antwort auf eine Frage von vorhin zu

geben, und zwar das aufsummieren in den
Prozenten, die letzten Prozent sind im

Merging also noch nicht klassifiziert von
sandvine.

Constanze Kurz: Vielen Dank, aber habe ich
gut erraten, oder?

Herald: Mikrophon Nr. 4 Deine Frage?
Constanze Kurz: Hatte ich irgend einen

Zusammenhang zu dem Aluhut?
lachen

Mikrophon 4: Vielen Dank für euer
Engagement! Ich habe eine Frage zu den

Kontrollen, die du angesprochen hast. Das
heißt, in Deutschland ist ja auch die

Bundesdatenschutzbehörde Aufsichtsbehörde
für BND und Bundesverfassungsschutz. Ist

dein Eindruck, dass die etwas mehr
Möglichkeiten haben, wirkungsvoll zu

kontrollieren?
Constanze Kurz: In Deutschland ist das ja

ein bisschen mehrschichtig. Ich hatte ja
dieses neue, unabhängige Gremium erwähnt,

dass ist der Bundesdatenschutzbeauftragte.
Der BND hat ja auch eine eigene

Datenschutzbeauftragte. Die hat ja auch
gesprochen im deutschen Parlament und ist

ja auch offenbar mit Ihrer Amtsleitung
nicht immer einig. Wir haben auch noch das

PKGr, das Parlamentarische
Kontrollgremium. Wir haben die G10

Kommission. Das ist ja relativ breit
aufgestellt. Ein Problem ist, dass die

nicht miteinander reden dürfen und dass
die auch nach Ende ihrer Amtszeit

natürlich zur Verschwiegenheit
verpflichtet sind, das die teilweise keine

Vorabchecks machen brauchen, die können
auch nachgelagert ja sozusagen ihr "Ja"

geben. Es ist aus meiner Sicht kein
Zufall, dass Mitglieder in diesen Gremien

diese Beratung als Märchenstunde
bezeichnet haben, hier auf dieser Bühne,

auch vor zwei Jahren Christian Ströbele,
der jahrelang in diesen Gremien war. Ich

habe schon berichtet, dass der
Bundesdatenschutzbeauftragte und auch von

ihrem Vorgänger Schaar gelesen, die ich
sehr hilfreich fand. Aber bleibt natürlich

eine Kontrolle. Das haben wir jetzt auch
in der aktuellen Stellungnahme zum BND-

Gesetz geschrieben, die sich immer nur
auch anlehnen kann an das, was überhaupt

geregelt ist. Wenn z.B., BND-Gesetz, nur
mal als Beispiel könnte man für

Großbritannien oder Schweden genauso sehen
keine konkreten Regelungen hat, wie ein

Kontrolleur auch technisch prüfen kann,
weil das einfach nicht vorgesehen ist,

dass man z.B. in Form von Stichproben
ermöglicht oder dass man bestimmte Dinge

erklärt, wie etwas technisch funktioniert.
In deren z.B. "DAVIS"-Filter oder andere

Filter-Technologien. Dann wird man
natürlich auch die Prüfung damit

erschweren. Der Bundestag hatte sich so
ein bischen ausgeholfen mit diesem

Sonderermittler, den es ja eigentlich gar
nicht gibt, den Herrn Kurt Graulich. Der

hat ja die Dreistigkeit begangen, ein
Großteil von dem BND Papier abzuschreiben

und dann als Sonderermittlungsbericht den
Parlamentariern zu kredenzen. Hier ist

vieles im Argen. Aber wenn man sich das im
europäischen Vergleich ansieht, gibt es

halt schlimmere, zum Beispiel die Briten.
Die sind so im Mittelfeld hier in

Deutschland würde ich mal sagen. Das sie
nicht miteinander reden können, führt

natürlich dazu, dass sie auch Wissen als
Kontrolleure nicht miteinander teilen

können. Die Haymon. Ich hatte das Beispiel
mit Steinmeier nicht umsonst gewählt. Also

der Chef Kontrolleur im Bundeskanzleramt,
das ist ja sozusagen die Hauptbehörde, die

die Aufsicht über den BND ausübt, war
vollkommen ahnungslos. Ich habe noch nie

so einen Offenbarungseid gesehen wie von
dem Chef des Bundeskanzleramts, der

letztlich sich auch auf der Nase hat
rumtanzen lassen von der Behörde, die er

beaufsichtigen soll. Und der Schindler,
der zurücktreten musste, Gerhard

Schindler. Der stellt sich jetzt hin und
kommentiert sozusagen die aktuelle Techno

Politik. What the Fuck? Ich sehe da schon
so einige Probleme. Ich komme jetzt so zum

ranten, ich hör auf.
Herald: Mikrofon Nummer 3, deine Frage

bitte.
Mikrophon 3: Hallo, ich habe folgende

Frage Ich bin ja Deutscher, und
dementsprechend würden die Filter auf mich

zutreffen. Und wäre es da nicht keinerlei
größeres Problem, die Daten einfach nach

England weiterzuleiten? Und für die bin ja
dann Ausländer? Damit könnten sie

abgespeichert werden. Und sollten jemals
Fragen über mich oder über mich sein, dann

fragt der BND einfach schnell an und
kriegt dann trotzdem alle Daten. Was soll

den der Schwachsinn dann?
Constanze Kurz: Ja das ist das

geheimdienstliche Datenkarussel. Das ist
auch tatsächlich passiert, gibt ja einige

Beispiele in den Snowden Papieren.
Natürlich. Damit kann man nationale

Befugnisse einfach umgehen. Ist auch
tatsächlich passiert. Sie sagen natürlich

immer, das die das auf keinen Fall machen.
Und ja, natürlich sie haben mal Rohdaten

weitergegeben, aber in Zukunft wird das
natürlich nie wieder passieren. Außerdem

würde ich empfehlen, als Deutscher immer
nur die .de Mailadressen, also mit ner

Endung de. Sicher ist sicher, ne?
lachen

Herald: Mikrofon Nummer 6, deine Frage?
Applaus

Constanze Kurz: Gibt übrigens auch ne
Emailverschlüsselung.

Mikrophon 6: Dankeschön. Durch die
Rechtsprechungen, die bisher gekommen

sind: Was für Konsequenzen gab es dadurch?
Constanze Kurz: Na ja, das ist eine sehr

komplexe Frage, weil es sehr viele Urteile
gab und die Konsequenzen unterschiedlich

waren. Ich will mal ein typisches Beispiel
nennen, weil jetzt viele kennen werden aus

Straßburg die zwei Urteile zu der
Sicherungsverwahrung. Deutschland hat

darauf gesetzlich reagiert. Die
Sicherungsverwahrung, wie sie in

Deutschland Gesetz war, war rechtswidrig
gegen die Menschenrechtskonvention. Der

Bundestag hat das novelliert. Für
Großbritannien gibt es auch eine ganze

Reihe solche Fälle. Natürlich sind die
mitteleuropäischen Länder nicht die mit

den meisten Urteilen, das sind schon immer
noch die Türkei und Russland und so. Auch

die haben die Europäische
Menschenrechtskonvention unterzeichnet. In

der Regel ist man fest an diesen
völkerrechtlichen Vertrag gebunden und hat

das umzusetzen. Die Compliance ist höher
als bei anderen Gerichten. Tatsächlich bin

ich da aber immer ein bisschen erstaunt,
wenn man, da gibt es auch so

wissenschaftliche Arbeiten drüber, die
sich angucken über die Jahrzehnte, wie die

Urteile umgesetzt wurden, ist ziemlich
gut. Mein Eindruck ist aber nicht

wissenschaftlich unterfüttert. Es ist ein
subjektiver Eindruck ist, den ich auch in

Karlsruhe habe, dass die Akzeptanz
politischer Art für höchstrichterliche

Urteile geringer wird? Das sehe ich in
Karlsruhe ganz deutlich. Ich habe früher,

wenn ich an die Zeiten vom
Wahlcomputerurteil denke oder das erste

Staatstrojanerurteil von 2007/2008. Da war
es nicht so, dass sich der aktuelle

Innenminister hingestellt hat und gesagt
hat: Hier schlägt uns ein Richter aus

Karlsruhe unsere Waffen aus dem Arm. Das
war da nicht so. Meiner Meinung ist, das

der Zeitgeist sich da schon ein bisschen
verändert hat. Aber ich glaube auch, das

es an uns liegt. Ich denke, wir müssen uns
hinter diese Urteile stellen, wenn wir sie

für richtig und wichtig halten. Das heißt
auch, eine Öffentlichkeit dafür

herstellen. Das habe ich aber, glaube ich,
jetzt schon dreimal gesagt.

Herald: Signal-Angel eine Frage aus dem
Internet?

Constanze Kurz: Wie lange geht die Frage
und Antwortsession?

lachen
Signal-Angel: Ich habe auch nur eine ganz

kurze Frage, eine Klarstellungsfrage.
Constanze Kurz: Ich kann aber nicht kurz

antworten.
Signal-Angel: Dann antworte lange auf: Was

ist mit dem G10-Filter gemeint? Ist das
nur der de-Domain wird schon deutsch sein

Filter oder?
Constanze Kurz: Ja, der G10-Filter. G10

bezieht sich auf Artikel 10 des
Grundgesetzes, das Fernmeldegeheimnis, ihr

wisst schon, dieser unglaublich löchrige
Käse. Und das bedeutet schlicht, dass mit

dem G10-Filter deutsche Kommunikation
ausgefiltert werden soll, weil ja ein

Auslands Nachrichtendienst Inländer nicht
abhören darf. Der ist sozusagen der

Fachterminus deswegen heisst das auch
G10-Kommission. Der DAVIS-Filter BND für der

technische Begriff dafür, den auch der
Bundesdatenschutzbeauftragte immer mal

testet, und der von Kurt Graulich getestet
wurde, also dem Sonderermittler.

Herald: Vielen Dank. Mikrophon Nummer 4,
Die letzte Frage bitte.

Mikrophon 4: Noch einmal Vielen Dank auch
von meiner Seite, dass du so toll immer

die Sachen weg klagst oder versuchst. Und
das macht ja wahnsinnig viel Arbeit.

Wahrscheinlich. Ich hätte eine Frage
nochmal in Richtung Verschlüsselung. Damit

können wir die Geheimdienste ein bisschen
ärgern. Und die trauen sich schon nicht,

die Verschlüsselung uns ganz zu verbieten.
Hast du schon auf dem Schirm dieses tolle

Gesetz zur Bekämpfung des
Rechtsextremismus im Internet vom 18.12.

Gerade erst erschienen. Mir scheint das ja
so ein bisschen neuer Ansatz zu sein. Wir

gucken einfach hinter der Verschlüsselung
auf dem Server.

Constanze Kurz: Naja, darüber wurde ja
jetzt vor Weihnachten ne ganze Reihe

geredet. Ich hab mir den Entwurf natürlich
auch angesehen. Es gibt ja nur einen

Entwurf, es ist ja noch kein Gesetz. Das
die natürlich jetzt an die Passwörter rann

wollen und auf möglichst einfachem Wege
überrascht mich nicht. Das hat aber wenig

Bezug zu der geheimdienstlichen
Massenüberwachung. Natürlich ist in diesem

Zusammenhang auch nicht nur über
Strafverfolgungsbehörden, sondern auch

über Geheimdienste wieder gesprochen
worden. Weil ja offenbar jetzt immer alle

verwechseln, dass Geheimdienste irgendwie
auch Polizeiaufgaben wahrnehmen. Das

scheint ja jetzt normal zu sein und jede
Beleidigung soll jetzt plötzlich auch bei

den Geheimdiensten landen. So wie das
jetzt vorgestellt wurde, denke ich, wird

das auf keinen Fall kommen. Sie sind
dreist und nehmen verfassungswidrige

Gesetze auch in Kauf, das haben wir ja
auch in der letzten Legislaturperiode

gesehen und ich denke, dass ein paar davon
noch in Karlsruhe erfolgreich angegriffen

werden. Aber so werden sie das dann doch
nicht durch den Bundestag bringen. Wir

müssen aufmerksam sein, weil jetzt wieder
so eine Phase in der Legislatur beginnt,

wo sie sich ein bisschen beeilen müssen,
die Gesetze einzubringen, damit sie vor

Ende noch ordentlich durchgehen. Aber so,
wie es jetzt im Entwurf steht, wird es

wahrscheinlich nicht kommen. Also das
halte ich eigentlich für, ich mein, gut

Seehofer.
Mikrophon 4: Da kannst du es dann ganz

schnell wegklagen?
Constanze Kurz: Nee, nee. Nein, nein, ich

habe noch genug hiermit zu tun. Ich glaube
auch, dass in Deutschland zumindest

Verfassungsbeschwerden da sind schon immer
noch eine Menge Leute, die dort

strategisch Beschwerden einlegen und auch
sehr erfolgreich. Also dieses Jahr hat man

ja gesehen, dass sie eine ganze Reihe
Verfassungsbeschwerden angenommen haben,

aber trotzdem ich jetzt über Straßburg und
Karlsruhe geredet habe: Ich bin ein

Vertreter davon, dass nicht immer alles in
Karlsruhe zu bekämpfen, das ist sozusagen

unser Last Resort. Ich bin der
überzeugung, dass unsere Verfassung im

Parlament zu verteidigen ist und nicht
dahinten, ich finde das nicht richtig.

Applaus
Constanze Kurz: Jetzt habe ich mir selber

ins Bein geschossen oder?
Herald: Vielen, vielen Dank für deinen

Vortrag und vielen Dank für das geduldige
Antworten auf alle Fragen.

Applaus

36c3 Abspannmusik

Untertitel erstellt von c3subtitles.de
im Jahr 2019. Mach mit und hilf uns!