Privatisierung der Rechtsdurchsetzung (33c3)

33C3 Vorspannmusik

Herald: Okay, der folgende Talk heißt:
"Privatisierung der Rechtsdurchsetzung -

Was der Anti-Terror-Kampf von der
Urheberrechtsdurchsetzung lernen kann".

Unser Sprecher ist Markus Beckedahl.
Blogger, Aktivist, Journalist,

Gründer der re:publica-Konferenzen.
Hat den Grimme-Online-Preis gewonnen für

netzpolitik.org und jetzt komme ich nicht
mehr wirklich umhin, was anderes über ihn zu

sagen. Bitte begrüßt mit mir einen
Quasi-Landesverräter!

Applaus

Markus: Guten Morgen. Jetzt bin ich ein
bisschen verwirrt. Mir wurde eben gesagt,

ich darf erst anfangen, wenn die Tür da
oben wieder aufgeschlossen ist.

Und die ist immer noch
nicht aufgeschlossen.

Herald: Entschuldigung, ja, das ist
tatsächlich so. Das hab ich gerade falsch

interpretiert. Das Gute ist, ich kann aber dann
einfach noch ein paar andere Dinge über

dich erzählen, wie wäre das?

M: Ja, erzähl ruhig was.

Beide lachen

Herald: Wer von euch war denn auf dem Camp
2015, und hat den Talk vom Markus und vom

André gesehen, wo sie im Grunde das Thema
Landesverrat und die Ermittlungen, die es

darum gab, mal so ein bisschen kurz
zusammengefasst haben? Gebt doch einfach

mal Hände hoch, wer war denn da?

Erstaunlich wenige, die auf dem Camp waren

Das hätte ich nicht erwartet. Wer hat den
Talk von André gestern gesehen?

M: Vorgestern
Herald: Entschuldigung, korrekt.

Der Kongress ist immer ein langer Tag.
Lachen

Das sind schon ein paar mehr, okay.
Falls ihr euch wundert..

M: Wer hat den Schlüssel für da oben?

Herald: .. wundert, warum es nicht
losgehen kann, eine Tür ist abgeschlossen.

Solange nicht alle Fluchtwege benutzbar
sind, kann leider auch der Talk nicht

starten. Das ist aber insofern nicht
weiter tragisch, als das hiernach (a) eh

große Pause ist und (b) der dann folgende
Talk ohnehin abgesagt ist, das heißt wir

haben ganz viel Zeit. Sowohl für den
Vortrag als auch für Fragen und Antworten

im Anschluss, also eigentlich
kein Zeitdruck.

M: Also ich glaube, das ist eine Fake
News, weil die andere Person hat mir eben

erzählt, wir dürfen höchstens
zwei Minuten überziehen.

Gelächter

Herald: Wir müssen ja trotzdem den Saal
irgendwann sauber machen, aber so ein

bisschen geht immer.
M: Okay.

Lachen

Publikum: Holt doch mal die Lockpicker.
Lachen

Herald: Methodisch inkorrekt wäre sonst
auch noch da, die kriegen bestimmt auch

eine Tür auf.
Gelächter

Genau.. Ansonsten, wir haben diesen
Vortrag mit zwei Mal Übersetzung und das

hat auf dieser Konferenz für erstaunlich
viele Vorträge geklappt. Ich finde, da

haben sich die Leute, die immer da hinten
in der Kabine sitzen, da ist es dunkel und

eng, auch mal einen Applaus
dafür verdient.

Applaus

M: So, jetzt, die Tür ist offen. Super,
Danke für den Türöffner. Ja, danke

für's kommen. Es ist auch gerade etwas
ungewöhnlich, 3 Netzpolitik-Vorträge

parallel, ich wäre auch lieber in den
anderen beiden. Aber lacht es gibt ja

alles auf Video, habe ich gehört. Hier
auch auf russisch, später. Ich rede über

ein Thema, was eigentlich total trocken
ist und niemanden interessiert. Leider ist

es aus unserer Sicht eines der wichtigsten
Themen im Moment weil, worüber ich jetzt

rede, da gibt es Parallelen in
verschiedenen netzpolitischen Debatten.

Privatisierung der Rechtsdurchsetzung
beschreibt eigentlich, dass mittlerweile

immer mehr klassische Rechtsdurchsetzung
nicht mehr auf einem rechtsstaatlichen

Wege passiert, sondern durch private
Akteure und der Staat manchmal auch ein

Interesse daran hat, Verantwortlichkeiten
abzuschieben, weil man hofft, gewisse

Probleme irgendwie dann auch durch andere
Akteure lösen lassen zu können. Dass

private Rechte privat durchgesetzt werden,
ist nicht so ganz neu. Das Presserecht ist

so ein klassisches Ding, habe ich mir
erklären lassen von Juristen, aber auch

da geht vor allem immer darum, dass ein
Gericht zum Schluss oder zwischendurch

entscheidet, was jetzt durchgesetzt wird
und was nicht. Bei der Privatisierung der

Rechtsdurchsetzung entscheiden auf einmal
private Akteure wie Plattformen auf Basis

ihrer allgemeinen Geschäftsbedingungen,
die ihr wahrscheinlich noch nie gelesen

habt, was auf den Plattformen passieren
kann und darf und was nicht, und das ist

ein ziemliches Problem. Viele werden jetzt
sagen, für mich nicht, ich bin nicht bei

Facebook, aber viele andere sind auf
Facebook zum Beispiel, und da ist es ein

Problem. Es ist auch ein Problem, dass
halt quasi mittlerweile ein Großteil des

öffentlichen Raumes in Hand von privaten
Akteuren ist, vergleichbar mit einem

Einkaufszentrum. Also ein Einkaufszentrum
ist nicht das Selbe wie ein Marktplatz.

Auf dem Marktplatz hat man
selbstverständlich Grundrechte:

Versammlungsfreiheit und so weiter, man
kann sein Recht auf freie

Meinungsäußerung ausüben, man kann
Demonstrationen anmelden, aber wer von

euch hat schon mal eine Demonstration
erfolgreich in einem Einkaufszentrum

durchgeführt? Wir haben gerade jetzt das
Problem, dass halt diese Privatisierung

der Rechtsdurchsetzung, was als Konzept
schon ein bisschen älter ist, gerade

jetzt vor allen Dingen so dominant wird,
weil private Plattformen werden dominant,

auch wenn jetzt wahrscheinlich hier wie
gesagt ein Teil sofort sagen würde, ich

bin nicht auf Facebook. Wir müssen damit
leben, dass mittlerweile ein Viertel der

Bevölkerung sich jeden Tag über Facebook
informiert, und Facebook eine der

dominanten, wenn nicht sogar die
dominanteste meinungsbildende Plattform

mittlerweile geworden ist. Und Facebook
ist erst 10 Jahre alt, 1,6 oder 1,8

Milliarden Menschen sollen sich dort
international einloggen, und Facebook ist

nur eines von verschiedenen Plattformen
die halt als private Akteure quasi über

ihr Hausrecht, über ihre AGBs, die man
immer nur einmal im Jahr irgendwie als

Veränderung weiterklicken muss, bestimmt,
wie wir kommunizieren, wie wir leben und

dazu kommt natürlich noch die Technik,
die sie uns vorgeben. Weitere Folgeeffekte

der Privatisierung öffentlichen Raumes
ist dass es natürlich auch ein Problem

darstellt, wenn unsere Gerichte immer mehr
überlastet sind, wenn es zu wenig

kompetentes Personal gibt, was zum
Beispiel IT-Fragestellungen auch bei

Gerichten, bei Staatsanwaltschaften
irgendwie behandeln kann, und hätte man

alles früher mal sich darum kümmern
können, hat man aber nicht getan. Wenn

man sich jetzt mal anschaut, wo kommen
denn die freiwilligen Kooperationen

zwischen privaten Akteuren und Staaten
sozusagen her, dann gibt es vor allem eine

Debatte, die in Deutschland vor 7 Jahren
sehr präsent war, das war Zensursula.

Ursula von der Leyen hatte die Super-Idee,
Stopp-Schilder im Internet zu errichten im

Kampf gegen Kinder-Pornographie. Fünf
Provider mit 75% Marktanteil hatten sich

damals zu einer freiwilligen Kooperation
mit U. von der Leyen zusammengesetzt. Sie

präsentierten diese Stopp-Schilder. Sie
hatten zugestimmt, sich täglich

Filterlisten vom Bunderskriminalamt
schicken zu lassen, um über eine

DNS-Filterung diese nicht mehr zugänglich
machen zu können, statt dessen ein

Stopp-Schild dahin zu hängen. Dazu
gehörten Deutsche Telekom, Vodafone /

Arcor, Alice / HanseNet, Kabel
Deutschland, Telefonica / O2. Wir sagten,

sie installieren da eine
Zensurinfrastruktur, die wir nicht mehr

demokratisch kontrollieren können. Es gab
dann einen Aufschrei, 2 Prozent für die

Piratenpartei, irgendwie zwischendurch
erkannte noch die SPD, dass man

möglicherweise ein Problem mit
freiwilligen Kooperationen hat, man

brachte das Zugangserschwerungsgesetz, es
gab eine neue Regierung, die SPD war weg,

das Zugangserschwerungsgesetz war weg, und
die freiwillige Kooperation war weg. Die

Piraten waren ein bisschen später weg.

Gelächter

Auf jeden Fall gab es damals eine große
Debatte über freiwillige Kooperationen

beziehungsweise es gab eine große
Debatte, warum sie schlecht sind. Es gab

eine große Debatte darüber, dass wir
keine Zensurinfrastrukturen solcher Art

haben wollen, und das war auch gut so. Das
Problem ist, wir bekommen sie gerade, und

keinen interessiert es. Es gab zwischen
2009 und jetzt viele Versuche auf

internationaler Ebene, besonders in der
Urheberrechtsdurchsetzung, Filter

einzuführen. Das Urheberrecht ist eine
ungeklärte, lange Geschichte voller

Komplikationen. Seitdem ich Netzpolitik
mache, muss ich mich mit 'nem veralteten

Urheberrecht rumschlagen, und es wird
nicht besser, es wird immer schlimmer.

Aber, wir hatten auf der einen Seite eines
der wenigen Sachen, die in den letzten 15

Jahren reformiert wurde im Urheberrecht,
war die Schaffung einer Abmahn-Industrie,

beziehungsweise alle Sachen, damit eine
Abmahn-Industrie eingeführt werden kann,

und mehr Reformen sind mir jetzt auch
nicht gerade bewusst. Wir hatten um 2012

endlich mal eine große Debatte um
ACTA. ACTA wurde seit 2008 im Geheimen

verhandelt, ein Freihandelsabkommen zur
Bekämpfung von Piraterie, so wurde es

genannt. Wir hatten damals schon
kritisiert, dass hier viele Mechanismen

einer Privatisierung der
Rechtsdurchsetzung in den Texten drinnen

standen, dass Staaten sich gerne darauf
einigen wollten,

Internet-Zugangsanbietern,
Internet-Plattformen zu verpflichten,

„freiwillig“ Filter einzuführen, damit halt
mal diesem Urheberrechtsproblem … eine

Lösung gefunden werden kann, dass man das
nicht reformieren muss, sondern dass es

irgendwie funktioniert, weiter so zu
laufen wie bisher. Es gab parallel zu ACTA

schon auf EU-Ebene Dialoge mit
Internet-Anbietern, Internet-Plattformen,

ein Dialog über illegales Up- und
Downloaden. Da schlug die EU-Kommission

schon „freiwillige“ Anwendungen von
Sperrungen und Filterungen von

Peer-to-Peer-Verkehr vor. Die
EU-Kommission drängte damals schon ihre

Internet-Diensteanbieter dazu, ihre
allgemeinen Geschäftsbedingungen so

abzudecken, dass sie halt unbegrenzte
Möglichkeiten hätten, Web-Seiten zu

löschen, Zugang zu Web-Seiten über Links
die man teilt und so weiter zu löschen,

was aber eine Verletzung der
EU-Grundrechts-Charta darstellt. Also man

muss sich das so vorstellen, wir sind
Deutsche, wir kennen das: Wenn die

Bundesregierung etwas vorstellt, was gegen
das Grundgesetz geht, ist das halt blöd,

weil eigentlich die Aufgabe der
Bundesregierung ist, das Grundgesetz zu

schützen und durchzusetzen. Auf EU-Ebene
haben wir das halt auch, dass sich halt

die EU-Kommission denkt, EU-Charta der
Grundrechte oder Grundrechte-Charta, wen

interessiert es, wir machen einfach etwas
anderes. Man dachte halt auch die ganze

Zeit schon, wenn die Provider das
freiwillig machen, dann geht das ja, dann

kann ja keiner klagen. Und das ist halt
eines der Probleme, die halt die Privatisierung

der Rechtsdurchsetzung mit sich bringt. Es
gibt ein anderes Beispiel: Dieser Dialog

über illegales Up- und Downloaden
scheiterte zum Glück auch, ACTA

scheiterte, 2–3 Jahre traute man sich
nicht mehr an das Thema heran, zumindest

bei der Urheberrechtsdurchsetzung, aber es
lief trotzdem einiges weiter. Google

entfernt beispielsweise umgerechnet eine
Millionen Links pro Tag, die

Urheberrechte-Inhaber oder Rechteverwerter
automatisiert in Google-Formulare

hochladen. Geschätzte 345 Millionen
Löschanfragen soll es in 2014 gegeben

haben. Google braucht nach eigenen Angaben
6 Stunden, um einen Link zu löschen. Ihr

könnt euch vorstellen, da findet
sicherlich eine große Prüfung statt, ob

jede Löschung auch gerechtfertigt ist,
wenn ein Rechteinhaber etwas hochlädt,

und die Listen abgearbeitet werden
können. Die Liste von Kollateralschäden

ist lang, von vielen Github-Projekten bis
hin zu lauter legitimen Videos, die auf

einmal gelöscht wurden, weil andere
meinten, sie wären die Urheber davon.

Auch das ist eine Form von Privatisierung
der Rechtsdurchsetzung. Google macht das,

weil Google durch den „Digital Millenium
Copyright Act“, den DMCA, amerikanische

Copyright-Gesetzgebung dazu verpflichtet
ist, innerhalb von einem Tag über

Notice-and-Takedown-Verfahren Sachen zu
entfernen. Wenn sie es halt nicht

entfernen, dann wird es teuer. Und damit
sie halt nicht die Rechnung bezahlen

müssen, die Strafrechnung, entfernen sie
lieber zu viel als zu wenig. Das nur mal

dazu. Kommen wir jetzt mal zum Terror.
Seit vielen Jahren versucht man,

Zensurinfrastrukturen durchzubringen.
Kinderpornographie hat zumindest in

Deutschland nicht geklappt, in anderen
Staaten leider schon, in anderen Staaten

der europäischen Union. Urheberrecht hat
nicht geklappt, ACTA und so weiter, alles

gescheitert. Terror haben sie gerade einen
Durchlauf. Um 2011, 2012 gab es ein

EU-Projekt namens Clean-IT, was damals
schon wenige interessiert hat. Man könnte

es auch als die dümmsten Sammlung an
Vorschlägen für Internet-Regeln der

gesamten Geschichte der Menschheit
bezeichnen, wie European Digital Rights es

damals gemacht hat, und ich würde diesen
Satz auch sofort unterschreiben. Das

Problem ist, damals schon kamen innerhalb
von Clean-IT so als halboffizielles

EU-Projekt Terrorbekämpfer, also
Verfassungsschutz, BKA, Innenministerium

auf deutscher Seite und so weiter mit
Internet-Firmen aus ein paar Staaten der

EU zusammen, um gemeinsame Maßnahmen zur
Bekämpfung von Terrorismus im Internet zu

machen. Dazu gehörten dann auch zu den
Vorschlägen, die man dann halt am Ende

dieses IT-Projektes, was eigentlich eine
große Laber-Runde war, aber man kriegt

halt Geld, um sich zu treffen, und dann
bringt man zum Schluß irgendwie einen

Forderungskatalog raus. Man hat so
Vorschläge wie freiwillige

Industriestandards für
Notice-and-Takedown Upload-Filter, und

einen Alarmknopf für's Internet. Clean-IT
war zwar kein Master-Plan der EU, aber

eine kommende, oder eine Blaupause für
das kommende EU-Forum Internet, von dem

ihr wahrscheinlich noch nie etwas gehört
habt, was aber jetzt eine große Rolle

spielen wird. Das EU-Internetforum, zuerst
„Forum der Gemeinschaft der

Internet-Dienstleister“ genannt, das war
aber ein bisschen zu uncool, also hat man

es EU-Internetforum abgekürzt, trifft
sich seit 2014. Das erste Treffen, was wir

so dokumentieren konnten, war ein Treffen
am Rande des G6-EU-Innenminister-Treffens

Deutschland, Italien, Frankreich, und noch
drei andere, plus, damals war noch dabei:

USA, Kanada – wir haben nicht ganz
verstanden warum – und Türkei. Damals

gab es ein gemeinsames Abendessen am Rande
von so einer G6+1+1+1-Sitzung mit Facebook

und co., um mal so zu klären, wie geht
man jetzt so mit Terror im Netz um, vor

allen Dingen Terror-Propaganda. Es hieß
dann, wir treffen uns jetzt mal ein

bisschen formeller. Hier ist halt so beim
ersten Gruppentreffen, beim ersten Forum.

Leider hat die EU nur so total verpixelte
Bilder oder kleine Bilder gemacht, sonst

könnte man sie alle schöner sehen. Aber
das Ziel dieses Projektes sei es nicht,

Freiheit im Internet einzuschränken aber
andererseits kümmern wir uns um Fragen

der Sicherheit und wollen die Nutzung des
Internets für terroristische Zwecke

beschränken. Das sagt schon alles aus,
was so damals das Ziel war. Seitdem gibt

es verschiedene Treffen, und es hat sich
auch alles so ein bisschen ausgeweitet, um

was es da gehen soll. Also am Anfang hieß
es, die Herausforderung, die aus der

Nutzung des Internets durch Terroristen
erwachsen, sowie mögliche Antworten und

Gegenmaßnahmen, Punkt 1: Werkzeuge und
Methoden, um auf terroristische

Online-Aktivitäten zu reagieren
insbesondere konkrete Initiativen zur

Entwicklung von Gegenentwürfen,
„Counter-Narratives“, zweitens:

freiwillige Maßnahmen und
Selbstregulierung, zum Beispiel

Kennzeichnung und Berichtsverfahren,
Strafverfolgungsmaßnahmen, zum Beispiel

Sonderschwerpunktbüros, Ansprechstellen,
Ermittlungsvorhaben. Was auch noch

ziemlich schnell rein kam, war Crypto,
Verschlüsselung. Wo man schon mal beim

Thema ist: Terrorismus. Muss man dringend
drüber sprechen. Aber auch damals war

schon so, dass man halt sagte, Terror, was
immer Terror ist, da komme ich gleich zu,

findet online statt. Wir brauchen da
Gegenpropaganda zu. Ursprünglich von

Cecilia Malmström ins Leben gerufen,
Cecilia Malmström ist jetzt

Handelskommisarin, Schwedin, war vorher
Innenkommissarin der EU bis 2014 auch

bekannt, sie kriegte dann irgendwann den
Spitznamen „Censilia“ von Censor und

Cecilia. Manchmal hat man halt Glück,
dass Namen so passen. Wir waren auch

damals froh, dass Ursula von der Leyen
„Ursula“ hieß, und nicht Brigitte,

sonst hätte Zensursula nicht geklappt,
und so weiter. Cecilia Malmström war

schon dafür, so ein Forum der zentralen
Akteure der Kommunikations-Industrie ins

Leben zu rufen, um halt, ja, weil es darum
gehen sollte, wie den Nutzern die Meldung

von anstoßerregendem oder potentiell
illegalem Material erleichtert werden

kann. Wie Gegennarrative im Netz
geschaffen werden können und wie leicht

erreichbare alternative Botschaften ins
Netz gestellt werden können, die zu

kritischem Denken anregen. Wir dachten
natürlich sofort an ACTA, wo dann wir

eine erfolgreiche Kampagne gegen ACTA
führen, und die EU-Kommission dann

alternative Botschaften ins Netz stellt,
um zu kritischem Denken zu kommen. Also im

Endeffekt geht es halt auch darum,
Gegenpropaganda zu machen, die sich der

EU-Kommission nahe zu legen, gegen andere,
die andere Ansichten haben. Das war 2014,

Cecilia Malmström. Mittlerweile ist Herr
Avramopoulos Minister für Inneres und

Migration, ein Grieche, und er ist auch
ein sehr großer Freund von Europol.

Europol spielt da auch wiederum eine
große Rolle in diesem ganzen Forum

Internet. Europol ist halt die
europäische Polizeibehörde, sozusagen

BKA auf EU-Ebene. Naja, und Europol hatte
dann auch die lustige Idee, bisher ging es

ja um Terror-Propaganda, wo wir schon mal
dabei sind, können wir es auch sofort

ausweiten auf die Entfernung solcher
Postings, die Migranten und Flüchtlinge

anziehen könnten. Removal of internet
content used by traffickers to attract

migrants and refugees. Es gab dann sofort
3 Stellen beim Innenministerium. Diese

sollen eingesetzt werden für die
Zerschlagung von Schleppernetzen und die

Ermittlung von Internet-Inhalten, mit
denen Schlepper Migranten und Flüchtlinge

anlocken, sowie für die Erstellung von
Anträgen zur Entfernung dieser Inhalte

aus dem Netz. Also, klassisches Muster:
Erst mal geht es ganz klar um Terror, alle

haben Islamischen Staat im Blick. Sobald
man sich erst mal darauf geeinigt hat,

dass man irgendwie anfängt in diese
Richtung zu gehen, kommt sofort der

nächste und sagt: „Wo wir schon mal
dabei sind, hier Fluchthelfer, auch noch

sofort erstmal rein.“ Bei dem Forum
Internet, was dann offiziell 2015

gegründet wurde, hatte man dann 5
Internet-Firmen eingeladen, wo wir uns

immer noch fragen: Wie kommt eigentlich
ask.fm auf die Liste?

Gelächter

Man weiß es nicht. Lacht Also ich weiß
es nicht. Wahrscheinlich haben wir uns

auch nicht genau darum gekümmert,
anscheinend. Firma aus Lettland, hat

anscheinend 160 Millionen Nutzer, wer
weiß, wie viele davon aktiv sind.

Wir haben aber die Verschwörungstheorie,
dass sich irgendjemand geirrt hat, weil

die Amis haben parallel so eine Art Forum
Internet ins Leben gerufen, und statt

ask.fm haben sie Apple eingeladen.
Möglicherweise hat sich halt irgendjemand

vertan, irgend eine Firma mit A, wissen
wir nicht. Aber, als es dann offiziell

gegründet wurde, hieß es dann schon,
naja, also: 3 Sachen: (a) Welche

Instrumente zur Bekämpfung
terroristischer Propaganda im Internet und

in sozialen Medien können eingesetzt
werden? Andere Herausforderungen, die sich

im Zusammenhang mit dem Internet stellen,
wie zum Beispiel die Bedenken der

Strafverfolgungsbehörden in Bezug auf
neue Verschlüsselungstechniken sollen

thematisiert werden, und Ziel ist es,
Möglichkeiten der praktischen

Zusammenarbeit mit Internet-Dienstleistern
zu finden, um diesen Herausforderungen zu

begegnen. Also: Überwachungsschnittstellen
Das Innenministerium erklärte dann auf

Anfrage von irgend einer Abgeordneten:
„Wir können und wollen nicht gesetzlich

vorschreiben, welche Inhalte bei
Internetdiensten gezeigt werden und

nicht.“ Blöde Meinungsfreiheit, ne?
„Aber wir appelieren an die humanitäre

Verantwortung, an die ethische
Verantwortung, bestimmte Inhalte vom Netz

zu nehmen, wenn Regierungen sie darum
bitten.“

Gelächter

What could possibly go wrong? Man sagt
auch gleich, das habe bei

Kinderpornographie so super funktioniert,
warum nicht im Kampf gegen Terrorismus

einsetzen. Naja, und die Idee ist halt,
dass halt Facebook und co, wie ich am

Anfang schon sagte, über ihre allgemeinen
Geschäftsregeln einfach mal definieren,

was halt geht, was halt nicht geht, und
halt einfach mal dann anfangen, quasi

Richter und Henker und alles mögliche zu
spielen, und möglichst viel zu löschen.

Europol, wie gesagt, kam schon irgendwie
dazu, hatte dann auch die tolle Idee einer

Meldestelle, der „EU Internet referral
unit“, für ihr unliebsame

Internet-Inhalte. Ihr könnt euch jetzt
mal genau überlegen, was sind unliebsame

Internet-Inhalte? Das ist ja alles immer
eine Frage der Perspektive, und so weiter,

aufzubauen, und gemeinsam also diese
Meldestelle beim Anti-Terror-Zentrum zu

bringen. Und diese Meldestelle ist auf
einmal dann ein Zentrum für das Sperren

und Löschen unliebsamer Internet-Inhalte
geworden, wie man in einem

Kommissions-Dokument lesen kann. Europol
solle die Mitgliedsstaaten bei der

Identifizierung und Beseitigung
gewalttätiger, extremistischer

Online-Inhalte unterstützen. Ja, und wir
haben jetzt eine Situation, da treffen

sich halt, so einmal alle 1–2 Monate
hinter verschlossenen Türen diese großen

Plattformen mit der EU-Kommission. Es
liegen so verschiedene Sachen auf dem

Tisch, und wir haben das Problem, dass da
mehr oder weniger wahrscheinlich hinter

versteckten Türen so eine Art
Pferde-Handel stattfindet. Ich nenne das

so: „Horse trading behind closed
doors.“ Wenn also irgendwie so Sachen

sind, also: Wenn ihr die Überwachungs-
schnittstellen nicht haben wollt, oder

wenn eure Crypto jetzt noch gerade so
sicher sein soll, dann müsst ihr uns aber

bei anderen Sachen ein bisschen entgegen
kommen und so weiter. Wir versuchen seit

einer Zeit lang … (wie, jetzt schon 10
Minuten nur noch) Wir versuchen seit einer

Zeit lang über das
EU-Informationsfreiheitsgesetz Sachen

anzufragen dazu. Das hat man abgelehnt,
mit der Sache „that releasing publicly

details about its engagement and
cooperation with industry results in these

industry representatives potentially
becoming subject to threats by

terrorists.“ Die EU-Kommission bezieht
sich darauf, weil halt mittlerweile

Facebook, Google, Youtube und Twitter ganz
viele IS-Accounts löschen, dass dann auf

Twitter irgendwie Mark Zuckerberg
Morddrohungen bekommt. Und das ist der

Grund, warum wir nicht erfahren dürfen,
was beim Forum Internet passiert. Kein

Scherz. Kann man halt nachlesen. Vor allen
Dingen, wir fanden das halt dann nicht so

lustig, als dann erklärt wurde, also wir
können euch leider nicht sagen, was

passiert. Wir müssen hier echt um die
Sicherheit der Verhandlungspartner uns

Sorgen machen. Um das Argument zu
unterstützen, twittert dann halt die

EU-Kommission erst mal ausführliche
Bilder von sämtlichen Teilnehmern, damit

man sehen kann, wie schön sie da gerade
am verhandeln sind. Das sieht noch relativ

klein aus. Wenn man drauf klickt, sieht
man es halt ganz groß. Der Ombudsmann

oder die -frau der EU hat da jetzt ein
Verfahren eingerichtet, weil Kirsten

Fiedler von EDRI.org, die auch bei uns ab
und zu mitschreibt, sich da beschwert hat,

weil sie meinte, das ist eine große
Verarschung, und das verletzt ihr Recht

auf Informationsfreiheit, und der
Ombudsmann ermittelt jetzt. Parallel fing

dann in diesem Jahr an, nochmal unser
Innenminister Druck zu machen, das sagte

er im Morgenmagazin: „Wir sind intensiv
mit Providern im Gespräch.“ Anleitung,

Bombenbauen, kennt man alles ja von
Zensursula, und so weiter, muss aus dem

Netz verschwinden. Aber, und dass die
Provider immer sagen, Meinungsfreiheit,

ne, und er so: „Aber ich halte das nicht
für überzeugend. Wir wollen, dass die

Provider selbst eine Haftung und
Verantwortung dafür übernehmen, wenn

Straftaten in ihrem Netz stattfinden.“

Gelächter

Man kann auch übersetzt sagen, also das,
was er da im Morgenmagazin gesagt hat,

haben wir dann damals mal übersetzt: „Schöne
Plattform haben Sie da. Wäre doch schade,

wenn Sie für die Inhalte Ihrer Nutzer
haften müssten.“ Und dann sind wir

wieder bei dem Pferdehandel, dass halt
irgendwie Druck aufgebaut wird auf die

Plattformen, von wegen so: „Hey, macht
mal, weil sonst machen wir das halt …

gehen wir an das Haftungsprivileg ran, was
die Urheberrechts-Lobby eh schon die ganze

Zeit versucht, und da gibt es personelle
Überschneidungen auch im

Innenministerium, wer irgendwie von der
CDU für Urheberrechtsdurchsetzungen ist

und jetzt auf einmal
Anti-Terror-Durchsetzung macht. Der Krings

und so weiter. Naja, auf jeden Fall, das
ist jetzt eines der Probleme, das waren

alles so gute Argumente, die was gebracht
haben, weil seit letztem Monat gibt es auf

einmal sogenannte Upload-Filter. Wir
nennen sie Zensurfilter. Die Upload-Filter

bei Facebook, Twitter, Youtube und co sind
vergleichbar oder bauen auf der Technik

von PhotoDNA auf. PhotoDNA ist so ein
Microsoft-Facebook-Projekt, kommt aus der

Kinderpornographie-Verfolgung, man kann
halt Bilder mit einem Hash-Wert erzeugen

und in Datenbanken abgreifen. Naja, und
jetzt haben halt die großen Plattformen

so eher unbemerkt von der Öffentlichkeit
Upload-Filter schon mal überall

installiert, und kriegen halt Sperr-Listen
in einer Zensur-Datenbank, und alle

Bilder, Videos, die hochgeladen werden,
werden halt abgeglichen, ob sie halt in

dieser Datenbank drin ist, die halt von
Polizeibehörden bestückt werden. What

could possibly go wrong? Die Anbieter
verpflichten sich dazu, also alles

irgendwie in die Datenbank aufzunehmen,
alle Inhalte, die „höchstwahrscheinlich“

gegen alle Inhaltsrichtlinien von
Facebook, Twitter, Youtube und so weiter

verstoßen. Wenn man sich diese
Inhaltsrichtlinien einmal anschaut, diese

„Community-Standards“, hat man das
Gefühl, da fällt eh schon alles drunter,

was passieren könnte. Naja, Problem
natürlich auch, keiner kontrolliert, was

auf diesen Upload-Zensur-Filter-Listen
drauf ist. Keiner kümmert sich so

wirklich darum. Okay, das ist halt das
eine. Eigentlich das, was wir damals

versucht haben, bei Zensursula zu
verhindern, auf DNS-Ebene, ist jetzt bei

den ganzen Plattformen in diesem Monat
installiert worden. Parallel haben wir

noch das Problem: Monika Hohlmeier,
CSU-Abgeordnete, Tochter von Franz Josef

Strauß, ist leider zuständig für die
Anti-Terror-Richtlinie, eine Richtlinie,

die auf EU-Ebene im Schnelldurchgang wegen
„Terror“ und so weiter durchgepeitscht

wird, mehrheitlich irgendwie hinter
verschlossenen Türen, und die hatte dann

auch zwischendurch die Idee,
Netzzensur-Infrastruktur auch für DNS

rein zu bringen. Das konnten wir, indem
wir halt irgendwie Vorab-Versionen

veröffentlicht und dementsprechend
kommentiert hatten, verhindern. Jetzt gibt

es da zusätzlich noch Formulierungen
drin, dass halt Mitgliedsstaaten selbst

bestimmen können, ob sie Netzzensur
bringen können, aber eines der

Hauptprobleme dieser Terror-Richtlinie,
die halt auch keiner auf dem Schirm hat,

die nächsten Monat beschlossen wird, und
dann umgesetzt werden muss, ist: Es gibt

da eine Definition, was ist Terrorismus.
Ihr könnt euch vorstellen, ist alles halt

ein bisschen relativ. Bei uns ist halt der
islamische Staat eindeutig Terror.

In China ist halt der Dalai Lama eindeutig
Terror, der bei uns aber wiederum Preise

bekommt, und so weiter, und so fort. Das
andere Problem ist halt noch, dass halt

aus unserer Sicht bestimmte Formen von
zivilem Ungehorsam oder Aktionen wie hier

Besetzung von einem Braunkohlelager, oder
Steinkohle, also ich glaube irgendwas mit

Kohle halt, auch Terror sein könnten. Und
dann gibt es noch den Punkt „illegal

system interference“, wo halt
Online-Proteste, wie seinerzeit die

Operation Payback von Anonymous gegen Visa
und Mastercard mit DDOS-Attacken und so

weiter, was aus unserer Sicht zumindest,
okay, es war nicht angemeldet, aber man

kann sie als politische Demonstration im
Netz betrachten. Hätte man sie

angemeldet, hätte man auch bessere
Chancen gehabt, damit rechtlich

durchzukommen, aber das war eine
internationale Sache. Aber, dass sowas auf

einmal auch schon Terror ist, und gegen
sowas dann auch dieser Upload-Filter,

Zensur-Filter, eingesetzt werden kann.
Zusätzlich ist natürlich in dem

Dokument, wo es um die Terrordefinition
geht, mehrfach von „public

provocation“ die Rede. Natürlich auch
immer eine Frage: Ist jedes Posting von

Fefe irgendwie eine „public
provocation“ und müsste man da jetzt

mal Terror-Richtlinien in Kraft bringen?

Applaus

Naja, auf jeden Fall, ich muss ein
bisschen beeilen. Was halt auch: Mitte des

Jahres brachte man dann mal einen
Verhaltenskodex zur Bekämpfung illegaler

Hassrede noch gemeinsam auf den Weg.
Damals waren auch schon Fake-News

irgendwie dort thematisiert. Dass man halt
als Plattform auch gerne mehr Richtung

Fake-News und Counter-Narratives machen
kann. Fake-News, gerade ein großes Thema

geworden, wir denken ja immer an
Possillon, andere denken an Renate

Künast, das ist halt das eine. Das
andere, nochmal das letzte Thema, wo ich

jetzt nochmal zurück gehe, was hat das
Ganze mit Urheberrecht zu tun? Naja, also,

wir hatten ja unseren besten Mann nach
Brüssel geschickt, um das

Internet-Problem zu lösen.

Applaus

Günther Oettinger hat sich auch alle
Mühe gegeben, mit der Vorlage für die

EU-Urheberrechtsreform es zu schaffen,
nach 15 Jahren Stillstand einen noch

schlechteren Reformentwurf vorzulegen, der
halt den aktuellen Status noch schlechter

macht, was keiner für möglich hielt.
Unter anderem geht es darum, naja man

möchte jetzt alle Plattformen
verpflichten, und nicht nur die großen,

so eine Art Upload-Filter einzurichten, um
mal durchzugucken, ob jetzt alles, was

hochgeladen wird, auch urheberrechtlich
geschützt ist, und nicht von jemandem

besitzt … also, wo jemand nicht die
Rechte daran hat. Man lehnt das Ganze an

der Content-ID an, von Youtube. Naja, das
Problem ist, das soll für Video- und

Foto-Plattformen gelten, das betrifft aber
genauso gut die Wikipedia. Und stellt euch

mal vor, wie gut die Wikipedia
funktioniert, wenn sie darauf verpflichtet

wird, bei jedem Upload erstmal zu
überprüfen, ob denn jetzt nicht die

Urheberrechte von jemandem verletzt werden
könnten. What could possibly go wrong?

Günther Oettinger ist jetzt schon eine
Zeit lang, also, er ist jetzt bald weg.

Sein Entwurf ist leider immer noch da, der
wird halt jetzt weiter diskutiert. Wir

haben dann währenddessen auch schon die
nächsten Sachen: TiSA, das hatten wir

zusammen mit Greenpeace geleakt, und
dafür haben sie freundlicherweise unser

Logo auf ein Atomkraftwerk drauf
gesprüht, hat man auch nicht jeden Tag.

In TiSA gibt es gerade … Also TiSA ist
ein Freihandelsabkommen mit 26 Staaten

inklusive EU. Da haben die USA kurz vor
Schluss den Vorschlag rein gebracht, mal

interaktive Computer-Dienste zu
definieren. Laut Definition sind damit

alle Plattformen gemeint, auf denen
mehrere Nutzer gleichzeitig auf einen

Server zugreifen können.

Gelächter

Und diese Dienste und ihre Nutzer sollen
nicht mehr dafür haften oder sich

rechtfertigen müssen, welche Inhalte sie
löschen oder blockieren, so lange sie sie

nicht selbst erzeugt haben. Mit anderen
Worten, man möchte dann sozusagen, wenn

das alles dann freiwillige Kooperationen
sind, und Facebook und co dann anfangen,

irgendwie all diese „freiwilligen
Sachen“ zu löschen, dass sie auch nicht

dafür verantwortlich gemacht werden. Sie
müssen dann dafür nicht verantwortlich

gemacht werden, wenn sie Inhalte lediglich
für schädlich oder anstößig befinden.

Man kann sich halt vorstellen: Facebook,
wenn die halt nach ihren

Moralvorstellungen alles löschen, naja,
kennt man ja. Weibliche Brüste verboten,

männliche erlaubt, und so weiter.
Na gut, ich komme zum Ende.

Eigentlich sieht alles
ziemlich Scheiße aus.

Eigentlich, es ist auch so.

Wir erwarten im nächsten Jahr

bis zu 10 verschiedene
EU-Gesetzgebungsprozesse von

Überwachungs-Schnittstellen über die
E-Privacy-Directive, die Copyright-Reform,

Plattform-Regulierung, die viel mehr
Aufmerksamkeit brauchen. Wir brauchen auch

Counter-Narratives, um in der Sprache von
der EU-Kommission zu bleiben. Welche

Antworten wir haben, wie man auf
Upload-Filter verzichten kann. Damals, die

Zensursula-Debatte, die haben wir gedreht,
indem wir Löschen statt Sperren hatten.

Wir brauchen solche Antworten auf
terroristische Propaganda vom islamischen

Staat. Wir sind leider zu wenige, um für
alle Probleme der Welt, von Fake-News bis

sonstwie, irgendwie auch sofort die
Lösung präsentieren zu können. Wir

brauchen eigentlich mehr Menschen, die
mitdenken, kritisch mitdenken, und sich

auch Alternativen überlegen. So lange
sagen wir immer: „Nicht aufgeben!“

Wir haben die große Herausforderung, dass in
Zeiten, wo Demokratien, unsere Demokratien

immer unstabiler werden, parallel riesige
Zensur-, Kontroll- und

Überwachungsapparate installiert werden.
Und wir sind diejenigen, die wissen:

„What could possibly go wrong?“
Dagegen müssen wir ankämpfen. Wir machen

das auf Netzpolitik. Wenn ihr uns
unterstützen wollt, wir suchen noch

fleißige Spender, gerne mit einem
Dauerauftrag. Ich darf nicht weiterreden,

die Türen sind jetzt auch gleich wieder
geöffnet. Vielen Dank für's Zuhören.

Fight for your digital rights.
Setzt euch ein. Bekehrt andere.

Viel Spaß auf dem Kongress noch.
Gute Heimfahrt.

Applaus

Herald: Vielen Dank Markus. Wir
haben eine Frage aus dem Internet.

Signal Angel, bitte!

Doch keine Frage.

Signal Angel: Wir haben keine Frage, sorry.

M: Juhu.

Herald: Okay, dann, vielen Dank!

Gebt ihm nochmal einen schönen
Applaus für den guten Vortrag!

Applaus

Abspannmusik

subtitles created by c3subtitles.de
in the year 2017. Join, and help us!