33C3 Vorspannmusik Herald: Okay, der folgende Talk heißt: "Privatisierung der Rechtsdurchsetzung - Was der Anti-Terror-Kampf von der Urheberrechtsdurchsetzung lernen kann". Unser Sprecher ist Markus Beckedahl. Blogger, Aktivist, Journalist, Gründer der re:publica-Konferenzen. Hat den Grimme-Online-Preis gewonnen für netzpolitik.org und jetzt komme ich nicht mehr wirklich umhin, was anderes über ihn zu sagen. Bitte begrüßt mit mir einen Quasi-Landesverräter! Applaus Markus: Guten Morgen. Jetzt bin ich ein bisschen verwirrt. Mir wurde eben gesagt, ich darf erst anfangen, wenn die Tür da oben wieder aufgeschlossen ist. Und die ist immer noch nicht aufgeschlossen. Herald: Entschuldigung, ja, das ist tatsächlich so. Das hab ich gerade falsch interpretiert. Das Gute ist, ich kann aber dann einfach noch ein paar andere Dinge über dich erzählen, wie wäre das? M: Ja, erzähl ruhig was. Beide lachen Herald: Wer von euch war denn auf dem Camp 2015, und hat den Talk vom Markus und vom André gesehen, wo sie im Grunde das Thema Landesverrat und die Ermittlungen, die es darum gab, mal so ein bisschen kurz zusammengefasst haben? Gebt doch einfach mal Hände hoch, wer war denn da? Erstaunlich wenige, die auf dem Camp waren Das hätte ich nicht erwartet. Wer hat den Talk von André gestern gesehen? M: Vorgestern Herald: Entschuldigung, korrekt. Der Kongress ist immer ein langer Tag. Lachen Das sind schon ein paar mehr, okay. Falls ihr euch wundert.. M: Wer hat den Schlüssel für da oben? Herald: .. wundert, warum es nicht losgehen kann, eine Tür ist abgeschlossen. Solange nicht alle Fluchtwege benutzbar sind, kann leider auch der Talk nicht starten. Das ist aber insofern nicht weiter tragisch, als das hiernach (a) eh große Pause ist und (b) der dann folgende Talk ohnehin abgesagt ist, das heißt wir haben ganz viel Zeit. Sowohl für den Vortrag als auch für Fragen und Antworten im Anschluss, also eigentlich kein Zeitdruck. M: Also ich glaube, das ist eine Fake News, weil die andere Person hat mir eben erzählt, wir dürfen höchstens zwei Minuten überziehen. Gelächter Herald: Wir müssen ja trotzdem den Saal irgendwann sauber machen, aber so ein bisschen geht immer. M: Okay. Lachen Publikum: Holt doch mal die Lockpicker. Lachen Herald: Methodisch inkorrekt wäre sonst auch noch da, die kriegen bestimmt auch eine Tür auf. Gelächter Genau.. Ansonsten, wir haben diesen Vortrag mit zwei Mal Übersetzung und das hat auf dieser Konferenz für erstaunlich viele Vorträge geklappt. Ich finde, da haben sich die Leute, die immer da hinten in der Kabine sitzen, da ist es dunkel und eng, auch mal einen Applaus dafür verdient. Applaus M: So, jetzt, die Tür ist offen. Super, Danke für den Türöffner. Ja, danke für's kommen. Es ist auch gerade etwas ungewöhnlich, 3 Netzpolitik-Vorträge parallel, ich wäre auch lieber in den anderen beiden. Aber lacht es gibt ja alles auf Video, habe ich gehört. Hier auch auf russisch, später. Ich rede über ein Thema, was eigentlich total trocken ist und niemanden interessiert. Leider ist es aus unserer Sicht eines der wichtigsten Themen im Moment weil, worüber ich jetzt rede, da gibt es Parallelen in verschiedenen netzpolitischen Debatten. Privatisierung der Rechtsdurchsetzung beschreibt eigentlich, dass mittlerweile immer mehr klassische Rechtsdurchsetzung nicht mehr auf einem rechtsstaatlichen Wege passiert, sondern durch private Akteure und der Staat manchmal auch ein Interesse daran hat, Verantwortlichkeiten abzuschieben, weil man hofft, gewisse Probleme irgendwie dann auch durch andere Akteure lösen lassen zu können. Dass private Rechte privat durchgesetzt werden, ist nicht so ganz neu. Das Presserecht ist so ein klassisches Ding, habe ich mir erklären lassen von Juristen, aber auch da geht vor allem immer darum, dass ein Gericht zum Schluss oder zwischendurch entscheidet, was jetzt durchgesetzt wird und was nicht. Bei der Privatisierung der Rechtsdurchsetzung entscheiden auf einmal private Akteure wie Plattformen auf Basis ihrer allgemeinen Geschäftsbedingungen, die ihr wahrscheinlich noch nie gelesen habt, was auf den Plattformen passieren kann und darf und was nicht, und das ist ein ziemliches Problem. Viele werden jetzt sagen, für mich nicht, ich bin nicht bei Facebook, aber viele andere sind auf Facebook zum Beispiel, und da ist es ein Problem. Es ist auch ein Problem, dass halt quasi mittlerweile ein Großteil des öffentlichen Raumes in Hand von privaten Akteuren ist, vergleichbar mit einem Einkaufszentrum. Also ein Einkaufszentrum ist nicht das Selbe wie ein Marktplatz. Auf dem Marktplatz hat man selbstverständlich Grundrechte: Versammlungsfreiheit und so weiter, man kann sein Recht auf freie Meinungsäußerung ausüben, man kann Demonstrationen anmelden, aber wer von euch hat schon mal eine Demonstration erfolgreich in einem Einkaufszentrum durchgeführt? Wir haben gerade jetzt das Problem, dass halt diese Privatisierung der Rechtsdurchsetzung, was als Konzept schon ein bisschen älter ist, gerade jetzt vor allen Dingen so dominant wird, weil private Plattformen werden dominant, auch wenn jetzt wahrscheinlich hier wie gesagt ein Teil sofort sagen würde, ich bin nicht auf Facebook. Wir müssen damit leben, dass mittlerweile ein Viertel der Bevölkerung sich jeden Tag über Facebook informiert, und Facebook eine der dominanten, wenn nicht sogar die dominanteste meinungsbildende Plattform mittlerweile geworden ist. Und Facebook ist erst 10 Jahre alt, 1,6 oder 1,8 Milliarden Menschen sollen sich dort international einloggen, und Facebook ist nur eines von verschiedenen Plattformen die halt als private Akteure quasi über ihr Hausrecht, über ihre AGBs, die man immer nur einmal im Jahr irgendwie als Veränderung weiterklicken muss, bestimmt, wie wir kommunizieren, wie wir leben und dazu kommt natürlich noch die Technik, die sie uns vorgeben. Weitere Folgeeffekte der Privatisierung öffentlichen Raumes ist dass es natürlich auch ein Problem darstellt, wenn unsere Gerichte immer mehr überlastet sind, wenn es zu wenig kompetentes Personal gibt, was zum Beispiel IT-Fragestellungen auch bei Gerichten, bei Staatsanwaltschaften irgendwie behandeln kann, und hätte man alles früher mal sich darum kümmern können, hat man aber nicht getan. Wenn man sich jetzt mal anschaut, wo kommen denn die freiwilligen Kooperationen zwischen privaten Akteuren und Staaten sozusagen her, dann gibt es vor allem eine Debatte, die in Deutschland vor 7 Jahren sehr präsent war, das war Zensursula. Ursula von der Leyen hatte die Super-Idee, Stopp-Schilder im Internet zu errichten im Kampf gegen Kinder-Pornographie. Fünf Provider mit 75% Marktanteil hatten sich damals zu einer freiwilligen Kooperation mit U. von der Leyen zusammengesetzt. Sie präsentierten diese Stopp-Schilder. Sie hatten zugestimmt, sich täglich Filterlisten vom Bunderskriminalamt schicken zu lassen, um über eine DNS-Filterung diese nicht mehr zugänglich machen zu können, statt dessen ein Stopp-Schild dahin zu hängen. Dazu gehörten Deutsche Telekom, Vodafone / Arcor, Alice / HanseNet, Kabel Deutschland, Telefonica / O2. Wir sagten, sie installieren da eine Zensurinfrastruktur, die wir nicht mehr demokratisch kontrollieren können. Es gab dann einen Aufschrei, 2 Prozent für die Piratenpartei, irgendwie zwischendurch erkannte noch die SPD, dass man möglicherweise ein Problem mit freiwilligen Kooperationen hat, man brachte das Zugangserschwerungsgesetz, es gab eine neue Regierung, die SPD war weg, das Zugangserschwerungsgesetz war weg, und die freiwillige Kooperation war weg. Die Piraten waren ein bisschen später weg. Gelächter Auf jeden Fall gab es damals eine große Debatte über freiwillige Kooperationen beziehungsweise es gab eine große Debatte, warum sie schlecht sind. Es gab eine große Debatte darüber, dass wir keine Zensurinfrastrukturen solcher Art haben wollen, und das war auch gut so. Das Problem ist, wir bekommen sie gerade, und keinen interessiert es. Es gab zwischen 2009 und jetzt viele Versuche auf internationaler Ebene, besonders in der Urheberrechtsdurchsetzung, Filter einzuführen. Das Urheberrecht ist eine ungeklärte, lange Geschichte voller Komplikationen. Seitdem ich Netzpolitik mache, muss ich mich mit 'nem veralteten Urheberrecht rumschlagen, und es wird nicht besser, es wird immer schlimmer. Aber, wir hatten auf der einen Seite eines der wenigen Sachen, die in den letzten 15 Jahren reformiert wurde im Urheberrecht, war die Schaffung einer Abmahn-Industrie, beziehungsweise alle Sachen, damit eine Abmahn-Industrie eingeführt werden kann, und mehr Reformen sind mir jetzt auch nicht gerade bewusst. Wir hatten um 2012 endlich mal eine große Debatte um ACTA. ACTA wurde seit 2008 im Geheimen verhandelt, ein Freihandelsabkommen zur Bekämpfung von Piraterie, so wurde es genannt. Wir hatten damals schon kritisiert, dass hier viele Mechanismen einer Privatisierung der Rechtsdurchsetzung in den Texten drinnen standen, dass Staaten sich gerne darauf einigen wollten, Internet-Zugangsanbietern, Internet-Plattformen zu verpflichten, „freiwillig“ Filter einzuführen, damit halt mal diesem Urheberrechtsproblem … eine Lösung gefunden werden kann, dass man das nicht reformieren muss, sondern dass es irgendwie funktioniert, weiter so zu laufen wie bisher. Es gab parallel zu ACTA schon auf EU-Ebene Dialoge mit Internet-Anbietern, Internet-Plattformen, ein Dialog über illegales Up- und Downloaden. Da schlug die EU-Kommission schon „freiwillige“ Anwendungen von Sperrungen und Filterungen von Peer-to-Peer-Verkehr vor. Die EU-Kommission drängte damals schon ihre Internet-Diensteanbieter dazu, ihre allgemeinen Geschäftsbedingungen so abzudecken, dass sie halt unbegrenzte Möglichkeiten hätten, Web-Seiten zu löschen, Zugang zu Web-Seiten über Links die man teilt und so weiter zu löschen, was aber eine Verletzung der EU-Grundrechts-Charta darstellt. Also man muss sich das so vorstellen, wir sind Deutsche, wir kennen das: Wenn die Bundesregierung etwas vorstellt, was gegen das Grundgesetz geht, ist das halt blöd, weil eigentlich die Aufgabe der Bundesregierung ist, das Grundgesetz zu schützen und durchzusetzen. Auf EU-Ebene haben wir das halt auch, dass sich halt die EU-Kommission denkt, EU-Charta der Grundrechte oder Grundrechte-Charta, wen interessiert es, wir machen einfach etwas anderes. Man dachte halt auch die ganze Zeit schon, wenn die Provider das freiwillig machen, dann geht das ja, dann kann ja keiner klagen. Und das ist halt eines der Probleme, die halt die Privatisierung der Rechtsdurchsetzung mit sich bringt. Es gibt ein anderes Beispiel: Dieser Dialog über illegales Up- und Downloaden scheiterte zum Glück auch, ACTA scheiterte, 2–3 Jahre traute man sich nicht mehr an das Thema heran, zumindest bei der Urheberrechtsdurchsetzung, aber es lief trotzdem einiges weiter. Google entfernt beispielsweise umgerechnet eine Millionen Links pro Tag, die Urheberrechte-Inhaber oder Rechteverwerter automatisiert in Google-Formulare hochladen. Geschätzte 345 Millionen Löschanfragen soll es in 2014 gegeben haben. Google braucht nach eigenen Angaben 6 Stunden, um einen Link zu löschen. Ihr könnt euch vorstellen, da findet sicherlich eine große Prüfung statt, ob jede Löschung auch gerechtfertigt ist, wenn ein Rechteinhaber etwas hochlädt, und die Listen abgearbeitet werden können. Die Liste von Kollateralschäden ist lang, von vielen Github-Projekten bis hin zu lauter legitimen Videos, die auf einmal gelöscht wurden, weil andere meinten, sie wären die Urheber davon. Auch das ist eine Form von Privatisierung der Rechtsdurchsetzung. Google macht das, weil Google durch den „Digital Millenium Copyright Act“, den DMCA, amerikanische Copyright-Gesetzgebung dazu verpflichtet ist, innerhalb von einem Tag über Notice-and-Takedown-Verfahren Sachen zu entfernen. Wenn sie es halt nicht entfernen, dann wird es teuer. Und damit sie halt nicht die Rechnung bezahlen müssen, die Strafrechnung, entfernen sie lieber zu viel als zu wenig. Das nur mal dazu. Kommen wir jetzt mal zum Terror. Seit vielen Jahren versucht man, Zensurinfrastrukturen durchzubringen. Kinderpornographie hat zumindest in Deutschland nicht geklappt, in anderen Staaten leider schon, in anderen Staaten der europäischen Union. Urheberrecht hat nicht geklappt, ACTA und so weiter, alles gescheitert. Terror haben sie gerade einen Durchlauf. Um 2011, 2012 gab es ein EU-Projekt namens Clean-IT, was damals schon wenige interessiert hat. Man könnte es auch als die dümmsten Sammlung an Vorschlägen für Internet-Regeln der gesamten Geschichte der Menschheit bezeichnen, wie European Digital Rights es damals gemacht hat, und ich würde diesen Satz auch sofort unterschreiben. Das Problem ist, damals schon kamen innerhalb von Clean-IT so als halboffizielles EU-Projekt Terrorbekämpfer, also Verfassungsschutz, BKA, Innenministerium auf deutscher Seite und so weiter mit Internet-Firmen aus ein paar Staaten der EU zusammen, um gemeinsame Maßnahmen zur Bekämpfung von Terrorismus im Internet zu machen. Dazu gehörten dann auch zu den Vorschlägen, die man dann halt am Ende dieses IT-Projektes, was eigentlich eine große Laber-Runde war, aber man kriegt halt Geld, um sich zu treffen, und dann bringt man zum Schluß irgendwie einen Forderungskatalog raus. Man hat so Vorschläge wie freiwillige Industriestandards für Notice-and-Takedown Upload-Filter, und einen Alarmknopf für's Internet. Clean-IT war zwar kein Master-Plan der EU, aber eine kommende, oder eine Blaupause für das kommende EU-Forum Internet, von dem ihr wahrscheinlich noch nie etwas gehört habt, was aber jetzt eine große Rolle spielen wird. Das EU-Internetforum, zuerst „Forum der Gemeinschaft der Internet-Dienstleister“ genannt, das war aber ein bisschen zu uncool, also hat man es EU-Internetforum abgekürzt, trifft sich seit 2014. Das erste Treffen, was wir so dokumentieren konnten, war ein Treffen am Rande des G6-EU-Innenminister-Treffens Deutschland, Italien, Frankreich, und noch drei andere, plus, damals war noch dabei: USA, Kanada – wir haben nicht ganz verstanden warum – und Türkei. Damals gab es ein gemeinsames Abendessen am Rande von so einer G6+1+1+1-Sitzung mit Facebook und co., um mal so zu klären, wie geht man jetzt so mit Terror im Netz um, vor allen Dingen Terror-Propaganda. Es hieß dann, wir treffen uns jetzt mal ein bisschen formeller. Hier ist halt so beim ersten Gruppentreffen, beim ersten Forum. Leider hat die EU nur so total verpixelte Bilder oder kleine Bilder gemacht, sonst könnte man sie alle schöner sehen. Aber das Ziel dieses Projektes sei es nicht, Freiheit im Internet einzuschränken aber andererseits kümmern wir uns um Fragen der Sicherheit und wollen die Nutzung des Internets für terroristische Zwecke beschränken. Das sagt schon alles aus, was so damals das Ziel war. Seitdem gibt es verschiedene Treffen, und es hat sich auch alles so ein bisschen ausgeweitet, um was es da gehen soll. Also am Anfang hieß es, die Herausforderung, die aus der Nutzung des Internets durch Terroristen erwachsen, sowie mögliche Antworten und Gegenmaßnahmen, Punkt 1: Werkzeuge und Methoden, um auf terroristische Online-Aktivitäten zu reagieren insbesondere konkrete Initiativen zur Entwicklung von Gegenentwürfen, „Counter-Narratives“, zweitens: freiwillige Maßnahmen und Selbstregulierung, zum Beispiel Kennzeichnung und Berichtsverfahren, Strafverfolgungsmaßnahmen, zum Beispiel Sonderschwerpunktbüros, Ansprechstellen, Ermittlungsvorhaben. Was auch noch ziemlich schnell rein kam, war Crypto, Verschlüsselung. Wo man schon mal beim Thema ist: Terrorismus. Muss man dringend drüber sprechen. Aber auch damals war schon so, dass man halt sagte, Terror, was immer Terror ist, da komme ich gleich zu, findet online statt. Wir brauchen da Gegenpropaganda zu. Ursprünglich von Cecilia Malmström ins Leben gerufen, Cecilia Malmström ist jetzt Handelskommisarin, Schwedin, war vorher Innenkommissarin der EU bis 2014 auch bekannt, sie kriegte dann irgendwann den Spitznamen „Censilia“ von Censor und Cecilia. Manchmal hat man halt Glück, dass Namen so passen. Wir waren auch damals froh, dass Ursula von der Leyen „Ursula“ hieß, und nicht Brigitte, sonst hätte Zensursula nicht geklappt, und so weiter. Cecilia Malmström war schon dafür, so ein Forum der zentralen Akteure der Kommunikations-Industrie ins Leben zu rufen, um halt, ja, weil es darum gehen sollte, wie den Nutzern die Meldung von anstoßerregendem oder potentiell illegalem Material erleichtert werden kann. Wie Gegennarrative im Netz geschaffen werden können und wie leicht erreichbare alternative Botschaften ins Netz gestellt werden können, die zu kritischem Denken anregen. Wir dachten natürlich sofort an ACTA, wo dann wir eine erfolgreiche Kampagne gegen ACTA führen, und die EU-Kommission dann alternative Botschaften ins Netz stellt, um zu kritischem Denken zu kommen. Also im Endeffekt geht es halt auch darum, Gegenpropaganda zu machen, die sich der EU-Kommission nahe zu legen, gegen andere, die andere Ansichten haben. Das war 2014, Cecilia Malmström. Mittlerweile ist Herr Avramopoulos Minister für Inneres und Migration, ein Grieche, und er ist auch ein sehr großer Freund von Europol. Europol spielt da auch wiederum eine große Rolle in diesem ganzen Forum Internet. Europol ist halt die europäische Polizeibehörde, sozusagen BKA auf EU-Ebene. Naja, und Europol hatte dann auch die lustige Idee, bisher ging es ja um Terror-Propaganda, wo wir schon mal dabei sind, können wir es auch sofort ausweiten auf die Entfernung solcher Postings, die Migranten und Flüchtlinge anziehen könnten. Removal of internet content used by traffickers to attract migrants and refugees. Es gab dann sofort 3 Stellen beim Innenministerium. Diese sollen eingesetzt werden für die Zerschlagung von Schleppernetzen und die Ermittlung von Internet-Inhalten, mit denen Schlepper Migranten und Flüchtlinge anlocken, sowie für die Erstellung von Anträgen zur Entfernung dieser Inhalte aus dem Netz. Also, klassisches Muster: Erst mal geht es ganz klar um Terror, alle haben Islamischen Staat im Blick. Sobald man sich erst mal darauf geeinigt hat, dass man irgendwie anfängt in diese Richtung zu gehen, kommt sofort der nächste und sagt: „Wo wir schon mal dabei sind, hier Fluchthelfer, auch noch sofort erstmal rein.“ Bei dem Forum Internet, was dann offiziell 2015 gegründet wurde, hatte man dann 5 Internet-Firmen eingeladen, wo wir uns immer noch fragen: Wie kommt eigentlich ask.fm auf die Liste? Gelächter Man weiß es nicht. Lacht Also ich weiß es nicht. Wahrscheinlich haben wir uns auch nicht genau darum gekümmert, anscheinend. Firma aus Lettland, hat anscheinend 160 Millionen Nutzer, wer weiß, wie viele davon aktiv sind. Wir haben aber die Verschwörungstheorie, dass sich irgendjemand geirrt hat, weil die Amis haben parallel so eine Art Forum Internet ins Leben gerufen, und statt ask.fm haben sie Apple eingeladen. Möglicherweise hat sich halt irgendjemand vertan, irgend eine Firma mit A, wissen wir nicht. Aber, als es dann offiziell gegründet wurde, hieß es dann schon, naja, also: 3 Sachen: (a) Welche Instrumente zur Bekämpfung terroristischer Propaganda im Internet und in sozialen Medien können eingesetzt werden? Andere Herausforderungen, die sich im Zusammenhang mit dem Internet stellen, wie zum Beispiel die Bedenken der Strafverfolgungsbehörden in Bezug auf neue Verschlüsselungstechniken sollen thematisiert werden, und Ziel ist es, Möglichkeiten der praktischen Zusammenarbeit mit Internet-Dienstleistern zu finden, um diesen Herausforderungen zu begegnen. Also: Überwachungsschnittstellen Das Innenministerium erklärte dann auf Anfrage von irgend einer Abgeordneten: „Wir können und wollen nicht gesetzlich vorschreiben, welche Inhalte bei Internetdiensten gezeigt werden und nicht.“ Blöde Meinungsfreiheit, ne? „Aber wir appelieren an die humanitäre Verantwortung, an die ethische Verantwortung, bestimmte Inhalte vom Netz zu nehmen, wenn Regierungen sie darum bitten.“ Gelächter What could possibly go wrong? Man sagt auch gleich, das habe bei Kinderpornographie so super funktioniert, warum nicht im Kampf gegen Terrorismus einsetzen. Naja, und die Idee ist halt, dass halt Facebook und co, wie ich am Anfang schon sagte, über ihre allgemeinen Geschäftsregeln einfach mal definieren, was halt geht, was halt nicht geht, und halt einfach mal dann anfangen, quasi Richter und Henker und alles mögliche zu spielen, und möglichst viel zu löschen. Europol, wie gesagt, kam schon irgendwie dazu, hatte dann auch die tolle Idee einer Meldestelle, der „EU Internet referral unit“, für ihr unliebsame Internet-Inhalte. Ihr könnt euch jetzt mal genau überlegen, was sind unliebsame Internet-Inhalte? Das ist ja alles immer eine Frage der Perspektive, und so weiter, aufzubauen, und gemeinsam also diese Meldestelle beim Anti-Terror-Zentrum zu bringen. Und diese Meldestelle ist auf einmal dann ein Zentrum für das Sperren und Löschen unliebsamer Internet-Inhalte geworden, wie man in einem Kommissions-Dokument lesen kann. Europol solle die Mitgliedsstaaten bei der Identifizierung und Beseitigung gewalttätiger, extremistischer Online-Inhalte unterstützen. Ja, und wir haben jetzt eine Situation, da treffen sich halt, so einmal alle 1–2 Monate hinter verschlossenen Türen diese großen Plattformen mit der EU-Kommission. Es liegen so verschiedene Sachen auf dem Tisch, und wir haben das Problem, dass da mehr oder weniger wahrscheinlich hinter versteckten Türen so eine Art Pferde-Handel stattfindet. Ich nenne das so: „Horse trading behind closed doors.“ Wenn also irgendwie so Sachen sind, also: Wenn ihr die Überwachungs- schnittstellen nicht haben wollt, oder wenn eure Crypto jetzt noch gerade so sicher sein soll, dann müsst ihr uns aber bei anderen Sachen ein bisschen entgegen kommen und so weiter. Wir versuchen seit einer Zeit lang … (wie, jetzt schon 10 Minuten nur noch) Wir versuchen seit einer Zeit lang über das EU-Informationsfreiheitsgesetz Sachen anzufragen dazu. Das hat man abgelehnt, mit der Sache „that releasing publicly details about its engagement and cooperation with industry results in these industry representatives potentially becoming subject to threats by terrorists.“ Die EU-Kommission bezieht sich darauf, weil halt mittlerweile Facebook, Google, Youtube und Twitter ganz viele IS-Accounts löschen, dass dann auf Twitter irgendwie Mark Zuckerberg Morddrohungen bekommt. Und das ist der Grund, warum wir nicht erfahren dürfen, was beim Forum Internet passiert. Kein Scherz. Kann man halt nachlesen. Vor allen Dingen, wir fanden das halt dann nicht so lustig, als dann erklärt wurde, also wir können euch leider nicht sagen, was passiert. Wir müssen hier echt um die Sicherheit der Verhandlungspartner uns Sorgen machen. Um das Argument zu unterstützen, twittert dann halt die EU-Kommission erst mal ausführliche Bilder von sämtlichen Teilnehmern, damit man sehen kann, wie schön sie da gerade am verhandeln sind. Das sieht noch relativ klein aus. Wenn man drauf klickt, sieht man es halt ganz groß. Der Ombudsmann oder die -frau der EU hat da jetzt ein Verfahren eingerichtet, weil Kirsten Fiedler von EDRI.org, die auch bei uns ab und zu mitschreibt, sich da beschwert hat, weil sie meinte, das ist eine große Verarschung, und das verletzt ihr Recht auf Informationsfreiheit, und der Ombudsmann ermittelt jetzt. Parallel fing dann in diesem Jahr an, nochmal unser Innenminister Druck zu machen, das sagte er im Morgenmagazin: „Wir sind intensiv mit Providern im Gespräch.“ Anleitung, Bombenbauen, kennt man alles ja von Zensursula, und so weiter, muss aus dem Netz verschwinden. Aber, und dass die Provider immer sagen, Meinungsfreiheit, ne, und er so: „Aber ich halte das nicht für überzeugend. Wir wollen, dass die Provider selbst eine Haftung und Verantwortung dafür übernehmen, wenn Straftaten in ihrem Netz stattfinden.“ Gelächter Man kann auch übersetzt sagen, also das, was er da im Morgenmagazin gesagt hat, haben wir dann damals mal übersetzt: „Schöne Plattform haben Sie da. Wäre doch schade, wenn Sie für die Inhalte Ihrer Nutzer haften müssten.“ Und dann sind wir wieder bei dem Pferdehandel, dass halt irgendwie Druck aufgebaut wird auf die Plattformen, von wegen so: „Hey, macht mal, weil sonst machen wir das halt … gehen wir an das Haftungsprivileg ran, was die Urheberrechts-Lobby eh schon die ganze Zeit versucht, und da gibt es personelle Überschneidungen auch im Innenministerium, wer irgendwie von der CDU für Urheberrechtsdurchsetzungen ist und jetzt auf einmal Anti-Terror-Durchsetzung macht. Der Krings und so weiter. Naja, auf jeden Fall, das ist jetzt eines der Probleme, das waren alles so gute Argumente, die was gebracht haben, weil seit letztem Monat gibt es auf einmal sogenannte Upload-Filter. Wir nennen sie Zensurfilter. Die Upload-Filter bei Facebook, Twitter, Youtube und co sind vergleichbar oder bauen auf der Technik von PhotoDNA auf. PhotoDNA ist so ein Microsoft-Facebook-Projekt, kommt aus der Kinderpornographie-Verfolgung, man kann halt Bilder mit einem Hash-Wert erzeugen und in Datenbanken abgreifen. Naja, und jetzt haben halt die großen Plattformen so eher unbemerkt von der Öffentlichkeit Upload-Filter schon mal überall installiert, und kriegen halt Sperr-Listen in einer Zensur-Datenbank, und alle Bilder, Videos, die hochgeladen werden, werden halt abgeglichen, ob sie halt in dieser Datenbank drin ist, die halt von Polizeibehörden bestückt werden. What could possibly go wrong? Die Anbieter verpflichten sich dazu, also alles irgendwie in die Datenbank aufzunehmen, alle Inhalte, die „höchstwahrscheinlich“ gegen alle Inhaltsrichtlinien von Facebook, Twitter, Youtube und so weiter verstoßen. Wenn man sich diese Inhaltsrichtlinien einmal anschaut, diese „Community-Standards“, hat man das Gefühl, da fällt eh schon alles drunter, was passieren könnte. Naja, Problem natürlich auch, keiner kontrolliert, was auf diesen Upload-Zensur-Filter-Listen drauf ist. Keiner kümmert sich so wirklich darum. Okay, das ist halt das eine. Eigentlich das, was wir damals versucht haben, bei Zensursula zu verhindern, auf DNS-Ebene, ist jetzt bei den ganzen Plattformen in diesem Monat installiert worden. Parallel haben wir noch das Problem: Monika Hohlmeier, CSU-Abgeordnete, Tochter von Franz Josef Strauß, ist leider zuständig für die Anti-Terror-Richtlinie, eine Richtlinie, die auf EU-Ebene im Schnelldurchgang wegen „Terror“ und so weiter durchgepeitscht wird, mehrheitlich irgendwie hinter verschlossenen Türen, und die hatte dann auch zwischendurch die Idee, Netzzensur-Infrastruktur auch für DNS rein zu bringen. Das konnten wir, indem wir halt irgendwie Vorab-Versionen veröffentlicht und dementsprechend kommentiert hatten, verhindern. Jetzt gibt es da zusätzlich noch Formulierungen drin, dass halt Mitgliedsstaaten selbst bestimmen können, ob sie Netzzensur bringen können, aber eines der Hauptprobleme dieser Terror-Richtlinie, die halt auch keiner auf dem Schirm hat, die nächsten Monat beschlossen wird, und dann umgesetzt werden muss, ist: Es gibt da eine Definition, was ist Terrorismus. Ihr könnt euch vorstellen, ist alles halt ein bisschen relativ. Bei uns ist halt der islamische Staat eindeutig Terror. In China ist halt der Dalai Lama eindeutig Terror, der bei uns aber wiederum Preise bekommt, und so weiter, und so fort. Das andere Problem ist halt noch, dass halt aus unserer Sicht bestimmte Formen von zivilem Ungehorsam oder Aktionen wie hier Besetzung von einem Braunkohlelager, oder Steinkohle, also ich glaube irgendwas mit Kohle halt, auch Terror sein könnten. Und dann gibt es noch den Punkt „illegal system interference“, wo halt Online-Proteste, wie seinerzeit die Operation Payback von Anonymous gegen Visa und Mastercard mit DDOS-Attacken und so weiter, was aus unserer Sicht zumindest, okay, es war nicht angemeldet, aber man kann sie als politische Demonstration im Netz betrachten. Hätte man sie angemeldet, hätte man auch bessere Chancen gehabt, damit rechtlich durchzukommen, aber das war eine internationale Sache. Aber, dass sowas auf einmal auch schon Terror ist, und gegen sowas dann auch dieser Upload-Filter, Zensur-Filter, eingesetzt werden kann. Zusätzlich ist natürlich in dem Dokument, wo es um die Terrordefinition geht, mehrfach von „public provocation“ die Rede. Natürlich auch immer eine Frage: Ist jedes Posting von Fefe irgendwie eine „public provocation“ und müsste man da jetzt mal Terror-Richtlinien in Kraft bringen? Applaus Naja, auf jeden Fall, ich muss ein bisschen beeilen. Was halt auch: Mitte des Jahres brachte man dann mal einen Verhaltenskodex zur Bekämpfung illegaler Hassrede noch gemeinsam auf den Weg. Damals waren auch schon Fake-News irgendwie dort thematisiert. Dass man halt als Plattform auch gerne mehr Richtung Fake-News und Counter-Narratives machen kann. Fake-News, gerade ein großes Thema geworden, wir denken ja immer an Possillon, andere denken an Renate Künast, das ist halt das eine. Das andere, nochmal das letzte Thema, wo ich jetzt nochmal zurück gehe, was hat das Ganze mit Urheberrecht zu tun? Naja, also, wir hatten ja unseren besten Mann nach Brüssel geschickt, um das Internet-Problem zu lösen. Applaus Günther Oettinger hat sich auch alle Mühe gegeben, mit der Vorlage für die EU-Urheberrechtsreform es zu schaffen, nach 15 Jahren Stillstand einen noch schlechteren Reformentwurf vorzulegen, der halt den aktuellen Status noch schlechter macht, was keiner für möglich hielt. Unter anderem geht es darum, naja man möchte jetzt alle Plattformen verpflichten, und nicht nur die großen, so eine Art Upload-Filter einzurichten, um mal durchzugucken, ob jetzt alles, was hochgeladen wird, auch urheberrechtlich geschützt ist, und nicht von jemandem besitzt … also, wo jemand nicht die Rechte daran hat. Man lehnt das Ganze an der Content-ID an, von Youtube. Naja, das Problem ist, das soll für Video- und Foto-Plattformen gelten, das betrifft aber genauso gut die Wikipedia. Und stellt euch mal vor, wie gut die Wikipedia funktioniert, wenn sie darauf verpflichtet wird, bei jedem Upload erstmal zu überprüfen, ob denn jetzt nicht die Urheberrechte von jemandem verletzt werden könnten. What could possibly go wrong? Günther Oettinger ist jetzt schon eine Zeit lang, also, er ist jetzt bald weg. Sein Entwurf ist leider immer noch da, der wird halt jetzt weiter diskutiert. Wir haben dann währenddessen auch schon die nächsten Sachen: TiSA, das hatten wir zusammen mit Greenpeace geleakt, und dafür haben sie freundlicherweise unser Logo auf ein Atomkraftwerk drauf gesprüht, hat man auch nicht jeden Tag. In TiSA gibt es gerade … Also TiSA ist ein Freihandelsabkommen mit 26 Staaten inklusive EU. Da haben die USA kurz vor Schluss den Vorschlag rein gebracht, mal interaktive Computer-Dienste zu definieren. Laut Definition sind damit alle Plattformen gemeint, auf denen mehrere Nutzer gleichzeitig auf einen Server zugreifen können. Gelächter Und diese Dienste und ihre Nutzer sollen nicht mehr dafür haften oder sich rechtfertigen müssen, welche Inhalte sie löschen oder blockieren, so lange sie sie nicht selbst erzeugt haben. Mit anderen Worten, man möchte dann sozusagen, wenn das alles dann freiwillige Kooperationen sind, und Facebook und co dann anfangen, irgendwie all diese „freiwilligen Sachen“ zu löschen, dass sie auch nicht dafür verantwortlich gemacht werden. Sie müssen dann dafür nicht verantwortlich gemacht werden, wenn sie Inhalte lediglich für schädlich oder anstößig befinden. Man kann sich halt vorstellen: Facebook, wenn die halt nach ihren Moralvorstellungen alles löschen, naja, kennt man ja. Weibliche Brüste verboten, männliche erlaubt, und so weiter. Na gut, ich komme zum Ende. Eigentlich sieht alles ziemlich Scheiße aus. Eigentlich, es ist auch so. Wir erwarten im nächsten Jahr bis zu 10 verschiedene EU-Gesetzgebungsprozesse von Überwachungs-Schnittstellen über die E-Privacy-Directive, die Copyright-Reform, Plattform-Regulierung, die viel mehr Aufmerksamkeit brauchen. Wir brauchen auch Counter-Narratives, um in der Sprache von der EU-Kommission zu bleiben. Welche Antworten wir haben, wie man auf Upload-Filter verzichten kann. Damals, die Zensursula-Debatte, die haben wir gedreht, indem wir Löschen statt Sperren hatten. Wir brauchen solche Antworten auf terroristische Propaganda vom islamischen Staat. Wir sind leider zu wenige, um für alle Probleme der Welt, von Fake-News bis sonstwie, irgendwie auch sofort die Lösung präsentieren zu können. Wir brauchen eigentlich mehr Menschen, die mitdenken, kritisch mitdenken, und sich auch Alternativen überlegen. So lange sagen wir immer: „Nicht aufgeben!“ Wir haben die große Herausforderung, dass in Zeiten, wo Demokratien, unsere Demokratien immer unstabiler werden, parallel riesige Zensur-, Kontroll- und Überwachungsapparate installiert werden. Und wir sind diejenigen, die wissen: „What could possibly go wrong?“ Dagegen müssen wir ankämpfen. Wir machen das auf Netzpolitik. Wenn ihr uns unterstützen wollt, wir suchen noch fleißige Spender, gerne mit einem Dauerauftrag. Ich darf nicht weiterreden, die Türen sind jetzt auch gleich wieder geöffnet. Vielen Dank für's Zuhören. Fight for your digital rights. Setzt euch ein. Bekehrt andere. Viel Spaß auf dem Kongress noch. Gute Heimfahrt. Applaus Herald: Vielen Dank Markus. Wir haben eine Frage aus dem Internet. Signal Angel, bitte! Doch keine Frage. Signal Angel: Wir haben keine Frage, sorry. M: Juhu. Herald: Okay, dann, vielen Dank! Gebt ihm nochmal einen schönen Applaus für den guten Vortrag! Applaus Abspannmusik subtitles created by c3subtitles.de in the year 2017. Join, and help us!