35C3 Vorspannmusik Herald: Ich helfe gerne auf diesem Chaos Veranstaltungen und ich rede auch sehr sehr gerne darüber. Vor ein paar Jahren sagte darauf mal jemand: "CCC das sind doch die Guten.". Zu solch einer Wahrnehmung tragen auch unsere beiden nächsten Sprecher bei, indem sie mit Journalismus Engagement und Talks wie dem folgenden Aufklärung betreiben. Bitte begrüßt mit wir die beiden "netzpolitik dot org" Redakteure Constanze Kurz und Ingo Dachwitz zu ihrem Talk "Micro Targeting und Manipulation von Cambridge Analytica zur EU-Wahl". Audience: applause Constanze Kurz: Herzlichen Dank. Ein etwas pathetischer Anfang. Guten Morgen. Wir freuen uns dass ihr schon so zahlreich alle wach seid. Wir haben uns vorgenommen über den Cambridge Analytica Skandal zu reden, aber nicht im Kern, sondern ihn nur als Anlass zu nehmen über die Frage der politischen Manipulation des öffentlichen Diskurses und der politischen öffentlichen Meinung zu sprechen. Wir wollen ein bisschen zurückblicken auf das Jahr 2018, wo diese Debatte erstmals aus meiner Sicht auch international geführt wurde. Und wir wollen so ein paar Ideen die vor allen Dingen aus Brüssel und Straßburg derzeit kommen. Denn die anstehende EU-Wahl bringt so ein bisschen politischen Druck auf. Daüber wollen wir sprechen und wir haben natürlich wie es sich gehört ein paar Forderungen von denen wir meinen, dass sie sinnvoll wären, um Desaster wie wir sie quasi in der Vergangenheit den letzten zwei Jahren erlebt haben möglichst zu verhindern oder zumindest nicht unerkannt zu lassen. Wir erinnern uns daran der Skandal über den wir ja gleich sprechen, ist ja eigentlich schon mehrere Jahre lang oder jedenfalls liegt er einige Jahre zurück und ich glaube sich Methoden zu überlegen wie man in Zukunft diese Form der hinterrücks Manipulation zumindest erkennen kann scheint wichtig zu sein. Ingo Dachwitz: Genau. Und wir steigen ein, würde ich mal sagen, mit einer kleinen Begriffsklärung. Einfach nochmal zur Vergegenwärtigung, weil der Cambridge Analytica Skandal jetzt ja auch schon doch ein paar Monate her ist und irgendwie dieses Wort Microtargeting schwirrt manchmal so rum im politischen Diskurs. Wir wollen es nochmal kurz klären worum...worüber reden wir eigentlich wenn wir über Microtargeting sprechen. Gemeint ist die gezielte Ansprache von kleinen und Kleinstgruppen, bis hin zur wirklich individuellen Größe mit zugeschnittenen Botschaften. Grundsätzlich eigentlich politischer und kommerzieller Art. Wir wollen uns heute auf den politischen Bereich ein bisschen fokussieren. Die Grundlage, die Basis für diese gezielte Ansprache, beim sogenannten Microtargeting, sind Datenprofile. Also zum Microtargeting gehören immer zwei Dinge. Es ist nicht nur das Zuschneiden von Botschaften und das Aussenden von politischen Botschaften sondern es ist immer auch der davorgeschaltete Analyseschritt. Die Definition von Zielgruppen und Zielen und das eben auf Basis von Datenprofilen. Also soziodemografische Faktoren, lokale Faktoren, also...ja Ort, Ortsdaten, ökonomischer Status, Verhaltensdaten, Vorlieben, Eigenschaften und eben auch auf Basis von Psychometrischen Analysen; was genau das ist werden wir gleich nochmal ein bisschen erklären. Das...diese Methode kommt ursprünglich eigentlich aus dem kommerziellen Marketing, ist inzwischen aber weitverbreitet und immer weiter verbreitet auch im politischen Bereich. Und das sagen wir mal vorweg: uns geht es ja heute hier weder darum einzelne Akteure jetzt irgendwie zu beleuchten, sondern eher so ein bisschen strukturell auf die Manipulationsmethoden zu schauen die diesen Baukasten den es gibt. Und wir werden eben auch nicht in erster Linie über Wirkung sprechen. Denn empirische Studien dazu, wie genau eigentlich Microtargeting wirkt sind rar. Und es gibt sehr unterschiedliche und umstrittene Deutungen dieses Phänomens. Auf jeden Fall können wir schonmal festhalten, es ist sehr Kontextabhängig wie Microtargeting wirkt und hat sehr viel eben damit zu tun welche Akteure es einsetzen, für welchen Zweck sie eingesetzt werden und in welchem Rahmen sie eingesetzt werden. C: Wenn man es mal ganz praktisch machen will, so geht in der Regel eine gewisse Analyse diesen Versuchungen, Kampagnen durchzuführen voraus. Ganz praktisch wenn man sich mal vorstellen will: wir hatten ja vor drei Tagen hier einen Vortrag über die Polizeigesetze wenn man also eine politische Partei ist. Man hat ein Programm wo man bestimmte technische Überwachungs- und Kontrollbefugnisse und innere Sicherheitsprogramm an den Mann bringen will, dann lässt man sich eine ordentliche Wähleranalyse machen, die in der Regel eben auch heute eine Datenanalyse ist. Und dann wird einem vielleicht der Analytiker sagen: "Naja, ab einem bestimmten Alter spricht diese Message besonders an. Oder aber auch Alleinstehende spricht diese Message besonders an". Und dann nimmt man genau die Daten die Ingo sagte und versucht sehr zielgenaue Nachrichten auszuspähen. Ich glaube soweit ist es auch im Wesentlichen bekannt. Ich glaube der Punkt den man hier machen muss ist die Granularität. Vielleicht noch in Bezug...da werden wir nachher nochmal ein bisschen genauer darüber sprechen...zu dem was Friederike von Privacy International gestern berichtet hat: über die Frage sind eben nicht nur die Benutzer dieser Plattformen sind, sondern auch Menschen die gar keinen Account haben bei diesen Werbeplattformen. Dass sie sich längst auf die Mobiltelefone kapriziert. Dass die Form von sogenannten, das nennt sich dann: Cross-Device Campaigns. Also dass man versucht auf den Zeitpunkt festzustellen, wo derjenige gerade rezeptiv ist, weil er vielleicht gerade in einer Tram sitzt und elf Minuten Zeit hat für bestimmte Messages. Man sieht einfach, dass das sich ein bisschen zuzieht. Aber im Wesentlichen bleibt der Kern dieser Technik eben wie beschrieben. Im Jahr 2018 begann diese...also die Fake News Debatte ist älter, wenn ihr euch erinnert. Aber der Begriff ist so ein bisschen, zumindest aus meiner Sicht, im Laufe des Jahres ersetzt worden durch Falschinformationen und Desinformationen. Und wir wollen sozusagen in dem ganz kleinen definitorischen Block den wir hier so haben, bisschen über Desinformationen reden. Wir halten den für sehr viel sinnvoller als den Begriff Fake News. Er ist auch älter und hat vor allen Dingen ne' politische Komponente. Wie viele vielleicht wissen, oder zumindest der Teil der noch Russisch hatte in der Schule - gibt ja n' paar hier -, kommt'et aus dem Russischen "dezinformácija" und ist eigentlich so ein Begriff aus der politischen Propaganda der Geheimdienste. Denn schon vor der digitalen Welt wurde natürlich diese Form von Versuchen die öffentliche Meinung zu beeinflussen durchgeführt. Ist ja nicht neu und man bedient sich nur der Möglichkeiten die diese Werbeplattformen heute bieten. Und ich glaube, das sollte man auch nicht vergessen: Wir haben so ein bisschen Debatte vor allen Dingen um Großbritannien und dem Wahlkampf von Donald Trump. Aber diese Vorgehensweisen sind älter, sie sind orientiert an der Bedürfnisweckung in der Werbeindustrie und haben sich sozusagen eigentlich nur spezialisiert auf bestimmte Ziele. Wir wissen darüber ne' ganze Menge. Zum einen, weil dieser Donald-Trump- Wahlkampf und das Referendum in Großbritannien ja längst nicht die ersten waren, sondern auch schon der vergangene Obama-Wahlkampf diese Methoden benutzt hat...aber...Sicherlich hat sich's mehr zugespitzt und waren teilweise die Ergebnisse so knapp, dass anders darüber debattiert wurde. Und ausländische Player haben in diesen Desinformationskampagnen natürlich eine Rolle gespielt. Und das hat es zugespitzt. Wir wollen gar nicht so sehr darüber reden wie wirksam, also, im Sinne des Ergebnisses diese politischen Kampagnen sind, weil die meisten der Untersuchungen dazu, vor allen Dingen die auf die wir uns hier beziehen, die wir nachher auch offenlegen sozusagen unsere Quellen sind, sind gar nicht so...Sie kommen noch gar nicht zu einem Endergebnis. Viele haben vielleicht die Papiere von den US amerikanischen Behörden gelesen und es gab ja auch eine politische Debatte darum aber im Ergebnis im Sinne von gerichtsfest ja dass man jemanden oder einer bestimmten Gruppe etwas nachweisen kann haben wir relativ wenig. Auch die Briten sind in Bezug auf Referendum und die Behörden die untersuchen und auch der parlamentarische Ausschuss der noch immer seine Untersuchung fortsetzt, noch nicht zu einem Endergebnis gelangt hat, werden wir also auch 2019 noch erfahren. I: Nochmal übersetzt zur Ausgangslage Wenn wir über die EU-Wahl reden die im Mai 2019 stattfinden wird. Wie steht es um die politische öffentlichkeit in welchem Kontext finden diese Themen statt über die wir heute sprechen. Zum einen ist da sicherlich zu nennen dass wir feststellen können dass die politische Öffentlichkeit nervös gewissermaßen ist. Wir können eine Polarisierung feststellen gerade in der digitalen Öffentlichkeit und eben auch ein großes Misstrauen gegenüber einerseits etablierten Medien andererseits aber eigentlich gegenüber allen Nachrichten die wir im Netz finden können. Es herrscht eine große Misstrauenskultur. Und der zweite Punkt den wir vielleicht zur Ausgangslage noch mal sagen können ist die Struktur, ist ein struktureller Punkt, denn wir können ja feststellen, deshalb die Grafik, die digitale Öffentlichkeit. Es gibt zwei Firmen, zwei Konzerne die essenziell sind eigentlich für die Herstellung digitaler Öffentlichkeit und auch politischer Öffentlichkeit im digitalen und die heißen Facebook und Google mit ihren sehr unterschiedlichen Diensten. Um es nochmal aufzuzählen Facebook, Instagram, WhatsApp, das Facebook Netzwerk das große Werbenetzwerk Audience Network mit dem Facebook eben nicht nur Web-Inhalte, Werbung auf eigenen Seiten sondern auch auf anderen Seiten ausspielt und natürlich Google mit YouTube, der Google-Suche, Google News, dem DoubleClick Network und dem Analytics Diensten, die sozusagen enorm wichtig und fast dominierend dafür sind wie digitale Öffentlichkeit hergestellt wird. Und wir können eben sehen dass diese beiden Dienste kommen mit diesen Tools für micro targeting an Bord, die sind integraler Bestandteil der Art und Weise wie Facebook und Google digitale Öffentlichkeit herstellen und strukturieren. Einfach um mal ein paar Tools zu nennen. Da gehören die Insight Werkzeuge dazu, also diejenigen die Seiten betreiben oder Kampagnen betreiben haben eben weitgehende Einblicke in Nutzungs und Zielgruppen Analysen. Es gibt sehr einfache Zielgruppenbaukästen für das Ad-Targeting wo man sich wirklich sehr leicht zusammenstellen kann wie sieht eigentlich, wie soll die Zielgruppe aussehen die ich ansprechen möchte? Welche Region? Welches Alter? Welche Eigenschaften? Welche Interessen? Kinderleichtes zusammenstellen; Und dann gibt es, was vielleicht auch einige wissen aber dann doch irgendwie in der öffentlichen Debatte noch nicht weit genug bekannt ist eigentlich, gibt es die Möglichkeit sowohl bei Facebook als auch bei Google mit der sogenannten Custom Audience Funktion, dass Werbetreibende Menschen mit dem Targeting erreichen zu denen sie vorher schon mal Kontakt hatten. Wenn ich als Werbetreibender, sei es politischer oder kommerzieller Art, eine Liste mit Kontaktdaten habe, E-Mail-Adressen, Telefonnummern oder ähnliches, dann kann ich diese bei den Diensten hochladen bzw. mit diesen abgleichen und dann genau die Menschen erreichen die ich erreichen will und nicht nur das, über diese Custom Audience Funktion hinaus gibt es auch die Look-alike Audience Funktionen wo diese Dienste mir nicht nur den Zugang zu den Menschen ermöglichen deren E-Mail-Adressen nicht ohnehin schon in meiner Kontaktliste habe, sondern Menschen die, was deren Eigenschaften und Daten Profile angeht, genau so oder sehr ähnlich sind wie die Menschen die ich schon in meiner Datenbank gespeichert habe. Diese Micro Targeting Tools sind integraler Bestandteil der Plattform und sind die Bordmittel ohne die die digitale Öffentlichkeit, zumindest auf diesen Plattformen, nicht funktioniert. C: Nun haben wir ja die Datenschutzgrundverordnung die in Kraft getreten ist und die verschiedenen Behörden in Europa die dafür zuständig sind und insbesondere besonders betroffene britische ICO hat sich nathürlich der Frage beschäftigt ob diese Tatsache, gerade in dem Beispiel das Ingo brachte dass man zum Beispiel eine Adressleiste hat, eine Mail-Liste oder so, ob die nach der neuen Rechtslage überhaupt noch da hochgeladen werden dürfen bei denen Werbeplattform. Da gibt's einen gewissen Streit. Die britische ICO steht zum Beispiel auf dem Standpunkt, dass das so nicht mehr ginge und hat die politischen, sämtliche politischen Parteien in Großbritannien aufgefordert das so nicht fortzusetzen. Aber es wird sicherlich noch eine Weile dauern ehe solche Fälle letztlich vor Gericht landen. I: in Deutschland, nur der Vollständigkeit halber, in Deutschland gibt's die Debatte auch. Das Bayerische Landesamt für Datenschutzaufsicht beispielsweise vertritt die Auffassung und versucht sie im nächsten Jahr verstärkt durchzusetzen, dass auch das ohne Einwilligung der Betroffenen auf diesen Listen nicht mehr möglich ist. C: Nun, bei gewissen war es auch vorher nicht erlaubt, also etwa wenn es um Ethnien geht oder andere Formen von direkter Diskriminierung, aber die Antworten die im Rahmen dieses Cambridge Analytica Skandals, auf die wir gleich noch mal ein bisschen kommen aber auch relativ kurz, waren ja im Prinzip interessant weil die Konzerne mal Antworten geben mussten und nach Angaben von Facebook ist es ja so, dass ihr Verhalten genau drei wichtige Kriterien ausgewertet werden. Das sind zum einen Likeing, also wo klickt man hin zum liken, zum anderen auf welche Werbung klickt der Account Besitzer selbst und welche Apps benutzt er. Wenn man sich da mal überlegt, falls hier Menschen dabei sind, die diese Konzerne benutzen, da kann sich natürlich, da kann man rückschließen auch auf die Kriterien die eigentlich wegen das Diskriminierungsverbot nicht nutzbar wären, jedenfalls nicht direkt nutzbar wären. Aber wir wollen jetzt mal noch kurz auf den Skandal kommen um nochmal in Erinnerung zu rufen, es war ja so ein elendes Facebook Jahr, im Prinzip hatte man ja im Monat zwei verschiedene Arten von kleinen und größeren Skandalen über die man gesprochen hat und viele haben dabei vergessen was die Essenz dieses Cambridge Analytica Skandals eigentlich war, warum der international so riesige Wellen geschlagen hat sodass sich der Konzernchef sowohl in den US-Kongress wie auch ins Europaparlament setzen musste und das britische Parlament und da seine "We get back to you"-Reden gehalten hat. Es war ja eigentlich ein relativ einmaliger Vorgang. I: genau in diesem Maße haben wir eigentlich noch nie. Es gab auch Berichte über Cambridge Analytica bereits seit 2015 eigentlich hätten wir auch schon aber in diesen Maßnahmen noch nie eine öffentliche Debatte und eine öffentliche Einsicht in diese Methoden des politischen Micro Targeting bekommen. Der Skandal um Cambridge Analytica ist natürlich deshalb ein besonderer weil, a) der Facebook Konzern betroffen ist und dessen besonders laxer bis verantwortungsloser Umgang mit den Daten seiner Nutzerinnen und Nutzer und andererseits eben im Raum stand und inzwischen ja auch bestätigt ist durch die Untersuchungsberichte dass Daten von Facebook-NutzernInnen ohne ihr Wissen beispielsweise für das Targeting in Trumps Wahlkampf eingesetzt worden sind. Um es einmal kurz up zu wrappen. Worum ging es bei Cambridge Analytica? Ein ehemaliger Forscher oder damals noch Forscher an der Cambridge University hat sich zusammengetan mit der Firma Cambridge Analytica bzw. SCL, der Mutterfirma von Cambridge Analytica. Camebridge Analytica, da gibt es ganz interessante Geschichten zu wie der Name zustande kommt, es ist scheinbar vor allen Dingen ein Konstrukt gewesen damit man dem US Manipulateur und damals Trump Berater Steve Bannon gefallen kann. Was haben die gemacht? Sie haben eine eigentlich ursprünglich für wissenschaftliche Zwecke entwickelte und auch genehmigte App eingesetzt zum Sammeln von umfangreichen Daten: Profil Informationen, Like Informationen von insgesamt 320 000 Menschen die dafür bezahlt worden sind. Kleinere Click-Worker die für Centbeträge eben diese App genutzt haben, eine mit Facebook verbundene App und haben dort einerseits einen Fragebogen ausgefüllt der dazu dient eine Persönlichkeitsanalyse nach dem sogenannten OCEAN-Modell, ein psychologisches Modell das relativ weit verbreitet und etabliert ist, zu machen, das einem die Einordnung der Persönlichkeit anhand von fünf Charaktereigenschaften ermöglicht. Die haben aber nicht nur diesen Fragebogen ausgefüllt sondern eben einerseits einen umfangreichen Datensatz bewusst oder unbewusst über sich preisgegeben ihrer Facebook-Daten und über in insgesamt 87 Millionen Freundinnen und Freunde mit denen sie auf Facebook verbunden waren und Cambridge Analytica beziehungsweise diese Forschungsfirma des Cambridge Forschers Alexander Cowan, haben dann diese Persönlichkeitsanalysen von den 320.000 Menschen, die diesen Fragebogen ausgefüllt haben, gemacht und dann anhand der Facebook-Daten Ähnlichkeiten wieder nach Datenprofilenähnlichkeiten ausgewertet, sodass sie am Ende Persönlichkeitsprofile, psychologische Persönlichkeitsprofile von 87 Millionen Menschen hatten, unter anderem 30 Millionen US-AmerikanerInnen und US-Amerikaner. Diese Daten sind an Cambridge Analytica bzw. SCL gegangen. Die wiederum haben sie mit ihren umfangreichen eigenen Datenbanken, in den USA haben die politischen Akteure deutlich mehr laxeren Zugriff auf Datenbanken über Wahlverhalten und registrierte Wählerinnen und Wähler, verbunden und diese genutzt, um die Trump- Kampagne...ja...politisch in der politischen Kommunikation zu stärken. Wofür haben Sie das eingesetzt? Unter anderem haben sie, so beschreibt es der Whistleblower Christopher Wylie, eben ganze passende Informationsökosysteme aus Blogs und Webseiten eigentlich aufgesetzt. Für die Manipulation Einzelner bzw. von Gruppen. Je nach Themengebiet haben sie eben einzelne Blogs und Webseiten aufgesetzt, um den Eindruck einer neutralen Öffentlichkeit oder einer neutralen Berichterstattung zu machen und Leute auf bestimmte Themen dann eben anzusprechen, sei es etwa Waffenrecht oder ähnliches oder die Migrationsfrage. C: Also besonders politisch umstrittene Fragen. Also wo sich ich Leute wohl eher polarisierend wirkt. I: Nicht nur das. Dann ist es eingesetzt worden für das Microtargeting im Haustürwahlkampf der in den USA eine besonders große Rolle spielt. Also bis zu 32 unterschiedliche Gesprächsleitfäden haben die Haustürwahlkämpfer eben bekommen und wussten in etwa, ok, wenn ich jetzt an dieser Tür klingel, welchen Leitfaden muss ich jetzt einsetzen. Und was wir online gesehen haben, ist eine gezielte Negativ- Kampagne gegen Hillary Clinton bei der die Trump-Kampagne oder Pro-Trump-Campaigner nicht versucht haben, Leute davon zu überzeugen Donald Trump zu wählen, weil sie wussten bestimmte Wählergruppen sind überhaupt nicht zu erreichen für diesen Typen, sondern es ging um strategische Demobilisierung der Gegenseite. Also bestimmte Wählergruppen in denen Hillary Clinton besonders stark ist oder klassischerweise stark gewesen wäre, Frauen, People of Color und so weiter, sind mit gezielten negativ Informationen, beispielsweise auf Facebook versorgt worden, um die Gegenkandidatin zu diskreditieren. Beispielsweise Frauen haben dann sehr viel Wahlwerbung bekommen die auf den Seitensprung oder die Untreue von Bill Clinton angespielt haben, um das Bild von Hillary Clinton als wackere Feministin, das die demokratische Kampagne so ein bisschen versucht hat zu zeichnen, eben zu schwächen. C: Und es hat negative campaigning in den Vereinigten Staaten sehr viel weiter verbreitet als in den typischen europäischen oder gar deutschen Wahlkämpfen. Dennoch hat das natürlich ne' andere Form von Manipulationsmacht, wenn eben nicht an alle gerichtet über Fernsehspots läuft, sondern eben typisiert ausgespielt wird. Es gibt kein...keine...Es gibt kein Endergebnis, inwieweit tatsächlich das Wahlergebnis davon beeinflusst war. Es gibt das klare Ergebnis, dass es eine Beeinflussung gab, aber nicht etwa das Ergebnis, dass es keinen Präsidenten Donald Trump gegeben hätte, ohne diese Form der Onlinemanipulation. Wer sich ein bisschen auseinandersetzt mit dem US amerikanischen Wahlsystem, weiß natürlich, dass man an bestimmten Lokationen, eine Manipulation sehr viel wirksamer durchführen kann, wenn man etwas über die Verteilung sozusagen weiß. Und so hat natürlich auch Location Data, also die Frage wo befinden sich Personen die denen ich möglichst eine demotivierende Message zukommen lassen will, damit sie nicht zur Wahl gehen. Hat dadurch eine größere Rolle gespielt, im Vergleich zu dem Obama Wahlkampf davor, wo es übrigens kaum kritisiert wurde. Wo es auch eine sehr enge Zusammenarbeit gab. I: Und am Ende sind es etwa 70.000 Stimmen gewesen, die über den Wahlentscheid oder über den Wahlausgang entschieden haben, in drei unterschiedlichen Bundesstaaten. Also, so knapp ist diese Wahl am Ende ausgegangen. C: Okay. Wir wollen ein bisschen sprechen über dat Brexit Referendum. Zum einen, weil das Ergebnis auch so furchtbar knapp war, weil die Untersuchung im britischen Parlament sehr viel öffentlicher sind und genauer sind und, weil natürlich die Aussagen die auch nach dem Brexit...nach dem Cambridge Analytica Skandal dann dort gemacht wurden nachzulesen sind. Aber auch, weil das ICO eine britische ganze Fragenkataloge, sowohl an die Konzerne, wie aber auch an die politische Parteien gestellt hat. Und eben versucht hat auszuwerten was ist denn eigentlich...was wird eigentlich wirklich getan. Denn man kann, glaub ich aus meiner Sicht, zumindest nicht immer nur diese Werbekonzerne und Datenfirmen an die Kandaren nehmen, sondern man muss sich natürlich auch fragen, wie sind denn die politischen Parteien, die Aufgabe die Regulation dafür machen, eigentlich selber daran beteiligt. Da ist ja ein ganz klarer Interessenkonflikt. Denn wir reden hier anders als, glaub ich, gerade am Anfang des Jahres viel so diskutiert wurde. Wir reden ja über ganz klare Machtfragen. Wenn es tatsächlich so sein sollte, dass anders als beim US-Wahlkampf wo, meine Güte, nach vier Jahren wird jemand neues gewählt und maximal acht Jahre kann Trump Präsident sein. So ist, denk ich mal, die Entscheidung für ein Land aus der EU auszusteigen sicherlich für mehrere Generationen eine weitreichende Entscheidung. Also von dem Ergebnis, finde ich, noch schwerwiegender und knapper. I: Genau, was haben wir gesehen beim Brexit Referendum oder was haben die Untersuchungsberichte rausgefunden,unter anderem. Also, wir gehen jetzt einfach mal so ein paar Beispiele durch, um so einen Blick nochmal ein bisschen zu erweitern. Unter anderem beim Brexit Referendum ist unter anderem zu sehen gewesen, dass die Leave-Kampagnen, also die pro Brexit Kampagnen, untereinander fleißig Date ausgetauscht haben. Was natürlich nicht der Zweckbindung des dem Datenschutzgrundsatz der Zweckbindung entspricht. Wenn ich als jemand...ein...wenn ich als jemand der sich für das Thema interessiert einer Kampagne meine Daten zur Verfügung stelle, beispielsweise Kontaktdaten, gehe ich nicht davon aus, dass meine Daten an andere Konzerne oder weitere Kampagnen, die formell unabhängig sind und eigentlich auch nicht zusammenarbeiten dürfen, weitergegeben werden. Was haben Sie noch rausgefunden? Unter anderem gibt es einen britischen Versicherungskonzern, dessen Geschäftsführung eng verbunden ist mit einer der Leave-Kampagnen, oder war mit einer der Leave-Kampagnen, die unter anderem dann die Kundenlisten dieses Versicherungskonzerns eingesetzt haben, um zielgerichtet Menschen anzurufen und mit...oder mit Wahlkampfbotschaften Pro- Leave zu bombardieren. C: Typisch kann man noch sagen, etwa eine ganz klassische oder mehr ebige Desinformationskampagne. Also die Wahrhaftigkeit der Nachrichten die ausgespielt wurde war fragwürdig. Da sind aber auch immer noch Gruppen dran die daran auswerten und auch - wir haben vorhin schon erwähnt - die parlamentarische Untersuchung und die Untersuchung des ICO - sozusagen wie so eine Bundesdatenschutzbehörde vergleichbar kann man sagen in Großbritannien - ist noch immer nicht abgeschlossen. I: Genau...in Anbetracht der Zeit machen wir die folgenden Beispiele, die diesen Blick so mal ein bisschen erweitern, mal eher kurz. Aber wir wollen sie doch zumindest einmal erwähnen, damit man es mal gehört hat. In Irland hat in diesem Jahr ein Referendum über das, bis dato sehr straffe und scharfe Abtreibungsrecht stattgefunden. Mit einer hochgradig polarisierten und in der Öffentlichkeit umkämpften Kampagne oder Kampagnen. Und unter anderem konnten wir feststellen, dass in diesem politischen Kampf um die... um das Abtreibungsreferendum nicht nur Akteure aus Irland mitgespielt haben, sondern es ist öffentlich geworden, dass auch religiöse Fundamentalistengruppen aus den USA, beispielsweise die irische Bevölkerung, mit Microtargeting versucht haben zu erreichen. Haben unter anderem sogenannte Aufklärungswebseiten, Facebookkampagnen und so weiter aufgesetzt, um vermeintlich Unentschiedene zu erreichen und mit vermeintlichen Fakten eben aufzuklären. Facebook hat, als es öffentlich wurde, dann irgendwann auch unterbunden, dass Akteure (oder zumindest versucht zu unterbinden), dass Akteure aus dem Ausland hier mitmischen dürfen. C: Also...Typisch ist eben, weil wir daran nur festhalten wollen, ist, dass man mit relativ kleinen Summen, also Summen, die für finanzstarke Länder einfach überhaupt keine Rolle spielen, in hohem Maße Einfluss nehmen kann auf 'ne ausländische Referendum oder eine Wahl. Das ist natürlich auch nicht neu. Aber, ich glaube, auf diese heimliche Hinterrücks-Art-und-Weise und möglicherweise unbemerkt von denjenigen, die betroffen sind, oder erst später bemerkt, ist natürlich insofern ein neues Phänomen. Aber et wird sozusagen noch schlimmer, wenn man einen Blick nach Afrika wirft. I: Genau... In Kenia hat 2017 ein ebenfalls hochgradig polarisierter Wahlkampf... Präsidentschaftswahlkampf zwischen, im Wesentlichen zwei Parteien oder Parteiengruppierungen, stattgefunden. Und was wir sehen können, ist, dass das in Kenia, wie in vielen afrikanischen Staaten, die Datenschutzgesetze natürlich deutlich schwächer sind und die Parteien über einen erheblichen... erhebliches Maß an eigenen Datenbanken verfügen, gleichzeitig Zugriff auf Wahlregister haben, mit Ausweisnummern, Telefonnummern, Namen und biometrischen Angaben, von den zum Wahlen Registrierten. Und auch dort haben wir ein gezieltes, groß angelegtes Negative Campaigning gesehen. Unter anderem auf oder durch die Kampagne des damaligen Präsidenten und auch heute oder dann wiedergewählten Präsidenten Uhuru Kenyatta. Unter Nutzung beispielsweise der auch in Deutschland und den USA nicht ganz unbekannten Negative-Campaigning- Organisationen Harris Media aus den USA. Und was wir da gesehen haben in Kenia ist, dass eine Entwicklung, die wahrscheinlich so ein bisschen vorwegnimmt, was wir auch in europäischen Wahlkämpfen erleben werden, nämlich dass sich dort sehr viel verlagert hat in Messenger-Gruppen und dass dort sozusagen auch das zielgerichtete Werben, vor allen Dingen dann in zugeschnittenen Messenger-Gruppen, WhatsApp-Gruppen, stattgefunden hat, in denen dann eben auch gezielt, ja, mobilisiert wurde und Menschen dann einfach, weil ihre Telefonnummern bei den wahlwerbenden Akteuren bekannt waren, hinzugefügt wurden ohne gefragt zu werden, und dann dort bombardiert wurden mit Nachrichten. C: Ich denke, wir können; Wir wissen ja bereits, dass 2019 so ein bisschen über 20 Wahlen in Europa stattfinden und die EU-Wahl... Ist glaube ich interessant, auf die neuen Kanäle zu blicken. Betrifft dann natürlich nicht nur WhatsApp, sondern da muss man glaube ich auch Instagram im Auge behalten. Man kann eigentlich so dieses Follow-the-Money-Modell ganz gut fahren. Man kann also gucken, wo gehen die oder wo steigen die Zahlen für Advertisement und dann kann man immer ungefähr sehen, wo die nächsten technisch interessanten für diese Manipulationszwecke ebenfalls benutzten Plattformen sind. Das hat sich so ein bisschen kapriziert auf Facebook. Es liegt aber auch daran, dass natürlich die Nutzung in den verschiedenen Kontinenten sehr unterschiedlich ist. In Afrika ist halt Facebook enorm verbreitet, aber auch die Twitter-Nutzung relativ stark. Wir könnten jetzt noch andere Beispiele nennen, die wir jetzt mal weglassen. In Frankreich ist es sehr intensiv debattiert worden. Wir haben südamerikanische Fälle. I: Brasilien. C: Wir haben Fälle wie in Kenia, wo, also internationale Fälle, wo sozusagen so polarisiert war, dass es zu Gewaltausbrüchen geführt hat, was wir jetzt so in Europa noch nicht gesehen haben. Wir wollen uns aber jetzt nochmal auf das eine Beispiel in Österreich nochmal stürzen, weil auch so ein typischer Fall ist, wo man, glaube ich, so Muster erkennen kann. I: Genau. Das fühlt sich ja immer so weit weg an, oder kann man sich für manche jedenfalls. Im österreichischen Wahlkampf, Parlamentswahl und Präsidentschaftswahlkampf, haben wir unter anderem erleben können, wie ein Berater und Wahlkampfmanager der Sozialdemokratischen Partei, Tal Silberstein, so ganz tief in den Methodenkoffer der Desinformation oder eigentlich der digitalen Manipulation gegriffen hat. Hat nämlich Facebook- Seiten, gefakte Facebook-Seiten aufgesetzt u.a. die Seite "Wir für Sebastian Kurz", also der SPÖ Wahlkampfmanager oder Wahlkämpfer setzt eine Seite auf "Wir für Sebastian Kurz", die so den Anschein vermitteln sollte, dass dahinter eine ÖVP Kampagne, die Partei von Sebastian Kurz, steht. Einerseits um die Kampagne in ... Okay Constanze weist auf die Zeit hin ... u.a. auch um Daten zu sammeln sozusagen um eine Facebook-Seite mit, ich glaube, 15 bis 20 Tausend Followern am Ende gewesen, u.a. um wiederum Informationen über ÖVP Sympathisanten auf Facebook zu bekommen, die dann mit gezielter Negativkampagne erreicht werden können. Die andere Seite "Die Wahrheit über Sebastian Kurz" ging dann in die andere Richtung. Da wurde dann versucht einen FPÖ-Schlag zu geben. C: Also auch hier ist natürlich heftig debattiert worden, kann man sich vorstellen, die Opposition ... auch im Parlament, auch hier ist es nicht wirklich im Ergebnis klar, ob diese Form der versuchten Kampagnen im Ergebnis wirklich das Ziel erreicht haben. I: Genau. Aber ohnehin muss man tatsächlich sagen, dass in Österreich der Einsatz von Microtargeting und auch verdeckten Microtargeting deutlich stärker gewesen ist. Das Tal-Silberstein Beispiel ist jetzt natürlich ein besonders krasses aber eben auch natürlich die anderen politischen Akteure haben das eingesetzt. Deutschland, das können wir ganz kurz machen tatsächlich, wir haben... C: Wo die Angst war groß, muss man sagen. Einfach weil die Debatte ja schon losgegangen war und dann gab es noch, wenn ihr euch erinnert, den Bundestags-Hack, also die Angst war relativ groß, dass man eine Form von Manipulation von Innen oder von Außen nicht so richtig beherrschen könnte, dass die Leaks, die ja auch im US- Wahlkampf eine große Rolle gespielt haben, der E-Mails möglicherweise durch den Bundestags-Hack auch noch eine Rolle spielen, also es gab eine große Angst und Unsicherheit im Bundestag vor der Wahl. I: Man muss sagen, dass die Parteien außer einer relativ Wischiwaschi Selbsterklärung C: Genau I: Oder Selbstverpflichtung nicht viel dazu beigetragen haben diese Angst beiseite zu schieben zumindest nicht, indem sie aufgeklärt haben. Wir haben versucht bei netzpolitik.org in einer längeren Recherche so ein bisschen zu zeigen, welche Methoden setzen eigentlich die Parteien ein, auch wie viel Geld setzen sie ein für Online-Campaigning beispielsweise und für Targeted Advertising. Man muss es sagen wir sind da eigentlich gegen Wände gerannt. C: Ingo hat die einfach mal gefragt. Die sind ja nicht nur diejenigen die die Regulierung entscheiden, sondern auch selber dafür Gelder einsetzen. Also hat sich Ingo hingesetzt und hat die alle mal angeschrieben hat er gesagt: "Ey Freunde sach mal, leg die mal offen" nicht nur wie viel, sondern auch wem und mit welchem Ziel ihr versucht diese Kampagnen zu fahren, die sich Desinformation nennen will sollen erst mal Wahlwerbung. Die Ergebnisse sind relativ eindeutig nämlich fast Null. I: Genau fast null. Man muss eben sagen, die Grünen sind diejenigen die tatsächlich Aufklärung oder die am offensten waren in der Kommunikation. Die Linken haben auch relativ viel Einblick gegeben und haben relativ offen darüber gesprochen. Aber FDP, AfD, CDU und SPD waren extrem verschlossen darüber und haben eben wenig dazu beigetragen eigentlich für Aufklärung zu sorgen an der Stelle. Wir wollen es noch mal runter dampfen weil wir eben gesagt haben es geht ja eigentlich nicht um die Beispiele und einzelnen Akteure sondern es geht um die Methoden mit welchen Methoden der Manipulation müssen wir denn rechnen. Worauf müssen wir achten oder worauf sollte man es einstellen, wenn wir an die Europawahl 2019 denken. Haben Sie einfach nochmal so ein bisschen versucht aufzuschreiben das Verführen also die auf individuelle Persönlichkeitsprofile zugeschnittenen Botschaften. C: Wir wollen damit nicht unbedingt sagen, dass irgendwie der Einzelne weder jetzt plötzlich die Aufgabe kriegt. So sind doch unsere Forderungen die wir bringen wollen nicht gestaltet aber auch diejenigen, die darüber berichten oder die betroffen sind müssen sich natürlich irgendwie mit den Methoden der versuchten Manipulation auseinandersetzen. Also soll ich jetzt nicht sagen der Einzelne soll darauf achten, sondern wir sind schon dafür dass wir eine politische Lösung dafür brauchen und auch eine gezielte Informationssendung. I: Genau diese Liste kann helfen. Wir gehen jetzt nicht nur im Einzelnen durch. Lasst uns mal kurz gucken auf die Maßnahmen, die in der EU bereits ergriffen wurden weil natürlich das Thema in der politischen Debatte auch ankommen ist. C: Zum einen gibt es seit Dezember gerade erst einen sogenannten Aktionsplan. Der ist natürlich ein bisschen größer geraten als nur Gegenmaßnahmen für Desinformationskampagnen zu finden, aber der Aktionsplan ist von der EU-Kommission der hat natürlich erst einmal überhaupt Maßnahmen ausgerollt und vorgeschlagen. Dabei blieb es dann. Denn es ist ja nicht so dass eine EU Regulierung jetzt eine Richtlinie oder Verordnung oder so wäre schnell durchzudrücken sei man hat quasi so eine Art Vorschläge unterbreitet und fordert die einzelnen Länder auf die umzusetzen, die sind aber größer als nur Desinformationen. Da geht es natürlich auch um IT-Sicherheit gar keine Frage weil man aus den vergangenen Desinformationskampagne natürlich auch schließen kann, dass strategische Hacks benutzt werden. Da geht es um die Schaffung von Stellen. Das heißt man versucht Informationen zu sammeln aber auch ganz gezielte Gegenpropaganda zu bezahlen das ist gerade aktuell den Briten auf die Nase gefallen. Denn in Großbritannien wird ganz intensiv darüber gestritten, dass einer von der britischen Regierung bezahlte Klitsche gegen den Oppositionschef eine Kampagne fährt man hat eigentlich Gegenpropaganda machen wollen und plötzlich hat man Jeremy Corbyn den Oppositionsführer quasi sein Ziel hat ihn als Putin-Versteher diskreditiert. Wo es große Aufregung im britischen Parlament gab es dieses Vorhaben jetzt bauen wir dieselben Strukturen zur Gegenpropaganda ist in mehreren Ländern schon gescheitert und im britischen Fall kurz ansprach hat, kann man auch gerne nachlesen, dass die Institute of Statecraft gab es auch eine parlamentarische Debatte darüber im Dezember hat schon Auswirkungen auf andere Länder denn die haben auch gleich noch Spanien getargetet wo ihnen von der Regierung benannte Geheimdienstchef nicht gepasst hat da haben sie dieselben Methoden für ein auslãndische Land angewandt. Wir sehen Der Aktionsplan ist erst mal schön gemeint besteht auch aus Methoden die ausgesprochen fragwürdig sind und ist natürlich in keiner Weise bindend sondern ist erst mal ein Vorschlag und wird viele politischen Parteien überhaupt nicht interessieren weil sie diese Maßnahmen selber nämlich benutzen wollen. I: Was man mal positiv an der Stelle zumindest bei diesem Aktionsplan sagen muss, natürlich die EU-Kommission ja die EU hat überhaupt wenige Befugnisse in dem Bereich. Aber ein erster Schritt natürlich viel zu spät ist aber überhaupt erst einmal ein Monitoring der sozusagen dieser Manipulation Mehoden und des Themas Desinformation zu machen. Bei einem ersten Treffen im Jahr im Frühjahr 2018 musste die EU feststellen die Wahlbehörden beispielsweise in den Ländern sind vollkommen blank bei diesem Thema, das findet einfach nicht statt. C: Das wurde teilweise nicht beantwortet, den Katalog, die haben manchmal gar nicht antwortet auf die Fragen. Nicht nur, dass sie nichts hatten, sie haben auch keine Fragen beantwortet oder Maßnahmen angekündigt. Dazu sagen wir wollen mal auf die Forderungen. I: Wir nennen noch einmal der Vollständigkeit halber dass das EU- Parlament auch Forderungen allerdings unverbindliche zu dem Themenkomplex verabschiedet hat die finden sich in unserer Leseliste aber auf die gehen wir nicht mehr ein sondern wir kommen jetzt mal auf unsere Forderungen zum Schluss. Was... C: Die erste ...es müssen wir angesichts der doch ziemlich polarisierender Debatte um die Datenschutzgrundverordnung nochmal feststellen. Diese Form von in Europa harmonisiert im Datenschutz ist ein Manipulation Schutz. Denn wenn die einzelnen Länder in Europa feststellen, dass die Art wie politische Campaigning mit den verschiedenen Daten Arten über die Werbeplattform durchgeführt wird jetzt nicht mehr rechtmäßig ist, das ist ein strategischer Vorteil in Europa, wo wir so viele Wahlen haben um zumindest eine Möglichkeit zu haben aufzudecken wenn jemand hintenrum manipulieren will mit einer politischen Kampagne. Und so müssen wir den Datenschutz auch anders sehen als früher. Ist Manipulation Schutz und wird es in Zukunft sogar noch stärker werden denn unsere Profile dazu Tracking werden wir bei Frederike gestern gelernt. Er nimmt ja in einem Maße zu auch dann wenn wir keine Facebook-Opfer sind uns da keine Kunasek gelegt haben. Und wer von euch Google frei ist sind wahrscheinlich nicht so viele in diesem Raum. Da hat sich das glaube ich verschoben in der Wahrnehmung und da sollten wir auch darauf bestehen, dass wir diesen Datenschutz so sehen. Aber wir haben natürlich noch ein paar konkretere Forderungen die wir ganz gerne in Europa hätten I: Die wir in den letzten zwei Minuten bekommen noch durchgehen. Ein großer Block ist natürlich das Thema Transparenz, weil wir feststellen können, dass Wahlkampf hat natürlich immer oder politische Kommunikation hat natürlich immer etwas mit Manipulation oder zumindest was mit Überzeugung zu tun. Aber was wir sehen können ist, dass die digitalen Plattformen mit ihren Tools es ermöglichen, dass eine ganz krasse Asymmetrie entsteht zwischen denjenigen die politische Kommunikation betreiben und manipulieren wollen und denjenigen die manipuliert werden. Deshalb ist es unbedingt notwendig für Transparenz zu sorgen, also beispielsweise dass politische Werbung entsprechend gekennzeichnet ist da wo sie ausgespielt wird, für alle immer nachvollziehbar. Mit einer Kennzeichnung oder zumindest der Möglichkeit sich das anzuschauen. Wer ist eigentlich die Person die mich hier erreicht. Wer finanziert diese Anzeige. C: Und dazu würde natürlich auch eine Information-Sammlung zählen nicht nur sondern umfassend Transparenz-Register sondern auch welche Anbieter bieten Dienstleistungen auf der Anbieterseite an, welche sind das und welche einzelne Dienste werden benutzt mit welchen Geldern. Es gibt in manchen Ländern, die Briten haben wir etwa erhoben. Das ist ganz interessant weil man auch über die Daten von 2016/17/18 sieht wohin die Gelder verschoben werden und ob zum Beispiel unter Crossdevicing fällt und bei welchem Konzern es landet mit welchen Summen wir reden etwa zuletzt von 3,2 Millionen Pfund also gar nicht so wenig. Diese Daten gibt es in Deutschland nicht. Wir wissen nicht die Anbieterseite und wir wissen in Deutschland zum Beispiel nicht wie viel wofür ausgegeben wird. Sollten wir ändern würde aber bedeuten, dass man in Deutschland insbesonders Parteiengesetz ändern muss. Denn da stehen die wesentlichen Regelungen drin für die Transparenz bei der Parteienfinanzierung. Die sind ja okay in Deutschland aber beziehen sich ja nicht so sehr darauf wohin diese ganze Gleichheit zwischen Kandidaten, sodass man ihnen wie man es im Fernsehen hat, gleiche Möglichkeiten einräumt die sind in Deutschland im Rundfunkstaatsvertrag geregelt. Der umfasst aber diese Werbekonzerne gar nicht. Diese Gleichheit der Kandidaten, dass sie also in gleicher Weise an die Wähler herankommen ist so nicht gegeben bei diesen Werbeplattformen. Genau das Recht ist das eine. Das andere ist aber auch dass wir als Wählerinnen und Wähler die Parteien in die Pflicht nehmen sollten. Also es kann eigentlich nicht sein dass sie icht darüber Auskunft geben wie viel Geld sie und woher das Geld kommt aber wie viel Geld sie ausgeben für bestimmte Maßnahmen und nach welchen Kriterien sie welche Gruppen eigentlich ansprechen mit welchen Botschaften. Dass man denen da immer hinterherlaufen muss, dass man kaum dazu kommt, kann nicht sein sondern sie müssen proaktiv dazu gebracht werden Transparenz und Fakten voranzubringen. Genau, zu psychometrisches Profiling im politischen Kontext ohnehin schwierig. C: Diese Art von Verhaltensauswertung; Ich hätte nichts dagegen wenn das vor allen Dingen politische Campaigning vor allem für bestimmte besonders anfällige Bevölkerungsgruppen die besonders schutzbedürftig sind einfach nicht mehr erlaubt wird. I: Wir machen den letzten Punkt insgesamt das Ökosystem, dieses Informationökosystem indem die politische Öffentlichkeit heute stattfindet auf den digitalen Plattformen wie Facebook und Google bilden inzwischen eine Form der Manipulations-Industrie die nicht durch kleinere Maßnahmen. Sicherlich ist es wichtig in kleineren Maßnahmen Transparenz und Verantwortlichkeit herzustellen, aber das Grundproblem ist diese Manipulations-Industrie die diese Tools von vornherein mitliefert und die ein hohes Missbrauchspotenzial haben die in die Verantwortung genommen werden muss und eigentlich überwunden werden muss. klatschen C: Im übrigen Applaus Und jetzt der letzte Satz Applaus C: Weil wir jetzt an Ende hetzen müssen, wir werden noch einmal darüber schreiben und über die Forderung die wir jetzt nicht so genau beschrieben haben schriftlich uns bei netzpolitik.org äußern. Im übrigen sind wir der Meinung, dass Facebook und Google zerschlagen werden müssen. Vielen Dank! klatschen 35C3 Outro Untertitel erstellt von c3subtitles.de im Jahr 2020. Mach mit und hilf uns!