Wie wir die Wahrheit im Zeitalter der Fehlinformation schützen können

Gefälschte Nachrichten können Wahlen beeinflussen, die Wirtschaft schwächen und Zwietracht im Alltag säen.
Der Datenwissenschaftler Sinan Aral entmystifiziert, wie und warum sie sich so schnell verbreitet - und zitiert eine der größten Studien über Fehlinformationen - und identifiziert fünf Strategien, die uns helfen, das Geflecht zwischen wahr und falsch zu entwirren.

[Sinan Aral] Am 23. April 2013,

veröffentlichte die "Associated Press"
den folgenden Tweet auf Twitter:

"Eilmeldung: 2 Explosionen im Weißen Haus,
Barack Obama wurde verletzt."

Dieser Tweet wurde in weniger als
5 Minuten 4.000 Mal retweetet

und verbreitete sich anschließend viral.

Dieser Tweet war keine echte Neuigkeit,
von der Associated Press herausgegeben,

sondern eine Falschnachricht, Fake News,
von syrischen Hackern verbreitet,

die den Twitter-Account
der Associated Press übernommen hatten.

Ihr Ziel war, die Gesellschaft zu stören,
aber sie störten viel mehr.

Weil automatisierte Handelsalgorithmen

sofort die Stimmungslage
dieses Tweets erfassten,

und Börsengeschäfte ausführten,
die auf der Annahme beruhten,

dass der Präsident der USA in der
Explosion verletzt oder getötet wurde.

Als sie anfingen zu tweeten,
stürzte sofort die Börse ein,

und 140 Milliarden Dollar Aktienkapital
wurden an einem einzigen Tag ausgelöscht.

Robert Mueller, US Sonderstaatsanwalt,

erhob Anklage gegen drei russische
Firmen und 13 russische Personen,

wegen einem Zusammenschluss
zum Betrug der Vereinigten Staaten,

durch Einmischung
in die Präsidentschaftswahl 2016.

Was uns diese Anklage erzählt,

ist die Geschichte
der Internet Research Agency,

eine undurchsichtige Abteilung des Kremls,
die auf sozialen Netzwerken tätig ist.

Allein bei der Präsidentschaftswahl,
erreichte die Internet Research Agency

in den Vereinigten Staaten
auf Facebook 126 Milionen Menschen,

veröffentlichte 3 Millionen Einzel-Tweets
und 43 Stunden YouTube-Inhalte.

Alles war gefälscht --

Falschinformationen, deren Ziel es war,
Uneinigkeit in die Wahl zu bringen.

Laut einer aktuellen Studie
der Universität Oxford,

war bei den letzten Wahlen in Schweden,
ein Drittel aller Informationen zur Wahl,

die auf Social Media verteilt wurden,
falsch oder Fehlinformationen.

Solche Fehlinformationskampagnen
auf sozialen Kanälen,

können zur Verbreitung sogenannter
"Völkermord-Propaganda" beitragen,

wie die gegen die Rohingya in Birma,
welche Mob-Morde in Indien auslöste.

Wir erforschten Fake-News,
lange bevor es ein bekannter Begriff war.

In der diesjährigen März-Ausgabe
des "Science" Magazins,

veröffentlichten wir
die größte Lanzeitstudie

zur Verbreitung
von Fehlinformationen online.

Wir untersuchten alle überprüften,
wahren und falschen Nachrichten,

die seit der Gründung 2006 bis 2017
auf Twitter verbreitet wurden.

Als wir diese Daten erforschten,
untersuchten wir überprüfte Nachrichten,

die von 6 unhabhängigen Organisationen
im Faktencheck verifiziert wurden.

Wir wussten also, welche Geschichten
wahr waren und welche falsch.

Wir können ihre Ausbreitung messen,
ihre Geschwindigkeit, Tiefe und Breite.

Wieviele Leute sich in dieser Kaskade
von Informationen verwickeln usw.

Wir vergleichten in dieser Studie

die Ausbreitung der wahren Nachrichten
mit der Ausbreitung der falschen.

Hier ist unser Ergebnis:

Wir fanden heraus, dass falsche News sich
weiter, schneller, tiefer und breiter

verbreiten als die Wahrheit,

in allen Kategorien, die wir untersuchten,

manchmal mit großen Unterschieden.

Falsche politische Nachrichten
waren besonders viral.

Sie verbreiteten sich weiter,
schneller, tiefer und breiter

als alle Arten von Falschnachrichten.

Als wir das sahen, waren wir sofort
beunruhigt, aber auch neugierig.

Warum?

Warum verbreiten sich
falsche Nachrichten weiter, schneller,

tiefer und breiter als die Wahrheit?

Unsere erste Hypothese war:

Vielleicht haben Leute, die falsche
Nachrichten verbreiten, mehr Anhänger,

folgen mehr Leuten, tweeten öfter,

vielleicht sind sie öfter "verifizierte"
Twitter-Nutzer, mit mehr Glaubwürdigkeit,

oder vielleicht waren sie bereits
länger auf Twitter?

Also überprüften wir jede dieser Theorien.

Was wir herausfanden, war das Gegenteil:

Fake-News-Verbreiter hatten
weniger Abonnenten,

folgten weniger Leuten,
waren weniger aktiv,

seltener "verifiziert" und alle waren
seit kürzerer Zeit auf Twitter.

Und dennoch war es 70% wahrscheinlicher,
dass Falschmeldungen retweetet werden,

als die Wahrheit, trotz dieser
und vieler weiterer Faktoren.

Also mussten wir andere
Erklärungen finden.

Wir haben uns etwas überlegt,
das wir "Neuheit-Hypothese" nennen.

In der Forschung ist bekannt,

dass die menschliche Aufmerksamkeit
von Neuem angezogen wird,

von Dingen, die in der Umwelt neu sind.

Wenn Sie Soziologieforschung lesen,

wissen Sie, dass wir diese neuen
Informationen gerne teilen.

Wir sehen so aus, als hätten wir
Zugang zu Insider-Informationen

und unser Status wächst,
weil wir solche Informationen teilen.

Wir haben dann gemessen,

welchen Neuheitswert ein neuer,
wahrer oder falscher Tweet hatte,

auf der Basis von anderen Inhalten,

die der User, 60 Tage vorher
auf Twitter gesehen hatte.

Aber das war nicht genug,
weil wir uns dachten:

Vielleicht sind falsche Nachrichten
neuer im informationstheoretischen Sinne,

aber vielleicht empfinden es
die Leute nicht als neuer.

Um die Wahrnehmung der Leute
von Falschnachrichten zu verstehen,

sahen wir uns die Informationen
und die Stimmungen an,

die in den Antworten auf wahre
und falsche Tweets vorherrschten.

Unter verschiedenen Stimmungskategorien --

Überraschung, Abscheu, Angst, Trauer,

Vorfreude, Freude und Vertrauen --

fanden wir bei Falschnachrichten
deutlich häufiger Überraschung und Abscheu

in den Kommentaren zu falschen Tweets .

Wahre Nachrichten zeigen deutlich mehr

Vorfreude, Freude und Vertrauen

in den Antworten zu wahren Tweets.

Die 'Überraschung' bestätigt
unsere Neuheit-Hypothese.

Das ist neu und überraschend,
also teilen wir es eher.

Zur gleichen Zeit gab es
Anhörungen im US Kongress,

vor beiden Häusern des Kongress,
welche sich mit der Rolle von Bots

bei der Verbreitung von
Falschinformationen beschäftigt haben.

Also haben wir uns auch das angeschaut:

Wir haben mehrere ausgefeilte
Bot-Erkennungsalgorithmen verwendet,

um die Bots in unseren Daten zu finden
und herauszufiltern.

Wir haben sie enfernt und wieder eingefügt
und haben dann verglichen,

was mit unseren Ergebnissen passiert.

Wir fanden heraus, dass Bots tatsächlich
die Verbreitung von Falschnachrichten

im Internet beschleunigt haben,

die Verbreitung wahrer Nachrichten aber
ungefähr genauso viel.

Was bedeutet, dass Bots
nicht dafür verantwortlich sind,

dass sich Wahres und Falsches
online verschieden verbreiten.

Wir können die Verantwortung
dafür nicht abgeben,

weil wir Menschen für diese
Verbreitung verantwortlich sind.

Alles was ich Ihnen bisher erzählt habe --
ist für uns alle, leider,

die gute Nachricht.

Der Grund dafür ist, dass es noch
viel schlimmer wird.

Zwei bestimmte Technologien
werden es noch schlimmer machen.

Wir werden den Anstieg einer enormen Welle
an synthetischen Medien sehen.

Manipulierte Video- und Audiodateien,
die auf Menschen sehr überzeugend wirken.

Und dies wird von zwei
Technologien vorangetrieben.

Die erste davon ist bekannt als
'Generative Adversarial Networks'.

Das ist ein Modell für machinelles Lernen
mit zwei Netzwerken:

einem Diskriminator,

dessen Aufgabe es ist, zu bestimmen,
ob etwas wahr oder falsch ist,

und einem Generator,

dessen Aufgabe es ist,
synthetische Medien zu produzieren.

Der synthetische Generator produziert
also synthetische Videos oder Audio,

und der Diskriminator versucht
zu erkennen, ob es echt oder fake ist.

Es ist sogar die Aufgabe des Generators,
die Wahrscheinlichkeit zu erhöhen,

dass es den Diskriminator täuscht,

sodass er glaubt, dass das produzierte
synthetische Video oder Audio wahr ist.

Stellen Sie sich eine Maschine vor,
die in einer Endlosschleife versucht,

besser und besser darin
zu werden, uns zu täuschen.

Dies, in Verbindung mit
der zweiten Technologie,

die im Wesentlichen die Demokratisierung
von künstlicher Intelligenz für alle ist.

Die Möglichkeit für jeden,

ohne Kenntnisse in künstlicher
Intelligenz oder maschinellem Lernen

diese Algorithmen zu verwenden,
um synthetische Medien zu generieren,

macht es so viel einfacher
Videos zu produzieren.

Das Weisse Haus veröffentlichte
ein falsches, bearbeitetes Video

eines Journalisten und einer Praktikantin,
die ihm das Mikrofon wegnehmen wollte.

Sie haben Einzelbilder aus dem Video
herausgeschnitten,

damit sein Verhalten dramatischer wirkt.

Als Videofilmer, Stunt-Männer und -Frauen
zu diese Technik befragt wurden,

sagten sie: "Ja, wir benutzen das
in unseren Filmen ständig,

um unsere Schläge und Tritte schneller
und agressiver aussehen zu lassen."

Sie haben dieses Video veröffentlicht

und es als Rechtfertigung benutzt,
um dem Jornalisten Jim Acosta

den Presseausweis des Weissen
Hauses zu entziehen.

CNN musste klagen,
um den Presseausweis zurückzuerhalten.

Meiner Meinung nach, gibt es fünf
verschiedene Wege, die wir gehen können,

um zu versuchen, einige dieser
schwierigen Probleme anzugehen.

Sie haben alle Potenzial, aber jeder davon
hat auch eigene Herausforderungen.

Der erste Weg ist Kennzeichnung.
Stellen Sie sich das so vor:

Wenn Sie im Supermarkt
Lebensmittel kaufen,

ist es umfangreich beschriftet.

Sie wissen wieviele Kalorien es hat,
wieviel Fett es enthält,

aber wenn wir Informationen aufnehmen,
haben wir keinerlei Kennzeichnung.

Was enthält diese Information?

Ist die Quelle glaubwürdig?

Woher kommt diese Information?

Wir haben keine dieser Antworten,
wenn wir Informationen konsumieren.

Das ist ein möglicher Weg,
aber er hat auch Herausforderungen.

Zum Beispiel, wer in der Gesellschaft
entscheidet, was wahr oder falsch ist?

Sind es die Regierungen? Ist es Facebook?

Ist es ein unabhängiger Verbund
von Faktenprüfern?

Und wer überprüft die Faktenprüfer?

Ein weiterer möglicher Weg sind Anreize.

Wir wissen, dass es während
der US-Präsidentschaftswahl

eine Welle von Falsch-Informationen
aus Mazedonien gab,

welche kein politisches Motiv verfolgten,
sondern ein wirtschafliches.

Dieses wirtschaftliche Motiv existierte,
weil sich falsche Nachrichten

viel weiter, schneller, und tiefer
verbreiten als die Wahrheit.

Und man kann Werbeeinnahmen erzielen,

durch die Aufmerksamkeit, die
diese Art von Information generieren kann.

Aber wenn wir die Verteilung
dieser Informationen unterdrücken könnten,

würde es vielleicht
den wirtschaflichen Anreiz reduzieren,

diese überhaupt erst zu produzieren.

Drittens können wir über
Regulierungen nachdenken.

Und wir sollten definitiv über
diese Option nachdenken.

In den USA wird aktuell erforscht,
was passieren könnte,

wenn Facebook und andere
kontrolliert würden.

Während wir uns überlegen sollten,
politische Rede zu regulieren,

sie als politische Rede zu kennzeichnen,
und sicherzustellen,

dass ausländische Akteure politische Rede
nicht finanzieren können,

so birgt diese Regulierung auch Gefahren.

Zum Beispiel hat Malaysia kürzlich eine
Gefängnisstrafe von 6 Jahren eingeführt,

für jeden, der überführt wird,
falsche Informationen verbreitet zu haben.

In autoritären Regimes können
solche Vorschriften genutzt werden,

um Meinungen von Minderheiten
zu unterdrücken

und Unterdrückung weiter auszuweiten.

Die vierte Option ist Transparenz.

Wir möchten wissen, wie die Algorithmen
von Facebook funktionieren.

Wie arbeiten Daten
mit den Algorithmen zusammen,

um die Ergebnisse
zu produzieren, die wir sehen?

Wir möchten, dass sie ihren Mantel öffnen,
und uns das Innenleben von Facebook zeigen

und wie es genau funktioniert.

Wenn wir wissen wollen, wie sich soziale
Medien auf die Gesellschaft auswirken,

müssen Wissenschaftler,
Forscher und andere

Zugriff auf solche Informationen erhalten.

Aber gleichzeitig möchten wir,

dass Facebook alles abriegelt,
um diese Daten zu sichern.

Das heißt, Facebook und die anderen
Social Media Plattformen

unterliegen einem, wie ich es nenne,
"Transparenz-Paradox",

Wir bitten sie, offen und transparent
und gleichzeitig sicher zu sein.

Das ist eine sehr knifflige Aufgabe,
welche aber gelöst werden muss,

wenn wir das Potenzial von sozialen
Technologien ausschöpfen wollen,

aber gleichzeitig die Risiken
abwenden wollen.

Das letzte worüber wir nachdenken könnten,
sind Algorithmen und maschinelles Lernen.

Technologien, die Fake News entlarven,

die verstehen, wie sie sich verbreiten,
und dann versuchen, sie einzudämmen.

Menschen müssen über diese Technologien
auf dem Laufenden sein,

weil wir der Tatsache nicht entkommen,

dass hinter jeder technischen Lösung
oder Herangehensweise

eine fundamentale ethische
und philosophische Frage steht:

Wie definieren wir Wahrheit
und Unwahrheit?

Wem geben wir die Macht,
Wahrheit und Unwahrheit zu definieren?

Welche Meinungen sind gerechtfertigt?

Welche Arten von Aussagen sind erlaubt?

Technologie ist hierfür keine Lösung.

Ethik und Philosophie
haben Lösungen dafür.

Fast alle Theorien menschlicher
Entscheidungsfindung,

menschlicher Zusammenarbeit
und menschlicher Koordinierung,

haben in ihrem Kern eine
Vorstellung von Wahrheit.

Aber mit dem Anstieg von Fake News,

dem Anstieg gefälschter Videos

und dem Anstieg gefälschter Audiodateien,

stehen wir am Abgrund
vom Ende der Realität,

wo wir nicht mehr unterscheiden können,
was wahr und was falsch ist.

Und das kann sehr gefährlich sein.

Wir müssen sicherstellen, die Wahrheit
gegenüber Fehlinformation zu verteidigen.

Mit unseren Technologien,
mit unseren Richtlinien

und vielleicht am wichtigsten,

mit unserer eigenen, persönlichen,
Verantwortung, unserem Verhalten,

unseren Entscheidungen und Handlungen.

Vielen Dank.

(Applaus)