[Sinan Aral] Am 23. April 2013,
veröffentlichte die "Associated Press" den folgenden Tweet auf Twitter:
"Eilmeldung: 2 Explosionen im Weißen Haus, Barack Obama wurde verletzt."
Dieser Tweet wurde in weniger als 5 Minuten 4.000 Mal retweetet
und verbreitete sich anschließend viral.
Dieser Tweet war keine echte Neuigkeit, von der Associated Press herausgegeben,
sondern eine Falschnachricht, Fake News, von syrischen Hackern verbreitet,
die den Twitter-Account der Associated Press übernommen hatten.
Ihr Ziel war, die Gesellschaft zu stören, aber sie störten viel mehr.
Weil automatisierte Handelsalgorithmen
sofort die Stimmungslage dieses Tweets erfassten,
und Börsengeschäfte ausführten, die auf der Annahme beruhten,
dass der Präsident der USA in der Explosion verletzt oder getötet wurde.
Als sie anfingen zu tweeten, stürzte sofort die Börse ein,
und 140 Milliarden Dollar Aktienkapital wurden an einem einzigen Tag ausgelöscht.
Robert Mueller, US Sonderstaatsanwalt,
erhob Anklage gegen drei russische Firmen und 13 russische Personen,
wegen einem Zusammenschluss zum Betrug der Vereinigten Staaten,
durch Einmischung in die Präsidentschaftswahl 2016.
Was uns diese Anklage erzählt,
ist die Geschichte der Internet Research Agency,
eine undurchsichtige Abteilung des Kremls, die auf sozialen Netzwerken tätig ist.
Allein bei der Präsidentschaftswahl, erreichte die Internet Research Agency
in den Vereinigten Staaten auf Facebook 126 Milionen Menschen,
veröffentlichte 3 Millionen Einzel-Tweets und 43 Stunden YouTube-Inhalte.
Alles war gefälscht --
Falschinformationen, deren Ziel es war, Uneinigkeit in die Wahl zu bringen.
Laut einer aktuellen Studie der Universität Oxford,
war bei den letzten Wahlen in Schweden, ein Drittel aller Informationen zur Wahl,
die auf Social Media verteilt wurden, falsch oder Fehlinformationen.
Solche Fehlinformationskampagnen auf sozialen Kanälen,
können zur Verbreitung sogenannter "Völkermord-Propaganda" beitragen,
wie die gegen die Rohingya in Birma, welche Mob-Morde in Indien auslöste.
Wir erforschten Fake-News, lange bevor es ein bekannter Begriff war.
In der diesjährigen März-Ausgabe des "Science" Magazins,
veröffentlichten wir die größte Lanzeitstudie
zur Verbreitung von Fehlinformationen online.
Wir untersuchten alle überprüften, wahren und falschen Nachrichten,
die seit der Gründung 2006 bis 2017 auf Twitter verbreitet wurden.
Als wir diese Daten erforschten, untersuchten wir überprüfte Nachrichten,
die von 6 unhabhängigen Organisationen im Faktencheck verifiziert wurden.
Wir wussten also, welche Geschichten wahr waren und welche falsch.
Wir können ihre Ausbreitung messen, ihre Geschwindigkeit, Tiefe und Breite.
Wieviele Leute sich in dieser Kaskade von Informationen verwickeln usw.
Wir vergleichten in dieser Studie
die Ausbreitung der wahren Nachrichten mit der Ausbreitung der falschen.
Hier ist unser Ergebnis:
Wir fanden heraus, dass falsche News sich weiter, schneller, tiefer und breiter
verbreiten als die Wahrheit,
in allen Kategorien, die wir untersuchten,
manchmal mit großen Unterschieden.
Falsche politische Nachrichten waren besonders viral.
Sie verbreiteten sich weiter, schneller, tiefer und breiter
als alle Arten von Falschnachrichten.
Als wir das sahen, waren wir sofort beunruhigt, aber auch neugierig.
Warum?
Warum verbreiten sich falsche Nachrichten weiter, schneller,
tiefer und breiter als die Wahrheit?
Unsere erste Hypothese war:
Vielleicht haben Leute, die falsche Nachrichten verbreiten, mehr Anhänger,
folgen mehr Leuten, tweeten öfter,
vielleicht sind sie öfter "verifizierte" Twitter-Nutzer, mit mehr Glaubwürdigkeit,
oder vielleicht waren sie bereits länger auf Twitter?
Also überprüften wir jede dieser Theorien.
Was wir herausfanden, war das Gegenteil:
Fake-News-Verbreiter hatten weniger Abonnenten,
folgten weniger Leuten, waren weniger aktiv,
seltener "verifiziert" und alle waren seit kürzerer Zeit auf Twitter.
Und dennoch war es 70% wahrscheinlicher, dass Falschmeldungen retweetet werden,
als die Wahrheit, trotz dieser und vieler weiterer Faktoren.
Also mussten wir andere Erklärungen finden.
Wir haben uns etwas überlegt, das wir "Neuheit-Hypothese" nennen.
In der Forschung ist bekannt,
dass die menschliche Aufmerksamkeit von Neuem angezogen wird,
von Dingen, die in der Umwelt neu sind.
Wenn Sie Soziologieforschung lesen,
wissen Sie, dass wir diese neuen Informationen gerne teilen.
Wir sehen so aus, als hätten wir Zugang zu Insider-Informationen
und unser Status wächst, weil wir solche Informationen teilen.
Wir haben dann gemessen,
welchen Neuheitswert ein neuer, wahrer oder falscher Tweet hatte,
auf der Basis von anderen Inhalten,
die der User, 60 Tage vorher auf Twitter gesehen hatte.
Aber das war nicht genug, weil wir uns dachten:
Vielleicht sind falsche Nachrichten neuer im informationstheoretischen Sinne,
aber vielleicht empfinden es die Leute nicht als neuer.
Um die Wahrnehmung der Leute von Falschnachrichten zu verstehen,
sahen wir uns die Informationen und die Stimmungen an,
die in den Antworten auf wahre und falsche Tweets vorherrschten.
Unter verschiedenen Stimmungskategorien --
Überraschung, Abscheu, Angst, Trauer,
Vorfreude, Freude und Vertrauen --
fanden wir bei Falschnachrichten deutlich häufiger Überraschung und Abscheu
in den Kommentaren zu falschen Tweets .
Wahre Nachrichten zeigen deutlich mehr
Vorfreude, Freude und Vertrauen
in den Antworten zu wahren Tweets.
Die 'Überraschung' bestätigt unsere Neuheit-Hypothese.
Das ist neu und überraschend, also teilen wir es eher.
Zur gleichen Zeit gab es Anhörungen im US Kongress,
vor beiden Häusern des Kongress, welche sich mit der Rolle von Bots
bei der Verbreitung von Falschinformationen beschäftigt haben.
Also haben wir uns auch das angeschaut:
Wir haben mehrere ausgefeilte Bot-Erkennungsalgorithmen verwendet,
um die Bots in unseren Daten zu finden und herauszufiltern.
Wir haben sie enfernt und wieder eingefügt und haben dann verglichen,
was mit unseren Ergebnissen passiert.
Wir fanden heraus, dass Bots tatsächlich die Verbreitung von Falschnachrichten
im Internet beschleunigt haben,
die Verbreitung wahrer Nachrichten aber ungefähr genauso viel.
Was bedeutet, dass Bots nicht dafür verantwortlich sind,
dass sich Wahres und Falsches online verschieden verbreiten.
Wir können die Verantwortung dafür nicht abgeben,
weil wir Menschen für diese Verbreitung verantwortlich sind.
Alles was ich Ihnen bisher erzählt habe -- ist für uns alle, leider,
die gute Nachricht.
Der Grund dafür ist, dass es noch viel schlimmer wird.
Zwei bestimmte Technologien werden es noch schlimmer machen.
Wir werden den Anstieg einer enormen Welle an synthetischen Medien sehen.
Manipulierte Video- und Audiodateien, die auf Menschen sehr überzeugend wirken.
Und dies wird von zwei Technologien vorangetrieben.
Die erste davon ist bekannt als 'Generative Adversarial Networks'.
Das ist ein Modell für machinelles Lernen mit zwei Netzwerken:
einem Diskriminator,
dessen Aufgabe es ist, zu bestimmen, ob etwas wahr oder falsch ist,
und einem Generator,
dessen Aufgabe es ist, synthetische Medien zu produzieren.
Der synthetische Generator produziert also synthetische Videos oder Audio,
und der Diskriminator versucht zu erkennen, ob es echt oder fake ist.
Es ist sogar die Aufgabe des Generators, die Wahrscheinlichkeit zu erhöhen,
dass es den Diskriminator täuscht,
sodass er glaubt, dass das produzierte synthetische Video oder Audio wahr ist.
Stellen Sie sich eine Maschine vor, die in einer Endlosschleife versucht,
besser und besser darin zu werden, uns zu täuschen.
Dies, in Verbindung mit der zweiten Technologie,
die im Wesentlichen die Demokratisierung von künstlicher Intelligenz für alle ist.
Die Möglichkeit für jeden,
ohne Kenntnisse in künstlicher Intelligenz oder maschinellem Lernen
diese Algorithmen zu verwenden, um synthetische Medien zu generieren,
macht es so viel einfacher Videos zu produzieren.
Das Weisse Haus veröffentlichte ein falsches, bearbeitetes Video
eines Journalisten und einer Praktikantin, die ihm das Mikrofon wegnehmen wollte.
Sie haben Einzelbilder aus dem Video herausgeschnitten,
damit sein Verhalten dramatischer wirkt.
Als Videofilmer, Stunt-Männer und -Frauen zu diese Technik befragt wurden,
sagten sie: "Ja, wir benutzen das in unseren Filmen ständig,
um unsere Schläge und Tritte schneller und agressiver aussehen zu lassen."
Sie haben dieses Video veröffentlicht
und es als Rechtfertigung benutzt, um dem Jornalisten Jim Acosta
den Presseausweis des Weissen Hauses zu entziehen.
CNN musste klagen, um den Presseausweis zurückzuerhalten.
Meiner Meinung nach, gibt es fünf verschiedene Wege, die wir gehen können,
um zu versuchen, einige dieser schwierigen Probleme anzugehen.
Sie haben alle Potenzial, aber jeder davon hat auch eigene Herausforderungen.
Der erste Weg ist Kennzeichnung. Stellen Sie sich das so vor:
Wenn Sie im Supermarkt Lebensmittel kaufen,
ist es umfangreich beschriftet.
Sie wissen wieviele Kalorien es hat, wieviel Fett es enthält,
aber wenn wir Informationen aufnehmen, haben wir keinerlei Kennzeichnung.
Was enthält diese Information?
Ist die Quelle glaubwürdig?
Woher kommt diese Information?
Wir haben keine dieser Antworten, wenn wir Informationen konsumieren.
Das ist ein möglicher Weg, aber er hat auch Herausforderungen.
Zum Beispiel, wer in der Gesellschaft entscheidet, was wahr oder falsch ist?
Sind es die Regierungen? Ist es Facebook?
Ist es ein unabhängiger Verbund von Faktenprüfern?
Und wer überprüft die Faktenprüfer?
Ein weiterer möglicher Weg sind Anreize.
Wir wissen, dass es während der US-Präsidentschaftswahl
eine Welle von Falsch-Informationen aus Mazedonien gab,
welche kein politisches Motiv verfolgten, sondern ein wirtschafliches.
Dieses wirtschaftliche Motiv existierte, weil sich falsche Nachrichten
viel weiter, schneller, und tiefer verbreiten als die Wahrheit.
Und man kann Werbeeinnahmen erzielen,
durch die Aufmerksamkeit, die diese Art von Information generieren kann.
Aber wenn wir die Verteilung dieser Informationen unterdrücken könnten,
würde es vielleicht den wirtschaflichen Anreiz reduzieren,
diese überhaupt erst zu produzieren.
Drittens können wir über Regulierungen nachdenken.
Und wir sollten definitiv über diese Option nachdenken.
In den USA wird aktuell erforscht, was passieren könnte,
wenn Facebook und andere kontrolliert würden.
Während wir uns überlegen sollten, politische Rede zu regulieren,
sie als politische Rede zu kennzeichnen, und sicherzustellen,
dass ausländische Akteure politische Rede nicht finanzieren können,
so birgt diese Regulierung auch Gefahren.
Zum Beispiel hat Malaysia kürzlich eine Gefängnisstrafe von 6 Jahren eingeführt,
für jeden, der überführt wird, falsche Informationen verbreitet zu haben.
In autoritären Regimes können solche Vorschriften genutzt werden,
um Meinungen von Minderheiten zu unterdrücken
und Unterdrückung weiter auszuweiten.
Die vierte Option ist Transparenz.
Wir möchten wissen, wie die Algorithmen von Facebook funktionieren.
Wie arbeiten Daten mit den Algorithmen zusammen,
um die Ergebnisse zu produzieren, die wir sehen?
Wir möchten, dass sie ihren Mantel öffnen, und uns das Innenleben von Facebook zeigen
und wie es genau funktioniert.
Wenn wir wissen wollen, wie sich soziale Medien auf die Gesellschaft auswirken,
müssen Wissenschaftler, Forscher und andere
Zugriff auf solche Informationen erhalten.
Aber gleichzeitig möchten wir,
dass Facebook alles abriegelt, um diese Daten zu sichern.
Das heißt, Facebook und die anderen Social Media Plattformen
unterliegen einem, wie ich es nenne, "Transparenz-Paradox",
Wir bitten sie, offen und transparent und gleichzeitig sicher zu sein.
Das ist eine sehr knifflige Aufgabe, welche aber gelöst werden muss,
wenn wir das Potenzial von sozialen Technologien ausschöpfen wollen,
aber gleichzeitig die Risiken abwenden wollen.
Das letzte worüber wir nachdenken könnten, sind Algorithmen und maschinelles Lernen.
Technologien, die Fake News entlarven,
die verstehen, wie sie sich verbreiten, und dann versuchen, sie einzudämmen.
Menschen müssen über diese Technologien auf dem Laufenden sein,
weil wir der Tatsache nicht entkommen,
dass hinter jeder technischen Lösung oder Herangehensweise
eine fundamentale ethische und philosophische Frage steht:
Wie definieren wir Wahrheit und Unwahrheit?
Wem geben wir die Macht, Wahrheit und Unwahrheit zu definieren?
Welche Meinungen sind gerechtfertigt?
Welche Arten von Aussagen sind erlaubt?
Technologie ist hierfür keine Lösung.
Ethik und Philosophie haben Lösungen dafür.
Fast alle Theorien menschlicher Entscheidungsfindung,
menschlicher Zusammenarbeit und menschlicher Koordinierung,
haben in ihrem Kern eine Vorstellung von Wahrheit.
Aber mit dem Anstieg von Fake News,
dem Anstieg gefälschter Videos
und dem Anstieg gefälschter Audiodateien,
stehen wir am Abgrund vom Ende der Realität,
wo wir nicht mehr unterscheiden können, was wahr und was falsch ist.
Und das kann sehr gefährlich sein.
Wir müssen sicherstellen, die Wahrheit gegenüber Fehlinformation zu verteidigen.
Mit unseren Technologien, mit unseren Richtlinien
und vielleicht am wichtigsten,
mit unserer eigenen, persönlichen, Verantwortung, unserem Verhalten,
unseren Entscheidungen und Handlungen.
Vielen Dank.
(Applaus)