YouTube

Got a YouTube account?

New: enable viewer-created translations and captions on your YouTube channel!

German subtitles

← Wie Deepfakes die Wahrheit untergraben und die Demokratie bedrohen

Get Embed Code
16 Languages

Showing Revision 22 created 11/16/2019 by Sonja Maria Neef.

  1. [Dieser Vortrag besteht
    aus Inhalten für Erwachsene]
  2. Rana Ayyub ist Journalistin in Indien,

  3. die Korruption der Regierung
    und Menschenrechtsverletzungen aufdeckte.
  4. Im Verlauf der Jahre
  5. gewöhnte sie sich an die Giftigkeit
    und den Streit um ihre Arbeit.
  6. Aber nichts konnte sie darauf vorbereiten,
    womit man sie im April 2018 konfrontierte.
  7. Sie saß mit einem Freund in einem Café,
    als sie es zum ersten Mal sah:

  8. ein zwei Minuten und 20 Sekunden
    langes Video mit ihr beim Sex.
  9. Sie konnte ihren Augen nicht trauen.
  10. Sie hatte niemals ein Sex-Video gemacht.
  11. Aber leider würden Tausende
    und Abertausende glauben, sie wäre es.
  12. Vor etwa drei Monaten
    interviewte ich Frau Ayyub,

  13. wegen meines Buches
    über sexuelle Privatsphäre.
  14. Ich bin Jura-Professorin,
    Anwältin und Bürgerrechtlerin.
  15. Es ist unglaublich frustrierend zu wissen,
  16. dass das Recht im Moment
    sehr wenig tun kann, um ihr zu helfen.
  17. Als wir miteinander sprachen,
    erklärte sie mir,
  18. dass sie das gefälschte Sex-Video
    hätte kommen sehen sollen.
  19. Sie sagte: "Sex wird so oft benutzt,
    um Frauen zu erniedrigen und zu beschämen.
  20. Besonders Frauen, die
    einer Minderheit zugehören
  21. und solchen, die es wagen,
    mächtige Männer herauszufordern."
  22. So wie sie es durch ihre Arbeit tat.
  23. Das gefälschte Sex-Video
    verbreitete sich viral in 48 Stunden.
  24. All ihre Online-Kontos wurden
    mit Screen-Shots des Videos geflutet,
  25. mit Todesdrohungen,
    von grausamer Vergewaltigung
  26. und Herabsetzung
    ihres muslimischen Glaubens.
  27. Online-Kommentare deuteten an,
    sie sei für Sex "verfügbar".
  28. Sie wurde "gedoxed",
  29. was bedeutet, dass ihre Privatadresse
    und ihre Handynummer
  30. im Internet verbreitet wurden.
  31. Das Video wurde
    mehr als 40.000 Mal geteilt.
  32. Wenn jemand zum Ziel dieser Art
    von Cybermobbing-Angriff wird,

  33. ist der Schaden tiefgreifend.
  34. Das Leben von Rana Ayyub
    wurde auf den Kopf gestellt.
  35. Wochenlang konnte sie kaum
    essen oder sprechen.
  36. Sie hörte auf zu schreiben und schloss
    alle ihre Konten auf Sozialen Medien,
  37. was heikel ist, wenn man Journalistin ist.
  38. Sie fürchtete sich davor,
    das Haus ihrer Familie zu verlassen.
  39. Was wenn die Postenden
    ihre Drohungen wahr machen?
  40. Der UN-Menschenrechtsrat bestätigte,
    dass sie nicht verrückt war.
  41. Er gab eine öffentliche Stellungnahme
    mit der Aussage,
  42. dass sie um ihre Sicherheit besorgt seien.
  43. Rana Ayyub sah sich
    mit einem Deepfake konfrontiert:

  44. Lernfähige Technologie,
  45. die Ton- und Videoaufnahmen
    manipuliert oder erstellt,
  46. um Leute zu zeigen,
    wie sie etwas tun oder sagen,
  47. dass sie niemals taten oder sagten.
  48. Deepfakes erscheinen glaubwürdig
    und lebensecht zu sein,
  49. das sind sie aber nicht.
  50. Sie sind totale Lügen.
  51. Obwohl die Technologie
    weiter verfeinert wird,
  52. ist sie weit verbreitet.
  53. Deepfakes erregten zuletzt Aufmerksamkeit,

  54. wie so viele Dinge online,
  55. durch Pornographie.
  56. Anfang 2018 postete jemand
    ein Tool auf Reddit,

  57. um Nutzern zu ermöglichen,
    Gesichter in Porno-Videos einzufügen.
  58. Es folgte eine Kaskade
    von gefälschten Porno-Videos
  59. mit den weiblichen Lieblingsprominenten.
  60. Heutzutage kann man auf YouTube gehen
  61. und auf zahllose Anleitungen
    mit schrittweisen Anweisungen zugreifen,
  62. wie man ein Deepfake
    mit der Desktop-Anwendung erstellt.
  63. Bald werden wir das vielleicht sogar
    auf dem Smartphone können.
  64. Es ist die Wechselwirkung
  65. zwischen einigen unserer grundlegendsten
    menschlichen Schwächen und Netzwerk-Tools,
  66. die Deepfakes in Waffen verwandeln können.
  67. Um es deutlicher zu machen:
  68. Als menschliche Wesen zeigen wir
    tiefsitzende Reaktionen auf Ton und Video.

  69. Wir glauben sie sind wahr.
  70. auf dem Gedanken basierend,
    dass man glauben kann,
  71. was die Augen und Ohren wahrnehmen.
  72. Dieser Mechanismus untergräbt vielleicht
    unseren gemeinsamen Sinn für Realität.
  73. Obwohl wir glauben, Deepfakes seien wahr,
  74. sind sie es nicht.
  75. Wir werden vom Obszönen,
    dem Provokativen angezogen.
  76. Wir neigen dazu Informationen
    zu glauben und zu teilen,
  77. die negativ und originell sind.
  78. Forscher fanden heraus,
  79. dass sich Online-Falschmeldungen
    zehnmal schneller verbreiten
  80. als zutreffende Geschichten.
  81. Es zieht uns auch zu Informationen,
    die sich mit unseren Ansichten decken.
  82. Psychologen nennen diese Neigung
    "Bestätigungstendenz".
  83. Social-Media-Plattformen
    übersteigern diese Neigung,
  84. indem sie uns ermöglichen,
  85. Informationen im Einklang
    mit unseren Ansichten
  86. sofort und weitläufig zu teilen.
  87. Deepfakes haben das Potential,

  88. ernsten Schaden persönlicher
    und gesellschaftlicher Art anzurichten.
  89. Stellen Sie sich einen Deepfake vor,
  90. der US-Soldaten in Afghanistan zeigt,
    wie sie einen Koran verbrennen.
  91. Man kann sich denken,
  92. dass dieser Deepfake zu Gewalt
    gegen die Soldaten führen würde.
  93. Und was, wenn direkt am nächsten Tag
  94. ein weiterer Deepfake geschickt wird,
  95. der einen bekannten Imam aus London zeigt
  96. und den Angriff auf diese Soldaten lobt?
  97. Wie erleben vielleicht Gewalt und Unruhen,
  98. nicht nur in Afghanistan
    und im Vereinigten Königreich,
  99. sondern überall auf der Welt.
  100. Sie sagen vielleicht zu mir:

  101. "Kommen Sie, Danielle,
    das ist weit hergeholt."
  102. Aber das ist es nicht.
  103. Wir erlebten, wie Lügen,
    die sich auf WhatsApp
  104. und weiteren Online-Nachrichten-
    Diensten verbreiteten,
  105. Gewalt gegen ethnische Minderheiten
    zur Folge gehabt haben.
  106. Und das war nur Text.
  107. Stellen Sie sich vor, es wäre ein Video.
  108. Deepfakes haben das Potential,

  109. das in demokratische Institutionen
    gesetzte Vertrauen, zu zersetzen.
  110. Denken Sie an die Nacht vor einer Wahl.
  111. Es gäbe ein Deepfake, das einen Kandidaten
    einer Volkspartei schwer krank zeigt.
  112. Der Deepfake könnte bei der Wahl
    den Ausschlag geben
  113. und unser Gefühl erschüttern,
    dass Wahlen rechtmäßig sind.
  114. Stellen Sie sich vor, in der Nacht
    vor einem Börsengang
  115. einer globalen Großbank,
  116. gäbe es einen Deepfake,
    der den Bankvorstand zeigt,
  117. wie er Verschwörungstheorien
    betrunken vom Stapel lässt.
  118. Das Deepfake könnte den Börsengang
    in sich zusammenbrechen lassen,
  119. und schlimmer noch,
  120. unser Gefühl erschüttern,
    dass die Finanzmärkte stabil sind.
  121. Deepfakes können das tiefe Misstrauen
    ausbeuten und verstärken,

  122. das wir schon gegenüber Politikern,
    Wirtschaftsführern
  123. und einflussreichen Personen hegen.
  124. Sie finden ein instruiertes
    gläubiges Publikum.
  125. Das Streben nach Wahrheit
    steht auch auf dem Spiel.
  126. Technologen erwarten, dass es
    mit dem Fortschritt in der KI
  127. bald schwierig, wenn nicht sogar
    unmöglich sein wird,
  128. zwischen einem echten Video
    und einem gefälschten zu unterscheiden.
  129. Wie kann auf einem Marktplatz der Ideen,

  130. der von Deepfakes beherrscht wird,
    die Wahrheit heraustreten?
  131. Gehen wir einfach weiter
    den Weg des geringsten Widerstandes
  132. und glauben, was wir glauben wollen?
  133. Die Wahrheit sei verflucht.
  134. Nicht nur, dass wir vielleicht
    der Fälschung glauben,
  135. wir beginnen vielleicht
    der Wahrheit zu misstrauen.
  136. Wir erlebten bereits Leute,
    die das Phänomen der Deepfakes anführen,
  137. um Zweifel an echten Beweisen
    zu ihrem Fehlverhalten zu sähen.
  138. Wir hörten Politiker, die über Aufnahmen
    ihrer verstörenden Kommentare sagten:
  139. "Kommen Sie, das sind 'Fake news'.
  140. Man kann nicht glauben, was die Augen
    und Ohren wahrnehmen."
  141. Das ist die Gefahr,
  142. die Professor Robert Chesney und ich,
    die "Dividende des Lügners" nennen:
  143. Die Gefahr, dass Lügner
    Deepfakes anführen,
  144. um der Rechenschaft
    für ihr Fehlverhalten zu entkommen.
  145. Wir müssen etwas Schwieriges schaffen,
    darüber besteht kein Zweifel.

  146. Wir werden eine vorausschauende Lösung
  147. von Technologie-Unternehmen,
    vom Gesetzgeber,
  148. von Gesetzeshütern
    und den Medien brauchen.
  149. Wir benötigen eine gesunde Dosis
    gesellschaftlicher Widerstandsfähigkeit.
  150. Wir sind gerade mit überaus
    öffentlichen Gesprächen
  151. über die Verantwortung
    von Technologie-Unternehmen beschäftigt.
  152. Mein Rat an Social-Media-Plattformen war,
  153. ihre Nutzungsbedingungen
    und die Gemeinschaftsleitlinien zu ändern,
  154. um Deepfakes zu sperren,
    die Schaden verursachen.
  155. Diese Feststellung wird
    menschliche Beurteilung erfordern
  156. und ist kostspielig.
  157. Aber wir brauchen menschliche Wesen,
  158. um den Inhalt und den Kontext
    von Deepfakes zu betrachten
  159. und herauszufinden, ob es
    eine schädliche Verkörperung
  160. oder stattdessen eine wertvolle Satire,
    Kunst oder Bildung ist.
  161. Was ist mit dem Recht?

  162. Das Recht ist unser Lehrer.
  163. Es lehrt uns, was gefährlich
    und falsch ist.
  164. Es formt Verhalten, es schreckt
    Täter ab, indem es bestraft,
  165. und garantiert Rechtsmittel für die Opfer.
  166. Zur Zeit ist das Recht nicht auf der Höhe
    der Herausforderung durch Deepfakes.
  167. Überall auf der Welt
  168. mangelt es an maßgeschneidertem Recht,
  169. das entworfen wäre,
    digitalen Identitätswechsel anzugehen,
  170. die in sexuelle Privatsphäre eindringt,
  171. die gute Namen beschädigt
  172. und emotionalen Schmerz verursacht.
  173. Was Rana Ayyub passierte,
    wird zunehmend zur Alltäglichkeit.
  174. Doch als sie sich an die Gesetzeshüter
    in Delhi wandte, sagte man ihr,
  175. es könnte nichts unternommen werden.
  176. Und die traurige Wahrheit ist:
  177. Das Gleiche gilt für Europa
    und die Vereinigten Staaten.
  178. Wir haben einen rechtsfreien Raum,
    der gefüllt werden muss.

  179. Meine Kollegin, Dr. Mary Anne Franks,
    und ich erarbeiten gemeinsam
  180. mit US-Gesetzgebern Gesetzestexte,
    die Identitätswechsel verbieten,
  181. der gleichbedeutend
    mit Identitätsdiebstahl ist.
  182. Wir haben ähnliche Schritte
  183. in Island, dem Vereinigten Königreich
    und Australien erlebt.
  184. Aber selbstverständlich ist das nur
    ein kleiner Teil des Regelungspuzzles.
  185. Ich weiß, dass Recht
    kein Allheilmittel ist, oder?

  186. Es ist ein stumpfes Instrument.
  187. Und wir müssen es weise einsetzen.
  188. Es hat auch einige praktische Hemmschuhe.
  189. Man kann Recht nicht gegen Leute nutzen,
  190. die man nicht identifizieren
    und auffinden kann.
  191. Wenn ein Täter nicht
    im Land des Opfers lebt,
  192. kann man vielleicht nicht darauf bestehen,
  193. dass der Täter zum Amtsgericht kommt,
    um sich der Gerechtigkeit zu stellen.
  194. Wir benötigen eine koordinierte
    internationale Antwort.
  195. Schulung muss auch ein Teil
    unserer Antwort sein.
  196. Gesetzeshüter setzen keine Gesetze durch,
  197. von denen sie nichts wissen
  198. und Probleme ansprechen,
    die sie nicht verstehen.
  199. Bei meiner Forschung
    zu Cyberstalking fand ich heraus,
  200. dass den Gesetzeshütern
    die Schulung fehlt,
  201. um die gültigen Gesetze und das Problem
    des Online-Missbrauchs zu verstehen.
  202. So oft wird den Opfern gesagt:
  203. "Schalten Sie einfach den Computer aus.
    Ignorieren Sie es. Es geht vorbei."
  204. Wir erlebten das im Fall von Rana Ayyub.
  205. Man sagte ihr: "Komm schon, Du machst
    so eine große Sache daraus.
  206. Jungs sind nun mal Jungs."
  207. Wir müssen also neue Gesetzgebung
    mit Schulungsmaßnahmen koppeln.
  208. Und Schulungen müssen auch
    auf die Medien gerichtet werden.

  209. Journalisten brauchen Schulungen
    zum Phänomen der Deepfakes,
  210. damit sie sie nicht verstärken
    und sie verbreiten.
  211. Das ist der Teil,
    wo wir alle beteiligt sind.
  212. Alle von uns brauchen Schulungen.
  213. Wir klicken, wir teilen, wir liken
    und denken noch nicht mal darüber nach.
  214. Wir müssen es besser machen.
  215. Wir brauchen für Fälschungen
    einen viel besseren Radar.
  216. Während wir uns
    durch die Lösungen arbeiten,

  217. liegt noch viel Leid vor uns.
  218. Rana Ayyub kämpft immer noch
    mit den negativen Folgen.
  219. Sie kann sich noch immer nicht ohne Zögern
    online und offline ausdrücken.
  220. Und wie sie mir sagte,
  221. fühlt sie immer noch, als starrten
    tausende Augen auf ihren nackten Körper,
  222. obwohl sie verstandesmäßig weiß,
    dass es nicht ihr Körper war.
  223. Sie hat häufige Panikattacken
  224. und besonders dann, wenn jemand,
    den sie nicht kennt, versucht,
  225. ein Foto von ihr zu machen.
  226. Sie denkt sich: "Was, wenn man
    ein anderes Deepfake machen wird?"
  227. Um Personen wie Rana Ayyub willen
  228. und um unserer Demokratie willen,
  229. müssen wir jetzt etwas unternehmen.
  230. Danke.

  231. (Applaus)