[Deze talk bevat inhoud voor volwassenen]
Rana Ayyub is een journaliste in India.
Ze onthulde corruptie bij de overheid
en schendingen van de mensenrechten.
Door de jaren heen
is ze aan gifspuiterij en controverse rond haar werk gewend geraakt.
Maar niets kon haar voorbereiden op wat ze in april 2018 tegenkwam.
Ze zat in een café met een vriend toen ze het voor het eerst zag:
een video van 2 minuten en 20 seconden
waarop zij bezig was met seks.
Ze kon haar ogen niet geloven.
Ze had nooit een seksvideo gemaakt.
Maar helaas geloofden duizenden en duizenden mensen dat zij het was.
Ik interviewde mevrouw Ayyub ongeveer drie maanden geleden
in verband met mijn boek over seksuele privacy.
Ik ben professor in de rechten, advocaat en ik kom op voor burgerrechten.
Daarom is het zo ongelooflijk frustrerend om weten dat op dit moment
de wet erg weinig doet om haar te helpen.
In ons gesprek
legde ze uit dat ze de nep-seksvideo had moeten zien aankomen.
Ze zei: "Seks wordt immers zo vaak gebruikt
om vrouwen te vernederen en te schande te maken,
vooral dan allochtone vrouwen,
en vooral allochtone vrouwen die machtige mannen durven uit te dagen,"
zoals zij door haar werk had gedaan.
De nep-seksvideo ging in 48 uur viraal.
Al haar online accounts werden overspoeld met screenshots van de video,
met grove dreigingen van verkrachting en moord
en met laster over haar islamitische geloof.
Online berichten suggereerden dat ze ‘beschikbaar’ was voor seks.
Ze werd ‘gedoxt’,
wat betekent dat haar adres en haar gsm-nummer
werden verspreid over het internet.
De video werd meer dan 40.000 keer gedeeld.
Als iemand zo’n aanval van een cyberbende moet ondergaan,
is de schade diepgaand.
Rana Ayyub's leven stond op zijn kop.
Wekenlang kon ze nauwelijks eten of spreken.
Ze stopte met schrijven en sloot al haar ‘social media’-accounts.
Erg moeilijk wanneer je journalist bent.
Ze was bang om buiten te komen.
Wat als de posters hun dreigementen zouden uitvoeren?
De VN-Raad voor de mensenrechten bevestigde dat ze niet gek was.
Ze legden een openbare verklaring af
waarin ze zich zorgen maakten over haar veiligheid.
Wat Rana Ayyub tegenkwam was een deepfake:
zelflerende technologie
die audio- en video-opnamen manipuleert of fabriceert
waarin mensen dingen doen en zeggen
die ze nooit gedaan of gezegd hebben.
Deepfakes lijken authentiek en realistisch, maar zijn het niet:
ze zijn helemaal onwaar.
Hoewel de technologie nog steeds verder wordt verfijnd,
is ze al op grote schaal beschikbaar.
De meest recente aandacht voor deepfakes ontstond,
zoals met zo veel dingen online,
met pornografie.
In het begin van 2018
rapporteerde iemand een tool op Reddit
om gebruikers gezichten te laten toevoegen in pornovideo's.
Daarop volgde een hoop fake pornovideo's
met favoriete vrouwelijke beroemdheden.
Vandaag vind je op YouTube talloze handleidingen
met stap-voor-stap instructies
om een deepfake te maken op je pc.
Binnenkort kan het zelfs op onze mobiele telefoons.
De combinatie van onze meest fundamentele menselijke zwakheden
met netwerktools
kan deepfakes veranderen in wapens.
Ik leg het uit.
Als mens hebben we een viscerale reactie op audio en video.
We geloven dat ze waar zijn
door het idee dat je uiteraard kunt geloven
wat je ogen en oren je vertellen.
Het is dat mechanisme
dat onze gezamenlijke realiteitszin zou kunnen ondermijnen.
Hoewel we van deepfakes geloven dat ze waar zijn, zijn ze het niet.
Het schunnige, het provocerende trekt ons aan.
We hebben de neiging
om negatieve en nieuwe informatie te geloven en te delen.
En onderzoekers hebben ontdekt
dat online hoaxes 10 keer sneller verspreid worden dan accurate verhalen.
We zijn ook aangetrokken tot informatie
die aansluit bij onze standpunten.
Psychologen noemen deze tendens ‘voorkeur voor bevestiging’.
Sociale media platformen versterken die tendens,
door ons informatie direct en op grote schaal te laten delen
als het overeenstemt met onze standpunten.
Deepfakes kunnen dus ernstige individuele en maatschappelijke schade veroorzaken.
Stel je een deepfake voor
waarin Amerikaanse soldaten in Afghanistan een Koran verbranden.
Je kunt je voorstellen dat die deepfake
geweld kan uitlokken tegen die soldaten.
En wat als de volgende dag
er nog een deepfake verspreid wordt
die een bekende imam in Londen toont
die de aanval op die soldaten prijst?
Het zou kunnen leiden tot geweld en burgerlijke onrust,
niet alleen in Afghanistan en het Verenigd Koninkrijk,
maar over de hele wereld.
En je zou me kunnen zeggen:
"Kom nou, Danielle, dat is vergezocht."
Maar dat is het niet.
We hebben onwaarheden zien verspreiden
op WhatsApp en andere online boodschappendiensten
die leidden tot geweld tegen etnische minderheden.
En dat was gewoon tekst --
stel je voor dat het video was.
Deepfakes kunnen het vertrouwen aantasten
dat we hebben in democratische instellingen.
Stel je de avond voor een verkiezing voor.
Een deepfake toont
een belangrijke partijkandidaat als ernstig ziek.
De deepfake kan de uitslag bepalen
en ons vertrouwen in de legitimiteit van verkiezingen doen wankelen.
Stel je voor dat op de avond voor een beursgang
van een grote internationale bank,
een deepfake een CEO van de bank toont
terwijl hij dronken samenzweringstheorieën spuit.
De deepfake kon de beursgang doen kelderen,
en erger, ons het gevoel geven dat de financiële markten onstabiel zijn.
Deepfakes kunnen dat benutten en het diepe wantrouwen vergroten
dat we al hebben
in politici, bedrijfsleiders en andere invloedrijke leiders.
Ze vinden een goedgelovig publiek.
Het streven naar waarheid staat ook op het spel.
Technologen verwachten dat met de vooruitgang in AI
het binnenkort moeilijk, zo niet onmogelijk, wordt
om het verschil te zien tussen een echte video en een nepvideo.
Hoe kunnen we dan nog waarheid vinden
in een door deepfake geteisterde ideeënwereld?
Kiezen we de weg van de minste weerstand
en geloven we wat we willen geloven?
De waarheid kan de pot op?
We zouden niet alleen gaan geloven in het bedrog,
maar ook aan de waarheid kunnen gaan twijfelen.
We zagen al dat mensen beroep deden op het fenomeen van de deepfakes
om echt bewijs over hun wangedrag in twijfel te trekken.
We hoorden politici over de opnames van hun uitschuivers al zeggen:
"Kom nou, dat is nepnieuws.
Je kan niet geloven wat je ogen en oren je vertellen."
Het is dat risico
dat professor Robert Chesney en ik het ‘leugenaarsdividend’ noemen:
het risico dat leugenaars deepfakes zullen inroepen
om aan de verantwoording voor hun wangedrag te ontsnappen.
We hebben werk voor de boeg, daar is geen twijfel over mogelijk.
We hebben een proactieve oplossing nodig
van tech-bedrijven, van wetgevers,
wetshandhavers en de media.
En we zullen een gezonde dosis sociale veerkracht nodig hebben.
Op dit moment is er een zeer publiek discussie gaande
over de verantwoordelijkheid van de tech-bedrijven.
Het was mijn advies aan de sociale media platformen
om hun dienstvoorwaarden en gemeenschapsrichtlijnen te veranderen
om schadelijke deepfakes te bannen.
Dat vereist menselijk oordeel
en dat is duur.
Maar we hebben mensen nodig
om naar de inhoud en context van een deepfake te kijken
om erachter te komen of het een schadelijke imitatie is
ofwel waardevolle satire, kunst of onderwijs.
Maar hoe zit het nu met de wet?
De wet is onze opvoeder.
Ze leert ons wat schadelijk en wat fout is.
Ze modelleert gedrag door het bestraffen van daders
en het beschermen van slachtoffers.
De wet kan de uitdaging van deepfakes nog niet aan.
Over heel de wereld
mankeren we op maat gesneden wetten
voor het aanpakken van digitale imitaties
die de seksuele privacy schenden,
reputaties beschadigen
en emotionele nood veroorzaken.
Wat Rana Ayyub overkwam, komt steeds meer voor.
Toen ze in Delhi om rechtshandhaving vroeg,
vertelden ze haar dat ze er niets aan konden doen.
En de trieste waarheid is dat hetzelfde waar zou zijn
in de Verenigde Staten en in Europa.
Dus hebben we een juridisch vacuüm dat moet worden ingevuld.
Mijn collega dr. Mary Anne Franks en ik werken samen met de Amerikaanse wetgevers
aan wetgeving die schadelijke digitale nabootsingen zou verbieden,
die gelijkstaan aan diefstal van identiteit.
We zagen vergelijkbare maatregelen
in IJsland, het Verenigd Koninkrijk en Australië.
Maar natuurlijk is dat nog maar een klein stuk van de regelgevingspuzzel.
Ik weet wel dat de wet geen wondermiddel is.
Ze is een bot instrument.
We zullen het verstandig moeten gebruiken.
Ze heeft ook een aantal praktische belemmeringen.
Je kunt de wet niet aanwenden tegen wie je niet kan identificeren of opsporen.
Als een dader in een ander land woont
dan het slachtoffer,
kan je misschien niet eisen dat de dader
voor de lokale rechtbanken verschijnt
voor gerechtigheid.
Dus gaan we een gecoördineerde internationale respons nodig hebben.
Ook onderwijs moet onderdeel zijn van ons antwoord hierop.
Wetshandhavers gaan geen wetten toepassen
waarover ze niets weten
en problemen behandelen die ze niet begrijpen.
Bij mijn onderzoek naar cyberstalking
merkte ik dat rechters de training misten
om de beschikbare wetten te begrijpen
alsook het probleem van online misbruik.
Vaak vertelden ze het slachtoffer:
"Zet gewoon je computer uit. Negeer het. Het zal ophouden."
En we zagen dat ook in het geval van Rana Ayyub.
Ze kreeg te horen: "Kom op, je maakt je er zo druk over.
Het zijn jongensstreken."
Dus moeten we de nieuwe wetgeving koppelen aan nieuwe training.
De media dient ook heropgevoed te worden.
Journalisten moeten het deepfakefenomeen leren kennen
zodat ze het niet versterken en verspreiden.
Bij dat deel zijn we allemaal betrokken.
Ieder van ons moet ermee vertrouwd geraken.
We klikken, we delen, we vinden leuk zonder er eens over na te denken.
Dat moet beter.
We hebben een veel betere radar voor bedrog nodig.
Terwijl we werken aan deze oplossingen,
gaat er nog een heleboel leed veroorzaakt worden.
Rana Ayyub worstelt nog steeds met de gevolgen.
Ze voelt zich nog steeds geremd om zich on- en offline te uiten.
Zoals ze me vertelde, voelt het nog steeds
alsof er duizenden ogen op haar naakte lichaam zijn gericht,
hoewel ze verstandelijk weet dat het niet haar lichaam was.
Ze heeft regelmatig paniekaanvallen,
vooral wanneer iemand die ze niet kent probeert een foto van haar te nemen.
"Wat als het weer voor een deepfake is?"
denkt ze dan.
Voor het belang van mensen zoals Rana Ayyub
en voor het belang van onze democratie
moeten we nu echt iets doen.
Dank je.
(Applaus)