Az igazságot aláásó és a demokráciát fenyegető élethű hamisítás

Az élethű hamisítás technológiájának alkalmazása kép- és hangfelvételek rosszindulatú manipulálása céljából erőszak szítására vagy politikusok, újságírók becsületének besározására egyre inkább valóságos fenyegetéssé válik. Ahogy ezek az eszközök egyre hozzáférhetőbbé és megoldásaik egyre valósághűbbé válnak, fölmerül a kérdés: hogyan fogják alakítani, amit világunkról elhiszünk? Danielle Citron jogászprofesszor komor előadása föltárja, hogy az élethű hamisítás miként növeli meg bizalmatlanságunkat, és tanácsot ad arra nézve, hogyan védhetjük meg az igazságot.

[Vigyázat, felnőtt tartalom]

Rana Ayyub indiai újságírónő,

akinek tevékenysége kormányzati korrupciót

és az emberi jogok megsértését tárta föl.

Évek alatt hozzászokott

a munkája miatti alpári
szidalmazásokhoz és vitákhoz.

De arra nem lehetett fölkészülve,
ami 2018 áprilisában érte.

Barátjával épp presszóban üldögélt,
mikor először meglátta:

két perc 20 másodperces videót,
amely nemi aktus közben ábrázolta.

Képtelen volt hinni a szemének.

Sosem készített szexvideót.

De sajnos, sok ezren elhiszik,

hogy a videón ő szerepel.

Kb. három hónapja
készítettem vele interjút

a szexuális magánéletről
írt könyvem kapcsán.

Jogászprofesszor, ügyvéd
és emberjogi szószóló vagyok.

Hihetetlenül elkeserítő a tudat,

hogy a jog mily keveset segíthet rajta.

Beszélgetésünkben utalt rá,

hogy számítania kellett
a hamisított szexvideó megjelenésére.

"A szexet oly gyakran használják
nők megalázására és megszégyenítésére,

kiváltképp kisebbséghez tartozó nőkére,

főleg azokéra, akik hatalomban lévő
férfiakkal mernek szembeszállni" – mondta.

Munkája során ezt tapasztalta.

A hamisított szexvideó
48 óra alatt járványszerűen elterjedt.

Minden internetes postafiókja tömve lett
a videóból vett pillanatképekkel,

nemi erőszakkal és halállal fenyegették,

továbbá a muszlim vallását gyalázták.

Az internetes posztok sugalmazták,
hogy szexre könnyen kapható.

Interneten gyűjtöttek róla adatokat:

lakcímét, mobilszámát

fölrakták az internetre.

Több mint 40 ezerszer
osztották meg a videót.

Mikor valakit efféle tömeges
kibertámadással vesznek célba,

a kár fölmérhetetlen.

Rana Ayyub élete romokban hevert.

Heteken át alig evett vagy beszélt.

Fölhagyott az írással, és megszüntette
valamennyi közösségimédia-fiókját,

ami, mondanom sem kell,
újságíró lévén nehéz dolog lehetett.

Félt a házából kilépni.

Mi lesz, ha a netes támadók
beváltják a fenyegetéseket?

Az ENSZ Emberi Jogi Tanácsa
megerősítette, hogy nem őrült,

és közleményt jelentetett meg arról,
hogy aggasztja a biztonsága.

Rana Ayyub az ún. élethű hamisítással
találta magát szemben.

Ez gépi tanulási technológia,

amely kép- és hangfelvételeket
manipulál vagy állít elő,

melyekben olyan dolgokat tesznek
vagy mondanak a szereplők,

melyet valójában sosem
tettek vagy mondtak.

Az élethű hamisítás
valóságosnak látszik, de nem az;

szemenszedett hazugság.

Bár a technológia még
nem a legkifinomultabb,

már széles körben hozzáférhető.

Az élethű hamisítást illetően
a legutóbb a figyelmet –

mint oly sok más esetben az interneten –

a pornó keltette föl.

2018 elején

valaki eszközt posztolt a Redditre,

mellyel arcot illeszthetnek pornóvideókba.

Ezt követően hamis pornóvideók
áradata jelent meg,

amelyekben a közönség kedvenceinek
számító celebnők tűntek föl.

Ma a YouTube-on számtalan oktatóvideóból

lépésről lépésre megtanulható,

hogy gyártható élethű hamisítvány
valamely alkalmazásból.

Hamarosan tán már mobilunkon
is képesek leszünk rá.

Íme, egypár emberi gyarlóságunk

és internetes eszköz kölcsönhatása,

amelyből fegyver válhat
az élethű hamisítás révén.

Elmagyarázom.

Emberi lényként zsigerileg
reagálunk hang- és képfelvételekre.

Elhisszük, hogy igazak,

hiszen feltételezzük, hogy igaz,

amit szemünk lát és fülünk hall.

Épp ez a mechanizmus áshatja alá

közös realitásérzékünket.

Noha elhisszük az élethű hamisításról,
hogy igaz, de mégsem az.

Vonzanak minket a pikáns, ingerlő dolgok.

Hajlamosak vagyunk elhinni és megosztani

a negatív új információt.

Kutatók derítették ki, hogy az internetes
kacsák tízszer gyorsabban terjednek,

mint a valósághű történetek.

Vonzódunk a nézetünkkel összhangban álló

információkhoz.

Pszichológusok ezt a tendenciát
megerősítési torzításnak hívják.

A közösségi média még
föl is erősíti ezt a tendenciát azzal,

hogy azonnal és széleskörűen
továbbíthatjuk

a nézeteinkkel összhangban lévő infót.

Az élethű hamisítás súlyos
egyéni és társadalmi kárt okozhat.

Képzeljünk el élethű hamisítást,

amelyen Afganisztánban Koránt égető
USA-katonák láthatók.

Elgondolhatják, hogy az élethű hamisítás
mekkora erőszakot váltana ki

a szóban forgó katonák ellen.

Mi van, ha a rákövetkező nap

másik élethű hamisításon

egy közismert, londoni illetőségű imám

az említett katonák megtámadását dicséri?

Erőszakos cselekmények
és polgári zavargások

törnének ki nemcsak Afganisztánban
és az Egyesült Királyságban,

hanem világszerte is.

Mondhatják nekem erre:

"Na, de Danielle, elragadta a képzelete!"

Nem úgy van.

Lépten-nyomon látjuk,

ahogy a WhatsAppon és más internetes
üzenetküldőkön terjesztett hamisítások

etnikai kisebbségek elleni
erőszakos cselekményekhez vezetnek.

Pedig azok csak szövegek voltak...,

képzeljék el, ha videók lettek volna!

Az élethű hamisítások képesek tönkretenni

a demokratikus intézményekbe
vetett bizalmunkat.

Képzeljük el a választások előestéjét!

Az egyik élethű hamisítás azt mutatja,

hogy az egyik vezető párt
jelöltje súlyos beteg.

Az élethű hamisítás
fölboríthatja a választást,

és megingathatja a választás
legitimitásába vetett hitünket.

Képzeljék el,

hogy az egyik óriási globális bank első
nyilvános kibocsátásának előestéjén

élethű hamisítás jelenik meg,

miszerint a bank vezérigazgatója részegen
összeesküvés-elméletekről hablatyol.

Az élethű hamisítás
meghiúsíthatja a kibocsátást,

de még ennél is rosszabb, megingathatja
a pénzpiac stabilitása iránti bizalmunkat.

Az élethű hamisítás kihasználhatja
és fokozhatja a politikusokkal,

üzletemberekkel és más befolyásos
vezetőkkel szembeni bizalmatlanságot.

Megtalálja a neki hinni kész közönségét.

Az igazságkeresés szintén veszélybe kerül.

Technológusok arra számítanak,
hogy az MI fejlődésével nemsokára

nehéz, esetleg lehetetlen
lesz megkülönböztetni

a valódit a hamisított videótól.

Hogyan világlik ki az igazság az eszmék
élethű hamisítástól hemzsegő piacán?

Csak haladunk tovább
a legkisebb ellenállás útján,

és azt hisszük, amit hinni akarunk,

és hadd vesszen az igazság?

Hisz így nemcsak a hamisítást hisszük el,

hanem az igazságban is kételkedni kezdünk.

Már találkoztunk az élethű hamisítás
jelenségére hivatkozókkal,

akik célja gaztettük valódi bizonyítékának
kétségbe vonása volt.

Hallottunk politikusokat fölháborító
szavaikről készült felvételekről

azt mondani, "Ugyan, ez csak álhír!

Ne higgyenek a szemüknek, se a fülüknek!"

Ezt a kockázatot

Robert Chesney professzor és én
"a hazug osztaléká"-nak nevezzük:

a hazug az élethű hamisításra hivatkozik,

hogy a gaztettéért járó
felelősségre vonást elkerülje.

Úgyhogy munkánk nagyon nehéz,
efelől semmi kétségünk.

Ezért előrelátó megoldások kellenek

a műszaki cégektől, törvényhozóktól,

jogalkalmazóktól és a médiától.

Jó adag társadalmi kitartásra
is szükség lesz.

Nagyon nyílt párbeszédet kezdtünk

a műszaki cégek felelősségéről.

A közösségi médiának azt javasoltam,

hogy módosítsák szolgáltatási
feltételeiket és közösségi irányelveiket,

hogy betiltsák az élethű
hamisításokat, mert károsak.

Ennek megítélése
emberi beavatkozást igényel,

és sokba kerül.

De az kell, hogy az emberek figyeljenek

az élethű hamisítások tartalmára
és kontextusára,

hogy rájöjjenek: káros álcáról van szó,

vagy ellenkezőleg, értékes
szatíráról, művészetről vagy oktatásról.

De mi a helyzet a törvénnyel?

A törvény oktat bennünket.

Megtanítja, hogy mi a káros és mi a rossz.

Alakítja a magatartást, elrettent
az elkövetők megbüntetése

és az áldozatoknak nyújtott
jogorvoslat útján.

A jog jelenleg még nem képes
az élethű hamisítással fölvenni a harcot.

Az egész világon

híján vagyunk a megfelelő törvényeknek,

amelyek alkalmasak lennének elbánni

a szexuális magánéletbe
betörő digitális álcázással,

amely tönkreteszi hírnevünket,

és érzelmi gyötrelmet okoz.

A Rana Ayyubbal történtek
egyre inkább mindennaposak.

De mikor Delhiben
jogalkalmazókhoz fordult,

azt a választ kapta,
hogy semmit sem tehetnek.

A szomorú igazság,

hogy ugyanez lenne a helyzet
az USA-ban és Európában is.

Joghézag van, amelyet ki kell tölteni.

Dr. Mary Anne Franks kollégám és én
együttműködünk az USA törvényhozóival,

hogy a törvényeket fejlesszük
a személyiséglopással egyenértékű

káros digitális álcázás
betiltása érdekében.

Hasonló intézkedéseket tapasztalunk

Izlandon, az Egyesült Királyságban
és Ausztráliában.

Persze, a szabályozási kirakósnak
ez csak kis darabkája.

Tudom, a törvény nem mindent old meg.

Nehézkes eszköz.

Bölcsen kell alkalmaznunk,

de ennek gyakorlati akadályai is vannak.

Nem alkalmazhatjuk a törvényt ismeretlen
és föllelhetetlen egyének ellen.

Ha az elkövető és áldozata

más-más országban él,

akkor hiába erőlködhetünk,

hogy az elkövető helyi bíróság elé álljon,

és viselje tette következményeit.

Így hát nemzetközileg
összehangolt megoldás kell.

Az oktatásnak is van ebben szerepe.

A jogalkalmazók nem
érvényesíthetik a törvényeket,

amelyekről nem tudnak,

és nem ajánlhatnak megoldást
általuk nem értett problémákra.

A kiberzaklatást kutatva kiderítettem,

hogy a jogalkalmazók
híján vannak a képzésnek,

amelyből megérthetnék
a rendelkezésükre álló törvényeket

és az internetes zaklatás mibenlétét.

Milyen gyakran mondják az áldozatoknak:

"Kapcsolják ki a gépüket.
Ne törődjenek vele. Majd elmúlik."

De látjuk Rana Ayyub esetét.

Azt mondták neki:
"Ugyan, túl nagy ügyet csinál belőle.

A fiúk már csak ilyenek."

Ezért az új jogszabályoknak együtt
kell járniuk oktatási törekvésekkel.

Az oktatásnak a médiára
is ki kell terjednie.

Az élethű hamisítás jelenségét
oktatni kell újságíróknak,

hogy ne fokozzák és ne terjesszék.

Ebben mindannyiunknak részt kell vennünk.

Mindannyiunknak szükségünk van képzésre.

Kattintunk, megosztunk, és bele
sem gondolunk abba, amit teszünk.

Észszerűbben kell cselekednünk.

A hamisításokat jobban kell földerítenünk.

A megoldások kialakítása

sok gyötrelemmel fog járni.

Rana Ayyub még küzd a történtekkel.

Még nem képes szabadon kifejezni magát.

Elmondta nekem:

még úgy érzi magát, mintha ezernyi
szem pásztázná a meztelen testét,

noha az eszével tudja,
hogy nem az ő testéről van szó.

Gyakori pánikrohamai vannak,

kiváltképp, mikor ismeretlenek
le akarják fényképezni.

"Mi van, ha újabb élethű hamisítás
kedvéért teszik?" – jár a fejében.

A Rana Ayyubhoz hasonló személyek miatt

és demokráciánk érdekében

valamit haladéktalanul tennünk kell.

Köszönöm.

(Taps)