A "tiszta" internet ára

Képek és videók millióit töltik fel minden nap az internetre, mégis ritkán találkozunk zavaró, sokkoló tartalmakkal hírfolyamunkban. Kik azok, akik tisztán tartják az internetet számunkra? Erről beszél a dokumentumfilmes Hans Block és Moritz Riesewieck leleplező előadásában: beviszik a hallgatóságot az online tartalommoderátorok sötét világába, azokéba, akiket az olyan nagyobb platformok alkalmaznak, mint a Facebook, a Twitter vagy a Google, hogy megszabadítsák őket a mérgező tartalmaktól. Tudjon meg többet arról, milyen pszichikai hatással jár az ilyen munka, és hogy ez a digitális nagytakarítás milyen hatással van gondolkodásunkra és világlátásunkra.

[Felnőtt tartalom]

Moritz Riesewieck: 2013. március 23-án

egy olyan videót találtak a felhasználók
a hírfolyamukban szerte a világban,

amelyen egy idősebb férfi
megerőszakol egy fiatal lányt.

Mielőtt a videót eltávolították
volna a Facebookról,

már 16 ezren megosztották,

és négyezren lájkolták is.

A videó terjedt, és megfertőzte a netet.

Hans Block: Ez volt az a pillanat,
amikor megkérdeztük magunktól,

hogyan kerülhet fel ilyesmi a Facebookra?

És ugyanakkor miért nem látunk
ilyen tartalmat még sokkal gyakrabban?

Elvégre sok visszataszító
tartalom kering online,

miért látunk ritkán ilyen ganét
a Facebookon, Twitteren vagy Google-on?

MR: Míg a képeken és videókon

a képfelismerő szoftverek
azonosítani tudják

a nemi szervek körvonalait,
a vért vagy a meztelenséget,

óriási nehézségeket jelent
megkülönböztetni a pornográf tartalmat

a nyaraláson készült képektől,
egy Adonisz-szobortól

vagy a mellrákszűrés kampányanyagától.

Nem tudják megkülönböztetni
Rómeó és Júlia halálát a színpadon

egy valódi késes támadástól.

Nem tudnak különbséget tenni
a szatíra és propaganda,

a gúny és a gyűlölet,
és más hasonló dolgok között.

Tehát emberek kellenek annak eldöntéshez,

hogy a gyanús tartalmak közül
mit kéne törölni,

és mi az, ami maradhat.

Olyan emberek, akikről
szinte semmit nem tudunk,

mert titokban dolgoznak.

Aláírnak egy titoktartási megállapodást,

amely megtiltja, hogy beszéljenek róla,

megosszák, mit láttak a képernyőn,
milyen hatással van rájuk ez a munka.

Kódszavakat kötelező használniuk,
hogy ki ne derüljön, kinek dolgoznak.

Megfigyeltetik őket
biztonsági magáncégekkel,

nehogy újságírókkal beszélhessenek,

büntetéssel fenyegetik őket
arra az esetre, ha mégis beszélnének.

Olyan ez az egész,
mint egy hátborzongató krimi,

de igaz.

Vannak ilyen emberek,

tartalommoderátornak nevezik őket.

HB: Mi rendeztük a "Tisztogatók" című
dokumentarista játékfilmet –

elvisszük önöket egy olyan világba,

amelynek létezéséről sokuk
talán nem is tudott.

Itt egy rövid részlet a filmből.

(Zene)

(Video) Moderátor: Névtelenségben kell
maradnom, mert aláírtunk egy szerződést.

Nem szabad megmondanunk,
hogy kivel dolgozunk.

Azért beszélek most önnek,

mert a világnak tudnia kell, hogy vagyunk.

Van itt valaki, aki ellenőrzi
a közösségi médiát.

Minden tőlünk telhetőt megteszünk,
hogy ez a platform

mindenki számára biztonságos legyen.

Töröl.

Nem érdekes.

Töröl.

Nem érdekes.

Töröl.

Nem érdekes.

Nem érdekes.

Töröl.

HB: Az úgynevezett tartalommoderátorok

nem a Facebooktól, a Twittertől
vagy a Goggle-tól kapják a fizetésüket,

hanem a világ más részeire
kiszervezett cégektől,

hogy munkabérüket
alacsonyan lehessen tartani.

Fiatalok tízezrei néznek végig mindent,

amit nem kéne látnunk.

Lefejezésekről,
csonkításokról, kivégzésekről,

halottgyalázásról, kínzásról,
gyermekmolesztálásról beszélünk.

Képek ezrei egyetlen műszakban –

nem érdekes, töröl – éjjel-nappal.

E munkák többségét Manilában végzik,

ahová éveken keresztül
szállították teherhajókon

a veszélyes hulladékot
a nyugati világból –

mára a digitális szemét
ömlik ide optikai kábelen.

És ahogy a guberálók

átturkálják az óriási
szeméthegyeket a város peremén,

a tartalommoderátorok is utat
kattintgatnak maguknak

a képek és videók intellektuális
szemetének végtelen, mérgező óceánján,

így nekünk nem kell azokat megnéznünk.

MR: A guberálók sérüléseivel szemben

a tartalommoderátorok sebei
láthatatlanok maradnak.

Teli sokkoló és megzavaró részletekkel,

ezek a képek és videók
befészkelik magukat memóriájukba,

és bármikor meg nem jósolható
hatást válthatnak ki:

evészavart, a libidó elvesztését,

idegrendszeri rendellenességeket,
alkoholizmust, depressziót,

és akár öngyilkossághoz is vezethetnek.

A képek és videók megfertőzik,

és gyakran el sem engedik őket többé.

Ha nincs szerencséjük, poszttraumás
stresszszindróma fejlődik ki náluk,

akár a katonáknál háborús küldetés után.

Filmünkben egy fiatalember
történetét mondjuk el,

akinek öncsonkításokat és öngyilkossági
kísérleteket kellett élőben monitoroznia,

újra és újra,

és aki végül maga is öngyilkos lett.

Ez nem példátlan eset, ahogy megtudtuk.

Ez az ára annak, amit mindannyian fizetünk

az ún. biztonságos és egészséges

környezetért a közösségi médiában.

Az emberiség történelmében soha korábban

nem volt ilyen egyszerű
emberek millióit elérni világszerte

néhány másodperc alatt.

Amit a közösségi médiában
posztolunk, gyorsan terjed,

felkapják, és szerte a földgolyón
felzaklatja az embereket.

Mire törölnék,

már túl késő.

Milliókat megfertőzött már

gyűlölettel és haraggal,

akik aztán vagy online
aktivizálják magukat,

és terjesztik
vagy gerjesztik a gyűlöletet,

vagy kiviszik az utcára,
és harcra készülnek.

HB: Tehát tartalommoderátorok
serege ül a képernyő előtt,

hogy elkerüljük a további károkozást.

És döntenek, amilyen gyorsan csak lehet,

hogy az a tartalom
maradhat-e, mert nem érdekes;

vagy tűnjön el és törli.

De nem minden döntés annyira egyértelmű,

mint az a videó a gyermekmolesztálásról.

Mi a helyzet az ellentmondásos
vagy kétértelmű tartalmakkal,

amelyeket emberjogi aktivisták
vagy civil tudósítók töltenek fel?

A tartalommoderátorok gyakran
döntenek ilyeneknél is,

ugyanolyan gyorsan,
mint az egyértelmű esetekben.

MR: Mutatunk egy videót,

és szeretnénk, ha döntenének:

törölnék-e,

vagy meghagynák?

(Video) (Légvédelmi sziréna)

(Robbanás)

(Arabul beszélő emberek)

MR: Letakartunk néhány
részletet a kedvükért.

Egy gyereket alkalomadtán
vészesen megzavarhat

és szélsőségesen megrémiszthet
az ilyen tartalom.

Tehát, törölnék inkább?

És ha ez a videó segíthetné
a háborús bűnök kivizsgálását Szíriában?

És mi van, ha senki nem hall
a légicsapásról,

mert a Facebook, a YouTube és a Twitter
eldöntötték, hogy leveszik?

Az Airwars, egy londoni
székhelyű civil szervezet

megpróbálja minél gyorsabban
megtalálni az ilyen videókat,

bármikor is töltötték fel
a közösségi médiába,

hogy aztán archiválja.

Tudják, hogy előbb vagy utóbb

a Facebook, a YouTube, a Twitter
törli az ilyen tartalmakat.

Mobiltelefonjukkal felfegyverkezve sokszor
olyan dolgokról is tudósítanak emberek,

amikhez az újságírók nem férnek hozzá.

Emberjogi csoportok
sokszor nem tehetnek jobbat,

gyorsan elérhetővé teszik felvételeiket
a széles nyilvánosság számára azzal,

hogy feltöltik őket a közösségi médiába.

Nem ez kéne legyen
az internetben rejlő erő?

Nem ezeket az álmokat dédelgettük

a kezdetekkor az internettel kapcsolatban?

Vajon az ilyen képek és videók

nem győzik meg a tények iránt
érzéketlen embereket,

hogy gondolják újra?

HB: De ehelyett mindent törölnek,
ami kényelmetlenséget okozhat.

Van egy általános elmozdulás
a társadalomban.

A média például egyre gyakrabban
használ figyelmeztetést

az olyan cikkek tetején,

amelyek esetleg fenyegetőnek
vagy ijesztőnek értelmezhetők.

Vagy az Egyesült Államok egyetemein
mind több hallgató követeli

az olyan ókori klasszikusok
tiltását a tanrendből,

amelyek nemi erőszakot
vagy tettlegességet ábrázolnak.

De hová jutunk ezzel?

Fizikai sértetlenségünket,
mint emberi jogot,

világszerte garantálják az alkotmányok.

Az Európai Unió Alapjogi Chartája

ezt a jogot a mentális
sértetlenségre is kimondja.

De még ha nehéz is megjósolni
a képek és videók

lehetséges traumatikus hatását,

valóban olyan óvatosak akarunk lenni,

hogy kockáztatnánk azt, hogy tudjunk
a társadalmi igazságtalanságokról?

Mit tegyünk hát?

Mark Zuckerberg mostanában
jelentette be, hogy mi, felhasználók,

szinte mindenki,

a jövőben egyénileg fogja eldönteni,

hogy mit szeretne látni a platformon,

azzal, hogy beállítja személyes szűrőjét.

Így bárki könnyen kérheti,
hogy ne zavarják

háborús felvételekkel vagy más
erőszakos konfliktusokkal, mint...

MR: Én olyan fickó vagyok,
akit nem zavar a keblek látványa,

és érdekel a globális felmelegedés,

de a háborút nem szeretem olyan nagyon.

HB: Én meg pont az ellenkezője vagyok,

egy csöppet sem érdekelnek
a fedetlen keblek vagy meztelen testek.

De a fegyverek miért ne?
Igen, szeretem a fegyvereket.

MR: Ha nem osztjuk meg a tudásunkat
a hasonló társadalmi problémákról,

akkor hogyan fogjuk megvitatni
a társadalmi kérdéseket?

Hogyan szólítjuk meg az embereket,
hogy tegyenek valamit?

Még több, egymástól elszigetelt
buborék fog létrejönni.

Az egyik központi kérdés,
hogy mi lesz fontosabb a jövőben:

az önkifejezés szabadsága vagy az igény,
hogy biztonságban érezzük magunkat?

Ez elvi kérdés.

Hogy nyílt vagy zárt
társadalmat szeretnénk

a digitális térben teremteni?

Szabadság vagy biztonság –
ez a lényegi kérdés.

A Facebook mindig is
"egészséges" platform akart lenni.

A felhasználóknak először is
biztonságban kell érezniük magukat.

Ugyanígy fogalmaznak

a filippínó tartalommoderátorok

számos interjúban.

(Videó) Az a világ, amiben jelenleg élünk,

szerintem nem igazán egészséges.

(Zene)

Ebben a világban valóban
jelen van a gonosz, aki létezik.

(Zene)

Szükséges, hogy odafigyeljünk.

(Zene)

Kontroll alatt kell tartsuk:
jó vagy rossz.

(Zene)

[Figyelj, fiatalember! – Isten]

MR: A szigorúan katolikus Fülöp-szigeteken
a fiatal moderátorok számára

ez a keresztény küldetéshez kötődik.

Tenni a világ bűnei ellen,

amelyek a világhálón keresztül terjednek.

"Erkölcsi kötelességünk
megőrizni a tisztaságot" –

ez általános vélekedés
a filippínók között.

HB: Mások abból nyernek ösztönzést,

hogy elnökükhöz, Rodrigo Dutertéhez
hasonlítják magukat,

aki 2016 óta kormányozza
a Fülöp-szigeteket,

és az volt a választási ígérete,
hogy "feltakarítok".

Ez azt jelenti, hogy úgy szüntet meg
különböző problémákat,

hogy szó szerint az utcán öli meg
a feltételezett bűnözőket,

bármit is jelentsen ez.

Megválasztása óta

nagyjából 20 000 embert gyilkoltak meg.

A filmben az egyik moderátor azt mondja,

"Amit Duterte az utcán csinál,

azt teszem én az internetért."

Itt vannak ők, az önjelölt szuperhősök,

akik kikényszerítik a törvényt
és rendet digitális világunkban.

Kitakarítanak, tisztára sikálnak mindent,

megszabadítanak minket minden gonosztól.

Ami régebben a hatóságok dolga volt,

mára 20-as éveik elején járó
főiskolát végzettek teszik,

három-ötnapos képzés után
megszerzett papírral.

Ezzel a minősítéssel rendelkeznek azok,

akik nem kisebb munkát végeznek,
mint a világ megmentése.

MR: A nemzeti szuverenitás
átkerült a magáncégek kezébe,

ők meg átadják a felelősségüket
egy harmadik félnek.

Ez a kiszervezés
kiszervezésének kiszervezése,

ami most megy.

A közösségi háló

merőben új infrastruktúra,

saját mechanizmusával,

tevékenységének saját logikájával,

így egy egészen új, saját veszéllyel,

ami nem létezett még a digitális világ
előtti publikus világban.

HB: Amikor Mark Zuckenberg
megjelent az USA Kongresszusában

vagy az Európai Parlamentben,

mindenféle kritikákkal került szembe.

Mindenre ugyanúgy reagált:

"Kijavítjuk,

és ennek megfelelően folytatjuk."

De az ilyen vitákat
nem a Facebook, a Twitter

vagy a Google hátsó szobáiban
kéne lefolytatni –

ezekről a témákról nyíltan kéne vitázni
új, világpolgári parlamentekben,

olyan új intézményekben, amelyek
figyelembe veszik az emberek sokféleségét,

és ezzel hozzájárulnak a világháló
utópisztikus projektjéhez.

S míg talán lehetetlen a világ
felhasználóinak értékrendjét

figyelembe venni,

érdemes hinni abban,

hogy több dolog van,
ami közös bennünk, mint ami elválaszt.

MR: Hát, igen, olyan időkben,
amikor a populizmus megerősödik,

népszerűvé válik tisztázni a jelenségeket,

megszabadulni tőlük,

láthatatlanná tenni őket.

Világszerte terjed ez a felfogás

az analóg és digitális világban egyaránt.

A mi kötelességünk megállítani,

még mielőtt késő lenne.

Szabadság és demokrácia kérdésében

más alternatívák is kell,
hogy legyenek, mint hogy:

HB: Töröl.

MR: Vagy nem érdekes.

HB: Nagyon köszönjük.

(Taps)