Prețul plătit pentru un internet „curat”

Milioane de imagini și clipuri video sunt încărcate pe internet în fiecare zi și cu toate acestea foarte rar ajungem să vedem conținut șocant și tulburător pe paginile noastre. Cine păstrează internetul „curat” pentru noi? În acest discurs revelator, autorii de documentare Hans Block și Moritz Riesewieck ne poartă pe tărâmul obscur al moderatorilor de conținut digital, adică oamenii contractați de marile platforme online precum Facebook, Twitter și Google să elimine de pe internet aceste materiale toxice. Aflați mai multe despre impactul psihologic al acestui gen de activitate, precum și despre cum „curățenia digitală” influențează tot ceea ce noi vedem sau credem.

[Discurs cu puternic impact emoțional]

Moritz Riesewieck:
Pe 23 martie 2013

utilizatori din toată lumea
au găsit pe paginile lor

un videoclip cu o fetiță care era violată
de un bărbat mai în vârstă.

Înainte ca acest clip
să fie șters de pe Facebook,

deja fusese redistribuit de 16.000 de ori

și chiar a primit 4.000 de like-uri.

Clipul a devenit viral,
infectând internetul.

Hans Block:
Ne-am întrebat, în acel moment:

cum a putut așa ceva
să ajungă pe Facebook?

Pe de altă parte, cum de nu vedem mai des
astfel de conținuturi?

În fond, mediul online chiar e plin
de materiale revoltătoare.

Deci cum de vedem atât de rar asemenea
grozăvii pe Facebook, Twitter sau Google?

MR: Deși aplicațiile
de recunoaștere a imaginilor

pot identifica în poze și clipuri
conturul organelor sexuale,

sângele sau nuditatea,

ele nu pot totuși face diferența
între pornografie

și nuditatea unei poze de vacanță
sau a unei statui,

sau a unei campanii pentru depistarea
cancerului la sân.

Nu pot face diferența dintre Romeo
și Julieta murind pe scenă

și un atac armat real.

Nu pot face diferența dintre satiră
și propagandă,

dintre ironie și ură,
și așa mai departe.

Prin urmare, e nevoie
de oameni care să decidă

care conținuturi suspecte ar trebui șterse

și care pot rămâne.

Oameni despre care nu știm mai nimic,

pentru că ei lucrează în secret.

Semnează acorduri de confidențialitate

care le interzic să vorbească
și să împărtășească

despre ce văd pe ecrane
și despre ce efect are asta asupra lor.

Sunt obligați să folosească
un limbaj codificat

ca să nu se afle pentru cine lucrează.

Sunt monitorizați de firme
de securitate private,

ca să nu poată vorbi cu presa.

Sunt amenințați cu amenzi
în cazul în care vorbesc.

Toate acestea sună
ca o poveste polițistă ciudată,

dar e purul adevăr.

Acești oameni chiar există

și se numesc moderatori de conținut.

HB: Noi suntem realizatorii
filmului documentar „Curățătorii”

și am vrea să vă luăm cu noi

într-o lume pe care mulți dintre voi
nu o cunosc încă.

Iată o scurtă secvență din filmul nostru.

(Muzică)

(Video) Moderatorul de conținut:
Trebuie să rămân anonim,

deoarece am semnat un contract.

Nu avem voie să spunem pentru cine lucrăm.

Motivul pentru care vorbesc cu tine

e că lumea ar trebui să știe că existăm.

Că cineva verifică social media.

Noi facem tot posibilul
ca aceste platforme

să fie sigure pentru toată lumea.

Șterge.

Ignoră.

Șterge.

Ignoră.

Șterge.

Ignoră.

Ignoră.

Șterge.

HB: Așa-numiții moderatori de conținut

nu sunt plătiți direct de Facebook,
Twitter sau Google.

Ei sunt angajați de firme
de leasing de personal,

ca să poată fi ținuți pe salarii mici.

Zeci de mii de tineri

se uită la lucruri pe care nimeni
nu ar trebui să le vadă.

Și ne referim la decapitări, mutilări,

execuții, necrofilie, tortură,
abuzuri asupra minorilor.

Mii de imagini pe tură;

ignoră sau șterge, zi și noapte.

Mare parte din această muncă
se face în Manila,

locul către care deșeurile toxice
analogice ale lumii occidentale

au fost ani de zile expediate
în cargoboturi,

iar acum deșeurile digitale
sunt de asemenea „deversate” aici,

pe calea fibrei optice.

Și exact cum așa-numiții
căutători prin gunoaie

scormonesc prin mormanele imense
de la marginea orașelor,

moderatorii de conținut navighează
printr-un ocean toxic nesfârșit

de imagini, clipuri și tot soiul
de gunoaie digitale,

pentru ca noi să nu fim nevoiți
să le vedem.

MR: Dar spre deosebire de rănile
căutătorilor prin gunoaie,

cele ale moderatorilor de conținut
sunt invizibile.

Pline de conținut șocant și tulburător,

aceste imagini și clipuri
le rămân întipărite în memorie

iar de acolo, oricând,
pot declanșa efecte neprevăzute:

tulburări de alimentație,
pierderea apetitului sexual,

tulburări anxioase, alcoolism,

depresie și chiar suicid.

Imaginile și clipurile îi infectează

și efectele sunt adesea ireversibile.

Dacă sunt ghinioniști,
dezvoltă sindromul post-traumatic

exact ca soldații întorși din misiune.

În documentarul nostru
relatăm povestea unui tânăr

care avea de monitorizat transmisii live
de automutilări și tentative de suicid,

din nou și din nou,

până când, într-un final,
el însuși s-a sinucis.

Și, după cum ni s-a spus,
nu e un caz izolat.

Acesta e prețul pe care îl plătim cu toții

pentru așa-numitele noastre
rețele sociale online

curate, sigure și „sănătoase”.

Niciodată în istoria umanității

n-a fost mai ușor să ajungi
la milioane de oameni din toată lumea

în câteva secunde.

Postările de pe social media
se răspândesc extrem de rapid,

pot deveni virale și pot incita
mințile oamenilor din toată lumea.

Până să fie șterse,

de multe ori e prea târziu.

Milioane de oameni
deja au fost contaminați

cu ură și furie,

iar aceștia fie devin activi online,

împrăștiind și amplificând ura,

fie ies pe stradă și folosesc armele.

HB: Prin urmare, o armată
de moderatori de conținut

stă în fața calculatoarelor pentru
a evita și mai multe daune colaterale.

Și ei trebuie să decidă instantaneu

dacă respectivul conținut
rămâne pe platformă: ignoră;

sau dispare: șterge.

Dar nu toate deciziile sunt atât de clare

precum cea despre un clip
cu un abuz asupra unui minor.

Mai sunt și conținuturi
controversate, ambivalente,

încărcate de apărători
ai drepturilor omului sau jurnaliști.

Moderatorii de conținut decid adesea
și în aceste cazuri

cu aceeași viteză cu care decid
în situațiile clare.

MR: Vă vom arăta un clip

și o să vă rugăm pe voi să decideți:

l-ați șterge de pe internet

sau nu?

(Video) (Sunete de atac aerian)

(Explozie)

(Oameni vorbind în arabă)

MR: Da, am estompat unele imagini.

E posibil ca un copil
să fie serios afectat

și foarte înspăimântat
de un asemenea conținut.

Așadar, l-ați șterge?

Dar dacă acest clip ar putea ajuta la
investigarea crimelor de război din Siria?

Dacă nimeni nu ar fi aflat
despre acest atac aerian

din cauză că Facebook, YouTube, Twitter
ar fi decis să-l șteargă?

Airwars, o organizație non-guvernamentală
cu sediul în Londra

încearcă să găsească astfel de clipuri
cât mai repede,

de îndată ce sunt încărcate
pe social media,

cu scopul de a le arhiva.

Asta pentru că ei știu că,
mai devreme sau mai târziu,

Facebook, YouTube, Twitter
vor șterge astfel de conținuturi.

Oameni înarmați cu telefoane mobile

pot face vizibile lucruri la care
jurnaliștii adesea nu au acces.

De multe ori, apărătorii drepturilor
omului nu au altă opțiune mai bună

de a mediatiza la scară largă
abuzurile înregistrate,

decât dacă le încarcă
pe platformele sociale.

Și nu e aceasta însăși puterea
pe care ar trebui să ne-o dea internetul?

Nu sunt acestea visurile

pe care oamenii și le făceau
în anii de început ai internetului?

Nu ar trebui ca astfel de imagini
și de clipuri

să-i oblige pe oamenii care au devenit
insensibili la ce se întâmplă

să-și revizuiască atitudinea?

HB: În schimb, orice ar putea deranja
este șters.

A devenit o tendință generală
în societate.

Mass media, de pildă, utilizează
tot mai des mesaje de avertizare

la începutul articolelor

care ar putea fi percepute de unii
cititori drept deranjante și ofensatoare.

Sau tot mai mulți studenți
ai universităților americane

cer interzicerea din programa școlară
a clasicilor antici

care descriu în operele lor
violențe sexuale și abuzuri.

Oare cât de departe să mergem cu asta?

Integritatea fizică e obligatorie,
ca drept constituțional al omului,

peste tot în lume.

În Carta Drepturilor Fundamentale
a Uniunii Europene

este în mod expres specificat
și dreptul la integritate mintală.

Dar chiar dacă efectul potențial traumatic

al imaginilor și clipurilor
e dificil de anticipat,

chiar vrem să devenim atât de precauți

încât să riscăm să pierdem conștientizarea
societății asupra nedreptății?

Atunci, ce e de făcut?

Mark Zuckerberg a declarat
recent că în viitor

utilizatorii, adică noi toți,

vom decide fiecare în parte

ce vrem să vedem pe pagina noastră

prin aplicarea unor filtre
de personalizare.

Astfel, oricine poate cu ușurință
să ceară să nu fie deranjat

de imagini cu războaie sau alt gen
de conflicte violente, cam așa:

MR: Sunt genul de bărbat
pe care nu-l deranjează să vadă sâni

și sunt foarte interesat
de încălzirea globală.

În schimb, războiul nu-mi prea place.

HB: Iar eu sunt cam invers,

adică sânii și nuditatea în general
mă lasă total indiferent.

Dar arme, de ce nu? Armele îmi plac.

MR: Păi dacă nu împărtășim
aceeași conștiință socială,

cum să discutăm despre problemele sociale?

Cum să cerem cetățenilor să acționeze?

Vom fi și mai izolați ca până acum.

Una din întrebările cheie este:
„Cum vom gestiona pe viitor

relația dintre libertatea de exprimare
și nevoia de protecție a oamenilor?”

E o chestiune de principiu.

Vrem să creăm în spațiul digital
o societate deschisă

sau izolată?

În esență, este vorba despre
„libertate versus securitate”.

Facebook și-a dorit dintotdeauna
să fie o platformă „sănătoasă”.

Mai presus de orice,

toți utilizatorii ar trebui
să-și simtă intimitatea protejată.

Exact aceste cuvinte le-au folosit

și moderatorii de conținut din Filipine

în multe din interviurile noastre.

(Video) Lumea în care trăim acum

cred că nu e prea sănătoasă.

(Muzică)

În această lume, răul există cu adevărat.

(Muzică)

Trebuie să fim atenți la el.

(Muzică)

Trebuie să-l controlăm.

(Muzică)

[„Tinere, ai grijă!” - Dumnezeu]

MR: Pentru tinerii moderatori de conținut
din acest Filipine foarte catolic

această misiune este una creștină.

Să țină piept păcatelor lumii

care se răspândesc pe internet.

„Curățirea te aduce mai aproape
de Dumnezeu”

e o vorbă pe care tot poporul
filipinez o știe.

HB: Alții se automotivează

comparându-se cu președintele lor,
Rodrigo Duterte.

El conduce statul Filipine din 2016

și a câștigat alegerile cu promisiunea:
„Voi face curățenie.”

Asta înseamnă eliminarea
tuturor problemelor, de orice fel,

prin a ucide la propriu oamenii pe stradă,

dacă sunt suspectați că sunt infractori,
orice ar putea însemna asta.

Într-adevăr, de când a fost ales,

se presupune că 20.000 de oameni
au fost omorâți.

Iar în documentarul nostru,
un moderator de conținut spune:

„Ce face Duerte pe străzi,

eu fac pe internet.”

Iată-i, deci, pe acești super-eroi
autoproclamați

care impun legea și ordinea
în lumea noastră digitală.

Ei curăță, mușamalizează,

ne țin la distanță de tot ce-i rău.

Responsabilități aflate odată
în slujba autorităților statului

au fost preluate de tineri absolvenți
de douăzeci și ceva de ani,

„echipați” cu trei-cinci zile
de instruire,

în asta constă calificarea lor,

care lucrează la nici mai mult nici mai
puțin decât salvarea acestei lumi.

MR: Responsabilități guvernamentale
au fost externalizate

către companii private, iar ele le dau
mai departe către subcontractori.

Este o externalizare a externalizării
a externalizării

ceea ce se întâmplă.

Din cauza rețelelor sociale

avem de-a face cu o infrastructură
complet nouă,

cu propriile ei mecanisme,

propria ei logică a acțiunii

și, prin urmare,
cu propriile ei noi pericole

care nu existau în spațiul public
al erei pre-digitale.

HB: Când Mark Zuckerberg a vorbit
în fața congresului american

sau a Parlamentului European,

i s-au adus tot felul de critici.

Răspunsul lui a fost mereu același:

„Vom remedia asta,

iar eu și echipa mea
vom monitoriza pe viitor.”

Dar astfel de discuții nu ar trebui
purtate în birourile Facebook,

Twitter sau Google,

astfel de discuții ar trebui purtate
deschis în noile parlamente moderne,

în noile instituții care reflectă
diversitatea umană,

contribuind astfel la proiectul utopic
al unei rețele globale.

Chiar dacă pare imposibil
să ținem cont de valorile

utilizatorilor din lumea întreagă,

merită să păstrăm convingerea

că sunt mai multe lucrurile care
ne apropie decât cele care ne separă.

MR: În vremurile
în care populismul capătă putere

devine la modă să ne concentrăm
doar pe simptome,

să le eliminăm,

să le ascundem.

Această ideologie se răspândește
în toată lumea,

atât în spațiul analog
cât și în cel digital,

și e de datoria noastră să o oprim,

până nu e prea târziu.

Principiul libertății și democrației

nu ar trebui să se rezume
la aceste două opțiuni.

HB: Șterge.

MR: Sau ignoră.

HB: Vă mulțumim foarte mult!

(Aplauze)