Dragă Facebook, în felul acesta încalci democrația

„În mediul online, minciunile sunt mai interesante decât adevărul”, spune Yaël Eisenstat, fost analist CIA, diplomat și angajat al Facebook. „Cât timp obiectivele algoritmilor [social media] sunt acelea de a ne ține conectați, ne vor furniza otrava care activează cele mai neplăcute instincte și slăbiciuni omenești.” În acest discurs îndrăzneț, Eisenstat arată modul în care companiile de social media, precum Facebook, încurajează un conținut provocator care contribuie la o cultură a polarizării politice și neîncredere, și cere guvernelor să tragă la răspundere aceste platforme, pentru a proteja discursul civil și democrația.

Cu vreo cinci ani în urmă,

mi-am dat seama
că îmi pierdeam capacitatea

de a interacționa cu cei
care nu gândesc ca mine.

Ideea de a dezbate subiecte sensibile
cu colegii mei americani

începuse să îmi dea
mai multe dureri de stomac

decât discuțiile cu presupușii extremiști
de peste hotare.

Începuseră să-mi dea
o senzație de ură și frustrare.

Așa că, brusc,

mi-am mutat toată atenția

de la amenințările la adresa
securității naționale

la încercarea de a înțelege
de unde venea acest impuls

spre o polarizare exagerată.

Ca fost ofițer CIA și diplomat

care a petrecut mulți ani
în probleme de antiterorism,

mă temeam că acest lucru e o amenințare
mult mai mare pentru democrație

decât orice adversar extern.

Așadar, am început să cercetez

și să-mi exprim părerea,

lucru care a dus
la angajarea mea la Facebook

și în final m-a adus azi aici,

ca să vă avertizez despre faptul
că aceste platforme

ne manipulează și radicalizează
pe foarte mulți dintre noi,

și să vedem cum ne recâștigăm
spațiul public.

Am fost diplomat în Kenya

la câțiva ani după atacurile
din 11 septembrie,

și am condus așa numitele
campanii „inimi și minți”

de-a lungul graniței cu Somalia.

O parte importantă era să consolidez
încrederea în comunitățile

considerate cele mai expuse
la mesaje extremiste.

Am petrecut ore întregi bând ceai
cu clerici declarați antioccidentali

și chiar am stat de vorbă
cu câțiva presupuși teroriști;

și deși multe dintre aceste întâlniri
au început cu suspiciune reciprocă,

nu-mi amintesc să fi degenerat
niciuna în strigăte și insulte,

iar în unele cazuri chiar am colaborat
în domenii de interes reciproc.

Cele mai puternice instrumente
sunt să ascultăm, să înțelegem

și să dezvoltăm empatie.

Aceasta e esența programului
„inimi și minți”,

deoarece am descoperit în repetate rânduri
că ceea ce își doresc oamenii

este să se simtă auziți,
recunoscuți și respectați.

Și cred că asta ne dorim cu toții.

E dureros să văd ce se întâmplă
azi în mediul online

și e o problemă mult mai greu de rezolvat.

Suntem manipulați de ecosistemul
informațional actual,

care a încrâncenat pe mulți dintre noi
în absolutism,

încât compromisul
a devenit un cuvânt murdar.

Pentru că în acest moment,

rețelele sociale precum Facebook

profită de pe urma diviziunii noastre
și ne furnizează conținut personalizat

care ne validează și în același timp
ne exploatează prejudecățile.

Rezultatul lor final se bazează
pe provocarea unei emoții puternice

care să ne țină conectați,

stimulând adesea vocile
cele mai instigatoare și polarizante,

până când nu mai e posibilă
găsirea unul numitor comun.

Și deși sunt multe voci
care cer ca platformele să se schimbe,

e limpede că nu vor face suficient
din proprie inițiativă.

Prin urmare, guvernele trebuie
să stabilească responsabilitatea

pentru daunele din viața reală
provocate de aceste modele de business

și să impună costuri reale
pentru efectele dăunătoare

pe care le au asupra sănătății publice,
a spațiului public și a democrației.

Din păcate, asta nu se va întâmpla
înainte de alegerile prezidențiale,

așa că voi continua să trag
acest semnal de alarmă,

deoarece, chiar dacă vom avea cândva
reguli care să funcționeze,

e nevoie de noi toți
pentru a rezolva acest lucru.

Când mi-am mutat atenția
de la amenințările externe

la criza din discursul public de acasă,

m-am întrebat dacă putem schimba
unele campanii de inimi și minți,

pentru a ajuta să ne vindecăm dezbinările.

Experiența noastră cu democrația,
veche de peste 200 de ani,

funcționează în parte datorită faptului
că putem dezbate deschis și cu pasiune

ideile pe care le avem,
ca să găsim cele mai bune soluții.

Dar, deși cred cu adevărat

în puterea dialogului față în față,

acesta nu se poate compara

cu efectele polarizatoare și amploarea
rețelelor sociale în acest moment.

Oamenii care cad în aceste capcane

ale revoltei din social media

renunță mai greu
la mentalitățile lor ideologice

decât acele comunități defavorizate
cu care am lucrat.

Așadar, când m-au sunat
cei de la Facebook în 2018

și mi-au oferit această poziție,

să conduc operațiunile de integritate
a alegerilor în publicitatea politică,

am simțit că trebuie să accept.

Nu aveam iluzii că voi rezolva totul,

dar când mi s-a oferit ocazia

de a dirija nava într-o direcție mai bună,

trebuia măcar să încerc.

Nu am lucrat direct pe polarizare,

ci am căutat problemele
care dezbinau cel mai mult societatea,

fiind cele mai utilizate
în încercările de amestec în alegeri,

care a fost tactica Rusiei
înainte de 2016.

Am început prin a pune întrebări.

Voiam să înțeleg problemele
de bază ale acestui sistem

care au permis ca toate acestea
să se întâmple,

pentru a ști cum să le rezolvăm.

Încă mai cred în puterea internetului

de a aduce mai multe voci laolaltă,

dar în ciuda scopului declarat
de a construi o comunitate,

cum sunt construite acum
cele mai mari companii de social media,

sunt în antiteză cu conceptul
de discurs rațional.

Nu e nicio modalitate
de a răsplăti ascultarea,

de a încuraja dialogul civilizat

și de a proteja oamenii
care chiar vor să pună întrebări,

în domeniul unde optimizarea implicării
și creșterea numărului de utilizatori

sunt cei mai importanți
indicatori ai succesului.

Nu există interes de a-i ajuta
pe oameni să se calmeze,

de a crea suficientă presiune
încât oamenii să se oprească,

să-și dea seama de reacția lor emoțională

și să-și examineze propriile opinii
înainte să răspundă.

Din păcate, realitatea stă cam așa:

minciunile sunt mai interesante
decât adevărul,

iar scandalul întrece argumentul
rațional, bazat pe realitate,

într-o lume optimizată
pentru viralitate fără divergențe.

Atâta vreme cât scopurile algoritmilor
sunt să ne țină conectați,

vor continua să ne furnizeze
otrava care ne manevrează

cele mai rele instincte
și slăbiciuni umane.

Desigur, furia, neîncrederea,

cultura fricii, ura...

nimic din toate acestea
nu sunt ceva nou în America.

Dar în ultimii ani,
social media a folosit aceste lucruri

și, după părerea mea,
a înclinat simțitor balanța.

Iar Facebook știe asta.

Un articol recent
din „Wall Street Journal”

a dezvăluit o prezentare internă
din 2018 de la Facebook,

care arată în mod specific
că algoritmii companiei sunt responsabili

pentru creșterea prezenței
grupurilor extremiste pe platforma lor

și pentru polarizarea utilizatorilor.

Dar pentru ca ei să facă bani,
trebuie să ne țină implicați.

Mediul informațional modern
e axat pe crearea profilului nostru,

iar apoi pe împărțirea în categorii
din ce în ce mai mici,

pentru a perfecționa
procesul de personalizare.

Suntem apoi bombardați cu informații
care ne confirmă opiniile,

întărindu-ne propriile prejudecăți

și dându-ne senzația că aparținem undeva.

Sunt aceleași tactici
pe care le folosesc teroriștii

când vor să recruteze tineri vulnerabili,

deși cu metode mai reduse și localizate,
înainte de apariția rețelelor sociale,

având ca scop
influențarea comportamentului.

Din păcate, Facebook nu mi-a permis
niciodată să am un impact real.

De fapt, în a doua zi,
mi-au schimbat titlul și fișa postului

și am fost exclusă din ședințele
unde se luau decizii.

Eforturile mele

de a elabora planuri

de combatere a dezinformării și suprimării
alegătorilor în reclamele electorale

au fost respinse.

Așadar, am rezistat puțin sub șase luni.

Dar am plecat de acolo
cu ceva foarte important.

Sunt mii de oameni la Facebook

care lucrează cu pasiune la un proiect

despre care cred cu adevărat
că va schimba lumea,

dar atâta timp cât compania va continua
să cârpească doar pe la marginile

conținutului politic și ale moderării,

în loc să se gândească

la cum e proiectată și monetizată
întreaga mașinărie,

nu vor aborda cu adevărat
modul în care platforma

contribuie la ură,
dezbinare și radicalizare.

Și asta e o discuție pe care n-am auzit-o
cât am lucrat acolo,

pentru că asta ar fi însemnat
acceptarea în esență

a faptului că ceea ce construiești
s-ar putea să nu fie bun pentru societate

și să fii gata să modifici
întregul produs și model de profit.

Ce putem face?

Nu spun că social media
poartă întreaga responsabilitate

pentru starea în care suntem azi.

În mod cert, avem de rezolvat
probleme sociale profunde.

Dar răspunsul Facebook,
că e doar o oglindă a societății,

e o încercare convenabilă
de a respinge orice responsabilitate

a modului în care platforma lor
amplifică conținut dăunător

și împinge anumiți utilizatori
către opinii extremiste.

Iar Facebook ar putea, dacă ar dori,

să remedieze aceste lucruri.

Ar putea să oprească amplificarea
și favorizarea de teorii ale conspirației,

ale grupurilor xenofobe,
ale furnizorilor de dezinformare

și, da, în unele cazuri
chiar a președintelui nostru.

Ar putea să nu mai folosească
același procedeu de personalizare

pentru a furniza și retorică politică
și pentru a vinde teniși.

Ar putea să reprogrameze algoritmii

să se axeze pe alt parametru
diferit de implicare,

și ar putea construi bariere
care să împiedice viralizarea conținutului

înainte de a fi analizat.

Și ar putea face toate astea

fără să se transforme
în arbitrul adevărului.

Însă au explicat clar
că nu vor merge până acolo

încât să facă ce trebuie
fără a fi obligați,

și de ce s-o facă, sincer vorbind?

Piețele continuă să-i recompenseze
și nu încalcă nicio lege.

Deoarece în forma actuală,

nu există nicio lege în SUA care să oblige
Facebook sau altă companie de social media

să protejeze spațiul public,

democrația

sau chiar alegerile.

Am cedat luarea deciziilor cu privire
la ce reguli să scriem și să le impunem

directorilor de la companiile
de internet care fac profit.

Asta ne dorim?

O lume post-adevăr,
unde intoxicarea și tribalismul

ne împiedică să stabilim legături
și să ne dorim consensul?

Rămân însă optimistă că încă avem
mai multe lucruri în comun

decât prezintă mass-media actuală
și mediul online,

și cred că având o vedere de ansamblu

contribuie la o democrație
mai robustă și incluzivă.

Dar nu așa cum se întâmplă acum.

Și merită să menționez că nu vreau
să distrugem aceste companii,

vreau doar să fie trase la răspundere

cum se întâmplă în restul societății.

E timpul ca guvernele noastre
să înceapă să-și facă datoria

de a proteja cetățenii.

Deși nu există o lege fermecată

care să rezolve toate astea,

cred că guvernele pot
și trebuie să găsească balanța

între a apăra libertatea de exprimare

și a trage la răspundere aceste platforme
pentru efectele asupra societății.

Ar putea face acest lucru
punând accent pe transparență

în modul în care funcționează
motoarele de căutare,

modul în care se desfășoară
căutarea, răspândirea și targetarea.

Vreau ca aceste companii
să fie trase la răspundere

nu pentru că o persoană
postează informații false

sau retorică extremistă,

ci pentru cum sunt răspândite
de motoarele de căutare,

cum algoritmii direcționează
oamenii către ele

și cum sunt folosite aceste instrumente
pentru a-i urmări pe oameni.

Am încercat să schimb lucrurile
din interiorul Facebook și n-am reușit,

așa că mi-am folosit vocea în ultimii ani

pentru a trage un semnal de alarmă,

sperând că voi inspira mai mulți oameni
să ceară această responsabilizare.

Mesajul meu e simplu:

Puneți presiune
pe reprezentanții guvernului,

să ia atitudine și să nu mai cedeze
spațiul public în interes financiar.

Educați-vă prietenii și familia

despre cum sunt manipulați online.

Străduiți-vă să interacționați
cu persoane care nu gândesc ca voi.

Faceți din asta o prioritate.

E nevoie de întreaga societate
pentru a rezolva această problemă.

Iar mesajul meu pentru șefii
de la Facebook e acesta:

În prezent, aceste mijloace sunt folosite
așa cum au fost gândite,

să semene ură, dezbinare și neîncredere,

și nu numai că le acceptați,
ci le permiteți să facă asta.

Desigur că sunt și povești minunate,

despre lucruri bune care se întâmplă
pe această platformă în întreaga lume,

dar asta nu face ca totul să fie bine.

Iar lucrurile se înrăutățesc
pe măsură ce se apropie alegerile,

iar faptul cel mai îngrijorător

e că ne confruntăm cu cea mai mare
criză de până acum,

dacă rezultatele nu prezintă încredere
și vor izbucni violențe.

Iar în 2021, când veți spune
„Trebuie să ne străduim mai mult”,

vreau să vă amintiți acest moment,

pentru că nu mai e vorba
doar de câteva voci răzlețe.

Liderii mișcării pentru drepturi civile,
academicieni,

jurnaliști, agenții de publicitate,
angajații dumneavoastră,

strigă din toate puterile

că politicile și practicile voastre

fac rău oamenilor și democrației.

Sunteți stăpâni pe deciziile voastre,

dar nu mai puteți spune
că nu v-ați așteptat la așa ceva.

Vă mulțumesc!