Caro Facebook, questo è il modo in cui stai distruggendo la democrazia

"Le bugie dette online attraggono più della verità", afferma l'ex analista e diplomatica della CIA, nonché ex impiegata di Facebook Yaël Eisenstat. "Finché gli algoritmi [dei social media] avranno lo scopo di attirare la nostra attenzione, continueranno a nutrirci del veleno che risveglia i nostri peggiori istinti e le debolezze umane". In questo discorso audace, Yaël Eisenstat analizza il modo in cui le compagnie di social media come Facebook incentivino contenuti provocatori, contribuendo a creare una cultura di polarizzazione politica e di sfiducia - e invita i governi a ritenere queste piattaforme responsabili allo scopo di proteggere il dibattito civile e la democrazia.

Circa cinque anni fa,

ho notato che stavo perdendo la capacità

di interagire con le persone
che la pensavano in modo diverso.

L'idea di discutere su questioni scottanti
con i miei concittadini americani

iniziava a darmi più bruciori di stomaco

delle volte in cui avevo avuto a che fare
con sospetti estremisti all'estero.

Stava iniziando a farmi sentire
più amareggiata e frustrata.

E così,

ho spostato tutta la mia attenzione

dalle minacce globali
alla sicurezza nazionale

al cercare di capire
cosa stesse causando questa spinta

verso un'estrema
polarizzazione nel mio Paese.

Come ex agente della CIA e diplomatica

che ha passato anni a lavorare
su problematiche anti-estremiste,

ho iniziato a temere
che questa stesse diventando

una minaccia assai più grande
per la nostra democrazia

di qualsiasi nemico straniero.

Perciò ho iniziato a fare ricerche

e a parlarne apertamente,

cosa che mi ha portata
a essere assunta da Facebook

e, infine, a essere qui oggi

per continuare a mettervi in guardia
su come queste piattaforme

stiano manipolando
e radicalizzando così tanti di noi,

e per parlare di come riappropriarci
della nostra piazza pubblica.

Sono stata un funzionario estero in Kenya

qualche anno dopo
l'attacco dell'11 settembre,

e ho guidato quelle che alcuni chiamano
campagne "dei cuori e delle menti"

lungo il confine somalo.

Gran parte del mio lavoro consisteva
nel costruire un rapporto di fiducia

con le comunità ritenute più sensibili
ai messaggi estremisti.

Ho passato ore a bere tè
con dichiarati esponenti antioccidentali.

Mi sono anche confrontata
con dei sospetti terroristi.

Sebbene molte di queste interazioni
siano iniziate con sospetto reciproco,

non ricordo che nessuna di esse
sia mai sfociata in urla o insulti.

In alcuni casi, abbiamo
addirittura lavorato insieme

su aree di comune interesse.

L'arma più potente che avevamo

era semplicemente ascoltare,
imparare e creare empatia.

Questa è l'essenza del lavoro
dei cuori e delle menti,

perché quello che
ho riscontrato di continuo

è che ciò che la maggior parte
delle persone voleva

era sentirsi ascoltata,
approvata e rispettata.

E credo che sia anche ciò
che molti di noi vogliono.

Quello che vedo accadere
oggi online è straziante

ed è un problema molto
più difficile da affrontare.

Veniamo manipolati dall'attuale
ecosistema dell'informazione,

il quale sta facendo trincerare
molti di noi nell'assolutismo,

al punto che "compromesso"
è diventata una parolaccia.

Perché, ora come ora,

compagnie di social media come Facebook
traggono profitto dal segmentarci,

per poi fornirci
dei contenuti personalizzati

che confermano e allo stesso tempo
sfruttano i nostri preconcetti.

L'obiettivo principale è quello
di provocare forti emozioni

per tenerci impegnati,

spesso incentivando le voci
più provocatorie e polarizzanti

fino al punto in cui trovare
un punto d'incontro sembra impossibile.

E nonostante un coro crescente di persone
chieda alle piattaforme un cambiamento,

è evidente che queste persone
da sole non riusciranno a fare molto.

Quindi i governi devono
definire le responsabilità

per i danni reali che vengono causati
da questi modelli di business

e imporre dei costi reali
sugli effetti dannosi che stanno avendo

sulla nostra sanità pubblica,
sulla nostra piazza pubblica

e sulla nostra democrazia.

Purtroppo questo non avverrà in tempo
per le elezioni presidenziali degli USA,

perciò continuerò
a lanciare questo allarme,

perché anche se un giorno
dovessimo avere forti norme in vigore,

ci sarà comunque bisogno dell'aiuto
di tutti noi per sistemare le cose.

Quando ho iniziato a spostare
la mia attenzione dalle minacce estere

alla disgregazione
del dibattito civile nel mio Paese,

mi sono chiesta
se avessimo potuto riproporre

alcune di quelle campagne
dei cuori e delle menti

per risanare le nostre divergenze.

Il nostro esperimento di oltre 200 anni
con la democrazia funziona

in buona parte perché siamo in grado
di mettere in discussione le nostre idee,

apertamente e con passione,
per trovare le soluzioni migliori.

Sebbene io creda profondamente

nel potere del dibattito civile
faccia a faccia,

non può competere

con gli effetti polarizzanti
e con la portata dei social media attuali.

Le persone che vengono risucchiate

da questo vortice di indignazione
sui social media

spesso sono più difficili da separare
dalle loro mentalità ideologiche

di quanto lo siano mai state quelle
comunità vulnerabili con cui ho lavorato.

Perciò quando Facebook
mi ha chiamata nel 2018

e mi ha offerto l'incarico

di capo delle operazioni di integrità
elettorale per la propaganda politica,

ho sentito che dovevo dire di sì.

Sapevo che non sarei riuscita
a sistemare tutto,

ma quando ti viene data la possibilità

di contribuire a guidare la nave
verso una direzione migliore,

devi almeno provarci.

Non ho lavorato direttamente
sulla polarizzazione,

ma ho esaminato

quali sono stati i temi che hanno creato
più divisione nella nostra società

e quindi i più sfruttabili
nei tentativi di interferenza elettorale,

ovvero la tattica della Russia
in vista del 2016.

Ho iniziato facendo delle domande.

Volevo capire quale fosse
il problema sistemico di fondo

che stava permettendo
a tutto ciò di accadere,

in modo da pensare
a come poterlo risolvere.

Io credo ancora nel potere di internet,

nella sua capacità
di dare spazio a più voci,

ma nonostante l'obiettivo dichiarato
di costruire una comunità,

le più grandi compagnie di social media,
per come sono fatte adesso,

sono inconciliabili con il concetto
di discorso ragionato.

Non c'è modo di premiare l'ascolto,

di incoraggiare un dibattito civile

e di proteggere le persone che vogliono
fare delle domande in modo sincero

in un business

in cui ottimizzare il coinvolgimento
e la crescita degli utenti

sono i due parametri
più importanti per il successo.

Non c'è nessun incentivo
ad aiutare le persone a rallentare,

a creare un attrito sufficiente
a far sì che le persone si fermino,

riconoscano la loro reazione
emotiva a qualcosa

e mettano in discussione le loro
stesse ipotesi prima di partecipare.

La triste realtà è

che le bugie dette online
attraggono di più della verità

e l'oscenità batte il traballante
ragionamento basato sui fatti

in un mondo ottimizzato
per una viralità che non trova dissenso.

Finché gli algoritmi avranno lo scopo
di attirare la nostra attenzione,

continueranno a nutrirci del veleno

che risveglia i nostri peggiori istinti
e le debolezze umane.

E sì, la rabbia, la diffidenza,

la cultura della paura, il disprezzo...

niente di tutto questo è nuovo in America.

Ma negli ultimi anni, i social media
hanno sfruttato tutto questo

e, per come la vedo io, hanno fatto
inclinare la bilancia drasticamente.

E Facebook lo sa.

Un recente articolo
del "Wall Street Journal"

ha denunciato una presentazione interna
di Facebook del 2018

che evidenzia in modo particolare il ruolo
degli algoritmi delle società stesse

nella crescente presenza di gruppi
estremisti sulla loro piattaforma

e nella polarizzazione dei loro utenti.

Ma tenerci impegnati
è il loro modo di guadagnare.

L'ambiente dell'informazione moderno

è cristallizzato intorno
alla nostra profilazione

e alla nostra segmentazione

in un numero sempre maggiore
di categorie più piccole

per perfezionare il processo
di personalizzazione.

Dopodiché, veniamo bombardati
di informazioni

che confermano il nostro punto di vista,
consolidano i nostri pregiudizi

e ci fanno sentire
come se appartenessimo a qualcosa.

Queste sono le stesse tattiche
che venivano usate

dai reclutatori di terroristi
su giovani ragazzi vulnerabili,

anche se in modo più piccolo
e più localizzato,

prima dei social media,

con l'obiettivo finale
di persuadere il loro comportamento.

Purtroppo non sono stata mai autorizzata
da Facebook ad avere un impatto reale.

Di fatto, il secondo giorno, il mio titolo
e le mie mansioni sono stati cambiati

e sono stata tagliata fuori
dalle riunioni decisionali.

Tutti i miei sforzi
per cercare di sviluppare piani

per combattere la disinformazione
e la soppressione degli elettori

nelle inserzioni politiche

sono stati rigettati.

Sono durata poco meno di sei mesi.

Ma ecco cosa ho imparato
durante il tempo trascorso lì:

ci sono migliaia di persone in Facebook

che stanno lavorando
con passione su un prodotto

che credono fermamente possa rendere
il mondo un posto migliore,

ma fino a quando le società
si limiteranno a rimanere sul vago

riguardo alla politica dei contenuti
e alla moderazione

invece di considerare com'è progettata
e monetizzata l'intera macchina,

non affronteranno mai il problema
di come la piattaforma stia contribuendo

all'odio, alla divisione
e alla radicalizzazione.

E questo è il tipo di conversazione
che non è mai avvenuta mentre ero lì,

perché ciò richiederebbe
fondamentalmente accettare

che le cose che hanno creato

potrebbero non essere
la scelta migliore per la società,

e anche accettare di modificare l'intero
modello di prodotto e di profitto.

Quindi cosa possiamo fare a riguardo?

Non sto dicendo che i social media
sono gli unici responsabili

dello stato in cui ci troviamo oggi.

Ci sono chiaramente questioni sociali
radicate che dobbiamo risolvere.

Ma la risposta di Facebook,
che è solo uno specchio della società,

è un tentativo conveniente
di sviare ogni responsabilità

dal modo in cui la loro piattaforma
amplifica i contenuti dannosi

e spinge alcuni utenti
verso posizioni estreme.

E Facebook potrebbe, se solo volesse,

sistemare qualcosa.

Potrebbe smetterla di amplificare
e raccomandare teorici della cospirazione,

gruppi d'odio, chi causa disinformazione

e sì, in alcuni casi
anche il nostro Presidente.

Potrebbe smetterla di utilizzare
le stesse tecniche di personalizzazione

per trasmettere
la stessa retorica politica

usata per venderci
le scarpe da ginnastica.

Potrebbero riconvertire i loro algoritmi

per concentrarsi su un parametro
diverso dal tenerci impegnati,

e potrebbero costruire delle barriere

per impedire che certi contenuti
diventino virali

prima di venire revisionati.

E potrebbero fare tutto questo

senza diventare quelli che loro
chiamano "gli arbitri della verità".

Ma hanno già chiarito
che non si spingeranno

al punto da fare la cosa giusta
senza essere costretti a farlo,

e, a essere sinceri, perché dovrebbero?

I mercati continuano a premiarli
e non stanno infrangendo la legge.

Perché allo stato attuale,

non ci sono leggi statunitensi
che obblighino Facebook

o qualsiasi altra società di social media
a proteggere la nostra piazza pubblica,

la nostra democrazia

e perfino le nostre elezioni.

Abbiamo ceduto il potere decisionale
su quali norme scrivere e quali applicare

agli amministratori delegati
delle società internet a scopo di lucro.

È questo che vogliamo?

Un mondo post-verità
dove la tossicità e il tribalismo

prevalgono sulla costruzione di ponti
e sulla ricerca del consenso?

Rimango ottimista sul fatto che abbiamo
ancora più cose in comune l'un l'altro

rispetto a ciò che viene ritratto
dai media e dall'ambiente online,

e credo che avere un'ottica più ampia

renda la democrazia
più solida e inclusiva,

ma non nel modo in cui sta accadendo ora.

E va sottolineato che non voglio
distruggere queste società.

Voglio solo che sia riconosciuto loro
un certo livello di responsabilità,

proprio come al resto della società.

È tempo che i nostri governi
si facciano avanti

e svolgano il loro lavoro
per proteggere i propri cittadini.

E anche se non esiste una magica legge
in grado di risolvere tutto questo,

credo che i governi possano
e debbano trovare l'equilibrio

tra la tutela della libertà di parola

e il ritenere queste
piattaforme responsabili

per i loro effetti sulla società.

E potrebbero farlo in parte
insistendo su un'effettiva trasparenza

sul modo in cui funzionano
questi motori di raccomandazione,

su come avvengono la curation,
l'amplificazione e il targeting.

Vedete, voglio che queste società
siano ritenute responsabili

non per i post di disinformazione
o la retorica estrema di un individuo,

ma per come i loro motori
di raccomandazione li diffondono,

per come i loro algoritmi
orientano le persone verso di essi

e per come i loro strumenti li usano
per bersagliare le persone.

Ho provato a cambiare Facebook
dall'interno e non ci sono riuscita.

Così, negli ultimi anni,
ho usato di nuovo la mia voce

per continuare a diffondere
questo messaggio

nella speranza di ispirare più persone
a esigere questa responsabilità.

Il mio messaggio per voi è semplice:

fate pressione sui vostri
rappresentanti governativi

affinché si facciano avanti

e smettano di cedere la nostra
piazza pubblica a interessi di lucro.

Aiutate la vostra famiglia
e i vostri amici a informarsi

riguardo a come vengono manipolati online.

Sforzatevi di interagire con persone
che non la pensano come voi.

Fate di questo problema una priorità.

Abbiamo bisogno dell'intera società
per risolvere questo problema.

E il mio messaggio ai dirigenti del mio
ex datore di lavoro Facebook è questo:

in questo momento, le persone
stanno usando i vostri strumenti

esattamente come sono stati progettati

per seminare odio, divisione e diffidenza,

e voi non lo state solo permettendo,
state fornendo i mezzi.

E sì, ci sono un sacco
di storie positive di cose

che accadono sulla vostra
piattaforma in tutto il mondo,

ma questo non rende
nulla di tutto ciò accettabile.

E la situazione non fa che peggiorare
man mano che ci avviciniamo alle elezioni,

e, cosa ancora più preoccupante,

affrontiamo la nostra più grande
potenziale crisi finora,

se i risultati non sono attendibili
e se scoppia la violenza.

Così, quando nel 2021
direte ancora una volta:

"Sappiamo che dobbiamo fare di meglio",

voglio che ricordiate questo momento,

perché non si tratta più solo
di qualche voce solitaria.

Leader dei diritti civili, accademici,

giornalisti, pubblicitari,
i vostri stessi dipendenti

stanno gridando a tutto il mondo

che le vostre politiche
e le vostre pratiche commerciali

stanno danneggiando
le persone e la democrazia.

Siete voi a decidere,

ma non potrete più dire
che non potevate prevederlo.

Grazie.