Come Twitter deve cambiare

È possibile salvare Twitter? In una conversazione ad ampio raggio con Chris Anderson di TED e Whitney Pennington Rodgers, il CEO di Twitter Jack Dorsey parla del futuro della piattaforma, prende atto dei problemi con gli abusi in rete e la moderazione e propone cambiamenti significativi che spera possano incoraggiare un dialogo sano e rispettoso. La sua grande domanda è: "Stiamo dando qualcosa a cui la gente, giorno dopo giorno, dà valore?"

Chris Anderson: Che cosa ti preoccupa ora?

Sei stato molto aperto
su molti problemi di Twitter.

Qual è la tua principale preoccupazione

sullo stato delle cose oggi?

Jack Dorsey: Oggi,
lo stato di salute del dialogo.

Il nostro obiettivo è servire
il dialogo pubblico,

che è stato attaccato più volte.

Ha subito abusi, molestie,

manipolazioni,

automazioni, disinformazione,
coordinamento umano.

Sono tutte dinamiche
che non ci aspettavamo

quando abbiamo fondato
l'azienda, 13 anni fa.

Oggi ci sono su larga scala, invece,

e quello che mi preoccupa di più
è la nostra capacità di gestirli

in modo sistematico e scalabile,

con una comprensione rigorosa
di come stiamo intervenendo,

una comprensione trasparente
di come stiamo intervenendo

e un processo di scrutinio rigoroso
per quando faremo sbagli.

Perché ne faremo, prima o poi.

Whitney Pennington Rodgers:
sono felice di sentire

che è una cosa che ti preoccupa,

perché credo sia stato
scritto molto di gente

che si è sentita aggredita
e molestata su Twitter,

e credo nessuno più delle donne
e delle donne di colore

e donne nere.

Sono usciti dei dati --

Amnesty International ha pubblicato
un rapporto qualche mese fa

che mostrava come una serie
di donne di colore attive su Twitter,

subisca in media,
in risposta a un tweet su dieci,

una qualche forma di aggressione.

Quando pensi allo stato di salute
della comunità su Twitter,

sono felice di sentire
"salute per tutti".

Ma nello specifico, come renderai
Twitter un luogo più sicuro

per quelle donne di colore e donne nere?

JD: Sì.

È una situazione piuttosto terribile

quando aderisci a un servizio

da cui, idealmente,
vuoi imparare qualcosa del mondo,

e passi più tempo
a segnalare e ricevere molestie,

subire violenza.

Quello che cerchiamo
di approfondire sono gli incentivi

che la piattaforma e il servizio
forniscono naturalmente.

Con la dinamica attuale del sistema,

è facilissimo molestare e insultare altri
attraverso il servizio.

E purtroppo, in passato
gran parte del sistema

era interamente basato
sulla segnalazione di molestie e insulti.

A metà dell'anno scorso,
abbiamo deciso che avremmo applicato

molto più apprendimento automatico,
nel trattare la questione,

e avremmo cercato di essere
molto più proattivi sulle molestie,

in modo da farci carico completamente
del problema della vittima.

Abbiamo fatto progressi recentemente.

Il 38 percento circa dei tweet molesti
è ora correttamente identificato

da algoritmi di apprendimento automatico,

così la gente non deve nemmeno segnalarli.

Ma quelli che vengono identificati
vengono comunque controllati da persone,

in modo da non rimuovere contenuti
o account senza prima controllare.

Siamo partiti da zero solo un anno fa.

"Da zero" significa

che ogni singolo utente molestato
doveva segnalarlo,

il che significa impegno degli utenti,
e molto lavoro per noi,

il che è ingiusto.

L'altra cosa che facciamo
è assicurarci che in quanto azienda,

siamo rappresentati da tutte le comunità
che cerchiamo di servire.

Non possiamo costruire
un'azienda di successo

senza una diversità di prospettive
nel nostro ufficio,

che vive questi problemi quotidianamente.

E non solo nel team che fa il lavoro,

ma anche tra i leader.

Dobbiamo continuare a creare empatia
in quello che la gente vive

e darle più strumenti per agire

e dare anche ai nostri clienti
un approccio migliore e più facile

per gestire alcune cose che vedono.

Molto di quello che facciamo
è tecnologico,

ma analizziamo anche
gli incentivi del servizio:

cosa ti spinge a fare, Twitter,
la prima volta che lo apri?

In passato,

ha alimentato offese,
ha alimentato movimenti di massa,

ha alimentato molestie di gruppo.

E dobbiamo approfondire molto le basi

di come il servizio agisce
per i grandi cambiamenti.

Possiamo fare tanti piccoli
cambiamenti tecnologici, come ho detto;

ma in definitiva dobbiamo approfondire
le dinamiche della rete stessa,

ed è quello che stiamo facendo.

CA: Ma qual è il senso --

che tipo di cose potreste cambiare

che potrebbe modificare il comportamento?

JD: Una delle cose --

abbiamo iniziato il servizio
con il concetto di seguire un account,

ad esempio,

e non credo sia questo il motivo
per cui la gente arriva su Twitter.

Credo che Twitter funzioni meglio
come rete basata sugli interessi.

La gente arriva
con un particolare interesse.

Deve impegnarsi molto per trovare
e seguire gli account giusti

che ruotano attorno a quegli interessi.

Potremmo invece consentire
di seguire un argomento,

seguire un hashtag, seguire un trend,

seguire una comunità,

il che ci dà l'opportunità
di mostrare tutti gli account,

tutti gli argomenti, momenti, hashtag

associati a quell'interesse,
o a quell'argomento,

il che allarga le prospettive.

Ma è un cambiamento importante

spostare l'intera rete
dal principio di un solo account

al principio di argomento o interesse.

CA: Perché non è vero

che un motivo per cui
avete tanto contenuto

è frutto del mettere insieme
milioni di persone nel mondo

l'uno contro l'altro
in questa specie di arena di gladiatori

per i follower, per l'attenzione?

Dal punto di vista di utenti
che leggono solo Twitter,

non è un problema,

ma per chi lo crea, sono tutti lì a dire,

"Sai, vorrei tanto avere
più 'like', 'follower', 'retweet'."

Quindi continuano a sperimentare,

in cerca della strada giusta.

Abbiamo scoperto che il modo migliore

è essere provocatori, insopportabili,
eloquentemente molesti,

gli insulti eloquenti
sono un sogno su Twitter,

si accumula rapidamente --

diventa un processo di rabbia
che si auto-alimenta.

Come si può disinnescare?

JD: Hai colto il punto,

ma questo ci riporta agli incentivi.

Una delle scelte
che abbiamo fatto agli inizi

è stata mostrare il numero di follower.

Abbiamo deciso che quel numero
doveva essere bello grande,

e tutto ciò che è bello grande
sulla pagina è importante,

e quelle sono le cose da spingere.

È stata la decisione giusta all'epoca?

Probabilmente no.

Se dovessi ricominciare,
non enfatizzerei così tanto i follower.

Non enfatizzerei tanto
il conteggio dei 'like'.

Non credo nemmeno che creerei i 'like',

perché in realtà non spinge

quello che ora crediamo
sia la cosa più importante,

ossia un valido contributo alla rete

e al dialogo in rete,

la partecipazione alla conversazione,

imparare qualcosa dalla conversazione.

Non sono cose a cui,
13 anni fa, avevamo pensato

e crediamo siano molto importanti ora.

Dobbiamo analizzare
come mostriamo i follower,

come mostriamo il conteggio dei retweet,

come mostriamo i 'like',

e porci la domanda importante:

è questo il vero numero
che vogliamo far aumentare?

Aprendo Twitter,
è questo il punto centrale:

"Che cosa devo far aumentare?"

Non credo sia così, ora.

(Applausi)

WPR: Credo che dovremmo
analizzare alcuni tweet

che arrivano dal pubblico.

CA: Vediamo cosa state chiedendo.

Una delle cose straordinarie di Twitter

è come si può usare
il contributo del pubblico,

più conoscenza, più domande,
più punti di vista

di quanto si possa immaginare.

E alcuni, talvolta, sono molto validi.

WPR: Uno che ho visto passare velocemente,

"Qual è il piano di Twitter per combattere
l'ingerenza straniera alle elezioni 2020?"

Credo sia un problema

per Internet in generale,

le attività ostili automatizzate.

Su Twitter, per esempio, lavoriamo

con i nostri amici di Zignal Labs,

magari possiamo anche vedere
un esempio di quel che dico.

Ci sono questi bot, se volete,

o attività ostile
automatizzata e coordinata

di account che vengono utilizzati
per influenzare cose come le elezioni.

In questo esempio che Zignal ha condiviso,

utilizzando i dati di Twitter,

vedete che in questo caso,

il bianco rappresenta account di persone,
ogni punto è un account.

Più è rosa, più l'attività
è automatizzata.

Vedete che alcune persone
interagiscono con i bot.

In questo caso, è legato
alle elezioni in Israele

e la disinformazione diffusa
su Benny Gantz,

e sappiamo che alle elezioni

Netanyahu ha vinto con pochissimo margine,

e potrebbe esserne stato influenzato.

Se pensate a quello
che succede su Twitter,

cosa fate, nello specifico,

per assicurarvi che non si diffonda
disinformazione come questa,

che influenza la gente
compromettendo la democrazia?

JD: Torniamo indietro un attimo,

ci siamo fatti una domanda:

possiamo misurare lo stato di salute
della conversazione politica,

e cosa ne ricaviamo?

Così come voi avete indicatori

e noi umani abbiamo indicatori
dello stato di salute,

come la temperatura, il rossore del viso,

crediamo di poter trovare degli indicatori
dello stato di salute della conversazione.

Abbiamo lavorato con un laboratorio
di nome Cortico all'MIT

per proporre quattro indicatori

che crediamo possano misurare il sistema.

Il primo è quello che chiamiamo
attenzione condivisa.

È un indicatore di quanto
è concentrata la conversazione

sullo stesso argomento,
piuttosto che dispersa.

Il secondo si chiama realtà condivisa,

ed è la percentuale di conversazione

che condivide gli stessi fatti --

non se quei fatti sono veri o no,

ma se condividiamo gli stessi fatti
mentre dialoghiamo.

Il terzo è la ricettività:

quanto della conversazione
è aperta e civile

o viceversa, tossica?

Il quarto è la diversità di prospettive.

Siamo in bolle informative
o in echo-chamber,

o siamo davvero esposti
a una varietà di opinioni,

nelle conversazioni?

Implicito in tutti e quattro è l'idea

che più aumentano,
più la conversazione è sana.

Il primo passo è vedere
se possiamo misurarle online,

e crediamo di poterlo fare.

Abbiamo più slancio nella ricettività.

Abbiamo una scala o un modello
di tossicità, nel nostro sistema

che può misurare se stai per andartene
dalla conversazione su Twitter

perché hai la sensazione che sia tossica,

e ha ottime capacità di previsione.

Stiamo lavorando
alla misurazione del resto.

E il prossimo passo,
mentre cerchiamo nuove soluzioni,

è osservare come variano
queste misure nel tempo

e continuare a sperimentare.

Il nostro obiettivo è assicurarci
che siano equilibrate,

perché se ne aumenti una,
potresti ridurre l'altra.

Se aumenta la diversità di prospettiva,

potrebbe ridursi la realtà condivisa.

CA: Prendiamo qualcuna
delle domande che stanno arrivando.

JD: Un continuo di domande.

CA: Molti si chiedono
perché mai sia così difficile

liberare Twitter dai nazisti.

JD: (Risate)

Abbiamo regole per gruppi
violenti ed estremisti,

e gran parte del nostro lavoro
e i termini del servizio

funzionano sul comportamento,
non sul contenuto.

Sono i comportamenti, che cerchiamo.

"Comportamento" significa
usare questo servizio

per molestare qualcuno
ripetutamente o episodicamente,

usare immagini cariche di odio

che potrebbero essere associate al KKK

o al Partito Nazista Americano.

Sono tutte cose su cui
interveniamo immediatamente.

Siamo in una situazione in cui
il termine viene usato liberamente,

e non possiamo intervenire
ad ogni uso della parola

accusando qualcuno

come elemento per rimuoverlo
dalla piattaforma.

Molti dei nostri modelli sono basati su:

Uno, questo account è associato
a un gruppo estremista violento?

Se così fosse, possiamo intervenire.

Lo abbiamo fatto sul KKK,
sul Partito Nazista Americano e altri.

Due: usano immagini o comportamenti

che li associano a questi gruppi?

CA: Quante persone lavorano
alla moderazione dei contenuti?

JD: Dipende.

Vogliamo essere flessibili,

perché vogliamo essere certi
di costruire algoritmi

invece di assumere persone
in modo indiscriminato,

perché dobbiamo assicurarci
che sia scalabile,

e non c'è quantità di persone
che lo possa fare su larga scala.

Ecco perché abbiamo lavorato tanto
sulla rilevazione proattiva degli abusi

che le persone possono poi controllare.

Vogliamo una situazione

in cui gli algoritmi setacciano
in continuazione ogni singolo tweet

portando alla luce i più interessanti

in modo che le persone possano valutare
se prendere provvedimenti o no,

secondo i termini del servizio.

WPR: Nessuna quantità di persone
funziona su larga scala,

ma quante persone avete oggi
sul controllo degli account,

e come capite quando sono abbastanza?

JD: Sono assolutamente flessibili.

Qualche volta associamo
la gente allo spam.

Qualche volta l'associamo
all'abuso e alla molestia.

Ci assicureremo di avere
flessibilità nelle persone

in modo da indirizzarle
dove sono necessarie.

Talvolta le elezioni.

Ci sono state le elezioni in Messico,
tra poco ci saranno in India,

ovviamente le elezioni l'anno scorso,
quelle di metà mandato;

vogliamo essere flessibili
con le risorse.

Quando la gente --

ad esempio, se controllate
i termini del servizio

e guardate sulla pagina in alto,

e per abusi e molestie che avete ricevuto

vi chiedete se sono contrari
ai termini del servizio per segnalarli,

la prima cosa che vedete
aprendo quella pagina

è la protezione
della proprietà intellettuale.

Scendete e arrivate ad abusi e molestie

e qualunque cosa viviate.

Non so come sia successo
nella storia dell'azienda,

ma l'abbiamo messo prima delle cose
su cui la gente vuole più informazioni

e su cui vuole agire.

Il semplice ordine delle due cose
mostra le nostre priorità di allora.

Cambieremo tutto questo.

Lo metteremo nell'ordine giusto,

ma semplificheremo anche le regole
in modo che siano comprensibili

in modo che la gente possa capire

quando qualcosa è contrario
ai termini di servizio e quando non lo è.

E poi facciamo --

il nostro focus è sulla rimozione
del carico di lavoro dalle vittime.

Significa spingere più
verso la tecnologia,

invece di far fare il lavoro

a chi subisce molestie

e a chi deve controllarle.

Vogliamo assicurarci

non solo di incoraggiare più impegno

su una cosa molto indesiderabile,

ma vogliamo avere un giusto equilibrio

tra la tecnologia
e la creatività delle persone,

ossia nell'interpretazione delle regole,

e non solo la parte meccanica
del trovare e segnalare.

Noi la vediamo così.

CA: Vorrei approfondire
quel che hai detto.

Mi piace quando dici di voler cercare modi

per riprogettare il sistema

scoraggiare comportamenti
reazionari, e forse --

usando il linguaggio di Tristan Harris --

spingere verso un pensiero più riflessivo.

A che punto siamo?

Quali alternative potrebbero esserci
a quel tasto 'like'?

JD: Prima di tutto,

il mio obiettivo personale con il servizio
è che credo sostanzialmente

che il dialogo pubblico sia fondamentale.

Il mondo affronta problemi esistenziali,

non sono problemi di singole nazioni,

e ne beneficia il dialogo globale.

E questa è una delle dinamiche
uniche di Twitter:

è completamente aperta,

è completamente pubblica,

è completamente fluida,

e tutti possono vedere e partecipare
a qualunque altra conversazione.

Ci sono dialoghi
sul cambiamento climatico.

Ci sono dialoghi
come la distruzione del lavoro

ad opera dell'intelligenza artificiale.

Ci sono dialoghi come
la diseguaglianza economica.

Qualunque cosa faccia una nazione,

non sarà in grado
di risolvere il problema da sola.

Ci vuole coordinamento mondiale,
ed è qui che entra in gioco Twitter.

La seconda cosa è che Twitter,
oggi, quando entrate,

non ne uscite necessariamente
avendo imparato qualcosa.

Alcune persone sì.

Alcuni hanno una rete molto ricca,

una comunità molto ricca
da cui imparano ogni giorno.

Ma ci vogliono molto impegno
e tempo per costruirle.

Vogliamo che la gente arrivi
a questi argomenti e interessi

molto più rapidamente

e assicurarci che trovino qualcosa,

indipendentemente da quanto tempo
passano su Twitter --

e non voglio massimizzare
il tempo su Twitter,

voglio massimizzare ciò che si ottiene

ciò che si impara, e --

CA: Davvero?

Perché è la domanda fondamentale
che si pongono tutti.

Jack, sei largamente limitato

dal fatto di essere un'azienda quotata,

hai investitori che fanno pressione,

i soldi si fanno in primo luogo
con la pubblicità --

e questa dipende
dal coinvolgimento degli utenti.

Sei disposto a sacrificare
il tempo che trascorrono gli utenti,

in favore di un dialogo più riflessivo?

JD: Sì, maggiore pertinenza
significa meno tempo sul Twitter.

E va benissimo,

perché vogliamo assicurarci
che quando arrivate su Twitter,

e vedete qualcosa
da cui imparare immediatamente,

possiamo comunque abbinarvi
una pubblicità.

Non significa che dovete
passare più tempo e vedere di più.

La seconda cosa che cerchiamo --

CA: Ma su quell'obiettivo,
il tempo giornaliero trascorso,

anche se lo misurate,
non significa necessariamente

che la gente valorizzi ogni giorno.

Potrebbe solo indicare
da cosa la gente è attirata ogni giorno.

Siamo dipendenti, perché vediamo cose
che ci fanno arrabbiare,

quindi entriamo
e gettiamo benzina su fuoco,

e aumenta l'uso giornaliero,

e aumentano i ricavi pubblicitari,

ma siamo sempre più arrabbiati.

Come definire...

"Utenti attivi al mese" sembra
un termine pericoloso da ottimizzare.

(Applausi)

JD: Da solo lo è,

ma non mi hai fatto finire
l'altro indicatore,

ossia osservare le conversazioni

e le catene di conversazione.

Se vogliamo incentivare
i contributi sani alla rete,

e crediamo che questo significhi
partecipare a un dialogo "sano",

secondo i quattro indicatori
che ho citato prima,

non si può ottimizzare un solo indicatore.

Bisogna bilanciare
e osservare in continuazione

ciò che contribuisce
a creare un dialogo sano della rete

e un'esperienza sana per la gente.

Infine, vogliamo un indicatore
per cui la gente possa dire,

"Ho imparato qualcosa da Twitter,
e mi porto via preziose conoscenze."

Questo è il nostro obiettivo finale,
ma ci vorrà del tempo.

CA: Per molti, almeno per me,
sembri un enigma.

Probabilmente è ingiusto,
ma mi sono svegliato la scorsa notte

con questa immagine
di come vedo la situazione,

siamo con te in questo grande viaggio
su questa nave chiamata "Twittanic" --

(Risate)

Ci sono persone a bordo in terza classe

che segnalano un malessere,

e tu, contrariamente ad altri capitani,

dici, "Ditemi, parlate con me,
ascoltatemi, voglio ascoltare."

Ti parlano, e dicono, " Siamo preoccupati
per l'iceberg che abbiamo di fronte."

E tu, "Lo so, è un punto importante,

e la nostra nave, onestamente,
non è stata progettata

per virare così bene."

E noi, "Per favore, fai qualcosa."

Tu vai sul ponte,

e noi aspettiamo, guardiamo,

e mostri questa calma straordinaria,

ma noi siamo tutti lì a dire,
"Jack, gira quel fottuto timone!"

Capisci che intendo dire?

(Risate)

(Applausi)

Voglio dire --

(Applausi)

C'è la democrazia, in gioco.

La nostra cultura, è in gioco.
Il mondo, è in gioco.

E Twitter è meraviglioso, ci definisce.

Non è grande come altre piattaforme,

ma le persone influenti lo usano
per stabilire le priorità,

è difficile immaginare
un ruolo più importante al mondo -

Jack, stai facendo un ottimo lavoro
ascoltando la gente,

ma per affrontare l'urgenza
e andare avanti --

lo farai?

JD: Sì, abbiamo fatto passi avanti.

Sono state tante le dinamiche,
nella storia di Twitter.

Uno, quando sono tornato in azienda,

nuotavamo in cattive acque,

non solo per come la gente
usava la piattaforma,

ma anche in termini
di narrativa aziendale.

Abbiamo dovuto sistemare le fondamenta,

mettere l'azienda sottosopra,

passare per due ondate di licenziamenti,

perché eravamo troppo grandi
per quel che facevamo.

E le nostre energie andavano

su questo concetto di aiutare il dialogo.

È stato un enorme lavoro.

Ci siamo buttati,

abbiamo identificato
alcuni problemi alla base.

Abbiamo fatto un po' di cose superficiali
per sistemare ciò di cui parli,

ma i cambiamenti dovevano essere duraturi,

e questo significa approfondire

e prestare attenzione
a quel che abbiamo creato 13 anni fa

e mettere in discussione

il funzionamento del sistema

e quello che serve al mondo oggi,

considerando come tutto
cambia velocemente

e come la gente lo usa.

Lavoriamo più velocemente possibile,
ma la velocità non è sufficiente.

Ci vuole concentrazione, priorità,

capire le basi della rete

e costruire una struttura modulare

che si adatta ai cambiamenti,

essere aperti e trasparenti su dove siamo

per continuare a essere degni di fiducia.

Sono fiero della struttura
che abbiamo messo in piedi.

Sono fiero della direzione.

Ovviamente potremmo essere più veloci,

ma questo significa smettere di fare

una serie di cose stupide
che facevamo in passato.

CA: Bene.

Credo che molti qui,
avendone la possibilità,

vorrebbero aiutare il cambiamento,

e non so se Whitney --

Jack, grazie per essere venuto
a parlare apertamente.

Ci è voluto coraggio.

Apprezzo davvero quello che hai detto,
e buona fortuna nella tua missione.

JD: Grazie infinite.
Grazie per avermi invitato.

(Applausi)

Grazie.