Comment Twitter doit changer

Twitter peut-il être sauvé ? Dans une conversation de grande envergure avec Chris Anderson et Whitney Pennington Rodgers de TED, le PDG de Twitter Jack Dorsey discute de l'avenir de la plateforme -- reconnaissant des problèmes concernant le harcèlement et la modération et proposant des changements fondamentaux qui, il l'espère, encourageront des conversations saines et respectueuses. « Offrons-nous quelque chose que les gens apprécient chaque jour ? » demande Dorsey.

Chris Anderson :
Qu’est-ce qui vous inquiète ?

Vous avez été très ouvert
sur beaucoup de problèmes sur Twitter.

Quelle serait votre principale inquiétude

quant à l’état actuel des choses ?

Jack Dorsey : Actuellement,
la santé de la conversation.

Notre objectif est de servir
le débat public

et nous y avons vu
un certain nombre d’attaques.

Nous avons vu des abus, du harcèlement,

de la manipulation,

de l’automatisation,
de la coordination humaine,

de la désinformation.

Ce sont des dynamiques
auxquelles nous ne nous attendions pas

il y a 13 ans, quand nous étions
en train de lancer l’entreprise.

Mais nous les voyons maintenant
à grande échelle

et ce qui m’inquiète le plus
est notre capacité à résoudre cela

de façon systémique
et adaptée à l’échelle,

avec une compréhension rigoureuse
de comment nous agissons,

une vision transparente
de comment nous agissons

et une procédure d’appel rigoureuse
pour les fois où nous avons tort,

car nous aurons tort.

Whitney Pennington Rodgers :
Je suis ravie d’entendre

que cela vous inquiète

car il y a beaucoup d’articles
sur des personnes

qui se sont senties maltraitées,
harcelées sur Twitter

et je crois que personne ne l’a plus été
que les femmes, les femmes de couleur

et les femmes noires.

Des données ont été publiées --

Amnesty International a publié
un rapport il y a quelques mois

où ils ont montré que pour un sous-groupe
de femmes noires utilisant Twitter,

en moyenne un tweet sur 10 reçus

présentait une forme de harcèlement.

Quand vous pensez à la santé
de la communauté sur Twitter,

cela m’intéresse d’entendre
« de la santé pour tout le monde »,

mais en particulier : comment allez-vous
faire de Twitter un espace sûr

pour ce sous-groupe, pour les femmes,

pour les femmes de couleur
et les femmes noires ?

JD : Ouais.

C’est une situation effroyable

quand vous venez sur un service

où, idéalement, vous voulez apprendre
quelque chose sur le monde

et vous passez la majorité de votre temps
à signaler des abus, à être agressée,

à être harcelée.

Nous reconsidérons
en profondeur les incitations

que la plateforme offre naturellement
et le service qu’elle fournit.

Actuellement, la dynamique du système
rend cela très facile de harceler

et d’agresser les autres via le service

et malheureusement, auparavant,
la majorité de notre système

était entièrement basé sur le signalement
du harcèlement et des agressions.

Vers le milieu de l’année dernière,
nous avons décidé d’appliquer

beaucoup plus d’apprentissage automatique,
d’apprentissage profond au problème

et d’essayer d’être plus proactifs
là où il y a des agressions

afin de pouvoir soulager complètement
les victimes de ce fardeau.

Récemment, nous avons réalisé des progrès.

Environ 38 % des tweets abusifs
sont identifiés de façon proactive

par des algorithmes
d’apprentissage automatique

afin que les gens
n’aient pas à les signaler.

Ceux qui sont identifiés
sont passés en revue par des êtres humains

afin de ne pas supprimer
du contenu ou des comptes

sans que quelqu’un ne les contrôle.

C’était à zéro pourcent il y a un an.

À ce zéro pourcent,

toute personne étant agressée
devant le signaler,

ce qui représentait beaucoup de travail
pour elle, pour nous

et était fondamentalement injuste.

Une autre chose que nous faisons,

c’est de nous s’assurer
qu’en tant qu’entreprise,

nous avons une représentation

de toutes les communautés
que nous servons.

Nous ne pouvons pas bâtir
une entreprise fructueuse

sans avoir de diversité de points de vue
au sein de nos murs

qui ressentent ces problèmes au quotidien.

Ce n’est pas valable qu’avec l’équipe
qui accomplit le travail

mais aussi avec notre direction.

Nous devons continuer
à développer de l’empathie

pour ce que les gens vivent,

leur offrir de meilleurs outils
pour agir en fonction de leur vécu

et offrir à nos clients une approche
meilleure et plus simple

pour gérer le genre de choses
que nous voyons.

Une grande partie de notre travail
a trait à la technologie

mais nous considérons également
les incitations du service :

qu’est-ce que Twitter vous encourage-t-il
à faire quand vous l’ouvrez ?

Auparavant,

il encourageait fortement l’indignation,
le comportement de foule,

le harcèlement collectif.

Nous devons considérer plus en profondeur
certains des principes fondamentaux

de ce que le service fait
pour affecter de plus grands changements.

Nous pouvons faire de petits changements
concernant la technologie

mais fondamentalement,
nous devons considérer en profondeur

les dynamiques dans le réseau même

et c’est ce que nous faisons.

CA : Quelle est votre impression --

quel genre de choses
que vous pourriez changer

modifieraient fondamentalement
les comportements ?

JD : Une des choses --

nous avons démarré le service
avec ce concept de suivre un compte,

en tant qu’exemple,

et je ne crois pas

que ce soit la raison pour laquelle
les gens viennent sur Twitter.

Je crois que Twitter est surtout
un réseau basé sur les centres d’intérêt.

Les gens y viennent
avec un centre d’intérêt particulier.

Il leur faut beaucoup de travail

pour trouver et suivre les comptes
associés à ces centres d’intérêt.

Nous pourrions plutôt vous permettre
de suivre un centre d’intérêt,

suivre un hashtag, suivre une tendance,

suivre une communauté,

ce qui nous offre l’opportunité
de montrer tous les comptes,

tous les sujets, tous les moments,
tous les hashtags

qui sont associés à ce sujet
et centre d’intérêt en particulier,

ce qui ouvre les perspectives
que vous voyez.

Mais c’est un changement fondamental

faisant passer tous le réseau
d’une subjectivité liée à un compte

à une subjectivité liée
à un sujet et centre d’intérêt.

CA : N’est-il pas vrai

qu’une des raisons pour lesquelles
vous avez là tant de contenu

résulte du fait d’avoir mis des millions
de personnes à travers le monde

en compétition les uns contre les autres
tels des gladiateurs

pour des abonnés, pour de l’attention ?

Du point de vue des gens
qui ne font que lire Twitter,

ce n’est pas un problème,

mais pour les gens qui créent,
tout le monde dit :

« J’aimerais avoir quelques “j’aime”,
abonnés, retweets de plus. »

Ils font constamment des expérimentations,

essayent de trouver comment faire cela.

Nous avons tous découvert
qu’un moyen pour y arriver,

c’est d’être provocateur,

odieux, odieux de façon éloquente,

les insultes éloquentes
sont un rêve sur Twitter,

vous êtes vite suivi --

cela devient un processus
d’outrage s’autoalimentant.

Comment arrêter cela ?

JD : Je pense que vous
touchez au cœur du problème,

mais cela en revient aux incitations.

Un des choix que nous avons faits
au tout début a été

que nous avions ce nombre montrant
combien vous avez d’abonnés.

Nous avons décidé que ce nombre
devrait être en grand et en gras,

que toute chose sur la page étant
en grand et en gras avait de l’importance

et était ce que vous deviez
aspirer à stimuler.

Était-ce la bonne décision à l’époque ?

Probablement pas.

Si je devais relancer le service,

je ne valoriserais pas autant
le nombre d’abonnés.

Je ne valoriserais pas autant
le nombre de « j’aime ».

Je ne pense pas que je créerais
de « j’aime » du tout

car cela n’est pas un moteur

de ce que nous croyons aujourd’hui
être la chose la plus importante :

les contributions saines au réseau

et la conversation avec le réseau,

la participation à la conversation,

l’apprentissage de quelque chose
via cette conversation.

Nous n’avons pas pensé
à ces choses-là il y a 13 ans

et nous les croyons
extrêmement importantes aujourd’hui.

Nous devons considérer
la façon d’afficher le nombre d’abonnés,

la façon d’afficher le nombre de retweets,

le nombre de « j’aime »

et poser la question profonde :

est-ce vraiment le nombre
que les gens veulent faire augmenter ?

Est-ce la chose que,
quand vous ouvrez Twitter,

c’est cela que vous devez augmenter.

Je ne crois pas que ce soit le cas.

(Applaudissements)

WPR : Nous devrions regarder
certains des tweets venant du public.

CA : Voyons voir ce que vous demandez.

C’est -- en général, une des choses
géniales concernant Twitter,

c’est son utilisation
pour la sagesse de foule :

plus de savoir, plus de questions,
plus de points de vue

que vous ne pouvez l’imaginer

et parfois, la plupart
sont vraiment sains.

WPR : Je crois en avoir vu un
passer rapidement disant :

« Comment Twitter compte-t-il lutter

contre les ingérences étrangères ? »

Je crois que c’est un problème
observé sur Internet en général :

il y a beaucoup d’activité
automatisée et malicieuse.

Sur Twitter, par exemple,
nous avons un travail

venant de nos amis à Zignal Labs

et nous pouvons peut-être le voir
et prendre un exemple

de ce dont je parle :

vous avez ces robots, si vous voulez,

ou une activité de compte coordonnée,
automatisée et malicieuse

utilisée pour influencer
des choses comme les élections.

Dans cet exemple
que Zignal a partagé avec nous

et utilisant les données
qu’ils ont sur Twitter,

vous voyez que dans ce cas

le blanc représente des êtres humains --

des comptes humains,
chaque point est un compte.

Plus il est rose,

plus l’activité est automatisée.

Il y a quelques êtres humains
interagissant avec des robots.

Dans ce cas, il s’agit
des élections en Israël

et de la diffusion de désinformation
au sujet de Benny Gantz

et, finalement, c’est une élection

que Netanyahu a gagnée de justesse

et elle a pu être influencée par cela.

Quand vous pensez
à ce qu’il se passe sur Twitter,

quelles choses en particulier faites-vous

pour vous assurer de ne pas avoir
une telle diffusion de la désinformation

influençant les gens de façons
pouvant avoir un effet sur la démocratie ?

JD : Pour revenir un peu en arrière,

nous nous sommes posé une question :

pouvons-nous mesurer
la santé d’une conversation

et qu’est-ce que cela signifie ?

Comme vous avez des indicateurs

et nous avons des indicateurs
pour savoir si nous sommes en bonne santé

tels que la température,
la rougeur de votre visage,

nous croyions pouvoir trouver

les indicateurs de la santé
de la conversation.

Nous avons travaillé
avec un labo du MIT appelé Cortico

pour proposer quatre indicateurs initiaux

que nous croyons pouvoir
utiliser pour mesurer le système.

Le premier est ce que nous appelons
« attention partagée ».

C’est une mesure indiquant
si la conversation est attentive

plutôt que disparate sur un sujet.

Le deuxième s’appelle
« réalité partagée » :

quel pourcentage de la conversation

partage les mêmes faits --

non pas est-ce que ces faits
sont vrais ou faux,

mais partageons-nous les mêmes faits
durant notre conversation ?

Le troisième est la réceptivité :

quelle part de la conversation
est réceptive ou civile

ou au contraire, toxique ?

Le quatrième est la diversité
des points de vue.

Observons-nous des bulles de filtres
ou des chambres d’écho

ou avons-nous une diversité d’opinions

dans la conversation ?

Implicitement avec ces quatre indicateurs,
nous nous entendons pour dire

que lorsqu’ils augmentent, la conversation
devient de plus en plus saine.

Notre première étape est de voir
si nous pouvons les mesurer en ligne,

ce que nous croyons possible.

Nous avons le plus de dynamisme
concernant la réceptivité.

Nous avons un score de toxicité,
un modèle de toxicité, dans notre système

qui peut mesurer si vous allez
probablement vous retirer

d’une conversation
que vous avez sur Twitter

car vous la trouvez toxique,

dont l’exactitude est plutôt élevée.

Nous travaillons à mesurer le reste

et la prochaine étape est,

alors que nous élaborons des solutions,

d’observer la tendance
de ces mesures au fil du temps

et de continuer à expérimenter.

Notre objectif est de nous assurer
qu’ils soient équilibrés

car si vous en augmentez un,
vous pourriez en abaisser un autre.

Si vous améliorez
la diversité des points de vue,

vous pourriez faire baisser
la réalité partagée.

CA : Je recueille certaines des questions
qui nous inondent là-haut.

JD : Plein de questions.

CA : Beaucoup de gens
sont perplexes quant à pourquoi,

à quel point est-il difficile
de se débarrasser des nazis sur Twitter ?

JD : (Rit)

Nous avons des politiques concernant
les groupes extrémistes violents

et la majorité de notre travail
et nos conditions d’utilisation

sont basées sur le comportement,
pas le contenu.

Nous considérons le comportement.

Le comportement,
c’est l’utilisation du service

pour harceler quelqu’un
de façon répétée ou épisodique,

utiliser des images haineuses

pouvant être associées
avec le Ku Klux Klan

ou le parti nazi américain.

Ce sont des choses pour lesquelles
nous prenons des mesures immédiates.

Nous sommes actuellement
dans une situation

où ce terme est employé à tout vent

et nous ne pouvons pas prendre
une allusion à ce mot

en accusant quelqu’un d’autre

comme une indication factuelle
qu’il devrait être banni de la plateforme.

Beaucoup de nos modèles
sont basés, numéro un :

ce compte est-il associé
à un groupe extrémiste violent ?

Si oui, nous pouvons prendre des mesures.

Nous l’avons fait avec le Ku Klux Klan,
le parti nazi américain et d’autres.

Numéro deux : utilise-t-il des images
ou a-t-il un comportement

qui les y associerait ?

CA : Combien de gens
avez-vous à travailler

sur la modération du contenu ?

JD : Cela dépend.

Nous voulons être flexibles

car nous voulons nous assurer
que, premièrement,

nous développons des algorithmes
au lieu d’embaucher beaucoup de gens

car nous devons nous assurer
que cela puisse être étendu

et à si grande échelle, cela ne peut pas
être fait par des humains.

C’est pourquoi nous avons
réalisé tant de travail

sur la détection proactive d’abus

que des humains peuvent vérifier.

Nous voulons avoir une situation

où des algorithmes parcourent
constamment tous les tweets

et font remonter les plus intéressants

pour que des humains puissent
exercer leur jugement

sur la prise de mesures ou non

d’après nos conditions d’utilisation.

WPR : C'est impossible à faire
avec des humains,

mais combien de personnes
avez-vous actuellement

à surveiller ces comptes

et comment déterminez-vous
le nombre suffisant ?

JD : C’est entièrement flexible.

Parfois, nous assignons des gens au spam.

Parfois, nous assignons des gens
aux abus et au harcèlement.

Nous allons nous assurer d’avoir
la flexibilité dans nos effectifs

afin d’orienter leur travail
sur ce qui est nécessaire.

Parfois, les élections.

Il y a eu une série d’élections
au Mexique, à venir en Inde,

évidemment, les élections
de mi-mandat l’année dernière,

donc nous voulons être flexibles
avec nos ressources.

Quand les gens --

par exemple, si vous allez
voir nos conditions d’utilisation,

vous chargez la page

et vous vous interrogez

sur les abus, le harcèlement
dont vous avez été victime

et si cela va à l’encontre
de nos conditions d’utilisation

pour les signaler,

la première chose que vous voyez
en ouvrant cette page

concerne la protection
de la propriété intellectuelle.

Si vous allez plus bas,
vous arrivez aux abus et au harcèlement

et tout ce à quoi
vous pourriez faire face.

J’ignore comment cela s’est passé
dans l’histoire de l’entreprise

mais nous avons placé cela au-dessus
de ce au sujet de quoi les gens veulent

le plus d’informations
et une prise de mesures.

L’ordre montre au monde
ce que nous pensions important.

Nous changeons tout cela.

Nous réordonnons cela comme il faut

mais nous simplifions aussi les règles
pour qu’elles soient intelligibles

et que les gens puissent
comprendre d’eux-mêmes

quand une chose va ou non à l’encontre
de nos conditions d’utilisation.

Puis nous faisons --

de nouveau, nous mettons l’accent
sur le fait de soulager les victimes

de la charge de travail.

Cela signifie de délester
plus de travail sur la technologie

plutôt qu’il soit réalisé
par des humains --

que ce soit les humains victimes d’abus

ainsi que les humains devant les examiner.

Nous voulons nous assurer

de ne pas seulement
encourager plus de travail

autour de quelque chose
de très, très négatif

et nous voulons avoir un équilibre
entre la technologie

et là où les humains
peuvent être créatifs,

c’est-à-dire l’appréciation des règles

et pas seulement l’aspect mécanique :
la recherche et le signalement.

Voilà comment nous voyons cela.

CA : Je suis curieux de creuser
ce que vous avez dit.

J’aime que vous ayez dit
que vous cherchiez des moyens

de remettre au point
la conception du système

pour décourager des comportements
réactifs et peut-être --

pour utiliser un langage
à la Tristan Harris --

motiver la pensée plus réflexive des gens.

À quel stade en est-ce ?

Quelles seraient des alternatives
au bouton « j’aime » ?

JD : Avant tout,

mon objectif personnel avec le service
est que je crois fondamentalement

qu’une conversation publique
est essentielle.

Le monde fait face
à des problèmes existentiels --

le monde entier y fait face,
pas un État-nation en particulier --

auxquels une conversation
publique bénéficie.

C’est l’une des dynamiques
uniques à Twitter :

c’est entièrement ouvert,

c’est entièrement public,

c’est complètement fluide

et tout le monde peut voir et participer
à toutes les conversations.

Il y a des conversations
comme le changement climatique,

les déplacements dans le travail

via l’intelligence artificielle,

la disparité économique.

Peu importe ce qu’un État-nation fait,

il ne pourra pas
résoudre le problème seul.

Cela nécessite une coordination
à travers le monde

et c’est là que je pense
que Twitter peut jouer un rôle.

La deuxième chose est qu’actuellement,
quand vous allez sur Twitter,

vous n’en partez pas nécessairement

avec le sentiment
d’avoir appris quelque chose.

Pour certains, c’est le cas.

Certains ont un réseau très, très riche,

une communauté très riche
et ils apprennent chaque jour.

Mais il faut beaucoup de travail
et de temps pour établir cela.

Nous voulons que les gens en viennent
à ces sujets et centres d’intérêt

bien plus rapidement

et nous assurer
qu’ils trouvent quelque chose,

peu importe le temps
qu’ils passent sur Twitter --

je ne veux pas maximiser
le temps sur Twitter,

je veux maximiser ce qu’ils en tirent

et ce qu’ils y apprennent...

CA : Est-ce vraiment le cas ?

C’est la question principale
à laquelle les gens veulent une réponse.

Certainement, Jack, vous êtes
considérablement contraint

par le fait d’être une entreprise privée,

des investisseurs font pression sur vous,

la façon principale dont vous gagnez
de l’argent, c’est la publicité --

cela dépend de l’engagement
des utilisateurs.

Êtes-vous prêt à sacrifier
le temps des utilisateurs, si besoin est,

pour vous diriger
vers une conversation plus réflexive ?

JD : Plus de pertinence signifie
moins de temps sur le service

et c’est très bien

car je veux m’assurer
que vous veniez sur Twitter

et que vous voyiez immédiatement

quelque chose à apprendre
et qui vous fait avancer.

Nous pouvons toujours
placer une annonce là-dessus.

Vous n’avez pas à passer
plus de temps pour voir plus.

Secondement, nous considérons...

CA : Sur cet objectif,
l’utilisation active quotidienne,

si vous mesurez cela, cela ne signifie pas
que ce sont des choses

que les gens apprécient chaque jour.

Ce pourrait être des choses les attirant
tels des papillons vers une flamme.

Nous sommes accros car nous voyons
quelque chose qui nous énerve,

nous ajoutons de l’huile sur le feu,

l’utilisation active quotidienne augmente,

il y a plus de revenus publicitaires

mais nous sommes tous
plus en colère envers les autres.

Comme définissez-vous...

« Utilisation active quotidienne » semble
être un terme dangereux à optimiser.

(Applaudissements)

JD : Tout seul, ça l’est,

mais vous ne m’avez pas
laissé finir l’autre métrique :

nous observons les conversations

et les chaînes de conversations.

Nous voulons encourager
des contributions saines pour le réseau

et ce que nous croyons que c'est,
c’est la participation à une conversation

qui est saine,

telle que définie
par ces quatre indicateurs

que j’ai présentés plus tôt.

Vous ne pouvez pas optimiser
une seule métrique.

Il faut un équilibre
et constamment considérer

ce qui va créer une contribution
saine pour le réseau

et une expérience saine pour les gens.

Finalement, nous voulons
établir une métrique

où les gens peuvent nous dire :
« J’ai appris quelque chose sur Twitter

et je repars avec une chose
qui a de la valeur. »

C’est notre objectif ultime,

mais cela va prendre du temps.

CA : Pour beaucoup, je pense pour moi,
vous paraissez être une énigme.

C’est peut-être injuste
mais je me suis réveillé l’autre soir

avec cette image qui me faisait penser
à vous et à la situation :

nous étions en voyage avec vous
sur un bateau appelé « Twittanic » --

(Rires)

et il y a des gens sur l’entrepont

qui expriment un malaise

et vous, contrairement
à de nombreux capitaines,

leur dites : « Dites-moi, parlez-moi,
écoutez-moi, je veux entendre. »

Ils vous parlent et vous disent :
« L’iceberg devant nous inquiète. »

Et vous dites :
« C’est une très bonne remarque

et notre bateau n’a pas été fait
de façon appropriée

pour tourner autant que nécessaire. »

Nous disons : « Agissez. »

Vous allez sur le pont

et nous attendons,

nous regardons et vous faites preuve
d’un calme extraordinaire,

mais nous sommes tous dehors à dire :
« Jack, allez, tournez le gouvernail ! »

Vous voyez ?

(Rires)

(Applaudissements)

Je veux dire --

(Applaudissements)

La démocratie est en jeu.

Notre culture est en jeu.
Notre monde est en jeu.

Twitter est génial
et façonne tant de choses.

Ce n’est pas aussi grand
que d’autres plateformes,

mais les gens influents
l’utilisent pour établir un programme

et il est difficile d’imaginer un rôle
plus important au monde que de...

Vous faites un excellent travail
en écoutant et entendant les gens, Jack,

mais élevez l’état d’urgence
et faites avancer les choses --

ferez-vous cela ?

JD : Oui, et nous avons
fait des progrès substantiels.

Il y a eu quelques dynamiques
dans l’histoire de Twitter.

Un : quand je suis revenu
dans l’entreprise,

nous étions dans un état déplorable
concernant notre avenir

et pas seulement quant à la façon
dont les gens utilisaient la plateforme,

mais aussi d’un point de vue
de l’entreprise.

Nous avons dû réparer quelques fondations,

redresser l’entreprise,

en passer par deux folles
périodes de licenciements,

car nous étions devenus trop gros
pour ce que nous faisions,

et nous avons concentré
toute notre énergie

sur ce concept qu’est
servir le débat public.

Cela a nécessité du travail.

En nous plongeant là-dedans,

nous avons vu les problèmes
avec des principes fondamentaux.

Nous pouvions faire
des choses superficielles

pour régler ce dont vous parlez,

mais les changements doivent durer

et cela signifie aller très en profondeur

et prêter attention
à ce que nous avons démarré il y a 13 ans

et remettre en question

comment le système
et la structure fonctionnent

et ce dont le monde a besoin aujourd’hui,

étant données la rapidité à laquelle
tout avance et l’utilisation des gens.

Nous travaillons aussi vite que possible,

mais la rapidité
n’accomplira pas le travail.

C’est la concentration, la priorisation,

la compréhension des principes
fondamentaux du réseau

et l’établissement
d’une structure à grande échelle

et s’adaptant aux changements,

être ouverts et transparents
quant à où nous en sommes

afin de continuer
à gagner la confiance des gens.

Je suis fier des bases
que nous avons mises en place.

Je suis fier de notre direction.

Nous pouvons évidemment aller plus vite,

mais cela nécessitait de mettre un terme
à des trucs stupides que nous faisions.

CA : Très bien.

Je suppose qu’il y a beaucoup de gens ici
qui, s’ils en avaient l’opportunité,

aimeraient vous aider
à réaliser ces changements

et je ne sais pas si Whitney --

Jack, merci d’être venu
et d’avoir parlé si ouvertement.

Cela a nécessité du courage.

J’apprécie ce que vous avez dit
et bon courage pour votre mission.

JD : Merci beaucoup.
Merci de m’avoir invité.

(Applaudissements)

Merci.