Chris Anderson : Qu’est-ce qui vous inquiète ?
Vous avez été très ouvert sur beaucoup de problèmes sur Twitter.
Quelle serait votre principale inquiétude
quant à l’état actuel des choses ?
Jack Dorsey : Actuellement, la santé de la conversation.
Notre objectif est de servir le débat public
et nous y avons vu un certain nombre d’attaques.
Nous avons vu des abus, du harcèlement,
de la manipulation,
de l’automatisation, de la coordination humaine,
de la désinformation.
Ce sont des dynamiques auxquelles nous ne nous attendions pas
il y a 13 ans, quand nous étions en train de lancer l’entreprise.
Mais nous les voyons maintenant à grande échelle
et ce qui m’inquiète le plus est notre capacité à résoudre cela
de façon systémique et adaptée à l’échelle,
avec une compréhension rigoureuse de comment nous agissons,
une vision transparente de comment nous agissons
et une procédure d’appel rigoureuse pour les fois où nous avons tort,
car nous aurons tort.
Whitney Pennington Rodgers : Je suis ravie d’entendre
que cela vous inquiète
car il y a beaucoup d’articles sur des personnes
qui se sont senties maltraitées, harcelées sur Twitter
et je crois que personne ne l’a plus été que les femmes, les femmes de couleur
et les femmes noires.
Des données ont été publiées --
Amnesty International a publié un rapport il y a quelques mois
où ils ont montré que pour un sous-groupe de femmes noires utilisant Twitter,
en moyenne un tweet sur 10 reçus
présentait une forme de harcèlement.
Quand vous pensez à la santé de la communauté sur Twitter,
cela m’intéresse d’entendre « de la santé pour tout le monde »,
mais en particulier : comment allez-vous faire de Twitter un espace sûr
pour ce sous-groupe, pour les femmes,
pour les femmes de couleur et les femmes noires ?
JD : Ouais.
C’est une situation effroyable
quand vous venez sur un service
où, idéalement, vous voulez apprendre quelque chose sur le monde
et vous passez la majorité de votre temps à signaler des abus, à être agressée,
à être harcelée.
Nous reconsidérons en profondeur les incitations
que la plateforme offre naturellement et le service qu’elle fournit.
Actuellement, la dynamique du système rend cela très facile de harceler
et d’agresser les autres via le service
et malheureusement, auparavant, la majorité de notre système
était entièrement basé sur le signalement du harcèlement et des agressions.
Vers le milieu de l’année dernière, nous avons décidé d’appliquer
beaucoup plus d’apprentissage automatique, d’apprentissage profond au problème
et d’essayer d’être plus proactifs là où il y a des agressions
afin de pouvoir soulager complètement les victimes de ce fardeau.
Récemment, nous avons réalisé des progrès.
Environ 38 % des tweets abusifs sont identifiés de façon proactive
par des algorithmes d’apprentissage automatique
afin que les gens n’aient pas à les signaler.
Ceux qui sont identifiés sont passés en revue par des êtres humains
afin de ne pas supprimer du contenu ou des comptes
sans que quelqu’un ne les contrôle.
C’était à zéro pourcent il y a un an.
À ce zéro pourcent,
toute personne étant agressée devant le signaler,
ce qui représentait beaucoup de travail pour elle, pour nous
et était fondamentalement injuste.
Une autre chose que nous faisons,
c’est de nous s’assurer qu’en tant qu’entreprise,
nous avons une représentation
de toutes les communautés que nous servons.
Nous ne pouvons pas bâtir une entreprise fructueuse
sans avoir de diversité de points de vue au sein de nos murs
qui ressentent ces problèmes au quotidien.
Ce n’est pas valable qu’avec l’équipe qui accomplit le travail
mais aussi avec notre direction.
Nous devons continuer à développer de l’empathie
pour ce que les gens vivent,
leur offrir de meilleurs outils pour agir en fonction de leur vécu
et offrir à nos clients une approche meilleure et plus simple
pour gérer le genre de choses que nous voyons.
Une grande partie de notre travail a trait à la technologie
mais nous considérons également les incitations du service :
qu’est-ce que Twitter vous encourage-t-il à faire quand vous l’ouvrez ?
Auparavant,
il encourageait fortement l’indignation, le comportement de foule,
le harcèlement collectif.
Nous devons considérer plus en profondeur certains des principes fondamentaux
de ce que le service fait pour affecter de plus grands changements.
Nous pouvons faire de petits changements concernant la technologie
mais fondamentalement, nous devons considérer en profondeur
les dynamiques dans le réseau même
et c’est ce que nous faisons.
CA : Quelle est votre impression --
quel genre de choses que vous pourriez changer
modifieraient fondamentalement les comportements ?
JD : Une des choses --
nous avons démarré le service avec ce concept de suivre un compte,
en tant qu’exemple,
et je ne crois pas
que ce soit la raison pour laquelle les gens viennent sur Twitter.
Je crois que Twitter est surtout un réseau basé sur les centres d’intérêt.
Les gens y viennent avec un centre d’intérêt particulier.
Il leur faut beaucoup de travail
pour trouver et suivre les comptes associés à ces centres d’intérêt.
Nous pourrions plutôt vous permettre de suivre un centre d’intérêt,
suivre un hashtag, suivre une tendance,
suivre une communauté,
ce qui nous offre l’opportunité de montrer tous les comptes,
tous les sujets, tous les moments, tous les hashtags
qui sont associés à ce sujet et centre d’intérêt en particulier,
ce qui ouvre les perspectives que vous voyez.
Mais c’est un changement fondamental
faisant passer tous le réseau d’une subjectivité liée à un compte
à une subjectivité liée à un sujet et centre d’intérêt.
CA : N’est-il pas vrai
qu’une des raisons pour lesquelles vous avez là tant de contenu
résulte du fait d’avoir mis des millions de personnes à travers le monde
en compétition les uns contre les autres tels des gladiateurs
pour des abonnés, pour de l’attention ?
Du point de vue des gens qui ne font que lire Twitter,
ce n’est pas un problème,
mais pour les gens qui créent, tout le monde dit :
« J’aimerais avoir quelques “j’aime”, abonnés, retweets de plus. »
Ils font constamment des expérimentations,
essayent de trouver comment faire cela.
Nous avons tous découvert qu’un moyen pour y arriver,
c’est d’être provocateur,
odieux, odieux de façon éloquente,
les insultes éloquentes sont un rêve sur Twitter,
vous êtes vite suivi --
cela devient un processus d’outrage s’autoalimentant.
Comment arrêter cela ?
JD : Je pense que vous touchez au cœur du problème,
mais cela en revient aux incitations.
Un des choix que nous avons faits au tout début a été
que nous avions ce nombre montrant combien vous avez d’abonnés.
Nous avons décidé que ce nombre devrait être en grand et en gras,
que toute chose sur la page étant en grand et en gras avait de l’importance
et était ce que vous deviez aspirer à stimuler.
Était-ce la bonne décision à l’époque ?
Probablement pas.
Si je devais relancer le service,
je ne valoriserais pas autant le nombre d’abonnés.
Je ne valoriserais pas autant le nombre de « j’aime ».
Je ne pense pas que je créerais de « j’aime » du tout
car cela n’est pas un moteur
de ce que nous croyons aujourd’hui être la chose la plus importante :
les contributions saines au réseau
et la conversation avec le réseau,
la participation à la conversation,
l’apprentissage de quelque chose via cette conversation.
Nous n’avons pas pensé à ces choses-là il y a 13 ans
et nous les croyons extrêmement importantes aujourd’hui.
Nous devons considérer la façon d’afficher le nombre d’abonnés,
la façon d’afficher le nombre de retweets,
le nombre de « j’aime »
et poser la question profonde :
est-ce vraiment le nombre que les gens veulent faire augmenter ?
Est-ce la chose que, quand vous ouvrez Twitter,
c’est cela que vous devez augmenter.
Je ne crois pas que ce soit le cas.
(Applaudissements)
WPR : Nous devrions regarder certains des tweets venant du public.
CA : Voyons voir ce que vous demandez.
C’est -- en général, une des choses géniales concernant Twitter,
c’est son utilisation pour la sagesse de foule :
plus de savoir, plus de questions, plus de points de vue
que vous ne pouvez l’imaginer
et parfois, la plupart sont vraiment sains.
WPR : Je crois en avoir vu un passer rapidement disant :
« Comment Twitter compte-t-il lutter
contre les ingérences étrangères ? »
Je crois que c’est un problème observé sur Internet en général :
il y a beaucoup d’activité automatisée et malicieuse.
Sur Twitter, par exemple, nous avons un travail
venant de nos amis à Zignal Labs
et nous pouvons peut-être le voir et prendre un exemple
de ce dont je parle :
vous avez ces robots, si vous voulez,
ou une activité de compte coordonnée, automatisée et malicieuse
utilisée pour influencer des choses comme les élections.
Dans cet exemple que Zignal a partagé avec nous
et utilisant les données qu’ils ont sur Twitter,
vous voyez que dans ce cas
le blanc représente des êtres humains --
des comptes humains, chaque point est un compte.
Plus il est rose,
plus l’activité est automatisée.
Il y a quelques êtres humains interagissant avec des robots.
Dans ce cas, il s’agit des élections en Israël
et de la diffusion de désinformation au sujet de Benny Gantz
et, finalement, c’est une élection
que Netanyahu a gagnée de justesse
et elle a pu être influencée par cela.
Quand vous pensez à ce qu’il se passe sur Twitter,
quelles choses en particulier faites-vous
pour vous assurer de ne pas avoir une telle diffusion de la désinformation
influençant les gens de façons pouvant avoir un effet sur la démocratie ?
JD : Pour revenir un peu en arrière,
nous nous sommes posé une question :
pouvons-nous mesurer la santé d’une conversation
et qu’est-ce que cela signifie ?
Comme vous avez des indicateurs
et nous avons des indicateurs pour savoir si nous sommes en bonne santé
tels que la température, la rougeur de votre visage,
nous croyions pouvoir trouver
les indicateurs de la santé de la conversation.
Nous avons travaillé avec un labo du MIT appelé Cortico
pour proposer quatre indicateurs initiaux
que nous croyons pouvoir utiliser pour mesurer le système.
Le premier est ce que nous appelons « attention partagée ».
C’est une mesure indiquant si la conversation est attentive
plutôt que disparate sur un sujet.
Le deuxième s’appelle « réalité partagée » :
quel pourcentage de la conversation
partage les mêmes faits --
non pas est-ce que ces faits sont vrais ou faux,
mais partageons-nous les mêmes faits durant notre conversation ?
Le troisième est la réceptivité :
quelle part de la conversation est réceptive ou civile
ou au contraire, toxique ?
Le quatrième est la diversité des points de vue.
Observons-nous des bulles de filtres ou des chambres d’écho
ou avons-nous une diversité d’opinions
dans la conversation ?
Implicitement avec ces quatre indicateurs, nous nous entendons pour dire
que lorsqu’ils augmentent, la conversation devient de plus en plus saine.
Notre première étape est de voir si nous pouvons les mesurer en ligne,
ce que nous croyons possible.
Nous avons le plus de dynamisme concernant la réceptivité.
Nous avons un score de toxicité, un modèle de toxicité, dans notre système
qui peut mesurer si vous allez probablement vous retirer
d’une conversation que vous avez sur Twitter
car vous la trouvez toxique,
dont l’exactitude est plutôt élevée.
Nous travaillons à mesurer le reste
et la prochaine étape est,
alors que nous élaborons des solutions,
d’observer la tendance de ces mesures au fil du temps
et de continuer à expérimenter.
Notre objectif est de nous assurer qu’ils soient équilibrés
car si vous en augmentez un, vous pourriez en abaisser un autre.
Si vous améliorez la diversité des points de vue,
vous pourriez faire baisser la réalité partagée.
CA : Je recueille certaines des questions qui nous inondent là-haut.
JD : Plein de questions.
CA : Beaucoup de gens sont perplexes quant à pourquoi,
à quel point est-il difficile de se débarrasser des nazis sur Twitter ?
JD : (Rit)
Nous avons des politiques concernant les groupes extrémistes violents
et la majorité de notre travail et nos conditions d’utilisation
sont basées sur le comportement, pas le contenu.
Nous considérons le comportement.
Le comportement, c’est l’utilisation du service
pour harceler quelqu’un de façon répétée ou épisodique,
utiliser des images haineuses
pouvant être associées avec le Ku Klux Klan
ou le parti nazi américain.
Ce sont des choses pour lesquelles nous prenons des mesures immédiates.
Nous sommes actuellement dans une situation
où ce terme est employé à tout vent
et nous ne pouvons pas prendre une allusion à ce mot
en accusant quelqu’un d’autre
comme une indication factuelle qu’il devrait être banni de la plateforme.
Beaucoup de nos modèles sont basés, numéro un :
ce compte est-il associé à un groupe extrémiste violent ?
Si oui, nous pouvons prendre des mesures.
Nous l’avons fait avec le Ku Klux Klan, le parti nazi américain et d’autres.
Numéro deux : utilise-t-il des images ou a-t-il un comportement
qui les y associerait ?
CA : Combien de gens avez-vous à travailler
sur la modération du contenu ?
JD : Cela dépend.
Nous voulons être flexibles
car nous voulons nous assurer que, premièrement,
nous développons des algorithmes au lieu d’embaucher beaucoup de gens
car nous devons nous assurer que cela puisse être étendu
et à si grande échelle, cela ne peut pas être fait par des humains.
C’est pourquoi nous avons réalisé tant de travail
sur la détection proactive d’abus
que des humains peuvent vérifier.
Nous voulons avoir une situation
où des algorithmes parcourent constamment tous les tweets
et font remonter les plus intéressants
pour que des humains puissent exercer leur jugement
sur la prise de mesures ou non
d’après nos conditions d’utilisation.
WPR : C'est impossible à faire avec des humains,
mais combien de personnes avez-vous actuellement
à surveiller ces comptes
et comment déterminez-vous le nombre suffisant ?
JD : C’est entièrement flexible.
Parfois, nous assignons des gens au spam.
Parfois, nous assignons des gens aux abus et au harcèlement.
Nous allons nous assurer d’avoir la flexibilité dans nos effectifs
afin d’orienter leur travail sur ce qui est nécessaire.
Parfois, les élections.
Il y a eu une série d’élections au Mexique, à venir en Inde,
évidemment, les élections de mi-mandat l’année dernière,
donc nous voulons être flexibles avec nos ressources.
Quand les gens --
par exemple, si vous allez voir nos conditions d’utilisation,
vous chargez la page
et vous vous interrogez
sur les abus, le harcèlement dont vous avez été victime
et si cela va à l’encontre de nos conditions d’utilisation
pour les signaler,
la première chose que vous voyez en ouvrant cette page
concerne la protection de la propriété intellectuelle.
Si vous allez plus bas, vous arrivez aux abus et au harcèlement
et tout ce à quoi vous pourriez faire face.
J’ignore comment cela s’est passé dans l’histoire de l’entreprise
mais nous avons placé cela au-dessus de ce au sujet de quoi les gens veulent
le plus d’informations et une prise de mesures.
L’ordre montre au monde ce que nous pensions important.
Nous changeons tout cela.
Nous réordonnons cela comme il faut
mais nous simplifions aussi les règles pour qu’elles soient intelligibles
et que les gens puissent comprendre d’eux-mêmes
quand une chose va ou non à l’encontre de nos conditions d’utilisation.
Puis nous faisons --
de nouveau, nous mettons l’accent sur le fait de soulager les victimes
de la charge de travail.
Cela signifie de délester plus de travail sur la technologie
plutôt qu’il soit réalisé par des humains --
que ce soit les humains victimes d’abus
ainsi que les humains devant les examiner.
Nous voulons nous assurer
de ne pas seulement encourager plus de travail
autour de quelque chose de très, très négatif
et nous voulons avoir un équilibre entre la technologie
et là où les humains peuvent être créatifs,
c’est-à-dire l’appréciation des règles
et pas seulement l’aspect mécanique : la recherche et le signalement.
Voilà comment nous voyons cela.
CA : Je suis curieux de creuser ce que vous avez dit.
J’aime que vous ayez dit que vous cherchiez des moyens
de remettre au point la conception du système
pour décourager des comportements réactifs et peut-être --
pour utiliser un langage à la Tristan Harris --
motiver la pensée plus réflexive des gens.
À quel stade en est-ce ?
Quelles seraient des alternatives au bouton « j’aime » ?
JD : Avant tout,
mon objectif personnel avec le service est que je crois fondamentalement
qu’une conversation publique est essentielle.
Le monde fait face à des problèmes existentiels --
le monde entier y fait face, pas un État-nation en particulier --
auxquels une conversation publique bénéficie.
C’est l’une des dynamiques uniques à Twitter :
c’est entièrement ouvert,
c’est entièrement public,
c’est complètement fluide
et tout le monde peut voir et participer à toutes les conversations.
Il y a des conversations comme le changement climatique,
les déplacements dans le travail
via l’intelligence artificielle,
la disparité économique.
Peu importe ce qu’un État-nation fait,
il ne pourra pas résoudre le problème seul.
Cela nécessite une coordination à travers le monde
et c’est là que je pense que Twitter peut jouer un rôle.
La deuxième chose est qu’actuellement, quand vous allez sur Twitter,
vous n’en partez pas nécessairement
avec le sentiment d’avoir appris quelque chose.
Pour certains, c’est le cas.
Certains ont un réseau très, très riche,
une communauté très riche et ils apprennent chaque jour.
Mais il faut beaucoup de travail et de temps pour établir cela.
Nous voulons que les gens en viennent à ces sujets et centres d’intérêt
bien plus rapidement
et nous assurer qu’ils trouvent quelque chose,
peu importe le temps qu’ils passent sur Twitter --
je ne veux pas maximiser le temps sur Twitter,
je veux maximiser ce qu’ils en tirent
et ce qu’ils y apprennent...
CA : Est-ce vraiment le cas ?
C’est la question principale à laquelle les gens veulent une réponse.
Certainement, Jack, vous êtes considérablement contraint
par le fait d’être une entreprise privée,
des investisseurs font pression sur vous,
la façon principale dont vous gagnez de l’argent, c’est la publicité --
cela dépend de l’engagement des utilisateurs.
Êtes-vous prêt à sacrifier le temps des utilisateurs, si besoin est,
pour vous diriger vers une conversation plus réflexive ?
JD : Plus de pertinence signifie moins de temps sur le service
et c’est très bien
car je veux m’assurer que vous veniez sur Twitter
et que vous voyiez immédiatement
quelque chose à apprendre et qui vous fait avancer.
Nous pouvons toujours placer une annonce là-dessus.
Vous n’avez pas à passer plus de temps pour voir plus.
Secondement, nous considérons...
CA : Sur cet objectif, l’utilisation active quotidienne,
si vous mesurez cela, cela ne signifie pas que ce sont des choses
que les gens apprécient chaque jour.
Ce pourrait être des choses les attirant tels des papillons vers une flamme.
Nous sommes accros car nous voyons quelque chose qui nous énerve,
nous ajoutons de l’huile sur le feu,
l’utilisation active quotidienne augmente,
il y a plus de revenus publicitaires
mais nous sommes tous plus en colère envers les autres.
Comme définissez-vous...
« Utilisation active quotidienne » semble être un terme dangereux à optimiser.
(Applaudissements)
JD : Tout seul, ça l’est,
mais vous ne m’avez pas laissé finir l’autre métrique :
nous observons les conversations
et les chaînes de conversations.
Nous voulons encourager des contributions saines pour le réseau
et ce que nous croyons que c'est, c’est la participation à une conversation
qui est saine,
telle que définie par ces quatre indicateurs
que j’ai présentés plus tôt.
Vous ne pouvez pas optimiser une seule métrique.
Il faut un équilibre et constamment considérer
ce qui va créer une contribution saine pour le réseau
et une expérience saine pour les gens.
Finalement, nous voulons établir une métrique
où les gens peuvent nous dire : « J’ai appris quelque chose sur Twitter
et je repars avec une chose qui a de la valeur. »
C’est notre objectif ultime,
mais cela va prendre du temps.
CA : Pour beaucoup, je pense pour moi, vous paraissez être une énigme.
C’est peut-être injuste mais je me suis réveillé l’autre soir
avec cette image qui me faisait penser à vous et à la situation :
nous étions en voyage avec vous sur un bateau appelé « Twittanic » --
(Rires)
et il y a des gens sur l’entrepont
qui expriment un malaise
et vous, contrairement à de nombreux capitaines,
leur dites : « Dites-moi, parlez-moi, écoutez-moi, je veux entendre. »
Ils vous parlent et vous disent : « L’iceberg devant nous inquiète. »
Et vous dites : « C’est une très bonne remarque
et notre bateau n’a pas été fait de façon appropriée
pour tourner autant que nécessaire. »
Nous disons : « Agissez. »
Vous allez sur le pont
et nous attendons,
nous regardons et vous faites preuve d’un calme extraordinaire,
mais nous sommes tous dehors à dire : « Jack, allez, tournez le gouvernail ! »
Vous voyez ?
(Rires)
(Applaudissements)
Je veux dire --
(Applaudissements)
La démocratie est en jeu.
Notre culture est en jeu. Notre monde est en jeu.
Twitter est génial et façonne tant de choses.
Ce n’est pas aussi grand que d’autres plateformes,
mais les gens influents l’utilisent pour établir un programme
et il est difficile d’imaginer un rôle plus important au monde que de...
Vous faites un excellent travail en écoutant et entendant les gens, Jack,
mais élevez l’état d’urgence et faites avancer les choses --
ferez-vous cela ?
JD : Oui, et nous avons fait des progrès substantiels.
Il y a eu quelques dynamiques dans l’histoire de Twitter.
Un : quand je suis revenu dans l’entreprise,
nous étions dans un état déplorable concernant notre avenir
et pas seulement quant à la façon dont les gens utilisaient la plateforme,
mais aussi d’un point de vue de l’entreprise.
Nous avons dû réparer quelques fondations,
redresser l’entreprise,
en passer par deux folles périodes de licenciements,
car nous étions devenus trop gros pour ce que nous faisions,
et nous avons concentré toute notre énergie
sur ce concept qu’est servir le débat public.
Cela a nécessité du travail.
En nous plongeant là-dedans,
nous avons vu les problèmes avec des principes fondamentaux.
Nous pouvions faire des choses superficielles
pour régler ce dont vous parlez,
mais les changements doivent durer
et cela signifie aller très en profondeur
et prêter attention à ce que nous avons démarré il y a 13 ans
et remettre en question
comment le système et la structure fonctionnent
et ce dont le monde a besoin aujourd’hui,
étant données la rapidité à laquelle tout avance et l’utilisation des gens.
Nous travaillons aussi vite que possible,
mais la rapidité n’accomplira pas le travail.
C’est la concentration, la priorisation,
la compréhension des principes fondamentaux du réseau
et l’établissement d’une structure à grande échelle
et s’adaptant aux changements,
être ouverts et transparents quant à où nous en sommes
afin de continuer à gagner la confiance des gens.
Je suis fier des bases que nous avons mises en place.
Je suis fier de notre direction.
Nous pouvons évidemment aller plus vite,
mais cela nécessitait de mettre un terme à des trucs stupides que nous faisions.
CA : Très bien.
Je suppose qu’il y a beaucoup de gens ici qui, s’ils en avaient l’opportunité,
aimeraient vous aider à réaliser ces changements
et je ne sais pas si Whitney --
Jack, merci d’être venu et d’avoir parlé si ouvertement.
Cela a nécessité du courage.
J’apprécie ce que vous avez dit et bon courage pour votre mission.
JD : Merci beaucoup. Merci de m’avoir invité.
(Applaudissements)
Merci.