Il y a environ cinq ans,
je me suis rendue compte que je devenais incapable
de dialoguer avec les gens qui ne pensaient pas comme moi.
L'idée de débattre des sujets sensibles avec mes compatriotes Américains
commençait à devenir plus rebutante
que d'aller dialoguer avec de présumés extrémistes étrangers.
Cela commençait à me rendre de plus en plus amère et frustrée.
Et d'un seul coup,
mon attention s'est portée
des problèmes de sécurité nationale
à essayer de comprendre
ce qui poussait notre pays vers une polarisation extrême.
En tant qu'ancienne agent de la CIA et diplomate
qui a travaillé des années sur les problématiques extrémistes,
j'ai commencé à craindre que ces divisions soient plus dangereuses pour la démocratie
que n'importe quelle menace étrangère.
J'ai donc commencé à me renseigner,
et j'ai commencé à m'exprimer,
ce qui m'a conduit à être engagée par Facebook
et finalement amenée ici, aujourd'hui,
pour continuer à vous prévenir de la façon dont ces plateformes
manipulent et radicalisent tant d'entre nous,
et pour parler de la reconquête de notre espace public.
En tant que diplomate, j'ai été envoyée au Kenya,
quelques années après les attaques du 11 septembre,
et j'ai dirigé ces opérations appelées « cœurs et âmes, »
près de la frontière somalienne.
La gros de mon travail était d'établir la confiance
entre les communautés jugées plus sensibles aux discours extrémistes.
J'ai passé des heures à boire le thé
avec de fervents religieux anti-occidentaux
et même à discuter avec quelques terroristes présumés,
et bien que ces rencontres commençaient dans la suspicion mutuelle,
je ne me rappelle d'aucun finissant dans un haussement du ton ou des insultes,
et parfois,
nous avons même travaillé ensemble sur des centres d'intérêt communs.
L'outil le plus efficace que nous avions était de simplement écouter, apprendre,
et développer de l'empathie.
C'est l'essence du travail du cœur et de l'âme,
car j'ai constaté de nombreuses fois que la plupart des gens désirent
se sentir écoutés, validés et respectés.
Et je crois que la plupart d'entre nous désirons cela.
Donc ce que je vois en ligne aujourd'hui me touche particulièrement
et s'avère être un problème bien plus difficile à résoudre.
Nous sommes manipulés par cet écosystème d'information actuel
qui nous pousse tellement à nous retrancher dans l'absolutisme,
que « compromis » est devenu un gros mot.
Parce qu'en ce moment même,
les entreprises de réseaux sociaux comme Facebook
tirent profit à nous diviser et à nous procurer des contenus personnalisés
qui valident et exploitent nos préjugés.
Leurs profits dépendent de leur capacité à provoquer de fortes émotions
pour nous garder captivés,
souvent en mettant en avant les personnes les plus provocatrices et polarisantes,
au point que trouver un terrain d'entente ne semble plus possible.
Et malgré une communauté croissante demandant désespérément du changement,
il est évident que les plateformes ne feront pas assez par eux-mêmes.
Les gouvernement doivent donc définir la responsabilité
des dommages causés dans le monde physique par ce modèle économique
et imposer un coût réel
aux effets néfastes affectant notre santé publique,
notre espace public et notre démocratie.
Malheureusement, cela ne sera pas en place à temps pour l'élection présidentielle,
alors je continue de sonner l'alarme,
car même si un jour nous établissons de très bonnes lois,
nous aurons besoin de tout le monde pour s'occuper de ce problème.
Quand j'ai porté mon attention des problèmes étrangers
à la défaillance des débats civiques chez nous,
je me suis demandée s'il était possible d'utiliser ces opérations « cœur et âme »
pour aider à réparer nos divisions.
Notre expérience démocratique sur plus de 200 ans fonctionne
en grande partie grâce à la possibilité
de débattre ouvertement et passionnément jusqu'à trouver la bonne solution.
Mais bien que je crois intimement
dans l’intérêt d'un débat public en face-à-face,
il ne peut plus rivaliser
avec les effets polarisants à l'échelle des réseaux sociaux d'aujourd'hui.
Les gens qui sont pris dans ces pièges de l'indignation sur les réseaux sociaux
ont souvent plus de mal à casser leurs points de vue idéologiques
que toutes les communautés vulnérables avec lesquelles j'ai travaillé.
Alors, quand Facebook m'a appelée en 2018,
et m'a offert ce poste
pour superviser la gestion déontologique des publicités politiques,
je me suis sentie obligée de l'accepter.
Je me doutais bien que je ne pourrais pas tout arranger,
mais avec une telle opportunité
de pouvoir mettre les choses dans le droit chemin,
il fallait au moins que j'essaie.
Je n'ai pas pu travailler sur la polarisation,
mais j'ai pu voir quels étaient les sujets les plus clivants dans notre société,
et donc les plus exploitables par ceux qui veulent interférer dans les élections,
ce qui était déjà la tactique des Russes en 2016.
J'ai donc commencé à poser des questions.
Je voulais comprendre les problèmes inhérents et systémiques
qui permettaient à tout cela d'arriver,
afin de comprendre comment les réparer.
Je crois toujours dans la force d'Internet pour amener plus de gens à débattre,
mais malgré leur but avoué de construire une communauté,
les plus grandes entreprises de réseaux sociaux, actuellement,
sont bâties à l'opposé du concept de débat raisonné.
Il n'y a aucun moyen de récompenser l'écoute,
d'encourager le débat public,
et de protéger les gens qui veulent sincèrement poser des questions,
dans un business où optimiser l'implication et le nombre d'utilisateurs
sont les deux principales mesures du succès.
Rien n'est fait pour aider les gens à prendre du recul,
pour construire un frein qui leur permette de s'arrêter,
de reconnaitre leurs réactions émotionnelles,
et de questionner leurs propres avis avant de discuter.
Malheureusement, en réalité,
les mensonges sont plus captivants que la vérité,
et le licencieux l'emporte sur le raisonnement basé sur les faits
dans un monde optimisé pour la viralité sans contrôle.
Tant que le but des algorithmes est de nous garder captivés,
ils continueront à nous donner le poison
qui joue sur nos pires instincts et faiblesses humaines.
Et oui, la colère, la défiance,
la culture de la peur, la haine :
aucune n'est nouvelle aux États-Unis.
Mais ces dernières années, les réseaux sociaux s'en sont emparés
et, de mon point de vue, ont dramatiquement démesuré les échelles.
Et Facebook le sait.
Un article récent du « Wall Street Journal » dénonce
un rapport interne de Facebook de 2018,
dans lequel était démontré que les algorithmes de l'entreprise
rendaient les groupes extrémistes plus visibles sur leur plateforme,
et polarisaient leurs utilisateurs.
Mais nous garder captivés est leur manière de gagner de l'argent.
Le modèle économique de l'information consiste en l'établissement de nos profils
et de nous ranger dans des catégories de plus en plus précises
afin de parfaire ce processus de personnalisation.
Nous sommes ensuite bombardés d'informations confirmant nos pensées,
renforçant nos préjugés,
et qui nous donne l'impression d'appartenir à quelque chose.
Ce sont les mêmes tactiques qu'utilisent des recruteurs terroristes
sur la jeunesse vulnérable,
bien qu'à plus petite échelle comparées aux réseaux sociaux,
le but ultime étant d'entraîner un comportement particulier.
Malheureusement,
Facebook ne m'a jamais donné assez de pouvoir pour avoir un véritable impact.
En fait, à mon deuxième jour, le nom et le rôle de mon poste ont été changés,
et on m'a éloigné des réunions de prises de décision.
Mes plus grands efforts,
essayer de bâtir un plan pour lutter contre la désinformation
et l'incitation à ne pas aller voter via les publicités ciblées ont été rejetés.
Et donc j'ai tenu à peine six mois.
Mais voilà la plus grande chose que j'ai apprise là-bas.
Il y a des milliers d'employés à Facebook
qui travaillent passionnément sur un produit
en pensant véritablement qu'il rend le monde meilleur,
mais tant que cette entreprise continue à littéralement bricoler
aux frontières de la politique de contenu et de la modération,
et ne pas considérer comment l'entièreté de la machine est pensée et monétisée,
ils ne vont jamais vraiment remédier à la façon dont la plateforme contribue
à la haine, aux divisions, et à la radicalisation.
Et c'est précisément cette conversation que je n'ai jamais entendue là-bas,
parce que cela reviendrait à devoir accepter fondamentalement
que leur construction
pourrait ne pas contribuer au bien commun social
et d'accepter de modifier ce produit et de changer de modèle économique.
Alors, qu'est-ce que nous pouvons y faire ?
Je ne dis pas que les réseaux sociaux portent toute la responsabilité
de l'état du monde actuel.
Clairement, il y a de profonds problèmes de société
qu'il nous faut résoudre.
Mais la réponse de Facebook, qui n'est qu'un miroir de notre société,
est une tentative un peu facile pour éviter toute responsabilité
de la manière dont leur plateforme accentue le contenu néfaste
et pousse certains utilisateurs vers des points de vue extrêmes.
Et Facebook pourrait, s'il le voulait,
résoudre certains de ces problèmes.
Ils pourraient arrêter d'amplifier
et recommander les théories conspirationnistes,
les groupes de haine, les pourvoyeurs de désinformation,
et, oui, dans certains cas, même notre président.
Ils pourraient arrêter d'utiliser les mêmes techniques de personnalisation
pour diffuser un discours politique que celles pour nous vendre des chaussures.
Ils pourraient apprendre à leurs algorithmes,
à se baser sur une autre mesure que l'implication
et ils pourraient mettre en place des protocoles
pour empêcher certains contenus de devenir viraux avant leur modération.
Et ils pourraient faire tout cela
sans devenir ce qu'ils appellent des arbitres de la vérité.
Mais ils ont bien fait comprendre qu'ils ne sont pas prêts
à faire les choses justes sans y être forcés,
et, honnêtement, pourquoi le feraient-ils ?
Leurs affaires ne cessent de les conforter,
et ils n'enfreignent pas la loi.
Parce qu’actuellement, il n'y a aucune loi aux États-Unis obligeant Facebook,
ou n'importe quelle entreprise de réseaux sociaux,
à protéger notre espace public,
notre démocratie,
ou même nos élections.
Nous avons cédé notre pouvoir de décision sur quelles règles écrire ou appliquer
aux PDGs d'entreprises lucratives sur Internet.
Est-ce que c'est ce que nous voulons ?
Un monde post-vérité où la toxicité et le tribalisme
coupent les ponts et la recherche de consensus ?
Je demeure optimiste sur le fait que nous avons toujours plus en commun
que ce que les médias actuels et l'environnement en ligne dépeignent,
et je crois qu'avoir une plus grande variété de perspectives
permet une démocratie plus robuste et plus inclusive.
Mais pas de cette manière-là.
Et cela mérite d'insister, je ne veux pas détruire ces entreprises.
Je veux juste qu'elles portent une certaine part de responsabilité,
tout comme le reste de la société.
Il est temps pour nos gouvernements de s'élever et de faire leur travail
en protégeant notre citoyenneté.
Et bien qu'il n'y aura pas de loi miracle
qui remettrait tout en ordre,
je crois que les gouvernements peuvent, et doivent trouver l'équilibre
entre protéger la liberté d'expression,
et tenir ces plateformes responsables de leurs conséquences sur la société.
Et ils pourraient le faire, en partie, en demandant une vraie transparence
sur la façon dont ces moteurs de recommandations fonctionnent,
et comment le traitement, l'amplification et le ciblage se fait.
Je veux que ces compagnies soient tenues responsables
non pas si un individu poste de la désinformation
ou des discours extrémistes,
mais pour la manière dont leurs moteurs de recommandation les propagent,
dont leurs algorithmes amènent les gens vers ces contenus,
et dont leurs outils sont utilisés pour cibler les gens avec ces contenus.
J'ai essayé de changer Facebook de l’intérieur, et j'ai échoué,
alors j'ai de nouveau utilisé ma voix ces dernières années
pour continuer à sonner cette alarme,
dans l'espoir d'inspirer plus de gens à réclamer cette responsabilité.
Mon message pour vous est simple :
faites pression sur votre gouvernement pour qu'il s'élève et ne cède plus
notre espace public aux intérêts commerciaux.
Éduquez vos amis et votre famille
sur la manière dont ils sont manipulés en ligne.
Obligez-vous à vous discuter avec ceux qui ne pensent pas comme vous.
Faites de ce problème une priorité.
Nous avons besoin de l'ensemble de la société pour résoudre ce problème.
Et mon message aux dirigeants
de mon ancien employeur Facebook est celui-ci :
en ce moment même,
les gens utilisent vos outils exactement comme ils ont été pensés :
pour planter la haine, la division et la défiance,
et vous ne faites pas que le permettre, vous le favorisez.
Et oui, il y a beaucoup de belles histoires, de choses positives
sur votre plateforme qui viennent du monde entier,
mais cela n'excuse en rien tout le reste.
Et cela ne fait qu'empirer à l'approche des élections,
et encore plus concernant,
nous faisons face à notre plus grande crise potentielle,
si les résultats ne sont pas acceptés, et si la violence éclate.
Donc quand, en 2021, vous direz encore une fois :
« Nous savons que nous allons devoir faire mieux, »
je veux que vous vous rappeliez ce moment,
parce que ce n'est plus seulement quelques voix isolées.
Militants des droits civiques, intellectuels,
journalistes, publicitaires, vos propres employés,
vous crient de toutes parts
que vos politiques et vos pratiques commerciales
sont néfastes pour les gens et pour la démocratie.
Vos décisions vous appartiennent,
vous ne pourrez plus dire que vous ne l'aviez pas vu venir.
Merci.