Cher Facebook, voilà comment vous détruisez la démocratie

« Sur internet, les mensonges sont plus captivants que la vérité, » nous dit Yaël Eisenstat, ancienne agent de la CIA et employée de Facebook. « Tant que le but des algorithmes sont de nous maintenir captivés, ils continueront de nous donner le poison qui joue sur nos pires instincts et nos faiblesses humaines. » Dans cette conférence osée, Eisenstat explore la façon dont les entreprises de réseaux sociaux comme Facebook, mettent en avant les contenus provocateurs, ce qui contribue à une culture d'un clivage et d'une défiance politique - et elle appelle les gouvernements à tenir ces plateformes responsables afin de protéger les débats publics et la démocratie.

Il y a environ cinq ans,

je me suis rendue compte
que je devenais incapable

de dialoguer avec les gens
qui ne pensaient pas comme moi.

L'idée de débattre des sujets sensibles
avec mes compatriotes Américains

commençait à devenir plus rebutante

que d'aller dialoguer avec de présumés
extrémistes étrangers.

Cela commençait à me rendre
de plus en plus amère et frustrée.

Et d'un seul coup,

mon attention s'est portée

des problèmes de sécurité nationale

à essayer de comprendre

ce qui poussait
notre pays vers une polarisation extrême.

En tant qu'ancienne agent de la CIA
et diplomate

qui a travaillé des années
sur les problématiques extrémistes,

j'ai commencé à craindre que ces divisions
soient plus dangereuses pour la démocratie

que n'importe quelle menace étrangère.

J'ai donc commencé à me renseigner,

et j'ai commencé à m'exprimer,

ce qui m'a conduit
à être engagée par Facebook

et finalement amenée ici, aujourd'hui,

pour continuer à vous prévenir
de la façon dont ces plateformes

manipulent et radicalisent
tant d'entre nous,

et pour parler de la reconquête
de notre espace public.

En tant que diplomate,
j'ai été envoyée au Kenya,

quelques années
après les attaques du 11 septembre,

et j'ai dirigé ces opérations
appelées « cœurs et âmes, »

près de la frontière somalienne.

La gros de mon travail
était d'établir la confiance

entre les communautés jugées
plus sensibles aux discours extrémistes.

J'ai passé des heures à boire le thé

avec de fervents religieux
anti-occidentaux

et même à discuter
avec quelques terroristes présumés,

et bien que ces rencontres commençaient
dans la suspicion mutuelle,

je ne me rappelle d'aucun finissant
dans un haussement du ton ou des insultes,

et parfois,

nous avons même travaillé ensemble
sur des centres d'intérêt communs.

L'outil le plus efficace que nous avions
était de simplement écouter, apprendre,

et développer de l'empathie.

C'est l'essence
du travail du cœur et de l'âme,

car j'ai constaté de nombreuses fois
que la plupart des gens désirent

se sentir écoutés,
validés et respectés.

Et je crois que la plupart d'entre
nous désirons cela.

Donc ce que je vois en ligne aujourd'hui
me touche particulièrement

et s'avère être un problème
bien plus difficile à résoudre.

Nous sommes manipulés
par cet écosystème d'information actuel

qui nous pousse tellement
à nous retrancher dans l'absolutisme,

que « compromis » est devenu un gros mot.

Parce qu'en ce moment même,

les entreprises de réseaux sociaux
comme Facebook

tirent profit à nous diviser et à nous
procurer des contenus personnalisés

qui valident et exploitent nos préjugés.

Leurs profits dépendent de leur capacité
à provoquer de fortes émotions

pour nous garder captivés,

souvent en mettant en avant les personnes
les plus provocatrices et polarisantes,

au point que trouver un terrain d'entente
ne semble plus possible.

Et malgré une communauté croissante
demandant désespérément du changement,

il est évident que les plateformes
ne feront pas assez par eux-mêmes.

Les gouvernement doivent donc
définir la responsabilité

des dommages causés dans le monde physique
par ce modèle économique

et imposer un coût réel

aux effets néfastes
affectant notre santé publique,

notre espace public et notre démocratie.

Malheureusement, cela ne sera pas en place
à temps pour l'élection présidentielle,

alors je continue de sonner l'alarme,

car même si un jour
nous établissons de très bonnes lois,

nous aurons besoin de tout le monde
pour s'occuper de ce problème.

Quand j'ai porté mon attention
des problèmes étrangers

à la défaillance des débats civiques
chez nous,

je me suis demandée s'il était possible
d'utiliser ces opérations « cœur et âme »

pour aider à réparer nos divisions.

Notre expérience démocratique
sur plus de 200 ans fonctionne

en grande partie grâce à la possibilité

de débattre ouvertement et passionnément
jusqu'à trouver la bonne solution.

Mais bien que je crois intimement

dans l’intérêt d'un débat public
en face-à-face,

il ne peut plus rivaliser

avec les effets polarisants à l'échelle
des réseaux sociaux d'aujourd'hui.

Les gens qui sont pris dans ces pièges
de l'indignation sur les réseaux sociaux

ont souvent plus de mal
à casser leurs points de vue idéologiques

que toutes les communautés vulnérables
avec lesquelles j'ai travaillé.

Alors, quand Facebook m'a appelée en 2018,

et m'a offert ce poste

pour superviser la gestion déontologique
des publicités politiques,

je me suis sentie obligée de l'accepter.

Je me doutais bien
que je ne pourrais pas tout arranger,

mais avec une telle opportunité

de pouvoir mettre les choses
dans le droit chemin,

il fallait au moins que j'essaie.

Je n'ai pas pu travailler
sur la polarisation,

mais j'ai pu voir quels étaient les sujets
les plus clivants dans notre société,

et donc les plus exploitables par ceux
qui veulent interférer dans les élections,

ce qui était déjà la tactique des Russes
en 2016.

J'ai donc commencé à poser des questions.

Je voulais comprendre les problèmes
inhérents et systémiques

qui permettaient à tout cela d'arriver,

afin de comprendre comment les réparer.

Je crois toujours dans la force d'Internet
pour amener plus de gens à débattre,

mais malgré leur but avoué
de construire une communauté,

les plus grandes entreprises
de réseaux sociaux, actuellement,

sont bâties à l'opposé
du concept de débat raisonné.

Il n'y a aucun moyen
de récompenser l'écoute,

d'encourager le débat public,

et de protéger les gens qui veulent
sincèrement poser des questions,

dans un business où optimiser
l'implication et le nombre d'utilisateurs

sont les deux principales
mesures du succès.

Rien n'est fait pour aider les gens
à prendre du recul,

pour construire un frein
qui leur permette de s'arrêter,

de reconnaitre
leurs réactions émotionnelles,

et de questionner leurs propres avis
avant de discuter.

Malheureusement, en réalité,

les mensonges sont plus captivants
que la vérité,

et le licencieux l'emporte
sur le raisonnement basé sur les faits

dans un monde optimisé
pour la viralité sans contrôle.

Tant que le but des algorithmes
est de nous garder captivés,

ils continueront à nous donner le poison

qui joue sur nos pires instincts
et faiblesses humaines.

Et oui, la colère, la défiance,

la culture de la peur, la haine :

aucune n'est nouvelle aux États-Unis.

Mais ces dernières années,
les réseaux sociaux s'en sont emparés

et, de mon point de vue,
ont dramatiquement démesuré les échelles.

Et Facebook le sait.

Un article récent
du « Wall Street Journal » dénonce

un rapport interne de Facebook de 2018,

dans lequel était démontré
que les algorithmes de l'entreprise

rendaient les groupes extrémistes
plus visibles sur leur plateforme,

et polarisaient leurs utilisateurs.

Mais nous garder captivés
est leur manière de gagner de l'argent.

Le modèle économique de l'information
consiste en l'établissement de nos profils

et de nous ranger dans des catégories
de plus en plus précises

afin de parfaire
ce processus de personnalisation.

Nous sommes ensuite bombardés
d'informations confirmant nos pensées,

renforçant nos préjugés,

et qui nous donne l'impression
d'appartenir à quelque chose.

Ce sont les mêmes tactiques
qu'utilisent des recruteurs terroristes

sur la jeunesse vulnérable,

bien qu'à plus petite échelle
comparées aux réseaux sociaux,

le but ultime étant d'entraîner
un comportement particulier.

Malheureusement,

Facebook ne m'a jamais donné assez
de pouvoir pour avoir un véritable impact.

En fait, à mon deuxième jour, le nom
et le rôle de mon poste ont été changés,

et on m'a éloigné des réunions
de prises de décision.

Mes plus grands efforts,

essayer de bâtir un plan
pour lutter contre la désinformation

et l'incitation à ne pas aller voter via
les publicités ciblées ont été rejetés.

Et donc j'ai tenu à peine six mois.

Mais voilà la plus grande chose
que j'ai apprise là-bas.

Il y a des milliers d'employés à Facebook

qui travaillent passionnément
sur un produit

en pensant véritablement
qu'il rend le monde meilleur,

mais tant que cette entreprise continue
à littéralement bricoler

aux frontières de la politique de contenu
et de la modération,

et ne pas considérer comment l'entièreté
de la machine est pensée et monétisée,

ils ne vont jamais vraiment remédier
à la façon dont la plateforme contribue

à la haine, aux divisions,
et à la radicalisation.

Et c'est précisément cette conversation
que je n'ai jamais entendue là-bas,

parce que cela reviendrait à devoir
accepter fondamentalement

que leur construction

pourrait ne pas contribuer
au bien commun social

et d'accepter de modifier ce produit
et de changer de modèle économique.

Alors,
qu'est-ce que nous pouvons y faire ?

Je ne dis pas que les réseaux sociaux
portent toute la responsabilité

de l'état du monde actuel.

Clairement, il y a de profonds
problèmes de société

qu'il nous faut résoudre.

Mais la réponse de Facebook,
qui n'est qu'un miroir de notre société,

est une tentative un peu facile
pour éviter toute responsabilité

de la manière dont leur plateforme
accentue le contenu néfaste

et pousse certains utilisateurs
vers des points de vue extrêmes.

Et Facebook pourrait, s'il le voulait,

résoudre certains de ces problèmes.

Ils pourraient arrêter d'amplifier

et recommander
les théories conspirationnistes,

les groupes de haine, les pourvoyeurs
de désinformation,

et, oui, dans certains cas,
même notre président.

Ils pourraient arrêter d'utiliser
les mêmes techniques de personnalisation

pour diffuser un discours politique que
celles pour nous vendre des chaussures.

Ils pourraient apprendre
à leurs algorithmes,

à se baser sur une autre mesure
que l'implication

et ils pourraient mettre en place
des protocoles

pour empêcher certains contenus
de devenir viraux avant leur modération.

Et ils pourraient faire tout cela

sans devenir ce qu'ils appellent
des arbitres de la vérité.

Mais ils ont bien fait comprendre
qu'ils ne sont pas prêts

à faire les choses justes
sans y être forcés,

et, honnêtement,
pourquoi le feraient-ils ?

Leurs affaires ne cessent
de les conforter,

et ils n'enfreignent pas la loi.

Parce qu’actuellement, il n'y a aucune loi
aux États-Unis obligeant Facebook,

ou n'importe quelle entreprise
de réseaux sociaux,

à protéger notre espace public,

notre démocratie,

ou même nos élections.

Nous avons cédé notre pouvoir de décision
sur quelles règles écrire ou appliquer

aux PDGs d'entreprises lucratives
sur Internet.

Est-ce que c'est ce que nous voulons ?

Un monde post-vérité
où la toxicité et le tribalisme

coupent les ponts
et la recherche de consensus ?

Je demeure optimiste sur le fait
que nous avons toujours plus en commun

que ce que les médias actuels
et l'environnement en ligne dépeignent,

et je crois qu'avoir une plus grande
variété de perspectives

permet une démocratie plus robuste
et plus inclusive.

Mais pas de cette manière-là.

Et cela mérite d'insister,
je ne veux pas détruire ces entreprises.

Je veux juste qu'elles portent
une certaine part de responsabilité,

tout comme le reste de la société.

Il est temps pour nos gouvernements
de s'élever et de faire leur travail

en protégeant notre citoyenneté.

Et bien qu'il n'y aura pas de loi miracle

qui remettrait tout en ordre,

je crois que les gouvernements peuvent,
et doivent trouver l'équilibre

entre protéger la liberté d'expression,

et tenir ces plateformes responsables
de leurs conséquences sur la société.

Et ils pourraient le faire, en partie,
en demandant une vraie transparence

sur la façon dont ces moteurs
de recommandations fonctionnent,

et comment le traitement, l'amplification
et le ciblage se fait.

Je veux que ces compagnies
soient tenues responsables

non pas si un individu poste
de la désinformation

ou des discours extrémistes,

mais pour la manière dont leurs moteurs
de recommandation les propagent,

dont leurs algorithmes amènent
les gens vers ces contenus,

et dont leurs outils sont utilisés
pour cibler les gens avec ces contenus.

J'ai essayé de changer Facebook
de l’intérieur, et j'ai échoué,

alors j'ai de nouveau utilisé ma voix
ces dernières années

pour continuer à sonner cette alarme,

dans l'espoir d'inspirer plus de gens
à réclamer cette responsabilité.

Mon message pour vous est simple :

faites pression sur votre gouvernement
pour qu'il s'élève et ne cède plus

notre espace public
aux intérêts commerciaux.

Éduquez vos amis et votre famille

sur la manière
dont ils sont manipulés en ligne.

Obligez-vous à vous discuter
avec ceux qui ne pensent pas comme vous.

Faites de ce problème une priorité.

Nous avons besoin de l'ensemble
de la société pour résoudre ce problème.

Et mon message aux dirigeants

de mon ancien employeur Facebook
est celui-ci :

en ce moment même,

les gens utilisent vos outils
exactement comme ils ont été pensés :

pour planter la haine,
la division et la défiance,

et vous ne faites pas que le permettre,
vous le favorisez.

Et oui, il y a beaucoup
de belles histoires, de choses positives

sur votre plateforme qui viennent
du monde entier,

mais cela n'excuse en rien tout le reste.

Et cela ne fait qu'empirer
à l'approche des élections,

et encore plus concernant,

nous faisons face
à notre plus grande crise potentielle,

si les résultats ne sont pas acceptés,
et si la violence éclate.

Donc quand, en 2021,
vous direz encore une fois :

« Nous savons
que nous allons devoir faire mieux, »

je veux que vous vous rappeliez ce moment,

parce que ce n'est plus
seulement quelques voix isolées.

Militants des droits civiques,
intellectuels,

journalistes, publicitaires,
vos propres employés,

vous crient de toutes parts

que vos politiques
et vos pratiques commerciales

sont néfastes pour les gens
et pour la démocratie.

Vos décisions vous appartiennent,

vous ne pourrez plus dire
que vous ne l'aviez pas vu venir.

Merci.