Infiltré dans le monde étrange des trolls et de la propagande sur Internet

Le journaliste Andrew Marantz a passé trois ans dans le monde des trolls et de la propagande sur les réseaux sociaux. Il était à la recherche des personnes qui projettent des sujets de conversation marginaux dans les conversations en ligne et cherchait à comprendre comment ils font en sorte que leurs idées se propagent. Accompagnons-le dans le terrier de la propagande et de la désinformation en ligne afin d’apprendre comment rendre l’Internet moins toxique.

J’ai passé ces trois dernières années

à discuter avec les pires personnes
qu’on puisse rencontrer sur Internet.

Si vous avez navigué en ligne récemment,

vous aurez remarqué qu’on y trouve
un ramassis de choses toxiques :

des mèmes racistes, de la propagande
misogyne et de la désinformation virale.

Alors j’ai voulu savoir
qui fabriquait tout ça

et comment ils propageaient leurs idées.

Et enfin, je voulais savoir

quel impact cela pourrait avoir
sur notre société.

En 2016, j’ai commencé à tracer
la source de certains de ces mèmes,

pour trouver ceux qui les génèrent
et qui les rendent viraux.

Je les abordais ainsi :

« Salut, je suis journaliste.
Puis-je venir observer vos activités ? »

La réaction normale était :

« Pourquoi aurais-je envie de causer

avec une tapette juive, cocue
et mondialiste de Brooklyn

qui s’est acoquinée
avec les démocrates ? »

(Rires)

Ce à quoi j’aurais répondu :
« Pas mal, mec, 57% de correct ! »

(Rires)

Mais j’ai souvent eu la réaction opposée.

« Pourquoi pas, viens ! »

C’est ainsi que j’ai débarqué
dans le salon

d’un propagandiste sur les réseaux
sociaux dans le sud de la Californie.

C'était un homme blanc, marié,
fin de la trentaine.

Il était assis à table,
avec une tasse de café,

un ordinateur pour tweeter,

un téléphone pour les messages

et un iPad pour une diffusion en direct
sur Periscope et Youtube.

C’est tout.

Pourtant, avec ces outils,

il était capable de propulser
ses opinions toxiques et marginales

dans le cœur des conversations
en Amérique.

Par exemple, un jour où j’étais avec lui,

il y a eu une explosion à New York

et le type accusé de l’avoir posée
sonnait musulman d'après son nom.

Ça semblait être du pain béni
pour le propagandiste de Californie

car une des choses qu’il revendique,

c’est que les États-Unis
empêchent toute immigration,

principalement celle issue des pays
majoritairement musulmans.

Il a commencé à diffuser en direct,

entraînant ses suiveurs dans une frénésie

sur les périls mortels
de l'ouverture des frontières

et leur demandant de tweeter,

d'utiliser des hashtags précis

pour en faire une tendance.

Et ils ont tweeté à mort.

Des centaines et des centaines de tweets,

souvent avec des illustrations
comme celle-ci.

Là c'est George Soros.

C'est un milliardaire hongrois
et un philanthrope.

Dans l'esprit des conspirateurs en ligne,

Soros est une sorte
de croque-mitaine mondialiste,

membre de la crème de l'élite
manipulant secrètement le monde.

Respirez un instant :
si cette idée vous semble familière,

l'idée qu'une élite contrôle le monde

et que ses membres
sont souvent de riches Juifs,

c'est parce que c'est un des clichés
les plus anti-sémites qui soient.

Je mentionne en passant que l'homme
qui a posé la bombe à New York

était un citoyen américain.

Ce qui se passait à New York,
quoi que ce soit,

n'avait pas de lien avec l'immigration.

Le propagandiste en Californie
comprenait bien ça.

Il était cultivé et juriste de profession.

Il connaissait les faits

mais il savait qu'ils ne sont pas
le moteur d'une conversation en ligne.

Les conversations en ligne
sont dirigées par l'émotion.

Les prémices des réseaux sociaux
sont qu'ils allaient nous rassembler,

rendre le monde plus ouvert,
plus tolérant et plus juste...

C'est en partie arrivé.

Mais leurs algorithmes
n'ont jamais été conçus

pour faire la distinction
entre le vrai du faux,

entre le bon du mauvais pour la société,
entre le pro-social et l'anti-social.

Ils ne sont pas là pour ça.

Ils mesurent toutefois l'engagement :

les clics, les commentaires,
les partages, les retweets, tout ça.

Quand on veut que le contenu
suscite un engagement,

il doit émouvoir,

ce que la science du comportement nomme
« émotion à haute excitation ».

« Haute excitation » ne se limite pas
à l'excitation sexuelle,

même si c'est Internet
donc cela fonctionne bien.

C'est tout ce qui fait battre le cœur
des gens, que ce soit positif ou négatif.

J'ai passé du temps
avec ces propagandistes,

celui de Californie
et des douzaines d'autres.

Je les observais agir et réussir
encore et encore,

pas parce que c'étaient des hackers russes
ou des prodiges en informatique,

ni parce qu'ils avaient
une vision politique,

mais ils comprenaient
le fonctionnement des réseaux sociaux

et les exploitaient à leur avantage.

Au début, je pensais être
devant un phénomène marginal,

circonscrit à Internet.

Mais il n'y a plus vraiment de frontières
entre Internet et le reste.

Voici une publicité passée
sur beaucoup de chaînes

pendant la campagne électorale de 2018,

prétendant avec peu de preuves
qu'un des candidats

était manipulé par le manipulateur
mondial George Soros,

la photo maladroitement retouchée
avec une montagne d'argent.

Ce tweet du président des États-Unis
prétend, sans preuve à l'appui,

que la politique américaine
est manipulée par George Soros.

Ce genre de choses qui nous paraissaient
scandaleuses, marginales et insignifiantes

sont devenues si normales
qu'on les remarque à peine.

J'ai passé trois ans dans ce monde-là.

J'ai parlé à beaucoup de personnes.

Certaines étaient agnostiques
quel que soit le sujet.

Elles semblaient faire
très rationnellement le pari

que pour faire de l'argent
ou attirer l'attention en ligne,

elles devaient se comporter
le plus outrageusement possible.

Mais il y avait aussi
des idéologues convaincus.

Par soucis de limpidité,
pas de conservatisme traditionnel.

On parle de gens qui voulaient
abolir le droit de vote des femmes,

qui voulaient revenir
à la ségrégation raciale.

Certains voulaient même
se débarrasser de la démocratie.

Ces gens ne sont pas nés
avec ces croyances.

Ils ne les ont pas assimilées
à l'école primaire.

Ils sont nombreux ceux qui,
avant de glisser dans ce trou virtuel,

étaient libertaires ou même socialistes
ou tout autre chose.

Qu'est-ce qui se passait ?

Je ne souhaite pas généraliser

mais beaucoup de mes interlocuteurs

semblent combiner
un haut QI avec un faible QE.

Ils semblent se sentir plus à l'aise
dans les espaces anonymes en ligne

que dans les connexions dans la vraie vie.

Dès lors, ils se replient
souvent sur les forums

ou les subreddits,

ces lieux où leurs pires pulsions
sont amplifiées.

Ils commencent souvent
avec une blague de mauvais goût

qui va recevoir un renforcement positif,

ce qu'ils appellent
des points Internet insignifiants,

à un point tel qu'ils vont finir
par croire à leur propre blague.

J'ai discuté avec une jeune femme
qui a grandi dans le New Jersey.

Après le lycée, elle a déménagé ailleurs

et s'est brutalement sentie
aliénée et isolée.

Alors elle s'est repliée
sur son téléphone.

Elle a trouvé des endroits sur Internet

où les gens postent des choses
aussi scandaleuses que haineuses.

Elle trouvait cela vraiment écœurant

mais d'une certaine manière,
c'était fascinant,

et elle ne pouvait pas
s'empêcher de les lire.

Elle a commencé à interagir en ligne
avec ces personnes

qui la faisaient se sentir
intelligente, valorisée.

Elle a développé un sentiment
d'appartenance

et se demandait si certains
mèmes scandaleux

ne recèleraient pas un peu de vérité.

Quelques mois plus tard, elle a accompagné
ses nouveaux amis d'Internet

pour rejoindre Charlottesville en Virginie

et manifester avec des torches
au nom de la race blanche.

De sympathisante d'Obama,
elle est passée en quelques mois

à suprémaciste blanche radicalisée.

Dans le cas de cette jeune fille,

elle a pu se libérer du joug
du culte de la suprématie blanche.

Mais ceux qui n'y arrivent pas
sont nombreux.

Je vais être franc.

Je n'ai jamais été convaincu au point
de devoir chercher des points communs

avec chaque interlocuteur

au point de pouvoir dire :

« Vous savez, vous êtes
un propagandiste fasciste, moi pas,

laissons ça en suspens et nos différences
finiront par s'estomper. »

Pas du tout.

Mais j'ai acquis la conviction
que nous ne pouvons pas les ignorer.

Nous devons comprendre ce phénomène
car seule la compréhension

nous permettra de nous protéger
de son infection.

Pendant ces trois années,
j'ai reçu quelques appels déplaisants,

quelques menaces même.

Mais ce n'est rien en comparaison à ce que
les femmes journalistes subissent.

Certes, je suis juif,

même si bizarrement, beaucoup de nazis
ne s'en sont pas aperçus.

Sincèrement, cela m'a vraiment déçu.

(Rires)

Plus sérieusement, c'est comme si
l'anti-sémitisme était leur métier.

Et rien chez moi ne les fait tiquer ?

Vraiment rien ?

(Rires)

Ce n'est pas un secret.

Je m'appelle Andrew Marantz,
j'écris pour le New Yorker.

C'est comme afficher
une photo d'Alain Chabat

dans une coopérative alimentaire.

Toujours pas ?

(Rires)

Bref, ça aurait été sympa
d'avoir une formule simple :

smartphone plus gosse aliéné
égale 12% de risque d'être nazi.

Ce n'est évidemment pas si simple.

Dans mes écrits,

je me sens à l'aise dans le descriptif,
pas dans le normatif.

Mais c'est TED,

osons être dans l'action.

J'aimerais vous suggérer

quelques actions que les citoyens
d'Internet comme vous et moi

pouvons réaliser pour rendre
la situation moins toxique.

La première est d'être un sceptique malin.

Il y a deux sortes
de scepticisme selon moi.

Je ne vais pas vous noyer
sous un jargon épistémologique :

il y a le scepticisme malin
et le scepticisme con.

Le scepticisme malin :

penser par soi-même,
cultiver un esprit critique,

exiger des preuves.

C'est ça le vrai scepticisme.

Le scepticisme con, par opposition,
ressemble au scepticisme

mais est plus proche
de l'opposition viscérale.

Tout le monde dit
que la Terre est ronde ?

Non, elle est plate.

Tout le monde décrie le racisme ?

On dit qu'on ne sait pas,
qu'on est sceptique.

Je ne sais pas combien de jeunes hommes
blancs que j'ai rencontrés

qui m'ont affirmé :

« Les médias, mes professeurs,
tous essaient de m'endoctriner

et de me faire croire
aux privilèges masculin et blanc,

mais je ne suis vraiment pas convaincu. »

Les ados blancs
adeptes de la contradiction,

écoutez,

si vous êtes sceptique sur la forme
de la Terre, sur les privilèges masculins

et le fait que le racisme
soit une mauvaise chose,

vous n'êtes pas sceptique,
vous êtes con.

(Applaudissements)

C'est important de penser pour soi,
nous devrions tous agir ainsi,

mais il convient
de le faire intelligemment.

Parlons donc un peu
de la liberté de parole.

Des personnes érudites affirment être
en faveur de la liberté de parole.

Elles affirment ça
comme s'il n'y avait plus rien à ajouter.

Alors qu'en fait, c'est le début
d'une véritable conversation.

Les choses intéressantes
apparaissent juste après.

Pour la liberté de parole,
que voulez-vous dire ?

Les suprémacistes
David Duke et Richard Spencer

ont-ils besoin d'avoir
des comptes Twitter actifs ?

N'importe qui peut-il
harceler autrui en ligne

pour n'importe quelle raison ?

J'ai passé en revue toute la liste
des orateurs TED de cette année.

Aucun ne remet en doute
la forme de la Terre.

Est-ce une violation
de la liberté de parole ?

Nous sommes tous en faveur
de la liberté de parole et c'est très bien

mais si c'est tout ce que
vous serinez sans plus,

vous empêchez une conversation
plus importante d'avoir lieu.

Rendre la bienséance cool.

Super !

(Applaudissements)

Inutile d'expliquer.

Mes recherches m'ont conduit
sur Reddit, Youtube ou Facebook.

Je faisais des recherches
sur « la charia »

ou sur « l'Holocauste ».

Vous imaginez sans doute ce que
les algorithmes m'ont montré.

« La charia est-elle en train
d'envahir les États-Unis ? »

« L'Holocauste a-t-il eu lieu ? »

Scepticisme con.

Il y a une dynamique étrange en ligne :

certains considèrent que
la propagande bigote déchire,

c'est à la fois audacieux et cool,

que les faits et la décence humaine
sont soit de la pudeur mal placée,

soit un signe de vertu, soit ennuyeux.

Les algorithmes des réseaux sociaux,
intentionnellement ou pas,

rendent cela séduisant

car la propagande bigote
est un bon agent d'engagement.

Tout le monde clique
et laisse des commentaires,

qu'ils aiment ou détestent.

La première chose à faire

est donc que les réseaux sociaux
corrigent leurs plateformes.

(Applaudissements)

Si quelqu'un qui travaille
pour un réseau social m'écoute,

si vous êtes actionnaire
ou en possédez un,

voici un conseil.

Si vous optimisez pour un engagement
émotionnel maximal

et que celui-ci s'avère
activement nuire au monde,

l'heure est venue d'optimiser autre chose.

(Applaudissements)

Avec la pression qu'on peut appliquer
pour qu'ils agissent,

mais au lieu d'attendre et d'espérer,

on peut aussi agir.

On peut créer des meilleures
trajectoires ou en suggérer

pour que les ados rebelles s'y engagent.

Quand on voit une chose vraiment
créative et bien attentionnée,

qu'on veut la partager, on peut le faire,

même si cela ne nous inonde
pas d'émotion excitante.

Je suis conscient que c'est un petit pas.

Mais il compte
car il s'additionne à d'autres.

Les algorithmes,
aussi puissants soient-ils,

sont influencés par nos comportements.

Je vous quitterai avec ces mots :

il y a quelques années, c'était à la mode

d'affirmer qu'Internet était
un outil révolutionnaire

qui allait nous rassembler.

Aujourd'hui, c'est devenu
à la mode de dire

qu'Internet est un monstrueux
désastre total et irrémédiable.

Aucune des caricatures n'est exacte.

Internet est trop vaste et trop complexe
pour être bon ou mauvais.

Le danger de ces façons de penser,

que ce soit la vue utopique qu'Internet
va inévitablement nous sauver

ou la vue dystopique
qu'il va inévitablement nous détruire,

c'est que nous nous en tirons
à bon compte.

Il n'y a rien d'inévitable
dans notre avenir.

Internet est constitué de personnes.

Des gens prennent des décisions
au sein des réseaux sociaux.

Des gens font les tendances des hashtags.

Des gens font progresser
ou régresser la société.

Quand on comprend bien ces faits,

on peut cesser d'attendre
un avenir inévitable

et se mettre au travail maintenant.

On nous a appris que
l'arc de l'univers moral est long,

mais il tend vers la justice.

C'est possible.

Peut-être un jour.

Ça reste une aspiration.

Ce n'est pas une garantie.

L'arc ne penche pas par lui-même.

Une force mystérieuse ne le fait pas
pencher inévitablement.

La vérité,

bien plus effrayante
mais aussi libératoire,

c'est que c'est nous
qui le faisons pencher.

Merci.

(Applaudissements)