J’ai passé ces trois dernières années
à discuter avec les pires personnes qu’on puisse rencontrer sur Internet.
Si vous avez navigué en ligne récemment,
vous aurez remarqué qu’on y trouve un ramassis de choses toxiques :
des mèmes racistes, de la propagande misogyne et de la désinformation virale.
Alors j’ai voulu savoir qui fabriquait tout ça
et comment ils propageaient leurs idées.
Et enfin, je voulais savoir
quel impact cela pourrait avoir sur notre société.
En 2016, j’ai commencé à tracer la source de certains de ces mèmes,
pour trouver ceux qui les génèrent et qui les rendent viraux.
Je les abordais ainsi :
« Salut, je suis journaliste. Puis-je venir observer vos activités ? »
La réaction normale était :
« Pourquoi aurais-je envie de causer
avec une tapette juive, cocue et mondialiste de Brooklyn
qui s’est acoquinée avec les démocrates ? »
(Rires)
Ce à quoi j’aurais répondu : « Pas mal, mec, 57% de correct ! »
(Rires)
Mais j’ai souvent eu la réaction opposée.
« Pourquoi pas, viens ! »
C’est ainsi que j’ai débarqué dans le salon
d’un propagandiste sur les réseaux sociaux dans le sud de la Californie.
C'était un homme blanc, marié, fin de la trentaine.
Il était assis à table, avec une tasse de café,
un ordinateur pour tweeter,
un téléphone pour les messages
et un iPad pour une diffusion en direct sur Periscope et Youtube.
C’est tout.
Pourtant, avec ces outils,
il était capable de propulser ses opinions toxiques et marginales
dans le cœur des conversations en Amérique.
Par exemple, un jour où j’étais avec lui,
il y a eu une explosion à New York
et le type accusé de l’avoir posée sonnait musulman d'après son nom.
Ça semblait être du pain béni pour le propagandiste de Californie
car une des choses qu’il revendique,
c’est que les États-Unis empêchent toute immigration,
principalement celle issue des pays majoritairement musulmans.
Il a commencé à diffuser en direct,
entraînant ses suiveurs dans une frénésie
sur les périls mortels de l'ouverture des frontières
et leur demandant de tweeter,
d'utiliser des hashtags précis
pour en faire une tendance.
Et ils ont tweeté à mort.
Des centaines et des centaines de tweets,
souvent avec des illustrations comme celle-ci.
Là c'est George Soros.
C'est un milliardaire hongrois et un philanthrope.
Dans l'esprit des conspirateurs en ligne,
Soros est une sorte de croque-mitaine mondialiste,
membre de la crème de l'élite manipulant secrètement le monde.
Respirez un instant : si cette idée vous semble familière,
l'idée qu'une élite contrôle le monde
et que ses membres sont souvent de riches Juifs,
c'est parce que c'est un des clichés les plus anti-sémites qui soient.
Je mentionne en passant que l'homme qui a posé la bombe à New York
était un citoyen américain.
Ce qui se passait à New York, quoi que ce soit,
n'avait pas de lien avec l'immigration.
Le propagandiste en Californie comprenait bien ça.
Il était cultivé et juriste de profession.
Il connaissait les faits
mais il savait qu'ils ne sont pas le moteur d'une conversation en ligne.
Les conversations en ligne sont dirigées par l'émotion.
Les prémices des réseaux sociaux sont qu'ils allaient nous rassembler,
rendre le monde plus ouvert, plus tolérant et plus juste...
C'est en partie arrivé.
Mais leurs algorithmes n'ont jamais été conçus
pour faire la distinction entre le vrai du faux,
entre le bon du mauvais pour la société, entre le pro-social et l'anti-social.
Ils ne sont pas là pour ça.
Ils mesurent toutefois l'engagement :
les clics, les commentaires, les partages, les retweets, tout ça.
Quand on veut que le contenu suscite un engagement,
il doit émouvoir,
ce que la science du comportement nomme « émotion à haute excitation ».
« Haute excitation » ne se limite pas à l'excitation sexuelle,
même si c'est Internet donc cela fonctionne bien.
C'est tout ce qui fait battre le cœur des gens, que ce soit positif ou négatif.
J'ai passé du temps avec ces propagandistes,
celui de Californie et des douzaines d'autres.
Je les observais agir et réussir encore et encore,
pas parce que c'étaient des hackers russes ou des prodiges en informatique,
ni parce qu'ils avaient une vision politique,
mais ils comprenaient le fonctionnement des réseaux sociaux
et les exploitaient à leur avantage.
Au début, je pensais être devant un phénomène marginal,
circonscrit à Internet.
Mais il n'y a plus vraiment de frontières entre Internet et le reste.
Voici une publicité passée sur beaucoup de chaînes
pendant la campagne électorale de 2018,
prétendant avec peu de preuves qu'un des candidats
était manipulé par le manipulateur mondial George Soros,
la photo maladroitement retouchée avec une montagne d'argent.
Ce tweet du président des États-Unis prétend, sans preuve à l'appui,
que la politique américaine est manipulée par George Soros.
Ce genre de choses qui nous paraissaient scandaleuses, marginales et insignifiantes
sont devenues si normales qu'on les remarque à peine.
J'ai passé trois ans dans ce monde-là.
J'ai parlé à beaucoup de personnes.
Certaines étaient agnostiques quel que soit le sujet.
Elles semblaient faire très rationnellement le pari
que pour faire de l'argent ou attirer l'attention en ligne,
elles devaient se comporter le plus outrageusement possible.
Mais il y avait aussi des idéologues convaincus.
Par soucis de limpidité, pas de conservatisme traditionnel.
On parle de gens qui voulaient abolir le droit de vote des femmes,
qui voulaient revenir à la ségrégation raciale.
Certains voulaient même se débarrasser de la démocratie.
Ces gens ne sont pas nés avec ces croyances.
Ils ne les ont pas assimilées à l'école primaire.
Ils sont nombreux ceux qui, avant de glisser dans ce trou virtuel,
étaient libertaires ou même socialistes ou tout autre chose.
Qu'est-ce qui se passait ?
Je ne souhaite pas généraliser
mais beaucoup de mes interlocuteurs
semblent combiner un haut QI avec un faible QE.
Ils semblent se sentir plus à l'aise dans les espaces anonymes en ligne
que dans les connexions dans la vraie vie.
Dès lors, ils se replient souvent sur les forums
ou les subreddits,
ces lieux où leurs pires pulsions sont amplifiées.
Ils commencent souvent avec une blague de mauvais goût
qui va recevoir un renforcement positif,
ce qu'ils appellent des points Internet insignifiants,
à un point tel qu'ils vont finir par croire à leur propre blague.
J'ai discuté avec une jeune femme qui a grandi dans le New Jersey.
Après le lycée, elle a déménagé ailleurs
et s'est brutalement sentie aliénée et isolée.
Alors elle s'est repliée sur son téléphone.
Elle a trouvé des endroits sur Internet
où les gens postent des choses aussi scandaleuses que haineuses.
Elle trouvait cela vraiment écœurant
mais d'une certaine manière, c'était fascinant,
et elle ne pouvait pas s'empêcher de les lire.
Elle a commencé à interagir en ligne avec ces personnes
qui la faisaient se sentir intelligente, valorisée.
Elle a développé un sentiment d'appartenance
et se demandait si certains mèmes scandaleux
ne recèleraient pas un peu de vérité.
Quelques mois plus tard, elle a accompagné ses nouveaux amis d'Internet
pour rejoindre Charlottesville en Virginie
et manifester avec des torches au nom de la race blanche.
De sympathisante d'Obama, elle est passée en quelques mois
à suprémaciste blanche radicalisée.
Dans le cas de cette jeune fille,
elle a pu se libérer du joug du culte de la suprématie blanche.
Mais ceux qui n'y arrivent pas sont nombreux.
Je vais être franc.
Je n'ai jamais été convaincu au point de devoir chercher des points communs
avec chaque interlocuteur
au point de pouvoir dire :
« Vous savez, vous êtes un propagandiste fasciste, moi pas,
laissons ça en suspens et nos différences finiront par s'estomper. »
Pas du tout.
Mais j'ai acquis la conviction que nous ne pouvons pas les ignorer.
Nous devons comprendre ce phénomène car seule la compréhension
nous permettra de nous protéger de son infection.
Pendant ces trois années, j'ai reçu quelques appels déplaisants,
quelques menaces même.
Mais ce n'est rien en comparaison à ce que les femmes journalistes subissent.
Certes, je suis juif,
même si bizarrement, beaucoup de nazis ne s'en sont pas aperçus.
Sincèrement, cela m'a vraiment déçu.
(Rires)
Plus sérieusement, c'est comme si l'anti-sémitisme était leur métier.
Et rien chez moi ne les fait tiquer ?
Vraiment rien ?
(Rires)
Ce n'est pas un secret.
Je m'appelle Andrew Marantz, j'écris pour le New Yorker.
C'est comme afficher une photo d'Alain Chabat
dans une coopérative alimentaire.
Toujours pas ?
(Rires)
Bref, ça aurait été sympa d'avoir une formule simple :
smartphone plus gosse aliéné égale 12% de risque d'être nazi.
Ce n'est évidemment pas si simple.
Dans mes écrits,
je me sens à l'aise dans le descriptif, pas dans le normatif.
Mais c'est TED,
osons être dans l'action.
J'aimerais vous suggérer
quelques actions que les citoyens d'Internet comme vous et moi
pouvons réaliser pour rendre la situation moins toxique.
La première est d'être un sceptique malin.
Il y a deux sortes de scepticisme selon moi.
Je ne vais pas vous noyer sous un jargon épistémologique :
il y a le scepticisme malin et le scepticisme con.
Le scepticisme malin :
penser par soi-même, cultiver un esprit critique,
exiger des preuves.
C'est ça le vrai scepticisme.
Le scepticisme con, par opposition, ressemble au scepticisme
mais est plus proche de l'opposition viscérale.
Tout le monde dit que la Terre est ronde ?
Non, elle est plate.
Tout le monde décrie le racisme ?
On dit qu'on ne sait pas, qu'on est sceptique.
Je ne sais pas combien de jeunes hommes blancs que j'ai rencontrés
qui m'ont affirmé :
« Les médias, mes professeurs, tous essaient de m'endoctriner
et de me faire croire aux privilèges masculin et blanc,
mais je ne suis vraiment pas convaincu. »
Les ados blancs adeptes de la contradiction,
écoutez,
si vous êtes sceptique sur la forme de la Terre, sur les privilèges masculins
et le fait que le racisme soit une mauvaise chose,
vous n'êtes pas sceptique, vous êtes con.
(Applaudissements)
C'est important de penser pour soi, nous devrions tous agir ainsi,
mais il convient de le faire intelligemment.
Parlons donc un peu de la liberté de parole.
Des personnes érudites affirment être en faveur de la liberté de parole.
Elles affirment ça comme s'il n'y avait plus rien à ajouter.
Alors qu'en fait, c'est le début d'une véritable conversation.
Les choses intéressantes apparaissent juste après.
Pour la liberté de parole, que voulez-vous dire ?
Les suprémacistes David Duke et Richard Spencer
ont-ils besoin d'avoir des comptes Twitter actifs ?
N'importe qui peut-il harceler autrui en ligne
pour n'importe quelle raison ?
J'ai passé en revue toute la liste des orateurs TED de cette année.
Aucun ne remet en doute la forme de la Terre.
Est-ce une violation de la liberté de parole ?
Nous sommes tous en faveur de la liberté de parole et c'est très bien
mais si c'est tout ce que vous serinez sans plus,
vous empêchez une conversation plus importante d'avoir lieu.
Rendre la bienséance cool.
Super !
(Applaudissements)
Inutile d'expliquer.
Mes recherches m'ont conduit sur Reddit, Youtube ou Facebook.
Je faisais des recherches sur « la charia »
ou sur « l'Holocauste ».
Vous imaginez sans doute ce que les algorithmes m'ont montré.
« La charia est-elle en train d'envahir les États-Unis ? »
« L'Holocauste a-t-il eu lieu ? »
Scepticisme con.
Il y a une dynamique étrange en ligne :
certains considèrent que la propagande bigote déchire,
c'est à la fois audacieux et cool,
que les faits et la décence humaine sont soit de la pudeur mal placée,
soit un signe de vertu, soit ennuyeux.
Les algorithmes des réseaux sociaux, intentionnellement ou pas,
rendent cela séduisant
car la propagande bigote est un bon agent d'engagement.
Tout le monde clique et laisse des commentaires,
qu'ils aiment ou détestent.
La première chose à faire
est donc que les réseaux sociaux corrigent leurs plateformes.
(Applaudissements)
Si quelqu'un qui travaille pour un réseau social m'écoute,
si vous êtes actionnaire ou en possédez un,
voici un conseil.
Si vous optimisez pour un engagement émotionnel maximal
et que celui-ci s'avère activement nuire au monde,
l'heure est venue d'optimiser autre chose.
(Applaudissements)
Avec la pression qu'on peut appliquer pour qu'ils agissent,
mais au lieu d'attendre et d'espérer,
on peut aussi agir.
On peut créer des meilleures trajectoires ou en suggérer
pour que les ados rebelles s'y engagent.
Quand on voit une chose vraiment créative et bien attentionnée,
qu'on veut la partager, on peut le faire,
même si cela ne nous inonde pas d'émotion excitante.
Je suis conscient que c'est un petit pas.
Mais il compte car il s'additionne à d'autres.
Les algorithmes, aussi puissants soient-ils,
sont influencés par nos comportements.
Je vous quitterai avec ces mots :
il y a quelques années, c'était à la mode
d'affirmer qu'Internet était un outil révolutionnaire
qui allait nous rassembler.
Aujourd'hui, c'est devenu à la mode de dire
qu'Internet est un monstrueux désastre total et irrémédiable.
Aucune des caricatures n'est exacte.
Internet est trop vaste et trop complexe pour être bon ou mauvais.
Le danger de ces façons de penser,
que ce soit la vue utopique qu'Internet va inévitablement nous sauver
ou la vue dystopique qu'il va inévitablement nous détruire,
c'est que nous nous en tirons à bon compte.
Il n'y a rien d'inévitable dans notre avenir.
Internet est constitué de personnes.
Des gens prennent des décisions au sein des réseaux sociaux.
Des gens font les tendances des hashtags.
Des gens font progresser ou régresser la société.
Quand on comprend bien ces faits,
on peut cesser d'attendre un avenir inévitable
et se mettre au travail maintenant.
On nous a appris que l'arc de l'univers moral est long,
mais il tend vers la justice.
C'est possible.
Peut-être un jour.
Ça reste une aspiration.
Ce n'est pas une garantie.
L'arc ne penche pas par lui-même.
Une force mystérieuse ne le fait pas pencher inévitablement.
La vérité,
bien plus effrayante mais aussi libératoire,
c'est que c'est nous qui le faisons pencher.
Merci.
(Applaudissements)