Comment nous pouvons protéger la vérité à l'ère de la désinformation

L'infox peut influencer des élections, faire couler des économies et semer la discorde dans la vie quotidienne. Le scientifique des données Sinan Aral démystifie comment et pourquoi elle se propage si rapidement -- citant l'une des plus grandes études sur la désinformation -- et identifie cinq stratégies pour nous aider à démêler l'enchevêtrement entre la vérité et le mensonge.

Le 23 avril 2013,

l'Associated Press a publié
le tweet suivant sur Twitter.

Il disait : « Flash info :

deux explosions à la Maison-Blanche

et Barack Obama a été blessé. »

Ce tweet a été retweeté 4 000 fois
en moins de cinq minutes

et est ensuite devenu viral.

Ce tweet n'était pas une vraie info
publiée par l'Associated Press.

C'était une fausse info, ou une infox,

qui a été propagée par des pirates syriens

qui avaient piraté le compte
de l'Associated Press sur Twitter.

Leur objectif était
de perturber la société,

mais ils ont perturbé bien plus que cela.

Car les algorithmes automatisés de trading

ont immédiatement saisi
le sentiment de ce tweet

et ont commencé à faire des opérations
basées sur la possibilité

que le président des États-Unis
ait été blessé ou tué

dans une explosion.

Alors qu'ils ont commencé à tweeter,

ils ont immédiatement causé
l’écroulement du cours de la bourse,

anéantissant 140 milliards de dollars
de valeur de fonds propres en un jour.

Robert Mueller,
procureur spécial aux États-Unis,

a prononcé des chefs d'accusation
contre trois entreprises russes

et 13 ressortissants russes

au sujet d'un complot
pour escroquer les États-Unis

via une ingérence durant les élections
présidentielles de 2016.

L'histoire que raconte
ce chef d'accusation

est celle de l'Internet Research Agency,

le bras armé du Kremlin
sur les réseaux sociaux.

Durant les élections
présidentielles uniquement,

les efforts de l'Internet Agency

ont touché 126 millions de personnes
sur Facebook aux États-Unis,

ont publié trois millions de tweets

et 43 heures de contenu sur YouTube.

Tout cela était faux --

de la désinformation
conçue pour semer la discorde

au sein des élections
présidentielles américaines.

Une étude récente de l'université d'Oxford

a montré que durant
les récentes élections suédoises,

un tiers de toutes les informations
se propageant sur les réseaux sociaux

au sujet des élections

étaient fausses ou de la désinformation.

De plus, ce genre de campagne
de désinformation sur les réseaux sociaux

peut propager ce qu’on en est venu à
appeler de la « propagande génocidaire »,

par exemple contre
les Rohingyas en Birmanie,

ou entraînant des massacres
collectifs en Inde.

Nous avons étudié l'infox

et avons commencé à l'étudier
avant que ce ne soit un terme populaire.

Nous avons récemment publié la plus longue
étude longitudinale qui soit

sur la propagation de l'infox en ligne

en couverture de « Science »
en mars cette année.

Nous avons étudié toutes les infos
confirmées comme étant vraies ou fausses

qui se sont propagées sur Twitter,

depuis son lancement en 2006 jusqu'à 2017.

Quand nous avons étudié ces informations,

nous avons étudié des informations

qui avaient été vérifiées

par six organisations
de vérification indépendantes.

Nous savions donc
quelles informations étaient vraies

et quelles informations étaient fausses.

Nous pouvons mesurer leur diffusion,

la vitesse de leur diffusion,

la portée et l'ampleur de leur diffusion,

combien de gens se sont empêtrés
dans cette cascade d'informations, etc.

Dans cette publication,

nous avons comparé la propagation
d'informations vraies et d'infox.

Voici ce que nous avons découvert.

Nous avons découvert

que l'infox se diffusait plus loin,
plus vite, plus profondément

et plus largement que la vérité

dans chacune des catégories d'informations
que nous avons étudiées,

la différence étant parfois
d'un ordre de grandeur.

Les infox politiques
étaient les plus virales.

Elles se diffusaient plus loin, vite,
profondément et largement

que n'importe quel autre type d'infox.

Quand nous avons vu cela,

nous étions à la fois inquiets
mais aussi curieux.

Pourquoi ?

Pourquoi est-ce que l'infox circule
tellement plus loin, vite, profondément

et largement que la vérité ?

Notre première hypothèse était :

« Peut-être que les gens
diffusant de l'infox

ont plus de suiveurs
ou suivent plus de monde,

tweetent plus souvent,

peut-être sont-ils plus souvent
des utilisateurs « vérifiés » de Twitter,

avec plus de crédibilité,

ou sont-ils là depuis plus longtemps. »

Nous avons vérifié
chacune de ces hypothèses.

Nous avons découvert
exactement le contraire.

Les diffuseurs d'infox
avaient moins de suiveurs,

suivaient moins de gens,
étaient moins actifs,

moins souvent « vérifiés »

et étaient sur Twitter
depuis moins longtemps.

Et pourtant,

les infox avaient
70% de probabilités de plus

d'être retweetées par rapport à la vérité,

en contrôlant ces facteurs
et de nombreux autres.

Nous devions trouver
d'autres explications.

Nous avons formulé

ce que nous avons appelé
« l'hypothèse de la nouveauté ».

Si vous lisez la littérature,

il est bien connu que l'attention humaine
est attirée par la nouveauté,

les choses nouvelles dans l'environnement.

Si vous lisez la littérature sociologique,

vous savez que nous aimons partager
des informations nouvelles.

Cela nous donne l'impression d'avoir
un accès privilégié à des informations

et nous gagnons en statut
en diffusant ce genre d'informations.

Nous avons alors mesuré la nouveauté
d'un tweet, qu'il soit vrai ou faux,

l'avons comparé au corpus
de ce que l'individu avait vu

sur Twitter les 60 derniers jours.

Mais cela ne suffisait pas
car nous avons pensé :

« Peut-être que l'infox
représente plus de nouveauté

dans un sens théorique,

mais peut-être que les gens
n'y perçoivent pas plus de nouveauté. »

Pour comprendre la perception
que les gens avaient des infox,

nous avons considéré
l'information et le sentiment

que les réponses des tweets
vrais et faux incluaient.

Nous avons découvert

que parmi tout un tas
de mesures différentes des sentiments --

la surprise, le dégoût,
la peur, la tristesse,

l'anticipation, la joie et la confiance --

les infox présentaient notablement
plus de surprise et de dégoût

dans les réponses aux tweets.

Les informations avérées présentaient
notablement plus d'anticipation,

de joie et de confiance

dans les réponses aux tweets.

La surprise corrobore
notre hypothèse de la nouveauté.

C'est nouveau et surprenant,

nous allons donc
plus probablement le partager.

En même temps, il y avait
un témoignage au Congrès,

devant les deux chambres
du Congrès des États-Unis,

considérant le rôle des robots
dans la diffusion de la désinformation.

Nous l'avons envisagé --

nous avons utilisé

de multiples algorithmes sophistiqués
de détection de robots

pour trouver les robots
dans nos données et les en extraire.

Nous les en avons extraits,
les avons inclus à nouveau

et avons comparé
ce qu'il arrivait à nos mesures.

Nous avons découvert que oui, en effet,

les robots accéléraient
la diffusion d'infox en ligne,

mais ils accéléraient
la diffusion d'informations avérées

approximativement au même rythme.

Ce que signifie que les robots
ne sont pas responsables

pour l'écart dans la diffusion
de la vérité et de la fausseté en ligne.

Nous ne pouvons pas
refuser cette responsabilité

car nous, êtres humains,
sommes responsables de cette diffusion.

Tout ce que je vous ai dit jusqu'ici,

malheureusement pour nous tous,

ce sont les bonnes nouvelles.

La raison en est que cela
va bientôt devenir bien pire.

Deux technologies en particulier
vont rendre cela bien pire.

Nous allons voir la montée
d'une énorme vague de média synthétiques :

de fausses vidéos, de faux enregistrements
très convaincants pour l’œil humain.

Cela sera propulsé par deux technologies.

La première est connue sous le nom
de « réseaux adverses génératifs ».

C'est un modèle d'apprentissage
automatique avec deux réseaux :

un discriminateur,

dont le rôle est de déterminer
si quelque chose est vrai ou faux,

et un générateur,

dont le rôle est de générer
des médias synthétiques.

Le générateur synthétique génère une vidéo
ou un enregistrement audio synthétique

et le discriminateur essaye de dire
s'il est réel ou falsifié.

La tâche du générateur

consiste à maximiser la probabilité
de faire croire au discriminateur

que la vidéo et l'enregistrement audio
qu'il crée sont réels.

Imaginez une machine
dans une boucle infinie

et essayant d'améliorer
sa capacité à nous tromper.

Cela, en combinaison
avec la deuxième technologie,

qui est essentiellement la démocratisation
de l'intelligence artificielle,

la capacité offerte à tous,

sans aucune formation
en intelligence artificielle

ou en apprentissage automatique,

de déployer ce genre d'algorithmes
pour générer des médias synthétiques

rendant cela tellement plus simple
de créer des vidéos.

La Maison-Blanche a publié
une vidéo falsifiée, truquée

d'un journaliste interagissant
avec une stagiaire

et essayant de prendre son micro.

Ils ont enlevé des images de cette vidéo

afin que ces actes
paraissent plus percutants.

Quand des vidéastes,
des cascadeurs et des cascadeuses

ont été interrogés
sur ce genre de technique,

ils ont dit : « Oui, nous utilisons
constamment cela dans les films

pour que nos coups de poing et de pied
paraissent plus musclés et agressifs. »

Ils ont ensuite publié cette vidéo

l'ont utilisée
comme justification partielle

pour révoquer la carte de presse
de Jim Acosta, le journaliste,

pour la Maison-Blanche.

CNN a dû aller en justice pour faire
rétablir cette carte de presse.

Il y a environ cinq chemins différents

que je peux imaginer
et que nous pourrions suivre

pour essayer de remédier
à ces problèmes très difficiles.

Chacun est prometteur

mais chacun a des défis
qui lui sont propres.

Le premier est l'étiquetage.

Réfléchissez-y :

quand vous allez au supermarché
pour acheter de la nourriture,

elle est amplement étiquetée.

Vous savez combien
de calories elle contient,

combien de graisses --

et pourtant, quand
nous consommons des informations,

nous n'avons pas d'étiquettes.

Que contient cette information ?

La source est-elle crédible ?

Où cette information
a-t-elle été recueillie ?

Nous n'avons aucune de ces informations

quand nous consommons des informations.

C'est une solution potentielle,
mais elle a ses défis.

Par exemple, qui décide, dans la société,
ce qui est vrai et ce qui est faux ?

Est-ce que ce sont les gouvernements ?

Est-ce Facebook ?

Est-ce un consortium indépendant
de vérificateurs d'informations ?

Et qui contrôle ceux
qui vérifient les informations ?

Une autre option possible,
ce sont les incitations.

Nous savons que durant les élections
présidentielles américaines,

il y a eu une vague de désinformation
venue de Macédoine du Nord

qui n'avait aucun mobile politique

mais avait un mobile économique.

Ce mobile économique existait

car l'infox circule
tellement plus loin, plus vite

et plus profondément que la vérité

et vous pouvez gagner de l'argent
dans la publicité

alors que vous recueillez
les regards et l'attention

avec ce genre d'informations.

Mais si nous pouvons réduire
la diffusion de ces informations,

peut-être cela réduirait-il
l'incitation économique à les produire.

Troisièmement, nous pouvons
réfléchir à une réglementation

et nous devrions réfléchir à cette option.

Actuellement aux États-Unis,

nous explorons ce qu'il pourrait se passer

si Facebook et les autres
étaient réglementés.

Si nous devrions considérer des choses
comme réglementer le discours politique,

l'étiqueter comme étant
du discours politique,

nous assurer que les acteurs étrangers

ne puissent pas financer
un discours politique,

cela a aussi ses dangers.

Par exemple, la Malaisie vient d'instituer
une peine de prison de six ans

pour quiconque diffusant
de la désinformation.

Dans les régimes autoritaires,

ce genre de politiques
peuvent être utilisées

pour étouffer les opinions minoritaires

et continuer à accroître la répression.

La quatrième option possible
est la transparence.

Nous voulons savoir comment fonctionnent
les algorithmes de Facebook.

Comment les données
se combinent-elles aux algorithmes

pour générer les résultats
que nous observons ?

Nous voulons qu'ils ouvrent le kimono

et nous montrent les rouages internes
du fonctionnement de Facebook.

Pour connaître les effets
des réseaux sociaux sur la société,

il faut que les scientifiques,
les chercheurs

et les autres aient accès
à ce genre d'informations.

Mais en même temps,

nous demandons à Facebook
de tout verrouiller

pour assurer la sécurité des données.

Facebook et les autres plateformes
de réseaux sociaux

font face à ce que j'appelle
un paradoxe de la transparence.

Nous leur demandons à la fois

d'être ouverts et transparents
et, simultanément, d'être sécurisés.

Cela est difficile à accomplir,

mais ils devront le faire

si nous voulons

que les technologies sociales
tiennent leurs promesses

tout en évitant les risques.

Pour finir, nous pourrions réfléchir

aux algorithmes
et à l'apprentissage automatique.

Une technologie conçue pour éradiquer
et comprendre l'infox, sa diffusion,

et essayer d'atténuer sa circulation.

Les êtres humains doivent
jouer un rôle dans cette technologie

car nous ne pourrons jamais
échapper au fait

que pour toute solution
ou approche technologie,

il y a une question éthique
et philosophique fondamentale

quant à notre définition
du vrai et du faux,

à qui nous donnons le pouvoir
de définir le vrai et le faux

et quelles opinions sont légitimes,

une rapidité de quel ordre de grandeur
devrait être autorisée et ainsi de suite.

La technologie n'est pas la solution.

L'éthique et la philosophie le sont.

Presque toutes les théories
sur la prise de décision humaine,

la coopération humaine
et la coordination humaine

ont une part de vérité en elles.

Mais avec l'essor des infox,

l'essor des vidéos truquées,

l'essor des enregistrements
audios truqués,

nous vacillons au bord
de la fin de la réalité,

où nous ne pouvons pas discerner
ce qui est réel et ce qui est faux.

Cela est potentiellement
incroyablement dangereux.

Nous devons être vigilants
dans la défense de la vérité

face à la désinformation.

Avec nos technologies, avec nos politiques

et, peut-être surtout, individuellement,

avec nos responsabilités, nos décisions,

nos comportements
et nos actions.

Merci beaucoup.

(Applaudissements)