Pourquoi le fascisme est-il si séduisant -- et comment vos données peuvent l'alimenter

Dans une conférence profonde sur la technologie et le pouvoir, l'historien et auteur Yuval Noah Harari nous explique l'importante différence entre le fascisme et le nationalisme -- et ce que représente la consolidation de nos données pour l'avenir de la démocratie. Harari apparaît en hologramme en direct de Tel Aviv pour nous avertir du grand danger auquel fait face la démocratie libérale : la révolution des technologies de l'information qui rend les dictatures plus efficaces et plus aptes à tout contrôler. « Les ennemis de la démocratie libérale piratent nos sentiments de peur, de haine et de vanité, pour ensuite utiliser ces émotions pour polariser et détruire », explique-t-il. « C'est notre responsabilité à tous d'apprendre à connaître nos propres faiblesses, afin de s'assurer que nous ne devenions pas des armes. » (Suivie d'une brève conversation avec Chris Anderson, curateur de TED.)

Bonjour tout le monde.

C'est drôle ; j'ai bien écrit
que les humains deviendraient numériques,

mais je ne m'attendais pas
à ce que ça arrive si vite,

ni que ça m'arrive à moi.

Et pourtant me voici,
en avatar numérique,

et vous êtes ici avec moi.
Alors, commençons !

Laissez-moi débuter avec une question.

Combien de fascistes sont avec nous
dans la salle aujourd'hui ?

(Rires)

Eh oui, c'est un peu difficile à dire,

car on a oublié ce qu'est le fascisme.

De nos jours, les gens utilisent
le terme « fasciste »

pour parler de toute forme d'abus,
de manière générale.

Ou alors ils confondent
le fascisme et le nationalisme.

Prenons donc quelques minutes pour définir
ce qu'est vraiment le fascisme,

et pour comprendre comment
il diffère du nationalisme.

Les formes modérées de nationalisme
ont été parmi les créations

les plus bienveillantes de l'homme.

Les nations sont des communautés
composées de millions d'étrangers

qui ne se connaissent pas vraiment.

Par exemple, je ne connais pas
les huit millions de personnes

qui sont, comme moi,
des citoyens israéliens.

Mais grâce au nationalisme,

nous pouvons se soucier les uns des autres
et coopérer de manière efficace.

C'est très bien.

Certaines personnes, comme John Lennon,
imaginent qu'un monde sans nationalisme

serait un paradis paisible.

Il est fort plus probable
que sans le nationalisme,

nous serions plongés dans un chaos tribal.

De nos jours, en observant les pays
les plus prospères et paisibles au monde,

comme la Suède, la Suisse ou le Japon,

vous verrez qu'ils ont
un fort sentiment nationaliste.

Par contre, dans les pays qui n'ont pas
ce sens du nationalisme,

comme le Congo, la Somalie
ou alors l'Afghanistan,

on retrouve plus de violence
et de pauvreté.

Qu'est-ce donc que le fascisme ?
Comment est-il différent du nationalisme ?

Eh bien, le nationalisme me dit
que ma nation est unique,

et que j'ai des obligations particulières
envers elle.

Le fascisme, par contre, me dit
que ma nation est suprême,

et que j'ai des obligations exclusives
envers elle.

Je n'ai pas à me soucier de quiconque ou
de quoi que ce soit d'autre que ma nation.

Évidemment, les gens ont généralement
de multiples identités

et loyautés envers divers groupes.

Par exemple, je peux être un bon patriote,
loyal envers mon pays,

puis, en même temps,
être loyal envers ma famille,

envers mon voisinage, ma profession,

envers toute la race humaine,

envers la vérité, ou la beauté.

Bien entendu, lorsque j'ai
diverses identités et allégeances,

cela peut créer des conflits
et des complications.

Mais, après tout, qui vous a dit
que la vie serait simple ?

La vie est compliquée.

Apprenez à la gérer.

Le fascisme apparaît lorsque les gens
tentent d'ignorer les complications

et cherchent à se faciliter
la vie de manière excessive.

Le fascisme renie toutes les identités,
à l'exception de l'identité nationale,

et insiste pour que j'aie des obligations
uniquement envers ma nation.

Si ma nation exige
que je sacrifie ma famille,

je sacrifierai donc ma famille.

Si ma nation exige que j'assassine
des millions de personnes,

eh bien, je tuerai
des millions de personnes.

Et si ma nation exige que je trahisse
la vérité et la beauté,

je trahirai donc la vérité et la beauté.

Par exemple, comment un fasciste
juge-t-il l'art ?

Comment un fasciste décide-t-il
si un film est bon ou mauvais ?

Eh bien, c'est très très simple.

Il n'y a qu'un seul critère :

si le film sert les intérêts de la nation,

c'est un bon film ;

si le film ne sert pas
les intérêts de la nation,

c'est un mauvais film.

C'est tout.

De même, comment un fasciste choisit-il
ce qu'on enseigne aux enfants à l'école ?

Encore une fois, c'est très simple.

Un seul critère est utilisé :

vous enseignez aux enfants tout ce qui
peut servir les intérêts de la nation.

La vérité n'a aucune importance.

Les horreurs de la Seconde Guerre mondiale
et de l'Holocauste nous rappellent

les terribles conséquences
de ce genre de mentalité.

Mais, de manière générale,
lorsqu'on parle des fléaux du fascisme,

on le fait de manière très peu efficace,

car on a tendance à dépeindre le fascisme
comme un monstre horrible,

sans toutefois expliquer
ce qui le rend si séduisant.

C'est un peu comme ces films d'Hollywood,
qui nous présentent les méchants --

Voldemort, Sauron ou Darth Vader --

comme étant hideux, mesquins et cruels.

Ils sont cruels même
envers leurs propres partisans.

Lorsque je regarde de genre de films
je n'arrive jamais à comprendre --

pourquoi quiconque serait tenté de suivre
un type aussi répugnant que Voldemort ?

Le problème avec le Mal est que,
dans la vraie vie,

il n'est pas nécessairement laid.

Il peut être très beau.

Voici quelque chose que
le Christianisme a bien compris ;

c'est pourquoi dans l'art chrétien,
contrairement à Hollywood,

Satan est généralement dépeint
comme un très beau mâle.

Voilà pourquoi il est si difficile
de résister aux tentations de Satan,

et voilà pourquoi il est aussi difficile
de résister aux tentations du fascisme.

Le fascisme permet aux gens
de se percevoir eux-mêmes

comme faisant partie de la plus belle
et la plus importante chose au monde --

la nation.

Puis les gens se disent :

« Eh bien, on nous a appris
que le fascisme est hideux.

Pourtant, dans mon miroir, je vois
quelque chose de magnifique,

je ne peux donc pas être fasciste,
n'est-ce pas ? »

C'est faux.

Voilà le problème.

Lorsque vous vous regardez
dans le miroir fasciste,

vous vous percevez comme étant beaucoup
plus beau que vous ne l'êtes vraiment.

Dans les années 30, quand les Allemands
se sont regardés dans le miroir fasciste,

ils ont vu l'Allemagne comme la chose
la plus magnifique au monde.

De nos jours, si les Russes regardent
dans le miroir fasciste,

ils verront la Russie comme étant
la plus belle chose du monde.

Et si les Israéliens se regardent
dans le miroir fasciste,

ils verront Israël comme étant
la plus belle chose au monde.

Cela ne veut pas nécessairement dire
que nous revivons les années 30.

Le fascisme et les régimes dictatoriaux
peuvent possiblement refaire surface,

mais ils reviendront
sous une forme différente,

une forme beaucoup mieux adaptée

à la nouvelle réalité technologique
du 21ème siècle.

Dans les temps anciens,

le territoire était la possession
la plus importante au monde.

Ainsi, les politiques s'efforçaient
de contrôler les terres.

Dans une dictature, toutes les terres
étaient contrôlées par la même personne

ou par un petit oligarque.

Aux Temps modernes, les machines sont
devenues plus importantes que la terre.

Les politiques se sont alors débattus
pour contrôler les machines.

À ce moment-là, une dictature signifiait

qu'un trop grand nombre de machines
étaient concentrées et contrôlées

par le gouvernement
ou par une élite restreinte.

Maintenant, les données remplacent
à la fois les terres et les machines,

comme étant la possession la plus prisée.

Ainsi, les politiques se démènent
pour contrôler les flux de données.

Une dictature veut maintenant dire

que trop de données sont concentrées
et contrôlées par le gouvernement

ou par une élite restreinte.

Le plus grave danger auquel fait
maintenant face la démocratie libérale

est la révolution des
technologies de l'information,

qui rendra les dictatures plus efficaces
que les démocraties.

Au 20ème siècle,

la démocratie et le capitalisme ont vaincu
le fascisme et le communisme,

car la démocratie était plus efficace en
analyse de données et prise de décisions.

Considérant la technologie
du 20ème siècle,

il était clairement inefficace de tenter
de concentrer trop de données

et trop de pouvoir dans un seul endroit.

Par contre, il n'y a pas
de loi naturelle qui dicte

que centraliser l'analyse des données
est toujours une méthode inefficace,

comparativement à
l'analyse de données répartie.

Les progrès de l'intelligence artificielle
et de l'apprentissage automatique

pourraient rendre possible l'analyse
de très larges quantités d'information,

de manière très efficace
dans un endroit centralisé ;

il pourrait être possible de prendre
toutes les décisions au même endroit,

ce qui rendrait alors
l'analyse centralisée plus efficace

que le traitement de données distribué.

Ainsi, la principale faiblesse
des régimes autoritaires

du 20ème siècle --

leur tentative de concentrer
toute l'information au même endroit --

deviendra leur plus puissant atout.

Un autre danger technologique
qui guette le futur de la démocratie

est la fusion des technologies
de l'information avec la biotechnologie,

qui pourrait avoir pour résultat
la création d'algorithmes

qui me connaîtraient mieux
que je ne me connais moi-même.

À partir du moment où
de tels algorithmes existent,

un système externe, comme le gouvernement,

peut non seulement prédire mes décisions,

mais également manipuler
mes émotions et mes sentiments.

Un dictateur ne pourrait peut-être pas
m'offrir de bons soins de santé,

mais il sera capable de me faire l'aimer

et de me faire détester ses opposants.

La démocratie aura de la difficulté
à survivre un tel changement car,

en fin de compte,

la démocratie ne repose pas
sur la rationalité humaine ;

elle repose sur les émotions humaines.

Lors des élections et des référendums,

on ne vous demande pas :
« Qu'en pensez-vous ? »

En réalité, on vous demande :
« Que ressentez-vous ? »

Si une personne est en mesure
de manipuler efficacement vos émotions,

la démocratie ne deviendra
qu'un spectacle de marionnettes.

Que peut-on donc faire pour
prévenir le retour du fascisme

et l'apparition de nouvelles dictatures ?

La question première à laquelle on fait
face est : qui contrôle les données ?

Si vous êtes ingénieur,

trouvez des façons d'éviter
que trop de données ne se retrouvent

concentrées et contrôlées
par un trop petit nombre.

Trouvez aussi de nouvelles manières
de vous assurer

que le traitement de données distribué
soit au moins aussi efficace

que le traitement de données centralisé.

Voilà notre rempart le plus solide
pour protéger la démocratie.

Pour le reste d'entre nous,
qui ne sommes pas ingénieurs,

la question la plus importante
à se poser demeure :

comment pouvons-nous éviter
d'être manipulés

par ceux qui contrôlent les données ?

Les ennemis de la démocratie libérale
ont leur propre méthode.

Ils piratent nos émotions.

Pas nos messageries,
ni nos comptes bancaires --

ils piratent nos sentiments de peur,
de haine et de vanité,

puis utilisent ces mêmes émotions

pour polariser la démocratie
et la détruire de l'intérieur.

Il s'agit bien là d'une méthode

que la Silicon Valley a initiée
afin de nous vendre ses produits.

Maintenant, les ennemis de la démocratie
utilisent cette même méthode

pour nous vendre de la peur,
de la haine et de la vanité.

Ils ne peuvent pas créer ces sentiments
à partir de rien.

Ils en viennent alors à connaître
nos faiblesses pré-existantes.

Ensuite, ils les utilisent contre nous.

Il est donc notre responsabilité à tous

de connaître nos propres points faibles

et de s'assurer
qu'ils ne deviennent pas une arme

dans les mains des ennemis
de la démocratie.

Apprendre à connaître
nos propres faiblesses

nous aidera également à éviter
le piège du miroir fasciste.

Comme nous l'avons vu plus tôt,
le fascisme exploite notre vanité.

Il nous fait voir une image de nous-mêmes
beaucoup plus belle que la réalité.

C'est là l'attrait.

Mais si vous vous connaissez bien,

vous ne tomberez pas dans le piège
qu'offre ce genre de flatterie.

Si quelqu'un place un miroir devant vous,

et que ce miroir cache tous vos défauts
et vous faire paraître

beaucoup plus beau
et beaucoup plus important

que vous ne l'êtes en réalité,

brisez ce miroir.

Merci.

(Applaudissements)

Chris Anderson : Merci, Yuval.

Oh mon Dieu !

Quel plaisir de vous revoir.

Donc, si je vous ai bien compris,

vous nous mettez en garde
contre deux sérieux dangers.

Le premier est le retour possible
d'une forme séduisante de fascisme,

mais dans la même veine, des dictatures
qui ne sont peut-être pas fascistes,

mais qui contrôlent toutes les données.

Je me demande s'il n'y a pas
un troisième danger,

que certaines personnes ici
ont déjà soulevé ;

que non pas des gouvernements mais
des entreprises contrôlent nos données.

Comment qualifier cela,

et devrait-on s'en inquiéter ?

Yuval Noah Harari : Eh bien,
en fin de compte, il y a peu de différence

entre les entreprises
et les gouvernements,

car, comme je l'ai dit, la question est :
qui contrôle les données ?

C'est le vrai gouvernement.

Que vous l'appeliez
entreprise ou gouvernement,

si une entreprise contrôle
véritablement les données,

elle est notre véritable gouvernement.

Ainsi, la différence
en est une d'apparence.

CA : D'une certaine manière,
avec les entreprises du moins,

on peut penser que des mécanismes
du marché peuvent les faire tomber.

Ainsi, si les consommateurs décident

que cette compagnie
ne sert plus leurs intérêts,

cela permet l'émergence
d'un nouveau marché.

Ça semble plus plausible que,

disons, des citoyens qui s'insurgent
et renversent un gouvernement

qui contrôle tout.

YNH : Nous n'en sommes pas là,

mais je répète que si une entreprise vous
connaît mieux que vous-même,

elle peut à tout le moins manipuler
vos désirs et émotions les plus profonds,

sans que vous ne le réalisiez --

vous croyez qu'il s'agit bien là
de votre véritable personne.

Donc, en théorie, vous pouvez
vous opposer à une entreprise,

de la même manière que vous pouvez,
en théorie, vous opposer à une dictature.

Mais en réalité,
c'est extrêmement difficile.

CA: Dans votre livre « Homo Deus »,
vous avancez que ce siècle sera celui

où les hommes sont en quelque sorte
devenus des dieux,

soit par le développement
de l'intelligence artificielle,

soit par l'ingénierie génétique.

La possibilité d'un changement ou
d'un effondrement du système politique

a-t-elle changé votre vision
de cette éventualité ?

YNH : Je crois en fait que
ça la rend encore plus probable,

et que ça risque de se produire
plus rapidement,

car en temps de crise, les gens
sont prêts à prendre des risques

qu'ils ne prendraient pas en temps normal.

Les gens sont aussi prêts à essayer

toutes sortes de technologies
à haut risque et à haut rendement.

Ce genre de crises pourraient donc servir
les mêmes desseins

que les deux guerres mondiales
du 20ème siècle.

Les deux grandes guerres
ont grandement accéléré

le développement de technologies
nouvelles et dangereuses.

La même chose pourrait
se produire au 21ème siècle.

Ce que je veux dire, c'est que vous devez
être un peu fou pour précipiter les choses

avec, disons, l'ingénierie génétique.

Mais maintenant il y a
de plus en plus de gens fous

qui sont à la tête de différents pays
dans le monde,

ce qui veut dire que les risquent
augmentent, plutôt que de diminuer.

CA : Si on fait la somme de tout cela,
Yuval, vous avez une vision unique.

Faisons un bond de 30 ans en avant.

Quelle est votre prédiction ?
Est-ce que l'humanité s'en sortira,

regardera en arrière et dira : « On y a
échappé de peu, mais on a réussi ! »

ou pas ?

YNH : Jusqu'à présent, on a été en mesure
de gérer toutes les crises précédentes.

En regardant la démocratie libérale,
en particulier,

on se dit que les choses
vont mal de nos jours.

Mais rappelez-vous à quel point
les choses étaient pires en 1938 ou 1968.

Cela n'est donc rien, qu'une petite crise.

Mais on ne peut jamais savoir,

car, en tant qu'historien,

je sais qu'on ne devrait jamais
sous-estimer la bêtise humaine.

(Rires) (Applaudissements)

Voilà l'une des forces les plus puissantes
à avoir forgé l'histoire.

CA : Yuval, ce fut un pur bonheur
de vous avoir avec nous.

Merci d'avoir fait ce voyage virtuel.

Passez une belle soirée à Tel Aviv.

Yuval Harari !

YNH : Merci beaucoup.

(Applaudissements)