Les ruses manipulatrices que les entreprises de technologie utilisent pour obtenir votre attention

Quelques personnes travaillant dans quelques entreprises de technologie dirigent les pensées de milliards de personnes chaque jour, d'après le penseur en conception Tristan Harris. Des notifications Facebook aux Snapstreaks en passant par la lecture automatique de YouTube, elles sont en compétition pour une chose : votre attention. Harris partage comment ces entreprises jouent de notre psychologie pour leur propre profit et appelle à un renouvellement de la conception au cours duquel notre technologie nous encouragerait plutôt à vivre à notre propre rythme et selon le programme que nous voulons.

Imaginez

entrer dans une salle,

une salle de contrôle avec des personnes,

une centaine de personnes
autour d'un bureau avec des boutons

et que cette salle de contrôle

façonnera les pensées et émotions

d'un milliard de personnes.

Cela semble être de la science-fiction

mais cela existe

actuellement, aujourd'hui.

Je le sais car j'étais
dans une de ces salles de contrôle.

J'étais déontologue
en conception chez Google,

où j'ai étudié comment orienter
les pensées des gens de façon éthique.

Nous ne parlons pas de comment
les quelques personnes

travaillant dans les quelques
entreprises en technologie

orienteront, à travers leurs choix,
les pensées d'un milliard de personnes.

Quand vous sortez votre téléphone

et qu'ils conçoivent son fonctionnement
et le fil d'actualités,

cela organise de petits blocs
de temps dans notre esprit.

Si vous voyez une notification,
cela vous programme des pensées

que vous n'aviez peut-être pas prévues.

Si vous cliquez sur cette notification,

cela vous programme
à passer un peu de temps

à être aspiré par quelque chose

que vous n'aviez pas prévu.

En parlant de technologie,

nous en parlons comme
d'une opportunité ouverte

pouvant aller n'importe où.

Je vais être sérieux un instant

et vous dire pourquoi cela va
dans une direction spécifique.

Cela n'évolue pas aléatoirement.

Il y a un but caché donnant la direction

de toutes les technologies créées

et ce but est la course
pour notre attention.

Tout nouveau site --

TED, les élections, les politiques,

les jeux, même les applis de méditation --

doivent se battre pour une chose :

notre attention,

et elle est limitée.

La meilleure façon
d'obtenir l'attention des gens

est de connaître
le fonctionnement de leur cerveau.

Il y a des techniques de persuasion

que j'ai apprises dans un labo,
le Labo de la Technologie Persuasive,

afin d'obtenir l'attention des gens.

Un exemple simple est YouTube.

YouTube veut maximiser
le temps que vous y passez.

Que font-ils ?

Ils lancent automatiquement
la vidéo suivante.

Disons que cela fonctionne très bien.

Ils obtiennent un peu plus
du temps des gens.

Si vous êtes Netflix,
vous voyez cela et pensez

que cela réduit votre part de marché,

alors vous lancez automatiquement
l'épisode suivant.

Mais si vous êtes Facebook,

vous pensez que cela réduit
votre part de marché,

alors vous lancez automatiquement
toutes les vidéos

au lieu d'attendre que l'on clique.

Internet n'évolue pas aléatoirement.

La raison pour laquelle on a l'impression
qu'il nous aspire ainsi

est à cause de cette course à l'attention.

Nous savons où cela va.

La technologie n'est pas neutre

et cela devient cette course
à la base du tronc cérébral

de qui s'abaissera le plus pour l'obtenir.

Laissez-moi vous présenter
un exemple de Snapchat.

Si vous l'ignorez, Snapchat
est le moyen de communication principal

des adolescents aux Etats-Unis.

Si vous êtes comme moi et utilisez
les SMS pour communiquer,

Snapchat est l'équivalent pour ados

et un million d'entre eux l'utilisent.

Ils ont inventé
une fonctionnalité, Snapstreak,

qui montre le nombre de jours d'affilée

où deux personnes
ont communiqué l'une avec l'autre.

En d'autres mots, ce qu'ils ont fait

c'est donner à deux personnes
une chose à ne pas perdre.

Si vous êtes un adolescent
et avez 150 jours d'affilée,

vous ne voulez pas les perdre.

Pensez aux petits blocs de temps
prévus dans l'esprit des enfants.

Ce n'est pas théorique : en vacances,

ils donnent leur mot de passe
à des amis, jusqu'à cinq d'entre eux,

pour préserver leurs Snapstreaks,

même s'ils ne le peuvent pas.

Et ils en ont une trentaine,

ils doivent donc prendre des photos
de photos ou de murs

ou de plafonds pour passer la journée.

Ils n'ont même pas
de réelles conversations.

Nous avons la tentation de dire

qu'ils utilisent Snapchat

comme nous utilisions le téléphone.

C'est probablement normal.

Ce que nous oublions
c'est que dans les années 70,

quand vous papotiez au téléphone,

il n'y avait pas 100 ingénieurs
de l'autre côté de l'écran

connaissant exactement votre psychologie

et orchestrant de vous confiner
ensemble à une contrainte.

Si cela vous scandalise un peu,

remarquez que cette pensée vous envahit.

L'indignation est une très bonne façon
d'obtenir votre attention

car on ne choisit pas de s'indigner.

Cela nous arrive.

Le fil d'actualités de Facebook,

qu'il le veuille ou non,

tire profit de l'indignation.

Car l'indignation ne prévoit pas
simplement une réaction

à un moment et dans un espace
émotionnels pour vous.

Nous voulons partager
cette indignation avec d'autres.

Nous voulons partager et dire :

« Tu crois à ce qu'ils ont dit ? »

L'indignation fonctionne très bien
pour attirer l'attention,

si bien que si Facebook devait choisir
entre un fil d'actualités scandaleuses

et un fil d'actualités calmes,

ils choisiraient
les actualités scandaleuses

non pas consciemment

mais parce que cela
attire plus votre attention.

La salle de contrôle du fil d'actualités
n'a pas de comptes à nous rendre.

Elle doit simplement
maximiser l'attention.

Elle est aussi responsable,

à cause du modèle de publicité,

envers quiconque payant le plus
et entrant dans la salle de contrôle

en disant : « Ce groupe-là,

je veux établir ces pensées
dans leur esprit. »

Vous pouvez cibler,

vous pouvez cibler précisément un mensonge

directement vers les gens
les plus susceptibles.

Puisque c'est rentable,
cela ne va qu'empirer.

Je suis ici aujourd'hui

car les coûts sont évidents.

Je ne connais aucun problème plus urgent

car ce problème est sous-jacent
à tous les autres problèmes.

Non seulement il compromet nos efforts

pour concentrer notre attention,
vivre notre vie désirée,

il change aussi la façon
dont nous tenons nos conversations,

il change notre démocratie

et il change notre capacité
à avoir ces conversations

et ces relations que nous voulons avoir.

Il affecte tout le monde

car un milliard de personnes
ont ceci dans leur poche.

Comment arranger cela ?

Nous devons effectuer
trois changements radicaux

en termes de technologie et de société.

Premièrement, nous devons reconnaître
que nous sommes influençables.

Une fois que nous comprenons

que l'on peut programmer
des petites pensées

ou des blocs de temps non désirés
dans notre esprit,

n'utiliserions-nous pas cette connaissance

et ne nous protégerions-nous pas ?

Nous devons avoir une vision
fondamentalement nouvelle de nous-mêmes.

Comme une nouvelle période de l'histoire,

comme le Siècle des Lumières

et aussi comme une prise
de conscience de soi,

nous sommes influençables

et il y a peut-être
quelque chose à protéger.

Deuxièmement, il nous faut
de nouveaux modèles

et systèmes de responsabilisation

pour que, alors que le monde s'améliore,
devient de plus en plus persuasif --

il ne peut que devenir
de plus en plus persuasif --

les gens dans ces salles de contrôle

soient responsables,
transparents quant à nos désirs.

La seule forme de persuasion
éthique qui existe

c'est si les objectifs
de celui qui persuade

sont alignés avec ceux
de celui qui est persuadé.

Il faut remettre en question des choses

comme le modèle commercial
de la publicité.

Finalement,

il faut un renouvellement de la conception

car une fois que vous avez
cette vision de la nature humaine,

vous pouvez contrôler les calendriers
d'un milliard de personnes.

Imaginez, il y a des gens
qui ont des désirs

quant à ce qu'ils veulent faire
et ce qu'ils veulent penser

et ce qu'ils veulent ressentir
et comment ils veulent être informés

et ils sont traînés
dans d'autres directions.

Un milliard de personnes sont traînées
dans d'autres directions.

Imaginez une renaissance de la conception

qui essayait d'orchestrer
la façon exacte

et la plus stimulante
de bien passer son temps.

Cela impliquerait deux choses :

nous protéger de ces calendriers

selon lesquels nous ne voulons pas vivre,

ces pensées que nous ne voulons pas avoir

pour que lorsque la sonnerie retentit,
cela ne nous accapare pas ;

deuxièmement, nous pousser à vivre
à notre propre rythme.

Voici un exemple concret.

Aujourd'hui, votre ami
annule votre dîner ensemble

et vous vous sentez un peu seul.

Que faites-vous ?

Vous ouvrez Facebook.

A ce moment-là,

les concepteurs dans la salle de contrôle
veulent une chose :

maximiser le temps
passé devant votre écran.

Imaginez plutôt si ces concepteurs
avaient un autre objectif :

la façon la plus simple,
grâce à toutes leurs données,

de vous aider à sortir
avec les gens que vous aimez.

Pensez-y, alléger la solitude
dans notre société,

si c'était le programme que Facebook
voulait permettre aux gens.

Ou imaginez une autre conversation.

Disons que vous vouliez poster
quelque chose de controversé sur Facebook,

il est très important
de pouvoir faire cela,

parler de sujets controversés.

Actuellement, quand il y a
cet espace commentaire,

il vous incite presque à écrire.

En d'autres mots, cela prévoit
un petit programme de choses

que vous allez
continuer à faire sur l'écran.

Imaginez plutôt qu'il y ait
un autre bouton demandant :

« Comment utiliser
au mieux votre temps ? »

« Organiser un dîner »

Juste en dessous, cela dit :

« Qui veut réserver pour le dîner ? »

Vous auriez toujours une conversation
sur un sujet controversé,

mais vous l'auriez à l'endroit
le plus stimulant :

chez vous, ce soir-là,
avec des amis, pour en discuter.

Imaginez que nous faisions
un « chercher et remplacer »

sur tous les programmes
qui nous traînent actuellement

vers de plus en plus
de temps devant l'écran

et que nous remplacions ces programmes

par ce que nous voulons
faire de notre vie.

Cela n'a pas à être ainsi.

Au lieu d'handicaper notre attention,

imaginez si nous utilisions
toutes ces données, tout ce pouvoir,

cette nouvelle vision de l'Homme

pour nous donner une capacité
de concentration surhumaine,

une capacité surhumaine
à prêter attention à ce qui nous importe,

une capacité surhumaine
à avoir les conversations

que nous devons avoir pour la démocratie.

Les défis les plus complexes au monde

ne nécessitent pas seulement
notre attention individuelle.

Ils nécessitent notre attention
et une coordination collectives.

Le changement climatique
va nécessiter que beaucoup de gens

puissent coordonner leur attention

de la façon la plus stimulante, ensemble.

Imaginez créer une capacité
surhumaine pour faire cela.

Parfois, les problèmes
les plus importants et urgents du monde

ne sont pas ces choses hypothétiques
que nous pourrions créer à l'avenir.

Parfois, les problèmes les plus urgents

sont ceux juste sous notre nez,

les choses qui dirigent déjà
les pensées d'un milliard de personnes.

Peut-être qu'au lieu d'être enthousiastes
pour la réalité augmentée

et la réalité virtuelle
et ces choses cool pouvant arriver

qui vont être sujettes
à la même course à l'attention,

si nous pouvions orienter
la course à l'attention

ce qui est déjà dans les poches
d'un milliard de personnes.

Au lieu d'être enthousiastes

pour les nouvelles applications éducatives
excitantes, cool et sophistiquées,

nous pourrions corriger comment
les enfants sont manipulés

et poussés à s'échanger
des messages vides.

(Applaudissements)

Au lieu de s'inquiéter

d'hypothétiques et futures
intelligences artificielles folles

qui n'ont qu'un objectif,

nous pourrions réparer
l'intelligence artificielle folle

qui existe actuellement

et qui sont ces fils d'actualités
qui n'ont qu'un objectif.

C'est presque comme si au lieu
d'aller coloniser d'autres planètes,

nous pouvions réparer
celle sur laquelle nous sommes.

(Applaudissements)

Résoudre ce problème

offrirait l'infrastructure essentielle
à la résolution de tous les autres.

Il n'y a rien dans notre vie
ou nos problèmes collectifs

ne nécessitant pas notre capacité
à nous concentrer sur ce qui nous importe.

A la fin de notre vie,

il ne nous reste
que notre attention et notre temps.

Comment bien utiliser notre temps ?

Merci.

(Applaudissements)

Chirs Anderson : Tristan, merci.
Restez ici un instant.

Tout d'abord, merci.

Cette présentation a été demandée
il y a peu de temps

et votre semaine a été stressante,

travaillant à cela, alors merci.

Certains qui écoutent pourraient dire
que vous vous plaignez d'addiction

et que pour les gens faisant cela,
c'est vraiment intéressant.

Les décisions de conception

ont créé un contenu utilisation
incroyablement intéressant.

Le monde est plus intéressant que jamais.

Qu'y a-t-il de mal à cela ?

Tristan Harris :
Je pense que c'est intéressant.

Une façon de le voir est
si vous êtes YouTube, par exemple,

vous voulez toujours montrer
la vidéo la plus intéressante.

Vous voulez améliorer
la suggestion de la prochaine vidéo,

mais même si vous pouviez
proposer la vidéo parfaite

que tout le monde voudrait voir,

vous n'améliorerez que votre capacité
à garder les gens devant l'écran.

Ce qu'il manque dans l'équation

est de trouver où sont les limites.

Il faudrait que YouTube
connaisse la notion de sommeil.

Le PDG de Netflix a dit récemment :

« Nos compétiteurs sont Facebook,
YouTube et le sommeil. »

Nous devons reconnaître
que l'architecture humaine est limitée

et qu'il y a des limites
ou des dimensions de notre vie

que nous voulons voir
honorées et respectées

et la technologie pourrait aider.

(Applaudissements)

CA : Pourriez-vous dire

qu'une part du problème est que nous avons
un modèle naïf de la nature humaine ?

Tant de choses sont justifiées
par la préférence humaine,

nous avons ces algorithmes
faisant un super boulot,

optimisant pour la préférence humaine,

mais quelle préférence ?

Il y a les préférences des choses
qui nous importent

quand nous y pensons

versus celles de ce sur quoi
nous avons instinctivement cliqué.

Si nous pouvions implanter une vue
plus nuancée de la nature humaine

dans la conception,

cela serait-il du progrès ?

TH : Absolument. Actuellement,

c'est comme si notre technologie
demandait à notre cerveau reptilien

comment, impulsivement, nous faire faire
de notre temps la prochaine petite chose

au lieu de demander

comment vous utiliseriez
au mieux votre temps.

Quel serait le programme parfait
pouvant inclure des prévisions,

comment bien utiliser votre temps
durant votre dernier jour à TED ?

CA : Donc si Facebook et Google
et tous les autres disaient :

« Aimeriez-vous optimiser
votre cerveau réflectif

ou votre cerveau reptilien ? Choisissez. »

TH : Ce serait une façon de faire, oui.

CA : Vous avez parlé d'influence,
c'est un mot intéressant

car, à mon avis, il y a
deux types d'influence.

Il y a celle que nous essayons,

celle de la raison, la réflexion,
l'argumentation,

mais vous parlez presque
d'une influence différente,

plus viscérale,

celle d'être convaincu
sans savoir ce que l'on pense.

TH : Exactement.
Ce problème me tient à cœur

car j'ai étudié au labo
de la Technologie Persuasive à Stanford

qui enseigne ces techniques aux gens.

Il y a des conférences, des ateliers
qui enseignent ces façons dissimulées

d'obtenir l'attention des gens
et d'orchestrer leur vie.

Le fait que la plupart des gens
en ignorent l'existence

rend cette conversation si importante.

CA : Tristan, vous et moi connaissons
tant de monde dans ces entreprises.

Il y en a plein dans la pièce

et, je ne sais pas pour vous,
mais mon expérience

est qu'ils ne manquent pas
de bonnes intentions.

Les gens veulent un monde meilleur.

Ils sont -- ils le veulent vraiment.

Je ne crois pas que vous disiez
que ces gens sont maléfiques.

C'est un système où il y a
des conséquences inattendues

qui est hors de contrôle --

TH : La course à l'attention.

La course classique vers les bas-fonds
pour obtenir l'attention,

c'est très tendu.

Pour en obtenir plus,
il faut descendre le tronc cérébral,

descendre dans l'outrage,
descendre dans l'émotion,

descendre dans le cerveau lézard.

CA : Merci de nous avoir aidés
à devenir plus éclairés à ce propos.

Tristan Harris, merci.
TH : Merci beaucoup.

(Applaudissements)