Imaginez
entrer dans une salle,
une salle de contrôle avec des personnes,
une centaine de personnes
autour d'un bureau avec des boutons
et que cette salle de contrôle
façonnera les pensées et émotions
d'un milliard de personnes.
Cela semble être de la science-fiction
mais cela existe
actuellement, aujourd'hui.
Je le sais car j'étais
dans une de ces salles de contrôle.
J'étais déontologue
en conception chez Google,
où j'ai étudié comment orienter
les pensées des gens de façon éthique.
Nous ne parlons pas de comment
les quelques personnes
travaillant dans les quelques
entreprises en technologie
orienteront, à travers leurs choix,
les pensées d'un milliard de personnes.
Quand vous sortez votre téléphone
et qu'ils conçoivent son fonctionnement
et le fil d'actualités,
cela organise de petits blocs
de temps dans notre esprit.
Si vous voyez une notification,
cela vous programme des pensées
que vous n'aviez peut-être pas prévues.
Si vous cliquez sur cette notification,
cela vous programme
à passer un peu de temps
à être aspiré par quelque chose
que vous n'aviez pas prévu.
En parlant de technologie,
nous en parlons comme
d'une opportunité ouverte
pouvant aller n'importe où.
Je vais être sérieux un instant
et vous dire pourquoi cela va
dans une direction spécifique.
Cela n'évolue pas aléatoirement.
Il y a un but caché donnant la direction
de toutes les technologies créées
et ce but est la course
pour notre attention.
Tout nouveau site --
TED, les élections, les politiques,
les jeux, même les applis de méditation --
doivent se battre pour une chose :
notre attention,
et elle est limitée.
La meilleure façon
d'obtenir l'attention des gens
est de connaître
le fonctionnement de leur cerveau.
Il y a des techniques de persuasion
que j'ai apprises dans un labo,
le Labo de la Technologie Persuasive,
afin d'obtenir l'attention des gens.
Un exemple simple est YouTube.
YouTube veut maximiser
le temps que vous y passez.
Que font-ils ?
Ils lancent automatiquement
la vidéo suivante.
Disons que cela fonctionne très bien.
Ils obtiennent un peu plus
du temps des gens.
Si vous êtes Netflix,
vous voyez cela et pensez
que cela réduit votre part de marché,
alors vous lancez automatiquement
l'épisode suivant.
Mais si vous êtes Facebook,
vous pensez que cela réduit
votre part de marché,
alors vous lancez automatiquement
toutes les vidéos
au lieu d'attendre que l'on clique.
Internet n'évolue pas aléatoirement.
La raison pour laquelle on a l'impression
qu'il nous aspire ainsi
est à cause de cette course à l'attention.
Nous savons où cela va.
La technologie n'est pas neutre
et cela devient cette course
à la base du tronc cérébral
de qui s'abaissera le plus pour l'obtenir.
Laissez-moi vous présenter
un exemple de Snapchat.
Si vous l'ignorez, Snapchat
est le moyen de communication principal
des adolescents aux Etats-Unis.
Si vous êtes comme moi et utilisez
les SMS pour communiquer,
Snapchat est l'équivalent pour ados
et un million d'entre eux l'utilisent.
Ils ont inventé
une fonctionnalité, Snapstreak,
qui montre le nombre de jours d'affilée
où deux personnes
ont communiqué l'une avec l'autre.
En d'autres mots, ce qu'ils ont fait
c'est donner à deux personnes
une chose à ne pas perdre.
Si vous êtes un adolescent
et avez 150 jours d'affilée,
vous ne voulez pas les perdre.
Pensez aux petits blocs de temps
prévus dans l'esprit des enfants.
Ce n'est pas théorique : en vacances,
ils donnent leur mot de passe
à des amis, jusqu'à cinq d'entre eux,
pour préserver leurs Snapstreaks,
même s'ils ne le peuvent pas.
Et ils en ont une trentaine,
ils doivent donc prendre des photos
de photos ou de murs
ou de plafonds pour passer la journée.
Ils n'ont même pas
de réelles conversations.
Nous avons la tentation de dire
qu'ils utilisent Snapchat
comme nous utilisions le téléphone.
C'est probablement normal.
Ce que nous oublions
c'est que dans les années 70,
quand vous papotiez au téléphone,
il n'y avait pas 100 ingénieurs
de l'autre côté de l'écran
connaissant exactement votre psychologie
et orchestrant de vous confiner
ensemble à une contrainte.
Si cela vous scandalise un peu,
remarquez que cette pensée vous envahit.
L'indignation est une très bonne façon
d'obtenir votre attention
car on ne choisit pas de s'indigner.
Cela nous arrive.
Le fil d'actualités de Facebook,
qu'il le veuille ou non,
tire profit de l'indignation.
Car l'indignation ne prévoit pas
simplement une réaction
à un moment et dans un espace
émotionnels pour vous.
Nous voulons partager
cette indignation avec d'autres.
Nous voulons partager et dire :
« Tu crois à ce qu'ils ont dit ? »
L'indignation fonctionne très bien
pour attirer l'attention,
si bien que si Facebook devait choisir
entre un fil d'actualités scandaleuses
et un fil d'actualités calmes,
ils choisiraient
les actualités scandaleuses
non pas consciemment
mais parce que cela
attire plus votre attention.
La salle de contrôle du fil d'actualités
n'a pas de comptes à nous rendre.
Elle doit simplement
maximiser l'attention.
Elle est aussi responsable,
à cause du modèle de publicité,
envers quiconque payant le plus
et entrant dans la salle de contrôle
en disant : « Ce groupe-là,
je veux établir ces pensées
dans leur esprit. »
Vous pouvez cibler,
vous pouvez cibler précisément un mensonge
directement vers les gens
les plus susceptibles.
Puisque c'est rentable,
cela ne va qu'empirer.
Je suis ici aujourd'hui
car les coûts sont évidents.
Je ne connais aucun problème plus urgent
car ce problème est sous-jacent
à tous les autres problèmes.
Non seulement il compromet nos efforts
pour concentrer notre attention,
vivre notre vie désirée,
il change aussi la façon
dont nous tenons nos conversations,
il change notre démocratie
et il change notre capacité
à avoir ces conversations
et ces relations que nous voulons avoir.
Il affecte tout le monde
car un milliard de personnes
ont ceci dans leur poche.
Comment arranger cela ?
Nous devons effectuer
trois changements radicaux
en termes de technologie et de société.
Premièrement, nous devons reconnaître
que nous sommes influençables.
Une fois que nous comprenons
que l'on peut programmer
des petites pensées
ou des blocs de temps non désirés
dans notre esprit,
n'utiliserions-nous pas cette connaissance
et ne nous protégerions-nous pas ?
Nous devons avoir une vision
fondamentalement nouvelle de nous-mêmes.
Comme une nouvelle période de l'histoire,
comme le Siècle des Lumières
et aussi comme une prise
de conscience de soi,
nous sommes influençables
et il y a peut-être
quelque chose à protéger.
Deuxièmement, il nous faut
de nouveaux modèles
et systèmes de responsabilisation
pour que, alors que le monde s'améliore,
devient de plus en plus persuasif --
il ne peut que devenir
de plus en plus persuasif --
les gens dans ces salles de contrôle
soient responsables,
transparents quant à nos désirs.
La seule forme de persuasion
éthique qui existe
c'est si les objectifs
de celui qui persuade
sont alignés avec ceux
de celui qui est persuadé.
Il faut remettre en question des choses
comme le modèle commercial
de la publicité.
Finalement,
il faut un renouvellement de la conception
car une fois que vous avez
cette vision de la nature humaine,
vous pouvez contrôler les calendriers
d'un milliard de personnes.
Imaginez, il y a des gens
qui ont des désirs
quant à ce qu'ils veulent faire
et ce qu'ils veulent penser
et ce qu'ils veulent ressentir
et comment ils veulent être informés
et ils sont traînés
dans d'autres directions.
Un milliard de personnes sont traînées
dans d'autres directions.
Imaginez une renaissance de la conception
qui essayait d'orchestrer
la façon exacte
et la plus stimulante
de bien passer son temps.
Cela impliquerait deux choses :
nous protéger de ces calendriers
selon lesquels nous ne voulons pas vivre,
ces pensées que nous ne voulons pas avoir
pour que lorsque la sonnerie retentit,
cela ne nous accapare pas ;
deuxièmement, nous pousser à vivre
à notre propre rythme.
Voici un exemple concret.
Aujourd'hui, votre ami
annule votre dîner ensemble
et vous vous sentez un peu seul.
Que faites-vous ?
Vous ouvrez Facebook.
A ce moment-là,
les concepteurs dans la salle de contrôle
veulent une chose :
maximiser le temps
passé devant votre écran.
Imaginez plutôt si ces concepteurs
avaient un autre objectif :
la façon la plus simple,
grâce à toutes leurs données,
de vous aider à sortir
avec les gens que vous aimez.
Pensez-y, alléger la solitude
dans notre société,
si c'était le programme que Facebook
voulait permettre aux gens.
Ou imaginez une autre conversation.
Disons que vous vouliez poster
quelque chose de controversé sur Facebook,
il est très important
de pouvoir faire cela,
parler de sujets controversés.
Actuellement, quand il y a
cet espace commentaire,
il vous incite presque à écrire.
En d'autres mots, cela prévoit
un petit programme de choses
que vous allez
continuer à faire sur l'écran.
Imaginez plutôt qu'il y ait
un autre bouton demandant :
« Comment utiliser
au mieux votre temps ? »
« Organiser un dîner »
Juste en dessous, cela dit :
« Qui veut réserver pour le dîner ? »
Vous auriez toujours une conversation
sur un sujet controversé,
mais vous l'auriez à l'endroit
le plus stimulant :
chez vous, ce soir-là,
avec des amis, pour en discuter.
Imaginez que nous faisions
un « chercher et remplacer »
sur tous les programmes
qui nous traînent actuellement
vers de plus en plus
de temps devant l'écran
et que nous remplacions ces programmes
par ce que nous voulons
faire de notre vie.
Cela n'a pas à être ainsi.
Au lieu d'handicaper notre attention,
imaginez si nous utilisions
toutes ces données, tout ce pouvoir,
cette nouvelle vision de l'Homme
pour nous donner une capacité
de concentration surhumaine,
une capacité surhumaine
à prêter attention à ce qui nous importe,
une capacité surhumaine
à avoir les conversations
que nous devons avoir pour la démocratie.
Les défis les plus complexes au monde
ne nécessitent pas seulement
notre attention individuelle.
Ils nécessitent notre attention
et une coordination collectives.
Le changement climatique
va nécessiter que beaucoup de gens
puissent coordonner leur attention
de la façon la plus stimulante, ensemble.
Imaginez créer une capacité
surhumaine pour faire cela.
Parfois, les problèmes
les plus importants et urgents du monde
ne sont pas ces choses hypothétiques
que nous pourrions créer à l'avenir.
Parfois, les problèmes les plus urgents
sont ceux juste sous notre nez,
les choses qui dirigent déjà
les pensées d'un milliard de personnes.
Peut-être qu'au lieu d'être enthousiastes
pour la réalité augmentée
et la réalité virtuelle
et ces choses cool pouvant arriver
qui vont être sujettes
à la même course à l'attention,
si nous pouvions orienter
la course à l'attention
ce qui est déjà dans les poches
d'un milliard de personnes.
Au lieu d'être enthousiastes
pour les nouvelles applications éducatives
excitantes, cool et sophistiquées,
nous pourrions corriger comment
les enfants sont manipulés
et poussés à s'échanger
des messages vides.
(Applaudissements)
Au lieu de s'inquiéter
d'hypothétiques et futures
intelligences artificielles folles
qui n'ont qu'un objectif,
nous pourrions réparer
l'intelligence artificielle folle
qui existe actuellement
et qui sont ces fils d'actualités
qui n'ont qu'un objectif.
C'est presque comme si au lieu
d'aller coloniser d'autres planètes,
nous pouvions réparer
celle sur laquelle nous sommes.
(Applaudissements)
Résoudre ce problème
offrirait l'infrastructure essentielle
à la résolution de tous les autres.
Il n'y a rien dans notre vie
ou nos problèmes collectifs
ne nécessitant pas notre capacité
à nous concentrer sur ce qui nous importe.
A la fin de notre vie,
il ne nous reste
que notre attention et notre temps.
Comment bien utiliser notre temps ?
Merci.
(Applaudissements)
Chirs Anderson : Tristan, merci.
Restez ici un instant.
Tout d'abord, merci.
Cette présentation a été demandée
il y a peu de temps
et votre semaine a été stressante,
travaillant à cela, alors merci.
Certains qui écoutent pourraient dire
que vous vous plaignez d'addiction
et que pour les gens faisant cela,
c'est vraiment intéressant.
Les décisions de conception
ont créé un contenu utilisation
incroyablement intéressant.
Le monde est plus intéressant que jamais.
Qu'y a-t-il de mal à cela ?
Tristan Harris :
Je pense que c'est intéressant.
Une façon de le voir est
si vous êtes YouTube, par exemple,
vous voulez toujours montrer
la vidéo la plus intéressante.
Vous voulez améliorer
la suggestion de la prochaine vidéo,
mais même si vous pouviez
proposer la vidéo parfaite
que tout le monde voudrait voir,
vous n'améliorerez que votre capacité
à garder les gens devant l'écran.
Ce qu'il manque dans l'équation
est de trouver où sont les limites.
Il faudrait que YouTube
connaisse la notion de sommeil.
Le PDG de Netflix a dit récemment :
« Nos compétiteurs sont Facebook,
YouTube et le sommeil. »
Nous devons reconnaître
que l'architecture humaine est limitée
et qu'il y a des limites
ou des dimensions de notre vie
que nous voulons voir
honorées et respectées
et la technologie pourrait aider.
(Applaudissements)
CA : Pourriez-vous dire
qu'une part du problème est que nous avons
un modèle naïf de la nature humaine ?
Tant de choses sont justifiées
par la préférence humaine,
nous avons ces algorithmes
faisant un super boulot,
optimisant pour la préférence humaine,
mais quelle préférence ?
Il y a les préférences des choses
qui nous importent
quand nous y pensons
versus celles de ce sur quoi
nous avons instinctivement cliqué.
Si nous pouvions implanter une vue
plus nuancée de la nature humaine
dans la conception,
cela serait-il du progrès ?
TH : Absolument. Actuellement,
c'est comme si notre technologie
demandait à notre cerveau reptilien
comment, impulsivement, nous faire faire
de notre temps la prochaine petite chose
au lieu de demander
comment vous utiliseriez
au mieux votre temps.
Quel serait le programme parfait
pouvant inclure des prévisions,
comment bien utiliser votre temps
durant votre dernier jour à TED ?
CA : Donc si Facebook et Google
et tous les autres disaient :
« Aimeriez-vous optimiser
votre cerveau réflectif
ou votre cerveau reptilien ? Choisissez. »
TH : Ce serait une façon de faire, oui.
CA : Vous avez parlé d'influence,
c'est un mot intéressant
car, à mon avis, il y a
deux types d'influence.
Il y a celle que nous essayons,
celle de la raison, la réflexion,
l'argumentation,
mais vous parlez presque
d'une influence différente,
plus viscérale,
celle d'être convaincu
sans savoir ce que l'on pense.
TH : Exactement.
Ce problème me tient à cœur
car j'ai étudié au labo
de la Technologie Persuasive à Stanford
qui enseigne ces techniques aux gens.
Il y a des conférences, des ateliers
qui enseignent ces façons dissimulées
d'obtenir l'attention des gens
et d'orchestrer leur vie.
Le fait que la plupart des gens
en ignorent l'existence
rend cette conversation si importante.
CA : Tristan, vous et moi connaissons
tant de monde dans ces entreprises.
Il y en a plein dans la pièce
et, je ne sais pas pour vous,
mais mon expérience
est qu'ils ne manquent pas
de bonnes intentions.
Les gens veulent un monde meilleur.
Ils sont -- ils le veulent vraiment.
Je ne crois pas que vous disiez
que ces gens sont maléfiques.
C'est un système où il y a
des conséquences inattendues
qui est hors de contrôle --
TH : La course à l'attention.
La course classique vers les bas-fonds
pour obtenir l'attention,
c'est très tendu.
Pour en obtenir plus,
il faut descendre le tronc cérébral,
descendre dans l'outrage,
descendre dans l'émotion,
descendre dans le cerveau lézard.
CA : Merci de nous avoir aidés
à devenir plus éclairés à ce propos.
Tristan Harris, merci.
TH : Merci beaucoup.
(Applaudissements)