Imaginez
entrer dans une salle,
une salle de contrôle avec des personnes,
une centaine de personnes autour d'un bureau avec des boutons
et que cette salle de contrôle
façonnera les pensées et émotions
d'un milliard de personnes.
Cela semble être de la science-fiction
mais cela existe
actuellement, aujourd'hui.
Je le sais car j'étais dans une de ces salles de contrôle.
J'étais déontologue en conception chez Google,
où j'ai étudié comment orienter les pensées des gens de façon éthique.
Nous ne parlons pas de comment les quelques personnes
travaillant dans les quelques entreprises en technologie
orienteront, à travers leurs choix, les pensées d'un milliard de personnes.
Quand vous sortez votre téléphone
et qu'ils conçoivent son fonctionnement et le fil d'actualités,
cela organise de petits blocs de temps dans notre esprit.
Si vous voyez une notification, cela vous programme des pensées
que vous n'aviez peut-être pas prévues.
Si vous cliquez sur cette notification,
cela vous programme à passer un peu de temps
à être aspiré par quelque chose
que vous n'aviez pas prévu.
En parlant de technologie,
nous en parlons comme d'une opportunité ouverte
pouvant aller n'importe où.
Je vais être sérieux un instant
et vous dire pourquoi cela va dans une direction spécifique.
Cela n'évolue pas aléatoirement.
Il y a un but caché donnant la direction
de toutes les technologies créées
et ce but est la course pour notre attention.
Tout nouveau site --
TED, les élections, les politiques,
les jeux, même les applis de méditation --
doivent se battre pour une chose :
notre attention,
et elle est limitée.
La meilleure façon d'obtenir l'attention des gens
est de connaître le fonctionnement de leur cerveau.
Il y a des techniques de persuasion
que j'ai apprises dans un labo, le Labo de la Technologie Persuasive,
afin d'obtenir l'attention des gens.
Un exemple simple est YouTube.
YouTube veut maximiser le temps que vous y passez.
Que font-ils ?
Ils lancent automatiquement la vidéo suivante.
Disons que cela fonctionne très bien.
Ils obtiennent un peu plus du temps des gens.
Si vous êtes Netflix, vous voyez cela et pensez
que cela réduit votre part de marché,
alors vous lancez automatiquement l'épisode suivant.
Mais si vous êtes Facebook,
vous pensez que cela réduit votre part de marché,
alors vous lancez automatiquement toutes les vidéos
au lieu d'attendre que l'on clique.
Internet n'évolue pas aléatoirement.
La raison pour laquelle on a l'impression qu'il nous aspire ainsi
est à cause de cette course à l'attention.
Nous savons où cela va.
La technologie n'est pas neutre
et cela devient cette course à la base du tronc cérébral
de qui s'abaissera le plus pour l'obtenir.
Laissez-moi vous présenter un exemple de Snapchat.
Si vous l'ignorez, Snapchat est le moyen de communication principal
des adolescents aux Etats-Unis.
Si vous êtes comme moi et utilisez les SMS pour communiquer,
Snapchat est l'équivalent pour ados
et un million d'entre eux l'utilisent.
Ils ont inventé une fonctionnalité, Snapstreak,
qui montre le nombre de jours d'affilée
où deux personnes ont communiqué l'une avec l'autre.
En d'autres mots, ce qu'ils ont fait
c'est donner à deux personnes une chose à ne pas perdre.
Si vous êtes un adolescent et avez 150 jours d'affilée,
vous ne voulez pas les perdre.
Pensez aux petits blocs de temps prévus dans l'esprit des enfants.
Ce n'est pas théorique : en vacances,
ils donnent leur mot de passe à des amis, jusqu'à cinq d'entre eux,
pour préserver leurs Snapstreaks,
même s'ils ne le peuvent pas.
Et ils en ont une trentaine,
ils doivent donc prendre des photos de photos ou de murs
ou de plafonds pour passer la journée.
Ils n'ont même pas de réelles conversations.
Nous avons la tentation de dire
qu'ils utilisent Snapchat
comme nous utilisions le téléphone.
C'est probablement normal.
Ce que nous oublions c'est que dans les années 70,
quand vous papotiez au téléphone,
il n'y avait pas 100 ingénieurs de l'autre côté de l'écran
connaissant exactement votre psychologie
et orchestrant de vous confiner ensemble à une contrainte.
Si cela vous scandalise un peu,
remarquez que cette pensée vous envahit.
L'indignation est une très bonne façon d'obtenir votre attention
car on ne choisit pas de s'indigner.
Cela nous arrive.
Le fil d'actualités de Facebook,
qu'il le veuille ou non,
tire profit de l'indignation.
Car l'indignation ne prévoit pas simplement une réaction
à un moment et dans un espace émotionnels pour vous.
Nous voulons partager cette indignation avec d'autres.
Nous voulons partager et dire :
« Tu crois à ce qu'ils ont dit ? »
L'indignation fonctionne très bien pour attirer l'attention,
si bien que si Facebook devait choisir entre un fil d'actualités scandaleuses
et un fil d'actualités calmes,
ils choisiraient les actualités scandaleuses
non pas consciemment
mais parce que cela attire plus votre attention.
La salle de contrôle du fil d'actualités n'a pas de comptes à nous rendre.
Elle doit simplement maximiser l'attention.
Elle est aussi responsable,
à cause du modèle de publicité,
envers quiconque payant le plus et entrant dans la salle de contrôle
en disant : « Ce groupe-là,
je veux établir ces pensées dans leur esprit. »
Vous pouvez cibler,
vous pouvez cibler précisément un mensonge
directement vers les gens les plus susceptibles.
Puisque c'est rentable, cela ne va qu'empirer.
Je suis ici aujourd'hui
car les coûts sont évidents.
Je ne connais aucun problème plus urgent
car ce problème est sous-jacent à tous les autres problèmes.
Non seulement il compromet nos efforts
pour concentrer notre attention, vivre notre vie désirée,
il change aussi la façon dont nous tenons nos conversations,
il change notre démocratie
et il change notre capacité à avoir ces conversations
et ces relations que nous voulons avoir.
Il affecte tout le monde
car un milliard de personnes ont ceci dans leur poche.
Comment arranger cela ?
Nous devons effectuer trois changements radicaux
en termes de technologie et de société.
Premièrement, nous devons reconnaître que nous sommes influençables.
Une fois que nous comprenons
que l'on peut programmer des petites pensées
ou des blocs de temps non désirés dans notre esprit,
n'utiliserions-nous pas cette connaissance
et ne nous protégerions-nous pas ?
Nous devons avoir une vision fondamentalement nouvelle de nous-mêmes.
Comme une nouvelle période de l'histoire,
comme le Siècle des Lumières
et aussi comme une prise de conscience de soi,
nous sommes influençables
et il y a peut-être quelque chose à protéger.
Deuxièmement, il nous faut de nouveaux modèles
et systèmes de responsabilisation
pour que, alors que le monde s'améliore, devient de plus en plus persuasif --
il ne peut que devenir de plus en plus persuasif --
les gens dans ces salles de contrôle
soient responsables, transparents quant à nos désirs.
La seule forme de persuasion éthique qui existe
c'est si les objectifs de celui qui persuade
sont alignés avec ceux de celui qui est persuadé.
Il faut remettre en question des choses
comme le modèle commercial de la publicité.
Finalement,
il faut un renouvellement de la conception
car une fois que vous avez cette vision de la nature humaine,
vous pouvez contrôler les calendriers d'un milliard de personnes.
Imaginez, il y a des gens qui ont des désirs
quant à ce qu'ils veulent faire et ce qu'ils veulent penser
et ce qu'ils veulent ressentir et comment ils veulent être informés
et ils sont traînés dans d'autres directions.
Un milliard de personnes sont traînées dans d'autres directions.
Imaginez une renaissance de la conception
qui essayait d'orchestrer la façon exacte
et la plus stimulante de bien passer son temps.
Cela impliquerait deux choses :
nous protéger de ces calendriers
selon lesquels nous ne voulons pas vivre,
ces pensées que nous ne voulons pas avoir
pour que lorsque la sonnerie retentit, cela ne nous accapare pas ;
deuxièmement, nous pousser à vivre à notre propre rythme.
Voici un exemple concret.
Aujourd'hui, votre ami annule votre dîner ensemble
et vous vous sentez un peu seul.
Que faites-vous ?
Vous ouvrez Facebook.
A ce moment-là,
les concepteurs dans la salle de contrôle veulent une chose :
maximiser le temps passé devant votre écran.
Imaginez plutôt si ces concepteurs avaient un autre objectif :
la façon la plus simple, grâce à toutes leurs données,
de vous aider à sortir avec les gens que vous aimez.
Pensez-y, alléger la solitude dans notre société,
si c'était le programme que Facebook voulait permettre aux gens.
Ou imaginez une autre conversation.
Disons que vous vouliez poster quelque chose de controversé sur Facebook,
il est très important de pouvoir faire cela,
parler de sujets controversés.
Actuellement, quand il y a cet espace commentaire,
il vous incite presque à écrire.
En d'autres mots, cela prévoit un petit programme de choses
que vous allez continuer à faire sur l'écran.
Imaginez plutôt qu'il y ait un autre bouton demandant :
« Comment utiliser au mieux votre temps ? »
« Organiser un dîner »
Juste en dessous, cela dit :
« Qui veut réserver pour le dîner ? »
Vous auriez toujours une conversation sur un sujet controversé,
mais vous l'auriez à l'endroit le plus stimulant :
chez vous, ce soir-là, avec des amis, pour en discuter.
Imaginez que nous faisions un « chercher et remplacer »
sur tous les programmes qui nous traînent actuellement
vers de plus en plus de temps devant l'écran
et que nous remplacions ces programmes
par ce que nous voulons faire de notre vie.
Cela n'a pas à être ainsi.
Au lieu d'handicaper notre attention,
imaginez si nous utilisions toutes ces données, tout ce pouvoir,
cette nouvelle vision de l'Homme
pour nous donner une capacité de concentration surhumaine,
une capacité surhumaine à prêter attention à ce qui nous importe,
une capacité surhumaine à avoir les conversations
que nous devons avoir pour la démocratie.
Les défis les plus complexes au monde
ne nécessitent pas seulement notre attention individuelle.
Ils nécessitent notre attention et une coordination collectives.
Le changement climatique va nécessiter que beaucoup de gens
puissent coordonner leur attention
de la façon la plus stimulante, ensemble.
Imaginez créer une capacité surhumaine pour faire cela.
Parfois, les problèmes les plus importants et urgents du monde
ne sont pas ces choses hypothétiques que nous pourrions créer à l'avenir.
Parfois, les problèmes les plus urgents
sont ceux juste sous notre nez,
les choses qui dirigent déjà les pensées d'un milliard de personnes.
Peut-être qu'au lieu d'être enthousiastes pour la réalité augmentée
et la réalité virtuelle et ces choses cool pouvant arriver
qui vont être sujettes à la même course à l'attention,
si nous pouvions orienter la course à l'attention
ce qui est déjà dans les poches d'un milliard de personnes.
Au lieu d'être enthousiastes
pour les nouvelles applications éducatives excitantes, cool et sophistiquées,
nous pourrions corriger comment les enfants sont manipulés
et poussés à s'échanger des messages vides.
(Applaudissements)
Au lieu de s'inquiéter
d'hypothétiques et futures intelligences artificielles folles
qui n'ont qu'un objectif,
nous pourrions réparer l'intelligence artificielle folle
qui existe actuellement
et qui sont ces fils d'actualités qui n'ont qu'un objectif.
C'est presque comme si au lieu d'aller coloniser d'autres planètes,
nous pouvions réparer celle sur laquelle nous sommes.
(Applaudissements)
Résoudre ce problème
offrirait l'infrastructure essentielle à la résolution de tous les autres.
Il n'y a rien dans notre vie ou nos problèmes collectifs
ne nécessitant pas notre capacité à nous concentrer sur ce qui nous importe.
A la fin de notre vie,
il ne nous reste que notre attention et notre temps.
Comment bien utiliser notre temps ?
Merci.
(Applaudissements)
Chirs Anderson : Tristan, merci. Restez ici un instant.
Tout d'abord, merci.
Cette présentation a été demandée il y a peu de temps
et votre semaine a été stressante,
travaillant à cela, alors merci.
Certains qui écoutent pourraient dire que vous vous plaignez d'addiction
et que pour les gens faisant cela, c'est vraiment intéressant.
Les décisions de conception
ont créé un contenu utilisation incroyablement intéressant.
Le monde est plus intéressant que jamais.
Qu'y a-t-il de mal à cela ?
Tristan Harris : Je pense que c'est intéressant.
Une façon de le voir est si vous êtes YouTube, par exemple,
vous voulez toujours montrer la vidéo la plus intéressante.
Vous voulez améliorer la suggestion de la prochaine vidéo,
mais même si vous pouviez proposer la vidéo parfaite
que tout le monde voudrait voir,
vous n'améliorerez que votre capacité à garder les gens devant l'écran.
Ce qu'il manque dans l'équation
est de trouver où sont les limites.
Il faudrait que YouTube connaisse la notion de sommeil.
Le PDG de Netflix a dit récemment :
« Nos compétiteurs sont Facebook, YouTube et le sommeil. »
Nous devons reconnaître que l'architecture humaine est limitée
et qu'il y a des limites ou des dimensions de notre vie
que nous voulons voir honorées et respectées
et la technologie pourrait aider.
(Applaudissements)
CA : Pourriez-vous dire
qu'une part du problème est que nous avons un modèle naïf de la nature humaine ?
Tant de choses sont justifiées par la préférence humaine,
nous avons ces algorithmes faisant un super boulot,
optimisant pour la préférence humaine,
mais quelle préférence ?
Il y a les préférences des choses qui nous importent
quand nous y pensons
versus celles de ce sur quoi nous avons instinctivement cliqué.
Si nous pouvions implanter une vue plus nuancée de la nature humaine
dans la conception,
cela serait-il du progrès ?
TH : Absolument. Actuellement,
c'est comme si notre technologie demandait à notre cerveau reptilien
comment, impulsivement, nous faire faire de notre temps la prochaine petite chose
au lieu de demander
comment vous utiliseriez au mieux votre temps.
Quel serait le programme parfait pouvant inclure des prévisions,
comment bien utiliser votre temps durant votre dernier jour à TED ?
CA : Donc si Facebook et Google et tous les autres disaient :
« Aimeriez-vous optimiser votre cerveau réflectif
ou votre cerveau reptilien ? Choisissez. »
TH : Ce serait une façon de faire, oui.
CA : Vous avez parlé d'influence, c'est un mot intéressant
car, à mon avis, il y a deux types d'influence.
Il y a celle que nous essayons,
celle de la raison, la réflexion, l'argumentation,
mais vous parlez presque d'une influence différente,
plus viscérale,
celle d'être convaincu sans savoir ce que l'on pense.
TH : Exactement. Ce problème me tient à cœur
car j'ai étudié au labo de la Technologie Persuasive à Stanford
qui enseigne ces techniques aux gens.
Il y a des conférences, des ateliers qui enseignent ces façons dissimulées
d'obtenir l'attention des gens et d'orchestrer leur vie.
Le fait que la plupart des gens en ignorent l'existence
rend cette conversation si importante.
CA : Tristan, vous et moi connaissons tant de monde dans ces entreprises.
Il y en a plein dans la pièce
et, je ne sais pas pour vous, mais mon expérience
est qu'ils ne manquent pas de bonnes intentions.
Les gens veulent un monde meilleur.
Ils sont -- ils le veulent vraiment.
Je ne crois pas que vous disiez que ces gens sont maléfiques.
C'est un système où il y a des conséquences inattendues
qui est hors de contrôle --
TH : La course à l'attention.
La course classique vers les bas-fonds pour obtenir l'attention,
c'est très tendu.
Pour en obtenir plus, il faut descendre le tronc cérébral,
descendre dans l'outrage, descendre dans l'émotion,
descendre dans le cerveau lézard.
CA : Merci de nous avoir aidés à devenir plus éclairés à ce propos.
Tristan Harris, merci. TH : Merci beaucoup.
(Applaudissements)