Dans les mois qui ont suivi l'élection
présidentielle de 2009 en Iran,
des manifestations ont éclaté
dans tout le pays.
Le gouvernement iranien
a violemment réprimé
ce qui allait devenir
le Mouvement Vert Iranien.
Ils ont même bloqué
les signaux des portables
afin de couper toute communication
entre les manifestants.
Mes parents, émigrés aux États-Unis
à la fin des années 1960,
ont passé beaucoup de temps en Iran,
et c'est là où réside toute
ma famille au sens large.
Lorsque j'appelais ma famille à Téhéran,
lors de la répression la plus
violente de la protestation,
aucun d'eux n'osait discuter
de ce qui se passait.
Que ce soit eux ou moi, nous savions
comment vite changer de conversation.
Nous avions tous compris quelles
pourraient être les conséquences
d'une action perçue comme dissidente.
Mais j'aurais quand même souhaité
savoir ce qu'ils pensaient
ou ce qu'ils ressentaient.
Et si j'avais pu ?
Ou, plus effrayant, et si
le gouvernement iranien avait pu ?
Les auraient-ils arrêtés en se basant
sur ce que leur cerveau avait révélé ?
Ce jour est peut-être plus proche
que vous ne le pensez.
Grace à nos progrès croissants
en neuroscience,
en intelligence artificielle
et en apprentissage machine,
nous allons bientôt
en savoir beaucoup plus
sur ce qui se passe
dans le cerveau humain.
En tant que bioéthicienne,
avocat, philosophe,
et américano-iranienne,
je suis profondément préoccupée
par ce que cela signifie pour nos libertés
et quels sont les types de protection
dont nous avons besoin.
Je crois que nous avons besoin
d'un droit à la liberté cognitive,
considéré comme un droit humain
qui doit être protégé.
Sinon, notre liberté de penser,
l'accès et le contrôle
sur nos propres cerveaux,
et notre vie privée mentale,
seront menacés.
Considèrez ceci : une personne ordinaire
a des milliers de pensées chaque jour.
Quand une pensée se forme,
comme un calcul mathématique,
un nombre, ou un mot,
les neurones interagissent
dans le cerveau,
et créent de minuscules
décharges électriques.
Lorsque vous êtes dominé
par un état mental, comme la relaxation,
des centaines de milliers de neurones
s'activent dans le cerveau,
créant des décharges
électriques simultanées
qui suivent des schémas caractéristiques,
et qui peuvent être mesurées à l'aide
d'un électroencéphalogramme ou EEG.
En fait, c'est ce que
vous voyez en ce moment.
Vous voyez mon activité cérébrale
enregistrée en temps réel,
avec un simple appareil
que je portais sur la tête.
Ce que vous voyez,
c'est mon activité cérébrale
quand j'étais détendue et curieuse.
Pour pouvoir partager
cette information avec vous,
j'ai porté l'un des premiers EEG destinés
aux consommateurs, comme celui-ci,
qui enregistrait l'activité électrique
dans mon cerveau en temps réel,
un peu comme les traqueurs d'activité,
portés peut-être par certains ici,
qui mesurent votre fréquence cardiaque,
ou le nombre de vos pas,
ou même votre activité
durant le sommeil.
Ce n'est pas la technique de neuroimagerie
la plus sophistiquée du marché,
mais c'est, d'ors et déjà,
la plus portable
et la plus susceptible d'affecter
notre vie quotidienne.
C'est extraordinaire !
Grâce à un simple appareil portable,
nous pouvons littéralement « voir »
à l'intérieur du cerveau humain
et connaître les aspects
de notre paysage mental
sans jamais dire un mot.
Même si nous ne pouvons pas correctement
décoder des pensées complexes,
nous pouvons déjà évaluer
l'humeur d'une personne
et, grâce à l'intelligence artificielle,
nous pouvons même reconnaître
certains nombres à un seul chiffre,
certaines formes ou mots simples
qu'une personne est en train
de penser, d'entendre, ou de voir.
Malgré certaines limitations
inhérentes à l'EEG,
je pense qu'on peut raisonnablement dire
que grâce à nos progrès technologiques,
de plus en plus de ce qui se passe
dans le cerveau humain
peut et sera décodé avec le temps.
Actuellement, en utilisant
un de ces appareils,
un épileptique peut anticiper une crise
épileptique avant qu'elle ne se produise ;
un paraplégique peut
se servir d'un ordinateur
en utilisant seulement ses pensées.
Une société basée aux États-Unis
a développé une technologie
qui intègre ces capteurs
dans l’appuie-tête des automobiles
et permet de surveiller
la concentration du conducteur,
sa distraction et sa charge cognitive,
pendant qu'il conduit.
Nissan, des compagnies d'assurance
et AAA ont tous pris acte.
Vous pouvez même regarder un film
« Choisis-ton-aventure »,
tel que « The Moment »,
avec un casque EEG,
qui modifie le film en fonction
de vos réactions cérébrales,
et vous donne une fin différente
chaque fois que votre attention faiblit.
Tout cela peut sembler formidable
et, en tant que bioéthicien,
j'encourage ardemment
les gens à se responsabiliser,
à prendre en charge
leur santé et leur bien-être
en leur donnant accès
à des informations sur eux-mêmes,
y compris cette incroyable technologie
de décodage de l'activité cérébrale.
Mais, je m'inquiète.
Je crains que nous ne renoncions,
volontairement ou involontairement,
à notre dernier bastion de liberté :
notre vie privée mentale ;
que nous ne vendions
notre activité cérébrale
pour un rabais ou des réductions
sur les assurances,
ou pour un accès gratuit
à des réseaux sociaux internet,
ou même pour préserver notre emploi.
En fait, en Chine,
les conducteurs de train,
sur le TGV Beijing-Shanghai,
le plus occupé de son genre dans le monde,
sont tenus de porter des appareils EEG
pour surveiller leur activité
cérébrale pendant qu'ils conduisent.
Selon certaines sources d'actualités,
dans certaines usines
gouvernementales en Chine,
les travailleurs doivent
porter des capteurs EEG
pour observer leur productivité
et leur état émotionnel au travail.
Les travailleurs sont
même renvoyés chez eux
si leur cerveau montre une concentration
médiocre sur leur travail
ou de l'agitation émotionnelle.
Cela ne va pas arriver demain,
mais nous nous dirigeons
vers un monde de transparence cérébrale.
Et je ne pense pas que les gens
comprennent que cela peut tout changer,
de notre définition
de la confidentialité des données,
à nos lois, en passant
par nos idées sur la liberté.
En fait, dans mon laboratoire
à l'Université Duke,
Nous avons récemment mené
une étude nationale, aux États-Unis,
pour savoir si les gens appréciaient
la nature délicate de leurs
informations cérébrales.
Nous leur avons demandé
d'évaluer leur sensibilité
concernant 33 types
différents d'information,
de leur numéro de sécurité sociale
au contenu de leurs
conversations téléphoniques,
à l’histoire de leurs relations,
à leurs émotions, leur anxiété,
leurs images mentales
et les pensées dans leur esprit.
Étonnamment, les gens ont jugé
leur numéro de sécurité sociale
beaucoup plus sensible
que tout autre type d’information,
y compris leurs données cérébrales.
Je pense que c'est parce que les gens
ne comprennent pas encore
ou ne croient pas aux implications
de cette nouvelle technologie
de décodage des ondes cérébrales.
En effet, si nous avons accès aux rouages
internes du cerveau humain,
nos numéros de sécurité sociale
sont le moindre de nos soucis.
(Rires)
Pensez-y.
Dans un monde de transparence
totale du cerveau,
qui oserait avoir une pensée
politique dissidente ?
Ou une pensée créative ?
Je crains que les gens ne s'autocensurent,
de peur d'être mis au ban de la société,
ou que les gens ne perdent leur emploi
à cause de leur attention déclinante
ou de leur instabilité émotionnelle,
ou parce qu'ils envisagent une action
collective contre leurs employeurs.
Sortir de la norme ne sera plus possible,
parce que le cerveau des gens aura révélé
depuis longtemps leur orientation sexuelle,
leur idéologie politique,
ou leurs préférences religieuses,
bien avant qu'ils ne soient prêts
à partager consciemment
cette information avec les autres.
Je m'inquiète de la capacité de nos lois
à suivre l'évolution technologique.
Prenez le Premier amendement
de la Constitution américaine,
qui protège la liberté d'expression.
Protège-t-il également
la liberté de pensée ?
Si oui, sommes-nous libres de transformer
nos pensées comme bon nous semble ?
Ou bien le gouvernement
ou la société peuvent-ils dicter
ce que nous pouvons
faire de nos cerveaux ?
La NSA peut-elle espionner nos cerveaux
avec ces nouveaux appareils mobiles ?
Les entreprises qui collectent les données
cérébrales via leurs applications
peuvent-elles vendre
ces informations à des tiers ?
À l'heure actuelle, aucune loi
ne les empêche de le faire.
C'est encore plus
problématique dans des pays
qui ne partagent pas les mêmes libertés
dont jouissent les citoyens américains.
Que se serait-il passé
durant le Mouvement Vert Iranien,
si le gouvernement avait surveillé
les activités cérébrales de ma famille
et l'avait considérée
favorable aux manifestants ?
Est-il si exagéré d'imaginer une société
dans laquelle des gens sont arrêtés
pour avoir pensé commettre un crime,
comme dans la société
dystopique de science-fiction
de « Rapport Minoritaire » ?
Déjà, aux États-Unis, dans l'Indiana,
un adolescent de 18 ans a été accusé
d'avoir tenté d'intimider son école
en publiant une vidéo de lui en train
de tirer sur des gens dans les couloirs...
Sauf que les gens étaient des zombies
et que la vidéo le figurait jouant
à un jeu vidéo en réalité augmentée,
le tout ayant été interprété
comme étant une projection mentale
de son intention subjective.
C'est justement pour ça que notre cerveau
a besoin d'une protection spéciale.
Si nos cerveaux sont sujets au même suivi
et à la même agrégation de données
que nos données
et transactions financières,
si nos cerveaux peuvent
être piratés et surveillés
comme nos activités en ligne,
nos téléphones et applications portables,
nous sommes au bord d'une grave
menace pour toute l'humanité.
Pas de panique,
je pense qu'il existe
des solutions à ces problèmes,
mais d'abord, nous devons nous
concentrer sur les choses importantes.
En ce qui concerne la protection
de la vie privée en général,
nous menons une bataille perdue
en essayant de limiter
le flux d'informations.
Nous devrions plutôt nous concentrer
sur la garantie des droits et recours
contre l'utilisation abusive
de nos informations.
Si les gens pouvaient décider de la façon
dont leurs informations sont partagées,
et, plus important encore,
avoir un recours légal
en cas d'utilisation abusive
de leurs informations,
par exemple, en cas de discrimination
dans un contexte de travail,
de santé ou d'éducation,
cela contribuerait grandement
à créer de la confiance.
En fait, dans certains cas,
nous souhaitons partager davantage
nos renseignements personnels.
L'étude des informations globales
peut nous en dire tant
sur notre santé et notre bien-être !
Mais pour pouvoir partager
nos informations en toute sécurité,
nous avons besoin d'une protection
spéciale de la vie privée mentale.
Voilà pourquoi nous avons besoin
d'un Droit à la Liberté Cognitive.
Ce droit protègerait notre liberté
de penser et de ruminer,
notre liberté de disposer de nous-mêmes,
et il garantirait notre droit
de consentir ou refuser
l'accès et l'altération
de notre cerveau par d'autres.
Ce droit pourrait être reconnu
dans le cadre de la Déclaration
Universelle des Droits de l'Homme,
qui a mis en place des mécanismes
permettant de faire respecter
ce type de droits sociaux.
Au cours du Mouvement Vert Iranien,
les manifestants ont utilisé Internet
et le bon vieux bouche-à-oreille
pour coordonner leurs marches.
Et certaines des restrictions
les plus oppressives en Iran
ont été retirées en conséquence.
Que se serait-il passé
si le gouvernement iranien
avait utilisé la surveillance
de l'activité cérébrale
pour détecter et empêcher
la manifestation ?
Le monde aurait-il jamais entendu
les appels des manifestants ?
Le temps est venu pour nous d'appeler
à une révolution de la liberté cognitive,
pour veiller à ce que nous
développions de façon responsable
une technologie qui nous
permette d'embrasser l'avenir
tout en nous protégeant tous
farouchement
contre toute personne,
entreprise ou gouvernement
qui tente d'accéder illégalement
ou de modifier notre vie intérieure.
Merci.
(Applaudissements)