Dans les mois qui ont suivi l'élection présidentielle de 2009 en Iran,
des manifestations ont éclaté dans tout le pays.
Le gouvernement iranien a violemment réprimé
ce qui allait devenir le Mouvement Vert Iranien.
Ils ont même bloqué les signaux des portables
afin de couper toute communication entre les manifestants.
Mes parents, émigrés aux États-Unis à la fin des années 1960,
ont passé beaucoup de temps en Iran,
et c'est là où réside toute ma famille au sens large.
Lorsque j'appelais ma famille à Téhéran,
lors de la répression la plus violente de la protestation,
aucun d'eux n'osait discuter de ce qui se passait.
Que ce soit eux ou moi, nous savions comment vite changer de conversation.
Nous avions tous compris quelles pourraient être les conséquences
d'une action perçue comme dissidente.
Mais j'aurais quand même souhaité savoir ce qu'ils pensaient
ou ce qu'ils ressentaient.
Et si j'avais pu ?
Ou, plus effrayant, et si le gouvernement iranien avait pu ?
Les auraient-ils arrêtés en se basant sur ce que leur cerveau avait révélé ?
Ce jour est peut-être plus proche que vous ne le pensez.
Grace à nos progrès croissants en neuroscience,
en intelligence artificielle et en apprentissage machine,
nous allons bientôt en savoir beaucoup plus
sur ce qui se passe dans le cerveau humain.
En tant que bioéthicienne, avocat, philosophe,
et américano-iranienne,
je suis profondément préoccupée par ce que cela signifie pour nos libertés
et quels sont les types de protection dont nous avons besoin.
Je crois que nous avons besoin d'un droit à la liberté cognitive,
considéré comme un droit humain qui doit être protégé.
Sinon, notre liberté de penser,
l'accès et le contrôle sur nos propres cerveaux,
et notre vie privée mentale, seront menacés.
Considèrez ceci : une personne ordinaire a des milliers de pensées chaque jour.
Quand une pensée se forme, comme un calcul mathématique,
un nombre, ou un mot,
les neurones interagissent dans le cerveau,
et créent de minuscules décharges électriques.
Lorsque vous êtes dominé par un état mental, comme la relaxation,
des centaines de milliers de neurones s'activent dans le cerveau,
créant des décharges électriques simultanées
qui suivent des schémas caractéristiques,
et qui peuvent être mesurées à l'aide d'un électroencéphalogramme ou EEG.
En fait, c'est ce que vous voyez en ce moment.
Vous voyez mon activité cérébrale enregistrée en temps réel,
avec un simple appareil que je portais sur la tête.
Ce que vous voyez, c'est mon activité cérébrale
quand j'étais détendue et curieuse.
Pour pouvoir partager cette information avec vous,
j'ai porté l'un des premiers EEG destinés aux consommateurs, comme celui-ci,
qui enregistrait l'activité électrique dans mon cerveau en temps réel,
un peu comme les traqueurs d'activité, portés peut-être par certains ici,
qui mesurent votre fréquence cardiaque, ou le nombre de vos pas,
ou même votre activité durant le sommeil.
Ce n'est pas la technique de neuroimagerie la plus sophistiquée du marché,
mais c'est, d'ors et déjà, la plus portable
et la plus susceptible d'affecter notre vie quotidienne.
C'est extraordinaire !
Grâce à un simple appareil portable,
nous pouvons littéralement « voir » à l'intérieur du cerveau humain
et connaître les aspects de notre paysage mental
sans jamais dire un mot.
Même si nous ne pouvons pas correctement décoder des pensées complexes,
nous pouvons déjà évaluer l'humeur d'une personne
et, grâce à l'intelligence artificielle,
nous pouvons même reconnaître certains nombres à un seul chiffre,
certaines formes ou mots simples
qu'une personne est en train de penser, d'entendre, ou de voir.
Malgré certaines limitations inhérentes à l'EEG,
je pense qu'on peut raisonnablement dire que grâce à nos progrès technologiques,
de plus en plus de ce qui se passe dans le cerveau humain
peut et sera décodé avec le temps.
Actuellement, en utilisant un de ces appareils,
un épileptique peut anticiper une crise épileptique avant qu'elle ne se produise ;
un paraplégique peut se servir d'un ordinateur
en utilisant seulement ses pensées.
Une société basée aux États-Unis a développé une technologie
qui intègre ces capteurs dans l’appuie-tête des automobiles
et permet de surveiller la concentration du conducteur,
sa distraction et sa charge cognitive, pendant qu'il conduit.
Nissan, des compagnies d'assurance et AAA ont tous pris acte.
Vous pouvez même regarder un film « Choisis-ton-aventure »,
tel que « The Moment », avec un casque EEG,
qui modifie le film en fonction de vos réactions cérébrales,
et vous donne une fin différente chaque fois que votre attention faiblit.
Tout cela peut sembler formidable
et, en tant que bioéthicien,
j'encourage ardemment les gens à se responsabiliser,
à prendre en charge leur santé et leur bien-être
en leur donnant accès à des informations sur eux-mêmes,
y compris cette incroyable technologie de décodage de l'activité cérébrale.
Mais, je m'inquiète.
Je crains que nous ne renoncions, volontairement ou involontairement,
à notre dernier bastion de liberté : notre vie privée mentale ;
que nous ne vendions notre activité cérébrale
pour un rabais ou des réductions sur les assurances,
ou pour un accès gratuit à des réseaux sociaux internet,
ou même pour préserver notre emploi.
En fait, en Chine,
les conducteurs de train, sur le TGV Beijing-Shanghai,
le plus occupé de son genre dans le monde,
sont tenus de porter des appareils EEG
pour surveiller leur activité cérébrale pendant qu'ils conduisent.
Selon certaines sources d'actualités,
dans certaines usines gouvernementales en Chine,
les travailleurs doivent porter des capteurs EEG
pour observer leur productivité et leur état émotionnel au travail.
Les travailleurs sont même renvoyés chez eux
si leur cerveau montre une concentration médiocre sur leur travail
ou de l'agitation émotionnelle.
Cela ne va pas arriver demain,
mais nous nous dirigeons vers un monde de transparence cérébrale.
Et je ne pense pas que les gens comprennent que cela peut tout changer,
de notre définition de la confidentialité des données,
à nos lois, en passant par nos idées sur la liberté.
En fait, dans mon laboratoire à l'Université Duke,
Nous avons récemment mené une étude nationale, aux États-Unis,
pour savoir si les gens appréciaient
la nature délicate de leurs informations cérébrales.
Nous leur avons demandé d'évaluer leur sensibilité
concernant 33 types différents d'information,
de leur numéro de sécurité sociale
au contenu de leurs conversations téléphoniques,
à l’histoire de leurs relations,
à leurs émotions, leur anxiété,
leurs images mentales et les pensées dans leur esprit.
Étonnamment, les gens ont jugé leur numéro de sécurité sociale
beaucoup plus sensible que tout autre type d’information,
y compris leurs données cérébrales.
Je pense que c'est parce que les gens
ne comprennent pas encore ou ne croient pas aux implications
de cette nouvelle technologie de décodage des ondes cérébrales.
En effet, si nous avons accès aux rouages internes du cerveau humain,
nos numéros de sécurité sociale sont le moindre de nos soucis.
(Rires)
Pensez-y.
Dans un monde de transparence totale du cerveau,
qui oserait avoir une pensée politique dissidente ?
Ou une pensée créative ?
Je crains que les gens ne s'autocensurent,
de peur d'être mis au ban de la société,
ou que les gens ne perdent leur emploi
à cause de leur attention déclinante ou de leur instabilité émotionnelle,
ou parce qu'ils envisagent une action collective contre leurs employeurs.
Sortir de la norme ne sera plus possible,
parce que le cerveau des gens aura révélé depuis longtemps leur orientation sexuelle,
leur idéologie politique, ou leurs préférences religieuses,
bien avant qu'ils ne soient prêts
à partager consciemment cette information avec les autres.
Je m'inquiète de la capacité de nos lois à suivre l'évolution technologique.
Prenez le Premier amendement de la Constitution américaine,
qui protège la liberté d'expression.
Protège-t-il également la liberté de pensée ?
Si oui, sommes-nous libres de transformer nos pensées comme bon nous semble ?
Ou bien le gouvernement ou la société peuvent-ils dicter
ce que nous pouvons faire de nos cerveaux ?
La NSA peut-elle espionner nos cerveaux avec ces nouveaux appareils mobiles ?
Les entreprises qui collectent les données cérébrales via leurs applications
peuvent-elles vendre ces informations à des tiers ?
À l'heure actuelle, aucune loi ne les empêche de le faire.
C'est encore plus problématique dans des pays
qui ne partagent pas les mêmes libertés dont jouissent les citoyens américains.
Que se serait-il passé durant le Mouvement Vert Iranien,
si le gouvernement avait surveillé les activités cérébrales de ma famille
et l'avait considérée favorable aux manifestants ?
Est-il si exagéré d'imaginer une société
dans laquelle des gens sont arrêtés pour avoir pensé commettre un crime,
comme dans la société dystopique de science-fiction
de « Rapport Minoritaire » ?
Déjà, aux États-Unis, dans l'Indiana,
un adolescent de 18 ans a été accusé d'avoir tenté d'intimider son école
en publiant une vidéo de lui en train de tirer sur des gens dans les couloirs...
Sauf que les gens étaient des zombies
et que la vidéo le figurait jouant à un jeu vidéo en réalité augmentée,
le tout ayant été interprété
comme étant une projection mentale de son intention subjective.
C'est justement pour ça que notre cerveau a besoin d'une protection spéciale.
Si nos cerveaux sont sujets au même suivi et à la même agrégation de données
que nos données et transactions financières,
si nos cerveaux peuvent être piratés et surveillés
comme nos activités en ligne, nos téléphones et applications portables,
nous sommes au bord d'une grave menace pour toute l'humanité.
Pas de panique,
je pense qu'il existe des solutions à ces problèmes,
mais d'abord, nous devons nous concentrer sur les choses importantes.
En ce qui concerne la protection de la vie privée en général,
nous menons une bataille perdue
en essayant de limiter le flux d'informations.
Nous devrions plutôt nous concentrer sur la garantie des droits et recours
contre l'utilisation abusive de nos informations.
Si les gens pouvaient décider de la façon dont leurs informations sont partagées,
et, plus important encore, avoir un recours légal
en cas d'utilisation abusive de leurs informations,
par exemple, en cas de discrimination
dans un contexte de travail, de santé ou d'éducation,
cela contribuerait grandement à créer de la confiance.
En fait, dans certains cas,
nous souhaitons partager davantage nos renseignements personnels.
L'étude des informations globales
peut nous en dire tant sur notre santé et notre bien-être !
Mais pour pouvoir partager nos informations en toute sécurité,
nous avons besoin d'une protection spéciale de la vie privée mentale.
Voilà pourquoi nous avons besoin d'un Droit à la Liberté Cognitive.
Ce droit protègerait notre liberté de penser et de ruminer,
notre liberté de disposer de nous-mêmes,
et il garantirait notre droit de consentir ou refuser
l'accès et l'altération de notre cerveau par d'autres.
Ce droit pourrait être reconnu
dans le cadre de la Déclaration Universelle des Droits de l'Homme,
qui a mis en place des mécanismes
permettant de faire respecter ce type de droits sociaux.
Au cours du Mouvement Vert Iranien,
les manifestants ont utilisé Internet et le bon vieux bouche-à-oreille
pour coordonner leurs marches.
Et certaines des restrictions les plus oppressives en Iran
ont été retirées en conséquence.
Que se serait-il passé si le gouvernement iranien
avait utilisé la surveillance de l'activité cérébrale
pour détecter et empêcher la manifestation ?
Le monde aurait-il jamais entendu les appels des manifestants ?
Le temps est venu pour nous d'appeler à une révolution de la liberté cognitive,
pour veiller à ce que nous développions de façon responsable
une technologie qui nous permette d'embrasser l'avenir
tout en nous protégeant tous farouchement
contre toute personne, entreprise ou gouvernement
qui tente d'accéder illégalement ou de modifier notre vie intérieure.
Merci.
(Applaudissements)