Alors que la technologie peut déjà lire nos pensées, comment allons-nous protéger notre vie privée mentale ?

Nita Farahany, juriste et éthicienne, nous indique qu'une technologie capable de décoder l'activité de notre cerveau et de révéler nos pensées et nos sentiments est en train d'émerger. Qu'est-ce que cela signifie pour le respect de notre vie privé déjà maintes fois mis à mal ? Nita Farahany nous met en garde contre une société dans laquelle les gens sont arrêtés pour avoir simplement imaginé commettre un crime (comme dans « Rapport Minoritaire »), et dans laquelle des intérêts privés peuvent vendre nos données cérébrales. Elle insiste sur la nécessité et le bien-fondé d'un Droit à la Liberté cognitive qui protège notre liberté de penser et de disposer de nous-mêmes.

Dans les mois qui ont suivi l'élection
présidentielle de 2009 en Iran,

des manifestations ont éclaté
dans tout le pays.

Le gouvernement iranien
a violemment réprimé

ce qui allait devenir
le Mouvement Vert Iranien.

Ils ont même bloqué
les signaux des portables

afin de couper toute communication
entre les manifestants.

Mes parents, émigrés aux États-Unis
à la fin des années 1960,

ont passé beaucoup de temps en Iran,

et c'est là où réside toute
ma famille au sens large.

Lorsque j'appelais ma famille à Téhéran,

lors de la répression la plus
violente de la protestation,

aucun d'eux n'osait discuter
de ce qui se passait.

Que ce soit eux ou moi, nous savions
comment vite changer de conversation.

Nous avions tous compris quelles
pourraient être les conséquences

d'une action perçue comme dissidente.

Mais j'aurais quand même souhaité
savoir ce qu'ils pensaient

ou ce qu'ils ressentaient.

Et si j'avais pu ?

Ou, plus effrayant, et si
le gouvernement iranien avait pu ?

Les auraient-ils arrêtés en se basant
sur ce que leur cerveau avait révélé ?

Ce jour est peut-être plus proche
que vous ne le pensez.

Grace à nos progrès croissants
en neuroscience,

en intelligence artificielle
et en apprentissage machine,

nous allons bientôt
en savoir beaucoup plus

sur ce qui se passe
dans le cerveau humain.

En tant que bioéthicienne,
avocat, philosophe,

et américano-iranienne,

je suis profondément préoccupée
par ce que cela signifie pour nos libertés

et quels sont les types de protection
dont nous avons besoin.

Je crois que nous avons besoin
d'un droit à la liberté cognitive,

considéré comme un droit humain
qui doit être protégé.

Sinon, notre liberté de penser,

l'accès et le contrôle
sur nos propres cerveaux,

et notre vie privée mentale,
seront menacés.

Considèrez ceci : une personne ordinaire
a des milliers de pensées chaque jour.

Quand une pensée se forme,
comme un calcul mathématique,

un nombre, ou un mot,

les neurones interagissent
dans le cerveau,

et créent de minuscules
décharges électriques.

Lorsque vous êtes dominé
par un état mental, comme la relaxation,

des centaines de milliers de neurones
s'activent dans le cerveau,

créant des décharges
électriques simultanées

qui suivent des schémas caractéristiques,

et qui peuvent être mesurées à l'aide
d'un électroencéphalogramme ou EEG.

En fait, c'est ce que
vous voyez en ce moment.

Vous voyez mon activité cérébrale
enregistrée en temps réel,

avec un simple appareil
que je portais sur la tête.

Ce que vous voyez,
c'est mon activité cérébrale

quand j'étais détendue et curieuse.

Pour pouvoir partager
cette information avec vous,

j'ai porté l'un des premiers EEG destinés
aux consommateurs, comme celui-ci,

qui enregistrait l'activité électrique
dans mon cerveau en temps réel,

un peu comme les traqueurs d'activité,
portés peut-être par certains ici,

qui mesurent votre fréquence cardiaque,
ou le nombre de vos pas,

ou même votre activité
durant le sommeil.

Ce n'est pas la technique de neuroimagerie
la plus sophistiquée du marché,

mais c'est, d'ors et déjà,
la plus portable

et la plus susceptible d'affecter
notre vie quotidienne.

C'est extraordinaire !

Grâce à un simple appareil portable,

nous pouvons littéralement « voir »
à l'intérieur du cerveau humain

et connaître les aspects
de notre paysage mental

sans jamais dire un mot.

Même si nous ne pouvons pas correctement
décoder des pensées complexes,

nous pouvons déjà évaluer
l'humeur d'une personne

et, grâce à l'intelligence artificielle,

nous pouvons même reconnaître
certains nombres à un seul chiffre,

certaines formes ou mots simples

qu'une personne est en train
de penser, d'entendre, ou de voir.

Malgré certaines limitations
inhérentes à l'EEG,

je pense qu'on peut raisonnablement dire
que grâce à nos progrès technologiques,

de plus en plus de ce qui se passe
dans le cerveau humain

peut et sera décodé avec le temps.

Actuellement, en utilisant
un de ces appareils,

un épileptique peut anticiper une crise
épileptique avant qu'elle ne se produise ;

un paraplégique peut
se servir d'un ordinateur

en utilisant seulement ses pensées.

Une société basée aux États-Unis
a développé une technologie

qui intègre ces capteurs
dans l’appuie-tête des automobiles

et permet de surveiller
la concentration du conducteur,

sa distraction et sa charge cognitive,
pendant qu'il conduit.

Nissan, des compagnies d'assurance
et AAA ont tous pris acte.

Vous pouvez même regarder un film
« Choisis-ton-aventure »,

tel que « The Moment »,
avec un casque EEG,

qui modifie le film en fonction
de vos réactions cérébrales,

et vous donne une fin différente
chaque fois que votre attention faiblit.

Tout cela peut sembler formidable

et, en tant que bioéthicien,

j'encourage ardemment
les gens à se responsabiliser,

à prendre en charge
leur santé et leur bien-être

en leur donnant accès
à des informations sur eux-mêmes,

y compris cette incroyable technologie
de décodage de l'activité cérébrale.

Mais, je m'inquiète.

Je crains que nous ne renoncions,
volontairement ou involontairement,

à notre dernier bastion de liberté :
notre vie privée mentale ;

que nous ne vendions
notre activité cérébrale

pour un rabais ou des réductions
sur les assurances,

ou pour un accès gratuit
à des réseaux sociaux internet,

ou même pour préserver notre emploi.

En fait, en Chine,

les conducteurs de train,
sur le TGV Beijing-Shanghai,

le plus occupé de son genre dans le monde,

sont tenus de porter des appareils EEG

pour surveiller leur activité
cérébrale pendant qu'ils conduisent.

Selon certaines sources d'actualités,

dans certaines usines
gouvernementales en Chine,

les travailleurs doivent
porter des capteurs EEG

pour observer leur productivité
et leur état émotionnel au travail.

Les travailleurs sont
même renvoyés chez eux

si leur cerveau montre une concentration
médiocre sur leur travail

ou de l'agitation émotionnelle.

Cela ne va pas arriver demain,

mais nous nous dirigeons
vers un monde de transparence cérébrale.

Et je ne pense pas que les gens
comprennent que cela peut tout changer,

de notre définition
de la confidentialité des données,

à nos lois, en passant
par nos idées sur la liberté.

En fait, dans mon laboratoire
à l'Université Duke,

Nous avons récemment mené
une étude nationale, aux États-Unis,

pour savoir si les gens appréciaient

la nature délicate de leurs
informations cérébrales.

Nous leur avons demandé
d'évaluer leur sensibilité

concernant 33 types
différents d'information,

de leur numéro de sécurité sociale

au contenu de leurs
conversations téléphoniques,

à l’histoire de leurs relations,

à leurs émotions, leur anxiété,

leurs images mentales
et les pensées dans leur esprit.

Étonnamment, les gens ont jugé
leur numéro de sécurité sociale

beaucoup plus sensible
que tout autre type d’information,

y compris leurs données cérébrales.

Je pense que c'est parce que les gens

ne comprennent pas encore
ou ne croient pas aux implications

de cette nouvelle technologie
de décodage des ondes cérébrales.

En effet, si nous avons accès aux rouages
internes du cerveau humain,

nos numéros de sécurité sociale
sont le moindre de nos soucis.

(Rires)

Pensez-y.

Dans un monde de transparence
totale du cerveau,

qui oserait avoir une pensée
politique dissidente ?

Ou une pensée créative ?

Je crains que les gens ne s'autocensurent,

de peur d'être mis au ban de la société,

ou que les gens ne perdent leur emploi

à cause de leur attention déclinante
ou de leur instabilité émotionnelle,

ou parce qu'ils envisagent une action
collective contre leurs employeurs.

Sortir de la norme ne sera plus possible,

parce que le cerveau des gens aura révélé
depuis longtemps leur orientation sexuelle,

leur idéologie politique,
ou leurs préférences religieuses,

bien avant qu'ils ne soient prêts

à partager consciemment
cette information avec les autres.

Je m'inquiète de la capacité de nos lois
à suivre l'évolution technologique.

Prenez le Premier amendement
de la Constitution américaine,

qui protège la liberté d'expression.

Protège-t-il également
la liberté de pensée ?

Si oui, sommes-nous libres de transformer
nos pensées comme bon nous semble ?

Ou bien le gouvernement
ou la société peuvent-ils dicter

ce que nous pouvons
faire de nos cerveaux ?

La NSA peut-elle espionner nos cerveaux
avec ces nouveaux appareils mobiles ?

Les entreprises qui collectent les données
cérébrales via leurs applications

peuvent-elles vendre
ces informations à des tiers ?

À l'heure actuelle, aucune loi
ne les empêche de le faire.

C'est encore plus
problématique dans des pays

qui ne partagent pas les mêmes libertés
dont jouissent les citoyens américains.

Que se serait-il passé
durant le Mouvement Vert Iranien,

si le gouvernement avait surveillé
les activités cérébrales de ma famille

et l'avait considérée
favorable aux manifestants ?

Est-il si exagéré d'imaginer une société

dans laquelle des gens sont arrêtés
pour avoir pensé commettre un crime,

comme dans la société
dystopique de science-fiction

de « Rapport Minoritaire » ?

Déjà, aux États-Unis, dans l'Indiana,

un adolescent de 18 ans a été accusé
d'avoir tenté d'intimider son école

en publiant une vidéo de lui en train
de tirer sur des gens dans les couloirs...

Sauf que les gens étaient des zombies

et que la vidéo le figurait jouant
à un jeu vidéo en réalité augmentée,

le tout ayant été interprété

comme étant une projection mentale
de son intention subjective.

C'est justement pour ça que notre cerveau
a besoin d'une protection spéciale.

Si nos cerveaux sont sujets au même suivi
et à la même agrégation de données

que nos données
et transactions financières,

si nos cerveaux peuvent
être piratés et surveillés

comme nos activités en ligne,
nos téléphones et applications portables,

nous sommes au bord d'une grave
menace pour toute l'humanité.

Pas de panique,

je pense qu'il existe
des solutions à ces problèmes,

mais d'abord, nous devons nous
concentrer sur les choses importantes.

En ce qui concerne la protection
de la vie privée en général,

nous menons une bataille perdue

en essayant de limiter
le flux d'informations.

Nous devrions plutôt nous concentrer
sur la garantie des droits et recours

contre l'utilisation abusive
de nos informations.

Si les gens pouvaient décider de la façon
dont leurs informations sont partagées,

et, plus important encore,
avoir un recours légal

en cas d'utilisation abusive
de leurs informations,

par exemple, en cas de discrimination

dans un contexte de travail,
de santé ou d'éducation,

cela contribuerait grandement
à créer de la confiance.

En fait, dans certains cas,

nous souhaitons partager davantage
nos renseignements personnels.

L'étude des informations globales

peut nous en dire tant
sur notre santé et notre bien-être !

Mais pour pouvoir partager
nos informations en toute sécurité,

nous avons besoin d'une protection
spéciale de la vie privée mentale.

Voilà pourquoi nous avons besoin
d'un Droit à la Liberté Cognitive.

Ce droit protègerait notre liberté
de penser et de ruminer,

notre liberté de disposer de nous-mêmes,

et il garantirait notre droit
de consentir ou refuser

l'accès et l'altération
de notre cerveau par d'autres.

Ce droit pourrait être reconnu

dans le cadre de la Déclaration
Universelle des Droits de l'Homme,

qui a mis en place des mécanismes

permettant de faire respecter
ce type de droits sociaux.

Au cours du Mouvement Vert Iranien,

les manifestants ont utilisé Internet
et le bon vieux bouche-à-oreille

pour coordonner leurs marches.

Et certaines des restrictions
les plus oppressives en Iran

ont été retirées en conséquence.

Que se serait-il passé
si le gouvernement iranien

avait utilisé la surveillance
de l'activité cérébrale

pour détecter et empêcher
la manifestation ?

Le monde aurait-il jamais entendu
les appels des manifestants ?

Le temps est venu pour nous d'appeler
à une révolution de la liberté cognitive,

pour veiller à ce que nous
développions de façon responsable

une technologie qui nous
permette d'embrasser l'avenir

tout en nous protégeant tous
farouchement

contre toute personne,
entreprise ou gouvernement

qui tente d'accéder illégalement
ou de modifier notre vie intérieure.

Merci.

(Applaudissements)