Când tehnologia poate citi gândurile, cum ne protejăm intimitatea?

Tehnologia care poate descifra activitatea creierului și poate dezvălui ce gândim și simțim își face deja apariția, spune Nita Farahany, profesor de drept și etică. Ce va însemna pentru dreptul nostru la intimitate, deja încălcat? Într-o discuție de atenționare, Farahany atrage atenția asupra unei societăți în care oamenii sunt arestați doar pentru că s-au gândit că ar putea comite o infracțiune (cum se întâmplă în „Minority Report”), iar interesele private vând informațiile despre creierul nostru - și pledează în favoarea unui drept la libertatea cognitivă, care să protejeze libertatea noastră de gândire și de autodeterminare.

În lunile care au urmat alegerilor
prezidențiale din Iran, în 2009,

au izbucnit proteste în toată țara.

Guvernul iranian a suprimat violent

ceea ce a ajuns să fie cunoscut
sub numele de Mișcarea Verde Iraniană,

blocând rețeaua de telefonie mobilă

pentru a opri comunicarea
dintre demonstranți.

Părinții mei, emigrați în Statele Unite
la sfârșitul anilor '60,

petrec timp însemnat acolo,

unde se află întreaga mea familie.

Când îi sun la Teheran,

în timpul unei represiuni violente,

niciunul dintre ei nu îndrăznește
să-mi spună ce se întâmplă.

Și ei, și eu știm să schimbăm
discuția către alte subiecte.

Am înțeles cu toții
care ar putea fi consecințele

unei acțiuni considerate dizidente.

Dar tot îmi doresc
să fi știut ce-au gândit

sau ce-au simțit.

Cum ar fi fost să pot?

Sau, mai îngrozitor,

dacă guvernul iranian ar fi putut?

I-ar aresta pe baza informațiilor
dezvăluite de creierul lor?

Acea zi e mai aproape decât vă imaginați.

Cu noile capacități ale neuroștiinței,
ale inteligenței artificiale

și ale învățării automate,

s-ar putea să știm în curând mult mai mult
din ceea ce se întâmplă în creierul uman.

Ca bioetician, avocat, filozof

și cetățean iranian și american,

sunt foarte îngrijorată de ce înseamnă
acest lucru pentru libertățile noastre

și cum am putea să ne protejăm.

Cred că avem nevoie de dreptul
la libertate cognitivă,

ca drept al omului ce trebuie protejat.

În caz contrar, libertatea de gândire

accesul și controlul
propriilor noastre creiere

și intimitatea noastră mintală
vor fi în pericol.

Gândiți-vă la asta:

o persoană medie
are mii de gânduri în fiecare zi.

Când se formează un gând,

cum ar fi un calcul matematic,
un număr sau un cuvânt,

neuronii interacționează în creier,

generând o minusculă descărcare electrică.

Când predomină o stare mintală,
cum ar fi relaxarea,

sute și mii de neuroni
se activează în creier,

generând descărcări electrice simultane
în structurile caracteristice,

care pot fi măsurate folosind
electroencefalograful (EEG).

E, de fapt, ceea ce vedeți acum.

Vedeți activitatea creierului meu,
care a fost înregistrată în timp real

cu un dispozitiv simplu
pe care l-am purtat pe cap.

Ce vedeți e activitatea creierului meu
în stare de relaxare și curiozitate.

Pentru a împărtăși aceste informații,

am purtat unul dintre
primele dispozitive EEG,

ca acesta,

care a înregistrat în timp real
activitatea electrică din creierul meu.

Nu este diferit de dispozitivele
de fitness pe care le purtăm

ca să măsurăm bătăile inimii
sau pașii pe care îi facem

sau chiar somnul.

Nu este deloc cea mai sofisticată
tehnologie neuroimagistică de pe piață.

Dar e deja cea mai portabilă

și cu cel mai mare impact
asupra vieții noastre.

Este nemaipomenit.

Printr-un simplu dispozitiv portabil,

putem vedea în interiorul creierului uman

și îi putem descoperi caracteristicile
fără a rosti niciun cuvânt.

Deși nu putem descifra încă
gândurile complicate,

putem măsura dispoziția cuiva

și, cu ajutorul inteligenței artificiale,

putem decodifica numere de o cifră,

forme sau cuvinte simple
pe care cineva le gândește,

le aude sau le vede.

În ciuda limitărilor firești ale EEG,

cred că se poate spune că odată
cu progresul nostru în tehnologie,

tot mai mult din ce se întâmplă
în creierul uman

poate și va fi descifrat în timp.

Deja, folosind un asemenea dispozitiv,

o persoană cu epilepsie
știe când va avea o criză

înainte ca ea să se întâmple.

O persoană paraplegică poate scrie
pe calculator cu ajutorul gândului.

O companie din America a dezvoltat
o tehnologie ce integrează acești senzori

în tetierele mașinilor,

astfel încât să poată urmări
concentrarea șoferului,

distragerea atenției și oboseala mintală
în timp ce conduce.

Nissan, companiile de asigurare
și AAA țin seama de aceasta.

Puteți chiar să vedeți acest film
în care vă alegeți acțiunea,

„Momentul”, care, cu o cască EEG,

schimbă filmul pe baza
reacțiilor din creierul vostru,

oferindu-vă un alt final de fiecare dată
când atenția voastră scade.

Toate acestea pot părea minunate

și, ca bioetician,

susțin posibilitatea oamenilor

de a se ocupa de propria
sănătate și bunăstare,

oferindu-le acces la informații despre ei,

inclusiv la această excelentă tehnologie
de descifrare a creierului.

Dar sunt îngrijorată.

Mi-e teamă că vom renunța,
cu voie sau fără voie,

la ultimul bastion al libertății,
intimitatea noastră mintală.

Că vom oferi activitatea creierului

pentru promoții, reduceri la asigurare,

sau acces liber la rețelele sociale,

sau pentru a ne păstra locul de muncă.

În China,

conductorii trenurilor de mare viteză
de pe ruta Beijing-Shanghai,

cea mai aglomerată de acest gen din lume,

sunt obligați să poarte dispozitive EEG

ce urmăresc activitatea
creierului în timp ce conduc.

Potrivit unor surse de știri,

în fabricile guvernamentale din China,

muncitorii trebuie să poarte senzori EEG
pentru a li se monitoriza productivitatea

și starea emoțională la locul de muncă.

Unii dintre ei chiar sunt trimiși acasă

dacă creierul lor indică o concentrare
mai scăzută la serviciu

sau o stare de agitație emoțională.

Nu se va întâmpla mâine,

dar ne îndreptăm către o lume
de transparență a creierului.

Și nu cred că oamenii înțeleg
că asta ar putea schimba totul.

De la ce înțelegem prin
confidențialitatea datelor, a regulilor,

până la ideea noastră de libertate.

În laboratorul meu
de la Universitatea Duke,

am efectuat recent un studiu
la nivel național,

pentru a vedea dacă oamenii apreciază

sensibilitatea informațiilor
despre creier.

Le-am cerut să evalueze
cum percep sensibilitatea

a 33 de tipuri diferite de informații,

de la codul numeric personal

la conținutul unei convorbiri telefonice,

istoricul relațiilor lor,

sentimentele, anxietatea,

imaginile mintale

și gândurile din mintea lor.

Surprinzător, oamenii își evaluează
codul numeric personal mai mult

decât orice alt tip de informație,

chiar și despre creierul lor.

Cred că asta se întâmplă
deoarece oamenii nu înțeleg încă

sau nu cred implicațiile tehnologiei
de decodificare a creierului.

La urma urmei, dacă știm
cum funcționează creierul uman,

codul numeric personal
e ultima noastră grijă.

(Râsete)

Gândiți-vă puțin.

Într-o lume de transparență
absolută a creierului

cine ar îndrăzni să aibă
un gând dizident politic?

Sau unul creativ?

Mi-e teamă că oamenii
se vor auto-cenzura

de frica de a fi ostracizați de societate,

sau că își vor pierde locul de muncă
pentru că nu mai sunt atenți,

sunt instabili emoțional,

sau gândesc să se organizeze
împotriva angajatorului.

Dezvăluirea orientării sexuale
nu va mai fi o alegere,

deoarece creierul va putea
spune orientarea sexuală,

ideologia politică

sau preferințele religioase,

cu mult înainte ca cineva să poată
să împărtășească aceste informații

altor persoane.

Mi-e teamă că legile nu vor ține
pasul cu schimbările tehnologice.

De exemplu primul amendament
al Constituției SUA,

care protejează libertatea de exprimare.

Protejează și libertatea de gândire?

Dacă da, asta înseamnă că putem
să ne schimbăm gândurile cum dorim?

Sau guvernul și societatea ne pot dicta
ce putem face cu propriul creier?

Poate NSA să ne spioneze creierul
folosind noile dispozitive mobile?

Companiile care folosesc aplicații
ce colectează informații despre creier

pot să le vândă către terți?

Acum nu există nicio lege
care să le interzică asta.

Ar putea fi și mai grav

în țările în care nu există
aceleași libertăți

de care se bucură Statele Unite.

Ce s-ar fi întâmplat
în timpul Mișcării Iraniene

dacă guvernul ar fi monitorizat
creierele familiei mele

și ar fi dedus că simpatizează
cu protestatarii?

E atât de nefiresc
să ne imaginăm o societate

unde oamenii sunt arestați pentru că
se gândesc să comită o infracțiune,

ca în societatea distopică SF
din „Minority Report”.

Deja în Statele Unite, în Indiana,

un tânăr de 18 ani a fost acuzat
că încearcă să-și terorizeze școala

prin postarea unui video în care
împușcă oameni pe culoare.

Doar că oamenii erau zombii

și video-ul era despre el jucând
un joc de realitate augmentată,

iar asta a fost interpretat ca fiind
o proiecție mintală a intențiilor lui.

Tocmai de aceea creierele noastre
au nevoie de protecție specială.

Dacă creierul nostru e subiectul
urmăririi și cumulării de informații

la fel ca tranzacțiile și
situația noastră financiară,

dacă creierul nostru poate fi atacat
și urmărit precum activitatea online,

telefonul mobil și aplicațiile,

atunci suntem la un pas de o gravă
amenințare la adresa umanității.

Înainte să vă panicați,

cred că există soluții
la aceste probleme,

dar trebuie să ne concentrăm
pe ceea ce trebuie.

Când vine vorba
de protecția intimității în general,

cred că lupta noastră e în zadar,

dacă încercăm să oprim
fluxul de informații.

În schimb, ar trebui să ne concentrăm
pe garantarea de drepturi și măsuri

împotriva utilizării abuzive
a informațiilor noastre.

Dacă oamenii ar putea să decidă
cum sunt folosite informațiile lor

și chiar să primească despăgubiri

dacă au fost utilizate
abuziv împotriva lor,

de exemplu ca să-i discrimineze
la locul de muncă,

în serviciile medicale sau educație,

ar fi un pas important
pentru a consolida încrederea.

De fapt, în unele cazuri,

dorim să împărtășim mai mult
din informațiile personale.

Studierea informațiilor cumulate
ne poate spune multe

despre sănătatea și bunăstarea noastră,

dar pentru a putea folosi în siguranță
informațiile noastre,

avem nevoie de protecții speciale
pentru intimitatea mintală.

De aceea avem nevoie de dreptul
la libertatea de gândire.

Acesta ne-ar asigura
libertatea de gândire și reflectare,

libertatea de autodeterminare

și ar stabili că avem dreptul
de a accepta sau refuza

accesul și modificarea creierului
nostru de către alții.

Acest drept ar putea fi recunoscut

ca parte a Declarației Universale
a Drepturilor Omului,

care stabilește mecanismele

pentru aplicarea acestor
tipuri de drepturi sociale.

În timpul Mișcării Iraniene,

protestatarii au folosit internetul
și metoda viului grai

pentru a coordona demonstrațiile.

Iar cele mai opresive restricții din Iran

au fost eliminate ca rezultat.

Dar dacă guvernul iranian ar fi utilizat
supravegherea creierelor

pentru a detecta și împiedica protestul?

Ar fi auzit vreodată lumea
strigătele demonstranților?

E vremea unei revoluții
a libertății cognitive.

Pentru a fi siguri că dezvoltăm
în mod responsabil o tehnologie

care să ne pregătească pentru viitor,

protejându-ne de orice altă persoană,
companie sau guvern

ce încearcă să acceseze ilegal sau
să modifice viața noastră cea mai intimă.

Vă mulțumesc!

(Aplauze)