Hvordan beskytter vi vores privatliv, når teknologien kan læse tanker?

Teknologi, der kan afkode din hjerneaktivitet og afsløre, hvad du tænker og føler, er lige på trapperne, mener jurist og etiker Nita Farahany. Hvad vil det betyde for vores allerede krænkede privatliv? I et foruroligende foredrag advarer Farahany om et samfund, hvor folk bliver arresteret blot for at tænke på at begå en forbrydelse (ligesom i "Minority Report"), og private firmaer sælger vores hjernedata - og advokerer for en ret til kognitiv frihed, der beskytter vores tankefrihed og selvbestemmelse.

I månederne efter
Irans præsidentvalg i 2009

udbrød der protester landet over.

Den iranske regering
undertrykte med vold

det, der blev kendt som
Den Grønne Bevægelse.

De blokerede endda mobilsignaler

for at forhindre
demonstranterne i at kommunikere.

Mine forældre, som emigrerede
til USA sidst i 60'erne,

tilbragte lang tid der,

hvor hele min store,
udvidede familie bor.

Når jeg ringede til
min familie i Teheran

under de mest brutale overgreb
på demonstranterne,

turde ingen af dem diskutere
begivenhederne med mig.

Vi skiftede hurtigt emne
i vores samtaler.

Vi forstod alle,
hvad konsekvenserne kunne være

af anklagen om systemkritik.

Men jeg ønsker stadig,
jeg kunne vide, hvad de tænkte,

eller hvad de følte.

Hvad hvis jeg kunne det?

Eller endnu mere skræmmende,

hvad hvis den iranske regering kunne?

Ville de have arresteret dem
på grund af deres tanker?

Den dag er måske nærmere,
end man tror.

Med fremgangen i neuroforskning,
kunstig intelligens

og maskinlæring,

vil vi snart vide mere om,
hvad der sker i vores hjerner.

Som bioetiker, advokat, filosof

og iransk-amerikaner

er jeg dybt bekymret for,
hvad det betyder for vores frihed,

og hvilken beskyttelse,
vi har brug for.

Jeg mener, vi har ret
til kognitiv frihed

som en menneskerettighed,
der skal beskyttes.

Hvis ikke,
vil vores tankefrihed,

adgang og kontrol over
vores egne hjerner

og vores mentale privatliv
komme under pres.

Overvej dette:

I gennemsnit tænker man
tusindvis af tanker hver dag.

Ved hver en tanke,

som et regnestykke,
et tal eller et ord,

interagerer neuroner i hjernen

og skaber en lille,
elektrisk udladning.

Når hjernen er optaget af en ting,
for eksempel afslapning,

er tusindvis af neuroner
aktive i hjernen

og skaber elektriske udladninger
i karakteristiske mønstre,

der kan måles med
elektroencefalografi, eller EEG.

Det er faktisk det,
I ser lige her.

I ser min hjerneaktivitet,
der blev registreret i realtid.

med et simpelt apparat,
jeg havde på hovedet.

Her er min hjerneaktivitet,
mens jeg var afslappet og nysgerrig.

For at dele dette med jer,

brugte jeg et nyt,
lettilgængeligt EEG-apparat

som det her,

der registrerede
min hjerneaktivitet i realtid.

Det er ligesom de fitnesstrackere,
nogle af jer måske bruger

til at måle jeres puls
eller jeres skridt

eller endda jeres søvnmønster.

Det er ikke den mest sofistikerede
hjerneskannings-teknologi.

Men det er allerede
den mest bærbare,

som nok vil få stor indflydelse
på vores hverdag.

Det er utroligt.

Med et simpelt,
bærbart apparat

kan vi bogstaveligt talt
se ind i vores hjerner

og aflæse vores mentale landskab
uden at sige et eneste ord.

Selvom vi ikke kan
aflæse komplekse tanker endnu,

kan vi allerede vurdere
en persons humør,

og med hjælp
fra kunstig intelligens

kan vi endda afkode
enkelte cifre,

former eller simple ord,
som en person tænker,

hører eller ser.

Trods nogle indbyggede
begrænsninger i EEG,

kan man roligt sige,
at med vores teknologiske fremskridt

vil mere og mere af,
hvad der sker i vores hjerner,

blive afkodet med tiden.

Med sådan et apparat,

kan en epileptiker allerede vide,
hvornår de vil få et anfald,

før det sker.

Personer med lammelse
kan skrive på computer med tankerne.

Et amerikansk firma
har udviklet teknologien

til at indbygge disse sensorer
i nakkestøtten i biler,

så de kan registrere
førerens koncentration,

distraktion og kognitive belastning,
under kørslen.

Nissan, forsikringsselskaber
og AAA følger udviklingen.

Man kan endda se en film,
hvor man selv vælger handlingen,

"The Moment,"
som med et EEG-headset

ændrer filmen
baseret på din hjernes reaktioner

og giver dig en ny slutning,
hver gang du bliver distraheret.

Det lyder måske fantastisk,

og som bioetiker

er jeg en stor fortaler for
at hjælpe mennesker

med at få kontrol over
deres sundhed og velvære

ved at give dem adgang
til informationer om sig selv

med denne utrolige, nye,
hjerne-aflæsende teknologi.

Men jeg er bange.

Jeg er bange for, at vi,
frivilligt eller ej, vil opgive

vores sidste bastion af frihed,
vores mentale privatliv.

At vi vil give vores hjerneaktivitet

mod at få rabat på forsikringen

eller gratis adgang
til sociale medier ...

eller endda beholde vores jobs.

I Kina

skal togførerne på
Beijing-Shanghai-ruten,

den travleste af sin slags i verden,

bære EEG-apparater,

der registrerer deres hjerneaktivitet,
under kørslen.

Ifølge nogle nyhedskilder

skal arbejderne i Kinas
statskontrollerede fabrikker

bære EEG-sensorer,
der overvåger deres produktivitet

og sindstilstand på arbejdet.

Arbejdere bliver endda sendt hjem,

hvis deres hjerner viser
dårlig koncentration på jobbet

Eller følelsesmæssig uro.

Det vil ikke ske i morgen,

men vi er på vej mod en verden,
hvor hjernen kan aflæses.

Jeg tror ikke, folk forstår,
at det kan ændre alting.

Lige fra definitionen af datasikkerhed
til vores love,

til vores forestillinger om frihed.

På mit laboratorium
på Duke University

udførte vi for nylig
et landsdækkende studie i USA

for at se, om folk værdsatte

følsomheden af deres hjerneinformationer.

Vi bad folk vudere
deres opfattelse af følsomheden

af 33 forskellige slags informationer,

fra deres personnumre

til indholdet af deres
mobilsamtaler,

deres tidligere parforhold,

deres følelser, deres bekymringer,

deres mentale billeder

og deres tanker.

Overraskende var folk mere følsomme
over for deres personnumre

end noget som helst andet,

inklusive deres hjernedata.

Jeg tror, det skyldes,
at folk endnu ikke forstår

eller tror på konsekvenserne
af den nye hjerneteknologi.

For hvis vi kan læse
et menneskes inderste tanker,

så er vores personnumre
vores mindste bekymring.

(Latter)

Tænk over det.

I en verden, hvor hjerner kan aflæses,

hvem ville så vove
at tænke systemkritisk?

Eller kreativt?

Jeg er bange for,
at folk vil censurere sig selv

af frygt for at blive udstødt
af samfundet,

eller at folk vil miste jeres job
på grund af dårlig koncentration

eller følelsesmæssig ustabilitet.

Eller for at overveje
at organisere sig på arbejdspladsen.

At det ikke længere vil være mulig
at springe ud,

fordi folks hjerner for længst
vil have afsløret deres seksualitet,

deres politiske ideologi

eller deres religiøse overbevisning,

længe før de var klar til at dele
de oplysninger

med andre mennesker

Jeg er bange for, at vores love
ikke kan holde trit med teknologien.

Tag det første tillæg
til USA's forfatning,

der beskytter ytringsfriheden.

Beskytter den også tankefrihed?

Og betyder det i så fald,
at vi må tænke, hvad vi vil?

Eller må staten og samfundet bestemme,
hvad vi må med vores egne hjerner?

Må NSA overvåge vores hjerner
med de ny bærbare enheder?

Må firmaer, der indsamler
de data gennem deres apps,

sælge informationerne
til tredjeparter?

Det er der ingen love imod
lige nu.

Det kunne være
endnu mere problematisk

i lande, der ikke har
de samme friheder

som her i USA.

Hvad ville der være sket
under Irans Grønne Bevægelse,

hvis regeringen havde overvåget
min families hjerneaktivitet

og vurderet,
at de stod på demonstranternes side?

Er det så langt ude
at forestille sig et samfund,

hvor folk bliver arresteret
på grund af deres tanker

om at begå en forbrydelse,

ligesom det dystopiske samfund
i sci fi-filmen "Minority Report",

I Indiana i USA

blev en 18-årig tiltalt
for at forsøge at true sin skole

ved at uploade en video,
hvor han skød folk på gangene.

Bortset fra, at folkene var zombier,

og i videoen spillede han
et computerspil,

der blev fortolket som en projektion
af hans subjektive hensigter.

Derfor har vores hjerner
brug for særlig beskyttelse.

Hvis vores hjerner udsættes for
overvågning og dataindsamling

ligesom vores økonomiske transaktioner,

hvis vores hjerner kan hackes
og overvåges ligesom vores aktiviteter

på nettet, mobilen og apps,

står vi over for en farlig trussel
mod hele menneskeheden.

Nu må I ikke gå i panik.

Jeg tror, der findes løsninger
på disse problemer,

men vi må begynde med
at fokusere på det rigtige.

Når det kommer til
beskyttelse af privatlivet,

så kæmper vi forgæves,

når vi forsøger at begrænse
strømmen af information.

I stedet bør vi fokusere på
at sikre rettigheder og sanktioner

for at misbruge vores oplysninger.

Hvis folk havde ret til at vælge,
hvordan deres oplysninger blev delt,

og vigtigere endnu,
havde juraen på deres side,

hvis deres oplysninger
blev misbrugt

til at diskriminere
på arbejdspladsen

eller i sundhedssystemet
eller skolen,

ville det skabe grobund for tillid.

I nogle tilfælde

vil vi gerne dele
flere personlige oplysninger

Ved at studere store mængder data
kan vi lære så meget

om vores sundhed og velvære,

men for sikkert at kunne dele
vores oplysninger

har vi brug for særlig beskyttelse
af vores mentale privatliv.

Derfor har vi brug for
en ret til kognitiv frihed.

Det ville sikre,
vores tankefrihed,

vores ret til selvbestemmelse,

og det ville sikre, at vi selv
ville kunne bestemme,

om andre kunne
få adgang til vores hjerner.

Den rettighed kunne anderkendes

som del af
de universelle menneskerettigheder,

der har etableret systemer

til at håndhæve
den slags sociale rettigheder.

Under Irans Grønne Bevægelse

kommunikerede demonstranterne
via internettet og fra mund til mund,

når de planlagde deres protester.

Og nogle af de mest undertrykkende love
i Iran

blev ophævet på grund af det.

Men hvad hvis Irans regering
havde brugt hjerneovervågning

til at opdage og forhindre protesterne?

Ville verden nogensinde
have hørt demonstranternes råb?

Det er på tide, at vi kræver
en kognitiv frihedsrevolution.

At vi udvikler teknologien
på en ansvarlig måde,

så vi kan omfavne fremtiden

og samtidig beskytte os alle
mod mennesker, firmaer eller stater,

der uretmæssigt forsøger
at blande sig i vores inderste indre.

Tak.

(Klapsalver)