Hoe beschermen we onze privacy tegen technologie die gedachten leest?

Technologie die je hersenactiviteit kan ontcijferen en die kan onthullen wat je denkt en voelt, staat eraan te komen, zegt jurist en ethicus Nita Farahany. Wat betekent dat voor ons al geschonden privacygevoel? In een tot voorzichtigheid aanmanende talk waarschuwt Farahany voor een samenleving waarin mensen worden gearresteerd omdat ze alleen maar denken aan het plegen van een misdaad (zoals in 'Minority Report') en waarin particuliere belangengroeperingen onze hersengegevens verkopen -- en pleit ze voor een recht op cognitieve vrijheid die onze vrijheid van denken en zelfbeschikking beschermt.

Na de presidentsverkiezingen
van 2009 in Iran

braken protesten uit in het hele land.

De Iraanse regering onderdrukte met geweld

wat bekend zou worden
als de Iraanse Groene Beweging

en blokkeerde zelfs signalen van mobielen

om de communicatie
tussen de demonstranten af te snijden.

Mijn ouders, die in de late jaren 60
naar de Verenigde Staten emigreerden,

brachten daar veel tijd door,

bij mijn grote, uitgebreide familie.

Toen ik mijn familie in Teheran opbelde

tijdens de meest gewelddadige
optredens tegen het protest,

durfde niemand met mij
te spreken over wat er gebeurde.

Zij en ik wisten hoe het gesprek
snel op andere onderwerpen te brengen.

We begrepen allemaal
wat de gevolgen konden zijn

van een vermeende dissidente actie.

Maar ik wou nog steeds dat ik had
kunnen weten wat ze dachten

of wat ze voelden.

Wat als ik het gekund had?

Of nog beangstigender,

wat als de Iraanse regering
het zou hebben gekund?

Zouden ze hen hebben gearresteerd
op basis van wat hun hersenen openbaarden?

Die dag kan dichterbij zijn dan je denkt.

Met onze groeiende mogelijkheden
in de neurowetenschappen,

kunstmatige intelligentie
en machinaal leren

kunnen we binnenkort veel meer weten
van wat er in het menselijke brein omgaat.

Als bio-ethicus, advocaat, filosoof

en Iraans-Amerikaanse

ben ik zeer bezorgd over wat
dit betekent voor onze vrijheden

en wat voor soort beveiligingen
we nodig hebben.

Ik geloof dat we recht hebben
op cognitieve vrijheid,

als een mensenrecht
dat moet worden beschermd.

Zo niet, dan wordt
onze vrijheid van gedachte,

toegang en controle
over onze eigen hersenen

en onze mentale privacy bedreigd.

Overweeg dit:

de gemiddelde persoon denkt
elke dag duizenden gedachten.

Als zich een gedachte aandient,

bijvoorbeeld een wiskundige berekening
of een getal, een woord,

interageren neuronen in de hersenen,

met als gevolg een minuscule
elektrische ontlading.

Bij een dominante mentale toestand,
zoals ontspanning,

vuren honderden en duizenden
neuronen in de hersenen

en creëren ze gelijktijdige elektrische
ontladingen in karakteristieke patronen

die kunnen worden gemeten
met elektro-encefalografie of EEG.

In feite is dat wat je nu ziet.

Je ziet mijn hersenactiviteit
die in real time werd opgenomen

met een eenvoudig apparaat op mijn hoofd.

Wat je ziet is mijn hersenactiviteit
terwijl ik ontspannen en nieuwsgierig was.

Om deze informatie met jullie te delen,

droeg ik een van de eerste
EEG-apparaten voor consumenten,

zoals dit hier,

dat de elektrische activiteit
in mijn hersenen

in real time registreerde.

Een beetje als de fitness-trackers
die sommigen van jullie dragen

voor het meten van je hartslag
of de stappen die je hebt gezet,

of zelfs je slaapactiviteit.

Het is niet bepaald de meest geavanceerde
neuro-imaging-techniek op de markt.

Maar het is nu al de meest draagbare

en de meest waarschijnlijke om ons
dagelijks leven te gaan beïnvloeden.

Dit is buitengewoon.

Via een eenvoudig, draagbaar apparaat

kunnen we letterlijk
in het menselijk brein kijken

en aspecten van ons mentale
landschap leren kennen

zonder zelfs een woord te uiten.

Hoewel we complexe gedachten
nog niet betrouwbaar kunnen decoderen,

kunnen we iemands stemming al peilen

en met behulp
van kunstmatige intelligentie

kunnen we zelfs een aantal
simpele dingen decoderen,

ééncijferige getallen of vormen
of eenvoudige woorden,

die iemand denkt, hoort of ziet.

Ondanks bepaalde inherente
beperkingen van de EEG,

denk ik dat ik gerust kan zeggen dat
met onze vooruitgang in de technologie,

meer en meer van wat er gebeurt
in het menselijk brein

na verloop van tijd kan
en zal worden gedecodeerd.

Nu al kan een epilepticus
met een van deze apparaten

een epileptische aanval zien aankomen
voordat hij gebeurt.

Een dwarslaesiepatiënt
kan typen op een computer

door alleen maar te denken.

Een Amerikaans bedrijf
ontwikkelde een technologie

om deze sensoren in te bouwen
in de hoofdsteunen van auto’s,

zodat ze de concentratie, de afleiding

en de cognitieve belasting
van de bestuurder

tijdens het rijden kunnen volgen.

Nissan, verzekeringsmaatschappijen
en de Amerikaanse wegenwacht

hebben dit opgepikt.

Je zou zelfs kunnen kijken

naar deze kies-je-eigen-avontuurfilm,
‘The Moment’,

die met een EEG-headset

de film verandert op basis
van jouw hersenreacties,

waardoor het einde telkens anders is
als je aandacht verslapt.

Dat klinkt misschien allemaal geweldig,

en als bio-ethicus

ben ik een grote voorstander
van het in staat stellen van mensen

om hun eigen gezondheid en welzijn
in handen te nemen

door hen toegang tot informatie
over zichzelf te geven,

met inbegrip van deze ongelooflijke
nieuwe hersendecoderingstechnologie.

Maar ik maak me zorgen.

Ik ben bang dat we
vrijwillig of onvrijwillig

ons laatste bastion van vrijheid
zullen opgeven:

onze mentale privacy.

Dat we onze hersenactiviteit
zullen aanbieden

voor toeslagen of kortingen
op verzekeringen,

of gratis toegang
tot sociale-media-accounts ...

of zelfs om onze baan te behouden.

Het is nu al zo dat in China

de treinbestuurders op de
Beijing-Shanghai hogesnelheidstrein,

de drukste dergelijke route in de wereld,

EEG-sets dragen

om hun hersenactiviteit
te controleren tijdens het rijden.

Volgens sommige nieuwsbronnen

moeten in door de regering
gerunde fabrieken in China

de werknemers EEG-sensoren dragen
om hun productiviteit te controleren,

evenals hun emotionele
toestand op het werk.

Arbeiders worden zelfs naar huis gestuurd

als hun hersenen onvoldoende
concentratie op hun werk vertonen

of irritatie.

Het zal niet voor morgen zijn,

maar we zijn op weg naar een wereld
van hersentransparantie.

En ik denk niet dat mensen doorhebben
dat dat alles zou kunnen veranderen.

Alles, van onze definities
van de persoonlijke levenssfeer,

tot onze wetten,
tot onze ideeën over vrijheid.

Als het daarover gaat,
in mijn lab aan de Duke University

deden we onlangs een landelijk onderzoek
in de Verenigde Staten

om te zien of mensen

de gevoeligheid van hun
herseninformatie konden inschatten.

We vroegen mensen om hun vermeende
gevoeligheid in te schatten

van 33 verschillende soorten informatie:

van hun sofinummers

tot de inhoud van hun telefoongesprekken,

hun relatiegeschiedenis,

hun emoties, hun angst,

de mentale beelden in hun hoofd

en de gedachten in hun hoofd.

Schokkend genoeg beoordeelden
mensen hun sofinummer

als veel gevoeliger
dan elke andere vorm van informatie,

met inbegrip van hun hersendata.

Ik denk dat dit komt omdat mensen
nog geen inzicht of geloof hebben

in de gevolgen van deze nieuwe
hersendecoderingstechnologie.

Als we de innerlijke werking
van het menselijk brein gaan kennen,

zullen onze sofinummers
de minste van onze zorgen zijn.

(Gelach)

Denk er over na.

Wie zou in een wereld
van totale hersentransparantie

een politiek dissidente
gedachte durven hebben?

Of een creatieve?

Ik ben bang dat mensen
aan zelfcensuur zullen doen

uit angst te worden verstoten
door de maatschappij,

of dat de mensen hun baan kwijtraken
door hun afnemende aandacht

of emotionele instabiliteit,

of omdat ze denken aan collectieve
actie tegen hun werkgevers.

Uit de kast komen
zal niet langer een optie zijn,

omdat hun hersenen al lang hun seksuele
geaardheid zullen hebben geopenbaard,

of hun politieke ideologie

of hun religieuze voorkeuren,

lang voordat ze klaar waren
om die informatie bewust te delen

met andere mensen.

Ik maak me zorgen of onze wetten

de technologische veranderingen
zullen kunnen bijbenen.

Het eerste amendement
van de Amerikaanse grondwet

beschermt de vrijheid van meningsuiting.

Beschermt het ook
de vrijheid van gedachten?

En zo ja, mogen we dan ook onze gedachten
veranderen als we dat willen?

Of kan de overheid of de maatschappij

ons vertellen wat we kunnen doen
met onze eigen hersenen?

Kan de NSA onze hersenen bespioneren
met die nieuwe mobiele apparaten?

Mogen bedrijven die hersengegevens
kunnen verzamelen

die informatie aan derden verkopen?

Nu zijn er geen wetten
die hen dat beletten.

Het zou nog meer problemen geven

in landen die niet
dezelfde vrijheden hebben

als die van de mensen
in de Verenigde Staten.

Wat zou er tijdens de Iraanse
Groene Beweging zijn gebeurd

als de regering inzage had gehad
in de hersenactiviteit van mijn familie

en had besloten dat ze sympathie
hadden voor de demonstranten?

Is het zo vergezocht
om een samenleving te bedenken

waarin mensen worden opgepakt
op basis van hun gedachten

over het plegen van een misdrijf,

zoals in de sciencefiction, dystopische
samenleving in ‘Minority Report’.

In de Verenigde Staten, in Indiana,

werd een 18-jarige al beschuldigd van
een poging om zijn school te intimideren

door het plaatsen
van een video van zichzelf

waarin hij mensen
in de gangen neerschoot ...

Behalve dat de mensen zombies waren

en de video er een was

waarin hij een videogame
met verhoogde realiteit speelde,

allemaal geïnterpreteerd

als een mentale projectie
van zijn subjectieve bedoelingen.

Dit is precies de reden

waarom onze hersenen
speciale bescherming nodig hebben.

Als onze hersenen net zo onderhevig zijn
aan datatracking en -aggregatie

als onze financiële
administratie en transacties,

als onze hersenen gehackt
en bijgehouden kunnen worden

zoals onze online-activiteiten,

onze mobiele telefoons en toepassingen,

dan staan we aan de rand

van een gevaarlijke bedreiging
voor onze gezamenlijke menselijkheid.

Voordat je in paniek raakt:

ik geloof dat er oplossingen zijn
voor deze problemen,

maar we moeten beginnen
door op de juiste dingen te focussen.

Als het gaat om bescherming
van de privacy in het algemeen,

denk ik dat we vechten tegen de bierkaai

door te proberen om de stroom
van informatie te beperken.

In plaats daarvan moeten we ons richten

op het veiligstellen
van rechten en rechtsmiddelen

tegen misbruik van onze informatie.

Als mensen mogen beslissen
hoe hun informatie wordt gedeeld,

en nog belangrijker, wat hun rechten zijn

als hun informatie verkeerd
tegen hen werd gebruikt,

bijvoorbeeld bij discriminatie
in een werkgelegenheidsgeschil

of in gezondheidszorg of onderwijs,

zou dat al een grote stap zijn
om vertrouwen op te bouwen.

In feite willen we in sommige gevallen

meer persoonlijke informatie delen.

Het bestuderen van verzamelde informatie
kan ons zoveel vertellen

over onze gezondheid en ons welzijn,

maar om onze informatie
veilig te kunnen delen,

hebben we speciale bescherming
van onze mentale privacy nodig.

Daarom hebben we het recht
op cognitieve vrijheid nodig.

Dit recht zou voor ons onze vrijheid
van denken en rumineren veiligstellen,

onze vrijheid van zelfbeschikking,

en het zou ons ervan verzekeren
dat we het recht hebben

anderen al dan niet toestemming te geven
onze hersenen in te zien of te wijzigen.

Dit recht kan worden erkend als onderdeel

van de Universele Verklaring
van de Rechten van de Mens,

die vastgestelde mechanismen heeft

voor de handhaving
van dit soort sociale rechten.

Tijdens de Iraanse Groene Beweging

gebruikten de betogers het internet en
goede ouderwetse mond-tot-mond-berichten

om hun marsen te coördineren.

Sommige van de meest onderdrukkende
beperkingen in Iran

werden als gevolg daarvan opgeheven.

Maar wat als de Iraanse regering
hersensurveillance had gebruikt

om het protest op te sporen
en te voorkomen?

Zou de wereld ooit de kreten
van de demonstranten hebben gehoord?

De tijd is gekomen dat we pleiten
voor een revolutie om cognitieve vrijheid.

Om ervoor te zorgen dat we technologie
op verantwoorde wijze zo bevorderen

dat we de toekomst kunnen omarmen

en tegelijkertijd ons allemaal beschermen
tegen personen, bedrijven of overheden

die zonder toestemming ons diepste wezen
willen inzien of wijzigen.

Dank je.

(Applaus)