Wat je moet weten over gezichtssurveillance

Privacy is niet dood, maar gezichtssurveillance zou er een eind aan kunnen maken, zegt burgerrechtenactivist Kade Crockford. Kade beschrijft waarom deze invasieve technologie -- aangedreven door vaak gebrekkige gezichtssurveillancedatabases die mensen volgen zonder dat ze het weten -- ongehoorde bedreigingen vormt voor je fundamentele rechten. Leer voor het te laat is wat we kunnen doen om te voorkomen dat de overheid het gebruikt.

Wie van jullie hoort mensen zeggen
dat privacy niet meer bestaat?

Steek je hand eens op.

Wie van jullie heeft iemand horen zeggen

dat hun privacy hen niks uitmaakt,
omdat ze toch niks te verbergen hebben?

Laat maar zien.

(Gelach)

Wie van jullie gebruikt enige vorm
van encryptiesoftware --

steek je hand op --

of een wachtwoord om
een online account te beveiligen,

of gordijnen of luxaflex
voor je ramen thuis?

(Gelach)

Nou, dat zijn we allemaal wel, denk ik.

(Gelach)

Waarom doe je dit soort dingen?

Een gokje:

omdat je graag wat privacy hebt.

Het idee dat privacy niet meer bestaat,

is een mythe.

Het idee dat mensen
niet om hun privacy geven,

omdat ze 'niets te verbergen hebben'
of omdat ze niets verkeerd doen,

is ook een mythe.

Volgens mij zou je niet
op het internet willen openbaren --

voor wie het maar wil zien --

wat je medische verleden is.

Of je historie van zoekopdrachten
op je telefoon of computer.

En ik durf te wedden

dat als de regering
een chip in je hoofd wilde stoppen

die al je gedachten
naar een centrale computer zou sturen,

dat je zou protesteren.

(Gelach)

Dat komt omdat je
prijs stelt op je privacy,

zoals ieder menselijk wezen.

Onze wereld is snel veranderd

en het is niet vreemd
dat er behoorlijk wat verwarring is

over wat privacy is
en waarom het belangrijk is.

Privacy is geen geheimzinnigheid.

Het is zeggenschap.

Ik geef informatie aan mijn dokter
over mijn lichaam en mijn gezondheid,

ervan uitgaande dat zij zich niet omdraait

en het allemaal
aan mijn ouders laat weten,

of aan mijn baas of mijn kinderen.

Die informatie is privé, niet geheim.

Ik ben degene die bepaalt,
wie over die informatie mag beschikken.

Je hoort wellicht ook wel eens

dat er een spanningsveld bestaat
tussen privacy enerzijds

en veiligheid anderzijds.

Maar de technologieën
die onze privacy ondersteunen,

ondersteunen ook onze veiligheid.

Denk maar aan hekken,

sloten,

gordijnen voor je ramen,

wachtwoorden,

encryptiesoftware.

Al die technologieën beschermen simultaan
onze privacy en onze veiligheid.

Algehele surveillance echter
beschermt geen van beide.

De afgelopen jaren

belastte de Amerikaanse overheid
een groep experts,

The Privacy and Civil Liberties
Oversight Board genaamd,

met de taak om de surveillanceprogramma's
van na 9/11 te onderzoeken --

sleepnetsurveillanceprogramma's.

Die experts konden
geen enkel voorbeeld vinden

waarin zo'n sleepnetsurveillance
de veiligheid had bevorderd --

geen enkele terroristische aanval
werd ontdekt of voorkomen.

Weet je waar die informatie
wel handig voor was?

Veiligheidsdienstmedewerkers
hielden hun liefjes ermee in de gaten.

(Gelach en gemompel)

Dit voorbeeld staat dichter bij ons.

Miljoenen mensen in de VS en in de wereld
omarmen zogenaamde 'smart home'-apparaten,

zoals op het internet aangesloten
bewakingscamera's.

Maar we weten dat alle op het internet
aangesloten technologieën

gehackt kunnen worden.

Dus als een hacker via het internet
op je bewakingscamera thuis inbreekt,

dan kunnen ze op hun gemak
jullie dagschema bekijken,

zodat ze precies weten
wanneer ze kunnen toeslaan.

Weet je wat ze niet
op afstand kunnen hacken?

Gordijnen ...

(Gelach)

hekken ...

sloten.

(Gelach)

Privacy is niet de vijand van veiligheid.

Het is er de borgsteller van.

Desalniettemin ondergaan we
dagelijks de propaganda

die ons zegt dat we wat privacy
moeten opgeven voor veiligheid

door surveillanceprogramma's.

Gezichtssurveillance is de gevaarlijkste
van deze technologieën.

Dit zijn de twee belangrijkste manieren
waarop dit tegenwoordig wordt gebruikt.

De eerste is gezichtsherkenning --

het identificeren
van iemand op een afbeelding.

De tweede is gezichtssurveillance,

wat gebruikt kan worden

in combinatie met databases
en netwerken van surveillancecamera's

om ermee te registreren
waar we ons allemaal begeven

en wat onze gewoonten en relaties zijn --

feitelijk een digitaal panopticum.

Dit is een panopticum.

Het is een gevangenis die zo is ontworpen

dat een paar bewakers in het midden
in de gaten kunnen houden

wat er in de cellen eromheen gebeurt.

De mensen in de cellen
kunnen niet in de bewakerstoren kijken,

maar de bewakers kunnen
iedere centimeter in die cellen zien.

Het gaat uit van het idee

dat als de mensen in die cellen weten
dat ze voortdurend bekeken worden --

of dat het zou kunnen --

dat ze zich dan zouden gedragen.

Evenzo biedt gezichtssurveillance
mogelijkheden aan een centrale autoriteit,

in dit geval de staat,

om in het publieke domein
ieders locatie en relaties te monitoren

En zo ziet dat eruit in de werkelijkheid.

In dit geval is het niet
een bewaker in een toren,

maar een analist van de politie
in een spionagecentrum.

De gevangenis strekt zich uit
tot buiten zijn muren

en bestrijkt iedereen,

overal en altijd.

In een vrije maatschappij
zou dit ons moeten doen griezelen.

Al tientallen jaren
kijken we naar politieprogramma's

die het verhaal verkondigen

dat technologieën als gezichtssurveillance
uiteindelijk de publieke zaak dienen.

Maar het echte leven is geen politieserie.

De boef heeft het niet altijd gedaan,

de politie staat zeker
niet altijd aan de goede kant

en de technologie werkt niet altijd.

Neem het geval van Steve Talley,

een financieel analist uit Colorado.

In 2015 werd Talley gearresteerd
en beschuldigd van bankroof

op basis van een fout
in een gezichtsherkenningssysteem.

Talley vocht dat aan

en de aanklacht
werd uiteindelijk ingetrokken,

maar tijdens de procesgang

raakte hij zijn huis,
baan en kinderen kwijt.

Deze zaak is een voorbeeld
van wat er kan gebeuren

als de technologie faalt.

Maar gezichtssurveillance is net zo eng
als het wel werkt zoals bedoeld.

Bedenk eens hoe banaal het zou zijn,

zou de overheid
een surveillancecamera plaatsen

bij een gebouw waar de vereniging
Anonieme Alcoholisten vergadert.

Stel ze verbinden die camera

met een database en een algoritme
voor gezichtssurveillance,

en met een druk op de knop

krijgen ze de gegevens van alle mensen
die voor alcoholisme behandeld worden.

Het zou net zo simpel zijn
voor de overheid

om met deze technologie
automatisch vast te stellen

wie er meededen aan de Woman's March

of een 'Black Lives Matter'-demonstratie.

Zelfs de technologische industrie weet
hoe zwaarwegend dit probleem is.

De directeur van Microsoft, Brad Smith,
heeft het Congress gevraagd in te grijpen.

Google heeft op haar beurt
openbaar geweigerd

om software te leveren
voor gezichtssurveillance,

onder meer vanwege deze zorgen
over mensen- en burgerrechten.

En dat is maar goed ook.

Want onze open maatschappij beschermen
is uiteindelijk veel belangrijker

dan bedrijfswinsten.

De campagne van de burgerrechtenbeweging
om de overheid op de rem te laten trappen

inzake de acceptatie
van deze gevaarlijk technologie,

heeft verstandige mensen
redelijke vragen ontlokt.

Wat maakt deze technologie
nou precies zo gevaarlijk?

Kunnen we het niet gewoon reguleren?

Ofwel: vanwaar het alarm?

Gezichtssurveillance is om twee redenen
op een unieke manier gevaarlijk.

Eén is de aard van de technologie zelf.

En de tweede is dat ons systeem

fundamenteel de toezicht-
en aansprakelijkheidsmechanismen mist

die nodig zouden zijn

om ervoor te zorgen dat de overheid
het niet zou misbruiken.

Om te beginnen maakt gezichtssurveillance
een totale vorm van surveillance mogelijk

die we niet voor mogelijk hielden.

Elk bezoek van ieder persoon
aan het huis van een vriend,

een overheidsgebouw,

een religieus gebouw,

een abortuskliniek,

een koffieshop,

een stripclub;

ieders publieke bewegingen,
gewoonten en relaties

gedocumenteerd en gecatalogiseerd,

niet één dag, maar iedere dag,

met slechts één druk op de knop.

Dit soort totale massasurveillance
bedreigt fundamenteel

wat wij een vrije samenleving noemen:

onze vrijheid van meningsuiting
en vrijheid van vereniging,

vrijheid van godsdienst,

persvrijheid,

onze privacy,

ons recht met rust gelaten te worden.

Nou denk je misschien:

maar er zijn zoveel manieren
waarop de overheid ons kan bespioneren.

En dat is waar.

De overheid weet waar we zijn
door onze telefoons, maar ...

als ik een abortus wil

of naar een politieke vergadering,

of zelfs als ik me ziek meld
en gewoon naar het strand ga ...

(Gelach)

dan kan ik mijn telefoon thuislaten.

Mijn gezicht kan ik niet thuislaten.

En dat brengt me
bij mijn tweede belangrijke zorg:

hoe we deze technologie
effectief kunnen reguleren.

Als de overheid nu wil weten
waar ik vorige week was,

kunnen ze niet zomaar
in een tijdmachine stappen

en me even gaan volgen.

En de lokale politie houdt op dit moment
niet centraal bij waar mensen zijn,

waarbij ze ieders publieke bewegingen
voortdurend documenteren,

voor het geval dat die informatie
op een dag van pas kan komen.

Als de overheid vandaag wil weten
waar ik vorige week was,

of vorige maand of vorig jaar,

dan moeten ze naar een rechter
voor een machtiging,

waarmee ze naar mijn
telefoonprovider stappen --

die trouwens een financieel belang heeft
om mijn privacy te beschermen.

Met gezichtssurveillance

bestaan zulke beperkingen niet.

Dit is technologie die voor 100%
in handen is van de overheid zelf.

En als je een machtiging
in deze context verplicht zou stellen?

Gaat de overheid dan naar een rechter
voor een machtiging,

die ze dan aan zichzelf voorleggen?

Dat is alsof ik je mijn dagboek geef

en zeg: 'Hier, je mag dit
voor altijd houden,

maar je mag het niet lezen
tot ik zeg dat het mag.'

Dus wat kunnen we doen?

Het enige antwoord op de dreiging

die het gevaar van gezichtssurveillance
door de overheid oplevert,

is de overheid de bevoegdheid te ontzeggen
het publieke vertrouwen te schenden,

door de overheid
de bevoegdheid te ontzeggen

deze gezichtssurveillancenetwerken
voor zichzelf te bouwen.

En dat is precies wat we doen.

De burgerrechtenbeweging
is een landelijk initiatief

om de rem te zetten op het gebruik
van deze technologie door de overheid.

We hebben al successen behaald.

Van San Francisco
tot Somerville in Massachusetts

is het nu gemeentelijk verboden
dat de overheid deze technologie gebruikt.

En veel andere gemeenschappen
in Massachusetts en doorheen het land

overwegen ook zoiets te doen.

Sommigen zeggen dat deze beweging
onvermijdelijk zal falen.

Dat het uiteindelijk,

gewoon omdat de technologie er is,

in iedere context zal worden toegepast --

door alle overheden en wel overal.

Privacy bestaat niet meer, toch?

Dat zegt men tenminste.

Nou, ik weiger dat te accepteren.

Zou jij ook moeten doen.

We kunnen het niet
aan Jeff Bezos of de FBI overlaten

om voor ons de grenzen van onze vrijheid
in de 21e eeuw te bepalen.

Als we in een democratie leven,

maken wij zelf uit

hoe onze toekomst eruitziet.

We staan op een kruispunt hier.

We kunnen ofwel op dezelfde voet doorgaan

en overheden toestaan deze technologieën
ongecontroleerd in te zetten,

in onze gemeenschappen,
in onze straten en scholen,

of we kunnen nu actie ondernemen

en het gebruik van gezichtssurveillance
door de overheid stoppen,

onze privacy beschermen

en een veiligere, vrijere toekomst bouwen

voor ons allemaal.

Dankjewel.

(Applaus en gejuich)