Hvordan ansigtsovervågning truer dit privatliv og din frihed

Privatlivets fred er ikke død, men ansigtsgenkendelsesteknologi kan dræbe det, siger borgerrettighedsadvokat Kade Crockford. I en åben åben åbning fortæller Kade om de utrolige grunde til, at denne invasive teknologi - drevet af ofte mangelfulde ansigtsgenkendelsesdatabaser, der sporer mennesker uden deres viden, udgør en hidtil uset trussel mod dine grundlæggende rettigheder. Lær, hvad der kan gøres for at forbyde regeringsbrug, før det er for sent.

Hvor mange af jer
har nogensinde hørt nogen sige

privatlivets fred er død?

Ræk hånden op.

Hvor mange af jer har hørt nogen sige

de er ligeglad med deres privatliv
fordi de ikke har noget at skjule?

Fortsæt.

(Latter)

Hvor mange af jer bruger
en nogen form for krypteringssoftware?

Ræk hånden op.

Eller en adgangskode
at beskytte en online konto?

Eller gardiner eller persienner
på dine vinduer derhjemme?

(Latter)

OK, så det er alle, tror jeg.

(Latter)

Så hvorfor gør du disse ting?

Mit gæt er,

Det er fordi du er
interesseret i dit privatliv.

Ideen om, at privatlivets fred er død,
er en myte.

Ideen om, at folk
er ligeglad med deres privatliv

fordi "de har intet at skjule"

eller de har ikke gjort noget galt

er også en myte.

Jeg gætter på, at du ikke vil have det
at dele offentligt på internettet,

for verdens øjne,

din medicinske historie.

Eller dine søgehistorier
fra din telefon eller din computer.

Og jeg vil vædde

at hvis regeringen
ville lægge en chip i din hjerne

at overføre hver eneste af dine tanker
til en central regeringscomputer,

det ville du slå af.

(Latter)

Det er fordi du tænker over
dit privatliv

som ethvert menneske.

Så vores verden har ændret sig hurtigt.

Og i dag er der forståeligt
meget forvirring

om, hvad privatliv er,
og hvorfor det betyder noget.

Privatliv er ikke tavshedspligt.

Det er kontrol.

Jeg deler information med min læge
om min krop og mit helbred,

forventer, at hun ikke
vil vende rundt

og dele disse oplysninger
med mine forældre,

eller min chef eller mine børn.

Disse oplysninger er private,
ikke hemmelige.

Jeg har kontrol over hvordan
disse oplysninger deles.

Du har sandsynligvis hørt folk sige
at der er en grundlæggende spænding

mellem privatliv på den ene side

og sikkerhed på den anden.

Men teknologierne
der fremmer vores privatliv

fremme også vores sikkerhed.

Tænk på hegn, dørlåse,

gardiner på vores vinduer, adgangskoder,

krypteringssoftware.

Alle disse teknologier

samtidig beskytte
vores privatliv og vores sikkerhed.

Dragnet overvågning,
på den anden side beskytter hverken.

I de seneste år,

den føderale regering
opgav en gruppe eksperter

kaldet Privatlivets fred og borgerlige
frihedsrettigheder Tilsynsudvalg

med undersøgelse af post-9/11
regeringsovervågningsprogrammer

dragnet-overvågningsprogrammer.

Disse eksperter kunne ikke finde
et enkelt eksempel

af den dragnetovervågning
fremme noget sikkerhed -

det identificerede eller stoppede
ikke et enkelt terrorangreb.

Du ved, hvad disse oplysninger
var dog nyttigt til?

Hjælpe NSA-medarbejdere
spionere på deres romantiske interesser.

(Latter)

(Målgruppe: Wow.)

Et andet eksempel er
tættere på hjemmet.

Så millioner af mennesker
overalt i USA og verden

vedtager såkaldte
"smarte hjem" enheder,

som internetforbundet
overvågningskameraer.

Men vi ved, at enhver teknologi
tilsluttet internettet

kan blive hacket.

Så hvis en hacker

kommer ind på din internetforbindelse
overvågningskamera derhjemme,

de kan se dig
og din familie komme og gå,

at finde det rette tidspunkt at slå til.

Ved du hvad der ikke kan hackes eksternt?

Gardiner.

(Latter)

Hegn.

Dørlåse.

(Latter)

Privatliv er ikke fjenden for sikkerhed.

Det er dets garanti.

Ikke desto mindre står vi dagligt overfor
et propagandaangreb

fortæller os, at vi er nødt til at give op
noget privatliv i bytte for sikkerhed

gennem overvågningsprogrammer.

Ansigtsovervågning er den farligste
af disse teknologier.

Der er to primære måder i dag
regeringer bruger teknologier som denne.

Den ene er ansigtsgenkendelse.

Det er for at identificere
nogen i et billede.

Det andet er ansigtsovervågning,

som kan bruges i samarbejde

med overvågningskamera
netværk og databaser

for at oprette fortegnelser over alle
folks offentlige bevægelser,

vaner og forbindelser,

i princippet at skabe et
digitalt panopticon.

Dette er et panopticon.

Det er et fængsel designet til at tillade
et par vagter i centrum

at overvåge alt, hvad der sker
i cellerne omkring omkredsen.

Menneskerne i de fængselsceller
kan ikke se inde i vagttårnet,

men vagterne kan se
ind i hvert hjørne af cellerne.

Ideen her

er det, hvis folket
i de fængselsceller

ved, at de bliver overvåget hele tiden,

eller kunne være,

de vil opføre sig i
overensstemmelse hermed.

Tilsvarende ansigtsovervågning
muliggør en centraliseret myndighed -

i dette tilfælde staten -

for at overvåge totaliteten
af menneskelig bevægelse og forbindelser

i det offentlige rum.

Og sådan her ser det ud

i det virkelige liv.

I dette tilfælde er det ikke
en vagt i et tårn,

men snarere en politianalytiker
i et spioncentrum.

Fængslet udvides ud over dets mure,

det omfatter alle,

overalt, hele tiden.

I et frit samfund

dette skulle skræmme os alle.

I årtier har vi set politiudsendelser

der fremmer en fortælling, som siger

at teknologier som ansigtsovervågning
i sidste ende tjener det offentlige gode.

Men det virkelige liv er
ikke et politidrama.

Den dårlige fyr gjorde det ikke altid,

politiet definitivt
er ikke altid de gode fyre

og teknologien virker ikke altid.

Tag sagen om Steve Talley,

en finansanalytiker fra Colorado.

I 2015 blev Talley arresteret,
og han blev tiltalt for bankrøveri

på grundlag af en fejl
i et ansigtsgenkendelsessystem.

Talley kæmpede imod

og til sidst blev han renset
for disse anklager,

men mens han var
retsforfulgt af staten,

mistede han sit hus, sit job og sine børn.

Steve Talleys sag er et eksempel

på hvad der kan ske
når teknologien fejler.

Men ansigtsovervågning er lige så farlig
når det fungerer som den er ønsket.

Bare overvej hvor trivielt det ville være

for et regeringsorgan
at sætte et overvågningskamera

uden for en bygning, hvor folk mødes
til Anonyme Alkoholikermøder.

De kunne tilslutte det kamera

til en ansigtsovervågningsalgoritme
og en database,

tryk på en knap og
læne sig tilbage og samle

en fortegnelse over hver person som
modtager behandling for alkoholisme.

Det ville være lige så let
for et regeringsorgan

at bruge denne teknologi
til automatisk at identificere

hver person der deltog
kvindernes march

eller en Black Lives Matter-protest.

Selv teknologibranchen
er opmærksom på alvoren i dette problem.

Microsofts præsident Brad Smith
har opfordret kongressen til at gribe ind.

Google, på sin side,

har afvist, offentligt,
at sende et ansigtsovervågningsprodukt,

til dels på grund af disse bekymringer for
menneske- og borgerlige rettigheder.

Og det er en god ting.

Fordi i sidste ende,

at beskytte vores åbne samfund
er meget vigtigere

end virksomhedsgevinst.

ACLU's landsdækkende kampagne

at få regeringen til at slå bremserne i,

for vedtagelse
af denne farlige teknologi

har stillet rimelige spørgsmål
fra tankevækkende mennesker.

Hvad der gør især denne teknologi
så farlig?

Hvorfor kan vi ikke bare regulere den?

Kort sagt, hvorfor alarmen?

Ansigtsovervågning er unikt farlig
af to beslægtede grunde.

Den ene er naturen
af selve teknologien.

Og det andet er, at vores system

mangler grundlæggende tilsynet
og ansvarlighedsmekanismer

det ville være nødvendigt

for at sikre, at det ikke bliver misbrugt
i regeringens hænder.

For det første muliggør ansigtsovervågning
en totaliserende form for overvågning

aldrig før muligt.

Hver enkelt person's besøg
til en vens hus,

et regeringskontor,

et hus for tilbedelse,

en seksuel sundhedsklinik,

en cannabisbutik,

en stripklub;

hver enkelt persons offentlige bevægelser,
vaner og forbindelser

dokumenteret og katalogiseret,

ikke kun en dag, men hver dag,

blot med et tryk på en knap.

Denne form for totaliserende
masseovervågning

truer grundlæggende hvad det betyder
at leve i et frit samfund.

Vores ytringsfrihed,
foreningsfrihed

religionsfrihed,

pressefrihed,

vores privatliv

vores ret til at være alene.

Du tænker muligvis,

”OK, kom nu, der er tonsvis af måder,
hvor regeringen kan spionere på os."

Og ja, det er sandt,

regeringen kan spore os
gennem vores mobiltelefoner,

men hvis jeg vil gå for at få abort,

eller deltage i et politisk møde,

eller endda bare melde mig syg
fra arbejde og gå på stranden ...

(Latter)

Jeg kan forlade min telefon derhjemme.

Jeg kan ikke efterlade mit ansigt
derhjemme.

Og det bringer mig
til min anden primære bekymring:

Hvordan vi muligvis meningsfuldt
regulere denne teknologi.

I dag, hvis regeringen vil vide det
hvor jeg var i sidste uge,

de kan ikke bare gå ind i en tidsmaskine,
gå tilbage i tiden og følg mig.

Og de også, det lokale politi lige nu,

opretholder ikke nogen centraliseret
system til sporing,

hvor de katalogiserer enhver persons
offentlige bevægelser hele tiden,

bare i tilfælde af, at oplysningerne
en dag bliver nyttige.

I dag, hvis regeringen
vil vide, hvor jeg var i sidste uge,

eller sidste måned eller sidste år,

de er nødt til at gå til en dommer,
få en kendelse

og derefter give den kendelse
til mit telefonselskab,

som for øvrig har en økonomisk interesse
i at beskytte mit privatliv.

Med ansigtsovervågning,

findes sådanne begrænsninger ikke.

Dette er teknologi, der er 100 procent
kontrolleret af regeringen selv.

Så hvordan ville et krav om en dommerkendelse
fungere i denne sammenhæng?

Vil regeringen gå til en dommer

og få en kendelse,

og derefter bruge kendelsen på sig selv?

Det ville være som om at
jeg giver dig min dagbog,

og sagde: "Her,
du kan holde fast ved dette for evigt,

men du kan ikke læse den
indtil jeg siger, det er OK. "

Så hvad kan vi gøre?

Det eneste svar på truslen

stillet af regeringens brug
af ansigtsovervågning

er at nægte regeringen muligheden

for at krænke offentlighedens tillid,

ved at nægte regeringen evnen

til at bygge disse in-house
ansigt-overvågningsnetværk.

Og det er præcis, hvad vi laver.

ACLU er en del af en
landsdækkende kampagne

for at bremse regeringens brug
af denne farlige teknologi.

Vi har allerede haft succes,

fra San Francisco
til Somerville, Massachusetts,

vi har bestået kommunale forbud

på regeringens
brug af denne teknologi.

Og masser af andre kommuner
her i Massachusetts

og over hele landet

drøfter lignende foranstaltninger.

Nogle mennesker har fortalt mig at
denne bevægelse er bundet til at mislykkes.

I sidste ende,

blot fordi teknologien eksisterer,

det vil blive implementeret i enhver sammenhæng

af enhver regering overalt.

Privatlivets fred er død, ikke?

Sådan lyder fortællingen.

Jeg nægter at acceptere den fortælling.

Og det skulle du også.

Vi kan ikke tillade Jeff Bezos eller FBI

at bestemme grænserne
af vores friheder i det 21. århundrede.

Hvis vi lever i et demokrati,

er vi i førersædet,

til at forme vores kollektive fremtid.

Vi er ved en skillevej lige nu.

Vi kan enten fortsætte
med at gøre som vi plejer,

tillade regeringerne at vedtage og installerer
disse teknologier ukontrolleret,

i vores samfund, vores gader
og vores skoler,

eller vi kan tage drastiske handlinger nu

og trykke pause på regeringens brug
af ansigtstilsyn,

beskytte vores privatliv

og at opbygge en sikrere, friere fremtid

for os alle.

Tak skal du have.

(Bifald og jubel)