Varje dag, varje vecka,
godkänner vi villkor.
Och när gör vi detta förser vi företag med den lagliga rätten
att göra vad de vill med våran data och med våra barns data.
Vilket får oss att undra:
hur mycket data ger vi bort om barn, och vad får det för konsekvenser?
Jag är antropolog och jag är även mamma till två små flickor.
Och jag började bli intresserad av denna fråga år 2015
när jag plötsligt insåg att det fanns stora -
nästan otroliga mängder dataspår
som produceras och samlas om barn.
Så jag lanserade ett forskningsprojekt som heter Child Data Citizen
och jag siktade på att fylla tomrummen.
Nu kanske du tror att jag är här för att skylla på er
för att ni lägger upp bilder på era barn på sociala medier
men det är inte riktigt poängen.
Problemet är mycket större än så kallat "sharenting."
Detta handlar om system, inte individer.
Du och dina vanor är inte att skylla på.
För första gången i historien
spårar vi individuell data om barn från långt innan de är födda -
ibland från befruktningsögonblicket, och sedan genom deras liv.
Du förstår, när föräldrar bestämmer sig för att skaffa barn
går de online för att söka på "sätt att bli gravid,"
eller så laddar de ned appar för ägglossningsspårning.
När de blir gravida
postar de ultraljud av sina bäbisar på sociala medier,
de laddar ned graviditetsappar
eller så konsulterar de dr Google om alla möjliga saker,
som, du vet - om "missfallsrisk när man flyger"
eller "magkrämpor i tidig graviditet."
Jag vet för jag har gjort det - och många gånger.
Och när är barnet fött spårar de varje tupplur, varje matning,
varje liten livshändelse med olika tekniker.
Och alla dessa tekniker
transformerar bäbisens mest intima beteende- och hälsodata till vinst
genom att dela det med andra.
Så för att ge er en aning om hur detta fungerar,
2019 publicerade "British Medical Journal" forskning som visade
att av 24 hälsoappar,
delade 19 information med en tredje part.
Och dessa tredje parter delade information med 216 andra organisationer.
Av dessa 216 fjärde parterna
ingick bara tre i sjukvårdssektorn.
De andra företagen som hade tillgång till datan var stora teknikföretag
som Google, Facebook eller Oracle,
de var digitala reklamföretag
och det fanns även en konsumentkreditrapporteringsbyrå.
Så du förstår:
reklambyråer och kreditbyråer har redan datapunkter på små bäbisar.
Men mobilappar, webbsökningar och sociala medier
är bara toppen av isberget
eftersom barn blir spårade av flera tekniker i vardagslivet.
De spåras av hemtekniker och virtuella assistenter hemma.
De spåras av utbildningsplattformar och utbildningstekniker i sina skolor.
De spåras av uppgifter online och onlineportaler hos doktorn.
De spåras av sina internetanslutna leksaker, onlinespel
och många, många, många, många andra tekniker.
Så under min forskning
kom många föräldrar fram till mig och sa:"Så vadå?
Varför spelar det roll att mina barn blir spårade?
Vi har inget att dölja."
Det spelar roll.
Det spelar roll för att dagens individer inte bara blir spårade,
de blir även profilerade på grundval av sina dataspår.
Artificiell intelligens och förutsägbar analys används
för att samla in så mycket data som möjligt om ett individuellt liv
från olika källor:
familjehistoria, köpvanor, kommentarer på sociala medier.
Och sedan samlar de all denna data
för att skapa datadrivna beslut om individen.
Och dessa tekniker används överallt.
Banker använder dem för att besluta om lån.
Försäkringar använder dem för att besluta om premier.
Rekryterare och arbetsgivare använder dem
för att besluta om någon är passande för ett jobb eller inte.
Även polisen och rätten använder dem
för att bestämma om någon är en potentiell kriminell
eller är sannolik att begå ett brott igen.
Vi har ingen kunskap eller kontroll
över de sätt som de som köper, säljer och bearbetar våran data
profilerar oss och våra barn.
Men dessa profiler kan komma att påverka våra rättigheter på betydelsefulla sätt.
För att ge ett exempel,
2018 publicerade "New York Times" nyheten att datan som samlats in
genom online högskoleplanerande tjänster -
som faktiskt används av miljoner skolbarn över USA
som letar efter ett högskoleprogram eller ett stipendium -
hade sålts ut till utbildningsmäklare.
Forskare på Fordham som studerade utbildningsmäklare har nu
avslöjat att dessa företag profilerar barn så unga som 2 år
utifrån olika kategorier:
etnicitet, religion, välstånd, sociala besvärligheter
och många andra slumpmässiga kategorier.
Och sedan säljer de dessa profiler tillsammans med barnets namn,
deras hemadress och kontaktuppgifter till olika företag
inklusive handels- och karriärinstitutioner,
studentlån och kreditkortsföretag för studenter.
För att skjuta på gränserna
bad forskarna på Fordham en utbildningsmäklare
att förse dem med en lista på 14- till 15-åriga flickor
som var intresserade av familjeplanerande tjänster.
Datamäklaren gick med på att förse dem med listan.
Så tänk hur intimt och påträngande det är för våra barn.
Men utbildningsmäklare är bara ett exempel.
Sanningen är att våra barn blir profilerade
på sätt vi inte kan kontrollera
men det kan avsevärt påverka deras chanser i livet.
Så vi måste fråga oss själva:
Kan vi lita på dessa tekniker när det kommer till att profilera våra barn?
Kan vi?
Mitt svar är nej.
Som antropolog
tror jag att artificiell intelligens och förutsägbar analys kan vara bra
för att förutsäga sjukdomförlopp eller bekämpa klimatförändringar.
Men vi måste överge tron
att dessa tekniker objektivt kan profilera människor
och att vi kan förlita oss på dem att ta datadrivna beslut
om individuella liv.
För de kan inte profilera människor.
Dataspår speglar inte vem vi är.
Människor tänker en sak och säger motsatsen,
känner på ett sätt och beter oss annorlunda.
Algoritmiska förutsägelser eller våra digitala metoder
kan inte redogöra för oförutsägbarheten och komplexiteten i mänsklig erfarenhet.
Och dessutom är dessa tekniker alltid -
alltid på ett eller annat sätt partiska.
Algoritmer är per definition uppsättningar av regler eller steg
som har blivit designade att uppnå ett specifikt resultat, OK?
Men dessa regler och steg kan inte vara objektiva
för de har designats av människor i ett specifikt kulturellt sammanhang
och är formade av specifika kulturella värderingar.
Så när en maskin lär sig, lär den sig utifrån partiska algoritmer
och de lär sig även ofta från partiska databaser.
Just nu ser vi de första exemplen på algoritmisk partiskhet.
Och vissa av dessa exempel är uppriktigt skrämmande.
I år publicerade "Al Now Institute" i New York en rapport
som avslöjade att Al-tekniker som används för prediktivt polisarbete
har tränats på "problematisk" data.
Detta är helt enkelt data som har samlats
under historiska perioder av känd raspartiskhet
och icke-transparent polisarbete.
Eftersom dessa tekniker tränas med "problematisk" data
är de inte objektiva, och deras resultat förstärker bara
polispartiskhet och fel.
Så jag tror att vi står inför ett grundläggande problem
i vårt samhälle.
Vi börjar att lita på teknik när det kommer till att profilera människor.
Vi vet att när man profilerar människor
så kommer teknik alltid att vara partisk
och kommer aldrig att vara riktigt exakt.
Så vad vi behöver nu är faktiskt en politisk lösning.
Vi behöver få regeringar att erkänna att vår data är våra mänskliga rättigheter.
(Applåder och jubel)
Tills detta händer kan vi inte hoppas på en mer rättvis framtid.
Jag oroar mig över att mina döttrar kommer att bli utsatta
för alla möjliga sorter av algoritmisk diskriminering och fel.
Skillnaden mellan mig och mina döttrar
är att det inte finns något offentligt register av min barndom.
Det finns absolut inte någon databas med alla dumma saker jag har gjort
och tänkt när jag var tonåring.
(Skratt)
Men för mina döttrar kan detta vara annorlunda.
Den data som samlas från dem idag
kan komma att användas för att döma dem i framtiden
och kan komma att hindra deras hopp och drömmar.
Jag tycker att det är dags. Det är dags att vi kliver fram.
Det är dags att börja jobba tillsammans
som individer, som organisationer och som institut
och kräva mer datarättvisa för oss och för våra barn innan det är för sent.
Tack så mycket.
(Applåder)