Vad teknikföretag vet om dina barn

De digitala plattformarna du och din familj använder varje dag - från spel online till utbildningsappar och medicinska portaler - kanske samlar och säljer dina barns data, säger antropologen Veronica Barassi. Genom att dela hennes ögonöppnande forskning uppmanar Barassi föräldrar att titta en gång till på digitala villkor istället för att blint acceptera dem - och att kräva skydd som försäkrar att deras barns data inte förvränger deras framtid.

Varje dag, varje vecka,

godkänner vi villkor.

Och när gör vi detta
förser vi företag med den lagliga rätten

att göra vad de vill med våran data
och med våra barns data.

Vilket får oss att undra:

hur mycket data ger vi bort om barn,
och vad får det för konsekvenser?

Jag är antropolog och jag är även mamma
till två små flickor.

Och jag började bli intresserad
av denna fråga år 2015

när jag plötsligt insåg
att det fanns stora -

nästan otroliga mängder dataspår

som produceras och samlas om barn.

Så jag lanserade ett forskningsprojekt
som heter Child Data Citizen

och jag siktade på att fylla tomrummen.

Nu kanske du tror att
jag är här för att skylla på er

för att ni lägger upp bilder
på era barn på sociala medier

men det är inte riktigt poängen.

Problemet är mycket större
än så kallat "sharenting."

Detta handlar om system, inte individer.

Du och dina vanor är inte att skylla på.

För första gången i historien

spårar vi individuell data om barn
från långt innan de är födda -

ibland från befruktningsögonblicket,
och sedan genom deras liv.

Du förstår, när föräldrar bestämmer sig
för att skaffa barn

går de online för att söka på
"sätt att bli gravid,"

eller så laddar de ned appar
för ägglossningsspårning.

När de blir gravida

postar de ultraljud av sina
bäbisar på sociala medier,

de laddar ned graviditetsappar

eller så konsulterar de dr Google
om alla möjliga saker,

som, du vet -
om "missfallsrisk när man flyger"

eller "magkrämpor i tidig graviditet."

Jag vet för jag har gjort det -
och många gånger.

Och när är barnet fött
spårar de varje tupplur, varje matning,

varje liten livshändelse
med olika tekniker.

Och alla dessa tekniker

transformerar bäbisens mest intima
beteende- och hälsodata till vinst

genom att dela det med andra.

Så för att ge er en aning om
hur detta fungerar,

2019 publicerade "British Medical Journal"
forskning som visade

att av 24 hälsoappar,

delade 19 information med en tredje part.

Och dessa tredje parter delade information
med 216 andra organisationer.

Av dessa 216 fjärde parterna

ingick bara tre i sjukvårdssektorn.

De andra företagen som hade tillgång
till datan var stora teknikföretag

som Google, Facebook eller Oracle,

de var digitala reklamföretag

och det fanns även en
konsumentkreditrapporteringsbyrå.

Så du förstår:

reklambyråer och kreditbyråer har redan
datapunkter på små bäbisar.

Men mobilappar,
webbsökningar och sociala medier

är bara toppen av isberget

eftersom barn blir spårade
av flera tekniker i vardagslivet.

De spåras av hemtekniker
och virtuella assistenter hemma.

De spåras av utbildningsplattformar
och utbildningstekniker i sina skolor.

De spåras av uppgifter online
och onlineportaler hos doktorn.

De spåras av sina
internetanslutna leksaker, onlinespel

och många, många, många,
många andra tekniker.

Så under min forskning

kom många föräldrar fram till mig
och sa:"Så vadå?

Varför spelar det roll
att mina barn blir spårade?

Vi har inget att dölja."

Det spelar roll.

Det spelar roll för att dagens individer
inte bara blir spårade,

de blir även profilerade
på grundval av sina dataspår.

Artificiell intelligens
och förutsägbar analys används

för att samla in så mycket data
som möjligt om ett individuellt liv

från olika källor:

familjehistoria, köpvanor,
kommentarer på sociala medier.

Och sedan samlar de all denna data

för att skapa datadrivna beslut
om individen.

Och dessa tekniker används överallt.

Banker använder dem för att
besluta om lån.

Försäkringar använder dem för att
besluta om premier.

Rekryterare och arbetsgivare använder dem

för att besluta om någon
är passande för ett jobb eller inte.

Även polisen och rätten använder dem

för att bestämma om någon
är en potentiell kriminell

eller är sannolik att
begå ett brott igen.

Vi har ingen kunskap eller kontroll

över de sätt som de som köper,
säljer och bearbetar våran data

profilerar oss och våra barn.

Men dessa profiler kan komma att påverka
våra rättigheter på betydelsefulla sätt.

För att ge ett exempel,

2018 publicerade "New York Times"
nyheten att datan som samlats in

genom online
högskoleplanerande tjänster -

som faktiskt används av miljoner
skolbarn över USA

som letar efter ett högskoleprogram
eller ett stipendium -

hade sålts ut till utbildningsmäklare.

Forskare på Fordham som studerade
utbildningsmäklare har nu

avslöjat att dessa företag
profilerar barn så unga som 2 år

utifrån olika kategorier:

etnicitet, religion, välstånd,
sociala besvärligheter

och många andra slumpmässiga kategorier.

Och sedan säljer de dessa profiler
tillsammans med barnets namn,

deras hemadress och kontaktuppgifter
till olika företag

inklusive handels- och
karriärinstitutioner,

studentlån och kreditkortsföretag
för studenter.

För att skjuta på gränserna

bad forskarna på Fordham
en utbildningsmäklare

att förse dem med en lista
på 14- till 15-åriga flickor

som var intresserade av
familjeplanerande tjänster.

Datamäklaren gick med på att
förse dem med listan.

Så tänk hur intimt
och påträngande det är för våra barn.

Men utbildningsmäklare
är bara ett exempel.

Sanningen är att våra barn
blir profilerade

på sätt vi inte kan kontrollera

men det kan avsevärt påverka
deras chanser i livet.

Så vi måste fråga oss själva:

Kan vi lita på dessa tekniker när det
kommer till att profilera våra barn?

Kan vi?

Mitt svar är nej.

Som antropolog

tror jag att artificiell intelligens
och förutsägbar analys kan vara bra

för att förutsäga sjukdomförlopp
eller bekämpa klimatförändringar.

Men vi måste överge tron

att dessa tekniker
objektivt kan profilera människor

och att vi kan förlita oss på dem
att ta datadrivna beslut

om individuella liv.

För de kan inte profilera människor.

Dataspår speglar inte vem vi är.

Människor tänker en sak
och säger motsatsen,

känner på ett sätt
och beter oss annorlunda.

Algoritmiska förutsägelser
eller våra digitala metoder

kan inte redogöra för oförutsägbarheten
och komplexiteten i mänsklig erfarenhet.

Och dessutom är dessa tekniker alltid -

alltid på ett eller annat sätt partiska.

Algoritmer är per definition
uppsättningar av regler eller steg

som har blivit designade att uppnå
ett specifikt resultat, OK?

Men dessa regler och steg
kan inte vara objektiva

för de har designats av människor
i ett specifikt kulturellt sammanhang

och är formade
av specifika kulturella värderingar.

Så när en maskin lär sig,
lär den sig utifrån partiska algoritmer

och de lär sig även ofta
från partiska databaser.

Just nu ser vi de första exemplen
på algoritmisk partiskhet.

Och vissa av dessa exempel
är uppriktigt skrämmande.

I år publicerade "Al Now Institute"
i New York en rapport

som avslöjade att Al-tekniker
som används för prediktivt polisarbete

har tränats på "problematisk" data.

Detta är helt enkelt data som har samlats

under historiska perioder
av känd raspartiskhet

och icke-transparent polisarbete.

Eftersom dessa tekniker
tränas med "problematisk" data

är de inte objektiva,
och deras resultat förstärker bara

polispartiskhet och fel.

Så jag tror att vi står inför
ett grundläggande problem

i vårt samhälle.

Vi börjar att lita på teknik när det
kommer till att profilera människor.

Vi vet att när man profilerar människor

så kommer teknik alltid att vara partisk

och kommer aldrig att vara riktigt exakt.

Så vad vi behöver nu
är faktiskt en politisk lösning.

Vi behöver få regeringar att erkänna att
vår data är våra mänskliga rättigheter.

(Applåder och jubel)

Tills detta händer kan vi inte hoppas
på en mer rättvis framtid.

Jag oroar mig över att mina döttrar
kommer att bli utsatta

för alla möjliga sorter av
algoritmisk diskriminering och fel.

Skillnaden mellan mig och mina döttrar

är att det inte finns något offentligt
register av min barndom.

Det finns absolut inte någon databas
med alla dumma saker jag har gjort

och tänkt när jag var tonåring.

(Skratt)

Men för mina döttrar
kan detta vara annorlunda.

Den data som samlas från dem idag

kan komma att användas
för att döma dem i framtiden

och kan komma att hindra
deras hopp och drömmar.

Jag tycker att det är dags.
Det är dags att vi kliver fram.

Det är dags att börja jobba tillsammans

som individer, som organisationer
och som institut

och kräva mer datarättvisa för oss
och för våra barn innan det är för sent.

Tack så mycket.

(Applåder)