Ce știu companiile IT despre copiii tăi

Platformele digitale pe care voi și familia voastră le folosiți în fiecare zi — de la jocuri online, la aplicații educaționale și site-uri medicale — pot să colecteze și să vândă informații despre copiii voștri, spune antropologa Veronica Barassi. Împărtășind cercetările sale revelatoare, Barassi le cere părinților să se uite de două ori peste termenii și condițiile digitale, în loc să le accepte orbește — și să ceară ca informațiile despre copiii lor să nu fie folosite astfel încât să le afecteze viitorul.

În fiecare zi, în fiecare săptămână,

acceptăm termeni și condiții.

Când facem asta,

oferim companiilor dreptul legal

să facă ce vor cu informațiile noastre

și ale copiilor noștri.

Ceea ce ne face să ne întrebăm:

câte informații
referitoare la copii oferim,

și care sunt implicațiile?

Sunt antropolog

și mamă a două fetițe.

Această întrebare a început
să mă intereseze în 2015,

când am realizat subit că sunt multe —

aproape inimaginabil de multe date
care sunt produse și colectate

referitoare la copii.

Am lansat un proiect de cercetare

numit Child Data Citizen,

menit să umple spațiile goale.

Acum ați putea crede că sunt aici
ca să vă învinuiesc

că postați poze cu propriii copii
pe rețele de socializare,

dar nu e acesta scopul.

Problema e mult mai mare
decât așa-numitul „părin-share”.

E vorba de sisteme, nu de indivizi.

Nu voi și obiceiurile voastre
sunt de vină.

Pentru prima oară în istorie,

urmărim informații individuale
ale copiilor

cu mult înainte să se nască —

câteodată de la momentul concepției

iar după, pe parcursul vieții.

Vedeți voi, când părinții decid
să conceapă un copil,

caută online „moduri de a rămâne
însărcinată”,

sau descarcă aplicații care urmăresc
perioada de ovulație.

Când rămân însărcinate,

postează ultrasunetele
bebelușului pe rețele de socializare,

descarcă aplicații pentru graviditate,

sau îl consultă pe Dr. Google
pentru tot felul de lucruri

cum ar fi, știți voi —

„risc de pierdere a sarcinii
în timpul zborului”

sau „crampe abdominale
în graviditatea timpurie”.

Știu pentru că am făcut și eu asta —

de multe ori.

Iar după ce bebelușul s-a născut,
aplicațiile îi monitorizează somnul,

hrănirea,

fiecare eveniment din viață
cu diferite tehnologii.

Și din toate aceste tehnologii,

transformă cele mai intime informații
despre bebeluș în profit,

împărtășindu-le cu alții.

Ca să vă dau o idee cum funcționează:

în 2019, British Medical Journal
a publicat o cercetare care arăta

că din 24 de aplicații de mobil
pentru sănătate,

19 împărtășeau informațiile
cu părți terțe.

Iar aceste părți terțe împărtășeau
informațiile cu alte 216 organizații.

Din aceste 216 organizații,

doar trei aparțineau sectorului medical.

Celelalte companii care aveau acces
la informații erau companii IT,

cum ar fi Google, Facebook sau Oracle,

erau companii de reclame digitale,

era de asemenea și o agenție de raportare
a creditului pentru consumatori.

Deci ați înțeles:

companiile de reclame și de creditare
au deja informații despre bebeluși.

Dar aplicațiile, căutările web
și rețelele de socializare

sunt doar vârful aisbergului,

pentru că acești copii sunt urmăriți
de tehnologii multiple

în viețile lor cotidiene.

Sunt urmăriți de tehnologii din casă
și de asistenți virtuali.

Sunt urmăriți de platforme educaționale

și de tehnologii educaționale în școli,

prin înregistrări online

și portaluri online la cabinetul medical.

Sunt urmăriți de jucării conectate
la internet

de jocurile online,

și de multe, multe, multe alte tehnologii.

În timpul cercetării mele,

mulți părinți au venit
și mi-au zis: „Și ce dacă?

De ce contează dacă ai mei copii
sunt urmăriți?

Nu avem nimic de ascuns.”

Ei bine, contează.

Contează pentru că, în ziua de azi,
indivizii nu doar că sunt urmăriți,

dar se și profită de pe urma lor,
în funcție de datele acestora.

Inteligența artificială și analiza
predictivă sunt folosite

pentru a obține cât mai multe informații
despre o persoană,

din diferite surse: istoria familiei,

obiceiuri de cumpărături,
comentarii pe rețelele de socializare.

Iar ei pun informațiile la un loc

pentru a lua decizii bazate
pe informațiile unui individ.

Iar aceste tehnologii sunt folosite
pretutindeni.

Băncile pentru a decide
acordarea creditelor.

În asigurări la calculul
primei de asigurare.

Cei ce recrutează și angajatorii
le folosesc

pentru a decide dacă ai profilul potrivit
unui job sau nu.

Poliția și instanțele le folosesc

pentru a determina dacă cineva
e un potențial infractor,

sau dacă e probabil să recidiveze.

Nu avem cunoștințe, nici control

asupra felului în care cei care
ne cumpără, ne folosesc și ne vând datele

ne profilează pe noi și copiii noștri.

Dar aceste profile pot să ne afecteze
drepturile în moduri însemnate.

Ca să vă dau un exemplu:

În 2018, „New York Times”
a publicat știrea

că informațiile strânse

prin serviciile de planificare
pentru facultate —

care sunt completate de milioane
de liceeni din Statele Unite,

care caută o facultate, o bursă —

au fost vândute brokerilor
de date educaționale.

Cercetătorii de la Fordham care au
studiat brokerii de date educaționale

au dezvăluit că aceste companii profilau
copii chiar și în vârstă de doi ani,

pe baza mai multor categorii:

etnie, religie, bunăstare,

jenă socială,

și multe alte categorii aleatorii.

Și apoi vând aceste profile,
împreună cu numele copilului,

adresa de acasă și detaliile de contact,

diferitelor companii,

inclusiv instituțiilor de meserii
și carieră,

companiilor de creditare

și bancare pentru studenți.

Pentru a forța nota,

cercetătorii de la Fordham i-au cerut
unui broker de informații educaționale

să le dea o listă
cu fete de 14 până la 15 ani

care erau interesate de servicii
de planificare familială.

Brokerul de informații a fost de acord.

Imaginați-vă cât de intim și intruziv
e asta pentru copiii noștri.

Dar brokerii de informații educaționale
sunt doar un exemplu.

Adevărul e că copiii noștri sunt profilați
în moduri pe care nu le controlăm,

dar care pot să le influențeze
șansele în viață.

Trebuie să ne întrebăm:

putem avea încredere în aceste tehnologii
în legătură cu profilarea copiilor noștri?

Putem?

Răspunsul meu e nu.

Ca antropolog,

cred că inteligența artificială
și analiza predictivă sunt grozave

când prezic parcursul unei boli

sau în combaterea schimbărilor climatice.

Dar nu trebuie să credem

că aceste tehnologii pot să profileze
oamenii în mod obiectiv,

și că ne putem baza pe ele
pentru a lua decizii bazate pe date

vizând viețile individuale.

Pentru că nu pot profila oamenii.

Informațiile nu sunt oglinda noastră.

Oamenii se gândesc la ceva
și spun opusul,

se simt într-un fel și acționează altfel.

Predicțiile algoritmice
și practicile digitale

nu pot lua în calcul imprevizibilitatea
și complexitatea experienței umane.

Dar mai presus de atât,

aceste tehnologii sunt mereu —

mereu —

într-un fel sau altul, părtinitoare.

Vedeți voi, algoritmii sunt prin definiție
o mulțime de reguli și pași

care au fost concepuți pentru a obține
un anume rezultat, da?

Dar aceste reguli sau pași
nu pot fi obiectivi

pentru că au fost creați de oameni

într-un anume context cultural

și sunt formate
de anumite valori culturale.

Deci, când mașinăriile învață,

învață prin algoritmi părtinitori

și învață adesea din baze de date
părtinitoare.

În prezent, vedem primele exemple
de prejudecăți ale algoritmilor.

Iar unele din aceste exemple sunt,
sincer, terifiante.

Anul acesta, AI Now Institute
din New York a publicat un raport

care dezvăluie că tehnologiile AI

care sunt folosite
pentru poliția predictivă

au fost antrenate cu informații „murdare”.

Practic, informații obținute

în perioade istorice
cu prejudecăți rasiale

și cu practici netransparente
ale poliției.

Pentru că aceste tehnologii sunt
antrenate cu informații „murdare”,

acestea nu sunt obiective,

iar rezultatele lor doar amplifică
și perpetuează

prejudecățile și erorile poliției.

Cred că avem în față
o problemă fundamentală

în societatea noastră.

Începem să avem încredere în tehnologii,
când vine vorba de profilarea oamenilor.

Știm că atunci când e vorba
de profilarea oamenilor,

aceste tehnologii vor avea mereu
prejudecăți

și niciodată nu vor fi precise
cu adevărat.

Ce ne trebuie acum
este o soluție politică.

Guvernele trebuie să admită
că drepturile la datele noastre

fac parte din drepturile omului.

(Aplauze și urale)

Până când asta nu se întâmplă,
nu putem spera la un viitor mai corect.

Mi-e teamă că fiicele mele vor fi expuse

la tot felul de discriminări algoritmice
și erori.

Diferența dintre mine și fiicele mele

este că nu există înregistrări publice
despre copilăria mea.

Nu există o bază de date
cu toate prostiile pe care le-am făcut

și la care m-am gândit
când eram adolescentă.

(Râsete)

Dar pentru fiicele mele,
asta ar putea fi diferit.

Informațiile colectate despre ele acum

pot fi folosite ca să fie judecate
în viitor

și pot să le împiedice să-și realizeze
speranțele și visele.

Cred că a venit timpul.

Trebuie pus piciorul în prag.

E vremea să lucrăm împreună,

ca indivizi,

ca organizații, ca instituții

și să cerem dreptate pentru datele noastre

și pentru copiii noștri,

înainte să fie prea târziu.

Vă mulțumesc!

(Aplauze)