În fiecare zi, în fiecare săptămână,
acceptăm termeni și condiții.
Când facem asta,
oferim companiilor dreptul legal
să facă ce vor cu informațiile noastre
și ale copiilor noștri.
Ceea ce ne face să ne întrebăm:
câte informații referitoare la copii oferim,
și care sunt implicațiile?
Sunt antropolog
și mamă a două fetițe.
Această întrebare a început să mă intereseze în 2015,
când am realizat subit că sunt multe —
aproape inimaginabil de multe date care sunt produse și colectate
referitoare la copii.
Am lansat un proiect de cercetare
numit Child Data Citizen,
menit să umple spațiile goale.
Acum ați putea crede că sunt aici ca să vă învinuiesc
că postați poze cu propriii copii pe rețele de socializare,
dar nu e acesta scopul.
Problema e mult mai mare decât așa-numitul „părin-share”.
E vorba de sisteme, nu de indivizi.
Nu voi și obiceiurile voastre sunt de vină.
Pentru prima oară în istorie,
urmărim informații individuale ale copiilor
cu mult înainte să se nască —
câteodată de la momentul concepției
iar după, pe parcursul vieții.
Vedeți voi, când părinții decid să conceapă un copil,
caută online „moduri de a rămâne însărcinată”,
sau descarcă aplicații care urmăresc perioada de ovulație.
Când rămân însărcinate,
postează ultrasunetele bebelușului pe rețele de socializare,
descarcă aplicații pentru graviditate,
sau îl consultă pe Dr. Google pentru tot felul de lucruri
cum ar fi, știți voi —
„risc de pierdere a sarcinii în timpul zborului”
sau „crampe abdominale în graviditatea timpurie”.
Știu pentru că am făcut și eu asta —
de multe ori.
Iar după ce bebelușul s-a născut, aplicațiile îi monitorizează somnul,
hrănirea,
fiecare eveniment din viață cu diferite tehnologii.
Și din toate aceste tehnologii,
transformă cele mai intime informații despre bebeluș în profit,
împărtășindu-le cu alții.
Ca să vă dau o idee cum funcționează:
în 2019, British Medical Journal a publicat o cercetare care arăta
că din 24 de aplicații de mobil pentru sănătate,
19 împărtășeau informațiile cu părți terțe.
Iar aceste părți terțe împărtășeau informațiile cu alte 216 organizații.
Din aceste 216 organizații,
doar trei aparțineau sectorului medical.
Celelalte companii care aveau acces la informații erau companii IT,
cum ar fi Google, Facebook sau Oracle,
erau companii de reclame digitale,
era de asemenea și o agenție de raportare a creditului pentru consumatori.
Deci ați înțeles:
companiile de reclame și de creditare au deja informații despre bebeluși.
Dar aplicațiile, căutările web și rețelele de socializare
sunt doar vârful aisbergului,
pentru că acești copii sunt urmăriți de tehnologii multiple
în viețile lor cotidiene.
Sunt urmăriți de tehnologii din casă și de asistenți virtuali.
Sunt urmăriți de platforme educaționale
și de tehnologii educaționale în școli,
prin înregistrări online
și portaluri online la cabinetul medical.
Sunt urmăriți de jucării conectate la internet
de jocurile online,
și de multe, multe, multe alte tehnologii.
În timpul cercetării mele,
mulți părinți au venit și mi-au zis: „Și ce dacă?
De ce contează dacă ai mei copii sunt urmăriți?
Nu avem nimic de ascuns.”
Ei bine, contează.
Contează pentru că, în ziua de azi, indivizii nu doar că sunt urmăriți,
dar se și profită de pe urma lor, în funcție de datele acestora.
Inteligența artificială și analiza predictivă sunt folosite
pentru a obține cât mai multe informații despre o persoană,
din diferite surse: istoria familiei,
obiceiuri de cumpărături, comentarii pe rețelele de socializare.
Iar ei pun informațiile la un loc
pentru a lua decizii bazate pe informațiile unui individ.
Iar aceste tehnologii sunt folosite pretutindeni.
Băncile pentru a decide acordarea creditelor.
În asigurări la calculul primei de asigurare.
Cei ce recrutează și angajatorii le folosesc
pentru a decide dacă ai profilul potrivit unui job sau nu.
Poliția și instanțele le folosesc
pentru a determina dacă cineva e un potențial infractor,
sau dacă e probabil să recidiveze.
Nu avem cunoștințe, nici control
asupra felului în care cei care ne cumpără, ne folosesc și ne vând datele
ne profilează pe noi și copiii noștri.
Dar aceste profile pot să ne afecteze drepturile în moduri însemnate.
Ca să vă dau un exemplu:
În 2018, „New York Times” a publicat știrea
că informațiile strânse
prin serviciile de planificare pentru facultate —
care sunt completate de milioane de liceeni din Statele Unite,
care caută o facultate, o bursă —
au fost vândute brokerilor de date educaționale.
Cercetătorii de la Fordham care au studiat brokerii de date educaționale
au dezvăluit că aceste companii profilau copii chiar și în vârstă de doi ani,
pe baza mai multor categorii:
etnie, religie, bunăstare,
jenă socială,
și multe alte categorii aleatorii.
Și apoi vând aceste profile, împreună cu numele copilului,
adresa de acasă și detaliile de contact,
diferitelor companii,
inclusiv instituțiilor de meserii și carieră,
companiilor de creditare
și bancare pentru studenți.
Pentru a forța nota,
cercetătorii de la Fordham i-au cerut unui broker de informații educaționale
să le dea o listă cu fete de 14 până la 15 ani
care erau interesate de servicii de planificare familială.
Brokerul de informații a fost de acord.
Imaginați-vă cât de intim și intruziv e asta pentru copiii noștri.
Dar brokerii de informații educaționale sunt doar un exemplu.
Adevărul e că copiii noștri sunt profilați în moduri pe care nu le controlăm,
dar care pot să le influențeze șansele în viață.
Trebuie să ne întrebăm:
putem avea încredere în aceste tehnologii în legătură cu profilarea copiilor noștri?
Putem?
Răspunsul meu e nu.
Ca antropolog,
cred că inteligența artificială și analiza predictivă sunt grozave
când prezic parcursul unei boli
sau în combaterea schimbărilor climatice.
Dar nu trebuie să credem
că aceste tehnologii pot să profileze oamenii în mod obiectiv,
și că ne putem baza pe ele pentru a lua decizii bazate pe date
vizând viețile individuale.
Pentru că nu pot profila oamenii.
Informațiile nu sunt oglinda noastră.
Oamenii se gândesc la ceva și spun opusul,
se simt într-un fel și acționează altfel.
Predicțiile algoritmice și practicile digitale
nu pot lua în calcul imprevizibilitatea și complexitatea experienței umane.
Dar mai presus de atât,
aceste tehnologii sunt mereu —
mereu —
într-un fel sau altul, părtinitoare.
Vedeți voi, algoritmii sunt prin definiție o mulțime de reguli și pași
care au fost concepuți pentru a obține un anume rezultat, da?
Dar aceste reguli sau pași nu pot fi obiectivi
pentru că au fost creați de oameni
într-un anume context cultural
și sunt formate de anumite valori culturale.
Deci, când mașinăriile învață,
învață prin algoritmi părtinitori
și învață adesea din baze de date părtinitoare.
În prezent, vedem primele exemple de prejudecăți ale algoritmilor.
Iar unele din aceste exemple sunt, sincer, terifiante.
Anul acesta, AI Now Institute din New York a publicat un raport
care dezvăluie că tehnologiile AI
care sunt folosite pentru poliția predictivă
au fost antrenate cu informații „murdare”.
Practic, informații obținute
în perioade istorice cu prejudecăți rasiale
și cu practici netransparente ale poliției.
Pentru că aceste tehnologii sunt antrenate cu informații „murdare”,
acestea nu sunt obiective,
iar rezultatele lor doar amplifică și perpetuează
prejudecățile și erorile poliției.
Cred că avem în față o problemă fundamentală
în societatea noastră.
Începem să avem încredere în tehnologii, când vine vorba de profilarea oamenilor.
Știm că atunci când e vorba de profilarea oamenilor,
aceste tehnologii vor avea mereu prejudecăți
și niciodată nu vor fi precise cu adevărat.
Ce ne trebuie acum este o soluție politică.
Guvernele trebuie să admită că drepturile la datele noastre
fac parte din drepturile omului.
(Aplauze și urale)
Până când asta nu se întâmplă, nu putem spera la un viitor mai corect.
Mi-e teamă că fiicele mele vor fi expuse
la tot felul de discriminări algoritmice și erori.
Diferența dintre mine și fiicele mele
este că nu există înregistrări publice despre copilăria mea.
Nu există o bază de date cu toate prostiile pe care le-am făcut
și la care m-am gândit când eram adolescentă.
(Râsete)
Dar pentru fiicele mele, asta ar putea fi diferit.
Informațiile colectate despre ele acum
pot fi folosite ca să fie judecate în viitor
și pot să le împiedice să-și realizeze speranțele și visele.
Cred că a venit timpul.
Trebuie pus piciorul în prag.
E vremea să lucrăm împreună,
ca indivizi,
ca organizații, ca instituții
și să cerem dreptate pentru datele noastre
și pentru copiii noștri,
înainte să fie prea târziu.
Vă mulțumesc!
(Aplauze)