În fiecare zi, în fiecare săptămână, acceptăm termeni și condiții. Când facem asta, oferim companiilor dreptul legal să facă ce vor cu informațiile noastre și ale copiilor noștri. Ceea ce ne face să ne întrebăm: câte informații referitoare la copii oferim, și care sunt implicațiile? Sunt antropolog și mamă a două fetițe. Această întrebare a început să mă intereseze în 2015, când am realizat subit că sunt multe — aproape inimaginabil de multe date care sunt produse și colectate referitoare la copii. Am lansat un proiect de cercetare numit Child Data Citizen, menit să umple spațiile goale. Acum ați putea crede că sunt aici ca să vă învinuiesc că postați poze cu propriii copii pe rețele de socializare, dar nu e acesta scopul. Problema e mult mai mare decât așa-numitul „părin-share”. E vorba de sisteme, nu de indivizi. Nu voi și obiceiurile voastre sunt de vină. Pentru prima oară în istorie, urmărim informații individuale ale copiilor cu mult înainte să se nască — câteodată de la momentul concepției iar după, pe parcursul vieții. Vedeți voi, când părinții decid să conceapă un copil, caută online „moduri de a rămâne însărcinată”, sau descarcă aplicații care urmăresc perioada de ovulație. Când rămân însărcinate, postează ultrasunetele bebelușului pe rețele de socializare, descarcă aplicații pentru graviditate, sau îl consultă pe Dr. Google pentru tot felul de lucruri cum ar fi, știți voi — „risc de pierdere a sarcinii în timpul zborului” sau „crampe abdominale în graviditatea timpurie”. Știu pentru că am făcut și eu asta — de multe ori. Iar după ce bebelușul s-a născut, aplicațiile îi monitorizează somnul, hrănirea, fiecare eveniment din viață cu diferite tehnologii. Și din toate aceste tehnologii, transformă cele mai intime informații despre bebeluș în profit, împărtășindu-le cu alții. Ca să vă dau o idee cum funcționează: în 2019, British Medical Journal a publicat o cercetare care arăta că din 24 de aplicații de mobil pentru sănătate, 19 împărtășeau informațiile cu părți terțe. Iar aceste părți terțe împărtășeau informațiile cu alte 216 organizații. Din aceste 216 organizații, doar trei aparțineau sectorului medical. Celelalte companii care aveau acces la informații erau companii IT, cum ar fi Google, Facebook sau Oracle, erau companii de reclame digitale, era de asemenea și o agenție de raportare a creditului pentru consumatori. Deci ați înțeles: companiile de reclame și de creditare au deja informații despre bebeluși. Dar aplicațiile, căutările web și rețelele de socializare sunt doar vârful aisbergului, pentru că acești copii sunt urmăriți de tehnologii multiple în viețile lor cotidiene. Sunt urmăriți de tehnologii din casă și de asistenți virtuali. Sunt urmăriți de platforme educaționale și de tehnologii educaționale în școli, prin înregistrări online și portaluri online la cabinetul medical. Sunt urmăriți de jucării conectate la internet de jocurile online, și de multe, multe, multe alte tehnologii. În timpul cercetării mele, mulți părinți au venit și mi-au zis: „Și ce dacă? De ce contează dacă ai mei copii sunt urmăriți? Nu avem nimic de ascuns.” Ei bine, contează. Contează pentru că, în ziua de azi, indivizii nu doar că sunt urmăriți, dar se și profită de pe urma lor, în funcție de datele acestora. Inteligența artificială și analiza predictivă sunt folosite pentru a obține cât mai multe informații despre o persoană, din diferite surse: istoria familiei, obiceiuri de cumpărături, comentarii pe rețelele de socializare. Iar ei pun informațiile la un loc pentru a lua decizii bazate pe informațiile unui individ. Iar aceste tehnologii sunt folosite pretutindeni. Băncile pentru a decide acordarea creditelor. În asigurări la calculul primei de asigurare. Cei ce recrutează și angajatorii le folosesc pentru a decide dacă ai profilul potrivit unui job sau nu. Poliția și instanțele le folosesc pentru a determina dacă cineva e un potențial infractor, sau dacă e probabil să recidiveze. Nu avem cunoștințe, nici control asupra felului în care cei care ne cumpără, ne folosesc și ne vând datele ne profilează pe noi și copiii noștri. Dar aceste profile pot să ne afecteze drepturile în moduri însemnate. Ca să vă dau un exemplu: În 2018, „New York Times” a publicat știrea că informațiile strânse prin serviciile de planificare pentru facultate — care sunt completate de milioane de liceeni din Statele Unite, care caută o facultate, o bursă — au fost vândute brokerilor de date educaționale. Cercetătorii de la Fordham care au studiat brokerii de date educaționale au dezvăluit că aceste companii profilau copii chiar și în vârstă de doi ani, pe baza mai multor categorii: etnie, religie, bunăstare, jenă socială, și multe alte categorii aleatorii. Și apoi vând aceste profile, împreună cu numele copilului, adresa de acasă și detaliile de contact, diferitelor companii, inclusiv instituțiilor de meserii și carieră, companiilor de creditare și bancare pentru studenți. Pentru a forța nota, cercetătorii de la Fordham i-au cerut unui broker de informații educaționale să le dea o listă cu fete de 14 până la 15 ani care erau interesate de servicii de planificare familială. Brokerul de informații a fost de acord. Imaginați-vă cât de intim și intruziv e asta pentru copiii noștri. Dar brokerii de informații educaționale sunt doar un exemplu. Adevărul e că copiii noștri sunt profilați în moduri pe care nu le controlăm, dar care pot să le influențeze șansele în viață. Trebuie să ne întrebăm: putem avea încredere în aceste tehnologii în legătură cu profilarea copiilor noștri? Putem? Răspunsul meu e nu. Ca antropolog, cred că inteligența artificială și analiza predictivă sunt grozave când prezic parcursul unei boli sau în combaterea schimbărilor climatice. Dar nu trebuie să credem că aceste tehnologii pot să profileze oamenii în mod obiectiv, și că ne putem baza pe ele pentru a lua decizii bazate pe date vizând viețile individuale. Pentru că nu pot profila oamenii. Informațiile nu sunt oglinda noastră. Oamenii se gândesc la ceva și spun opusul, se simt într-un fel și acționează altfel. Predicțiile algoritmice și practicile digitale nu pot lua în calcul imprevizibilitatea și complexitatea experienței umane. Dar mai presus de atât, aceste tehnologii sunt mereu — mereu — într-un fel sau altul, părtinitoare. Vedeți voi, algoritmii sunt prin definiție o mulțime de reguli și pași care au fost concepuți pentru a obține un anume rezultat, da? Dar aceste reguli sau pași nu pot fi obiectivi pentru că au fost creați de oameni într-un anume context cultural și sunt formate de anumite valori culturale. Deci, când mașinăriile învață, învață prin algoritmi părtinitori și învață adesea din baze de date părtinitoare. În prezent, vedem primele exemple de prejudecăți ale algoritmilor. Iar unele din aceste exemple sunt, sincer, terifiante. Anul acesta, AI Now Institute din New York a publicat un raport care dezvăluie că tehnologiile AI care sunt folosite pentru poliția predictivă au fost antrenate cu informații „murdare”. Practic, informații obținute în perioade istorice cu prejudecăți rasiale și cu practici netransparente ale poliției. Pentru că aceste tehnologii sunt antrenate cu informații „murdare”, acestea nu sunt obiective, iar rezultatele lor doar amplifică și perpetuează prejudecățile și erorile poliției. Cred că avem în față o problemă fundamentală în societatea noastră. Începem să avem încredere în tehnologii, când vine vorba de profilarea oamenilor. Știm că atunci când e vorba de profilarea oamenilor, aceste tehnologii vor avea mereu prejudecăți și niciodată nu vor fi precise cu adevărat. Ce ne trebuie acum este o soluție politică. Guvernele trebuie să admită că drepturile la datele noastre fac parte din drepturile omului. (Aplauze și urale) Până când asta nu se întâmplă, nu putem spera la un viitor mai corect. Mi-e teamă că fiicele mele vor fi expuse la tot felul de discriminări algoritmice și erori. Diferența dintre mine și fiicele mele este că nu există înregistrări publice despre copilăria mea. Nu există o bază de date cu toate prostiile pe care le-am făcut și la care m-am gândit când eram adolescentă. (Râsete) Dar pentru fiicele mele, asta ar putea fi diferit. Informațiile colectate despre ele acum pot fi folosite ca să fie judecate în viitor și pot să le împiedice să-și realizeze speranțele și visele. Cred că a venit timpul. Trebuie pus piciorul în prag. E vremea să lucrăm împreună, ca indivizi, ca organizații, ca instituții și să cerem dreptate pentru datele noastre și pentru copiii noștri, înainte să fie prea târziu. Vă mulțumesc! (Aplauze)