Co firmy technologiczne wiedzą o twoich dzieciach

„Platformy cyfrowe, których ty i twoja rodzina używacie każdego dnia, od gier internetowych aż po aplikacje edukacyjne i portale medyczne, mogą gromadzić i sprzedawać dane twoich dzieci”, mówi antropolog, Veronica Barassi. Dzieląc się swoim odkrywczym badaniem, Barassi nakłania rodziców, żeby zwrócili uwagę na cyfrowe warunki i zasady, zamiast ślepego ich akceptowania oraz żeby domagali się ochrony gwarantującej im, że dane ich dzieci nie wypaczą ich przyszłości.

Każdego dnia, każdego tygodnia,

akceptujemy różne warunki.

Robiąc to,

udzielamy firmom prawa

do dowolnego dysponowania naszymi danymi

oraz danymi naszych dzieci.

Dlatego też zastanawiamy się,

jak wiele danych naszych dzieci oddajemy

i jakie są tego konsekwencje?

Jestem antropologiem

oraz matką dwóch małych dziewczynek.

Zaczęłam się interesować
tym problemem w roku 2015,

kiedy to nagle uświadomiłam sobie,
jak ogromna jest, prawie niewyobrażalna,

ilość danych produkowanych
i gromadzonych na temat dzieci.

Dlatego zaczęłam projekt badawczy,

który nazwałam Child Data Citizen,

żeby dowiedzieć się czegoś więcej.

Możecie pomyśleć,
że jestem tu, żeby was obwiniać

za umieszczanie zdjęć swoich dzieci
w mediach społecznościowych,

ale nie o to chodzi.

Problem jest o wiele większy
niż "sharenting",

czyli udostępnianie treści przez rodziców.

Problem tkwi w systemie, nie w ludziach.

Wy i wasze nawyki
nie jesteście temu winni.

Pierwszy raz w historii

śledzimy dane osobowe dzieci

jeszcze przed ich narodzinami,

czasem od momentu poczęcia,

a potem przez całe ich życie.

Kiedy rodzice decydują się na dziecko,

szukają w Internecie
sposobów na zajście w ciążę

albo ściągają aplikacje
do śledzenia owulacji.

Kiedy w końcu udaje się zajść w ciążę,

zamieszczają USG swoich dzieci
w mediach społecznościowych,

ściągają aplikacje ciążowe

albo konsultują się z doktorem Google
na temat różnych rzeczy,

takich jak

ryzyko poronienia podczas lotu

albo skurcze brzucha na początku ciąży.

Wiem to, bo przez to przeszłam.

Wiele razy.

A kiedy dziecko się narodzi,

monitorują każdą drzemkę, każde karmienie,

każde wydarzenie,
za pomocą różnych technologii.

Te wszystkie technologie

zamieniają najbardziej prywatne dane
o zachowaniu i zdrowiu dziecka w zysk

poprzez udostępnianie ich innym.

Podam przykład tego, jak to działa.

W roku 2019 British Medical Journal
opublikował badanie,

które pokazało, że spośród
24 mobilnych aplikacji zdrowotnych

19 udostępniało informacje innym firmom.

Te z kolei udostępniały je
216 innym organizacjom.

Wśród tych 216 organizacji były tylko trzy

które należały
do sektora opieki zdrowotnej.

Pozostałe firmy,
które miały dostęp do tych danych,

były dużymi firmami technologicznymi

takimi jak Google, Facebook czy Oracle.

Były wśród nich także agencje reklamowe

oraz agencja sprawozdawczości kredytowej.

Właśnie tak.

Agencje reklamowe i kredytowe

mogą być już w posiadaniu
danych na temat małych dzieci.

Mobilne aplikacje, wyszukiwania w sieci
oraz media społecznościowe

są tylko wierzchołkiem góry lodowej,

ponieważ dzieci są śledzone
przez różnorakie technologie

w ich codziennym życiu.

Są śledzone przez domowe urządzenia
i asystentów wirtualnych w domach.

Są śledzone przez platformy
i technologie edukacyjne w szkołach.

Są śledzone przez internetową
dokumentację medyczną

i portale internetowe
w gabinetach lekarskich.

Są śledzone przez zabawki
połączone z Internetem,

gry internetowe

i wiele innych technologii.

Podczas moich badań

wielu rodziców pytało mnie: "I co z tego?

Czy to ważne, że moje dzieci są śledzone?

Nie mamy nic do ukrycia".

Otóż to ma znaczenie.

To ma znaczenie, bo dzisiaj
ludzie są nie tylko śledzeni,

ale także profilowani
na podstawie zebranych danych.

Używa się sztucznej inteligencji
i analizy prognostycznej,

żeby pozyskać jak największą
ilość danych na temat życia danej osoby,

opierając się o różne źródła:

historię rodziny, nawyki zakupowe,

komentarze w mediach społecznościowych.

Następnie łączy się te dane
w celu wykorzystania ich

przy podejmowaniu decyzji
dotyczących danej osoby.

Te technologie są używane wszędzie.

Banki używają ich
przy udzielaniu kredytów,

ubezpieczyciele - przy kalkulacji zniżek,

a rekruterzy i pracodawcy używają ich,

żeby sprawdzić,
czy ktoś nadaje się do pracy.

Także policja i sądy ich używają

przy określaniu
potencjalnych kryminalistów

lub prawdopodobieństwa
ponownego popełnienia zbrodni.

Nie mamy żadnej wiedzy i kontroli nad tym,

w jaki sposób ci, którzy kupują,
sprzedają i przetwarzają nasze dane

profilują nas i nasze dzieci.

Jednak te profile mogą mieć
znaczący wpływ na nasze prawa.

Podam przykład.

W roku 2018 "New York Times"
opublikował informacje,

że dane zebrane z internetowych
formularzy planowania edukacji,

wypełnianych przez miliony
amerykańskich licealistów,

którzy szukają szkoły lub stypendium,

zostały sprzedane brokerom
danych edukacyjnych.

Ponadto naukowcy z uniwersytetu Fordham,
którzy zbadali brokerów z tego sektora,

ujawnili, że te firmy profilowały
nawet dwuletnie dzieci

na podstawie takich kategorii jak:

pochodzenie etniczne, religia, zamożność,

niedostosowanie społeczne

oraz wiele innych losowych kategorii.

Następnie sprzedają te profile
razem z danymi osobowymi dziecka,

ich adresem zamieszkania
i danymi kontaktowymi,

różnym firmom,

między innymi agencjom handlu
i biurom karier,

firmom zajmującym się pożyczkami
i kartami kredytowymi dla studentów.

Żeby wyznaczyć nowe granice,

naukowcy z Fordham poprosili
brokera danych edukacyjnych

o listę dziewczyn w wieku od 14 do 15 lat,

które interesowały się usługami
w zakresie planowania rodziny.

Broker zgodził się
na dostarczenie takiej listy.

Wyobraźcie sobie, jak bardzo narusza to
prywatność naszych dzieci.

Ale brokerzy danych edukacyjnych
to tylko jeden z przykładów.

Prawda jest taka,

że nie jesteśmy w stanie kontrolować,
w jaki sposób dzieci są profilowane,

a to może mieć
znaczący wpływ na ich życie.

Musimy zadać sobie pytanie:

Czy możemy ufać tym technologiom
w kwestii profilowania naszych dzieci?

Możemy?

Moja odpowiedź brzmi: nie.

Jako antropolog wierzę,

że sztuczna inteligencja
i analiza prognostyczna

mogą być bardzo pomocne
w przewidywaniu przebiegu choroby

albo w walce ze zmianami klimatycznymi.

Jednak musimy porzucić wiarę w to,

że te technologie
mogą obiektywnie profilować ludzi

i że możemy polegać na nich

przy podejmowaniu
kluczowych decyzji życiowych,

dlatego, że one
nie potrafią profilować ludzi.

Dane nie są odbiciem lustrzanym
tego, kim jesteśmy.

Ludzie myślą jedno, a mówią drugie,

postępują inaczej niż czują.

Prognozy algorytmiczne
czy nasze praktyki cyfrowe

nie biorą pod uwagę nieprzewidywalności
oraz złożoności ludzkich doświadczeń.

Dodatkowo

te technologie są zawsze,

zawsze,

w jakimś stopniu stronnicze.

Algorytmy są z definicji
zbiorem zasad i instrukcji,

które zostały zaprojektowane
w konkretnym celu.

Jednak te zbiory zasad i instrukcji
nie są obiektywne,

ponieważ są zaprojektowane przez ludzi

w konkretnym kontekście kulturowym

i są ukształtowane
przez konkretne wartości kulturowe.

Kiedy maszyny się uczą,

opierają się na stronniczych algorytmach,

a często także na stronniczych
bazach danych.

Obecnie widzimy pierwsze przykłady
przechyłów algorytmicznych.

Niektóre z tych przykładów
są przerażające.

W tym roku instytut AI Now Institute
z Nowego Jorku opublikował raport,

który ujawnił, że technologie AI

używane do prewencji przestępstw

działały w oparciu o "brudne" dane.

Są to dane zgromadzone

w okresie wyraźnych uprzedzeń rasowych

i nietransparentnych praktyk policyjnych.

Ponieważ te technologie
używają "brudnych" danych,

nie są obiektywne,

a rezultaty ich działań
tylko wzmacniają i przyczyniają się

do policyjnej stronniczości i pomyłek.

Dlatego myślę, że stoimy

w obliczu fundamentalnego problemu
naszego społeczeństwa.

Zaczynamy ufać technologiom,
jeśli chodzi o profilowanie ludzi.

Wiemy, że w profilowaniu ludzi,

te technologie będą zawsze stronnicze

i nigdy nie będą precyzyjne.

Potrzebujemy politycznego
rozwiązania tego problemu.

Potrzebujemy rządów, które uznają,

że ochrona danych to też prawa człowieka.

(Brawa i wiwaty)

Dopóki to się nie stanie,
nie możemy mieć nadziei

na bardziej sprawiedliwą przyszłość.

Martwię się, że moje córki
będą narażone na różnego rodzaju

algorytmiczne pomyłki i dyskryminacje.

Różnica pomiędzy mną
a moimi córkami jest taka,

że nie ma żadnego publicznego
rejestru danych z mojego dzieciństwa.

Na pewno nie ma żadnej
bazy danych z głupotami,

które robiłam i myślałam,
będąc nastolatką.

(Śmiech)

W przypadku moich córek
może to wyglądać inaczej.

Dane, które są zbierane od nich dzisiaj,

mogą być użyte w przyszłości do ich oceny,

mogą zaprzepaścić ich nadzieje i marzenia.

Myślę, że już czas,

żebyśmy wszyscy wzmogli nasze działania.

Czas, żebyśmy zaczęli współpracować,

jako jednostki, organizacje i instytucje,

i domagali się większej sprawiedliwości
związanej z naszymi danymi,

dla nas i dla naszych dzieci,

nim będzie za późno.

Dziękuję.

(Brawa)