Każdego dnia, każdego tygodnia,
akceptujemy różne warunki.
Robiąc to,
udzielamy firmom prawa
do dowolnego dysponowania naszymi danymi
oraz danymi naszych dzieci.
Dlatego też zastanawiamy się,
jak wiele danych naszych dzieci oddajemy
i jakie są tego konsekwencje?
Jestem antropologiem
oraz matką dwóch małych dziewczynek.
Zaczęłam się interesować tym problemem w roku 2015,
kiedy to nagle uświadomiłam sobie, jak ogromna jest, prawie niewyobrażalna,
ilość danych produkowanych i gromadzonych na temat dzieci.
Dlatego zaczęłam projekt badawczy,
który nazwałam Child Data Citizen,
żeby dowiedzieć się czegoś więcej.
Możecie pomyśleć, że jestem tu, żeby was obwiniać
za umieszczanie zdjęć swoich dzieci w mediach społecznościowych,
ale nie o to chodzi.
Problem jest o wiele większy niż "sharenting",
czyli udostępnianie treści przez rodziców.
Problem tkwi w systemie, nie w ludziach.
Wy i wasze nawyki nie jesteście temu winni.
Pierwszy raz w historii
śledzimy dane osobowe dzieci
jeszcze przed ich narodzinami,
czasem od momentu poczęcia,
a potem przez całe ich życie.
Kiedy rodzice decydują się na dziecko,
szukają w Internecie sposobów na zajście w ciążę
albo ściągają aplikacje do śledzenia owulacji.
Kiedy w końcu udaje się zajść w ciążę,
zamieszczają USG swoich dzieci w mediach społecznościowych,
ściągają aplikacje ciążowe
albo konsultują się z doktorem Google na temat różnych rzeczy,
takich jak
ryzyko poronienia podczas lotu
albo skurcze brzucha na początku ciąży.
Wiem to, bo przez to przeszłam.
Wiele razy.
A kiedy dziecko się narodzi,
monitorują każdą drzemkę, każde karmienie,
każde wydarzenie, za pomocą różnych technologii.
Te wszystkie technologie
zamieniają najbardziej prywatne dane o zachowaniu i zdrowiu dziecka w zysk
poprzez udostępnianie ich innym.
Podam przykład tego, jak to działa.
W roku 2019 British Medical Journal opublikował badanie,
które pokazało, że spośród 24 mobilnych aplikacji zdrowotnych
19 udostępniało informacje innym firmom.
Te z kolei udostępniały je 216 innym organizacjom.
Wśród tych 216 organizacji były tylko trzy
które należały do sektora opieki zdrowotnej.
Pozostałe firmy, które miały dostęp do tych danych,
były dużymi firmami technologicznymi
takimi jak Google, Facebook czy Oracle.
Były wśród nich także agencje reklamowe
oraz agencja sprawozdawczości kredytowej.
Właśnie tak.
Agencje reklamowe i kredytowe
mogą być już w posiadaniu danych na temat małych dzieci.
Mobilne aplikacje, wyszukiwania w sieci oraz media społecznościowe
są tylko wierzchołkiem góry lodowej,
ponieważ dzieci są śledzone przez różnorakie technologie
w ich codziennym życiu.
Są śledzone przez domowe urządzenia i asystentów wirtualnych w domach.
Są śledzone przez platformy i technologie edukacyjne w szkołach.
Są śledzone przez internetową dokumentację medyczną
i portale internetowe w gabinetach lekarskich.
Są śledzone przez zabawki połączone z Internetem,
gry internetowe
i wiele innych technologii.
Podczas moich badań
wielu rodziców pytało mnie: "I co z tego?
Czy to ważne, że moje dzieci są śledzone?
Nie mamy nic do ukrycia".
Otóż to ma znaczenie.
To ma znaczenie, bo dzisiaj ludzie są nie tylko śledzeni,
ale także profilowani na podstawie zebranych danych.
Używa się sztucznej inteligencji i analizy prognostycznej,
żeby pozyskać jak największą ilość danych na temat życia danej osoby,
opierając się o różne źródła:
historię rodziny, nawyki zakupowe,
komentarze w mediach społecznościowych.
Następnie łączy się te dane w celu wykorzystania ich
przy podejmowaniu decyzji dotyczących danej osoby.
Te technologie są używane wszędzie.
Banki używają ich przy udzielaniu kredytów,
ubezpieczyciele - przy kalkulacji zniżek,
a rekruterzy i pracodawcy używają ich,
żeby sprawdzić, czy ktoś nadaje się do pracy.
Także policja i sądy ich używają
przy określaniu potencjalnych kryminalistów
lub prawdopodobieństwa ponownego popełnienia zbrodni.
Nie mamy żadnej wiedzy i kontroli nad tym,
w jaki sposób ci, którzy kupują, sprzedają i przetwarzają nasze dane
profilują nas i nasze dzieci.
Jednak te profile mogą mieć znaczący wpływ na nasze prawa.
Podam przykład.
W roku 2018 "New York Times" opublikował informacje,
że dane zebrane z internetowych formularzy planowania edukacji,
wypełnianych przez miliony amerykańskich licealistów,
którzy szukają szkoły lub stypendium,
zostały sprzedane brokerom danych edukacyjnych.
Ponadto naukowcy z uniwersytetu Fordham, którzy zbadali brokerów z tego sektora,
ujawnili, że te firmy profilowały nawet dwuletnie dzieci
na podstawie takich kategorii jak:
pochodzenie etniczne, religia, zamożność,
niedostosowanie społeczne
oraz wiele innych losowych kategorii.
Następnie sprzedają te profile razem z danymi osobowymi dziecka,
ich adresem zamieszkania i danymi kontaktowymi,
różnym firmom,
między innymi agencjom handlu i biurom karier,
firmom zajmującym się pożyczkami i kartami kredytowymi dla studentów.
Żeby wyznaczyć nowe granice,
naukowcy z Fordham poprosili brokera danych edukacyjnych
o listę dziewczyn w wieku od 14 do 15 lat,
które interesowały się usługami w zakresie planowania rodziny.
Broker zgodził się na dostarczenie takiej listy.
Wyobraźcie sobie, jak bardzo narusza to prywatność naszych dzieci.
Ale brokerzy danych edukacyjnych to tylko jeden z przykładów.
Prawda jest taka,
że nie jesteśmy w stanie kontrolować, w jaki sposób dzieci są profilowane,
a to może mieć znaczący wpływ na ich życie.
Musimy zadać sobie pytanie:
Czy możemy ufać tym technologiom w kwestii profilowania naszych dzieci?
Możemy?
Moja odpowiedź brzmi: nie.
Jako antropolog wierzę,
że sztuczna inteligencja i analiza prognostyczna
mogą być bardzo pomocne w przewidywaniu przebiegu choroby
albo w walce ze zmianami klimatycznymi.
Jednak musimy porzucić wiarę w to,
że te technologie mogą obiektywnie profilować ludzi
i że możemy polegać na nich
przy podejmowaniu kluczowych decyzji życiowych,
dlatego, że one nie potrafią profilować ludzi.
Dane nie są odbiciem lustrzanym tego, kim jesteśmy.
Ludzie myślą jedno, a mówią drugie,
postępują inaczej niż czują.
Prognozy algorytmiczne czy nasze praktyki cyfrowe
nie biorą pod uwagę nieprzewidywalności oraz złożoności ludzkich doświadczeń.
Dodatkowo
te technologie są zawsze,
zawsze,
w jakimś stopniu stronnicze.
Algorytmy są z definicji zbiorem zasad i instrukcji,
które zostały zaprojektowane w konkretnym celu.
Jednak te zbiory zasad i instrukcji nie są obiektywne,
ponieważ są zaprojektowane przez ludzi
w konkretnym kontekście kulturowym
i są ukształtowane przez konkretne wartości kulturowe.
Kiedy maszyny się uczą,
opierają się na stronniczych algorytmach,
a często także na stronniczych bazach danych.
Obecnie widzimy pierwsze przykłady przechyłów algorytmicznych.
Niektóre z tych przykładów są przerażające.
W tym roku instytut AI Now Institute z Nowego Jorku opublikował raport,
który ujawnił, że technologie AI
używane do prewencji przestępstw
działały w oparciu o "brudne" dane.
Są to dane zgromadzone
w okresie wyraźnych uprzedzeń rasowych
i nietransparentnych praktyk policyjnych.
Ponieważ te technologie używają "brudnych" danych,
nie są obiektywne,
a rezultaty ich działań tylko wzmacniają i przyczyniają się
do policyjnej stronniczości i pomyłek.
Dlatego myślę, że stoimy
w obliczu fundamentalnego problemu naszego społeczeństwa.
Zaczynamy ufać technologiom, jeśli chodzi o profilowanie ludzi.
Wiemy, że w profilowaniu ludzi,
te technologie będą zawsze stronnicze
i nigdy nie będą precyzyjne.
Potrzebujemy politycznego rozwiązania tego problemu.
Potrzebujemy rządów, które uznają,
że ochrona danych to też prawa człowieka.
(Brawa i wiwaty)
Dopóki to się nie stanie, nie możemy mieć nadziei
na bardziej sprawiedliwą przyszłość.
Martwię się, że moje córki będą narażone na różnego rodzaju
algorytmiczne pomyłki i dyskryminacje.
Różnica pomiędzy mną a moimi córkami jest taka,
że nie ma żadnego publicznego rejestru danych z mojego dzieciństwa.
Na pewno nie ma żadnej bazy danych z głupotami,
które robiłam i myślałam, będąc nastolatką.
(Śmiech)
W przypadku moich córek może to wyglądać inaczej.
Dane, które są zbierane od nich dzisiaj,
mogą być użyte w przyszłości do ich oceny,
mogą zaprzepaścić ich nadzieje i marzenia.
Myślę, że już czas,
żebyśmy wszyscy wzmogli nasze działania.
Czas, żebyśmy zaczęli współpracować,
jako jednostki, organizacje i instytucje,
i domagali się większej sprawiedliwości związanej z naszymi danymi,
dla nas i dla naszych dzieci,
nim będzie za późno.
Dziękuję.
(Brawa)