Amit a techcégek a gyermekeinkről tudnak

A digitális felületek, melyeket mi és családunk is mindennap használ – az online játékoktól kezdve oktatási anyagokon át az egészségügyi portálokig –, akár gyermekeink adatait is gyűjthetik és forgalmazhatják – állítja Veronica Barassi antropológus. Gondolatébresztő kutatásának ismertetésével Barassi arra ösztönzi a szülőket, kétszer is nézzék át a digitális szerződési feltételeket
és kikötéseket, és ne fogadják el őket olvasatlanul. Arra sarkallja őket, követeljék meg a védelmet, hogy a gyermekekről gyűjtött adatok később ne befolyásolhassák hátrányosan a jövőjüket.

Minden nap és minden héten

szerződési feltételekhez
és kikötésekhez járulunk hozzá.

Ekkor

jogilag felhatalmazunk cégeket,

hogy adatainkkal,
így gyermekeink adataival is,

tetszésük szerint bánjanak.

Ami elgondolkoztathat minket:

mekkora adatmennyiséget
adunk ki gyermekeinkről,

és mik ennek a következményei?

Antropológus vagyok,

és egyúttal két kislány édesanyja.

2015-ben kezdett el
foglalkoztatni ez a kérdés,

amikor hirtelen feleszméltem,

hogy széles körű, csaknem elképzelhetetlen
mennyiségű adatnyom

gyűlik össze és érhető el gyermekeinkről.

Ezért kutatómunkát indítottam

Child Data Citizen elnevezéssel,

és a homályos foltok felfedését
tűztem ki célul.

Talán arra gondolhatnak,
önöket hibáztatom,

mert gyermekeikről képeket
posztolnak a közösségi médiában,

de nem ez a lényeg.

A baj annál sokkal nagyobb,
mint az ún. “szülői megosztás”.

A rendszerekkel van baj,
nem az egyéni szokásokkal.

Szokásaink nem hibáztathatók.

Először a történelemben,

gyermekeink egyedi adatait

még jóval születésük előtt rögzítjük;

gyakran már fogantatásuk pillanatától,

majd később egész életük során.

Amikor szülők gyermekvállalás
mellett döntenek,

interneten rá szoktak keresni
a “hogyan eshetek teherbe” témára,

vagy letöltenek egy ovulációs alkalmazást.

Amikor várandósak,

babáikról a közösségi médiában
posztolnak ultrahangképeket,

terhességi alkalmazásokat töltenek le

vagy dr. Google tanácsát kérik ki
mindenféle ügyben,

olyan dolgokban, mint:

“vetélés kockázata repüléskor”,

“hasi görcsök a várandósság
korai szakaszában“.

Tudom, mert én is csináltam,

sokszor.

Amikor megszületik a baba,
rögzítenek minden alvást,

minden etetést,

minden eseményt különféle technológiákkal.

Minden ilyen technológia

a baba legintimebb viselkedési
és egészségügyi adatát profittá alakítja

a megosztásuk révén.

Hogy szemléletessé váljon,
hogy is működik ez,

2019-ben a British Medical Journalben
megjelent kutatás feltárta,

hogy 24 egészségügyi mobilalkalmazás közül

19 harmadik féllel is
megosztott információkat.

Majd ezek további 216 másik szervezettel
osztották meg az információkat.

A 216 további fél közül

csak három tartozott
egészségügyi ágazatba.

A többi cég, amelynek hozzáférése volt
az adatokhoz, nagy techcégek voltak,

mint a Google, Facebook vagy az Oracle,

de voltak digitálisreklám-ügynökségek

és fogyasztói hitelelemző cégek is.

Értik már, ugye?

Reklámcégeknek és hitelügynökségeknek
már csecsemőkről is lehetnek adataik.

De a mobilalkalmazások,
webes keresések és a közösségi média

épp csak a jéghegy csúcsa,

mert a gyerekeket számos
technológia követi nyomon

mindennapi életük során.

Nyomon követik őket az okosotthonok
technológiái és a virtuális asszisztensek.

Nyomon követik őket az oktatási felületek

és az iskolák oktatási technológiái.

Nyomon követik őket online

orvosi adatokon és portálokon keresztül.

Nyomon követik az internethez
kapcsolt játékaikon,

az online játékokon

és még rengeteg más
technológián keresztül is.

A kutatásom során

sok szülő ezzel jött oda hozzám: “Na és?

Mit számít, ha lekövetik a gyerekeimet?

Nincs semmi takargatnivalónk.”

Hát számít!

Számít, mert ma az egyes embereket
nemcsak lekövetik,

de profilokat is alkotnak
az adatnyomaik alapján.

Mesterséges intelligenciát
és prediktív elemzést alkalmaznak,

hogy a lehető legtöbb adatot
szerezzék be egyesek magánéletéről

különböző forrásokból:

családi háttér, vásárlási szokások,
közösségimédia-kommentek.

Majd ezeket az adatokat összegyűjtve

adatvezérelt döntéseket hoznak
az egyes emberekkel kapcsolatban.

E technológiákat mindenütt használják.

Bankok hitelek elbírálására,

biztosítók díjak meghatározására,

toborzók és munkáltatók használják,

hogy eldöntsék, valaki megfelel-e
az adott munkára vagy sem.

A rendőrség és a bíróság is használja,

hogy meghatározzák,
valaki potenciális bűnöző-e,

vagy mekkora esélye van,
hogy újból bűntettet követ el.

Nem ismerjük az eljárásokat,
és befolyásunk sincs azok módszereire,

akik adatainkat
adják-veszik és feldolgozzák,

hogyan profiloznak minket
és gyermekeinket.

Pedig ezek a profilok jelentős
hatással lehetnek jogainkra.

Egy példát említve,

2018-ban a The New York Timesban
megjelent a hír,

hogy főiskolai tervező szolgáltatások

adatbrókereknek adták el az adatokat,

amelyeket Amerika-szerte
több millió középiskolás szokott megadni,

főiskolai programok

vagy ösztöndíjak iránt érdeklődve.

Az oktatási adatbrókereket
tanulmányozó Fordham kutatói felfedték,

hogy ezek a cégek már
kétéves gyerekeket is profiloztak

különböző kategóriák,

pl. etnikum, vallás, jómód,

szociális ügyetlenség

és még sok más véletlenszerű
kategória alapján.

Aztán e profilokat el is adják

a gyerek nevével, lakcímével
és elérhetőségi adataival együtt

különféle cégeknek,

többek között kereskedelmi-
és karrierintézeteknek,

diákhitel-

és diákhitelkártya-cégeknek is.

Tovább feszítve a határokat,

a Fordham kutatói felkértek
egy oktatási adatbrókert,

hogy adjon listát 14–15 éves lányokról,

akik családtervezési szolgáltatások
iránt érdeklődnek.

Az adatbróker vállalta a lista átadását.

Képzeljék csak el, mennyire intim
és tolakodó ez a gyermekeink számára.

De az oktatási adatbrókerek példája
valójában csak egy a sok közül.

Az igazság az, hogy gyermekeinket
ellenőrizhetetlen módon profilozzák,

profiljaik mégis jelentős mértékben
befolyásolhatják lehetőségeiket.

Így hát fel kell tegyük a kérdést:

megbízhatunk ezekben a technológiákban
gyermekeink profilozását illetően?

Bízhatunk bennük?

Az én válaszom: nem.

Antropológusként hiszem,

hogy a mesterséges intelligencia
és a prediktív elemzés remek lehet

megbetegedések lefolyásának előrejelzésére

vagy a klímaváltozás elleni harcban.

De fel kell hagynunk a hiedelemmel,

hogy ezek a technológiák objektíven
tudnak emberi profilokat alkotni,

hogy megbízhatók az adatvezérelt
döntések meghozatalában

adott emberek életére vonatkozóan.

Mert nem tudnak embereket profilozni.

Az adatnyomok nem tükrözik azt,
akik vagyunk.

Az emberek az ellenkezőjét gondolják,
mint amit állítanak,

mást éreznek és más szerint cselekednek.

Algoritmusos előrejelzések
és digitális szokásaink

nem fedhetik le az emberi tapasztalás
megjósolhatatlanságát és komplexitását.

Ráadásul

ezek a technológiák mindig,

mindig,

egyik vagy másik irányban részrehajlók.

Az algoritmusok definíció szerint
szabályok és lépések összessége,

melyeket azért alkotnak,
hogy adott eredményre jussanak.

De ezek a szabályok és lépések
nem lehetnek objektívek,

mert ezeket emberek alkották

meghatározott kulturális kontextusban,

s adott kulturális értékek alakítják őket.

Amikor gépek tanulnak,

részrehajló algoritmusok alapján tanulnak,

és gyakran részrehajló
adatbázisokból is tanulnak.

Ma már látni az algoritmikus
részrehajlás első példáit.

Néhány ezek közül elég rémisztő.

A New York-i AI Now Kutatóintézet
idén kiadott jelentése feltárta,

hogy az AI-technológiákat,

melyeket a prediktív rendfenntartásban
alkalmaznak,

“piszkos” adatok alapján képezték.

Ezeket az adatokat

köztudottan részrehajló és nem átlátható

rendőri gyakorlattal jellemezhető
korszakokban gyűjtöttek.

Mivel ezeket a technológiákat
piszkos adatok alapján tanítják,

nem objektívek,

így az eredményeik
felerősítik és megvalósítják

a rendőri részrehajlást és hibákat.

Alapvető problémával állunk szemben

társadalmunkban.

Ami az emberek profilozását illeti,
kezdünk technológiákban bízni.

Tudjuk, hogy az emberek profilozásakor

ezek a technológiák mindig
részrehajlók lesznek,

és sosem lesznek igazán pontosak.

Ezért politikai megoldásra van szükség.

A kormányoknak el kell ismerniük:
adatainkhoz való jogunk emberi jog.

(Taps és ujjongás)

Amíg ez nem történik meg,
nem remélhetünk igazságosabb jövőt.

Aggódom, hogy a lányaim

mindenféle algoritmikus diszkriminációnak
és hibának lesznek kitéve.

A különbség köztem és a lányaim között,

hogy az én gyerekkoromról
nincsen elérhető adat.

Nincs adatbázis a sok hülyeségről,

melyet még tinédzserként
elkövettem vagy gondoltam.

(Nevetés)

De a lányaim esetében ez már más.

A róluk ma gyűjtött adatot lehet,

hogy a jövőben a megítélésükre használják,

és reményeik s álmaik útjába is állhatnak.

Úgy hiszem, itt az alkalom.

Az alkalom, hogy fellépjünk.

Az alkalom, hogy elkezdjük együttműködni

mint egyének,

mint szervezetek és intézmények,

hogy szélesebb körű adatigazságosságot
követeljünk

saját magunk és gyermekeink számára is,

még mielőtt nem túl késő.

Köszönöm.

(Taps)