Minden nap és minden héten szerződési feltételekhez és kikötésekhez járulunk hozzá. Ekkor jogilag felhatalmazunk cégeket, hogy adatainkkal, így gyermekeink adataival is, tetszésük szerint bánjanak. Ami elgondolkoztathat minket: mekkora adatmennyiséget adunk ki gyermekeinkről, és mik ennek a következményei? Antropológus vagyok, és egyúttal két kislány édesanyja. 2015-ben kezdett el foglalkoztatni ez a kérdés, amikor hirtelen feleszméltem, hogy széles körű, csaknem elképzelhetetlen mennyiségű adatnyom gyűlik össze és érhető el gyermekeinkről. Ezért kutatómunkát indítottam Child Data Citizen elnevezéssel, és a homályos foltok felfedését tűztem ki célul. Talán arra gondolhatnak, önöket hibáztatom, mert gyermekeikről képeket posztolnak a közösségi médiában, de nem ez a lényeg. A baj annál sokkal nagyobb, mint az ún. “szülői megosztás”. A rendszerekkel van baj, nem az egyéni szokásokkal. Szokásaink nem hibáztathatók. Először a történelemben, gyermekeink egyedi adatait még jóval születésük előtt rögzítjük; gyakran már fogantatásuk pillanatától, majd később egész életük során. Amikor szülők gyermekvállalás mellett döntenek, interneten rá szoktak keresni a “hogyan eshetek teherbe” témára, vagy letöltenek egy ovulációs alkalmazást. Amikor várandósak, babáikról a közösségi médiában posztolnak ultrahangképeket, terhességi alkalmazásokat töltenek le vagy dr. Google tanácsát kérik ki mindenféle ügyben, olyan dolgokban, mint: “vetélés kockázata repüléskor”, “hasi görcsök a várandósság korai szakaszában“. Tudom, mert én is csináltam, sokszor. Amikor megszületik a baba, rögzítenek minden alvást, minden etetést, minden eseményt különféle technológiákkal. Minden ilyen technológia a baba legintimebb viselkedési és egészségügyi adatát profittá alakítja a megosztásuk révén. Hogy szemléletessé váljon, hogy is működik ez, 2019-ben a British Medical Journalben megjelent kutatás feltárta, hogy 24 egészségügyi mobilalkalmazás közül 19 harmadik féllel is megosztott információkat. Majd ezek további 216 másik szervezettel osztották meg az információkat. A 216 további fél közül csak három tartozott egészségügyi ágazatba. A többi cég, amelynek hozzáférése volt az adatokhoz, nagy techcégek voltak, mint a Google, Facebook vagy az Oracle, de voltak digitálisreklám-ügynökségek és fogyasztói hitelelemző cégek is. Értik már, ugye? Reklámcégeknek és hitelügynökségeknek már csecsemőkről is lehetnek adataik. De a mobilalkalmazások, webes keresések és a közösségi média épp csak a jéghegy csúcsa, mert a gyerekeket számos technológia követi nyomon mindennapi életük során. Nyomon követik őket az okosotthonok technológiái és a virtuális asszisztensek. Nyomon követik őket az oktatási felületek és az iskolák oktatási technológiái. Nyomon követik őket online orvosi adatokon és portálokon keresztül. Nyomon követik az internethez kapcsolt játékaikon, az online játékokon és még rengeteg más technológián keresztül is. A kutatásom során sok szülő ezzel jött oda hozzám: “Na és? Mit számít, ha lekövetik a gyerekeimet? Nincs semmi takargatnivalónk.” Hát számít! Számít, mert ma az egyes embereket nemcsak lekövetik, de profilokat is alkotnak az adatnyomaik alapján. Mesterséges intelligenciát és prediktív elemzést alkalmaznak, hogy a lehető legtöbb adatot szerezzék be egyesek magánéletéről különböző forrásokból: családi háttér, vásárlási szokások, közösségimédia-kommentek. Majd ezeket az adatokat összegyűjtve adatvezérelt döntéseket hoznak az egyes emberekkel kapcsolatban. E technológiákat mindenütt használják. Bankok hitelek elbírálására, biztosítók díjak meghatározására, toborzók és munkáltatók használják, hogy eldöntsék, valaki megfelel-e az adott munkára vagy sem. A rendőrség és a bíróság is használja, hogy meghatározzák, valaki potenciális bűnöző-e, vagy mekkora esélye van, hogy újból bűntettet követ el. Nem ismerjük az eljárásokat, és befolyásunk sincs azok módszereire, akik adatainkat adják-veszik és feldolgozzák, hogyan profiloznak minket és gyermekeinket. Pedig ezek a profilok jelentős hatással lehetnek jogainkra. Egy példát említve, 2018-ban a The New York Timesban megjelent a hír, hogy főiskolai tervező szolgáltatások adatbrókereknek adták el az adatokat, amelyeket Amerika-szerte több millió középiskolás szokott megadni, főiskolai programok vagy ösztöndíjak iránt érdeklődve. Az oktatási adatbrókereket tanulmányozó Fordham kutatói felfedték, hogy ezek a cégek már kétéves gyerekeket is profiloztak különböző kategóriák, pl. etnikum, vallás, jómód, szociális ügyetlenség és még sok más véletlenszerű kategória alapján. Aztán e profilokat el is adják a gyerek nevével, lakcímével és elérhetőségi adataival együtt különféle cégeknek, többek között kereskedelmi- és karrierintézeteknek, diákhitel- és diákhitelkártya-cégeknek is. Tovább feszítve a határokat, a Fordham kutatói felkértek egy oktatási adatbrókert, hogy adjon listát 14–15 éves lányokról, akik családtervezési szolgáltatások iránt érdeklődnek. Az adatbróker vállalta a lista átadását. Képzeljék csak el, mennyire intim és tolakodó ez a gyermekeink számára. De az oktatási adatbrókerek példája valójában csak egy a sok közül. Az igazság az, hogy gyermekeinket ellenőrizhetetlen módon profilozzák, profiljaik mégis jelentős mértékben befolyásolhatják lehetőségeiket. Így hát fel kell tegyük a kérdést: megbízhatunk ezekben a technológiákban gyermekeink profilozását illetően? Bízhatunk bennük? Az én válaszom: nem. Antropológusként hiszem, hogy a mesterséges intelligencia és a prediktív elemzés remek lehet megbetegedések lefolyásának előrejelzésére vagy a klímaváltozás elleni harcban. De fel kell hagynunk a hiedelemmel, hogy ezek a technológiák objektíven tudnak emberi profilokat alkotni, hogy megbízhatók az adatvezérelt döntések meghozatalában adott emberek életére vonatkozóan. Mert nem tudnak embereket profilozni. Az adatnyomok nem tükrözik azt, akik vagyunk. Az emberek az ellenkezőjét gondolják, mint amit állítanak, mást éreznek és más szerint cselekednek. Algoritmusos előrejelzések és digitális szokásaink nem fedhetik le az emberi tapasztalás megjósolhatatlanságát és komplexitását. Ráadásul ezek a technológiák mindig, mindig, egyik vagy másik irányban részrehajlók. Az algoritmusok definíció szerint szabályok és lépések összessége, melyeket azért alkotnak, hogy adott eredményre jussanak. De ezek a szabályok és lépések nem lehetnek objektívek, mert ezeket emberek alkották meghatározott kulturális kontextusban, s adott kulturális értékek alakítják őket. Amikor gépek tanulnak, részrehajló algoritmusok alapján tanulnak, és gyakran részrehajló adatbázisokból is tanulnak. Ma már látni az algoritmikus részrehajlás első példáit. Néhány ezek közül elég rémisztő. A New York-i AI Now Kutatóintézet idén kiadott jelentése feltárta, hogy az AI-technológiákat, melyeket a prediktív rendfenntartásban alkalmaznak, “piszkos” adatok alapján képezték. Ezeket az adatokat köztudottan részrehajló és nem átlátható rendőri gyakorlattal jellemezhető korszakokban gyűjtöttek. Mivel ezeket a technológiákat piszkos adatok alapján tanítják, nem objektívek, így az eredményeik felerősítik és megvalósítják a rendőri részrehajlást és hibákat. Alapvető problémával állunk szemben társadalmunkban. Ami az emberek profilozását illeti, kezdünk technológiákban bízni. Tudjuk, hogy az emberek profilozásakor ezek a technológiák mindig részrehajlók lesznek, és sosem lesznek igazán pontosak. Ezért politikai megoldásra van szükség. A kormányoknak el kell ismerniük: adatainkhoz való jogunk emberi jog. (Taps és ujjongás) Amíg ez nem történik meg, nem remélhetünk igazságosabb jövőt. Aggódom, hogy a lányaim mindenféle algoritmikus diszkriminációnak és hibának lesznek kitéve. A különbség köztem és a lányaim között, hogy az én gyerekkoromról nincsen elérhető adat. Nincs adatbázis a sok hülyeségről, melyet még tinédzserként elkövettem vagy gondoltam. (Nevetés) De a lányaim esetében ez már más. A róluk ma gyűjtött adatot lehet, hogy a jövőben a megítélésükre használják, és reményeik s álmaik útjába is állhatnak. Úgy hiszem, itt az alkalom. Az alkalom, hogy fellépjünk. Az alkalom, hogy elkezdjük együttműködni mint egyének, mint szervezetek és intézmények, hogy szélesebb körű adatigazságosságot követeljünk saját magunk és gyermekeink számára is, még mielőtt nem túl késő. Köszönöm. (Taps)