Minden nap és minden héten
szerződési feltételekhez és kikötésekhez járulunk hozzá.
Ekkor
jogilag felhatalmazunk cégeket,
hogy adatainkkal, így gyermekeink adataival is,
tetszésük szerint bánjanak.
Ami elgondolkoztathat minket:
mekkora adatmennyiséget adunk ki gyermekeinkről,
és mik ennek a következményei?
Antropológus vagyok,
és egyúttal két kislány édesanyja.
2015-ben kezdett el foglalkoztatni ez a kérdés,
amikor hirtelen feleszméltem,
hogy széles körű, csaknem elképzelhetetlen mennyiségű adatnyom
gyűlik össze és érhető el gyermekeinkről.
Ezért kutatómunkát indítottam
Child Data Citizen elnevezéssel,
és a homályos foltok felfedését tűztem ki célul.
Talán arra gondolhatnak, önöket hibáztatom,
mert gyermekeikről képeket posztolnak a közösségi médiában,
de nem ez a lényeg.
A baj annál sokkal nagyobb, mint az ún. “szülői megosztás”.
A rendszerekkel van baj, nem az egyéni szokásokkal.
Szokásaink nem hibáztathatók.
Először a történelemben,
gyermekeink egyedi adatait
még jóval születésük előtt rögzítjük;
gyakran már fogantatásuk pillanatától,
majd később egész életük során.
Amikor szülők gyermekvállalás mellett döntenek,
interneten rá szoktak keresni a “hogyan eshetek teherbe” témára,
vagy letöltenek egy ovulációs alkalmazást.
Amikor várandósak,
babáikról a közösségi médiában posztolnak ultrahangképeket,
terhességi alkalmazásokat töltenek le
vagy dr. Google tanácsát kérik ki mindenféle ügyben,
olyan dolgokban, mint:
“vetélés kockázata repüléskor”,
“hasi görcsök a várandósság korai szakaszában“.
Tudom, mert én is csináltam,
sokszor.
Amikor megszületik a baba, rögzítenek minden alvást,
minden etetést,
minden eseményt különféle technológiákkal.
Minden ilyen technológia
a baba legintimebb viselkedési és egészségügyi adatát profittá alakítja
a megosztásuk révén.
Hogy szemléletessé váljon, hogy is működik ez,
2019-ben a British Medical Journalben megjelent kutatás feltárta,
hogy 24 egészségügyi mobilalkalmazás közül
19 harmadik féllel is megosztott információkat.
Majd ezek további 216 másik szervezettel osztották meg az információkat.
A 216 további fél közül
csak három tartozott egészségügyi ágazatba.
A többi cég, amelynek hozzáférése volt az adatokhoz, nagy techcégek voltak,
mint a Google, Facebook vagy az Oracle,
de voltak digitálisreklám-ügynökségek
és fogyasztói hitelelemző cégek is.
Értik már, ugye?
Reklámcégeknek és hitelügynökségeknek már csecsemőkről is lehetnek adataik.
De a mobilalkalmazások, webes keresések és a közösségi média
épp csak a jéghegy csúcsa,
mert a gyerekeket számos technológia követi nyomon
mindennapi életük során.
Nyomon követik őket az okosotthonok technológiái és a virtuális asszisztensek.
Nyomon követik őket az oktatási felületek
és az iskolák oktatási technológiái.
Nyomon követik őket online
orvosi adatokon és portálokon keresztül.
Nyomon követik az internethez kapcsolt játékaikon,
az online játékokon
és még rengeteg más technológián keresztül is.
A kutatásom során
sok szülő ezzel jött oda hozzám: “Na és?
Mit számít, ha lekövetik a gyerekeimet?
Nincs semmi takargatnivalónk.”
Hát számít!
Számít, mert ma az egyes embereket nemcsak lekövetik,
de profilokat is alkotnak az adatnyomaik alapján.
Mesterséges intelligenciát és prediktív elemzést alkalmaznak,
hogy a lehető legtöbb adatot szerezzék be egyesek magánéletéről
különböző forrásokból:
családi háttér, vásárlási szokások, közösségimédia-kommentek.
Majd ezeket az adatokat összegyűjtve
adatvezérelt döntéseket hoznak az egyes emberekkel kapcsolatban.
E technológiákat mindenütt használják.
Bankok hitelek elbírálására,
biztosítók díjak meghatározására,
toborzók és munkáltatók használják,
hogy eldöntsék, valaki megfelel-e az adott munkára vagy sem.
A rendőrség és a bíróság is használja,
hogy meghatározzák, valaki potenciális bűnöző-e,
vagy mekkora esélye van, hogy újból bűntettet követ el.
Nem ismerjük az eljárásokat, és befolyásunk sincs azok módszereire,
akik adatainkat adják-veszik és feldolgozzák,
hogyan profiloznak minket és gyermekeinket.
Pedig ezek a profilok jelentős hatással lehetnek jogainkra.
Egy példát említve,
2018-ban a The New York Timesban megjelent a hír,
hogy főiskolai tervező szolgáltatások
adatbrókereknek adták el az adatokat,
amelyeket Amerika-szerte több millió középiskolás szokott megadni,
főiskolai programok
vagy ösztöndíjak iránt érdeklődve.
Az oktatási adatbrókereket tanulmányozó Fordham kutatói felfedték,
hogy ezek a cégek már kétéves gyerekeket is profiloztak
különböző kategóriák,
pl. etnikum, vallás, jómód,
szociális ügyetlenség
és még sok más véletlenszerű kategória alapján.
Aztán e profilokat el is adják
a gyerek nevével, lakcímével és elérhetőségi adataival együtt
különféle cégeknek,
többek között kereskedelmi- és karrierintézeteknek,
diákhitel-
és diákhitelkártya-cégeknek is.
Tovább feszítve a határokat,
a Fordham kutatói felkértek egy oktatási adatbrókert,
hogy adjon listát 14–15 éves lányokról,
akik családtervezési szolgáltatások iránt érdeklődnek.
Az adatbróker vállalta a lista átadását.
Képzeljék csak el, mennyire intim és tolakodó ez a gyermekeink számára.
De az oktatási adatbrókerek példája valójában csak egy a sok közül.
Az igazság az, hogy gyermekeinket ellenőrizhetetlen módon profilozzák,
profiljaik mégis jelentős mértékben befolyásolhatják lehetőségeiket.
Így hát fel kell tegyük a kérdést:
megbízhatunk ezekben a technológiákban gyermekeink profilozását illetően?
Bízhatunk bennük?
Az én válaszom: nem.
Antropológusként hiszem,
hogy a mesterséges intelligencia és a prediktív elemzés remek lehet
megbetegedések lefolyásának előrejelzésére
vagy a klímaváltozás elleni harcban.
De fel kell hagynunk a hiedelemmel,
hogy ezek a technológiák objektíven tudnak emberi profilokat alkotni,
hogy megbízhatók az adatvezérelt döntések meghozatalában
adott emberek életére vonatkozóan.
Mert nem tudnak embereket profilozni.
Az adatnyomok nem tükrözik azt, akik vagyunk.
Az emberek az ellenkezőjét gondolják, mint amit állítanak,
mást éreznek és más szerint cselekednek.
Algoritmusos előrejelzések és digitális szokásaink
nem fedhetik le az emberi tapasztalás megjósolhatatlanságát és komplexitását.
Ráadásul
ezek a technológiák mindig,
mindig,
egyik vagy másik irányban részrehajlók.
Az algoritmusok definíció szerint szabályok és lépések összessége,
melyeket azért alkotnak, hogy adott eredményre jussanak.
De ezek a szabályok és lépések nem lehetnek objektívek,
mert ezeket emberek alkották
meghatározott kulturális kontextusban,
s adott kulturális értékek alakítják őket.
Amikor gépek tanulnak,
részrehajló algoritmusok alapján tanulnak,
és gyakran részrehajló adatbázisokból is tanulnak.
Ma már látni az algoritmikus részrehajlás első példáit.
Néhány ezek közül elég rémisztő.
A New York-i AI Now Kutatóintézet idén kiadott jelentése feltárta,
hogy az AI-technológiákat,
melyeket a prediktív rendfenntartásban alkalmaznak,
“piszkos” adatok alapján képezték.
Ezeket az adatokat
köztudottan részrehajló és nem átlátható
rendőri gyakorlattal jellemezhető korszakokban gyűjtöttek.
Mivel ezeket a technológiákat piszkos adatok alapján tanítják,
nem objektívek,
így az eredményeik felerősítik és megvalósítják
a rendőri részrehajlást és hibákat.
Alapvető problémával állunk szemben
társadalmunkban.
Ami az emberek profilozását illeti, kezdünk technológiákban bízni.
Tudjuk, hogy az emberek profilozásakor
ezek a technológiák mindig részrehajlók lesznek,
és sosem lesznek igazán pontosak.
Ezért politikai megoldásra van szükség.
A kormányoknak el kell ismerniük: adatainkhoz való jogunk emberi jog.
(Taps és ujjongás)
Amíg ez nem történik meg, nem remélhetünk igazságosabb jövőt.
Aggódom, hogy a lányaim
mindenféle algoritmikus diszkriminációnak és hibának lesznek kitéve.
A különbség köztem és a lányaim között,
hogy az én gyerekkoromról nincsen elérhető adat.
Nincs adatbázis a sok hülyeségről,
melyet még tinédzserként elkövettem vagy gondoltam.
(Nevetés)
De a lányaim esetében ez már más.
A róluk ma gyűjtött adatot lehet,
hogy a jövőben a megítélésükre használják,
és reményeik s álmaik útjába is állhatnak.
Úgy hiszem, itt az alkalom.
Az alkalom, hogy fellépjünk.
Az alkalom, hogy elkezdjük együttműködni
mint egyének,
mint szervezetek és intézmények,
hogy szélesebb körű adatigazságosságot követeljünk
saját magunk és gyermekeink számára is,
még mielőtt nem túl késő.
Köszönöm.
(Taps)