Sziasztok, én Joy vagyok, a kód poétája,
és küldetésem egy láthatatlan,
egyre hatalmasabb erő,
a "kódolt csőlátás" megfékezése.
Így nevezem én az algoritmikus torzítást.
Ez, akárcsak az emberi előítélet,
igazságtalanságokhoz vezet.
Az algoritmusok azonban
képesek e torzításokat járványszerűen,
óriási területen és hihetetlen
sebességgel terjeszteni.
Az algoritmikus torzítás emellett
kizárásos tapasztalatokhoz,
és diszkriminációs gyakorlathoz
is vezethet.
Bemutatom, mire gondolok.
(Videó) Szia, kamera. Van egy arcom.
Látod az arcom?
A szemüveg nélküli arcom?
Az ő arcát látod.
Mi a helyzet az én arcommal?
Van egy maszkom. Látod a maszkom?
Szóval, hogy hogy is történt ez?
Miért ülök egy számítógéppel szemben
egy fehér maszkban,
próbálva egy olcsó webkamerával
felismertetni magam?
Mikor épp nem a kódolt
csőlátás ellen harcolo
kódpoétaként,
akkor vagyok végzős hallgató
az MIT Media Lab-en,
ahol lehetőségem van mindenféle
furcsa projekten dolgozni.
Ezek egyike az Aspire Mirror,
melyben digitális maszkokat tudok
a tükörképemre vetíteni.
Reggel, ha erősnek akarom érezni magam,
felveszek egy oroszlánt.
Ha lelkesítésre van szükségem,
akkor talán egy idézetet.
E rendszer megépítéséhez
egy általános arcfelismerő
programot használtam,
de fehér maszk nélkül
nehéz volt tesztelni.
Sajnos korábban már
beleütköztem ebbe a problémába.
Amikor a Georgia Tech-en
számítástudományt tanultam.
társas robotokon dolgoztam,
és az egyik feladat az volt,
hogy bújócskázzak egyikükkel,
ami egy egyszerű oda-vissza játék.
A partnerek eltakarták az arcukat,
aztán felfedték: "Aki bújt, aki nem..."
A probléma, hogy nehéz bújócskázni,
ha nem látjuk egymást.
A robotom pedig nem látott engem.
Ezért kölcsönvettem a szobatársam arcát
a projekt idejére,
aztán beadtam a feladatot.
Majd rájöttem, hogy valaki más
fogja megoldani ezt a problémát.
Nem sokkal később,
Hong Kongban voltam
egy vállalkozói versenyen.
A szervezők látogatásra
vitték a résztvevőket
helybeli startup vállalkozásokhoz.
Az egyiknek volt egy társas robotja,
amivel készítettek egy bemutatót.
Ez mindenkin működött, kivéve engem,
és valószínűleg kitalálják:
az én arcomat nem érzékelte.
Kérdeztem a fejlesztőket, mi történik.
Kiderült, hogy ugyanazt
az arcfelismerő programot használtuk.
A világ másik felén jöttem rá,
hogy az algoritmikus torzítás
terjedése olyan gyors,
mint pár fájl letöltése az internetről.
De mi is történik itt?
Miért nem érzékeli az arcom?
Nézzük meg,
hogy tanítjuk meg látni a gépeket.
A gépi látás gépi tanulási
technikákat használnak
az arcfelismeréshez.
Ez úgy működik, hogy különböző arcokból
betanító adathalmazokat készítünk.
Ez egy arc. Ez egy arc. Ez nem egy arc.
A gép idővel megtanul
más arcokat is felismerni.
Ha azonban a betanító sorozat
nem elég változatos,
az átlagtól jelentősen eltérő arcokat
nehezen fogja felismerni.
Ez történt az esetemben is.
De semmi gond, vannak azért jó hírek is.
A betanító adathalmazok
nem a semmiből lesznek.
Mi tudunk ilyeneket készíteni.
Tudunk teljes spektrumú
betanító készleteket gyártani,
melyek jobban tükrözik
az emberi arcok sokféleségét.
Láthatták a példáimon,
hogyan vettem észre a társas robotoknál
ezeket az algoritmikus torzításokat.
Az algoritmikus torzítás azonban
diszkriminációhoz vezethet.
A rendőrség Amerika-szerte
elkezdett arcfelismerő
programokat használni
a bűnözés elleni harcban.
A Georgtown-i törvényszék
jelentése szerint
minden második amerikai felnőtt -
azaz 117 millió ember -
arca szerepel arcfelismerő hálózatokban.
A rendőrség szabályozatlanul
fér hozzá e hálózatokhoz,
olyan algoritmusokkal, melyek pontosságát
senki nem ellenőrizte.
Tudjuk, hogy az arcfelismerés
nem elég megbízható,
és az arcok következetes felismerése
továbbra is gondot okoz.
Láthatták a Facebookon.
A barátaim és én mindig nevetünk
mások félrejelölt képein a fotóinkon.
De tévesen felismerni
egy bűnözőt, nem vicces,
mint ahogy a személyes szabadság
megsértése sem az.
A gépi tanulást
arcfelismerésre használják,
de már a a számítógépes látás
területén kívül is használják.
"Weapons of Math Destruction"
[Matematikai fegyverek] című könyvében
Cathy O'Neil adattudós
a WMO-k - egyre szaporodó,
rejtélyes és pusztító algoritmusok -
térnyeréséről ír,
melyeket fontos döntések során használnak,
és melyek életünk
több területére kihatnak.
Kit veszünk fel és kit rúgunk ki?
Ki kap hitelt? Ki köthet biztosítást?
Felvesznek a fősulira,
ahova be akarunk kerülni?
Az egy adott helyez vásárolt
azonos termékekért
vajon ugyanazt az árat fizetjük?
A törvénykezés elkezdte a gépi tanulást
a bűnmegelőzésben is használni.
Egyes bírók gép által generált
kockázati értékek alapján döntik el,
mennyi időt üljön valaki börtönben.
Nagyon el kell gondolkoznunk
ezeken a döntéseken.
Igazságosak vajon?
Láthattuk, hogy az algoritmikus torzítás
nem mindig vezet
igazságos végkimenetelhez.
Mit tudunk hát tenni?
Ki kell találnunk, hogyan készítsünk
tökéletesebb kódokat,
jobb kódolási gyakorlatok alkalmazásával.
És ez az emberekkel kezdődik.
A kódolókkal, programozókkal.
Vajon a fejlesztői teamek
összetétele elég változatos ahhoz,
hogy a tagok képesek legyenek
egymás gyenge pontjait kiküszöbölni?
Technikai oldalról nézve az számít,
hogy hogyan kódolunk.
Beépítjük az igazságosságot
a rendszerek fejlesztése során?
És végül: miért is kódolunk?
A számítástechnika eszközei
hatalmas gazdagságra nyitottak kaput.
Most lehetőségünk van nagyobb
egyenlőség elérésére,
ha rendszereinket kezdettől fogva
a társadalmi változásokat
szem előtt tartva fejlesztjük.
Ez a "belekódolás" mozgalom
három alapeleme:
Ki kódol?
Hogyan kódol?
Miért kódol?
A "belekódolás" irányába való
elmozduláshoz szükségünk lesz
olyan megoldásokra, amelyek képesek
az enyémhez hasonló
emberi tapasztalatok gyűjtésével,
és létező rendszerek ellenőrzésével
felismerni az algoritmikus torzítást.
Közben elkezdhetünk jobb
betanító készleteket összeállítani.
Képzeljünk el egy "Közreműködő selfie-k"
kampányt,
mellyel segíthetjük a fejlesztőket
átfogóbb betanítási készletek
létrehozásában és tesztelésében.
És elkezdhetünk lelkiismeretesebben
gondolkozni
az általunk fejlesztett technológia
társadalmi hatásairól.
A "belekódolási" mozgalom elindításához
Megalapítottam
az Algoritmikus Igazság Ligáját,
melyhez bárki csatlakozhat, és segíthet
a kódolt csőlátás elleni harcban.
A codedgaze.com oldalon
bejelenthetnek részrehajlást,
kérhetnek felülvizsgálatot,
jelentkezhetnek tesztelőnek,
és csatlakozhatnak beszélgetésekhez.
#codedgaze.
Kérem hát önöket,
csatlakozzanak egy világhoz,
ahol a technika mindnyájunkért van,
nem csak néhányunkért.
Egy világhoz, ahol a részvétel
és a társadalmi változás van a központban!
Köszönöm.
( Taps)
Végül van még egy kérdésem:
Csatlakoznak hozzám e harcban?
(Nevetés)
(Taps)