Return to Video

Küzdelmem az algoritmikus előítélettel szemben

  • 0:01 - 0:04
    Sziasztok, én Joy vagyok, a kód poétája,
  • 0:04 - 0:09
    és küldetésem egy láthatatlan,
    egyre hatalmasabb erő,
  • 0:09 - 0:12
    a "kódolt csőlátás" megfékezése.
  • 0:12 - 0:15
    Így nevezem én az algoritmikus torzítást.
  • 0:15 - 0:20
    Ez, akárcsak az emberi előítélet,
    igazságtalanságokhoz vezet.
  • 0:20 - 0:25
    Az algoritmusok azonban
    képesek e torzításokat járványszerűen,
  • 0:25 - 0:28
    óriási területen és hihetetlen
    sebességgel terjeszteni.
  • 0:28 - 0:32
    Az algoritmikus torzítás emellett
    kizárásos tapasztalatokhoz,
  • 0:32 - 0:34
    és diszkriminációs gyakorlathoz
    is vezethet.
  • 0:35 - 0:37
    Bemutatom, mire gondolok.
  • 0:37 - 0:39
    (Videó) Szia, kamera. Van egy arcom.
  • 0:40 - 0:42
    Látod az arcom?
  • 0:42 - 0:44
    A szemüveg nélküli arcom?
  • 0:44 - 0:46
    Az ő arcát látod.
  • 0:46 - 0:48
    Mi a helyzet az én arcommal?
  • 0:52 - 0:56
    Van egy maszkom. Látod a maszkom?
  • 0:56 - 0:59
    Szóval, hogy hogy is történt ez?
  • 0:59 - 1:02
    Miért ülök egy számítógéppel szemben
  • 1:02 - 1:03
    egy fehér maszkban,
  • 1:03 - 1:07
    próbálva egy olcsó webkamerával
    felismertetni magam?
  • 1:07 - 1:09
    Mikor épp nem a kódolt
    csőlátás ellen harcolo
  • 1:09 - 1:11
    kódpoétaként,
  • 1:11 - 1:14
    akkor vagyok végzős hallgató
    az MIT Media Lab-en,
  • 1:14 - 1:19
    ahol lehetőségem van mindenféle
    furcsa projekten dolgozni.
  • 1:19 - 1:21
    Ezek egyike az Aspire Mirror,
  • 1:21 - 1:26
    melyben digitális maszkokat tudok
    a tükörképemre vetíteni.
  • 1:26 - 1:29
    Reggel, ha erősnek akarom érezni magam,
  • 1:29 - 1:30
    felveszek egy oroszlánt.
  • 1:30 - 1:34
    Ha lelkesítésre van szükségem,
    akkor talán egy idézetet.
  • 1:34 - 1:36
    E rendszer megépítéséhez
  • 1:36 - 1:38
    egy általános arcfelismerő
    programot használtam,
  • 1:38 - 1:43
    de fehér maszk nélkül
    nehéz volt tesztelni.
  • 1:44 - 1:49
    Sajnos korábban már
    beleütköztem ebbe a problémába.
  • 1:49 - 1:53
    Amikor a Georgia Tech-en
    számítástudományt tanultam.
  • 1:53 - 1:55
    társas robotokon dolgoztam,
  • 1:55 - 1:59
    és az egyik feladat az volt,
    hogy bújócskázzak egyikükkel,
  • 1:59 - 2:01
    ami egy egyszerű oda-vissza játék.
  • 2:01 - 2:05
    A partnerek eltakarták az arcukat,
    aztán felfedték: "Aki bújt, aki nem..."
  • 2:05 - 2:09
    A probléma, hogy nehéz bújócskázni,
    ha nem látjuk egymást.
  • 2:09 - 2:12
    A robotom pedig nem látott engem.
  • 2:12 - 2:16
    Ezért kölcsönvettem a szobatársam arcát
    a projekt idejére,
  • 2:16 - 2:17
    aztán beadtam a feladatot.
  • 2:17 - 2:21
    Majd rájöttem, hogy valaki más
    fogja megoldani ezt a problémát.
  • 2:22 - 2:24
    Nem sokkal később,
  • 2:24 - 2:28
    Hong Kongban voltam
    egy vállalkozói versenyen.
  • 2:28 - 2:31
    A szervezők látogatásra
    vitték a résztvevőket
  • 2:31 - 2:33
    helybeli startup vállalkozásokhoz.
  • 2:33 - 2:36
    Az egyiknek volt egy társas robotja,
  • 2:36 - 2:38
    amivel készítettek egy bemutatót.
  • 2:38 - 2:41
    Ez mindenkin működött, kivéve engem,
  • 2:41 - 2:43
    és valószínűleg kitalálják:
  • 2:43 - 2:46
    az én arcomat nem érzékelte.
  • 2:46 - 2:49
    Kérdeztem a fejlesztőket, mi történik.
  • 2:49 - 2:54
    Kiderült, hogy ugyanazt
    az arcfelismerő programot használtuk.
  • 2:54 - 2:56
    A világ másik felén jöttem rá,
  • 2:56 - 3:00
    hogy az algoritmikus torzítás
    terjedése olyan gyors,
  • 3:00 - 3:03
    mint pár fájl letöltése az internetről.
  • 3:04 - 3:07
    De mi is történik itt?
    Miért nem érzékeli az arcom?
  • 3:07 - 3:10
    Nézzük meg,
    hogy tanítjuk meg látni a gépeket.
  • 3:10 - 3:14
    A gépi látás gépi tanulási
    technikákat használnak
  • 3:14 - 3:16
    az arcfelismeréshez.
  • 3:16 - 3:19
    Ez úgy működik, hogy különböző arcokból
    betanító adathalmazokat készítünk.
  • 3:19 - 3:22
    Ez egy arc. Ez egy arc. Ez nem egy arc.
  • 3:22 - 3:27
    A gép idővel megtanul
    más arcokat is felismerni.
  • 3:27 - 3:31
    Ha azonban a betanító sorozat
    nem elég változatos,
  • 3:31 - 3:34
    az átlagtól jelentősen eltérő arcokat
  • 3:34 - 3:36
    nehezen fogja felismerni.
  • 3:36 - 3:38
    Ez történt az esetemben is.
  • 3:38 - 3:40
    De semmi gond, vannak azért jó hírek is.
  • 3:40 - 3:43
    A betanító adathalmazok
    nem a semmiből lesznek.
  • 3:43 - 3:45
    Mi tudunk ilyeneket készíteni.
  • 3:45 - 3:49
    Tudunk teljes spektrumú
    betanító készleteket gyártani,
  • 3:49 - 3:53
    melyek jobban tükrözik
    az emberi arcok sokféleségét.
  • 3:53 - 3:55
    Láthatták a példáimon,
  • 3:55 - 3:57
    hogyan vettem észre a társas robotoknál
  • 3:57 - 4:02
    ezeket az algoritmikus torzításokat.
  • 4:02 - 4:06
    Az algoritmikus torzítás azonban
    diszkriminációhoz vezethet.
  • 4:07 - 4:09
    A rendőrség Amerika-szerte
  • 4:09 - 4:13
    elkezdett arcfelismerő
    programokat használni
  • 4:13 - 4:16
    a bűnözés elleni harcban.
  • 4:16 - 4:18
    A Georgtown-i törvényszék
    jelentése szerint
  • 4:18 - 4:24
    minden második amerikai felnőtt -
    azaz 117 millió ember -
  • 4:24 - 4:28
    arca szerepel arcfelismerő hálózatokban.
  • 4:28 - 4:33
    A rendőrség szabályozatlanul
    fér hozzá e hálózatokhoz,
  • 4:33 - 4:37
    olyan algoritmusokkal, melyek pontosságát
    senki nem ellenőrizte.
  • 4:37 - 4:41
    Tudjuk, hogy az arcfelismerés
    nem elég megbízható,
  • 4:41 - 4:45
    és az arcok következetes felismerése
    továbbra is gondot okoz.
  • 4:45 - 4:47
    Láthatták a Facebookon.
  • 4:47 - 4:50
    A barátaim és én mindig nevetünk
  • 4:50 - 4:52
    mások félrejelölt képein a fotóinkon.
  • 4:52 - 4:58
    De tévesen felismerni
    egy bűnözőt, nem vicces,
  • 4:58 - 5:01
    mint ahogy a személyes szabadság
    megsértése sem az.
  • 5:01 - 5:04
    A gépi tanulást
    arcfelismerésre használják,
  • 5:04 - 5:08
    de már a a számítógépes látás
    területén kívül is használják.
  • 5:09 - 5:13
    "Weapons of Math Destruction"
    [Matematikai fegyverek] című könyvében
  • 5:13 - 5:20
    Cathy O'Neil adattudós
    a WMO-k - egyre szaporodó,
  • 5:20 - 5:24
    rejtélyes és pusztító algoritmusok -
    térnyeréséről ír,
  • 5:24 - 5:27
    melyeket fontos döntések során használnak,
  • 5:27 - 5:31
    és melyek életünk
    több területére kihatnak.
  • 5:31 - 5:32
    Kit veszünk fel és kit rúgunk ki?
  • 5:32 - 5:35
    Ki kap hitelt? Ki köthet biztosítást?
  • 5:35 - 5:38
    Felvesznek a fősulira,
    ahova be akarunk kerülni?
  • 5:38 - 5:42
    Az egy adott helyez vásárolt
    azonos termékekért
  • 5:42 - 5:44
    vajon ugyanazt az árat fizetjük?
  • 5:44 - 5:48
    A törvénykezés elkezdte a gépi tanulást
  • 5:48 - 5:50
    a bűnmegelőzésben is használni.
  • 5:50 - 5:54
    Egyes bírók gép által generált
    kockázati értékek alapján döntik el,
  • 5:54 - 5:58
    mennyi időt üljön valaki börtönben.
  • 5:58 - 6:01
    Nagyon el kell gondolkoznunk
    ezeken a döntéseken.
  • 6:01 - 6:02
    Igazságosak vajon?
  • 6:02 - 6:05
    Láthattuk, hogy az algoritmikus torzítás
  • 6:05 - 6:08
    nem mindig vezet
    igazságos végkimenetelhez.
  • 6:08 - 6:10
    Mit tudunk hát tenni?
  • 6:10 - 6:14
    Ki kell találnunk, hogyan készítsünk
    tökéletesebb kódokat,
  • 6:14 - 6:17
    jobb kódolási gyakorlatok alkalmazásával.
  • 6:17 - 6:19
    És ez az emberekkel kezdődik.
  • 6:20 - 6:22
    A kódolókkal, programozókkal.
  • 6:22 - 6:26
    Vajon a fejlesztői teamek
    összetétele elég változatos ahhoz,
  • 6:26 - 6:29
    hogy a tagok képesek legyenek
    egymás gyenge pontjait kiküszöbölni?
  • 6:29 - 6:32
    Technikai oldalról nézve az számít,
    hogy hogyan kódolunk.
  • 6:32 - 6:35
    Beépítjük az igazságosságot
    a rendszerek fejlesztése során?
  • 6:36 - 6:38
    És végül: miért is kódolunk?
  • 6:39 - 6:44
    A számítástechnika eszközei
    hatalmas gazdagságra nyitottak kaput.
  • 6:44 - 6:48
    Most lehetőségünk van nagyobb
    egyenlőség elérésére,
  • 6:48 - 6:51
    ha rendszereinket kezdettől fogva
  • 6:51 - 6:54
    a társadalmi változásokat
    szem előtt tartva fejlesztjük.
  • 6:54 - 6:59
    Ez a "belekódolás" mozgalom
    három alapeleme:
  • 6:59 - 7:00
    Ki kódol?
  • 7:00 - 7:02
    Hogyan kódol?
  • 7:02 - 7:04
    Miért kódol?
  • 7:04 - 7:07
    A "belekódolás" irányába való
    elmozduláshoz szükségünk lesz
  • 7:07 - 7:10
    olyan megoldásokra, amelyek képesek
    az enyémhez hasonló
  • 7:10 - 7:14
    emberi tapasztalatok gyűjtésével,
    és létező rendszerek ellenőrzésével
  • 7:14 - 7:16
    felismerni az algoritmikus torzítást.
  • 7:16 - 7:20
    Közben elkezdhetünk jobb
    betanító készleteket összeállítani.
  • 7:20 - 7:23
    Képzeljünk el egy "Közreműködő selfie-k"
    kampányt,
  • 7:23 - 7:27
    mellyel segíthetjük a fejlesztőket
    átfogóbb betanítási készletek
  • 7:27 - 7:29
    létrehozásában és tesztelésében.
  • 7:29 - 7:32
    És elkezdhetünk lelkiismeretesebben
    gondolkozni
  • 7:32 - 7:38
    az általunk fejlesztett technológia
    társadalmi hatásairól.
  • 7:38 - 7:40
    A "belekódolási" mozgalom elindításához
  • 7:40 - 7:43
    Megalapítottam
    az Algoritmikus Igazság Ligáját,
  • 7:43 - 7:49
    melyhez bárki csatlakozhat, és segíthet
    a kódolt csőlátás elleni harcban.
  • 7:49 - 7:52
    A codedgaze.com oldalon
    bejelenthetnek részrehajlást,
  • 7:52 - 7:55
    kérhetnek felülvizsgálatot,
    jelentkezhetnek tesztelőnek,
  • 7:55 - 7:57
    és csatlakozhatnak beszélgetésekhez.
  • 7:57 - 8:00
    #codedgaze.
  • 8:01 - 8:03
    Kérem hát önöket,
    csatlakozzanak egy világhoz,
  • 8:03 - 8:07
    ahol a technika mindnyájunkért van,
  • 8:07 - 8:09
    nem csak néhányunkért.
  • 8:09 - 8:14
    Egy világhoz, ahol a részvétel
    és a társadalmi változás van a központban!
  • 8:14 - 8:15
    Köszönöm.
  • 8:15 - 8:19
    ( Taps)
  • 8:21 - 8:24
    Végül van még egy kérdésem:
  • 8:24 - 8:26
    Csatlakoznak hozzám e harcban?
  • 8:26 - 8:27
    (Nevetés)
  • 8:27 - 8:31
    (Taps)
Title:
Küzdelmem az algoritmikus előítélettel szemben
Speaker:
Joy Buolami
Description:

Az MIT hallgatója Joy Buolami arcfelismerő programmal dolgozott, amikor észrevett egy problémát: a program nem észlelte az ő arcát. Az algoritmust kódolói nem tanították meg bőrtónusok és arcszerkezetek szélesebb spektrumának felismerésére. Joy egy misszión van, ahol harcol a gépi tanulás torzításai, az általa "kódolt csőlátás"-nak nevezett jelenség ellen. Ez egy szemfelnyitó beszéd a kódolással összefüggő felelősség szükségességéről ... mivel az algoritmusok életünk egyre több és több területén jutnak meghatározó szerephez.

more » « less
Video Language:
English
Team:
TED
Project:
TEDTalks
Duration:
08:46
  • Kedves Viktória!

    Átnéztem a fordításodat, és sok-sok mindent módosítottam benne.
    Itt láthatod, hogy miket:
    https://amara.org/hu/videos/diffing/6464082/5212110/

    Kérlek, nézd át, és ha valamivel nem értesz egyet, jelezd!

    Fontos észrevételem, hogy ne hagyj ki szövegrészeket az előadásból akkor sem, ha az esetleg szóismétlésnek tűnik! Fordítsuk azt, amit az előadó mond!
    A másik - talán még az előzőnél is fontosabb, - hogy ha lefordítottad, olvasd el a szöveget, és gondold át, hogy Te magad mondanál-e olyan mondatot, amit leírtál. Ha úgy érzed, hogy "Hát, nem biztos,,,", akkor érdemes újragondolni és átfogalmazni a szöveget. Sokkal jobb lesz tőle.
    Alapvatően jó a szöveg, de sok utómunka volt rajta. :)
    Várom a visszajelzésedet!
    Egyik változtatást sem (kivéve az igekötős igék átítrását) nem kell elfogadnod, beszéljük meg!

    Csaba

Hungarian subtitles

Revisions