A Mesterséges Intelligencia veszélye furább, mint hinnénk
-
0:02 - 0:05Nos, a mesterséges
intelligencia arról híres, -
0:05 - 0:08hogy zavart kelt minden iparágban.
-
0:09 - 0:11Na és hogy állunk a fagylalttal?
-
0:12 - 0:16Milyen szédítő új ízeket teremthetnénk
-
0:16 - 0:19egy jól képzett mesterséges
intelligencia hatalmával? -
0:19 - 0:23Összeálltam hát a kealingi gimnázium
egyik programozó csoportjával, -
0:23 - 0:25hogy választ találjunk erre a kérdésre.
-
0:25 - 0:31Több mint 1600-féle létező
fagylaltízt gyűjtöttek össze, -
0:31 - 0:36és ezeket betápláltuk egy algoritmusba,
hogy meglássuk, mit hoz ki belőlük. -
0:36 - 0:40Íme, néhány ízkombináció,
amit az MI generált. -
0:40 - 0:42[Sütőtök Kuka Fék]
-
0:42 - 0:43(Nevetés)
-
0:43 - 0:46[Mogyoró Vaj Sár]
-
0:47 - 0:48[Eper Krém Kórság]
-
0:48 - 0:50(Nevetés)
-
0:50 - 0:55Ezek nem olyan ínyenc aromák,
mint amikre feltehetően vágyunk. -
0:55 - 0:57A kérdés tehát: mi történt?
-
0:57 - 0:58Mi volt a hiba?
-
0:58 - 1:01Az MI ki akar nyírni minket?
-
1:01 - 1:05Vagy csak teljesíteni akarta a kérésünket,
és akadt némi probléma? -
1:07 - 1:09A filmekben, ha valami
gond adódik az MI-vel, -
1:09 - 1:12az általában azért történik,
mert az MI szándékosan fellázad, -
1:12 - 1:14többé nem engedelmeskedik az embernek,
-
1:14 - 1:17hanem saját célt tűz ki magának,
köszönöm szépen. -
1:17 - 1:20A valóságban azonban a jelenlegi MI
-
1:21 - 1:22még nem elég okos ehhez.
-
1:23 - 1:26Nagyjából akkora
a számítási teljesítménye, -
1:26 - 1:27mint egy földigilisztának,
-
1:27 - 1:30vagy legjobb esetben egy háziméhnek,
-
1:31 - 1:33de valószínűleg még ennyi sem.
-
1:33 - 1:35Ahogy folyamatosan új dolgokat
tudunk meg az agyról, -
1:35 - 1:40úgy lesz egyre világosabb, hogy az MI
teljesítménye közelébe sem ér az agynak. -
1:40 - 1:45A mai MI képes például
felismerni egy gyalogost a képen, -
1:45 - 1:48de fogalma sincs arról,
mi az, hogy gyalogos, -
1:48 - 1:53azonkívül, hogy vonalak, textúrák
és dolgok gyűjteménye. -
1:54 - 1:56Fogalma sincs arról, mi az, hogy ember.
-
1:57 - 2:00Megteszi-e tehát a mai MI,
amit kérünk tőle? -
2:00 - 2:02Persze, ha tudja,
-
2:02 - 2:04de lehet, hogy nem azt teszi,
amit kérünk tőle. -
2:04 - 2:07Tegyük fel, megpróbáljuk rávenni,
-
2:07 - 2:10hogy fogja ezt a
robotalkatrész-gyűjteményt, -
2:10 - 2:14és rakjon össze valamilyen robotot,
amit aztán eljuttat A pontból B-be. -
2:14 - 2:16Na most, ha hagyományos
számítógépes programmal -
2:16 - 2:19gyürkőznénk neki
a probléma megoldásának, -
2:19 - 2:21akkor lépésről lépésre
írnánk bele a parancssorokat, -
2:21 - 2:23hogy milyen sorrendben fogjon
az alkatrészekhez, -
2:23 - 2:26hogyan állítsa össze azokat,
-
2:26 - 2:29aztán hogyan indítsa el a robot lábait,
hogy eljuthasson A-ból B-be. -
2:29 - 2:32Ha azonban MI-vel állunk neki
a problémamegoldásnak, -
2:32 - 2:33egészen más a helyzet.
-
2:33 - 2:35Nem mondhatjuk meg neki,
hogyan fogjon hozzá, -
2:35 - 2:37csak kijelöljük a célt,
-
2:37 - 2:40neki magának kell rájönnie,
kísérletek és hibák során át, -
2:40 - 2:42hogy hogyan érheti el a célt.
-
2:42 - 2:46Előfordul, hogy az MI
hajlamos így megoldani -
2:46 - 2:48ezt a sajátos problémát:
-
2:48 - 2:51tornyot rak össze az alkatrészekből,
ami aztán eldől, -
2:51 - 2:53és kiköt a B pontban.
-
2:53 - 2:56Technikai szempontból
megoldja a problémát. -
2:56 - 2:58Végül is eljut a B pontba.
-
2:58 - 3:02Az MI nem azért veszélyes,
mert fellázadna ellenünk, -
3:02 - 3:06hanem azért, mert pontosan
azt fogja tenni, amire megkérjük. -
3:07 - 3:09Ha tehát MI-vel dolgozunk,
így kell feltennünk a kérdést: -
3:09 - 3:13Hogyan fogalmazzuk meg a problémát,
hogy az MI azt tegye, amit szeretnénk? -
3:15 - 3:18Ezt a kis robotot egy MI irányítja.
-
3:18 - 3:21Megtervezte a robot lábait,
-
3:21 - 3:25aztán kidolgozta, hogyan kerülje ki
ezeket az akadályokat. -
3:25 - 3:28De amikor David Ha
előkészítette ezt a kísérletet, -
3:28 - 3:31nagyon, nagyon szigorú korlátokat
kellett beállítania arra vonatkozóan, -
3:31 - 3:34hogy mekkora lábakat gyárthasson az MI,
-
3:34 - 3:37mert különben...
-
3:43 - 3:47(Nevetés)
-
3:49 - 3:52Technikailag végigment
az egész akadálypályán. -
3:52 - 3:57Mint látják, még egy egyszerű
gyaloglás is túl nagy falat egy MI-nek. -
3:57 - 4:01Ha így nézzük őket, azt mondhatják: na jó,
-
4:01 - 4:04ne legyen magas torony, ne legyen borulás,
-
4:04 - 4:07legyenek lábai, amin járni tud.
-
4:07 - 4:10De előfordul, hogy ez sem működik.
-
4:10 - 4:13Az volt az MI feladata,
hogy gyorsan mozogjon. -
4:13 - 4:17Nem mondták neki,
hogy fusson szembe, előre, -
4:17 - 4:19azt sem, hogy nem használhatja a karját.
-
4:19 - 4:24Ez történik, ha túl gyors mozgásra
képezünk ki egy MI-t, -
4:24 - 4:28olyan lesz, mintha bukfencezne,
és mint a "hülye járások". -
4:28 - 4:29Általában mindig ez történik.
-
4:30 - 4:33Így vonaglik egy kupacban a talajon.
-
4:33 - 4:34(Nevetés)
-
4:35 - 4:38Úgyhogy szerintem a Terminátor robotjainak
-
4:38 - 4:40sokkal furcsábbnak kellett volna lenniük.
-
4:40 - 4:44Az MI a "Mátrixot" is feltöri,
ha lehetőséget kap rá. -
4:44 - 4:47Ha tehát szimulációban
tanítunk be egy MI-t, -
4:47 - 4:51megtanulja majd feltörni
a szimuláció matematikai hibáit, -
4:51 - 4:53és ebből nyer energiát.
-
4:53 - 4:58Vagy képes lesz rájönni, hogyan mozoghat
fürgébben a talajon csúszkálva. -
4:58 - 5:00MI-vel együtt dolgozni
-
5:00 - 5:02nem olyan, mint emberrel,
-
5:02 - 5:06sokkal inkább olyan, mint valami
fura természeti erővel együttműködni. -
5:07 - 5:11És tényleg könnyű véletlenül hibás
problémát adni neki megoldásra, -
5:11 - 5:16majd többnyire nem jövünk rá addig,
amíg valami balul nem sül el. -
5:16 - 5:18Végeztem egy kísérletet,
-
5:18 - 5:22melyben az MI azt a feladatot kapta,
hogy színek másolásával -
5:22 - 5:23keverjen ki új árnyalatokat,
-
5:23 - 5:26a bal oldalon megadott lista szerint.
-
5:27 - 5:30És tessék, ezzel állt elő.
-
5:30 - 5:33[Sindi popója, Szaros,
Szenvedés, Szeméremszürke] -
5:33 - 5:37(Nevetés)
-
5:39 - 5:41Gyakorlatilag
-
5:41 - 5:43pontosan azt tette, amit kértem tőle.
-
5:43 - 5:46Azt hittem, illedelmes
festékneveket kérek tőle, -
5:46 - 5:49de valójában az volt a feladata,
-
5:49 - 5:52hogy betűkombinációkat utánozzon,
-
5:52 - 5:54amiket az eredeti listán látott.
-
5:54 - 5:57Semmit nem mondtam neki arról,
mit jelentenek a szavak, -
5:57 - 5:59vagy hogy esetleg akad köztük olyan,
-
5:59 - 6:02melyekből inkább
nem képzünk festékneveket. -
6:03 - 6:07A teljes világa olyan adatokból áll,
melyeket én tápláltam bele. -
6:07 - 6:11Akárcsak a fagylaltízeknél,
itt sincs fogalma semmi másról. -
6:12 - 6:14Az adatoknak köszönhető,
-
6:14 - 6:18hogy gyakran előfordul:
véletlenül rossz dolgokra tanítjuk meg őt. -
6:19 - 6:22Ez egy hal, a neve compó.
-
6:22 - 6:24Egy kutatócsoport
betanított egy MI-t arra, -
6:24 - 6:27hogy képeken azonosítsa a compót.
-
6:27 - 6:29Aztán amikor megkérdezték tőle,
-
6:29 - 6:32a kép melyik része alapján
azonosította a halat, -
6:32 - 6:35tessék, ezeket emelte ki.
-
6:35 - 6:37Bizony, azok ott emberi ujjak.
-
6:37 - 6:39Miért emberi ujjak alapján próbálna
-
6:39 - 6:41halat beazonosítani?
-
6:42 - 6:45Nos, a compó történetesen trópusi halfaj,
-
6:45 - 6:48ezért sok képen, melyeket az MI megfigyelt
-
6:48 - 6:50a betanítás során,
-
6:50 - 6:53valahogy így nézett ki a hal.
[A képen ember tartja a halat.] -
6:53 - 6:54(Nevetés)
-
6:54 - 6:57Az MI nem tudta, hogy az ujjak
nem tartoznak a halhoz. -
6:59 - 7:03Így már világos, miért nehéz
olyan MI-t tervezni, -
7:03 - 7:06amelyik érti is, amit lát.
-
7:06 - 7:09És ezért olyan nehéz
képfelismerést tervezni -
7:09 - 7:11az önvezető autókban,
-
7:11 - 7:13és azért van olyan sok balesetük,
-
7:14 - 7:16mert az MI-jük összezavarodik.
-
7:16 - 7:20Hadd meséljek egy 2016-os példát.
-
7:20 - 7:25Halálos baleset történt, amikor valaki
MI-robotpilóta üzemmódban ment Teslával, -
7:25 - 7:28de nem az autópályán, amire tervezték,
-
7:28 - 7:31hanem városi utakon.
-
7:31 - 7:34Az történt, hogy egy kamion
hajtott ki elé, -
7:34 - 7:36az autó pedig nem fékezett.
-
7:37 - 7:41Tény, hogy az MI-nek megtanították,
hogy képeken felismerje a kamionokat. -
7:41 - 7:43De valószínűleg az történt,
-
7:43 - 7:47hogy az MI csak autópályán történő
vezetés során ismerte fel a kamionokat, -
7:47 - 7:49ahol számításunk szerint
hátulról bukkannak fel. -
7:49 - 7:53Az oldalról érkező kamion
nem valószínű az autópályán, -
7:53 - 7:56úgyhogy amikor az MI meglátta,
-
7:56 - 8:01valószínűleg útjelző táblának nézte,
-
8:01 - 8:04ezért szép nyugodtan
alákormányozta az autót. -
8:04 - 8:07Mutatok egy másik MI-botlást:
-
8:07 - 8:10Az Amazon nemrég felhagyott
egy önéletrajz-válogató algoritmussal, -
8:10 - 8:11aminek fejlesztésén dolgoztak,
-
8:11 - 8:15mert kiderült, hogy az algoritmus
diszkriminálja a nőket. -
8:15 - 8:18Ugyanis olyan önéletrajzokat
tápláltak be az MI-nek, -
8:18 - 8:20melyeket korábbi alkalmazottaik írtak.
-
8:20 - 8:24És az MI ezekből a példákból
azt tanulta meg, hogy elvesse azokat, -
8:24 - 8:26akik női egyetemekre jártak,
-
8:26 - 8:30vagy akiknél a "nő" szó olyan
szövegösszefüggésben fordult elő, -
8:30 - 8:34mint "női kosárlabdacsapat",
vagy "Mérnöknők Társasága". -
8:34 - 8:38Az MI nem tudta, hogy nem ajánlatos
ezt a konkrét dolgot lemásolni, -
8:38 - 8:40úgy, ahogy az emberektől látta.
-
8:40 - 8:43Gyakorlatilag pontosan azt tette,
amivel megbízták. -
8:43 - 8:46Csak a fejlesztők véletlenül
rosszul fogalmazták meg a kérést. -
8:47 - 8:50És mindig ez történik az MI-vel.
-
8:50 - 8:54Tényleg lehet pusztító,
de még csak nem is tud róla. -
8:54 - 8:59Azokat az MI-ket, melyek új tartalmakat
ajánlanak a Facebookon, YouTube-on, -
8:59 - 9:02arra optimalizálták, hogy növelje
a kattintások és megtekintések számát. -
9:02 - 9:06Sajnos, szerintük ennek az egyik módja az,
-
9:06 - 9:10hogy összeesküvés-elméletes
vagy fanatikus tartalmakat ajánljanak. -
9:11 - 9:16Az MI-knek fogalmuk sincs arról,
valójában miről szólnak ezek, -
9:16 - 9:20és arról sincs, hogy milyen
következményekkel járhat -
9:20 - 9:22az efféle tartalmak ajánlása.
-
9:22 - 9:24Úgyhogy amikor MI-vel dolgozunk,
-
9:24 - 9:29tőlünk függ, hogyan
kerüljük el a problémákat. -
9:29 - 9:31A problémák elkerülése
-
9:31 - 9:35ősi kommunikációs kérdés lehet,
melynek során nekünk, embereknek -
9:35 - 9:39meg kell tanulnunk
helyesen kommunikálni az MI-vel. -
9:39 - 9:43Meg kell tanulnunk, hogy mit képes
megtenni és mit nem. -
9:43 - 9:46Meg kell értenünk,
hogy csöppnyi gilisztaagyával -
9:46 - 9:50nem képes felfogni,
hogy mire kérjük egész pontosan. -
9:51 - 9:54Vagyis felkészülten kell
együttműködnünk vele, -
9:54 - 10:00mert nem olyan, mint a sci-fik
mindentudó MI szuperhősei. -
10:00 - 10:03Felkészülten kell együttműködnünk vele,
-
10:03 - 10:06azzal a fajtával, amelyik ma létezik.
-
10:06 - 10:10És a ma létező MI
bizony elég fura szerzet. -
10:10 - 10:11Köszönöm.
-
10:11 - 10:16(Taps)
- Title:
- A Mesterséges Intelligencia veszélye furább, mint hinnénk
- Speaker:
- Janelle Shane
- Description:
-
A mesterséges intelligencia veszélye nem abban áll, hogy fellázad és ellenünk fordul, hanem hogy pontosan végrehajtja azt, amivel megbízzuk – állítja Janelle Shane MI-kutató. Shane bemutatja nekünk az MI algoritmusok fura, időnként riasztó bohóckodásait, miközben emberi problémákat próbálnak megoldani – például új fagylaltaromák keverésével, vagy autók felismerésével az utakon – , és kifejti, miért nem ér fel az MI az emberi agy töredékével sem.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Csaba Lóki edited Hungarian subtitles for The danger of AI is weirder than you think | ||
Andi Vida commented on Hungarian subtitles for The danger of AI is weirder than you think | ||
Csaba Lóki commented on Hungarian subtitles for The danger of AI is weirder than you think | ||
Csaba Lóki approved Hungarian subtitles for The danger of AI is weirder than you think | ||
Csaba Lóki edited Hungarian subtitles for The danger of AI is weirder than you think | ||
Andi Vida commented on Hungarian subtitles for The danger of AI is weirder than you think | ||
Zsófia Herczeg commented on Hungarian subtitles for The danger of AI is weirder than you think | ||
Andi Vida commented on Hungarian subtitles for The danger of AI is weirder than you think |
Andi Vida
Itt jelzem, mert életemben először ennél az előadásnál találkoztam azzal a felvetéssel,hogy Zsuzsa (mint reviewer) szerint [..]-ben jelezni kéne a kivetített videón zajló történéseket, a vakokra és gyengénlátókra tekintettel.
Magát a szándékot jogosnak tartom, de mivel még soha korábban nem találkoztam ilyen megoldással, senki nem is kérte számon, nem is utalt rá sehol senki, és Zsuzsa sem tudta alátámasztani, én sem találok efféle szabályzatot sehol, TED-szerte, ezért az lenne a kérésem, hogy segítsetek légyszi ezt tisztázni.
Előre is köszi,
Andi
Zsófia Herczeg
Szia Andi!
Igaza van Zsuzsának.
Ez is egyike azoknak a szabályoknak, amelyek elsősorban nem a fordítókat, hanem az eredeti nyelvű átiratok készítőit érintik.
A szabály leírása ebben a csomagban található:
https://translations.ted.com/How_to_Tackle_a_Transcript (> 3.1.7: Did I include on-screen text?)
A szögletes zárójel elméletileg a fordítások olvasóit hivatott segíteni azzal, hogy jól láthatóan elkülöníti az illusztrációkban (kivetített képek, videók) megjelenő szövegek fordítását az előadó szövegétől.
Remélem, tudtam segíteni.
További jó munkát kíván nektek:
Zsófi
Andi Vida
Köszönöm, Zsófi, elolvastam.
Határozottan _on-screen TEXT-ről szól az egész passzus.
Az én kérdésem nem erre vonatkozott, ezt a gyakorlatot eddig is ismertem.
Andi
Zsófia Herczeg
Bocsánat. Félreértettem a kérdést. A kivetített videón zajó történéseket, vagyis azt, hogy mit látunk - pl. hogy a kockák furcsa járással mozognak a kisfilmben - szerintem semmilyen formában nem kell a feliratokban jelölni. Én legalábbis ilyesmivel nem találkoztam még.
Andi Vida
Köszönöm, Zsófi - akkor ebben maradhatunk, Zsuzsi.
Csaba Lóki
Jó lesz így?
Andi Vida
Részemről mind OK, csak a -féle utótag az kötőjeles.
Köszi, Csaba.