Nos, a mesterséges intelligencia arról híres,
hogy zavart kelt minden iparágban.
Na és hogy állunk a fagylalttal?
Milyen szédítő új ízeket teremthetnénk
egy jól képzett mesterséges intelligencia hatalmával?
Összeálltam hát a kealingi gimnázium egyik programozó csoportjával,
hogy választ találjunk erre a kérdésre.
Több mint 1600-féle létező fagylaltízt gyűjtöttek össze,
és ezeket betápláltuk egy algoritmusba, hogy meglássuk, mit hoz ki belőlük.
Íme, néhány ízkombináció, amit az MI generált.
[Sütőtök Kuka Fék]
(Nevetés)
[Mogyoró Vaj Sár]
[Eper Krém Kórság]
(Nevetés)
Ezek nem olyan ínyenc aromák, mint amikre feltehetően vágyunk.
A kérdés tehát: mi történt?
Mi volt a hiba?
Az MI ki akar nyírni minket?
Vagy csak teljesíteni akarta a kérésünket, és akadt némi probléma?
A filmekben, ha valami gond adódik az MI-vel,
az általában azért történik, mert az MI szándékosan fellázad,
többé nem engedelmeskedik az embernek,
hanem saját célt tűz ki magának, köszönöm szépen.
A valóságban azonban a jelenlegi MI
még nem elég okos ehhez.
Nagyjából akkora a számítási teljesítménye,
mint egy földigilisztának,
vagy legjobb esetben egy háziméhnek,
de valószínűleg még ennyi sem.
Ahogy folyamatosan új dolgokat tudunk meg az agyról,
úgy lesz egyre világosabb, hogy az MI teljesítménye közelébe sem ér az agynak.
A mai MI képes például felismerni egy gyalogost a képen,
de fogalma sincs arról, mi az, hogy gyalogos,
azonkívül, hogy vonalak, textúrák és dolgok gyűjteménye.
Fogalma sincs arról, mi az, hogy ember.
Megteszi-e tehát a mai MI, amit kérünk tőle?
Persze, ha tudja,
de lehet, hogy nem azt teszi, amit kérünk tőle.
Tegyük fel, megpróbáljuk rávenni,
hogy fogja ezt a robotalkatrész-gyűjteményt,
és rakjon össze valamilyen robotot, amit aztán eljuttat A pontból B-be.
Na most, ha hagyományos számítógépes programmal
gyürkőznénk neki a probléma megoldásának,
akkor lépésről lépésre írnánk bele a parancssorokat,
hogy milyen sorrendben fogjon az alkatrészekhez,
hogyan állítsa össze azokat,
aztán hogyan indítsa el a robot lábait, hogy eljuthasson A-ból B-be.
Ha azonban MI-vel állunk neki a problémamegoldásnak,
egészen más a helyzet.
Nem mondhatjuk meg neki, hogyan fogjon hozzá,
csak kijelöljük a célt,
neki magának kell rájönnie, kísérletek és hibák során át,
hogy hogyan érheti el a célt.
Előfordul, hogy az MI hajlamos így megoldani
ezt a sajátos problémát:
tornyot rak össze az alkatrészekből, ami aztán eldől,
és kiköt a B pontban.
Technikai szempontból megoldja a problémát.
Végül is eljut a B pontba.
Az MI nem azért veszélyes, mert fellázadna ellenünk,
hanem azért, mert pontosan azt fogja tenni, amire megkérjük.
Ha tehát MI-vel dolgozunk, így kell feltennünk a kérdést:
Hogyan fogalmazzuk meg a problémát, hogy az MI azt tegye, amit szeretnénk?
Ezt a kis robotot egy MI irányítja.
Megtervezte a robot lábait,
aztán kidolgozta, hogyan kerülje ki ezeket az akadályokat.
De amikor David Ha előkészítette ezt a kísérletet,
nagyon, nagyon szigorú korlátokat kellett beállítania arra vonatkozóan,
hogy mekkora lábakat gyárthasson az MI,
mert különben...
(Nevetés)
Technikailag végigment az egész akadálypályán.
Mint látják, még egy egyszerű gyaloglás is túl nagy falat egy MI-nek.
Ha így nézzük őket, azt mondhatják: na jó,
ne legyen magas torony, ne legyen borulás,
legyenek lábai, amin járni tud.
De előfordul, hogy ez sem működik.
Az volt az MI feladata, hogy gyorsan mozogjon.
Nem mondták neki, hogy fusson szembe, előre,
azt sem, hogy nem használhatja a karját.
Ez történik, ha túl gyors mozgásra képezünk ki egy MI-t,
olyan lesz, mintha bukfencezne, és mint a "hülye járások".
Általában mindig ez történik.
Így vonaglik egy kupacban a talajon.
(Nevetés)
Úgyhogy szerintem a Terminátor robotjainak
sokkal furcsábbnak kellett volna lenniük.
Az MI a "Mátrixot" is feltöri, ha lehetőséget kap rá.
Ha tehát szimulációban tanítunk be egy MI-t,
megtanulja majd feltörni a szimuláció matematikai hibáit,
és ebből nyer energiát.
Vagy képes lesz rájönni, hogyan mozoghat fürgébben a talajon csúszkálva.
MI-vel együtt dolgozni
nem olyan, mint emberrel,
sokkal inkább olyan, mint valami fura természeti erővel együttműködni.
És tényleg könnyű véletlenül hibás problémát adni neki megoldásra,
majd többnyire nem jövünk rá addig, amíg valami balul nem sül el.
Végeztem egy kísérletet,
melyben az MI azt a feladatot kapta, hogy színek másolásával
keverjen ki új árnyalatokat,
a bal oldalon megadott lista szerint.
És tessék, ezzel állt elő.
[Sindi popója, Szaros, Szenvedés, Szeméremszürke]
(Nevetés)
Gyakorlatilag
pontosan azt tette, amit kértem tőle.
Azt hittem, illedelmes festékneveket kérek tőle,
de valójában az volt a feladata,
hogy betűkombinációkat utánozzon,
amiket az eredeti listán látott.
Semmit nem mondtam neki arról, mit jelentenek a szavak,
vagy hogy esetleg akad köztük olyan,
melyekből inkább nem képzünk festékneveket.
A teljes világa olyan adatokból áll, melyeket én tápláltam bele.
Akárcsak a fagylaltízeknél, itt sincs fogalma semmi másról.
Az adatoknak köszönhető,
hogy gyakran előfordul: véletlenül rossz dolgokra tanítjuk meg őt.
Ez egy hal, a neve compó.
Egy kutatócsoport betanított egy MI-t arra,
hogy képeken azonosítsa a compót.
Aztán amikor megkérdezték tőle,
a kép melyik része alapján azonosította a halat,
tessék, ezeket emelte ki.
Bizony, azok ott emberi ujjak.
Miért emberi ujjak alapján próbálna
halat beazonosítani?
Nos, a compó történetesen trópusi halfaj,
ezért sok képen, melyeket az MI megfigyelt
a betanítás során,
valahogy így nézett ki a hal. [A képen ember tartja a halat.]
(Nevetés)
Az MI nem tudta, hogy az ujjak nem tartoznak a halhoz.
Így már világos, miért nehéz olyan MI-t tervezni,
amelyik érti is, amit lát.
És ezért olyan nehéz képfelismerést tervezni
az önvezető autókban,
és azért van olyan sok balesetük,
mert az MI-jük összezavarodik.
Hadd meséljek egy 2016-os példát.
Halálos baleset történt, amikor valaki MI-robotpilóta üzemmódban ment Teslával,
de nem az autópályán, amire tervezték,
hanem városi utakon.
Az történt, hogy egy kamion hajtott ki elé,
az autó pedig nem fékezett.
Tény, hogy az MI-nek megtanították, hogy képeken felismerje a kamionokat.
De valószínűleg az történt,
hogy az MI csak autópályán történő vezetés során ismerte fel a kamionokat,
ahol számításunk szerint hátulról bukkannak fel.
Az oldalról érkező kamion nem valószínű az autópályán,
úgyhogy amikor az MI meglátta,
valószínűleg útjelző táblának nézte,
ezért szép nyugodtan alákormányozta az autót.
Mutatok egy másik MI-botlást:
Az Amazon nemrég felhagyott egy önéletrajz-válogató algoritmussal,
aminek fejlesztésén dolgoztak,
mert kiderült, hogy az algoritmus diszkriminálja a nőket.
Ugyanis olyan önéletrajzokat tápláltak be az MI-nek,
melyeket korábbi alkalmazottaik írtak.
És az MI ezekből a példákból azt tanulta meg, hogy elvesse azokat,
akik női egyetemekre jártak,
vagy akiknél a "nő" szó olyan szövegösszefüggésben fordult elő,
mint "női kosárlabdacsapat", vagy "Mérnöknők Társasága".
Az MI nem tudta, hogy nem ajánlatos ezt a konkrét dolgot lemásolni,
úgy, ahogy az emberektől látta.
Gyakorlatilag pontosan azt tette, amivel megbízták.
Csak a fejlesztők véletlenül rosszul fogalmazták meg a kérést.
És mindig ez történik az MI-vel.
Tényleg lehet pusztító, de még csak nem is tud róla.
Azokat az MI-ket, melyek új tartalmakat ajánlanak a Facebookon, YouTube-on,
arra optimalizálták, hogy növelje a kattintások és megtekintések számát.
Sajnos, szerintük ennek az egyik módja az,
hogy összeesküvés-elméletes vagy fanatikus tartalmakat ajánljanak.
Az MI-knek fogalmuk sincs arról, valójában miről szólnak ezek,
és arról sincs, hogy milyen következményekkel járhat
az efféle tartalmak ajánlása.
Úgyhogy amikor MI-vel dolgozunk,
tőlünk függ, hogyan kerüljük el a problémákat.
A problémák elkerülése
ősi kommunikációs kérdés lehet, melynek során nekünk, embereknek
meg kell tanulnunk helyesen kommunikálni az MI-vel.
Meg kell tanulnunk, hogy mit képes megtenni és mit nem.
Meg kell értenünk, hogy csöppnyi gilisztaagyával
nem képes felfogni, hogy mire kérjük egész pontosan.
Vagyis felkészülten kell együttműködnünk vele,
mert nem olyan, mint a sci-fik mindentudó MI szuperhősei.
Felkészülten kell együttműködnünk vele,
azzal a fajtával, amelyik ma létezik.
És a ma létező MI bizony elég fura szerzet.
Köszönöm.
(Taps)