A Mesterséges Intelligencia veszélye furább, mint hinnénk

A mesterséges intelligencia veszélye nem abban áll, hogy fellázad és ellenünk fordul, hanem hogy pontosan végrehajtja azt, amivel megbízzuk – állítja Janelle Shane MI-kutató. Shane bemutatja nekünk az MI algoritmusok fura, időnként riasztó bohóckodásait, miközben emberi problémákat próbálnak megoldani – például új fagylaltaromák keverésével, vagy autók felismerésével az utakon – , és kifejti, miért nem ér fel az MI az emberi agy töredékével sem.

Nos, a mesterséges
intelligencia arról híres,

hogy zavart kelt minden iparágban.

Na és hogy állunk a fagylalttal?

Milyen szédítő új ízeket teremthetnénk

egy jól képzett mesterséges
intelligencia hatalmával?

Összeálltam hát a kealingi gimnázium
egyik programozó csoportjával,

hogy választ találjunk erre a kérdésre.

Több mint 1600-féle létező
fagylaltízt gyűjtöttek össze,

és ezeket betápláltuk egy algoritmusba,
hogy meglássuk, mit hoz ki belőlük.

Íme, néhány ízkombináció,
amit az MI generált.

[Sütőtök Kuka Fék]

(Nevetés)

[Mogyoró Vaj Sár]

[Eper Krém Kórság]

(Nevetés)

Ezek nem olyan ínyenc aromák,
mint amikre feltehetően vágyunk.

A kérdés tehát: mi történt?

Mi volt a hiba?

Az MI ki akar nyírni minket?

Vagy csak teljesíteni akarta a kérésünket,
és akadt némi probléma?

A filmekben, ha valami
gond adódik az MI-vel,

az általában azért történik,
mert az MI szándékosan fellázad,

többé nem engedelmeskedik az embernek,

hanem saját célt tűz ki magának,
köszönöm szépen.

A valóságban azonban a jelenlegi MI

még nem elég okos ehhez.

Nagyjából akkora
a számítási teljesítménye,

mint egy földigilisztának,

vagy legjobb esetben egy háziméhnek,

de valószínűleg még ennyi sem.

Ahogy folyamatosan új dolgokat
tudunk meg az agyról,

úgy lesz egyre világosabb, hogy az MI
teljesítménye közelébe sem ér az agynak.

A mai MI képes például
felismerni egy gyalogost a képen,

de fogalma sincs arról,
mi az, hogy gyalogos,

azonkívül, hogy vonalak, textúrák
és dolgok gyűjteménye.

Fogalma sincs arról, mi az, hogy ember.

Megteszi-e tehát a mai MI,
amit kérünk tőle?

Persze, ha tudja,

de lehet, hogy nem azt teszi,
amit kérünk tőle.

Tegyük fel, megpróbáljuk rávenni,

hogy fogja ezt a
robotalkatrész-gyűjteményt,

és rakjon össze valamilyen robotot,
amit aztán eljuttat A pontból B-be.

Na most, ha hagyományos
számítógépes programmal

gyürkőznénk neki
a probléma megoldásának,

akkor lépésről lépésre
írnánk bele a parancssorokat,

hogy milyen sorrendben fogjon
az alkatrészekhez,

hogyan állítsa össze azokat,

aztán hogyan indítsa el a robot lábait,
hogy eljuthasson A-ból B-be.

Ha azonban MI-vel állunk neki
a problémamegoldásnak,

egészen más a helyzet.

Nem mondhatjuk meg neki,
hogyan fogjon hozzá,

csak kijelöljük a célt,

neki magának kell rájönnie,
kísérletek és hibák során át,

hogy hogyan érheti el a célt.

Előfordul, hogy az MI
hajlamos így megoldani

ezt a sajátos problémát:

tornyot rak össze az alkatrészekből,
ami aztán eldől,

és kiköt a B pontban.

Technikai szempontból
megoldja a problémát.

Végül is eljut a B pontba.

Az MI nem azért veszélyes,
mert fellázadna ellenünk,

hanem azért, mert pontosan
azt fogja tenni, amire megkérjük.

Ha tehát MI-vel dolgozunk,
így kell feltennünk a kérdést:

Hogyan fogalmazzuk meg a problémát,
hogy az MI azt tegye, amit szeretnénk?

Ezt a kis robotot egy MI irányítja.

Megtervezte a robot lábait,

aztán kidolgozta, hogyan kerülje ki
ezeket az akadályokat.

De amikor David Ha
előkészítette ezt a kísérletet,

nagyon, nagyon szigorú korlátokat
kellett beállítania arra vonatkozóan,

hogy mekkora lábakat gyárthasson az MI,

mert különben...

(Nevetés)

Technikailag végigment
az egész akadálypályán.

Mint látják, még egy egyszerű
gyaloglás is túl nagy falat egy MI-nek.

Ha így nézzük őket, azt mondhatják: na jó,

ne legyen magas torony, ne legyen borulás,

legyenek lábai, amin járni tud.

De előfordul, hogy ez sem működik.

Az volt az MI feladata,
hogy gyorsan mozogjon.

Nem mondták neki,
hogy fusson szembe, előre,

azt sem, hogy nem használhatja a karját.

Ez történik, ha túl gyors mozgásra
képezünk ki egy MI-t,

olyan lesz, mintha bukfencezne,
és mint a "hülye járások".

Általában mindig ez történik.

Így vonaglik egy kupacban a talajon.

(Nevetés)

Úgyhogy szerintem a Terminátor robotjainak

sokkal furcsábbnak kellett volna lenniük.

Az MI a "Mátrixot" is feltöri,
ha lehetőséget kap rá.

Ha tehát szimulációban
tanítunk be egy MI-t,

megtanulja majd feltörni
a szimuláció matematikai hibáit,

és ebből nyer energiát.

Vagy képes lesz rájönni, hogyan mozoghat
fürgébben a talajon csúszkálva.

MI-vel együtt dolgozni

nem olyan, mint emberrel,

sokkal inkább olyan, mint valami
fura természeti erővel együttműködni.

És tényleg könnyű véletlenül hibás
problémát adni neki megoldásra,

majd többnyire nem jövünk rá addig,
amíg valami balul nem sül el.

Végeztem egy kísérletet,

melyben az MI azt a feladatot kapta,
hogy színek másolásával

keverjen ki új árnyalatokat,

a bal oldalon megadott lista szerint.

És tessék, ezzel állt elő.

[Sindi popója, Szaros,
Szenvedés, Szeméremszürke]

(Nevetés)

Gyakorlatilag

pontosan azt tette, amit kértem tőle.

Azt hittem, illedelmes
festékneveket kérek tőle,

de valójában az volt a feladata,

hogy betűkombinációkat utánozzon,

amiket az eredeti listán látott.

Semmit nem mondtam neki arról,
mit jelentenek a szavak,

vagy hogy esetleg akad köztük olyan,

melyekből inkább
nem képzünk festékneveket.

A teljes világa olyan adatokból áll,
melyeket én tápláltam bele.

Akárcsak a fagylaltízeknél,
itt sincs fogalma semmi másról.

Az adatoknak köszönhető,

hogy gyakran előfordul:
véletlenül rossz dolgokra tanítjuk meg őt.

Ez egy hal, a neve compó.

Egy kutatócsoport
betanított egy MI-t arra,

hogy képeken azonosítsa a compót.

Aztán amikor megkérdezték tőle,

a kép melyik része alapján
azonosította a halat,

tessék, ezeket emelte ki.

Bizony, azok ott emberi ujjak.

Miért emberi ujjak alapján próbálna

halat beazonosítani?

Nos, a compó történetesen trópusi halfaj,

ezért sok képen, melyeket az MI megfigyelt

a betanítás során,

valahogy így nézett ki a hal.
[A képen ember tartja a halat.]

(Nevetés)

Az MI nem tudta, hogy az ujjak
nem tartoznak a halhoz.

Így már világos, miért nehéz
olyan MI-t tervezni,

amelyik érti is, amit lát.

És ezért olyan nehéz
képfelismerést tervezni

az önvezető autókban,

és azért van olyan sok balesetük,

mert az MI-jük összezavarodik.

Hadd meséljek egy 2016-os példát.

Halálos baleset történt, amikor valaki
MI-robotpilóta üzemmódban ment Teslával,

de nem az autópályán, amire tervezték,

hanem városi utakon.

Az történt, hogy egy kamion
hajtott ki elé,

az autó pedig nem fékezett.

Tény, hogy az MI-nek megtanították,
hogy képeken felismerje a kamionokat.

De valószínűleg az történt,

hogy az MI csak autópályán történő
vezetés során ismerte fel a kamionokat,

ahol számításunk szerint
hátulról bukkannak fel.

Az oldalról érkező kamion
nem valószínű az autópályán,

úgyhogy amikor az MI meglátta,

valószínűleg útjelző táblának nézte,

ezért szép nyugodtan
alákormányozta az autót.

Mutatok egy másik MI-botlást:

Az Amazon nemrég felhagyott
egy önéletrajz-válogató algoritmussal,

aminek fejlesztésén dolgoztak,

mert kiderült, hogy az algoritmus
diszkriminálja a nőket.

Ugyanis olyan önéletrajzokat
tápláltak be az MI-nek,

melyeket korábbi alkalmazottaik írtak.

És az MI ezekből a példákból
azt tanulta meg, hogy elvesse azokat,

akik női egyetemekre jártak,

vagy akiknél a "nő" szó olyan
szövegösszefüggésben fordult elő,

mint "női kosárlabdacsapat",
vagy "Mérnöknők Társasága".

Az MI nem tudta, hogy nem ajánlatos
ezt a konkrét dolgot lemásolni,

úgy, ahogy az emberektől látta.

Gyakorlatilag pontosan azt tette,
amivel megbízták.

Csak a fejlesztők véletlenül
rosszul fogalmazták meg a kérést.

És mindig ez történik az MI-vel.

Tényleg lehet pusztító,
de még csak nem is tud róla.

Azokat az MI-ket, melyek új tartalmakat
ajánlanak a Facebookon, YouTube-on,

arra optimalizálták, hogy növelje
a kattintások és megtekintések számát.

Sajnos, szerintük ennek az egyik módja az,

hogy összeesküvés-elméletes
vagy fanatikus tartalmakat ajánljanak.

Az MI-knek fogalmuk sincs arról,
valójában miről szólnak ezek,

és arról sincs, hogy milyen
következményekkel járhat

az efféle tartalmak ajánlása.

Úgyhogy amikor MI-vel dolgozunk,

tőlünk függ, hogyan
kerüljük el a problémákat.

A problémák elkerülése

ősi kommunikációs kérdés lehet,
melynek során nekünk, embereknek

meg kell tanulnunk
helyesen kommunikálni az MI-vel.

Meg kell tanulnunk, hogy mit képes
megtenni és mit nem.

Meg kell értenünk,
hogy csöppnyi gilisztaagyával

nem képes felfogni,
hogy mire kérjük egész pontosan.

Vagyis felkészülten kell
együttműködnünk vele,

mert nem olyan, mint a sci-fik
mindentudó MI szuperhősei.

Felkészülten kell együttműködnünk vele,

azzal a fajtával, amelyik ma létezik.

És a ma létező MI
bizony elég fura szerzet.

Köszönöm.

(Taps)