0:00:01.765,0:00:04.765
Nos, a mesterséges[br]intelligencia arról híres,

0:00:04.789,0:00:08.318
hogy zavart kelt minden iparágban.

0:00:08.961,0:00:11.318
Na és hogy állunk a fagylalttal?

0:00:11.879,0:00:15.518
Milyen szédítő új ízeket teremthetnénk

0:00:15.542,0:00:18.518
egy jól képzett mesterséges[br]intelligencia hatalmával?

0:00:19.011,0:00:23.172
Összeálltam hát a kealingi gimnázium[br]egyik programozó csoportjával,

0:00:23.196,0:00:25.437
hogy választ találjunk erre a kérdésre.

0:00:25.461,0:00:30.542
Több mint 1600-féle létező[br]fagylaltízt gyűjtöttek össze,

0:00:30.566,0:00:36.088
és ezeket betápláltuk egy algoritmusba,[br]hogy meglássuk, mit hoz ki belőlük.

0:00:36.112,0:00:39.865
Íme, néhány ízkombináció,[br]amit az MI generált.

0:00:40.444,0:00:41.915
[Sütőtök Kuka Fék]

0:00:41.939,0:00:43.341
(Nevetés)

0:00:43.365,0:00:45.834
[Mogyoró Vaj Sár]

0:00:46.592,0:00:48.165
[Eper Krém Kórság]

0:00:48.189,0:00:50.315
(Nevetés)

0:00:50.339,0:00:54.936
Ezek nem olyan ínyenc aromák,[br]mint amikre feltehetően vágyunk.

0:00:54.960,0:00:56.824
A kérdés tehát: mi történt?

0:00:56.848,0:00:58.242
Mi volt a hiba?

0:00:58.266,0:01:00.505
Az MI ki akar nyírni minket?

0:01:01.027,0:01:05.337
Vagy csak teljesíteni akarta a kérésünket,[br]és akadt némi probléma?

0:01:06.567,0:01:08.941
A filmekben, ha valami[br]gond adódik az MI-vel,

0:01:08.941,0:01:11.931
az általában azért történik,[br]mert az MI szándékosan fellázad,

0:01:11.931,0:01:14.063
többé nem engedelmeskedik az embernek,

0:01:14.087,0:01:16.710
hanem saját célt tűz ki magának,[br]köszönöm szépen.

0:01:17.266,0:01:20.482
A valóságban azonban a jelenlegi MI

0:01:20.506,0:01:22.369
még nem elég okos ehhez.

0:01:22.781,0:01:25.763
Nagyjából akkora[br]a számítási teljesítménye,

0:01:25.787,0:01:27.063
mint egy földigilisztának,

0:01:27.087,0:01:30.490
vagy legjobb esetben egy háziméhnek,

0:01:30.514,0:01:32.729
de valószínűleg még ennyi sem.

0:01:32.753,0:01:35.347
Ahogy folyamatosan új dolgokat[br]tudunk meg az agyról,

0:01:35.371,0:01:39.731
úgy lesz egyre világosabb, hogy az MI[br]teljesítménye közelébe sem ér az agynak.

0:01:39.755,0:01:45.418
A mai MI képes például[br]felismerni egy gyalogost a képen,

0:01:45.442,0:01:48.425
de fogalma sincs arról,[br]mi az, hogy gyalogos,

0:01:48.449,0:01:53.273
azonkívül, hogy vonalak, textúrák[br]és dolgok gyűjteménye.

0:01:53.792,0:01:56.313
Fogalma sincs arról, mi az, hogy ember.

0:01:56.822,0:02:00.104
Megteszi-e tehát a mai MI,[br]amit kérünk tőle?

0:02:00.128,0:02:01.722
Persze, ha tudja,

0:02:01.746,0:02:04.472
de lehet, hogy nem azt teszi,[br]amit kérünk tőle.

0:02:04.496,0:02:06.911
Tegyük fel, megpróbáljuk rávenni,

0:02:06.935,0:02:09.554
hogy fogja ezt a[br]robotalkatrész-gyűjteményt,

0:02:09.578,0:02:13.775
és rakjon össze valamilyen robotot,[br]amit aztán eljuttat A pontból B-be.

0:02:13.799,0:02:16.280
Na most, ha hagyományos[br]számítógépes programmal

0:02:16.304,0:02:18.655
gyürkőznénk neki[br]a probléma megoldásának,

0:02:18.679,0:02:21.142
akkor lépésről lépésre[br]írnánk bele a parancssorokat,

0:02:21.142,0:02:23.449
hogy milyen sorrendben fogjon[br]az alkatrészekhez,

0:02:23.473,0:02:25.880
hogyan állítsa össze azokat,

0:02:25.904,0:02:29.126
aztán hogyan indítsa el a robot lábait,[br]hogy eljuthasson A-ból B-be.

0:02:29.281,0:02:31.781
Ha azonban MI-vel állunk neki[br]a problémamegoldásnak,

0:02:31.805,0:02:33.133
egészen más a helyzet.

0:02:33.133,0:02:35.385
Nem mondhatjuk meg neki,[br]hogyan fogjon hozzá,

0:02:35.409,0:02:36.888
csak kijelöljük a célt,

0:02:36.912,0:02:40.174
neki magának kell rájönnie,[br]kísérletek és hibák során át,

0:02:40.198,0:02:41.882
hogy hogyan érheti el a célt.

0:02:42.084,0:02:46.356
Előfordul, hogy az MI[br]hajlamos így megoldani

0:02:46.380,0:02:47.864
ezt a sajátos problémát:

0:02:47.888,0:02:51.255
tornyot rak össze az alkatrészekből,[br]ami aztán eldől,

0:02:51.279,0:02:53.106
és kiköt a B pontban.

0:02:53.130,0:02:55.959
Technikai szempontból[br]megoldja a problémát.

0:02:55.983,0:02:57.622
Végül is eljut a B pontba.

0:02:57.646,0:03:01.911
Az MI nem azért veszélyes,[br]mert fellázadna ellenünk,

0:03:01.935,0:03:06.209
hanem azért, mert pontosan[br]azt fogja tenni, amire megkérjük.

0:03:06.686,0:03:09.498
Ha tehát MI-vel dolgozunk,[br]így kell feltennünk a kérdést:

0:03:09.498,0:03:13.226
Hogyan fogalmazzuk meg a problémát,[br]hogy az MI azt tegye, amit szeretnénk?

0:03:14.726,0:03:18.032
Ezt a kis robotot egy MI irányítja.

0:03:18.056,0:03:20.870
Megtervezte a robot lábait,

0:03:20.894,0:03:24.972
aztán kidolgozta, hogyan kerülje ki[br]ezeket az akadályokat.

0:03:24.996,0:03:27.737
De amikor David Ha[br]előkészítette ezt a kísérletet,

0:03:27.761,0:03:31.141
nagyon, nagyon szigorú korlátokat[br]kellett beállítania arra vonatkozóan,

0:03:31.151,0:03:33.933
hogy mekkora lábakat gyárthasson az MI,

0:03:33.957,0:03:37.147
mert különben...

0:03:43.058,0:03:46.989
(Nevetés)

0:03:48.563,0:03:52.308
Technikailag végigment[br]az egész akadálypályán.

0:03:52.332,0:03:57.274
Mint látják, még egy egyszerű[br]gyaloglás is túl nagy falat egy MI-nek.

0:03:57.298,0:04:01.118
Ha így nézzük őket, azt mondhatják: na jó,

0:04:01.142,0:04:03.722
ne legyen magas torony, ne legyen borulás,

0:04:03.746,0:04:06.761
legyenek lábai, amin járni tud.

0:04:06.761,0:04:10.378
De előfordul, hogy ez sem működik.

0:04:10.378,0:04:12.947
Az volt az MI feladata,[br]hogy gyorsan mozogjon.

0:04:13.115,0:04:16.708
Nem mondták neki,[br]hogy fusson szembe, előre,

0:04:16.732,0:04:18.830
azt sem, hogy nem használhatja a karját.

0:04:19.487,0:04:24.105
Ez történik, ha túl gyors mozgásra[br]képezünk ki egy MI-t,

0:04:24.129,0:04:27.663
olyan lesz, mintha bukfencezne,[br]és mint a "hülye járások".

0:04:27.687,0:04:29.447
Általában mindig ez történik.

0:04:29.667,0:04:32.846
Így vonaglik egy kupacban a talajon.

0:04:32.870,0:04:34.020
(Nevetés)

0:04:34.751,0:04:38.015
Úgyhogy szerintem a Terminátor robotjainak

0:04:38.015,0:04:40.256
sokkal furcsábbnak kellett volna lenniük.

0:04:40.256,0:04:44.011
Az MI a "Mátrixot" is feltöri,[br]ha lehetőséget kap rá.

0:04:44.035,0:04:46.552
Ha tehát szimulációban[br]tanítunk be egy MI-t,

0:04:46.576,0:04:50.689
megtanulja majd feltörni[br]a szimuláció matematikai hibáit,

0:04:50.713,0:04:52.920
és ebből nyer energiát.

0:04:52.944,0:04:58.419
Vagy képes lesz rájönni, hogyan mozoghat[br]fürgébben a talajon csúszkálva.

0:04:58.443,0:05:00.028
MI-vel együtt dolgozni

0:05:00.052,0:05:02.441
nem olyan, mint emberrel,

0:05:02.465,0:05:06.094
sokkal inkább olyan, mint valami[br]fura természeti erővel együttműködni.

0:05:06.562,0:05:11.185
És tényleg könnyű véletlenül hibás[br]problémát adni neki megoldásra,

0:05:11.209,0:05:15.747
majd többnyire nem jövünk rá addig,[br]amíg valami balul nem sül el.

0:05:16.242,0:05:18.322
Végeztem egy kísérletet,

0:05:18.346,0:05:21.528
melyben az MI azt a feladatot kapta,[br]hogy színek másolásával

0:05:21.552,0:05:23.298
keverjen ki új árnyalatokat,

0:05:23.322,0:05:26.309
a bal oldalon megadott lista szerint.

0:05:26.798,0:05:29.802
És tessék, ezzel állt elő.

0:05:29.826,0:05:32.969
[Sindi popója, Szaros,[br]Szenvedés, Szeméremszürke]

0:05:32.993,0:05:37.223
(Nevetés)

0:05:39.177,0:05:41.063
Gyakorlatilag

0:05:41.087,0:05:42.951
pontosan azt tette, amit kértem tőle.

0:05:42.975,0:05:46.283
Azt hittem, illedelmes[br]festékneveket kérek tőle,

0:05:46.307,0:05:48.614
de valójában az volt a feladata,

0:05:48.638,0:05:51.724
hogy betűkombinációkat utánozzon,

0:05:51.748,0:05:53.653
amiket az eredeti listán látott.

0:05:53.677,0:05:56.775
Semmit nem mondtam neki arról,[br]mit jelentenek a szavak,

0:05:56.799,0:05:59.359
vagy hogy esetleg akad köztük olyan,

0:05:59.383,0:06:02.272
melyekből inkább[br]nem képzünk festékneveket.

0:06:03.141,0:06:06.635
A teljes világa olyan adatokból áll,[br]melyeket én tápláltam bele.

0:06:06.659,0:06:10.687
Akárcsak a fagylaltízeknél,[br]itt sincs fogalma semmi másról.

0:06:12.491,0:06:14.129
Az adatoknak köszönhető,

0:06:14.153,0:06:18.197
hogy gyakran előfordul:[br]véletlenül rossz dolgokra tanítjuk meg őt.

0:06:18.694,0:06:21.726
Ez egy hal, a neve compó.

0:06:21.750,0:06:24.109
Egy kutatócsoport[br]betanított egy MI-t arra,

0:06:24.109,0:06:27.463
hogy képeken azonosítsa a compót.

0:06:27.463,0:06:29.417
Aztán amikor megkérdezték tőle,

0:06:29.417,0:06:32.233
a kép melyik része alapján[br]azonosította a halat,

0:06:32.257,0:06:34.805
tessék, ezeket emelte ki.

0:06:35.203,0:06:37.392
Bizony, azok ott emberi ujjak.

0:06:37.416,0:06:39.475
Miért emberi ujjak alapján próbálna

0:06:39.499,0:06:41.420
halat beazonosítani?

0:06:42.126,0:06:45.290
Nos, a compó történetesen trópusi halfaj,

0:06:45.314,0:06:48.245
ezért sok képen, melyeket az MI megfigyelt

0:06:48.245,0:06:49.780
a betanítás során,

0:06:49.780,0:06:52.688
valahogy így nézett ki a hal.[br][A képen ember tartja a halat.]

0:06:52.688,0:06:53.697
(Nevetés)

0:06:53.697,0:06:57.067
Az MI nem tudta, hogy az ujjak[br]nem tartoznak a halhoz.

0:06:58.808,0:07:02.928
Így már világos, miért nehéz[br]olyan MI-t tervezni,

0:07:02.952,0:07:06.271
amelyik érti is, amit lát.

0:07:06.295,0:07:09.157
És ezért olyan nehéz[br]képfelismerést tervezni

0:07:09.181,0:07:11.248
az önvezető autókban,

0:07:11.272,0:07:13.477
és azért van olyan sok balesetük,

0:07:13.501,0:07:16.386
mert az MI-jük összezavarodik.

0:07:16.410,0:07:20.418
Hadd meséljek egy 2016-os példát.

0:07:20.442,0:07:24.897
Halálos baleset történt, amikor valaki[br]MI-robotpilóta üzemmódban ment Teslával,

0:07:24.921,0:07:28.335
de nem az autópályán, amire tervezték,

0:07:28.359,0:07:30.564
hanem városi utakon.

0:07:31.239,0:07:34.028
Az történt, hogy egy kamion[br]hajtott ki elé,

0:07:34.028,0:07:36.044
az autó pedig nem fékezett.

0:07:36.507,0:07:41.269
Tény, hogy az MI-nek megtanították,[br]hogy képeken felismerje a kamionokat.

0:07:41.293,0:07:43.438
De valószínűleg az történt,

0:07:43.462,0:07:47.027
hogy az MI csak autópályán történő[br]vezetés során ismerte fel a kamionokat,

0:07:47.027,0:07:49.316
ahol számításunk szerint[br]hátulról bukkannak fel.

0:07:49.340,0:07:52.760
Az oldalról érkező kamion[br]nem valószínű az autópályán,

0:07:52.784,0:07:56.239
úgyhogy amikor az MI meglátta,

0:07:56.263,0:08:01.090
valószínűleg útjelző táblának nézte,

0:08:01.114,0:08:03.717
ezért szép nyugodtan[br]alákormányozta az autót.

0:08:04.114,0:08:06.694
Mutatok egy másik MI-botlást:

0:08:06.718,0:08:09.948
Az Amazon nemrég felhagyott[br]egy önéletrajz-válogató algoritmussal,

0:08:09.972,0:08:11.422
aminek fejlesztésén dolgoztak,

0:08:11.446,0:08:15.354
mert kiderült, hogy az algoritmus[br]diszkriminálja a nőket.

0:08:15.378,0:08:18.094
Ugyanis olyan önéletrajzokat[br]tápláltak be az MI-nek,

0:08:18.118,0:08:20.360
melyeket korábbi alkalmazottaik írtak.

0:08:20.384,0:08:24.407
És az MI ezekből a példákból[br]azt tanulta meg, hogy elvesse azokat,

0:08:24.431,0:08:26.457
akik női egyetemekre jártak,

0:08:26.481,0:08:29.791
vagy akiknél a "nő" szó olyan[br]szövegösszefüggésben fordult elő,

0:08:29.791,0:08:33.887
mint "női kosárlabdacsapat",[br]vagy "Mérnöknők Társasága".

0:08:33.911,0:08:37.885
Az MI nem tudta, hogy nem ajánlatos[br]ezt a konkrét dolgot lemásolni,

0:08:37.909,0:08:39.887
úgy, ahogy az emberektől látta.

0:08:39.911,0:08:43.088
Gyakorlatilag pontosan azt tette,[br]amivel megbízták.

0:08:43.112,0:08:46.309
Csak a fejlesztők véletlenül[br]rosszul fogalmazták meg a kérést.

0:08:46.653,0:08:49.548
És mindig ez történik az MI-vel.

0:08:50.120,0:08:53.711
Tényleg lehet pusztító,[br]de még csak nem is tud róla.

0:08:53.735,0:08:58.813
Azokat az MI-ket, melyek új tartalmakat[br]ajánlanak a Facebookon, YouTube-on,

0:08:58.837,0:09:02.376
arra optimalizálták, hogy növelje[br]a kattintások és megtekintések számát.

0:09:02.400,0:09:05.836
Sajnos, szerintük ennek az egyik módja az,

0:09:05.860,0:09:10.363
hogy összeesküvés-elméletes[br]vagy fanatikus tartalmakat ajánljanak.

0:09:10.902,0:09:16.204
Az MI-knek fogalmuk sincs arról,[br]valójában miről szólnak ezek,

0:09:16.228,0:09:19.623
és arról sincs, hogy milyen[br]következményekkel járhat

0:09:19.647,0:09:21.988
az efféle tartalmak ajánlása.

0:09:22.296,0:09:24.307
Úgyhogy amikor MI-vel dolgozunk,

0:09:24.331,0:09:28.513
tőlünk függ, hogyan[br]kerüljük el a problémákat.

0:09:28.537,0:09:30.860
A problémák elkerülése

0:09:30.884,0:09:34.840
ősi kommunikációs kérdés lehet,[br]melynek során nekünk, embereknek

0:09:34.840,0:09:39.179
meg kell tanulnunk[br]helyesen kommunikálni az MI-vel.

0:09:39.203,0:09:43.242
Meg kell tanulnunk, hogy mit képes[br]megtenni és mit nem.

0:09:43.266,0:09:46.352
Meg kell értenünk,[br]hogy csöppnyi gilisztaagyával

0:09:46.376,0:09:50.389
nem képes felfogni,[br]hogy mire kérjük egész pontosan.

0:09:51.148,0:09:54.469
Vagyis felkészülten kell[br]együttműködnünk vele,

0:09:54.493,0:09:59.751
mert nem olyan, mint a sci-fik[br]mindentudó MI szuperhősei.

0:09:59.775,0:10:02.637
Felkészülten kell együttműködnünk vele,

0:10:02.661,0:10:05.599
azzal a fajtával, amelyik ma létezik.

0:10:05.623,0:10:09.828
És a ma létező MI[br]bizony elég fura szerzet.

0:10:09.852,0:10:11.042
Köszönöm.

0:10:11.066,0:10:16.291
(Taps)