WEBVTT

00:00:01.765 --> 00:00:04.765
Nos, a mesterséges
intelligencia arról híres,

00:00:04.789 --> 00:00:08.318
hogy zavart kelt minden iparágban.

00:00:08.961 --> 00:00:11.318
Na és hogy állunk a fagylalttal?

00:00:11.879 --> 00:00:15.518
Milyen szédítő új ízeket teremthetnénk

00:00:15.542 --> 00:00:18.518
egy jól képzett mesterséges
intelligencia hatalmával?

00:00:19.011 --> 00:00:23.172
Összeálltam hát a kealingi gimnázium
egyik programozó csoportjával,

00:00:23.196 --> 00:00:25.437
hogy választ találjunk erre a kérdésre.

00:00:25.461 --> 00:00:30.542
Több mint 1600-féle létező
fagylaltízt gyűjtöttek össze,

00:00:30.566 --> 00:00:36.088
és ezeket betápláltuk egy algoritmusba,
hogy meglássuk, mit hoz ki belőlük.

00:00:36.112 --> 00:00:39.865
Íme, néhány ízkombináció,
amit az MI generált.

NOTE Paragraph

00:00:40.444 --> 00:00:41.915
[Sütőtök Kuka Fék]

NOTE Paragraph

00:00:41.939 --> 00:00:43.341
(Nevetés)

NOTE Paragraph

00:00:43.365 --> 00:00:45.834
[Mogyoró Vaj Sár]

NOTE Paragraph

00:00:46.592 --> 00:00:48.165
[Eper Krém Kórság]

NOTE Paragraph

00:00:48.189 --> 00:00:50.315
(Nevetés)

NOTE Paragraph

00:00:50.339 --> 00:00:54.936
Ezek nem olyan ínyenc aromák,
mint amikre feltehetően vágyunk.

00:00:54.960 --> 00:00:56.824
A kérdés tehát: mi történt?

00:00:56.848 --> 00:00:58.242
Mi volt a hiba?

00:00:58.266 --> 00:01:00.505
Az MI ki akar nyírni minket?

00:01:01.027 --> 00:01:05.337
Vagy csak teljesíteni akarta a kérésünket,
és akadt némi probléma?

NOTE Paragraph

00:01:06.567 --> 00:01:08.941
A filmekben, ha valami
gond adódik az MI-vel,

00:01:08.941 --> 00:01:11.931
az általában azért történik,
mert az MI szándékosan fellázad,

00:01:11.931 --> 00:01:14.063
többé nem engedelmeskedik az embernek,

00:01:14.087 --> 00:01:16.710
hanem saját célt tűz ki magának,
köszönöm szépen.

00:01:17.266 --> 00:01:20.482
A valóságban azonban a jelenlegi MI

00:01:20.506 --> 00:01:22.369
még nem elég okos ehhez.

00:01:22.781 --> 00:01:25.763
Nagyjából akkora
a számítási teljesítménye,

00:01:25.787 --> 00:01:27.063
mint egy földigilisztának,

00:01:27.087 --> 00:01:30.490
vagy legjobb esetben egy háziméhnek,

00:01:30.514 --> 00:01:32.729
de valószínűleg még ennyi sem.

00:01:32.753 --> 00:01:35.347
Ahogy folyamatosan új dolgokat
tudunk meg az agyról,

00:01:35.371 --> 00:01:39.731
úgy lesz egyre világosabb, hogy az MI
teljesítménye közelébe sem ér az agynak.

00:01:39.755 --> 00:01:45.418
A mai MI képes például
felismerni egy gyalogost a képen,

00:01:45.442 --> 00:01:48.425
de fogalma sincs arról,
mi az, hogy gyalogos,

00:01:48.449 --> 00:01:53.273
azonkívül, hogy vonalak, textúrák
és dolgok gyűjteménye.

00:01:53.792 --> 00:01:56.313
Fogalma sincs arról, mi az, hogy ember.

00:01:56.822 --> 00:02:00.104
Megteszi-e tehát a mai MI,
amit kérünk tőle?

00:02:00.128 --> 00:02:01.722
Persze, ha tudja,

00:02:01.746 --> 00:02:04.472
de lehet, hogy nem azt teszi,
amit kérünk tőle.

NOTE Paragraph

00:02:04.496 --> 00:02:06.911
Tegyük fel, megpróbáljuk rávenni,

00:02:06.935 --> 00:02:09.554
hogy fogja ezt a
robotalkatrész-gyűjteményt,

00:02:09.578 --> 00:02:13.775
és rakjon össze valamilyen robotot,
amit aztán eljuttat A pontból B-be.

00:02:13.799 --> 00:02:16.280
Na most, ha hagyományos
számítógépes programmal

00:02:16.304 --> 00:02:18.655
gyürkőznénk neki
a probléma megoldásának,

00:02:18.679 --> 00:02:21.142
akkor lépésről lépésre
írnánk bele a parancssorokat,

00:02:21.142 --> 00:02:23.449
hogy milyen sorrendben fogjon
az alkatrészekhez,

00:02:23.473 --> 00:02:25.880
hogyan állítsa össze azokat,

00:02:25.904 --> 00:02:29.126
aztán hogyan indítsa el a robot lábait,
hogy eljuthasson A-ból B-be.

00:02:29.281 --> 00:02:31.781
Ha azonban MI-vel állunk neki
a problémamegoldásnak,

00:02:31.805 --> 00:02:33.133
egészen más a helyzet.

00:02:33.133 --> 00:02:35.385
Nem mondhatjuk meg neki,
hogyan fogjon hozzá,

00:02:35.409 --> 00:02:36.888
csak kijelöljük a célt,

00:02:36.912 --> 00:02:40.174
neki magának kell rájönnie,
kísérletek és hibák során át,

00:02:40.198 --> 00:02:41.882
hogy hogyan érheti el a célt.

00:02:42.084 --> 00:02:46.356
Előfordul, hogy az MI
hajlamos így megoldani

00:02:46.380 --> 00:02:47.864
ezt a sajátos problémát:

00:02:47.888 --> 00:02:51.255
tornyot rak össze az alkatrészekből,
ami aztán eldől,

00:02:51.279 --> 00:02:53.106
és kiköt a B pontban.

00:02:53.130 --> 00:02:55.959
Technikai szempontból
megoldja a problémát.

00:02:55.983 --> 00:02:57.622
Végül is eljut a B pontba.

00:02:57.646 --> 00:03:01.911
Az MI nem azért veszélyes,
mert fellázadna ellenünk,

00:03:01.935 --> 00:03:06.209
hanem azért, mert pontosan
azt fogja tenni, amire megkérjük.

00:03:06.686 --> 00:03:09.498
Ha tehát MI-vel dolgozunk,
így kell feltennünk a kérdést:

00:03:09.498 --> 00:03:13.226
Hogyan fogalmazzuk meg a problémát,
hogy az MI azt tegye, amit szeretnénk?

NOTE Paragraph

00:03:14.726 --> 00:03:18.032
Ezt a kis robotot egy MI irányítja.

00:03:18.056 --> 00:03:20.870
Megtervezte a robot lábait,

00:03:20.894 --> 00:03:24.972
aztán kidolgozta, hogyan kerülje ki
ezeket az akadályokat.

00:03:24.996 --> 00:03:27.737
De amikor David Ha
előkészítette ezt a kísérletet,

00:03:27.761 --> 00:03:31.141
nagyon, nagyon szigorú korlátokat
kellett beállítania arra vonatkozóan,

00:03:31.151 --> 00:03:33.933
hogy mekkora lábakat gyárthasson az MI,

00:03:33.957 --> 00:03:37.147
mert különben...

NOTE Paragraph

00:03:43.058 --> 00:03:46.989
(Nevetés)

NOTE Paragraph

00:03:48.563 --> 00:03:52.308
Technikailag végigment
az egész akadálypályán.

00:03:52.332 --> 00:03:57.274
Mint látják, még egy egyszerű
gyaloglás is túl nagy falat egy MI-nek.

NOTE Paragraph

00:03:57.298 --> 00:04:01.118
Ha így nézzük őket, azt mondhatják: na jó,

00:04:01.142 --> 00:04:03.722
ne legyen magas torony, ne legyen borulás,

00:04:03.746 --> 00:04:06.761
legyenek lábai, amin járni tud.

00:04:06.761 --> 00:04:10.378
De előfordul, hogy ez sem működik.

00:04:10.378 --> 00:04:12.947
Az volt az MI feladata,
hogy gyorsan mozogjon.

00:04:13.115 --> 00:04:16.708
Nem mondták neki,
hogy fusson szembe, előre,

00:04:16.732 --> 00:04:18.830
azt sem, hogy nem használhatja a karját.

00:04:19.487 --> 00:04:24.105
Ez történik, ha túl gyors mozgásra
képezünk ki egy MI-t,

00:04:24.129 --> 00:04:27.663
olyan lesz, mintha bukfencezne,
és mint a "hülye járások".

00:04:27.687 --> 00:04:29.447
Általában mindig ez történik.

00:04:29.667 --> 00:04:32.846
Így vonaglik egy kupacban a talajon.

NOTE Paragraph

00:04:32.870 --> 00:04:34.020
(Nevetés)

NOTE Paragraph

00:04:34.751 --> 00:04:38.015
Úgyhogy szerintem a Terminátor robotjainak

00:04:38.015 --> 00:04:40.256
sokkal furcsábbnak kellett volna lenniük.

00:04:40.256 --> 00:04:44.011
Az MI a "Mátrixot" is feltöri,
ha lehetőséget kap rá.

00:04:44.035 --> 00:04:46.552
Ha tehát szimulációban
tanítunk be egy MI-t,

00:04:46.576 --> 00:04:50.689
megtanulja majd feltörni
a szimuláció matematikai hibáit,

00:04:50.713 --> 00:04:52.920
és ebből nyer energiát.

00:04:52.944 --> 00:04:58.419
Vagy képes lesz rájönni, hogyan mozoghat
fürgébben a talajon csúszkálva.

00:04:58.443 --> 00:05:00.028
MI-vel együtt dolgozni

00:05:00.052 --> 00:05:02.441
nem olyan, mint emberrel,

00:05:02.465 --> 00:05:06.094
sokkal inkább olyan, mint valami
fura természeti erővel együttműködni.

00:05:06.562 --> 00:05:11.185
És tényleg könnyű véletlenül hibás
problémát adni neki megoldásra,

00:05:11.209 --> 00:05:15.747
majd többnyire nem jövünk rá addig,
amíg valami balul nem sül el.

NOTE Paragraph

00:05:16.242 --> 00:05:18.322
Végeztem egy kísérletet,

00:05:18.346 --> 00:05:21.528
melyben az MI azt a feladatot kapta,
hogy színek másolásával

00:05:21.552 --> 00:05:23.298
keverjen ki új árnyalatokat,

00:05:23.322 --> 00:05:26.309
a bal oldalon megadott lista szerint.

00:05:26.798 --> 00:05:29.802
És tessék, ezzel állt elő.

NOTE Paragraph

00:05:29.826 --> 00:05:32.969
[Sindi popója, Szaros,
Szenvedés, Szeméremszürke]

NOTE Paragraph

00:05:32.993 --> 00:05:37.223
(Nevetés)

NOTE Paragraph

00:05:39.177 --> 00:05:41.063
Gyakorlatilag

00:05:41.087 --> 00:05:42.951
pontosan azt tette, amit kértem tőle.

00:05:42.975 --> 00:05:46.283
Azt hittem, illedelmes
festékneveket kérek tőle,

00:05:46.307 --> 00:05:48.614
de valójában az volt a feladata,

00:05:48.638 --> 00:05:51.724
hogy betűkombinációkat utánozzon,

00:05:51.748 --> 00:05:53.653
amiket az eredeti listán látott.

00:05:53.677 --> 00:05:56.775
Semmit nem mondtam neki arról,
mit jelentenek a szavak,

00:05:56.799 --> 00:05:59.359
vagy hogy esetleg akad köztük olyan,

00:05:59.383 --> 00:06:02.272
melyekből inkább
nem képzünk festékneveket.

00:06:03.141 --> 00:06:06.635
A teljes világa olyan adatokból áll,
melyeket én tápláltam bele.

00:06:06.659 --> 00:06:10.687
Akárcsak a fagylaltízeknél,
itt sincs fogalma semmi másról.

NOTE Paragraph

00:06:12.491 --> 00:06:14.129
Az adatoknak köszönhető,

00:06:14.153 --> 00:06:18.197
hogy gyakran előfordul:
véletlenül rossz dolgokra tanítjuk meg őt.

00:06:18.694 --> 00:06:21.726
Ez egy hal, a neve compó.

00:06:21.750 --> 00:06:24.109
Egy kutatócsoport
betanított egy MI-t arra,

00:06:24.109 --> 00:06:27.463
hogy képeken azonosítsa a compót.

00:06:27.463 --> 00:06:29.417
Aztán amikor megkérdezték tőle,

00:06:29.417 --> 00:06:32.233
a kép melyik része alapján
azonosította a halat,

00:06:32.257 --> 00:06:34.805
tessék, ezeket emelte ki.

00:06:35.203 --> 00:06:37.392
Bizony, azok ott emberi ujjak.

00:06:37.416 --> 00:06:39.475
Miért emberi ujjak alapján próbálna

00:06:39.499 --> 00:06:41.420
halat beazonosítani?

00:06:42.126 --> 00:06:45.290
Nos, a compó történetesen trópusi halfaj,

00:06:45.314 --> 00:06:48.245
ezért sok képen, melyeket az MI megfigyelt

00:06:48.245 --> 00:06:49.780
a betanítás során,

00:06:49.780 --> 00:06:52.688
valahogy így nézett ki a hal.
[A képen ember tartja a halat.]

NOTE Paragraph

00:06:52.688 --> 00:06:53.697
(Nevetés)

NOTE Paragraph

00:06:53.697 --> 00:06:57.067
Az MI nem tudta, hogy az ujjak
nem tartoznak a halhoz.

NOTE Paragraph

00:06:58.808 --> 00:07:02.928
Így már világos, miért nehéz
olyan MI-t tervezni,

00:07:02.952 --> 00:07:06.271
amelyik érti is, amit lát.

00:07:06.295 --> 00:07:09.157
És ezért olyan nehéz
képfelismerést tervezni

00:07:09.181 --> 00:07:11.248
az önvezető autókban,

00:07:11.272 --> 00:07:13.477
és azért van olyan sok balesetük,

00:07:13.501 --> 00:07:16.386
mert az MI-jük összezavarodik.

00:07:16.410 --> 00:07:20.418
Hadd meséljek egy 2016-os példát.

00:07:20.442 --> 00:07:24.897
Halálos baleset történt, amikor valaki
MI-robotpilóta üzemmódban ment Teslával,

00:07:24.921 --> 00:07:28.335
de nem az autópályán, amire tervezték,

00:07:28.359 --> 00:07:30.564
hanem városi utakon.

00:07:31.239 --> 00:07:34.028
Az történt, hogy egy kamion
hajtott ki elé,

00:07:34.028 --> 00:07:36.044
az autó pedig nem fékezett.

00:07:36.507 --> 00:07:41.269
Tény, hogy az MI-nek megtanították,
hogy képeken felismerje a kamionokat.

00:07:41.293 --> 00:07:43.438
De valószínűleg az történt,

00:07:43.462 --> 00:07:47.027
hogy az MI csak autópályán történő
vezetés során ismerte fel a kamionokat,

00:07:47.027 --> 00:07:49.316
ahol számításunk szerint
hátulról bukkannak fel.

00:07:49.340 --> 00:07:52.760
Az oldalról érkező kamion
nem valószínű az autópályán,

00:07:52.784 --> 00:07:56.239
úgyhogy amikor az MI meglátta,

00:07:56.263 --> 00:08:01.090
valószínűleg útjelző táblának nézte,

00:08:01.114 --> 00:08:03.717
ezért szép nyugodtan
alákormányozta az autót.

NOTE Paragraph

00:08:04.114 --> 00:08:06.694
Mutatok egy másik MI-botlást:

00:08:06.718 --> 00:08:09.948
Az Amazon nemrég felhagyott
egy önéletrajz-válogató algoritmussal,

00:08:09.972 --> 00:08:11.422
aminek fejlesztésén dolgoztak,

00:08:11.446 --> 00:08:15.354
mert kiderült, hogy az algoritmus
diszkriminálja a nőket.

00:08:15.378 --> 00:08:18.094
Ugyanis olyan önéletrajzokat
tápláltak be az MI-nek,

00:08:18.118 --> 00:08:20.360
melyeket korábbi alkalmazottaik írtak.

00:08:20.384 --> 00:08:24.407
És az MI ezekből a példákból
azt tanulta meg, hogy elvesse azokat,

00:08:24.431 --> 00:08:26.457
akik női egyetemekre jártak,

00:08:26.481 --> 00:08:29.791
vagy akiknél a "nő" szó olyan
szövegösszefüggésben fordult elő,

00:08:29.791 --> 00:08:33.887
mint "női kosárlabdacsapat",
vagy "Mérnöknők Társasága".

00:08:33.911 --> 00:08:37.885
Az MI nem tudta, hogy nem ajánlatos
ezt a konkrét dolgot lemásolni,

00:08:37.909 --> 00:08:39.887
úgy, ahogy az emberektől látta.

00:08:39.911 --> 00:08:43.088
Gyakorlatilag pontosan azt tette,
amivel megbízták.

00:08:43.112 --> 00:08:46.309
Csak a fejlesztők véletlenül
rosszul fogalmazták meg a kérést.

NOTE Paragraph

00:08:46.653 --> 00:08:49.548
És mindig ez történik az MI-vel.

00:08:50.120 --> 00:08:53.711
Tényleg lehet pusztító,
de még csak nem is tud róla.

00:08:53.735 --> 00:08:58.813
Azokat az MI-ket, melyek új tartalmakat
ajánlanak a Facebookon, YouTube-on,

00:08:58.837 --> 00:09:02.376
arra optimalizálták, hogy növelje
a kattintások és megtekintések számát.

00:09:02.400 --> 00:09:05.836
Sajnos, szerintük ennek az egyik módja az,

00:09:05.860 --> 00:09:10.363
hogy összeesküvés-elméletes
vagy fanatikus tartalmakat ajánljanak.

00:09:10.902 --> 00:09:16.204
Az MI-knek fogalmuk sincs arról,
valójában miről szólnak ezek,

00:09:16.228 --> 00:09:19.623
és arról sincs, hogy milyen
következményekkel járhat

00:09:19.647 --> 00:09:21.988
az efféle tartalmak ajánlása.

NOTE Paragraph

00:09:22.296 --> 00:09:24.307
Úgyhogy amikor MI-vel dolgozunk,

00:09:24.331 --> 00:09:28.513
tőlünk függ, hogyan
kerüljük el a problémákat.

00:09:28.537 --> 00:09:30.860
A problémák elkerülése

00:09:30.884 --> 00:09:34.840
ősi kommunikációs kérdés lehet,
melynek során nekünk, embereknek

00:09:34.840 --> 00:09:39.179
meg kell tanulnunk
helyesen kommunikálni az MI-vel.

00:09:39.203 --> 00:09:43.242
Meg kell tanulnunk, hogy mit képes
megtenni és mit nem.

00:09:43.266 --> 00:09:46.352
Meg kell értenünk,
hogy csöppnyi gilisztaagyával

00:09:46.376 --> 00:09:50.389
nem képes felfogni,
hogy mire kérjük egész pontosan.

00:09:51.148 --> 00:09:54.469
Vagyis felkészülten kell
együttműködnünk vele,

00:09:54.493 --> 00:09:59.751
mert nem olyan, mint a sci-fik
mindentudó MI szuperhősei.

00:09:59.775 --> 00:10:02.637
Felkészülten kell együttműködnünk vele,

00:10:02.661 --> 00:10:05.599
azzal a fajtával, amelyik ma létezik.

00:10:05.623 --> 00:10:09.828
És a ma létező MI
bizony elég fura szerzet.

NOTE Paragraph

00:10:09.852 --> 00:10:11.042
Köszönöm.

NOTE Paragraph

00:10:11.066 --> 00:10:16.291
(Taps)