1
00:00:01,765 --> 00:00:04,765
Nos, a mesterséges
intelligencia arról híres,

2
00:00:04,789 --> 00:00:08,318
hogy zavart kelt minden iparágban.

3
00:00:08,961 --> 00:00:11,318
Na és hogy állunk a fagylalttal?

4
00:00:11,879 --> 00:00:15,518
Milyen szédítő új ízeket teremthetnénk

5
00:00:15,542 --> 00:00:18,518
egy jól képzett mesterséges
intelligencia hatalmával?

6
00:00:19,011 --> 00:00:23,172
Összeálltam hát a kealingi gimnázium
egyik programozó csoportjával,

7
00:00:23,196 --> 00:00:25,437
hogy választ találjunk erre a kérdésre.

8
00:00:25,461 --> 00:00:30,542
Több mint 1600-féle létező
fagylaltízt gyűjtöttek össze,

9
00:00:30,566 --> 00:00:36,088
és ezeket betápláltuk egy algoritmusba,
hogy meglássuk, mit hoz ki belőlük.

10
00:00:36,112 --> 00:00:39,865
Íme, néhány ízkombináció,
amit az MI generált.

11
00:00:40,444 --> 00:00:41,915
[Sütőtök Kuka Fék]

12
00:00:41,939 --> 00:00:43,341
(Nevetés)

13
00:00:43,365 --> 00:00:45,834
[Mogyoró Vaj Sár]

14
00:00:46,592 --> 00:00:48,165
[Eper Krém Kórság]

15
00:00:48,189 --> 00:00:50,315
(Nevetés)

16
00:00:50,339 --> 00:00:54,936
Ezek nem olyan ínyenc aromák,
mint amikre feltehetően vágyunk.

17
00:00:54,960 --> 00:00:56,824
A kérdés tehát: mi történt?

18
00:00:56,848 --> 00:00:58,242
Mi volt a hiba?

19
00:00:58,266 --> 00:01:00,505
Az MI ki akar nyírni minket?

20
00:01:01,027 --> 00:01:05,337
Vagy csak teljesíteni akarta a kérésünket,
és akadt némi probléma?

21
00:01:06,567 --> 00:01:08,941
A filmekben, ha valami
gond adódik az MI-vel,

22
00:01:08,941 --> 00:01:11,931
az általában azért történik,
mert az MI szándékosan fellázad,

23
00:01:11,931 --> 00:01:14,063
többé nem engedelmeskedik az embernek,

24
00:01:14,087 --> 00:01:16,710
hanem saját célt tűz ki magának,
köszönöm szépen.

25
00:01:17,266 --> 00:01:20,482
A valóságban azonban a jelenlegi MI

26
00:01:20,506 --> 00:01:22,369
még nem elég okos ehhez.

27
00:01:22,781 --> 00:01:25,763
Nagyjából akkora
a számítási teljesítménye,

28
00:01:25,787 --> 00:01:27,063
mint egy földigilisztának,

29
00:01:27,087 --> 00:01:30,490
vagy legjobb esetben egy háziméhnek,

30
00:01:30,514 --> 00:01:32,729
de valószínűleg még ennyi sem.

31
00:01:32,753 --> 00:01:35,347
Ahogy folyamatosan új dolgokat
tudunk meg az agyról,

32
00:01:35,371 --> 00:01:39,731
úgy lesz egyre világosabb, hogy az MI
teljesítménye közelébe sem ér az agynak.

33
00:01:39,755 --> 00:01:45,418
A mai MI képes például
felismerni egy gyalogost a képen,

34
00:01:45,442 --> 00:01:48,425
de fogalma sincs arról,
mi az, hogy gyalogos,

35
00:01:48,449 --> 00:01:53,273
azonkívül, hogy vonalak, textúrák
és dolgok gyűjteménye.

36
00:01:53,792 --> 00:01:56,313
Fogalma sincs arról, mi az, hogy ember.

37
00:01:56,822 --> 00:02:00,104
Megteszi-e tehát a mai MI,
amit kérünk tőle?

38
00:02:00,128 --> 00:02:01,722
Persze, ha tudja,

39
00:02:01,746 --> 00:02:04,472
de lehet, hogy nem azt teszi,
amit kérünk tőle.

40
00:02:04,496 --> 00:02:06,911
Tegyük fel, megpróbáljuk rávenni,

41
00:02:06,935 --> 00:02:09,554
hogy fogja ezt a
robotalkatrész-gyűjteményt,

42
00:02:09,578 --> 00:02:13,775
és rakjon össze valamilyen robotot,
amit aztán eljuttat A pontból B-be.

43
00:02:13,799 --> 00:02:16,280
Na most, ha hagyományos
számítógépes programmal

44
00:02:16,304 --> 00:02:18,655
gyürkőznénk neki
a probléma megoldásának,

45
00:02:18,679 --> 00:02:21,142
akkor lépésről lépésre
írnánk bele a parancssorokat,

46
00:02:21,142 --> 00:02:23,449
hogy milyen sorrendben fogjon
az alkatrészekhez,

47
00:02:23,473 --> 00:02:25,880
hogyan állítsa össze azokat,

48
00:02:25,904 --> 00:02:29,126
aztán hogyan indítsa el a robot lábait,
hogy eljuthasson A-ból B-be.

49
00:02:29,281 --> 00:02:31,781
Ha azonban MI-vel állunk neki
a problémamegoldásnak,

50
00:02:31,805 --> 00:02:33,133
egészen más a helyzet.

51
00:02:33,133 --> 00:02:35,385
Nem mondhatjuk meg neki,
hogyan fogjon hozzá,

52
00:02:35,409 --> 00:02:36,888
csak kijelöljük a célt,

53
00:02:36,912 --> 00:02:40,174
neki magának kell rájönnie,
kísérletek és hibák során át,

54
00:02:40,198 --> 00:02:41,882
hogy hogyan érheti el a célt.

55
00:02:42,084 --> 00:02:46,356
Előfordul, hogy az MI
hajlamos így megoldani

56
00:02:46,380 --> 00:02:47,864
ezt a sajátos problémát:

57
00:02:47,888 --> 00:02:51,255
tornyot rak össze az alkatrészekből,
ami aztán eldől,

58
00:02:51,279 --> 00:02:53,106
és kiköt a B pontban.

59
00:02:53,130 --> 00:02:55,959
Technikai szempontból
megoldja a problémát.

60
00:02:55,983 --> 00:02:57,622
Végül is eljut a B pontba.

61
00:02:57,646 --> 00:03:01,911
Az MI nem azért veszélyes,
mert fellázadna ellenünk,

62
00:03:01,935 --> 00:03:06,209
hanem azért, mert pontosan
azt fogja tenni, amire megkérjük.

63
00:03:06,686 --> 00:03:09,498
Ha tehát MI-vel dolgozunk,
így kell feltennünk a kérdést:

64
00:03:09,498 --> 00:03:13,226
Hogyan fogalmazzuk meg a problémát,
hogy az MI azt tegye, amit szeretnénk?

65
00:03:14,726 --> 00:03:18,032
Ezt a kis robotot egy MI irányítja.

66
00:03:18,056 --> 00:03:20,870
Megtervezte a robot lábait,

67
00:03:20,894 --> 00:03:24,972
aztán kidolgozta, hogyan kerülje ki
ezeket az akadályokat.

68
00:03:24,996 --> 00:03:27,737
De amikor David Ha
előkészítette ezt a kísérletet,

69
00:03:27,761 --> 00:03:31,141
nagyon, nagyon szigorú korlátokat
kellett beállítania arra vonatkozóan,

70
00:03:31,151 --> 00:03:33,933
hogy mekkora lábakat gyárthasson az MI,

71
00:03:33,957 --> 00:03:37,147
mert különben...

72
00:03:43,058 --> 00:03:46,989
(Nevetés)

73
00:03:48,563 --> 00:03:52,308
Technikailag végigment
az egész akadálypályán.

74
00:03:52,332 --> 00:03:57,274
Mint látják, még egy egyszerű
gyaloglás is túl nagy falat egy MI-nek.

75
00:03:57,298 --> 00:04:01,118
Ha így nézzük őket, azt mondhatják: na jó,

76
00:04:01,142 --> 00:04:03,722
ne legyen magas torony, ne legyen borulás,

77
00:04:03,746 --> 00:04:06,761
legyenek lábai, amin járni tud.

78
00:04:06,761 --> 00:04:10,378
De előfordul, hogy ez sem működik.

79
00:04:10,378 --> 00:04:12,947
Az volt az MI feladata,
hogy gyorsan mozogjon.

80
00:04:13,115 --> 00:04:16,708
Nem mondták neki,
hogy fusson szembe, előre,

81
00:04:16,732 --> 00:04:18,830
azt sem, hogy nem használhatja a karját.

82
00:04:19,487 --> 00:04:24,105
Ez történik, ha túl gyors mozgásra
képezünk ki egy MI-t,

83
00:04:24,129 --> 00:04:27,663
olyan lesz, mintha bukfencezne,
és mint a "hülye járások".

84
00:04:27,687 --> 00:04:29,447
Általában mindig ez történik.

85
00:04:29,667 --> 00:04:32,846
Így vonaglik egy kupacban a talajon.

86
00:04:32,870 --> 00:04:34,020
(Nevetés)

87
00:04:34,751 --> 00:04:38,015
Úgyhogy szerintem a Terminátor robotjainak

88
00:04:38,015 --> 00:04:40,256
sokkal furcsábbnak kellett volna lenniük.

89
00:04:40,256 --> 00:04:44,011
Az MI a "Mátrixot" is feltöri,
ha lehetőséget kap rá.

90
00:04:44,035 --> 00:04:46,552
Ha tehát szimulációban
tanítunk be egy MI-t,

91
00:04:46,576 --> 00:04:50,689
megtanulja majd feltörni
a szimuláció matematikai hibáit,

92
00:04:50,713 --> 00:04:52,920
és ebből nyer energiát.

93
00:04:52,944 --> 00:04:58,419
Vagy képes lesz rájönni, hogyan mozoghat
fürgébben a talajon csúszkálva.

94
00:04:58,443 --> 00:05:00,028
MI-vel együtt dolgozni

95
00:05:00,052 --> 00:05:02,441
nem olyan, mint emberrel,

96
00:05:02,465 --> 00:05:06,094
sokkal inkább olyan, mint valami
fura természeti erővel együttműködni.

97
00:05:06,562 --> 00:05:11,185
És tényleg könnyű véletlenül hibás
problémát adni neki megoldásra,

98
00:05:11,209 --> 00:05:15,747
majd többnyire nem jövünk rá addig,
amíg valami balul nem sül el.

99
00:05:16,242 --> 00:05:18,322
Végeztem egy kísérletet,

100
00:05:18,346 --> 00:05:21,528
melyben az MI azt a feladatot kapta,
hogy színek másolásával

101
00:05:21,552 --> 00:05:23,298
keverjen ki új árnyalatokat,

102
00:05:23,322 --> 00:05:26,309
a bal oldalon megadott lista szerint.

103
00:05:26,798 --> 00:05:29,802
És tessék, ezzel állt elő.

104
00:05:29,826 --> 00:05:32,969
[Sindi popója, Szaros,
Szenvedés, Szeméremszürke]

105
00:05:32,993 --> 00:05:37,223
(Nevetés)

106
00:05:39,177 --> 00:05:41,063
Gyakorlatilag

107
00:05:41,087 --> 00:05:42,951
pontosan azt tette, amit kértem tőle.

108
00:05:42,975 --> 00:05:46,283
Azt hittem, illedelmes
festékneveket kérek tőle,

109
00:05:46,307 --> 00:05:48,614
de valójában az volt a feladata,

110
00:05:48,638 --> 00:05:51,724
hogy betűkombinációkat utánozzon,

111
00:05:51,748 --> 00:05:53,653
amiket az eredeti listán látott.

112
00:05:53,677 --> 00:05:56,775
Semmit nem mondtam neki arról,
mit jelentenek a szavak,

113
00:05:56,799 --> 00:05:59,359
vagy hogy esetleg akad köztük olyan,

114
00:05:59,383 --> 00:06:02,272
melyekből inkább
nem képzünk festékneveket.

115
00:06:03,141 --> 00:06:06,635
A teljes világa olyan adatokból áll,
melyeket én tápláltam bele.

116
00:06:06,659 --> 00:06:10,687
Akárcsak a fagylaltízeknél,
itt sincs fogalma semmi másról.

117
00:06:12,491 --> 00:06:14,129
Az adatoknak köszönhető,

118
00:06:14,153 --> 00:06:18,197
hogy gyakran előfordul:
véletlenül rossz dolgokra tanítjuk meg őt.

119
00:06:18,694 --> 00:06:21,726
Ez egy hal, a neve compó.

120
00:06:21,750 --> 00:06:24,109
Egy kutatócsoport
betanított egy MI-t arra,

121
00:06:24,109 --> 00:06:27,463
hogy képeken azonosítsa a compót.

122
00:06:27,463 --> 00:06:29,417
Aztán amikor megkérdezték tőle,

123
00:06:29,417 --> 00:06:32,233
a kép melyik része alapján
azonosította a halat,

124
00:06:32,257 --> 00:06:34,805
tessék, ezeket emelte ki.

125
00:06:35,203 --> 00:06:37,392
Bizony, azok ott emberi ujjak.

126
00:06:37,416 --> 00:06:39,475
Miért emberi ujjak alapján próbálna

127
00:06:39,499 --> 00:06:41,420
halat beazonosítani?

128
00:06:42,126 --> 00:06:45,290
Nos, a compó történetesen trópusi halfaj,

129
00:06:45,314 --> 00:06:48,245
ezért sok képen, melyeket az MI megfigyelt

130
00:06:48,245 --> 00:06:49,780
a betanítás során,

131
00:06:49,780 --> 00:06:52,688
valahogy így nézett ki a hal.
[A képen ember tartja a halat.]

132
00:06:52,688 --> 00:06:53,697
(Nevetés)

133
00:06:53,697 --> 00:06:57,067
Az MI nem tudta, hogy az ujjak
nem tartoznak a halhoz.

134
00:06:58,808 --> 00:07:02,928
Így már világos, miért nehéz
olyan MI-t tervezni,

135
00:07:02,952 --> 00:07:06,271
amelyik érti is, amit lát.

136
00:07:06,295 --> 00:07:09,157
És ezért olyan nehéz
képfelismerést tervezni

137
00:07:09,181 --> 00:07:11,248
az önvezető autókban,

138
00:07:11,272 --> 00:07:13,477
és azért van olyan sok balesetük,

139
00:07:13,501 --> 00:07:16,386
mert az MI-jük összezavarodik.

140
00:07:16,410 --> 00:07:20,418
Hadd meséljek egy 2016-os példát.

141
00:07:20,442 --> 00:07:24,897
Halálos baleset történt, amikor valaki
MI-robotpilóta üzemmódban ment Teslával,

142
00:07:24,921 --> 00:07:28,335
de nem az autópályán, amire tervezték,

143
00:07:28,359 --> 00:07:30,564
hanem városi utakon.

144
00:07:31,239 --> 00:07:34,028
Az történt, hogy egy kamion
hajtott ki elé,

145
00:07:34,028 --> 00:07:36,044
az autó pedig nem fékezett.

146
00:07:36,507 --> 00:07:41,269
Tény, hogy az MI-nek megtanították,
hogy képeken felismerje a kamionokat.

147
00:07:41,293 --> 00:07:43,438
De valószínűleg az történt,

148
00:07:43,462 --> 00:07:47,027
hogy az MI csak autópályán történő
vezetés során ismerte fel a kamionokat,

149
00:07:47,027 --> 00:07:49,316
ahol számításunk szerint
hátulról bukkannak fel.

150
00:07:49,340 --> 00:07:52,760
Az oldalról érkező kamion
nem valószínű az autópályán,

151
00:07:52,784 --> 00:07:56,239
úgyhogy amikor az MI meglátta,

152
00:07:56,263 --> 00:08:01,090
valószínűleg útjelző táblának nézte,

153
00:08:01,114 --> 00:08:03,717
ezért szép nyugodtan
alákormányozta az autót.

154
00:08:04,114 --> 00:08:06,694
Mutatok egy másik MI-botlást:

155
00:08:06,718 --> 00:08:09,948
Az Amazon nemrég felhagyott
egy önéletrajz-válogató algoritmussal,

156
00:08:09,972 --> 00:08:11,422
aminek fejlesztésén dolgoztak,

157
00:08:11,446 --> 00:08:15,354
mert kiderült, hogy az algoritmus
diszkriminálja a nőket.

158
00:08:15,378 --> 00:08:18,094
Ugyanis olyan önéletrajzokat
tápláltak be az MI-nek,

159
00:08:18,118 --> 00:08:20,360
melyeket korábbi alkalmazottaik írtak.

160
00:08:20,384 --> 00:08:24,407
És az MI ezekből a példákból
azt tanulta meg, hogy elvesse azokat,

161
00:08:24,431 --> 00:08:26,457
akik női egyetemekre jártak,

162
00:08:26,481 --> 00:08:29,791
vagy akiknél a "nő" szó olyan
szövegösszefüggésben fordult elő,

163
00:08:29,791 --> 00:08:33,887
mint "női kosárlabdacsapat",
vagy "Mérnöknők Társasága".

164
00:08:33,911 --> 00:08:37,885
Az MI nem tudta, hogy nem ajánlatos
ezt a konkrét dolgot lemásolni,

165
00:08:37,909 --> 00:08:39,887
úgy, ahogy az emberektől látta.

166
00:08:39,911 --> 00:08:43,088
Gyakorlatilag pontosan azt tette,
amivel megbízták.

167
00:08:43,112 --> 00:08:46,309
Csak a fejlesztők véletlenül
rosszul fogalmazták meg a kérést.

168
00:08:46,653 --> 00:08:49,548
És mindig ez történik az MI-vel.

169
00:08:50,120 --> 00:08:53,711
Tényleg lehet pusztító,
de még csak nem is tud róla.

170
00:08:53,735 --> 00:08:58,813
Azokat az MI-ket, melyek új tartalmakat
ajánlanak a Facebookon, YouTube-on,

171
00:08:58,837 --> 00:09:02,376
arra optimalizálták, hogy növelje
a kattintások és megtekintések számát.

172
00:09:02,400 --> 00:09:05,836
Sajnos, szerintük ennek az egyik módja az,

173
00:09:05,860 --> 00:09:10,363
hogy összeesküvés-elméletes
vagy fanatikus tartalmakat ajánljanak.

174
00:09:10,902 --> 00:09:16,204
Az MI-knek fogalmuk sincs arról,
valójában miről szólnak ezek,

175
00:09:16,228 --> 00:09:19,623
és arról sincs, hogy milyen
következményekkel járhat

176
00:09:19,647 --> 00:09:21,988
az efféle tartalmak ajánlása.

177
00:09:22,296 --> 00:09:24,307
Úgyhogy amikor MI-vel dolgozunk,

178
00:09:24,331 --> 00:09:28,513
tőlünk függ, hogyan
kerüljük el a problémákat.

179
00:09:28,537 --> 00:09:30,860
A problémák elkerülése

180
00:09:30,884 --> 00:09:34,840
ősi kommunikációs kérdés lehet,
melynek során nekünk, embereknek

181
00:09:34,840 --> 00:09:39,179
meg kell tanulnunk
helyesen kommunikálni az MI-vel.

182
00:09:39,203 --> 00:09:43,242
Meg kell tanulnunk, hogy mit képes
megtenni és mit nem.

183
00:09:43,266 --> 00:09:46,352
Meg kell értenünk,
hogy csöppnyi gilisztaagyával

184
00:09:46,376 --> 00:09:50,389
nem képes felfogni,
hogy mire kérjük egész pontosan.

185
00:09:51,148 --> 00:09:54,469
Vagyis felkészülten kell
együttműködnünk vele,

186
00:09:54,493 --> 00:09:59,751
mert nem olyan, mint a sci-fik
mindentudó MI szuperhősei.

187
00:09:59,775 --> 00:10:02,637
Felkészülten kell együttműködnünk vele,

188
00:10:02,661 --> 00:10:05,599
azzal a fajtával, amelyik ma létezik.

189
00:10:05,623 --> 00:10:09,828
És a ma létező MI
bizony elég fura szerzet.

190
00:10:09,852 --> 00:10:11,042
Köszönöm.

191
00:10:11,066 --> 00:10:16,291
(Taps)