YouTube

Got a YouTube account?

New: enable viewer-created translations and captions on your YouTube channel!

Hungarian subtitles

← A Mesterséges Intelligencia veszélye furább, mint hinnénk

Get Embed Code
31 Languages

Showing Revision 22 created 12/19/2019 by Csaba Lóki.

  1. Nos, a mesterséges
    intelligencia arról híres,
  2. hogy zavart kelt minden iparágban.
  3. Na és hogy állunk a fagylalttal?
  4. Milyen szédítő új ízeket teremthetnénk
  5. egy jól képzett mesterséges
    intelligencia hatalmával?
  6. Összeálltam hát a kealingi gimnázium
    egyik programozó csoportjával,
  7. hogy választ találjunk erre a kérdésre.
  8. Több mint 1600-féle létező
    fagylaltízt gyűjtöttek össze,
  9. és ezeket betápláltuk egy algoritmusba,
    hogy meglássuk, mit hoz ki belőlük.
  10. Íme, néhány ízkombináció,
    amit az MI generált.
  11. [Sütőtök Kuka Fék]

  12. (Nevetés)

  13. [Mogyoró Vaj Sár]

  14. [Eper Krém Kórság]

  15. (Nevetés)

  16. Ezek nem olyan ínyenc aromák,
    mint amikre feltehetően vágyunk.

  17. A kérdés tehát: mi történt?
  18. Mi volt a hiba?
  19. Az MI ki akar nyírni minket?
  20. Vagy csak teljesíteni akarta a kérésünket,
    és akadt némi probléma?
  21. A filmekben, ha valami
    gond adódik az MI-vel,

  22. az általában azért történik,
    mert az MI szándékosan fellázad,
  23. többé nem engedelmeskedik az embernek,
  24. hanem saját célt tűz ki magának,
    köszönöm szépen.
  25. A valóságban azonban a jelenlegi MI
  26. még nem elég okos ehhez.
  27. Nagyjából akkora
    a számítási teljesítménye,
  28. mint egy földigilisztának,
  29. vagy legjobb esetben egy háziméhnek,
  30. de valószínűleg még ennyi sem.
  31. Ahogy folyamatosan új dolgokat
    tudunk meg az agyról,
  32. úgy lesz egyre világosabb, hogy az MI
    teljesítménye közelébe sem ér az agynak.
  33. A mai MI képes például
    felismerni egy gyalogost a képen,
  34. de fogalma sincs arról,
    mi az, hogy gyalogos,
  35. azonkívül, hogy vonalak, textúrák
    és dolgok gyűjteménye.
  36. Fogalma sincs arról, mi az, hogy ember.
  37. Megteszi-e tehát a mai MI,
    amit kérünk tőle?
  38. Persze, ha tudja,
  39. de lehet, hogy nem azt teszi,
    amit kérünk tőle.
  40. Tegyük fel, megpróbáljuk rávenni,

  41. hogy fogja ezt a
    robotalkatrész-gyűjteményt,
  42. és rakjon össze valamilyen robotot,
    amit aztán eljuttat A pontból B-be.
  43. Na most, ha hagyományos
    számítógépes programmal
  44. gyürkőznénk neki
    a probléma megoldásának,
  45. akkor lépésről lépésre
    írnánk bele a parancssorokat,
  46. hogy milyen sorrendben fogjon
    az alkatrészekhez,
  47. hogyan állítsa össze azokat,
  48. aztán hogyan indítsa el a robot lábait,
    hogy eljuthasson A-ból B-be.
  49. Ha azonban MI-vel állunk neki
    a problémamegoldásnak,
  50. egészen más a helyzet.
  51. Nem mondhatjuk meg neki,
    hogyan fogjon hozzá,
  52. csak kijelöljük a célt,
  53. neki magának kell rájönnie,
    kísérletek és hibák során át,
  54. hogy hogyan érheti el a célt.
  55. Előfordul, hogy az MI
    hajlamos így megoldani
  56. ezt a sajátos problémát:
  57. tornyot rak össze az alkatrészekből,
    ami aztán eldől,
  58. és kiköt a B pontban.
  59. Technikai szempontból
    megoldja a problémát.
  60. Végül is eljut a B pontba.
  61. Az MI nem azért veszélyes,
    mert fellázadna ellenünk,
  62. hanem azért, mert pontosan
    azt fogja tenni, amire megkérjük.
  63. Ha tehát MI-vel dolgozunk,
    így kell feltennünk a kérdést:
  64. Hogyan fogalmazzuk meg a problémát,
    hogy az MI azt tegye, amit szeretnénk?
  65. Ezt a kis robotot egy MI irányítja.

  66. Megtervezte a robot lábait,
  67. aztán kidolgozta, hogyan kerülje ki
    ezeket az akadályokat.
  68. De amikor David Ha
    előkészítette ezt a kísérletet,
  69. nagyon, nagyon szigorú korlátokat
    kellett beállítania arra vonatkozóan,
  70. hogy mekkora lábakat gyárthasson az MI,
  71. mert különben...
  72. (Nevetés)

  73. Technikailag végigment
    az egész akadálypályán.

  74. Mint látják, még egy egyszerű
    gyaloglás is túl nagy falat egy MI-nek.
  75. Ha így nézzük őket, azt mondhatják: na jó,

  76. ne legyen magas torony, ne legyen borulás,
  77. legyenek lábai, amin járni tud.
  78. De előfordul, hogy ez sem működik.
  79. Az volt az MI feladata,
    hogy gyorsan mozogjon.
  80. Nem mondták neki,
    hogy fusson szembe, előre,
  81. azt sem, hogy nem használhatja a karját.
  82. Ez történik, ha túl gyors mozgásra
    képezünk ki egy MI-t,
  83. olyan lesz, mintha bukfencezne,
    és mint a "hülye járások".
  84. Általában mindig ez történik.
  85. Így vonaglik egy kupacban a talajon.
  86. (Nevetés)

  87. Úgyhogy szerintem a Terminátor robotjainak

  88. sokkal furcsábbnak kellett volna lenniük.
  89. Az MI a "Mátrixot" is feltöri,
    ha lehetőséget kap rá.
  90. Ha tehát szimulációban
    tanítunk be egy MI-t,
  91. megtanulja majd feltörni
    a szimuláció matematikai hibáit,
  92. és ebből nyer energiát.
  93. Vagy képes lesz rájönni, hogyan mozoghat
    fürgébben a talajon csúszkálva.
  94. MI-vel együtt dolgozni
  95. nem olyan, mint emberrel,
  96. sokkal inkább olyan, mint valami
    fura természeti erővel együttműködni.
  97. És tényleg könnyű véletlenül hibás
    problémát adni neki megoldásra,
  98. majd többnyire nem jövünk rá addig,
    amíg valami balul nem sül el.
  99. Végeztem egy kísérletet,

  100. melyben az MI azt a feladatot kapta,
    hogy színek másolásával
  101. keverjen ki új árnyalatokat,
  102. a bal oldalon megadott lista szerint.
  103. És tessék, ezzel állt elő.
  104. [Sindi popója, Szaros,
    Szenvedés, Szeméremszürke]

  105. (Nevetés)

  106. Gyakorlatilag

  107. pontosan azt tette, amit kértem tőle.
  108. Azt hittem, illedelmes
    festékneveket kérek tőle,
  109. de valójában az volt a feladata,
  110. hogy betűkombinációkat utánozzon,
  111. amiket az eredeti listán látott.
  112. Semmit nem mondtam neki arról,
    mit jelentenek a szavak,
  113. vagy hogy esetleg akad köztük olyan,
  114. melyekből inkább
    nem képzünk festékneveket.
  115. A teljes világa olyan adatokból áll,
    melyeket én tápláltam bele.
  116. Akárcsak a fagylaltízeknél,
    itt sincs fogalma semmi másról.
  117. Az adatoknak köszönhető,

  118. hogy gyakran előfordul:
    véletlenül rossz dolgokra tanítjuk meg őt.
  119. Ez egy hal, a neve compó.
  120. Egy kutatócsoport
    betanított egy MI-t arra,
  121. hogy képeken azonosítsa a compót.
  122. Aztán amikor megkérdezték tőle,
  123. a kép melyik része alapján
    azonosította a halat,
  124. tessék, ezeket emelte ki.
  125. Bizony, azok ott emberi ujjak.
  126. Miért emberi ujjak alapján próbálna
  127. halat beazonosítani?
  128. Nos, a compó történetesen trópusi halfaj,
  129. ezért sok képen, melyeket az MI megfigyelt
  130. a betanítás során,
  131. valahogy így nézett ki a hal.
    [A képen ember tartja a halat.]
  132. (Nevetés)

  133. Az MI nem tudta, hogy az ujjak
    nem tartoznak a halhoz.

  134. Így már világos, miért nehéz
    olyan MI-t tervezni,

  135. amelyik érti is, amit lát.
  136. És ezért olyan nehéz
    képfelismerést tervezni
  137. az önvezető autókban,
  138. és azért van olyan sok balesetük,
  139. mert az MI-jük összezavarodik.
  140. Hadd meséljek egy 2016-os példát.
  141. Halálos baleset történt, amikor valaki
    MI-robotpilóta üzemmódban ment Teslával,
  142. de nem az autópályán, amire tervezték,
  143. hanem városi utakon.
  144. Az történt, hogy egy kamion
    hajtott ki elé,
  145. az autó pedig nem fékezett.
  146. Tény, hogy az MI-nek megtanították,
    hogy képeken felismerje a kamionokat.
  147. De valószínűleg az történt,
  148. hogy az MI csak autópályán történő
    vezetés során ismerte fel a kamionokat,
  149. ahol számításunk szerint
    hátulról bukkannak fel.
  150. Az oldalról érkező kamion
    nem valószínű az autópályán,
  151. úgyhogy amikor az MI meglátta,
  152. valószínűleg útjelző táblának nézte,
  153. ezért szép nyugodtan
    alákormányozta az autót.
  154. Mutatok egy másik MI-botlást:

  155. Az Amazon nemrég felhagyott
    egy önéletrajz-válogató algoritmussal,
  156. aminek fejlesztésén dolgoztak,
  157. mert kiderült, hogy az algoritmus
    diszkriminálja a nőket.
  158. Ugyanis olyan önéletrajzokat
    tápláltak be az MI-nek,
  159. melyeket korábbi alkalmazottaik írtak.
  160. És az MI ezekből a példákból
    azt tanulta meg, hogy elvesse azokat,
  161. akik női egyetemekre jártak,
  162. vagy akiknél a "nő" szó olyan
    szövegösszefüggésben fordult elő,
  163. mint "női kosárlabdacsapat",
    vagy "Mérnöknők Társasága".
  164. Az MI nem tudta, hogy nem ajánlatos
    ezt a konkrét dolgot lemásolni,
  165. úgy, ahogy az emberektől látta.
  166. Gyakorlatilag pontosan azt tette,
    amivel megbízták.
  167. Csak a fejlesztők véletlenül
    rosszul fogalmazták meg a kérést.
  168. És mindig ez történik az MI-vel.

  169. Tényleg lehet pusztító,
    de még csak nem is tud róla.
  170. Azokat az MI-ket, melyek új tartalmakat
    ajánlanak a Facebookon, YouTube-on,
  171. arra optimalizálták, hogy növelje
    a kattintások és megtekintések számát.
  172. Sajnos, szerintük ennek az egyik módja az,
  173. hogy összeesküvés-elméletes
    vagy fanatikus tartalmakat ajánljanak.
  174. Az MI-knek fogalmuk sincs arról,
    valójában miről szólnak ezek,
  175. és arról sincs, hogy milyen
    következményekkel járhat
  176. az efféle tartalmak ajánlása.
  177. Úgyhogy amikor MI-vel dolgozunk,

  178. tőlünk függ, hogyan
    kerüljük el a problémákat.
  179. A problémák elkerülése
  180. ősi kommunikációs kérdés lehet,
    melynek során nekünk, embereknek
  181. meg kell tanulnunk
    helyesen kommunikálni az MI-vel.
  182. Meg kell tanulnunk, hogy mit képes
    megtenni és mit nem.
  183. Meg kell értenünk,
    hogy csöppnyi gilisztaagyával
  184. nem képes felfogni,
    hogy mire kérjük egész pontosan.
  185. Vagyis felkészülten kell
    együttműködnünk vele,
  186. mert nem olyan, mint a sci-fik
    mindentudó MI szuperhősei.
  187. Felkészülten kell együttműködnünk vele,
  188. azzal a fajtával, amelyik ma létezik.
  189. És a ma létező MI
    bizony elég fura szerzet.
  190. Köszönöm.

  191. (Taps)