YouTube

¿Tienes cuenta de YouTube?

Nuevo: habilita las traducciones y subtítulos creados por los usuarios en tu canal de YouTube

Czech subtítulos

← Nebezpečí umělé inteligence je divnější, než si myslíte

Obtener código incrustado.
31 idiomas

Mostrar Revisión8 creada 01/10/2020 por Samuel Titera.

  1. Umělá inteligence,
  2. jak známo, se míchá do spousty
    průmyslových odvětví.
  3. Tak třeba zmrzlina.
  4. Jakou spoustu neskutečných
    nových příchutí bychom mohli vytvořit
  5. pomocí pokročilé umělé inteligence?
  6. Dala jsem se dohromady se skupinou
    programátorů z Kealingovy střední školy,
  7. abych našla odpověď na tuto otázku.
  8. Sebrali více než 1600 existujících
    zmrzlinových příchutí
  9. a společně jsme je nacpali do jednoho
    algoritmu a čekali, co z něj vzejde.
  10. A tohle jsou příklady příchutí,
    se kterými umělá inteligence přišla.
  11. [Dýňová kopa odpadků]

  12. (Smích)

  13. [Sliz s arašídovým máslem]

  14. [Jahodovo-smetanová choroba]

  15. (Smích)

  16. To nejsou lahodné příchutě,
    které jsme doufali získat.

  17. Takže otázka zní: Co se stalo?
  18. Co se pokazilo?
  19. Snaží se nás umělá inteligence zabít?
  20. Nebo se snaží dělat, co po ní chceme,
    ale má s tím nějaký problém?
  21. Když se ve filmech začne dít
    něco špatného s UI,

  22. je to většinou proto,
    že se umělá inteligence rozhodla,
  23. že už nechce lidstvo poslouchat
  24. a má svoje vlastní cíle - děkuji pěkně.
  25. Nicméně ve skutečném světě
    ta umělá inteligence, kterou máme,
  26. není ani zdaleka tak chytrá.
  27. Má výpočetní sílu přibližně jako žížala
  28. nebo maximálně jako jediná včela,
  29. ale ve skutečnosti spíš méně.
  30. Jak stále získáváme
    nové poznatky o mozku
  31. nám ukazuje, jak moc je umělá inteligence
    vzdálená skutečným mozkům.
  32. Dneska třeba dokáže UI
    rozpoznat chodce na obrázku,
  33. ale nechápe, co to vlastně chodec je,
  34. pro ni je to jenom soubor linek,
    textur a podobných věcí.
  35. Ale neví, co to vlastně je člověk.
  36. Bude dnešní umělá inteligence
    dělat to, co po ní chceme?
  37. Bude, když to bude umět,
  38. ale může se stát, že neudělá to,
    co jsme měli na mysli.
  39. Řekněme, že se snažíte vyvinout UI,

  40. která vezme tuhle sadu
    robotích součástek
  41. a sestaví z nich robota,
    který se má dostat z bodu A do bodu B.
  42. Kdybyste se snažili vyřešit tento problém
  43. napsáním tradičního počítačového programu,
  44. programovali byste instrukce
    krok po kroku,
  45. jak má vzít ty součástky
  46. a jak z nich sestavit robota,
    který má nohy,
  47. jak má ty nohy použít,
    aby se dostal do bodu B.
  48. Ale když používáte umělou inteligenci,
  49. tak to funguje jinak.
  50. Neřeknete jí, jak ten problém vyřešit,
  51. dáte jí jenom cíl
  52. a ona musí sama metodou pokusu a omylu
    přijít na to,
  53. jak toho cíle dosáhnout.
  54. Ukáže se, že UI se tenhle konkrétní
    úkol snaží vyřešit takto:
  55. postaví z dílů věž a pak se skácí tak,
  56. že dopadne do bodu B.
  57. V podstatě je to skutečně řešení problému.
  58. Technicky vzato se dostala do bodu B.
  59. Nebezpečí UI není v tom,
    že by proti nám povstala,
  60. ale že bude dělat přesně to,
    o co jí požádáme.
  61. Vtip práce s umělou inteligencí zní:
  62. Jak zformulovat náši úlohu,
    aby udělala to, co po ní skutečně chceme?
  63. Tady ten malý robot je ovládán
    umělou inteligencí.

  64. UI navrhla, jak mají vypadat jeho nohy
  65. a vymyslela, jak je používat,
    aby překonala všechny tyto překážky.
  66. Ale když David Ha navrhoval
    tento experiment,
  67. musel v něm nastavit
    velmi velmi přísné limity,
  68. jak dlouhé smí mít ten robot nohy,
  69. protože jinak ...
  70. (Smích)

  71. A technicky vzato, překonalo to
    všechny překážky.

  72. Takže vidíte, jak je těžké přimět UI
    k něčemu tak jednoduchému jako chůze.
  73. Když vidíte, že UI udělá tohle,
    mohli byste říct, fajn, tohle není fér,

  74. nemůžeš se prostě stát věží
    a pak spadnout,
  75. musíš používat nohy a chodit.
  76. Ale pak se ukáže, že to taky nefunguje.
  77. Úkolem téhle umělé inteligence
    byl rychlý pohyb.
  78. Neřekli jí, že má běžet směrem dopředu,
  79. nebo že nesmí používat ruce.
  80. Tohle dostanete,
    když chcete naučit UI rychle běhat:
  81. dostanete věci jako salta
    a švihlou chůzi.
  82. A to je skutečně běžné.
  83. Podobně jako lezení po zemi.
  84. (Smích)

  85. Podle mého názoru
    by daleko divnější měly být

  86. roboti jako Terminátor.
  87. Nabourat se do „Matrixu“ je další věc,
    kterou UI udělá, když jí dáte příležitost.
  88. Když trénujete UI v simulaci,
  89. naučí se dělat věci jako nabourat se
    do matematických chyb v simulaci
  90. a získávat z nich energii.
  91. Nebo si najde způsob, hýbat se rychleji
    opakovaným padáním na zem.
  92. Když pracujete s UI,
  93. není to jako práce s jiným člověkem,
  94. daleko více se to podobá práci
    s nějakou zvláštní přírodní silou.
  95. A je velice jednoduché UI
    omylem špatně zadat řešený problém.
  96. Často si to neuvědomíme do té doby,
    než se něco stane.
  97. Tohle je můj pokus,

  98. chtěla jsem po UI,
    aby napodobila nátěrové barvy,
  99. aby vymyslela nové barvy,
  100. přičemž dostala seznam
    jako tady nalevo.
  101. A UI nakonec přišla s tímto.
  102. [Sindino kakání, lejno,
    utrpení, pubická šedá]

  103. (Smích)

  104. Takže vlastně udělala,

  105. co jsem si přála.
  106. Jenom jsem chtěla, aby vymysla
    pro barvy nějaké hezké názvy,
  107. ale ve skutečnosti jsem požádala o to,
  108. aby napodobila kombinace písmen,
  109. které viděla v předloze.
  110. Neřekla jsem jí nic o tom,
    co ta slova znamenají,
  111. nebo že by některá slova
  112. možná neměla používat pro názvy barev.
  113. Celý svět jsou pro ni jenom ta data
    která jsem jí zadala.
  114. Podobně jako s těmi příchutěmi zmrzlin,
    nezná nic jiného.
  115. Takže jsou to data,

  116. kterými často omylem žádáme UI o něco,
    co nechceme.
  117. Tahle ryba je lín.
  118. Jedna skupina vědců
  119. se jednou snažila naučit UI
    rozpoznávat lína na obrázcích.
  120. Ale když se potom zeptali,
  121. kterou část obrázku skutečně používá
    k rozpoznání té ryby,
  122. vyznačila toto.
  123. Ano, to jsou lidské prsty.
  124. Proč by se dívala na lidské prsty,
  125. když se snaží rozpoznat rybu?
  126. Jde o to, že lín je ryba,
    která se loví na udici,
  127. takže na spoustě obrázků,
    kde ji UI při tréninku viděla,
  128. ta ryba vypadala takto.
  129. (Smích)

  130. Ona nevěděla, že ty prsty
    nejsou součástí ryby.

  131. Tady vidíte, jak je to těžké,
    navrhnout umělou inteligenci,

  132. která skutečně dokáže pochopit,
    na co se dívá.
  133. A to je důvod, proč je vývoj
    rozpoznávání obrazu
  134. pro samořiditelná auta tak těžký
  135. a proč je spousta selhání
    samořiditelných aut
  136. způsobena tím, že UI byla zmatená.
  137. Chtěla bych zmínit příklad
    z roku 2016.
  138. Došlo ke smrtelné nehodě,
    když někdo používal autopilota Tesly,
  139. ale místo aby ho používal na dálnici,
    pro kterou byl autopilot navržen,
  140. použil ho ve městě.
  141. A stalo se,
  142. že před auto vjel náklaďák
    a to auto nezabrzdilo.
  143. Umělá inteligence určitě byla trénovaná
    na rozpoznávání nákladních aut.
  144. Ale problém byl nejspíš v tom,
  145. že UI byla trénovaná na rozpoznávání
    náklaďáků na dálnici,
  146. kde lze očekávat,
    že jsou vidět jenom zezadu.
  147. Na dálnici se nemůže vyskytnout
    náklaďák ze strany,
  148. takže když UI viděla ten náklaďák,
  149. tak si nejspíš řekla,
    že to asi bude dopravní značka
  150. a může bezpečně projet pod ní.
  151. Teď přešlap UI z jiné oblasti.

  152. V Amazonu museli nedávno vzdát
    vývoj algoritmu na třídění životopisů,
  153. když zjistili, že ten algoritmus
    se naučil diskriminovat ženy.
  154. Trénovali ho na příkladech
    životopisů lidí,
  155. které zaměstnali v minulosti.
  156. A z těchto příkladů se UI naučila
    vyhýbat se životopisům lidí,
  157. kteří chodili na ženské univerzity,
  158. nebo měli slovo ‚žena‘
    někde ve svém životopisu,
  159. jako třeba ‚ženský fotbalový tým‘,
    nebo ‚Společnost ženských inženýrů‘.
  160. Umělá inteligence nevěděla, že neměla
    napodobovat tuhle konkrétní věc,
  161. kterou viděla u lidí.
  162. A technicky vzato dělala to,
    o co jí žádali.
  163. Jenom ji omylem požádali o špatnou věc.
  164. A tohle se děje
    s umělou inteligencí stále.

  165. UI může být opravdu destruktivní
    a nevědět o tom.
  166. UI, která doporučuje obsah
    na Facebooku nebo YouTube,
  167. je optimalizovaná na zvyšování počtu
    kliknutí a shlédnutí.
  168. Bohužel se ukázalo, že jeden způsob
    jak toho dosahuje,
  169. je doporučovat obsah plný předsudků
    nebo konspiračních teorií.
  170. Samotná umělá inteligence nemá ponětí,
    co ten obsah skutečně znamená
  171. a nemá ani ponětí o možných důsledcích
    doporučování takového obsahu.
  172. Takže když pracujeme s UI,

  173. je na nás, abychom se vyvarovali problémů.
  174. A vyvarovat se problémů
  175. může být otázkou
    prastarého problému komunikace,
  176. přičemž my jako lidé se musíme naučit
    komunikovat s umělou inteligencí.
  177. Musíme se naučit, co UI dokáže
    a co nedokáže
  178. a pochopit, že se svým malinkatým
    žížalím mozečkem
  179. UI tak úplně nerozumí tomu,
    o co se ji snažíme požádat.
  180. Jinými slovy, musíme být připraveni
    pracovat s UI,
  181. která není superschopná vševědoucí
    umělá inteligence ze sci-fi.
  182. Musíme být připraveni pracovat s UI,
  183. kterou máme k dispozici dnes.
  184. Dnešní UI je docela dost divná.
  185. Děkuji.

  186. (Potlesk)