Croatian subtitles

← Opasnost od UI čudnija je nego što mislite

Get Embed Code
32 Languages

Showing Revision 10 created 06/22/2020 by Sanda L.

  1. Dakle, umjetna inteligencija
  2. poznata je po remećenju
    svih vrsta industrija.
  3. Što je sa sladoledima?
  4. Koje nevjerojatne vrste novih okusa
    bismo mogli napraviti
  5. uz sposobnosti napredne
    umjetne inteligencije?
  6. Dakle, udružila sam se s timom programera
    iz Srednje škole "Kealing"
  7. kako bih pronašla odgovor na ovo pitanje.
  8. Oni su skupili preko 1600
    postojećih okusa sladoleda
  9. i zajedno smo ih stavili u algoritam
    kako bismo vidjeli što će proizvesti.
  10. I evo nekoliko okusa koje je UI smislila.
  11. [Pauza za smeće od bundeve]

  12. (Smijeh)

  13. [Ljiga od kikiriki maslaca]

  14. [Bolest kreme od jagoda]

  15. (Smijeh)

  16. Ovi okusi nisu ukusni onoliko koliko
    smo se nadali da bi mogli biti.

  17. Dakle, pitanje je: Što se dogodilo?
  18. Što je pošlo po zlu?
  19. Pokušava li nas UI ubiti?
  20. Ili pokušava napraviti ono što smo
    tražili, ali se pojavio problem?
  21. U filmovima, kada nešto s UI pođe po zlu,

  22. obično je to zato što je UI odlučila
  23. kako ne želi više izvršavati naredbe ljude
  24. i kako ima svoje ciljeve, molim lijepo.
  25. U stvarnosti, ipak, UI koju imamo
  26. nije ni blizu toliko pametna
    za takvo nešto.
  27. Računalna moć joj je otprilike veličine
  28. gliste
  29. ili možda najviše jedne pčele,
  30. a zapravo, vjerojatno i manja.
  31. Stalno učimo nove stvari o mozgu
  32. koje potvrđuju koliko zapravo naša UI
    nije ni blizu pravog mozga.
  33. Današnja UI može obaviti zadatak kao što
    je identificiranje pješaka na slici,
  34. ali nema predodžbu toga što je pješak,
  35. osim što je skup linija,
    tekstura i stvari.
  36. Ne zna što je zapravo čovjek.
  37. Dakle, hoće li današnja UI učiniti
    ono što od nje tražimo?
  38. Hoće ako može,
  39. ali možda neće moći napraviti ono što
    mi zapravo želimo.
  40. Recimo da pokušavate učiniti da UI

  41. uzme ovu skupinu dijelova robota
  42. i sastavi ih u nekakvog robota da dođe
    od točke A do točke B.
  43. Ako pokušate riješiti problem
  44. tako da napišete tradicionalan
    kompjutorski program,
  45. dali biste programu upute korak po korak
  46. kako da uzme dijelove
  47. i sastavi ih u robota s nogama,
  48. a onda kako da upotrijebi te noge
    da dođe do točke B.
  49. Ali kada koristite UI
    za rješavanje problema,
  50. to ide drugačije.
  51. Ne kažete joj kako da riješi problem,
  52. samo joj date cilj,
  53. a ona mora sama zaključiti, kroz sustav
    pokušaja i pogrešaka,
  54. kako doći do tog cilja.
  55. Ispada kako UI ovaj problem
    nastoji riješiti
  56. radeći ovo:
  57. sastavi se u toranj i onda se sruši
  58. i sleti na točku B.
  59. Tehnički, ovo rješava problem.
  60. Tehnički, došla je do točke B.
  61. Opasnost od UI nije
    što će se pobuniti protiv nas,
  62. nego što će napraviti točno ono
    što od nje tražimo.
  63. Tako da pitanje rada s UI postaje:
  64. Kako postaviti problem tako da zapravo
    napravi ono što mi želimo?
  65. Ovim malim robotom ovdje upravlja UI.

  66. UI smislila je dizajn za noge robota
  67. i onda pronašla način kako ih iskoristiti
    da prijeđe sve ove prepreke.
  68. Ali kada je David Ha postavio ovaj
    eksperiment,
  69. morao ga je postaviti s veoma, veoma
    čvrstim ograničenjima
  70. u vezi toga koliko velike noge
    UI smije napraviti,
  71. inače...
  72. (Smijeh)

  73. I tehnički, došla je do kraja tog
    slijeda prepreka.

  74. Dakle, vidite koliko je teško dobiti da
    UI napravi nešto jednostavno kao hodanje.
  75. Gledajući kako UI ovo radi možete reći,
    OK, nije fer,

  76. ne možeš biti samo visoki toranj
    i srušiti se,
  77. moraš zapravo upotrijebiti noge
    za hodanje.
  78. A ispada kako ni to ne upali svaki puta.
  79. Posao je ove UI da se kreće brzo.
  80. Nisu joj rekli da mora trčati dok je
    okrenuta prema naprijed
  81. ili da ne smije koristiti ruke.
  82. Ovo dobijete kada kažete UI
    da se kreće brzo,
  83. dobijete salta i čudna hodanja.
  84. To je uobičajeno.
  85. Kao i što je trzanje po podu dok je
    skupljena na hrpu.
  86. (Smijeh)

  87. Tako da po mom mišljenju, znate što bi
    trebalo biti puno čudnije?

  88. "Terminator" roboti.
  89. Hakiranje "Matrice" još je jedna stvar
    koju će UI napraviti ako joj date priliku.
  90. Tako da ako stavite UI u simulaciju,
  91. naučit će kako napraviti stvari kao što su
    hakiranje u matematičke pogreške simulacije
  92. i upotrijebiti ih za energiju.
  93. Ili će skužiti kako se kretati brže tražeći
    greške kako bi prošla ispod površine.
  94. Kada radite s UI,
  95. nije kao da radite s drugim čovjekom,
  96. više je kao da radite s nekakvom čudnom
    silom prirode.
  97. I veoma je jednostavno slučajno dati UI
    da riješi krivi problem,
  98. a to često ne shvatimo dok nešto
    ne pođe po zlu.
  99. Evo eksperimenta koji sam napravila

  100. u kojem sam htjela da UI kopira
    boje za slikanje,
  101. kako bi izmislila nove boje,
  102. kada joj damo popis
    kao što je ovaj lijevo.
  103. I evo što je UI smislila.
  104. [Sindis kakica, Govnasto, Patiti, Siva stidna]
    (okvirna značenja)

  105. (Smijeh)

  106. Dakle tehnički,

  107. napravila je ono što sam je tražila.
  108. Mislila sam da sam je tražila
    lijepa imena za boje,
  109. ali ono što sam je zapravo tražila
  110. je da samo imitira vrste kombinacije slova
  111. koje je vidjela u originalu.
  112. I nisam joj rekla ništa o tome
    što riječi znače
  113. ili o tome kako bi mogle postojati riječi
  114. koje bi trebala izbjegavati
    u ovim bojama za slikanje.
  115. Dakle njezin cijeli svijet sastoji se od
    podataka koje joj dam.
  116. Kao i s okusima sladoleda, ne zna
    ni za što drugo.
  117. Tako da zapravo kroz podatke

  118. često UI slučajno govorimo
    da napravi krivu stvar.
  119. Ovo je riba linjak.
  120. Bila je grupa istraživača
  121. koja je trenirala UI da pronađe
    linjaka na slikama.
  122. Ali kada su je upitali
  123. koji je dio slike zapravo koristila
    da pronađe ribu,
  124. evo što je pokazala.
  125. Da, to su ljudski prsti.
  126. Zašto bi tražila ljudske prste
  127. ako nastoji pronaći ribu?
  128. Pa, ispada kako je linjak
    trofejna riba,
  129. tako da je na većini slika riba
    koje je UI vidjela
  130. tijekom treninga,
  131. ova riba izgledala ovako.
  132. (Smijeh)

  133. I nije znala kako prsti nisu dio ribe.

  134. Tako da vidite zašto je toliko teško
    dizajnirati UI

  135. koja zapravo razumije u što gleda.
  136. I zato je dizajniranje
    prepoznavanja slike
  137. u samovozećim autima toliko teško,
  138. i zašto je toliko pogrešaka u
    samovozećim autima
  139. zato što se UI zbunila.
  140. Želim vam pričati o primjeru iz 2016.
  141. Dogodila se smrtna nesreća kada je netko
    koristio Teslin autopilot,
  142. ali umjesto da su ga koristili na
    autocesti za što je i bio napravljen,
  143. koristili su ga na gradskim ulicama.
  144. I ono što se dogodilo je
  145. da je kamion izletio pred auto
    i auto nije zakočio.
  146. UI definitivno je bila trenirana
    da prepozna kamion na slikama.
  147. Ali izgleda kako je ono
    što se dogodilo bilo
  148. da je UI trenirana da prepozna kamione
    u vožnji autocestom
  149. gdje biste očekivali vidjeti kamion
    sa stražnje strane.
  150. Stranice kamiona nisu ono što bi
    se trebalo vidjeti na autocesti,
  151. tako da kad je UI vidjela ovaj kamion,
  152. izgleda kako ga je vjerojatno
    prepoznala kao znak na cesti
  153. i zbog toga, kao sigurno za proći ispod.
  154. Evo pogreška UI na drugom polju.

  155. Amazon je nedavno morao odustati od
    algoritma za razvrstavanje životopisa
  156. na kojem su radili,
  157. kada su otkrili kako je algoritam naučio
    diskriminirati žene.
  158. Ono što se dogodilo je da su ga trenirali
    na primjerima životopisa
  159. ljudi koje su ranije zaposlili.
  160. A iz tih je primjera UI naučila
    izbjegavati životopise ljudi
  161. koji su išli na ženske fakultete
  162. ili koji su imali riječ "žena" negdje
    unutar životopisa,
  163. kao u "ženska nogometna momčad" ili
    "Društvo žena inženjera".
  164. UI nije znala kako nije trebala kopirati
    ovu osobitu stvar
  165. koju je vidjela da ljudi rade.
  166. I tehnički, učinila je ono
    što su je tražili.
  167. Samo su je slučajno tražili
    da napravi krivu stvar.
  168. A ovo se s UI stalno događa.

  169. Može biti destruktivna a da i ne zna.
  170. Tako da UI koje preporučuju nove
    sadržaje na Facebooku, YouTubeu,
  171. optimizirane su da povećaju
    broj klikova i pregleda.
  172. A nažalost, jedan način na koji se ovo
    može raditi
  173. je preporučiti sadržaj teorija urote
    ili netrpeljivosti.
  174. UI same po sebi nemaju predodžbu
    što taj sadržaj zapravo je
  175. i nemaju predodžbu o tome koje bi
    posljedice mogle biti
  176. kada se preporučuje ovaj sadržaj.
  177. Tako da kada radimo s UI,

  178. na nama je da izbjegavamo probleme.
  179. A izbjegavanjem toga da stvari krenu
    u krivom smjeru
  180. može doći do drevnog problema
    komunikacije
  181. gdje mi kao ljudi moramo naučiti
    kako komunicirati s UI.
  182. Moramo naučiti za što je UI sposobna,
    a za što nije,
  183. i razumjeti kako, sa svojim minijaturnim
    mozgom gliste,
  184. UI zapravo ne razumije
    što želimo od nje da napravi.
  185. Dakle, drugim riječima, moramo se
    pripremiti na rad s UI
  186. koja nije svemoguća i sveznajuća
    UI iz znanstvene fantastike.
  187. Moramo se pripremiti na rad s UI
  188. koju zapravo imamo u sadašnjosti.
  189. A sadašnja UI je već dovoljno čudna.
  190. Hvala.

  191. (Pljesak)