Romanian subtitles

← Pericolul IA este mai ciudat decât credeți

Get Embed Code
32 Languages

Showing Revision 5 created 12/07/2019 by Bianca-Ioanidia Mirea.

  1. Deci, inteligența artificială
  2. e cunoscută pentru perturbarea
    multor tipurilor de industrii.
  3. Dar cum rămâne cu înghețata?
  4. Ce fel de arome năucitoare noi
    am putea să generăm
  5. cu puterea
    unei inteligențe artificiale avansate?
  6. Am făcut echipă cu un grup de programatori
    de la Kealing Middle School
  7. pentru a afla răspunsul
    la această întrebare.
  8. Au colectat peste 1.600
    de arome existente de înghețată,
  9. pe care le-am introdus într-un algoritm
    pentru a vedea ce va genera.
  10. Iată câteva dintre aromele
    pe care le-a generat IA.
  11. [Gunoi de Dovleac Crăpat]

  12. (Râsete)

  13. [Mocirlă de Unt de Arahide]

  14. [Boală de Cremă de Căpșuni]

  15. (Râsete)

  16. Aceste arome nu sunt delicioase,
    așa cum am fi sperat că vor fi.

  17. Deci, întrebarea e: ce s-a întâmplat?
  18. Ce a mers rău?
  19. Încearcă IA să ne omoare?
  20. Sau încearcă să facă ceea ce i-am cerut,
    dar a existat o problemă?
  21. În filme, când ceva
    nu merge bine cu IA,

  22. este de obicei pentru că IA a decis
  23. că nu mai vrea să se supună oamenilor,
  24. și are propriile ei obiective,
    mulțumesc foarte mult.
  25. În viața reală însă,
    IA pe care o avem de fapt
  26. nu este destul de inteligentă pentru asta.
  27. Are puterea de calcul aproximativă
  28. cu a unui vierme de pământ,
  29. sau poate cel mult
    cu a unei singure albine,
  30. și de fapt, probabil poate mai puțin.
  31. Învățăm constant lucruri noi despre creier
  32. care clarifică faptul că IA
    nu poate concura cu creierele reale.
  33. IA curentă poate realiza
    identificarea unui pieton dintr-o imagine,
  34. dar nu are un concept
    despre ce este pietonul
  35. dincolo de faptul că este
    o colecție de linii, texturi și lucruri.
  36. Nu știe ce este de fapt un om.
  37. Deci, IA din zilele noastre
    va face ceea ce îi cerem să facă?
  38. O va face dacă va putea,
  39. dar s-ar putea să nu facă
    ceea ce ne dorim de fapt.
  40. Deci, să spunem
    că încercați să faceți IA

  41. să ia aceste părți ale unui robot
  42. și să le asambleze într-un fel de robot
    pentru a merge din punctul A în punctul B.
  43. Dacă ați încerca
    să rezolvați această problemă
  44. prin scrierea unui program
    în stil tradițional,
  45. îi veți da programului
    instrucțiuni pas cu pas,
  46. despre cum să ia aceste părți,
  47. cum să le asambleze
    într-un robot cu picioare
  48. și apoi cum să folosească acele picioare
    pentru a merge până în punctul B.
  49. Dar când utilizați IA
    pentru a rezolva problema,
  50. e diferit.
  51. Nu îi spuneți cum să rezolve problema,
  52. îi dați doar obiectivul,
  53. și trebuie să-și dea seama singură
    prin încercări și greșeli
  54. cum să atingă acel obiectiv.
  55. Și se dovedește că modul în care IA tinde
    să rezolve această problemă specifică
  56. este făcând astfel:
  57. le asamblează într-un turn care apoi cade
  58. și aterizează în punctul B.
  59. Și practic, asta rezolvă problema.
  60. Practic, a ajuns în punctul B.
  61. Pericolul IA nu este
    că se va revolta împotriva noastră,
  62. ci că va face
    exact ceea ce îi cerem să facă.
  63. Atunci întrebarea devine:
  64. cum să formulăm problema
    astfel încât să facă exact ce ne dorim?
  65. Deci, acest mic robot de aici
    este controlat de IA.

  66. IA a creat un design
    pentru picioarele robotului
  67. și apoi a înțeles cum să le folosească
    pentru a trece peste toate obstacolele.
  68. Dar când David Ha
    a creat acest experiment,
  69. a trebuit să-l stabilească
    cu limite foarte, foarte stricte
  70. despre cât de mari
    i-a fost permis IA să facă picioarele,
  71. pentru că altfel...
  72. (Râsete)

  73. Și tehnic vorbind, a ajuns
    la sfârșitul acelei curse cu obstacole.

  74. Vedeți cât de greu e să faceți IA
    să facă ceva simplu ca mersul.
  75. Deci, văzând că IA face asta, e posibil
    să spuneți: bine, dar nu e corect.

  76. Nu poate fi înalt
    cât un turn și doar să cadă,
  77. trebuie să-și folosească
    picioarele pentru a merge.
  78. Și se pare că nici asta
    nu funcționează întotdeauna.
  79. Scopul acestei IA
    a fost să se miște repede.
  80. Nu i-au spus că trebuie să meargă înainte
  81. sau că nu-și putea folosi brațele.
  82. Asta obțineți atunci când
    antrenați IA pentru a se deplasa rapid,
  83. obțineți tumbe sau mers ciudat.
  84. Este ceva foarte comun.
  85. La fel e și târâirea de-a lungul podelei.
  86. (Râsete)

  87. În opinia mea, ce ar putea fi
    mult mai ciudat

  88. sunt roboții „Terminator”.
  89. Spargerea „Matrix-ului” e un alt lucru
    pe care IA îl va face dacă-i dați șansa.
  90. Deci, dacă antrenați o IA într-o simulare,
  91. va învăța să facă lucruri precum folosirea
    erorilor matematice ale simulării
  92. și să le recolteze pentru energie.
  93. Sau va învăța cum să se miște mai repede
    aruncându-se în mod repetat pe podea.
  94. Când lucrați cu IA,
  95. e mai puțin ca și cum ați lucra cu alt om
  96. și mai mult ca și cum ați lucra
    cu un fel de forță ciudată a naturii.
  97. Și e foarte ușor să-i dați IA
    problema greșită spre rezolvare,
  98. și de multe ori nu ne dăm seama de asta
    până când ceva nu a mers greșit.
  99. Iată un experiment pe care l-am făcut,

  100. unde am vrut ca IA să copieze culorile,
  101. și să inventeze noi culori,
  102. având în vedere
    o listă precum cea din stânga.
  103. Și iată cu ce a venit IA.
  104. [Sindis Poop, Turdly, Suffer, Grey Pubic]

  105. (Râsete)

  106. Deci tehnic,

  107. a făcut ceea ce i-am cerut.
  108. Am crezut că i-am cerut,
    nume frumoase de culori,
  109. dar ceea ce i-am cerut de fapt
  110. a fost doar să imite
    tipurile de combinații de litere
  111. pe care le văzuse în original.
  112. Și nu i-am spus nimic
    despre ce înseamnă acele cuvinte,
  113. sau că există poate câteva cuvinte
  114. cărora ar trebui să le evite
    utilizarea în aceste culori.
  115. Deci întreaga ei lume
    sunt datele pe care i le-am dat.
  116. Ca și în cazul aromelor de înghețată,
    nu știe nimic altceva.
  117. Deci, prin intermediul datelor

  118. deseori îi spunem accidental
    IA să facă un lucru greșit.
  119. Acesta este un pește numit lin.
  120. Și a existat un grup de cercetători
  121. care au instruit IA
    pentru a identifica acest lin în imagini.
  122. Dar atunci când au întrebat-o
  123. ce parte a imaginii folosea
    pentru identificarea peștilor,
  124. iată ce a răspuns.
  125. Da, acestea sunt degete umane.
  126. De ce ar fi căutat degete umane
  127. dacă încearcă să identifice un pește?
  128. Ei bine, s-a descoperit
    că lin-ul este un pește trofeu,
  129. și astfel, într-o mulțime de poze
    pe care IA le-a văzut cu acest pește
  130. în timpul antrenamentului,
  131. peștele arăta așa.
  132. (Râsete)

  133. Și nu știa că degetele
    nu fac parte din pește.

  134. Așa că vedeți de ce e
    atât de greu să construiești o IA

  135. care poate înțelege ce privește.
  136. De asta realizarea
    recunoașterii imaginilor
  137. în mașinile fără șofer e atât de grea,
  138. și de ce atâtea defecțiuni
    ale autovehiculului
  139. au loc pentru că IA s-a zăpăcit.
  140. Vreau să vorbesc
    despre un exemplu din 2016.
  141. A avut loc un accident mortal când cineva
    a folosit o Tesla pilotată de o IA,
  142. dar în loc să o folosească pe autostradă
    așa cum a fost proiectată,
  143. au folosit-o pe străzile orașului.
  144. Și ce s-a întâmplat a fost
  145. că un camion a trecut
    prin fața mașinii, iar mașina nu a frânat.
  146. IA a fost cu siguranță instruită
    să recunoască camioanele în imagini.
  147. Dar ceea ce pare să se fi întâmplat
  148. e că IA a fost instruită
    să recunoască camioanele pe autostradă,
  149. unde te-ai aștepta
    să vezi camioanele din spate.
  150. Venirea camioanelor din lateral
    nu e de așteptat pe o autostradă,
  151. și atunci când IA a văzut acest camion,
  152. l-a recunoscut ca fiind
    cel mai probabil un semn rutier
  153. și, prin urmare,
    în regulă să treci pe sub el.
  154. Iată o greșeală a IA dintr-un alt domeniu.

  155. Recent Amazon a trebuit să renunțe
    la un algoritm de sortare a CV-urilor
  156. cu care lucrau
  157. când au descoperit că algoritmul
    învățase să discrimineze femeile.
  158. Ceea ce s-a întâmplat a fost
    că au instruit-o pe exemple de CV-uri
  159. ale oamenilor
    pe care îi angajaseră în trecut.
  160. Și din aceste exemple,
    IA a învățat să evite CV-urile persoanelor
  161. care au învățat în licee de fete
  162. sau cele care aveau cuvântul
    „femeie” undeva în CV-ul lor,
  163. ca în „echipa de fotbal feminin”
    sau „Societatea Femeilor Inginer.”
  164. IA nu știa că nu trebuia
    să copieze acest lucru
  165. așa cum i-a văzut pe oameni că fac.
  166. Și tehnic, a făcut ce i-au cerut să facă.
  167. I-au cerut din greșeală
    să facă un lucru greșit.
  168. Și acest lucru
    se întâmplă tot timpul cu IA.

  169. IA poate fi cu adevărat
    distructivă fără să știe.
  170. Deci, IA care recomandă conținut nou
    pe Facebook, pe YouTube,
  171. e optimizată pentru a crește
    numărul de clicuri și vizualizări.
  172. Și, din păcate, un mod prin care fac asta
  173. e prin recomandarea unui conținut
    conspiraționist sau bigot.
  174. IA în sine nu înțelege
    ce e acest conținut,
  175. și nu, nu înțelege nici
    care ar putea fi consecințele
  176. recomandării acestui tip de conținut.
  177. Deci, atunci când lucrăm cu IA,

  178. depinde de noi să evităm probleme.
  179. Și evitând ca lucrurile să nu meargă bine,
  180. asta ar putea să ne ducă
    la vechea problemă de comunicare,
  181. unde noi, ca oameni, trebuie să învățăm
    cum să comunicăm cu IA.
  182. Trebuie să învățăm ce e capabilă
    să facă IA și ce nu e,
  183. și să înțelegem că având un creier
    mic de vierme,
  184. IA nu înțelege cu adevărat
    ce încercăm să-i cerem să facă.
  185. Deci, cu alte cuvinte,
    trebuie să fim pregătiți să lucrăm cu IA
  186. care nu e acea IA super competentă,
    atotștiutoare a științifico-fantasticului.
  187. Trebuie să ne pregătim să lucrăm cu IA
  188. pe care o avem de fapt în zilele noastre.
  189. Iar IA actuală este destul de ciudată.
  190. Vă mulțumesc!

  191. (Aplauze)