Italian subtítulos

← I pericoli dell’IA sono più bizzarri di quanto si pensi.

Obtener código incrustado.
31 idiomas

Mostrar Revisión89 creada 12/29/2019 por Michele Gianella.

  1. L’intelligenza artificiale
    è notoriamente capace
  2. di sconvolgere tutte le industrie
    in cui entra in azione.
  3. Che ne dite di applicarla al gelato?
  4. Che razza di nuovi,
    strabilianti sapori potremmo generare
  5. sfruttando un’intelligenza
    artificiale avanzata?
  6. Ho collaborato con dei programmatori
    della Kealing Middle School
  7. per trovare la risposta a questa domanda.
  8. Hanno raccolto oltre 1.600 gusti
    di gelato esistenti,
  9. che abbiamo inserito in un algoritmo
    per vedere cosa avrebbe generato.
  10. Ecco alcuni dei gusti creati dall’IA:
  11. [Merenda di spazzatura alla zucca]
  12. (Risate)
  13. [Melma al burro di arachidi]
  14. [Malattia alla crema di fragole]
  15. (Risate)
  16. Non proprio le suggestioni invitanti
    che speravamo di ricevere.
  17. La domanda sorge spontanea:
    cos’è successo?
  18. Che cosa è andato storto?
  19. L’IA sta cercando di ucciderci?
  20. O ha fatto quello che abbiamo chiesto,
    e si è verificato un problema?
  21. Nei film, quando qualcosa
    va storto con l’IA,
  22. di solito è perché l’IA stessa ha deciso
  23. che non vuole più obbedire agli umani,
  24. ma perseguire i propri obiettivi,
    e al diavolo tutti!
  25. Tuttavia, nella vita reale,
    l’IA di cui effettivamente disponiamo
  26. non è così intelligente da poterlo fare.
  27. Ha approssimativamnte
    la potenza di calcolo di un lombrico,
  28. o al massimo di una singola ape,
  29. probabilmente anche meno.
  30. Scopriamo continuamente
    cose nuove sul cervello umano,
  31. che possiamo tranquillamente affermare
    non essere all’altezza di un’IA.
  32. L’IA di oggi, quindi,
    identifica un pedone in una foto,
  33. ma non ha idea di cosa sia un pedone
  34. al di là di un insieme
    di linee, trame ed altro.
  35. Di fatto, non sa cosa sia un essere umano.
  36. Quindi l’IA di oggi farà
    quello che le chiediamo di fare?
  37. Lo farà se potrà,
  38. ma potrebbe non fare
    ciò che davvero vogliamo.
  39. Mettiamo che stiate cercando
    di indurre un'IA
  40. a prendere questo insieme
    di parti di robot
  41. e assemblarli in una specie di robot
    per andare dal punto A al punto B.
  42. Se voleste provare
    a risolvere questo problema
  43. scrivendo un programma informatico
    in stile tradizionale,
  44. fornireste al programma
    istruzioni dettagliate
  45. su come prendere queste parti,
  46. assemblarle in un robot con le gambe
  47. e infine usare queste gambe
    per raggiungere il punto B.
  48. Ma quando usate l’IA
    per risolvere il problema,
  49. le cose vanno diversamente.
  50. Non le spiegate
    come risolvere il problema:
  51. le date solo l'obiettivo,
  52. e sarà lei a capire da sola,
    attraverso tentativi ed errori,
  53. come raggiungere quell’obiettivo.
  54. Si scopre così che l’IA tende a risolvere
    questo particolare problema
  55. facendo così:
  56. assembla se stessa in una torre,
    fino a cadere e atterrare sul punto B.
  57. Tecnicamente, questo risolve il problema.
  58. Teoricamente, ha raggiunto il punto B.
  59. La minaccia dell’IA non è data dal fatto
    che questa possa ribellarsi a noi,
  60. ma piuttosto che faccia esattamente
    quello che le chiediamo di fare.
  61. Per lavorare con l’IA, quindi,
    la vera questione diventa:
  62. come possiamo impostare il problema
    in modo che faccia ciò che vogliamo?
  63. Questo piccolo robot è controllato
    da un’intelligenza artificiale.
  64. L’IA ha elaborato una struttura
    per le gambe del robot
  65. e ha immaginato come muoverle
    per farle superare tutti quegli ostacoli.
  66. Ma quando David Ha
    ha avviato questo esperimento,
  67. ha dovuto stabilire dei limiti severissimi
  68. entro i quali all’IA era permesso
    realizzare le gambe,
  69. perché altrimenti...
  70. (Risate)
  71. E tecnicamente, è arrivata alla fine
    di quella corsa ad ostacoli.
  72. Vedete quanto è difficile far fare all’IA
    una cosa semplice come camminare.
  73. Vedendo l’IA fare tutto questo,
    potreste pensare: "Ok, non va bene,
  74. non puoi pensare di essere
    una torre alta e cadere;
  75. devi usare le gambe per camminare.
  76. Ma a quanto pare,
    neanche questo sempre funziona.
  77. Il compito di questa IA
    era muoversi velocemente.
  78. Non le hanno detto
    che doveva correre guardando avanti,
  79. o che non poteva utilizzare le braccia.
  80. Questo è ciò che ottenete
    se istruite l’IA a muoversi velocemente,
  81. cose tipo capriole o camminate strambe.
  82. È molto frequente.
  83. Lo è anche ammucchiarsi sul pavimento
    muovendosi a scatti.
  84. (Risate)
  85. Quindi, secondo me, sapete cosa
    sarebbe stato ancora più strano?
  86. Il robot “Terminator”.
  87. Modificare “The Matrix” è un’altra cosa
    che l’IA farà, potendo.
  88. Se addestrate un’IA in una simulazione,
  89. imparerà ad accedere agli errori
    di matematica della simulazione
  90. e a farne tesoro per avere energia.
  91. Oppure capirà come andare più veloce
    muovendosi a scatti sul pavimento.
  92. Lavorare con l’IA
  93. è diverso dal lavorare
    con un altro essere umano:
  94. e più simile al lavorare
    con una strana forza della natura.
  95. È molto facile darle accidentalmente
    il problema sbagliato da risolvere,
  96. e spesso non ce ne rendiamo conto
    finché qualcosa non va storto.
  97. Ecco un esperimento che ho fatto,
  98. in cui volevo che l’IA
    copiasse i colori della vernice,
  99. per inventarne di nuovi,
  100. prendendoli dalla lista
    di quelli qui a sinistra.
  101. Ed ecco quello che l’IA
    ha effettivamente creato:
  102. "Pupù Sindhi, Merdolino,
    Sofferenza, Grigio Pubico"
  103. (Risate)
  104. Quindi, tecnicamente,
  105. ha fatto quello che le ho chiesto.
  106. Io pensavo di averle chiesto
    dei nomi di colori di vernice carini,
  107. ma in realtà quello che stavo chiedendo
  108. era solo di imitare
    il tipo di combinazioni di lettere
  109. che aveva visto nell’originale.
  110. Non le ho detto nulla
    sul significato delle parole,
  111. o che ci siano forse delle parole
  112. che dovrebbe evitare di utilizzare
    per questi colori di vernice.
  113. Perciò, le informazioni che le ho dato
    rappresentano tutto il suo mondo.
  114. Come con i gusti del gelato,
    l'IA non conosce nient’altro.
  115. È con le informazioni
  116. che spesso istruiamo l’IA,
    senza volerlo, a fare la cosa sbagliata.
  117. Questo è un pesce chiamato tinca.
  118. C’è stato un gruppo di ricercatori
  119. che ha addestrato un’IA
    a riconoscere questa tinca nelle foto.
  120. Ma quando le hanno chiesto
  121. quale parte dell'immagine
    stesse usando per identificare il pesce,
  122. questo è quello che ha evidenziato.
  123. Sì, quelle sono dita umane.
  124. Perché dovrebbe cercare dita umane,
    se sta cercando di identificare un pesce?
  125. Beh, è emerso che la tinca
    è un trofeo di pesca,
  126. e in molte delle immagini di tinca
    usate per allenare l’IA
  127. il pesce appariva così.
  128. (Risate)
  129. E non sapeva che le dita
    non facessero parte del pesce.
  130. Capite quindi quanto è difficile
    progettare un'IA
  131. che riesca davvero a comprendere
    cosa sta guardando.
  132. Per questo progettare
    il riconoscimento delle immagini,
  133. in automobili a guida autonoma,
    è così difficile;
  134. e per questo tanti insuccessi
    delle auto senza conducente
  135. sono dovuti al fatto che l’IA si confonde.
  136. Vorrei citare un esempio del 2016.
  137. Ci fu un incidente mortale durante l’uso
    del pilota automatico di una Tesla;
  138. invece di usarlo in autostrada,
    per cui era stato progettato,
  139. fu usato per le strade di città.
  140. Un camion sbucò di fronte all’auto,
    e questa non frenò.
  141. L’IA era stata sicuramente istruita
    a riconoscere i camion nelle immagini.
  142. Ma a quanto pare,
  143. l’IA era stata istruita a riconoscere
    i camion in autostrada,
  144. dove ci si aspetta di vedere i camion
    arrivare da dietro, non di lato.
  145. E così, quando l’IA ha visto il camion,
  146. sembra che l’abbia identificato
    come più simile ad un cartello stradale,
  147. sicura di potergli passare sotto.
  148. Ecco un altro passo falso dell’IA,
    in un altro settore.
  149. Amazon ha recentemente rinunciato
    a un algoritmo di selezione di curricula,
  150. su cui stava lavorando,
  151. quando ha scoperto che l’algoritmo
    aveva imparato a discriminare le donne.
  152. Si è scoperto che l’avevano istruito
    basandosi su modelli di curricula
  153. di persone assunte in passato.
  154. Da questi esempi,
    l’IA ha imparato ad evitare i cv
  155. delle persone che avevano frequentato
    università femminili,
  156. o che avevano la parola "donne"
    da qualche parte nei loro cv,
  157. come in "Squadra di Calcio delle Donne"
    o "Società delle Donne Ingegnere".
  158. L’IA non sapeva di dover correggere
    questa discriminazione appresa da noi.
  159. Tecnicamente, ha fatto
    quello che le hanno chiesto di fare.
  160. Le hanno semplicemente chiesto,
    per caso, di fare la cosa sbagliata.
  161. E questo accade di continuo, con l’IA.
  162. L’IA può essere davvero dannosa
    senza rendersene conto.
  163. Perciò le IA che raccomandano
    nuovi contenuti su Facebook, su YouTube,
  164. sono ottimizzate per accrescere
    il numero di click e visualizzazioni.
  165. E un modo che hanno trovato
    per riuscirci, sfortunatamente,
  166. è di raccomandare i contenuti
    di complottismo e bigottismo.
  167. Le IA stesse non hanno alcuna idea
    di cosa sia realmente quel contenuto,
  168. e non hanno alcuna idea
    di quali possano essere le conseguenze,
  169. nel raccomandarlo.
  170. Quando lavoriamo con un’IA, quindi,
  171. sta a noi evitare i problemi.
  172. Ed evitare che le cose vadano male,
  173. il che in sostanza ci riporta
    all'annoso problema della comunicazione,
  174. per cui noi umani dobbiamo imparare
    a comunicare con l’IA.
  175. Dobbiamo imparare cosa l’IA
    sa fare bene e cosa no
  176. e capire che, con il suo minuscolo
    cervello da vermiciattolo,
  177. l’IA non capisce che cosa
    le stiamo chiedendo di fare.
  178. Dobbiamo imparare, in altre parole,
    a saper lavorare con l’IA "vera",
  179. che non è l’IA super competente
    e onnisciente della fantascienza.
  180. Dobbiamo essere preparati a lavorare
    con l’IA che abbiamo oggi.
  181. E allo stato attuale,
    l'IA è già bizzarra a sufficienza.
  182. Grazie.
  183. (Applausi)