French subtítulos

← La menace de l'IA est plus étrange que vous ne le pensez

Obtener código incrustado.
32 idiomas

Mostrar Revisión7 creada 01/01/2020 por eric vautier.

  1. L'intelligence artificielle
  2. est réputée pour chambouler
    tous genres d'industries.
  3. Qu'en est-il des glaces ?
  4. Quels genres de parfums hallucinants
    pourrions-nous créer
  5. avec les capacités d'une intelligence
    artificielle avancée ?
  6. J'ai fait équipe avec un groupe
    de programmeurs d'un collège du Texas
  7. pour trouver la réponse à cette question.
  8. Ils ont collecté plus de 1 600
    parfums de glace existants
  9. et ensemble, nous les avons
    présentées à un algorithme
  10. pour voir ce qu'il générerait.
  11. Voici certains des parfums
    que l'IA a inventés.
  12. [Pause poubelle au potiron]

  13. (Rires)

  14. [Boue de beurre de cacahuètes]

  15. [Maladie de crème à la fraise]

  16. (Rires)

  17. Ces parfums ne sont pas délicieux,

  18. comme nous aurions pu
    espérer qu'ils soient.
  19. La question est : que s'est-il passé ?
  20. Qu'est-ce qui a mal tourné ?
  21. L'IA essaye-t-elle de nous tuer ?
  22. Ou essaye-t-elle de faire
    ce que nous avons demandé
  23. et il y a un problème ?
  24. Dans les films, quand
    cela tourne mal avec l'IA,

  25. c'est généralement que l'IA a décidé
  26. qu'elle ne voulait plus obéir aux humains
  27. et qu'elle a ses propres objectifs,
  28. merci bien.
  29. Dans la vraie vie, cependant,
    l'IA que nous avons
  30. n'est pas assez intelligente pour cela.
  31. Elle a à peu près la puissance
    de calcul d'un ver de terre
  32. ou peut-être, au mieux,
    d'une seule abeille
  33. et probablement moins que cela.
  34. Nous apprenons constamment
    de nouvelles choses sur le cerveau
  35. qui établissent clairement
  36. à quel point nos IA ne sont pas
    à la hauteur de vrais cerveaux.
  37. L'IA actuelle peut réaliser une tâche
    comme identifier un piéton sur une photo
  38. mais n'a pas de concept
    expliquant ce qu'est un piéton
  39. au-delà d'un ensemble de lignes,
    de textures et de choses.
  40. Elle ne sait pas
    ce qu'est vraiment un humain.
  41. L'IA actuelle fera-t-elle
    ce que nous lui demandons de faire ?
  42. Oui, si elle le peut,
  43. mais elle pourrait ne pas faire
    ce que nous voulons.
  44. Disons que vous essayiez
    de faire qu'une IA

  45. prenne cet ensemble de pièces d'un robot
  46. et les assemblent en une sorte de robot
    pour aller du point A au point B.
  47. Si vous essayiez de résoudre ce problème
  48. en écrivant un programme
    informatique traditionnel,
  49. vous lui donneriez
    des instructions par étapes
  50. sur comment prendre ces pièces,
  51. les assembler en un robot ayant des jambes
  52. puis comment utiliser ces jambes
    pour marcher jusqu'au point B.
  53. Si vous utilisez une IA
    pour résoudre le problème,
  54. cela est différent.
  55. Vous ne lui dites pas
    comment résoudre le problème,
  56. vous lui donnez juste l'objectif
  57. et elle doit trouver par tâtonnements
    comment atteindre cet objectif.
  58. Il s'avère que l'IA a tendance
    à résoudre ce problème en particulier
  59. en faisant ceci :
  60. elle s'assemble pour former une tour
    puis se laisse tomber
  61. et atterrit au point B.
  62. Techniquement, cela résout le problème.
  63. Techniquement,
    elle est arrivée au point B.
  64. Le danger lié à l'IA n'est pas
    qu'elle va se rebeller contre nous,
  65. c'est qu'elle va faire exactement
    ce que nous lui demandons.
  66. L'astuce pour travailler
    avec une IA devient :
  67. comment poser le problème
    pour qu'elle fasse ce que l'on veut ?
  68. Ce petit robot est contrôlé par une IA.

  69. L'IA a conçu un design
    pour les jambes du robot
  70. puis elle a déterminé comment les utiliser
    pour passer tous ces obstacles.
  71. Mais quand David Ha
    a présenté cette expérience,
  72. il a dû établir des limites
    très, très strictes
  73. sur la taille autorisée
    des jambes que l'IA pouvait créer,
  74. car sinon...
  75. (Rires)

  76. Techniquement, elle est arrivée
    à la fin de cette course d'obstacles.

  77. Vous voyez à quel point il est difficile
  78. de faire faire une chose
    aussi simple que marcher à une IA.
  79. En voyant l'IA faire ceci, vous pourriez
    dire que cela ne fonctionne pas,

  80. qu'elle ne peut pas juste
    être une haute tour et tomber,
  81. qu'elle doit utiliser
    des jambes pour marcher.
  82. Il s'avère que cela non plus
    ne fonctionne pas toujours.
  83. L'objectif de l'IA
    était de se déplacer rapidement.
  84. On ne lui a pas dit qu'elle devait
    courir vers l'avant
  85. ou qu'elle ne pouvait pas
    utiliser ses bras.
  86. Voilà ce qui arrive quand vous entraînez
    une IA à se déplacer rapidement,
  87. vous obtenez des sauts périlleux
    et des démarches ridicules.
  88. C'est très courant.
  89. Tout comme tressauter
    sous forme d'amas informe.
  90. (Rires)

  91. A mon avis, ce qui aurait dû être
    bien plus étrange,

  92. ce sont les robots de « Terminator ».
  93. Pirater la « Matrice » est une autre chose
    que l'IA fera si elle en a l'occasion.
  94. Si vous entraînez votre IA
    dans une simulation,
  95. elle apprendra à faire des choses
  96. comme exploiter les erreurs
    de maths de la simulation
  97. pour en tirer de l'énergie.
  98. Ou elle trouvera
    comment se déplacer plus vite
  99. en exploitant à répétition
    un bug pour avancer sur le sol.
  100. Travailler avec une IA,
  101. c'est moins comme travailler
    avec un autre humain
  102. et plutôt comme travailler
    avec une étrange force de la nature.
  103. Il est très facile de donner
    accidentellement à l'IA
  104. le mauvais problème à résoudre
  105. et nous ne nous en rendons
    souvent pas compte
  106. avant que quelque chose
    n'ait très mal tourné.
  107. Voici une expérience que j'ai réalisée

  108. où je voulais que l'IA
    copie des couleurs de peinture
  109. pour en inventer de nouvelles
  110. en ayant la liste de celles
    qui sont sur la gauche.
  111. Et voici ce que l'IA a inventé.
  112. [Caca de Sindis, Merdouille,
    Souffrance, Pubis gris]

  113. (Rires)

  114. Techniquement,

  115. elle a fait ce que je lui avais demandé.
  116. Je pensais lui demander
    des noms de couleur sympa,
  117. mais ce que je lui demandais de faire,
  118. c'était d'imaginer le genre
    de combinaisons de lettres
  119. qu'elle avait vues dans la liste initiale.
  120. Je ne lui ai rien dit sur le sens des mots
  121. ni sur le fait qu'il y a
    peut-être des mots
  122. qu'elle devrait éviter d'utiliser
    dans ces couleurs de peinture.
  123. Son monde se limite
    aux données que je lui ai données.
  124. Comme pour les parfums de glace,
    elle ne sait rien d'autre.
  125. C'est à travers les données

  126. que nous disons souvent accidentellement
    à l'IA de faire la mauvaise chose.
  127. Ceci est un poisson appelé une tanche.
  128. Un groupe de chercheurs
  129. a entraîné l'IA à identifier
    cette tanche sur les photos.
  130. Mais quand ils lui ont demandé
  131. quelle partie de la photo
    elle utilisait pour identifier le poisson,
  132. voici ce qui a été sélectionné.
  133. Oui, ce sont des doigts humains.
  134. Pourquoi chercherait-elle
    des doigts humains
  135. si elle essaye d'identifier un poisson ?
  136. Il s'avère que la tanche
    est un poisson trophée
  137. et donc sur de nombreuses photos
    que l'IA avait vues de ce poisson
  138. durant son entraînement,
  139. le poisson ressemblait à ceci.
  140. (Rires)

  141. Et elle ne savait pas que les doigts
    ne faisaient pas partie du poisson.

  142. Vous voyez pourquoi il est si dur
    de concevoir une IA

  143. qui comprend vraiment
    ce qu'elle considère.
  144. C'est pourquoi concevoir
    la reconnaissance d'images
  145. dans les voitures autonomes
    est si difficile
  146. et pourquoi tant
    de défaillances de ces voitures
  147. sont dues au fait
    que l'IA ait confondu des choses.
  148. Je veux parler d'un exemple de 2016.
  149. Il y a eu un accident mortel
  150. où quelqu'un utilisait l'IA
    de pilote automatique de Tesla,
  151. mais au lieu de l'utiliser
    sur l'autoroute,
  152. ce pour quoi elle était conçue,
  153. il l'a utilisé dans les rues de la ville.
  154. Ce qu'il s'est passé,
  155. c'est qu'un camion est passé
    devant la voiture
  156. et la voiture n'a pas freiné.
  157. L'IA avait été entraînée à reconnaître
    les camions sur des photos.
  158. Mais il semble que ce qu'il s'est passé,
  159. c'est qu'elle reconnaissait
    les camions sur l'autoroute,
  160. où vous vous attendez
    à les voir de derrière.
  161. Les camions ne sont pas censés
    être vus de côté sur l'autoroute
  162. et donc quand l'IA a vu ce camion,
  163. il semblerait que l'IA l'ait reconnu
    comme étant un panneau de signalisation,
  164. il était donc sans danger
    de passer en dessous.
  165. Voici une bévue de l'IA
    dans un autre domaine.

  166. Amazon a récemment dû abandonner
    un algorithme de tri de CV
  167. sur lequel ils travaillaient
  168. quand ils ont découvert
  169. que l'algorithme avait appris
    à discriminer contre les femmes.
  170. Ils l'avaient entraîné
    avec des exemples de CV
  171. de gens qu'ils avaient
    embauchés dans le passé.
  172. D'après ces exemples, l'IA a appris
    à éviter les CV les gens
  173. ayant été dans des universités de femmes
  174. ou ayant le mot « femmes »
    quelque part sur leur CV
  175. comme dans « équipe de sport de femmes »
  176. ou « Société des femmes ingénieures ».
  177. L'IA ne savait pas
    qu'elle n'était pas censée
  178. copier cette chose en particulier
  179. qu'elle avait vu les humains faire.
  180. Techniquement, elle a fait
    ce qu'ils lui ont demandé.
  181. Ils lui ont juste accidentellement demandé
    de faire la mauvaise chose.
  182. Cela arrive constamment avec l'IA.

  183. L'IA peut être destructrice
    et ne pas le savoir.
  184. Les IA qui recommandent
    de nouveaux contenus
  185. sur Facebook, sur YouTube,
  186. elles sont optimisées pour augmenter
    le nombre de clics et de vues.
  187. Malheureusement, une des façons
    trouvées pour faire cela
  188. est de recommander du contenu
    de théories conspirationnistes
  189. ou relevant du fanatisme religieux.
  190. Les IA n'ont aucune idée
    de ce qu'est ce contenu
  191. et elles n'ont aucune idée
    des conséquences possibles
  192. de la recommandation de ce contenu.
  193. Quand nous travaillons avec une IA,

  194. c'est à nous d'éviter les problèmes.
  195. Éviter que les choses tournent mal,
  196. cela pourrait se résumer au sempiternel
    problème de communication
  197. où, en tant qu'humains,
    nous devons apprendre
  198. à communiquer avec l'IA.
  199. Nous devons apprendre ce dont l'IA
    est capable et ce dont elle est incapable,
  200. et comprendre qu'avec
    son petit cerveau de ver,
  201. l'IA ne comprend pas vraiment
    ce que nous lui demandons de faire.
  202. En d'autres mots, nous devons
    être prêts à travailler avec une IA
  203. qui n'est pas l'IA super compétente,
    omnisciente de la science-fiction.
  204. Nous devons être prêts
    à travailler avec une IA
  205. qui est celle que nous avons actuellement.
  206. Et l'IA actuellement est très étrange.
  207. Merci.

  208. (Applaudissements)