WEBVTT 00:00:01.765 --> 00:00:04.765 L'intelligence artificielle 00:00:04.789 --> 00:00:08.318 est réputée pour chambouler tous genres d'industries. 00:00:08.961 --> 00:00:11.004 Qu'en est-il des glaces ? 00:00:11.879 --> 00:00:15.518 Quels genres de parfums hallucinants pourrions-nous créer 00:00:15.542 --> 00:00:18.518 avec les capacités d'une intelligence artificielle avancée ? 00:00:19.011 --> 00:00:23.186 J'ai fait équipe avec un groupe de programmeurs d'un collège du Texas 00:00:23.196 --> 00:00:25.437 pour trouver la réponse à cette question. 00:00:25.461 --> 00:00:30.542 Ils ont collecté plus de 1 600 parfums de glace existants 00:00:30.566 --> 00:00:34.152 et ensemble, nous les avons présentées à un algorithme 00:00:34.152 --> 00:00:36.112 pour voir ce qu'il générerait. 00:00:36.112 --> 00:00:39.865 Voici certains des parfums que l'IA a inventés. NOTE Paragraph 00:00:40.444 --> 00:00:41.915 [Pause poubelle au potiron] NOTE Paragraph 00:00:41.939 --> 00:00:43.341 (Rires) NOTE Paragraph 00:00:43.365 --> 00:00:45.834 [Boue de beurre de cacahuètes] NOTE Paragraph 00:00:46.822 --> 00:00:48.279 [Maladie de crème à la fraise] NOTE Paragraph 00:00:48.279 --> 00:00:50.315 (Rires) NOTE Paragraph 00:00:50.339 --> 00:00:52.540 Ces parfums ne sont pas délicieux, 00:00:52.540 --> 00:00:54.960 comme nous aurions pu espérer qu'ils soient. 00:00:54.960 --> 00:00:56.824 La question est : que s'est-il passé ? 00:00:56.848 --> 00:00:58.242 Qu'est-ce qui a mal tourné ? 00:00:58.266 --> 00:01:00.225 L'IA essaye-t-elle de nous tuer ? 00:01:01.027 --> 00:01:03.407 Ou essaye-t-elle de faire ce que nous avons demandé 00:01:03.407 --> 00:01:05.327 et il y a un problème ? NOTE Paragraph 00:01:06.567 --> 00:01:09.031 Dans les films, quand cela tourne mal avec l'IA, 00:01:09.055 --> 00:01:11.767 c'est généralement que l'IA a décidé 00:01:11.791 --> 00:01:14.063 qu'elle ne voulait plus obéir aux humains 00:01:14.087 --> 00:01:16.266 et qu'elle a ses propres objectifs, 00:01:16.266 --> 00:01:17.266 merci bien. 00:01:17.266 --> 00:01:20.482 Dans la vraie vie, cependant, l'IA que nous avons 00:01:20.506 --> 00:01:22.369 n'est pas assez intelligente pour cela. 00:01:22.781 --> 00:01:27.073 Elle a à peu près la puissance de calcul d'un ver de terre 00:01:27.087 --> 00:01:30.490 ou peut-être, au mieux, d'une seule abeille 00:01:30.514 --> 00:01:32.729 et probablement moins que cela. 00:01:32.753 --> 00:01:35.631 Nous apprenons constamment de nouvelles choses sur le cerveau 00:01:35.631 --> 00:01:36.885 qui établissent clairement 00:01:36.885 --> 00:01:39.865 à quel point nos IA ne sont pas à la hauteur de vrais cerveaux. 00:01:39.865 --> 00:01:45.418 L'IA actuelle peut réaliser une tâche comme identifier un piéton sur une photo 00:01:45.442 --> 00:01:48.425 mais n'a pas de concept expliquant ce qu'est un piéton 00:01:48.449 --> 00:01:53.273 au-delà d'un ensemble de lignes, de textures et de choses. 00:01:53.792 --> 00:01:56.313 Elle ne sait pas ce qu'est vraiment un humain. 00:01:56.822 --> 00:02:00.104 L'IA actuelle fera-t-elle ce que nous lui demandons de faire ? 00:02:00.128 --> 00:02:01.722 Oui, si elle le peut, 00:02:01.746 --> 00:02:04.472 mais elle pourrait ne pas faire ce que nous voulons. NOTE Paragraph 00:02:04.496 --> 00:02:06.911 Disons que vous essayiez de faire qu'une IA 00:02:06.935 --> 00:02:09.554 prenne cet ensemble de pièces d'un robot 00:02:09.578 --> 00:02:13.775 et les assemblent en une sorte de robot pour aller du point A au point B. 00:02:13.799 --> 00:02:16.280 Si vous essayiez de résoudre ce problème 00:02:16.304 --> 00:02:18.739 en écrivant un programme informatique traditionnel, 00:02:18.739 --> 00:02:22.096 vous lui donneriez des instructions par étapes 00:02:22.096 --> 00:02:23.583 sur comment prendre ces pièces, 00:02:23.583 --> 00:02:25.880 les assembler en un robot ayant des jambes 00:02:25.904 --> 00:02:29.086 puis comment utiliser ces jambes pour marcher jusqu'au point B. 00:02:29.441 --> 00:02:31.781 Si vous utilisez une IA pour résoudre le problème, 00:02:31.805 --> 00:02:32.979 cela est différent. 00:02:33.003 --> 00:02:35.385 Vous ne lui dites pas comment résoudre le problème, 00:02:35.409 --> 00:02:36.942 vous lui donnez juste l'objectif 00:02:36.942 --> 00:02:41.884 et elle doit trouver par tâtonnements comment atteindre cet objectif. 00:02:42.254 --> 00:02:46.356 Il s'avère que l'IA a tendance à résoudre ce problème en particulier 00:02:46.380 --> 00:02:47.864 en faisant ceci : 00:02:47.888 --> 00:02:51.255 elle s'assemble pour former une tour puis se laisse tomber 00:02:51.279 --> 00:02:53.106 et atterrit au point B. 00:02:53.130 --> 00:02:55.903 Techniquement, cela résout le problème. 00:02:55.903 --> 00:02:57.926 Techniquement, elle est arrivée au point B. 00:02:57.926 --> 00:03:01.911 Le danger lié à l'IA n'est pas qu'elle va se rebeller contre nous, 00:03:01.935 --> 00:03:06.209 c'est qu'elle va faire exactement ce que nous lui demandons. 00:03:06.876 --> 00:03:09.374 L'astuce pour travailler avec une IA devient : 00:03:09.398 --> 00:03:13.226 comment poser le problème pour qu'elle fasse ce que l'on veut ? NOTE Paragraph 00:03:14.726 --> 00:03:18.032 Ce petit robot est contrôlé par une IA. 00:03:18.056 --> 00:03:20.870 L'IA a conçu un design pour les jambes du robot 00:03:20.894 --> 00:03:24.972 puis elle a déterminé comment les utiliser pour passer tous ces obstacles. 00:03:24.996 --> 00:03:27.737 Mais quand David Ha a présenté cette expérience, 00:03:27.761 --> 00:03:30.617 il a dû établir des limites très, très strictes 00:03:30.641 --> 00:03:33.933 sur la taille autorisée des jambes que l'IA pouvait créer, 00:03:33.957 --> 00:03:35.507 car sinon... NOTE Paragraph 00:03:43.058 --> 00:03:46.989 (Rires) NOTE Paragraph 00:03:48.563 --> 00:03:52.308 Techniquement, elle est arrivée à la fin de cette course d'obstacles. 00:03:52.332 --> 00:03:54.358 Vous voyez à quel point il est difficile 00:03:54.358 --> 00:03:57.298 de faire faire une chose aussi simple que marcher à une IA. NOTE Paragraph 00:03:57.298 --> 00:04:01.118 En voyant l'IA faire ceci, vous pourriez dire que cela ne fonctionne pas, 00:04:01.142 --> 00:04:03.766 qu'elle ne peut pas juste être une haute tour et tomber, 00:04:03.766 --> 00:04:07.181 qu'elle doit utiliser des jambes pour marcher. 00:04:07.205 --> 00:04:09.964 Il s'avère que cela non plus ne fonctionne pas toujours. 00:04:09.988 --> 00:04:12.747 L'objectif de l'IA était de se déplacer rapidement. 00:04:13.115 --> 00:04:16.708 On ne lui a pas dit qu'elle devait courir vers l'avant 00:04:16.732 --> 00:04:18.990 ou qu'elle ne pouvait pas utiliser ses bras. 00:04:19.487 --> 00:04:24.105 Voilà ce qui arrive quand vous entraînez une IA à se déplacer rapidement, 00:04:24.129 --> 00:04:27.663 vous obtenez des sauts périlleux et des démarches ridicules. 00:04:27.687 --> 00:04:29.087 C'est très courant. 00:04:29.667 --> 00:04:32.846 Tout comme tressauter sous forme d'amas informe. NOTE Paragraph 00:04:32.870 --> 00:04:34.020 (Rires) NOTE Paragraph 00:04:35.241 --> 00:04:38.495 A mon avis, ce qui aurait dû être bien plus étrange, 00:04:38.495 --> 00:04:40.256 ce sont les robots de « Terminator ». 00:04:40.256 --> 00:04:44.065 Pirater la « Matrice » est une autre chose que l'IA fera si elle en a l'occasion. 00:04:44.065 --> 00:04:46.552 Si vous entraînez votre IA dans une simulation, 00:04:46.576 --> 00:04:48.163 elle apprendra à faire des choses 00:04:48.163 --> 00:04:50.713 comme exploiter les erreurs de maths de la simulation 00:04:50.713 --> 00:04:52.920 pour en tirer de l'énergie. 00:04:52.944 --> 00:04:55.693 Ou elle trouvera comment se déplacer plus vite 00:04:55.693 --> 00:04:58.443 en exploitant à répétition un bug pour avancer sur le sol. 00:04:58.443 --> 00:05:00.028 Travailler avec une IA, 00:05:00.052 --> 00:05:02.441 c'est moins comme travailler avec un autre humain 00:05:02.465 --> 00:05:06.094 et plutôt comme travailler avec une étrange force de la nature. 00:05:06.562 --> 00:05:09.109 Il est très facile de donner accidentellement à l'IA 00:05:09.109 --> 00:05:11.209 le mauvais problème à résoudre 00:05:11.209 --> 00:05:13.322 et nous ne nous en rendons souvent pas compte 00:05:13.322 --> 00:05:16.242 avant que quelque chose n'ait très mal tourné. NOTE Paragraph 00:05:16.242 --> 00:05:18.322 Voici une expérience que j'ai réalisée 00:05:18.346 --> 00:05:21.528 où je voulais que l'IA copie des couleurs de peinture 00:05:21.552 --> 00:05:23.298 pour en inventer de nouvelles 00:05:23.322 --> 00:05:26.309 en ayant la liste de celles qui sont sur la gauche. 00:05:26.798 --> 00:05:29.802 Et voici ce que l'IA a inventé. NOTE Paragraph 00:05:29.826 --> 00:05:32.969 [Caca de Sindis, Merdouille, Souffrance, Pubis gris] NOTE Paragraph 00:05:32.993 --> 00:05:37.223 (Rires) NOTE Paragraph 00:05:39.177 --> 00:05:41.063 Techniquement, 00:05:41.087 --> 00:05:43.065 elle a fait ce que je lui avais demandé. 00:05:43.065 --> 00:05:46.283 Je pensais lui demander des noms de couleur sympa, 00:05:46.307 --> 00:05:48.614 mais ce que je lui demandais de faire, 00:05:48.638 --> 00:05:51.724 c'était d'imaginer le genre de combinaisons de lettres 00:05:51.748 --> 00:05:53.787 qu'elle avait vues dans la liste initiale. 00:05:53.787 --> 00:05:56.775 Je ne lui ai rien dit sur le sens des mots 00:05:56.799 --> 00:05:59.359 ni sur le fait qu'il y a peut-être des mots 00:05:59.383 --> 00:06:02.482 qu'elle devrait éviter d'utiliser dans ces couleurs de peinture. 00:06:03.141 --> 00:06:06.635 Son monde se limite aux données que je lui ai données. 00:06:06.659 --> 00:06:10.687 Comme pour les parfums de glace, elle ne sait rien d'autre. NOTE Paragraph 00:06:12.491 --> 00:06:14.129 C'est à travers les données 00:06:14.153 --> 00:06:18.197 que nous disons souvent accidentellement à l'IA de faire la mauvaise chose. 00:06:18.694 --> 00:06:21.726 Ceci est un poisson appelé une tanche. 00:06:21.750 --> 00:06:23.565 Un groupe de chercheurs 00:06:23.589 --> 00:06:27.463 a entraîné l'IA à identifier cette tanche sur les photos. 00:06:27.487 --> 00:06:28.917 Mais quand ils lui ont demandé 00:06:28.917 --> 00:06:32.233 quelle partie de la photo elle utilisait pour identifier le poisson, 00:06:32.257 --> 00:06:34.075 voici ce qui a été sélectionné. 00:06:35.203 --> 00:06:37.392 Oui, ce sont des doigts humains. 00:06:37.416 --> 00:06:39.475 Pourquoi chercherait-elle des doigts humains 00:06:39.499 --> 00:06:41.420 si elle essaye d'identifier un poisson ? 00:06:42.126 --> 00:06:45.290 Il s'avère que la tanche est un poisson trophée 00:06:45.314 --> 00:06:49.125 et donc sur de nombreuses photos que l'IA avait vues de ce poisson 00:06:49.149 --> 00:06:50.300 durant son entraînement, 00:06:50.324 --> 00:06:51.814 le poisson ressemblait à ceci. NOTE Paragraph 00:06:51.838 --> 00:06:53.473 (Rires) NOTE Paragraph 00:06:53.497 --> 00:06:57.087 Et elle ne savait pas que les doigts ne faisaient pas partie du poisson. NOTE Paragraph 00:06:58.808 --> 00:07:02.928 Vous voyez pourquoi il est si dur de concevoir une IA 00:07:02.952 --> 00:07:06.271 qui comprend vraiment ce qu'elle considère. 00:07:06.295 --> 00:07:09.157 C'est pourquoi concevoir la reconnaissance d'images 00:07:09.181 --> 00:07:11.248 dans les voitures autonomes est si difficile 00:07:11.272 --> 00:07:13.541 et pourquoi tant de défaillances de ces voitures 00:07:13.541 --> 00:07:16.386 sont dues au fait que l'IA ait confondu des choses. 00:07:16.410 --> 00:07:20.418 Je veux parler d'un exemple de 2016. 00:07:20.442 --> 00:07:22.061 Il y a eu un accident mortel 00:07:22.061 --> 00:07:24.921 où quelqu'un utilisait l'IA de pilote automatique de Tesla, 00:07:24.921 --> 00:07:26.919 mais au lieu de l'utiliser sur l'autoroute, 00:07:26.919 --> 00:07:28.399 ce pour quoi elle était conçue, 00:07:28.399 --> 00:07:30.564 il l'a utilisé dans les rues de la ville. 00:07:31.239 --> 00:07:32.414 Ce qu'il s'est passé, 00:07:32.438 --> 00:07:34.597 c'est qu'un camion est passé devant la voiture 00:07:34.597 --> 00:07:36.507 et la voiture n'a pas freiné. 00:07:36.507 --> 00:07:41.269 L'IA avait été entraînée à reconnaître les camions sur des photos. 00:07:41.293 --> 00:07:43.438 Mais il semble que ce qu'il s'est passé, 00:07:43.462 --> 00:07:46.393 c'est qu'elle reconnaissait les camions sur l'autoroute, 00:07:46.417 --> 00:07:49.316 où vous vous attendez à les voir de derrière. 00:07:49.340 --> 00:07:52.760 Les camions ne sont pas censés être vus de côté sur l'autoroute 00:07:52.784 --> 00:07:56.239 et donc quand l'IA a vu ce camion, 00:07:56.263 --> 00:08:01.090 il semblerait que l'IA l'ait reconnu comme étant un panneau de signalisation, 00:08:01.114 --> 00:08:03.387 il était donc sans danger de passer en dessous. NOTE Paragraph 00:08:04.114 --> 00:08:06.694 Voici une bévue de l'IA dans un autre domaine. 00:08:06.718 --> 00:08:10.178 Amazon a récemment dû abandonner un algorithme de tri de CV 00:08:10.202 --> 00:08:11.546 sur lequel ils travaillaient 00:08:11.546 --> 00:08:12.648 quand ils ont découvert 00:08:12.648 --> 00:08:15.548 que l'algorithme avait appris à discriminer contre les femmes. 00:08:15.548 --> 00:08:18.094 Ils l'avaient entraîné avec des exemples de CV 00:08:18.118 --> 00:08:20.360 de gens qu'ils avaient embauchés dans le passé. 00:08:20.384 --> 00:08:24.407 D'après ces exemples, l'IA a appris à éviter les CV les gens 00:08:24.431 --> 00:08:26.457 ayant été dans des universités de femmes 00:08:26.481 --> 00:08:29.287 ou ayant le mot « femmes » quelque part sur leur CV 00:08:29.311 --> 00:08:31.481 comme dans « équipe de sport de femmes » 00:08:31.481 --> 00:08:33.911 ou « Société des femmes ingénieures ». 00:08:33.911 --> 00:08:36.089 L'IA ne savait pas qu'elle n'était pas censée 00:08:36.089 --> 00:08:37.909 copier cette chose en particulier 00:08:37.909 --> 00:08:39.887 qu'elle avait vu les humains faire. 00:08:39.911 --> 00:08:43.088 Techniquement, elle a fait ce qu'ils lui ont demandé. 00:08:43.112 --> 00:08:46.479 Ils lui ont juste accidentellement demandé de faire la mauvaise chose. NOTE Paragraph 00:08:46.653 --> 00:08:49.548 Cela arrive constamment avec l'IA. 00:08:50.120 --> 00:08:53.711 L'IA peut être destructrice et ne pas le savoir. 00:08:53.735 --> 00:08:56.505 Les IA qui recommandent de nouveaux contenus 00:08:56.505 --> 00:08:58.837 sur Facebook, sur YouTube, 00:08:58.837 --> 00:09:02.376 elles sont optimisées pour augmenter le nombre de clics et de vues. 00:09:02.400 --> 00:09:05.836 Malheureusement, une des façons trouvées pour faire cela 00:09:05.860 --> 00:09:08.972 est de recommander du contenu de théories conspirationnistes 00:09:08.972 --> 00:09:10.902 ou relevant du fanatisme religieux. 00:09:10.902 --> 00:09:16.204 Les IA n'ont aucune idée de ce qu'est ce contenu 00:09:16.228 --> 00:09:19.623 et elles n'ont aucune idée des conséquences possibles 00:09:19.647 --> 00:09:21.756 de la recommandation de ce contenu. NOTE Paragraph 00:09:22.296 --> 00:09:24.307 Quand nous travaillons avec une IA, 00:09:24.331 --> 00:09:28.513 c'est à nous d'éviter les problèmes. 00:09:28.537 --> 00:09:30.860 Éviter que les choses tournent mal, 00:09:30.884 --> 00:09:35.410 cela pourrait se résumer au sempiternel problème de communication 00:09:35.434 --> 00:09:37.663 où, en tant qu'humains, nous devons apprendre 00:09:37.663 --> 00:09:39.203 à communiquer avec l'IA. 00:09:39.203 --> 00:09:43.242 Nous devons apprendre ce dont l'IA est capable et ce dont elle est incapable, 00:09:43.266 --> 00:09:46.352 et comprendre qu'avec son petit cerveau de ver, 00:09:46.376 --> 00:09:50.389 l'IA ne comprend pas vraiment ce que nous lui demandons de faire. 00:09:51.148 --> 00:09:54.469 En d'autres mots, nous devons être prêts à travailler avec une IA 00:09:54.493 --> 00:09:59.751 qui n'est pas l'IA super compétente, omnisciente de la science-fiction. 00:09:59.775 --> 00:10:02.637 Nous devons être prêts à travailler avec une IA 00:10:02.661 --> 00:10:05.599 qui est celle que nous avons actuellement. 00:10:05.623 --> 00:10:09.828 Et l'IA actuellement est très étrange. NOTE Paragraph 00:10:09.852 --> 00:10:11.042 Merci. NOTE Paragraph 00:10:11.066 --> 00:10:16.291 (Applaudissements)