La menace de l'IA est plus étrange que vous ne le pensez
-
0:02 - 0:05L'intelligence artificielle
-
0:05 - 0:08est réputée pour chambouler
tous genres d'industries. -
0:09 - 0:11Qu'en est-il des glaces ?
-
0:12 - 0:16Quels genres de parfums hallucinants
pourrions-nous créer -
0:16 - 0:19avec les capacités d'une intelligence
artificielle avancée ? -
0:19 - 0:23J'ai fait équipe avec un groupe
de programmeurs d'un collège du Texas -
0:23 - 0:25pour trouver la réponse à cette question.
-
0:25 - 0:31Ils ont collecté plus de 1 600
parfums de glace existants -
0:31 - 0:34et ensemble, nous les avons
présentées à un algorithme -
0:34 - 0:36pour voir ce qu'il générerait.
-
0:36 - 0:40Voici certains des parfums
que l'IA a inventés. -
0:40 - 0:42[Pause poubelle au potiron]
-
0:42 - 0:43(Rires)
-
0:43 - 0:46[Boue de beurre de cacahuètes]
-
0:47 - 0:48[Maladie de crème à la fraise]
-
0:48 - 0:50(Rires)
-
0:50 - 0:53Ces parfums ne sont pas délicieux,
-
0:53 - 0:55comme nous aurions pu
espérer qu'ils soient. -
0:55 - 0:57La question est : que s'est-il passé ?
-
0:57 - 0:58Qu'est-ce qui a mal tourné ?
-
0:58 - 1:00L'IA essaye-t-elle de nous tuer ?
-
1:01 - 1:03Ou essaye-t-elle de faire
ce que nous avons demandé -
1:03 - 1:05et il y a un problème ?
-
1:07 - 1:09Dans les films, quand
cela tourne mal avec l'IA, -
1:09 - 1:12c'est généralement que l'IA a décidé
-
1:12 - 1:14qu'elle ne voulait plus obéir aux humains
-
1:14 - 1:16et qu'elle a ses propres objectifs,
-
1:16 - 1:17merci bien.
-
1:17 - 1:20Dans la vraie vie, cependant,
l'IA que nous avons -
1:21 - 1:22n'est pas assez intelligente pour cela.
-
1:23 - 1:27Elle a à peu près la puissance
de calcul d'un ver de terre -
1:27 - 1:30ou peut-être, au mieux,
d'une seule abeille -
1:31 - 1:33et probablement moins que cela.
-
1:33 - 1:36Nous apprenons constamment
de nouvelles choses sur le cerveau -
1:36 - 1:37qui établissent clairement
-
1:37 - 1:40à quel point nos IA ne sont pas
à la hauteur de vrais cerveaux. -
1:40 - 1:45L'IA actuelle peut réaliser une tâche
comme identifier un piéton sur une photo -
1:45 - 1:48mais n'a pas de concept
expliquant ce qu'est un piéton -
1:48 - 1:53au-delà d'un ensemble de lignes,
de textures et de choses. -
1:54 - 1:56Elle ne sait pas
ce qu'est vraiment un humain. -
1:57 - 2:00L'IA actuelle fera-t-elle
ce que nous lui demandons de faire ? -
2:00 - 2:02Oui, si elle le peut,
-
2:02 - 2:04mais elle pourrait ne pas faire
ce que nous voulons. -
2:04 - 2:07Disons que vous essayiez
de faire qu'une IA -
2:07 - 2:10prenne cet ensemble de pièces d'un robot
-
2:10 - 2:14et les assemblent en une sorte de robot
pour aller du point A au point B. -
2:14 - 2:16Si vous essayiez de résoudre ce problème
-
2:16 - 2:19en écrivant un programme
informatique traditionnel, -
2:19 - 2:22vous lui donneriez
des instructions par étapes -
2:22 - 2:24sur comment prendre ces pièces,
-
2:24 - 2:26les assembler en un robot ayant des jambes
-
2:26 - 2:29puis comment utiliser ces jambes
pour marcher jusqu'au point B. -
2:29 - 2:32Si vous utilisez une IA
pour résoudre le problème, -
2:32 - 2:33cela est différent.
-
2:33 - 2:35Vous ne lui dites pas
comment résoudre le problème, -
2:35 - 2:37vous lui donnez juste l'objectif
-
2:37 - 2:42et elle doit trouver par tâtonnements
comment atteindre cet objectif. -
2:42 - 2:46Il s'avère que l'IA a tendance
à résoudre ce problème en particulier -
2:46 - 2:48en faisant ceci :
-
2:48 - 2:51elle s'assemble pour former une tour
puis se laisse tomber -
2:51 - 2:53et atterrit au point B.
-
2:53 - 2:56Techniquement, cela résout le problème.
-
2:56 - 2:58Techniquement,
elle est arrivée au point B. -
2:58 - 3:02Le danger lié à l'IA n'est pas
qu'elle va se rebeller contre nous, -
3:02 - 3:06c'est qu'elle va faire exactement
ce que nous lui demandons. -
3:07 - 3:09L'astuce pour travailler
avec une IA devient : -
3:09 - 3:13comment poser le problème
pour qu'elle fasse ce que l'on veut ? -
3:15 - 3:18Ce petit robot est contrôlé par une IA.
-
3:18 - 3:21L'IA a conçu un design
pour les jambes du robot -
3:21 - 3:25puis elle a déterminé comment les utiliser
pour passer tous ces obstacles. -
3:25 - 3:28Mais quand David Ha
a présenté cette expérience, -
3:28 - 3:31il a dû établir des limites
très, très strictes -
3:31 - 3:34sur la taille autorisée
des jambes que l'IA pouvait créer, -
3:34 - 3:36car sinon...
-
3:43 - 3:47(Rires)
-
3:49 - 3:52Techniquement, elle est arrivée
à la fin de cette course d'obstacles. -
3:52 - 3:54Vous voyez à quel point il est difficile
-
3:54 - 3:57de faire faire une chose
aussi simple que marcher à une IA. -
3:57 - 4:01En voyant l'IA faire ceci, vous pourriez
dire que cela ne fonctionne pas, -
4:01 - 4:04qu'elle ne peut pas juste
être une haute tour et tomber, -
4:04 - 4:07qu'elle doit utiliser
des jambes pour marcher. -
4:07 - 4:10Il s'avère que cela non plus
ne fonctionne pas toujours. -
4:10 - 4:13L'objectif de l'IA
était de se déplacer rapidement. -
4:13 - 4:17On ne lui a pas dit qu'elle devait
courir vers l'avant -
4:17 - 4:19ou qu'elle ne pouvait pas
utiliser ses bras. -
4:19 - 4:24Voilà ce qui arrive quand vous entraînez
une IA à se déplacer rapidement, -
4:24 - 4:28vous obtenez des sauts périlleux
et des démarches ridicules. -
4:28 - 4:29C'est très courant.
-
4:30 - 4:33Tout comme tressauter
sous forme d'amas informe. -
4:33 - 4:34(Rires)
-
4:35 - 4:38A mon avis, ce qui aurait dû être
bien plus étrange, -
4:38 - 4:40ce sont les robots de « Terminator ».
-
4:40 - 4:44Pirater la « Matrice » est une autre chose
que l'IA fera si elle en a l'occasion. -
4:44 - 4:47Si vous entraînez votre IA
dans une simulation, -
4:47 - 4:48elle apprendra à faire des choses
-
4:48 - 4:51comme exploiter les erreurs
de maths de la simulation -
4:51 - 4:53pour en tirer de l'énergie.
-
4:53 - 4:56Ou elle trouvera
comment se déplacer plus vite -
4:56 - 4:58en exploitant à répétition
un bug pour avancer sur le sol. -
4:58 - 5:00Travailler avec une IA,
-
5:00 - 5:02c'est moins comme travailler
avec un autre humain -
5:02 - 5:06et plutôt comme travailler
avec une étrange force de la nature. -
5:07 - 5:09Il est très facile de donner
accidentellement à l'IA -
5:09 - 5:11le mauvais problème à résoudre
-
5:11 - 5:13et nous ne nous en rendons
souvent pas compte -
5:13 - 5:16avant que quelque chose
n'ait très mal tourné. -
5:16 - 5:18Voici une expérience que j'ai réalisée
-
5:18 - 5:22où je voulais que l'IA
copie des couleurs de peinture -
5:22 - 5:23pour en inventer de nouvelles
-
5:23 - 5:26en ayant la liste de celles
qui sont sur la gauche. -
5:27 - 5:30Et voici ce que l'IA a inventé.
-
5:30 - 5:33[Caca de Sindis, Merdouille,
Souffrance, Pubis gris] -
5:33 - 5:37(Rires)
-
5:39 - 5:41Techniquement,
-
5:41 - 5:43elle a fait ce que je lui avais demandé.
-
5:43 - 5:46Je pensais lui demander
des noms de couleur sympa, -
5:46 - 5:49mais ce que je lui demandais de faire,
-
5:49 - 5:52c'était d'imaginer le genre
de combinaisons de lettres -
5:52 - 5:54qu'elle avait vues dans la liste initiale.
-
5:54 - 5:57Je ne lui ai rien dit sur le sens des mots
-
5:57 - 5:59ni sur le fait qu'il y a
peut-être des mots -
5:59 - 6:02qu'elle devrait éviter d'utiliser
dans ces couleurs de peinture. -
6:03 - 6:07Son monde se limite
aux données que je lui ai données. -
6:07 - 6:11Comme pour les parfums de glace,
elle ne sait rien d'autre. -
6:12 - 6:14C'est à travers les données
-
6:14 - 6:18que nous disons souvent accidentellement
à l'IA de faire la mauvaise chose. -
6:19 - 6:22Ceci est un poisson appelé une tanche.
-
6:22 - 6:24Un groupe de chercheurs
-
6:24 - 6:27a entraîné l'IA à identifier
cette tanche sur les photos. -
6:27 - 6:29Mais quand ils lui ont demandé
-
6:29 - 6:32quelle partie de la photo
elle utilisait pour identifier le poisson, -
6:32 - 6:34voici ce qui a été sélectionné.
-
6:35 - 6:37Oui, ce sont des doigts humains.
-
6:37 - 6:39Pourquoi chercherait-elle
des doigts humains -
6:39 - 6:41si elle essaye d'identifier un poisson ?
-
6:42 - 6:45Il s'avère que la tanche
est un poisson trophée -
6:45 - 6:49et donc sur de nombreuses photos
que l'IA avait vues de ce poisson -
6:49 - 6:50durant son entraînement,
-
6:50 - 6:52le poisson ressemblait à ceci.
-
6:52 - 6:53(Rires)
-
6:53 - 6:57Et elle ne savait pas que les doigts
ne faisaient pas partie du poisson. -
6:59 - 7:03Vous voyez pourquoi il est si dur
de concevoir une IA -
7:03 - 7:06qui comprend vraiment
ce qu'elle considère. -
7:06 - 7:09C'est pourquoi concevoir
la reconnaissance d'images -
7:09 - 7:11dans les voitures autonomes
est si difficile -
7:11 - 7:14et pourquoi tant
de défaillances de ces voitures -
7:14 - 7:16sont dues au fait
que l'IA ait confondu des choses. -
7:16 - 7:20Je veux parler d'un exemple de 2016.
-
7:20 - 7:22Il y a eu un accident mortel
-
7:22 - 7:25où quelqu'un utilisait l'IA
de pilote automatique de Tesla, -
7:25 - 7:27mais au lieu de l'utiliser
sur l'autoroute, -
7:27 - 7:28ce pour quoi elle était conçue,
-
7:28 - 7:31il l'a utilisé dans les rues de la ville.
-
7:31 - 7:32Ce qu'il s'est passé,
-
7:32 - 7:35c'est qu'un camion est passé
devant la voiture -
7:35 - 7:37et la voiture n'a pas freiné.
-
7:37 - 7:41L'IA avait été entraînée à reconnaître
les camions sur des photos. -
7:41 - 7:43Mais il semble que ce qu'il s'est passé,
-
7:43 - 7:46c'est qu'elle reconnaissait
les camions sur l'autoroute, -
7:46 - 7:49où vous vous attendez
à les voir de derrière. -
7:49 - 7:53Les camions ne sont pas censés
être vus de côté sur l'autoroute -
7:53 - 7:56et donc quand l'IA a vu ce camion,
-
7:56 - 8:01il semblerait que l'IA l'ait reconnu
comme étant un panneau de signalisation, -
8:01 - 8:03il était donc sans danger
de passer en dessous. -
8:04 - 8:07Voici une bévue de l'IA
dans un autre domaine. -
8:07 - 8:10Amazon a récemment dû abandonner
un algorithme de tri de CV -
8:10 - 8:12sur lequel ils travaillaient
-
8:12 - 8:13quand ils ont découvert
-
8:13 - 8:16que l'algorithme avait appris
à discriminer contre les femmes. -
8:16 - 8:18Ils l'avaient entraîné
avec des exemples de CV -
8:18 - 8:20de gens qu'ils avaient
embauchés dans le passé. -
8:20 - 8:24D'après ces exemples, l'IA a appris
à éviter les CV les gens -
8:24 - 8:26ayant été dans des universités de femmes
-
8:26 - 8:29ou ayant le mot « femmes »
quelque part sur leur CV -
8:29 - 8:31comme dans « équipe de sport de femmes »
-
8:31 - 8:34ou « Société des femmes ingénieures ».
-
8:34 - 8:36L'IA ne savait pas
qu'elle n'était pas censée -
8:36 - 8:38copier cette chose en particulier
-
8:38 - 8:40qu'elle avait vu les humains faire.
-
8:40 - 8:43Techniquement, elle a fait
ce qu'ils lui ont demandé. -
8:43 - 8:46Ils lui ont juste accidentellement demandé
de faire la mauvaise chose. -
8:47 - 8:50Cela arrive constamment avec l'IA.
-
8:50 - 8:54L'IA peut être destructrice
et ne pas le savoir. -
8:54 - 8:57Les IA qui recommandent
de nouveaux contenus -
8:57 - 8:59sur Facebook, sur YouTube,
-
8:59 - 9:02elles sont optimisées pour augmenter
le nombre de clics et de vues. -
9:02 - 9:06Malheureusement, une des façons
trouvées pour faire cela -
9:06 - 9:09est de recommander du contenu
de théories conspirationnistes -
9:09 - 9:11ou relevant du fanatisme religieux.
-
9:11 - 9:16Les IA n'ont aucune idée
de ce qu'est ce contenu -
9:16 - 9:20et elles n'ont aucune idée
des conséquences possibles -
9:20 - 9:22de la recommandation de ce contenu.
-
9:22 - 9:24Quand nous travaillons avec une IA,
-
9:24 - 9:29c'est à nous d'éviter les problèmes.
-
9:29 - 9:31Éviter que les choses tournent mal,
-
9:31 - 9:35cela pourrait se résumer au sempiternel
problème de communication -
9:35 - 9:38où, en tant qu'humains,
nous devons apprendre -
9:38 - 9:39à communiquer avec l'IA.
-
9:39 - 9:43Nous devons apprendre ce dont l'IA
est capable et ce dont elle est incapable, -
9:43 - 9:46et comprendre qu'avec
son petit cerveau de ver, -
9:46 - 9:50l'IA ne comprend pas vraiment
ce que nous lui demandons de faire. -
9:51 - 9:54En d'autres mots, nous devons
être prêts à travailler avec une IA -
9:54 - 10:00qui n'est pas l'IA super compétente,
omnisciente de la science-fiction. -
10:00 - 10:03Nous devons être prêts
à travailler avec une IA -
10:03 - 10:06qui est celle que nous avons actuellement.
-
10:06 - 10:10Et l'IA actuellement est très étrange.
-
10:10 - 10:11Merci.
-
10:11 - 10:16(Applaudissements)
- Title:
- La menace de l'IA est plus étrange que vous ne le pensez
- Speaker:
- Janelle Shane
- Description:
-
Le danger avec l'intelligence artificielle n'est pas qu'elle va se rebeller contre nous, mais qu'elle va faire exactement ce que nous lui demandons, dit la chercheuse en IA Janelle Shane. En partageant les singeries étranges et parfois alarmantes des algorithmes d'IA alors qu'ils essayent de résoudre des problèmes humains -- comme créer de nouveaux parfums de glace ou reconnaître les voitures sur la route -- Janelle nous montre pourquoi l'IA n'est pas encore à la hauteur des vrais cerveaux.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
eric vautier approved French subtitles for The danger of AI is weirder than you think | ||
eric vautier edited French subtitles for The danger of AI is weirder than you think | ||
eric vautier edited French subtitles for The danger of AI is weirder than you think | ||
Claire Ghyselen accepted French subtitles for The danger of AI is weirder than you think | ||
Claire Ghyselen edited French subtitles for The danger of AI is weirder than you think | ||
Morgane Quilfen edited French subtitles for The danger of AI is weirder than you think | ||
Morgane Quilfen edited French subtitles for The danger of AI is weirder than you think | ||
Morgane Quilfen edited French subtitles for The danger of AI is weirder than you think |