1
00:00:01,765 --> 00:00:04,765
L'intelligence artificielle

2
00:00:04,789 --> 00:00:08,318
est réputée pour chambouler
tous genres d'industries.

3
00:00:08,961 --> 00:00:11,004
Qu'en est-il des glaces ?

4
00:00:11,879 --> 00:00:15,518
Quels genres de parfums hallucinants
pourrions-nous créer

5
00:00:15,542 --> 00:00:18,518
avec les capacités d'une intelligence
artificielle avancée ?

6
00:00:19,011 --> 00:00:23,186
J'ai fait équipe avec un groupe
de programmeurs d'un collège du Texas

7
00:00:23,196 --> 00:00:25,437
pour trouver la réponse à cette question.

8
00:00:25,461 --> 00:00:30,542
Ils ont collecté plus de 1 600
parfums de glace existants

9
00:00:30,566 --> 00:00:34,152
et ensemble, nous les avons
présentées à un algorithme

10
00:00:34,152 --> 00:00:36,112
pour voir ce qu'il générerait.

11
00:00:36,112 --> 00:00:39,865
Voici certains des parfums
que l'IA a inventés.

12
00:00:40,444 --> 00:00:41,915
[Pause poubelle au potiron]

13
00:00:41,939 --> 00:00:43,341
(Rires)

14
00:00:43,365 --> 00:00:45,834
[Boue de beurre de cacahuètes]

15
00:00:46,822 --> 00:00:48,279
[Maladie de crème à la fraise]

16
00:00:48,279 --> 00:00:50,315
(Rires)

17
00:00:50,339 --> 00:00:52,540
Ces parfums ne sont pas délicieux,

18
00:00:52,540 --> 00:00:54,960
comme nous aurions pu
espérer qu'ils soient.

19
00:00:54,960 --> 00:00:56,824
La question est : que s'est-il passé ?

20
00:00:56,848 --> 00:00:58,242
Qu'est-ce qui a mal tourné ?

21
00:00:58,266 --> 00:01:00,225
L'IA essaye-t-elle de nous tuer ?

22
00:01:01,027 --> 00:01:03,407
Ou essaye-t-elle de faire
ce que nous avons demandé

23
00:01:03,407 --> 00:01:05,327
et il y a un problème ?

24
00:01:06,567 --> 00:01:09,031
Dans les films, quand
cela tourne mal avec l'IA,

25
00:01:09,055 --> 00:01:11,767
c'est généralement que l'IA a décidé

26
00:01:11,791 --> 00:01:14,063
qu'elle ne voulait plus obéir aux humains

27
00:01:14,087 --> 00:01:16,266
et qu'elle a ses propres objectifs,

28
00:01:16,266 --> 00:01:17,266
merci bien.

29
00:01:17,266 --> 00:01:20,482
Dans la vraie vie, cependant,
l'IA que nous avons

30
00:01:20,506 --> 00:01:22,369
n'est pas assez intelligente pour cela.

31
00:01:22,781 --> 00:01:27,073
Elle a à peu près la puissance
de calcul d'un ver de terre

32
00:01:27,087 --> 00:01:30,490
ou peut-être, au mieux,
d'une seule abeille

33
00:01:30,514 --> 00:01:32,729
et probablement moins que cela.

34
00:01:32,753 --> 00:01:35,631
Nous apprenons constamment
de nouvelles choses sur le cerveau

35
00:01:35,631 --> 00:01:36,885
qui établissent clairement

36
00:01:36,885 --> 00:01:39,865
à quel point nos IA ne sont pas
à la hauteur de vrais cerveaux.

37
00:01:39,865 --> 00:01:45,418
L'IA actuelle peut réaliser une tâche
comme identifier un piéton sur une photo

38
00:01:45,442 --> 00:01:48,425
mais n'a pas de concept
expliquant ce qu'est un piéton

39
00:01:48,449 --> 00:01:53,273
au-delà d'un ensemble de lignes,
de textures et de choses.

40
00:01:53,792 --> 00:01:56,313
Elle ne sait pas
ce qu'est vraiment un humain.

41
00:01:56,822 --> 00:02:00,104
L'IA actuelle fera-t-elle
ce que nous lui demandons de faire ?

42
00:02:00,128 --> 00:02:01,722
Oui, si elle le peut,

43
00:02:01,746 --> 00:02:04,472
mais elle pourrait ne pas faire
ce que nous voulons.

44
00:02:04,496 --> 00:02:06,911
Disons que vous essayiez
de faire qu'une IA

45
00:02:06,935 --> 00:02:09,554
prenne cet ensemble de pièces d'un robot

46
00:02:09,578 --> 00:02:13,775
et les assemblent en une sorte de robot
pour aller du point A au point B.

47
00:02:13,799 --> 00:02:16,280
Si vous essayiez de résoudre ce problème

48
00:02:16,304 --> 00:02:18,739
en écrivant un programme
informatique traditionnel,

49
00:02:18,739 --> 00:02:22,096
vous lui donneriez
des instructions par étapes

50
00:02:22,096 --> 00:02:23,583
sur comment prendre ces pièces,

51
00:02:23,583 --> 00:02:25,880
les assembler en un robot ayant des jambes

52
00:02:25,904 --> 00:02:29,086
puis comment utiliser ces jambes
pour marcher jusqu'au point B.

53
00:02:29,441 --> 00:02:31,781
Si vous utilisez une IA
pour résoudre le problème,

54
00:02:31,805 --> 00:02:32,979
cela est différent.

55
00:02:33,003 --> 00:02:35,385
Vous ne lui dites pas
comment résoudre le problème,

56
00:02:35,409 --> 00:02:36,942
vous lui donnez juste l'objectif

57
00:02:36,942 --> 00:02:41,884
et elle doit trouver par tâtonnements
comment atteindre cet objectif.

58
00:02:42,254 --> 00:02:46,356
Il s'avère que l'IA a tendance
à résoudre ce problème en particulier

59
00:02:46,380 --> 00:02:47,864
en faisant ceci :

60
00:02:47,888 --> 00:02:51,255
elle s'assemble pour former une tour
puis se laisse tomber

61
00:02:51,279 --> 00:02:53,106
et atterrit au point B.

62
00:02:53,130 --> 00:02:55,903
Techniquement, cela résout le problème.

63
00:02:55,903 --> 00:02:57,926
Techniquement,
elle est arrivée au point B.

64
00:02:57,926 --> 00:03:01,911
Le danger lié à l'IA n'est pas
qu'elle va se rebeller contre nous,

65
00:03:01,935 --> 00:03:06,209
c'est qu'elle va faire exactement
ce que nous lui demandons.

66
00:03:06,876 --> 00:03:09,374
L'astuce pour travailler
avec une IA devient :

67
00:03:09,398 --> 00:03:13,226
comment poser le problème
pour qu'elle fasse ce que l'on veut ?

68
00:03:14,726 --> 00:03:18,032
Ce petit robot est contrôlé par une IA.

69
00:03:18,056 --> 00:03:20,870
L'IA a conçu un design
pour les jambes du robot

70
00:03:20,894 --> 00:03:24,972
puis elle a déterminé comment les utiliser
pour passer tous ces obstacles.

71
00:03:24,996 --> 00:03:27,737
Mais quand David Ha
a présenté cette expérience,

72
00:03:27,761 --> 00:03:30,617
il a dû établir des limites
très, très strictes

73
00:03:30,641 --> 00:03:33,933
sur la taille autorisée
des jambes que l'IA pouvait créer,

74
00:03:33,957 --> 00:03:35,507
car sinon...

75
00:03:43,058 --> 00:03:46,989
(Rires)

76
00:03:48,563 --> 00:03:52,308
Techniquement, elle est arrivée
à la fin de cette course d'obstacles.

77
00:03:52,332 --> 00:03:54,358
Vous voyez à quel point il est difficile

78
00:03:54,358 --> 00:03:57,298
de faire faire une chose
aussi simple que marcher à une IA.

79
00:03:57,298 --> 00:04:01,118
En voyant l'IA faire ceci, vous pourriez
dire que cela ne fonctionne pas,

80
00:04:01,142 --> 00:04:03,766
qu'elle ne peut pas juste
être une haute tour et tomber,

81
00:04:03,766 --> 00:04:07,181
qu'elle doit utiliser
des jambes pour marcher.

82
00:04:07,205 --> 00:04:09,964
Il s'avère que cela non plus
ne fonctionne pas toujours.

83
00:04:09,988 --> 00:04:12,747
L'objectif de l'IA
était de se déplacer rapidement.

84
00:04:13,115 --> 00:04:16,708
On ne lui a pas dit qu'elle devait
courir vers l'avant

85
00:04:16,732 --> 00:04:18,990
ou qu'elle ne pouvait pas
utiliser ses bras.

86
00:04:19,487 --> 00:04:24,105
Voilà ce qui arrive quand vous entraînez
une IA à se déplacer rapidement,

87
00:04:24,129 --> 00:04:27,663
vous obtenez des sauts périlleux
et des démarches ridicules.

88
00:04:27,687 --> 00:04:29,087
C'est très courant.

89
00:04:29,667 --> 00:04:32,846
Tout comme tressauter
sous forme d'amas informe.

90
00:04:32,870 --> 00:04:34,020
(Rires)

91
00:04:35,241 --> 00:04:38,495
A mon avis, ce qui aurait dû être
bien plus étrange,

92
00:04:38,495 --> 00:04:40,256
ce sont les robots de « Terminator ».

93
00:04:40,256 --> 00:04:44,065
Pirater la « Matrice » est une autre chose
que l'IA fera si elle en a l'occasion.

94
00:04:44,065 --> 00:04:46,552
Si vous entraînez votre IA
dans une simulation,

95
00:04:46,576 --> 00:04:48,163
elle apprendra à faire des choses

96
00:04:48,163 --> 00:04:50,713
comme exploiter les erreurs
de maths de la simulation

97
00:04:50,713 --> 00:04:52,920
pour en tirer de l'énergie.

98
00:04:52,944 --> 00:04:55,693
Ou elle trouvera
comment se déplacer plus vite

99
00:04:55,693 --> 00:04:58,443
en exploitant à répétition
un bug pour avancer sur le sol.

100
00:04:58,443 --> 00:05:00,028
Travailler avec une IA,

101
00:05:00,052 --> 00:05:02,441
c'est moins comme travailler
avec un autre humain

102
00:05:02,465 --> 00:05:06,094
et plutôt comme travailler
avec une étrange force de la nature.

103
00:05:06,562 --> 00:05:09,109
Il est très facile de donner
accidentellement à l'IA

104
00:05:09,109 --> 00:05:11,209
le mauvais problème à résoudre

105
00:05:11,209 --> 00:05:13,322
et nous ne nous en rendons
souvent pas compte

106
00:05:13,322 --> 00:05:16,242
avant que quelque chose
n'ait très mal tourné.

107
00:05:16,242 --> 00:05:18,322
Voici une expérience que j'ai réalisée

108
00:05:18,346 --> 00:05:21,528
où je voulais que l'IA
copie des couleurs de peinture

109
00:05:21,552 --> 00:05:23,298
pour en inventer de nouvelles

110
00:05:23,322 --> 00:05:26,309
en ayant la liste de celles
qui sont sur la gauche.

111
00:05:26,798 --> 00:05:29,802
Et voici ce que l'IA a inventé.

112
00:05:29,826 --> 00:05:32,969
[Caca de Sindis, Merdouille,
Souffrance, Pubis gris]

113
00:05:32,993 --> 00:05:37,223
(Rires)

114
00:05:39,177 --> 00:05:41,063
Techniquement,

115
00:05:41,087 --> 00:05:43,065
elle a fait ce que je lui avais demandé.

116
00:05:43,065 --> 00:05:46,283
Je pensais lui demander
des noms de couleur sympa,

117
00:05:46,307 --> 00:05:48,614
mais ce que je lui demandais de faire,

118
00:05:48,638 --> 00:05:51,724
c'était d'imaginer le genre
de combinaisons de lettres

119
00:05:51,748 --> 00:05:53,787
qu'elle avait vues dans la liste initiale.

120
00:05:53,787 --> 00:05:56,775
Je ne lui ai rien dit sur le sens des mots

121
00:05:56,799 --> 00:05:59,359
ni sur le fait qu'il y a
peut-être des mots

122
00:05:59,383 --> 00:06:02,482
qu'elle devrait éviter d'utiliser
dans ces couleurs de peinture.

123
00:06:03,141 --> 00:06:06,635
Son monde se limite
aux données que je lui ai données.

124
00:06:06,659 --> 00:06:10,687
Comme pour les parfums de glace,
elle ne sait rien d'autre.

125
00:06:12,491 --> 00:06:14,129
C'est à travers les données

126
00:06:14,153 --> 00:06:18,197
que nous disons souvent accidentellement
à l'IA de faire la mauvaise chose.

127
00:06:18,694 --> 00:06:21,726
Ceci est un poisson appelé une tanche.

128
00:06:21,750 --> 00:06:23,565
Un groupe de chercheurs

129
00:06:23,589 --> 00:06:27,463
a entraîné l'IA à identifier
cette tanche sur les photos.

130
00:06:27,487 --> 00:06:28,917
Mais quand ils lui ont demandé

131
00:06:28,917 --> 00:06:32,233
quelle partie de la photo
elle utilisait pour identifier le poisson,

132
00:06:32,257 --> 00:06:34,075
voici ce qui a été sélectionné.

133
00:06:35,203 --> 00:06:37,392
Oui, ce sont des doigts humains.

134
00:06:37,416 --> 00:06:39,475
Pourquoi chercherait-elle
des doigts humains

135
00:06:39,499 --> 00:06:41,420
si elle essaye d'identifier un poisson ?

136
00:06:42,126 --> 00:06:45,290
Il s'avère que la tanche
est un poisson trophée

137
00:06:45,314 --> 00:06:49,125
et donc sur de nombreuses photos
que l'IA avait vues de ce poisson

138
00:06:49,149 --> 00:06:50,300
durant son entraînement,

139
00:06:50,324 --> 00:06:51,814
le poisson ressemblait à ceci.

140
00:06:51,838 --> 00:06:53,473
(Rires)

141
00:06:53,497 --> 00:06:57,087
Et elle ne savait pas que les doigts
ne faisaient pas partie du poisson.

142
00:06:58,808 --> 00:07:02,928
Vous voyez pourquoi il est si dur
de concevoir une IA

143
00:07:02,952 --> 00:07:06,271
qui comprend vraiment
ce qu'elle considère.

144
00:07:06,295 --> 00:07:09,157
C'est pourquoi concevoir
la reconnaissance d'images

145
00:07:09,181 --> 00:07:11,248
dans les voitures autonomes
est si difficile

146
00:07:11,272 --> 00:07:13,541
et pourquoi tant
de défaillances de ces voitures

147
00:07:13,541 --> 00:07:16,386
sont dues au fait
que l'IA ait confondu des choses.

148
00:07:16,410 --> 00:07:20,418
Je veux parler d'un exemple de 2016.

149
00:07:20,442 --> 00:07:22,061
Il y a eu un accident mortel

150
00:07:22,061 --> 00:07:24,921
où quelqu'un utilisait l'IA
de pilote automatique de Tesla,

151
00:07:24,921 --> 00:07:26,919
mais au lieu de l'utiliser
sur l'autoroute,

152
00:07:26,919 --> 00:07:28,399
ce pour quoi elle était conçue,

153
00:07:28,399 --> 00:07:30,564
il l'a utilisé dans les rues de la ville.

154
00:07:31,239 --> 00:07:32,414
Ce qu'il s'est passé,

155
00:07:32,438 --> 00:07:34,597
c'est qu'un camion est passé
devant la voiture

156
00:07:34,597 --> 00:07:36,507
et la voiture n'a pas freiné.

157
00:07:36,507 --> 00:07:41,269
L'IA avait été entraînée à reconnaître
les camions sur des photos.

158
00:07:41,293 --> 00:07:43,438
Mais il semble que ce qu'il s'est passé,

159
00:07:43,462 --> 00:07:46,393
c'est qu'elle reconnaissait
les camions sur l'autoroute,

160
00:07:46,417 --> 00:07:49,316
où vous vous attendez
à les voir de derrière.

161
00:07:49,340 --> 00:07:52,760
Les camions ne sont pas censés
être vus de côté sur l'autoroute

162
00:07:52,784 --> 00:07:56,239
et donc quand l'IA a vu ce camion,

163
00:07:56,263 --> 00:08:01,090
il semblerait que l'IA l'ait reconnu
comme étant un panneau de signalisation,

164
00:08:01,114 --> 00:08:03,387
il était donc sans danger
de passer en dessous.

165
00:08:04,114 --> 00:08:06,694
Voici une bévue de l'IA
dans un autre domaine.

166
00:08:06,718 --> 00:08:10,178
Amazon a récemment dû abandonner
un algorithme de tri de CV

167
00:08:10,202 --> 00:08:11,546
sur lequel ils travaillaient

168
00:08:11,546 --> 00:08:12,648
quand ils ont découvert

169
00:08:12,648 --> 00:08:15,548
que l'algorithme avait appris
à discriminer contre les femmes.

170
00:08:15,548 --> 00:08:18,094
Ils l'avaient entraîné
avec des exemples de CV

171
00:08:18,118 --> 00:08:20,360
de gens qu'ils avaient
embauchés dans le passé.

172
00:08:20,384 --> 00:08:24,407
D'après ces exemples, l'IA a appris
à éviter les CV les gens

173
00:08:24,431 --> 00:08:26,457
ayant été dans des universités de femmes

174
00:08:26,481 --> 00:08:29,287
ou ayant le mot « femmes »
quelque part sur leur CV

175
00:08:29,311 --> 00:08:31,481
comme dans « équipe de sport de femmes »

176
00:08:31,481 --> 00:08:33,911
ou « Société des femmes ingénieures ».

177
00:08:33,911 --> 00:08:36,089
L'IA ne savait pas
qu'elle n'était pas censée

178
00:08:36,089 --> 00:08:37,909
copier cette chose en particulier

179
00:08:37,909 --> 00:08:39,887
qu'elle avait vu les humains faire.

180
00:08:39,911 --> 00:08:43,088
Techniquement, elle a fait
ce qu'ils lui ont demandé.

181
00:08:43,112 --> 00:08:46,479
Ils lui ont juste accidentellement demandé
de faire la mauvaise chose.

182
00:08:46,653 --> 00:08:49,548
Cela arrive constamment avec l'IA.

183
00:08:50,120 --> 00:08:53,711
L'IA peut être destructrice
et ne pas le savoir.

184
00:08:53,735 --> 00:08:56,505
Les IA qui recommandent
de nouveaux contenus

185
00:08:56,505 --> 00:08:58,837
sur Facebook, sur YouTube,

186
00:08:58,837 --> 00:09:02,376
elles sont optimisées pour augmenter
le nombre de clics et de vues.

187
00:09:02,400 --> 00:09:05,836
Malheureusement, une des façons
trouvées pour faire cela

188
00:09:05,860 --> 00:09:08,972
est de recommander du contenu
de théories conspirationnistes

189
00:09:08,972 --> 00:09:10,902
ou relevant du fanatisme religieux.

190
00:09:10,902 --> 00:09:16,204
Les IA n'ont aucune idée
de ce qu'est ce contenu

191
00:09:16,228 --> 00:09:19,623
et elles n'ont aucune idée
des conséquences possibles

192
00:09:19,647 --> 00:09:21,756
de la recommandation de ce contenu.

193
00:09:22,296 --> 00:09:24,307
Quand nous travaillons avec une IA,

194
00:09:24,331 --> 00:09:28,513
c'est à nous d'éviter les problèmes.

195
00:09:28,537 --> 00:09:30,860
Éviter que les choses tournent mal,

196
00:09:30,884 --> 00:09:35,410
cela pourrait se résumer au sempiternel
problème de communication

197
00:09:35,434 --> 00:09:37,663
où, en tant qu'humains,
nous devons apprendre

198
00:09:37,663 --> 00:09:39,203
à communiquer avec l'IA.

199
00:09:39,203 --> 00:09:43,242
Nous devons apprendre ce dont l'IA
est capable et ce dont elle est incapable,

200
00:09:43,266 --> 00:09:46,352
et comprendre qu'avec
son petit cerveau de ver,

201
00:09:46,376 --> 00:09:50,389
l'IA ne comprend pas vraiment
ce que nous lui demandons de faire.

202
00:09:51,148 --> 00:09:54,469
En d'autres mots, nous devons
être prêts à travailler avec une IA

203
00:09:54,493 --> 00:09:59,751
qui n'est pas l'IA super compétente,
omnisciente de la science-fiction.

204
00:09:59,775 --> 00:10:02,637
Nous devons être prêts
à travailler avec une IA

205
00:10:02,661 --> 00:10:05,599
qui est celle que nous avons actuellement.

206
00:10:05,623 --> 00:10:09,828
Et l'IA actuellement est très étrange.

207
00:10:09,852 --> 00:10:11,042
Merci.

208
00:10:11,066 --> 00:10:16,291
(Applaudissements)