0:00:01.765,0:00:04.765
L'intelligence artificielle

0:00:04.789,0:00:08.318
est réputée pour chambouler[br]tous genres d'industries.

0:00:08.961,0:00:11.004
Qu'en est-il des glaces ?

0:00:11.879,0:00:15.518
Quels genres de parfums hallucinants[br]pourrions-nous créer

0:00:15.542,0:00:18.518
avec les capacités d'une intelligence[br]artificielle avancée ?

0:00:19.011,0:00:23.186
J'ai fait équipe avec un groupe[br]de programmeurs d'un collège du Texas

0:00:23.196,0:00:25.437
pour trouver la réponse à cette question.

0:00:25.461,0:00:30.542
Ils ont collecté plus de 1 600[br]parfums de glace existants

0:00:30.566,0:00:34.152
et ensemble, nous les avons[br]présentées à un algorithme

0:00:34.152,0:00:36.112
pour voir ce qu'il générerait.

0:00:36.112,0:00:39.865
Voici certains des parfums[br]que l'IA a inventés.

0:00:40.444,0:00:41.915
[Pause poubelle au potiron]

0:00:41.939,0:00:43.341
(Rires)

0:00:43.365,0:00:45.834
[Boue de beurre de cacahuètes]

0:00:46.822,0:00:48.279
[Maladie de crème à la fraise]

0:00:48.279,0:00:50.315
(Rires)

0:00:50.339,0:00:52.540
Ces parfums ne sont pas délicieux,

0:00:52.540,0:00:54.960
comme nous aurions pu[br]espérer qu'ils soient.

0:00:54.960,0:00:56.824
La question est : que s'est-il passé ?

0:00:56.848,0:00:58.242
Qu'est-ce qui a mal tourné ?

0:00:58.266,0:01:00.225
L'IA essaye-t-elle de nous tuer ?

0:01:01.027,0:01:03.407
Ou essaye-t-elle de faire[br]ce que nous avons demandé

0:01:03.407,0:01:05.327
et il y a un problème ?

0:01:06.567,0:01:09.031
Dans les films, quand[br]cela tourne mal avec l'IA,

0:01:09.055,0:01:11.767
c'est généralement que l'IA a décidé

0:01:11.791,0:01:14.063
qu'elle ne voulait plus obéir aux humains

0:01:14.087,0:01:16.266
et qu'elle a ses propres objectifs,

0:01:16.266,0:01:17.266
merci bien.

0:01:17.266,0:01:20.482
Dans la vraie vie, cependant,[br]l'IA que nous avons

0:01:20.506,0:01:22.369
n'est pas assez intelligente pour cela.

0:01:22.781,0:01:27.073
Elle a à peu près la puissance[br]de calcul d'un ver de terre

0:01:27.087,0:01:30.490
ou peut-être, au mieux,[br]d'une seule abeille

0:01:30.514,0:01:32.729
et probablement moins que cela.

0:01:32.753,0:01:35.631
Nous apprenons constamment[br]de nouvelles choses sur le cerveau

0:01:35.631,0:01:36.885
qui établissent clairement

0:01:36.885,0:01:39.865
à quel point nos IA ne sont pas[br]à la hauteur de vrais cerveaux.

0:01:39.865,0:01:45.418
L'IA actuelle peut réaliser une tâche[br]comme identifier un piéton sur une photo

0:01:45.442,0:01:48.425
mais n'a pas de concept[br]expliquant ce qu'est un piéton

0:01:48.449,0:01:53.273
au-delà d'un ensemble de lignes,[br]de textures et de choses.

0:01:53.792,0:01:56.313
Elle ne sait pas[br]ce qu'est vraiment un humain.

0:01:56.822,0:02:00.104
L'IA actuelle fera-t-elle[br]ce que nous lui demandons de faire ?

0:02:00.128,0:02:01.722
Oui, si elle le peut,

0:02:01.746,0:02:04.472
mais elle pourrait ne pas faire[br]ce que nous voulons.

0:02:04.496,0:02:06.911
Disons que vous essayiez[br]de faire qu'une IA

0:02:06.935,0:02:09.554
prenne cet ensemble de pièces d'un robot

0:02:09.578,0:02:13.775
et les assemblent en une sorte de robot[br]pour aller du point A au point B.

0:02:13.799,0:02:16.280
Si vous essayiez de résoudre ce problème

0:02:16.304,0:02:18.739
en écrivant un programme[br]informatique traditionnel,

0:02:18.739,0:02:22.096
vous lui donneriez[br]des instructions par étapes

0:02:22.096,0:02:23.583
sur comment prendre ces pièces,

0:02:23.583,0:02:25.880
les assembler en un robot ayant des jambes

0:02:25.904,0:02:29.086
puis comment utiliser ces jambes[br]pour marcher jusqu'au point B.

0:02:29.441,0:02:31.781
Si vous utilisez une IA[br]pour résoudre le problème,

0:02:31.805,0:02:32.979
cela est différent.

0:02:33.003,0:02:35.385
Vous ne lui dites pas[br]comment résoudre le problème,

0:02:35.409,0:02:36.942
vous lui donnez juste l'objectif

0:02:36.942,0:02:41.884
et elle doit trouver par tâtonnements[br]comment atteindre cet objectif.

0:02:42.254,0:02:46.356
Il s'avère que l'IA a tendance[br]à résoudre ce problème en particulier

0:02:46.380,0:02:47.864
en faisant ceci :

0:02:47.888,0:02:51.255
elle s'assemble pour former une tour[br]puis se laisse tomber

0:02:51.279,0:02:53.106
et atterrit au point B.

0:02:53.130,0:02:55.903
Techniquement, cela résout le problème.

0:02:55.903,0:02:57.926
Techniquement,[br]elle est arrivée au point B.

0:02:57.926,0:03:01.911
Le danger lié à l'IA n'est pas[br]qu'elle va se rebeller contre nous,

0:03:01.935,0:03:06.209
c'est qu'elle va faire exactement[br]ce que nous lui demandons.

0:03:06.876,0:03:09.374
L'astuce pour travailler[br]avec une IA devient :

0:03:09.398,0:03:13.226
comment poser le problème[br]pour qu'elle fasse ce que l'on veut ?

0:03:14.726,0:03:18.032
Ce petit robot est contrôlé par une IA.

0:03:18.056,0:03:20.870
L'IA a conçu un design[br]pour les jambes du robot

0:03:20.894,0:03:24.972
puis elle a déterminé comment les utiliser[br]pour passer tous ces obstacles.

0:03:24.996,0:03:27.737
Mais quand David Ha[br]a présenté cette expérience,

0:03:27.761,0:03:30.617
il a dû établir des limites[br]très, très strictes

0:03:30.641,0:03:33.933
sur la taille autorisée[br]des jambes que l'IA pouvait créer,

0:03:33.957,0:03:35.507
car sinon...

0:03:43.058,0:03:46.989
(Rires)

0:03:48.563,0:03:52.308
Techniquement, elle est arrivée[br]à la fin de cette course d'obstacles.

0:03:52.332,0:03:54.358
Vous voyez à quel point il est difficile

0:03:54.358,0:03:57.298
de faire faire une chose[br]aussi simple que marcher à une IA.

0:03:57.298,0:04:01.118
En voyant l'IA faire ceci, vous pourriez[br]dire que cela ne fonctionne pas,

0:04:01.142,0:04:03.766
qu'elle ne peut pas juste[br]être une haute tour et tomber,

0:04:03.766,0:04:07.181
qu'elle doit utiliser[br]des jambes pour marcher.

0:04:07.205,0:04:09.964
Il s'avère que cela non plus[br]ne fonctionne pas toujours.

0:04:09.988,0:04:12.747
L'objectif de l'IA[br]était de se déplacer rapidement.

0:04:13.115,0:04:16.708
On ne lui a pas dit qu'elle devait[br]courir vers l'avant

0:04:16.732,0:04:18.990
ou qu'elle ne pouvait pas[br]utiliser ses bras.

0:04:19.487,0:04:24.105
Voilà ce qui arrive quand vous entraînez[br]une IA à se déplacer rapidement,

0:04:24.129,0:04:27.663
vous obtenez des sauts périlleux[br]et des démarches ridicules.

0:04:27.687,0:04:29.087
C'est très courant.

0:04:29.667,0:04:32.846
Tout comme tressauter[br]sous forme d'amas informe.

0:04:32.870,0:04:34.020
(Rires)

0:04:35.241,0:04:38.495
A mon avis, ce qui aurait dû être[br]bien plus étrange,

0:04:38.495,0:04:40.256
ce sont les robots de « Terminator ».

0:04:40.256,0:04:44.065
Pirater la « Matrice » est une autre chose[br]que l'IA fera si elle en a l'occasion.

0:04:44.065,0:04:46.552
Si vous entraînez votre IA[br]dans une simulation,

0:04:46.576,0:04:48.163
elle apprendra à faire des choses

0:04:48.163,0:04:50.713
comme exploiter les erreurs[br]de maths de la simulation

0:04:50.713,0:04:52.920
pour en tirer de l'énergie.

0:04:52.944,0:04:55.693
Ou elle trouvera[br]comment se déplacer plus vite

0:04:55.693,0:04:58.443
en exploitant à répétition[br]un bug pour avancer sur le sol.

0:04:58.443,0:05:00.028
Travailler avec une IA,

0:05:00.052,0:05:02.441
c'est moins comme travailler[br]avec un autre humain

0:05:02.465,0:05:06.094
et plutôt comme travailler[br]avec une étrange force de la nature.

0:05:06.562,0:05:09.109
Il est très facile de donner[br]accidentellement à l'IA

0:05:09.109,0:05:11.209
le mauvais problème à résoudre

0:05:11.209,0:05:13.322
et nous ne nous en rendons[br]souvent pas compte

0:05:13.322,0:05:16.242
avant que quelque chose[br]n'ait très mal tourné.

0:05:16.242,0:05:18.322
Voici une expérience que j'ai réalisée

0:05:18.346,0:05:21.528
où je voulais que l'IA[br]copie des couleurs de peinture

0:05:21.552,0:05:23.298
pour en inventer de nouvelles

0:05:23.322,0:05:26.309
en ayant la liste de celles[br]qui sont sur la gauche.

0:05:26.798,0:05:29.802
Et voici ce que l'IA a inventé.

0:05:29.826,0:05:32.969
[Caca de Sindis, Merdouille,[br]Souffrance, Pubis gris]

0:05:32.993,0:05:37.223
(Rires)

0:05:39.177,0:05:41.063
Techniquement,

0:05:41.087,0:05:43.065
elle a fait ce que je lui avais demandé.

0:05:43.065,0:05:46.283
Je pensais lui demander[br]des noms de couleur sympa,

0:05:46.307,0:05:48.614
mais ce que je lui demandais de faire,

0:05:48.638,0:05:51.724
c'était d'imaginer le genre[br]de combinaisons de lettres

0:05:51.748,0:05:53.787
qu'elle avait vues dans la liste initiale.

0:05:53.787,0:05:56.775
Je ne lui ai rien dit sur le sens des mots

0:05:56.799,0:05:59.359
ni sur le fait qu'il y a[br]peut-être des mots

0:05:59.383,0:06:02.482
qu'elle devrait éviter d'utiliser[br]dans ces couleurs de peinture.

0:06:03.141,0:06:06.635
Son monde se limite[br]aux données que je lui ai données.

0:06:06.659,0:06:10.687
Comme pour les parfums de glace,[br]elle ne sait rien d'autre.

0:06:12.491,0:06:14.129
C'est à travers les données

0:06:14.153,0:06:18.197
que nous disons souvent accidentellement[br]à l'IA de faire la mauvaise chose.

0:06:18.694,0:06:21.726
Ceci est un poisson appelé une tanche.

0:06:21.750,0:06:23.565
Un groupe de chercheurs

0:06:23.589,0:06:27.463
a entraîné l'IA à identifier[br]cette tanche sur les photos.

0:06:27.487,0:06:28.917
Mais quand ils lui ont demandé

0:06:28.917,0:06:32.233
quelle partie de la photo[br]elle utilisait pour identifier le poisson,

0:06:32.257,0:06:34.075
voici ce qui a été sélectionné.

0:06:35.203,0:06:37.392
Oui, ce sont des doigts humains.

0:06:37.416,0:06:39.475
Pourquoi chercherait-elle[br]des doigts humains

0:06:39.499,0:06:41.420
si elle essaye d'identifier un poisson ?

0:06:42.126,0:06:45.290
Il s'avère que la tanche[br]est un poisson trophée

0:06:45.314,0:06:49.125
et donc sur de nombreuses photos[br]que l'IA avait vues de ce poisson

0:06:49.149,0:06:50.300
durant son entraînement,

0:06:50.324,0:06:51.814
le poisson ressemblait à ceci.

0:06:51.838,0:06:53.473
(Rires)

0:06:53.497,0:06:57.087
Et elle ne savait pas que les doigts[br]ne faisaient pas partie du poisson.

0:06:58.808,0:07:02.928
Vous voyez pourquoi il est si dur[br]de concevoir une IA

0:07:02.952,0:07:06.271
qui comprend vraiment[br]ce qu'elle considère.

0:07:06.295,0:07:09.157
C'est pourquoi concevoir[br]la reconnaissance d'images

0:07:09.181,0:07:11.248
dans les voitures autonomes[br]est si difficile

0:07:11.272,0:07:13.541
et pourquoi tant[br]de défaillances de ces voitures

0:07:13.541,0:07:16.386
sont dues au fait[br]que l'IA ait confondu des choses.

0:07:16.410,0:07:20.418
Je veux parler d'un exemple de 2016.

0:07:20.442,0:07:22.061
Il y a eu un accident mortel

0:07:22.061,0:07:24.921
où quelqu'un utilisait l'IA[br]de pilote automatique de Tesla,

0:07:24.921,0:07:26.919
mais au lieu de l'utiliser[br]sur l'autoroute,

0:07:26.919,0:07:28.399
ce pour quoi elle était conçue,

0:07:28.399,0:07:30.564
il l'a utilisé dans les rues de la ville.

0:07:31.239,0:07:32.414
Ce qu'il s'est passé,

0:07:32.438,0:07:34.597
c'est qu'un camion est passé[br]devant la voiture

0:07:34.597,0:07:36.507
et la voiture n'a pas freiné.

0:07:36.507,0:07:41.269
L'IA avait été entraînée à reconnaître[br]les camions sur des photos.

0:07:41.293,0:07:43.438
Mais il semble que ce qu'il s'est passé,

0:07:43.462,0:07:46.393
c'est qu'elle reconnaissait[br]les camions sur l'autoroute,

0:07:46.417,0:07:49.316
où vous vous attendez[br]à les voir de derrière.

0:07:49.340,0:07:52.760
Les camions ne sont pas censés[br]être vus de côté sur l'autoroute

0:07:52.784,0:07:56.239
et donc quand l'IA a vu ce camion,

0:07:56.263,0:08:01.090
il semblerait que l'IA l'ait reconnu[br]comme étant un panneau de signalisation,

0:08:01.114,0:08:03.387
il était donc sans danger[br]de passer en dessous.

0:08:04.114,0:08:06.694
Voici une bévue de l'IA[br]dans un autre domaine.

0:08:06.718,0:08:10.178
Amazon a récemment dû abandonner[br]un algorithme de tri de CV

0:08:10.202,0:08:11.546
sur lequel ils travaillaient

0:08:11.546,0:08:12.648
quand ils ont découvert

0:08:12.648,0:08:15.548
que l'algorithme avait appris[br]à discriminer contre les femmes.

0:08:15.548,0:08:18.094
Ils l'avaient entraîné[br]avec des exemples de CV

0:08:18.118,0:08:20.360
de gens qu'ils avaient[br]embauchés dans le passé.

0:08:20.384,0:08:24.407
D'après ces exemples, l'IA a appris[br]à éviter les CV les gens

0:08:24.431,0:08:26.457
ayant été dans des universités de femmes

0:08:26.481,0:08:29.287
ou ayant le mot « femmes »[br]quelque part sur leur CV

0:08:29.311,0:08:31.481
comme dans « équipe de sport de femmes »

0:08:31.481,0:08:33.911
ou « Société des femmes ingénieures ».

0:08:33.911,0:08:36.089
L'IA ne savait pas[br]qu'elle n'était pas censée

0:08:36.089,0:08:37.909
copier cette chose en particulier

0:08:37.909,0:08:39.887
qu'elle avait vu les humains faire.

0:08:39.911,0:08:43.088
Techniquement, elle a fait[br]ce qu'ils lui ont demandé.

0:08:43.112,0:08:46.479
Ils lui ont juste accidentellement demandé[br]de faire la mauvaise chose.

0:08:46.653,0:08:49.548
Cela arrive constamment avec l'IA.

0:08:50.120,0:08:53.711
L'IA peut être destructrice[br]et ne pas le savoir.

0:08:53.735,0:08:56.505
Les IA qui recommandent[br]de nouveaux contenus

0:08:56.505,0:08:58.837
sur Facebook, sur YouTube,

0:08:58.837,0:09:02.376
elles sont optimisées pour augmenter[br]le nombre de clics et de vues.

0:09:02.400,0:09:05.836
Malheureusement, une des façons[br]trouvées pour faire cela

0:09:05.860,0:09:08.972
est de recommander du contenu[br]de théories conspirationnistes

0:09:08.972,0:09:10.902
ou relevant du fanatisme religieux.

0:09:10.902,0:09:16.204
Les IA n'ont aucune idée[br]de ce qu'est ce contenu

0:09:16.228,0:09:19.623
et elles n'ont aucune idée[br]des conséquences possibles

0:09:19.647,0:09:21.756
de la recommandation de ce contenu.

0:09:22.296,0:09:24.307
Quand nous travaillons avec une IA,

0:09:24.331,0:09:28.513
c'est à nous d'éviter les problèmes.

0:09:28.537,0:09:30.860
Éviter que les choses tournent mal,

0:09:30.884,0:09:35.410
cela pourrait se résumer au sempiternel[br]problème de communication

0:09:35.434,0:09:37.663
où, en tant qu'humains,[br]nous devons apprendre

0:09:37.663,0:09:39.203
à communiquer avec l'IA.

0:09:39.203,0:09:43.242
Nous devons apprendre ce dont l'IA[br]est capable et ce dont elle est incapable,

0:09:43.266,0:09:46.352
et comprendre qu'avec[br]son petit cerveau de ver,

0:09:46.376,0:09:50.389
l'IA ne comprend pas vraiment[br]ce que nous lui demandons de faire.

0:09:51.148,0:09:54.469
En d'autres mots, nous devons[br]être prêts à travailler avec une IA

0:09:54.493,0:09:59.751
qui n'est pas l'IA super compétente,[br]omnisciente de la science-fiction.

0:09:59.775,0:10:02.637
Nous devons être prêts[br]à travailler avec une IA

0:10:02.661,0:10:05.599
qui est celle que nous avons actuellement.

0:10:05.623,0:10:09.828
Et l'IA actuellement est très étrange.

0:10:09.852,0:10:11.042
Merci.

0:10:11.066,0:10:16.291
(Applaudissements)