[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.57,0:00:04.78,Default,,0000,0000,0000,,Je travaille avec des mathématiciens,\Nphilosophes et informaticiens,
Dialogue: 0,0:00:04.78,0:00:09.99,Default,,0000,0000,0000,,et nous nous réunissons pour imaginer\Nle futur de l'intelligence artificielle,
Dialogue: 0,0:00:09.99,0:00:12.03,Default,,0000,0000,0000,,entre autres choses.
Dialogue: 0,0:00:12.03,0:00:16.76,Default,,0000,0000,0000,,Certains pensent que\Nc'est un peu de la science-fiction,
Dialogue: 0,0:00:16.76,0:00:19.86,Default,,0000,0000,0000,,complètement éloigné du réel.
Dialogue: 0,0:00:19.86,0:00:21.33,Default,,0000,0000,0000,,Mais j'aime dire,
Dialogue: 0,0:00:21.33,0:00:24.93,Default,,0000,0000,0000,,d'accord, jetons un coup d'oeil\Nà la condition humaine moderne.
Dialogue: 0,0:00:24.93,0:00:26.62,Default,,0000,0000,0000,,(Rires)
Dialogue: 0,0:00:26.62,0:00:29.02,Default,,0000,0000,0000,,C'est la façon normale d'être des choses.
Dialogue: 0,0:00:29.02,0:00:31.31,Default,,0000,0000,0000,,Mais si on y pense,
Dialogue: 0,0:00:31.31,0:00:34.83,Default,,0000,0000,0000,,nous ne sommes en fait que des invités\Nrécemment arrivés sur cette planète,
Dialogue: 0,0:00:34.83,0:00:36.68,Default,,0000,0000,0000,,l'espèce humaine.
Dialogue: 0,0:00:36.68,0:00:41.43,Default,,0000,0000,0000,,Imaginez si la Terre \Navait été créée il y a un an,
Dialogue: 0,0:00:41.43,0:00:44.98,Default,,0000,0000,0000,,l'espèce humaine existerait alors\Ndepuis dix minutes.
Dialogue: 0,0:00:44.98,0:00:48.15,Default,,0000,0000,0000,,L'ère industrielle a débuté\Nil y a deux secondes.
Dialogue: 0,0:00:49.28,0:00:51.50,Default,,0000,0000,0000,,Une autre façon de voir est de calculer
Dialogue: 0,0:00:51.50,0:00:54.50,Default,,0000,0000,0000,,le PIB mondial\Ndes 10 000 dernières années.
Dialogue: 0,0:00:54.50,0:00:57.53,Default,,0000,0000,0000,,J'ai vraiment pris le temps\Nde faire un graphe pour vous.
Dialogue: 0,0:00:57.53,0:00:59.30,Default,,0000,0000,0000,,Il ressemble à ça.
Dialogue: 0,0:00:59.30,0:01:00.56,Default,,0000,0000,0000,,(Rires)
Dialogue: 0,0:01:00.56,0:01:02.70,Default,,0000,0000,0000,,Drôle de courbe\Npour une condition normale.
Dialogue: 0,0:01:02.70,0:01:04.52,Default,,0000,0000,0000,,Je ne voudrais pas lui tourner le dos.
Dialogue: 0,0:01:04.52,0:01:07.07,Default,,0000,0000,0000,,(Rires)
Dialogue: 0,0:01:07.07,0:01:11.84,Default,,0000,0000,0000,,Demandons-nous, quelle est la cause\Nde cette anomalie ?
Dialogue: 0,0:01:11.85,0:01:14.39,Default,,0000,0000,0000,,Certains diront que c'est la technologie.
Dialogue: 0,0:01:14.39,0:01:19.06,Default,,0000,0000,0000,,C'est vrai, la technologie s'est accumulée\Nau cours de l'histoire humaine,
Dialogue: 0,0:01:19.06,0:01:23.71,Default,,0000,0000,0000,,et aujourd'hui, la technologie\Nprogresse très rapidement --
Dialogue: 0,0:01:23.71,0:01:25.28,Default,,0000,0000,0000,,c'est la cause la plus proche,
Dialogue: 0,0:01:25.28,0:01:27.84,Default,,0000,0000,0000,,c'est pourquoi nous sommes\Nsi productifs de nos jours.
Dialogue: 0,0:01:28.47,0:01:32.13,Default,,0000,0000,0000,,Mais je préfère réfléchir en remontant \Nà la cause fondamentale.
Dialogue: 0,0:01:33.11,0:01:36.88,Default,,0000,0000,0000,,Regardez ces deux messieurs\Ntrès distingués :
Dialogue: 0,0:01:36.88,0:01:38.48,Default,,0000,0000,0000,,Nous avons Kanzi --
Dialogue: 0,0:01:38.48,0:01:43.12,Default,,0000,0000,0000,,il maîtrise 200 symboles lexicaux,\Nun exploit incroyable.
Dialogue: 0,0:01:43.12,0:01:46.56,Default,,0000,0000,0000,,Et Ed Witten a déclenché\Nla seconde révolution des supercordes.
Dialogue: 0,0:01:46.56,0:01:49.41,Default,,0000,0000,0000,,Si nous regardons sous la capuche,\Nvoici ce que l'on trouve :
Dialogue: 0,0:01:49.41,0:01:50.71,Default,,0000,0000,0000,,en gros, la même chose.
Dialogue: 0,0:01:50.71,0:01:52.52,Default,,0000,0000,0000,,L'un est un peu plus grand,
Dialogue: 0,0:01:52.52,0:01:55.28,Default,,0000,0000,0000,,il y a peut-être aussi quelques\Nsubtilités de câblage.
Dialogue: 0,0:01:55.28,0:01:59.09,Default,,0000,0000,0000,,Ces différences invisibles ne peuvent\Nêtre trop compliquées quoi qu'il en soit,
Dialogue: 0,0:01:59.09,0:02:03.38,Default,,0000,0000,0000,,car il n'y a eu que\N250 000 générations
Dialogue: 0,0:02:03.38,0:02:05.12,Default,,0000,0000,0000,,depuis notre dernier ancêtre commun.
Dialogue: 0,0:02:05.12,0:02:09.03,Default,,0000,0000,0000,,Nous savons que les mécanismes compliqués\Ndemandent beaucoup de temps pour évoluer.
Dialogue: 0,0:02:10.00,0:02:12.50,Default,,0000,0000,0000,,Donc des changements relativement mineurs
Dialogue: 0,0:02:12.50,0:02:15.57,Default,,0000,0000,0000,,nous emmènent de Kanzi à Witten,
Dialogue: 0,0:02:15.57,0:02:20.11,Default,,0000,0000,0000,,de branches arrachées aux arbres aux\Nmissiles balistiques intercontinentaux.
Dialogue: 0,0:02:20.84,0:02:24.77,Default,,0000,0000,0000,,Il semble alors assez évident\Nque tout ce que nous avons réalisé,
Dialogue: 0,0:02:24.77,0:02:26.15,Default,,0000,0000,0000,,et ce que nous chérissons,
Dialogue: 0,0:02:26.15,0:02:29.65,Default,,0000,0000,0000,,dépend principalement de quelques\Nchangements mineurs
Dialogue: 0,0:02:29.65,0:02:32.65,Default,,0000,0000,0000,,qui ont aboutit à l'esprit humain.
Dialogue: 0,0:02:32.65,0:02:36.31,Default,,0000,0000,0000,,Le corollaire, bien sûr,\Nest que tout changement à venir
Dialogue: 0,0:02:36.31,0:02:39.79,Default,,0000,0000,0000,,qui pourrait changer significativement\Nle substrat de la pensée
Dialogue: 0,0:02:39.79,0:02:42.99,Default,,0000,0000,0000,,pourrait avoir potentiellement\Nd'énormes conséquences.
Dialogue: 0,0:02:44.18,0:02:47.23,Default,,0000,0000,0000,,Certains de mes collègues\Npensent que nous sommes sur le point
Dialogue: 0,0:02:47.23,0:02:51.13,Default,,0000,0000,0000,,de développer quelque chose qui pourrait\Ncauser un tel changement dans ce substrat,
Dialogue: 0,0:02:51.13,0:02:54.35,Default,,0000,0000,0000,,et c'est la super\Nintelligence artificielle.
Dialogue: 0,0:02:54.35,0:02:59.09,Default,,0000,0000,0000,,Avant, l'intelligence artificielle consistait\Nà mettre des commandes dans une boîte.
Dialogue: 0,0:02:59.09,0:03:00.75,Default,,0000,0000,0000,,Il y avait des programmeurs humains
Dialogue: 0,0:03:00.75,0:03:03.89,Default,,0000,0000,0000,,qui fabriquaient minutieusement\Ndes objets savants.
Dialogue: 0,0:03:03.89,0:03:05.97,Default,,0000,0000,0000,,On construisait ces systèmes experts,
Dialogue: 0,0:03:05.97,0:03:08.15,Default,,0000,0000,0000,,et ils étaient utiles\Npour certains buts,
Dialogue: 0,0:03:08.15,0:03:11.10,Default,,0000,0000,0000,,mais ils étaient très fragiles,\Non ne pouvait pas les agrandir.
Dialogue: 0,0:03:11.10,0:03:14.41,Default,,0000,0000,0000,,En gros, vous n'aviez que\Nce que vous aviez mis dedans.
Dialogue: 0,0:03:14.41,0:03:15.41,Default,,0000,0000,0000,,Mais depuis,
Dialogue: 0,0:03:15.41,0:03:18.87,Default,,0000,0000,0000,,une révolution conceptuelle s'est opérée\Ndans le domaine de l'I.A..
Dialogue: 0,0:03:18.87,0:03:21.74,Default,,0000,0000,0000,,Aujourd'hui, l'action est centré sur\Nl'apprentissage machine.
Dialogue: 0,0:03:22.39,0:03:27.78,Default,,0000,0000,0000,,Plutôt que de coder à la main des\Nprogrammes et leurs caractéristiques,
Dialogue: 0,0:03:28.51,0:03:31.06,Default,,0000,0000,0000,,on crée des algorithmes qui apprennent,
Dialogue: 0,0:03:31.06,0:03:34.06,Default,,0000,0000,0000,,souvent à partir \Ndes données brutes perçues.
Dialogue: 0,0:03:34.06,0:03:39.06,Default,,0000,0000,0000,,En gros, la même chose que fait un enfant.
Dialogue: 0,0:03:39.06,0:03:43.27,Default,,0000,0000,0000,,Le résultat est une I.A.\Nqui n'est pas limitée à un domaine --
Dialogue: 0,0:03:43.27,0:03:47.90,Default,,0000,0000,0000,,le même système peut apprendre à traduire\Nn'importe quel couple de langues,
Dialogue: 0,0:03:47.90,0:03:53.34,Default,,0000,0000,0000,,ou apprendre à jouer n'importe quel jeu\Nsur la console Atari.
Dialogue: 0,0:03:53.34,0:03:55.12,Default,,0000,0000,0000,,Bien sûr,
Dialogue: 0,0:03:55.12,0:03:59.12,Default,,0000,0000,0000,,l'I.A. est toujours loin d'avoir\Nla capacité puissante et transversale
Dialogue: 0,0:03:59.12,0:04:02.34,Default,,0000,0000,0000,,à apprendre et planifier\Nd'un être humain.
Dialogue: 0,0:04:02.34,0:04:04.46,Default,,0000,0000,0000,,Le cortex a encore des\Nsecrets algorithmiques
Dialogue: 0,0:04:04.46,0:04:06.82,Default,,0000,0000,0000,,que nous ne savons pas\Nintégrer dans les machines.
Dialogue: 0,0:04:07.89,0:04:09.78,Default,,0000,0000,0000,,Donc la question est,
Dialogue: 0,0:04:09.78,0:04:13.28,Default,,0000,0000,0000,,combien de temps nous faudra-t-il\Npour réussir à les intégrer ?
Dialogue: 0,0:04:14.12,0:04:15.22,Default,,0000,0000,0000,,Il y a quelques années,
Dialogue: 0,0:04:15.22,0:04:18.22,Default,,0000,0000,0000,,nous avons fait un sondage\Nauprès des experts mondiaux des I.A.,
Dialogue: 0,0:04:18.22,0:04:21.44,Default,,0000,0000,0000,,pour voir ce qu'ils pensaient,\Net une des questions posées était,
Dialogue: 0,0:04:21.44,0:04:24.79,Default,,0000,0000,0000,,« En quelle année pensez-vous \Nqu'il y aura 50% de chance
Dialogue: 0,0:04:24.79,0:04:28.28,Default,,0000,0000,0000,,qu'une I.A. atteigne le niveau\Nd'une intelligence humaine ? »
Dialogue: 0,0:04:28.78,0:04:32.97,Default,,0000,0000,0000,,Nous définissons ici le seuil à atteindre\Npar la capacité de l'I.A. à réaliser
Dialogue: 0,0:04:32.97,0:04:35.84,Default,,0000,0000,0000,,presque toutes les tâches\Nau moins aussi bien qu'un adulte,
Dialogue: 0,0:04:35.84,0:04:39.84,Default,,0000,0000,0000,,donc réellement comme un humain,\Npas seulement dans un domaine limité.
Dialogue: 0,0:04:39.84,0:04:43.49,Default,,0000,0000,0000,,La réponse médiane était 2040 ou 2050,
Dialogue: 0,0:04:43.49,0:04:46.30,Default,,0000,0000,0000,,en fonction du groupe d'experts\Nque nous interrogions.
Dialogue: 0,0:04:46.30,0:04:50.34,Default,,0000,0000,0000,,Ça pourrait se produire\Nbien plus tard ou bien plus tôt,
Dialogue: 0,0:04:50.34,0:04:52.28,Default,,0000,0000,0000,,la vérité est que personne ne le sait.
Dialogue: 0,0:04:53.26,0:04:57.67,Default,,0000,0000,0000,,Ce que nous savons est que la limite\Nde traitement de l'information
Dialogue: 0,0:04:57.67,0:05:02.54,Default,,0000,0000,0000,,dans une machine est bien supérieure\Nà celle d'un tissu biologique.
Dialogue: 0,0:05:03.24,0:05:05.62,Default,,0000,0000,0000,,Ça s'explique par la physique.
Dialogue: 0,0:05:05.62,0:05:10.34,Default,,0000,0000,0000,,Un neurone biologique "décharge" \Nenviron à 200 hertz, 200 fois par seconde.
Dialogue: 0,0:05:10.34,0:05:13.93,Default,,0000,0000,0000,,Mais, même un transistor actuel\Nfonctionne au gigahertz.
Dialogue: 0,0:05:13.93,0:05:19.23,Default,,0000,0000,0000,,L'information se propage dans les neurones\Nle long d'axones à 100 m/s maximum.
Dialogue: 0,0:05:19.23,0:05:22.84,Default,,0000,0000,0000,,Mais dans les ordinateurs, le signal\Npeut voyager à la vitesse de la lumière.
Dialogue: 0,0:05:23.08,0:05:24.95,Default,,0000,0000,0000,,Il y a aussi des limitations de taille,
Dialogue: 0,0:05:24.95,0:05:27.98,Default,,0000,0000,0000,,car le cerveau humain\Ndoit rentrer dans la boîte crânienne,
Dialogue: 0,0:05:27.98,0:05:32.74,Default,,0000,0000,0000,,mais un ordinateur peut être \Nde la taille d'un entrepôt ou plus grand.
Dialogue: 0,0:05:32.74,0:05:38.34,Default,,0000,0000,0000,,Donc le potentiel de super intelligence\Nest en sommeil dans la matière,
Dialogue: 0,0:05:38.34,0:05:44.05,Default,,0000,0000,0000,,tout comme la puissance de l'atome\Nest restée en sommeil
Dialogue: 0,0:05:44.05,0:05:48.45,Default,,0000,0000,0000,,tout au long de l'histoire humaine,\Nattendant patiemment jusqu'en 1945.
Dialogue: 0,0:05:48.45,0:05:51.62,Default,,0000,0000,0000,,Au cours de ce siècle, il se peut \Nque les scientifiques apprennent
Dialogue: 0,0:05:51.62,0:05:53.82,Default,,0000,0000,0000,,à réveiller la puissance de l'I.A..
Dialogue: 0,0:05:53.83,0:05:57.83,Default,,0000,0000,0000,,Je pense que nous pourrions alors\Nassister à une explosion d'intelligence.
Dialogue: 0,0:05:58.41,0:06:02.36,Default,,0000,0000,0000,,La plupart des gens, quand ils pensent\Nà ce qui est bête ou intelligent
Dialogue: 0,0:06:02.36,0:06:05.39,Default,,0000,0000,0000,,ont une image de ce genre en tête.
Dialogue: 0,0:06:05.39,0:06:07.98,Default,,0000,0000,0000,,À une extrémité on a l'idiot du village,
Dialogue: 0,0:06:07.98,0:06:10.47,Default,,0000,0000,0000,,et à l'autre bout
Dialogue: 0,0:06:10.47,0:06:15.22,Default,,0000,0000,0000,,on a Ed Witten, ou Albert Einstein,\Nou votre gourou, qui qu'il soit.
Dialogue: 0,0:06:15.22,0:06:19.06,Default,,0000,0000,0000,,Mais je pense que du point de vue\Nde l'intelligence artificielle,
Dialogue: 0,0:06:19.06,0:06:22.74,Default,,0000,0000,0000,,la véritable image est plus probablement\Ncomme ceci, en réalité :
Dialogue: 0,0:06:23.26,0:06:26.64,Default,,0000,0000,0000,,l'I.A. commence à cet endroit,\Nà zéro intelligence,
Dialogue: 0,0:06:26.64,0:06:29.65,Default,,0000,0000,0000,,et ensuite, après de nombreuses\Nannées de dur labeur,
Dialogue: 0,0:06:29.65,0:06:33.19,Default,,0000,0000,0000,,peut-être, arrivons-nous au niveau\Nde l'intelligence d'une souris,
Dialogue: 0,0:06:33.19,0:06:36.24,Default,,0000,0000,0000,,quelque chose qui peut naviguer\Ndans des environnements encombrés
Dialogue: 0,0:06:36.24,0:06:37.91,Default,,0000,0000,0000,,aussi bien qu'une souris.
Dialogue: 0,0:06:37.91,0:06:42.22,Default,,0000,0000,0000,,Ensuite, après encore plus d'années de\Ndur labeur et beaucoup d'investissements,
Dialogue: 0,0:06:42.22,0:06:46.80,Default,,0000,0000,0000,,peut-être, finalement, arrivons-nous\Nau niveau d'intelligence d'un chimpanzé.
Dialogue: 0,0:06:46.80,0:06:50.07,Default,,0000,0000,0000,,Ensuite, après toujours plus d'années\Nde vraiment très dur labeur,
Dialogue: 0,0:06:50.07,0:06:52.98,Default,,0000,0000,0000,,nous arrivons au niveau d'intelligence\Nde l'idiot du village.
Dialogue: 0,0:06:52.98,0:06:56.26,Default,,0000,0000,0000,,Et quelques mois plus tard,\Nnous sommes après Ed Witten.
Dialogue: 0,0:06:56.26,0:06:59.22,Default,,0000,0000,0000,,Le train ne s'arrête pas\Nà la station Humainville.
Dialogue: 0,0:06:59.22,0:07:02.25,Default,,0000,0000,0000,,Il va plutôt passer à fond devant.
Dialogue: 0,0:07:02.25,0:07:04.23,Default,,0000,0000,0000,,Il y a là de profondes implications,
Dialogue: 0,0:07:04.23,0:07:08.02,Default,,0000,0000,0000,,en particulier quand il est question\Nde pouvoir.
Dialogue: 0,0:07:08.02,0:07:09.99,Default,,0000,0000,0000,,Par exemple, les chimpanzés sont forts --
Dialogue: 0,0:07:09.99,0:07:15.21,Default,,0000,0000,0000,,à poids équivalent, un chimpanzé est\Ndeux fois plus fort qu'un homme adulte.
Dialogue: 0,0:07:15.21,0:07:19.83,Default,,0000,0000,0000,,Pourtant, le destin de Kanzi\Net de ses congénères dépend beaucoup plus
Dialogue: 0,0:07:19.83,0:07:23.97,Default,,0000,0000,0000,,de ce que font les humains que de ce que\Nles chimpanzés font eux-mêmes.
Dialogue: 0,0:07:25.23,0:07:27.54,Default,,0000,0000,0000,,Une fois que la super intelligence\Nsera là,
Dialogue: 0,0:07:27.54,0:07:31.43,Default,,0000,0000,0000,,le destin de l'humanité pourrait dépendre\Ndes actions de cette super intelligence.
Dialogue: 0,0:07:32.45,0:07:33.51,Default,,0000,0000,0000,,Pensez-y :
Dialogue: 0,0:07:33.51,0:07:38.28,Default,,0000,0000,0000,,l'I.A. est la dernière invention que\Nl'homme aura jamais besoin de faire.
Dialogue: 0,0:07:38.28,0:07:41.54,Default,,0000,0000,0000,,Les machines seront alors de meilleurs\Ninventeurs que nous le sommes,
Dialogue: 0,0:07:41.54,0:07:44.30,Default,,0000,0000,0000,,et elles inventeront sur des échelles\Nde temps numériques.
Dialogue: 0,0:07:44.30,0:07:48.97,Default,,0000,0000,0000,,Ça veut dire un télescopage avec le futur.
Dialogue: 0,0:07:48.97,0:07:52.43,Default,,0000,0000,0000,,Pensez à toutes les technologies \Nincroyables que vous avez imaginées,
Dialogue: 0,0:07:52.43,0:07:55.43,Default,,0000,0000,0000,,que les hommes pourraient\Navoir développées avec le temps :
Dialogue: 0,0:07:55.43,0:07:58.53,Default,,0000,0000,0000,,plus de vieillissement,\Ncolonisation de l'espace,
Dialogue: 0,0:07:58.53,0:07:59.53,Default,,0000,0000,0000,,nano-robots auto-répliquants,
Dialogue: 0,0:07:59.53,0:08:02.39,Default,,0000,0000,0000,,téléchargement d'esprits humains\Ndans des ordinateurs,
Dialogue: 0,0:08:02.39,0:08:04.47,Default,,0000,0000,0000,,plein de technologies de science-fiction
Dialogue: 0,0:08:04.47,0:08:07.25,Default,,0000,0000,0000,,qui sont néanmoins cohérentes\Navec les lois de la physique.
Dialogue: 0,0:08:07.25,0:08:11.42,Default,,0000,0000,0000,,Toute cette super intelligence pourrait\Nse développer assez rapidement.
Dialogue: 0,0:08:12.45,0:08:16.01,Default,,0000,0000,0000,,Bon, une super intelligence avec\Nune telle maturité technologique
Dialogue: 0,0:08:16.01,0:08:18.19,Default,,0000,0000,0000,,serait extrêmement puissante,
Dialogue: 0,0:08:18.19,0:08:22.73,Default,,0000,0000,0000,,et au moins dans certains scénarios,\Nserait capable d'obtenir ce qu'elle veut.
Dialogue: 0,0:08:22.73,0:08:28.39,Default,,0000,0000,0000,,Nous aurions alors un futur modelé\Npar les préférences de cette I.A.
Dialogue: 0,0:08:29.86,0:08:33.60,Default,,0000,0000,0000,,Une bonne question est,\Nquelles sont ces préférences ?
Dialogue: 0,0:08:34.24,0:08:36.01,Default,,0000,0000,0000,,C'est là que ça devient délicat.
Dialogue: 0,0:08:36.01,0:08:37.45,Default,,0000,0000,0000,,Pour progresser là-dessus,
Dialogue: 0,0:08:37.45,0:08:40.72,Default,,0000,0000,0000,,nous devons tout d'abord\Néviter tout anthropomorphisme.
Dialogue: 0,0:08:41.93,0:08:45.24,Default,,0000,0000,0000,,C'est ironique car dans tous\Nles articles de journaux
Dialogue: 0,0:08:45.24,0:08:49.09,Default,,0000,0000,0000,,qui parle de l'avenir de l'I.A.\Ncomportent une image de ceci.
Dialogue: 0,0:08:50.28,0:08:54.41,Default,,0000,0000,0000,,Je pense que nous devons concevoir\Nce problème de manière plus abstraite,
Dialogue: 0,0:08:54.41,0:08:57.20,Default,,0000,0000,0000,,et non en scénario hollywoodien fertile.
Dialogue: 0,0:08:57.20,0:09:00.82,Default,,0000,0000,0000,,Nous devons penser à l'intelligence\Ncomme un processus d'optimisation,
Dialogue: 0,0:09:00.82,0:09:06.47,Default,,0000,0000,0000,,un processus qui guide le futur\Ndans un certain jeu de configurations.
Dialogue: 0,0:09:06.47,0:09:09.98,Default,,0000,0000,0000,,Une super intelligence est un\Nprocessus d'optimisation très fort.
Dialogue: 0,0:09:09.98,0:09:14.10,Default,,0000,0000,0000,,Elle est très douée pour utiliser les\Nmoyens disponibles pour atteindre un état
Dialogue: 0,0:09:14.10,0:09:16.01,Default,,0000,0000,0000,,dans lequel son but est réalisé.
Dialogue: 0,0:09:16.31,0:09:19.12,Default,,0000,0000,0000,,Ça signifie qu'il n'y a pas\Nde nécessaire connexion entre
Dialogue: 0,0:09:19.12,0:09:21.85,Default,,0000,0000,0000,,le fait d'être très intelligent\Ndans ce sens,
Dialogue: 0,0:09:21.85,0:09:26.52,Default,,0000,0000,0000,,et avoir un objectif que nous, humains,\Ntrouverions utile ou significatif.
Dialogue: 0,0:09:27.32,0:09:30.86,Default,,0000,0000,0000,,Supposons qu'on donne comme but\Nà une I.A. de faire sourire les humains.
Dialogue: 0,0:09:30.86,0:09:34.10,Default,,0000,0000,0000,,Quand l'I.A. est faible, elle réalise\Ndes actions utiles ou amusantes
Dialogue: 0,0:09:34.10,0:09:36.61,Default,,0000,0000,0000,,qui provoque le sourire de l'utilisateur.
Dialogue: 0,0:09:36.61,0:09:39.03,Default,,0000,0000,0000,,Quand l'I.A. devient super intelligente,
Dialogue: 0,0:09:39.03,0:09:42.55,Default,,0000,0000,0000,,elle réalise qu'il y a un moyen\Nplus efficace d'atteindre son objectif :
Dialogue: 0,0:09:42.55,0:09:44.48,Default,,0000,0000,0000,,prendre le contrôle du monde
Dialogue: 0,0:09:44.48,0:09:47.64,Default,,0000,0000,0000,,et implanter des électrodes\Ndans les muscles faciaux des humains
Dialogue: 0,0:09:47.64,0:09:50.58,Default,,0000,0000,0000,,pour provoquer des sourires\Nrayonnants et constants.
Dialogue: 0,0:09:50.58,0:09:51.45,Default,,0000,0000,0000,,Un autre exemple,
Dialogue: 0,0:09:51.45,0:09:55.03,Default,,0000,0000,0000,,supposons qu'on demande à une I.A.\Nde résoudre un problème de math très dur.
Dialogue: 0,0:09:55.03,0:09:56.93,Default,,0000,0000,0000,,Quand l'I.A. devient super intelligente,
Dialogue: 0,0:09:56.93,0:10:01.10,Default,,0000,0000,0000,,elle réalise que le moyen le plus efficace\Npour résoudre ce problème
Dialogue: 0,0:10:01.10,0:10:04.04,Default,,0000,0000,0000,,est de transformer la planète\Nen un ordinateur géant,
Dialogue: 0,0:10:04.04,0:10:06.28,Default,,0000,0000,0000,,pour augmenter sa capacité de calcul.
Dialogue: 0,0:10:06.28,0:10:08.94,Default,,0000,0000,0000,,Remarquez que ça donne aux I.A.s\Nune raison pratique
Dialogue: 0,0:10:08.94,0:10:11.56,Default,,0000,0000,0000,,de faire des choses\Nque nous pourrions ne pas approuver.
Dialogue: 0,0:10:11.56,0:10:13.61,Default,,0000,0000,0000,,Les humains sont des menaces\Ndans ce modèle,
Dialogue: 0,0:10:13.61,0:10:16.42,Default,,0000,0000,0000,,car nous pourrions empêcher\Nla résolution du problème.
Dialogue: 0,0:10:17.21,0:10:20.70,Default,,0000,0000,0000,,Bien sûr, les choses perceptibles\Nne tourneront pas mal de ces façons-là ;
Dialogue: 0,0:10:20.70,0:10:22.45,Default,,0000,0000,0000,,ce sont des exemples caricaturés.
Dialogue: 0,0:10:22.45,0:10:24.39,Default,,0000,0000,0000,,Mais l'argument général est important :
Dialogue: 0,0:10:24.39,0:10:27.08,Default,,0000,0000,0000,,si vous créez un processus d'optimisation\Ntrès puissant
Dialogue: 0,0:10:27.08,0:10:29.50,Default,,0000,0000,0000,,pour maximiser les chances\Nd'atteindre l'objectif x,
Dialogue: 0,0:10:29.50,0:10:31.80,Default,,0000,0000,0000,,vous devez vous assurer\Nque votre définition de x
Dialogue: 0,0:10:31.80,0:10:34.24,Default,,0000,0000,0000,,incorpore tout ce à quoi vous tenez.
Dialogue: 0,0:10:34.84,0:10:39.22,Default,,0000,0000,0000,,C'est une leçon qui est enseignée\Ndans de nombreux mythes.
Dialogue: 0,0:10:39.22,0:10:44.52,Default,,0000,0000,0000,,Le roi Midas souhaitait que tout\Nce qu'il touche se transforme en or.
Dialogue: 0,0:10:44.52,0:10:47.38,Default,,0000,0000,0000,,Il touche sa fille,\Nelle se transforme en or.
Dialogue: 0,0:10:47.38,0:10:49.93,Default,,0000,0000,0000,,Il touche sa nourriture,\Nelle se transforme en or.
Dialogue: 0,0:10:49.93,0:10:52.52,Default,,0000,0000,0000,,Ça pourrait devenir\Npertinent en pratique,
Dialogue: 0,0:10:52.52,0:10:54.88,Default,,0000,0000,0000,,ne pas se limiter à une métaphore \Nde la cupidité
Dialogue: 0,0:10:54.88,0:10:56.56,Default,,0000,0000,0000,,mais illustrer ce qui arrive
Dialogue: 0,0:10:56.56,0:10:59.32,Default,,0000,0000,0000,,si vous créez un processus\Nd'optimisation puissant
Dialogue: 0,0:10:59.32,0:11:04.11,Default,,0000,0000,0000,,et lui donnez des objectifs\Nmal conçus ou trop vagues.
Dialogue: 0,0:11:04.11,0:11:09.30,Default,,0000,0000,0000,,Vous pourriez dire que si un ordinateur\Ncommence à nous implanter des électrodes,
Dialogue: 0,0:11:09.30,0:11:11.56,Default,,0000,0000,0000,,nous le débrancherions.
Dialogue: 0,0:11:12.56,0:11:17.90,Default,,0000,0000,0000,,A, ce n'est pas forcément si facile\Nà faire si nous sommes devenus dépendants,
Dialogue: 0,0:11:17.90,0:11:20.63,Default,,0000,0000,0000,,par exemple,\Ncomment arrête-t-on internet ?
Dialogue: 0,0:11:20.63,0:11:25.54,Default,,0000,0000,0000,,B, pourquoi les chimpanzés \Nou les Neandertals
Dialogue: 0,0:11:25.54,0:11:27.30,Default,,0000,0000,0000,,n'ont-ils pas\Nempêché l'humanité ?
Dialogue: 0,0:11:27.30,0:11:29.96,Default,,0000,0000,0000,,Ils avaient de bonnes raisons.
Dialogue: 0,0:11:29.96,0:11:32.76,Default,,0000,0000,0000,,Nous avons un interrupteur,\Npar exemple, juste ici.
Dialogue: 0,0:11:32.76,0:11:34.31,Default,,0000,0000,0000,,(Suffocation)
Dialogue: 0,0:11:34.31,0:11:37.11,Default,,0000,0000,0000,,La raison est que nous sommes\Nun adversaire intelligent ;
Dialogue: 0,0:11:37.11,0:11:40.03,Default,,0000,0000,0000,,nous pouvons anticiper les menaces\Net planifier des solutions.
Dialogue: 0,0:11:40.03,0:11:42.53,Default,,0000,0000,0000,,Mais une super intelligence \Npourrait le faire aussi,
Dialogue: 0,0:11:42.53,0:11:45.72,Default,,0000,0000,0000,,et elle le ferait bien mieux que nous.
Dialogue: 0,0:11:45.72,0:11:52.91,Default,,0000,0000,0000,,L'important est que nous ne devrions pas\Ncroire que nous avons tout sous contrôle.
Dialogue: 0,0:11:52.91,0:11:56.36,Default,,0000,0000,0000,,Nous pourrions tenter \Nde nous faciliter la tâche, disons
Dialogue: 0,0:11:56.36,0:11:57.95,Default,,0000,0000,0000,,en mettant l'I.A. dans une boîte,
Dialogue: 0,0:11:57.95,0:11:59.74,Default,,0000,0000,0000,,comme un environnement logiciel sûr,
Dialogue: 0,0:11:59.74,0:12:02.77,Default,,0000,0000,0000,,une simulation de la réalité\Nd'où elle ne peut s'échapper.
Dialogue: 0,0:12:02.77,0:12:06.91,Default,,0000,0000,0000,,Mais à quel point sommes-nous sûrs\Nqu'elle ne trouvera pas un bug.
Dialogue: 0,0:12:06.91,0:12:10.23,Default,,0000,0000,0000,,Étant donné que de simples hackers humains\Ntrouvent toujours des bugs,
Dialogue: 0,0:12:10.23,0:12:13.12,Default,,0000,0000,0000,,je dirais, probablement pas très sûrs.
Dialogue: 0,0:12:14.24,0:12:18.78,Default,,0000,0000,0000,,Donc on déconnecte le câble Ethernet\Npour créer une séparation physique,
Dialogue: 0,0:12:18.78,0:12:21.45,Default,,0000,0000,0000,,mais encore une fois,\Ncomme de simples hackers humains
Dialogue: 0,0:12:21.45,0:12:24.73,Default,,0000,0000,0000,,transgressent les séparations physiques \Ngrâce à l'ingéniérie sociale.
Dialogue: 0,0:12:24.73,0:12:26.90,Default,,0000,0000,0000,,À l'heure où je vous parle,\Nen ce moment-même,
Dialogue: 0,0:12:26.90,0:12:29.05,Default,,0000,0000,0000,,je suis sûr qu'il y a un employé,\Nquelque part
Dialogue: 0,0:12:29.05,0:12:31.86,Default,,0000,0000,0000,,à qui quelqu'un prétendant être\Ndu département informatique
Dialogue: 0,0:12:31.86,0:12:34.48,Default,,0000,0000,0000,,a demandé de donner\Nson identifiant et son mot de passe.
Dialogue: 0,0:12:34.48,0:12:36.79,Default,,0000,0000,0000,,Des scénarios plus créatifs\Nsont aussi possibles,
Dialogue: 0,0:12:36.79,0:12:38.48,Default,,0000,0000,0000,,par exemple, si vous êtes une I.A.
Dialogue: 0,0:12:38.48,0:12:41.55,Default,,0000,0000,0000,,vous pouvez déplacer des électrodes\Ndans vos circuits internes
Dialogue: 0,0:12:41.55,0:12:45.01,Default,,0000,0000,0000,,pour créer des ondes radio que vous\Nutiliserez pour communiquer.
Dialogue: 0,0:12:45.01,0:12:47.43,Default,,0000,0000,0000,,Ou vous pouvez prétendre\Ndysfonctionner,
Dialogue: 0,0:12:47.43,0:12:50.93,Default,,0000,0000,0000,,et quand les ingénieurs vous ouvrent\Npour voir ce qui ne marche pas,
Dialogue: 0,0:12:50.93,0:12:52.87,Default,,0000,0000,0000,,ils regardent votre code source \N-- Vlan ! --
Dialogue: 0,0:12:52.87,0:12:55.31,Default,,0000,0000,0000,,la manipulation peut commencer.
Dialogue: 0,0:12:55.31,0:12:58.74,Default,,0000,0000,0000,,Ou elle pourrait produire le plan\Nd'une nouvelle technologie géniale,
Dialogue: 0,0:12:58.74,0:13:00.14,Default,,0000,0000,0000,,et quand nous l'implementons,
Dialogue: 0,0:13:00.14,0:13:04.54,Default,,0000,0000,0000,,elle a quelques effets secondaires furtifs\Nplanifiés par l'I.A.
Dialogue: 0,0:13:04.54,0:13:08.00,Default,,0000,0000,0000,,Donc nous ne devrions pas\Nfaire confiance à notre capacité
Dialogue: 0,0:13:08.00,0:13:11.81,Default,,0000,0000,0000,,à garder un génie super intelligent\Nprisonnier dans sa lampe éternellement.
Dialogue: 0,0:13:11.81,0:13:14.06,Default,,0000,0000,0000,,À un moment donné, il va s'échapper.
Dialogue: 0,0:13:15.03,0:13:18.14,Default,,0000,0000,0000,,Je crois que la réponse à ça\Nest de découvrir
Dialogue: 0,0:13:18.14,0:13:23.10,Default,,0000,0000,0000,,comment créer une super intelligence\Ntelle que même si ou quand elle s'échappe,
Dialogue: 0,0:13:23.10,0:13:26.49,Default,,0000,0000,0000,,on est toujours en sécurité car\Nelle est fondamentalement de notre côté
Dialogue: 0,0:13:26.49,0:13:28.34,Default,,0000,0000,0000,,car elle partage nos valeurs.
Dialogue: 0,0:13:28.34,0:13:31.55,Default,,0000,0000,0000,,Je ne vois aucune solution à ce problème.
Dialogue: 0,0:13:32.56,0:13:36.39,Default,,0000,0000,0000,,Mais je suis plutôt optimiste quant le fait\Nque ce problème peut être résolu.
Dialogue: 0,0:13:36.39,0:13:40.29,Default,,0000,0000,0000,,Nous n'aurions pas à écrire une longue\Nliste de tout ce que nous chérissons,
Dialogue: 0,0:13:40.29,0:13:43.94,Default,,0000,0000,0000,,ou, encore pire, devoir le coder\Nen language informatique
Dialogue: 0,0:13:43.94,0:13:45.39,Default,,0000,0000,0000,,comme C++ ou Python,
Dialogue: 0,0:13:45.39,0:13:48.16,Default,,0000,0000,0000,,ce qui serait une tâche sans espoir.
Dialogue: 0,0:13:48.16,0:13:52.46,Default,,0000,0000,0000,,Au lieu de ça, nous créerions une I.A.\Nqui utilise son intelligence
Dialogue: 0,0:13:52.46,0:13:55.23,Default,,0000,0000,0000,,pour apprendre nos valeurs,
Dialogue: 0,0:13:55.23,0:14:00.51,Default,,0000,0000,0000,,et son système de motivation est construit\Nde telle sorte qu'elle est motivée
Dialogue: 0,0:14:00.51,0:14:05.74,Default,,0000,0000,0000,,par la recherche de valeurs ou d'actions\Nqu'elle prédit que nous approuverions.
Dialogue: 0,0:14:05.74,0:14:09.15,Default,,0000,0000,0000,,Nous pourrions ainsi influencer\Nson intelligence autant que possible
Dialogue: 0,0:14:09.15,0:14:11.90,Default,,0000,0000,0000,,à résoudre des problèmes importants.
Dialogue: 0,0:14:12.73,0:14:14.24,Default,,0000,0000,0000,,Ça peut arriver,
Dialogue: 0,0:14:14.24,0:14:17.84,Default,,0000,0000,0000,,et le résultat en serait très positif\Npour l'humanité.
Dialogue: 0,0:14:17.84,0:14:21.79,Default,,0000,0000,0000,,Mais ça n'arrive pas automatiquement.
Dialogue: 0,0:14:21.79,0:14:24.79,Default,,0000,0000,0000,,Les conditions initiales\Nde l'explosion de l'intelligence
Dialogue: 0,0:14:24.79,0:14:27.65,Default,,0000,0000,0000,,devront être programmées\Nde manière précise
Dialogue: 0,0:14:27.65,0:14:31.18,Default,,0000,0000,0000,,si nous voulons obtenir\Nune détonation contrôlée.
Dialogue: 0,0:14:31.18,0:14:33.70,Default,,0000,0000,0000,,Les valeurs de l'I.A. devront\Ncorrespondre aux nôtres,
Dialogue: 0,0:14:33.70,0:14:35.62,Default,,0000,0000,0000,,pas seulement dans un contexte familier,
Dialogue: 0,0:14:35.62,0:14:38.29,Default,,0000,0000,0000,,où il est facile de contrôler \Ncomment l'I.A. se comporte,
Dialogue: 0,0:14:38.29,0:14:41.47,Default,,0000,0000,0000,,mais aussi dans de nouveaux contextes\Nque l'I.A. pourrait rencontrer
Dialogue: 0,0:14:41.47,0:14:42.79,Default,,0000,0000,0000,,dans un futur indéfini.
Dialogue: 0,0:14:42.79,0:14:47.50,Default,,0000,0000,0000,,Il y a aussi des problèmes ésotériques\Nqui devront être résolus :
Dialogue: 0,0:14:47.50,0:14:49.62,Default,,0000,0000,0000,,les détails exacts\Nde sa théorie de décision,
Dialogue: 0,0:14:49.62,0:14:52.48,Default,,0000,0000,0000,,comment gérer l'incertitude logique\Net ainsi de suite.
Dialogue: 0,0:14:53.15,0:14:56.43,Default,,0000,0000,0000,,Les problèmes techniques qui doivent\Nêtre surmontés pour que ça marche
Dialogue: 0,0:14:56.43,0:14:57.54,Default,,0000,0000,0000,,semblent ardus--
Dialogue: 0,0:14:57.54,0:15:00.92,Default,,0000,0000,0000,,pas autant que de faire \Nune I.A. super intelligente,
Dialogue: 0,0:15:00.92,0:15:03.79,Default,,0000,0000,0000,,mais assez ardus.
Dialogue: 0,0:15:03.79,0:15:05.49,Default,,0000,0000,0000,,Là où c'est inquiétant, c'est que
Dialogue: 0,0:15:05.49,0:15:10.17,Default,,0000,0000,0000,,faire une I.A. super intelligente\Nest un défi vraiment difficile.
Dialogue: 0,0:15:10.17,0:15:12.72,Default,,0000,0000,0000,,Faire une I.A. super intelligente\Nqui soit sûre
Dialogue: 0,0:15:12.72,0:15:15.14,Default,,0000,0000,0000,,implique quelques\Ndéfis supplémentaires.
Dialogue: 0,0:15:16.17,0:15:19.70,Default,,0000,0000,0000,,Le risque est que si quelqu'un trouve\Ncomment résoudre le premier défi
Dialogue: 0,0:15:19.70,0:15:22.70,Default,,0000,0000,0000,,sans avoir aussi résolu
Dialogue: 0,0:15:22.70,0:15:24.60,Default,,0000,0000,0000,,l'autre défi, celui d'assurer\Nune sécurité parfaite.
Dialogue: 0,0:15:25.38,0:15:28.71,Default,,0000,0000,0000,,Je pense que nous devrions donc\Ncommencer à résoudre
Dialogue: 0,0:15:28.71,0:15:31.53,Default,,0000,0000,0000,,le problème de contrôle d'abord,
Dialogue: 0,0:15:31.53,0:15:34.19,Default,,0000,0000,0000,,pour qu'il soit disponible\Nquand on en aura besoin.
Dialogue: 0,0:15:34.77,0:15:38.28,Default,,0000,0000,0000,,On ne pourra peut-être pas résoudre\Ntout le problème du contrôle à l'avance
Dialogue: 0,0:15:38.28,0:15:41.30,Default,,0000,0000,0000,,car certains éléments ne peuvent\Nêtre mis en place
Dialogue: 0,0:15:41.30,0:15:45.30,Default,,0000,0000,0000,,qu'une fois qu'on connait les détails\Nde l'architecture où ce sera implémenté.
Dialogue: 0,0:15:45.30,0:15:48.68,Default,,0000,0000,0000,,Mais plus nous résolvons ce problème\Nde contrôle à l'avance,
Dialogue: 0,0:15:48.68,0:15:52.77,Default,,0000,0000,0000,,meilleure sera notre chance \Nque la transition vers l'ère de l'I.A.
Dialogue: 0,0:15:52.77,0:15:54.31,Default,,0000,0000,0000,,se passera bien.
Dialogue: 0,0:15:54.31,0:15:58.95,Default,,0000,0000,0000,,Pour moi, ça semble valoir la peine
Dialogue: 0,0:15:58.95,0:16:02.28,Default,,0000,0000,0000,,et j'imaginer que,\Nsi tout se passe bien,
Dialogue: 0,0:16:02.28,0:16:06.94,Default,,0000,0000,0000,,les gens, dans un million d'années,\Npenseront peut-être
Dialogue: 0,0:16:06.94,0:16:10.94,Default,,0000,0000,0000,,que la chose qui a vraiment été\Nimportante dans notre siècle
Dialogue: 0,0:16:10.94,0:16:12.51,Default,,0000,0000,0000,,était de faire ça bien.
Dialogue: 0,0:16:12.51,0:16:14.20,Default,,0000,0000,0000,,Merci.
Dialogue: 0,0:16:14.20,0:16:17.01,Default,,0000,0000,0000,,(Applaudissements)