[Script Info] Title: [Events] Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text Dialogue: 0,0:00:01.00,0:00:02.81,Default,,0000,0000,0000,,Chris Anderson : Nick Bostrom. Dialogue: 0,0:00:02.83,0:00:06.81,Default,,0000,0000,0000,,Vous nous avez déjà offert\Ntant d'idées folles. Dialogue: 0,0:00:06.83,0:00:08.56,Default,,0000,0000,0000,,Je pense à il y a environ 20 ans, Dialogue: 0,0:00:08.58,0:00:11.68,Default,,0000,0000,0000,,vous avez avancé que nous pourrions\Ntous vivre dans une simulation Dialogue: 0,0:00:11.68,0:00:13.35,Default,,0000,0000,0000,,ou que c'était probablement le cas. Dialogue: 0,0:00:13.38,0:00:14.73,Default,,0000,0000,0000,,Plus récemment, Dialogue: 0,0:00:14.75,0:00:17.14,Default,,0000,0000,0000,,vous avez dépeint les exemples\Nles plus saisissants Dialogue: 0,0:00:17.14,0:00:19.66,Default,,0000,0000,0000,,quant à comment une intelligence\Ngénérale artificielle Dialogue: 0,0:00:19.66,0:00:21.35,Default,,0000,0000,0000,,pourrait terriblement mal tourner. Dialogue: 0,0:00:21.75,0:00:23.14,Default,,0000,0000,0000,,Cette année, Dialogue: 0,0:00:23.17,0:00:25.39,Default,,0000,0000,0000,,vous êtes sur le point de publier Dialogue: 0,0:00:25.42,0:00:29.35,Default,,0000,0000,0000,,un article qui présente une chose appelée\Nl'hypothèse du monde vulnérable. Dialogue: 0,0:00:29.38,0:00:33.96,Default,,0000,0000,0000,,Notre rôle ce soir est d'offrir\Nun guide illustré à ce sujet. Dialogue: 0,0:00:34.42,0:00:36.25,Default,,0000,0000,0000,,Allons-y. Dialogue: 0,0:00:36.83,0:00:38.62,Default,,0000,0000,0000,,Quelle est cette hypothèse ? Dialogue: 0,0:00:40.00,0:00:42.43,Default,,0000,0000,0000,,Nick Bostrom :\NC'est une tentative de réflexion Dialogue: 0,0:00:42.46,0:00:45.97,Default,,0000,0000,0000,,sur une caractéristique structurelle\Nde la condition humaine actuelle. Dialogue: 0,0:00:47.12,0:00:49.48,Default,,0000,0000,0000,,Vous aimez la métaphore de l'urne Dialogue: 0,0:00:49.50,0:00:51.40,Default,,0000,0000,0000,,alors je vais l'utiliser pour expliquer. Dialogue: 0,0:00:51.40,0:00:55.77,Default,,0000,0000,0000,,Imaginez une grande urne remplie de boules Dialogue: 0,0:00:55.79,0:00:59.75,Default,,0000,0000,0000,,représentant des idées, des méthodes,\Ndes technologies possibles. Dialogue: 0,0:01:00.83,0:01:04.56,Default,,0000,0000,0000,,Vous pouvez voir l'histoire\Nde la créativité humaine Dialogue: 0,0:01:04.58,0:01:06.64,Default,,0000,0000,0000,,comme le fait de plonger\Nla main dans l'urne Dialogue: 0,0:01:06.64,0:01:08.51,Default,,0000,0000,0000,,et d'en sortir une boule après l'autre, Dialogue: 0,0:01:08.51,0:01:11.64,Default,,0000,0000,0000,,et le résultat jusqu'ici\Na été extrêmement bénéfique. Dialogue: 0,0:01:11.67,0:01:14.39,Default,,0000,0000,0000,,Nous avons extrait\Nde nombreuses boules blanches, Dialogue: 0,0:01:14.39,0:01:17.35,Default,,0000,0000,0000,,quelques grises\Ndont les bienfaits sont mitigés. Dialogue: 0,0:01:18.04,0:01:21.00,Default,,0000,0000,0000,,Jusqu'ici, nous n'avons pas\Nsorti la boule noire -- Dialogue: 0,0:01:22.29,0:01:27.77,Default,,0000,0000,0000,,une technologie qui détruit invariablement\Nla civilisation qui la découvre. Dialogue: 0,0:01:27.79,0:01:31.22,Default,,0000,0000,0000,,La publication essaye de réfléchir\Nà ce qu'une balle noire pourrait être. Dialogue: 0,0:01:31.22,0:01:32.89,Default,,0000,0000,0000,,CA : Vous définissez cette boule Dialogue: 0,0:01:32.92,0:01:36.60,Default,,0000,0000,0000,,comme étant celle menant invariablement\Nà la destruction de la civilisation. Dialogue: 0,0:01:36.62,0:01:38.89,Default,,0000,0000,0000,,NB : A moins que nous ne sortions Dialogue: 0,0:01:38.89,0:01:41.96,Default,,0000,0000,0000,,de ce que j'appelle la condition\Nsemi-anarchique par défaut. Dialogue: 0,0:01:41.96,0:01:43.46,Default,,0000,0000,0000,,Mais par défaut. Dialogue: 0,0:01:44.33,0:01:47.85,Default,,0000,0000,0000,,CA : Vous présentez\Nun argumentaire convaincant Dialogue: 0,0:01:47.88,0:01:49.89,Default,,0000,0000,0000,,en montrant des contre-exemples Dialogue: 0,0:01:49.92,0:01:52.85,Default,,0000,0000,0000,,où vous croyez que jusqu'ici,\Nnous avons eu de la chance, Dialogue: 0,0:01:52.88,0:01:55.73,Default,,0000,0000,0000,,que nous pourrions avoir sorti\Nla boule de la mort Dialogue: 0,0:01:55.75,0:01:57.31,Default,,0000,0000,0000,,sans même le savoir. Dialogue: 0,0:01:57.33,0:01:59.62,Default,,0000,0000,0000,,Il y a cette citation, quelle est-elle ? Dialogue: 0,0:02:00.62,0:02:03.31,Default,,0000,0000,0000,,NB : Je suppose\Nqu'elle est censée illustrer Dialogue: 0,0:02:03.33,0:02:05.43,Default,,0000,0000,0000,,la difficulté liée à la prédiction Dialogue: 0,0:02:05.46,0:02:08.14,Default,,0000,0000,0000,,de ce à quoi mèneront\Ndes découvertes élémentaires. Dialogue: 0,0:02:08.17,0:02:11.23,Default,,0000,0000,0000,,Nous n'avons simplement pas\Ncette capacité. Dialogue: 0,0:02:11.25,0:02:14.60,Default,,0000,0000,0000,,Car nous sommes devenus bons\Ndans l'extraction de boules Dialogue: 0,0:02:14.62,0:02:18.35,Default,,0000,0000,0000,,mais nous n'avons pas la capacité\Nde remettre la boule dans l'urne. Dialogue: 0,0:02:18.38,0:02:21.16,Default,,0000,0000,0000,,Nous pouvons inventer\Nmais nous ne pouvons pas désinventer. Dialogue: 0,0:02:21.58,0:02:24.35,Default,,0000,0000,0000,,Notre stratégie actuelle Dialogue: 0,0:02:24.38,0:02:26.96,Default,,0000,0000,0000,,est d'espérer qu'il n'y pas\Nde boule noire dans l'urne. Dialogue: 0,0:02:26.96,0:02:30.89,Default,,0000,0000,0000,,CA : Une fois sortie, elle est sortie\Net vous ne pouvez pas la remettre, Dialogue: 0,0:02:30.92,0:02:32.43,Default,,0000,0000,0000,,et vous nous pensez chanceux. Dialogue: 0,0:02:32.46,0:02:34.68,Default,,0000,0000,0000,,Expliquez-nous quelques-uns\Nde ces exemples. Dialogue: 0,0:02:34.71,0:02:37.81,Default,,0000,0000,0000,,Vous parlez de différents types\Nde vulnérabilités. Dialogue: 0,0:02:37.83,0:02:40.27,Default,,0000,0000,0000,,NB : Le type le plus simple à comprendre Dialogue: 0,0:02:40.29,0:02:45.63,Default,,0000,0000,0000,,est une technologie qui rend\Nla destruction massive très facile. Dialogue: 0,0:02:47.38,0:02:50.89,Default,,0000,0000,0000,,La biologie synthétique pourrait être\Nune source féconde d'une telle boule, Dialogue: 0,0:02:50.92,0:02:53.60,Default,,0000,0000,0000,,mais nombre d'autres choses\Nque nous pourrions -- Dialogue: 0,0:02:53.62,0:02:56.06,Default,,0000,0000,0000,,pensez à la géo-ingénierie,\Nc'est génial, non ? Dialogue: 0,0:02:56.06,0:02:58.42,Default,,0000,0000,0000,,Nous pourrions contrer\Nle réchauffement climatique Dialogue: 0,0:02:58.42,0:03:00.65,Default,,0000,0000,0000,,mais nous ne voulons pas\Nque ce soit trop simple Dialogue: 0,0:03:00.65,0:03:03.06,Default,,0000,0000,0000,,et qu'un individu quelconque\Net sa grand-mère Dialogue: 0,0:03:03.08,0:03:06.14,Default,,0000,0000,0000,,aient la capacité d'altérer radicalement\Nle climat terrestre. Dialogue: 0,0:03:06.17,0:03:09.73,Default,,0000,0000,0000,,Ou peut-être les drones autonomes mortels, Dialogue: 0,0:03:09.75,0:03:11.48,Default,,0000,0000,0000,,des essaims de robots tueurs Dialogue: 0,0:03:11.48,0:03:13.84,Default,,0000,0000,0000,,de la taille d'un moustique\Net produits en masse. Dialogue: 0,0:03:14.50,0:03:17.23,Default,,0000,0000,0000,,La nanotechnologie,\Nl'intelligence générale artificielle. Dialogue: 0,0:03:17.25,0:03:18.56,Default,,0000,0000,0000,,CA : Vous avancez Dialogue: 0,0:03:18.58,0:03:21.53,Default,,0000,0000,0000,,que c'est une question de chance\Nque quand nous avons découvert Dialogue: 0,0:03:21.53,0:03:24.93,Default,,0000,0000,0000,,que la puissance nucléaire\Npouvait créer une bombe, Dialogue: 0,0:03:24.96,0:03:26.35,Default,,0000,0000,0000,,il aurait pu arriver Dialogue: 0,0:03:26.38,0:03:28.23,Default,,0000,0000,0000,,que nous puissions créer une bombe Dialogue: 0,0:03:28.25,0:03:31.81,Default,,0000,0000,0000,,avec des ressources bien plus simples\Nd'accès pour quiconque. Dialogue: 0,0:03:31.83,0:03:35.39,Default,,0000,0000,0000,,NB : Repensez aux années 30, Dialogue: 0,0:03:35.42,0:03:37.38,Default,,0000,0000,0000,,où pour la première fois nous avons fait Dialogue: 0,0:03:37.38,0:03:40.04,Default,,0000,0000,0000,,des découvertes capitales\Nen physique nucléaire, Dialogue: 0,0:03:40.04,0:03:41.76,Default,,0000,0000,0000,,un génie découvre qu'il est possible Dialogue: 0,0:03:41.76,0:03:43.82,Default,,0000,0000,0000,,d'entraîner une réaction\Nnucléaire en chaîne Dialogue: 0,0:03:43.82,0:03:46.93,Default,,0000,0000,0000,,puis réalise que cela pourrait\Nmener à la bombe. Dialogue: 0,0:03:46.96,0:03:48.85,Default,,0000,0000,0000,,Nous continuons à y travailler Dialogue: 0,0:03:48.88,0:03:51.60,Default,,0000,0000,0000,,et il s'avère qu'il vous faut,\Npour une bombe nucléaire, Dialogue: 0,0:03:51.62,0:03:54.02,Default,,0000,0000,0000,,de l'uranium ou du plutonium\Nhautement enrichi, Dialogue: 0,0:03:54.04,0:03:56.06,Default,,0000,0000,0000,,qui sont très difficiles à obtenir. Dialogue: 0,0:03:56.08,0:03:58.35,Default,,0000,0000,0000,,Vous avez besoin d'ultracentrifugeuses, Dialogue: 0,0:03:58.38,0:04:02.14,Default,,0000,0000,0000,,de réacteurs et de quantités\Nmassives d'énergie. Dialogue: 0,0:04:02.17,0:04:03.98,Default,,0000,0000,0000,,Mais supposez qu'au lieu de cela, Dialogue: 0,0:04:04.00,0:04:07.98,Default,,0000,0000,0000,,il y ait eu une façon simple\Nde libérer l'énergie de l'atome. Dialogue: 0,0:04:08.00,0:04:10.73,Default,,0000,0000,0000,,Peut-être qu'en cuisant du sable\Ndans un four micro-ondes Dialogue: 0,0:04:10.73,0:04:11.99,Default,,0000,0000,0000,,ou quelque chose du genre, Dialogue: 0,0:04:11.99,0:04:14.19,Default,,0000,0000,0000,,vous auriez pu causer\Nune détonation nucléaire. Dialogue: 0,0:04:14.19,0:04:16.35,Default,,0000,0000,0000,,Nous savons que c'est\Nphysiquement impossible. Dialogue: 0,0:04:16.38,0:04:18.34,Default,,0000,0000,0000,,Mais avant de faire les calculs adéquats, Dialogue: 0,0:04:18.34,0:04:20.48,Default,,0000,0000,0000,,comment savoir\Ncomment cela allait tourner ? Dialogue: 0,0:04:20.51,0:04:24.02,Default,,0000,0000,0000,,CA : Ne pourriez-vous pas avancer\Nque pour que la vie évolue sur Terre, Dialogue: 0,0:04:24.04,0:04:27.31,Default,,0000,0000,0000,,cela suppose un environnement stable, Dialogue: 0,0:04:27.33,0:04:30.47,Default,,0000,0000,0000,,que s'il était possible de causer\Ndes réactions nucléaires massives Dialogue: 0,0:04:30.47,0:04:31.64,Default,,0000,0000,0000,,relativement facilement, Dialogue: 0,0:04:31.64,0:04:33.40,Default,,0000,0000,0000,,la Terre n'aurait jamais été stable, Dialogue: 0,0:04:33.42,0:04:34.98,Default,,0000,0000,0000,,nous ne serions pas là. Dialogue: 0,0:04:35.00,0:04:38.39,Default,,0000,0000,0000,,NB : Oui, à moins qu'il y ait une chose\Nfacile à faire volontairement Dialogue: 0,0:04:38.42,0:04:41.27,Default,,0000,0000,0000,,mais qui n'arriverait pas par hasard. Dialogue: 0,0:04:41.29,0:04:42.87,Default,,0000,0000,0000,,Des choses faciles à faire, Dialogue: 0,0:04:42.90,0:04:45.07,Default,,0000,0000,0000,,comme empiler 10 cubes\Nles uns sur les autres, Dialogue: 0,0:04:45.07,0:04:48.23,Default,,0000,0000,0000,,mais dans la nature, vous ne trouverez pas\Nune pile de 10 cubes. Dialogue: 0,0:04:48.25,0:04:49.93,Default,,0000,0000,0000,,CA : C'est probablement la chose Dialogue: 0,0:04:49.95,0:04:52.06,Default,,0000,0000,0000,,qui inquiète le plus\Nla majorité d'entre nous Dialogue: 0,0:04:52.06,0:04:55.43,Default,,0000,0000,0000,,et oui, la biologie synthétique\Nest peut-être le chemin le plus rapide Dialogue: 0,0:04:55.46,0:04:58.50,Default,,0000,0000,0000,,qui, nous pouvons envisager,\Nnous y mènera dans un avenir proche. Dialogue: 0,0:04:58.50,0:05:01.43,Default,,0000,0000,0000,,NB : Réfléchissez\Nà ce que cela aurait signifié Dialogue: 0,0:05:01.46,0:05:05.10,Default,,0000,0000,0000,,si, disons, quiconque travaillant\Ndans sa cuisine pendant un après-midi Dialogue: 0,0:05:05.12,0:05:06.52,Default,,0000,0000,0000,,pouvait détruire une ville. Dialogue: 0,0:05:06.54,0:05:10.10,Default,,0000,0000,0000,,Il est difficile de voir comment\Nla civilisation moderne actuelle Dialogue: 0,0:05:10.12,0:05:11.56,Default,,0000,0000,0000,,aurait pu survivre à cela. Dialogue: 0,0:05:11.58,0:05:14.10,Default,,0000,0000,0000,,Car dans toute population\Nd'un million de personnes, Dialogue: 0,0:05:14.12,0:05:16.81,Default,,0000,0000,0000,,il y aura toujours quelqu'un\Nqui, peu importe la raison, Dialogue: 0,0:05:16.83,0:05:18.92,Default,,0000,0000,0000,,choisira d'utiliser\Nce pouvoir destructeur. Dialogue: 0,0:05:19.75,0:05:22.89,Default,,0000,0000,0000,,Si ce résidu apocalyptique Dialogue: 0,0:05:22.92,0:05:24.89,Default,,0000,0000,0000,,décidait de détruire une ville, ou pire, Dialogue: 0,0:05:24.92,0:05:26.48,Default,,0000,0000,0000,,des villes seraient détruites. Dialogue: 0,0:05:26.50,0:05:28.85,Default,,0000,0000,0000,,CA : Voici un autre type de vulnérabilité. Dialogue: 0,0:05:28.88,0:05:30.52,Default,,0000,0000,0000,,Parlez-en. Dialogue: 0,0:05:30.54,0:05:34.52,Default,,0000,0000,0000,,NB : En plus de ces types\Nde balles noires évidents Dialogue: 0,0:05:34.54,0:05:37.50,Default,,0000,0000,0000,,qui rendraient possible\Nde faire exploser plein de choses, Dialogue: 0,0:05:37.50,0:05:41.81,Default,,0000,0000,0000,,d'autres types agiraient en créant\Nde mauvaises incitations Dialogue: 0,0:05:41.83,0:05:44.17,Default,,0000,0000,0000,,pour que les humains\Nfassent des choses nuisibles. Dialogue: 0,0:05:44.17,0:05:48.18,Default,,0000,0000,0000,,Le type 2a, nous pouvons l'appeler ainsi, Dialogue: 0,0:05:48.21,0:05:52.73,Default,,0000,0000,0000,,c'est réfléchir à une technologie\Nqui invite les grandes puissances Dialogue: 0,0:05:52.75,0:05:57.23,Default,,0000,0000,0000,,à utiliser leurs forces massives\Npour causer de la destruction. Dialogue: 0,0:05:57.25,0:06:00.08,Default,,0000,0000,0000,,Les armes nucléaires\Nen étaient très proches. Dialogue: 0,0:06:02.08,0:06:05.14,Default,,0000,0000,0000,,Nous avons dépensé\Nplus de 10 billions de dollars Dialogue: 0,0:06:05.17,0:06:07.68,Default,,0000,0000,0000,,pour fabriquer 70 000 ogives nucléaires Dialogue: 0,0:06:07.71,0:06:10.14,Default,,0000,0000,0000,,et les placer en état\Nd'alerte instantanée. Dialogue: 0,0:06:10.17,0:06:12.43,Default,,0000,0000,0000,,A plusieurs reprises\Ndurant la Guerre froide, Dialogue: 0,0:06:12.46,0:06:13.89,Default,,0000,0000,0000,,on a failli se faire sauter. Dialogue: 0,0:06:13.92,0:06:17.09,Default,,0000,0000,0000,,Non pas que beaucoup de gens pensaient\Nque ce serait une super idée Dialogue: 0,0:06:17.09,0:06:19.73,Default,,0000,0000,0000,,de dépenser 10 billions de dollars\Npour se faire sauter, Dialogue: 0,0:06:19.75,0:06:22.68,Default,,0000,0000,0000,,mais les incitations étaient telles\Nque nous nous trouvions -- Dialogue: 0,0:06:22.71,0:06:24.02,Default,,0000,0000,0000,,cela aurait pu être pire. Dialogue: 0,0:06:24.04,0:06:26.48,Default,,0000,0000,0000,,Imaginez s'il y a avait eu\Nun premier coup assuré. Dialogue: 0,0:06:26.50,0:06:28.81,Default,,0000,0000,0000,,Cela aurait pu être très délicat, Dialogue: 0,0:06:28.83,0:06:30.18,Default,,0000,0000,0000,,dans une situation de crise, Dialogue: 0,0:06:30.18,0:06:32.65,Default,,0000,0000,0000,,de s'abstenir de lancer\Ntous les missiles nucléaires. Dialogue: 0,0:06:32.65,0:06:33.74,Default,,0000,0000,0000,,A défaut d'autre chose, Dialogue: 0,0:06:33.74,0:06:36.04,Default,,0000,0000,0000,,car vous craindriez\Nque l'autre camp ne le fasse. Dialogue: 0,0:06:36.04,0:06:37.85,Default,,0000,0000,0000,,CA : La destruction mutuelle assurée Dialogue: 0,0:06:37.88,0:06:40.60,Default,,0000,0000,0000,,a maintenu la Guerre froide\Nrelativement stable. Dialogue: 0,0:06:40.62,0:06:42.58,Default,,0000,0000,0000,,Sans cela, nous pourrions ne pas être là. Dialogue: 0,0:06:42.58,0:06:44.87,Default,,0000,0000,0000,,NB : Cela aurait pu être\Nplus instable que cela. Dialogue: 0,0:06:44.87,0:06:47.45,Default,,0000,0000,0000,,Il pourrait y avoir\Nd'autres propriétés technologiques. Dialogue: 0,0:06:47.45,0:06:49.60,Default,,0000,0000,0000,,Il aurait pu être plus dur\Nd'avoir des traités Dialogue: 0,0:06:49.62,0:06:51.23,Default,,0000,0000,0000,,si au lieu des armes nucléaires, Dialogue: 0,0:06:51.25,0:06:54.21,Default,,0000,0000,0000,,cela avait été une chose plus petite\Nou moins distinctive. Dialogue: 0,0:06:54.21,0:06:57.18,Default,,0000,0000,0000,,CA : Avec les mauvaises incitations\Npour les acteurs puissants, Dialogue: 0,0:06:57.18,0:07:00.42,Default,,0000,0000,0000,,vous vous inquiétez de telles incitations\Npour nous tous, le type 2b. Dialogue: 0,0:07:00.42,0:07:04.67,Default,,0000,0000,0000,,NB : Nous pourrions prendre le cas\Ndu réchauffement climatique. Dialogue: 0,0:07:06.96,0:07:08.85,Default,,0000,0000,0000,,Il y a beaucoup de petits conforts Dialogue: 0,0:07:08.88,0:07:11.16,Default,,0000,0000,0000,,qui mènent chacun d'entre nous\Nà faire des choses Dialogue: 0,0:07:11.16,0:07:13.93,Default,,0000,0000,0000,,qui, individuellement,\Nn'ont pas d'effet significatif. Dialogue: 0,0:07:13.96,0:07:15.88,Default,,0000,0000,0000,,Mais si des milliards de gens le font, Dialogue: 0,0:07:15.88,0:07:18.04,Default,,0000,0000,0000,,cumulativement, cela a\Nun effet préjudiciable. Dialogue: 0,0:07:18.04,0:07:20.100,Default,,0000,0000,0000,,Le réchauffement climatique\Naurait pu être pire qu'il ne l'est. Dialogue: 0,0:07:20.100,0:07:23.85,Default,,0000,0000,0000,,Nous avons le paramètre\Nde sensibilité climatique. Dialogue: 0,0:07:23.88,0:07:27.52,Default,,0000,0000,0000,,C'est un paramètre\Nqui indique le réchauffement Dialogue: 0,0:07:27.54,0:07:30.25,Default,,0000,0000,0000,,si on émet une certaine quantité\Nde gaz à effet de serre. Dialogue: 0,0:07:30.25,0:07:32.64,Default,,0000,0000,0000,,Mais supposez que la situation Dialogue: 0,0:07:32.67,0:07:35.34,Default,,0000,0000,0000,,soit qu'avec les quantités\Nde gaz à effet de serre émis, Dialogue: 0,0:07:35.34,0:07:41.04,Default,,0000,0000,0000,,au lieu d'une température augmentant\Nd'entre 3 et 4,5 degrés d'ici 2100, Dialogue: 0,0:07:41.04,0:07:43.54,Default,,0000,0000,0000,,imaginez que c'eût été 15 ou 20 degrés. Dialogue: 0,0:07:44.38,0:07:46.93,Default,,0000,0000,0000,,La situation aurait alors\Nété très mauvaise. Dialogue: 0,0:07:46.96,0:07:50.24,Default,,0000,0000,0000,,Imaginez que les énergies renouvelables\Naient été bien plus complexes. Dialogue: 0,0:07:50.24,0:07:52.77,Default,,0000,0000,0000,,Ou qu'il y ait eu\Nplus de carburants fossiles. Dialogue: 0,0:07:52.79,0:07:55.43,Default,,0000,0000,0000,,CA : Ne pourriez-vous pas avancer\Nque dans ce cas de -- Dialogue: 0,0:07:55.46,0:07:57.18,Default,,0000,0000,0000,,si ce que nous faisons aujourd'hui Dialogue: 0,0:07:57.21,0:08:01.77,Default,,0000,0000,0000,,avait entraîné une différence de 10 degrés\Nsur une période que nous pourrions voir, Dialogue: 0,0:08:01.79,0:08:05.48,Default,,0000,0000,0000,,l'humanité se serait bougé le cul\Net y aurait fait quelque chose. Dialogue: 0,0:08:05.50,0:08:08.31,Default,,0000,0000,0000,,Nous sommes stupides,\Nmais peut-être pas autant. Dialogue: 0,0:08:08.33,0:08:09.60,Default,,0000,0000,0000,,Ou peut-être que si. Dialogue: 0,0:08:09.62,0:08:10.89,Default,,0000,0000,0000,,NB : Je ne parierais pas. Dialogue: 0,0:08:10.92,0:08:13.10,Default,,0000,0000,0000,,(Rires) Dialogue: 0,0:08:13.12,0:08:15.03,Default,,0000,0000,0000,,Vous pourriez imaginer d'autres options. Dialogue: 0,0:08:15.03,0:08:20.35,Default,,0000,0000,0000,,Actuellement, c'est un peu difficile\Nde passer aux énergies renouvelables, Dialogue: 0,0:08:20.38,0:08:21.64,Default,,0000,0000,0000,,mais c'est possible. Dialogue: 0,0:08:21.67,0:08:24.73,Default,,0000,0000,0000,,Cela aurait pu être que,\Navec une physique légèrement différente, Dialogue: 0,0:08:24.73,0:08:27.46,Default,,0000,0000,0000,,il aurait été bien plus cher\Nde faire ces choses-là. Dialogue: 0,0:08:28.38,0:08:29.89,Default,,0000,0000,0000,,CA : Quelle est votre opinion ? Dialogue: 0,0:08:29.92,0:08:32.35,Default,,0000,0000,0000,,Pensez-vous, en réunissant\Nces possibilités, Dialogue: 0,0:08:32.38,0:08:36.64,Default,,0000,0000,0000,,cette Terre, l'humanité que nous sommes, Dialogue: 0,0:08:36.67,0:08:38.25,Default,,0000,0000,0000,,nous sommes un monde vulnérable ? Dialogue: 0,0:08:38.25,0:08:40.67,Default,,0000,0000,0000,,Qu'il y a une boule de la mort\Ndans notre futur ? Dialogue: 0,0:08:43.96,0:08:45.30,Default,,0000,0000,0000,,NB : C'est difficile à dire. Dialogue: 0,0:08:45.30,0:08:50.31,Default,,0000,0000,0000,,Je pense qu'il pourrait y avoir\Ndiverses boules noires dans l'urne, Dialogue: 0,0:08:50.33,0:08:51.64,Default,,0000,0000,0000,,c'est ce qu'il semble. Dialogue: 0,0:08:51.67,0:08:54.06,Default,,0000,0000,0000,,Il pourrait aussi y avoir\Ndes boules dorées Dialogue: 0,0:08:54.08,0:08:57.56,Default,,0000,0000,0000,,qui nous aideraient\Nà nous protéger des boules noires. Dialogue: 0,0:08:57.58,0:09:00.56,Default,,0000,0000,0000,,Je ne sais pas dans quel ordre\Nelles vont sortir. Dialogue: 0,0:09:00.58,0:09:04.43,Default,,0000,0000,0000,,CA : Une critique philosophique\Npossible de cette idée, Dialogue: 0,0:09:04.46,0:09:10.10,Default,,0000,0000,0000,,c'est que cela implique une vision\Nde l'avenir qui est globalement établie. Dialogue: 0,0:09:10.12,0:09:12.60,Default,,0000,0000,0000,,Soit cette boule est là,\Nsoit elle ne l'est pas. Dialogue: 0,0:09:12.62,0:09:16.97,Default,,0000,0000,0000,,D'une certaine façon,\Nce n'est pas une vision de l'avenir Dialogue: 0,0:09:16.97,0:09:18.27,Default,,0000,0000,0000,,en laquelle je veux croire. Dialogue: 0,0:09:18.29,0:09:20.64,Default,,0000,0000,0000,,Je veux croire que l'avenir\Nest indéterminé, Dialogue: 0,0:09:20.67,0:09:22.68,Default,,0000,0000,0000,,que nos décisions\Naujourd'hui détermineront Dialogue: 0,0:09:22.68,0:09:24.83,Default,,0000,0000,0000,,quel genre de boules\Nnous sortons de l'urne. Dialogue: 0,0:09:25.92,0:09:29.68,Default,,0000,0000,0000,,NB : Si nous continuons à inventer, Dialogue: 0,0:09:29.71,0:09:32.04,Default,,0000,0000,0000,,nous finirons par sortir\Ntoutes les boules. Dialogue: 0,0:09:32.88,0:09:36.27,Default,,0000,0000,0000,,Je pense qu'il y a une forme\Nde déterminisme technologique Dialogue: 0,0:09:36.29,0:09:37.56,Default,,0000,0000,0000,,qui est assez plausible. Dialogue: 0,0:09:37.58,0:09:40.23,Default,,0000,0000,0000,,Vous avez peu de probabilités\Nde rencontrer une société Dialogue: 0,0:09:40.25,0:09:43.08,Default,,0000,0000,0000,,qui utilise des haches en silex\Net des avions à réaction. Dialogue: 0,0:09:44.21,0:09:48.19,Default,,0000,0000,0000,,Vous pouvez presque voir la technologie\Ncomme un ensemble de potentialités. Dialogue: 0,0:09:48.19,0:09:51.40,Default,,0000,0000,0000,,La technologie est la chose\Nnous permettant de faire diverses choses Dialogue: 0,0:09:51.40,0:09:53.31,Default,,0000,0000,0000,,et d'obtenir divers effets sur le monde. Dialogue: 0,0:09:53.33,0:09:56.14,Default,,0000,0000,0000,,Comment nous allons l'utiliser\Ndépend des choix humains. Dialogue: 0,0:09:56.17,0:09:58.85,Default,,0000,0000,0000,,Mais si vous pensez\Nà ces trois types de vulnérabilités, Dialogue: 0,0:09:58.88,0:10:02.27,Default,,0000,0000,0000,,elles ne supposent pas tant\Nde comment nous choisirions de l'utiliser. Dialogue: 0,0:10:02.29,0:10:05.64,Default,,0000,0000,0000,,Une vulnérabilité de type 1,\Ncet énorme pouvoir destructeur, Dialogue: 0,0:10:05.64,0:10:07.17,Default,,0000,0000,0000,,ce n'est pas une hypothèse forte Dialogue: 0,0:10:07.17,0:10:09.66,Default,,0000,0000,0000,,de penser que dans une population\Nde millions de gens Dialogue: 0,0:10:09.66,0:10:12.52,Default,,0000,0000,0000,,il y en aurait qui choisiraient\Nde l'utiliser pour détruire. Dialogue: 0,0:10:12.54,0:10:14.98,Default,,0000,0000,0000,,CA : Pour moi, l'argument\Nqui me perturbe le plus, Dialogue: 0,0:10:15.00,0:10:19.56,Default,,0000,0000,0000,,c'est que nous pourrions\Navoir un aperçu de l'urne Dialogue: 0,0:10:19.58,0:10:23.10,Default,,0000,0000,0000,,qui rendrait très probable\Nque nous soyons condamnés. Dialogue: 0,0:10:23.12,0:10:27.77,Default,,0000,0000,0000,,Si vous croyez au pouvoir accélérateur, Dialogue: 0,0:10:27.79,0:10:30.06,Default,,0000,0000,0000,,qu'intrinsèquement,\Nla technologie accélère, Dialogue: 0,0:10:30.08,0:10:32.67,Default,,0000,0000,0000,,que nous créons les outils\Nnous rendant plus puissants, Dialogue: 0,0:10:32.67,0:10:35.18,Default,,0000,0000,0000,,vous finissez par en arriver à un point Dialogue: 0,0:10:35.21,0:10:38.27,Default,,0000,0000,0000,,où chaque individu peut tous nous éliminer Dialogue: 0,0:10:38.29,0:10:41.14,Default,,0000,0000,0000,,et il semble alors que nous soyons foutus. Dialogue: 0,0:10:41.17,0:10:44.10,Default,,0000,0000,0000,,Cet argument n'est-il pas alarmant ? Dialogue: 0,0:10:44.12,0:10:45.88,Default,,0000,0000,0000,,NB : Oui. Dialogue: 0,0:10:46.71,0:10:47.98,Default,,0000,0000,0000,,(Rires) Dialogue: 0,0:10:48.00,0:10:49.33,Default,,0000,0000,0000,,Je pense -- Dialogue: 0,0:10:50.88,0:10:52.65,Default,,0000,0000,0000,,Nous avons de plus en plus de pouvoir Dialogue: 0,0:10:52.65,0:10:56.43,Default,,0000,0000,0000,,et il est de plus en plus simple\Nd'utiliser ce pouvoir, Dialogue: 0,0:10:56.46,0:10:58.75,Default,,0000,0000,0000,,mais nous pouvons aussi\Ninventer des technologies Dialogue: 0,0:10:58.75,0:11:02.28,Default,,0000,0000,0000,,qui nous aident à contrôler l'utilisation\Nque les gens font de ce pouvoir. Dialogue: 0,0:11:02.30,0:11:04.93,Default,,0000,0000,0000,,CA : Parlons de cela,\Nparlons de la réponse. Dialogue: 0,0:11:04.96,0:11:07.27,Default,,0000,0000,0000,,Supposons que réfléchir\Nà toutes les possibilités Dialogue: 0,0:11:07.29,0:11:09.39,Default,,0000,0000,0000,,qu'il y a actuellement -- Dialogue: 0,0:11:09.42,0:11:13.14,Default,,0000,0000,0000,,ce n'est pas que la biologie synthétique,\Nce sont les cyberguerres, Dialogue: 0,0:11:13.17,0:11:16.52,Default,,0000,0000,0000,,l'intelligence artificielle\Net ainsi de suite -- Dialogue: 0,0:11:16.54,0:11:21.06,Default,,0000,0000,0000,,qu'il y a une condamnation\Nsérieuse dans notre avenir. Dialogue: 0,0:11:21.08,0:11:22.85,Default,,0000,0000,0000,,Quelles sont les réponses possibles ? Dialogue: 0,0:11:22.85,0:11:27.60,Default,,0000,0000,0000,,Vous avez parlé\Nde quatre réponses possibles. Dialogue: 0,0:11:27.62,0:11:29.86,Default,,0000,0000,0000,,NB : Restreindre\Nle développement technologique Dialogue: 0,0:11:29.86,0:11:31.29,Default,,0000,0000,0000,,ne semble pas prometteur Dialogue: 0,0:11:31.29,0:11:33.30,Default,,0000,0000,0000,,si nous parlons\Nd'une interruption générale Dialogue: 0,0:11:33.30,0:11:34.61,Default,,0000,0000,0000,,des progrès technologiques. Dialogue: 0,0:11:34.61,0:11:36.44,Default,,0000,0000,0000,,Ce n'est ni faisable ni désirable, Dialogue: 0,0:11:36.44,0:11:38.14,Default,,0000,0000,0000,,même si nous le pouvions. Dialogue: 0,0:11:38.18,0:11:41.20,Default,,0000,0000,0000,,Je pense qu'il y a\Ndes domaines très limités Dialogue: 0,0:11:41.21,0:11:44.07,Default,,0000,0000,0000,,où vous pourriez vouloir\Nralentir les progrès technologiques. Dialogue: 0,0:11:44.07,0:11:47.35,Default,,0000,0000,0000,,Vous ne voulez pas de progrès\Nplus rapides pour les armes biologiques Dialogue: 0,0:11:47.38,0:11:49.43,Default,,0000,0000,0000,,ou la séparation d'isotope, Dialogue: 0,0:11:49.46,0:11:51.96,Default,,0000,0000,0000,,ce qui faciliterait la création\Nde bombes nucléaires. Dialogue: 0,0:11:52.58,0:11:55.89,Default,,0000,0000,0000,,CA : Avant, j'étais\Ncomplètement d'accord avec cela. Dialogue: 0,0:11:55.92,0:11:59.18,Default,,0000,0000,0000,,Mais j'aimerais prendre un instant\Npour contre-argumenter. Dialogue: 0,0:11:59.21,0:12:00.52,Default,,0000,0000,0000,,Tout d'abord, Dialogue: 0,0:12:00.54,0:12:03.23,Default,,0000,0000,0000,,si vous considérez l'histoire\Ndes dernières décennies, Dialogue: 0,0:12:03.25,0:12:06.81,Default,,0000,0000,0000,,il y a toujours eu une évolution\Nvers l'avant à pleine vitesse, Dialogue: 0,0:12:06.83,0:12:08.68,Default,,0000,0000,0000,,ça va, c'est notre seul choix. Dialogue: 0,0:12:08.71,0:12:12.98,Default,,0000,0000,0000,,Mais si vous considérez la mondialisation\Net son accélération rapide, Dialogue: 0,0:12:13.00,0:12:16.43,Default,,0000,0000,0000,,si vous considérez la stratégie\Nd' « avancer vite et casser des trucs » Dialogue: 0,0:12:16.46,0:12:18.52,Default,,0000,0000,0000,,et ce qui est arrivé, Dialogue: 0,0:12:18.54,0:12:21.60,Default,,0000,0000,0000,,puis que vous considérez le potentiel\Nde la biologie synthétique, Dialogue: 0,0:12:21.60,0:12:25.77,Default,,0000,0000,0000,,je ne sais pas si nous devrions\Navancer rapidement Dialogue: 0,0:12:25.79,0:12:27.43,Default,,0000,0000,0000,,ou sans aucune restriction Dialogue: 0,0:12:27.46,0:12:30.77,Default,,0000,0000,0000,,vers un monde où vous pourriez avoir\Nune imprimante d'ADN à la maison Dialogue: 0,0:12:30.79,0:12:32.12,Default,,0000,0000,0000,,et dans les lycées. Dialogue: 0,0:12:33.17,0:12:34.85,Default,,0000,0000,0000,,Il y a des restrictions, non ? Dialogue: 0,0:12:34.88,0:12:37.52,Default,,0000,0000,0000,,NB : Il y a la première partie :\Nl'infaisabilité. Dialogue: 0,0:12:37.54,0:12:39.82,Default,,0000,0000,0000,,Si vous pensez qu'il serait\Ndésirable d'arrêter, Dialogue: 0,0:12:39.82,0:12:41.48,Default,,0000,0000,0000,,il y a le problème de faisabilité. Dialogue: 0,0:12:41.50,0:12:44.31,Default,,0000,0000,0000,,Cela n'aide pas vraiment si une nation -- Dialogue: 0,0:12:44.33,0:12:46.35,Default,,0000,0000,0000,,CA : Cela n'aide pas si une nation arrête, Dialogue: 0,0:12:46.38,0:12:49.31,Default,,0000,0000,0000,,mais nous avons eu des traités auparavant. Dialogue: 0,0:12:49.33,0:12:52.68,Default,,0000,0000,0000,,C'est ainsi que nous avons survécu\Nà la menace nucléaire, Dialogue: 0,0:12:52.71,0:12:56.53,Default,,0000,0000,0000,,c'est en en passant par le processus\Ndouloureux des négociations. Dialogue: 0,0:12:56.54,0:13:01.98,Default,,0000,0000,0000,,Je me demande si la logique n'est pas\Nque nous, en termes de priorité mondiale, Dialogue: 0,0:13:02.00,0:13:03.68,Default,,0000,0000,0000,,nous ne devrions pas essayer, Dialogue: 0,0:13:03.71,0:13:06.39,Default,,0000,0000,0000,,commencer à négocier maintenant\Ndes règles très strictes Dialogue: 0,0:13:06.42,0:13:09.10,Default,,0000,0000,0000,,sur les lieux de conduite\Nde recherches biologiques. Dialogue: 0,0:13:09.12,0:13:11.98,Default,,0000,0000,0000,,Ce n'est pas une chose\Nque vous voulez démocratiser, si ? Dialogue: 0,0:13:12.00,0:13:13.81,Default,,0000,0000,0000,,NB : Je suis complètement d'accord -- Dialogue: 0,0:13:13.83,0:13:18.06,Default,,0000,0000,0000,,il serait désirable, par exemple, Dialogue: 0,0:13:18.08,0:13:21.68,Default,,0000,0000,0000,,d'avoir des machines de synthèse d'ADN, Dialogue: 0,0:13:21.71,0:13:25.27,Default,,0000,0000,0000,,pas en tant que produit pour lequel\Nchaque labo a son appareil, Dialogue: 0,0:13:25.29,0:13:26.77,Default,,0000,0000,0000,,mais en tant que service. Dialogue: 0,0:13:26.79,0:13:29.31,Default,,0000,0000,0000,,Il pourrait y avoir\Nquatre ou cinq endroits au monde Dialogue: 0,0:13:29.33,0:13:31.46,Default,,0000,0000,0000,,où vous pourriez envoyer\Nun modèle numérique Dialogue: 0,0:13:31.46,0:13:32.88,Default,,0000,0000,0000,,et l'ADN arriverait à vous. Dialogue: 0,0:13:32.88,0:13:34.64,Default,,0000,0000,0000,,Vous auriez la capacité, Dialogue: 0,0:13:34.67,0:13:37.06,Default,,0000,0000,0000,,si un jour cela semblait\Nvraiment nécessaire, Dialogue: 0,0:13:37.08,0:13:39.66,Default,,0000,0000,0000,,il y aurait un ensemble fini\Nde goulots d'étranglement. Dialogue: 0,0:13:39.66,0:13:42.98,Default,,0000,0000,0000,,Je pense que vous voulez considérer\Ndes opportunités particulières Dialogue: 0,0:13:43.00,0:13:45.20,Default,,0000,0000,0000,,où vous pourriez avoir\Nun contrôle plus strict. Dialogue: 0,0:13:45.20,0:13:46.73,Default,,0000,0000,0000,,CA : Vous croyez, au fond, Dialogue: 0,0:13:46.75,0:13:49.64,Default,,0000,0000,0000,,que nous ne réussirons pas\Nà contenir les choses. Dialogue: 0,0:13:49.67,0:13:52.39,Default,,0000,0000,0000,,Quelqu'un, quelque part --\Nen Corée du Nord -- Dialogue: 0,0:13:52.42,0:13:55.93,Default,,0000,0000,0000,,quelqu'un va y arriver\Net découvrir ce savoir, Dialogue: 0,0:13:55.96,0:13:57.23,Default,,0000,0000,0000,,s'il est à découvrir. Dialogue: 0,0:13:57.23,0:13:59.62,Default,,0000,0000,0000,,NB : C'est plausible\Ndans les conditions actuelles. Dialogue: 0,0:13:59.62,0:14:01.58,Default,,0000,0000,0000,,Ce n'est pas que la biologie synthétique. Dialogue: 0,0:14:01.58,0:14:04.10,Default,,0000,0000,0000,,N'importe quel genre\Nde changement profond et nouveau Dialogue: 0,0:14:04.10,0:14:05.73,Default,,0000,0000,0000,,pourrait être une boule noire. Dialogue: 0,0:14:05.73,0:14:07.82,Default,,0000,0000,0000,,CA : Considérons\Nune autre réponse possible. Dialogue: 0,0:14:07.82,0:14:10.23,Default,,0000,0000,0000,,NB : Ceci, à mon avis,\Na un potentiel limité. Dialogue: 0,0:14:10.25,0:14:13.81,Default,,0000,0000,0000,,Avec la vulnérabilité de type 1, Dialogue: 0,0:14:13.83,0:14:18.18,Default,,0000,0000,0000,,si vous pouvez réduire le nombre\Nde personnes qui sont motivées Dialogue: 0,0:14:18.21,0:14:19.48,Default,,0000,0000,0000,,à détruire le monde, Dialogue: 0,0:14:19.48,0:14:21.64,Default,,0000,0000,0000,,si elles seules avaient\Nl'accès et les moyens, Dialogue: 0,0:14:21.64,0:14:22.85,Default,,0000,0000,0000,,ce serait bien. Dialogue: 0,0:14:22.88,0:14:24.85,Default,,0000,0000,0000,,CA : Dans cette image, Dialogue: 0,0:14:24.88,0:14:27.20,Default,,0000,0000,0000,,vous imaginez ces drones\Nvolant à travers le monde Dialogue: 0,0:14:27.20,0:14:28.75,Default,,0000,0000,0000,,avec une reconnaissance faciale. Dialogue: 0,0:14:28.75,0:14:31.89,Default,,0000,0000,0000,,Quand ils repèrent quelqu'un\Nprésentant un comportement sociopathe, Dialogue: 0,0:14:31.89,0:14:33.85,Default,,0000,0000,0000,,ils le couvrent d'amour, le rétablissent. Dialogue: 0,0:14:33.88,0:14:35.77,Default,,0000,0000,0000,,NB : C'est une image hybride. Dialogue: 0,0:14:35.79,0:14:39.81,Default,,0000,0000,0000,,Éliminer peut signifier\Nsoit incarcérer ou tuer, Dialogue: 0,0:14:39.83,0:14:42.85,Default,,0000,0000,0000,,soit les persuader d'avoir\Nune meilleure vision du monde. Dialogue: 0,0:14:42.88,0:14:44.60,Default,,0000,0000,0000,,Le principe, c'est : Dialogue: 0,0:14:44.62,0:14:46.77,Default,,0000,0000,0000,,imaginez être extrêmement performant Dialogue: 0,0:14:46.79,0:14:50.10,Default,,0000,0000,0000,,et réduire le nombre\Nde tels individus de moitié. Dialogue: 0,0:14:50.12,0:14:52.13,Default,,0000,0000,0000,,Si vous voulez le faire via la persuasion, Dialogue: 0,0:14:52.13,0:14:54.33,Default,,0000,0000,0000,,vous rivalisez contre\Ntoutes les grandes forces Dialogue: 0,0:14:54.33,0:14:56.06,Default,,0000,0000,0000,,qui essayent de persuader les gens, Dialogue: 0,0:14:56.06,0:14:58.18,Default,,0000,0000,0000,,les partis, la religion,\Nle système éducatif. Dialogue: 0,0:14:58.18,0:14:59.100,Default,,0000,0000,0000,,Supposez pouvoir le réduire de moitié, Dialogue: 0,0:14:59.100,0:15:02.14,Default,,0000,0000,0000,,le risque ne serait pas réduit de moitié. Dialogue: 0,0:15:02.17,0:15:03.73,Default,,0000,0000,0000,,Peut-être de 5% ou 10%. Dialogue: 0,0:15:03.75,0:15:06.90,Default,,0000,0000,0000,,CA : Vous ne recommandez pas\Nque l'on parie l'avenir de l'humanité Dialogue: 0,0:15:06.90,0:15:08.12,Default,,0000,0000,0000,,sur la seconde réponse. Dialogue: 0,0:15:08.12,0:15:11.14,Default,,0000,0000,0000,,NB : C'est bien d'essayer\Nde dissuader et persuader les gens, Dialogue: 0,0:15:11.17,0:15:14.14,Default,,0000,0000,0000,,mais pas miser dessus\Ncomme seul dispositif de sécurité. Dialogue: 0,0:15:14.17,0:15:15.60,Default,,0000,0000,0000,,CA : Et la troisième réponse ? Dialogue: 0,0:15:15.60,0:15:18.35,Default,,0000,0000,0000,,NB : Il y a deux méthodes générales Dialogue: 0,0:15:18.38,0:15:22.35,Default,,0000,0000,0000,,que nous pourrions utiliser pour parvenir\Nà la capacité de stabiliser le monde Dialogue: 0,0:15:22.38,0:15:25.35,Default,,0000,0000,0000,,face à l'éventail complet\Ndes vulnérabilités possibles. Dialogue: 0,0:15:25.38,0:15:26.93,Default,,0000,0000,0000,,Nous aurions besoin des deux. Dialogue: 0,0:15:26.96,0:15:31.48,Default,,0000,0000,0000,,Une est une capacité optimale Dialogue: 0,0:15:31.50,0:15:33.27,Default,,0000,0000,0000,,de prévention policière. Dialogue: 0,0:15:33.29,0:15:34.82,Default,,0000,0000,0000,,Afin de pouvoir intercepter. Dialogue: 0,0:15:34.84,0:15:37.60,Default,,0000,0000,0000,,Si quiconque entamait\Ncette chose dangereuse, Dialogue: 0,0:15:37.62,0:15:40.31,Default,,0000,0000,0000,,vous pourriez l'intercepter\Nen temps réel et l'arrêter. Dialogue: 0,0:15:40.33,0:15:42.81,Default,,0000,0000,0000,,Cela nécessiterait\Nune surveillance omniprésente, Dialogue: 0,0:15:42.83,0:15:45.21,Default,,0000,0000,0000,,tout le monde serait\Nconstamment surveillé. Dialogue: 0,0:15:46.33,0:15:48.89,Default,,0000,0000,0000,,CA : C'est en gros\Nune forme de « Minority Report ». Dialogue: 0,0:15:48.92,0:15:50.85,Default,,0000,0000,0000,,NB : Vous auriez des algorithmes d'IA, Dialogue: 0,0:15:50.88,0:15:55.29,Default,,0000,0000,0000,,de gros centres de liberté\Nqui examineraient cela, et ainsi de suite. Dialogue: 0,0:15:56.58,0:16:00.98,Default,,0000,0000,0000,,CA : La surveillance de masse\Nn'est pas très populaire en ce moment. Dialogue: 0,0:16:01.00,0:16:02.25,Default,,0000,0000,0000,,(Rires) Dialogue: 0,0:16:03.46,0:16:05.27,Default,,0000,0000,0000,,NB : Ce petit dispositif, Dialogue: 0,0:16:05.29,0:16:08.89,Default,,0000,0000,0000,,imaginez ce genre de collier\Nque vous devriez porter tout le temps, Dialogue: 0,0:16:08.92,0:16:10.92,Default,,0000,0000,0000,,avec des caméras multidirectionnelles. Dialogue: 0,0:16:11.79,0:16:13.60,Default,,0000,0000,0000,,Mais pour que cela passe mieux, Dialogue: 0,0:16:13.62,0:16:16.15,Default,,0000,0000,0000,,appelez-le la « balise\Nde la liberté » ou autre. Dialogue: 0,0:16:16.17,0:16:18.18,Default,,0000,0000,0000,,(Rires) Dialogue: 0,0:16:18.21,0:16:19.48,Default,,0000,0000,0000,,CA : D'accord. Dialogue: 0,0:16:19.50,0:16:21.60,Default,,0000,0000,0000,,C'est la conversation -- Dialogue: 0,0:16:21.62,0:16:25.18,Default,,0000,0000,0000,,c'est pour cela que c'est\Nune conversation si époustouflante. Dialogue: 0,0:16:25.21,0:16:29.16,Default,,0000,0000,0000,,NB : Il y a toute une conversation\Nà ce sujet-là en particulier. Dialogue: 0,0:16:29.17,0:16:31.64,Default,,0000,0000,0000,,Il y a de gros problèmes\Net risques avec cela. Dialogue: 0,0:16:31.67,0:16:33.06,Default,,0000,0000,0000,,Nous y reviendrons peut-être. Dialogue: 0,0:16:33.06,0:16:34.23,Default,,0000,0000,0000,,L'autre, la dernière, Dialogue: 0,0:16:34.25,0:16:38.92,Default,,0000,0000,0000,,l'autre capacité de stabilisation générale\Ncomble un autre vide dans la gouvernance. Dialogue: 0,0:16:38.92,0:16:43.10,Default,,0000,0000,0000,,La surveillance comblerait pour un vide\Ndans la gouvernance à un niveau micro : Dialogue: 0,0:16:43.12,0:16:46.23,Default,,0000,0000,0000,,empêcher quiconque de faire\Nquoi que ce soit de hautement illégal. Dialogue: 0,0:16:46.25,0:16:48.56,Default,,0000,0000,0000,,Il y un vide équivalent\Ndans la gouvernance Dialogue: 0,0:16:48.58,0:16:50.52,Default,,0000,0000,0000,,au niveau macro, au niveau mondial. Dialogue: 0,0:16:50.54,0:16:54.48,Default,,0000,0000,0000,,Il vous faudrait la capacité fiable Dialogue: 0,0:16:54.50,0:16:57.37,Default,,0000,0000,0000,,d'empêcher les pires types\Nd'échecs de coordination mondiale, Dialogue: 0,0:16:57.37,0:17:01.10,Default,,0000,0000,0000,,d'éviter les guerres\Nentre les grandes puissances, Dialogue: 0,0:17:01.12,0:17:02.46,Default,,0000,0000,0000,,les courses à l'armement, Dialogue: 0,0:17:03.50,0:17:05.71,Default,,0000,0000,0000,,les problèmes communs cataclysmiques, Dialogue: 0,0:17:07.67,0:17:11.85,Default,,0000,0000,0000,,afin de faire face\Naux vulnérabilités de type 2a. Dialogue: 0,0:17:11.88,0:17:13.83,Default,,0000,0000,0000,,CA : La gouvernance mondiale est un terme Dialogue: 0,0:17:13.83,0:17:16.06,Default,,0000,0000,0000,,qui n'est plus du tout\Nà la mode actuellement, Dialogue: 0,0:17:16.08,0:17:18.60,Default,,0000,0000,0000,,mais vous pourriez avancer\Nqu'au cours de l'histoire, Dialogue: 0,0:17:18.60,0:17:19.98,Default,,0000,0000,0000,,de l'histoire de l'humanité, Dialogue: 0,0:17:19.98,0:17:25.35,Default,,0000,0000,0000,,à chaque moment de montée\Ndu pouvoir technologique, Dialogue: 0,0:17:25.38,0:17:28.60,Default,,0000,0000,0000,,les gens se sont réorganisés\Net ont centralisé le pouvoir. Dialogue: 0,0:17:28.62,0:17:32.06,Default,,0000,0000,0000,,Par exemple, quand un groupe\Nde criminels itinérants Dialogue: 0,0:17:32.08,0:17:34.09,Default,,0000,0000,0000,,pouvait prendre le contrôle d'une société, Dialogue: 0,0:17:34.09,0:17:36.03,Default,,0000,0000,0000,,la réponse a été d'avoir un État-nation Dialogue: 0,0:17:36.06,0:17:38.49,Default,,0000,0000,0000,,et une force centralisée,\Npolicière ou militaire, Dialogue: 0,0:17:38.51,0:17:40.14,Default,,0000,0000,0000,,pour que ce ne soit pas possible. Dialogue: 0,0:17:40.17,0:17:44.73,Default,,0000,0000,0000,,La logique d'avoir une seule personne\Nou un seul groupe Dialogue: 0,0:17:44.75,0:17:46.39,Default,,0000,0000,0000,,capable d'éradiquer l'humanité Dialogue: 0,0:17:46.42,0:17:49.14,Default,,0000,0000,0000,,signifie qu'à un moment,\Nnous devrons emprunter ce chemin, Dialogue: 0,0:17:49.17,0:17:50.60,Default,,0000,0000,0000,,sous une certaine forme, non ? Dialogue: 0,0:17:50.62,0:17:54.31,Default,,0000,0000,0000,,NB : Il est vrai que l'échelle\Nde l'organisation politique a augmenté Dialogue: 0,0:17:54.33,0:17:56.48,Default,,0000,0000,0000,,au cours de l'histoire humaine. Dialogue: 0,0:17:56.50,0:17:58.52,Default,,0000,0000,0000,,C'était un groupe de chasseurs-cueilleurs, Dialogue: 0,0:17:58.54,0:18:01.48,Default,,0000,0000,0000,,puis des chefferies,\Ndes cité-États, des nations, Dialogue: 0,0:18:01.50,0:18:05.48,Default,,0000,0000,0000,,maintenant il y a des organisations\Ninternationales et ainsi de suite. Dialogue: 0,0:18:05.50,0:18:07.02,Default,,0000,0000,0000,,Je veux juste m'assurer Dialogue: 0,0:18:07.04,0:18:08.68,Default,,0000,0000,0000,,d'avoir l'opportunité d'insister Dialogue: 0,0:18:08.68,0:18:10.75,Default,,0000,0000,0000,,qu'il y a évidemment\Nd'énormes inconvénients Dialogue: 0,0:18:10.75,0:18:12.23,Default,,0000,0000,0000,,et d'énormes risques Dialogue: 0,0:18:12.25,0:18:15.60,Default,,0000,0000,0000,,dans la surveillance de masse\Net la gouvernance mondiale. Dialogue: 0,0:18:15.62,0:18:18.18,Default,,0000,0000,0000,,Je vais faire remarquer\Nque si nous sommes chanceux, Dialogue: 0,0:18:18.18,0:18:20.99,Default,,0000,0000,0000,,le monde pourrait être tel\Nque ce seraient les seules façons Dialogue: 0,0:18:20.99,0:18:22.43,Default,,0000,0000,0000,,de survivre à une boule noire. Dialogue: 0,0:18:22.46,0:18:24.98,Default,,0000,0000,0000,,CA : La logique de cette théorie, Dialogue: 0,0:18:25.00,0:18:26.27,Default,,0000,0000,0000,,me semble-t-il, Dialogue: 0,0:18:26.29,0:18:29.89,Default,,0000,0000,0000,,c'est que nous devons reconnaître\Nque nous ne pouvons pas tout avoir. Dialogue: 0,0:18:29.92,0:18:31.75,Default,,0000,0000,0000,,C'est le genre Dialogue: 0,0:18:33.50,0:18:36.48,Default,,0000,0000,0000,,de rêve naïf, si je puis dire,\Nque nombre d'entre nous avaient Dialogue: 0,0:18:36.50,0:18:39.85,Default,,0000,0000,0000,,que la technologie sera toujours\Nune force du bien, Dialogue: 0,0:18:39.88,0:18:42.85,Default,,0000,0000,0000,,qu'il ne faut ne pas s'arrêter,\Naller aussi vite que possible Dialogue: 0,0:18:42.88,0:18:45.32,Default,,0000,0000,0000,,et ne pas prêter attention\Nà certaines conséquences, Dialogue: 0,0:18:45.32,0:18:46.93,Default,,0000,0000,0000,,ce n'est même pas une option. Dialogue: 0,0:18:46.96,0:18:48.89,Default,,0000,0000,0000,,Nous pouvons le faire. Dialogue: 0,0:18:48.92,0:18:50.18,Default,,0000,0000,0000,,Si nous le faisons, Dialogue: 0,0:18:50.21,0:18:51.64,Default,,0000,0000,0000,,il faudra accepter Dialogue: 0,0:18:51.67,0:18:54.20,Default,,0000,0000,0000,,certaines choses très désagréables Dialogue: 0,0:18:54.20,0:18:56.50,Default,,0000,0000,0000,,et faire la course à l'armement\Navec nous-mêmes : Dialogue: 0,0:18:56.50,0:18:58.93,Default,,0000,0000,0000,,si vous voulez le pouvoir,\Nvous devriez le confiner, Dialogue: 0,0:18:58.93,0:19:00.93,Default,,0000,0000,0000,,vous devriez trouver comment le confiner. Dialogue: 0,0:19:00.96,0:19:04.43,Default,,0000,0000,0000,,NB : Je pense que c'est une option, Dialogue: 0,0:19:04.46,0:19:07.23,Default,,0000,0000,0000,,une option très tentante,\Ndans un sens la plus simple Dialogue: 0,0:19:07.25,0:19:08.65,Default,,0000,0000,0000,,et cela pourrait fonctionner, Dialogue: 0,0:19:08.65,0:19:13.35,Default,,0000,0000,0000,,mais nous sommes alors vulnérables\Nà l'extraction d'une boule noire. Dialogue: 0,0:19:13.38,0:19:15.52,Default,,0000,0000,0000,,Avec un peu de coordination -- Dialogue: 0,0:19:15.54,0:19:18.27,Default,,0000,0000,0000,,en résolvant ce problème\Nde macro gouvernance Dialogue: 0,0:19:18.27,0:19:19.92,Default,,0000,0000,0000,,et celui de micro gouvernance -- Dialogue: 0,0:19:19.92,0:19:22.31,Default,,0000,0000,0000,,nous pourrions extraire\Ntoutes les boules de l'urne Dialogue: 0,0:19:22.31,0:19:24.52,Default,,0000,0000,0000,,et nous en bénéficierons grandement. Dialogue: 0,0:19:24.54,0:19:27.98,Default,,0000,0000,0000,,CA : Si nous vivons dans une simulation,\Ncela importe-t-il ? Dialogue: 0,0:19:28.00,0:19:29.31,Default,,0000,0000,0000,,Nous recommençons. Dialogue: 0,0:19:29.33,0:19:30.60,Default,,0000,0000,0000,,(Rires) Dialogue: 0,0:19:30.62,0:19:32.27,Default,,0000,0000,0000,,NB : Alors... je... Dialogue: 0,0:19:32.29,0:19:34.77,Default,,0000,0000,0000,,(Rires) Dialogue: 0,0:19:34.79,0:19:36.21,Default,,0000,0000,0000,,Je ne l'ai pas vu arriver. Dialogue: 0,0:19:38.12,0:19:39.61,Default,,0000,0000,0000,,CA : Quelle est votre opinion ? Dialogue: 0,0:19:39.61,0:19:41.72,Default,,0000,0000,0000,,En rassemblant toutes les pièces, Dialogue: 0,0:19:41.72,0:19:44.25,Default,,0000,0000,0000,,quelle est notre probabilité\Nd'être condamnés ? Dialogue: 0,0:19:44.25,0:19:46.21,Default,,0000,0000,0000,,(Rires) Dialogue: 0,0:19:47.04,0:19:49.43,Default,,0000,0000,0000,,J'adore comment les gens rient\Nà cette question. Dialogue: 0,0:19:49.46,0:19:50.81,Default,,0000,0000,0000,,NB : A un niveau individuel, Dialogue: 0,0:19:50.83,0:19:54.68,Default,,0000,0000,0000,,nous semblons condamnés,\Njuste d'un point de vue de l'échéance, Dialogue: 0,0:19:54.71,0:19:57.31,Default,,0000,0000,0000,,nous nous décomposons et vieillissons. Dialogue: 0,0:19:57.33,0:19:58.93,Default,,0000,0000,0000,,(Rires) Dialogue: 0,0:19:58.96,0:20:00.64,Default,,0000,0000,0000,,C'est délicat. Dialogue: 0,0:20:00.67,0:20:03.43,Default,,0000,0000,0000,,Si vous voulez y attacher une probabilité, Dialogue: 0,0:20:03.46,0:20:04.94,Default,,0000,0000,0000,,tout d'abord, qui sommes-nous ? Dialogue: 0,0:20:04.94,0:20:07.48,Default,,0000,0000,0000,,Si vous êtes vieux,\Nvous mourrez de causes naturelles. Dialogue: 0,0:20:07.50,0:20:09.85,Default,,0000,0000,0000,,Si vous êtes jeune,\Nvous avez 100 ans peut-être, Dialogue: 0,0:20:09.88,0:20:12.02,Default,,0000,0000,0000,,selon à qui vous demandez. Dialogue: 0,0:20:12.04,0:20:16.27,Default,,0000,0000,0000,,Le seuil : qu'est-ce qui compte\Ncomme un dévaste civilisationnel ? Dialogue: 0,0:20:16.29,0:20:21.93,Default,,0000,0000,0000,,Dans l'article, je n'ai pas besoin\Nd'une catastrophe civilisationnelle Dialogue: 0,0:20:21.96,0:20:23.39,Default,,0000,0000,0000,,pour que cela compte. Dialogue: 0,0:20:23.42,0:20:25.10,Default,,0000,0000,0000,,C'est une question de définition. Dialogue: 0,0:20:25.12,0:20:26.43,Default,,0000,0000,0000,,Je dis un milliard de morts Dialogue: 0,0:20:26.46,0:20:28.52,Default,,0000,0000,0000,,ou une diminution du PIB mondial de 50%, Dialogue: 0,0:20:28.54,0:20:30.77,Default,,0000,0000,0000,,mais selon le seuil que vous donnez, Dialogue: 0,0:20:30.79,0:20:32.77,Default,,0000,0000,0000,,vous aurez une probabilité différente. Dialogue: 0,0:20:32.79,0:20:37.31,Default,,0000,0000,0000,,Vous pourriez dire que je suis\Nun optimiste effrayé. Dialogue: 0,0:20:37.33,0:20:38.43,Default,,0000,0000,0000,,(Rires) Dialogue: 0,0:20:38.46,0:20:40.12,Default,,0000,0000,0000,,CA : Vous êtes un optimiste effrayé Dialogue: 0,0:20:40.12,0:20:45.71,Default,,0000,0000,0000,,et vous venez de créer un grand nombre\Nd'autres personnes effrayées. Dialogue: 0,0:20:45.71,0:20:46.77,Default,,0000,0000,0000,,(Rires) Dialogue: 0,0:20:46.79,0:20:48.06,Default,,0000,0000,0000,,NB : Dans la simulation. Dialogue: 0,0:20:48.08,0:20:49.35,Default,,0000,0000,0000,,CA : Dans une simulation. Dialogue: 0,0:20:49.38,0:20:51.06,Default,,0000,0000,0000,,Nick Bostrom, votre esprit m'épate. Dialogue: 0,0:20:51.08,0:20:53.98,Default,,0000,0000,0000,,Merci beaucoup de nous avoir effrayés. Dialogue: 0,0:20:54.00,0:20:56.38,Default,,0000,0000,0000,,(Applaudissements)