WEBVTT

00:00:01.000 --> 00:00:02.809
Chris Anderson : Nick Bostrom.

00:00:02.833 --> 00:00:06.809
Vous nous avez déjà offert
tant d'idées folles.

00:00:06.833 --> 00:00:08.559
Je pense à il y a environ 20 ans,

00:00:08.583 --> 00:00:11.682
vous avez avancé que nous pourrions
tous vivre dans une simulation

00:00:11.682 --> 00:00:13.351
ou que c'était probablement le cas.

00:00:13.375 --> 00:00:14.726
Plus récemment,

00:00:14.750 --> 00:00:17.135
vous avez dépeint les exemples
les plus saisissants

00:00:17.135 --> 00:00:19.655
quant à comment une intelligence
générale artificielle

00:00:19.655 --> 00:00:21.348
pourrait terriblement mal tourner.

00:00:21.750 --> 00:00:23.143
Cette année,

00:00:23.167 --> 00:00:25.393
vous êtes sur le point de publier

00:00:25.417 --> 00:00:29.351
un article qui présente une chose appelée
l'hypothèse du monde vulnérable.

00:00:29.375 --> 00:00:33.958
Notre rôle ce soir est d'offrir
un guide illustré à ce sujet.

00:00:34.417 --> 00:00:36.250
Allons-y.

00:00:36.833 --> 00:00:38.625
Quelle est cette hypothèse ?

NOTE Paragraph

00:00:40.000 --> 00:00:42.434
Nick Bostrom :
C'est une tentative de réflexion

00:00:42.458 --> 00:00:45.972
sur une caractéristique structurelle
de la condition humaine actuelle.

00:00:47.125 --> 00:00:49.476
Vous aimez la métaphore de l'urne

00:00:49.500 --> 00:00:51.403
alors je vais l'utiliser pour expliquer.

00:00:51.403 --> 00:00:55.768
Imaginez une grande urne remplie de boules

00:00:55.792 --> 00:00:59.750
représentant des idées, des méthodes,
des technologies possibles.

00:01:00.833 --> 00:01:04.559
Vous pouvez voir l'histoire
de la créativité humaine

00:01:04.583 --> 00:01:06.637
comme le fait de plonger
la main dans l'urne

00:01:06.637 --> 00:01:08.507
et d'en sortir une boule après l'autre,

00:01:08.507 --> 00:01:11.643
et le résultat jusqu'ici
a été extrêmement bénéfique.

00:01:11.667 --> 00:01:14.393
Nous avons extrait
de nombreuses boules blanches,

00:01:14.393 --> 00:01:17.348
quelques grises
dont les bienfaits sont mitigés.

00:01:18.042 --> 00:01:21.000
Jusqu'ici, nous n'avons pas
sorti la boule noire --

00:01:22.292 --> 00:01:27.768
une technologie qui détruit invariablement
la civilisation qui la découvre.

00:01:27.792 --> 00:01:31.223
La publication essaye de réfléchir
à ce qu'une balle noire pourrait être.

NOTE Paragraph

00:01:31.223 --> 00:01:32.893
CA : Vous définissez cette boule

00:01:32.917 --> 00:01:36.601
comme étant celle menant invariablement
à la destruction de la civilisation.

NOTE Paragraph

00:01:36.625 --> 00:01:38.888
NB : A moins que nous ne sortions

00:01:38.888 --> 00:01:41.958
de ce que j'appelle la condition
semi-anarchique par défaut.

00:01:41.958 --> 00:01:43.458
Mais par défaut.

NOTE Paragraph

00:01:44.333 --> 00:01:47.851
CA : Vous présentez
un argumentaire convaincant

00:01:47.875 --> 00:01:49.893
en montrant des contre-exemples

00:01:49.917 --> 00:01:52.851
où vous croyez que jusqu'ici,
nous avons eu de la chance,

00:01:52.875 --> 00:01:55.726
que nous pourrions avoir sorti
la boule de la mort

00:01:55.750 --> 00:01:57.309
sans même le savoir.

00:01:57.333 --> 00:01:59.625
Il y a cette citation, quelle est-elle ?

NOTE Paragraph

00:02:00.625 --> 00:02:03.309
NB : Je suppose
qu'elle est censée illustrer

00:02:03.333 --> 00:02:05.434
la difficulté liée à la prédiction

00:02:05.458 --> 00:02:08.143
de ce à quoi mèneront
des découvertes élémentaires.

00:02:08.167 --> 00:02:11.226
Nous n'avons simplement pas
cette capacité.

00:02:11.250 --> 00:02:14.601
Car nous sommes devenus bons
dans l'extraction de boules

00:02:14.625 --> 00:02:18.351
mais nous n'avons pas la capacité
de remettre la boule dans l'urne.

00:02:18.375 --> 00:02:21.162
Nous pouvons inventer
mais nous ne pouvons pas désinventer.

00:02:21.583 --> 00:02:24.351
Notre stratégie actuelle

00:02:24.375 --> 00:02:26.963
est d'espérer qu'il n'y pas
de boule noire dans l'urne.

NOTE Paragraph

00:02:26.963 --> 00:02:30.893
CA : Une fois sortie, elle est sortie
et vous ne pouvez pas la remettre,

00:02:30.917 --> 00:02:32.434
et vous nous pensez chanceux.

00:02:32.458 --> 00:02:34.684
Expliquez-nous quelques-uns
de ces exemples.

00:02:34.708 --> 00:02:37.809
Vous parlez de différents types
de vulnérabilités.

NOTE Paragraph

00:02:37.833 --> 00:02:40.268
NB : Le type le plus simple à comprendre

00:02:40.292 --> 00:02:45.634
est une technologie qui rend
la destruction massive très facile.

00:02:47.375 --> 00:02:50.893
La biologie synthétique pourrait être
une source féconde d'une telle boule,

00:02:50.917 --> 00:02:53.601
mais nombre d'autres choses
que nous pourrions --

00:02:53.625 --> 00:02:56.063
pensez à la géo-ingénierie,
c'est génial, non ?

00:02:56.063 --> 00:02:58.417
Nous pourrions contrer
le réchauffement climatique

00:02:58.417 --> 00:03:00.653
mais nous ne voulons pas
que ce soit trop simple

00:03:00.653 --> 00:03:03.059
et qu'un individu quelconque
et sa grand-mère

00:03:03.083 --> 00:03:06.143
aient la capacité d'altérer radicalement
le climat terrestre.

00:03:06.167 --> 00:03:09.726
Ou peut-être les drones autonomes mortels,

00:03:09.750 --> 00:03:11.483
des essaims de robots tueurs

00:03:11.483 --> 00:03:13.843
de la taille d'un moustique
et produits en masse.

00:03:14.500 --> 00:03:17.226
La nanotechnologie,
l'intelligence générale artificielle.

NOTE Paragraph

00:03:17.250 --> 00:03:18.559
CA : Vous avancez

00:03:18.583 --> 00:03:21.530
que c'est une question de chance
que quand nous avons découvert

00:03:21.530 --> 00:03:24.934
que la puissance nucléaire
pouvait créer une bombe,

00:03:24.958 --> 00:03:26.351
il aurait pu arriver

00:03:26.375 --> 00:03:28.226
que nous puissions créer une bombe

00:03:28.250 --> 00:03:31.809
avec des ressources bien plus simples
d'accès pour quiconque.

NOTE Paragraph

00:03:31.833 --> 00:03:35.393
NB : Repensez aux années 30,

00:03:35.417 --> 00:03:37.382
où pour la première fois nous avons fait

00:03:37.382 --> 00:03:40.042
des découvertes capitales
en physique nucléaire,

00:03:40.042 --> 00:03:41.760
un génie découvre qu'il est possible

00:03:41.760 --> 00:03:43.820
d'entraîner une réaction
nucléaire en chaîne

00:03:43.820 --> 00:03:46.934
puis réalise que cela pourrait
mener à la bombe.

00:03:46.958 --> 00:03:48.851
Nous continuons à y travailler

00:03:48.875 --> 00:03:51.601
et il s'avère qu'il vous faut,
pour une bombe nucléaire,

00:03:51.625 --> 00:03:54.018
de l'uranium ou du plutonium
hautement enrichi,

00:03:54.042 --> 00:03:56.059
qui sont très difficiles à obtenir.

00:03:56.083 --> 00:03:58.351
Vous avez besoin d'ultracentrifugeuses,

00:03:58.375 --> 00:04:02.143
de réacteurs et de quantités
massives d'énergie.

00:04:02.167 --> 00:04:03.976
Mais supposez qu'au lieu de cela,

00:04:04.000 --> 00:04:07.976
il y ait eu une façon simple
de libérer l'énergie de l'atome.

00:04:08.000 --> 00:04:10.728
Peut-être qu'en cuisant du sable
dans un four micro-ondes

00:04:10.728 --> 00:04:11.989
ou quelque chose du genre,

00:04:11.989 --> 00:04:14.188
vous auriez pu causer
une détonation nucléaire.

00:04:14.188 --> 00:04:16.351
Nous savons que c'est
physiquement impossible.

00:04:16.375 --> 00:04:18.342
Mais avant de faire les calculs adéquats,

00:04:18.342 --> 00:04:20.483
comment savoir
comment cela allait tourner ?

NOTE Paragraph

00:04:20.507 --> 00:04:24.023
CA : Ne pourriez-vous pas avancer
que pour que la vie évolue sur Terre,

00:04:24.042 --> 00:04:27.309
cela suppose un environnement stable,

00:04:27.333 --> 00:04:30.472
que s'il était possible de causer
des réactions nucléaires massives

00:04:30.472 --> 00:04:31.642
relativement facilement,

00:04:31.642 --> 00:04:33.400
la Terre n'aurait jamais été stable,

00:04:33.424 --> 00:04:34.976
nous ne serions pas là.

NOTE Paragraph

00:04:35.000 --> 00:04:38.393
NB : Oui, à moins qu'il y ait une chose
facile à faire volontairement

00:04:38.417 --> 00:04:41.268
mais qui n'arriverait pas par hasard.

00:04:41.292 --> 00:04:42.871
Des choses faciles à faire,

00:04:42.896 --> 00:04:45.071
comme empiler 10 cubes
les uns sur les autres,

00:04:45.071 --> 00:04:48.228
mais dans la nature, vous ne trouverez pas
une pile de 10 cubes.

NOTE Paragraph

00:04:48.253 --> 00:04:49.926
CA : C'est probablement la chose

00:04:49.950 --> 00:04:52.057
qui inquiète le plus
la majorité d'entre nous

00:04:52.057 --> 00:04:55.434
et oui, la biologie synthétique
est peut-être le chemin le plus rapide

00:04:55.458 --> 00:04:58.500
qui, nous pouvons envisager,
nous y mènera dans un avenir proche.

NOTE Paragraph

00:04:58.500 --> 00:05:01.434
NB : Réfléchissez
à ce que cela aurait signifié

00:05:01.458 --> 00:05:05.101
si, disons, quiconque travaillant
dans sa cuisine pendant un après-midi

00:05:05.125 --> 00:05:06.518
pouvait détruire une ville.

00:05:06.542 --> 00:05:10.101
Il est difficile de voir comment
la civilisation moderne actuelle

00:05:10.125 --> 00:05:11.559
aurait pu survivre à cela.

00:05:11.583 --> 00:05:14.101
Car dans toute population
d'un million de personnes,

00:05:14.125 --> 00:05:16.809
il y aura toujours quelqu'un
qui, peu importe la raison,

00:05:16.833 --> 00:05:18.917
choisira d'utiliser
ce pouvoir destructeur.

00:05:19.750 --> 00:05:22.893
Si ce résidu apocalyptique

00:05:22.917 --> 00:05:24.893
décidait de détruire une ville, ou pire,

00:05:24.917 --> 00:05:26.476
des villes seraient détruites.

NOTE Paragraph

00:05:26.500 --> 00:05:28.851
CA : Voici un autre type de vulnérabilité.

00:05:28.875 --> 00:05:30.518
Parlez-en.

NOTE Paragraph

00:05:30.542 --> 00:05:34.518
NB : En plus de ces types
de balles noires évidents

00:05:34.542 --> 00:05:37.496
qui rendraient possible
de faire exploser plein de choses,

00:05:37.496 --> 00:05:41.809
d'autres types agiraient en créant
de mauvaises incitations

00:05:41.833 --> 00:05:44.173
pour que les humains
fassent des choses nuisibles.

00:05:44.173 --> 00:05:48.184
Le type 2a, nous pouvons l'appeler ainsi,

00:05:48.208 --> 00:05:52.726
c'est réfléchir à une technologie
qui invite les grandes puissances

00:05:52.750 --> 00:05:57.226
à utiliser leurs forces massives
pour causer de la destruction.

00:05:57.250 --> 00:06:00.083
Les armes nucléaires
en étaient très proches.

00:06:02.083 --> 00:06:05.143
Nous avons dépensé
plus de 10 billions de dollars

00:06:05.167 --> 00:06:07.684
pour fabriquer 70 000 ogives nucléaires

00:06:07.708 --> 00:06:10.143
et les placer en état
d'alerte instantanée.

00:06:10.167 --> 00:06:12.434
A plusieurs reprises
durant la Guerre froide,

00:06:12.458 --> 00:06:13.893
on a failli se faire sauter.

00:06:13.917 --> 00:06:17.092
Non pas que beaucoup de gens pensaient
que ce serait une super idée

00:06:17.092 --> 00:06:19.726
de dépenser 10 billions de dollars
pour se faire sauter,

00:06:19.750 --> 00:06:22.684
mais les incitations étaient telles
que nous nous trouvions --

00:06:22.708 --> 00:06:24.018
cela aurait pu être pire.

00:06:24.042 --> 00:06:26.476
Imaginez s'il y a avait eu
un premier coup assuré.

00:06:26.500 --> 00:06:28.809
Cela aurait pu être très délicat,

00:06:28.833 --> 00:06:30.175
dans une situation de crise,

00:06:30.175 --> 00:06:32.646
de s'abstenir de lancer
tous les missiles nucléaires.

00:06:32.646 --> 00:06:33.743
A défaut d'autre chose,

00:06:33.743 --> 00:06:36.042
car vous craindriez
que l'autre camp ne le fasse.

NOTE Paragraph

00:06:36.042 --> 00:06:37.851
CA : La destruction mutuelle assurée

00:06:37.875 --> 00:06:40.601
a maintenu la Guerre froide
relativement stable.

00:06:40.625 --> 00:06:42.583
Sans cela, nous pourrions ne pas être là.

NOTE Paragraph

00:06:42.583 --> 00:06:44.873
NB : Cela aurait pu être
plus instable que cela.

00:06:44.873 --> 00:06:47.452
Il pourrait y avoir
d'autres propriétés technologiques.

00:06:47.452 --> 00:06:49.601
Il aurait pu être plus dur
d'avoir des traités

00:06:49.625 --> 00:06:51.226
si au lieu des armes nucléaires,

00:06:51.250 --> 00:06:54.212
cela avait été une chose plus petite
ou moins distinctive.

NOTE Paragraph

00:06:54.212 --> 00:06:57.175
CA : Avec les mauvaises incitations
pour les acteurs puissants,

00:06:57.175 --> 00:07:00.417
vous vous inquiétez de telles incitations
pour nous tous, le type 2b.

NOTE Paragraph

00:07:00.417 --> 00:07:04.667
NB : Nous pourrions prendre le cas
du réchauffement climatique.

00:07:06.958 --> 00:07:08.851
Il y a beaucoup de petits conforts

00:07:08.875 --> 00:07:11.163
qui mènent chacun d'entre nous
à faire des choses

00:07:11.163 --> 00:07:13.934
qui, individuellement,
n'ont pas d'effet significatif.

00:07:13.958 --> 00:07:15.884
Mais si des milliards de gens le font,

00:07:15.884 --> 00:07:18.042
cumulativement, cela a
un effet préjudiciable.

00:07:18.042 --> 00:07:20.995
Le réchauffement climatique
aurait pu être pire qu'il ne l'est.

00:07:20.995 --> 00:07:23.851
Nous avons le paramètre
de sensibilité climatique.

00:07:23.875 --> 00:07:27.518
C'est un paramètre
qui indique le réchauffement

00:07:27.542 --> 00:07:30.250
si on émet une certaine quantité
de gaz à effet de serre.

00:07:30.250 --> 00:07:32.643
Mais supposez que la situation

00:07:32.667 --> 00:07:35.338
soit qu'avec les quantités
de gaz à effet de serre émis,

00:07:35.338 --> 00:07:41.042
au lieu d'une température augmentant
d'entre 3 et 4,5 degrés d'ici 2100,

00:07:41.042 --> 00:07:43.542
imaginez que c'eût été 15 ou 20 degrés.

00:07:44.375 --> 00:07:46.934
La situation aurait alors
été très mauvaise.

00:07:46.958 --> 00:07:50.245
Imaginez que les énergies renouvelables
aient été bien plus complexes.

00:07:50.245 --> 00:07:52.768
Ou qu'il y ait eu
plus de carburants fossiles.

NOTE Paragraph

00:07:52.792 --> 00:07:55.434
CA : Ne pourriez-vous pas avancer
que dans ce cas de --

00:07:55.458 --> 00:07:57.184
si ce que nous faisons aujourd'hui

00:07:57.208 --> 00:08:01.768
avait entraîné une différence de 10 degrés
sur une période que nous pourrions voir,

00:08:01.792 --> 00:08:05.476
l'humanité se serait bougé le cul
et y aurait fait quelque chose.

00:08:05.500 --> 00:08:08.309
Nous sommes stupides,
mais peut-être pas autant.

00:08:08.333 --> 00:08:09.601
Ou peut-être que si.

NOTE Paragraph

00:08:09.625 --> 00:08:10.893
NB : Je ne parierais pas.

NOTE Paragraph

00:08:10.917 --> 00:08:13.101
(Rires)

NOTE Paragraph

00:08:13.125 --> 00:08:15.033
Vous pourriez imaginer d'autres options.

00:08:15.033 --> 00:08:20.351
Actuellement, c'est un peu difficile
de passer aux énergies renouvelables,

00:08:20.375 --> 00:08:21.643
mais c'est possible.

00:08:21.667 --> 00:08:24.727
Cela aurait pu être que,
avec une physique légèrement différente,

00:08:24.727 --> 00:08:27.458
il aurait été bien plus cher
de faire ces choses-là.

NOTE Paragraph

00:08:28.375 --> 00:08:29.893
CA : Quelle est votre opinion ?

00:08:29.917 --> 00:08:32.351
Pensez-vous, en réunissant
ces possibilités,

00:08:32.375 --> 00:08:36.643
cette Terre, l'humanité que nous sommes,

00:08:36.667 --> 00:08:38.250
nous sommes un monde vulnérable ?

00:08:38.250 --> 00:08:40.667
Qu'il y a une boule de la mort
dans notre futur ?

NOTE Paragraph

00:08:43.958 --> 00:08:45.300
NB : C'est difficile à dire.

00:08:45.300 --> 00:08:50.309
Je pense qu'il pourrait y avoir
diverses boules noires dans l'urne,

00:08:50.333 --> 00:08:51.643
c'est ce qu'il semble.

00:08:51.667 --> 00:08:54.059
Il pourrait aussi y avoir
des boules dorées

00:08:54.083 --> 00:08:57.559
qui nous aideraient
à nous protéger des boules noires.

00:08:57.583 --> 00:09:00.559
Je ne sais pas dans quel ordre
elles vont sortir.

NOTE Paragraph

00:09:00.583 --> 00:09:04.434
CA : Une critique philosophique
possible de cette idée,

00:09:04.458 --> 00:09:10.101
c'est que cela implique une vision
de l'avenir qui est globalement établie.

00:09:10.125 --> 00:09:12.601
Soit cette boule est là,
soit elle ne l'est pas.

00:09:12.625 --> 00:09:16.967
D'une certaine façon,
ce n'est pas une vision de l'avenir

00:09:16.967 --> 00:09:18.268
en laquelle je veux croire.

00:09:18.292 --> 00:09:20.643
Je veux croire que l'avenir
est indéterminé,

00:09:20.667 --> 00:09:22.685
que nos décisions
aujourd'hui détermineront

00:09:22.685 --> 00:09:24.833
quel genre de boules
nous sortons de l'urne.

NOTE Paragraph

00:09:25.917 --> 00:09:29.684
NB : Si nous continuons à inventer,

00:09:29.708 --> 00:09:32.042
nous finirons par sortir
toutes les boules.

00:09:32.875 --> 00:09:36.268
Je pense qu'il y a une forme
de déterminisme technologique

00:09:36.292 --> 00:09:37.559
qui est assez plausible.

00:09:37.583 --> 00:09:40.226
Vous avez peu de probabilités
de rencontrer une société

00:09:40.250 --> 00:09:43.083
qui utilise des haches en silex
et des avions à réaction.

00:09:44.208 --> 00:09:48.188
Vous pouvez presque voir la technologie
comme un ensemble de potentialités.

00:09:48.188 --> 00:09:51.403
La technologie est la chose
nous permettant de faire diverses choses

00:09:51.403 --> 00:09:53.309
et d'obtenir divers effets sur le monde.

00:09:53.333 --> 00:09:56.143
Comment nous allons l'utiliser
dépend des choix humains.

00:09:56.167 --> 00:09:58.851
Mais si vous pensez
à ces trois types de vulnérabilités,

00:09:58.875 --> 00:10:02.268
elles ne supposent pas tant
de comment nous choisirions de l'utiliser.

00:10:02.292 --> 00:10:05.644
Une vulnérabilité de type 1,
cet énorme pouvoir destructeur,

00:10:05.644 --> 00:10:07.167
ce n'est pas une hypothèse forte

00:10:07.167 --> 00:10:09.663
de penser que dans une population
de millions de gens

00:10:09.663 --> 00:10:12.518
il y en aurait qui choisiraient
de l'utiliser pour détruire.

NOTE Paragraph

00:10:12.542 --> 00:10:14.976
CA : Pour moi, l'argument
qui me perturbe le plus,

00:10:15.000 --> 00:10:19.559
c'est que nous pourrions
avoir un aperçu de l'urne

00:10:19.583 --> 00:10:23.101
qui rendrait très probable
que nous soyons condamnés.

00:10:23.125 --> 00:10:27.768
Si vous croyez au pouvoir accélérateur,

00:10:27.792 --> 00:10:30.059
qu'intrinsèquement,
la technologie accélère,

00:10:30.083 --> 00:10:32.672
que nous créons les outils
nous rendant plus puissants,

00:10:32.672 --> 00:10:35.184
vous finissez par en arriver à un point

00:10:35.208 --> 00:10:38.268
où chaque individu peut tous nous éliminer

00:10:38.292 --> 00:10:41.143
et il semble alors que nous soyons foutus.

00:10:41.167 --> 00:10:44.101
Cet argument n'est-il pas alarmant ?

NOTE Paragraph

00:10:44.125 --> 00:10:45.875
NB : Oui.

NOTE Paragraph

00:10:46.708 --> 00:10:47.976
(Rires)

NOTE Paragraph

00:10:48.000 --> 00:10:49.333
Je pense --

00:10:50.875 --> 00:10:52.650
Nous avons de plus en plus de pouvoir

00:10:52.650 --> 00:10:56.434
et il est de plus en plus simple
d'utiliser ce pouvoir,

00:10:56.458 --> 00:10:58.748
mais nous pouvons aussi
inventer des technologies

00:10:58.748 --> 00:11:02.283
qui nous aident à contrôler l'utilisation
que les gens font de ce pouvoir.

NOTE Paragraph

00:11:02.303 --> 00:11:04.934
CA : Parlons de cela,
parlons de la réponse.

00:11:04.958 --> 00:11:07.268
Supposons que réfléchir
à toutes les possibilités

00:11:07.292 --> 00:11:09.393
qu'il y a actuellement --

00:11:09.417 --> 00:11:13.143
ce n'est pas que la biologie synthétique,
ce sont les cyberguerres,

00:11:13.167 --> 00:11:16.518
l'intelligence artificielle
et ainsi de suite --

00:11:16.542 --> 00:11:21.059
qu'il y a une condamnation
sérieuse dans notre avenir.

00:11:21.083 --> 00:11:22.848
Quelles sont les réponses possibles ?

00:11:22.848 --> 00:11:27.601
Vous avez parlé
de quatre réponses possibles.

NOTE Paragraph

00:11:27.625 --> 00:11:29.862
NB : Restreindre
le développement technologique

00:11:29.862 --> 00:11:31.292
ne semble pas prometteur

00:11:31.292 --> 00:11:33.302
si nous parlons
d'une interruption générale

00:11:33.302 --> 00:11:34.612
des progrès technologiques.

00:11:34.612 --> 00:11:36.443
Ce n'est ni faisable ni désirable,

00:11:36.443 --> 00:11:38.143
même si nous le pouvions.

00:11:38.183 --> 00:11:41.200
Je pense qu'il y a
des domaines très limités

00:11:41.208 --> 00:11:44.068
où vous pourriez vouloir
ralentir les progrès technologiques.

00:11:44.068 --> 00:11:47.351
Vous ne voulez pas de progrès
plus rapides pour les armes biologiques

00:11:47.375 --> 00:11:49.434
ou la séparation d'isotope,

00:11:49.458 --> 00:11:51.958
ce qui faciliterait la création
de bombes nucléaires.

NOTE Paragraph

00:11:52.583 --> 00:11:55.893
CA : Avant, j'étais
complètement d'accord avec cela.

00:11:55.917 --> 00:11:59.184
Mais j'aimerais prendre un instant
pour contre-argumenter.

00:11:59.208 --> 00:12:00.518
Tout d'abord,

00:12:00.542 --> 00:12:03.226
si vous considérez l'histoire
des dernières décennies,

00:12:03.250 --> 00:12:06.809
il y a toujours eu une évolution
vers l'avant à pleine vitesse,

00:12:06.833 --> 00:12:08.684
ça va, c'est notre seul choix.

00:12:08.708 --> 00:12:12.976
Mais si vous considérez la mondialisation
et son accélération rapide,

00:12:13.000 --> 00:12:16.434
si vous considérez la stratégie
d' « avancer vite et casser des trucs »

00:12:16.458 --> 00:12:18.518
et ce qui est arrivé,

00:12:18.542 --> 00:12:21.603
puis que vous considérez le potentiel
de la biologie synthétique,

00:12:21.603 --> 00:12:25.768
je ne sais pas si nous devrions
avancer rapidement

00:12:25.792 --> 00:12:27.434
ou sans aucune restriction

00:12:27.458 --> 00:12:30.768
vers un monde où vous pourriez avoir
une imprimante d'ADN à la maison

00:12:30.792 --> 00:12:32.125
et dans les lycées.

00:12:33.167 --> 00:12:34.851
Il y a des restrictions, non ?

NOTE Paragraph

00:12:34.875 --> 00:12:37.518
NB : Il y a la première partie :
l'infaisabilité.

00:12:37.542 --> 00:12:39.820
Si vous pensez qu'il serait
désirable d'arrêter,

00:12:39.820 --> 00:12:41.476
il y a le problème de faisabilité.

00:12:41.500 --> 00:12:44.309
Cela n'aide pas vraiment si une nation --

NOTE Paragraph

00:12:44.333 --> 00:12:46.351
CA : Cela n'aide pas si une nation arrête,

00:12:46.375 --> 00:12:49.309
mais nous avons eu des traités auparavant.

00:12:49.333 --> 00:12:52.684
C'est ainsi que nous avons survécu
à la menace nucléaire,

00:12:52.708 --> 00:12:56.526
c'est en en passant par le processus
douloureux des négociations.

00:12:56.542 --> 00:13:01.976
Je me demande si la logique n'est pas
que nous, en termes de priorité mondiale,

00:13:02.000 --> 00:13:03.684
nous ne devrions pas essayer,

00:13:03.708 --> 00:13:06.393
commencer à négocier maintenant
des règles très strictes

00:13:06.417 --> 00:13:09.101
sur les lieux de conduite
de recherches biologiques.

00:13:09.125 --> 00:13:11.976
Ce n'est pas une chose
que vous voulez démocratiser, si ?

NOTE Paragraph

00:13:12.000 --> 00:13:13.809
NB : Je suis complètement d'accord --

00:13:13.833 --> 00:13:18.059
il serait désirable, par exemple,

00:13:18.083 --> 00:13:21.684
d'avoir des machines de synthèse d'ADN,

00:13:21.708 --> 00:13:25.268
pas en tant que produit pour lequel
chaque labo a son appareil,

00:13:25.292 --> 00:13:26.768
mais en tant que service.

00:13:26.792 --> 00:13:29.309
Il pourrait y avoir
quatre ou cinq endroits au monde

00:13:29.333 --> 00:13:31.455
où vous pourriez envoyer
un modèle numérique

00:13:31.455 --> 00:13:32.875
et l'ADN arriverait à vous.

00:13:32.875 --> 00:13:34.643
Vous auriez la capacité,

00:13:34.667 --> 00:13:37.059
si un jour cela semblait
vraiment nécessaire,

00:13:37.083 --> 00:13:39.658
il y aurait un ensemble fini
de goulots d'étranglement.

00:13:39.658 --> 00:13:42.976
Je pense que vous voulez considérer
des opportunités particulières

00:13:43.000 --> 00:13:45.203
où vous pourriez avoir
un contrôle plus strict.

NOTE Paragraph

00:13:45.203 --> 00:13:46.726
CA : Vous croyez, au fond,

00:13:46.750 --> 00:13:49.643
que nous ne réussirons pas
à contenir les choses.

00:13:49.667 --> 00:13:52.393
Quelqu'un, quelque part --
en Corée du Nord --

00:13:52.417 --> 00:13:55.934
quelqu'un va y arriver
et découvrir ce savoir,

00:13:55.958 --> 00:13:57.226
s'il est à découvrir.

NOTE Paragraph

00:13:57.226 --> 00:13:59.625
NB : C'est plausible
dans les conditions actuelles.

00:13:59.625 --> 00:14:01.583
Ce n'est pas que la biologie synthétique.

00:14:01.583 --> 00:14:04.101
N'importe quel genre
de changement profond et nouveau

00:14:04.101 --> 00:14:05.727
pourrait être une boule noire.

NOTE Paragraph

00:14:05.727 --> 00:14:07.823
CA : Considérons
une autre réponse possible.

NOTE Paragraph

00:14:07.823 --> 00:14:10.226
NB : Ceci, à mon avis,
a un potentiel limité.

00:14:10.250 --> 00:14:13.809
Avec la vulnérabilité de type 1,

00:14:13.833 --> 00:14:18.184
si vous pouvez réduire le nombre
de personnes qui sont motivées

00:14:18.208 --> 00:14:19.476
à détruire le monde,

00:14:19.476 --> 00:14:21.643
si elles seules avaient
l'accès et les moyens,

00:14:21.643 --> 00:14:22.851
ce serait bien.

NOTE Paragraph

00:14:22.875 --> 00:14:24.851
CA : Dans cette image,

00:14:24.875 --> 00:14:27.204
vous imaginez ces drones
volant à travers le monde

00:14:27.204 --> 00:14:28.750
avec une reconnaissance faciale.

00:14:28.750 --> 00:14:31.887
Quand ils repèrent quelqu'un
présentant un comportement sociopathe,

00:14:31.887 --> 00:14:33.851
ils le couvrent d'amour, le rétablissent.

NOTE Paragraph

00:14:33.875 --> 00:14:35.768
NB : C'est une image hybride.

00:14:35.792 --> 00:14:39.809
Éliminer peut signifier
soit incarcérer ou tuer,

00:14:39.833 --> 00:14:42.851
soit les persuader d'avoir
une meilleure vision du monde.

00:14:42.875 --> 00:14:44.601
Le principe, c'est :

00:14:44.625 --> 00:14:46.768
imaginez être extrêmement performant

00:14:46.792 --> 00:14:50.101
et réduire le nombre
de tels individus de moitié.

00:14:50.125 --> 00:14:52.132
Si vous voulez le faire via la persuasion,

00:14:52.132 --> 00:14:54.334
vous rivalisez contre
toutes les grandes forces

00:14:54.334 --> 00:14:56.063
qui essayent de persuader les gens,

00:14:56.063 --> 00:14:58.178
les partis, la religion,
le système éducatif.

00:14:58.178 --> 00:14:59.997
Supposez pouvoir le réduire de moitié,

00:14:59.997 --> 00:15:02.143
le risque ne serait pas réduit de moitié.

00:15:02.167 --> 00:15:03.726
Peut-être de 5% ou 10%.

NOTE Paragraph

00:15:03.750 --> 00:15:06.895
CA : Vous ne recommandez pas
que l'on parie l'avenir de l'humanité

00:15:06.895 --> 00:15:08.125
sur la seconde réponse.

NOTE Paragraph

00:15:08.125 --> 00:15:11.143
NB : C'est bien d'essayer
de dissuader et persuader les gens,

00:15:11.167 --> 00:15:14.143
mais pas miser dessus
comme seul dispositif de sécurité.

NOTE Paragraph

00:15:14.167 --> 00:15:15.598
CA : Et la troisième réponse ?

NOTE Paragraph

00:15:15.598 --> 00:15:18.351
NB : Il y a deux méthodes générales

00:15:18.375 --> 00:15:22.351
que nous pourrions utiliser pour parvenir
à la capacité de stabiliser le monde

00:15:22.375 --> 00:15:25.351
face à l'éventail complet
des vulnérabilités possibles.

00:15:25.375 --> 00:15:26.934
Nous aurions besoin des deux.

00:15:26.958 --> 00:15:31.476
Une est une capacité optimale

00:15:31.500 --> 00:15:33.268
de prévention policière.

00:15:33.292 --> 00:15:34.816
Afin de pouvoir intercepter.

00:15:34.840 --> 00:15:37.601
Si quiconque entamait
cette chose dangereuse,

00:15:37.625 --> 00:15:40.309
vous pourriez l'intercepter
en temps réel et l'arrêter.

00:15:40.333 --> 00:15:42.809
Cela nécessiterait
une surveillance omniprésente,

00:15:42.833 --> 00:15:45.208
tout le monde serait
constamment surveillé.

NOTE Paragraph

00:15:46.333 --> 00:15:48.893
CA : C'est en gros
une forme de « Minority Report ».

NOTE Paragraph

00:15:48.917 --> 00:15:50.851
NB : Vous auriez des algorithmes d'IA,

00:15:50.875 --> 00:15:55.292
de gros centres de liberté
qui examineraient cela, et ainsi de suite.

NOTE Paragraph

00:15:56.583 --> 00:16:00.976
CA : La surveillance de masse
n'est pas très populaire en ce moment.

NOTE Paragraph

00:16:01.000 --> 00:16:02.250
(Rires)

NOTE Paragraph

00:16:03.458 --> 00:16:05.268
NB : Ce petit dispositif,

00:16:05.292 --> 00:16:08.893
imaginez ce genre de collier
que vous devriez porter tout le temps,

00:16:08.917 --> 00:16:10.917
avec des caméras multidirectionnelles.

00:16:11.792 --> 00:16:13.601
Mais pour que cela passe mieux,

00:16:13.625 --> 00:16:16.149
appelez-le la « balise
de la liberté » ou autre.

NOTE Paragraph

00:16:16.173 --> 00:16:18.184
(Rires)

NOTE Paragraph

00:16:18.208 --> 00:16:19.476
CA : D'accord.

00:16:19.500 --> 00:16:21.601
C'est la conversation --

00:16:21.625 --> 00:16:25.184
c'est pour cela que c'est
une conversation si époustouflante.

NOTE Paragraph

00:16:25.208 --> 00:16:29.159
NB : Il y a toute une conversation
à ce sujet-là en particulier.

00:16:29.167 --> 00:16:31.643
Il y a de gros problèmes
et risques avec cela.

00:16:31.667 --> 00:16:33.058
Nous y reviendrons peut-être.

00:16:33.058 --> 00:16:34.226
L'autre, la dernière,

00:16:34.250 --> 00:16:38.917
l'autre capacité de stabilisation générale
comble un autre vide dans la gouvernance.

00:16:38.917 --> 00:16:43.101
La surveillance comblerait pour un vide
dans la gouvernance à un niveau micro :

00:16:43.125 --> 00:16:46.226
empêcher quiconque de faire
quoi que ce soit de hautement illégal.

00:16:46.250 --> 00:16:48.559
Il y un vide équivalent
dans la gouvernance

00:16:48.583 --> 00:16:50.518
au niveau macro, au niveau mondial.

00:16:50.542 --> 00:16:54.476
Il vous faudrait la capacité fiable

00:16:54.500 --> 00:16:57.373
d'empêcher les pires types
d'échecs de coordination mondiale,

00:16:57.373 --> 00:17:01.101
d'éviter les guerres
entre les grandes puissances,

00:17:01.125 --> 00:17:02.458
les courses à l'armement,

00:17:03.500 --> 00:17:05.708
les problèmes communs cataclysmiques,

00:17:07.667 --> 00:17:11.851
afin de faire face
aux vulnérabilités de type 2a.

NOTE Paragraph

00:17:11.875 --> 00:17:13.833
CA : La gouvernance mondiale est un terme

00:17:13.833 --> 00:17:16.059
qui n'est plus du tout
à la mode actuellement,

00:17:16.083 --> 00:17:18.601
mais vous pourriez avancer
qu'au cours de l'histoire,

00:17:18.601 --> 00:17:19.977
de l'histoire de l'humanité,

00:17:19.977 --> 00:17:25.351
à chaque moment de montée
du pouvoir technologique,

00:17:25.375 --> 00:17:28.601
les gens se sont réorganisés
et ont centralisé le pouvoir.

00:17:28.625 --> 00:17:32.059
Par exemple, quand un groupe
de criminels itinérants

00:17:32.083 --> 00:17:34.092
pouvait prendre le contrôle d'une société,

00:17:34.092 --> 00:17:36.031
la réponse a été d'avoir un État-nation

00:17:36.055 --> 00:17:38.489
et une force centralisée,
policière ou militaire,

00:17:38.513 --> 00:17:40.143
pour que ce ne soit pas possible.

00:17:40.167 --> 00:17:44.726
La logique d'avoir une seule personne
ou un seul groupe

00:17:44.750 --> 00:17:46.393
capable d'éradiquer l'humanité

00:17:46.417 --> 00:17:49.143
signifie qu'à un moment,
nous devrons emprunter ce chemin,

00:17:49.167 --> 00:17:50.601
sous une certaine forme, non ?

NOTE Paragraph

00:17:50.625 --> 00:17:54.309
NB : Il est vrai que l'échelle
de l'organisation politique a augmenté

00:17:54.333 --> 00:17:56.476
au cours de l'histoire humaine.

00:17:56.500 --> 00:17:58.518
C'était un groupe de chasseurs-cueilleurs,

00:17:58.542 --> 00:18:01.476
puis des chefferies,
des cité-États, des nations,

00:18:01.500 --> 00:18:05.476
maintenant il y a des organisations
internationales et ainsi de suite.

00:18:05.500 --> 00:18:07.018
Je veux juste m'assurer

00:18:07.042 --> 00:18:08.684
d'avoir l'opportunité d'insister

00:18:08.684 --> 00:18:10.748
qu'il y a évidemment
d'énormes inconvénients

00:18:10.748 --> 00:18:12.226
et d'énormes risques

00:18:12.250 --> 00:18:15.601
dans la surveillance de masse
et la gouvernance mondiale.

00:18:15.625 --> 00:18:18.184
Je vais faire remarquer
que si nous sommes chanceux,

00:18:18.184 --> 00:18:20.987
le monde pourrait être tel
que ce seraient les seules façons

00:18:20.987 --> 00:18:22.434
de survivre à une boule noire.

NOTE Paragraph

00:18:22.458 --> 00:18:24.976
CA : La logique de cette théorie,

00:18:25.000 --> 00:18:26.268
me semble-t-il,

00:18:26.292 --> 00:18:29.893
c'est que nous devons reconnaître
que nous ne pouvons pas tout avoir.

00:18:29.917 --> 00:18:31.750
C'est le genre

00:18:33.500 --> 00:18:36.476
de rêve naïf, si je puis dire,
que nombre d'entre nous avaient

00:18:36.500 --> 00:18:39.851
que la technologie sera toujours
une force du bien,

00:18:39.875 --> 00:18:42.851
qu'il ne faut ne pas s'arrêter,
aller aussi vite que possible

00:18:42.875 --> 00:18:45.320
et ne pas prêter attention
à certaines conséquences,

00:18:45.320 --> 00:18:46.934
ce n'est même pas une option.

00:18:46.958 --> 00:18:48.893
Nous pouvons le faire.

00:18:48.917 --> 00:18:50.184
Si nous le faisons,

00:18:50.208 --> 00:18:51.643
il faudra accepter

00:18:51.667 --> 00:18:54.196
certaines choses très désagréables

00:18:54.196 --> 00:18:56.500
et faire la course à l'armement
avec nous-mêmes :

00:18:56.500 --> 00:18:58.930
si vous voulez le pouvoir,
vous devriez le confiner,

00:18:58.930 --> 00:19:00.934
vous devriez trouver comment le confiner.

NOTE Paragraph

00:19:00.958 --> 00:19:04.434
NB : Je pense que c'est une option,

00:19:04.458 --> 00:19:07.226
une option très tentante,
dans un sens la plus simple

00:19:07.250 --> 00:19:08.652
et cela pourrait fonctionner,

00:19:08.652 --> 00:19:13.351
mais nous sommes alors vulnérables
à l'extraction d'une boule noire.

00:19:13.375 --> 00:19:15.518
Avec un peu de coordination --

00:19:15.542 --> 00:19:18.268
en résolvant ce problème
de macro gouvernance

00:19:18.268 --> 00:19:19.917
et celui de micro gouvernance --

00:19:19.917 --> 00:19:22.310
nous pourrions extraire
toutes les boules de l'urne

00:19:22.310 --> 00:19:24.518
et nous en bénéficierons grandement.

NOTE Paragraph

00:19:24.542 --> 00:19:27.976
CA : Si nous vivons dans une simulation,
cela importe-t-il ?

00:19:28.000 --> 00:19:29.309
Nous recommençons.

NOTE Paragraph

00:19:29.333 --> 00:19:30.601
(Rires)

NOTE Paragraph

00:19:30.625 --> 00:19:32.268
NB : Alors... je...

NOTE Paragraph

00:19:32.292 --> 00:19:34.768
(Rires)

00:19:34.792 --> 00:19:36.208
Je ne l'ai pas vu arriver.

NOTE Paragraph

00:19:38.125 --> 00:19:39.607
CA : Quelle est votre opinion ?

00:19:39.607 --> 00:19:41.720
En rassemblant toutes les pièces,

00:19:41.720 --> 00:19:44.250
quelle est notre probabilité
d'être condamnés ?

NOTE Paragraph

00:19:44.250 --> 00:19:46.208
(Rires)

NOTE Paragraph

00:19:47.042 --> 00:19:49.434
J'adore comment les gens rient
à cette question.

NOTE Paragraph

00:19:49.458 --> 00:19:50.809
NB : A un niveau individuel,

00:19:50.833 --> 00:19:54.684
nous semblons condamnés,
juste d'un point de vue de l'échéance,

00:19:54.708 --> 00:19:57.309
nous nous décomposons et vieillissons.

NOTE Paragraph

00:19:57.333 --> 00:19:58.934
(Rires)

NOTE Paragraph

00:19:58.958 --> 00:20:00.643
C'est délicat.

00:20:00.667 --> 00:20:03.434
Si vous voulez y attacher une probabilité,

00:20:03.458 --> 00:20:04.940
tout d'abord, qui sommes-nous ?

00:20:04.940 --> 00:20:07.476
Si vous êtes vieux,
vous mourrez de causes naturelles.

00:20:07.500 --> 00:20:09.851
Si vous êtes jeune,
vous avez 100 ans peut-être,

00:20:09.875 --> 00:20:12.018
selon à qui vous demandez.

00:20:12.042 --> 00:20:16.268
Le seuil : qu'est-ce qui compte
comme un dévaste civilisationnel ?

00:20:16.292 --> 00:20:21.934
Dans l'article, je n'ai pas besoin
d'une catastrophe civilisationnelle

00:20:21.958 --> 00:20:23.393
pour que cela compte.

00:20:23.417 --> 00:20:25.101
C'est une question de définition.

00:20:25.125 --> 00:20:26.434
Je dis un milliard de morts

00:20:26.458 --> 00:20:28.518
ou une diminution du PIB mondial de 50%,

00:20:28.542 --> 00:20:30.768
mais selon le seuil que vous donnez,

00:20:30.792 --> 00:20:32.768
vous aurez une probabilité différente.

00:20:32.792 --> 00:20:37.309
Vous pourriez dire que je suis
un optimiste effrayé.

NOTE Paragraph

00:20:37.333 --> 00:20:38.434
(Rires)

NOTE Paragraph

00:20:38.458 --> 00:20:40.125
CA : Vous êtes un optimiste effrayé

00:20:40.125 --> 00:20:45.708
et vous venez de créer un grand nombre
d'autres personnes effrayées.

NOTE Paragraph

00:20:45.708 --> 00:20:46.768
(Rires)

NOTE Paragraph

00:20:46.792 --> 00:20:48.059
NB : Dans la simulation.

NOTE Paragraph

00:20:48.083 --> 00:20:49.351
CA : Dans une simulation.

00:20:49.375 --> 00:20:51.059
Nick Bostrom, votre esprit m'épate.

00:20:51.083 --> 00:20:53.976
Merci beaucoup de nous avoir effrayés.

NOTE Paragraph

00:20:54.000 --> 00:20:56.375
(Applaudissements)