0:00:00.691,0:00:03.849
J'écris des thrillers de science fiction,

0:00:03.849,0:00:06.042
donc si je dis "robots tueurs",

0:00:06.042,0:00:08.403
vous pensez sûrement à quelque chose de ce style.

0:00:08.403,0:00:10.958
Mais je ne suis pas vraiment là pour parler fiction.

0:00:10.958,0:00:13.906
Je suis ici pour parler de robots tueurs bien réels,

0:00:13.906,0:00:17.028
des drones de combat autonomes.

0:00:17.028,0:00:20.655
Là, je ne me réfère pas aux drones Predator et Reaper,

0:00:20.655,0:00:23.915
où il y a un humain aux commandes.

0:00:23.915,0:00:27.044
Je parle d'armes robotisées pleinement autonomes

0:00:27.044,0:00:29.698
qui prennent des décisions létales envers des êtres humains

0:00:29.698,0:00:32.115
de leur propre chef.

0:00:32.115,0:00:36.115
A vrai dire, il y a un terme technique pour cela : autonomie létale.

0:00:36.115,0:00:38.971
Ainsi, les robots tueurs autonomes

0:00:38.971,0:00:42.040
pourraient prendre de multiples formes,[br]aérienne, mobile,

0:00:42.040,0:00:44.786
ou juste statique.

0:00:44.786,0:00:47.895
Et très rapidement, ils deviennent vraiment une réalité.

0:00:47.895,0:00:50.379
Voici deux sentinelles automatiques de tireur d'élite

0:00:50.379,0:00:54.516
actuellement déployée dans la Zone Démilitarisée [br]entre les Corée du Nord et du Sud.

0:00:54.516,0:00:56.687
Ces deux machines sont capables de manière automatisée

0:00:56.687,0:01:00.211
d'identifier une cible humaine et d'y ouvrir le feu,

0:01:00.211,0:01:04.535
la machine à gauche possède [br]une portée supérieur à un kilomètre.

0:01:04.535,0:01:08.124
Maintenant, dans ces deux cas, il y a toujours un humain

0:01:08.124,0:01:10.496
dans la chaîne de commandement[br]pour faire le létal choix de faire feu,

0:01:10.496,0:01:15.909
Mais ce n'est pas une contrainte technologique. [br]C'est un choix.

0:01:15.909,0:01:19.002
Et c'est sur ce choix que je veux me concentrer,

0:01:19.002,0:01:21.643
car en même temps que nous transférons, [br]de l'homme vers le programme,

0:01:21.643,0:01:24.752
la prise de décisions mortelles,

0:01:24.752,0:01:28.228
nous ne risquons pas seulement [br]d'enlever l'humanité à la guerre,

0:01:28.228,0:01:31.754
mais aussi de modifier[br]l'environnement social dans sa totalité,

0:01:31.754,0:01:33.978
loin du champ de bataille.

0:01:33.978,0:01:38.487
Ceci parce que la manière des humains[br]de résoudre des conflits

0:01:38.487,0:01:40.220
façonne notre environnement social.

0:01:40.220,0:01:42.853
Et à travers l'Histoire, cela a toujours été le cas.

0:01:42.853,0:01:45.514
Par exemple, il y avait ces systèmes d'armement de pointe

0:01:45.514,0:01:47.593
en 1400 avant J.-C. .

0:01:47.593,0:01:50.737
Ils sont tous deux très chers à construire et à entretenir,

0:01:50.737,0:01:53.977
mais avec eux vous pouviez dominer la population,

0:01:53.977,0:01:57.866
et l'organisation du pouvoir politique [br]dans la société féodale reflète cela.

0:01:57.866,0:02:00.553
Le pouvoir était concentré au sommet.

0:02:00.553,0:02:04.081
Et qu'est-ce qui a changé ? L'innovation technologique.

0:02:04.081,0:02:05.952
Poudre noire, canon.

0:02:05.952,0:02:09.769
Et très vite, les armures et les châteaux [br]sont devenus obsolètes,

0:02:09.769,0:02:12.302
et il était moins important de savoir [br]qui vous ameniez sur le champ de bataille

0:02:12.302,0:02:16.081
que le nombre de personnes que vous ameniez.

0:02:16.081,0:02:19.719
Et alors que les armées grossissaient en effectif, [br]l'Etat-Nation naissait

0:02:19.719,0:02:23.399
en tant que besoin politique et logistique de défense.

0:02:23.399,0:02:25.775
Et alors que les dirigeants devaient compter [br]sur plus de population,

0:02:25.775,0:02:27.608
ils commencèrent à partager le pouvoir.

0:02:27.608,0:02:30.207
Des gouvernement représentatifs commencèrent à se former.

0:02:30.207,0:02:33.495
Une fois encore, les outils utilisés pour résoudre un conflit

0:02:33.495,0:02:36.799
structurent notre environnement social.

0:02:36.799,0:02:40.863
Les armes robotisées autonomes sont de tels outils,

0:02:40.863,0:02:46.031
sauf que, en nécessitant très peu de personnes [br]pour rentrer en guerre,

0:02:46.031,0:02:50.871
ils risquent de reconcentrer le pouvoir dans très peu de mains,

0:02:50.871,0:02:57.386
potentiellement renversant une tendance [br]de cinq cents ans en faveur de la démocratie.

0:02:57.386,0:02:59.143
Maintenant, je pense, sachant ça,

0:02:59.143,0:03:03.495
que nous pouvons mener des actions décisives[br]pour préserver nos institutions démocratiques,

0:03:03.495,0:03:07.474
pour faire ce que les hommes font le mieux, [br]c'est-à-dire s'adapter.

0:03:07.474,0:03:09.479
Mais le temps est un facteur.

0:03:09.479,0:03:12.330
Soixante-dix nations développent en interne

0:03:12.330,0:03:14.487
des drones de combat télécommandés,

0:03:14.487,0:03:17.080
et comme vous le verrez, [br]les drones de combat télécommandés

0:03:17.080,0:03:21.552
sont les précurseurs des armes robotisées autonomes.

0:03:21.552,0:03:24.319
Cela est dû au fait qu'une fois[br]que vous avez déployé vos drones télécommandés,

0:03:24.319,0:03:27.703
trois facteurs déterminants entraînent la prise de choix

0:03:27.703,0:03:32.303
loin des hommes et vers l'unité armée elle-même.

0:03:32.303,0:03:37.562
La première des raisons est le déluge de vidéos que les drones produisent.

0:03:37.562,0:03:41.415
Par exemple, en 2004,[br]la flotte de drones américains a produit

0:03:41.415,0:03:46.727
une somme totale de 71 heures de vidéo-surveillance à analyser.

0:03:46.727,0:03:51.226
En 2011, cela a atteint les 300 000 heures,

0:03:51.226,0:03:54.375
dépassant la capacité humaine à tout voir,

0:03:54.375,0:03:58.039
et même ce nombre est sur le point d'exploser.

0:03:58.039,0:04:00.614
Les programmes Gorgon Stare et Argus du Pentagone

0:04:00.614,0:04:03.778
vont porter à 65 caméras indépendamment contrôlées

0:04:03.778,0:04:05.816
sur chaque drone,

0:04:05.816,0:04:09.119
et cela va grandement dépasser la capacité humaine[br]à voir ces vidéos.

0:04:09.119,0:04:11.279
Cela signifie qu'il va falloir des programmes de recueil [br]d'informations visuelles

0:04:11.279,0:04:15.327
pour scanner les vidéos pour trouver du matériel intéressant.

0:04:15.327,0:04:16.675
Et cela signifie que très bientôt

0:04:16.675,0:04:19.422
les drones vont dire aux hommes ce qu'il faut regarder,

0:04:19.422,0:04:21.919
et non l'inverse.

0:04:21.919,0:04:24.392
Mais il y a une seconde motivation importante

0:04:24.392,0:04:27.775
pour déporter le rôle décisionnel des hommes vers les machines,

0:04:27.775,0:04:30.647
et c'est le brouillage électromagnétique,

0:04:30.647,0:04:32.883
bloquant la connexion entre le drone

0:04:32.883,0:04:35.697
et son opérateur.

0:04:35.697,0:04:38.315
Nous avons vu un exemple de cela en 2011

0:04:38.315,0:04:41.271
lorsqu'un drone RQ-170 Sentinel américain

0:04:41.271,0:04:45.578
a été embrouillé au dessus de l'Iran à cause d'une attaque [br]de modification du GPS,

0:04:45.578,0:04:50.692
mais tout drone télécommandé est sensible à ce type d'attaque,

0:04:50.692,0:04:52.744
et cela signifie que les drones

0:04:52.744,0:04:56.364
vont devoir endosser plus de prises de décision.

0:04:56.364,0:04:59.407
Ils connaîtront les objectifs de mission,

0:04:59.407,0:05:04.252
et ils feront face aux nouvelles conditions sans intervention humaine.

0:05:04.252,0:05:06.833
Ils vont ignorer les signaux radio externes

0:05:06.833,0:05:09.163
et en émettre très peu de leur côté.

0:05:09.163,0:05:11.169
Ce qui nous mène, vraiment, à la troisième

0:05:11.169,0:05:15.031
et plus importante motivation pour enlever

0:05:15.031,0:05:18.373
la décision aux hommes et la mettre dans les armes :

0:05:18.373,0:05:21.666
possibilité de nier de façon plausible.

0:05:21.666,0:05:24.553
Aujourd'hui nous vivons dans une économie généralisée.

0:05:24.553,0:05:28.887
La production de haute technologie a lieu sur la plupart des continents.

0:05:28.887,0:05:31.801
Le cyber-espionnage exporte les conceptions avancées

0:05:31.801,0:05:33.687
vers des tiers inconnus,

0:05:33.687,0:05:35.701
et dans cet environnement, il est très probable

0:05:35.701,0:05:40.435
qu'un concept réussi de drone soit volé dans les entreprises contractées,

0:05:40.435,0:05:42.605
se répandent sur le marché parallèle.

0:05:42.605,0:05:45.065
Et dans ce cas, en fouillant les débris

0:05:45.065,0:05:48.025
d'une attaque suicide de drone,[br]il sera très difficile de dire

0:05:48.025,0:05:52.425
qui a envoyé cette arme.

0:05:52.425,0:05:55.225
Cela ouvre la réelle possibilité

0:05:55.225,0:05:58.160
de la guerre anonyme.

0:05:58.160,0:06:00.774
Cela pourrait déstabiliser la balance géopolitique,

0:06:00.774,0:06:04.265
rendre très difficile pour un pays d'utiliser sa puissance de feu

0:06:04.265,0:06:07.113
contre un attaquant, cela pourrait,[br]au 21ème siècle,

0:06:07.113,0:06:10.877
faire pencher la balance en faveur de l'attaque [br]au détriment de la défense.

0:06:10.877,0:06:14.001
Cela pourrait rendre envisageable des actions militaires

0:06:14.001,0:06:16.289
non juste pour de petits pays,

0:06:16.289,0:06:18.834
mais pour des organisations criminelles,[br]des entreprises privées

0:06:18.834,0:06:21.313
et même des puissants individus.

0:06:21.313,0:06:24.641
Cela pourrait créer un paysage de seigneurs de guerre rivaux

0:06:24.641,0:06:28.321
sabotant le règne de la loi et de la société civile.

0:06:28.321,0:06:31.937
Si la responsabilité et la transparence

0:06:31.937,0:06:34.321
sont deux éléments clefs [br]des gouvernements représentatifs de leur nation,

0:06:34.321,0:06:38.641
les armes robotisées autonomes pourraient les saboter tous deux.

0:06:38.641,0:06:40.187
Là vous pourriez penser que

0:06:40.187,0:06:42.433
les citoyens de pays high-techs

0:06:42.433,0:06:45.136
auraient l'avantage dans n'importe quelle guerre robotique,

0:06:45.136,0:06:48.769
que les citoyens de ces nations seraient moins vulnérables,

0:06:48.769,0:06:53.057
en particulier contre les pays en développement.

0:06:53.057,0:06:56.581
Mais je pense que la vérité est l'exacte opposé.

0:06:56.581,0:06:58.832
Je pense que les citoyens des sociétés high-techs

0:06:58.832,0:07:02.561
sont plus vulnérables aux armes robotisées,

0:07:02.561,0:07:07.026
et la raison peut être résumée en un mot : l'information.

0:07:07.026,0:07:10.507
L'information alimente les sociétés informatisées.

0:07:10.507,0:07:13.697
Géolocalisation des téléphones, métadonnées de télécommunications,

0:07:13.697,0:07:17.169
médias sociaux, e-mails, textos, informations sur des transactions financières,

0:07:17.169,0:07:20.701
informations sur des transports, c'est une richesse [br]de données en temps réel

0:07:20.701,0:07:24.074
sur les mouvements et les échanges sociaux des gens.

0:07:24.074,0:07:27.849
En résumé, nous sommes plus visibles aux machines

0:07:27.849,0:07:30.091
que quiconque dans l'Histoire,

0:07:30.091,0:07:35.707
et cela correspond parfaitement [br]aux besoins de ciblage des armes autonomes.

0:07:35.707,0:07:37.445
Ce que vous regardez ici

0:07:37.445,0:07:40.691
est une carte d'analyse de connexion d'un groupe social.

0:07:40.691,0:07:44.325
Les lignes indiquent une connexité social entre individus.

0:07:44.325,0:07:47.205
Et ce type de carte peut être automatiquement générée

0:07:47.205,0:07:51.920
en se basant sur les traces d'informations[br]que les gens modernes laissent derrière eux.

0:07:51.920,0:07:54.397
On l'utilise généralement pour promouvoir des biens ou des services

0:07:54.397,0:07:58.813
à des populations ciblées, mais c'est une technologie à double tranchant,

0:07:58.813,0:08:02.173
car le ciblage est utilisé dans un autre contexte.

0:08:02.173,0:08:04.733
Remarquez que certains individus sont surlignés.

0:08:04.733,0:08:08.013
Ce sont des centres de réseaux sociaux.

0:08:08.013,0:08:11.603
Ce sont des organisateurs, des façonneurs d'opinion, chefs,

0:08:11.603,0:08:14.285
et ces personnes peuvent être automatiquement identifiées

0:08:14.285,0:08:16.667
à partir du schéma de leurs communications.

0:08:16.667,0:08:18.813
Si vous êtes un commerçant, vous pourrez alors les cibler

0:08:18.813,0:08:21.356
avec des échantillons de produits, [br]essayer de diffuser votre marque

0:08:21.356,0:08:24.185
dans leur groupe social.

0:08:24.185,0:08:26.138
Mais si vous êtes un gouvernement répressif

0:08:26.138,0:08:30.948
en quête d'ennemis politiques, [br]vous pourriez au contraire les évincer,

0:08:30.948,0:08:33.708
les éliminer, désorganiser leur groupe social,

0:08:33.708,0:08:36.877
et ceux qui restent perdent la cohésion sociale

0:08:36.877,0:08:39.498
et l'organisation.

0:08:39.498,0:08:42.822
Ainsi dans un monde où prolifèrent [br]les armes robotisées à bas coûts,

0:08:42.822,0:08:45.457
les frontières vont offrir très peu de protection

0:08:45.457,0:08:47.403
face aux critiques de gouvernements éloignés

0:08:47.403,0:08:51.049
ou à des organisations criminelles internationales.

0:08:51.049,0:08:54.542
Des mouvements populaires pour le changement

0:08:54.542,0:08:58.151
pourraient être détectés tôt et voir leurs chefs éliminés

0:08:58.151,0:09:01.062
avant que leurs idées n'atteignent une masse critique.

0:09:01.062,0:09:03.653
Et des idées atteignant une masse critique

0:09:03.653,0:09:07.589
est exactement cet activisme politique dans les gouvernements populaires.

0:09:07.589,0:09:11.586
Des armes mortelles anonymes pourraient [br]faire des actes meurtriers

0:09:11.586,0:09:15.368
un choix facile pour toute sorte de conflits d'intérêts.

0:09:15.368,0:09:19.102
Et cela porterait atteinte à la liberté d'expression

0:09:19.102,0:09:24.410
et à l'action politique populaire,[br]le cœur même de la démocratie.

0:09:24.410,0:09:27.324
Voilà pourquoi nous avons besoin d'un traité international

0:09:27.324,0:09:30.864
sur les armes robotisées, et en particulier d'un ban

0:09:30.864,0:09:34.772
du développement et du déploiement de robots tueurs.

0:09:34.772,0:09:38.026
Aujourd'hui nous avons des traités internationaux

0:09:38.026,0:09:41.412
sur les armes nucléaires et biologiques,[br]et bien qu'imparfaites

0:09:41.412,0:09:43.700
elles ont largement fonctionné.

0:09:43.700,0:09:47.468
Mais les armes robotisées pourraient [br]se révéler tout autant dangeureuses

0:09:47.468,0:09:50.756
car elles seront presque certainement utilisées

0:09:50.756,0:09:55.783
et elles seront aussi néfastes pour nos institutions démocratiques.

0:09:55.783,0:09:59.251
En novembre 2012, le Département de la Défense américain

0:09:59.251,0:10:01.709
a émis une directive exigeant

0:10:01.709,0:10:06.228
qu'un humain soit présent dans toute décision létale.

0:10:06.228,0:10:11.004
Cela a efficacement banni les armes autonomes dans l'armée américaine,

0:10:11.004,0:10:14.757
mais cette directive doit être rendue permanente.

0:10:14.757,0:10:19.133
Cela pourrait poser les bases à une action généralisée.

0:10:19.133,0:10:22.978
Car nous avons besoin d'un cadre juridique international

0:10:22.978,0:10:25.116
pour les armes robotisées.

0:10:25.116,0:10:28.044
Et nous en avons besoin maintenant, [br]avant qu'il n'y ait une attaque dévastatrice

0:10:28.044,0:10:31.196
ou un incident terroriste qui [br]entraînerait les nations du monde

0:10:31.196,0:10:33.120
à se précipiter pour acquérir ces armes

0:10:33.120,0:10:36.891
avant de songer aux conséquences.

0:10:36.891,0:10:39.872
Les armes robotisées autonomes concentre trop de pouvoir

0:10:39.872,0:10:46.155
dans trop peu de mains, [br]et elles mettraient en péril la démocratie elle-même.

0:10:46.155,0:10:48.841
Mais comprenez moi bien, je pense qu'il y a énormément

0:10:48.841,0:10:51.459
d'utilisation bénéfiques pour des drones civils non armés :

0:10:51.459,0:10:55.398
gestion environnementale, recherche et sauvetage, logistique.

0:10:55.398,0:10:58.224
Si nous avons un traité international sur les armes robotisées,

0:10:58.224,0:11:01.811
comme pouvons-nous profiter des gains des drones

0:11:01.811,0:11:04.459
et véhicules autonomes tout en nous protégeant

0:11:04.459,0:11:08.439
des armes robotisées illégales ?

0:11:08.439,0:11:13.180
Je pense que le secret est la transparence.

0:11:13.180,0:11:16.193
Aucun robot ne devrait avoir un but privé

0:11:16.193,0:11:19.644
dans un espace public.

0:11:19.644,0:11:24.692
( Applaudissements )

0:11:24.692,0:11:26.737
Chaque robot et drone devrait avoir

0:11:26.737,0:11:29.620
une carte d'identité à signature cryptographique[br]incrustée à l'usine

0:11:29.620,0:11:32.543
qui puisse être utilisée pour suivre ses mouvements dans les espaces publics.

0:11:32.543,0:11:35.924
Nous avons des plaques d'immatriculation sur les voitures, des immatriculations sur les avions.

0:11:35.924,0:11:37.765
Ceci n'est aucunement différent.

0:11:37.765,0:11:39.777
Et chaque citoyen devrait pouvoir télécharger une application

0:11:39.777,0:11:42.902
qui montre la population de drones et de véhicules autonomes

0:11:42.902,0:11:45.331
se déplaçant dans les espaces publics autour d'eux,

0:11:45.331,0:11:48.064
en tant réel et historiquement.

0:11:48.064,0:11:51.612
Et les responsables publics devraient déployer des détecteurs et des drones officiels

0:11:51.612,0:11:53.956
pour détecter des drones illégaux,

0:11:53.956,0:11:57.132
et à la place de choisir d'envoyer[br]des robots tueurs pour les neutraliser

0:11:57.132,0:12:00.124
ils devraient avertir les humains de leur présence.

0:12:00.124,0:12:02.730
Et dans certaines zones de très haute sécurité,

0:12:02.730,0:12:04.639
peut-être ces drones les piégreraient

0:12:04.639,0:12:07.480
et les traîneraient dans une installation de déminage.

0:12:07.480,0:12:10.507
Mais notez que ceci est plus un système immunitaire

0:12:10.507,0:12:11.828
qu'un système armé.

0:12:11.828,0:12:14.420
Cela nous autoriserait à utiliser personnellement

0:12:14.420,0:12:16.452
des véhicules et drones autonomes

0:12:16.452,0:12:20.747
tout en préservant notre société ouverte et civile.

0:12:20.747,0:12:23.746
Nous devons interdire le déploiement et le développement

0:12:23.746,0:12:25.608
de robots tueurs.

0:12:25.608,0:12:30.458
Ne cédons pas à la tentation d'automatiser la guerre.

0:12:30.458,0:12:33.176
Les gouvernements autocratiques [br]et les organisations criminelles

0:12:33.176,0:12:36.132
céderont à coup sûr, mais ne les rejoignons pas.

0:12:36.132,0:12:38.023
Les armes robotisées autonomes

0:12:38.023,0:12:40.074
concentreraient trop de pouvoir

0:12:40.074,0:12:42.556
dans trop peu de mains invisibles,

0:12:42.556,0:12:45.811
et cela serait néfaste aux gouvernements représentatifs.

0:12:45.811,0:12:48.772
Soyons certains, au moins pour les démocraties,

0:12:48.772,0:12:51.376
que les robots tueurs restent une fiction.

0:12:51.376,0:12:52.486
Merci

0:12:52.486,0:12:57.051
(Applaudissements)

0:12:57.051,0:13:01.667
Merci. [br](Applaudissements)