1
00:00:01,096 --> 00:00:05,810
Dans les mois qui ont suivi l'élection
présidentielle de 2009 en Iran,

2
00:00:05,834 --> 00:00:09,028
des manifestations ont éclaté
dans tout le pays.

3
00:00:09,685 --> 00:00:12,581
Le gouvernement iranien
a violemment réprimé

4
00:00:12,605 --> 00:00:16,584
ce qui allait devenir
le Mouvement Vert Iranien.

5
00:00:16,608 --> 00:00:18,761
Ils ont même bloqué
les signaux des portables

6
00:00:18,761 --> 00:00:21,989
afin de couper toute communication
entre les manifestants.

7
00:00:22,316 --> 00:00:26,985
Mes parents, émigrés aux États-Unis
à la fin des années 1960,

8
00:00:27,009 --> 00:00:28,803
ont passé beaucoup de temps en Iran,

9
00:00:28,827 --> 00:00:31,980
et c'est là où réside toute
ma famille au sens large.

10
00:00:32,832 --> 00:00:35,961
Lorsque j'appelais ma famille à Téhéran,

11
00:00:35,985 --> 00:00:39,437
lors de la répression la plus
violente de la protestation,

12
00:00:39,461 --> 00:00:42,713
aucun d'eux n'osait discuter
de ce qui se passait.

13
00:00:43,196 --> 00:00:46,935
Que ce soit eux ou moi, nous savions
comment vite changer de conversation.

14
00:00:47,163 --> 00:00:50,543
Nous avions tous compris quelles
pourraient être les conséquences

15
00:00:50,567 --> 00:00:53,667
d'une action perçue comme dissidente.

16
00:00:54,095 --> 00:00:57,564
Mais j'aurais quand même souhaité
savoir ce qu'ils pensaient

17
00:00:57,588 --> 00:00:59,816
ou ce qu'ils ressentaient.

18
00:01:00,217 --> 00:01:02,110
Et si j'avais pu ?

19
00:01:02,149 --> 00:01:06,470
Ou, plus effrayant, et si
le gouvernement iranien avait pu ?

20
00:01:06,695 --> 00:01:10,669
Les auraient-ils arrêtés en se basant
sur ce que leur cerveau avait révélé ?

21
00:01:10,933 --> 00:01:14,377
Ce jour est peut-être plus proche
que vous ne le pensez.

22
00:01:14,527 --> 00:01:17,192
Grace à nos progrès croissants
en neuroscience,

23
00:01:17,192 --> 00:01:20,065
en intelligence artificielle
et en apprentissage machine,

24
00:01:20,089 --> 00:01:22,653
nous allons bientôt
en savoir beaucoup plus

25
00:01:22,653 --> 00:01:25,083
sur ce qui se passe
dans le cerveau humain.

26
00:01:25,083 --> 00:01:28,393
En tant que bioéthicienne,
avocat, philosophe,

27
00:01:28,417 --> 00:01:30,284
et américano-iranienne,

28
00:01:30,308 --> 00:01:34,095
je suis profondément préoccupée
par ce que cela signifie pour nos libertés

29
00:01:34,119 --> 00:01:37,020
et quels sont les types de protection
dont nous avons besoin.

30
00:01:37,020 --> 00:01:40,453
Je crois que nous avons besoin
d'un droit à la liberté cognitive,

31
00:01:40,477 --> 00:01:43,569
considéré comme un droit humain
qui doit être protégé.

32
00:01:43,772 --> 00:01:46,415
Sinon, notre liberté de penser,

33
00:01:46,439 --> 00:01:49,463
l'accès et le contrôle
sur nos propres cerveaux,

34
00:01:49,487 --> 00:01:52,798
et notre vie privée mentale,
seront menacés.

35
00:01:53,716 --> 00:01:58,454
Considèrez ceci : une personne ordinaire
a des milliers de pensées chaque jour.

36
00:01:58,697 --> 00:02:01,718
Quand une pensée se forme,
comme un calcul mathématique,

37
00:02:01,718 --> 00:02:04,928
un nombre, ou un mot,

38
00:02:04,952 --> 00:02:07,837
les neurones interagissent
dans le cerveau,

39
00:02:07,861 --> 00:02:11,409
et créent de minuscules
décharges électriques.

40
00:02:11,713 --> 00:02:15,165
Lorsque vous êtes dominé
par un état mental, comme la relaxation,

41
00:02:15,189 --> 00:02:19,364
des centaines de milliers de neurones
s'activent dans le cerveau,

42
00:02:19,388 --> 00:02:21,790
créant des décharges
électriques simultanées

43
00:02:21,790 --> 00:02:23,740
qui suivent des schémas caractéristiques,


44
00:02:23,740 --> 00:02:28,695
et qui peuvent être mesurées à l'aide
d'un électroencéphalogramme ou EEG.

45
00:02:29,118 --> 00:02:31,608
En fait, c'est ce que
vous voyez en ce moment.

46
00:02:31,956 --> 00:02:35,920
Vous voyez mon activité cérébrale
enregistrée en temps réel,

47
00:02:35,944 --> 00:02:39,349
avec un simple appareil
que je portais sur la tête.

48
00:02:39,669 --> 00:02:42,377
Ce que vous voyez,
c'est mon activité cérébrale

49
00:02:42,377 --> 00:02:45,677
quand j'étais détendue et curieuse.

50
00:02:46,097 --> 00:02:48,432
Pour pouvoir partager
cette information avec vous,

51
00:02:48,432 --> 00:02:52,176
j'ai porté l'un des premiers EEG destinés
aux consommateurs, comme celui-ci,

52
00:02:52,176 --> 00:02:56,833
qui enregistrait l'activité électrique
dans mon cerveau en temps réel,

53
00:02:56,849 --> 00:03:00,675
un peu comme les traqueurs d'activité,
portés peut-être par certains ici,

54
00:03:00,699 --> 00:03:04,285
qui mesurent votre fréquence cardiaque, 
ou le nombre de vos pas,

55
00:03:04,309 --> 00:03:06,876
ou même votre activité
durant le sommeil.

56
00:03:07,154 --> 00:03:11,598
Ce n'est pas la technique de neuroimagerie
la plus sophistiquée du marché,

57
00:03:11,598 --> 00:03:13,975
mais c'est, d'ors et déjà,
la plus portable

58
00:03:13,999 --> 00:03:17,511
et la plus susceptible d'affecter
notre vie quotidienne.

59
00:03:17,915 --> 00:03:19,418
C'est extraordinaire !

60
00:03:19,442 --> 00:03:21,947
Grâce à un simple appareil portable,

61
00:03:21,971 --> 00:03:25,519
nous pouvons littéralement « voir »
à l'intérieur du cerveau humain

62
00:03:25,543 --> 00:03:29,109
et connaître les aspects
de notre paysage mental

63
00:03:29,109 --> 00:03:32,299
sans jamais dire un mot.

64
00:03:32,829 --> 00:03:36,482
Même si nous ne pouvons pas correctement
décoder des pensées complexes,

65
00:03:36,506 --> 00:03:39,025
nous pouvons déjà évaluer
l'humeur d'une personne

66
00:03:39,049 --> 00:03:41,922
et, grâce à l'intelligence artificielle,

67
00:03:41,946 --> 00:03:46,287
nous pouvons même reconnaître
certains nombres à un seul chiffre,

68
00:03:46,311 --> 00:03:49,327
certaines formes ou mots simples

69
00:03:49,327 --> 00:03:53,806
qu'une personne est en train
de penser, d'entendre, ou de voir.

70
00:03:54,345 --> 00:03:57,710
Malgré certaines limitations
inhérentes à l'EEG,

71
00:03:57,734 --> 00:04:02,454
je pense qu'on peut raisonnablement dire
que grâce à nos progrès technologiques,

72
00:04:02,478 --> 00:04:06,287
de plus en plus de ce qui se passe
dans le cerveau humain

73
00:04:06,311 --> 00:04:09,111
peut et sera décodé avec le temps.

74
00:04:09,362 --> 00:04:12,108
Actuellement, en utilisant
un de ces appareils,

75
00:04:12,132 --> 00:04:16,867
un épileptique peut anticiper une crise
épileptique avant qu'elle ne se produise ;

76
00:04:16,871 --> 00:04:19,999
un paraplégique peut
se servir d'un ordinateur

77
00:04:19,999 --> 00:04:22,309
en utilisant seulement ses pensées.

78
00:04:22,485 --> 00:04:25,302
Une société basée aux États-Unis
a développé une technologie

79
00:04:25,302 --> 00:04:28,922
qui intègre ces capteurs
dans l’appuie-tête des automobiles

80
00:04:28,952 --> 00:04:31,581
et permet de surveiller
la concentration du conducteur,

81
00:04:31,581 --> 00:04:34,692
sa distraction et sa charge cognitive,
pendant qu'il conduit.

82
00:04:34,912 --> 00:04:39,270
Nissan, des compagnies d'assurance
et AAA ont tous pris acte.

83
00:04:39,949 --> 00:04:44,457
Vous pouvez même regarder un film
« Choisis-ton-aventure »,

84
00:04:44,481 --> 00:04:48,721
tel que « The Moment », 
avec un casque EEG,

85
00:04:48,745 --> 00:04:52,671
qui modifie le film en fonction
de vos réactions cérébrales,

86
00:04:52,695 --> 00:04:57,628
et vous donne une fin différente
chaque fois que votre attention faiblit.

87
00:04:59,154 --> 00:05:01,917
Tout cela peut sembler formidable

88
00:05:01,941 --> 00:05:04,130
et, en tant que bioéthicien,

89
00:05:04,154 --> 00:05:07,767
j'encourage ardemment
les gens à se responsabiliser,

90
00:05:07,791 --> 00:05:10,407
à prendre en charge
leur santé et leur bien-être

91
00:05:10,431 --> 00:05:13,349
en leur donnant accès
à des informations sur eux-mêmes,

92
00:05:13,373 --> 00:05:17,069
y compris cette incroyable technologie
de décodage de l'activité cérébrale.

93
00:05:17,878 --> 00:05:19,565
Mais, je m'inquiète.

94
00:05:19,736 --> 00:05:24,496
Je crains que nous ne renoncions,
volontairement ou involontairement,

95
00:05:24,520 --> 00:05:29,298
à notre dernier bastion de liberté :
notre vie privée mentale ;

96
00:05:29,308 --> 00:05:32,227
que nous ne vendions
notre activité cérébrale

97
00:05:32,251 --> 00:05:36,067
pour un rabais ou des réductions
sur les assurances,

98
00:05:36,337 --> 00:05:39,504
ou pour un accès gratuit
à des réseaux sociaux internet,

99
00:05:40,444 --> 00:05:42,652
ou même pour préserver notre emploi.

100
00:05:42,900 --> 00:05:44,813
En fait, en Chine,

101
00:05:46,199 --> 00:05:52,096
les conducteurs de train,
sur le TGV Beijing-Shanghai,

102
00:05:52,120 --> 00:05:54,652
le plus occupé de son genre dans le monde,

103
00:05:54,676 --> 00:05:57,152
sont tenus de porter des appareils EEG

104
00:05:57,176 --> 00:06:00,363
pour surveiller leur activité 
cérébrale pendant qu'ils conduisent.

105
00:06:00,363 --> 00:06:02,383
Selon certaines sources d'actualités,

106
00:06:02,407 --> 00:06:05,086
dans certaines usines 
gouvernementales en Chine,

107
00:06:05,110 --> 00:06:08,198
les travailleurs doivent 
porter des capteurs EEG

108
00:06:08,198 --> 00:06:12,943
pour observer leur productivité
et leur état émotionnel au travail.

109
00:06:13,267 --> 00:06:15,577
Les travailleurs sont 
même renvoyés chez eux

110
00:06:15,601 --> 00:06:19,655
si leur cerveau montre une concentration
médiocre sur leur travail

111
00:06:19,679 --> 00:06:22,511
ou de l'agitation émotionnelle.

112
00:06:23,189 --> 00:06:24,934
Cela ne va pas arriver demain,

113
00:06:24,958 --> 00:06:28,564
mais nous nous dirigeons
vers un monde de transparence cérébrale.

114
00:06:28,564 --> 00:06:32,447
Et je ne pense pas que les gens
comprennent que cela peut tout changer,

115
00:06:32,474 --> 00:06:35,373
de notre définition
de la confidentialité des données,

116
00:06:35,373 --> 00:06:38,563
à nos lois, en passant
par nos idées sur la liberté.

117
00:06:38,731 --> 00:06:41,808
En fait, dans mon laboratoire
à l'Université Duke,

118
00:06:41,832 --> 00:06:45,007
Nous avons récemment mené
une étude nationale, aux États-Unis,

119
00:06:45,031 --> 00:06:46,990
pour savoir si les gens appréciaient

120
00:06:47,014 --> 00:06:50,065
la nature délicate de leurs
informations cérébrales.

121
00:06:50,356 --> 00:06:53,712
Nous leur avons demandé
d'évaluer leur sensibilité

122
00:06:53,736 --> 00:06:55,967
concernant 33 types
différents d'information,

123
00:06:55,991 --> 00:06:58,211
de leur numéro de sécurité sociale

124
00:06:58,235 --> 00:07:00,832
au contenu de leurs
conversations téléphoniques,

125
00:07:00,856 --> 00:07:03,119
à l’histoire de leurs relations,

126
00:07:03,119 --> 00:07:05,219
à leurs émotions, leur anxiété,


127
00:07:05,219 --> 00:07:09,007
leurs images mentales
et les pensées dans leur esprit.

128
00:07:09,481 --> 00:07:13,684
Étonnamment, les gens ont jugé
leur numéro de sécurité sociale

129
00:07:13,684 --> 00:07:16,961
beaucoup plus sensible
que tout autre type d’information,

130
00:07:16,961 --> 00:07:20,096
y compris leurs données cérébrales.

131
00:07:20,380 --> 00:07:22,160
Je pense que c'est parce que les gens


132
00:07:22,160 --> 00:07:25,609
ne comprennent pas encore
ou ne croient pas aux implications

133
00:07:25,609 --> 00:07:28,629
de cette nouvelle technologie
de décodage des ondes cérébrales.

134
00:07:28,629 --> 00:07:31,918
En effet, si nous avons accès aux rouages
internes du cerveau humain,

135
00:07:31,942 --> 00:07:34,888
nos numéros de sécurité sociale
sont le moindre de nos soucis.

136
00:07:34,888 --> 00:07:35,957
(Rires)

137
00:07:35,981 --> 00:07:37,198
Pensez-y.

138
00:07:37,198 --> 00:07:39,568
Dans un monde de transparence
totale du cerveau,

139
00:07:39,592 --> 00:07:43,281
qui oserait avoir une pensée
politique dissidente ?

140
00:07:43,281 --> 00:07:45,410
Ou une pensée créative ?

141
00:07:45,503 --> 00:07:48,979
Je crains que les gens ne s'autocensurent,

142
00:07:49,003 --> 00:07:52,305
de peur d'être mis au ban de la société,

143
00:07:52,329 --> 00:07:54,756
ou que les gens ne perdent leur emploi

144
00:07:54,756 --> 00:07:58,316
à cause de leur attention déclinante
ou de leur instabilité émotionnelle,

145
00:07:58,340 --> 00:08:02,310
ou parce qu'ils envisagent une action
collective contre leurs employeurs.

146
00:08:02,478 --> 00:08:05,655
Sortir de la norme ne sera plus possible,

147
00:08:05,679 --> 00:08:10,746
parce que le cerveau des gens aura révélé
depuis longtemps leur orientation sexuelle,

148
00:08:10,770 --> 00:08:14,652
leur idéologie politique,
ou leurs préférences religieuses,

149
00:08:14,672 --> 00:08:16,529
bien avant qu'ils ne soient prêts

150
00:08:16,529 --> 00:08:19,412
à partager consciemment
cette information avec les autres.

151
00:08:19,565 --> 00:08:24,687
Je m'inquiète de la capacité de nos lois
à suivre l'évolution technologique.

152
00:08:24,936 --> 00:08:27,766
Prenez le Premier amendement
de la Constitution américaine,

153
00:08:27,766 --> 00:08:29,568
qui protège la liberté d'expression.

154
00:08:29,568 --> 00:08:31,959
Protège-t-il également
la liberté de pensée ?

155
00:08:31,959 --> 00:08:36,113
Si oui, sommes-nous libres de transformer
nos pensées comme bon nous semble ?

156
00:08:36,137 --> 00:08:38,951
Ou bien le gouvernement
ou la société peuvent-ils dicter

157
00:08:38,951 --> 00:08:41,591
ce que nous pouvons
faire de nos cerveaux ?

158
00:08:41,591 --> 00:08:45,798
La NSA peut-elle espionner nos cerveaux
avec ces nouveaux appareils mobiles ?

159
00:08:46,053 --> 00:08:50,172
Les entreprises qui collectent les données
cérébrales via leurs applications

160
00:08:50,196 --> 00:08:52,960
peuvent-elles vendre
ces informations à des tiers ?

161
00:08:53,174 --> 00:08:56,976
À l'heure actuelle, aucune loi
ne les empêche de le faire.

162
00:08:57,203 --> 00:09:00,088
C'est encore plus
problématique dans des pays

163
00:09:00,088 --> 00:09:04,641
qui ne partagent pas les mêmes libertés
dont jouissent les citoyens américains.

164
00:09:04,883 --> 00:09:08,670
Que se serait-il passé
durant le Mouvement Vert Iranien,

165
00:09:08,694 --> 00:09:12,595
si le gouvernement avait surveillé
les activités cérébrales de ma famille

166
00:09:12,619 --> 00:09:16,626
et l'avait considérée
favorable aux manifestants ?

167
00:09:18,091 --> 00:09:21,118
Est-il si exagéré d'imaginer une société


168
00:09:21,118 --> 00:09:25,195
dans laquelle des gens sont arrêtés 
pour avoir pensé commettre un crime,

169
00:09:25,219 --> 00:09:28,096
comme dans la société
dystopique de science-fiction

170
00:09:28,096 --> 00:09:30,286
de « Rapport Minoritaire » ?

171
00:09:30,286 --> 00:09:34,609
Déjà, aux États-Unis, dans l'Indiana,

172
00:09:34,633 --> 00:09:39,570
un adolescent de 18 ans a été accusé
d'avoir tenté d'intimider son école

173
00:09:39,594 --> 00:09:43,893
en publiant une vidéo de lui en train
de tirer sur des gens dans les couloirs...

174
00:09:43,893 --> 00:09:46,888
Sauf que les gens étaient des zombies

175
00:09:46,912 --> 00:09:51,873
et que la vidéo le figurait jouant
à un jeu vidéo en réalité augmentée,

176
00:09:51,873 --> 00:09:53,565
le tout ayant été interprété

177
00:09:53,565 --> 00:09:57,685
comme étant une projection mentale
de son intention subjective.

178
00:09:58,456 --> 00:10:03,068
C'est justement pour ça que notre cerveau
a besoin d'une protection spéciale.

179
00:10:03,092 --> 00:10:06,748
Si nos cerveaux sont sujets au même suivi
et à la même agrégation de données

180
00:10:06,748 --> 00:10:09,204
que nos données
et transactions financières,

181
00:10:09,228 --> 00:10:12,027
si nos cerveaux peuvent
être piratés et surveillés

182
00:10:12,027 --> 00:10:15,898
comme nos activités en ligne,
nos téléphones et applications portables,

183
00:10:15,922 --> 00:10:20,741
nous sommes au bord d'une grave
menace pour toute l'humanité.

184
00:10:21,406 --> 00:10:23,405
Pas de panique,

185
00:10:24,012 --> 00:10:27,156
je pense qu'il existe
des solutions à ces problèmes,

186
00:10:27,180 --> 00:10:30,555
mais d'abord, nous devons nous
concentrer sur les choses importantes.

187
00:10:30,580 --> 00:10:33,501
En ce qui concerne la protection
de la vie privée en général,

188
00:10:33,525 --> 00:10:35,351
nous menons une bataille perdue

189
00:10:35,375 --> 00:10:38,233
en essayant de limiter
le flux d'informations.

190
00:10:38,257 --> 00:10:42,314
Nous devrions plutôt nous concentrer
sur la garantie des droits et recours

191
00:10:42,338 --> 00:10:44,963
contre l'utilisation abusive
de nos informations.

192
00:10:45,291 --> 00:10:49,136
Si les gens pouvaient décider de la façon
dont leurs informations sont partagées,

193
00:10:49,136 --> 00:10:51,521
et, plus important encore,
avoir un recours légal

194
00:10:51,545 --> 00:10:53,973
en cas d'utilisation abusive
de leurs informations,

195
00:10:53,997 --> 00:10:55,897
par exemple, en cas de discrimination


196
00:10:55,897 --> 00:10:59,592
dans un contexte de travail,
de santé ou d'éducation,

197
00:10:59,616 --> 00:11:02,757
cela contribuerait grandement
à créer de la confiance.

198
00:11:02,843 --> 00:11:04,561
En fait, dans certains cas,

199
00:11:04,585 --> 00:11:08,469
nous souhaitons partager davantage
nos renseignements personnels.

200
00:11:08,697 --> 00:11:10,368
L'étude des informations globales


201
00:11:10,368 --> 00:11:14,515
peut nous en dire tant
sur notre santé et notre bien-être !

202
00:11:14,539 --> 00:11:17,852
Mais pour pouvoir partager
nos informations en toute sécurité,

203
00:11:17,876 --> 00:11:21,609
nous avons besoin d'une protection
spéciale de la vie privée mentale.

204
00:11:21,832 --> 00:11:25,359
Voilà pourquoi nous avons besoin
d'un Droit à la Liberté Cognitive.

205
00:11:25,543 --> 00:11:29,622
Ce droit protègerait notre liberté
de penser et de ruminer,

206
00:11:29,646 --> 00:11:32,186
notre liberté de disposer de nous-mêmes,

207
00:11:32,210 --> 00:11:36,600
et il garantirait notre droit
de consentir ou refuser

208
00:11:36,624 --> 00:11:39,701
l'accès et l'altération
de notre cerveau par d'autres.

209
00:11:39,811 --> 00:11:41,923
Ce droit pourrait être reconnu

210
00:11:41,947 --> 00:11:45,160
dans le cadre de la Déclaration
Universelle des Droits de l'Homme,

211
00:11:45,160 --> 00:11:47,242
qui a mis en place des mécanismes

212
00:11:47,266 --> 00:11:50,962
permettant de faire respecter
ce type de droits sociaux.

213
00:11:51,872 --> 00:11:53,942
Au cours du Mouvement Vert Iranien,

214
00:11:53,966 --> 00:11:59,152
les manifestants ont utilisé Internet
et le bon vieux bouche-à-oreille

215
00:11:59,176 --> 00:12:01,604
pour coordonner leurs marches.

216
00:12:02,238 --> 00:12:05,007
Et certaines des restrictions
les plus oppressives en Iran

217
00:12:05,031 --> 00:12:07,608
ont été retirées en conséquence.

218
00:12:08,047 --> 00:12:10,388
Que se serait-il passé 
si le gouvernement iranien

219
00:12:10,388 --> 00:12:12,913
avait utilisé la surveillance
de l'activité cérébrale

220
00:12:12,913 --> 00:12:16,533
pour détecter et empêcher
la manifestation ?

221
00:12:16,847 --> 00:12:20,803
Le monde aurait-il jamais entendu
les appels des manifestants ?

222
00:12:21,732 --> 00:12:27,013
Le temps est venu pour nous d'appeler
à une révolution de la liberté cognitive,

223
00:12:27,559 --> 00:12:30,367
pour veiller à ce que nous
développions de façon responsable

224
00:12:30,367 --> 00:12:33,825
une technologie qui nous
permette d'embrasser l'avenir

225
00:12:33,849 --> 00:12:36,890
tout en nous protégeant tous
farouchement

226
00:12:36,890 --> 00:12:40,590
contre toute personne,
entreprise ou gouvernement

227
00:12:40,590 --> 00:12:45,630
qui tente d'accéder illégalement
ou de modifier notre vie intérieure.

228
00:12:46,659 --> 00:12:48,073
Merci.

229
00:12:48,073 --> 00:12:50,639
(Applaudissements)