0:00:04.440,0:00:06.965
A chaque fois que j'interviens[br]dans une école,

0:00:06.965,0:00:09.353
je pose toujours la même question[br]aux élèves :

0:00:10.186,0:00:11.874
Pourquoi allez-vous sur Google ?

0:00:11.874,0:00:15.477
Pourquoi ce moteur de recherche[br]plutôt qu'un autre ?

0:00:16.158,0:00:18.771
Et bizarrement, j'obtiens toujours[br]trois mêmes réponses.

0:00:18.771,0:00:20.717
Premièrement,[br]« Parce que ça marche » ;

0:00:20.717,0:00:23.487
c'est une bonne raison,[br]c'est pour ça que j'y vais aussi.

0:00:23.487,0:00:25.771
Deuxièmement, on me dit,

0:00:25.771,0:00:28.533
« Je ne saurais vraiment pas[br]quoi utiliser d'autre. »

0:00:28.921,0:00:32.018
C'est un peu moins convaincant,[br]et j'ai tendance à répondre

0:00:32.018,0:00:34.037
« Tapez 'moteur de recherche'[br]sur Google,

0:00:34.037,0:00:36.660
cela vous donnera quelques idées. »

0:00:36.660,0:00:38.635
Et troisièmement, inévitablement,

0:00:38.635,0:00:42.660
un ou une élève[br]lève la main et dit :

0:00:42.684,0:00:47.713
« Sur Google, j'ai la certitude d'obtenir[br]des informations impartiales. »

0:00:48.643,0:00:54.610
La certitude d'obtenir[br]des informations impartiales.

0:00:56.550,0:00:58.866
Je suis passionné d'humanités numériques,

0:00:58.866,0:01:01.111
et entendre cette phrase

0:01:01.111,0:01:02.883
me donne la chair de poule,

0:01:02.883,0:01:07.773
même si je vois bien que cette confiance[br]en l'impartialité des résultats

0:01:07.773,0:01:11.737
est au fondement du crédit[br]que l'on donne à Google.

0:01:12.062,0:01:16.118
Je vais vous montrer en quoi[br]c'est pratiquement impossible.

0:01:16.118,0:01:19.361
Mais tout d'abord, rappelons[br]une règle de base

0:01:19.361,0:01:22.758
qui vaut pour toutes les requêtes,[br]et qu'il nous arrive d'oublier.

0:01:23.253,0:01:25.391
Quand vous vous apprêtez[br]à faire une recherche

0:01:25.391,0:01:29.359
demandez-vous d'abord : « La réponse[br]est-elle une information élémentaire ? »

0:01:29.845,0:01:32.525
<i>Quelle est la capitale de la France ?</i>

0:01:32.960,0:01:35.288
<i>Quelles atomes constituent[br]une molécule d'eau ?</i>

0:01:35.288,0:01:37.743
Si c'est le cas, allez-y.

0:01:38.051,0:01:41.048
Aucun chercheur n'essaie de prouver[br]qu'il s'agit de Londres

0:01:41.048,0:01:42.928
et de 30 atomes d'hydrogène.

0:01:42.928,0:01:45.279
Pas de mystère derrière[br]ces simples questions.

0:01:45.279,0:01:46.951
Leurs réponses font l'objet

0:01:46.951,0:01:49.621
d'un consensus général.

0:01:49.621,0:01:54.801
Mais si on ajoute un degré de complexité,[br]en demandant par exemple

0:01:54.801,0:01:57.718
« A quoi est dû[br]le conflit israélo-palestinien ? »

0:01:58.461,0:02:01.113
on n'est plus à la recherche[br]d'une simple information,

0:02:01.113,0:02:02.973
mais d'une connaissance,

0:02:02.973,0:02:05.775
ce qui est bien plus compliqué[br]et délicat à obtenir.

0:02:06.016,0:02:07.602
Pour construire une connaissance,

0:02:07.602,0:02:10.628
il faut rassembler 10, 20 ou 100[br]informations factuelles,

0:02:10.628,0:02:13.476
les étudier et se dire[br]« D'accord, tout cela est vrai. »

0:02:13.476,0:02:15.203
Mais en fonction de qui je suis,

0:02:15.203,0:02:17.687
jeune ou vieux, Noir ou Blanc,[br]gay ou hétéro,

0:02:17.687,0:02:19.306
je les envisagerai différemment.

0:02:19.306,0:02:21.018
Je me dirai « Oui, tout est vrai,

0:02:21.018,0:02:23.119
mais cet aspect me parle plus[br]que celui-là. »

0:02:23.119,0:02:25.262
Et c'est là que ça devient intéressant,

0:02:25.262,0:02:27.399
car c'est ce qui fait de nous[br]des humains

0:02:27.399,0:02:30.327
capables de débattre et[br]de prendre part à la société.

0:02:30.327,0:02:33.461
Et pour digérer tous ces faits,[br]il faut les confronter

0:02:33.461,0:02:36.256
à nos amis, voisins,[br]famille, enfants,

0:02:36.256,0:02:38.471
collègues, journaux, magazines,

0:02:38.471,0:02:41.381
et alors seulement,[br]on parvient à une vraie connaissance,

0:02:41.381,0:02:45.799
chose qu'un moteur de recherche[br]est incapable de faire.

0:02:46.673,0:02:52.477
Comme promis, voici un exemple qui montre[br]comme il est difficile de parvenir

0:02:52.981,0:02:56.588
à une connaissance pure,[br]impartiale et parfaite.

0:02:56.588,0:02:58.098
Pour nourrir notre réflexion,

0:02:58.098,0:03:01.798
je vais effectuer deux requêtes[br]très simples.

0:03:01.798,0:03:05.487
Pour commencer, « Michelle Obama »,

0:03:06.332,0:03:08.341
la Première Dame des Etats-Unis.

0:03:08.365,0:03:10.094
Cliquons sur l'onglet « Images ».

0:03:10.643,0:03:13.279
Comme vous le voyez,[br]ça fonctionne très bien.

0:03:13.303,0:03:16.331
Somme toute, de parfaits[br]résultats de recherche.

0:03:16.355,0:03:19.105
Elle est seule sur les photos,[br]sans même le Président.

0:03:19.257,0:03:20.977
Comment ça marche ?

0:03:21.317,0:03:22.825
C'est très simple.

0:03:22.825,0:03:25.951
Google procède de manière astucieuse[br]et très simple à la fois :

0:03:25.951,0:03:28.532
il se base essentiellement[br]sur deux éléments.

0:03:28.556,0:03:33.712
Primo, qu'est-il écrit[br]dans la légende de l'image ?

0:03:33.736,0:03:35.951
A-t-on marqué « Michelle Obama »[br]sous la photo ?

0:03:35.975,0:03:38.331
Si oui, on peut déduire que[br]c'est bien elle.

0:03:38.355,0:03:40.741
Secondo, Google examine[br]le nom du fichier image

0:03:40.765,0:03:43.515
que l'on a téléchargé sur le site.

0:03:43.515,0:03:46.376
Le fichier s'appelle[br]« MichelleObama.jpeg » ?

0:03:46.376,0:03:49.422
Si oui, ce n'est sans doute pas[br]une photo de Clint Eastwood.

0:03:49.422,0:03:53.404
Les deux éléments renseignés, on obtient[br](presque toujours) de bons résultats.

0:03:53.404,0:03:59.457
Mais en 2009, Michelle Obama[br]a été victime d'une campagne raciste,

0:03:59.991,0:04:04.317
où des personnes ont commencé à l'insulter[br]via ses résultats de recherche.

0:04:04.682,0:04:07.578
On a diffusé sur toute la toile[br]une photo d'elle retouchée

0:04:07.578,0:04:10.358
où son visage ressemblait[br]à celui d'un singe.

0:04:10.358,0:04:13.344
Cette photo a fait le buzz.

0:04:13.680,0:04:17.141
Les gens la publiaient expressément

0:04:17.141,0:04:19.179
pour entacher ses résultats de recherche.

0:04:19.179,0:04:22.345
Ils s'assuraient d'indiquer[br]« Michelle Obama » dans la légende

0:04:22.345,0:04:26.309
et de nommer leur fichier image[br]« MichelleObama.jpeg »,

0:04:26.309,0:04:28.837
avec pour but de manipuler les résultats.

0:04:28.837,0:04:30.323
Et ça a marché.

0:04:30.323,0:04:33.119
Quand vous cherchiez sur Google[br]une photo d'elle en 2009,

0:04:33.119,0:04:36.464
c'était un visage déformé de singe[br]qui apparaissait.

0:04:36.464,0:04:39.851
Les résultats de recherche[br]s'auto-régulent donc,

0:04:39.851,0:04:41.678
en somme, c'est leur grande force,

0:04:41.678,0:04:45.078
parce que Google réévalue[br]sans arrêt leur pertinence.

0:04:45.078,0:04:47.972
Mais cette fois, cela n'a pas suffi

0:04:47.972,0:04:50.903
Google s'est dit : « Ce résultat[br]est raciste et non pertinent,

0:04:50.903,0:04:54.022
faisons marche arrière et[br]supprimons-le manuellement.

0:04:54.343,0:04:57.063
Ecrivons un bout de code[br]pour régler le problème. »

0:04:57.063,0:04:58.473
Et c'est ce qui s'est passé.

0:04:59.115,0:05:02.792
Je pense qu'aucun d'entre vous[br]ne désapprouve cette décision.

0:05:03.392,0:05:04.599
Et moi non plus.

0:05:06.367,0:05:09.098
Mais plusieurs années après,[br]un homme nommé Anders

0:05:09.401,0:05:12.282
(sans doute le Anders le plus[br]recherché sur Google),

0:05:12.282,0:05:14.648
Anders Behring Breivik,

0:05:14.648,0:05:16.219
a fait ce qu'il a fait.

0:05:16.443,0:05:18.518
C'était le 22 juillet 2011,

0:05:18.518,0:05:21.172
une terrible journée[br]dans l'histoire de la Norvège.

0:05:21.172,0:05:25.011
Ce terroriste a fait sauter[br]des immeubles gouvernementaux

0:05:25.011,0:05:27.814
tout près de là où nous sommes,[br]à Oslo,

0:05:27.814,0:05:29.864
puis s'est rendu sur l'île d'Utøya

0:05:29.864,0:05:32.239
où il a massacré des adolescents.

0:05:32.487,0:05:34.486
Il y a eu près de 80 morts ce jour-là.

0:05:35.966,0:05:40.621
Et on dit souvent que cet acte terroriste[br]s'est déroulé en deux temps :

0:05:40.621,0:05:44.073
d'abord l'explosion,[br]puis la fusillade,

0:05:44.073,0:05:45.580
mais c'est faux.

0:05:45.890,0:05:47.851
Il y a trois temps.

0:05:47.851,0:05:50.382
Il a fait sauter les immeubles,[br]tué les adolescents,

0:05:50.382,0:05:54.035
puis il a attendu que le monde[br]le recherche sur Google.

0:05:54.771,0:05:57.425
Chacun de ces trois temps a été[br]minutieusement préparé.

0:05:58.003,0:06:00.730
Et il y a une personne[br]qui s'en est aperçu tout de suite :

0:06:00.730,0:06:02.525
Nikke Lindqvist, un développeur web

0:06:02.525,0:06:06.210
expert en référencement[br]vivant à Stockholm, en Suède.

0:06:06.210,0:06:07.952
Très engagé politiquement,

0:06:07.952,0:06:11.219
il a tout de suite réagi sur les réseaux,[br]son blog et Facebook,

0:06:11.219,0:06:12.671
en disant à tout le monde :

0:06:12.695,0:06:15.150
« En ce moment,[br]ce mec n'a qu'une idée en tête,

0:06:15.174,0:06:17.633
c'est contrôler son image.

0:06:18.291,0:06:20.466
Voyons comment on peut la ternir.

0:06:21.490,0:06:25.467
Voyons si nous, personnes civilisées,[br]pouvons protester contre son acte

0:06:25.491,0:06:28.808
en l'injuriant[br]via ses résultats de recherche. »

0:06:28.832,0:06:30.019
Et de quelle façon ?

0:06:30.332,0:06:32.540
Il demanda ceci à tous ses lecteurs :

0:06:32.540,0:06:34.451
« Allez sur Internet,

0:06:34.451,0:06:37.452
trouvez des photos de crottes de chien[br]sur des trottoirs --

0:06:38.384,0:06:40.536
trouvez des photos de crottes de chien[br]sur des trottoirs --

0:06:40.536,0:06:44.087
publiez-les sur vos comptes,[br]vos sites web et vos blogs,

0:06:44.087,0:06:47.037
mettez bien le nom du terroriste[br]dans la légende,

0:06:47.037,0:06:51.386
et nommez bien le fichier image[br]'Breivik.jpeg'.

0:06:51.386,0:06:55.195
Faisons croire à Google[br]que c'est le visage de ce terroriste. »

0:06:57.053,0:06:58.584
Et ça a marché.

0:06:59.612,0:07:02.416
Deux ans après la campagne raciste[br]contre Michelle Obama,

0:07:02.416,0:07:05.727
une même campagne[br]contre Anders Behring Breivik a eu lieu.

0:07:05.727,0:07:10.183
En Suède, quelques semaines[br]après les événements du 22 juillet,

0:07:10.183,0:07:14.382
ses résultats de recherche affichaient[br]une photo de crotte de chien

0:07:14.382,0:07:16.036
en signe de protestation.

0:07:17.008,0:07:21.176
Il est à noter que cette fois,[br]Google n'est pas intervenu.

0:07:22.074,0:07:26.449
Il ne s'est pas donné la peine[br]de nettoyer ces résultats manuellement.

0:07:27.431,0:07:29.360
Et maintenant,[br]la question à mille euros :

0:07:29.360,0:07:32.821
quelle est la différence[br]entre ces deux anecdotes ?

0:07:32.821,0:07:36.128
Michelle Obama a-t-elle subi une attaque[br]de nature différente

0:07:36.128,0:07:38.378
de celle subie[br]par Anders Behring Breivik ?

0:07:38.402,0:07:39.686
Bien sûr que non.

0:07:40.353,0:07:42.022
C'est exactement la même chose,

0:07:42.022,0:07:44.731
mais Google intervient dans un cas[br]mais pas dans l'autre.

0:07:44.731,0:07:46.139
Pourquoi ?

0:07:47.076,0:07:50.125
Parce que Michelle Obama[br]est une personne respectable,

0:07:50.125,0:07:53.228
et que Anders Behring Breivik[br]est une personne méprisable.

0:07:53.707,0:07:55.450
Vous voyez jusqu'où ça va ?

0:07:55.450,0:07:58.491
Quand on se met à[br]juger une personne

0:07:58.491,0:08:01.611
il existe une instance[br]unique et toute puissante

0:08:02.148,0:08:04.997
capable d'avoir le dernier mot.

0:08:05.701,0:08:07.623
« Toi on t'aime,[br]toi on ne t'aime pas.

0:08:07.647,0:08:09.686
On croit en toi,[br]mais pas en toi.

0:08:09.710,0:08:12.257
Tu as tort, tu as raison.[br]Tu es vrai, tu es faux.

0:08:12.281,0:08:14.086
Tu es Obama,[br]et toi tu es Breivik. »

0:08:14.412,0:08:16.579
Et c'est, je pense,[br]l'essence même du pouvoir.

0:08:18.609,0:08:22.532
Souvenez-vous donc que[br]derrière tout algorithme

0:08:22.532,0:08:24.357
se cache toujours[br]une personne

0:08:24.357,0:08:26.911
dont la trame de[br]convictions personnelles

0:08:26.911,0:08:29.397
transparaîtra quel que soit[br]le code du programme.

0:08:29.397,0:08:31.935
Et l'objet de mon propos[br]va bien au-delà de Google,

0:08:31.935,0:08:34.789
et concerne tous ceux[br]qui font confiance au code.

0:08:34.789,0:08:37.719
Il faut identifier[br]ses propres préjugés moraux.

0:08:37.719,0:08:40.056
Il faut reconnaître[br]qu'en tant qu'humains

0:08:40.080,0:08:42.571
nous devons prendre[br]nos responsabilités.

0:08:43.528,0:08:46.459
D'autant plus que que je pense[br]que nous avons atteint un point

0:08:46.459,0:08:48.164
où il est absolument[br]nécessaire

0:08:48.164,0:08:51.252
de renforcer[br]les liens qui unissent

0:08:51.252,0:08:53.751
les sciences humaines[br]et la technologie.

0:08:54.077,0:08:56.020
Plus que jamais.

0:08:56.020,0:08:59.438
Ou du moins de se souvenir[br]que la séduisante hypothèse

0:08:59.438,0:09:01.995
de résultats de recherche[br]parfaitement impartiaux

0:09:01.995,0:09:04.674
est et restera sans doute[br]un mythe.

0:09:05.390,0:09:06.894
Merci pour votre attention.

0:09:06.894,0:09:08.726
(Applaudissements)