Les préjugés moraux derrière les résultats de recherche | Andreas Ekstrøm | TEDxOslo

De nos jours, lorsque l'on cherche une information, c'est aux moteurs de recherche que nous faisons le plus confiance. Mais est-il possible d'obtenir des résultats de recherche impartiaux ? Pour Andreas Ekström, auteur et journaliste suédois, cela relève de l'impossibilité. Dans ce brillant exposé, il incite à renforcer les liens entre les sciences humaines et la technologie et nous rappelle que derrière tout algorithme se cache un réseau de convictions personnelles, que nul code ne peut entièrement éclipser.

A chaque fois que j'interviens
dans une école,

je pose toujours la même question
aux élèves :

Pourquoi allez-vous sur Google ?

Pourquoi ce moteur de recherche
plutôt qu'un autre ?

Et bizarrement, j'obtiens toujours
trois mêmes réponses.

Premièrement,
« Parce que ça marche » ;

c'est une bonne raison,
c'est pour ça que j'y vais aussi.

Deuxièmement, on me dit,

« Je ne saurais vraiment pas
quoi utiliser d'autre. »

C'est un peu moins convaincant,
et j'ai tendance à répondre

« Tapez 'moteur de recherche'
sur Google,

cela vous donnera quelques idées. »

Et troisièmement, inévitablement,

un ou une élève
lève la main et dit :

« Sur Google, j'ai la certitude d'obtenir
des informations impartiales. »

La certitude d'obtenir
des informations impartiales.

Je suis passionné d'humanités numériques,

et entendre cette phrase

me donne la chair de poule,

même si je vois bien que cette confiance
en l'impartialité des résultats

est au fondement du crédit
que l'on donne à Google.

Je vais vous montrer en quoi
c'est pratiquement impossible.

Mais tout d'abord, rappelons
une règle de base

qui vaut pour toutes les requêtes,
et qu'il nous arrive d'oublier.

Quand vous vous apprêtez
à faire une recherche

demandez-vous d'abord : « La réponse
est-elle une information élémentaire ? »

Quelle est la capitale de la France ?

Quelles atomes constituent
une molécule d'eau ?

Si c'est le cas, allez-y.

Aucun chercheur n'essaie de prouver
qu'il s'agit de Londres

et de 30 atomes d'hydrogène.

Pas de mystère derrière
ces simples questions.

Leurs réponses font l'objet

d'un consensus général.

Mais si on ajoute un degré de complexité,
en demandant par exemple

« A quoi est dû
le conflit israélo-palestinien ? »

on n'est plus à la recherche
d'une simple information,

mais d'une connaissance,

ce qui est bien plus compliqué
et délicat à obtenir.

Pour construire une connaissance,

il faut rassembler 10, 20 ou 100
informations factuelles,

les étudier et se dire
« D'accord, tout cela est vrai. »

Mais en fonction de qui je suis,

jeune ou vieux, Noir ou Blanc,
gay ou hétéro,

je les envisagerai différemment.

Je me dirai « Oui, tout est vrai,

mais cet aspect me parle plus
que celui-là. »

Et c'est là que ça devient intéressant,

car c'est ce qui fait de nous
des humains

capables de débattre et
de prendre part à la société.

Et pour digérer tous ces faits,
il faut les confronter

à nos amis, voisins,
famille, enfants,

collègues, journaux, magazines,

et alors seulement,
on parvient à une vraie connaissance,

chose qu'un moteur de recherche
est incapable de faire.

Comme promis, voici un exemple qui montre
comme il est difficile de parvenir

à une connaissance pure,
impartiale et parfaite.

Pour nourrir notre réflexion,

je vais effectuer deux requêtes
très simples.

Pour commencer, « Michelle Obama »,

la Première Dame des Etats-Unis.

Cliquons sur l'onglet « Images ».

Comme vous le voyez,
ça fonctionne très bien.

Somme toute, de parfaits
résultats de recherche.

Elle est seule sur les photos,
sans même le Président.

Comment ça marche ?

C'est très simple.

Google procède de manière astucieuse
et très simple à la fois :

il se base essentiellement
sur deux éléments.

Primo, qu'est-il écrit
dans la légende de l'image ?

A-t-on marqué « Michelle Obama »
sous la photo ?

Si oui, on peut déduire que
c'est bien elle.

Secondo, Google examine
le nom du fichier image

que l'on a téléchargé sur le site.

Le fichier s'appelle
« MichelleObama.jpeg » ?

Si oui, ce n'est sans doute pas
une photo de Clint Eastwood.

Les deux éléments renseignés, on obtient
(presque toujours) de bons résultats.

Mais en 2009, Michelle Obama
a été victime d'une campagne raciste,

où des personnes ont commencé à l'insulter
via ses résultats de recherche.

On a diffusé sur toute la toile
une photo d'elle retouchée

où son visage ressemblait
à celui d'un singe.

Cette photo a fait le buzz.

Les gens la publiaient expressément

pour entacher ses résultats de recherche.

Ils s'assuraient d'indiquer
« Michelle Obama » dans la légende

et de nommer leur fichier image
« MichelleObama.jpeg »,

avec pour but de manipuler les résultats.

Et ça a marché.

Quand vous cherchiez sur Google
une photo d'elle en 2009,

c'était un visage déformé de singe
qui apparaissait.

Les résultats de recherche
s'auto-régulent donc,

en somme, c'est leur grande force,

parce que Google réévalue
sans arrêt leur pertinence.

Mais cette fois, cela n'a pas suffi

Google s'est dit : « Ce résultat
est raciste et non pertinent,

faisons marche arrière et
supprimons-le manuellement.

Ecrivons un bout de code
pour régler le problème. »

Et c'est ce qui s'est passé.

Je pense qu'aucun d'entre vous
ne désapprouve cette décision.

Et moi non plus.

Mais plusieurs années après,
un homme nommé Anders

(sans doute le Anders le plus
recherché sur Google),

Anders Behring Breivik,

a fait ce qu'il a fait.

C'était le 22 juillet 2011,

une terrible journée
dans l'histoire de la Norvège.

Ce terroriste a fait sauter
des immeubles gouvernementaux

tout près de là où nous sommes,
à Oslo,

puis s'est rendu sur l'île d'Utøya

où il a massacré des adolescents.

Il y a eu près de 80 morts ce jour-là.

Et on dit souvent que cet acte terroriste
s'est déroulé en deux temps :

d'abord l'explosion,
puis la fusillade,

mais c'est faux.

Il y a trois temps.

Il a fait sauter les immeubles,
tué les adolescents,

puis il a attendu que le monde
le recherche sur Google.

Chacun de ces trois temps a été
minutieusement préparé.

Et il y a une personne
qui s'en est aperçu tout de suite :

Nikke Lindqvist, un développeur web

expert en référencement
vivant à Stockholm, en Suède.

Très engagé politiquement,

il a tout de suite réagi sur les réseaux,
son blog et Facebook,

en disant à tout le monde :

« En ce moment,
ce mec n'a qu'une idée en tête,

c'est contrôler son image.

Voyons comment on peut la ternir.

Voyons si nous, personnes civilisées,
pouvons protester contre son acte

en l'injuriant
via ses résultats de recherche. »

Et de quelle façon ?

Il demanda ceci à tous ses lecteurs :

« Allez sur Internet,

trouvez des photos de crottes de chien
sur des trottoirs --

trouvez des photos de crottes de chien
sur des trottoirs --

publiez-les sur vos comptes,
vos sites web et vos blogs,

mettez bien le nom du terroriste
dans la légende,

et nommez bien le fichier image
'Breivik.jpeg'.

Faisons croire à Google
que c'est le visage de ce terroriste. »

Et ça a marché.

Deux ans après la campagne raciste
contre Michelle Obama,

une même campagne
contre Anders Behring Breivik a eu lieu.

En Suède, quelques semaines
après les événements du 22 juillet,

ses résultats de recherche affichaient
une photo de crotte de chien

en signe de protestation.

Il est à noter que cette fois,
Google n'est pas intervenu.

Il ne s'est pas donné la peine
de nettoyer ces résultats manuellement.

Et maintenant,
la question à mille euros :

quelle est la différence
entre ces deux anecdotes ?

Michelle Obama a-t-elle subi une attaque
de nature différente

de celle subie
par Anders Behring Breivik ?

Bien sûr que non.

C'est exactement la même chose,

mais Google intervient dans un cas
mais pas dans l'autre.

Pourquoi ?

Parce que Michelle Obama
est une personne respectable,

et que Anders Behring Breivik
est une personne méprisable.

Vous voyez jusqu'où ça va ?

Quand on se met à
juger une personne

il existe une instance
unique et toute puissante

capable d'avoir le dernier mot.

« Toi on t'aime,
toi on ne t'aime pas.

On croit en toi,
mais pas en toi.

Tu as tort, tu as raison.
Tu es vrai, tu es faux.

Tu es Obama,
et toi tu es Breivik. »

Et c'est, je pense,
l'essence même du pouvoir.

Souvenez-vous donc que
derrière tout algorithme

se cache toujours
une personne

dont la trame de
convictions personnelles

transparaîtra quel que soit
le code du programme.

Et l'objet de mon propos
va bien au-delà de Google,

et concerne tous ceux
qui font confiance au code.

Il faut identifier
ses propres préjugés moraux.

Il faut reconnaître
qu'en tant qu'humains

nous devons prendre
nos responsabilités.

D'autant plus que que je pense
que nous avons atteint un point

où il est absolument
nécessaire

de renforcer
les liens qui unissent

les sciences humaines
et la technologie.

Plus que jamais.

Ou du moins de se souvenir
que la séduisante hypothèse

de résultats de recherche
parfaitement impartiaux

est et restera sans doute
un mythe.

Merci pour votre attention.

(Applaudissements)