I pregiudizi morali dietro i risultati di ricerca

I motori di ricerca sono diventati la nostra risorsa di informazioni più affidabile e arbitri della verità. Ma si possono ottenere risultati di ricerca imparziali? L'autore e giornalista svedese Andreas Ekström sostiente che sia filosoficamente impossibile. In questo ponderato intervento, ci spinge a rafforzare i legami tra tecnologia e umanità, e ci ricorda che dietro ogni algoritmo c'è una serie di convinzioni che nessun codice potrà mai sradicare.

Quando visito una scuola
e parlo agli studenti,

chiedo sempre la stessa cosa:

Perché Google?

Perché Google è il tuo
motore di ricerca preferito?

Stranamente, ricevo sempre
le stesse tre risposte.

Uno, "Perché funziona",

che è una gran risposta;
anch'io uso Google per questo.

Due, qualcuno dice,

"In realtà non conosco
nessuna alternativa."

Non è una grande risposta
e la mia replica è, generalmente,

"Scrivi su Google
"motore di ricerca",

puoi trovare un paio
di alternative interessanti."

Ultimo, non per importanza,
terzo,

inevitabilmente, uno studente
o una studentessa alza la mano e dice:

"Con Google, è sicuro avere sempre
il meglio, un risultato imparziale.

È sicuro di avere sempre il migliore
risultato imparziale.

In quanto filosofo,

benché filosofo nell'era digitale,

questo mi fa venire la pelle d'oca

anche se capisco che questa fiducia,
quell'idea del risultato imparziale

è il fondamento della nostra adorazione
e del nostro apprezzamento per Google.

Vi mostrerò come, filosoficamente,
è quasi impossibile.

Ma prima, permettetemi di ragionare,
un po', sul principio di base

dietro ogni quesito di ricerca,
che talvolta sembriamo dimenticare.

Ogni volta che digitate
qualcosa su Google,

cominciate a chiedervi:
"Sto cercando una singola informazione?"

Qual è la capitale della Francia?

Quali i legami costitutivi
di una molecola d'acqua?

Eccellente -- vai con Google.

Non ci sono gruppi di scienziati
così vicini a dimostrare

che in realtà è Londra e H3O.

Non vedete una grande complotto
in queste cose.

Siamo d'accordo,
globalmente,

su quali siano le risposte
a queste informazioni.

Ma se complicate la domanda,
e chiedete qualcosa come,

"Perché c'è
il conflitto Israelo-Palestinese?"

Non state più cercando
una singola informazione,

state cercando conoscenza,

che è qualcosa
di più complicato e delicato.

Per arrivare alla conoscenza,

dovete mettere sul tavolo
10 o 20 o 100 fatti

dimostrarli e dire,
"Sì, questi sono tutti veri."

Ma, in relazione a ciò che io sono,

giovane o vecchio, bianco o nero,
gay o etero,

li valuterò diversamente.

E dirò, "Sì, questo è vero,

ma per me questo è più rilevante,
di quello."

Ed è qui che diventa interessante,

perché qui diventiamo umani.

Qui cominciamo a discutere,
a formare la società.

Per arrivare realmente da qualche parte,
dobbiamo filtrare i fatti

attraverso amici, vicini,
genitori, bambini,

colleghi, quotidiani e riviste,

per poterci basare
sulla conoscenza reale

una cosa a cui il motore di ricerca
può contribuire poco.

Vi ho promesso un esempio
solo per mostrarvi perché è così difficile

raggiungere il punto della vera, pulita,
oggettiva conoscenza --

come cibo per la mente.

Vi porterò un paio di semplici quesiti,
interrogazioni di ricerca.

Cominceremo con "Michelle Obama",

First Lady degli Stati Uniti.

E selezioneremo immagini.

Funziona molto bene, come potete vedere.

È un risultato di ricerca
perfetto, più o meno.

C'è solo lei nelle immagini,
non c'è neanche il Presidente.

Come funziona?

Molto semplice.

Google utilizza molte abilità
per fare questo, ma soprattutto

cerca due cose
più di ogni altra.

Primo, cosa dice la didascalia
sotto l'immagine in ciascun sito web?

Dice "Michelle Obama"
sotto l'immagine?

Indicazione abbastanza buona,
c'è lei nella foto.

Secondo, Google cerca il file immagine

il nome del file così come è stato
caricato sul sito web.

Di nuovo, si chiama "MichelleObama.jpg"?

Indicazione abbastanza buona,
non c'è Clint Eastwood.

Con queste due,
ottenete questo risultato, o quasi.

Nel 2009, Michelle Obama
è stata vittima di una campagna razzista,

da persone con l'intento di insultarla
attraverso i risultati di ricerca.

C'era un'immagine
largamente distribuita su Internet

dove il viso era distorto
per somigliare a una scimmia.

E quell'immagine
è stata pubblicata ovunque.

La gente l'ha pubblicata
proprio con l'intenzione

di arrivare nei risultati di ricerca.

Si è assicurata di scrivere
"Michelle Obama" nel titolo

e di caricare l'immagine
come "MichelleObama.jpg", o simili.

Capite perché -- per manipolare
i risultati di ricerca.

E ha anche funzionato.

Se cercavate su Google
foto di "Michelle Obama" nel 2009,

quell'immagine distorta di scimmia
compariva tra i primi risultati.

I risultati si auto-ripuliscono

e questa è la bellezza,

perché Google misura la rilevanza
ogni ora, ogni giorno.

Tuttavia, Google non l'ha sistemato
questa volta,

hanno pensato, "È razzista
ed è un pessimo risultato di ricerca;

torneremo indietro
e lo puliremo manualmente.

Riscriveremo il codice
e lo sistemeremo,"

e così hanno fatto.

E penso che nessuno in questa sala
pensi sia stata una pessima idea.

Neanch'io.

Ma quando, circa due anni fa,

il più ricercato su Google, Anders

Anders Behring Breivik,

fece quello che ha fatto.

È il 22 luglio del 2011,

e un giorno terribile in Norvegia.

Quest'uomo, un terrorista, fece esplodere
un paio di palazzi del Governo

poco distanti da dove ci troviamo
adesso a Oslo, in Norvegia

e poi viaggiò
verso l'isola di Utøya

e sparò e uccise un gruppo di bambini.

Morirono circa 80 persone.

E molte persone descriverebbero
questo atto di terrorismo in due fasi,

fece due cose: far esplodere
i palazzi e uccidere quei bambini.

Non è così.

Erano tre fasi.

Fece esplodere i palazzi,
uccise i bambini,

si sedette e aspettò che il mondo
lo cercasse su Google.

E preparò
le tre fasi ugualmente bene.

E se qualcuno
lo ha immediatamente capito

è stato uno sviluppatore svedese

esperto in motori di ricerca
a Stoccolma, Nikke Lindqvist.

Politicamente impegnato.

Aveva ragione
nei social, nel suo blog e su Facebook.

Lo ha detto a tutti,

"Se c'è qualcosa
che quest'uomo vuole adesso,

è controllare la sua immagine.

Vediamo se possiamo distorcerla.

Vediamo se, nel mondo civile,
possiamo protestare contro quello che ha fatto

insultandolo
nei suoi risultati di ricerca."

Come?

Disse ai suoi lettori quanto segue,

"Andate su Internet,

trovate immagini di cacche di cane --

trovate immagini di cacche di cane --

pubblicatele nei vostri feed,
nei vostri siti web, nei vostri blog.

Sinceratevi di scrivere il nome
del terrorista nel titolo,

assicuratevi di nominare
il file immagine "Breivik.jpeg".

Insegniamo a Google che quella
è la faccia del terrorista."

E funzionò.

Due anni dopo quella campagna
contro Michelle Obama,

l'iniziativa di manipolazione
contro Anders Behring Breivik funzionò.

Se cercavate sue immagini su Google
dopo i fatti del 22 luglio in Svezia,

vedevate l'immagine della cacca di cane
in cima ai risultati di ricerca,

come una piccola protesta.

Stranamente, Google
non è intervenuto questa volta.

Non sono intervenuti e non hanno
ripulito manualmente quei risultati.

La domanda da un milione di dollari,

c'è qualche differenza
tra queste due vicende?

C'è qualche differenza tra
quello che è successo a Michelle Obama

e quello che è successo
a Anders Behring Breivik?

Certo che no.

È esattamente la stessa cosa,

eppure, Google è intervenuto in un caso
e non nell'altro.

Perché?

Perché Michelle Obama
è una persona stimata, ecco perché,

e Anders Behring Breivik
è una persona orribile.

Visto cos'è successo?

Si giudica una persona

e c'è soltanto una figura

che ha l'autorità di dire chi è chi.

"Tu ci piaci, tu non ci piaci.

A te crediamo,
a te non ti crediamo.

Tu hai ragione, tu hai torto.
Sei vero, sei falso.

Tu sei Obama, e tu sei Breivik."

Questo è potere, se ho visto bene.

Vi chiedo di ricordare
che dietro ogni algoritmo

c'è sempre una persona,

una persona
con un insieme di convinzioni personali

che nessun codice potrà mai
completamente sradicare.

Il mio messaggio va
non soltanto a Google,

ma a tutti coloro al mondo
che credono nel codice.

Si devono identificare
i propri pregiudizi personali.

Bisogna capire di essere umani

e assumersi responsabilità di conseguenza.

Dico questo perché credo
che sia giunto il momento

in cui è fondamentale

ricreare questi legami, più stretti:

le umanità e la tecnologia.

Più stretti che mai.

Se non altro, ci ricorda
che quella meravigliosa idea seducente

di risultati di ricerca imparziali, puliti

è, ed è probabile che rimanga, un mito.

Grazie del vostro tempo.

(Applausi)