O preconceito moral por detrás dos resultados de pesquisa

Os motores de busca tornaram-se nas fontes mais fiáveis de informações e árbitros da verdade. Mas será possível obtermos um resultado de pesquisa imparcial? Andreas Ekström, autor e jornalista sueco, defende que isso é impossível filosoficamente. Nesta palestra que faz pensar, pede-nos que reforcemos os laços entre a tecnologia e as humanidades, e recorda-nos que, por detrás de cada algoritmo está um conjunto de crenças pessoais que nenhum código consegue eliminar totalmente.

Sempre que visito uma escola
e falo com estudantes

pergunto-lhes sempre a mesma coisa:

"Porque é que usam o Google?

"Porque é que o Google é
o vosso motor de pesquisa preferido?"

É curioso que obtenho sempre
as mesmas três respostas.

Um: "Porque funciona",

o que é uma ótima resposta,
também é por isso que eu uso o Google.

Dois, há alguém que diz:

"Não conheço nenhuma alternativa".

Não é uma resposta tão boa
e a minha resposta habitualmente é:

"Experimenta pesquisar
no Google 'motor de busca',

"talvez encontres
algumas alternativas interessantes".

Por fim, mas não menos
frequente, terceiro,

inevitavelmente, um estudante
levanta a mão e diz:

"Com o Google, tenho a certeza
de obter sempre

"o melhor resultado de pesquisa,
e imparcial".

A certeza de obter sempre
o melhor resultado de pesquisa, imparcial.

Enquanto homem de Humanidades.

apesar de ser uma pessoa
de Humanidades Digitais,

fico todo arrepiado,

embora eu também perceba
que essa confiança,

essa ideia de resultado
imparcial de pesquisa

seja uma pedra basilar no nosso amor
e apreciação coletiva do Google.

Vou mostrar-vos porque é que,
filosoficamente, isso é quase impossível.

Mas, primeiro, vou refletir um pouco
sobre um princípio básico

por detrás de cada pesquisa,
que por vezes esquecemos.

Sempre que se dispuserem a usar o Google,
comecem por pensar nisto:

"Estou à procura de um facto isolado?

"Qual é a capital da França?

"Quais são os elementos constitutivos
duma molécula da água?"

Ótimo... Google para a frente.

Não há nenhum grupo de cientistas
que estejam dispostos a provar

que é Londres e H3O.

Não vemos nenhuma
conspiração nestas coisas.

Numa escala global, estamos de acordo

quanto às respostas
para este tipo de factos isolados.

Mas, se complicarem um pouco
a pergunta e perguntarem:

"Porque é que há
um conflito israelo-palestino?"

já não estão propriamente a procurar
um facto singular,

estão a procurar conhecimentos,

o que é uma coisa
mais complicada e delicada.

Para chegar ao conhecimento

precisamos de pôr em cima da mesa
10 ou 20 ou 100 factos,

analisá-los e dizer:
"Sim, estes são todos verdadeiros".

Mas, consoante eu seja

novo ou velho, negro ou branco,
"gay" ou hetero,

avalio-los de modo diferente e digo:

"Sim, isto é verdade, mas, para mim,
isto é mais importante do que aquilo".

É aqui que as coisas
se tornam interessantes,

porque é aqui que nos tornamos humanos.

É aqui que começamos a argumentar,
a formar sociedade.

Para chegar a algum lado, é preciso
filtrar todos os nossos factos

com os amigos e vizinhos,
com os pais e os filhos

e colegas e jornais e revistas,

para finalmente chegarmos
a um conhecimento real,

coisa que um motor de busca
dificilmente consegue.

Prometi-vos um exemplo, só para mostrar
porque é tão difícil

chegar ao ponto da verdade, nua e crua,
de um conhecimento objetivo,

como alimento para o pensamento.

Vou fazer algumas pesquisas simples.

Vamos começar com "Michelle Obama",

a primeira dama dos EUA.

E clicamos em imagens.

Funciona mesmo bem, como podem ver.

É um resultado de pesquisa perfeito,
mais ou menos.

É só ela na imagem,
sem sequer o Presidente.

Como é que isto funciona?

Muito simples.

O Google usa muita esperteza
para conseguir isto, mas é muito simples,

olha sobretudo para duas coisas.

Primeiro, o que é que diz na legenda
por baixo da imagem em cada website?

Diz: "Michelle Obama" por baixo da imagem?

É uma boa indicação de que
é realmente ela que ali está.

Segundo, o Google olha
para o ficheiro da imagem,

para o nome do ficheiro,
tal como carregado no "website".

Chama-se "MichelleObama.jpeg"?

Uma boa indicação de que
não é o Clint Eastwood na imagem.

Portanto, temos estes dois e obtemos
um resultado de pesquisa como este... quase.

Ora bem, em 2009, Michelle Obama
foi vítima duma campanha racista,

em que as pessoas se puseram a insultá-la,
através dos resultados de pesquisa.

Houve uma imagem distribuída
amplamente na Internet

com a cara dela distorcida
para parecer um macaco.

Essa imagem foi publicada
por toda a parte.

As pessoas publicaram-na de propósito

para que ela aparecesse
no resultado da pesquisa.

Tiveram o cuidado de escrever
"Michelle Obama" na legenda

e tiveram o cuidado de carregar a imagem
como "MichelleObama.jpeg", ou equivalente.

Porquê? Para manipularem
o resultado da pesquisa.

E também funcionou.

Quando, em 2009, procurávamos
no Google imagens de Michelle Obama,

essa imagem distorcida
aparecia entre os primeiros resultados.

Ora bem, os resultados
fazem uma auto-limpeza,

— é o que faz a beleza do sistema —

porque o Google está sempre
a medir a relevância.

Mas, dessa vez, o Google
não se contentou com isso e pensou:

"Isto é racista, e é um
mau resultado da pesquisa,

"vamos limpar isto manualmente.

"Vamos escrever um código
qualquer e consertar isto".

E assim fizeram.

Penso que ninguém nesta sala acha
que foi uma má ideia.

Eu também não.

Mas depois, passaram uns anos

e Anders Behring Breivik,

o Anders mais procurado no Google,

fez o que fez.

Foi a 22 de julho de 2011,

um dia terrível na história da Noruega.

Este homem, um terrorista, fez explodir
alguns edifícios governamentais

perto do sítio onde nos encontramos
em Oslo, na Noruega.

Depois, foi para a ilha de Utøya

e matou a tiro um grupo de jovens.

Morreram quase 80 pessoas nesse dia.

Muita gente pensou que este ato
de terrorismo teve duas fases:

fazer explodir os edifícios
e matar aqueles jovens.

Não é verdade.

Foram três fases.

Fez explodir os edifícios,
matou aqueles jovens,

sentou-se e esperou que o mundo
o procurasse no Google.

E preparou igualmente bem
todas essas três fases.

Houve alguém que percebeu
isto imediatamente,

um programador sueco, Nikke Lindqvist.

um especialista de otimização
de motores de busca, em Estocolmo.

É também um tipo muito político.

Saltou logo para as redes sociais,
no seu blogue e no Facebook.

Disse a toda a gente:

"O que este tipo quer, neste momento,
é controlar a própria imagem.

"Vejamos se podemos contrariar isso.

"Vejamos se nós, no mundo civilizado,
podemos protestar contra o que ele fez

"insultando-o nos resultados da pesquisa."

Mas como?

Ele disse o seguinte
a todos os seus leitores:

"Vão à Internet,

"procurem imagens
de cocó de cão nos passeios,

"encontrem imagens
de cocó de cão nos passeios,

"publiquem-nas nos vossos
websites, nos vossos blogues.

"Não se esqueçam de escrever
o nome do terrorista na legenda,

"não se esqueçam de pôr o nome
'Breivik.jpeg' no ficheiro da imagem.

"Vamos ensinar ao Google
que é esse o rosto do terrorista".

E funcionou.

Dois anos depois da campanha
contra Michelle Obama,

esta campanha de manipulação
contra Anders Behring Breivik funcionou.

Quem procurou imagens dele no Google,
depois de 22 de julho na Suécia,

viu que as imagens de cocó de cão
apareciam nos resultados da pesquisa,

como um pequeno protesto.

Estranhamente, o Google
dessa vez não interferiu.

Não limparam manualmente
os resultados da pesquisa.

Então, a pergunta de ouro,

"Há alguma diferença
entre estes dois acontecimentos?"

"Há alguma diferença entre
o que aconteceu a Michelle Obama

"e o que aconteceu
a Anders Behring Breivik?"

Claro que não.

Foi exatamente a mesma coisa.

No entanto, o Google interveio
num caso e não no outro.

Porquê?

Porque Michelle Obama
é uma pessoa respeitável, é por isso,

e Anders Behring Breivik
é uma pessoa ignóbil.

Estão a ver o que acontece aqui?

Fez-se um juízo de valor duma pessoa

e só há um todo-poderoso no mundo
com autoridade para dizer quem é quem.

"Gosto de ti, não gosto de ti.

"Acredito em ti, em ti não.

"Tens razão, tu não.
Estás certo, estás errado.

"És o Obama, e tu és o Breivik."

Esse é um poder sem igual.

Portanto, peço-vos que se lembrem
de que, por detrás de cada algoritmo,

está sempre uma pessoa,

uma pessoa com um conjunto
de crenças pessoais

que nenhum código
consegue eliminar totalmente.

A minha mensagem não se dirige
exclusivamente ao Google,

mas a todos os que acreditam
na fé do código, pelo mundo inteiro.

Precisamos de identificar
os nossos preconceitos pessoais.

Precisamos de perceber
que somos seres humanos

e assumir essa responsabilidade,
em conformidade com isso.

Digo isto porque acredito
que chegámos a um ponto

em que é totalmente imperativo

que voltemos a ligar estes laços,
mais apertados ainda,

as humanidades e a tecnologia.

Mais apertados do que nunca.

E, pelo menos, lembrarmo-nos de que
essa ideia maravilhosamente sedutora

de resultados de pesquisa
limpos, imparciais,

é, e provavelmente
continuará a ser, um mito.

Obrigado pelo vosso tempo.

(Aplausos)