A parcialidade moral por trás dos seus resultados de busca na internet

Ferramentas de busca tornaram-se nossas fontes mais confiáveis de informação e árbitros da verdade. Mas será que é possível obtermos resultados imparciais nessas buscas? Andreas Ekström, escritor e jornalista sueco, argumenta que isso é filosoficamente impossível. Nesta profunda palestra, eles nos convoca a estreitar os laços entre a tecnologia e as ciências humanas, e nos lembra que, por trás de todo algoritmo, existe um conjunto de crenças pessoais que código algum jamais poderá erradicar totalmente.

Sempre que visito uma escola
e falo com os alunos,

sempre lhes faço a mesma pergunta:

"Por que vocês usam a busca do Google?

Por que vocês optam pela ferramenta
de busca do Google?"

É engraçado, mas sempre recebo
as mesmas três respostas.

Primeiro: "Porque funciona",

o que é uma ótima resposta.
Também opto pelo Google por isso.

Segundo, alguém vai dizer:
"Não conheço outras ferramentas".

Não é uma resposta tão boa quanto
a anterior, e normalmente respondo:

"Busque 'ferramenta de busca' no Google",

e vai encontrar algumas
alternativas interessantes".

Por último, mas não menos importante,

inevitavelmente, algum aluno
levanta a mão e diz:

"Com o Google, sempre obtenho
o resultado melhor e imparcial".

"Sempre obtenho
o resultado melhor e imparcial."

Como um cara de humanas,
embora um cara de humanas digitais,

isso simplesmente me assusta,

embora eu também saiba que essa confiança,
essa ideia de um resultado imparcial,

é a base de nosso apreço
e paixão coletivos pelo Google.

Vou mostrar por que, filosoficamente,
isso é quase impossível,

mas primeiro vou falar, só um pouquinho,
sobre um princípio básico

por trás de cada pesquisa feita,
do qual às vezes parecemos nos esquecer.

Sempre que você pesquisar algo no Google,

faça antes a seguinte pergunta a si mesmo:
"Estou buscando um fato isolado?"

Tipo, qual é a capital da França?

Quais elementos compõem
a molécula de água?

Perfeito. Pesquise à vontade.

Não há um grupo sequer de cientistas
que esteja perto de provar

que as respostas são "Londres" e "H3O".

Não se vê uma grande
conspiração em torno disso.

Concordamos, em escala mundial,

quanto a quais são as respostas
para esses fatos isolados.

Porém, se você complicar
a pergunta só um pouquinho, assim:

"Por que existe um conflito
entre Israel e Palestina?",

não estará mais buscando
exatamente um único fato,

mas estará buscando conhecimento,

o que é bem mais complicado e delicado.

E, para chegar ao conhecimento,

você precisa trazer
10, 20 ou 100 fatos à mesa,

reconhecê-los e dizer:
"Sim, todos são verdadeiros".

Mas, por causa de quem somos -

jovens, idosos, negros,
brancos, gays, héteros -,

vamos valorizá-los de forma diferente:
"Sim, isso aqui é verdade,

mas isso aqui é mais importante
pra mim do que aquilo".

É aí que a coisa fica interessante,
porque é aí que nos tornamos humanos,

que começamos a debater,
a criar uma sociedade.

E, para realmente chegar a algum lugar,
precisamos filtrar todos os fatos,

entre amigos, vizinhos, pais, filhos,
colegas de trabalho, jornais, revistas,

para finalmente estarmos baseados
em conhecimento real,

algo que uma ferramenta de busca
é ruim em nos ajudar a obter.

Prometi a vocês um exemplo,
apenas para mostrar por que é tão difícil

chegar ao conhecimento
real, claro e objetivo,

como ponto para reflexão.

Vou fazer algumas
pesquisas simples, buscas simples.

Vamos começar com "Michelle Obama",
a primeira-dama dos Estados Unidos,

e vamos clicar em "imagens".

Funciona muito bem, como vocês podem ver.

É um resultado de busca
praticamente perfeito.

Só ela aparece nas fotos.
Nem o presidente aparece.

Como isso funciona?

Bem simples.

O Google usa muita inteligência para isso,
mas, de forma bem simples,

eles analisam principalmente duas coisas.

Primeiro, o que está escrito
na legenda da foto, em cada site?

Está escrito "Michelle Obama"
abaixo da foto?

É bem provável que seja ela mesma na foto.

Segundo, o Google analisa
o arquivo da imagem,

o nome com que o arquivo
foi carregado no site.

Novamente, se o nome do arquivo
for "MichelleObama.jpeg",

é bem provável que a foto
não seja do Clint Eastwood.

Então, você tem essas duas coisas,
e obtém um resultado mais ou menos assim.

Bem, em 2009, Michelle Obama
foi vítima de uma campanha racista,

quando as pessoas começaram a insultá-la

através dos resultados de pesquisa
relacionados a ela.

Uma foto circulou em toda a internet,

com o rosto dela distorcido,
fazendo-a parecer com um macaco.

Essa imagem foi publicada
em toda a internet.

As pessoas a publicaram
realmente com a intenção

de aparecer nos primeiros
resultados de pesquisa.

Certificaram-se de escrever
"Michelle Obama" na legenda

e de carregar a imagem como
"MichelleObama.jpeg", ou algo assim.

Entendem por quê?
Para manipular os resultados.

E funcionou também.

Então, ao pesquisar imagens
de "Michelle Obama" em 2009,

a imagem distorcida de macaco
aparecia entre os primeiros resultados.

Mas os resultados são autoajustáveis,
o que é meio que a vantagem disso tudo,

porque o Google avalia a relevância
a cada hora, a cada dia.

Porém, o Google não fez isso dessa vez.

Eles pensaram: "Isso é racismo
e um resultado ruim de pesquisa.

Vamos lá e vamos corrigir
isso manualmente.

Vamos escrever algum código
para consertar isso".

E assim o fizeram.

Não acredito que alguém nesta sala
ache que isso foi uma má ideia.

Também não acho.

Mas então, dois anos depois,

e o "Anders" mais buscado no Google,
Anders Behind Breivik,

fez o que fez.

É 22 de julho de 2011,
um dia terrível na história da Noruega.

Este homem, um terrorista,
explodiu dois edifícios governamentais,

a poucos metros daqui,
em Oslo, na Noruega,

e depois viajou para a ilha de Utøya
e matou a tiros um grupo de jovens.

Quase 80 pessoas morreram naquele dia.

Muitos descreveriam esse ato
de terror como realizado em duas etapas,

que ele fez duas coisas: explodiu
os edifícios e atirou nos jovens.

Não é verdade.

Foram três etapas: ele explodiu
aqueles edifícios, atirou naqueles jovens,

depois parou e esperou
até que o mundo o buscasse no Google.

Ele preparou todas as três
etapas igualmente bem.

Alguém que imediatamente entendeu isso
foi um desenvolvedor web sueco,

especialista em otimização
de ferramentas de busca de Estocolmo,

chamado Nikke Lindqvist.

Ele também é um cara bem político

e ele estava lá nas redes sociais,
em seu blog e Facebook.

Ele disse a todo mundo:

"O que esse cara deseja agora
é controlar sua própria imagem.

Vejamos se conseguimos
distorcer os resultados.

Vejamos se nós, do mundo civilizado,

conseguimos protestar
contra o que ele fez,

insultando-o em seus
resultados de pesquisa".

Mas como?

Ele disse o seguinte
a todos os leitores dele:

"Procurem na internet

imagens de cocô de cachorro em calçadas.

Imagens de cocô de cachorro em calçadas.

Publiquem-nas em suas páginas,
seus sites, seus blogs.

Certifiquem-se de escrever
o nome do terrorista na legenda,

coloquem o seguinte nome
na imagem: 'Breivik.jpeg'.

Vamos mostrar ao Google
que essa é a imagem do terrorista".

E funcionou.

Dois anos após a campanha
contra Michelle Obama,

essa campanha de manipulação
contra Anders Behring Breivik funcionou.

Ao pesquisar a imagem dele no Google

semanas após os eventos
de 22 de julho, na Suécia,

você veria a imagem do cocô
de cachorro no topo dos resultados,

como uma pequena forma de protesto.

Por incrível que pareça,
o Google não interveio dessa vez.

Eles não ajustaram manualmente
esses resultados de pesquisa.

Então, a pergunta que não quer calar:

há algo diferente
entre esses dois acontecimentos?

Há algo diferente entre o que
aconteceu com Michelle Obama

e o que aconteceu
com Anders Behring Breivik?

Claro que não.

É exatamente a mesma coisa,

mas o Google interveio
em um caso e no outro não.

Por quê?

Porque Michelle Obama
é uma pessoa honrada,

e Anders Behring Breivik
é uma pessoa desprezível.

Percebem o acontece aqui?

A avaliação de uma pessoa acontece

e há apenas um mandachuva no mundo

com a autoridade para dizer quem é quem.

"Gostamos de você. Não gostamos de você.

Acreditamos em você; não em você.
Está certo, errado. É verdadeiro, falso.

Você é Obama. Você é Breivik."

Isso é que é poder.

Então, peço que vocês lembrem
que, atrás de cada algoritmo,

sempre existe alguém
com um conjunto de crenças pessoais

que código algum jamais poderá
erradicar totalmente.

Minha mensagem não é apenas ao Google,

mas a todos os que creem piamente
em códigos, em todo o mundo.

Vocês precisam identificar
sua própria parcialidade.

Precisam entender que são humanos
e assumir responsabilidade como tais.

Digo isso porque acredito
que chegamos a um ponto

em que é absolutamente imperativo

que atemos esses laços
novamente, de maneira mais forte:

ciências humanas e tecnologia,

mais unidas que nunca,

e, no mínimo, lembrar que essa ideia
maravilhosamente sedutora

de um resultado de pesquisa
imparcial e limpo

é, e provavelmente
continuará sendo, um mito.

Obrigado pela atenção.

(Aplausos)