A parcialidade moral por trás dos seus resultados de busca na internet
-
0:01 - 0:04Sempre que visito uma escola
e falo com os alunos, -
0:04 - 0:06sempre lhes faço a mesma pergunta:
-
0:07 - 0:08"Por que vocês usam a busca do Google?
-
0:08 - 0:12Por que vocês optam pela ferramenta
de busca do Google?" -
0:12 - 0:15É engraçado, mas sempre recebo
as mesmas três respostas. -
0:15 - 0:17Primeiro: "Porque funciona",
-
0:17 - 0:20o que é uma ótima resposta.
Também opto pelo Google por isso. -
0:20 - 0:25Segundo, alguém vai dizer:
"Não conheço outras ferramentas". -
0:25 - 0:28Não é uma resposta tão boa quanto
a anterior, e normalmente respondo: -
0:28 - 0:31"Busque 'ferramenta de busca' no Google",
-
0:31 - 0:33e vai encontrar algumas
alternativas interessantes". -
0:33 - 0:35Por último, mas não menos importante,
-
0:35 - 0:39inevitavelmente, algum aluno
levanta a mão e diz: -
0:39 - 0:44"Com o Google, sempre obtenho
o resultado melhor e imparcial". -
0:45 - 0:52"Sempre obtenho
o resultado melhor e imparcial." -
0:53 - 0:57Como um cara de humanas,
embora um cara de humanas digitais, -
0:57 - 0:59isso simplesmente me assusta,
-
0:59 - 1:04embora eu também saiba que essa confiança,
essa ideia de um resultado imparcial, -
1:04 - 1:08é a base de nosso apreço
e paixão coletivos pelo Google. -
1:08 - 1:13Vou mostrar por que, filosoficamente,
isso é quase impossível, -
1:13 - 1:16mas primeiro vou falar, só um pouquinho,
sobre um princípio básico -
1:16 - 1:19por trás de cada pesquisa feita,
do qual às vezes parecemos nos esquecer. -
1:19 - 1:22Sempre que você pesquisar algo no Google,
-
1:22 - 1:26faça antes a seguinte pergunta a si mesmo:
"Estou buscando um fato isolado?" -
1:26 - 1:29Tipo, qual é a capital da França?
-
1:30 - 1:32Quais elementos compõem
a molécula de água? -
1:32 - 1:34Perfeito. Pesquise à vontade.
-
1:34 - 1:37Não há um grupo sequer de cientistas
que esteja perto de provar -
1:37 - 1:39que as respostas são "Londres" e "H3O".
-
1:39 - 1:42Não se vê uma grande
conspiração em torno disso. -
1:42 - 1:43Concordamos, em escala mundial,
-
1:43 - 1:46quanto a quais são as respostas
para esses fatos isolados. -
1:46 - 1:51Porém, se você complicar
a pergunta só um pouquinho, assim: -
1:51 - 1:54"Por que existe um conflito
entre Israel e Palestina?", -
1:55 - 1:57não estará mais buscando
exatamente um único fato, -
1:57 - 1:59mas estará buscando conhecimento,
-
1:59 - 2:02o que é bem mais complicado e delicado.
-
2:02 - 2:04E, para chegar ao conhecimento,
-
2:04 - 2:07você precisa trazer
10, 20 ou 100 fatos à mesa, -
2:07 - 2:10reconhecê-los e dizer:
"Sim, todos são verdadeiros". -
2:10 - 2:12Mas, por causa de quem somos -
-
2:12 - 2:14jovens, idosos, negros,
brancos, gays, héteros -, -
2:14 - 2:17vamos valorizá-los de forma diferente:
"Sim, isso aqui é verdade, -
2:17 - 2:20mas isso aqui é mais importante
pra mim do que aquilo". -
2:20 - 2:24É aí que a coisa fica interessante,
porque é aí que nos tornamos humanos, -
2:24 - 2:27que começamos a debater,
a criar uma sociedade. -
2:27 - 2:30E, para realmente chegar a algum lugar,
precisamos filtrar todos os fatos, -
2:30 - 2:35entre amigos, vizinhos, pais, filhos,
colegas de trabalho, jornais, revistas, -
2:35 - 2:38para finalmente estarmos baseados
em conhecimento real, -
2:38 - 2:42algo que uma ferramenta de busca
é ruim em nos ajudar a obter. -
2:45 - 2:49Prometi a vocês um exemplo,
apenas para mostrar por que é tão difícil -
2:49 - 2:53chegar ao conhecimento
real, claro e objetivo, -
2:53 - 2:54como ponto para reflexão.
-
2:54 - 2:58Vou fazer algumas
pesquisas simples, buscas simples. -
2:58 - 3:04Vamos começar com "Michelle Obama",
a primeira-dama dos Estados Unidos, -
3:04 - 3:06e vamos clicar em "imagens".
-
3:07 - 3:09Funciona muito bem, como vocês podem ver.
-
3:09 - 3:12É um resultado de busca
praticamente perfeito. -
3:12 - 3:15Só ela aparece nas fotos.
Nem o presidente aparece. -
3:15 - 3:17Como isso funciona?
-
3:18 - 3:19Bem simples.
-
3:19 - 3:22O Google usa muita inteligência para isso,
mas, de forma bem simples, -
3:22 - 3:25eles analisam principalmente duas coisas.
-
3:25 - 3:30Primeiro, o que está escrito
na legenda da foto, em cada site? -
3:30 - 3:32Está escrito "Michelle Obama"
abaixo da foto? -
3:32 - 3:34É bem provável que seja ela mesma na foto.
-
3:34 - 3:36Segundo, o Google analisa
o arquivo da imagem, -
3:36 - 3:40o nome com que o arquivo
foi carregado no site. -
3:40 - 3:43Novamente, se o nome do arquivo
for "MichelleObama.jpeg", -
3:43 - 3:45é bem provável que a foto
não seja do Clint Eastwood. -
3:45 - 3:50Então, você tem essas duas coisas,
e obtém um resultado mais ou menos assim. -
3:50 - 3:56Bem, em 2009, Michelle Obama
foi vítima de uma campanha racista, -
3:56 - 3:59quando as pessoas começaram a insultá-la
-
3:59 - 4:01através dos resultados de pesquisa
relacionados a ela. -
4:01 - 4:04Uma foto circulou em toda a internet,
-
4:04 - 4:07com o rosto dela distorcido,
fazendo-a parecer com um macaco. -
4:07 - 4:10Essa imagem foi publicada
em toda a internet. -
4:10 - 4:13As pessoas a publicaram
realmente com a intenção -
4:13 - 4:16de aparecer nos primeiros
resultados de pesquisa. -
4:16 - 4:19Certificaram-se de escrever
"Michelle Obama" na legenda -
4:19 - 4:23e de carregar a imagem como
"MichelleObama.jpeg", ou algo assim. -
4:23 - 4:25Entendem por quê?
Para manipular os resultados. -
4:25 - 4:27E funcionou também.
-
4:27 - 4:29Então, ao pesquisar imagens
de "Michelle Obama" em 2009, -
4:29 - 4:33a imagem distorcida de macaco
aparecia entre os primeiros resultados. -
4:33 - 4:37Mas os resultados são autoajustáveis,
o que é meio que a vantagem disso tudo, -
4:37 - 4:42porque o Google avalia a relevância
a cada hora, a cada dia. -
4:42 - 4:44Porém, o Google não fez isso dessa vez.
-
4:44 - 4:47Eles pensaram: "Isso é racismo
e um resultado ruim de pesquisa. -
4:47 - 4:50Vamos lá e vamos corrigir
isso manualmente. -
4:50 - 4:53Vamos escrever algum código
para consertar isso". -
4:53 - 4:55E assim o fizeram.
-
4:55 - 4:59Não acredito que alguém nesta sala
ache que isso foi uma má ideia. -
5:00 - 5:01Também não acho.
-
5:03 - 5:06Mas então, dois anos depois,
-
5:06 - 5:11e o "Anders" mais buscado no Google,
Anders Behind Breivik, -
5:11 - 5:13fez o que fez.
-
5:13 - 5:17É 22 de julho de 2011,
um dia terrível na história da Noruega. -
5:17 - 5:21Este homem, um terrorista,
explodiu dois edifícios governamentais, -
5:21 - 5:24a poucos metros daqui,
em Oslo, na Noruega, -
5:24 - 5:28e depois viajou para a ilha de Utøya
e matou a tiros um grupo de jovens. -
5:29 - 5:31Quase 80 pessoas morreram naquele dia.
-
5:32 - 5:37Muitos descreveriam esse ato
de terror como realizado em duas etapas, -
5:37 - 5:40que ele fez duas coisas: explodiu
os edifícios e atirou nos jovens. -
5:40 - 5:42Não é verdade.
-
5:42 - 5:47Foram três etapas: ele explodiu
aqueles edifícios, atirou naqueles jovens, -
5:47 - 5:50depois parou e esperou
até que o mundo o buscasse no Google. -
5:51 - 5:54Ele preparou todas as três
etapas igualmente bem. -
5:54 - 5:58Alguém que imediatamente entendeu isso
foi um desenvolvedor web sueco, -
5:58 - 6:01especialista em otimização
de ferramentas de busca de Estocolmo, -
6:01 - 6:02chamado Nikke Lindqvist.
-
6:02 - 6:04Ele também é um cara bem político
-
6:04 - 6:07e ele estava lá nas redes sociais,
em seu blog e Facebook. -
6:07 - 6:09Ele disse a todo mundo:
-
6:09 - 6:13"O que esse cara deseja agora
é controlar sua própria imagem. -
6:15 - 6:17Vejamos se conseguimos
distorcer os resultados. -
6:17 - 6:19Vejamos se nós, do mundo civilizado,
-
6:19 - 6:21conseguimos protestar
contra o que ele fez, -
6:21 - 6:25insultando-o em seus
resultados de pesquisa". -
6:25 - 6:26Mas como?
-
6:27 - 6:29Ele disse o seguinte
a todos os leitores dele: -
6:29 - 6:31"Procurem na internet
-
6:31 - 6:34imagens de cocô de cachorro em calçadas.
-
6:35 - 6:37Imagens de cocô de cachorro em calçadas.
-
6:37 - 6:40Publiquem-nas em suas páginas,
seus sites, seus blogs. -
6:40 - 6:43Certifiquem-se de escrever
o nome do terrorista na legenda, -
6:43 - 6:48coloquem o seguinte nome
na imagem: 'Breivik.jpeg'. -
6:48 - 6:52Vamos mostrar ao Google
que essa é a imagem do terrorista". -
6:53 - 6:55E funcionou.
-
6:56 - 6:59Dois anos após a campanha
contra Michelle Obama, -
6:59 - 7:02essa campanha de manipulação
contra Anders Behring Breivik funcionou. -
7:02 - 7:04Ao pesquisar a imagem dele no Google
-
7:04 - 7:06semanas após os eventos
de 22 de julho, na Suécia, -
7:06 - 7:11você veria a imagem do cocô
de cachorro no topo dos resultados, -
7:11 - 7:13como uma pequena forma de protesto.
-
7:13 - 7:18Por incrível que pareça,
o Google não interveio dessa vez. -
7:18 - 7:23Eles não ajustaram manualmente
esses resultados de pesquisa. -
7:24 - 7:25Então, a pergunta que não quer calar:
-
7:25 - 7:29há algo diferente
entre esses dois acontecimentos? -
7:29 - 7:32Há algo diferente entre o que
aconteceu com Michelle Obama -
7:32 - 7:34e o que aconteceu
com Anders Behring Breivik? -
7:34 - 7:36Claro que não.
-
7:37 - 7:38É exatamente a mesma coisa,
-
7:38 - 7:41mas o Google interveio
em um caso e no outro não. -
7:41 - 7:42Por quê?
-
7:43 - 7:46Porque Michelle Obama
é uma pessoa honrada, -
7:46 - 7:50e Anders Behring Breivik
é uma pessoa desprezível. -
7:50 - 7:52Percebem o acontece aqui?
-
7:52 - 7:55A avaliação de uma pessoa acontece
-
7:55 - 7:58e há apenas um mandachuva no mundo
-
7:58 - 8:01com a autoridade para dizer quem é quem.
-
8:02 - 8:04"Gostamos de você. Não gostamos de você.
-
8:04 - 8:07Acreditamos em você; não em você.
Está certo, errado. É verdadeiro, falso. -
8:07 - 8:10Você é Obama. Você é Breivik."
-
8:11 - 8:13Isso é que é poder.
-
8:15 - 8:19Então, peço que vocês lembrem
que, atrás de cada algoritmo, -
8:19 - 8:23sempre existe alguém
com um conjunto de crenças pessoais -
8:23 - 8:26que código algum jamais poderá
erradicar totalmente. -
8:26 - 8:28Minha mensagem não é apenas ao Google,
-
8:28 - 8:31mas a todos os que creem piamente
em códigos, em todo o mundo. -
8:31 - 8:34Vocês precisam identificar
sua própria parcialidade. -
8:34 - 8:39Precisam entender que são humanos
e assumir responsabilidade como tais. -
8:40 - 8:42Digo isso porque acredito
que chegamos a um ponto -
8:42 - 8:44em que é absolutamente imperativo
-
8:44 - 8:47que atemos esses laços
novamente, de maneira mais forte: -
8:47 - 8:50ciências humanas e tecnologia,
-
8:50 - 8:52mais unidas que nunca,
-
8:52 - 8:56e, no mínimo, lembrar que essa ideia
maravilhosamente sedutora -
8:56 - 8:58de um resultado de pesquisa
imparcial e limpo -
8:58 - 9:01é, e provavelmente
continuará sendo, um mito. -
9:02 - 9:03Obrigado pela atenção.
-
9:03 - 9:05(Aplausos)
- Title:
- A parcialidade moral por trás dos seus resultados de busca na internet
- Speaker:
- Andreas Ekström
- Description:
-
Ferramentas de busca tornaram-se nossas fontes mais confiáveis de informação e árbitros da verdade. Mas será que é possível obtermos resultados imparciais nessas buscas? Andreas Ekström, escritor e jornalista sueco, argumenta que isso é filosoficamente impossível. Nesta profunda palestra, eles nos convoca a estreitar os laços entre a tecnologia e as ciências humanas, e nos lembra que, por trás de todo algoritmo, existe um conjunto de crenças pessoais que código algum jamais poderá erradicar totalmente.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 09:18
Eduardo Ferraciolli commented on Portuguese, Brazilian subtitles for The moral bias behind your search results | ||
Leonardo Silva approved Portuguese, Brazilian subtitles for The moral bias behind your search results | ||
Leonardo Silva edited Portuguese, Brazilian subtitles for The moral bias behind your search results | ||
Leonardo Silva edited Portuguese, Brazilian subtitles for The moral bias behind your search results | ||
Leonardo Silva edited Portuguese, Brazilian subtitles for The moral bias behind your search results | ||
Raissa Mendes accepted Portuguese, Brazilian subtitles for The moral bias behind your search results | ||
Raissa Mendes edited Portuguese, Brazilian subtitles for The moral bias behind your search results | ||
Raissa Mendes edited Portuguese, Brazilian subtitles for The moral bias behind your search results |
Eduardo Ferraciolli
Oi legendadores! Acho que dá pra substituir "parcialidade moral" por "viés moral", é um termo semi-técnico bem usado em economia das instituições. (Estou só começando a ajudar aqui, não tenho certeza se é nos comentários que eu devo fazer sugestões?)