Portuguese subtitles

← O preconceito moral por detrás dos resultados de pesquisa

Get Embed Code
36 Languages

Showing Revision 3 created 12/03/2015 by Jani.

  1. Sempre que visito uma escola
    e falo com estudantes
  2. pergunto-lhes sempre a mesma coisa:
  3. "Porque é que usam o Google?
  4. "Porque é que o Google é
    o vosso motor de pesquisa preferido?"
  5. É curioso que obtenho sempre
    as mesmas três respostas.
  6. Um: "Porque funciona",
  7. o que é uma ótima resposta,
    também é por isso que eu uso o Google.
  8. Dois, há alguém que diz:
  9. "Não conheço nenhuma alternativa".
  10. Não é uma resposta tão boa
    e a minha resposta habitualmente é:
  11. "Experimenta pesquisar
    no Google 'motor de busca',
  12. "talvez encontres
    algumas alternativas interessantes".
  13. Por fim, mas não menos
    frequente, terceiro,
  14. inevitavelmente, um estudante
    levanta a mão e diz:
  15. "Com o Google, tenho a certeza
    de obter sempre
  16. "o melhor resultado de pesquisa,
    e imparcial".
  17. A certeza de obter sempre
    o melhor resultado de pesquisa, imparcial.
  18. Enquanto homem de Humanidades.

  19. apesar de ser uma pessoa
    de Humanidades Digitais,
  20. fico todo arrepiado,
  21. embora eu também perceba
    que essa confiança,
  22. essa ideia de resultado
    imparcial de pesquisa
  23. seja uma pedra basilar no nosso amor
    e apreciação coletiva do Google.
  24. Vou mostrar-vos porque é que,
    filosoficamente, isso é quase impossível.
  25. Mas, primeiro, vou refletir um pouco
    sobre um princípio básico

  26. por detrás de cada pesquisa,
    que por vezes esquecemos.
  27. Sempre que se dispuserem a usar o Google,
    comecem por pensar nisto:
  28. "Estou à procura de um facto isolado?
  29. "Qual é a capital da França?
  30. "Quais são os elementos constitutivos
    duma molécula da água?"
  31. Ótimo... Google para a frente.
  32. Não há nenhum grupo de cientistas
    que estejam dispostos a provar
  33. que é Londres e H3O.
  34. Não vemos nenhuma
    conspiração nestas coisas.
  35. Numa escala global, estamos de acordo
  36. quanto às respostas
    para este tipo de factos isolados.
  37. Mas, se complicarem um pouco
    a pergunta e perguntarem:

  38. "Porque é que há
    um conflito israelo-palestino?"
  39. já não estão propriamente a procurar
    um facto singular,
  40. estão a procurar conhecimentos,
  41. o que é uma coisa
    mais complicada e delicada.
  42. Para chegar ao conhecimento
  43. precisamos de pôr em cima da mesa
    10 ou 20 ou 100 factos,
  44. analisá-los e dizer:
    "Sim, estes são todos verdadeiros".
  45. Mas, consoante eu seja
  46. novo ou velho, negro ou branco,
    "gay" ou hetero,
  47. avalio-los de modo diferente e digo:
  48. "Sim, isto é verdade, mas, para mim,
    isto é mais importante do que aquilo".
  49. É aqui que as coisas
    se tornam interessantes,
  50. porque é aqui que nos tornamos humanos.
  51. É aqui que começamos a argumentar,
    a formar sociedade.
  52. Para chegar a algum lado, é preciso
    filtrar todos os nossos factos
  53. com os amigos e vizinhos,
    com os pais e os filhos
  54. e colegas e jornais e revistas,
  55. para finalmente chegarmos
    a um conhecimento real,
  56. coisa que um motor de busca
    dificilmente consegue.
  57. Prometi-vos um exemplo, só para mostrar
    porque é tão difícil

  58. chegar ao ponto da verdade, nua e crua,
    de um conhecimento objetivo,
  59. como alimento para o pensamento.
  60. Vou fazer algumas pesquisas simples.
  61. Vamos começar com "Michelle Obama",
  62. a primeira dama dos EUA.
  63. E clicamos em imagens.
  64. Funciona mesmo bem, como podem ver.
  65. É um resultado de pesquisa perfeito,
    mais ou menos.
  66. É só ela na imagem,
    sem sequer o Presidente.
  67. Como é que isto funciona?

  68. Muito simples.
  69. O Google usa muita esperteza
    para conseguir isto, mas é muito simples,
  70. olha sobretudo para duas coisas.
  71. Primeiro, o que é que diz na legenda
    por baixo da imagem em cada website?
  72. Diz: "Michelle Obama" por baixo da imagem?
  73. É uma boa indicação de que
    é realmente ela que ali está.
  74. Segundo, o Google olha
    para o ficheiro da imagem,
  75. para o nome do ficheiro,
    tal como carregado no "website".
  76. Chama-se "MichelleObama.jpeg"?
  77. Uma boa indicação de que
    não é o Clint Eastwood na imagem.
  78. Portanto, temos estes dois e obtemos
    um resultado de pesquisa como este... quase.
  79. Ora bem, em 2009, Michelle Obama
    foi vítima duma campanha racista,

  80. em que as pessoas se puseram a insultá-la,
    através dos resultados de pesquisa.
  81. Houve uma imagem distribuída
    amplamente na Internet
  82. com a cara dela distorcida
    para parecer um macaco.
  83. Essa imagem foi publicada
    por toda a parte.
  84. As pessoas publicaram-na de propósito
  85. para que ela aparecesse
    no resultado da pesquisa.
  86. Tiveram o cuidado de escrever
    "Michelle Obama" na legenda
  87. e tiveram o cuidado de carregar a imagem
    como "MichelleObama.jpeg", ou equivalente.
  88. Porquê? Para manipularem
    o resultado da pesquisa.
  89. E também funcionou.
  90. Quando, em 2009, procurávamos
    no Google imagens de Michelle Obama,
  91. essa imagem distorcida
    aparecia entre os primeiros resultados.
  92. Ora bem, os resultados
    fazem uma auto-limpeza,

  93. — é o que faz a beleza do sistema —
  94. porque o Google está sempre
    a medir a relevância.
  95. Mas, dessa vez, o Google
    não se contentou com isso e pensou:
  96. "Isto é racista, e é um
    mau resultado da pesquisa,
  97. "vamos limpar isto manualmente.
  98. "Vamos escrever um código
    qualquer e consertar isto".
  99. E assim fizeram.
  100. Penso que ninguém nesta sala acha
    que foi uma má ideia.
  101. Eu também não.
  102. Mas depois, passaram uns anos

  103. e Anders Behring Breivik,
  104. o Anders mais procurado no Google,
  105. fez o que fez.
  106. Foi a 22 de julho de 2011,
  107. um dia terrível na história da Noruega.
  108. Este homem, um terrorista, fez explodir
    alguns edifícios governamentais
  109. perto do sítio onde nos encontramos
    em Oslo, na Noruega.
  110. Depois, foi para a ilha de Utøya
  111. e matou a tiro um grupo de jovens.
  112. Morreram quase 80 pessoas nesse dia.

  113. Muita gente pensou que este ato
    de terrorismo teve duas fases:
  114. fazer explodir os edifícios
    e matar aqueles jovens.
  115. Não é verdade.
  116. Foram três fases.
  117. Fez explodir os edifícios,
    matou aqueles jovens,
  118. sentou-se e esperou que o mundo
    o procurasse no Google.
  119. E preparou igualmente bem
    todas essas três fases.

  120. Houve alguém que percebeu
    isto imediatamente,
  121. um programador sueco, Nikke Lindqvist.
  122. um especialista de otimização
    de motores de busca, em Estocolmo.
  123. É também um tipo muito político.
  124. Saltou logo para as redes sociais,
    no seu blogue e no Facebook.
  125. Disse a toda a gente:
  126. "O que este tipo quer, neste momento,
    é controlar a própria imagem.
  127. "Vejamos se podemos contrariar isso.
  128. "Vejamos se nós, no mundo civilizado,
    podemos protestar contra o que ele fez
  129. "insultando-o nos resultados da pesquisa."

  130. Mas como?
  131. Ele disse o seguinte
    a todos os seus leitores:
  132. "Vão à Internet,
  133. "procurem imagens
    de cocó de cão nos passeios,
  134. "encontrem imagens
    de cocó de cão nos passeios,
  135. "publiquem-nas nos vossos
    websites, nos vossos blogues.
  136. "Não se esqueçam de escrever
    o nome do terrorista na legenda,
  137. "não se esqueçam de pôr o nome
    'Breivik.jpeg' no ficheiro da imagem.
  138. "Vamos ensinar ao Google
    que é esse o rosto do terrorista".
  139. E funcionou.
  140. Dois anos depois da campanha
    contra Michelle Obama,
  141. esta campanha de manipulação
    contra Anders Behring Breivik funcionou.
  142. Quem procurou imagens dele no Google,
    depois de 22 de julho na Suécia,
  143. viu que as imagens de cocó de cão
    apareciam nos resultados da pesquisa,
  144. como um pequeno protesto.

  145. Estranhamente, o Google
    dessa vez não interferiu.
  146. Não limparam manualmente
    os resultados da pesquisa.
  147. Então, a pergunta de ouro,
  148. "Há alguma diferença
    entre estes dois acontecimentos?"
  149. "Há alguma diferença entre
    o que aconteceu a Michelle Obama
  150. "e o que aconteceu
    a Anders Behring Breivik?"
  151. Claro que não.
  152. Foi exatamente a mesma coisa.
  153. No entanto, o Google interveio
    num caso e não no outro.

  154. Porquê?
  155. Porque Michelle Obama
    é uma pessoa respeitável, é por isso,
  156. e Anders Behring Breivik
    é uma pessoa ignóbil.
  157. Estão a ver o que acontece aqui?
  158. Fez-se um juízo de valor duma pessoa
  159. e só há um todo-poderoso no mundo
    com autoridade para dizer quem é quem.
  160. "Gosto de ti, não gosto de ti.
  161. "Acredito em ti, em ti não.
  162. "Tens razão, tu não.
    Estás certo, estás errado.
  163. "És o Obama, e tu és o Breivik."
  164. Esse é um poder sem igual.

  165. Portanto, peço-vos que se lembrem
    de que, por detrás de cada algoritmo,
  166. está sempre uma pessoa,
  167. uma pessoa com um conjunto
    de crenças pessoais
  168. que nenhum código
    consegue eliminar totalmente.
  169. A minha mensagem não se dirige
    exclusivamente ao Google,
  170. mas a todos os que acreditam
    na fé do código, pelo mundo inteiro.
  171. Precisamos de identificar
    os nossos preconceitos pessoais.
  172. Precisamos de perceber
    que somos seres humanos
  173. e assumir essa responsabilidade,
    em conformidade com isso.

  174. Digo isto porque acredito
    que chegámos a um ponto
  175. em que é totalmente imperativo
  176. que voltemos a ligar estes laços,
    mais apertados ainda,
  177. as humanidades e a tecnologia.
  178. Mais apertados do que nunca.
  179. E, pelo menos, lembrarmo-nos de que
    essa ideia maravilhosamente sedutora
  180. de resultados de pesquisa
    limpos, imparciais,
  181. é, e provavelmente
    continuará a ser, um mito.

  182. Obrigado pelo vosso tempo.

  183. (Aplausos)