Portuguese, Brazilian subtitles

← A parcialidade moral por trás dos seus resultados de busca na internet

Get Embed Code
36 Languages

Showing Revision 10 created 11/11/2015 by Leonardo Silva.

  1. Sempre que visito uma escola
    e falo com os alunos,
  2. sempre lhes faço a mesma pergunta:
  3. "Por que vocês usam a busca do Google?
  4. Por que vocês optam pela ferramenta
    de busca do Google?"
  5. É engraçado, mas sempre recebo
    as mesmas três respostas.
  6. Primeiro: "Porque funciona",
  7. o que é uma ótima resposta.
    Também opto pelo Google por isso.
  8. Segundo, alguém vai dizer:
    "Não conheço outras ferramentas".
  9. Não é uma resposta tão boa quanto
    a anterior, e normalmente respondo:
  10. "Busque 'ferramenta de busca' no Google",
  11. e vai encontrar algumas
    alternativas interessantes".
  12. Por último, mas não menos importante,
  13. inevitavelmente, algum aluno
    levanta a mão e diz:
  14. "Com o Google, sempre obtenho
    o resultado melhor e imparcial".
  15. "Sempre obtenho
    o resultado melhor e imparcial."
  16. Como um cara de humanas,
    embora um cara de humanas digitais,

  17. isso simplesmente me assusta,
  18. embora eu também saiba que essa confiança,
    essa ideia de um resultado imparcial,
  19. é a base de nosso apreço
    e paixão coletivos pelo Google.
  20. Vou mostrar por que, filosoficamente,
    isso é quase impossível,
  21. mas primeiro vou falar, só um pouquinho,
    sobre um princípio básico

  22. por trás de cada pesquisa feita,
    do qual às vezes parecemos nos esquecer.
  23. Sempre que você pesquisar algo no Google,
  24. faça antes a seguinte pergunta a si mesmo:
    "Estou buscando um fato isolado?"
  25. Tipo, qual é a capital da França?
  26. Quais elementos compõem
    a molécula de água?
  27. Perfeito. Pesquise à vontade.
  28. Não há um grupo sequer de cientistas
    que esteja perto de provar
  29. que as respostas são "Londres" e "H3O".
  30. Não se vê uma grande
    conspiração em torno disso.
  31. Concordamos, em escala mundial,
  32. quanto a quais são as respostas
    para esses fatos isolados.
  33. Porém, se você complicar
    a pergunta só um pouquinho, assim:

  34. "Por que existe um conflito
    entre Israel e Palestina?",
  35. não estará mais buscando
    exatamente um único fato,
  36. mas estará buscando conhecimento,
  37. o que é bem mais complicado e delicado.
  38. E, para chegar ao conhecimento,
  39. você precisa trazer
    10, 20 ou 100 fatos à mesa,
  40. reconhecê-los e dizer:
    "Sim, todos são verdadeiros".
  41. Mas, por causa de quem somos -
  42. jovens, idosos, negros,
    brancos, gays, héteros -,
  43. vamos valorizá-los de forma diferente:
    "Sim, isso aqui é verdade,
  44. mas isso aqui é mais importante
    pra mim do que aquilo".
  45. É aí que a coisa fica interessante,
    porque é aí que nos tornamos humanos,
  46. que começamos a debater,
    a criar uma sociedade.
  47. E, para realmente chegar a algum lugar,
    precisamos filtrar todos os fatos,
  48. entre amigos, vizinhos, pais, filhos,
    colegas de trabalho, jornais, revistas,
  49. para finalmente estarmos baseados
    em conhecimento real,
  50. algo que uma ferramenta de busca
    é ruim em nos ajudar a obter.
  51. Prometi a vocês um exemplo,
    apenas para mostrar por que é tão difícil

  52. chegar ao conhecimento
    real, claro e objetivo,
  53. como ponto para reflexão.
  54. Vou fazer algumas
    pesquisas simples, buscas simples.
  55. Vamos começar com "Michelle Obama",
    a primeira-dama dos Estados Unidos,
  56. e vamos clicar em "imagens".
  57. Funciona muito bem, como vocês podem ver.
  58. É um resultado de busca
    praticamente perfeito.
  59. Só ela aparece nas fotos.
    Nem o presidente aparece.
  60. Como isso funciona?

  61. Bem simples.
  62. O Google usa muita inteligência para isso,
    mas, de forma bem simples,
  63. eles analisam principalmente duas coisas.
  64. Primeiro, o que está escrito
    na legenda da foto, em cada site?
  65. Está escrito "Michelle Obama"
    abaixo da foto?
  66. É bem provável que seja ela mesma na foto.
  67. Segundo, o Google analisa
    o arquivo da imagem,
  68. o nome com que o arquivo
    foi carregado no site.
  69. Novamente, se o nome do arquivo
    for "MichelleObama.jpeg",
  70. é bem provável que a foto
    não seja do Clint Eastwood.
  71. Então, você tem essas duas coisas,
    e obtém um resultado mais ou menos assim.
  72. Bem, em 2009, Michelle Obama
    foi vítima de uma campanha racista,

  73. quando as pessoas começaram a insultá-la
  74. através dos resultados de pesquisa
    relacionados a ela.
  75. Uma foto circulou em toda a internet,
  76. com o rosto dela distorcido,
    fazendo-a parecer com um macaco.
  77. Essa imagem foi publicada
    em toda a internet.
  78. As pessoas a publicaram
    realmente com a intenção
  79. de aparecer nos primeiros
    resultados de pesquisa.
  80. Certificaram-se de escrever
    "Michelle Obama" na legenda
  81. e de carregar a imagem como
    "MichelleObama.jpeg", ou algo assim.
  82. Entendem por quê?
    Para manipular os resultados.
  83. E funcionou também.
  84. Então, ao pesquisar imagens
    de "Michelle Obama" em 2009,
  85. a imagem distorcida de macaco
    aparecia entre os primeiros resultados.
  86. Mas os resultados são autoajustáveis,
    o que é meio que a vantagem disso tudo,

  87. porque o Google avalia a relevância
    a cada hora, a cada dia.
  88. Porém, o Google não fez isso dessa vez.
  89. Eles pensaram: "Isso é racismo
    e um resultado ruim de pesquisa.
  90. Vamos lá e vamos corrigir
    isso manualmente.
  91. Vamos escrever algum código
    para consertar isso".
  92. E assim o fizeram.
  93. Não acredito que alguém nesta sala
    ache que isso foi uma má ideia.
  94. Também não acho.
  95. Mas então, dois anos depois,

  96. e o "Anders" mais buscado no Google,
    Anders Behind Breivik,
  97. fez o que fez.
  98. É 22 de julho de 2011,
    um dia terrível na história da Noruega.
  99. Este homem, um terrorista,
    explodiu dois edifícios governamentais,
  100. a poucos metros daqui,
    em Oslo, na Noruega,
  101. e depois viajou para a ilha de Utøya
    e matou a tiros um grupo de jovens.
  102. Quase 80 pessoas morreram naquele dia.
  103. Muitos descreveriam esse ato
    de terror como realizado em duas etapas,

  104. que ele fez duas coisas: explodiu
    os edifícios e atirou nos jovens.
  105. Não é verdade.
  106. Foram três etapas: ele explodiu
    aqueles edifícios, atirou naqueles jovens,
  107. depois parou e esperou
    até que o mundo o buscasse no Google.
  108. Ele preparou todas as três
    etapas igualmente bem.
  109. Alguém que imediatamente entendeu isso
    foi um desenvolvedor web sueco,

  110. especialista em otimização
    de ferramentas de busca de Estocolmo,
  111. chamado Nikke Lindqvist.
  112. Ele também é um cara bem político
  113. e ele estava lá nas redes sociais,
    em seu blog e Facebook.
  114. Ele disse a todo mundo:
  115. "O que esse cara deseja agora
    é controlar sua própria imagem.
  116. Vejamos se conseguimos
    distorcer os resultados.
  117. Vejamos se nós, do mundo civilizado,
  118. conseguimos protestar
    contra o que ele fez,
  119. insultando-o em seus
    resultados de pesquisa".
  120. Mas como?

  121. Ele disse o seguinte
    a todos os leitores dele:
  122. "Procurem na internet
  123. imagens de cocô de cachorro em calçadas.
  124. Imagens de cocô de cachorro em calçadas.
  125. Publiquem-nas em suas páginas,
    seus sites, seus blogs.
  126. Certifiquem-se de escrever
    o nome do terrorista na legenda,
  127. coloquem o seguinte nome
    na imagem: 'Breivik.jpeg'.
  128. Vamos mostrar ao Google
    que essa é a imagem do terrorista".
  129. E funcionou.
  130. Dois anos após a campanha
    contra Michelle Obama,
  131. essa campanha de manipulação
    contra Anders Behring Breivik funcionou.
  132. Ao pesquisar a imagem dele no Google
  133. semanas após os eventos
    de 22 de julho, na Suécia,
  134. você veria a imagem do cocô
    de cachorro no topo dos resultados,
  135. como uma pequena forma de protesto.
  136. Por incrível que pareça,
    o Google não interveio dessa vez.

  137. Eles não ajustaram manualmente
    esses resultados de pesquisa.
  138. Então, a pergunta que não quer calar:
  139. há algo diferente
    entre esses dois acontecimentos?
  140. Há algo diferente entre o que
    aconteceu com Michelle Obama
  141. e o que aconteceu
    com Anders Behring Breivik?
  142. Claro que não.
  143. É exatamente a mesma coisa,
  144. mas o Google interveio
    em um caso e no outro não.
  145. Por quê?

  146. Porque Michelle Obama
    é uma pessoa honrada,
  147. e Anders Behring Breivik
    é uma pessoa desprezível.
  148. Percebem o acontece aqui?
  149. A avaliação de uma pessoa acontece
  150. e há apenas um mandachuva no mundo
  151. com a autoridade para dizer quem é quem.
  152. "Gostamos de você. Não gostamos de você.
  153. Acreditamos em você; não em você.
    Está certo, errado. É verdadeiro, falso.
  154. Você é Obama. Você é Breivik."
  155. Isso é que é poder.
  156. Então, peço que vocês lembrem
    que, atrás de cada algoritmo,

  157. sempre existe alguém
    com um conjunto de crenças pessoais
  158. que código algum jamais poderá
    erradicar totalmente.
  159. Minha mensagem não é apenas ao Google,
  160. mas a todos os que creem piamente
    em códigos, em todo o mundo.
  161. Vocês precisam identificar
    sua própria parcialidade.
  162. Precisam entender que são humanos
    e assumir responsabilidade como tais.
  163. Digo isso porque acredito
    que chegamos a um ponto

  164. em que é absolutamente imperativo
  165. que atemos esses laços
    novamente, de maneira mais forte:
  166. ciências humanas e tecnologia,
  167. mais unidas que nunca,
  168. e, no mínimo, lembrar que essa ideia
    maravilhosamente sedutora
  169. de um resultado de pesquisa
    imparcial e limpo
  170. é, e provavelmente
    continuará sendo, um mito.
  171. Obrigado pela atenção.

  172. (Aplausos)