Portuguese subtítulos

← O perigo da IA é mais estranho do que pensamos

Obtener código incrustado.
32 idiomas

Mostrar Revisión9 creada 11/03/2019 por Margarida Ferreira.

  1. A Inteligência Artificial!
  2. é conhecida por perturbar
    todos os tipos de indústrias.
  3. Por exemplo, a dos gelados.
  4. Que tipo de estonteantes sabores
    podemos criar
  5. com o poder
    da inteligência artificial avançada?
  6. Associei-me a um grupo de programadores
  7. da escola secundária de Kealing,

  8. para descobrir a resposta a esta pergunta.
  9. Eles reuniram mais de 1600 sabores
    de gelados já existentes,
  10. e fornecemos-lhes um algoritmo
    para verificar o que ele poderia gerar.
  11. Estes são alguns dos sabores
    que a IA criou
  12. [Quebra de Lixo de Abóbora]

  13. (Risos)

  14. [Baba de Manteiga de Amendoim]

  15. [Doença de Creme de Morango]

  16. (Risos)

  17. Estes sabores não são tão deliciosos
    quanto esperávamos

  18. Logo, a pergunta é:
    O que aconteceu?
  19. O que correu mal?
  20. A IA está a tentar matar-nos?
  21. Ou está a tentar fazer o que pedimos
    e ocorreu um problema?
  22. Nos filmes, quando algo
    corre mal com a IA,

  23. é geralmente porque a IA decidiu
  24. que não quer continuar
    a obedecer aos seres humanos
  25. e tem os seus próprios objetivos,
    muito obrigado!
  26. Porém, na vida real, a IA que temos
  27. não tem inteligência suficiente para isso.
  28. Tem uma capacidade de processamento
  29. aproximada à de uma minhoca,
  30. ou talvez no máximo,
    a de uma simples abelha
  31. e de facto, talvez ainda menos.
  32. Por exemplo, estamos sempre a aprender
    coisas novas sobre o cérebro
  33. o que deixa claro o quanto a nossa IA
    não se compara com o nosso cérebro.
  34. A IA de hoje consegue identificar
    um peão numa imagem,
  35. mas não tem o conceito
    do que é um peão,
  36. para além de um conjunto de linhas,
    de texturas e de elementos.
  37. Não sabe o que é um ser humano.
  38. Então, a IA de hoje
    irá fazer o que pedimos?
  39. Sim, fará se puder,
  40. mas pode não fazer o que desejamos.
  41. Digamos que estamos a tentar

  42. que a IA pegue neste conjunto
    de partes de um robô
  43. e as monte num tipo de robô
    que vá do Ponto A ao Ponto B.
  44. Se formos tentar resolver este problema
  45. escrevendo um programa de computador
    ao estilo tradicional,
  46. daríamos ao programa
    instruções passo a passo
  47. de como agarrar nessas partes
  48. e como as montar num robô com pernas,
  49. e depois como usar essas pernas
    para andar até ao Ponto B.
  50. Mas quando usamos a IA
    para resolver o problema,
  51. as coisas funcionam de outro modo.
  52. Não lhe dizemos como resolver o problema
  53. apenas lhe damos o objetivo,
  54. e ela terá de descobrir por si mesma,
    através de tentativas e erros,
  55. como alcançar esse objetivo.
  56. Acontece que a IA tem tendência
    a resolver este problema específico
  57. fazendo o seguinte:
  58. monta uma torre que depois cai,
  59. aterrando no Ponto B.
  60. Tecnicamente, isso resolve o problema.
  61. Tecnicamente, ela chega ao Ponto B.
  62. O perigo da IA não é que
    se vá revoltar contra nós,
  63. mas que vai fazer exatamente
    o que lhe pedimos para fazer.
  64. Logo, o segredo de trabalhar
    com IA passa a ser:
  65. Como configuramos o problema para
    a IA fazer exatamente o que queremos?
  66. Vejamos, este robô aqui,
    está a ser controlado por uma IA.

  67. A IA desenvolveu um modelo
    paras as pernas do robô,
  68. e depois descobriu como usá-las
    para ultrapassar todos os obstáculos.
  69. Mas quando o David Ha realizou
    esta experiência,
  70. teve de configurá-la
    com limites muito estritos
  71. em relação à dimensão que a IA
    teria para fazer as pernas,
  72. porque senão...
  73. (Risos)

  74. Tecnicamente, chegou ao fim
    daquela corrida de obstáculos.

  75. Vemos como é difícil conseguir que a IA
    faça algo tão simples como andar.
  76. Ao vermos a IA fazer isto, podemos dizer:

  77. "Ok, não é justo, não podes ser
    uma torre alta e cair,
  78. "tens de usar as pernas para andar".

  79. Acontece que isso também
    nem sempre funciona.
  80. A tarefa desta IA era avançar depressa.
  81. Não lhe disseram que tinha de avançar
  82. ou que não podia usar os braços.
  83. Logo, isto é o que acontece
    quando treinamos a IA para andar depressa,
  84. obtemos movimentos como cambalhotas
    e caminhadas ridículas.
  85. É muito comum.
  86. Tal como contorcer-se no chão.
  87. (Risos)

  88. Na minha opinião, sabem o que
    seria ainda mais estranho?

  89. É o robô "Exterminador".
  90. Invadir o "Matrix" é outra coisa que a IA
    fará, se lhe dermos essa oportunidade.
  91. Se treinarmos a IA num simulador,
  92. ela irá aprender a copiar
    os erros matemáticos do simulador
  93. e colhê-los para obter energia.
  94. Ou irá descobrir como andar mais depressa,
  95. falhando repetidamente
    aquela anomalia no chão.
  96. Quando se trabalha com a IA,
  97. é menos como trabalhar
    com outro ser humano
  98. e mais como trabalhar
    com uma estranha força da natureza.
  99. É muito fácil dar, acidentalmente,
    à IA o problema errado para resolver,
  100. e, geralmente, não damos por isso
    senão quando qualquer coisa corre mal.
  101. Esta é uma experiência que fiz

  102. em que eu queria que a IA copiasse
    as cores das tintas,
  103. para inventar novas cores de tintas,
  104. de acordo com uma lista como
    a que se encontra aqui à esquerda.
  105. E aqui está o que a IA sugeriu.
  106. [Cocó Sindis , Cocó,
    Sofrimento, Púbico Cinza]

  107. (Risos)

  108. Tecnicamente,

  109. fez o que eu pedi que fizesse.
  110. Eu pensei que estava a pedir
    nomes simpáticos para tintas,
  111. mas o que tinha pedido
  112. era apenas para imitar o tipo
    de combinações de letras
  113. que ela tinha visto no original.
  114. E eu nada disse em relação
    ao significado das palavras,
  115. ou que talvez houvesse algumas palavras
  116. que devia evitar usar
    nessas cores de tintas.
  117. Portanto, todo o mundo dela
    eram os dados que lhe fornecera.
  118. Tal como com os sabores dos gelados,
    ela não sabe mais nada.
  119. É geralmente através dos dados

  120. que acidentalmente dizemos à IA
    que faça as coisas erradas.
  121. Este é um peixe chamado tenca.
  122. Houve um grupo de investigadores
  123. que treinaram uma IA para identificar
    esta tenca em imagens.
  124. Mas quando lhe perguntaram
  125. que parte da imagem utilizava
    para identificar o peixe,
  126. eis o que ela salientou.
  127. Sim, são dedos humanos.
  128. Porque é que ela procurou dedos humanos
  129. se estava a tentar identificar um peixe?
  130. Bem, acontece que a tenca
    é um peixe-troféu,
  131. por isso, em muitas das imagens
    que a IA viu deste peixe,
  132. durante o treino,
  133. o peixe aparecia assim.
  134. (Risos)

  135. A IA não sabia que os dedos
    não faziam parte do peixe.

  136. Assim, vemos porque é tão difícil
    configurar uma IA

  137. que consiga perceber o que procura.
  138. Isto é o motivo por que criar
    o reconhecimento de imagem
  139. num veículo autónomo é super difícil,
  140. e o motivo do fracasso
    de tantos veículos autónomos
  141. foi porque a IA ficou confusa.
  142. Vou falar sobre um exemplo
    que aconteceu em 2016.
  143. Houve um acidente fatal quando alguém
    usou o piloto automático da Tesla IA.
  144. Em vez de usá-lo na autoestrada,
    como tinha sido desenvolvido,
  145. usaram-no nas ruas da cidade.
  146. Aconteceu que um camião
    atravessou-se em frente do carro
  147. e o carro não travou.
  148. A IA fora treinada para reconhecer
    o camião nas imagens.
  149. Mas o que parece ter acontecido
  150. foi que a IA foi treinada para reconhecer
    os camiões na autoestrada
  151. onde esperamos ver os camiões por detrás.
  152. Na autoestrada, os camiões
    não aparecem pelos lados.
  153. Portanto, quando a IA viu o camião
  154. parece tê-lo reconhecido
    como um sinal de trânsito
  155. e portanto, seria seguro
    passar por baixo dele.
  156. Aqui podem ver um erro da IA
    num setor diferente.

  157. A Amazon teve de desistir
    de um algoritmo de seleção de currículos
  158. em que estava a trabalhar,
  159. quando descobriram que o algoritmo
    aprendera a discriminar as mulheres.
  160. Aconteceu que testaram a IA
    com base em exemplos de currículos
  161. de pessoas que tinham sido
    contratadas no passado.
  162. Com base nesses exemplos, a IA
    aprendeu a evitar currículos de pessoas
  163. que tinham frequentado colégios femininos
  164. ou que tinham a palavra "feminina"
    algures no currículo,
  165. como "equipa de futebol feminina"
    ou "Sociedade Feminina de Engenheiras".
  166. A IA não sabia que não devia copiar
    estes aspetos específicos
  167. que via os seres humanos fazerem.
  168. Tecnicamente, o programa fez
    o que lhe pediram para fazer.
  169. Só que eles pediram, sem querer,
    para fazer a coisa errada.
  170. Isto está sempre a acontecer com a IA.

  171. A IA pode ser destrutiva sem saber.
  172. Por isso, as IA que recomendam novos
    conteúdos no Facebook e no YouTube,
  173. estão otimizadas para aumentar
    o número de cliques e visualizações.
  174. Infelizmente, uma das formas
    que encontraram para fazer isso
  175. é recomendar os conteúdos
    de teorias de conspiração ou o fanatismo.
  176. A IA, por si só, não tem qualquer conceito
    do que este conteúdo representa,
  177. nem tem nenhum conceito
    das possíveis consequências
  178. de recomendar esses conteúdos.
  179. Logo, quando trabalhamos com a IA,

  180. cabe-nos a nós evitar os problemas.
  181. Evitar que algo corra mal
  182. pode resumir-se ao velho problema
    da comunicação,
  183. em que nós, enquanto humanos, temos
    de aprender a comunicar com a IA.
  184. Temos de aprender o que a IA
    é capaz de fazer ou não
  185. e perceber que, com o seu minúsculo
    cérebro de minhoca,
  186. a IA não percebe o que estamos
    a tentar pedir-lhe para fazer.
  187. Por outras palavras, temos de estar
    preparados para trabalhar com uma IA
  188. que não seja a super competente
    ou a omnisciente IA da ficção científica.
  189. Temos de nos preparar
    para trabalhar com uma IA
  190. que seja a que atualmente temos.
  191. E a IA atual é suficientemente estranha.
  192. Obrigada.

  193. (Aplausos)