Portuguese, Brazilian subtítulos

← O perigo da IA é mais estranho do que se imagina

Obtener código incrustado.
31 idiomas

Mostrar Revisión20 creada 11/15/2019 por Maricene Crus.

  1. A inteligência artificial
  2. é conhecida por perturbar vários setores.
  3. Por exemplo, o sorvete.
  4. Que tipos de novos sabores
    incríveis poderíamos criar
  5. com o poder de uma IA avançada?
  6. Eu me uni a um grupo de programadores
    da Kealing Middle School
  7. para descobrir a resposta.
  8. Eles coletaram mais de 1,6 mil
    sabores de sorvete já existentes
  9. e, juntos, os fornecemos a um algoritmo
    para ver o que seria gerado.
  10. Esses são alguns dos sabores
    que a inteligência artificial criou:
  11. [Recreio de Lixo de Abóbora]

  12. (Risos)

  13. [Gosma de Manteiga de Amendoim]

  14. [Doença de Creme de Morango]

  15. (Risos)

  16. Esses sabores não são
    tão deliciosos quanto esperávamos.

  17. A pergunta é: o que aconteceu?
  18. O que saiu errado?
  19. A IA está tentando nos matar?
  20. Ou está tentando fazer o que pedimos,
    mas ocorreu algum problema?
  21. Nos filmes, quando algo
    dá errado com a IA,

  22. geralmente é porque ela decidiu
  23. que não quer mais obedecer aos humanos
  24. e tem objetivos próprios, sim senhor.
  25. Mas, na vida real,
  26. a inteligência artificial que temos
    não é inteligente o bastante para isso.
  27. Ela possui aproximadamente a capacidade
    de processamento de uma minhoca,
  28. ou, talvez, no máximo
    a de uma única abelha,
  29. mas provavelmente menos que isso.
  30. Constantemente aprendemos
    coisas novas sobre o cérebro
  31. que deixam claro como nossas IAs
    não chegam aos pés de um cérebro real.
  32. A IA de hoje pode efetuar tarefas simples,
    como identificar um pedestre em uma foto,
  33. mas não faz ideia do que seja o pedestre
  34. para além de um conjunto
    de linhas, texturas e afins.
  35. Ela não sabe o que é um ser humano.
  36. Então, a IA atual fará o que pedimos dela?
  37. Sim, se ela puder,
  38. mas talvez não faça
    o que realmente queremos.
  39. Digamos que quiséssemos que uma IA
    pegasse um conjunto de peças robóticas

  40. e as montasse como algum tipo de robô
    para que fosse do ponto A ao B.
  41. Bem, se tentássemos resolver esse problema
  42. criando um programa
    de computador tradicional,
  43. daríamos instruções
    passo a passo ao programa
  44. sobre como pegar as peças,
    juntá-las em um robô com pernas
  45. que ele usaria para andar até o ponto B.
  46. Mas, quando usamos a IA
    para resolver o problema,
  47. não funciona assim.
  48. Não dizemos para ela
    como resolver o problema,
  49. só lhe damos o objetivo
  50. e ela precisa descobrir sozinha,
    por tentativa e erro,
  51. como atingir aquele objetivo.
  52. E parece que a IA costuma resolver
    esse problema específico
  53. fazendo o seguinte:
  54. ela se transforma em uma torre e cai,
  55. atingindo o ponto B.
  56. E, tecnicamente, isso resolve o problema,
    ela chega ao ponto B.
  57. O perigo da IA não é
    que ela se rebelará contra nós;
  58. é que ela fará exatamente o que pedirmos.
  59. Então, o segredo para trabalhar com IA é:
  60. como configuramos o problema
    para que ela faça o que queremos?
  61. Este robozinho é controlado por uma IA,
    que criou um design para as pernas dele

  62. e depois descobriu como usá-las
    para passar por esses obstáculos.
  63. Mas quando David Ha
    preparou essa experiência,
  64. ele o fez dentro de limites
    bastante rigorosos
  65. sobre o tamanho das pernas
    que a IA poderia criar,
  66. porque, do contrário...
  67. (Risos)

  68. E, tecnicamente, ela chegou
    ao final da pista de obstáculos.

  69. Percebe-se como é difícil que uma IA
    faça algo tão simples como andar.
  70. Vendo a IA fazer isso,
    podem dizer: "Ah, não é justo!

  71. Não se pode simplesmente
    ser uma torre e cair;
  72. tem que usar as pernas para andar".
  73. Mas acontece que isso também
    nem sempre funciona.
  74. A tarefa dessa IA era
    se mover rapidamente.
  75. Não lhe disseram
    que deveria correr de frente
  76. ou que não poderia usar os braços.
  77. Esse é o resultado quando treinamos
    uma IA para se mover rapidamente:
  78. cambalhotas ou caminhadas ridículas.
  79. Isso é muito comum.
  80. Assim como se contorcer pelo chão.
  81. (Risos)

  82. Acho que mais esquisito ainda seriam
    os robôs do "Exterminador do Futuro".

  83. Hackear a "Matrix" é outra coisa
    que a IA fará se tiver a oportunidade.
  84. Então, se treinarmos
    uma IA em uma simulação,
  85. ela aprenderá a fazer coisas como hackear
    os erros matemáticos da simulação
  86. e colhê-los para conseguir energia.
  87. Ou então descobrirá como se mover
    mais rápido se arrastando pelo chão.
  88. Trabalhar com IA
  89. não se assemelha a trabalhar
    com outro humano,
  90. e sim a trabalhar com um tipo
    de força estranha da natureza.
  91. É muito fácil dar, acidentalmente,
    o problema errado para a IA resolver
  92. e frequentemente não percebemos
    isso até que algo dê errado.
  93. Essa é uma experiência que fiz,

  94. na qual eu queria que a IA
    copiasse cores de tinta
  95. para inventar novas cores
  96. com base em uma lista como a da esquerda.
  97. E foi isso que a IA inventou.
  98. [Cocô Sindis, Excremental,
    Sofrimento, Cinza Pubiano]

  99. (Risos)

  100. Então, tecnicamente,

  101. ela fez o que eu pedi dela.
  102. Pensei que estivesse pedindo
    nomes agradáveis de cores,
  103. mas o que eu pedia, na verdade,
  104. era que a IA imitasse
    os tipos de combinações de letras
  105. que estavam presentes nos originais.
  106. E não falei nada à IA
    sobre o significado das palavras,
  107. nem que ela deveria evitar usar
    algumas palavras nos nomes das tintas.
  108. Portanto, a única coisa que a IA sabe
    são os dados que lhe forneci.
  109. Assim como ocorreu com os sabores
    de sorvete, a IA não sabe mais nada.
  110. Então, é pelos dados que, frequentemente,

  111. dizemos a ela para fazer a coisa errada.
  112. Este é um peixe chamado tenca.
  113. Um grupo de pesquisadores
  114. treinou uma IA
    para reconhecê-lo em imagens.
  115. Mas quando perguntaram à IA
  116. qual parte da imagem era usada
    para identificar o peixe,
  117. foi isso que ela apontou.
  118. Sim, esses são dedos humanos.
  119. Por que ela procuraria dedos humanos
    ao tentar identificar um peixe?
  120. Bem, acontece que a tenca
    é um peixe-troféu,
  121. então, em várias imagens em que a IA
    viu esse peixe durante o treinamento,
  122. ele apresentava essa aparência.
  123. (Risos)

  124. E ela não sabia que os dedos
    não faziam parte do peixe.

  125. É por isso que é tão difícil
    desenvolver uma IA

  126. que realmente consiga entender
    o que está observando.
  127. E é por isso que desenvolver
    o reconhecimento de imagem
  128. em carros autônomos é tão difícil
  129. e muitas falhas desses carros
    ocorrem porque a IA se confundiu.
  130. Falarei sobre um exemplo de 2016.
  131. Houve um acidente fatal quando alguém
    usou a IA do piloto automático de um Tesla
  132. mas, em vez de usá-la em uma rodovia,
    para onde elas foram programadas,
  133. utilizaram-na em vias urbanas.
  134. Um caminhão entrou na frente
    do carro, que não conseguiu frear.
  135. Vejam, a IA definitivamente foi treinada
    para reconhecer caminhões em imagens.
  136. Mas o que parece ter acontecido
  137. é que a IA foi treinada
    para reconhecê-los em estradas,
  138. onde se espera ver
    a traseira dos caminhões.
  139. Caminhões vindos pela lateral
    não deveriam aparecer em estradas,
  140. então, quando a IA o viu,
  141. parece que ela avaliou que se tratava
    de uma placa de trânsito
  142. e que, portanto,
    seria seguro passar sob ela.
  143. Agora vejamos um erro de IA
    de um campo diferente.

  144. A Amazon teve que desistir
    de um algoritmo para seleção de currículos
  145. no qual trabalhava
  146. ao descobrir que ele aprendeu
    a discriminar mulheres.
  147. Eles o treinaram com base
    em exemplos de currículos
  148. de pessoas que haviam sido
    contratadas por eles.
  149. E, desses exemplos, a IA
    aprendeu a evitar os currículos
  150. de pessoas que frequentaram
    faculdades femininas
  151. ou que continham a palavra
    "feminina" em algum lugar,
  152. como "equipe feminina de futebol"
    ou "Sociedade Feminina de Engenharia".
  153. A IA não sabia que não deveria
    copiar esse padrão específico
  154. que havia observado nos humanos.
  155. E, tecnicamente, fez o que lhe pediram.
  156. Mas acidentalmente lhe pediram
    para fazer a coisa errada.
  157. E isso sempre acontece com IA.

  158. Ela pode ser muito destrutiva sem saber.
  159. As IAs que recomendam novos conteúdos
    no Facebook ou no YouTube
  160. estão otimizadas para aumentar
    o número de cliques e visualizações.
  161. Infelizmente, uma das formas
    que elas têm de fazer isso
  162. é recomendar conteúdo de teorias
    da conspiração ou de intolerância.
  163. A própria IA não tem ideia
    do que seja aquele conteúdo
  164. ou de quais possam ser
    as consequências de recomendá-lo.
  165. Então, ao trabalharmos com IA,

  166. evitar problemas é função nossa.
  167. E evitar que as coisas deem errado
  168. pode se resumir ao velho
    problema da comunicação,
  169. e que nós, humanos, precisamos
    aprender a nos comunicar com a IA.
  170. Precisamos aprender
    o que a IA é ou não capaz de fazer
  171. e entender que, com seu
    cerebrozinho de minhoca,
  172. a IA, na verdade, não entende
    o que tentamos pedir que ela faça.
  173. Em outras palavras, precisamos
    estar preparados para trabalhar com uma IA
  174. que não é a IA supercompetente
    e onisciente da ficção científica.
  175. Precisamos estar preparados
    para trabalhar com a IA
  176. que realmente temos atualmente,
  177. e ela é suficientemente esquisita.
  178. Obrigada.

  179. (Aplausos)