YouTube

Got a YouTube account?

New: enable viewer-created translations and captions on your YouTube channel!

Spanish subtitles

← El peligro de la IA es más extraño de lo que piensas

Get Embed Code
31 Languages

Showing Revision 20 created 11/26/2019 by Jenny Lam-Chowdhury.

  1. La inteligencia artificial
  2. es conocida por transformar
    todo tipo de industrias.
  3. Pensemos en los helados.
  4. ¿Qué alucinantes sabores
    nuevos podríamos generar
  5. con el poder de una
    inteligencia artificial avanzada?
  6. Me junté con un grupo de programadores
    de la escuela secundaria Kealing
  7. para descubrir la
    respuesta a esta pregunta.
  8. Reunieron más de 1600
    sabores de helado existentes,
  9. y los introducimos en un algoritmo
    para ver qué podría generar.
  10. Estos son algunos de
    los sabores que la IA inventó.
  11. [Helado fétido de calabaza]

  12. (Risas)

  13. [Babas con mantequilla de cacahuete]

  14. [Cremosa dolencia de fresa]

  15. (Risas)

  16. Estos no son sabores deliciosos,
    como quizá hubiésemos esperado.

  17. Luego la pregunta es: ¿Qué sucedió,
    qué es lo que ha fallado?
  18. ¿Intenta la IA acabar con nosotros?
  19. ¿O intenta hacer lo que le
    pedimos, y había un problema?
  20. En las películas,
    cuando algo falla con la IA,

  21. habitualmente se debe
    a que la IA ha decidido
  22. que no quiere seguir
    obedeciendo a los humanos,
  23. y tiene sus propios objetivos,
    no iba ella a ser menos.
  24. En realidad, la IA que tenemos
    no es lo bastante inteligente para eso.
  25. Tiene la capacidad de cálculo aproximada
    de una lombriz, o quizá de una sola abeja.
  26. Y de hecho, probablemente incluso menos.
  27. Aprendemos constantemente
    cosas nuevas sobre el cerebro
  28. que evidencian el grado en que la IA
    no es comparable a cerebros reales.
  29. La IA actual puede identificar
    a un peatón en una imagen,
  30. pero no tiene un concepto
    de lo que un peatón es,
  31. más allá de un agregado de
    líneas, texturas y otras cosas.
  32. No sabe lo que un humano realmente es.
  33. ¿Hará entonces la IA actual
    aquello que le pedimos?
  34. Lo hará si puede, pero es posible
    que no haga lo que queremos de ella.
  35. Digamos que Uds. intentaran que una IA
    tomara esta colección de piezas de robot,

  36. y las ensamblara en un robot
    para ir del punto A al punto B.
  37. Si intentamos solucionar este problema
    con un programa tradicional de ordenador,
  38. daríamos al programa instrucciones
    paso a paso de cómo tomar estas partes,
  39. cómo ensamblarlas en un robot con piernas,
    y cómo caminar con ellas hasta el punto B.
  40. Pero cuando utilizamos IA para solucionar
    el problema, se procede de otra manera.
  41. No se le enseña cómo resolver el problema,
    únicamente se le da el objetivo,
  42. y tiene que lograrlo por sí misma
    a través de ensayo y error
  43. para alcanzar ese objetivo.
  44. El modo en que la IA tiende a resolver
    este particular problema es el siguiente:
  45. Se ensambla en una torre,
    y luego se deja caer
  46. para ir a parar al punto B.
  47. Y técnicamente, soluciona el problema.
    Técnicamente, llegó al punto B.
  48. El peligro de la IA no es que
    vaya a rebelarse contra nosotros,
  49. sino que hará exactamente
    lo que le pidamos que haga.
  50. Luego el quid de la cuestión
    al trabajar con IA pasa a ser
  51. cómo estructuramos el problema
    para que haga lo que queremos.
  52. Este pequeño robot de aquí
    está controlado por una IA.

  53. La IA ideó un diseño
    para las piernas del robot,
  54. y luego averiguó cómo usarlas
    para superar todos estos obstáculos.
  55. Pero cuando David Ha
    preparó este experimento,
  56. tuvo que diseñarlo con
    límites muy estrictos
  57. en cuanto al tamaño de piernas
    permitido, porque de lo contrario...
  58. (Risas)

  59. Y técnicamente, logró completar
    el recorrido de obstáculos.

  60. Pueden ver lo difícil que es para la IA
    hacer algo tan sencillo como caminar.
  61. Viendo esto, quizá
    pensemos que no es justo,

  62. no puede hacer una
    torre y dejarse caer,
  63. tiene que usar piernas para caminar.
  64. Y resulta que eso
    tampoco funciona siempre.
  65. La tarea de esta IA era
    moverse con rapidez.
  66. No se le especificó que
    tuviera que hacerlo de frente,
  67. o que no pudiera usar sus brazos.
  68. Esto es lo que se obtiene cuando
    se entrena a la IA para moverse deprisa.
  69. Obtienes volteretas y andares cómicos.
  70. Es muy común.
  71. También lo es arrastrarse
    por el suelo en un montón.
  72. (Risas)

  73. En mi opinión, lo que debería
    haber sido mucho más extraño

  74. son los robots de "Terminator".
  75. Hackear "The Matrix" es otra cosa que
    una IA hará si le das la oportunidad.
  76. Si entrenas a la IA en una simulación,
  77. aprenderá cómo hackear los errores
    matemáticos de la simulación
  78. y utilizarlos para obtener energía.
  79. O averiguará cómo moverse más rápido
    explotando fallos encontrados en el suelo.
  80. Cuando trabajas con IA no es como
    si trabajaras con otro ser humano
  81. sino como hacerlo con
    una fuerza extraña de la naturaleza.
  82. Es muy fácil dar accidentalmente a
    la IA el problema erróneo que resolver,
  83. y frecuentemente no nos percatamos
    hasta que las consecuencias son evidentes.
  84. He aquí un experimento que hice,

  85. quería que la IA copiara colores
    para inventar otros nuevos,
  86. dada una lista como la de la izquierda.
  87. Y esto es lo que la IA propuso:
  88. [Caca de Sindis, Zurullo,
    Sufrimiento, Gris púbico]

  89. (Risas)

  90. Técnicamente, hizo lo que le pedí.

  91. Pensé que le estaba pidiendo
    nombres apropiados para colores,
  92. pero lo que verdaderamente le pedí
  93. es que imitase las combinaciones de letras
    que había visto en la lista original.
  94. No le dije lo que las palabras significan,
    o que quizá haya ciertas palabras

  95. que debería evitar utilizar
    en estos colores.
  96. Todo su mundo se reduce a
    la información que le proporcioné.
  97. Como con los sabores de helado,
    no sabe de ninguna otra cosa.
  98. Es a través de la información

  99. que con frecuencia decimos a la IA
    accidentalmente que haga algo erróneo.
  100. Este pez se llama tenca.
  101. Había un grupo de investigadores
  102. que entrenó a una IA para
    identificar a esta tenca en imágenes.
  103. Pero cuando le preguntaron qué parte de la
    imagen utilizaba para identificar al pez,
  104. esto es lo que destacó.
  105. Son dedos humanos.
  106. ¿Por qué estaría buscando dedos humanos
    si está intentando identificar un pez?
  107. Resulta que la tenca es un pez trofeo,
  108. y en muchas imágenes que la IA había
    visto del pez durante su entrenamiento,
  109. el pez aparecía así.
  110. (Risas)

  111. No sabía que los dedos
    no son parte del pez.

  112. Pueden ver por qué es tan
    complicado diseñar una IA

  113. que verdaderamente entienda
    aquello que está viendo.
  114. Por eso diseñar en coches autónomos el
    reconocimiento de imágenes es tan difícil,
  115. y muchos fallos de coches autónomos
    se deben a que la IA se confundió.
  116. Quiero hablar de un ejemplo de 2016.
  117. Hubo un funesto accidente cuando alguien
    usaba la IA de piloto automático de Tesla,
  118. pero en lugar de hacerlo en la autopista
    para la que estaba diseñada,
  119. la usó en las vías urbanas.
  120. Lo que sucedió fue que un camión condujo
    frente al coche, y el coche no frenó.
  121. La IA estaba entrenada para
    reconocer camiones en las imágenes.
  122. Pero al parecer la IA había sido entrenada
    para reconocer camiones en la autopista,
  123. donde esperarías verlos
    desde la parte trasera.
  124. Que los camiones se te crucen no es
    algo que suceda en la autopista,
  125. y cuando la IA vio a este camión,
  126. parece que lo reconoció
    como una señal de carretera,
  127. y por tanto que la conducción
    por debajo era segura.
  128. Aquí tenemos una equivocación
    de una IA en otra área.

  129. Amazon tuvo que abandonar un
    algoritmo de clasificación de currículums
  130. en el que trabajaban
  131. cuando descubrieron que el algoritmo había
    aprendido a discriminar a las mujeres.
  132. Lo que pasó fue que la habían
    entrenado con currículums
  133. de gente que habían
    contratado en el pasado.
  134. De estos ejemplos, la IA aprendió
    a evitar currículums de personas
  135. que hubieran ido a
    universidades de mujeres,
  136. o que contuvieran la palabra
    "mujer" en su currículum,
  137. como "equipo de fútbol de mujeres",
    o "Sociedad de Mujeres Ingenieras".
  138. La IA no sabía que no debía
    copiar este modo de proceder
  139. que había visto emplear a los humanos.
  140. Y técnicamente, hizo lo
    que se requería de ella.
  141. Simplemente, de forma accidental
    le solicitaron algo incorrecto.
  142. Esto sucede constantemente con la IA.

  143. La IA puede ser muy destructiva
    sin tener conciencia de ello.
  144. Las IAs que recomiendan nuevo
    contenido en Facebook, o en Youtube,
  145. están optimizadas para incrementar
    el número de clics y visualizaciones.
  146. Y desafortunadamente, una forma
    que han encontrado de lograrlo
  147. es recomendar contenido concerniente
    a teorías conspiratorias o fanatismo.
  148. Las IAs no tienen concepto alguno
    de qué es realmente este contenido,
  149. ni tienen un entendimiento
    de las posibles consecuencias
  150. de recomendar este contenido.
  151. Al trabajar con IA, depende de nosotros
    evitar los problemas.

  152. Eludir estos errores puede depender
    del viejo problema de la comunicación,
  153. y que nosotros los humanos tengamos
    que aprender a comunicarnos con la IA.
  154. Tenemos que aprender lo que
    la IA es capaz de hacer y lo que no,
  155. y entender que,
    con su pequeño cerebro de lombriz,
  156. la IA no entiende verdaderamente
    lo que le estamos pidiendo que haga.
  157. En otras palabras, hemos de estar
    preparados para trabajar con una IA
  158. que no es la súper competente
    sabelotodo de la ciencia ficción.
  159. Hemos de estar preparados
    para trabajar con la IA
  160. que tenemos disponible en la actualidad.
  161. Y la IA actual es ya lo bastante extraña.
  162. Gracias.

  163. (Aplausos)