WEBVTT 00:00:01.765 --> 00:00:04.765 La inteligencia artificial 00:00:04.789 --> 00:00:08.318 es conocida por transformar todo tipo de industrias. 00:00:08.961 --> 00:00:11.004 Pensemos en los helados. 00:00:11.879 --> 00:00:15.518 ¿Qué alucinantes sabores nuevos podríamos generar 00:00:15.542 --> 00:00:18.518 con el poder de una inteligencia artificial avanzada? 00:00:19.011 --> 00:00:23.172 Me junté con un grupo de programadores de la escuela secundaria Kealing 00:00:23.196 --> 00:00:25.437 para descubrir la respuesta a esta pregunta. 00:00:25.461 --> 00:00:30.542 Reunieron más de 1600 sabores de helado existentes, 00:00:30.566 --> 00:00:36.088 y los introducimos en un algoritmo para ver qué podría generar. 00:00:36.112 --> 00:00:39.865 Estos son algunos de los sabores que la IA inventó. NOTE Paragraph 00:00:40.444 --> 00:00:41.915 [Helado fétido de calabaza] NOTE Paragraph 00:00:41.939 --> 00:00:43.341 (Risas) NOTE Paragraph 00:00:43.365 --> 00:00:45.834 [Babas con mantequilla de cacahuete] NOTE Paragraph 00:00:46.822 --> 00:00:48.165 [Cremosa dolencia de fresa] NOTE Paragraph 00:00:48.189 --> 00:00:50.315 (Risas) NOTE Paragraph 00:00:50.339 --> 00:00:54.936 Estos no son sabores deliciosos, como quizá hubiésemos esperado. 00:00:54.960 --> 00:00:58.254 Luego la pregunta es: ¿Qué sucedió, qué es lo que ha fallado? 00:00:58.266 --> 00:01:00.225 ¿Intenta la IA acabar con nosotros? 00:01:01.027 --> 00:01:05.337 ¿O intenta hacer lo que le pedimos, y había un problema? NOTE Paragraph 00:01:06.567 --> 00:01:09.031 En las películas, cuando algo falla con la IA, 00:01:09.055 --> 00:01:11.767 habitualmente se debe a que la IA ha decidido 00:01:11.791 --> 00:01:14.063 que no quiere seguir obedeciendo a los humanos, 00:01:14.087 --> 00:01:16.710 y tiene sus propios objetivos, no iba ella a ser menos. 00:01:17.266 --> 00:01:22.322 En realidad, la IA que tenemos no es lo bastante inteligente para eso. 00:01:22.781 --> 00:01:29.503 Tiene la capacidad de cálculo aproximada de una lombriz, o quizá de una sola abeja. 00:01:30.514 --> 00:01:32.729 Y de hecho, probablemente incluso menos. 00:01:32.729 --> 00:01:35.371 Aprendemos constantemente cosas nuevas sobre el cerebro 00:01:35.371 --> 00:01:39.731 que evidencian el grado en que la IA no es comparable a cerebros reales. 00:01:39.755 --> 00:01:45.418 La IA actual puede identificar a un peatón en una imagen, 00:01:45.442 --> 00:01:48.425 pero no tiene un concepto de lo que un peatón es, 00:01:48.449 --> 00:01:53.273 más allá de un agregado de líneas, texturas y otras cosas. 00:01:53.792 --> 00:01:56.313 No sabe lo que un humano realmente es. 00:01:56.822 --> 00:02:00.104 ¿Hará entonces la IA actual aquello que le pedimos? 00:02:00.128 --> 00:02:04.432 Lo hará si puede, pero es posible que no haga lo que queremos de ella. NOTE Paragraph 00:02:04.496 --> 00:02:09.421 Digamos que Uds. intentaran que una IA tomara esta colección de piezas de robot, 00:02:09.578 --> 00:02:13.775 y las ensamblara en un robot para ir del punto A al punto B. 00:02:13.799 --> 00:02:18.550 Si intentamos solucionar este problema con un programa tradicional de ordenador, 00:02:18.679 --> 00:02:23.306 daríamos al programa instrucciones paso a paso de cómo tomar estas partes, 00:02:23.363 --> 00:02:28.940 cómo ensamblarlas en un robot con piernas, y cómo caminar con ellas hasta el punto B. 00:02:29.171 --> 00:02:32.981 Pero cuando utilizamos IA para solucionar el problema, se procede de otra manera. 00:02:33.003 --> 00:02:36.725 No se le enseña cómo resolver el problema, únicamente se le da el objetivo, 00:02:36.912 --> 00:02:40.174 y tiene que lograrlo por sí misma a través de ensayo y error 00:02:40.198 --> 00:02:41.682 para alcanzar ese objetivo. 00:02:42.254 --> 00:02:47.556 El modo en que la IA tiende a resolver este particular problema es el siguiente: 00:02:47.888 --> 00:02:51.255 Se ensambla en una torre, y luego se deja caer 00:02:51.279 --> 00:02:53.106 para ir a parar al punto B. 00:02:53.130 --> 00:02:57.439 Y técnicamente, soluciona el problema. Técnicamente, llegó al punto B. 00:02:57.646 --> 00:03:01.911 El peligro de la IA no es que vaya a rebelarse contra nosotros, 00:03:01.935 --> 00:03:06.209 sino que hará exactamente lo que le pidamos que haga. 00:03:06.656 --> 00:03:09.374 Luego el quid de la cuestión al trabajar con IA pasa a ser 00:03:09.398 --> 00:03:13.226 cómo estructuramos el problema para que haga lo que queremos. NOTE Paragraph 00:03:14.726 --> 00:03:18.032 Este pequeño robot de aquí está controlado por una IA. 00:03:18.056 --> 00:03:20.870 La IA ideó un diseño para las piernas del robot, 00:03:20.894 --> 00:03:24.972 y luego averiguó cómo usarlas para superar todos estos obstáculos. 00:03:24.996 --> 00:03:27.737 Pero cuando David Ha preparó este experimento, 00:03:27.761 --> 00:03:30.617 tuvo que diseñarlo con límites muy estrictos 00:03:30.641 --> 00:03:35.457 en cuanto al tamaño de piernas permitido, porque de lo contrario... NOTE Paragraph 00:03:43.058 --> 00:03:46.989 (Risas) NOTE Paragraph 00:03:48.563 --> 00:03:52.308 Y técnicamente, logró completar el recorrido de obstáculos. 00:03:52.332 --> 00:03:57.274 Pueden ver lo difícil que es para la IA hacer algo tan sencillo como caminar. NOTE Paragraph 00:03:57.298 --> 00:04:01.118 Viendo esto, quizá pensemos que no es justo, 00:04:01.142 --> 00:04:03.722 no puede hacer una torre y dejarse caer, 00:04:03.746 --> 00:04:07.181 tiene que usar piernas para caminar. 00:04:07.205 --> 00:04:09.964 Y resulta que eso tampoco funciona siempre. 00:04:09.988 --> 00:04:12.747 La tarea de esta IA era moverse con rapidez. 00:04:13.115 --> 00:04:16.708 No se le especificó que tuviera que hacerlo de frente, 00:04:16.732 --> 00:04:18.990 o que no pudiera usar sus brazos. 00:04:19.487 --> 00:04:24.105 Esto es lo que se obtiene cuando se entrena a la IA para moverse deprisa. 00:04:24.129 --> 00:04:27.663 Obtienes volteretas y andares cómicos. 00:04:27.687 --> 00:04:29.087 Es muy común. 00:04:29.667 --> 00:04:32.846 También lo es arrastrarse por el suelo en un montón. NOTE Paragraph 00:04:32.870 --> 00:04:34.020 (Risas) NOTE Paragraph 00:04:35.241 --> 00:04:38.275 En mi opinión, lo que debería haber sido mucho más extraño 00:04:38.275 --> 00:04:39.975 son los robots de "Terminator". 00:04:40.256 --> 00:04:44.011 Hackear "The Matrix" es otra cosa que una IA hará si le das la oportunidad. 00:04:44.035 --> 00:04:46.552 Si entrenas a la IA en una simulación, 00:04:46.576 --> 00:04:50.689 aprenderá cómo hackear los errores matemáticos de la simulación 00:04:50.713 --> 00:04:52.920 y utilizarlos para obtener energía. 00:04:52.944 --> 00:04:58.419 O averiguará cómo moverse más rápido explotando fallos encontrados en el suelo. 00:04:58.443 --> 00:05:02.289 Cuando trabajas con IA no es como si trabajaras con otro ser humano 00:05:02.465 --> 00:05:06.094 sino como hacerlo con una fuerza extraña de la naturaleza. 00:05:06.562 --> 00:05:11.185 Es muy fácil dar accidentalmente a la IA el problema erróneo que resolver, 00:05:11.209 --> 00:05:15.747 y frecuentemente no nos percatamos hasta que las consecuencias son evidentes. NOTE Paragraph 00:05:16.242 --> 00:05:18.322 He aquí un experimento que hice, 00:05:18.346 --> 00:05:23.308 quería que la IA copiara colores para inventar otros nuevos, 00:05:23.322 --> 00:05:26.309 dada una lista como la de la izquierda. 00:05:26.798 --> 00:05:29.802 Y esto es lo que la IA propuso: NOTE Paragraph 00:05:29.826 --> 00:05:32.969 [Caca de Sindis, Zurullo, Sufrimiento, Gris púbico] NOTE Paragraph 00:05:32.993 --> 00:05:37.223 (Risas) NOTE Paragraph 00:05:39.177 --> 00:05:42.903 Técnicamente, hizo lo que le pedí. 00:05:42.975 --> 00:05:46.283 Pensé que le estaba pidiendo nombres apropiados para colores, 00:05:46.307 --> 00:05:48.614 pero lo que verdaderamente le pedí 00:05:48.638 --> 00:05:53.404 es que imitase las combinaciones de letras que había visto en la lista original. 00:05:53.677 --> 00:05:59.265 No le dije lo que las palabras significan, o que quizá haya ciertas palabras 00:05:59.383 --> 00:06:02.272 que debería evitar utilizar en estos colores. 00:06:03.141 --> 00:06:06.635 Todo su mundo se reduce a la información que le proporcioné. 00:06:06.659 --> 00:06:10.687 Como con los sabores de helado, no sabe de ninguna otra cosa. NOTE Paragraph 00:06:12.491 --> 00:06:14.129 Es a través de la información 00:06:14.153 --> 00:06:18.197 que con frecuencia decimos a la IA accidentalmente que haga algo erróneo. 00:06:18.694 --> 00:06:21.726 Este pez se llama tenca. 00:06:21.750 --> 00:06:23.565 Había un grupo de investigadores 00:06:23.589 --> 00:06:27.463 que entrenó a una IA para identificar a esta tenca en imágenes. 00:06:27.487 --> 00:06:31.983 Pero cuando le preguntaron qué parte de la imagen utilizaba para identificar al pez, 00:06:32.257 --> 00:06:33.615 esto es lo que destacó. 00:06:35.203 --> 00:06:37.392 Son dedos humanos. 00:06:37.416 --> 00:06:41.205 ¿Por qué estaría buscando dedos humanos si está intentando identificar un pez? 00:06:42.126 --> 00:06:45.290 Resulta que la tenca es un pez trofeo, 00:06:45.314 --> 00:06:50.275 y en muchas imágenes que la IA había visto del pez durante su entrenamiento, 00:06:50.324 --> 00:06:51.814 el pez aparecía así. NOTE Paragraph 00:06:51.838 --> 00:06:53.473 (Risas) NOTE Paragraph 00:06:53.497 --> 00:06:56.827 No sabía que los dedos no son parte del pez. NOTE Paragraph 00:06:58.808 --> 00:07:02.928 Pueden ver por qué es tan complicado diseñar una IA 00:07:02.952 --> 00:07:06.271 que verdaderamente entienda aquello que está viendo. 00:07:06.295 --> 00:07:11.187 Por eso diseñar en coches autónomos el reconocimiento de imágenes es tan difícil, 00:07:11.272 --> 00:07:16.027 y muchos fallos de coches autónomos se deben a que la IA se confundió. 00:07:16.410 --> 00:07:20.418 Quiero hablar de un ejemplo de 2016. 00:07:20.442 --> 00:07:24.897 Hubo un funesto accidente cuando alguien usaba la IA de piloto automático de Tesla, 00:07:24.921 --> 00:07:28.335 pero en lugar de hacerlo en la autopista para la que estaba diseñada, 00:07:28.359 --> 00:07:30.564 la usó en las vías urbanas. 00:07:31.239 --> 00:07:36.084 Lo que sucedió fue que un camión condujo frente al coche, y el coche no frenó. 00:07:36.507 --> 00:07:41.269 La IA estaba entrenada para reconocer camiones en las imágenes. 00:07:41.293 --> 00:07:46.399 Pero al parecer la IA había sido entrenada para reconocer camiones en la autopista, 00:07:46.417 --> 00:07:49.316 donde esperarías verlos desde la parte trasera. 00:07:49.340 --> 00:07:52.760 Que los camiones se te crucen no es algo que suceda en la autopista, 00:07:52.784 --> 00:07:56.239 y cuando la IA vio a este camión, 00:07:56.263 --> 00:08:01.090 parece que lo reconoció como una señal de carretera, 00:08:01.114 --> 00:08:03.627 y por tanto que la conducción por debajo era segura. NOTE Paragraph 00:08:04.114 --> 00:08:06.694 Aquí tenemos una equivocación de una IA en otra área. 00:08:06.718 --> 00:08:10.178 Amazon tuvo que abandonar un algoritmo de clasificación de currículums 00:08:10.202 --> 00:08:11.312 en el que trabajaban 00:08:11.312 --> 00:08:15.354 cuando descubrieron que el algoritmo había aprendido a discriminar a las mujeres. 00:08:15.378 --> 00:08:18.094 Lo que pasó fue que la habían entrenado con currículums 00:08:18.118 --> 00:08:20.360 de gente que habían contratado en el pasado. 00:08:20.384 --> 00:08:24.407 De estos ejemplos, la IA aprendió a evitar currículums de personas 00:08:24.407 --> 00:08:26.457 que hubieran ido a universidades de mujeres, 00:08:26.481 --> 00:08:29.287 o que contuvieran la palabra "mujer" en su currículum, 00:08:29.311 --> 00:08:33.887 como "equipo de fútbol de mujeres", o "Sociedad de Mujeres Ingenieras". 00:08:33.911 --> 00:08:37.885 La IA no sabía que no debía copiar este modo de proceder 00:08:37.909 --> 00:08:39.887 que había visto emplear a los humanos. 00:08:39.911 --> 00:08:43.088 Y técnicamente, hizo lo que se requería de ella. 00:08:43.112 --> 00:08:46.159 Simplemente, de forma accidental le solicitaron algo incorrecto. NOTE Paragraph 00:08:46.653 --> 00:08:49.548 Esto sucede constantemente con la IA. 00:08:50.120 --> 00:08:53.711 La IA puede ser muy destructiva sin tener conciencia de ello. 00:08:53.735 --> 00:08:58.813 Las IAs que recomiendan nuevo contenido en Facebook, o en Youtube, 00:08:58.837 --> 00:09:02.376 están optimizadas para incrementar el número de clics y visualizaciones. 00:09:02.400 --> 00:09:05.836 Y desafortunadamente, una forma que han encontrado de lograrlo 00:09:05.860 --> 00:09:10.363 es recomendar contenido concerniente a teorías conspiratorias o fanatismo. 00:09:10.902 --> 00:09:16.204 Las IAs no tienen concepto alguno de qué es realmente este contenido, 00:09:16.228 --> 00:09:19.623 ni tienen un entendimiento de las posibles consecuencias 00:09:19.647 --> 00:09:21.756 de recomendar este contenido. NOTE Paragraph 00:09:22.296 --> 00:09:28.187 Al trabajar con IA, depende de nosotros evitar los problemas. 00:09:28.537 --> 00:09:34.830 Eludir estos errores puede depender del viejo problema de la comunicación, 00:09:35.434 --> 00:09:39.179 y que nosotros los humanos tengamos que aprender a comunicarnos con la IA. 00:09:39.203 --> 00:09:43.242 Tenemos que aprender lo que la IA es capaz de hacer y lo que no, 00:09:43.266 --> 00:09:46.352 y entender que, con su pequeño cerebro de lombriz, 00:09:46.376 --> 00:09:50.389 la IA no entiende verdaderamente lo que le estamos pidiendo que haga. 00:09:51.148 --> 00:09:54.469 En otras palabras, hemos de estar preparados para trabajar con una IA 00:09:54.493 --> 00:09:59.751 que no es la súper competente sabelotodo de la ciencia ficción. 00:09:59.775 --> 00:10:02.637 Hemos de estar preparados para trabajar con la IA 00:10:02.661 --> 00:10:05.599 que tenemos disponible en la actualidad. 00:10:05.623 --> 00:10:09.828 Y la IA actual es ya lo bastante extraña. NOTE Paragraph 00:10:09.852 --> 00:10:11.042 Gracias. NOTE Paragraph 00:10:11.066 --> 00:10:16.291 (Aplausos)