0:00:01.765,0:00:04.765
La inteligencia artificial

0:00:04.789,0:00:08.318
es conocida por transformar[br]todo tipo de industrias.

0:00:08.961,0:00:11.004
Pensemos en los helados.

0:00:11.879,0:00:15.518
¿Qué alucinantes sabores[br]nuevos podríamos generar

0:00:15.542,0:00:18.518
con el poder de una[br]inteligencia artificial avanzada?

0:00:19.011,0:00:23.172
Me junté con un grupo de programadores[br]de la escuela secundaria Kealing

0:00:23.196,0:00:25.437
para descubrir la[br]respuesta a esta pregunta.

0:00:25.461,0:00:30.542
Reunieron más de 1600[br]sabores de helado existentes,

0:00:30.566,0:00:36.088
y los introducimos en un algoritmo[br]para ver qué podría generar.

0:00:36.112,0:00:39.865
Estos son algunos de[br]los sabores que la IA inventó.

0:00:40.444,0:00:41.915
[Helado fétido de calabaza]

0:00:41.939,0:00:43.341
(Risas)

0:00:43.365,0:00:45.834
[Babas con mantequilla de cacahuete]

0:00:46.822,0:00:48.165
[Cremosa dolencia de fresa]

0:00:48.189,0:00:50.315
(Risas)

0:00:50.339,0:00:54.936
Estos no son sabores deliciosos,[br]como quizá hubiésemos esperado.

0:00:54.960,0:00:58.254
Luego la pregunta es: ¿Qué sucedió,[br]qué es lo que ha fallado?

0:00:58.266,0:01:00.225
¿Intenta la IA acabar con nosotros?

0:01:01.027,0:01:05.337
¿O intenta hacer lo que le[br]pedimos, y había un problema?

0:01:06.567,0:01:09.031
En las películas, [br]cuando algo falla con la IA,

0:01:09.055,0:01:11.767
habitualmente se debe[br]a que la IA ha decidido

0:01:11.791,0:01:14.063
que no quiere seguir[br]obedeciendo a los humanos,

0:01:14.087,0:01:16.710
y tiene sus propios objetivos,[br]no iba ella a ser menos.

0:01:17.266,0:01:22.322
En realidad, la IA que tenemos [br]no es lo bastante inteligente para eso.

0:01:22.781,0:01:29.503
Tiene la capacidad de cálculo aproximada[br]de una lombriz, o quizá de una sola abeja.

0:01:30.514,0:01:32.729
Y de hecho, probablemente incluso menos.

0:01:32.729,0:01:35.371
Aprendemos constantemente[br]cosas nuevas sobre el cerebro

0:01:35.371,0:01:39.731
que evidencian el grado en que la IA[br]no es comparable a cerebros reales.

0:01:39.755,0:01:45.418
La IA actual puede identificar[br]a un peatón en una imagen,

0:01:45.442,0:01:48.425
pero no tiene un concepto[br]de lo que un peatón es,

0:01:48.449,0:01:53.273
más allá de un agregado de[br]líneas, texturas y otras cosas.

0:01:53.792,0:01:56.313
No sabe lo que un humano realmente es.

0:01:56.822,0:02:00.104
¿Hará entonces la IA actual[br]aquello que le pedimos?

0:02:00.128,0:02:04.432
Lo hará si puede, pero es posible[br]que no haga lo que queremos de ella.

0:02:04.496,0:02:09.421
Digamos que Uds. intentaran que una IA[br]tomara esta colección de piezas de robot,

0:02:09.578,0:02:13.775
y las ensamblara en un robot[br]para ir del punto A al punto B.

0:02:13.799,0:02:18.550
Si intentamos solucionar este problema[br]con un programa tradicional de ordenador,

0:02:18.679,0:02:23.306
daríamos al programa instrucciones[br]paso a paso de cómo tomar estas partes,

0:02:23.363,0:02:28.940
cómo ensamblarlas en un robot con piernas,[br]y cómo caminar con ellas hasta el punto B.

0:02:29.171,0:02:32.981
Pero cuando utilizamos IA para solucionar[br]el problema, se procede de otra manera.

0:02:33.003,0:02:36.725
No se le enseña cómo resolver el problema,[br]únicamente se le da el objetivo,

0:02:36.912,0:02:40.174
y tiene que lograrlo por sí misma[br]a través de ensayo y error

0:02:40.198,0:02:41.682
para alcanzar ese objetivo.

0:02:42.254,0:02:47.556
El modo en que la IA tiende a resolver [br]este particular problema es el siguiente:

0:02:47.888,0:02:51.255
Se ensambla en una torre,[br]y luego se deja caer

0:02:51.279,0:02:53.106
para ir a parar al punto B.

0:02:53.130,0:02:57.439
Y técnicamente, soluciona el problema.[br]Técnicamente, llegó al punto B.

0:02:57.646,0:03:01.911
El peligro de la IA no es que[br]vaya a rebelarse contra nosotros,

0:03:01.935,0:03:06.209
sino que hará exactamente[br]lo que le pidamos que haga.

0:03:06.656,0:03:09.374
Luego el quid de la cuestión[br]al trabajar con IA pasa a ser

0:03:09.398,0:03:13.226
cómo estructuramos el problema[br]para que haga lo que queremos.

0:03:14.726,0:03:18.032
Este pequeño robot de aquí[br]está controlado por una IA.

0:03:18.056,0:03:20.870
La IA ideó un diseño[br]para las piernas del robot,

0:03:20.894,0:03:24.972
y luego averiguó cómo usarlas[br]para superar todos estos obstáculos.

0:03:24.996,0:03:27.737
Pero cuando David Ha[br]preparó este experimento,

0:03:27.761,0:03:30.617
tuvo que diseñarlo con[br]límites muy estrictos

0:03:30.641,0:03:35.457
en cuanto al tamaño de piernas[br]permitido, porque de lo contrario...

0:03:43.058,0:03:46.989
(Risas)

0:03:48.563,0:03:52.308
Y técnicamente, logró completar[br]el recorrido de obstáculos.

0:03:52.332,0:03:57.274
Pueden ver lo difícil que es para la IA[br]hacer algo tan sencillo como caminar.

0:03:57.298,0:04:01.118
Viendo esto, quizá[br]pensemos que no es justo,

0:04:01.142,0:04:03.722
no puede hacer una[br]torre y dejarse caer,

0:04:03.746,0:04:07.181
tiene que usar piernas para caminar.

0:04:07.205,0:04:09.964
Y resulta que eso[br]tampoco funciona siempre.

0:04:09.988,0:04:12.747
La tarea de esta IA era[br]moverse con rapidez.

0:04:13.115,0:04:16.708
No se le especificó que[br]tuviera que hacerlo de frente,

0:04:16.732,0:04:18.990
o que no pudiera usar sus brazos.

0:04:19.487,0:04:24.105
Esto es lo que se obtiene cuando[br]se entrena a la IA para moverse deprisa.

0:04:24.129,0:04:27.663
Obtienes volteretas y andares cómicos.

0:04:27.687,0:04:29.087
Es muy común.

0:04:29.667,0:04:32.846
También lo es arrastrarse[br]por el suelo en un montón.

0:04:32.870,0:04:34.020
(Risas)

0:04:35.241,0:04:38.275
En mi opinión, lo que debería[br]haber sido mucho más extraño

0:04:38.275,0:04:39.975
son los robots de "Terminator".

0:04:40.256,0:04:44.011
Hackear "The Matrix" es otra cosa que[br]una IA hará si le das la oportunidad.

0:04:44.035,0:04:46.552
Si entrenas a la IA en una simulación,[br]

0:04:46.576,0:04:50.689
aprenderá cómo hackear los errores[br]matemáticos de la simulación

0:04:50.713,0:04:52.920
y utilizarlos para obtener energía.

0:04:52.944,0:04:58.419
O averiguará cómo moverse más rápido[br]explotando fallos encontrados en el suelo.

0:04:58.443,0:05:02.289
Cuando trabajas con IA no es como[br]si trabajaras con otro ser humano

0:05:02.465,0:05:06.094
sino como hacerlo con[br]una fuerza extraña de la naturaleza.

0:05:06.562,0:05:11.185
Es muy fácil dar accidentalmente a[br]la IA el problema erróneo que resolver,

0:05:11.209,0:05:15.747
y frecuentemente no nos percatamos[br]hasta que las consecuencias son evidentes.

0:05:16.242,0:05:18.322
He aquí un experimento que hice,

0:05:18.346,0:05:23.308
quería que la IA copiara colores[br]para inventar otros nuevos,

0:05:23.322,0:05:26.309
dada una lista como la de la izquierda.

0:05:26.798,0:05:29.802
Y esto es lo que la IA propuso:

0:05:29.826,0:05:32.969
[Caca de Sindis, Zurullo,[br]Sufrimiento, Gris púbico]

0:05:32.993,0:05:37.223
(Risas)

0:05:39.177,0:05:42.903
Técnicamente, hizo lo que le pedí.

0:05:42.975,0:05:46.283
Pensé que le estaba pidiendo[br]nombres apropiados para colores,

0:05:46.307,0:05:48.614
pero lo que verdaderamente le pedí[br]

0:05:48.638,0:05:53.404
es que imitase las combinaciones de letras[br]que había visto en la lista original.

0:05:53.677,0:05:59.265
No le dije lo que las palabras significan,[br]o que quizá haya ciertas palabras[br][br]

0:05:59.383,0:06:02.272
que debería evitar utilizar[br]en estos colores.

0:06:03.141,0:06:06.635
Todo su mundo se reduce a [br]la información que le proporcioné.

0:06:06.659,0:06:10.687
Como con los sabores de helado,[br]no sabe de ninguna otra cosa.

0:06:12.491,0:06:14.129
Es a través de la información

0:06:14.153,0:06:18.197
que con frecuencia decimos a la IA[br]accidentalmente que haga algo erróneo.

0:06:18.694,0:06:21.726
Este pez se llama tenca.

0:06:21.750,0:06:23.565
Había un grupo de investigadores

0:06:23.589,0:06:27.463
que entrenó a una IA para[br]identificar a esta tenca en imágenes.

0:06:27.487,0:06:31.983
Pero cuando le preguntaron qué parte de la[br]imagen utilizaba para identificar al pez,

0:06:32.257,0:06:33.615
esto es lo que destacó.

0:06:35.203,0:06:37.392
Son dedos humanos.

0:06:37.416,0:06:41.205
¿Por qué estaría buscando dedos humanos[br]si está intentando identificar un pez?

0:06:42.126,0:06:45.290
Resulta que la tenca es un pez trofeo,

0:06:45.314,0:06:50.275
y en muchas imágenes que la IA había[br]visto del pez durante su entrenamiento,

0:06:50.324,0:06:51.814
el pez aparecía así.

0:06:51.838,0:06:53.473
(Risas)

0:06:53.497,0:06:56.827
No sabía que los dedos[br]no son parte del pez.

0:06:58.808,0:07:02.928
Pueden ver por qué es tan[br]complicado diseñar una IA

0:07:02.952,0:07:06.271
que verdaderamente entienda[br]aquello que está viendo.

0:07:06.295,0:07:11.187
Por eso diseñar en coches autónomos el[br]reconocimiento de imágenes es tan difícil,

0:07:11.272,0:07:16.027
y muchos fallos de coches autónomos[br]se deben a que la IA se confundió.

0:07:16.410,0:07:20.418
Quiero hablar de un ejemplo de 2016.

0:07:20.442,0:07:24.897
Hubo un funesto accidente cuando alguien[br]usaba la IA de piloto automático de Tesla,

0:07:24.921,0:07:28.335
pero en lugar de hacerlo en la autopista[br]para la que estaba diseñada,

0:07:28.359,0:07:30.564
la usó en las vías urbanas.

0:07:31.239,0:07:36.084
Lo que sucedió fue que un camión condujo[br]frente al coche, y el coche no frenó.

0:07:36.507,0:07:41.269
La IA estaba entrenada para[br]reconocer camiones en las imágenes.

0:07:41.293,0:07:46.399
Pero al parecer la IA había sido entrenada[br]para reconocer camiones en la autopista,

0:07:46.417,0:07:49.316
donde esperarías verlos[br]desde la parte trasera.

0:07:49.340,0:07:52.760
Que los camiones se te crucen no es[br]algo que suceda en la autopista,

0:07:52.784,0:07:56.239
y cuando la IA vio a este camión,

0:07:56.263,0:08:01.090
parece que lo reconoció[br]como una señal de carretera,

0:08:01.114,0:08:03.627
y por tanto que la conducción[br]por debajo era segura.

0:08:04.114,0:08:06.694
Aquí tenemos una equivocación[br]de una IA en otra área.

0:08:06.718,0:08:10.178
Amazon tuvo que abandonar un[br]algoritmo de clasificación de currículums

0:08:10.202,0:08:11.312
en el que trabajaban

0:08:11.312,0:08:15.354
cuando descubrieron que el algoritmo había[br]aprendido a discriminar a las mujeres.

0:08:15.378,0:08:18.094
Lo que pasó fue que la habían[br]entrenado con currículums

0:08:18.118,0:08:20.360
de gente que habían[br]contratado en el pasado.

0:08:20.384,0:08:24.407
De estos ejemplos, la IA aprendió[br]a evitar currículums de personas

0:08:24.407,0:08:26.457
que hubieran ido a[br]universidades de mujeres,

0:08:26.481,0:08:29.287
o que contuvieran la palabra[br]"mujer" en su currículum,

0:08:29.311,0:08:33.887
como "equipo de fútbol de mujeres",[br]o "Sociedad de Mujeres Ingenieras".

0:08:33.911,0:08:37.885
La IA no sabía que no debía[br]copiar este modo de proceder

0:08:37.909,0:08:39.887
que había visto emplear a los humanos.

0:08:39.911,0:08:43.088
Y técnicamente, hizo lo[br]que se requería de ella.

0:08:43.112,0:08:46.159
Simplemente, de forma accidental[br]le solicitaron algo incorrecto.

0:08:46.653,0:08:49.548
Esto sucede constantemente con la IA.

0:08:50.120,0:08:53.711
La IA puede ser muy destructiva[br]sin tener conciencia de ello.

0:08:53.735,0:08:58.813
Las IAs que recomiendan nuevo[br]contenido en Facebook, o en Youtube,

0:08:58.837,0:09:02.376
están optimizadas para incrementar[br]el número de clics y visualizaciones.

0:09:02.400,0:09:05.836
Y desafortunadamente, una forma[br]que han encontrado de lograrlo

0:09:05.860,0:09:10.363
es recomendar contenido concerniente[br]a teorías conspiratorias o fanatismo.

0:09:10.902,0:09:16.204
Las IAs no tienen concepto alguno[br]de qué es realmente este contenido,

0:09:16.228,0:09:19.623
ni tienen un entendimiento[br]de las posibles consecuencias

0:09:19.647,0:09:21.756
de recomendar este contenido.

0:09:22.296,0:09:28.187
Al trabajar con IA, depende de nosotros[br]evitar los problemas.

0:09:28.537,0:09:34.830
Eludir estos errores puede depender[br]del viejo problema de la comunicación,

0:09:35.434,0:09:39.179
y que nosotros los humanos tengamos [br]que aprender a comunicarnos con la IA.

0:09:39.203,0:09:43.242
Tenemos que aprender lo que[br]la IA es capaz de hacer y lo que no,

0:09:43.266,0:09:46.352
y entender que, [br]con su pequeño cerebro de lombriz,

0:09:46.376,0:09:50.389
la IA no entiende verdaderamente[br]lo que le estamos pidiendo que haga.

0:09:51.148,0:09:54.469
En otras palabras, hemos de estar[br]preparados para trabajar con una IA

0:09:54.493,0:09:59.751
que no es la súper competente[br]sabelotodo de la ciencia ficción.

0:09:59.775,0:10:02.637
Hemos de estar preparados[br]para trabajar con la IA

0:10:02.661,0:10:05.599
que tenemos disponible en la actualidad.

0:10:05.623,0:10:09.828
Y la IA actual es ya lo bastante extraña.

0:10:09.852,0:10:11.042
Gracias.

0:10:11.066,0:10:16.291
(Aplausos)