1
00:00:01,765 --> 00:00:04,765
La inteligencia artificial

2
00:00:04,789 --> 00:00:08,318
es conocida por transformar
todo tipo de industrias.

3
00:00:08,961 --> 00:00:11,004
Pensemos en los helados.

4
00:00:11,879 --> 00:00:15,518
¿Qué alucinantes sabores
nuevos podríamos generar

5
00:00:15,542 --> 00:00:18,518
con el poder de una
inteligencia artificial avanzada?

6
00:00:19,011 --> 00:00:23,172
Me junté con un grupo de programadores
de la escuela secundaria Kealing

7
00:00:23,196 --> 00:00:25,437
para descubrir la
respuesta a esta pregunta.

8
00:00:25,461 --> 00:00:30,542
Reunieron más de 1600
sabores de helado existentes,

9
00:00:30,566 --> 00:00:36,088
y los introducimos en un algoritmo
para ver qué podría generar.

10
00:00:36,112 --> 00:00:39,865
Estos son algunos de
los sabores que la IA inventó.

11
00:00:40,444 --> 00:00:41,915
[Helado fétido de calabaza]

12
00:00:41,939 --> 00:00:43,341
(Risas)

13
00:00:43,365 --> 00:00:45,834
[Babas con mantequilla de cacahuete]

14
00:00:46,822 --> 00:00:48,165
[Cremosa dolencia de fresa]

15
00:00:48,189 --> 00:00:50,315
(Risas)

16
00:00:50,339 --> 00:00:54,936
Estos no son sabores deliciosos,
como quizá hubiésemos esperado.

17
00:00:54,960 --> 00:00:58,254
Luego la pregunta es: ¿Qué sucedió,
qué es lo que ha fallado?

18
00:00:58,266 --> 00:01:00,225
¿Intenta la IA acabar con nosotros?

19
00:01:01,027 --> 00:01:05,337
¿O intenta hacer lo que le
pedimos, y había un problema?

20
00:01:06,567 --> 00:01:09,031
En las películas, 
cuando algo falla con la IA,

21
00:01:09,055 --> 00:01:11,767
habitualmente se debe
a que la IA ha decidido

22
00:01:11,791 --> 00:01:14,063
que no quiere seguir
obedeciendo a los humanos,

23
00:01:14,087 --> 00:01:16,710
y tiene sus propios objetivos,
no iba ella a ser menos.

24
00:01:17,266 --> 00:01:22,322
En realidad, la IA que tenemos 
no es lo bastante inteligente para eso.

25
00:01:22,781 --> 00:01:29,503
Tiene la capacidad de cálculo aproximada
de una lombriz, o quizá de una sola abeja.

26
00:01:30,514 --> 00:01:32,729
Y de hecho, probablemente incluso menos.

27
00:01:32,729 --> 00:01:35,371
Aprendemos constantemente
cosas nuevas sobre el cerebro

28
00:01:35,371 --> 00:01:39,731
que evidencian el grado en que la IA
no es comparable a cerebros reales.

29
00:01:39,755 --> 00:01:45,418
La IA actual puede identificar
a un peatón en una imagen,

30
00:01:45,442 --> 00:01:48,425
pero no tiene un concepto
de lo que un peatón es,

31
00:01:48,449 --> 00:01:53,273
más allá de un agregado de
líneas, texturas y otras cosas.

32
00:01:53,792 --> 00:01:56,313
No sabe lo que un humano realmente es.

33
00:01:56,822 --> 00:02:00,104
¿Hará entonces la IA actual
aquello que le pedimos?

34
00:02:00,128 --> 00:02:04,432
Lo hará si puede, pero es posible
que no haga lo que queremos de ella.

35
00:02:04,496 --> 00:02:09,421
Digamos que Uds. intentaran que una IA
tomara esta colección de piezas de robot,

36
00:02:09,578 --> 00:02:13,775
y las ensamblara en un robot
para ir del punto A al punto B.

37
00:02:13,799 --> 00:02:18,550
Si intentamos solucionar este problema
con un programa tradicional de ordenador,

38
00:02:18,679 --> 00:02:23,306
daríamos al programa instrucciones
paso a paso de cómo tomar estas partes,

39
00:02:23,363 --> 00:02:28,940
cómo ensamblarlas en un robot con piernas,
y cómo caminar con ellas hasta el punto B.

40
00:02:29,171 --> 00:02:32,981
Pero cuando utilizamos IA para solucionar
el problema, se procede de otra manera.

41
00:02:33,003 --> 00:02:36,725
No se le enseña cómo resolver el problema,
únicamente se le da el objetivo,

42
00:02:36,912 --> 00:02:40,174
y tiene que lograrlo por sí misma
a través de ensayo y error

43
00:02:40,198 --> 00:02:41,682
para alcanzar ese objetivo.

44
00:02:42,254 --> 00:02:47,556
El modo en que la IA tiende a resolver 
este particular problema es el siguiente:

45
00:02:47,888 --> 00:02:51,255
Se ensambla en una torre,
y luego se deja caer

46
00:02:51,279 --> 00:02:53,106
para ir a parar al punto B.

47
00:02:53,130 --> 00:02:57,439
Y técnicamente, soluciona el problema.
Técnicamente, llegó al punto B.

48
00:02:57,646 --> 00:03:01,911
El peligro de la IA no es que
vaya a rebelarse contra nosotros,

49
00:03:01,935 --> 00:03:06,209
sino que hará exactamente
lo que le pidamos que haga.

50
00:03:06,656 --> 00:03:09,374
Luego el quid de la cuestión
al trabajar con IA pasa a ser

51
00:03:09,398 --> 00:03:13,226
cómo estructuramos el problema
para que haga lo que queremos.

52
00:03:14,726 --> 00:03:18,032
Este pequeño robot de aquí
está controlado por una IA.

53
00:03:18,056 --> 00:03:20,870
La IA ideó un diseño
para las piernas del robot,

54
00:03:20,894 --> 00:03:24,972
y luego averiguó cómo usarlas
para superar todos estos obstáculos.

55
00:03:24,996 --> 00:03:27,737
Pero cuando David Ha
preparó este experimento,

56
00:03:27,761 --> 00:03:30,617
tuvo que diseñarlo con
límites muy estrictos

57
00:03:30,641 --> 00:03:35,457
en cuanto al tamaño de piernas
permitido, porque de lo contrario...

58
00:03:43,058 --> 00:03:46,989
(Risas)

59
00:03:48,563 --> 00:03:52,308
Y técnicamente, logró completar
el recorrido de obstáculos.

60
00:03:52,332 --> 00:03:57,274
Pueden ver lo difícil que es para la IA
hacer algo tan sencillo como caminar.

61
00:03:57,298 --> 00:04:01,118
Viendo esto, quizá
pensemos que no es justo,

62
00:04:01,142 --> 00:04:03,722
no puede hacer una
torre y dejarse caer,

63
00:04:03,746 --> 00:04:07,181
tiene que usar piernas para caminar.

64
00:04:07,205 --> 00:04:09,964
Y resulta que eso
tampoco funciona siempre.

65
00:04:09,988 --> 00:04:12,747
La tarea de esta IA era
moverse con rapidez.

66
00:04:13,115 --> 00:04:16,708
No se le especificó que
tuviera que hacerlo de frente,

67
00:04:16,732 --> 00:04:18,990
o que no pudiera usar sus brazos.

68
00:04:19,487 --> 00:04:24,105
Esto es lo que se obtiene cuando
se entrena a la IA para moverse deprisa.

69
00:04:24,129 --> 00:04:27,663
Obtienes volteretas y andares cómicos.

70
00:04:27,687 --> 00:04:29,087
Es muy común.

71
00:04:29,667 --> 00:04:32,846
También lo es arrastrarse
por el suelo en un montón.

72
00:04:32,870 --> 00:04:34,020
(Risas)

73
00:04:35,241 --> 00:04:38,275
En mi opinión, lo que debería
haber sido mucho más extraño

74
00:04:38,275 --> 00:04:39,975
son los robots de "Terminator".

75
00:04:40,256 --> 00:04:44,011
Hackear "The Matrix" es otra cosa que
una IA hará si le das la oportunidad.

76
00:04:44,035 --> 00:04:46,552
Si entrenas a la IA en una simulación,


77
00:04:46,576 --> 00:04:50,689
aprenderá cómo hackear los errores
matemáticos de la simulación

78
00:04:50,713 --> 00:04:52,920
y utilizarlos para obtener energía.

79
00:04:52,944 --> 00:04:58,419
O averiguará cómo moverse más rápido
explotando fallos encontrados en el suelo.

80
00:04:58,443 --> 00:05:02,289
Cuando trabajas con IA no es como
si trabajaras con otro ser humano

81
00:05:02,465 --> 00:05:06,094
sino como hacerlo con
una fuerza extraña de la naturaleza.

82
00:05:06,562 --> 00:05:11,185
Es muy fácil dar accidentalmente a
la IA el problema erróneo que resolver,

83
00:05:11,209 --> 00:05:15,747
y frecuentemente no nos percatamos
hasta que las consecuencias son evidentes.

84
00:05:16,242 --> 00:05:18,322
He aquí un experimento que hice,

85
00:05:18,346 --> 00:05:23,308
quería que la IA copiara colores
para inventar otros nuevos,

86
00:05:23,322 --> 00:05:26,309
dada una lista como la de la izquierda.

87
00:05:26,798 --> 00:05:29,802
Y esto es lo que la IA propuso:

88
00:05:29,826 --> 00:05:32,969
[Caca de Sindis, Zurullo,
Sufrimiento, Gris púbico]

89
00:05:32,993 --> 00:05:37,223
(Risas)

90
00:05:39,177 --> 00:05:42,903
Técnicamente, hizo lo que le pedí.

91
00:05:42,975 --> 00:05:46,283
Pensé que le estaba pidiendo
nombres apropiados para colores,

92
00:05:46,307 --> 00:05:48,614
pero lo que verdaderamente le pedí


93
00:05:48,638 --> 00:05:53,404
es que imitase las combinaciones de letras
que había visto en la lista original.

94
00:05:53,677 --> 00:05:59,265
No le dije lo que las palabras significan,
o que quizá haya ciertas palabras



95
00:05:59,383 --> 00:06:02,272
que debería evitar utilizar
en estos colores.

96
00:06:03,141 --> 00:06:06,635
Todo su mundo se reduce a 
la información que le proporcioné.

97
00:06:06,659 --> 00:06:10,687
Como con los sabores de helado,
no sabe de ninguna otra cosa.

98
00:06:12,491 --> 00:06:14,129
Es a través de la información

99
00:06:14,153 --> 00:06:18,197
que con frecuencia decimos a la IA
accidentalmente que haga algo erróneo.

100
00:06:18,694 --> 00:06:21,726
Este pez se llama tenca.

101
00:06:21,750 --> 00:06:23,565
Había un grupo de investigadores

102
00:06:23,589 --> 00:06:27,463
que entrenó a una IA para
identificar a esta tenca en imágenes.

103
00:06:27,487 --> 00:06:31,983
Pero cuando le preguntaron qué parte de la
imagen utilizaba para identificar al pez,

104
00:06:32,257 --> 00:06:33,615
esto es lo que destacó.

105
00:06:35,203 --> 00:06:37,392
Son dedos humanos.

106
00:06:37,416 --> 00:06:41,205
¿Por qué estaría buscando dedos humanos
si está intentando identificar un pez?

107
00:06:42,126 --> 00:06:45,290
Resulta que la tenca es un pez trofeo,

108
00:06:45,314 --> 00:06:50,275
y en muchas imágenes que la IA había
visto del pez durante su entrenamiento,

109
00:06:50,324 --> 00:06:51,814
el pez aparecía así.

110
00:06:51,838 --> 00:06:53,473
(Risas)

111
00:06:53,497 --> 00:06:56,827
No sabía que los dedos
no son parte del pez.

112
00:06:58,808 --> 00:07:02,928
Pueden ver por qué es tan
complicado diseñar una IA

113
00:07:02,952 --> 00:07:06,271
que verdaderamente entienda
aquello que está viendo.

114
00:07:06,295 --> 00:07:11,187
Por eso diseñar en coches autónomos el
reconocimiento de imágenes es tan difícil,

115
00:07:11,272 --> 00:07:16,027
y muchos fallos de coches autónomos
se deben a que la IA se confundió.

116
00:07:16,410 --> 00:07:20,418
Quiero hablar de un ejemplo de 2016.

117
00:07:20,442 --> 00:07:24,897
Hubo un funesto accidente cuando alguien
usaba la IA de piloto automático de Tesla,

118
00:07:24,921 --> 00:07:28,335
pero en lugar de hacerlo en la autopista
para la que estaba diseñada,

119
00:07:28,359 --> 00:07:30,564
la usó en las vías urbanas.

120
00:07:31,239 --> 00:07:36,084
Lo que sucedió fue que un camión condujo
frente al coche, y el coche no frenó.

121
00:07:36,507 --> 00:07:41,269
La IA estaba entrenada para
reconocer camiones en las imágenes.

122
00:07:41,293 --> 00:07:46,399
Pero al parecer la IA había sido entrenada
para reconocer camiones en la autopista,

123
00:07:46,417 --> 00:07:49,316
donde esperarías verlos
desde la parte trasera.

124
00:07:49,340 --> 00:07:52,760
Que los camiones se te crucen no es
algo que suceda en la autopista,

125
00:07:52,784 --> 00:07:56,239
y cuando la IA vio a este camión,

126
00:07:56,263 --> 00:08:01,090
parece que lo reconoció
como una señal de carretera,

127
00:08:01,114 --> 00:08:03,627
y por tanto que la conducción
por debajo era segura.

128
00:08:04,114 --> 00:08:06,694
Aquí tenemos una equivocación
de una IA en otra área.

129
00:08:06,718 --> 00:08:10,178
Amazon tuvo que abandonar un
algoritmo de clasificación de currículums

130
00:08:10,202 --> 00:08:11,312
en el que trabajaban

131
00:08:11,312 --> 00:08:15,354
cuando descubrieron que el algoritmo había
aprendido a discriminar a las mujeres.

132
00:08:15,378 --> 00:08:18,094
Lo que pasó fue que la habían
entrenado con currículums

133
00:08:18,118 --> 00:08:20,360
de gente que habían
contratado en el pasado.

134
00:08:20,384 --> 00:08:24,407
De estos ejemplos, la IA aprendió
a evitar currículums de personas

135
00:08:24,407 --> 00:08:26,457
que hubieran ido a
universidades de mujeres,

136
00:08:26,481 --> 00:08:29,287
o que contuvieran la palabra
"mujer" en su currículum,

137
00:08:29,311 --> 00:08:33,887
como "equipo de fútbol de mujeres",
o "Sociedad de Mujeres Ingenieras".

138
00:08:33,911 --> 00:08:37,885
La IA no sabía que no debía
copiar este modo de proceder

139
00:08:37,909 --> 00:08:39,887
que había visto emplear a los humanos.

140
00:08:39,911 --> 00:08:43,088
Y técnicamente, hizo lo
que se requería de ella.

141
00:08:43,112 --> 00:08:46,159
Simplemente, de forma accidental
le solicitaron algo incorrecto.

142
00:08:46,653 --> 00:08:49,548
Esto sucede constantemente con la IA.

143
00:08:50,120 --> 00:08:53,711
La IA puede ser muy destructiva
sin tener conciencia de ello.

144
00:08:53,735 --> 00:08:58,813
Las IAs que recomiendan nuevo
contenido en Facebook, o en Youtube,

145
00:08:58,837 --> 00:09:02,376
están optimizadas para incrementar
el número de clics y visualizaciones.

146
00:09:02,400 --> 00:09:05,836
Y desafortunadamente, una forma
que han encontrado de lograrlo

147
00:09:05,860 --> 00:09:10,363
es recomendar contenido concerniente
a teorías conspiratorias o fanatismo.

148
00:09:10,902 --> 00:09:16,204
Las IAs no tienen concepto alguno
de qué es realmente este contenido,

149
00:09:16,228 --> 00:09:19,623
ni tienen un entendimiento
de las posibles consecuencias

150
00:09:19,647 --> 00:09:21,756
de recomendar este contenido.

151
00:09:22,296 --> 00:09:28,187
Al trabajar con IA, depende de nosotros
evitar los problemas.

152
00:09:28,537 --> 00:09:34,830
Eludir estos errores puede depender
del viejo problema de la comunicación,

153
00:09:35,434 --> 00:09:39,179
y que nosotros los humanos tengamos 
que aprender a comunicarnos con la IA.

154
00:09:39,203 --> 00:09:43,242
Tenemos que aprender lo que
la IA es capaz de hacer y lo que no,

155
00:09:43,266 --> 00:09:46,352
y entender que, 
con su pequeño cerebro de lombriz,

156
00:09:46,376 --> 00:09:50,389
la IA no entiende verdaderamente
lo que le estamos pidiendo que haga.

157
00:09:51,148 --> 00:09:54,469
En otras palabras, hemos de estar
preparados para trabajar con una IA

158
00:09:54,493 --> 00:09:59,751
que no es la súper competente
sabelotodo de la ciencia ficción.

159
00:09:59,775 --> 00:10:02,637
Hemos de estar preparados
para trabajar con la IA

160
00:10:02,661 --> 00:10:05,599
que tenemos disponible en la actualidad.

161
00:10:05,623 --> 00:10:09,828
Y la IA actual es ya lo bastante extraña.

162
00:10:09,852 --> 00:10:11,042
Gracias.

163
00:10:11,066 --> 00:10:16,291
(Aplausos)