El peligro de la IA es más extraño de lo que piensas
-
0:02 - 0:05La inteligencia artificial
-
0:05 - 0:08es conocida por transformar
todo tipo de industrias. -
0:09 - 0:11Pensemos en los helados.
-
0:12 - 0:16¿Qué alucinantes sabores
nuevos podríamos generar -
0:16 - 0:19con el poder de una
inteligencia artificial avanzada? -
0:19 - 0:23Me junté con un grupo de programadores
de la escuela secundaria Kealing -
0:23 - 0:25para descubrir la
respuesta a esta pregunta. -
0:25 - 0:31Reunieron más de 1600
sabores de helado existentes, -
0:31 - 0:36y los introducimos en un algoritmo
para ver qué podría generar. -
0:36 - 0:40Estos son algunos de
los sabores que la IA inventó. -
0:40 - 0:42[Helado fétido de calabaza]
-
0:42 - 0:43(Risas)
-
0:43 - 0:46[Babas con mantequilla de cacahuete]
-
0:47 - 0:48[Cremosa dolencia de fresa]
-
0:48 - 0:50(Risas)
-
0:50 - 0:55Estos no son sabores deliciosos,
como quizá hubiésemos esperado. -
0:55 - 0:58Luego la pregunta es: ¿Qué sucedió,
qué es lo que ha fallado? -
0:58 - 1:00¿Intenta la IA acabar con nosotros?
-
1:01 - 1:05¿O intenta hacer lo que le
pedimos, y había un problema? -
1:07 - 1:09En las películas,
cuando algo falla con la IA, -
1:09 - 1:12habitualmente se debe
a que la IA ha decidido -
1:12 - 1:14que no quiere seguir
obedeciendo a los humanos, -
1:14 - 1:17y tiene sus propios objetivos,
no iba ella a ser menos. -
1:17 - 1:22En realidad, la IA que tenemos
no es lo bastante inteligente para eso. -
1:23 - 1:30Tiene la capacidad de cálculo aproximada
de una lombriz, o quizá de una sola abeja. -
1:31 - 1:33Y de hecho, probablemente incluso menos.
-
1:33 - 1:35Aprendemos constantemente
cosas nuevas sobre el cerebro -
1:35 - 1:40que evidencian el grado en que la IA
no es comparable a cerebros reales. -
1:40 - 1:45La IA actual puede identificar
a un peatón en una imagen, -
1:45 - 1:48pero no tiene un concepto
de lo que un peatón es, -
1:48 - 1:53más allá de un agregado de
líneas, texturas y otras cosas. -
1:54 - 1:56No sabe lo que un humano realmente es.
-
1:57 - 2:00¿Hará entonces la IA actual
aquello que le pedimos? -
2:00 - 2:04Lo hará si puede, pero es posible
que no haga lo que queremos de ella. -
2:04 - 2:09Digamos que Uds. intentaran que una IA
tomara esta colección de piezas de robot, -
2:10 - 2:14y las ensamblara en un robot
para ir del punto A al punto B. -
2:14 - 2:19Si intentamos solucionar este problema
con un programa tradicional de ordenador, -
2:19 - 2:23daríamos al programa instrucciones
paso a paso de cómo tomar estas partes, -
2:23 - 2:29cómo ensamblarlas en un robot con piernas,
y cómo caminar con ellas hasta el punto B. -
2:29 - 2:33Pero cuando utilizamos IA para solucionar
el problema, se procede de otra manera. -
2:33 - 2:37No se le enseña cómo resolver el problema,
únicamente se le da el objetivo, -
2:37 - 2:40y tiene que lograrlo por sí misma
a través de ensayo y error -
2:40 - 2:42para alcanzar ese objetivo.
-
2:42 - 2:48El modo en que la IA tiende a resolver
este particular problema es el siguiente: -
2:48 - 2:51Se ensambla en una torre,
y luego se deja caer -
2:51 - 2:53para ir a parar al punto B.
-
2:53 - 2:57Y técnicamente, soluciona el problema.
Técnicamente, llegó al punto B. -
2:58 - 3:02El peligro de la IA no es que
vaya a rebelarse contra nosotros, -
3:02 - 3:06sino que hará exactamente
lo que le pidamos que haga. -
3:07 - 3:09Luego el quid de la cuestión
al trabajar con IA pasa a ser -
3:09 - 3:13cómo estructuramos el problema
para que haga lo que queremos. -
3:15 - 3:18Este pequeño robot de aquí
está controlado por una IA. -
3:18 - 3:21La IA ideó un diseño
para las piernas del robot, -
3:21 - 3:25y luego averiguó cómo usarlas
para superar todos estos obstáculos. -
3:25 - 3:28Pero cuando David Ha
preparó este experimento, -
3:28 - 3:31tuvo que diseñarlo con
límites muy estrictos -
3:31 - 3:35en cuanto al tamaño de piernas
permitido, porque de lo contrario... -
3:43 - 3:47(Risas)
-
3:49 - 3:52Y técnicamente, logró completar
el recorrido de obstáculos. -
3:52 - 3:57Pueden ver lo difícil que es para la IA
hacer algo tan sencillo como caminar. -
3:57 - 4:01Viendo esto, quizá
pensemos que no es justo, -
4:01 - 4:04no puede hacer una
torre y dejarse caer, -
4:04 - 4:07tiene que usar piernas para caminar.
-
4:07 - 4:10Y resulta que eso
tampoco funciona siempre. -
4:10 - 4:13La tarea de esta IA era
moverse con rapidez. -
4:13 - 4:17No se le especificó que
tuviera que hacerlo de frente, -
4:17 - 4:19o que no pudiera usar sus brazos.
-
4:19 - 4:24Esto es lo que se obtiene cuando
se entrena a la IA para moverse deprisa. -
4:24 - 4:28Obtienes volteretas y andares cómicos.
-
4:28 - 4:29Es muy común.
-
4:30 - 4:33También lo es arrastrarse
por el suelo en un montón. -
4:33 - 4:34(Risas)
-
4:35 - 4:38En mi opinión, lo que debería
haber sido mucho más extraño -
4:38 - 4:40son los robots de "Terminator".
-
4:40 - 4:44Hackear "The Matrix" es otra cosa que
una IA hará si le das la oportunidad. -
4:44 - 4:47Si entrenas a la IA en una simulación,
-
4:47 - 4:51aprenderá cómo hackear los errores
matemáticos de la simulación -
4:51 - 4:53y utilizarlos para obtener energía.
-
4:53 - 4:58O averiguará cómo moverse más rápido
explotando fallos encontrados en el suelo. -
4:58 - 5:02Cuando trabajas con IA no es como
si trabajaras con otro ser humano -
5:02 - 5:06sino como hacerlo con
una fuerza extraña de la naturaleza. -
5:07 - 5:11Es muy fácil dar accidentalmente a
la IA el problema erróneo que resolver, -
5:11 - 5:16y frecuentemente no nos percatamos
hasta que las consecuencias son evidentes. -
5:16 - 5:18He aquí un experimento que hice,
-
5:18 - 5:23quería que la IA copiara colores
para inventar otros nuevos, -
5:23 - 5:26dada una lista como la de la izquierda.
-
5:27 - 5:30Y esto es lo que la IA propuso:
-
5:30 - 5:33[Caca de Sindis, Zurullo,
Sufrimiento, Gris púbico] -
5:33 - 5:37(Risas)
-
5:39 - 5:43Técnicamente, hizo lo que le pedí.
-
5:43 - 5:46Pensé que le estaba pidiendo
nombres apropiados para colores, -
5:46 - 5:49pero lo que verdaderamente le pedí
-
5:49 - 5:53es que imitase las combinaciones de letras
que había visto en la lista original. -
5:54 - 5:59No le dije lo que las palabras significan,
o que quizá haya ciertas palabras -
5:59 - 6:02que debería evitar utilizar
en estos colores. -
6:03 - 6:07Todo su mundo se reduce a
la información que le proporcioné. -
6:07 - 6:11Como con los sabores de helado,
no sabe de ninguna otra cosa. -
6:12 - 6:14Es a través de la información
-
6:14 - 6:18que con frecuencia decimos a la IA
accidentalmente que haga algo erróneo. -
6:19 - 6:22Este pez se llama tenca.
-
6:22 - 6:24Había un grupo de investigadores
-
6:24 - 6:27que entrenó a una IA para
identificar a esta tenca en imágenes. -
6:27 - 6:32Pero cuando le preguntaron qué parte de la
imagen utilizaba para identificar al pez, -
6:32 - 6:34esto es lo que destacó.
-
6:35 - 6:37Son dedos humanos.
-
6:37 - 6:41¿Por qué estaría buscando dedos humanos
si está intentando identificar un pez? -
6:42 - 6:45Resulta que la tenca es un pez trofeo,
-
6:45 - 6:50y en muchas imágenes que la IA había
visto del pez durante su entrenamiento, -
6:50 - 6:52el pez aparecía así.
-
6:52 - 6:53(Risas)
-
6:53 - 6:57No sabía que los dedos
no son parte del pez. -
6:59 - 7:03Pueden ver por qué es tan
complicado diseñar una IA -
7:03 - 7:06que verdaderamente entienda
aquello que está viendo. -
7:06 - 7:11Por eso diseñar en coches autónomos el
reconocimiento de imágenes es tan difícil, -
7:11 - 7:16y muchos fallos de coches autónomos
se deben a que la IA se confundió. -
7:16 - 7:20Quiero hablar de un ejemplo de 2016.
-
7:20 - 7:25Hubo un funesto accidente cuando alguien
usaba la IA de piloto automático de Tesla, -
7:25 - 7:28pero en lugar de hacerlo en la autopista
para la que estaba diseñada, -
7:28 - 7:31la usó en las vías urbanas.
-
7:31 - 7:36Lo que sucedió fue que un camión condujo
frente al coche, y el coche no frenó. -
7:37 - 7:41La IA estaba entrenada para
reconocer camiones en las imágenes. -
7:41 - 7:46Pero al parecer la IA había sido entrenada
para reconocer camiones en la autopista, -
7:46 - 7:49donde esperarías verlos
desde la parte trasera. -
7:49 - 7:53Que los camiones se te crucen no es
algo que suceda en la autopista, -
7:53 - 7:56y cuando la IA vio a este camión,
-
7:56 - 8:01parece que lo reconoció
como una señal de carretera, -
8:01 - 8:04y por tanto que la conducción
por debajo era segura. -
8:04 - 8:07Aquí tenemos una equivocación
de una IA en otra área. -
8:07 - 8:10Amazon tuvo que abandonar un
algoritmo de clasificación de currículums -
8:10 - 8:11en el que trabajaban
-
8:11 - 8:15cuando descubrieron que el algoritmo había
aprendido a discriminar a las mujeres. -
8:15 - 8:18Lo que pasó fue que la habían
entrenado con currículums -
8:18 - 8:20de gente que habían
contratado en el pasado. -
8:20 - 8:24De estos ejemplos, la IA aprendió
a evitar currículums de personas -
8:24 - 8:26que hubieran ido a
universidades de mujeres, -
8:26 - 8:29o que contuvieran la palabra
"mujer" en su currículum, -
8:29 - 8:34como "equipo de fútbol de mujeres",
o "Sociedad de Mujeres Ingenieras". -
8:34 - 8:38La IA no sabía que no debía
copiar este modo de proceder -
8:38 - 8:40que había visto emplear a los humanos.
-
8:40 - 8:43Y técnicamente, hizo lo
que se requería de ella. -
8:43 - 8:46Simplemente, de forma accidental
le solicitaron algo incorrecto. -
8:47 - 8:50Esto sucede constantemente con la IA.
-
8:50 - 8:54La IA puede ser muy destructiva
sin tener conciencia de ello. -
8:54 - 8:59Las IAs que recomiendan nuevo
contenido en Facebook, o en Youtube, -
8:59 - 9:02están optimizadas para incrementar
el número de clics y visualizaciones. -
9:02 - 9:06Y desafortunadamente, una forma
que han encontrado de lograrlo -
9:06 - 9:10es recomendar contenido concerniente
a teorías conspiratorias o fanatismo. -
9:11 - 9:16Las IAs no tienen concepto alguno
de qué es realmente este contenido, -
9:16 - 9:20ni tienen un entendimiento
de las posibles consecuencias -
9:20 - 9:22de recomendar este contenido.
-
9:22 - 9:28Al trabajar con IA, depende de nosotros
evitar los problemas. -
9:29 - 9:35Eludir estos errores puede depender
del viejo problema de la comunicación, -
9:35 - 9:39y que nosotros los humanos tengamos
que aprender a comunicarnos con la IA. -
9:39 - 9:43Tenemos que aprender lo que
la IA es capaz de hacer y lo que no, -
9:43 - 9:46y entender que,
con su pequeño cerebro de lombriz, -
9:46 - 9:50la IA no entiende verdaderamente
lo que le estamos pidiendo que haga. -
9:51 - 9:54En otras palabras, hemos de estar
preparados para trabajar con una IA -
9:54 - 10:00que no es la súper competente
sabelotodo de la ciencia ficción. -
10:00 - 10:03Hemos de estar preparados
para trabajar con la IA -
10:03 - 10:06que tenemos disponible en la actualidad.
-
10:06 - 10:10Y la IA actual es ya lo bastante extraña.
-
10:10 - 10:11Gracias.
-
10:11 - 10:16(Aplausos)
- Title:
- El peligro de la IA es más extraño de lo que piensas
- Speaker:
- Janelle Shane
- Description:
-
El peligro de la inteligencia artificial no es que se vaya a rebelar contra nosotros, sino que hará exactamente lo que le pidamos que haga, dice la investigadora de inteligencia artificial Janelle Shane. Compartiendo las extrañas, y ocasionalmente alarmantes travesuras de los algoritmos de IA mientras intentan resolver los problemas humanos —como crear nuevos sabores de helado, o reconocer coches en la carretera— Shane muestra por qué la IA no es aún comparable a los cerebros reales.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Jenny Lam approved Spanish subtitles for The danger of AI is weirder than you think | ||
Jenny Lam edited Spanish subtitles for The danger of AI is weirder than you think | ||
Jenny Lam edited Spanish subtitles for The danger of AI is weirder than you think | ||
Jenny Lam edited Spanish subtitles for The danger of AI is weirder than you think | ||
Eduardo Sierra accepted Spanish subtitles for The danger of AI is weirder than you think | ||
Eduardo Sierra edited Spanish subtitles for The danger of AI is weirder than you think | ||
Eduardo Sierra edited Spanish subtitles for The danger of AI is weirder than you think | ||
Eduardo Sierra edited Spanish subtitles for The danger of AI is weirder than you think |