-
La inteligencia artificial
-
es conocida por transformar
todo tipo de industrias.
-
Pensemos en los helados.
-
¿Qué alucinantes sabores
nuevos podríamos generar
-
con el poder de una
inteligencia artificial avanzada?
-
Me junté con un grupo de programadores
de la escuela secundaria Kealing
-
para descubrir la
respuesta a esta pregunta.
-
Reunieron más de 1600
sabores de helado existentes,
-
y los introducimos en un algoritmo
para ver qué podría generar.
-
Estos son algunos de
los sabores que la IA inventó.
-
[Helado fétido de calabaza]
-
(Risas)
-
[Babas con mantequilla de cacahuete]
-
[Cremosa dolencia de fresa]
-
(Risas)
-
Estos no son sabores deliciosos,
como quizá hubiésemos esperado.
-
Luego la pregunta es: ¿Qué sucedió,
qué es lo que ha fallado?
-
¿Intenta la IA acabar con nosotros?
-
¿O intenta hacer lo que le
pedimos, y había un problema?
-
En las películas,
cuando algo falla con la IA,
-
habitualmente se debe
a que la IA ha decidido
-
que no quiere seguir
obedeciendo a los humanos,
-
y tiene sus propios objetivos,
no iba ella a ser menos.
-
En realidad, la IA que tenemos
no es lo bastante inteligente para eso.
-
Tiene la capacidad de cálculo aproximada
de una lombriz, o quizá de una sola abeja.
-
Y de hecho, probablemente incluso menos.
-
Aprendemos constantemente
cosas nuevas sobre el cerebro
-
que evidencian el grado en que la IA
no es comparable a cerebros reales.
-
La IA actual puede identificar
a un peatón en una imagen,
-
pero no tiene un concepto
de lo que un peatón es,
-
más allá de un agregado de
líneas, texturas y otras cosas.
-
No sabe lo que un humano realmente es.
-
¿Hará entonces la IA actual
aquello que le pedimos?
-
Lo hará si puede, pero es posible
que no haga lo que queremos de ella.
-
Digamos que Uds. intentaran que una IA
tomara esta colección de piezas de robot,
-
y las ensamblara en un robot
para ir del punto A al punto B.
-
Si intentamos solucionar este problema
con un programa tradicional de ordenador,
-
daríamos al programa instrucciones
paso a paso de cómo tomar estas partes,
-
cómo ensamblarlas en un robot con piernas,
y cómo caminar con ellas hasta el punto B.
-
Pero cuando utilizamos IA para solucionar
el problema, se procede de otra manera.
-
No se le enseña cómo resolver el problema,
únicamente se le da el objetivo,
-
y tiene que lograrlo por sí misma
a través de ensayo y error
-
para alcanzar ese objetivo.
-
El modo en que la IA tiende a resolver
este particular problema es el siguiente:
-
Se ensambla en una torre,
y luego se deja caer
-
para ir a parar al punto B.
-
Y técnicamente, soluciona el problema.
Técnicamente, llegó al punto B.
-
El peligro de la IA no es que
vaya a rebelarse contra nosotros,
-
sino que hará exactamente
lo que le pidamos que haga.
-
Luego el quid de la cuestión
al trabajar con IA pasa a ser
-
cómo estructuramos el problema
para que haga lo que queremos.
-
Este pequeño robot de aquí
está controlado por una IA.
-
La IA ideó un diseño
para las piernas del robot,
-
y luego averiguó cómo usarlas
para superar todos estos obstáculos.
-
Pero cuando David Ha
preparó este experimento,
-
tuvo que diseñarlo con
límites muy estrictos
-
en cuanto al tamaño de piernas
permitido, porque de lo contrario...
-
(Risas)
-
Y técnicamente, logró completar
el recorrido de obstáculos.
-
Pueden ver lo difícil que es para la IA
hacer algo tan sencillo como caminar.
-
Viendo esto, quizá
pensemos que no es justo,
-
no puede hacer una
torre y dejarse caer,
-
tiene que usar piernas para caminar.
-
Y resulta que eso
tampoco funciona siempre.
-
La tarea de esta IA era
moverse con rapidez.
-
No se le especificó que
tuviera que hacerlo de frente,
-
o que no pudiera usar sus brazos.
-
Esto es lo que se obtiene cuando
se entrena a la IA para moverse deprisa.
-
Obtienes volteretas y andares cómicos.
-
Es muy común.
-
También lo es arrastrarse
por el suelo en un montón.
-
(Risas)
-
En mi opinión, lo que debería
haber sido mucho más extraño
-
son los robots de "Terminator".
-
Hackear "The Matrix" es otra cosa que
una IA hará si le das la oportunidad.
-
Si entrenas a la IA en una simulación,
-
aprenderá cómo hackear los errores
matemáticos de la simulación
-
y utilizarlos para obtener energía.
-
O averiguará cómo moverse más rápido
explotando fallos encontrados en el suelo.
-
Cuando trabajas con IA no es como
si trabajaras con otro ser humano
-
sino como hacerlo con
una fuerza extraña de la naturaleza.
-
Es muy fácil dar accidentalmente a
la IA el problema erróneo que resolver,
-
y frecuentemente no nos percatamos
hasta que las consecuencias son evidentes.
-
He aquí un experimento que hice,
-
quería que la IA copiara colores
para inventar otros nuevos,
-
dada una lista como la de la izquierda.
-
Y esto es lo que la IA propuso:
-
[Caca de Sindis, Zurullo,
Sufrimiento, Gris púbico]
-
(Risas)
-
Técnicamente, hizo lo que le pedí.
-
Pensé que le estaba pidiendo
nombres apropiados para colores,
-
pero lo que verdaderamente le pedí
-
es que imitase las combinaciones de letras
que había visto en la lista original.
-
No le dije lo que las palabras significan,
o que quizá haya ciertas palabras
-
que debería evitar utilizar
en estos colores.
-
Todo su mundo se reduce a
la información que le proporcioné.
-
Como con los sabores de helado,
no sabe de ninguna otra cosa.
-
Es a través de la información
-
que con frecuencia decimos a la IA
accidentalmente que haga algo erróneo.
-
Este pez se llama tenca.
-
Había un grupo de investigadores
-
que entrenó a una IA para
identificar a esta tenca en imágenes.
-
Pero cuando le preguntaron qué parte de la
imagen utilizaba para identificar al pez,
-
esto es lo que destacó.
-
Son dedos humanos.
-
¿Por qué estaría buscando dedos humanos
si está intentando identificar un pez?
-
Resulta que la tenca es un pez trofeo,
-
y en muchas imágenes que la IA había
visto del pez durante su entrenamiento,
-
el pez aparecía así.
-
(Risas)
-
No sabía que los dedos
no son parte del pez.
-
Pueden ver por qué es tan
complicado diseñar una IA
-
que verdaderamente entienda
aquello que está viendo.
-
Por eso diseñar en coches autónomos el
reconocimiento de imágenes es tan difícil,
-
y muchos fallos de coches autónomos
se deben a que la IA se confundió.
-
Quiero hablar de un ejemplo de 2016.
-
Hubo un funesto accidente cuando alguien
usaba la IA de piloto automático de Tesla,
-
pero en lugar de hacerlo en la autopista
para la que estaba diseñada,
-
la usó en las vías urbanas.
-
Lo que sucedió fue que un camión condujo
frente al coche, y el coche no frenó.
-
La IA estaba entrenada para
reconocer camiones en las imágenes.
-
Pero al parecer la IA había sido entrenada
para reconocer camiones en la autopista,
-
donde esperarías verlos
desde la parte trasera.
-
Que los camiones se te crucen no es
algo que suceda en la autopista,
-
y cuando la IA vio a este camión,
-
parece que lo reconoció
como una señal de carretera,
-
y por tanto que la conducción
por debajo era segura.
-
Aquí tenemos una equivocación
de una IA en otra área.
-
Amazon tuvo que abandonar un
algoritmo de clasificación de currículums
-
en el que trabajaban
-
cuando descubrieron que el algoritmo había
aprendido a discriminar a las mujeres.
-
Lo que pasó fue que la habían
entrenado con currículums
-
de gente que habían
contratado en el pasado.
-
De estos ejemplos, la IA aprendió
a evitar currículums de personas
-
que hubieran ido a
universidades de mujeres,
-
o que contuvieran la palabra
"mujer" en su currículum,
-
como "equipo de fútbol de mujeres",
o "Sociedad de Mujeres Ingenieras".
-
La IA no sabía que no debía
copiar este modo de proceder
-
que había visto emplear a los humanos.
-
Y técnicamente, hizo lo
que se requería de ella.
-
Simplemente, de forma accidental
le solicitaron algo incorrecto.
-
Esto sucede constantemente con la IA.
-
La IA puede ser muy destructiva
sin tener conciencia de ello.
-
Las IAs que recomiendan nuevo
contenido en Facebook, o en Youtube,
-
están optimizadas para incrementar
el número de clics y visualizaciones.
-
Y desafortunadamente, una forma
que han encontrado de lograrlo
-
es recomendar contenido concerniente
a teorías conspiratorias o fanatismo.
-
Las IAs no tienen concepto alguno
de qué es realmente este contenido,
-
ni tienen un entendimiento
de las posibles consecuencias
-
de recomendar este contenido.
-
Al trabajar con IA, depende de nosotros
evitar los problemas.
-
Eludir estos errores puede depender
del viejo problema de la comunicación,
-
y que nosotros los humanos tengamos
que aprender a comunicarnos con la IA.
-
Tenemos que aprender lo que
la IA es capaz de hacer y lo que no,
-
y entender que,
con su pequeño cerebro de lombriz,
-
la IA no entiende verdaderamente
lo que le estamos pidiendo que haga.
-
En otras palabras, hemos de estar
preparados para trabajar con una IA
-
que no es la súper competente
sabelotodo de la ciencia ficción.
-
Hemos de estar preparados
para trabajar con la IA
-
que tenemos disponible en la actualidad.
-
Y la IA actual es ya lo bastante extraña.
-
Gracias.
-
(Aplausos)
closed TED
