Return to Video

El peligro de la IA es más extraño de lo que piensas

  • 0:02 - 0:05
    La inteligencia artificial
  • 0:05 - 0:08
    es conocida por transformar
    todo tipo de industrias.
  • 0:09 - 0:11
    Pensemos en los helados.
  • 0:12 - 0:16
    ¿Qué alucinantes sabores
    nuevos podríamos generar
  • 0:16 - 0:19
    con el poder de una
    inteligencia artificial avanzada?
  • 0:19 - 0:23
    Me junté con un grupo de programadores
    de la escuela secundaria Kealing
  • 0:23 - 0:25
    para descubrir la
    respuesta a esta pregunta.
  • 0:25 - 0:31
    Reunieron más de 1600
    sabores de helado existentes,
  • 0:31 - 0:36
    y los introducimos en un algoritmo
    para ver qué podría generar.
  • 0:36 - 0:40
    Estos son algunos de
    los sabores que la IA inventó.
  • 0:40 - 0:42
    [Helado fétido de calabaza]
  • 0:42 - 0:43
    (Risas)
  • 0:43 - 0:46
    [Babas con mantequilla de cacahuete]
  • 0:47 - 0:48
    [Cremosa dolencia de fresa]
  • 0:48 - 0:50
    (Risas)
  • 0:50 - 0:55
    Estos no son sabores deliciosos,
    como quizá hubiésemos esperado.
  • 0:55 - 0:58
    Luego la pregunta es: ¿Qué sucedió,
    qué es lo que ha fallado?
  • 0:58 - 1:00
    ¿Intenta la IA acabar con nosotros?
  • 1:01 - 1:05
    ¿O intenta hacer lo que le
    pedimos, y había un problema?
  • 1:07 - 1:09
    En las películas,
    cuando algo falla con la IA,
  • 1:09 - 1:12
    habitualmente se debe
    a que la IA ha decidido
  • 1:12 - 1:14
    que no quiere seguir
    obedeciendo a los humanos,
  • 1:14 - 1:17
    y tiene sus propios objetivos,
    no iba ella a ser menos.
  • 1:17 - 1:22
    En realidad, la IA que tenemos
    no es lo bastante inteligente para eso.
  • 1:23 - 1:30
    Tiene la capacidad de cálculo aproximada
    de una lombriz, o quizá de una sola abeja.
  • 1:31 - 1:33
    Y de hecho, probablemente incluso menos.
  • 1:33 - 1:35
    Aprendemos constantemente
    cosas nuevas sobre el cerebro
  • 1:35 - 1:40
    que evidencian el grado en que la IA
    no es comparable a cerebros reales.
  • 1:40 - 1:45
    La IA actual puede identificar
    a un peatón en una imagen,
  • 1:45 - 1:48
    pero no tiene un concepto
    de lo que un peatón es,
  • 1:48 - 1:53
    más allá de un agregado de
    líneas, texturas y otras cosas.
  • 1:54 - 1:56
    No sabe lo que un humano realmente es.
  • 1:57 - 2:00
    ¿Hará entonces la IA actual
    aquello que le pedimos?
  • 2:00 - 2:04
    Lo hará si puede, pero es posible
    que no haga lo que queremos de ella.
  • 2:04 - 2:09
    Digamos que Uds. intentaran que una IA
    tomara esta colección de piezas de robot,
  • 2:10 - 2:14
    y las ensamblara en un robot
    para ir del punto A al punto B.
  • 2:14 - 2:19
    Si intentamos solucionar este problema
    con un programa tradicional de ordenador,
  • 2:19 - 2:23
    daríamos al programa instrucciones
    paso a paso de cómo tomar estas partes,
  • 2:23 - 2:29
    cómo ensamblarlas en un robot con piernas,
    y cómo caminar con ellas hasta el punto B.
  • 2:29 - 2:33
    Pero cuando utilizamos IA para solucionar
    el problema, se procede de otra manera.
  • 2:33 - 2:37
    No se le enseña cómo resolver el problema,
    únicamente se le da el objetivo,
  • 2:37 - 2:40
    y tiene que lograrlo por sí misma
    a través de ensayo y error
  • 2:40 - 2:42
    para alcanzar ese objetivo.
  • 2:42 - 2:48
    El modo en que la IA tiende a resolver
    este particular problema es el siguiente:
  • 2:48 - 2:51
    Se ensambla en una torre,
    y luego se deja caer
  • 2:51 - 2:53
    para ir a parar al punto B.
  • 2:53 - 2:57
    Y técnicamente, soluciona el problema.
    Técnicamente, llegó al punto B.
  • 2:58 - 3:02
    El peligro de la IA no es que
    vaya a rebelarse contra nosotros,
  • 3:02 - 3:06
    sino que hará exactamente
    lo que le pidamos que haga.
  • 3:07 - 3:09
    Luego el quid de la cuestión
    al trabajar con IA pasa a ser
  • 3:09 - 3:13
    cómo estructuramos el problema
    para que haga lo que queremos.
  • 3:15 - 3:18
    Este pequeño robot de aquí
    está controlado por una IA.
  • 3:18 - 3:21
    La IA ideó un diseño
    para las piernas del robot,
  • 3:21 - 3:25
    y luego averiguó cómo usarlas
    para superar todos estos obstáculos.
  • 3:25 - 3:28
    Pero cuando David Ha
    preparó este experimento,
  • 3:28 - 3:31
    tuvo que diseñarlo con
    límites muy estrictos
  • 3:31 - 3:35
    en cuanto al tamaño de piernas
    permitido, porque de lo contrario...
  • 3:43 - 3:47
    (Risas)
  • 3:49 - 3:52
    Y técnicamente, logró completar
    el recorrido de obstáculos.
  • 3:52 - 3:57
    Pueden ver lo difícil que es para la IA
    hacer algo tan sencillo como caminar.
  • 3:57 - 4:01
    Viendo esto, quizá
    pensemos que no es justo,
  • 4:01 - 4:04
    no puede hacer una
    torre y dejarse caer,
  • 4:04 - 4:07
    tiene que usar piernas para caminar.
  • 4:07 - 4:10
    Y resulta que eso
    tampoco funciona siempre.
  • 4:10 - 4:13
    La tarea de esta IA era
    moverse con rapidez.
  • 4:13 - 4:17
    No se le especificó que
    tuviera que hacerlo de frente,
  • 4:17 - 4:19
    o que no pudiera usar sus brazos.
  • 4:19 - 4:24
    Esto es lo que se obtiene cuando
    se entrena a la IA para moverse deprisa.
  • 4:24 - 4:28
    Obtienes volteretas y andares cómicos.
  • 4:28 - 4:29
    Es muy común.
  • 4:30 - 4:33
    También lo es arrastrarse
    por el suelo en un montón.
  • 4:33 - 4:34
    (Risas)
  • 4:35 - 4:38
    En mi opinión, lo que debería
    haber sido mucho más extraño
  • 4:38 - 4:40
    son los robots de "Terminator".
  • 4:40 - 4:44
    Hackear "The Matrix" es otra cosa que
    una IA hará si le das la oportunidad.
  • 4:44 - 4:47
    Si entrenas a la IA en una simulación,
  • 4:47 - 4:51
    aprenderá cómo hackear los errores
    matemáticos de la simulación
  • 4:51 - 4:53
    y utilizarlos para obtener energía.
  • 4:53 - 4:58
    O averiguará cómo moverse más rápido
    explotando fallos encontrados en el suelo.
  • 4:58 - 5:02
    Cuando trabajas con IA no es como
    si trabajaras con otro ser humano
  • 5:02 - 5:06
    sino como hacerlo con
    una fuerza extraña de la naturaleza.
  • 5:07 - 5:11
    Es muy fácil dar accidentalmente a
    la IA el problema erróneo que resolver,
  • 5:11 - 5:16
    y frecuentemente no nos percatamos
    hasta que las consecuencias son evidentes.
  • 5:16 - 5:18
    He aquí un experimento que hice,
  • 5:18 - 5:23
    quería que la IA copiara colores
    para inventar otros nuevos,
  • 5:23 - 5:26
    dada una lista como la de la izquierda.
  • 5:27 - 5:30
    Y esto es lo que la IA propuso:
  • 5:30 - 5:33
    [Caca de Sindis, Zurullo,
    Sufrimiento, Gris púbico]
  • 5:33 - 5:37
    (Risas)
  • 5:39 - 5:43
    Técnicamente, hizo lo que le pedí.
  • 5:43 - 5:46
    Pensé que le estaba pidiendo
    nombres apropiados para colores,
  • 5:46 - 5:49
    pero lo que verdaderamente le pedí
  • 5:49 - 5:53
    es que imitase las combinaciones de letras
    que había visto en la lista original.
  • 5:54 - 5:59
    No le dije lo que las palabras significan,
    o que quizá haya ciertas palabras

  • 5:59 - 6:02
    que debería evitar utilizar
    en estos colores.
  • 6:03 - 6:07
    Todo su mundo se reduce a
    la información que le proporcioné.
  • 6:07 - 6:11
    Como con los sabores de helado,
    no sabe de ninguna otra cosa.
  • 6:12 - 6:14
    Es a través de la información
  • 6:14 - 6:18
    que con frecuencia decimos a la IA
    accidentalmente que haga algo erróneo.
  • 6:19 - 6:22
    Este pez se llama tenca.
  • 6:22 - 6:24
    Había un grupo de investigadores
  • 6:24 - 6:27
    que entrenó a una IA para
    identificar a esta tenca en imágenes.
  • 6:27 - 6:32
    Pero cuando le preguntaron qué parte de la
    imagen utilizaba para identificar al pez,
  • 6:32 - 6:34
    esto es lo que destacó.
  • 6:35 - 6:37
    Son dedos humanos.
  • 6:37 - 6:41
    ¿Por qué estaría buscando dedos humanos
    si está intentando identificar un pez?
  • 6:42 - 6:45
    Resulta que la tenca es un pez trofeo,
  • 6:45 - 6:50
    y en muchas imágenes que la IA había
    visto del pez durante su entrenamiento,
  • 6:50 - 6:52
    el pez aparecía así.
  • 6:52 - 6:53
    (Risas)
  • 6:53 - 6:57
    No sabía que los dedos
    no son parte del pez.
  • 6:59 - 7:03
    Pueden ver por qué es tan
    complicado diseñar una IA
  • 7:03 - 7:06
    que verdaderamente entienda
    aquello que está viendo.
  • 7:06 - 7:11
    Por eso diseñar en coches autónomos el
    reconocimiento de imágenes es tan difícil,
  • 7:11 - 7:16
    y muchos fallos de coches autónomos
    se deben a que la IA se confundió.
  • 7:16 - 7:20
    Quiero hablar de un ejemplo de 2016.
  • 7:20 - 7:25
    Hubo un funesto accidente cuando alguien
    usaba la IA de piloto automático de Tesla,
  • 7:25 - 7:28
    pero en lugar de hacerlo en la autopista
    para la que estaba diseñada,
  • 7:28 - 7:31
    la usó en las vías urbanas.
  • 7:31 - 7:36
    Lo que sucedió fue que un camión condujo
    frente al coche, y el coche no frenó.
  • 7:37 - 7:41
    La IA estaba entrenada para
    reconocer camiones en las imágenes.
  • 7:41 - 7:46
    Pero al parecer la IA había sido entrenada
    para reconocer camiones en la autopista,
  • 7:46 - 7:49
    donde esperarías verlos
    desde la parte trasera.
  • 7:49 - 7:53
    Que los camiones se te crucen no es
    algo que suceda en la autopista,
  • 7:53 - 7:56
    y cuando la IA vio a este camión,
  • 7:56 - 8:01
    parece que lo reconoció
    como una señal de carretera,
  • 8:01 - 8:04
    y por tanto que la conducción
    por debajo era segura.
  • 8:04 - 8:07
    Aquí tenemos una equivocación
    de una IA en otra área.
  • 8:07 - 8:10
    Amazon tuvo que abandonar un
    algoritmo de clasificación de currículums
  • 8:10 - 8:11
    en el que trabajaban
  • 8:11 - 8:15
    cuando descubrieron que el algoritmo había
    aprendido a discriminar a las mujeres.
  • 8:15 - 8:18
    Lo que pasó fue que la habían
    entrenado con currículums
  • 8:18 - 8:20
    de gente que habían
    contratado en el pasado.
  • 8:20 - 8:24
    De estos ejemplos, la IA aprendió
    a evitar currículums de personas
  • 8:24 - 8:26
    que hubieran ido a
    universidades de mujeres,
  • 8:26 - 8:29
    o que contuvieran la palabra
    "mujer" en su currículum,
  • 8:29 - 8:34
    como "equipo de fútbol de mujeres",
    o "Sociedad de Mujeres Ingenieras".
  • 8:34 - 8:38
    La IA no sabía que no debía
    copiar este modo de proceder
  • 8:38 - 8:40
    que había visto emplear a los humanos.
  • 8:40 - 8:43
    Y técnicamente, hizo lo
    que se requería de ella.
  • 8:43 - 8:46
    Simplemente, de forma accidental
    le solicitaron algo incorrecto.
  • 8:47 - 8:50
    Esto sucede constantemente con la IA.
  • 8:50 - 8:54
    La IA puede ser muy destructiva
    sin tener conciencia de ello.
  • 8:54 - 8:59
    Las IAs que recomiendan nuevo
    contenido en Facebook, o en Youtube,
  • 8:59 - 9:02
    están optimizadas para incrementar
    el número de clics y visualizaciones.
  • 9:02 - 9:06
    Y desafortunadamente, una forma
    que han encontrado de lograrlo
  • 9:06 - 9:10
    es recomendar contenido concerniente
    a teorías conspiratorias o fanatismo.
  • 9:11 - 9:16
    Las IAs no tienen concepto alguno
    de qué es realmente este contenido,
  • 9:16 - 9:20
    ni tienen un entendimiento
    de las posibles consecuencias
  • 9:20 - 9:22
    de recomendar este contenido.
  • 9:22 - 9:28
    Al trabajar con IA, depende de nosotros
    evitar los problemas.
  • 9:29 - 9:35
    Eludir estos errores puede depender
    del viejo problema de la comunicación,
  • 9:35 - 9:39
    y que nosotros los humanos tengamos
    que aprender a comunicarnos con la IA.
  • 9:39 - 9:43
    Tenemos que aprender lo que
    la IA es capaz de hacer y lo que no,
  • 9:43 - 9:46
    y entender que,
    con su pequeño cerebro de lombriz,
  • 9:46 - 9:50
    la IA no entiende verdaderamente
    lo que le estamos pidiendo que haga.
  • 9:51 - 9:54
    En otras palabras, hemos de estar
    preparados para trabajar con una IA
  • 9:54 - 10:00
    que no es la súper competente
    sabelotodo de la ciencia ficción.
  • 10:00 - 10:03
    Hemos de estar preparados
    para trabajar con la IA
  • 10:03 - 10:06
    que tenemos disponible en la actualidad.
  • 10:06 - 10:10
    Y la IA actual es ya lo bastante extraña.
  • 10:10 - 10:11
    Gracias.
  • 10:11 - 10:16
    (Aplausos)
Title:
El peligro de la IA es más extraño de lo que piensas
Speaker:
Janelle Shane
Description:

El peligro de la inteligencia artificial no es que se vaya a rebelar contra nosotros, sino que hará exactamente lo que le pidamos que haga, dice la investigadora de inteligencia artificial Janelle Shane. Compartiendo las extrañas, y ocasionalmente alarmantes travesuras de los algoritmos de IA mientras intentan resolver los problemas humanos —como crear nuevos sabores de helado, o reconocer coches en la carretera— Shane muestra por qué la IA no es aún comparable a los cerebros reales.

more » « less
Video Language:
English
Team:
TED
Project:
TEDTalks
Duration:
10:28

Spanish subtitles

Revisions