Encuentro de traductores | Daniel Suárez | TEDGlobal 2013

En la sesión TED Found in Translation después de su charla, Daniel explora el tema de los robots asesinos con mayor detalle con un panel mundial de traductores TED.

Buenas tardes a todos.
Soy Doug Chilcott de TED.

Bienvenidos a TED Global
aquí en el salón de Traducción Abierta.

Hoy contamos con Daniel Suárez, quien
acaba de dejar el escenario hace minutos

con una charla bastante alarmante
y ha dejado a muchas personas temblando

y yo tengo un montón de preguntas.

Así que volveremos contigo
en cualquier momento.

También con nosotros en el escenario
están Irteza de Pakistán,

Hugo de Francia,

Els de Bélgica,

y Krystian de Polonia.

Y a través de Skype,
a toda hora, día y noche,

Lazaros desde Grecia,

Anja desde Eslovenia,

Alberto desde Italia,

and Yasushi, en Japón,
donde actualmente es de medianoche.

Gracias por estar con nosotros.

Les arrojaré la pelota a ustedes.

Krystian, tenías una pregunta
acerca del uso de la ficción.

- Sí.

Me estaba preguntando si, dado que
su charla es un cuento con moraleja,

pero su novela fue probablemente
no entendida como una.

Pero, ¿es este el ángulo en el que
tenemos que tener cuidado que esto

crezca fuera de su investigación,

o fue su novela también entendida
como algo para [prevenir]?

- Realmente hago cuentos con moraleja.
Algunas personas piensan que

a los escritores de suspenso
les gusta ser agoreros.

Pero no es así, realmente.
Me encanta la tecnología.

Pasé casi 20 años
diseñando software.

Trato de pensar en ella como la detección de
icebergs en lugar de ser un agorero.

Eso no quiere decir que no van a ir
a ninguna parte, significa que

tendrías que girar a la derecha
o izquierda para sortear obstáculos.

Pienso que existe una manera en que
podemos navegar a través de esto

y llegar a un lugar aún mejor
del que estamos ahora.

Debemos prestar atención al terreno,
eso es todo.

Eso es realmente lo que intento hacer.

Un cuento con moraleja es, probablemente,
una descripción perfecta de ello.

- Irteza de Pakistán,
estuvimos hablando antes sobre los drones

que formaron parte de la última campaña
política en Pakistán.

¿Podría hablarnos de la realidad
de los aviones no tripulados en su país?

- El segundo partido más alto que acaba
de ganar nuestras recientes elecciones,

en su campaña utilizó drones allá.

Una gran cantidad de incidentes

eran porque solo se dirigían
al tipo equivocado.

Y los mataban.

Así que eso es realmente algo malo.

- Por cada persona que lastimas,
100 podrían estar enojados

y entonces creas un problema más grande,
y llegas a las personas equivocadas.

No es una manera efectiva de hacer las cosas.

Incluso aceptándola como tecnología,
simplemente no es eficaz.

Creo que lo que va a cambiar el punto
de vista de Estados Unidos sobre esto,

mientras esta tecnología se extiende,
la tentación de usarla

cuando eres el único que la tiene
es muy fuerte,

pero estamos llegando rápidamente al punto

donde vamos a ver 70 naciones
desarrollando las propias.

Pienso que ayudará a conseguir finalmente
esto en alguna situación en la que podamos

conseguir un marco legal

porque no es de interés para nadie
continuar hacia dónde vamos.

No es algo gratis para todos.

- ¿Tienes ideas sobre este marco legal?

¿Cómo sería?

Solo diciendo "puedes hacerlo"
no es suficiente.

- No, no. Ahí está la cosa.
Hemos hecho esto con todo tipo de cosas.

Los láser cegadores es un gran ejemplo.

No podemos sentarnos aquí y pensar
en todos los horribles incidentes

con armas láser porque las personas
se sentarán y dirán, claro,

es muy fácil cegar a las personas,
no hagamos eso.

Y, por supuesto, existen todos estos
controles internacionales.

Así, los drones son un poco diferentes porque
en realidad tienen algunos usos civiles.

Por lo tanto, tendrás instancias
donde los individuos o grupos pequeños

están poniendo armas
en aviones no tripulados,

y es por eso que estaba pensando
en tener un sistema inmune,

esta idea que crearía, ya sabes,
drones que buscarían otros drones.

Y luego traerlos
a la atención de los seres humanos.

Ellos no les dispararían desde el cielo.

Pero no hay manera de que dejes todo.

Pero no quieres militarizar
toda la sociedad

para defenderla contra los robots.

- En realidad, vamos a usar
uno de los beneficios de la tecnología.

Voy a traer a algunas
de las personas de Skype.

Una tecnología no amenazante.

- No creo que esa tecnología

esté disponible
en un par de años

porque he encontrado algunos sitios que
citan que en realidad se puede construir

la mayoría de las piezas para aviones
no tripulados con una impresora 3D.

Entonces, los drones están a la vuelta
de la esquina para pequeños grupos,

no solo para organizaciones
terroristas y países.

Por lo tanto, no creo que el tratado
del que hablas en tu charla TED

lo logre.

Creo que necesitamos una perspectiva
más amplia, basados más en Internet.

¿No sé si usted tiene alguna sugerencia,
que pienso todos apreciaremos?

- Bueno, tengo curiosidad
cuando dijiste una solución más amplia,

¿tienes alguna idea de lo que podría ser?

- No, ¡estaba esperando que tú la tuvieras!

(Risas)

- Permítanme decir, cuando digo
marco jurídico internacional,

eso es realmente solo el comienzo.

Nuevamente, es para tratar de cambiar
la psicología de la gente, decir más que,

mira las cosas interesantes
que podemos hacer con estas armas.

Es el paso siguiente.

Es una apreciación de cómo puede ir
en detrimento de la democracia,

esta idea de un gobierno popular,
haciendo esa conexión,

más que estas son armas peligrosas.

Individualmente, pueden
herir a las personas.

Pueden herir a toda nuestra sociedad.

Así que, tomo tu punto,
estás en lo cierto en un cierto modo,

pero es lo mejor a lo que puedo llegar

ya sabes, creo tener una mente retorcida
y es por eso que escribo estas cosas,

pero incluso con una mente retorcida,

no puedo llegar a
la solución perfecta para ello.

- Hugo, ¿algún comentario?

- Si, cuando miramos hacia atrás
de nuestras actuales tecnologías,

las más eficientes, como el GPS,
el internet,

o el radar,

esas son tecnologías que obtuvimos
de los militares, ¿verdad?

Entonces, mi pregunta para ti es
¿en qué se diferencia de los drones?

- No pienso que sea diferente.

- Yo tampoco lo pienso.

- El GPS es usado por todos nosotros,
realmente. Piensa en lo genial que es.

Soy bastante optimista acerca de
la naturaleza humana.

Trato de verlo como la curva
de una campana.

A cada extremo, hay personas
haciendo cosas extremas,

pero la mayoría de la gente quiere vivir
su vida y hacer cosas buenas

y estar con sus familias.

Entonces, tomarán esas tecnologías,

desarrolladas por los militares o no,

y harán geniales y
pacíficas cosas con ellas.

Logística, monitoreo ambiental,
búsqueda y rescate,

fotografía aérea.

Y, luego, sí, tendrás estas personas
que les colocarán armas

y luego van a atacar y ojalá
haga de ellos unos parias.

Lo que cambiaría un montón de puntos de
vista al respecto de los estadounidenses

es si Estados Unidos fuera
atacado de esta manera,

sería un problema que tendríamos que tratar.

No digo que quiera que suceda eso,
pero esto es a dónde eso va.

Si miras dentro de unos años la línea,
dado el nivel de precios

y la accesibilidad de la tecnología,
como has señalado,

cada país las tendrá
y tendrá la tentación de usarlas

para resolver problemas intratables
o problemas que nadie quiere enfrentar.

Una vez más, es esa cosa del anonimato.

Es por eso que tenemos que ir
por delante y al menos declarar

que esa es una muy mala manera de seguir

porque desestabilizará a la geopolítica
como la conocemos.

Y eso sería muy malo.

- ¿Anja?

- Tengo una pregunta.

¿Estás solo en tu pelea contra los drones?

Es decir, ¿estás solo en la búsqueda de
la convención, o tienes alguna,

no sé, asociaciones u organizaciones
no gubernamentales ayudándote?

- Nuevamente, como decía
he hablado con Human Rights Watch,

creo que están tratando con un grupo
llamado el artículo 36.

Ahí está el Comité Internacional de
Control de Armas Robóticas.

Son todas buenas organizaciones.

No estoy directamente afiliado con ellas.

Pero simpatizo fuertemente con lo que
están tratando de hacer.

¿Estoy solo? Definitivamente no.

Hay muchas personas realmente
preocupadas sobre esto.

Con los aviones no tripulados autónomos,
así como los dirigidos por control remoto

que están siendo utilizados para los
asesinatos extrajudiciales, en esencia,

y creo que un montón de gente
está muy molesta

y que quieren evitar que esto continúe.

Así que no, no creo que esté solo.

- Quiero traerte a la conversación,

si tienes alguna pregunta adicional
para Daniel o algún comentario.

- Estaba pensando, OK,
parece inevitable,

va a suceder,

vamos a tener robots asesinos
en unos pocos años.

Por lo tanto, ¿deberíamos
enfocarnos en la defensa

y tal vez empujar la investigación
hacia la investigación abierta

en vez de etiquetarla

y asegurarnos que los sistemas de defensa
puedan ser tan buenos como los malos?

- Eso es interesante.

Creo que empecé desde ese punto de vista,

esa idea de que sería importante para
las democracias no solo tener

drones robóticos en defensa sino
los mejores drones robóticos en defensa.

Realmente he llegado en torno a la idea
de que no es la mejor manera.

La verdad es que creo que
cambia el equilibrio

tanto hacia el delito que la defensa
es realmente insostenible.

La mejor defensa es
la de no construir las cosas malditas.

Dicho esto, yo creo que podemos tener
sistemas muy avanzados

que estarían ocupados en detectar
otros aviones no tripulados

que hagan levantar la cabeza a los humanos,
para que puedan decir,

sí, son ellos de nuevo.

Y luego que un ser humano
tome una decisión letal para, digamos,

destruir esos drones.

Pero no creo en el tener robots asesinos
corriendo por encima de la cabeza,

eso se pondría muy feo muy rápidamente.

- Una vez más, va a ser
robots contra robots, los buenos.

- ¡Exactamente!

Excepto, esto es interesante,
porque he oído esto muchas veces:

¿qué está mal con la guerra sin sangre?

Y, no sé, me siento como
diciéndole a esta gente,

¡¿No viste Terminator, maldita sea?!

Es la diferencia entre los seres humanos
luchando en una guerra o ser los objetivos

porque, seamos sinceros,
el punto débil no sería

el tenemos que evitar sus
aviones no tripulados

para atacar a los líderes
y a los ciudadanos y hacerles pagar.

Y los seres humanos serán
los objetivos en ese punto.

Serán los robots de cada bando
matando humanos.

El punto es que no creo que
debamos construirlos en absoluto,

y creo que debemos asegurarnos de que
no tengan armas en ellos.

- Bueno, creo que en realidad
nos hemos quedado sin tiempo.

Quiero que todos regresen
al teatro a tiempo,

Daniel, muchas gracias por acompañarnos.

Nos has dado mucho que pensar.

Gracias por unirse a nosotros desde Skype
alrededor del mundo.

Y, todo el mundo, estamos aquí
en cada pausa durante la semana,

con los oradores, durante toda la semana.

Así, espero verlos luego.

Adiós.

(Aplausos)