El dilema ético de los automóviles robóticos - Patrick Lin

Ver la lección completa en: http://ed.ted.com/lessons/the-ethical-dilemma-of-self-driving-cars-patrick-lin

Los automóviles robóticos ya están paseándose por las calles hoy. Y mientras estos autos en última instancia serán más seguros y más limpios que sus homólogos manuales, no podrán evitar del todo los accidentes. ¿Cómo se debe programar ese auto robótico, si se topa con un accidente inevitable? Patrick Lin se adentra en la cuestionable ética de los automóviles robóticos.

Lección de Patrick Lin, animación de Yukai Du.

Este es un experimento mental.

Digamos que en algún momento
en un futuro cercano,

irás a toda velocidad por la carretera
en tu automóvil robótico

y estarás acorralado por todos lados
por otros autos.

De repente, un objeto grande
y pesado cae del camión ante ti.

Tu auto no puede parar a tiempo
para evitar la colisión,

por eso debes tomar una decisión:

seguir recto y golpear el objeto,

girar a la izquierda hacia un 4x4

o desviarse a la derecha
hacia una motocicleta.

¿Debe priorizar tu seguridad
golpeando la motocicleta,

minimizar el peligro para los demás
no desviándose,

incluso si eso significa golpear
el objeto grande y sacrificar tu vida,

u optar por el término medio
golpeando la camioneta,

que tiene un alto índice de seguridad
para sus pasajeros?

Entonces, ¿qué debe
hacer el automóvil robótico?

Si condujéramos el automóvil
en modo manual,

de cualquier forma que quisiéramos
reaccionar se entendería como solo eso,

una reacción,

no una decisión deliberada.

Sería un movimiento de pánico
instintivo sin premeditación o malicia.

Pero si un programador tuviera que
asignar al auto hacer un movimiento,

dadas las condiciones que pueden
presentarse en el futuro,

bueno, eso se parece más
a homicidio premeditado.

Ahora, para ser justos,

con los autos robóticos se prevé reducir
drásticamente los accidentes de tráfico

y las muertes

por la eliminación del error
humano en la conducción.

Además, puede haber todo tipo
de beneficios adicionales:

congestión vial aliviada,

disminución de emisiones nocivas,

y reducción al mínimo del tiempo de
conducción improductivo y estresante.

Pero los accidentes pueden
suceder y sucederán,

y cuando sucedan,

los resultados pueden determinarse
meses o años de antelación

por programadores o diseñadores
de políticas.

Y ellos tendrán que tomar
algunas decisiones difíciles.

Es tentador ofrecer principios
generales de decisión,

como minimizar el daño,

pero eso incluso lleva fácilmente a
decisiones moralmente cuestionables.

Por ejemplo,

con la misma configuración inicial,

pero a la izquierda
un motociclista con casco

y a la derecha otro sin casco.

¿Con quién debería chocar
el automóvil robótico?

Si dices con motociclista con casco por
tener más probabilidad de sobrevivir,

entonces, ¿no penalizas
al motociclista responsable?

Si, en cambio,
vas hacia al motociclista sin casco

porque él actúa de
manera irresponsable, entonces

has ido mucho más allá del principio de
diseño inicial de minimización de daños,

y el automóvil robótico está ahora
haciendo justicia en la calle.

Las consideraciones éticas
se complican más aquí.

En ambos escenarios,

el diseño subyacente funciona como
un algoritmo de focalización de clases.

En otras palabras,

favorece o discrimina sistemáticamente

en contra de chocarse
con un determinado tipo de objeto.

Y los dueños de los vehículos diana

sufrirán las consecuencias negativas
de este algoritmo

por causas ajenas a su voluntad.

Nuestras nuevas tecnologías abren
muchos otros dilemas éticos novedosos.

Por ejemplo, si tuvieras que elegir entre

un auto que siempre quiera salvar tantas
vidas como fuera posible en un accidente,

o uno que te salvara a ti a toda costa,

¿cuál comprarías?

¿Qué sucede si los autos empiezan
a analizar y factorizar

a los pasajeros de los autos y
los detalles de sus vidas?

¿Podría darse el caso de que
una decisión al azar

siga siendo mejor que una predeterminada
diseñada para minimizar el daño?

¿Y quién debería tomar
estas decisiones de todos modos?

¿Los programadores?

¿Las empresas?

¿Los gobiernos?

La realidad no reproduce exactamente
nuestros experimentos mentales,

pero ese no es el punto.

Están diseñados para aislar y someter
a presión a nuestras intuiciones éticas,

igual que los experimentos científicos
lo hacen al probar el mundo físico.

Detectar este giro en U moral

nos ayudará a maniobrar en el camino
desconocido de la ética de la tecnología,

y nos permitirá adentrarnos
con confianza y conciencia

en nuestro nuevo y valiente futuro.