Cuando la tecnología pueda leer la mente, ¿cómo proteger nuestra intimidad?

La tecnología puede decodificar su actividad cerebral y revelar lo que está pensando y poner nuestros sentimientos a la vista, afirma la académica legal y experta en ética Nita Farahany. ¿Qué significaría esto para nuestro ya violado sentido de la intimidad? En una conferencia de advertencia, Farahany nos advierte de una sociedad en la que la gente es arrestada solo por pensar en cometer un crimen (como en "Minority Report") y en la que los intereses privados venden nuestra información mental, y argumenta el derecho a la libertad cognitiva que protege nuestra libertad de pensamiento y autodeterminación.

En los meses siguientes a la elección
presidencial del 2009 en Irán,

las protestas estallaron por todo el país.

El gobierno iraní reprimió violentamente

lo que fue conocido
como el Movimiento Verde Iraní,

bloqueando incluso las señales telefónicas

para cortar la comunicación
entre los manifestantes.

Mis padres, quienes emigraron
a los EE. UU. a finales de 1960,

pasaron un tiempo considerable allí,

donde vive mi gran y extensa familia.

Cuando llamaba a mi familia en Teherán

durante una de las represiones
más violenta a las protestas

ninguno de ellos se atrevió a hablar
conmigo sobre lo que estaba pasando.

Ellos y yo sabíamos cómo cambiar
rápidamente de tema de conversación.

Todos nosotros comprendimos
qué consecuencias podrían derivar

de una acción disidente detectada.

Pero todavía sigo deseando haber podido
saber lo que ellos estaban pensando

o lo que ellos estaban sintiendo.

¿Y si hubiera podido?

O más terrible,

¿y si el gobierno iraní hubiera podido?

¿Les hubieran arrestado
basándose en lo que pensaban?

Ese día puede estar
más cerca de lo que piensan.

Con nuestras crecientes capacidades
en neurociencia, inteligencia artificial

y aprendizaje automático,

pronto tal vez podamos saber más
de lo que pasa en el cerebro humano.

Como especialista
en bioética, abogada, filósofa

y como iraní-estadounidense,

estoy muy preocupada sobre lo que
esto significa para nuestras libertades

y qué tipo de protecciones necesitamos.

Creo que necesitamos
un derecho a la libertad cognitiva,

como un derecho humano
que necesita que lo protejan.

Si no, nuestra libertad de pensamiento,

acceso y control sobre nuestras mentes

y nuestra privacidad mental
estará amenazada.

Consideren esto:

la persona promedio tiene
miles de pensamientos cada día.

Cuando un pensamiento se forma,

como un cálculo matemático
o un número, una palabra,

las neuronas están
interactuando en el cerebro,

creando una minúscula descarga eléctrica.

Cuando tienes un estado mental
dominante, como la relajación,

cientos y miles de neuronas
están ardiendo en el cerebro,

creando descargas eléctricas simultáneas
en unos patrones característicos

que pueden medirse
con encefalogramas o EEG.

De hecho, esto es lo que ven ahora mismo.

Están viendo mi actividad mental
que se grabó a tiempo real

con un simple dispositivo
que me pusieron en la cabeza.

Lo que están viendo es mi actividad mental
cuando estaba relajada y curiosa.

Para compartir esta información con Uds.,

llevé uno de estos dispositivos EEG
hechos para el consumidor

como este,

el cuál grabó la actividad
eléctrica de mi cerebro en tiempo real.

No es tan diferente de los monitores
de actividad que tal vez lleven puestos

para medir su ritmo cardíaco
o los pasos que han dado,

o incluso sus periodos de sueño.

Es difícilmente la técnica de neuroimagen
más sofisticada en el mercado.

Pero ya es casi la más compatible

y la que probablemente tenga
más impacto en nuestras vidas cotidianas.

Es extraordinario.

A través de un simple
y vestible dispositivo

podemos literalmente ver
lo que hay dentro del cerebro humano

y aprender aspectos de nuestro paisaje
mental sin pronunciar una sola palabra.

Aunque aún no podemos descodificar de
manera fiable los pensamientos complejos,

ya podemos estimar
el humor de una persona,

y con ayuda de la inteligencia artificial,

podemos incluso descodificar
algunos números de un solo dígito

o formas o palabras simples
que la persona está pensando

o escuchando, o viendo.

A pesar de algunas
limitaciones inherentes en EEG,

creo que se puede afirmar que
con nuestros avances en tecnología,

más y más de lo que pasa
en el cerebro humano

puede y será descodificado con el tiempo.

Ya, usando uno de estos dispositivos

una persona epiléptica puede saber
si va a sufrir una convulsión epiléptica

antes de que ocurra.

Una persona parapléjica sola

puede escribir sus pensamientos
en una computadora.

Una compañía de EE. UU. ha inventado una
tecnología para incrustar estos sensores

en el reposacabezas de los automóviles

para poder monitorizar
la concentración al volante,

la distracción y la carga cognitiva
mientras se está conduciendo.

Nissan, las compañías de seguros y
AAA han tomado nota.

Pueden ver incluso esta película de
"elija su propia aventura"

"The Moment", la que,
con unos auriculares EEG,

cambia basándose
en las reacciones de su cerebro,

dándole un final diferente
cada vez que su atención mengua.

Esto puede sonar bien,

y como una especialista en bioética,

soy una gran defensora de
autorizar a las personas

a hacerse cargo de
su propia salud y bienestar

dándoles acceso a información
sobre ellos mismos,

incluyendo esta tecnología nueva e
increíble de descodificación de cerebros.

Pero me preocupo.

Me preocupa que voluntariamente o
involuntariamente abandonemos

nuestro último bastión de libertad,
nuestra intimidad mental.

Que cambiemos nuestra actividad cerebral

para que nuestro seguro
nos reembolse o nos descuente,

o que haya acceso libre
a las cuentas de las redes sociales...

O Incluso que se use
para nuestros trabajos.

De hecho, en China,

los conductores del tren
de alta velocidad de Beijing-Shanghái,

uno de los más concurridos del mundo,

se les demanda llevar dispositivos EEG

para monitorizar su actividad
cerebral mientras conducen.

De acuerdo con
algunas fuentes de noticias,

en las fábricas de China
controladas por el gobierno,

a los empleados se les pide que usen
sensores EEG para ver su productividad

y su estado emocional en el trabajo.

A los empleados incluso
se les manda a casa

si sus cerebros muestras una concentración
menos que estelar en sus trabajos,

o si están mentalmente agitados.

Esto no va a pasar mañana,

pero nos dirigimos a un mundo
de transparencia mental.

Y creo que la gente no entiende
que eso podría cambiar todo.

Todo desde nuestras definiciones de
intimidad de datos a nuestras leyes,

y a nuestras ideas sobre la libertad.

De hecho, en mi laboratorio
en la Universidad Duke,

hace poco llevamos a cabo un estudio
a nivel nacional en EE. UU.

para ver si la gente era consciente

de la sensibilidad
de su información cerebral.

Preguntamos a la gente para evaluar
la sensibilidad que percibían

de 33 tipos diferentes de información,

desde sus números de la seguridad social

al contenido de sus
conversaciones telefónicas,

la historia de su relación,

sus emociones, sus ansiedades,

las imágenes mentales de sus mentes

y sus pensamientos.

Asombrosamente, la gente evaluó como más
sensible su número de la seguridad social

que otro tipo de información,

incluyendo sus datos cerebrales.

Creo que esto se debe a
que la gente no entiende todavía

o no cree en las implicaciones de esta
tecnología que descodifica cerebros.

Después de todo, si podemos saber el
funcionamiento interno del cerebro humano,

nuestros números de la seguridad social
son lo último que debe preocuparnos.

(Risas)

Piénsenlo.

En un mundo de total transparencia mental,

¿quién se atrevería a tener
un pensamiento político disidente?

¿O uno creativo?

Me preocupa que la gente se autocensuraría

por el miedo a ser
excluidos por la sociedad,

o que la gente perdiera sus trabajos
porque su atención mengua

o su inestabilidad emocional,

o porque estén contemplando
una acción colectiva contra sus empresas.

Eso que viene no volverá a ser una opción,

porque los cerebros de la gente hará
tiempo que habrán revelado su sexualidad,

su ideología política

o sus preferencias religiosas,

mucho antes de que estén listos para
compartir esa información conscientemente

con otras personas.

Me preocupa la habilidad de nuestras
leyes para seguir al cambio tecnológico.

Miren la primera Enmienda
de la Constitución de EE. UU.,

la que protege la libertad de expresión.

¿Protege también la libertad de pensar?

Y si lo hace, ¿somos libres de cambiar
nuestros pensamientos cuando queramos?

¿O puede decirnos el gobierno y la
sociedad qué hacer con nuestras mentes?

¿Puede la Seguridad Nacional espiar
nuestras mentes usando teléfonos móviles?

¿Las compañías que recogen los datos
mentales a través de aplicaciones pueden

vender esa información a terceros?

Ahora mismo, ninguna ley
les prohíbe hacer eso.

Puede ser incluso más problemático

en países que no comparten
las mismas libertades que

disfrutamos la gente en EE. UU.

¿Qué hubiera pasado durante
el Movimiento Verde Iraní

si el gobierno hubiera estado controlando
la actividad cerebral de mi familia,

y si hubieran pensado que ellos
simpatizaban con los protestantes?

Es tan disparatado imaginar una sociedad

en la que la gente es arrestada
basándose en sus pensamientos

de cometer un crimen,

como en la sociedad de un mundo de
ciencia ficción en "Minority Report".

Ya, en EE. UU., en Indiana,

un joven de 18 años fue detenido
por intentar amenazar a su universidad

publicando un vídeo suyo
disparando a la gente en los pasillos...

Excepto que la gente eran zombis

y el vídeo era de él jugando
un videojuego de realidad aumentada,

todo fue interpretado como
proyección mental de su intento subjetivo.

Es por esto exactamente que nuestras
mentes necesitan una protección especial.

Si nuestros cerebros son objeto
de seguimiento y acumulación de datos

como nuestros estados
financieros y transacciones,

si se puede hackearlos y monitorizarlos
como nuestra actividad en línea,

nuestros teléfonos móviles y aplicaciones,

estamos al borde de una amenaza peligrosa
para nuestra humanidad colectiva.

Antes de que entren en pánico,

creo que hay soluciones
a estas preocupaciones,

pero tenemos que empezar por
centrarnos en las cosas correctas.

Cuando se trata de la
protección de la intimidad en general,

creo que luchamos una batalla perdida

al intentar restringir
el movimiento de información.

En vez de eso, debemos centrarnos
en asegurar los derechos y remedios

contra el uso incorrecto
de nuestra información.

Si la gente tiene derecho a decidir
cómo se comparte su información,

y más importante,
tiene una reparación legal

si su información se ha usado
incorrectamente en su contra,

digamos para discriminarlos
en un marco laboral

o en una atención sanitaria
o en educación,

esto ayudaría mucho a generar confianza.

De hecho, en algunas ocasiones,

queremos compartir más
nuestra información personal.

Los estudios confirman que
la información puede decirnos mucho

sobre nuestra salud y nuestro bienestar,

pero para ser capaces de compartir
nuestra información con seguridad,

necesitamos protecciones
especiales para la intimidad mental.

Es por eso que necesitamos
el derecho a la libertad cognitiva.

Este derecho nos aseguraría nuestra
libertad de pensamiento y reflexión,

nuestra libertad de autodeterminación,

y nos aseguraría el tener
el derecho a acceder o rechazar

el acceso y la alteración
de nuestras mentes debido a otros.

Este derecho podría ser reconocido

como parte de la Declaración
Universal de los Derechos Humanos,

la que establece mecanismos

para la aplicación
de este tipo de derechos sociales.

Durante el Movimiento Verde Iraní,

los protestantes usaron internet
y corrieron la voz a la vieja usanza

para coordinar sus manifestaciones.

Y algunas de las restricciones
más opresivas en Irán

surgieron como resultado de ello.

¿Pero y qué más da si el gobierno
Iraní vigiló las mentes de la gente

para detectar y evitar las protestas?

¿Se habría enterado el mundo alguna
vez de los gritos de los protestantes?

Ha llegado la hora de
una revolución de la libertad cognitiva.

Debemos asegurarnos de que
la tecnología avanza de forma responsable

de manera que
nos permita abrazar el futuro

mientras nos protege ferozmente
de cualquier persona, empresa o gobierno

que intente acceder o alterar
ilegalmente nuestras vidas más íntimas.

Gracias.

(Aplausos)