Qué saben las empresas tecnológicas de tus hijos

Según Veronica Barassi, es posible que las plataformas digitales que tanto nosotros como nuestra familia usamos a diario —desde videojuegos online hasta aplicaciones educativas y portales médicos— estén recopilando y vendiendo la información de nuestros hijos. Con esta reveladora investigación, Barassi insta a los padres a pensárselo dos veces antes de aceptar términos y condiciones y a exigir medidas para evitar que sus futuros se tuerzan.

Cada día de la semana,
aceptamos términos y condiciones.

Al hacerlo,

damos a las empresas el derecho

de hacer lo que les plazca
con nuestra información

y con la de nuestros hijos.

Y nos preguntamos:

"¿cuántas cosas revelamos
sobre nuestros hijos?"

y "¿qué implica esto?".

Soy antropóloga
y también madre de dos niñas.

Empecé a interesarme en este tema en 2015,

cuando, de pronto, me di cuenta

de la casi inconcebible cantidad
de rastreos digitales

con los que se recopila
información de niños.

Por ello, inicié un proyecto
llamado "Child Data Citizen",

con el objetivo de llenar ese vacío.

Quizás piensen que vengo a reprocharles

que suban fotos de sus hijos
a las redes sociales.

Pero no he venido a eso.

Esto es mucho más grave
que el llamado "sharenting".

Esto no va de individuos,
sino de sistemas.

Sus hábitos y Uds.
no tienen culpa de nada.

Por primerísima vez en la historia,

rastreamos la información de cada niño
desde mucho antes de nacer.

En ocasiones, antes de la fecundación
y luego, a lo largo de sus vidas.

Cuando los padres deciden tener un hijo,

buscan en internet
"formas de quedar embarazada"

o descargan aplicaciones
para controlar la ovulación.

Cuando llega el embarazo,

suben ecografías de sus bebés
a las redes sociales,

descargan aplicaciones para embarazadas

o preguntan de todo al doctor Google,

Todo tipo de cosas, como:

"riesgo de aborto en pleno vuelo"

o "dolores menstruales
al inicio del embarazo".

Lo sé porque yo lo he hecho,
y varias veces.

Y, al nacer el bebé, hacen un seguimiento
de cada siesta, toma o acontecimiento

en diferentes plataformas.

Todas estas plataformas se benefician de
datos íntimos sobre salud y comportamiento

y los comparten entre ellas.

Para que entiendan cómo funciona,

en 2019, una investigación
del "British Medical Journal"

desveló que, de 24 aplicaciones de salud,

19 compartían información con terceros.

Y esos terceros compartían información
con otras 216 organizaciones.

De esas 216 organizaciones,
solo tres pertenecían al sector sanitario.

En las demás empresas con acceso a
esos datos eran gigantes de la tecnología,

como Google, Facebook u Oracle,

había empresas de publicidad en línea
y una agencia de crédito al consumo.

Para que me entiendan:

agencias publicitarias y de crédito
podrían tener puntos de datos de bebés.

Las aplicaciones móviles, redes sociales
y buscadores solo son

"la punta del iceberg",

porque se rastrea a los niños a diario
desde múltiples tecnologías.

Se les sigue desde casa con dispositivos
y asistentes virtuales.

Desde el colegio, con herramientas TIC
y aulas virtuales.

Desde la consulta del médico,
con historiales clínicos y portales web.

Los siguen desde sus juguetes
con conexión a internet, juegos online

y muchas otras tecnologías.

En mi investigación, muchos padres
venían a decirme cosas como:

"¿Y qué?".

"¿Qué importa si rastrean a mis hijos?

No tenemos nada que esconder".

Pues sí, importa.

No solo porque se hagan seguimientos
de cada persona,

sino porque se les clasifica
de acuerdo con lo recolectado.

Con la inteligencia artificial
y el análisis predictivo

se aprovechan al máximo
los datos de cada individuo

de distintas formas:

hábitos de compra, historial familiar
comentarios en redes sociales...

Luego, combinan esos datos
y sacan conclusiones de esa persona.

Estas tecnologías se usan en todas partes.

Los bancos las usan para dar préstamos.

Las aseguradoras las usan para las primas.

Las empresas y patrones las usan
para saber si alguien vale para un puesto.

Además, la policía y los juzgados las usan

para saber la probabilidad
de que alguien cometa delito o reincida.

No podemos saber ni controlar

la forma en la que esta gente que compra,
vende y procesa nuestros datos

traza perfiles sobre nosotros
y nuestros hijos.

Pero estos perfiles pueden afectar
gravemente nuestros derechos.

Pongamos un ejemplo:

"The New York Times" publicó en 2018

que los datos recogidos en webs
de planificación educativa,

que rellenan millones
de jóvenes estadounidenses

en busca de una beca
o un plan universitario,

se vendieron a brókeres de información.

Pues en Fordham se investigó
a estos brókeres de lo educativo

y se descubrió que estas empresas
clasifican a niños de incluso dos años

según diferentes categorías:

etnia, religión, riqueza,

ansiedad social

y muchas más categorías.

Y luego venden esos perfiles,

con el nombre del niño,
dirección y datos personales,

a distintas empresas,

como instituciones educativas
y de comercio,

de servicios de becas
y cuentas bancarias para estudiantes.

Para avanzar en esto,

los investigadores de Fordham
pidieron a uno de estos brókeres

que les proporcionase una lista
de chicas de entre 14 y 15 años

a las que les interesase
un servicio de planificación familiar.

El bróker accedió
a facilitarles esa lista.

Imagínense lo mucho que esto invade
la intimidad de nuestros hijos.

Pero estos brókeres de lo educativo
son solo un ejemplo.

Realmente, la forma en la que clasifican
a nuestros hijos escapa de nuestro control

y tiene un gran impacto en su futuro.

Así que debemos preguntarnos:

¿se puede confiar en estas tecnologías
que catalogan a nuestros hijos?

¿Se puede?

Yo digo que no.

Como antropóloga,

creo que la inteligencia artificial
y el análisis predictivo

pueden servir para predecir enfermedades
o luchar contra el cambio climático.

Pero tenemos que abandonar la creencia

de que estas tecnologías pueden hacer un
perfil objetivo de los seres humanos

y que podemos confiar en ellas
para tomar decisiones

basadas en datos sobre
las vidas de los individuos.

No pueden clasificar humanos.

Los rastreos digitales
no reflejan quiénes somos.

Los humanos piensan una cosa y dicen otra,
sienten de una forma y actúan diferente.

Las predicciones algorítmicas
de lo que hacemos

no tienen en cuenta la impredecibilidad
y complejidad de la naturaleza humana.

Por si fuera poco,

estas tecnologías son siempre,
de un modo u otro, subjetivas.

Los algoritmos son, por definición,
conjuntos de reglas o pasos

diseñados para conseguir
resultados concretos.

Pero tales reglas o pasos
no pueden ser imparciales,

porque los han diseñado humanos
dentro de un marco cultural concreto

y están influenciados
por unos valores concretos.

Cuando las máquinas aprenden,
lo hacen a partir de algoritmos sesgados,

y a menudo también aprenden
de bases de datos sesgadas.

Justo ahora podemos ver
los primeros casos de sesgo algorítmico.

Algunos de estos ejemplos
son francamente aterradores.

Este año, el AI Institute de Nueva York
ha publicado un informe que demuestra

que las inteligencias artificiales
que usa la policía predictiva

han aprendido de "datos sucios".

Estos son datos recogidos
de épocas de claro prejuicio racial

y acciones policiales poco transparentes.

Estas inteligencias, al alimentarse
de datos sucios, no son objetivas,

y los resultados solo dan lugar
a parcialidad y errores policiales.

Creo que nos enfrentamos
a un problema fundamental de la sociedad.

Nos estamos fiando de las tecnologías
a la hora de clasificar a seres humanos.

Ya se sabe que las tecnologías
siempre van a estar influenciadas

y nunca van a ser del todo exactas.

Lo que en realidad necesitamos
es una es una solución política.

Que los gobiernos vean que la protección
de datos es un derecho humano.

(Aplausos y vítores)

Hasta que esto no ocurra,
no esperemos un futuro más justo.

Me preocupa que mis hijas estén expuestas
a discriminaciones y errores algorítmicos.

Lo que me diferencia de mis hijas
es que no hay registros de mi infancia.

Por supuesto, no se conocen las tonterías
que decía y pensaba de adolescente.

(Risas)

Pero, para mis hijas,
esto podría ser diferente.

Los datos que se recogen de ellas ahora

pueden usarse en su contra en el futuro

Y puede llegar a limitar
sus sueños y aspiraciones.

Creo que es el momento.

El momento de dar un paso adelante,
de empezar a trabajar juntos,

como individuos,
organizaciones e instituciones

y exijamos más justicia por nuestros datos
y los de nuestros hijos.

antes de que sea tarde.

Gracias.

(Aplausos)