Querido Facebook, así le haces daño a la democracia

"En línea, las mentiras son más cautivadoras que la verdad", es lo que dice Yaël Eisenstat, exdiplomática, exanalista de la CIA y exempleada de Facebook. "Mientras los objetivos de los algoritmos sean mantenernos cautivos, seguirán mostrándonos contenido que alimenta nuestros peores instintos y debilidades humanas". En esta atrevida plática, Eisenstat explora cómo es que empresas como Facebook, que manejan las redes sociales, incentivan la difusión de contenido provocador, lo que contribuye a fomentar la cultura de polarización política y desconfianza. Además, hace un llamado a los gobiernos para que obliguen a las plataformas a hacerse responsables a fin de proteger la comunicación civilizada y la democracia.

Hace casi cinco años,

me di cuenta de que
estaba perdiendo la capacidad

de hablar con quienes
no piensan como yo.

Pensar en hablar sobre asuntos actuales
con otros estadounidenses

me provocaba más acidez

que las veces en que conversé
con supuestos extremistas extranjeros.

Empecé a sentirme
más resentida y frustrada.

Así que,

en vez de enfocarme

en las amenazas extranjeras
a la seguridad nacional,

me concentré en entender
qué estaba provocando

la polarización extrema en el país.

Como exdiplomática
y exoficial de la CIA

con años de experiencia
en asuntos antiextremistas,

me preocupó que esta fuera
una amenaza más grande a la democracia

que cualquier adversario extranjero.

Así que empecé a investigar,

empecé a hablar,

lo que me llevó a ser
contratada por Facebook

y lo que me trajo aquí, hoy,

para seguir alertándolos
sobre cómo estas plataformas

manipulan y radicalizan a tantos

y para hablar sobre cómo
recuperar la opinión pública.

Trabajé en Kenia,
en el Servicio Exterior,

poco después de
los ataques del 11 de septiembre

y dirigí las campañas para
ganar corazones y mentes

a lo largo de la frontera con Somalia.

Mi trabajo era construir
lazos de confianza con las comunidades

consideradas más susceptibles
a los mensajes extremistas.

Pasé horas tomando té con clérigos
abiertamente antioccidentales

incluso dialogué
con algunos supuestos terroristas,

y aunque en muchos de los encuentros
había desconfianza,

no recuerdo que alguno
terminara con gritos e insultos,

en algunos casos hasta trabajamos
en áreas que eran de interés mutuo.

Las mejores herramientas
eran escuchar, aprender

y desarrollar empatía.

Esa es la esencia para
ganar corazones y mentes,

porque una y otra vez

vi que la mayoría quiere sentir
que se les escucha, valida y respeta.

Creo que es lo que la mayoría queremos.

Lo que está pasando en línea
es particularmente doloroso

y más difícil de abordar.

Nos está manipulando
el ecosistema de información actual,

nos está orillando al absolutismo

de manera que no nos es posible
alcanzar acuerdos.

Actualmente,

las empresas como Facebook

ganan dinero al segmentarnos
y mostrarnos contenido personalizado

que valida y explota
nuestras preferencias.

Sus resultados dependen de provocar
una fuerte respuesta emocional

que mantenga nuestra atención,

lo que incita a las voces
más provocadoras y polarizadoras,

hasta que no es posible
encontrar llegar a un acuerdo.

Aunque cada vez más personas
exigen cambios a las plataformas,

está claro que, por sí solas,
no harán lo suficiente.

Es por eso que los gobiernos
deben definir responsabilidades

por los daños que este modelo
de negocios provoca en el mundo

e imponer sanciones reales
por los efectos dañinos

sobre la salud,
la opinión pública y la democracia.

Por desgracia, no pasará
antes de las elecciones de EE. UU.,

así que seguiré dando la alarma,

porque incluso si algún día
tuviéramos reglas firmes,

será trabajo de todos arreglarlo.

Cuando decidí dejar
las amenazas extranjeras

y estudiar el colapso
del diálogo en el país,

pensé en reutilizar las campañas
para ganar corazones y mentes

a fin de reparar las divisiones.

Nuestro experimento de más
de 200 años con la democracia

funciona en gran parte porque
podemos debatir con pasión y apertura

a fin de encontrar
las mejores soluciones.

Aunque sigo creyendo

en conversar
de forma civilizada y de frente,

sé que no se puede competir

con la magnitud y los efectos
polarizadores de las redes sociales.

Es más difícil que quienes
caen en la trampa

de enojarse en las redes

se liberen de su ideología

que las comunidades
vulnerables con las que trabajé.

Así que cuando Facebook
me llamó en 2018

y me hablaron sobre dirigir

las campañas políticas publicitarias
para garantizar la integridad electoral,

acepté la oferta.

Sabía que no arreglaría todo,

pero cuando me ofrecieron

guiar el barco en una mejor dirección,

tenía que intentarlo.

No trabajé directamente
con la polarización,

pero sí investigué qué asuntos
eran los más divisivos para la sociedad

y, por lo tanto, los que podían usarse
para interferir en las elecciones,

lo que hizo Rusia frente a 2016.

Empecé haciendo preguntas.

Quería entender
los problemas sistémicos subyacentes

que daban pie a esta situación,

para encontrar la solución.

Sigo creyendo en el poder de Internet

para dar voz a más personas,

pero aunque el objetivo
de las redes es construir una comunidad,

el diseño actual de
las empresas que las poseen

se opone al concepto
del discurso razonado.

No es posible recompensar
a quienes escuchan,

ni fomentar el debate civilizado,

ni proteger a quienes
quieren hacer preguntas

en un negocio donde la participación
y el número de usuarios

son las métricas
más importantes de éxito.

No hay un incentivo
que detenga a la gente,

que los haga hacer una pausa,

reconocer su respuesta
emocional ante algo

y cuestionar sus propias
ideas antes de participar.

La triste realidad es que, en línea,

las mentiras son más
cautivadoras que la verdad,

la salacidad le gana al razonamiento
basado en hechos y especializado

en un mundo optimizado
para viralizar contenido con facilidad.

Mientras los objetivos de los algoritmos
sean mantenernos cautivos,

seguirán mostrándonos contenido
que alimenta nuestros peores instintos

y debilidades humanas.

Es cierto que el enojo, la desconfianza,

la cultura del miedo y el odio

son viejos conocidos de EE. UU.,

pero en años recientes,
la redes se han aprovechado de ellos

y, en mi opinión,
inclinaron la balanza drásticamente.

Facebook lo sabe.

En un artículo del Wall Street Journal

se dio a conocer una de sus
presentaciones internas de 2018

en la que se indica que gracias a
los propios algoritmos de la empresa,

la presencia de grupos
extremistas en la plataforma

y la polarización de los usuarios aumentó.

Pero así es como ganan dinero,
al hacernos participar.

El ambiente actual de la información
se centra en trazar nuestros perfiles

y segmentarlos en categorías
cada vez más específicas

para perfeccionar
el proceso de personalización.

Después nos bombardean con información
que confirma nuestras opiniones,

refuerza nuestros prejuicios

y nos hace sentir
que somos parte de algo.

Son las mismas tácticas empleadas
por los reclutadores terroristas

con jóvenes vulnerables

antes de que hubiera redes sociales,
pero en menor escala y de forma localizada

con el objetivo de persuadirlos.

Por desgracia, Facebook nunca
me permitió hacer la diferencia.

De hecho, en mi segundo día, el nombre
de mi cargo y mis funciones cambiaron

y me retiraron de las juntas
donde se tomaban las decisiones.

Mis esfuerzos

por crear planes

que combatieran la desinformación
y la supresión de votantes

fueron rechazados.

Apenas estuve seis meses ahí.

Pero esto es lo que aprendí:

hay miles de personas en Facebook

que trabajan con pasión en un producto

que creen hará del mundo un lugar mejor,

pero si la empresa sigue
haciendo cambios superficiales

a las políticas de contenido y moderación,

en vez de considerar

su diseño general y cómo gana dinero

nunca abordarán
cómo es que la plataforma contribuye

al odio, la división y la radicalización.

Esa es la única conversación
que nunca se dio mientras estuve ahí,

porque básicamente tendrían que aceptar

que lo que construyeron
no es lo mejor para la sociedad

y que hay que cambiar todo el producto
y el modelo de ganancias.

Así que, ¿qué podemos hacer?

No estoy diciendo que las redes
sean las únicas responsables

de nuestro estado actual.

Está claro que tenemos problemas sociales
arraigados que debemos resolver,

pero la respuesta de Facebook,
que solo son un espejo de la sociedad,

es un intento conveniente
de evadir la responsabilidad

que tiene su plataforma
por amplificar el contenido dañino

y llevar a algunos
usuarios a los extremos.

Si Facebook quisiera

podría arreglar algunas cosas.

Podrían dejar de amplificar
y recomendar a los conspiranoicos,

los grupos de odio,
los que promueven la desinformación

y, en algunos casos, hasta al presidente.

Podrían dejar de usar
las mismas técnicas de personalización

para presentarnos retórica política
y vendernos zapatillas.

Podrían reentrenar a sus algoritmos

para que no midan la participación,

podrían crear políticas y prácticas
que impidan que el contenido se viralice

sin antes revisarlo.

Y lo podrían hacer

sin volverse jueces de la verdad.

Sin embargo, ya dejaron en claro

que no harán lo correcto
a menos que los obliguen

y, para ser honestos, ¿por qué lo harían?

Los mercados siguen premiándolos
y no violan las leyes.

Porque resulta

que no hay leyes en EE. UU. que obliguen
a Facebook o a cualquier otra red social

a proteger la opinión pública,

la democracia

y las elecciones.

Permitimos que los directores
de las empresas lucrativas de Internet

decidieran qué reglas redactar
y cuáles hacer cumplir.

¿Es lo que queremos?

¿Un mundo regido por la posverdad
donde la toxicidad y el tribalismo

no nos permitan construir lazos
y buscar consensos?

Quiero ser optimista y pensar
que tenemos más en común

de lo que los medios
y el ambiente en línea actual muestran.

Pienso que se necesita
una perspectiva más amplia

para hacer a la democracia
más sólida e incluyente,

pero no en la forma
como se está dando.

Quiero enfatizar que no busco
que estas empresas desaparezcan.

Quiero que tengan
cierto grado de responsabilidad,

como el resto de la sociedad.

Es hora de que los gobiernos
den un paso adelante, hagan su trabajo

y protejan a la ciudadanía.

Y aunque no haya una ley mágica

que lo solucione todo,

pienso que los gobiernos pueden
y deben encontrar el balance

entre proteger la libertad de expresión

y responsabilizar a las empresas por
los efectos que producen en la sociedad.

Podrían hacerlo si exigieran transparencia

en el funcionamiento de los
motores de recomendación,

la selección, la amplificación
y la focalización de contenidos.

Quiero que las empresas
se hagan responsables

no por alguien que publica
información errónea

o retórica extremista,

sino por cómo sus motores de recomendación
difunden esa información,

por cómo sus algoritmos
guían a las personas a encontrarla

y por cómo se utilizan
sus herramientas para atacar a otros.

Intenté hacer cambios
desde el interior de Facebook y fallé,

por eso he usado mi voz
en los últimos años

para dar la alarma

e inspirar a más personas

a que exijan a las empresas
rendir cuentas.

Mi mensaje es simple:

Exijan a sus gobernantes

que den un paso adelante y ya no cedan
la opinión pública a intereses lucrativos.

Eduquen a sus amigos y familiares

sobre la manipulación en redes.

Convivan con personas
que no piensan como Uds.

Den prioridad a este tema.

Necesitamos abordarlo como sociedad
para solucionarlo.

Mi mensaje para los líderes de Facebook,
mi antigua empresa, es:

en este momento, sus herramientas
se usan tal y como fueron diseñadas,

y se usan para plantar odio,
división y desconfianza,

Uds. no solo lo permiten,
lo hacen posible.

Y sí, en su plataforma
hay muchas historias

de cosas buenas
que pasan en el mundo,

pero eso no justifica lo demás.

Entre más nos acercamos a la elección,
la situación empeora

y es más preocupante,

nos enfrentamos a la que
podría ser la peor crisis

si la gente no confía en
los resultados y estalla la violencia.

Así que, en 2021, cuando declaren otra vez
"sabemos que tenemos que mejorar",

quiero que recuerden este momento,

porque ya no son solo algunas voces.

Hay activistas de
derechos civiles, académicos,

periodistas, anunciantes,
sus propios empleados

que gritan a los cuatro vientos

que sus políticas y prácticas comerciales

dañan a la gente y a la democracia.

Admiten lo que hacen,

pero ya no pueden decir
que no pueden evitarlo.

Gracias.