Como los humanos y la IA pueden cooperar para crear mejores empresas

He aquí una paradoja: mientras las empresas intentan racionalizar sus negocios utilizando la inteligencia artificial (IA) para tomar decisiones críticas, pueden, inadvertidamente, hacerse menos eficientes. El tecnólogo de negocios Sylvain Duranton aboga por un enfoque "Humano más IA"—usando sistemas de IA junto con los humanos, no en lugar de ellos— y comparte la fórmula específica que las compañías pueden adoptar para emplear exitosamente la IA mientras mantienen a los humanos en el circuito.

Déjenme compartir una paradoja.

Durante los últimos 10 años,

muchas compañías han intentado
ser menos burocráticas,

tener menos reglas centrales
y procedimientos,

más autonomía para que
sus equipos locales sean más ágiles.

Y ahora están dando cuerda
a la inteligencia artificial, IA,

sin darse cuenta de que
esta genial tecnología

podría hacerlos
más burocráticos que nunca.

¿Por qué?

Porque la IA opera
al igual que las burocracias.

La esencia de la burocracia

es favorecer reglas y procedimientos
sobre el juicio humano.

Y la IA decide
únicamente según las reglas.

Muchas reglas inferidas de datos pasados,

pero solo reglas.

Y si no se involucra el juicio humano

la AI traerá una forma aterradora
de nueva burocracia,

yo la llamo "algocracia"

donde la IA tomará más y más
decisiones críticas basada en reglas

fuera de cualquier control humano.

¿Existe un riesgo real?

Sí.

Lidero un equipo
de 800 especialistas en IA.

Hemos instalados
más de 100 soluciones de IA personalizadas

para grandes empresas de todo el mundo.

Y veo demasiados ejecutivos corporativos
comportándose como burócratas del pasado.

Quieren sacar a humanos costosos
y anticuados del proceso

y confiar solo en la IA
en la toma de decisiones.

Yo llamo a esto
la "mentalidad de cero humanos".

¿Y por qué es eso tan tentador?

Porque la otra ruta,
"Humano más IA" es larga,

costosa y difícil.

Equipos de negocios, equipos tecnológicos,
equipos de ciencia de datos

tienen que interaccionar meses

para encontrar cómo los humanos
y la IA pueden trabajar mejor juntos.

Largo, costoso y difícil.

Pero la recompensa es enorme.

Una encuesta reciente de BCG y MIT

muestra que el 18 %
de empresas en el mundo

son pioneras en IA,

haciendo dinero con eso.

Esas compañías se enfocan
un 80 % de sus iniciativas de IA

en efectividad y crecimiento,

tomando mejores decisiones

no reemplazando humanos con IA
para ahorrar costos.

¿Por qué es importante
mantener a los humanos involucrados?

Simplemente porque, dejándola sola,
la IA puede hacer cosas muy tontas.

A veces sin consecuencias,
como en este tuit.

"Querida Amazon,

compré un asiento de inodoro.

Por necesidad, no por deseo.

No los colecciono.

No soy un adicto a los inodoros.

No importa cuán tentador sea el correo,

No voy a pensar, 'Oh, adelante, entonces,

un asiento de inodoro más,
Trataré yo mismo".

(Risas)

A veces, con más consecuencia,
como en este otro tuit.

"Tenía la misma situación

con la urna funeraria de mi madre".

(Risas)

"Por meses tras su muerte,

recibí mensajes de Amazon,
diciendo: 'Si te gustó eso...' ".

(Risas)

A veces con peores consecuencias.

Por ejemplo, una IA rechazando
una solicitud para la universidad.

¿Por qué?

Porque ha "aprendido" de datos pasados,

características de los estudiantes
este pasará y este fallará.

Algunos obvios,
como los exámenes de grado.

Pero si, en el pasado, los estudiantes
de un código postal dado han fallado,

es muy probable
que la IA hará de esto una regla

y rechazará a cada estudiante
con este código postal,

sin darle a nadie la oportunidad para
demostrar que la regla está equivocada.

Y nadie puede verificar todas las reglas,

porque la IA avanzada
está constantemente aprendiendo.

Y si los humanos no están involucrados,

llega la pesadilla algocrática.

¿Quién es responsable?
de rechazar al estudiante?

Nadie, la AI lo hizo.

¿Es justo? Sí.

El mismo conjunto de reglas objetivas
se ha aplicado a todos.

¿Podríamos reconsiderar a este niño
brillante con el código postal incorrecto?

No, los algoritmos no cambian de opinión.

Tenemos una opción aquí.

Continuar con algoritmocracia

o decidir ir a "Humano más IA".

Y para hacer esto,

primero tenemos
que dejar de pensar en tecnología

y debemos comenzar a aplicar
la fórmula secreta.

Para usar "Humano más IA"

el 10 % del esfuerzo es
de codificar algoritmos;

el 20 % construir tecnología
alrededor de los algoritmos,

recolectando datos, construyendo IU,
integración en sistemas heredados;

pero el 70 %, la mayor parte del esfuerzo,

se dedica a entrelazar
la AI con personas y procesos

para maximizar el resultado real.

La IA falla cuando se corta en el 70 %.

El precio para eso puede ser pequeño,

desperdiciando muchos, muchos millones
de dólares en tecnología inútil.

¿A alguien le importa?

O tragedias reales:

Las 346 bajas en los accidentes recientes
de dos aviones B-737

cuando los pilotos no podían
interactuar adecuadamente

con un sistema de comando computarizado.

Para un exitoso 70 %, el primer paso

es asegurarse de que los algoritmos
están codificados por científicos de datos

junto a expertos en dominios.

Tomen, por ejemplo,
el cuidado de la salud.

Uno de nuestros equipos trabajó
en un nuevo medicamento

con un pequeño problema

Al tomar la primera dosis,

algunos pacientes, muy pocos,
tienen ataques al corazón

Entonces, todos los pacientes,
cuando toman su primera dosis,

tienen que pasar un día en el hospital

para monitorización, por si acaso.

Nuestro objetivo era identificar pacientes
que tenían cero riesgo de ataques,

que podrían pasar el día en el hospital.

Utilizamos la IA para analizar datos
de ensayos clínicos,

para correlacionar la señal del ECG,
composición sanguínea, biomarcadores,

con riesgo de infarto.

En un mes,

nuestro modelo podría marcar el 62 %
de los pacientes con riesgo cero.

Podrían saltarse el día en el hospital.

¿Estarían cómodos quedándose en casa
para su primera dosis

si es que el algoritmo lo dijo?

(Risas)

Los médicos no.

¿Y si tuviéramos falsos negativos,

es decir, personas a quienes les dice
la AI pueden quedarse en casa y morir?

(Risas)

Ahí comenzó nuestro 70 %.

Trabajamos con un equipo de médicos

para verificar la lógica médica
de cada variable en nuestro modelo.

Por ejemplo, estábamos usando
la concentración de una enzima hepática

como predictor

lo cual para la lógica médica
no era obvio.

La señal estadística fue bastante fuerte.

Pero ¿y si fue un sesgo
en nuestra muestra?

Ese predictor fue sacado del modelo.

También sacamos predictores
para los que los expertos nos dijeron

que no pueden medirse rigurosamente
por médicos en la vida real.

Después de cuatro meses

teníamos un modelo y un protocolo médico.

Ambos fueron aprobados

por mis autoridades medicas
en EE. UU. la primavera pasada,

resultando en mucho menos estrés
para la mitad de los pacientes

y mejor calidad de vida.

Y un alza esperada en las ventas
más de 100 millones para ese fármaco.

Invertir el 70 % entrelazando
la IA con equipo y procesos

también significa
construir interfaces potentes

para humanos y para la IA a fin de juntos
resolver los problemas más difíciles.

Una vez, nos desafió un minorista de moda.

"Tenemos los mejores
compradores del mundo.

¿Podrías construir un motor de IA que
los venciera al pronosticar las ventas?

¿Decir cuántas camisas de hombre XL
de gama alta, verde claro,

tenemos que comprar para el año que viene?

Predecir mejor lo que se venderá o no

que nuestros diseñadores".

Nuestro equipo entrenó un modelo en pocas
semanas, en datos de ventas anteriores,

y se organizó la competencia
con compradores humanos

¿Resultado?

La IA gana, reduciendo los errores de
pronóstico en un 25 %.

Los campeones del cero humanos

podrían haber intentado implementar
este modelo inicial

y crear una pelea con todos
los compradores humanos.

Que les vaya bien.

Pero sabíamos que los compradores humanos
tenían ideas sobre tendencias de la moda

que no se pudieron encontrar
en datos pasados.

Ahí comenzó nuestro 70 %.

Fuimos a una segunda prueba,

donde los compradores humanos
estaban revisando cantidades

sugerida por IA

y podían corregirlos si fuera necesario.

¿Resultado?

Humanos que usan IA...

pierde.

El 75 % de las correcciones
hechas por un humano

estaban reduciendo la precisión.

¿Era hora de deshacerse
de los compradores humanos?

No.

Era hora de recrear un modelo.

donde los humanos no intentarían
adivinar cuando la IA está mal,

sino donde la IA tomaría una entrada real
de compradores humanos.

Reconstruimos completamente el modelo.

y nos alejamos de nuestra
interfaz inicial, que era, más o menos,

"¡Oye, humano! Esto es lo que predije,

corrige lo que quieras"

y se mudó a uno mucho más rico, más como,

"¡Hola, humanos!

No sé las tendencias para el próximo año.

¿Podrían compartir conmigo?
sus mejores apuestas creativas?

"¡Hola, humanos!

Podrían ayudarme a cuantificar
esos pocos artículos grandes?

No puedo encontrar buenos datos
comparables en el pasado para ellos".

¿Resultado?

"Humano más IA" gana,

reduciendo errores
de pronóstico en un 50 %.

Se tardó un año
en finalizar la herramienta.

Largo, costoso y difícil.

Pero las ganancias y beneficios

fueron más de 100 millones de ahorro
por año para ese minorista.

El 70 % en temas muy delicados

también significa que los humanos tienen
que decidir lo que está bien o mal

y definir reglas
sobre lo que la IA puede o no hacer,

como establecer límites en precios para
evitar que motores de fijación de precios

cobren precios escandalosamente altos
a clientes sin educación

¿Quién los aceptaría?

Solo los humanos
pueden definir esos límites.

no hay manera de que la IA
pueda encontrarlos en datos pasados.

Algunas situaciones están en la zona gris.

Trabajamos con una aseguradora de salud.

Desarrolló un motor de IA.
para identificar, entre sus clientes,

personas que están a punto
de ir al hospital

para venderles servicios premium.

Y el problema es que

algunos prospectos los llamó
el equipo comercial

mientras aún no sabían

que tendrían que ir al hospital muy pronto

Eres el CEO de esta empresa.

¿Paras ese programa?

No es una pregunta fácil.

Y para abordar esta pregunta,
algunas compañías están formando equipos,

definen reglas y estándares éticos
para ayudar a equipos empresariales

y tecnológicos a establecer límites
entre personalización y manipulación,

personalización de ofertas
y discriminación,

focalización e intrusión.

Estoy convencido de que en cada empresa,

aplicar IA donde realmente importa
tiene una recuperación masiva.

Los líderes empresariales
deben ser valientes

y seleccionar algunos temas,

y para cada uno de ellos, movilizar 10,
20, 30 personas de sus mejores equipos,

tecnología, IA, ciencia de datos, ética,

e ir a través del ciclo completo
10, 20 y 70 %

de "Humano más IA"

si quieren usar IA de manera efectiva
en sus equipos y procesos.

No hay otra manera.

Ciudadanos en economías desarrolladas
ya temen la algoritmocracia.

Siete mil fueron entrevistados
en una encuesta reciente.

Más del 75 % expresó preocupaciones reales

sobre el impacto de la IA
en la fuerza laboral, en la privacidad,

sobre el riesgo
de una sociedad deshumanizada.

Empujar la algoritmocracia crea un riesgo
real de reacción severa contra la IA

dentro de las empresas
o en la sociedad en general.

"Humano más IA" es nuestra única opción

para traer los beneficios de la IA
al mundo real

Y al fin,

las organizaciones ganadoras
invertirán en conocimiento humano,

no solo en IA y en datos.

Reclutamiento, entrenamiento,
recompensar a los expertos humanos.

Se dice que los datos
son el nuevo petróleo,

pero créanme, el conocimiento humano
marcará la diferencia

porque es la única torre
de perforación disponible

para bombear
el petróleo oculto en los datos.

Gracias.

(Aplausos)