♪ (música) ♪
[Narradora] Bienvenidos
a Conversaciones Nobel.
En este episodio,
Josh Angrist y Guido Imbens
están reunidos con Isaiah Andrews
para debatir y discrepar
sobre el papel
del aprendizaje automático
en la econometría aplicada.
[Isaiah] Bien, por supuesto
que hay muchos temas
en los que ustedes
están muy de acuerdo,
pero me gustaría pasar a uno
sobre el que tal vez
opinen algo distinto.
Me gustaría escuchar
algunas de sus opiniones
sobre el aprendizaje automático
y el papel que desempeña
y desempeñará en la economía.
[Guido] He consultado
algunos datos,
como los datos privados.
Vemos que no hay
ningún documento publicado allí.
Se hizo un experimento
sobre algún algoritmo de búsqueda
y la cuestión era...
se trataba de clasificar cosas
y cambiar la clasificación.
Y estaba más o menos claro
que iba a haber
mucha heterogeneidad.
Si buscas, digamos,
una foto de Britney Spears,
realmente no importa
dónde la clasifiques
porque vas a encontrar
lo que estás buscando,
ya sea que la clasifiques
en primera, segunda
o tercera posición.
Pero si estás buscando
el mejor libro de econometría,
ya sea que pongas tu libro
en el primer lugar o en el décimo,
eso va a suponer
una gran diferencia
en la frecuencia
con la que la gente
hará clic en él.
Así que ahí...
[Josh] ¿Por qué necesito
el aprendizaje automático
para descubrir eso?
Porque parece que puedo descubrirlo
de forma sencilla.
[Guido] En general...
[Josh] Había
un montón de posibles...
[Guido]...quieres pensar
que los artículos
tienen un montón
de características,
que quieres entender
lo que impulsa la heterogeneidad
en el efecto de...
[Josh] Pero solo estás prediciendo.
En cierto sentido,
estás resolviendo
un problema de marketing.
[Guido] No, es un efecto causal,
[Josh] Es causal, pero no tiene
contenido científico.
Piensa en...
[Guido] No,
pero hay cosas similares
en el ámbito médico.
Si haces un experimento,
puedes estar muy interesado
en si el tratamiento funciona
para algunos grupos o no.
Y tienes un montón
de características individuales,
y
quieres buscar sistemáticamente...
[Josh] Sí.
Tengo mis dudas sobre esa...
esa especie de idea de que hay
un efecto causal personal
que me debería importar
y que el aprendizaje automático
puede descubrirlo
de alguna manera que sea útil.
Así que piensa en...
He trabajado mucho en las escuelas,
yendo a, digamos,
una escuela chárter,
una escuela privada
financiada con fondos públicos,
efectivamente,
que es libre de estructurar
su propio plan de estudios
en función del contexto.
Algunos tipos de escuelas chárter
consiguen
un rendimiento espectacular
y en el conjunto de datos
que produce ese resultado,
tengo un montón de covariables.
Tengo
las puntuaciones de referencia
y los antecedentes familiares,
la educación de los padres,
el sexo del niño, la raza del niño.
Y, bueno, en cuanto reúno
media docena de ellas,
tengo un espacio
de muy alta dimensión.
Sin duda, me interesan
las características del curso
de ese efecto del tratamiento
como; por ejemplo, si es mejor
para las personas
que provienen de familias
con menores ingresos.
Me cuesta creer
que haya una aplicación
para la versión
de muy alta dimensión,
en la que descubrí
que para los niños no blancos
que tienen
ingresos familiares altos
pero puntuaciones de referencia
en el tercer cuartil
y que solo fueron
a la escuela pública
en el tercer grado
pero no en el sexto.
Así que eso es lo que produce
ese análisis de alta dimensión.
Es una declaración condicional
muy elaborada.
Hay dos cosas que están mal,
en mi opinión.
En primer lugar, no lo veo como...
No puedo imaginar
por qué es algo procesable.
No sé por qué
querrías actuar sobre ello.
Y también sé que hay
algún modelo alternativo
que encaja casi igual de bien,
que lo invierte todo.
Porque el aprendizaje automático
no me dice que este es realmente
el predictor que importa,
solo me dice que este es
un buen predictor.
Así que creo,
que hay algo diferente
en el contexto
de las ciencias sociales.
[Guido] Creo que las aplicaciones
de las ciencias sociales
de las que hablas
son aquellas en las que, creo,
no hay una gran cantidad
de heterogeneidad en los efectos.
[Josh] Bueno, podría haberla
si me permites llenar ese espacio.
[Guido] No... ni siquiera entonces.
Creo que para muchas
de esas intervenciones,
se espera que el efecto
sea del mismo signo para todos.
Puede haber pequeñas diferencias
en la magnitud, pero no es...
Porque muchas de estas
diferencias educativas
son buenas para todos.
No es que sean malas
para algunas personas
y buenas para otras
y luego hay unos pocos casos
en los que son malas.
Pero puede haber algo
de variación en la magnitud,
pero se necesitarían
conjuntos de datos
muy muy grandes para encontrarlos.
Estoy de acuerdo
en que, en esos casos,
probablemente no serían
muy procesables de todos modos.
Pero creo que hay
muchos otros escenarios
donde hay mucha más heterogeneidad.
[Josh] Bueno, estoy abierto
a esa posibilidad
y creo que el ejemplo que has dado
es esencialmente
un ejemplo de marketing.
[Guido] No, esos tienen
implicaciones respecto a ello
y esa es la organización,
si tienes que preocuparte por la...
[Josh] Bueno, necesito
ver ese documento.
[Isaiah] Así que, la sensación
que tengo es que...
[Josh] Todavía estamos
en desacuerdo en algo.
- [Isaiah] Sí.
- [Josh] No coincidimos en todo.
[Isaiah] Tengo esa sensación.
[risas]
[Josh] En realidad,
hemos discrepado en esto
porque no estaba para discutir.
[risas]
[Guido] ¿Se está poniendo
algo caluroso aquí?
[Isaiah] Caluroso.
Es bueno que esté caluroso.
La sensación que tengo es, Josh,
que no estás diciendo
que estás seguro
de que no hay manera
de que haya una aplicación
en la que estas cosas sean útiles.
Estás diciendo
que no estás convencido
con las aplicaciones existentes
hasta la fecha.
- Me parece bien.
- [Guido] Estoy muy seguro.
[risas]
[Josh] En este caso.
[Guido] Creo que Josh tiene razón
en que incluso
en los casos de predicción,
donde muchos de los métodos
de aprendizaje automático
realmente se destacan es donde hay
un montón de heterogeneidad.
[Josh] No te importan mucho
los detalles, ¿verdad?
[Guido] Sí.
[Josh] No tiene
un ángulo normativo o algo así.
[Guido] El reconocimiento
de dígitos escritos a mano
y demás...
lo hace mucho mejor
que construir un modelo complicado.
Pero muchas
de las ciencias sociales,
muchas
de las aplicaciones económicas,
en realidad, sabemos mucho
sobre la relación
entre sus variables.
Muchas de las relaciones
son estrictamente monótonas.
La educación va a aumentar
los ingresos de la gente,
sin importar
las características demográficas,
sin importar el nivel
de educación que se tenga.
[Isaiah] Hasta que lleguen
a un doctorado.
[Josh] ¿Eso se aplica
a la escuela de posgrado?
[risas]
[Guido] En un rango razonable.
No va a bajar mucho.
En muchos de los entornos
en los que se destacan
estos métodos
de aprendizaje automático,
hay mucha falta de monotonicidad,
una especie de multimodalidad
en estas relaciones
y van a ser muy poderosos.
Pero sigo sosteniendo lo mismo.
Estos métodos tienen mucho
para ofrecerles a los economistas
y serán una gran parte del futuro.
APLICACIONES
DEL APRENDIZAJE AUTOMÁTICO
[Isaiah] Parece que hay
algo interesante por decir
sobre el aprendizaje automático.
Así que, Guido, me preguntaba
¿podrías dar tal vez
algunos de los ejemplos
que estás pensando
con las aplicaciones
que salen en el momento?
[Guido] Un área
es donde en lugar de buscar
efectos causales promedio
estamos buscando
estimaciones individualizadas,
predicciones de efectos causales,
y allí, los algoritmos
de aprendizaje automático
han sido muy eficaces.
Hasta ahora,
hemos hecho estas cosas
utilizando los métodos de Kernel,
y teóricamente, funcionan muy bien,
y hay quienes comentan
que, formalmente,
no se puede hacer nada mejor.
Pero en la práctica,
no funcionan muy bien.
Las cosas aleatorias
de tipo bosque causal
en las que Stefan Wager
y Susan Athey
han estado trabajando
se utilizan muy ampliamente.
Han sido muy eficaces
en estos entornos
para obtener efectos causales
que varían según las covariables.
Creo que esto es solo el comienzo
de estos métodos.
Pero en muchos casos,
estos algoritmos son muy eficaces,
como en la búsqueda
en grandes espacios
y encontrar las funciones
que se ajustan muy bien
en formas que realmente
no podíamos hacer antes.
[Josh] No conozco ningún ejemplo
en el que el aprendizaje automático
haya generado conocimientos
sobre un efecto causal
que me interese.
Y sí conozco ejemplos
en los que es potencialmente
muy engañoso.
He trabajado con Brigham Frandsen
utilizando, por ejemplo,
bosques aleatorios
para modelar los efectos
de las covariables
en un problema
de variables instrumentales
en el que hay que condicionar
las covariables.
Y no tienes
un sentimiento muy fuerte
sobre la forma funcional para eso,
así que tal vez
se debería curvar...
estar abierto
a un ajuste flexible de la curva.
Y eso te lleva a un camino
donde hay un montón
de no linealidades en el modelo,
y eso es muy peligroso con el VI
porque cualquier tipo
de no linealidad excluida
genera potencialmente
un efecto causal espurio
y Brigham y yo lo mostramos,
creo que muy convincentemente,
en el caso de dos instrumentos
que vienen de un trabajo mío
con Bill Evans,
donde, si se reemplaza...
un estimador tradicional
de mínimos cuadrados en dos etapas
con algún tipo de bosque aleatorio,
se obtienen estimaciones
sin sentido muy precisas.
Creo que eso
es una gran advertencia.
A la vista de esos resultados,
en un ejemplo que me interese
en el que los instrumentos
sean muy simples
y crea que son válidos,
sería escéptico al respecto.
La no linealidad y el VI
no se mezclan muy cómodamente.
[Guido] No, parece que eso
ya es más complicado...
- [Josh] Bueno, es VI...
- [Guido] Sí.
[Josh] pero
luego trabajamos en eso.
[risas]
[Guido] Está bien.
OPORTUNIDADES
PARA PUBLICAR EN REVISTAS
[Guido] Como editor
de Econometrica,
muchos de estos trabajos
llegan a mi escritorio,
pero la motivación no es clara
y, de hecho, realmente no existe.
No son... artículos fundacionales
de tipo semiparamétrico.
Así que, ese es un gran problema.
Un problema relacionado
es que, en econometría,
tenemos la tradición
de estar muy centrados
en estos resultados
asintóticos formales.
Tenemos muchos artículos
en los que la gente
propone un método
y luego establece
las propiedades asintóticas
de una manera muy estandarizada.
[Josh] ¿Es eso malo?
[Guido] Bueno, creo
que les ha cerrado la puerta
a muchos trabajos que no encajan
en la literatura
del aprendizaje automático,
donde muchas cosas
son más algorítmicas.
La gente tenía algoritmos
para hacer predicciones
que resultaron funcionar
mucho mejor que, por ejemplo,
la regresión Kernel no paramétrica.
Durante mucho tiempo,
en econometría
hicimos toda la no paramétrica
y usamos la regresión Kernel.
Y eso fue genial
para probar teoremas.
Podías obtener
intervalos de confianza,
consistencia, normalidad asintótica
y todo iba genial,
pero no era muy útil.
Y las cosas que hicieron
en el aprendizaje automático
son mucho, mucho mejores.
Pero no tenían el problema...
[Josh] Ese no es mi problema
con el aprendizaje automático,
que la teoría sea débil.
[risas]
[Guido] No, pero estoy diciendo
que, en cuanto a la predicción,
lo hace mucho mejor.
[Josh] Sí, es una mejor herramienta
de ajuste de curvas.
[Guido] Pero lo hizo de una manera
que no habría hecho
que esos trabajos fueran
inicialmente fáciles de incorporar
en las revistas de econometría,
porque no estaba probando
el tipo de cosas...
Cuando Breiman hacía
sus árboles de regresión...
simplemente no encajaban.
Creo que le habría sido muy difícil
publicar estas cosas
en las revistas de econometría.
Creo que nos hemos limitado
demasiado
y nos hemos cerrado
a muchos de estos métodos
de aprendizaje automático
que son realmente muy útiles.
Es decir, creo, en general,
que la literatura,
los ingenieros de sistemas
han presentado una gran cantidad
de estos algoritmos,
han propuesto
una gran cantidad de algoritmos
que realmente son muy útiles
y que están afectando la forma
en que haremos el trabajo empírico.
Pero no lo hemos interiorizado
del todo
porque todavía
estamos muy centrados
en obtener estimaciones puntuales
y obtener errores estándar
y obtener valores P
de una manera
que necesitamos superar
para aprovechar plenamente
la fuerza, los beneficios
de la literatura
de aprendizaje automático.
[Isaiah] Por un lado, creo
que entiendo tu punto de vista
de que el marco tradicional
de la econometría
de proponer un método,
demostrar un teorema límite
bajo alguna historia asintótica,
y otra, y otra y otra...
...y luego publicar
el documento, es restrictivo,
y que, en cierto sentido,
al pensar más ampliamente
sobre cómo podría ser
un documento de métodos,
podemos escribir,
en cierto sentido,
desde luego que la literatura
de aprendizaje automático
ha encontrado un montón de cosas
que parecen funcionar bastante
bien para una serie de problemas
y ahora están influyendo
sustancialmente en la economía.
Supongo que una pregunta
que me interesa
es cómo piensas en el papel de...
¿Crees que no hay valor
en la parte de la teoría?
Porque supongo
que una pregunta
que a menudo me hago
al ver el resultado
de una herramienta
de aprendizaje automático...
y, en realidad, varios
de los métodos de los que hablaste
tienen resultados inferenciales
desarrollados para ellos,
algo que siempre me pregunto,
una especie de cuantificación
de la incertidumbre
y simplemente...
Tengo mi...
vengo al mundo
con mi punto de vista,
veo el resultado de esta cosa.
¿Cómo debo actualizarlo
en función de eso?
Y en cierto sentido,
si estoy en un mundo
donde las cosas
se distribuyen normalmente,
sé cómo hacerlo.
Aquí no lo sé.
Así que, me interesa escuchar
lo que piensas al respecto.
[Guido] No veo esto
como si fuera a decir
que estos resultados
no son interesantes,
pero habrá un montón de casos
en los que va a ser
increíblemente difícil
obtener esos resultados
y puede que no seamos capaces
de llegar allí
y puede que tengamos
que hacerlo en etapas,
donde primero alguien dice:
"Oye, tengo
este algoritmo interesante
para hacer algo",
y funciona bien
según cierto criterio
en este conjunto de datos
en particular,
y debemos ponerlo en conocimiento.
Y tal vez alguien
descubra una forma
en la que más tarde
se pueda seguir haciendo inferencia
bajo algunas condiciones,
y tal vez no sean condiciones
particularmente realistas.
Entonces, podemos ir más allá.
Pero creo que hemos estado
restringiendo demasiado las cosas
donde dijimos:
"Este es el tipo de cosas
que tenemos que hacer".
Y en cierto sentido, eso se remonta
a la forma en que Josh
y yo pensamos
respecto del efecto
del tratamiento local promedio.
Esa no era la forma
en que la gente pensaba
en estos problemas anteriormente.
Había una sensación
de que algunas personas
decían que la forma
de hacer estas cosas;
es decir, primero,
lo que te interesa estimar
y luego hacer lo mejor
que puedas en la estimación.
Y lo que ustedes hacen
es hacerlo al revés.
Ustedes dicen:
"Aquí tengo un estimador
y ahora voy a averiguar
qué está estimando".
Y supongo que vas a decir
por qué crees que es interesante
o tal vez por qué no es interesante
y eso no está bien.
No está permitido
hacerlo de esa manera.
Y creo que deberíamos ser
un poco más flexibles
a la hora de pensar
en cómo ver los problemas
porque creo que nos hemos perdido
algunas cosas por no hacer eso.
¡ISAIAH ANDREWS ARBITRA!
[Josh] Así que, has escuchado
nuestros puntos de vista, Isaiah,
y has visto que no estamos
de acuerdo en algunos puntos.
¿Por qué no nos arbitras
esta disputa? [risas]
[Isaiah] Oh, qué amable eres
al hacerme una pequeña pregunta.
[risas]
Así que supongo que, por un lado,
estoy muy de acuerdo con algo
que Guido dijo antes de... [risas]
Así que, un aspecto
en el que el asunto
del aprendizaje automático
parece relativamente claro
es en los entornos
donde nos interesa
alguna versión de un problema
de predicción no paramétrica.
Así que estoy interesado
en la estimación
de una expectativa condicional
o probabilidad condicional,
y en el pasado, tal vez
habría utilizado un Kernel...
Habría utilizado
una regresión Kernel
o habría utilizado una regresión
en serie, o algo por el estilo.
Parece que, en este momento,
tenemos una idea bastante clara
de que, en una amplia gama
de aplicaciones,
los métodos
de aprendizaje automático
parecen funcionar mejor
para estimar las funciones
de media condicional,
o las probabilidades condicionales,
o varios otros objetos
no paramétricos
que los métodos no paramétricos
más tradicionales
que se estudiaron
en econometría y estadística,
especialmente en entornos
de alta dimensión.
[Josh] ¿Así que, estás pensando
en la puntuación de propensión
o algo así?
- [Isaiah] Sí, exactamente.
- [Guido] Funciones de molestia.
[Isaiah] Sí, cosas como
las puntuaciones de propensión.
Incluso objetos
de interés más directo,
como los efectos
del tratamiento condicional medio,
que son la diferencia
de dos funciones
de expectativa condicional,
potencialmente cosas así.
Por supuesto,
incluso allí la teoría...
La inferencia de la teoría
de cómo interpretar,
cómo hacer declaraciones
de muestras grandes
sobre algunas de estas cosas
están menos desarrolladas
dependiendo del estimador
de aprendizaje automático
que se utilice.
Y así, creo que algo
que es complicado
es que podemos tener estos métodos,
que funcionan mucho...
que parecen funcionar mucho mejor
para algunos fines,
pero que tenemos que ser
un poco cuidadosos
en cómo los incorporamos
o cómo interpretamos
las declaraciones resultantes.
Pero, por supuesto,
esa es un área muy, muy activa
ahora mismo en la que la gente
está haciendo un gran trabajo.
Así que, espero ver
mucho más en el futuro.
Un problema
con el aprendizaje automático
que siempre parece un peligro es...
o que a veces es un peligro
y que a veces ha llevado
a aplicaciones
que han tenido menos sentido
es cuando la gente empieza
con un método
que les entusiasma mucho
en lugar de una pregunta.
Así que empezar con una pregunta
donde aquí está el objeto
que me interesa,
aquí está el parámetro de interés,
déjame pensar
en cómo identificaría esa cosa,
cómo recuperaría esa cosa
si tuviera una tonelada de datos.
Vaya, aquí hay una función
de expectativa condicional,
permítanme incorporar un estimador
de aprendizaje automático para eso,
eso parece muy muy sensato.
Mientras que, ya sabes,
si hago una regresión
de la cantidad sobre el precio
y digo que he utilizado
un método
de aprendizaje automático,
tal vez estoy satisfecho
de que eso resuelva
el problema de endogeneidad
que normalmente nos preocupa allí;
tal vez no lo estoy.
Pero, de nuevo, allí
la forma de abordarlo
parece relativamente clara.
Es encontrar tu objeto
de interés y pensar en...
[Guido] Es simplemente
incorporar la economía.
[Isaiah] Exactamente.
[Guido] Y pensar
en la heterogeneidad,
pero aprovechar
el poder de los métodos
de aprendizaje automático
para algunos de los componentes.
[Isaiah] Precisamente.
Exactamente.
Así que la cuestión de interés
es la misma de siempre,
pero ahora tenemos mejores métodos
para estimar
algunas partes de esto.
Lo que parece
más difícil de pronosticar
es que, obviamente,
ocurren muchas cosas
dentro de la literatura
de aprendizaje automático
y las formas limitadas
de incorporarlo
a las que he hecho referencia
hasta ahora
son una parte limitada de eso.
Así que, creo que hay
muchas otras preguntas interesantes
sobre dónde...
¿a dónde va esta interacción?
¿Qué más podemos aprender?
Y eso es algo en lo que creo
que hay mucho trabajo en curso,
lo que parece muy prometedor,
y no tengo ni idea
de cuál es la respuesta.
[Guido] No, estoy totalmente
de acuerdo con eso,
pero eso lo hace muy emocionante.
Y creo que hay un montón
de trabajo por hacer allí.
Muy bien.
Entonces, Isaiah
está de acuerdo conmigo en eso.
[risas]
[Isaiah] Yo no he dicho eso en sí.
[risas]
♪ (música) ♪
[Narradora] Si desea ver más
de Conversaciones Nobel,
haga clic aquí.
O si quiere aprender más
sobre econometría,
eche un vistazo a la serie
Mastering Econometrics de Josh.
Si quiere saber más
sobre Guido, Josh e Isaiah,
consulte los enlaces
en la descripción.
♪ (música) ♪