[Script Info] Title: [Events] Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text Dialogue: 0,0:00:01.04,0:00:04.18,Default,,0000,0000,0000,,Hola, soy Joy, una poetisa del código, Dialogue: 0,0:00:04.20,0:00:09.19,Default,,0000,0000,0000,,en una misión para frenar\Nuna fuerza invisible que crece, Dialogue: 0,0:00:09.22,0:00:12.07,Default,,0000,0000,0000,,una fuerza que llamo "mirada codificada", Dialogue: 0,0:00:12.10,0:00:15.40,Default,,0000,0000,0000,,mi término para el sesgo algorítmico. Dialogue: 0,0:00:15.43,0:00:19.73,Default,,0000,0000,0000,,El sesgo algorítmico, como el humano,\Nse traduce en injusticia. Dialogue: 0,0:00:19.75,0:00:25.78,Default,,0000,0000,0000,,Pero, los algoritmos, como los virus,\Npueden propagar sesgos a gran escala Dialogue: 0,0:00:25.80,0:00:27.38,Default,,0000,0000,0000,,a un ritmo acelerado. Dialogue: 0,0:00:27.94,0:00:32.33,Default,,0000,0000,0000,,El sesgo algorítmico puede también\Ngenerar experiencias de exclusión Dialogue: 0,0:00:32.35,0:00:34.48,Default,,0000,0000,0000,,y prácticas discriminatorias. Dialogue: 0,0:00:34.51,0:00:36.57,Default,,0000,0000,0000,,Les mostraré lo que quiero decir. Dialogue: 0,0:00:36.98,0:00:39.76,Default,,0000,0000,0000,,(Video) Joy Buolamwini: Hola, cámara.\NTengo una cara. Dialogue: 0,0:00:40.16,0:00:42.03,Default,,0000,0000,0000,,¿Puedes ver mi cara? Dialogue: 0,0:00:42.05,0:00:43.68,Default,,0000,0000,0000,,¿Sin lentes? Dialogue: 0,0:00:43.70,0:00:45.92,Default,,0000,0000,0000,,Puedes ver su cara. Dialogue: 0,0:00:46.24,0:00:48.48,Default,,0000,0000,0000,,¿Qué tal mi cara? Dialogue: 0,0:00:51.89,0:00:55.64,Default,,0000,0000,0000,,Tengo una máscara. ¿Puedes verla? Dialogue: 0,0:00:56.47,0:00:58.84,Default,,0000,0000,0000,,Joy Buolamwini: ¿Cómo ocurrió esto? Dialogue: 0,0:00:58.86,0:01:02.00,Default,,0000,0000,0000,,¿Por qué estoy ante una computadora Dialogue: 0,0:01:02.03,0:01:03.45,Default,,0000,0000,0000,,con una máscara blanca, Dialogue: 0,0:01:03.48,0:01:07.13,Default,,0000,0000,0000,,intentando que una cámara\Nbarata me detecte? Dialogue: 0,0:01:07.15,0:01:09.44,Default,,0000,0000,0000,,Cuando no lucho\Ncontra la mirada codificada Dialogue: 0,0:01:09.46,0:01:10.98,Default,,0000,0000,0000,,como poetisa del código, Dialogue: 0,0:01:11.01,0:01:14.28,Default,,0000,0000,0000,,soy estudiante de posgrado\Nen el Laboratorio de Medios del MIT, Dialogue: 0,0:01:14.30,0:01:19.22,Default,,0000,0000,0000,,y allí puedo trabajar\Nen todo tipo de proyectos caprichosos, Dialogue: 0,0:01:19.25,0:01:21.27,Default,,0000,0000,0000,,incluso el Aspire Mirror, Dialogue: 0,0:01:21.30,0:01:26.43,Default,,0000,0000,0000,,un proyecto que realicé para proyectar\Nmáscaras digitales en mi propio reflejo. Dialogue: 0,0:01:26.46,0:01:28.80,Default,,0000,0000,0000,,Entonces, de mañana,\Nsi quería sentirme poderosa, Dialogue: 0,0:01:28.83,0:01:30.26,Default,,0000,0000,0000,,podía convertirme en león. Dialogue: 0,0:01:30.29,0:01:33.78,Default,,0000,0000,0000,,Si quería inspiración,\Npodía usar una cita. Dialogue: 0,0:01:33.81,0:01:36.80,Default,,0000,0000,0000,,Entonces, usé el software\Nde reconocimiento facial Dialogue: 0,0:01:36.82,0:01:38.17,Default,,0000,0000,0000,,para crear el sistema, Dialogue: 0,0:01:38.20,0:01:43.30,Default,,0000,0000,0000,,pero me resultó muy difícil probarlo\Nsin colocarme una máscara blanca. Dialogue: 0,0:01:44.28,0:01:48.63,Default,,0000,0000,0000,,Desafortunadamente, ya tuve\Neste problema antes. Dialogue: 0,0:01:48.65,0:01:52.96,Default,,0000,0000,0000,,Cuando era estudiante de informática\Nen Georgia Tech, Dialogue: 0,0:01:52.98,0:01:55.03,Default,,0000,0000,0000,,solía trabajar con robots sociales, Dialogue: 0,0:01:55.06,0:01:58.84,Default,,0000,0000,0000,,y una de mis tareas fue lograr\Nque un robot jugara a esconderse, Dialogue: 0,0:01:58.86,0:02:00.46,Default,,0000,0000,0000,,un juego de turnos simple Dialogue: 0,0:02:00.46,0:02:04.100,Default,,0000,0000,0000,,donde las personas cubren sus rostros y\Nluego las descubren diciendo: "Aquí está". Dialogue: 0,0:02:04.100,0:02:09.34,Default,,0000,0000,0000,,El problema es que el juego\Nno funciona, si no te pueden ver Dialogue: 0,0:02:09.36,0:02:11.86,Default,,0000,0000,0000,,y el robot no me veía. Dialogue: 0,0:02:11.89,0:02:15.84,Default,,0000,0000,0000,,Pero usé el rostro de mi compañera\Npara terminar el proyecto, Dialogue: 0,0:02:15.86,0:02:17.24,Default,,0000,0000,0000,,entregué la tarea, Dialogue: 0,0:02:17.26,0:02:21.02,Default,,0000,0000,0000,,y pensé que otra persona\Nresolvería este problema. Dialogue: 0,0:02:21.67,0:02:23.67,Default,,0000,0000,0000,,Al poco tiempo, Dialogue: 0,0:02:23.70,0:02:27.86,Default,,0000,0000,0000,,me encontraba en Hong Kong\Nen una competencia de emprendedores. Dialogue: 0,0:02:28.34,0:02:31.03,Default,,0000,0000,0000,,Los organizadores decidieron\Nllevar a los participantes Dialogue: 0,0:02:31.06,0:02:33.43,Default,,0000,0000,0000,,a un recorrido\Npor empresas locales emergentes. Dialogue: 0,0:02:33.45,0:02:36.17,Default,,0000,0000,0000,,Una de ellas tenía un robot social, Dialogue: 0,0:02:36.19,0:02:38.10,Default,,0000,0000,0000,,y decidieron hacer una demostración. Dialogue: 0,0:02:38.13,0:02:41.11,Default,,0000,0000,0000,,La demostración funcionó bien\Nhasta que llegó mi turno, Dialogue: 0,0:02:41.13,0:02:43.06,Default,,0000,0000,0000,,y probablemente pueden adivinar. Dialogue: 0,0:02:43.08,0:02:46.04,Default,,0000,0000,0000,,No pudo detectar mi rostro. Dialogue: 0,0:02:46.07,0:02:48.58,Default,,0000,0000,0000,,Pregunté a los desarrolladores qué pasaba, Dialogue: 0,0:02:48.60,0:02:54.14,Default,,0000,0000,0000,,y resultó que habíamos usado el mismo\Nsoftware genérico de reconocimiento. Dialogue: 0,0:02:54.16,0:02:55.81,Default,,0000,0000,0000,,Al otro lado del mundo, Dialogue: 0,0:02:55.83,0:02:59.69,Default,,0000,0000,0000,,aprendí que el sesgo algorítmico\Npuede viajar tan rápido Dialogue: 0,0:02:59.71,0:03:02.88,Default,,0000,0000,0000,,como el tiempo que lleva\Ndescargar archivos de Internet. Dialogue: 0,0:03:03.74,0:03:06.82,Default,,0000,0000,0000,,Entonces, ¿qué sucede?\N¿Por qué no se detecta mi rostro? Dialogue: 0,0:03:06.84,0:03:10.20,Default,,0000,0000,0000,,Bueno, debemos pensar\Ncómo hacemos que las máquinas vean. Dialogue: 0,0:03:10.22,0:03:13.63,Default,,0000,0000,0000,,La visión por computadora\Nusa técnicas de aprendizaje de máquina Dialogue: 0,0:03:13.66,0:03:15.54,Default,,0000,0000,0000,,para el reconocimiento facial. Dialogue: 0,0:03:15.56,0:03:19.46,Default,,0000,0000,0000,,Se trabaja así, creando una serie\Nde prueba con ejemplos de rostros. Dialogue: 0,0:03:19.48,0:03:22.30,Default,,0000,0000,0000,,Esto es un rostro. Esto es un rostro.\NEsto no lo es. Dialogue: 0,0:03:22.32,0:03:26.84,Default,,0000,0000,0000,,Con el tiempo, puedes enseñar\Na una computadora a reconocer rostros. Dialogue: 0,0:03:26.87,0:03:30.86,Default,,0000,0000,0000,,Sin embargo, si las series de prueba\Nno son realmente diversas, Dialogue: 0,0:03:30.88,0:03:34.23,Default,,0000,0000,0000,,todo rostro que se desvíe mucho\Nde la norma establecida Dialogue: 0,0:03:34.25,0:03:35.90,Default,,0000,0000,0000,,será más difícil de detectar, Dialogue: 0,0:03:35.93,0:03:37.89,Default,,0000,0000,0000,,que es lo que me sucedía a mí. Dialogue: 0,0:03:37.91,0:03:40.30,Default,,0000,0000,0000,,Pero no se preocupen,\Ntengo buenas noticias. Dialogue: 0,0:03:40.32,0:03:43.09,Default,,0000,0000,0000,,Las series de prueba\Nno se materializan de la nada. Dialogue: 0,0:03:43.12,0:03:44.90,Default,,0000,0000,0000,,En verdad las podemos crear. Dialogue: 0,0:03:44.93,0:03:49.10,Default,,0000,0000,0000,,Por ende, se pueden crear\Nseries de prueba con espectros completos Dialogue: 0,0:03:49.13,0:03:52.95,Default,,0000,0000,0000,,que reflejen de manera más exhaustiva\Nun retrato de la humanidad. Dialogue: 0,0:03:52.98,0:03:55.20,Default,,0000,0000,0000,,Ya han visto en mis ejemplos Dialogue: 0,0:03:55.22,0:03:56.99,Default,,0000,0000,0000,,cómo con los robots sociales Dialogue: 0,0:03:57.01,0:04:01.62,Default,,0000,0000,0000,,me enteré de la exclusión\Npor el sesgo algorítmico. Dialogue: 0,0:04:01.65,0:04:06.46,Default,,0000,0000,0000,,Además, el sesgo algorítmico\Npuede generar prácticas discriminatorias. Dialogue: 0,0:04:07.44,0:04:08.89,Default,,0000,0000,0000,,En EE.UU. Dialogue: 0,0:04:08.91,0:04:13.11,Default,,0000,0000,0000,,los departamentos de policía incorporan\Nsoftware de reconocimiento facial Dialogue: 0,0:04:13.14,0:04:15.60,Default,,0000,0000,0000,,en su arsenal\Npara la lucha contra el crimen. Dialogue: 0,0:04:15.62,0:04:17.63,Default,,0000,0000,0000,,Georgetown publicó un informe Dialogue: 0,0:04:17.66,0:04:24.42,Default,,0000,0000,0000,,que muestra que uno de cada dos adultos\Nen EE.UU., 117 millones de personas, Dialogue: 0,0:04:24.44,0:04:27.98,Default,,0000,0000,0000,,tiene sus rostros en redes\Nde reconocimiento facial. Dialogue: 0,0:04:28.00,0:04:32.55,Default,,0000,0000,0000,,Los departamentos de policía hoy\Ntienen acceso a esas redes no reguladas, Dialogue: 0,0:04:32.58,0:04:36.86,Default,,0000,0000,0000,,mediante algoritmos cuya exactitud\Nno ha sido testeada. Dialogue: 0,0:04:36.89,0:04:40.75,Default,,0000,0000,0000,,Sabemos que el reconocimiento facial\Nno es a prueba de fallas Dialogue: 0,0:04:40.78,0:04:44.95,Default,,0000,0000,0000,,y etiquetar rostros de forma consistente\Naún es un desafío. Dialogue: 0,0:04:44.98,0:04:46.74,Default,,0000,0000,0000,,Tal vez lo han visto en Facebook. Dialogue: 0,0:04:46.76,0:04:49.75,Default,,0000,0000,0000,,Mis amigos y yo nos reímos,\Ncuando vemos a otros Dialogue: 0,0:04:49.78,0:04:52.23,Default,,0000,0000,0000,,mal etiquetados en nuestras fotos. Dialogue: 0,0:04:52.26,0:04:57.85,Default,,0000,0000,0000,,Pero identificar mal a un sospechoso\Nno es un tema para reírse, Dialogue: 0,0:04:57.87,0:05:00.70,Default,,0000,0000,0000,,tampoco lo es violar la libertad civil. Dialogue: 0,0:05:00.72,0:05:03.93,Default,,0000,0000,0000,,El aprendizaje automático se usa\Npara el reconocimiento facial, Dialogue: 0,0:05:03.95,0:05:08.46,Default,,0000,0000,0000,,pero también se está extendiendo\Nal campo de la visión por computadora. Dialogue: 0,0:05:09.27,0:05:13.28,Default,,0000,0000,0000,,En su libro, "Armas de\Ndestrucción matemática", Dialogue: 0,0:05:13.31,0:05:19.99,Default,,0000,0000,0000,,la científica de datos Cathy O'Neil\Nhabla sobre los nuevos WMDs, Dialogue: 0,0:05:20.01,0:05:24.36,Default,,0000,0000,0000,,algoritmos amplios,\Nmisteriosos y destructivos Dialogue: 0,0:05:24.39,0:05:27.35,Default,,0000,0000,0000,,que se usan cada vez más\Npara tomar decisiones Dialogue: 0,0:05:27.38,0:05:30.55,Default,,0000,0000,0000,,que influyen sobre muchos aspectos\Nde nuestras vidas. Dialogue: 0,0:05:30.58,0:05:32.45,Default,,0000,0000,0000,,¿A quién se contrata o se despide? Dialogue: 0,0:05:32.47,0:05:34.58,Default,,0000,0000,0000,,¿Recibes el préstamo?\N¿Y la cobertura de seguros? Dialogue: 0,0:05:34.61,0:05:38.11,Default,,0000,0000,0000,,¿Eres aceptado en la universidad\Na la que deseas entrar? Dialogue: 0,0:05:38.13,0:05:41.64,Default,,0000,0000,0000,,¿Tú y yo pagamos el mismo precio\Npor el mismo producto Dialogue: 0,0:05:41.67,0:05:44.11,Default,,0000,0000,0000,,comprado en la misma plataforma? Dialogue: 0,0:05:44.13,0:05:47.89,Default,,0000,0000,0000,,La aplicación de la ley también empieza\Na usar el aprendizaje de máquina Dialogue: 0,0:05:47.92,0:05:50.20,Default,,0000,0000,0000,,para la predicción de la policía. Dialogue: 0,0:05:50.20,0:05:54.12,Default,,0000,0000,0000,,Algunos jueces usan puntajes de riesgo\Ngenerados por máquinas para determinar Dialogue: 0,0:05:54.12,0:05:58.15,Default,,0000,0000,0000,,cuánto tiempo un individuo\Npermanecerá en prisión. Dialogue: 0,0:05:58.17,0:06:00.63,Default,,0000,0000,0000,,Así que hay que pensar\Nsobre estas decisiones. Dialogue: 0,0:06:00.65,0:06:01.83,Default,,0000,0000,0000,,¿Son justas? Dialogue: 0,0:06:01.86,0:06:04.75,Default,,0000,0000,0000,,Y hemos visto que el sesgo algorítmico Dialogue: 0,0:06:04.77,0:06:08.14,Default,,0000,0000,0000,,no necesariamente lleva siempre\Na resultados justos. Dialogue: 0,0:06:08.17,0:06:10.13,Default,,0000,0000,0000,,Entonces, ¿qué podemos hacer al respecto? Dialogue: 0,0:06:10.16,0:06:13.84,Default,,0000,0000,0000,,Bueno, podemos empezar a pensar en\Ncómo creamos un código más inclusivo Dialogue: 0,0:06:13.86,0:06:16.85,Default,,0000,0000,0000,,y emplear prácticas\Nde codificación inclusivas. Dialogue: 0,0:06:16.88,0:06:19.18,Default,,0000,0000,0000,,Realmente empieza con la gente. Dialogue: 0,0:06:19.71,0:06:21.67,Default,,0000,0000,0000,,Con los que codifican cosas. Dialogue: 0,0:06:21.69,0:06:25.66,Default,,0000,0000,0000,,¿Estamos creando equipos de\Namplio espectro con diversidad de personas Dialogue: 0,0:06:25.66,0:06:28.25,Default,,0000,0000,0000,,que pueden comprobar\Nlos puntos ciegos de los demás? Dialogue: 0,0:06:28.27,0:06:31.82,Default,,0000,0000,0000,,Desde el punto de vista técnico,\Nimporta cómo codificamos. Dialogue: 0,0:06:31.84,0:06:35.49,Default,,0000,0000,0000,,¿Lo gestionamos con equidad\Nal desarrollar los sistemas? Dialogue: 0,0:06:35.52,0:06:38.43,Default,,0000,0000,0000,,Y finalmente, importa por qué\Ncodificamos. Dialogue: 0,0:06:38.50,0:06:40.89,Default,,0000,0000,0000,,Hemos usado herramientas informáticas Dialogue: 0,0:06:40.89,0:06:43.89,Default,,0000,0000,0000,,para generar una riqueza inmensa. Dialogue: 0,0:06:43.89,0:06:48.34,Default,,0000,0000,0000,,Ahora tenemos la oportunidad de generar\Nuna igualdad aún más grande Dialogue: 0,0:06:48.36,0:06:51.29,Default,,0000,0000,0000,,si hacemos del cambio social una prioridad Dialogue: 0,0:06:51.32,0:06:53.49,Default,,0000,0000,0000,,y no solo un pensamiento. Dialogue: 0,0:06:54.01,0:06:58.53,Default,,0000,0000,0000,,Estos son los tres principios que \Nconstituirán el movimiento "codificador". Dialogue: 0,0:06:58.55,0:07:00.21,Default,,0000,0000,0000,,Quién codifica importa, Dialogue: 0,0:07:00.23,0:07:01.77,Default,,0000,0000,0000,,cómo codificamos importa, Dialogue: 0,0:07:01.80,0:07:03.82,Default,,0000,0000,0000,,y por qué codificamos importa. Dialogue: 0,0:07:03.84,0:07:06.94,Default,,0000,0000,0000,,Así que, para abordar la codificación,\Npodemos empezar a pensar Dialogue: 0,0:07:06.97,0:07:10.13,Default,,0000,0000,0000,,en construir plataformas\Nque puedan identificar sesgos Dialogue: 0,0:07:10.16,0:07:13.23,Default,,0000,0000,0000,,reuniendo experiencias de la gente\Ncomo las que compartí, Dialogue: 0,0:07:13.26,0:07:16.33,Default,,0000,0000,0000,,pero también auditando\Nel software existente. Dialogue: 0,0:07:16.35,0:07:20.12,Default,,0000,0000,0000,,También podemos crear\Ngrupos de formación más inclusivos. Dialogue: 0,0:07:20.14,0:07:22.94,Default,,0000,0000,0000,,Imaginen una campaña de\N"Selfies por la inclusión" Dialogue: 0,0:07:22.97,0:07:26.62,Default,,0000,0000,0000,,donde Uds. y yo podamos ayudar \Na los desarrolladores a crear Dialogue: 0,0:07:26.65,0:07:28.74,Default,,0000,0000,0000,,grupos de formación más inclusivos. Dialogue: 0,0:07:29.30,0:07:32.13,Default,,0000,0000,0000,,Y también podemos empezar a pensar\Nmás concienzudamente Dialogue: 0,0:07:32.15,0:07:37.54,Default,,0000,0000,0000,,sobre el impacto social de la tecnología\Nque estamos desarrollando. Dialogue: 0,0:07:37.57,0:07:39.96,Default,,0000,0000,0000,,Para iniciar el movimiento\Nde codificación, Dialogue: 0,0:07:39.99,0:07:42.83,Default,,0000,0000,0000,,creé la Liga de la Justicia algorítmica, Dialogue: 0,0:07:42.86,0:07:45.33,Default,,0000,0000,0000,,donde todo el que\Nse preocupa por la equidad Dialogue: 0,0:07:45.33,0:07:48.73,Default,,0000,0000,0000,,puede ayudar a combatir\Nla mirada codificada. Dialogue: 0,0:07:48.75,0:07:52.05,Default,,0000,0000,0000,,En codedgaze.com\Npueden informar sesgos, Dialogue: 0,0:07:52.07,0:07:54.52,Default,,0000,0000,0000,,solicitar auditorías,\Nconvertirse en un betatesters Dialogue: 0,0:07:54.54,0:07:57.31,Default,,0000,0000,0000,,y unirse a la conversación en curso, Dialogue: 0,0:07:57.34,0:07:59.62,Default,,0000,0000,0000,,#codedgaze. Dialogue: 0,0:08:00.74,0:08:03.23,Default,,0000,0000,0000,,Así que los invito a que se unan a mí Dialogue: 0,0:08:03.25,0:08:06.97,Default,,0000,0000,0000,,para crear un mundo donde la tecnología\Ntrabaje para todos nosotros, Dialogue: 0,0:08:06.100,0:08:08.89,Default,,0000,0000,0000,,no solo para algunos de nosotros, Dialogue: 0,0:08:08.92,0:08:13.43,Default,,0000,0000,0000,,un mundo donde se valore la inclusión\Ny así centrar el cambio social. Dialogue: 0,0:08:13.43,0:08:14.72,Default,,0000,0000,0000,,Gracias. Dialogue: 0,0:08:14.72,0:08:18.51,Default,,0000,0000,0000,,(Aplausos) Dialogue: 0,0:08:20.94,0:08:23.45,Default,,0000,0000,0000,,Pero tengo una pregunta: Dialogue: 0,0:08:23.73,0:08:25.82,Default,,0000,0000,0000,,¿Se unirán a mí en mi lucha? Dialogue: 0,0:08:25.82,0:08:27.03,Default,,0000,0000,0000,,(Risas) Dialogue: 0,0:08:27.03,0:08:29.47,Default,,0000,0000,0000,,(Aplausos)