[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:13.96,0:00:17.10,Default,,0000,0000,0000,,Hola, soy Joy, un poeta de código,\N
Dialogue: 0,0:00:17.12,0:00:22.11,Default,,0000,0000,0000,,en una misión para detener una\Nfuerza invisible que está surgiendo,
Dialogue: 0,0:00:22.14,0:00:24.99,Default,,0000,0000,0000,,una fuerza que yo llamé\N"la mirada codificada",
Dialogue: 0,0:00:25.02,0:00:28.32,Default,,0000,0000,0000,,mi término para el sesgo algorítmico.
Dialogue: 0,0:00:28.35,0:00:32.65,Default,,0000,0000,0000,,El sesgo algorítmico, como el sesgo\Nhumano, resulta en injusticia.
Dialogue: 0,0:00:32.67,0:00:37.03,Default,,0000,0000,0000,,Sin embargo, los algoritmos,\Ncomo los virus, pueden propagar el sesgo
Dialogue: 0,0:00:37.03,0:00:40.30,Default,,0000,0000,0000,,en una escala masiva a un ritmo rápido.
Dialogue: 0,0:00:40.86,0:00:45.25,Default,,0000,0000,0000,,El sesgo algorítmico también puede\Nconducir a experiencias de exclusión
Dialogue: 0,0:00:45.27,0:00:47.40,Default,,0000,0000,0000,,y a prácticas discriminatorias.
Dialogue: 0,0:00:47.43,0:00:49.49,Default,,0000,0000,0000,,Déjame mostrarte lo que quiero decir.
Dialogue: 0,0:00:50.31,0:00:52.81,Default,,0000,0000,0000,,(Video) Joy Boulamwini: Hola, cámara.\NTengo una cara.
Dialogue: 0,0:00:53.24,0:00:55.11,Default,,0000,0000,0000,,¿Puedes ver mi cara?
Dialogue: 0,0:00:55.13,0:00:56.76,Default,,0000,0000,0000,,¿Cara sin gafas?
Dialogue: 0,0:00:58.46,0:01:00.21,Default,,0000,0000,0000,,Puedes ver su cara.
Dialogue: 0,0:01:01.08,0:01:02.69,Default,,0000,0000,0000,,¿Qué hay de mi cara?
Dialogue: 0,0:01:05.87,0:01:07.05,Default,,0000,0000,0000,,(Risas)
Dialogue: 0,0:01:07.08,0:01:09.74,Default,,0000,0000,0000,,Tengo una máscara. ¿Puedes ver mi máscara?
Dialogue: 0,0:01:11.91,0:01:14.28,Default,,0000,0000,0000,,Joy Boulamwini: ¿Cómo sucedió esto?
Dialogue: 0,0:01:14.30,0:01:17.44,Default,,0000,0000,0000,,¿Por qué estoy sentado\Nfrente a una computadora
Dialogue: 0,0:01:17.47,0:01:18.89,Default,,0000,0000,0000,,con una máscara blanca,
Dialogue: 0,0:01:18.92,0:01:22.45,Default,,0000,0000,0000,,tratando de ser detectado\Npor una webcam barata?
Dialogue: 0,0:01:22.45,0:01:24.88,Default,,0000,0000,0000,,Bueno, cuando no estoy luchando\Nla mirada codificada
Dialogue: 0,0:01:24.90,0:01:26.42,Default,,0000,0000,0000,,como un poeta de código,
Dialogue: 0,0:01:26.45,0:01:29.72,Default,,0000,0000,0000,,Soy un estudiante graduado\Nen el MIT Media Lab,
Dialogue: 0,0:01:29.74,0:01:34.66,Default,,0000,0000,0000,,y allí tengo la oportunidad de trabajar\Nen todo tipo de proyectos caprichosos,
Dialogue: 0,0:01:34.69,0:01:36.71,Default,,0000,0000,0000,,incluyendo el Aspire Mirror,
Dialogue: 0,0:01:36.74,0:01:41.87,Default,,0000,0000,0000,,un proyecto que hice para poder proyectar\Nmáscaras digitales en mi reflexión.
Dialogue: 0,0:01:41.88,0:01:44.26,Default,,0000,0000,0000,,Así que por la mañana,\Nsi quería sentirme poderoso,
Dialogue: 0,0:01:44.27,0:01:45.70,Default,,0000,0000,0000,,podría ponerme un león.
Dialogue: 0,0:01:45.73,0:01:49.22,Default,,0000,0000,0000,,Si yo quería motivarme,\Npodría tener una frase.
Dialogue: 0,0:01:49.25,0:01:52.24,Default,,0000,0000,0000,,Así que utilicé el software de\Nreconocimiento facial genérico
Dialogue: 0,0:01:52.26,0:01:53.61,Default,,0000,0000,0000,,para construir el sistema,
Dialogue: 0,0:01:53.64,0:01:58.74,Default,,0000,0000,0000,,pero encontré que era muy difícil probarlo\Na menos que llevara una máscara blanca.
Dialogue: 0,0:01:59.72,0:02:04.07,Default,,0000,0000,0000,,Desafortunadamente, he encontrado\Neste problema antes.
Dialogue: 0,0:02:04.09,0:02:08.44,Default,,0000,0000,0000,,Cuando era estudiante de Georgia Tech\Nestudiando informática,
Dialogue: 0,0:02:08.46,0:02:10.51,Default,,0000,0000,0000,,solía trabajar en robots sociales,
Dialogue: 0,0:02:10.54,0:02:14.32,Default,,0000,0000,0000,,y una de mis tareas era conseguir\Nque un robot jugara a escondidas,
Dialogue: 0,0:02:14.34,0:02:16.27,Default,,0000,0000,0000,,un simple juego de turnos
Dialogue: 0,0:02:16.30,0:02:20.62,Default,,0000,0000,0000,,donde los participantes cubren su cara y\Nluego la descubre diciendo: "¡Peek-a-boo!"
Dialogue: 0,0:02:20.74,0:02:25.17,Default,,0000,0000,0000,,El problema es que escondidas realmente\Nno funciona si no puedo verte,
Dialogue: 0,0:02:25.19,0:02:27.69,Default,,0000,0000,0000,,y mi robot no podía verme.
Dialogue: 0,0:02:27.72,0:02:31.67,Default,,0000,0000,0000,,Pero pedí prestado el rostro de mi\Ncompañero para hacer el proyecto,
Dialogue: 0,0:02:31.69,0:02:33.07,Default,,0000,0000,0000,,presenté la tarea,
Dialogue: 0,0:02:33.10,0:02:36.85,Default,,0000,0000,0000,,y pensé, ya sabes qué, alguien\Nmás resolverá este problema.
Dialogue: 0,0:02:37.50,0:02:39.50,Default,,0000,0000,0000,,No mucho tiempo después,
Dialogue: 0,0:02:39.53,0:02:43.68,Default,,0000,0000,0000,,estuve en Hong Kong para\Nuna competencia empresarial.
Dialogue: 0,0:02:44.17,0:02:46.86,Default,,0000,0000,0000,,Los organizadores decidieron\Nllevar a los participantes
Dialogue: 0,0:02:46.89,0:02:49.26,Default,,0000,0000,0000,,a una gira de empresas locales\Nde nueva creación.
Dialogue: 0,0:02:49.28,0:02:51.100,Default,,0000,0000,0000,,Una de las primeras tenía un robot social,
Dialogue: 0,0:02:52.02,0:02:53.93,Default,,0000,0000,0000,,y decidieron hacer una demo.
Dialogue: 0,0:02:53.96,0:02:56.94,Default,,0000,0000,0000,,El demo funcionó en todo el\Nmundo hasta que llegó a mí,
Dialogue: 0,0:02:56.96,0:02:58.88,Default,,0000,0000,0000,,y probablemente se puede adivinar.
Dialogue: 0,0:02:58.91,0:03:01.80,Default,,0000,0000,0000,,No podía detectar mi cara.
Dialogue: 0,0:03:01.80,0:03:04.42,Default,,0000,0000,0000,,Le pregunté a los desarrolladores\Nlo que estaba pasando,
Dialogue: 0,0:03:04.43,0:03:06.30,Default,,0000,0000,0000,,y resultó que habíamos usado
Dialogue: 0,0:03:06.30,0:03:09.99,Default,,0000,0000,0000,,el mismo software genérico\Nde reconocimiento facial.
Dialogue: 0,0:03:09.99,0:03:11.64,Default,,0000,0000,0000,,A través de la mitad del mundo,
Dialogue: 0,0:03:11.66,0:03:15.52,Default,,0000,0000,0000,,aprendí que el sesgo algorítmico\Npuede viajar tan rápidamente
Dialogue: 0,0:03:15.54,0:03:18.71,Default,,0000,0000,0000,,como se necesita para descargar\Nalgunos archivos fuera de Internet.
Dialogue: 0,0:03:19.58,0:03:22.65,Default,,0000,0000,0000,,Entonces, ¿qué está pasando?\N¿Por qué no se detecta mi rostro?
Dialogue: 0,0:03:22.68,0:03:26.03,Default,,0000,0000,0000,,Bueno, tenemos que mirar\Ncómo damos a las máquinas la vista.
Dialogue: 0,0:03:26.06,0:03:29.46,Default,,0000,0000,0000,,La visión por computadora utiliza\Ntécnicas de aprendizaje de la máquina
Dialogue: 0,0:03:29.49,0:03:31.37,Default,,0000,0000,0000,,para hacer reconocimiento facial.
Dialogue: 0,0:03:31.39,0:03:35.29,Default,,0000,0000,0000,,Así que esto funciona, se crea un conjunto\Nde entrenamiento con ejemplos de caras.
Dialogue: 0,0:03:35.31,0:03:38.13,Default,,0000,0000,0000,,Esta es una cara. Esta es una cara.\NEsto no es una cara.
Dialogue: 0,0:03:38.16,0:03:42.67,Default,,0000,0000,0000,,Y con el tiempo, uno puede enseñar a una\Ncomputadora cómo reconocer otras caras.
Dialogue: 0,0:03:42.70,0:03:46.69,Default,,0000,0000,0000,,Sin embargo, si los conjuntos de practica\Nno son realmente tan diversos,
Dialogue: 0,0:03:46.71,0:03:50.06,Default,,0000,0000,0000,,cualquier cara que se desvía demasiado\Nde la norma establecida
Dialogue: 0,0:03:50.08,0:03:51.73,Default,,0000,0000,0000,,será más difícil de detectar,
Dialogue: 0,0:03:51.76,0:03:53.72,Default,,0000,0000,0000,,que es lo que me estaba sucediendo.
Dialogue: 0,0:03:53.74,0:03:56.13,Default,,0000,0000,0000,,Pero no te preocupes, hay buenas noticias.
Dialogue: 0,0:03:56.15,0:03:58.92,Default,,0000,0000,0000,,Las series de practica no sólo\Nse materializan de la nada.
Dialogue: 0,0:03:58.94,0:04:00.73,Default,,0000,0000,0000,,En realidad podemos crearlos.
Dialogue: 0,0:04:00.76,0:04:04.93,Default,,0000,0000,0000,,Así que existe la oportunidad de crear\Nseries de practica de espectro completo
Dialogue: 0,0:04:04.96,0:04:08.78,Default,,0000,0000,0000,,que reflejen un retrato\Nmás rico de la humanidad.
Dialogue: 0,0:04:08.80,0:04:11.03,Default,,0000,0000,0000,,Ahora Uds. han visto en mis ejemplos
Dialogue: 0,0:04:11.05,0:04:12.82,Default,,0000,0000,0000,,cómo los robots sociales
Dialogue: 0,0:04:12.84,0:04:17.45,Default,,0000,0000,0000,,eran cómo descubrí sobre\Nla exclusión con sesgo algorítmico.
Dialogue: 0,0:04:17.48,0:04:22.29,Default,,0000,0000,0000,,Pero el sesgo algorítmico también puede\Nconducir a prácticas discriminatorias.
Dialogue: 0,0:04:23.27,0:04:24.72,Default,,0000,0000,0000,,En todo EE. UU.
Dialogue: 0,0:04:24.74,0:04:28.64,Default,,0000,0000,0000,,los departamentos de policía comenzaron a\Nusar el software de reconocimiento facial
Dialogue: 0,0:04:28.64,0:04:31.23,Default,,0000,0000,0000,,en su arsenal de lucha contra el crimen.
Dialogue: 0,0:04:31.23,0:04:33.95,Default,,0000,0000,0000,,La ley de Georgetown publicó \Nun informe que muestra que
Dialogue: 0,0:04:33.95,0:04:40.25,Default,,0000,0000,0000,,uno de cada dos adultos es de EE. UU., \Nes decir, 117 millones de personas,
Dialogue: 0,0:04:40.27,0:04:43.81,Default,,0000,0000,0000,,tienen sus caras en redes\Nde reconocimiento facial.
Dialogue: 0,0:04:43.83,0:04:48.38,Default,,0000,0000,0000,,Los departamentos de policía pueden\Nahora mirar estas redes no reguladas,
Dialogue: 0,0:04:48.41,0:04:52.69,Default,,0000,0000,0000,,usando algoritmos que no han sido\Nauditados para la exactitud.
Dialogue: 0,0:04:52.72,0:04:56.58,Default,,0000,0000,0000,,Sin embargo, sabemos que el\Nreconocimiento facial no es infalible,
Dialogue: 0,0:04:56.60,0:05:00.78,Default,,0000,0000,0000,,y el etiquetado de las caras\Nsigue siendo un desafío.
Dialogue: 0,0:05:00.81,0:05:02.57,Default,,0000,0000,0000,,Puede que lo hayan visto en Facebook.
Dialogue: 0,0:05:02.59,0:05:05.58,Default,,0000,0000,0000,,Mis amigos y yo siempre nos reímos\Ncuando vemos a otras personas
Dialogue: 0,0:05:05.61,0:05:08.06,Default,,0000,0000,0000,,mal etiquetadas en nuestras fotos.
Dialogue: 0,0:05:08.09,0:05:13.68,Default,,0000,0000,0000,,Pero identificar erróneamente a un\Npresunto delincuente no es motivo de risa,
Dialogue: 0,0:05:13.70,0:05:16.53,Default,,0000,0000,0000,,ni violar las libertades civiles.
Dialogue: 0,0:05:16.55,0:05:19.76,Default,,0000,0000,0000,,Aprendizaje de la máquina se utiliza\Npara el reconocimiento facial,
Dialogue: 0,0:05:19.78,0:05:24.29,Default,,0000,0000,0000,,pero también se extiende más allá\Ndel ámbito de la visión por ordenador.
Dialogue: 0,0:05:25.10,0:05:29.11,Default,,0000,0000,0000,,En su libro,\N"Armas de Destrucción de Matemáticas",
Dialogue: 0,0:05:29.14,0:05:32.99,Default,,0000,0000,0000,,la científica de datos Cathy O'Neil\Nhabla sobre el surgimiento
Dialogue: 0,0:05:32.99,0:05:35.84,Default,,0000,0000,0000,,de nuevas armas de destrucción masiva:
Dialogue: 0,0:05:35.84,0:05:40.19,Default,,0000,0000,0000,,algoritmos extendidos,\Nmisteriosos y destructivos
Dialogue: 0,0:05:40.22,0:05:43.18,Default,,0000,0000,0000,,que se utilizan cada vez más\Npara tomar decisiones
Dialogue: 0,0:05:43.21,0:05:45.90,Default,,0000,0000,0000,,que afectan más aspectos\Nde nuestras vidas.
Dialogue: 0,0:05:46.30,0:05:48.30,Default,,0000,0000,0000,,Entonces,\N¿quién es contratado o despedido?
Dialogue: 0,0:05:48.30,0:05:50.41,Default,,0000,0000,0000,,¿Tienes ese préstamo?\N¿Tienes seguro?
Dialogue: 0,0:05:50.44,0:05:53.94,Default,,0000,0000,0000,,¿Es Ud. admitido en la universidad\Nen la que quería entrar?
Dialogue: 0,0:05:53.96,0:05:57.47,Default,,0000,0000,0000,,¿Pagamos Ud. y yo el mismo\Nprecio por el mismo producto
Dialogue: 0,0:05:57.50,0:05:59.94,Default,,0000,0000,0000,,comprado en la misma plataforma?
Dialogue: 0,0:05:59.96,0:06:03.72,Default,,0000,0000,0000,,La aplicación de la ley también comienza\Na utilizar el inteligencia artificial.
Dialogue: 0,0:06:03.75,0:06:05.87,Default,,0000,0000,0000,,Para la predicción de la política.
Dialogue: 0,0:06:05.87,0:06:09.58,Default,,0000,0000,0000,,Algunos jueces usan puntajes de riesgo\Ngenerados por la máquina para determinar
Dialogue: 0,0:06:09.58,0:06:13.83,Default,,0000,0000,0000,,cuánto tiempo un individuo\Nva a pasar en prisión.
Dialogue: 0,0:06:13.83,0:06:16.50,Default,,0000,0000,0000,,Así que realmente tenemos\Nque pensar en estas decisiones.
Dialogue: 0,0:06:16.50,0:06:17.69,Default,,0000,0000,0000,,¿Son justas?
Dialogue: 0,0:06:17.69,0:06:20.58,Default,,0000,0000,0000,,Y hemos visto que el sesgo algorítmico
Dialogue: 0,0:06:20.60,0:06:23.98,Default,,0000,0000,0000,,no necesariamente conduce\Nsiempre a resultados justos.
Dialogue: 0,0:06:23.100,0:06:25.96,Default,,0000,0000,0000,,Entonces, ¿qué podemos hacer al respecto?
Dialogue: 0,0:06:25.99,0:06:29.67,Default,,0000,0000,0000,,Bueno, podemos empezar a pensar\Nen cómo crear un código más inclusivo
Dialogue: 0,0:06:29.69,0:06:32.68,Default,,0000,0000,0000,,y emplear prácticas\Nde codificación inclusivas.
Dialogue: 0,0:06:32.70,0:06:35.01,Default,,0000,0000,0000,,Realmente empieza con la gente.
Dialogue: 0,0:06:35.54,0:06:37.50,Default,,0000,0000,0000,,Entonces, quién codifica las cosas.
Dialogue: 0,0:06:37.52,0:06:41.64,Default,,0000,0000,0000,,¿Estamos creando equipos de espectro\Ncompleto con personas diversas
Dialogue: 0,0:06:41.67,0:06:44.08,Default,,0000,0000,0000,,que pueden revisar los\Npuntos ciegos de los demás?
Dialogue: 0,0:06:44.10,0:06:47.65,Default,,0000,0000,0000,,Desde el punto de vista técnico,\Ncómo codificamos las cosas.
Dialogue: 0,0:06:47.67,0:06:51.32,Default,,0000,0000,0000,,¿Estamos teniendo en cuenta la equidad\Ncuando estamos desarrollando sistemas?
Dialogue: 0,0:06:51.34,0:06:54.26,Default,,0000,0000,0000,,Y finalmente, por qué\Ncodificamos las cosas.
Dialogue: 0,0:06:54.62,0:06:57.57,Default,,0000,0000,0000,,Hemos utilizado herramientas\Nde creación computacional
Dialogue: 0,0:06:57.57,0:06:59.72,Default,,0000,0000,0000,,para desbloquear inmensa riqueza.
Dialogue: 0,0:06:59.72,0:07:04.17,Default,,0000,0000,0000,,Ahora tenemos la oportunidad\Nde desbloquear una igualdad aún mayor
Dialogue: 0,0:07:04.19,0:07:07.12,Default,,0000,0000,0000,,si hacemos del cambio social una prioridad
Dialogue: 0,0:07:07.15,0:07:09.32,Default,,0000,0000,0000,,y no una reflexión tardía.
Dialogue: 0,0:07:09.84,0:07:14.36,Default,,0000,0000,0000,,Y así estos son los tres principios que\Nconformarán el movimiento "incodificador".
Dialogue: 0,0:07:14.38,0:07:16.04,Default,,0000,0000,0000,,Quien codifica cosas,
Dialogue: 0,0:07:16.06,0:07:17.60,Default,,0000,0000,0000,,cómo codificamos cosas
Dialogue: 0,0:07:17.63,0:07:19.65,Default,,0000,0000,0000,,y por qué codificamos cosas.
Dialogue: 0,0:07:19.67,0:07:22.77,Default,,0000,0000,0000,,Así que para ir hacia la codificación,\Npodemos empezar a pensar
Dialogue: 0,0:07:22.80,0:07:25.96,Default,,0000,0000,0000,,en la construcción de plataformas\Nque pueden identificar prejuicios
Dialogue: 0,0:07:25.98,0:07:29.06,Default,,0000,0000,0000,,recopilando experiencias de las\Npersonas como las que compartí,
Dialogue: 0,0:07:29.09,0:07:32.16,Default,,0000,0000,0000,,sino también la auditoría\Nde software existente.
Dialogue: 0,0:07:32.18,0:07:35.95,Default,,0000,0000,0000,,También podemos comenzar a crear\Nconjuntos de formación más inclusivos.
Dialogue: 0,0:07:35.97,0:07:38.77,Default,,0000,0000,0000,,Imagine una campaña\N"Selfies for Inclusion"
Dialogue: 0,0:07:38.80,0:07:42.45,Default,,0000,0000,0000,,donde Ud. y yo podemos ayudar a los\Ndesarrolladores a probar y crear
Dialogue: 0,0:07:42.48,0:07:44.57,Default,,0000,0000,0000,,conjuntos de entrenamiento más inclusivos.
Dialogue: 0,0:07:45.13,0:07:47.96,Default,,0000,0000,0000,,Y también podemos empezar\Na pensar más conscientemente
Dialogue: 0,0:07:47.98,0:07:53.38,Default,,0000,0000,0000,,sobre el impacto social de la tecnología\Nque estamos desarrollando.
Dialogue: 0,0:07:53.40,0:07:55.79,Default,,0000,0000,0000,,Para iniciar el movimiento\Nde incodificación,
Dialogue: 0,0:07:55.82,0:07:58.66,Default,,0000,0000,0000,,he lanzado la Algorithmic Justice League,
Dialogue: 0,0:07:58.69,0:08:01.58,Default,,0000,0000,0000,,donde cualquier persona\Nque se preocupa por la justicia
Dialogue: 0,0:08:01.58,0:08:04.58,Default,,0000,0000,0000,,puede ayudar a combatir\Nla mirada codificada.
Dialogue: 0,0:08:04.58,0:08:07.88,Default,,0000,0000,0000,,En codedgaze.com, puede reportar sesgos,
Dialogue: 0,0:08:07.90,0:08:10.35,Default,,0000,0000,0000,,solicitar auditorías,\Nconvertirse en un probador
Dialogue: 0,0:08:10.37,0:08:13.14,Default,,0000,0000,0000,,y unirse a la conversación en curso,
Dialogue: 0,0:08:13.17,0:08:15.45,Default,,0000,0000,0000,,#codedgaze.
Dialogue: 0,0:08:16.57,0:08:19.06,Default,,0000,0000,0000,,Así que los invito a unirse a mí
Dialogue: 0,0:08:19.08,0:08:22.80,Default,,0000,0000,0000,,en la creación de un mundo donde la\Ntecnología funcione para todos nosotros,
Dialogue: 0,0:08:22.83,0:08:24.72,Default,,0000,0000,0000,,no sólo para algunos de nosotros,
Dialogue: 0,0:08:24.75,0:08:29.40,Default,,0000,0000,0000,,un mundo donde valoramos la inclusión\Ny el centro del cambio social.
Dialogue: 0,0:08:29.42,0:08:30.59,Default,,0000,0000,0000,,Gracias.
Dialogue: 0,0:08:30.62,0:08:35.91,Default,,0000,0000,0000,,(Aplausos)
Dialogue: 0,0:08:41.54,0:08:44.40,Default,,0000,0000,0000,,Pero tengo una pregunta:
Dialogue: 0,0:08:44.60,0:08:46.66,Default,,0000,0000,0000,,¿Te unirás a mí en la pelea?
Dialogue: 0,0:08:46.74,0:08:48.00,Default,,0000,0000,0000,,(Risas)
Dialogue: 0,0:08:48.00,0:08:51.94,Default,,0000,0000,0000,,(Aplausos)