Code4Rights, Code4All | Joy Buolamwini | TEDxBeaconStreet
-
0:14 - 0:17Hola, soy Joy, un poeta de código,
-
0:17 - 0:22en una misión para detener una
fuerza invisible que está surgiendo, -
0:22 - 0:25una fuerza que yo llamé
"la mirada codificada", -
0:25 - 0:28mi término para el sesgo algorítmico.
-
0:28 - 0:33El sesgo algorítmico, como el sesgo
humano, resulta en injusticia. -
0:33 - 0:37Sin embargo, los algoritmos,
como los virus, pueden propagar el sesgo -
0:37 - 0:40en una escala masiva a un ritmo rápido.
-
0:41 - 0:45El sesgo algorítmico también puede
conducir a experiencias de exclusión -
0:45 - 0:47y a prácticas discriminatorias.
-
0:47 - 0:49Déjame mostrarte lo que quiero decir.
-
0:50 - 0:53(Video) Joy Boulamwini: Hola, cámara.
Tengo una cara. -
0:53 - 0:55¿Puedes ver mi cara?
-
0:55 - 0:57¿Cara sin gafas?
-
0:58 - 1:00Puedes ver su cara.
-
1:01 - 1:03¿Qué hay de mi cara?
-
1:06 - 1:07(Risas)
-
1:07 - 1:10Tengo una máscara. ¿Puedes ver mi máscara?
-
1:12 - 1:14Joy Boulamwini: ¿Cómo sucedió esto?
-
1:14 - 1:17¿Por qué estoy sentado
frente a una computadora -
1:17 - 1:19con una máscara blanca,
-
1:19 - 1:22tratando de ser detectado
por una webcam barata? -
1:22 - 1:25Bueno, cuando no estoy luchando
la mirada codificada -
1:25 - 1:26como un poeta de código,
-
1:26 - 1:30Soy un estudiante graduado
en el MIT Media Lab, -
1:30 - 1:35y allí tengo la oportunidad de trabajar
en todo tipo de proyectos caprichosos, -
1:35 - 1:37incluyendo el Aspire Mirror,
-
1:37 - 1:42un proyecto que hice para poder proyectar
máscaras digitales en mi reflexión. -
1:42 - 1:44Así que por la mañana,
si quería sentirme poderoso, -
1:44 - 1:46podría ponerme un león.
-
1:46 - 1:49Si yo quería motivarme,
podría tener una frase. -
1:49 - 1:52Así que utilicé el software de
reconocimiento facial genérico -
1:52 - 1:54para construir el sistema,
-
1:54 - 1:59pero encontré que era muy difícil probarlo
a menos que llevara una máscara blanca. -
2:00 - 2:04Desafortunadamente, he encontrado
este problema antes. -
2:04 - 2:08Cuando era estudiante de Georgia Tech
estudiando informática, -
2:08 - 2:11solía trabajar en robots sociales,
-
2:11 - 2:14y una de mis tareas era conseguir
que un robot jugara a escondidas, -
2:14 - 2:16un simple juego de turnos
-
2:16 - 2:21donde los participantes cubren su cara y
luego la descubre diciendo: "¡Peek-a-boo!" -
2:21 - 2:25El problema es que escondidas realmente
no funciona si no puedo verte, -
2:25 - 2:28y mi robot no podía verme.
-
2:28 - 2:32Pero pedí prestado el rostro de mi
compañero para hacer el proyecto, -
2:32 - 2:33presenté la tarea,
-
2:33 - 2:37y pensé, ya sabes qué, alguien
más resolverá este problema. -
2:37 - 2:40No mucho tiempo después,
-
2:40 - 2:44estuve en Hong Kong para
una competencia empresarial. -
2:44 - 2:47Los organizadores decidieron
llevar a los participantes -
2:47 - 2:49a una gira de empresas locales
de nueva creación. -
2:49 - 2:52Una de las primeras tenía un robot social,
-
2:52 - 2:54y decidieron hacer una demo.
-
2:54 - 2:57El demo funcionó en todo el
mundo hasta que llegó a mí, -
2:57 - 2:59y probablemente se puede adivinar.
-
2:59 - 3:02No podía detectar mi cara.
-
3:02 - 3:04Le pregunté a los desarrolladores
lo que estaba pasando, -
3:04 - 3:06y resultó que habíamos usado
-
3:06 - 3:10el mismo software genérico
de reconocimiento facial. -
3:10 - 3:12A través de la mitad del mundo,
-
3:12 - 3:16aprendí que el sesgo algorítmico
puede viajar tan rápidamente -
3:16 - 3:19como se necesita para descargar
algunos archivos fuera de Internet. -
3:20 - 3:23Entonces, ¿qué está pasando?
¿Por qué no se detecta mi rostro? -
3:23 - 3:26Bueno, tenemos que mirar
cómo damos a las máquinas la vista. -
3:26 - 3:29La visión por computadora utiliza
técnicas de aprendizaje de la máquina -
3:29 - 3:31para hacer reconocimiento facial.
-
3:31 - 3:35Así que esto funciona, se crea un conjunto
de entrenamiento con ejemplos de caras. -
3:35 - 3:38Esta es una cara. Esta es una cara.
Esto no es una cara. -
3:38 - 3:43Y con el tiempo, uno puede enseñar a una
computadora cómo reconocer otras caras. -
3:43 - 3:47Sin embargo, si los conjuntos de practica
no son realmente tan diversos, -
3:47 - 3:50cualquier cara que se desvía demasiado
de la norma establecida -
3:50 - 3:52será más difícil de detectar,
-
3:52 - 3:54que es lo que me estaba sucediendo.
-
3:54 - 3:56Pero no te preocupes, hay buenas noticias.
-
3:56 - 3:59Las series de practica no sólo
se materializan de la nada. -
3:59 - 4:01En realidad podemos crearlos.
-
4:01 - 4:05Así que existe la oportunidad de crear
series de practica de espectro completo -
4:05 - 4:09que reflejen un retrato
más rico de la humanidad. -
4:09 - 4:11Ahora Uds. han visto en mis ejemplos
-
4:11 - 4:13cómo los robots sociales
-
4:13 - 4:17eran cómo descubrí sobre
la exclusión con sesgo algorítmico. -
4:17 - 4:22Pero el sesgo algorítmico también puede
conducir a prácticas discriminatorias. -
4:23 - 4:25En todo EE. UU.
-
4:25 - 4:29los departamentos de policía comenzaron a
usar el software de reconocimiento facial -
4:29 - 4:31en su arsenal de lucha contra el crimen.
-
4:31 - 4:34La ley de Georgetown publicó
un informe que muestra que -
4:34 - 4:40uno de cada dos adultos es de EE. UU.,
es decir, 117 millones de personas, -
4:40 - 4:44tienen sus caras en redes
de reconocimiento facial. -
4:44 - 4:48Los departamentos de policía pueden
ahora mirar estas redes no reguladas, -
4:48 - 4:53usando algoritmos que no han sido
auditados para la exactitud. -
4:53 - 4:57Sin embargo, sabemos que el
reconocimiento facial no es infalible, -
4:57 - 5:01y el etiquetado de las caras
sigue siendo un desafío. -
5:01 - 5:03Puede que lo hayan visto en Facebook.
-
5:03 - 5:06Mis amigos y yo siempre nos reímos
cuando vemos a otras personas -
5:06 - 5:08mal etiquetadas en nuestras fotos.
-
5:08 - 5:14Pero identificar erróneamente a un
presunto delincuente no es motivo de risa, -
5:14 - 5:17ni violar las libertades civiles.
-
5:17 - 5:20Aprendizaje de la máquina se utiliza
para el reconocimiento facial, -
5:20 - 5:24pero también se extiende más allá
del ámbito de la visión por ordenador. -
5:25 - 5:29En su libro,
"Armas de Destrucción de Matemáticas", -
5:29 - 5:33la científica de datos Cathy O'Neil
habla sobre el surgimiento -
5:33 - 5:36de nuevas armas de destrucción masiva:
-
5:36 - 5:40algoritmos extendidos,
misteriosos y destructivos -
5:40 - 5:43que se utilizan cada vez más
para tomar decisiones -
5:43 - 5:46que afectan más aspectos
de nuestras vidas. -
5:46 - 5:48Entonces,
¿quién es contratado o despedido? -
5:48 - 5:50¿Tienes ese préstamo?
¿Tienes seguro? -
5:50 - 5:54¿Es Ud. admitido en la universidad
en la que quería entrar? -
5:54 - 5:57¿Pagamos Ud. y yo el mismo
precio por el mismo producto -
5:57 - 6:00comprado en la misma plataforma?
-
6:00 - 6:04La aplicación de la ley también comienza
a utilizar el inteligencia artificial. -
6:04 - 6:06Para la predicción de la política.
-
6:06 - 6:10Algunos jueces usan puntajes de riesgo
generados por la máquina para determinar -
6:10 - 6:14cuánto tiempo un individuo
va a pasar en prisión. -
6:14 - 6:16Así que realmente tenemos
que pensar en estas decisiones. -
6:17 - 6:18¿Son justas?
-
6:18 - 6:21Y hemos visto que el sesgo algorítmico
-
6:21 - 6:24no necesariamente conduce
siempre a resultados justos. -
6:24 - 6:26Entonces, ¿qué podemos hacer al respecto?
-
6:26 - 6:30Bueno, podemos empezar a pensar
en cómo crear un código más inclusivo -
6:30 - 6:33y emplear prácticas
de codificación inclusivas. -
6:33 - 6:35Realmente empieza con la gente.
-
6:36 - 6:37Entonces, quién codifica las cosas.
-
6:38 - 6:42¿Estamos creando equipos de espectro
completo con personas diversas -
6:42 - 6:44que pueden revisar los
puntos ciegos de los demás? -
6:44 - 6:48Desde el punto de vista técnico,
cómo codificamos las cosas. -
6:48 - 6:51¿Estamos teniendo en cuenta la equidad
cuando estamos desarrollando sistemas? -
6:51 - 6:54Y finalmente, por qué
codificamos las cosas. -
6:55 - 6:58Hemos utilizado herramientas
de creación computacional -
6:58 - 7:00para desbloquear inmensa riqueza.
-
7:00 - 7:04Ahora tenemos la oportunidad
de desbloquear una igualdad aún mayor -
7:04 - 7:07si hacemos del cambio social una prioridad
-
7:07 - 7:09y no una reflexión tardía.
-
7:10 - 7:14Y así estos son los tres principios que
conformarán el movimiento "incodificador". -
7:14 - 7:16Quien codifica cosas,
-
7:16 - 7:18cómo codificamos cosas
-
7:18 - 7:20y por qué codificamos cosas.
-
7:20 - 7:23Así que para ir hacia la codificación,
podemos empezar a pensar -
7:23 - 7:26en la construcción de plataformas
que pueden identificar prejuicios -
7:26 - 7:29recopilando experiencias de las
personas como las que compartí, -
7:29 - 7:32sino también la auditoría
de software existente. -
7:32 - 7:36También podemos comenzar a crear
conjuntos de formación más inclusivos. -
7:36 - 7:39Imagine una campaña
"Selfies for Inclusion" -
7:39 - 7:42donde Ud. y yo podemos ayudar a los
desarrolladores a probar y crear -
7:42 - 7:45conjuntos de entrenamiento más inclusivos.
-
7:45 - 7:48Y también podemos empezar
a pensar más conscientemente -
7:48 - 7:53sobre el impacto social de la tecnología
que estamos desarrollando. -
7:53 - 7:56Para iniciar el movimiento
de incodificación, -
7:56 - 7:59he lanzado la Algorithmic Justice League,
-
7:59 - 8:02donde cualquier persona
que se preocupa por la justicia -
8:02 - 8:05puede ayudar a combatir
la mirada codificada. -
8:05 - 8:08En codedgaze.com, puede reportar sesgos,
-
8:08 - 8:10solicitar auditorías,
convertirse en un probador -
8:10 - 8:13y unirse a la conversación en curso,
-
8:13 - 8:15#codedgaze.
-
8:17 - 8:19Así que los invito a unirse a mí
-
8:19 - 8:23en la creación de un mundo donde la
tecnología funcione para todos nosotros, -
8:23 - 8:25no sólo para algunos de nosotros,
-
8:25 - 8:29un mundo donde valoramos la inclusión
y el centro del cambio social. -
8:29 - 8:31Gracias.
-
8:31 - 8:36(Aplausos)
-
8:42 - 8:44Pero tengo una pregunta:
-
8:45 - 8:47¿Te unirás a mí en la pelea?
-
8:47 - 8:48(Risas)
-
8:48 - 8:52(Aplausos)
- Title:
- Code4Rights, Code4All | Joy Buolamwini | TEDxBeaconStreet
- Description:
-
Joy Buolamwini es una codificadora brillante, pero tenía un problema: los algoritmos de reconocimiento facial no siempre reconocen su rostro a menos que use una máscara blanca. Este es un ejemplo de las sutiles maneras en que el privilegio racial excluye la participación plena en las oportunidades de aprendizaje, por lo que Joy hizo algo al respecto, empezó a codificar programas más inclusivos. Ella comenzó una revolución, y ella está lista para ponerte a bordo!
Joy Buolamwini es fundadora de Code4Rights e investigadora graduada con el grupo de medios cívicos en el MIT Media Lab. Joy es becaria de Rhodes, un miembro de Fulbright, becaria de astronautas, becaria de Google Anita Borg y consultora técnico de Carter Center reconocida como voluntaria distinguida. Como Directora de Tecnología de Techturized Inc, una empresa de tecnología de cuidado del cabello y Swift Tech Solutions, una consultora de tecnología de salud global, Joy adquirió competencias técnicas desarrollando software para las comunidades de Estados Unidos, Etiopía, Malí, Nigeria y Níger. Durante su Beca Fulbright en Zambia, exploró el empoderamiento de los ciudadanos comprometidos con habilidades para crear su propia tecnología a través de la Iniciativa Zamrize
Esta charla es de un evento TEDx, organizado de manera independiente a las conferencias TED. Más información en: http://ted.com/tedx
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDxTalks
- Duration:
- 09:02
Lidia Cámara de la Fuente approved Spanish subtitles for Code4Rights, Code4All | Joy Buolamwini | TEDxBeaconStreet | ||
Lidia Cámara de la Fuente accepted Spanish subtitles for Code4Rights, Code4All | Joy Buolamwini | TEDxBeaconStreet | ||
Lidia Cámara de la Fuente edited Spanish subtitles for Code4Rights, Code4All | Joy Buolamwini | TEDxBeaconStreet | ||
Saúl Chinchilla edited Spanish subtitles for Code4Rights, Code4All | Joy Buolamwini | TEDxBeaconStreet | ||
Saúl Chinchilla edited Spanish subtitles for Code4Rights, Code4All | Joy Buolamwini | TEDxBeaconStreet | ||
Saúl Chinchilla edited Spanish subtitles for Code4Rights, Code4All | Joy Buolamwini | TEDxBeaconStreet | ||
Saúl Chinchilla edited Spanish subtitles for Code4Rights, Code4All | Joy Buolamwini | TEDxBeaconStreet | ||
Saúl Chinchilla edited Spanish subtitles for Code4Rights, Code4All | Joy Buolamwini | TEDxBeaconStreet |