-
Los algoritmos no son objetos.
-
La IA y todas estas nuevas tecnologías
están difundiendo los prejuicios.
-
Están prediciendo el futuro,
hacen el futuro.
4
00:00:14,247 --> 00:00:17,197
Continuando con la conversación:
El dilema de la discriminación
-
He pasado gran parte de mi tiempo
pensando en los prejuicios,
-
pero es que yo soy así.
-
Y también, la falta de conocimiento
-
del gobierno para entender estos problemas
-
resulta en una falta de regulación
y leyes que realmente ayudarían
-
para minimizar algunos de los problemas
que ya hemos identificado a través de la IA.
-
Los algoritmos no son objetos.
-
Los algoritmos están optimizados
para lograr algún tipo de éxito.
-
Utilizan datos históricos
para predecir un futuro próspero.
-
La gente cree ciegamente
-
que los algoritmos son justos
y objetivo por naturaleza
-
y en parte porque
creen en esta lealtad,
-
no cuestionan el algoritmo.
-
Así que cuando el algoritmo termina
siendo racista como los datos
-
que insertamos en él,
-
reproduce exactamente los patrones
que nos gustaría poder superar.
-
Los sistemas están introduciendo toneladas
de información sin contexto,
-
sin historia, e incluso
sin cuestiones políticas,
-
económicas y sociales,
-
entonces tienes un alto
probabilidad de un sistema de IA
-
que encarna estos prejuicios
o incluso los empeora.
-
Hay cuatro tipos de algoritmos
-
que creo que se utilizan
indebidamente
-
y esto podría causar
graves daños a la sociedad.
-
Las cuatro categorías son:
-
Financiero.
-
Son algoritmos que deciden
-
si la gente comprará un
seguro y por cuánto..
-
una buena tarjeta de crédito...
-
hipotecas...
-
obtener una vivienda ...
-
Si abre un
sitio web de la tarjeta de crédito,
-
no conseguiran
información de la tarjeta de crédito.
-
Se le mide y se le evalúa,
-
y son ellos los que te enseñan qué tarjeta
que creen que te mereces.
-
La segunda categoría
está relacionado con la libertad.
-
¿Cómo se controla?
-
¿Cuánto tiempo has estado yendo a la cárcel?
-
¿Fue encarcelado mientras
esperaba por un juicio?
44
00:02:05,737 --> 00:02:08,167
La tercera categoría es
material de subsistencia:
-
su trabajo.
-
¿Entrevistas para
el trabajo que solicitas?
-
¿Puedes conseguir el trabajo?
-
¿Recibes un aumento de sueldo?
-
¿Cuál es su horario de trabajo?
-
Un ejemplo que atrajo
la atención de los medios de comunicación
-
era un algoritmo de contratación
-
que favoreció desproporcionadamente a
individuos que se llamaban a sí mismos Jared
-
y que jugaban al lacrosse porque
-
la mayoría de los individuos que tenían
un buen rendimiento en esa empresa
-
tenían estos dos hechos en común.
-
Y la cuarta categoría es la información en sí misma.
-
¿Cómo se obtiene la información?
-
¿En qué creemos?
-
Información política, principalmente.
-
Sus cosas son
algoritmos ahora.
-
Y a menudo son injustas.
-
Y a menudo ilegales.
-
Pero no hemos descubierto cómo aplicar
nuestras leyes contra la discriminación.
-
La distopía que me preocupa es de
-
nosotros no frenamos
en el oscuro y peligroso algoritmo.
-
"Oye, te hemos estado siguiendo
desde su nacimiento.
-
Entendemos que usted...
-
tuvo una infancia pobre,
-
en un barrio donde mucha gente
personas no han alcanzado el éxito.
-
Y...
-
Vamos a predecir que
no logrará el éxito.
-
No sólo vamos a predecir esto,
-
nos aseguraremos de que
no consigues el éxito".
-
No vas a
una buena universidad.
-
Ni un buen trabajo.
-
Y ni siquiera un buen préstamo.
-
Porque eso es lo que
los algoritmos lo hacen, realmente
-
No predicen el futuro.
Ellos hacen el futuro.
Mozilla