-
Los algoritmos no son objetos.
-
La IA y todas estas nuevas tecnologías
están difundiendo los prejuicios.
-
Están prediciendo el futuro,
hacen el futuro.
-
Continuando la conversación:
-
El dilema de la discriminación
-
He pasado gran parte de mi tiempo
pensando en los prejuicios,
-
pero es que yo soy así.
-
Y también, la falta de conocimiento
-
del gobierno para entender estos problemas
-
resulta en una falta de regulación
y leyes que realmente ayudarían
-
para minimizar algunos de los problemas
que ya hemos identificado a través de la IA.
-
Los algoritmos no son objetivos.
-
Los algoritmos están optimizados
para alguna definición de éxito.
-
Utilizan datos históricos
para predecir un futuro próspero.
-
La gente cree ciegamente
-
que los algoritmos son justos
y objetivo por naturaleza
-
y en parte porque
creen en esta lealtad,
-
no cuestionan el algoritmo.
-
Así que cuando el algoritmo termina
siendo racista como los datos
-
que insertamos en él,
-
reproduce exactamente los patrones
que desearíamos que trascendieran.
-
Los sistemas están introduciendo toneladas
de información sin contexto,
-
sin historia, e incluso
sin cuestiones políticas,
-
económicas y sociales,
-
entonces tienes un alto
probabilidad de un sistema de IA
-
que encarna estos prejuicios
o incluso los empeora.
-
Hay cuatro tipos de algoritmos
-
que creo que se utilizan
indebidamente
-
y esto podría causar
graves daños a la sociedad.
-
Las cuatro categorías son:
-
Financiero.
-
Son algoritmos que deciden
-
si la gente comprará un
seguro y por cuánto..
-
una buena tarjeta de crédito...
-
hipotecas...
-
obtener una vivienda ...
-
Si abres el
sitio web de una tarjeta de crédito,
-
no conseguirás
información de la tarjeta de crédito.
-
Te miden y te descubren,
-
y son ellos los que te enseñan qué tarjeta
creen que te mereces.
-
La segunda categoría
está relacionado con la libertad.
-
¿Cómo se controla?
-
¿Cuánto tiempo has estado yendo a la cárcel?
-
¿Fue encarcelado mientras
esperaba por un juicio?
-
La tercera categoría es
la de los medios de subsistencia:
-
su trabajo.
-
¿Obtienes una entrevista para
el trabajo que solicitas?
-
¿Conseguiste el trabajo?
-
¿Recibes un aumento de sueldo?
-
¿Cuál es tu horario de trabajo?
-
Un ejemplo que atrajo
la atención de los medios de comunicación
-
era un algoritmo de contratación
-
que favoreció desproporcionadamente a
individuos que se llamaban Jared
-
y que jugaban al lacrosse porque
-
la mayoría de los individuos que tenían
un buen rendimiento en esa empresa
-
tenían estos dos hechos en común.
-
Y la cuarta categoría es la información en sí misma.
-
¿Cómo se obtiene la información?
-
¿En qué creemos?
-
Información política, principalmente.
-
Sus cosas son
algoritmos ahora.
-
Y a menudo son injustas.
-
Y a menudo ilegales.
-
Pero no hemos descubierto cómo aplicar
nuestras leyes contra la discriminación.
-
La distopía que me preocupa es de
-
nosotros no frenamos
a los oscuros y peligrosos algoritmo.
-
"Oye, te hemos estado siguiendo
desde su nacimiento.
-
Entendemos que tu...
-
tuviste una infancia pobre,
-
en un barrio donde mucha gente
no ha alcanzado el éxito.
-
Y...
-
Vamos a predecir que
no lograrás el éxito.
-
No sólo vamos a predecir esto,
-
nos aseguraremos de que
no consigas el éxito".
-
No vas a ir a
una buena universidad.
-
Ni obtendrás un buen trabajo.
-
Y ni siquiera un buen préstamo.
-
Porque eso es lo que
los algoritmos hacen, realmente
-
No predicen el futuro.
Ellos hacen el futuro.
-
El dilema social.
-
Nuestro dilema social.
Mozilla