Los algoritmos no son objetivos.
La IA y todas estas nuevas tecnologías están perpetuando los prejuicios.
Están prediciendo el futuro, hacen el futuro.
Continuando la conversación:
El dilema de la discriminación
He pasado gran parte de mi tiempo pensando en los prejuicios,
pero es que yo soy así.
Y también, la falta de conocimiento
del gobierno para entender estos problemas
resulta en una falta de regulación y leyes que realmente ayudarían
a minimizar algunos de los problemas que ya hemos identificado a través de la IA.
Los algoritmos no son objetivos.
Los algoritmos están optimizados para alguna definición de éxito.
Utilizan datos históricos para predecir un futuro exitoso.
La gente cree ciegamente
que los algoritmos son justos y objetivo por naturaleza
y en parte porque creen en esta lealtad,
no cuestionan el algoritmo.
Así que cuando el algoritmo termina siendo racista como los datos
que insertamos en él,
reproduce exactamente los patrones que desearíamos que trascendieran.
Los sistemas están introduciendo toneladas de información sin contexto,
sin historia, e incluso sin cuestiones políticas,
económicas y sociales,
entonces tienes una mayor probabilidad de un sistema de IA
que encarna estos prejuicios o incluso los empeora.
Hay cuatro tipos de algoritmos
que creo que se utilizan indebidamente
y esto podría causar graves daños a la sociedad.
Las cuatro categorías son:
Financiero.
Son algoritmos que deciden
si la gente comprará un seguro y por cuánto..
si consiguen buenas tarjetas de crédito...
si consiguen hipotecas...
si consiguen una vivienda …
Si abres el sitio web de una tarjeta de crédito,
no conseguirás información de las tarjetas de crédito.
Te miden y te analizan,
y son ellos los que te enseñan qué tarjeta creen que te mereces.
La segunda categoría está relacionado con la libertad.
¿Cómo te controlas?
¿Cuánto tiempo vas a la cárcel?
¿Fuiste encarcelado mientras esperabas por un juicio?
La tercera categoría es la de los medios de subsistencia:
su trabajo.
¿Obtienes una entrevista para el trabajo que solicitas?
¿Conseguiste el trabajo?
¿Recibes un aumento de sueldo?
¿Cuál es tu horario de trabajo?
Un ejemplo que atrajo la atención de los medios de comunicación
era un algoritmo de contratación
que favoreció desproporcionadamente a individuos que se llamaban Jared
y que jugaban al lacrosse porque
la mayoría de los individuos que tenían un buen rendimiento en esa empresa
tenían estos dos hechos en común.
Y la cuarta categoría es la información en sí misma.
¿Cómo se obtiene la información?
¿En qué creemos?
Información política, principalmente.
Sus cosas son algoritmos ahora.
Y a menudo son injustas.
Y a menudo ilegales.
Pero no hemos descubierto cómo aplicar nuestras leyes contra la discriminación.
La distopía que me preocupa es de
nosotros no frenamos a los oscuros y peligrosos algoritmo.
"Oye, te hemos estado siguiendo desde tu nacimiento.
Entendemos que tu...
tuviste una infancia pobre,
en un barrio donde mucha gente no ha alcanzado el éxito.
Y...
Vamos a predecir que no lograrás el éxito.
No sólo vamos a predecir esto,
nos aseguraremos de que no consigas el éxito".
No vas a ir a una buena universidad.
Ni obtendrás un buen trabajo.
Y ni siquiera un buen préstamo.
Porque eso es lo que los algoritmos hacen, realmente
No predicen el futuro. Ellos hacen el futuro.
El dilema social.
Nuestro dilema social.