Los algoritmos no son objetos.
La IA y todas estas nuevas tecnologías
están difundiendo los prejuicios.
Están prediciendo el futuro,
hacen el futuro.
Continuando la conversación:
El dilema de la discriminación
He pasado gran parte de mi tiempo
pensando en los prejuicios,
pero es que yo soy así.
Y también, la falta de conocimiento
del gobierno para entender estos problemas
resulta en una falta de regulación
y leyes que realmente ayudarían
para minimizar algunos de los problemas
que ya hemos identificado a través de la IA.
Los algoritmos no son objetivos.
Los algoritmos están optimizados
para alguna definición de éxito.
Utilizan datos históricos
para predecir un futuro próspero.
La gente cree ciegamente
que los algoritmos son justos
y objetivo por naturaleza
y en parte porque
creen en esta lealtad,
no cuestionan el algoritmo.
Así que cuando el algoritmo termina
siendo racista como los datos
que insertamos en él,
reproduce exactamente los patrones
que desearíamos que trascendieran.
Los sistemas están introduciendo toneladas
de información sin contexto,
sin historia, e incluso
sin cuestiones políticas,
económicas y sociales,
entonces tienes un alto
probabilidad de un sistema de IA
que encarna estos prejuicios
o incluso los empeora.
Hay cuatro tipos de algoritmos
que creo que se utilizan
indebidamente
y esto podría causar
graves daños a la sociedad.
Las cuatro categorías son:
Financiero.
Son algoritmos que deciden
si la gente comprará un
seguro y por cuánto..
una buena tarjeta de crédito...
hipotecas...
obtener una vivienda ...
Si abres el
sitio web de una tarjeta de crédito,
no conseguirás
información de la tarjeta de crédito.
Te miden y te descubren,
y son ellos los que te enseñan qué tarjeta
creen que te mereces.
La segunda categoría
está relacionado con la libertad.
¿Cómo se controla?
¿Cuánto tiempo has estado yendo a la cárcel?
¿Fue encarcelado mientras
esperaba por un juicio?
La tercera categoría es
la de los medios de subsistencia:
su trabajo.
¿Obtienes una entrevista para
el trabajo que solicitas?
¿Conseguiste el trabajo?
¿Recibes un aumento de sueldo?
¿Cuál es tu horario de trabajo?
Un ejemplo que atrajo
la atención de los medios de comunicación
era un algoritmo de contratación
que favoreció desproporcionadamente a
individuos que se llamaban Jared
y que jugaban al lacrosse porque
la mayoría de los individuos que tenían
un buen rendimiento en esa empresa
tenían estos dos hechos en común.
Y la cuarta categoría es la información en sí misma.
¿Cómo se obtiene la información?
¿En qué creemos?
Información política, principalmente.
Sus cosas son
algoritmos ahora.
Y a menudo son injustas.
Y a menudo ilegales.
Pero no hemos descubierto cómo aplicar
nuestras leyes contra la discriminación.
La distopía que me preocupa es de
nosotros no frenamos
a los oscuros y peligrosos algoritmo.
"Oye, te hemos estado siguiendo
desde su nacimiento.
Entendemos que tu...
tuviste una infancia pobre,
en un barrio donde mucha gente
no ha alcanzado el éxito.
Y...
Vamos a predecir que
no lograrás el éxito.
No sólo vamos a predecir esto,
nos aseguraremos de que
no consigas el éxito".
No vas a ir a
una buena universidad.
Ni obtendrás un buen trabajo.
Y ni siquiera un buen préstamo.
Porque eso es lo que
los algoritmos hacen, realmente
No predicen el futuro.
Ellos hacen el futuro.
El dilema social.
Nuestro dilema social.