Los algoritmos no son objetos. La IA y todas estas nuevas tecnologías están difundiendo los prejuicios. Están prediciendo el futuro, hacen el futuro. Continuando la conversación: El dilema de la discriminación He pasado gran parte de mi tiempo pensando en los prejuicios, pero es que yo soy así. Y también, la falta de conocimiento del gobierno para entender estos problemas resulta en una falta de regulación y leyes que realmente ayudarían para minimizar algunos de los problemas que ya hemos identificado a través de la IA. Los algoritmos no son objetivos. Los algoritmos están optimizados para alguna definición de éxito. Utilizan datos históricos para predecir un futuro próspero. La gente cree ciegamente que los algoritmos son justos y objetivo por naturaleza y en parte porque creen en esta lealtad, no cuestionan el algoritmo. Así que cuando el algoritmo termina siendo racista como los datos que insertamos en él, reproduce exactamente los patrones que desearíamos que trascendieran. Los sistemas están introduciendo toneladas de información sin contexto, sin historia, e incluso sin cuestiones políticas, económicas y sociales, entonces tienes un alto probabilidad de un sistema de IA que encarna estos prejuicios o incluso los empeora. Hay cuatro tipos de algoritmos que creo que se utilizan indebidamente y esto podría causar graves daños a la sociedad. Las cuatro categorías son: Financiero. Son algoritmos que deciden si la gente comprará un seguro y por cuánto.. una buena tarjeta de crédito... hipotecas... obtener una vivienda ... Si abres el sitio web de una tarjeta de crédito, no conseguirás información de la tarjeta de crédito. Te miden y te descubren, y son ellos los que te enseñan qué tarjeta creen que te mereces. La segunda categoría está relacionado con la libertad. ¿Cómo se controla? ¿Cuánto tiempo has estado yendo a la cárcel? ¿Fue encarcelado mientras esperaba por un juicio? La tercera categoría es la de los medios de subsistencia: su trabajo. ¿Obtienes una entrevista para el trabajo que solicitas? ¿Conseguiste el trabajo? ¿Recibes un aumento de sueldo? ¿Cuál es tu horario de trabajo? Un ejemplo que atrajo la atención de los medios de comunicación era un algoritmo de contratación que favoreció desproporcionadamente a individuos que se llamaban Jared y que jugaban al lacrosse porque la mayoría de los individuos que tenían un buen rendimiento en esa empresa tenían estos dos hechos en común. Y la cuarta categoría es la información en sí misma. ¿Cómo se obtiene la información? ¿En qué creemos? Información política, principalmente. Sus cosas son algoritmos ahora. Y a menudo son injustas. Y a menudo ilegales. Pero no hemos descubierto cómo aplicar nuestras leyes contra la discriminación. La distopía que me preocupa es de nosotros no frenamos a los oscuros y peligrosos algoritmo. "Oye, te hemos estado siguiendo desde su nacimiento. Entendemos que tu... tuviste una infancia pobre, en un barrio donde mucha gente no ha alcanzado el éxito. Y... Vamos a predecir que no lograrás el éxito. No sólo vamos a predecir esto, nos aseguraremos de que no consigas el éxito". No vas a ir a una buena universidad. Ni obtendrás un buen trabajo. Y ni siquiera un buen préstamo. Porque eso es lo que los algoritmos hacen, realmente No predicen el futuro. Ellos hacen el futuro. El dilema social. Nuestro dilema social.