Algoritmos não são objetos.
IA e todas essas novas tecnologias estão disseminando preconceito.
Eles são preveem o futuro, eles fazem o futuro.
Continuando a conversa: O dilema da descriminação
Eu já gastei muito do meu tempo pensando sobre preconceito,
mas eu sou assim mesmo.
E também, a falta de conhecimento
do governo para entender esses problemas
resulta na falta de regulamento e leis que realmente ajudariam
a minimizar alguns dos problemas que já identificamos por meio da IA.
Algoritmos não são objetos.
Algoritmos são otimizados para alcançarem algum tipo de sucesso.
Utilizam de dados históricos para prever um futuro prospero.
As pessoas acreditam cegamente
que algoritmos são justos e objetivos por natureza
e, parcialmente, porque eles acreditam nessa lealdade,
eles não questionam o algoritmo.
Então quando o algoritmo acaba sendo racista como os dados
que inserimos nele,
ele reproduz exatamente os padrões que gostaríamos de poder superar.
Os sistemas estão inserindo toneladas de informações sem contexto,
sem a história, e até mesmo sem as questões políticas,
econômicas e sociais,
então você tem uma alta probabilidade de um sistema de IA
que incorpora esses preconceitos ou até os deixa piores.
Existe quatro tipos de algoritmos
que acredito que estejam sendo mal utilizados
e isso poderia causar sérios danos à sociedade.
As quatro categorias são:
Financeiro.
São algoritmos que decidem
se as pessoas irão adquirir seguro e por quanto...
um bom cartão de crédito...
hipotecas...
conseguir moradia...
Se você abrir um site de cartão de crédito,
você não vai obter informações sobre cartões de crédito.
Você é mensurado e avaliado,
e eles é quem te mostram qual é o cartão que eles acham que você merece.
A segunda categoria é relacionada à liberdade.
Como você é fiscalizado?
Há quanto tempo você vai à prisão?
Você ficou preso durante à espera por julgamento?
A terceira categoria é material de subsitência:
seu trabalho.
Você faz entrevista para o trabalho que se inscreve?
Consegue o vaga?
Você ganha aumento?
Em que horário você trabalha?
Um exemplo que chamou muito a atenção da mídia
foi um algoritmo de contratação
que desproporcionalmente favoreceu indivíduos que se chamavam Jared
e que jogavam lacrosse porque
a maioria dos indivíduos que tinha um bom desempenho naquela empresa
tinham esses dois fatos em comum.
E a quarta categoria é a informação em sí.
Como conseguimos informação?
No que acreditamos?
Informação política, principalmente.
Tossas essas coisas são algoritmos agora.
E frequentemente eles são injustos.
E frequentemente ilegais.
Mas não descobrimos como aplicar nossas leis de antidiscriminação.
A distopia que me preocupa é de
não colocarmos um freio no obscuro e perigoso algoritmo.
"Ei, nos rastreamos você desde o nascimento.
Percebemos que você...
teve um infância pobre,
em um bairro onde muitas pessoas não atingiram o sucesso.
E...
Vamos prever que você não irá alcançar o sucesso.
Não somente vamos prever isso,
vamos garantir que você não consiga o sucesso."
Você não vai para uma boa faculdade.
Nem um bom trabalho.
E nem um bom empréstimo.
Porque é isso que algoritmos fazem, realmente
Eles não preveem o futuro. Eles fazem o futuro.