Algoritmos não são objetos.
IA e todas essas novas tecnologias
estão disseminando preconceito.
Eles são preveem o futuro,
eles fazem o futuro.
Continuando a conversa:
O dilema da descriminação
Eu já gastei muito do meu tempo
pensando sobre preconceito,
mas eu sou assim mesmo.
E também, a falta de conhecimento
do governo para entender esses problemas
resulta na falta de regulamento
e leis que realmente ajudariam
a minimizar alguns dos problemas
que já identificamos por meio da IA.
Algoritmos não são objetos.
Algoritmos são otimizados
para alcançarem algum tipo de sucesso.
Utilizam de dados históricos
para prever um futuro prospero.
As pessoas acreditam cegamente
que algoritmos são justos
e objetivos por natureza
e, parcialmente, porque eles
acreditam nessa lealdade,
eles não questionam o algoritmo.
Então quando o algoritmo acaba
sendo racista como os dados
que inserimos nele,
ele reproduz exatamente os padrões
que gostaríamos de poder superar.
Os sistemas estão inserindo toneladas
de informações sem contexto,
sem a história, e até mesmo
sem as questões políticas,
econômicas e sociais,
então você tem uma alta
probabilidade de um sistema de IA
que incorpora esses preconceitos
ou até os deixa piores.
Existe quatro tipos de algoritmos
que acredito que estejam
sendo mal utilizados
e isso poderia causar
sérios danos à sociedade.
As quatro categorias são:
Financeiro.
São algoritmos que decidem
se as pessoas irão adquirir
seguro e por quanto...
um bom cartão de crédito...
hipotecas...
conseguir moradia...
Se você abrir um
site de cartão de crédito,
você não vai obter
informações sobre cartões de crédito.
Você é mensurado e avaliado,
e eles é quem te mostram qual é o cartão
que eles acham que você merece.
A segunda categoria
é relacionada à liberdade.
Como você é fiscalizado?
Há quanto tempo você vai à prisão?
Você ficou preso durante à
espera por julgamento?
A terceira categoria é
material de subsitência:
seu trabalho.
Você faz entrevista para
o trabalho que se inscreve?
Consegue o vaga?
Você ganha aumento?
Em que horário você trabalha?
Um exemplo que chamou
muito a atenção da mídia
foi um algoritmo de contratação
que desproporcionalmente favoreceu
indivíduos que se chamavam Jared
e que jogavam lacrosse porque
a maioria dos indivíduos que tinha
um bom desempenho naquela empresa
tinham esses dois fatos em comum.
E a quarta categoria é a informação em sí.
Como conseguimos informação?
No que acreditamos?
Informação política, principalmente.
Tossas essas coisas são
algoritmos agora.
E frequentemente eles são injustos.
E frequentemente ilegais.
Mas não descobrimos como aplicar
nossas leis de antidiscriminação.
A distopia que me preocupa é de
não colocarmos um freio
no obscuro e perigoso algoritmo.
"Ei, nos rastreamos você
desde o nascimento.
Percebemos que você...
teve um infância pobre,
em um bairro onde muitas
pessoas não atingiram o sucesso.
E...
Vamos prever que você
não irá alcançar o sucesso.
Não somente vamos prever isso,
vamos garantir que
você não consiga o sucesso."
Você não vai para
uma boa faculdade.
Nem um bom trabalho.
E nem um bom empréstimo.
Porque é isso que
algoritmos fazem, realmente
Eles não preveem o futuro.
Eles fazem o futuro.