-
Algoritmos não são objetos.
-
IA e todas essas novas tecnologias
estão disseminando preconceito.
-
Eles são preveem o futuro,
eles fazem o futuro.
-
Continuando a conversa:
O dilema da descriminação
-
Eu já gastei muito do meu tempo
pensando sobre preconceito,
-
mas eu sou assim mesmo.
-
E também, a falta de conhecimento
-
do governo para entender esses problemas
-
resulta na falta de regulamento
e leis que realmente ajudariam
-
a minimizar alguns dos problemas
que já identificamos por meio da IA.
-
Algoritmos não são objetos.
-
Algoritmos são otimizados
para alcançarem algum tipo de sucesso.
-
Utilizam de dados históricos
para prever um futuro prospero.
-
As pessoas acreditam cegamente
-
que algoritmos são justos
e objetivos por natureza
-
e, parcialmente, porque eles
acreditam nessa lealdade,
-
eles não questionam o algoritmo.
-
Então quando o algoritmo acaba
sendo racista como os dados
-
que inserimos nele,
-
ele reproduz exatamente os padrões
que gostaríamos de poder superar.
-
Os sistemas estão inserindo toneladas
de informações sem contexto,
-
sem a história, e até mesmo
sem as questões políticas,
-
econômicas e sociais,
-
então você tem uma alta
probabilidade de um sistema de IA
-
que incorpora esses preconceitos
ou até os deixa piores.
-
Existe quatro tipos de algoritmos
-
que acredito que estejam
sendo mal utilizados
-
e isso poderia causar
sérios danos à sociedade.
-
As quatro categorias são:
-
Financeiro.
-
São algoritmos que decidem
-
se as pessoas irão adquirir
seguro e por quanto...
-
um bom cartão de crédito...
-
hipotecas...
-
conseguir moradia...
-
Se você abrir um
site de cartão de crédito,
-
você não vai obter
informações sobre cartões de crédito.
-
Você é mensurado e avaliado,
-
e eles é quem te mostram qual é o cartão
que eles acham que você merece.
-
A segunda categoria
é relacionada à liberdade.
-
Como você é fiscalizado?
-
Há quanto tempo você vai à prisão?
-
Você ficou preso durante à
espera por julgamento?
-
A terceira categoria é
material de subsitência:
-
seu trabalho.
-
Você faz entrevista para
o trabalho que se inscreve?
-
Consegue o vaga?
-
Você ganha aumento?
-
Em que horário você trabalha?
-
Um exemplo que chamou
muito a atenção da mídia
-
foi um algoritmo de contratação
-
que desproporcionalmente favoreceu
indivíduos que se chamavam Jared
-
e que jogavam lacrosse porque
-
a maioria dos indivíduos que tinha
um bom desempenho naquela empresa
-
tinham esses dois fatos em comum.
-
E a quarta categoria é a informação em sí.
-
Como conseguimos informação?
-
No que acreditamos?
-
Informação política, principalmente.
-
Tossas essas coisas são
algoritmos agora.
-
E frequentemente eles são injustos.
-
E frequentemente ilegais.
-
Mas não descobrimos como aplicar
nossas leis de antidiscriminação.
-
A distopia que me preocupa é de
-
não colocarmos um freio
no obscuro e perigoso algoritmo.
-
"Ei, nos rastreamos você
desde o nascimento.
-
Percebemos que você...
-
teve um infância pobre,
-
em um bairro onde muitas
pessoas não atingiram o sucesso.
-
E...
-
Vamos prever que você
não irá alcançar o sucesso.
-
Não somente vamos prever isso,
-
vamos garantir que
você não consiga o sucesso."
-
Você não vai para
uma boa faculdade.
-
Nem um bom trabalho.
-
E nem um bom empréstimo.
-
Porque é isso que
algoritmos fazem, realmente
-
Eles não preveem o futuro.
Eles fazem o futuro.
