Como evitar os preconceitos humanos na IA

Os algoritmos da Inteligência Artificial (IA) tomam decisões importantes sobre nós a todo o momento — como quanto devemos pagar pelo seguro de um carro ou se vamos ou não àquela entrevista de emprego. Mas o que acontece quando estas máquinas são construídas com os preconceitos humanos codificados dentro dos sistemas? A tecnóloga Kriti Sharma explora como a falta de diversidade na tecnologia está a infiltrar-se na IA, e apresenta três maneiras pelas quais podemos começar a fazer algoritmos mais éticos.

Quantas decisões
foram tomadas sobre vocês, hoje,

ou esta semana ou este ano,

pela inteligência artificial?

O meu trabalho é construir IA

por isso, reconheço, sou meia "nerd".

E como sou um bocado "nerd",

quando saem notícias, seja onde for,

sobre a inteligência artificial
a roubar-nos todos os empregos,

ou robôs a terem cidadania de um país,

eu sou a pessoa a quem
os meus amigos enviam mensagens

preocupados com o futuro.

Vemos isto em todo o lado.

Este pânico mediático de que
os soberanos robôs estão a dominar.

podíamos culpar Hollywood por isso.

Mas na verdade, não é esse o problema
sobre o qual nos devemos focar.

Há um perigo mais eminente,
um maior risco com a IA,

que precisamos de resolver primeiro.

Voltamos a esta questão:

Quantas decisões foram
tomadas hoje sobre vocês, pela IA?

Quantas delas

se basearam no vosso género,
raça ou origens?

Os algoritmos estão sempre a ser usados

para decidirem
quem somos e o que queremos.

Algumas das mulheres nesta sala
saberão do que estou a falar

se vos obrigaram a ver aqueles anúncios
de testes de gravidez, no YouTube,

umas 1000 vezes.

Ou se já passaram por anúncios
de clínicas de fertilidade

na vossa página do Facebook.

Ou, no meu caso, agências
indianas de casamento.

(Risos)

Mas a IA não está a ser usada
só para tomar decisões

sobre quais os produtos
que queremos comprar

ou que programa queremos ver de seguida.

Pergunto-me o que sentiriam sobre alguém
que pensasse coisas como estas:

"Uma pessoa negra ou latina

"tem menos probabilidade de pagar
atempadamente um empréstimo."

"Uma pessoa chamada João

"é melhor programador
do que uma pessoa chamada Maria."

"É mais provável que um negro
repita um crime, do que um branco."

Devem estar a pensar,

"Uau, isso parece uma pessoa
muito sexista, racista," certo?

Estas são algumas decisões reais
que a IA tem tomado, muito recentemente,

baseadas em preconceitos
que aprendeu connosco,

com os seres humanos.

A IA tem sido usada para ajudar a decidir
se vamos ou não à entrevista de emprego;

quanto pagamos pelo seguro automóvel;

quão boa é a nossa avaliação de crédito;

e até a classificação que recebemos

na análise do nosso desempenho anual.

Mas estas decisões
estão todas a ser filtradas

com base nas suposições sobre a nossa
identidade, raça, género, idade.

Como é que isso está a acontecer?

Imaginem que a IA está a ajudar
um gestor de recursos humanos

a encontrar, na empresa,
o próximo líder em tecnologia.

Até agora, o gestor
tem contratado sobretudo homens.

Assim, a IA aprende que é mais provável

os homens serem programadores,
em vez das mulheres.

E, a partir daí, é um salto
muito pequeno para:

"os homens são melhores
programadores do que as mulheres".

Reforçamos o nosso preconceito na IA.

E agora está a excluir
candidatas femininas.

Se um recrutador humano fizesse isso,

ficávamos indignados
e não o permitíamos.

Este tipo de discriminação
de género não é correto.

Apesar disso, de certa forma
a IA está acima da lei,

porque foi uma máquina
que tomou a decisão.

Não é só isso.

Também estamos a reforçar
o nosso preconceito

sobre o modo como interagimos com a IA.

Quão frequentemente
usam um assistente de voz

como a Siri, a Alexa ou até a Cortana?

Todas têm duas coisas em comum:

uma, nunca conseguem
acertar no meu nome,

e segunda, são todas femininas.

São concebidas para serem
as nossas servas obedientes,

ligando e desligando as nossas luzes,
decidindo o que comprar.

Também há IA masculinos,
mas tendem a ser mais potentes,

como o Watson IBM,
para tomar decisões de negócios.

o Força de Vendas Einstein
ou ROSS, o advogado do robô.

Coitados dos robôs,
até eles sofrem de sexismo no trabalho.

(Risos)

Pensem em como estas duas coisas
estão ligadas

e afetam uma criança a crescer
num mundo rodeado de IA.

Assim, se ela está a fazer uma
pesquisa para um projeto escolar

vai ao Google procurar
imagens de diretor executivo.

O algoritmo mostra resultados
sobretudo de homens.

Depois, pesquisa "assistente pessoal".

Como podem adivinhar,
mostra sobretudo mulheres.

Depois, quer pôr uma música,
e talvez encomendar comida,

e agora está a vociferar ordens
a uma voz feminina assistente e obediente.

Algumas das mentes mais brilhantes
estão hoje a criar esta tecnologia.

Tecnologia que podiam ter criado
como quisessem.

E ainda assim, escolheram criá-la

ao estilo dos anos 50,
da secretária de "Mad Man".

Pois é!

Mas tudo bem, não se preocupem,

isto não vai terminar comigo a dizer-vos

que vamos na direção de máquinas
racistas e sexistas a controlarem o mundo.

As boas notícias sobre a IA é que
está inteiramente sob o nosso controlo.

Somos nós que temos de ensinar
os valores e a ética certa à IA.

Assim há três coisas que podemos fazer.

Uma, podemos ter consciência
dos nossos próprios preconceitos

e dos preconceitos
das máquinas à nossa volta.

Dois, podemos garantir
que são equipas diversas

a construir esta tecnologia.

E três, temos de lhe dar experiências
diversas com as quais aprender.

Posso falar sobre as primeiras
duas por experiência pessoal.

Quando trabalhamos em tecnologia,

e não nos parecemos
com o Mark Zuckerberg ou o Elon Musk

a nossa vida é um bocadinho difícil,
a nossa capacidade é questionada.

Aqui está apenas um exemplo.

Como a maioria dos programadores,
frequentemente junto-me a fóruns "online"

e partilho o meu conhecimento
para ajudar outros.

E percebi que,

quando entro como eu própria,
a minha foto e o meu nome,

costumo receber perguntas
ou comentários como estes:

"O que te faz pensar que és qualificada
para falar sobre a IA?"

"O que te faz pensar que sabes
sobre aprendizagem de máquinas?"

Então, como se faz, criei um perfil novo

e, desta vez, escolhi a foto
de um gato com uma mochila a jato.

E escolhi um nome que não revelasse
o meu género.

Conseguem adivinhar onde
é que isto vai dar, certo?

Mas, desta vez, não tive aqueles
comentários paternalistas

sobre as minhas competências

e consegui fazer algum trabalho.

Mas é uma seca.

Construo robôs desde os 15 anos,

tenho algumas graduações
em ciências informáticas,

e ainda assim,
tive de esconder o meu género

para o meu trabalho ser levado a sério.

Então, o que está a acontecer aqui?

Os homens são melhores
do que as mulheres em tecnologia?

Um outro estudo descobriu que,
quando mulheres programadoras

numa plataforma, escondem
o seu género, como eu,

o seu código é aceite 4% mais vezes
do que o dos homens.

Então, não se trata de talento.

Trata-se de elitismo na IA

que diz que um programador precisa
de se parecer com uma certa pessoa.

O que realmente precisamos
fazer para melhorar a IA

é trazer pessoas
de todos os tipos de origens.

Precisamos de pessoas
que possam escrever e contar histórias,

para nos ajudarem a criar
personalidades da IA.

Precisamos de pessoas
que possam resolver problemas.

Precisamos de pessoas
que enfrentem diferentes desafios,

e precisamos de pessoas
que nos possam dizer

quais são os problemas reais
que precisam de ser resolvidos

e nos ajudem a encontrar maneiras
de a tecnologia os resolver.

Porque, quando as pessoas
de diversas origens se reúnem,

quando construímos as coisas
da maneira certa,

as possibilidades são ilimitadas.

É disso que quero falar convosco.

Menos sobre robôs racistas,

menos sobre máquinas
que vão roubar os nossos empregos

e mais sobre o que a tecnologia
pode realmente conseguir.

Então, sim, parte da energia
no mundo da IA,

no mundo da tecnologia

vai ser sobre quais os anúncios
que podem ver na Internet.

Mas muita dessa energia vai ser
sobre como tornar o mundo muito melhor.

Pensem numa mulher grávida
na República Democrática do Congo,

que tem de caminhar 17 horas
até à clínica pré-natal rural mais próxima

para fazer um exame de rotina.

E se, em vez disso, ela pudesse obter
um diagnóstico pelo telefone?

Ou pensem sobre o que a IA pode fazer

por uma em cada três mulheres
na África do Sul

que enfrenta a violência doméstica.

Se não fosse seguro falar em voz alta,

elas podiam obter um serviço de IA
para dar o alerta,

obter aconselhamento
financeiro e jurídico.

Estes são todos exemplos de projetos
reais, em que pessoas, incluindo eu,

estão agora a trabalhar, usando a IA.

Tenho a certeza que, nos próximos dias,
haverá mais uma notícia

sobre o risco existencial,

de os robôs assumirem
e roubarem os nossos empregos.

(Risos)

E quando acontece algo assim,

já sei que vou receber as mesmas mensagens
de preocupação com o futuro.

Mas sinto-me incrivelmente otimista
quanto a esta tecnologia.

Esta é a nossa oportunidade

de refazer o mundo
num lugar muito mais igualitário

Mas para isso, precisamos de construí-lo
da maneira certa, desde o início.

Precisamos de pessoas de diferentes sexos,
raças, sexualidades e origens.

Precisamos que as mulheres
sejam criadoras

e não apenas máquinas
que cumprem ordens.

Precisamos de pensar com muito cuidado
no que ensinamos às máquinas

que dados lhes damos,

para que não repitam
os nossos erros do passado.

Assim, espero deixar-vos
a pensar sobre duas coisas.

Primeiro, espero que saiam daqui
a pensar nos preconceitos.

E da próxima vez
que passem por um anúncio

que assume que estão interessadas
em clínicas de fertilidade

ou em páginas de apostas "online",

pensem e lembrem-se

que é a mesma tecnologia que está
a assumir que um homem negro vai reincidir

ou que é mais provável uma mulher ser
uma assistente do que diretora executiva.

Espero que isso vos relembre
que precisamos de fazer algo sobre isto.

E em segundo lugar,

espero que pensem no facto

de não precisarem de parecer
de uma certa maneira

ou de ter experiência
em engenharia ou tecnologia

para criar IA,

o que vai ser uma força
fenomenal para o nosso futuro.

Não precisam de ser
parecidas com o Mark Zuckerberg,

podem parecer-se comigo.

E cabe a todos nós nesta sala

convencer os governos e as empresas

a construir a tecnologia da IA para todos,

incluindo para os casos menos comuns

e para que todos possamos ter educação

sobre esta tecnologia fenomenal do futuro.

Porque, se fizermos isso,

estamos apenas a raspar a superfície
do que podemos conseguir com a IA.

Obrigada.

(Aplausos)