Quantas decisões foram tomadas sobre vocês, hoje,
ou esta semana ou este ano,
pela inteligência artificial?
O meu trabalho é construir IA
por isso, reconheço, sou meia "nerd".
E como sou um bocado "nerd",
quando saem notícias, seja onde for,
sobre a inteligência artificial a roubar-nos todos os empregos,
ou robôs a terem cidadania de um país,
eu sou a pessoa a quem os meus amigos enviam mensagens
preocupados com o futuro.
Vemos isto em todo o lado.
Este pânico mediático de que os soberanos robôs estão a dominar.
podíamos culpar Hollywood por isso.
Mas na verdade, não é esse o problema sobre o qual nos devemos focar.
Há um perigo mais eminente, um maior risco com a IA,
que precisamos de resolver primeiro.
Voltamos a esta questão:
Quantas decisões foram tomadas hoje sobre vocês, pela IA?
Quantas delas
se basearam no vosso género, raça ou origens?
Os algoritmos estão sempre a ser usados
para decidirem quem somos e o que queremos.
Algumas das mulheres nesta sala saberão do que estou a falar
se vos obrigaram a ver aqueles anúncios de testes de gravidez, no YouTube,
umas 1000 vezes.
Ou se já passaram por anúncios de clínicas de fertilidade
na vossa página do Facebook.
Ou, no meu caso, agências indianas de casamento.
(Risos)
Mas a IA não está a ser usada só para tomar decisões
sobre quais os produtos que queremos comprar
ou que programa queremos ver de seguida.
Pergunto-me o que sentiriam sobre alguém que pensasse coisas como estas:
"Uma pessoa negra ou latina
"tem menos probabilidade de pagar atempadamente um empréstimo."
"Uma pessoa chamada João
"é melhor programador do que uma pessoa chamada Maria."
"É mais provável que um negro repita um crime, do que um branco."
Devem estar a pensar,
"Uau, isso parece uma pessoa muito sexista, racista," certo?
Estas são algumas decisões reais que a IA tem tomado, muito recentemente,
baseadas em preconceitos que aprendeu connosco,
com os seres humanos.
A IA tem sido usada para ajudar a decidir se vamos ou não à entrevista de emprego;
quanto pagamos pelo seguro automóvel;
quão boa é a nossa avaliação de crédito;
e até a classificação que recebemos
na análise do nosso desempenho anual.
Mas estas decisões estão todas a ser filtradas
com base nas suposições sobre a nossa identidade, raça, género, idade.
Como é que isso está a acontecer?
Imaginem que a IA está a ajudar um gestor de recursos humanos
a encontrar, na empresa, o próximo líder em tecnologia.
Até agora, o gestor tem contratado sobretudo homens.
Assim, a IA aprende que é mais provável
os homens serem programadores, em vez das mulheres.
E, a partir daí, é um salto muito pequeno para:
"os homens são melhores programadores do que as mulheres".
Reforçamos o nosso preconceito na IA.
E agora está a excluir candidatas femininas.
Se um recrutador humano fizesse isso,
ficávamos indignados e não o permitíamos.
Este tipo de discriminação de género não é correto.
Apesar disso, de certa forma a IA está acima da lei,
porque foi uma máquina que tomou a decisão.
Não é só isso.
Também estamos a reforçar o nosso preconceito
sobre o modo como interagimos com a IA.
Quão frequentemente usam um assistente de voz
como a Siri, a Alexa ou até a Cortana?
Todas têm duas coisas em comum:
uma, nunca conseguem acertar no meu nome,
e segunda, são todas femininas.
São concebidas para serem as nossas servas obedientes,
ligando e desligando as nossas luzes, decidindo o que comprar.
Também há IA masculinos, mas tendem a ser mais potentes,
como o Watson IBM, para tomar decisões de negócios.
o Força de Vendas Einstein ou ROSS, o advogado do robô.
Coitados dos robôs, até eles sofrem de sexismo no trabalho.
(Risos)
Pensem em como estas duas coisas estão ligadas
e afetam uma criança a crescer num mundo rodeado de IA.
Assim, se ela está a fazer uma pesquisa para um projeto escolar
vai ao Google procurar imagens de diretor executivo.
O algoritmo mostra resultados sobretudo de homens.
Depois, pesquisa "assistente pessoal".
Como podem adivinhar, mostra sobretudo mulheres.
Depois, quer pôr uma música, e talvez encomendar comida,
e agora está a vociferar ordens a uma voz feminina assistente e obediente.
Algumas das mentes mais brilhantes estão hoje a criar esta tecnologia.
Tecnologia que podiam ter criado como quisessem.
E ainda assim, escolheram criá-la
ao estilo dos anos 50, da secretária de "Mad Man".
Pois é!
Mas tudo bem, não se preocupem,
isto não vai terminar comigo a dizer-vos
que vamos na direção de máquinas racistas e sexistas a controlarem o mundo.
As boas notícias sobre a IA é que está inteiramente sob o nosso controlo.
Somos nós que temos de ensinar os valores e a ética certa à IA.
Assim há três coisas que podemos fazer.
Uma, podemos ter consciência dos nossos próprios preconceitos
e dos preconceitos das máquinas à nossa volta.
Dois, podemos garantir que são equipas diversas
a construir esta tecnologia.
E três, temos de lhe dar experiências diversas com as quais aprender.
Posso falar sobre as primeiras duas por experiência pessoal.
Quando trabalhamos em tecnologia,
e não nos parecemos com o Mark Zuckerberg ou o Elon Musk
a nossa vida é um bocadinho difícil, a nossa capacidade é questionada.
Aqui está apenas um exemplo.
Como a maioria dos programadores, frequentemente junto-me a fóruns "online"
e partilho o meu conhecimento para ajudar outros.
E percebi que,
quando entro como eu própria, a minha foto e o meu nome,
costumo receber perguntas ou comentários como estes:
"O que te faz pensar que és qualificada para falar sobre a IA?"
"O que te faz pensar que sabes sobre aprendizagem de máquinas?"
Então, como se faz, criei um perfil novo
e, desta vez, escolhi a foto de um gato com uma mochila a jato.
E escolhi um nome que não revelasse o meu género.
Conseguem adivinhar onde é que isto vai dar, certo?
Mas, desta vez, não tive aqueles comentários paternalistas
sobre as minhas competências
e consegui fazer algum trabalho.
Mas é uma seca.
Construo robôs desde os 15 anos,
tenho algumas graduações em ciências informáticas,
e ainda assim, tive de esconder o meu género
para o meu trabalho ser levado a sério.
Então, o que está a acontecer aqui?
Os homens são melhores do que as mulheres em tecnologia?
Um outro estudo descobriu que, quando mulheres programadoras
numa plataforma, escondem o seu género, como eu,
o seu código é aceite 4% mais vezes do que o dos homens.
Então, não se trata de talento.
Trata-se de elitismo na IA
que diz que um programador precisa de se parecer com uma certa pessoa.
O que realmente precisamos fazer para melhorar a IA
é trazer pessoas de todos os tipos de origens.
Precisamos de pessoas que possam escrever e contar histórias,
para nos ajudarem a criar personalidades da IA.
Precisamos de pessoas que possam resolver problemas.
Precisamos de pessoas que enfrentem diferentes desafios,
e precisamos de pessoas que nos possam dizer
quais são os problemas reais que precisam de ser resolvidos
e nos ajudem a encontrar maneiras de a tecnologia os resolver.
Porque, quando as pessoas de diversas origens se reúnem,
quando construímos as coisas da maneira certa,
as possibilidades são ilimitadas.
É disso que quero falar convosco.
Menos sobre robôs racistas,
menos sobre máquinas que vão roubar os nossos empregos
e mais sobre o que a tecnologia pode realmente conseguir.
Então, sim, parte da energia no mundo da IA,
no mundo da tecnologia
vai ser sobre quais os anúncios que podem ver na Internet.
Mas muita dessa energia vai ser sobre como tornar o mundo muito melhor.
Pensem numa mulher grávida na República Democrática do Congo,
que tem de caminhar 17 horas até à clínica pré-natal rural mais próxima
para fazer um exame de rotina.
E se, em vez disso, ela pudesse obter um diagnóstico pelo telefone?
Ou pensem sobre o que a IA pode fazer
por uma em cada três mulheres na África do Sul
que enfrenta a violência doméstica.
Se não fosse seguro falar em voz alta,
elas podiam obter um serviço de IA para dar o alerta,
obter aconselhamento financeiro e jurídico.
Estes são todos exemplos de projetos reais, em que pessoas, incluindo eu,
estão agora a trabalhar, usando a IA.
Tenho a certeza que, nos próximos dias, haverá mais uma notícia
sobre o risco existencial,
de os robôs assumirem e roubarem os nossos empregos.
(Risos)
E quando acontece algo assim,
já sei que vou receber as mesmas mensagens de preocupação com o futuro.
Mas sinto-me incrivelmente otimista quanto a esta tecnologia.
Esta é a nossa oportunidade
de refazer o mundo num lugar muito mais igualitário
Mas para isso, precisamos de construí-lo da maneira certa, desde o início.
Precisamos de pessoas de diferentes sexos, raças, sexualidades e origens.
Precisamos que as mulheres sejam criadoras
e não apenas máquinas que cumprem ordens.
Precisamos de pensar com muito cuidado no que ensinamos às máquinas
que dados lhes damos,
para que não repitam os nossos erros do passado.
Assim, espero deixar-vos a pensar sobre duas coisas.
Primeiro, espero que saiam daqui a pensar nos preconceitos.
E da próxima vez que passem por um anúncio
que assume que estão interessadas em clínicas de fertilidade
ou em páginas de apostas "online",
pensem e lembrem-se
que é a mesma tecnologia que está a assumir que um homem negro vai reincidir
ou que é mais provável uma mulher ser uma assistente do que diretora executiva.
Espero que isso vos relembre que precisamos de fazer algo sobre isto.
E em segundo lugar,
espero que pensem no facto
de não precisarem de parecer de uma certa maneira
ou de ter experiência em engenharia ou tecnologia
para criar IA,
o que vai ser uma força fenomenal para o nosso futuro.
Não precisam de ser parecidas com o Mark Zuckerberg,
podem parecer-se comigo.
E cabe a todos nós nesta sala
convencer os governos e as empresas
a construir a tecnologia da IA para todos,
incluindo para os casos menos comuns
e para que todos possamos ter educação
sobre esta tecnologia fenomenal do futuro.
Porque, se fizermos isso,
estamos apenas a raspar a superfície do que podemos conseguir com a IA.
Obrigada.
(Aplausos)