O perigo da IA é mais estranho do que se imagina

O perigo da inteligência artificial não é que ela se rebele contra nós, mas sim que faça exatamente o que peçamos que ela faça, diz a pesquisadora Janelle Shane. Abordando os feitos estranhos e por vezes alarmantes dos algoritmos de IA ao tentarem resolver problemas humanos, como criar novos sabores de sorvete ou reconhecer carros na estrada, Shane mostra por que a IA ainda não está à altura de um cérebro de verdade.

A inteligência artificial

é conhecida por perturbar vários setores.

Por exemplo, o sorvete.

Que tipos de novos sabores
incríveis poderíamos criar

com o poder de uma IA avançada?

Eu me uni a um grupo de programadores
da Kealing Middle School

para descobrir a resposta.

Eles coletaram mais de 1,6 mil
sabores de sorvete já existentes

e, juntos, os fornecemos a um algoritmo
para ver o que seria gerado.

Esses são alguns dos sabores
que a inteligência artificial criou:

[Recreio de Lixo de Abóbora]

(Risos)

[Gosma de Manteiga de Amendoim]

[Doença de Creme de Morango]

(Risos)

Esses sabores não são
tão deliciosos quanto esperávamos.

A pergunta é: o que aconteceu?

O que saiu errado?

A IA está tentando nos matar?

Ou está tentando fazer o que pedimos,
mas ocorreu algum problema?

Nos filmes, quando algo
dá errado com a IA,

geralmente é porque ela decidiu

que não quer mais obedecer aos humanos

e tem objetivos próprios, sim senhor.

Mas, na vida real,

a inteligência artificial que temos
não é inteligente o bastante para isso.

Ela possui aproximadamente a capacidade
de processamento de uma minhoca,

ou, talvez, no máximo
a de uma única abelha,

mas provavelmente menos que isso.

Constantemente aprendemos
coisas novas sobre o cérebro

que deixam claro como nossas IAs
não chegam aos pés de um cérebro real.

A IA de hoje pode efetuar tarefas simples,
como identificar um pedestre em uma foto,

mas não faz ideia do que seja o pedestre

para além de um conjunto
de linhas, texturas e afins.

Ela não sabe o que é um ser humano.

Então, a IA atual fará o que pedimos dela?

Sim, se ela puder,

mas talvez não faça
o que realmente queremos.

Digamos que quiséssemos que uma IA
pegasse um conjunto de peças robóticas

e as montasse como algum tipo de robô
para que fosse do ponto A ao B.

Bem, se tentássemos resolver esse problema

criando um programa
de computador tradicional,

daríamos instruções
passo a passo ao programa

sobre como pegar as peças,
juntá-las em um robô com pernas

que ele usaria para andar até o ponto B.

Mas, quando usamos a IA
para resolver o problema,

não funciona assim.

Não dizemos para ela
como resolver o problema,

só lhe damos o objetivo

e ela precisa descobrir sozinha,
por tentativa e erro,

como atingir aquele objetivo.

E parece que a IA costuma resolver
esse problema específico

fazendo o seguinte:

ela se transforma em uma torre e cai,

atingindo o ponto B.

E, tecnicamente, isso resolve o problema,
ela chega ao ponto B.

O perigo da IA não é
que ela se rebelará contra nós;

é que ela fará exatamente o que pedirmos.

Então, o segredo para trabalhar com IA é:

como configuramos o problema
para que ela faça o que queremos?

Este robozinho é controlado por uma IA,
que criou um design para as pernas dele

e depois descobriu como usá-las
para passar por esses obstáculos.

Mas quando David Ha
preparou essa experiência,

ele o fez dentro de limites
bastante rigorosos

sobre o tamanho das pernas
que a IA poderia criar,

porque, do contrário...

(Risos)

E, tecnicamente, ela chegou
ao final da pista de obstáculos.

Percebe-se como é difícil que uma IA
faça algo tão simples como andar.

Vendo a IA fazer isso,
podem dizer: "Ah, não é justo!

Não se pode simplesmente
ser uma torre e cair;

tem que usar as pernas para andar".

Mas acontece que isso também
nem sempre funciona.

A tarefa dessa IA era
se mover rapidamente.

Não lhe disseram
que deveria correr de frente

ou que não poderia usar os braços.

Esse é o resultado quando treinamos
uma IA para se mover rapidamente:

cambalhotas ou caminhadas ridículas.

Isso é muito comum.

Assim como se contorcer pelo chão.

(Risos)

Acho que mais esquisito ainda seriam
os robôs do "Exterminador do Futuro".

Hackear a "Matrix" é outra coisa
que a IA fará se tiver a oportunidade.

Então, se treinarmos
uma IA em uma simulação,

ela aprenderá a fazer coisas como hackear
os erros matemáticos da simulação

e colhê-los para conseguir energia.

Ou então descobrirá como se mover
mais rápido se arrastando pelo chão.

Trabalhar com IA

não se assemelha a trabalhar
com outro humano,

e sim a trabalhar com um tipo
de força estranha da natureza.

É muito fácil dar, acidentalmente,
o problema errado para a IA resolver

e frequentemente não percebemos
isso até que algo dê errado.

Essa é uma experiência que fiz,

na qual eu queria que a IA
copiasse cores de tinta

para inventar novas cores

com base em uma lista como a da esquerda.

E foi isso que a IA inventou.

[Cocô Sindis, Excremental,
Sofrimento, Cinza Pubiano]

(Risos)

Então, tecnicamente,

ela fez o que eu pedi dela.

Pensei que estivesse pedindo
nomes agradáveis de cores,

mas o que eu pedia, na verdade,

era que a IA imitasse
os tipos de combinações de letras

que estavam presentes nos originais.

E não falei nada à IA
sobre o significado das palavras,

nem que ela deveria evitar usar
algumas palavras nos nomes das tintas.

Portanto, a única coisa que a IA sabe
são os dados que lhe forneci.

Assim como ocorreu com os sabores
de sorvete, a IA não sabe mais nada.

Então, é pelos dados que, frequentemente,

dizemos a ela para fazer a coisa errada.

Este é um peixe chamado tenca.

Um grupo de pesquisadores

treinou uma IA
para reconhecê-lo em imagens.

Mas quando perguntaram à IA

qual parte da imagem era usada
para identificar o peixe,

foi isso que ela apontou.

Sim, esses são dedos humanos.

Por que ela procuraria dedos humanos
ao tentar identificar um peixe?

Bem, acontece que a tenca
é um peixe-troféu,

então, em várias imagens em que a IA
viu esse peixe durante o treinamento,

ele apresentava essa aparência.

(Risos)

E ela não sabia que os dedos
não faziam parte do peixe.

É por isso que é tão difícil
desenvolver uma IA

que realmente consiga entender
o que está observando.

E é por isso que desenvolver
o reconhecimento de imagem

em carros autônomos é tão difícil

e muitas falhas desses carros
ocorrem porque a IA se confundiu.

Falarei sobre um exemplo de 2016.

Houve um acidente fatal quando alguém
usou a IA do piloto automático de um Tesla

mas, em vez de usá-la em uma rodovia,
para onde elas foram programadas,

utilizaram-na em vias urbanas.

Um caminhão entrou na frente
do carro, que não conseguiu frear.

Vejam, a IA definitivamente foi treinada
para reconhecer caminhões em imagens.

Mas o que parece ter acontecido

é que a IA foi treinada
para reconhecê-los em estradas,

onde se espera ver
a traseira dos caminhões.

Caminhões vindos pela lateral
não deveriam aparecer em estradas,

então, quando a IA o viu,

parece que ela avaliou que se tratava
de uma placa de trânsito

e que, portanto,
seria seguro passar sob ela.

Agora vejamos um erro de IA
de um campo diferente.

A Amazon teve que desistir
de um algoritmo para seleção de currículos

no qual trabalhava

ao descobrir que ele aprendeu
a discriminar mulheres.

Eles o treinaram com base
em exemplos de currículos

de pessoas que haviam sido
contratadas por eles.

E, desses exemplos, a IA
aprendeu a evitar os currículos

de pessoas que frequentaram
faculdades femininas

ou que continham a palavra
"feminina" em algum lugar,

como "equipe feminina de futebol"
ou "Sociedade Feminina de Engenharia".

A IA não sabia que não deveria
copiar esse padrão específico

que havia observado nos humanos.

E, tecnicamente, fez o que lhe pediram.

Mas acidentalmente lhe pediram
para fazer a coisa errada.

E isso sempre acontece com IA.

Ela pode ser muito destrutiva sem saber.

As IAs que recomendam novos conteúdos
no Facebook ou no YouTube

estão otimizadas para aumentar
o número de cliques e visualizações.

Infelizmente, uma das formas
que elas têm de fazer isso

é recomendar conteúdo de teorias
da conspiração ou de intolerância.

A própria IA não tem ideia
do que seja aquele conteúdo

ou de quais possam ser
as consequências de recomendá-lo.

Então, ao trabalharmos com IA,

evitar problemas é função nossa.

E evitar que as coisas deem errado

pode se resumir ao velho
problema da comunicação,

e que nós, humanos, precisamos
aprender a nos comunicar com a IA.

Precisamos aprender
o que a IA é ou não capaz de fazer

e entender que, com seu
cerebrozinho de minhoca,

a IA, na verdade, não entende
o que tentamos pedir que ela faça.

Em outras palavras, precisamos
estar preparados para trabalhar com uma IA

que não é a IA supercompetente
e onisciente da ficção científica.

Precisamos estar preparados
para trabalhar com a IA

que realmente temos atualmente,

e ela é suficientemente esquisita.

Obrigada.

(Aplausos)