O perigo da IA é mais estranho do que se imagina
-
0:03 - 0:05A inteligência artificial
-
0:05 - 0:08é conhecida por perturbar vários setores.
-
0:09 - 0:11Por exemplo, o sorvete.
-
0:12 - 0:16Que tipos de novos sabores
incríveis poderíamos criar -
0:16 - 0:19com o poder de uma IA avançada?
-
0:19 - 0:23Eu me uni a um grupo de programadores
da Kealing Middle School -
0:23 - 0:25para descobrir a resposta.
-
0:25 - 0:31Eles coletaram mais de 1,6 mil
sabores de sorvete já existentes -
0:31 - 0:36e, juntos, os fornecemos a um algoritmo
para ver o que seria gerado. -
0:36 - 0:40Esses são alguns dos sabores
que a inteligência artificial criou: -
0:40 - 0:42[Recreio de Lixo de Abóbora]
-
0:42 - 0:43(Risos)
-
0:43 - 0:46[Gosma de Manteiga de Amendoim]
-
0:47 - 0:49[Doença de Creme de Morango]
-
0:49 - 0:50(Risos)
-
0:50 - 0:55Esses sabores não são
tão deliciosos quanto esperávamos. -
0:55 - 0:57A pergunta é: o que aconteceu?
-
0:57 - 0:58O que saiu errado?
-
0:58 - 1:01A IA está tentando nos matar?
-
1:01 - 1:06Ou está tentando fazer o que pedimos,
mas ocorreu algum problema? -
1:07 - 1:09Nos filmes, quando algo
dá errado com a IA, -
1:09 - 1:12geralmente é porque ela decidiu
-
1:12 - 1:14que não quer mais obedecer aos humanos
-
1:14 - 1:17e tem objetivos próprios, sim senhor.
-
1:17 - 1:19Mas, na vida real,
-
1:19 - 1:23a inteligência artificial que temos
não é inteligente o bastante para isso. -
1:23 - 1:27Ela possui aproximadamente a capacidade
de processamento de uma minhoca, -
1:27 - 1:30ou, talvez, no máximo
a de uma única abelha, -
1:31 - 1:33mas provavelmente menos que isso.
-
1:33 - 1:35Constantemente aprendemos
coisas novas sobre o cérebro -
1:35 - 1:40que deixam claro como nossas IAs
não chegam aos pés de um cérebro real. -
1:40 - 1:45A IA de hoje pode efetuar tarefas simples,
como identificar um pedestre em uma foto, -
1:45 - 1:48mas não faz ideia do que seja o pedestre
-
1:48 - 1:53para além de um conjunto
de linhas, texturas e afins. -
1:54 - 1:57Ela não sabe o que é um ser humano.
-
1:57 - 2:00Então, a IA atual fará o que pedimos dela?
-
2:00 - 2:02Sim, se ela puder,
-
2:02 - 2:04mas talvez não faça
o que realmente queremos. -
2:04 - 2:10Digamos que quiséssemos que uma IA
pegasse um conjunto de peças robóticas -
2:10 - 2:14e as montasse como algum tipo de robô
para que fosse do ponto A ao B. -
2:14 - 2:16Bem, se tentássemos resolver esse problema
-
2:16 - 2:19criando um programa
de computador tradicional, -
2:19 - 2:22daríamos instruções
passo a passo ao programa -
2:22 - 2:26sobre como pegar as peças,
juntá-las em um robô com pernas -
2:26 - 2:29que ele usaria para andar até o ponto B.
-
2:29 - 2:32Mas, quando usamos a IA
para resolver o problema, -
2:32 - 2:33não funciona assim.
-
2:33 - 2:35Não dizemos para ela
como resolver o problema, -
2:35 - 2:37só lhe damos o objetivo
-
2:37 - 2:40e ela precisa descobrir sozinha,
por tentativa e erro, -
2:40 - 2:42como atingir aquele objetivo.
-
2:42 - 2:46E parece que a IA costuma resolver
esse problema específico -
2:46 - 2:48fazendo o seguinte:
-
2:48 - 2:51ela se transforma em uma torre e cai,
-
2:51 - 2:53atingindo o ponto B.
-
2:53 - 2:58E, tecnicamente, isso resolve o problema,
ela chega ao ponto B. -
2:58 - 3:02O perigo da IA não é
que ela se rebelará contra nós; -
3:02 - 3:06é que ela fará exatamente o que pedirmos.
-
3:07 - 3:09Então, o segredo para trabalhar com IA é:
-
3:09 - 3:13como configuramos o problema
para que ela faça o que queremos? -
3:15 - 3:21Este robozinho é controlado por uma IA,
que criou um design para as pernas dele -
3:21 - 3:25e depois descobriu como usá-las
para passar por esses obstáculos. -
3:25 - 3:28Mas quando David Ha
preparou essa experiência, -
3:28 - 3:31ele o fez dentro de limites
bastante rigorosos -
3:31 - 3:34sobre o tamanho das pernas
que a IA poderia criar, -
3:34 - 3:36porque, do contrário...
-
3:43 - 3:45(Risos)
-
3:49 - 3:52E, tecnicamente, ela chegou
ao final da pista de obstáculos. -
3:52 - 3:57Percebe-se como é difícil que uma IA
faça algo tão simples como andar. -
3:57 - 4:01Vendo a IA fazer isso,
podem dizer: "Ah, não é justo! -
4:01 - 4:04Não se pode simplesmente
ser uma torre e cair; -
4:04 - 4:07tem que usar as pernas para andar".
-
4:07 - 4:10Mas acontece que isso também
nem sempre funciona. -
4:10 - 4:13A tarefa dessa IA era
se mover rapidamente. -
4:13 - 4:17Não lhe disseram
que deveria correr de frente -
4:17 - 4:19ou que não poderia usar os braços.
-
4:19 - 4:24Esse é o resultado quando treinamos
uma IA para se mover rapidamente: -
4:24 - 4:28cambalhotas ou caminhadas ridículas.
-
4:28 - 4:29Isso é muito comum.
-
4:30 - 4:33Assim como se contorcer pelo chão.
-
4:33 - 4:35(Risos)
-
4:35 - 4:40Acho que mais esquisito ainda seriam
os robôs do "Exterminador do Futuro". -
4:40 - 4:44Hackear a "Matrix" é outra coisa
que a IA fará se tiver a oportunidade. -
4:44 - 4:47Então, se treinarmos
uma IA em uma simulação, -
4:47 - 4:51ela aprenderá a fazer coisas como hackear
os erros matemáticos da simulação -
4:51 - 4:53e colhê-los para conseguir energia.
-
4:53 - 4:58Ou então descobrirá como se mover
mais rápido se arrastando pelo chão. -
4:58 - 5:00Trabalhar com IA
-
5:00 - 5:02não se assemelha a trabalhar
com outro humano, -
5:02 - 5:06e sim a trabalhar com um tipo
de força estranha da natureza. -
5:07 - 5:11É muito fácil dar, acidentalmente,
o problema errado para a IA resolver -
5:11 - 5:16e frequentemente não percebemos
isso até que algo dê errado. -
5:16 - 5:18Essa é uma experiência que fiz,
-
5:18 - 5:22na qual eu queria que a IA
copiasse cores de tinta -
5:22 - 5:23para inventar novas cores
-
5:23 - 5:26com base em uma lista como a da esquerda.
-
5:27 - 5:30E foi isso que a IA inventou.
-
5:30 - 5:34[Cocô Sindis, Excremental,
Sofrimento, Cinza Pubiano] -
5:34 - 5:35(Risos)
-
5:39 - 5:41Então, tecnicamente,
-
5:41 - 5:43ela fez o que eu pedi dela.
-
5:43 - 5:46Pensei que estivesse pedindo
nomes agradáveis de cores, -
5:46 - 5:49mas o que eu pedia, na verdade,
-
5:49 - 5:52era que a IA imitasse
os tipos de combinações de letras -
5:52 - 5:54que estavam presentes nos originais.
-
5:54 - 5:57E não falei nada à IA
sobre o significado das palavras, -
5:57 - 6:03nem que ela deveria evitar usar
algumas palavras nos nomes das tintas. -
6:03 - 6:07Portanto, a única coisa que a IA sabe
são os dados que lhe forneci. -
6:07 - 6:11Assim como ocorreu com os sabores
de sorvete, a IA não sabe mais nada. -
6:12 - 6:15Então, é pelos dados que, frequentemente,
-
6:15 - 6:19dizemos a ela para fazer a coisa errada.
-
6:19 - 6:22Este é um peixe chamado tenca.
-
6:22 - 6:24Um grupo de pesquisadores
-
6:24 - 6:27treinou uma IA
para reconhecê-lo em imagens. -
6:27 - 6:29Mas quando perguntaram à IA
-
6:29 - 6:32qual parte da imagem era usada
para identificar o peixe, -
6:32 - 6:34foi isso que ela apontou.
-
6:35 - 6:37Sim, esses são dedos humanos.
-
6:37 - 6:42Por que ela procuraria dedos humanos
ao tentar identificar um peixe? -
6:42 - 6:45Bem, acontece que a tenca
é um peixe-troféu, -
6:45 - 6:50então, em várias imagens em que a IA
viu esse peixe durante o treinamento, -
6:50 - 6:52ele apresentava essa aparência.
-
6:52 - 6:53(Risos)
-
6:53 - 6:57E ela não sabia que os dedos
não faziam parte do peixe. -
6:59 - 7:03É por isso que é tão difícil
desenvolver uma IA -
7:03 - 7:06que realmente consiga entender
o que está observando. -
7:06 - 7:09E é por isso que desenvolver
o reconhecimento de imagem -
7:09 - 7:11em carros autônomos é tão difícil
-
7:11 - 7:16e muitas falhas desses carros
ocorrem porque a IA se confundiu. -
7:16 - 7:20Falarei sobre um exemplo de 2016.
-
7:20 - 7:25Houve um acidente fatal quando alguém
usou a IA do piloto automático de um Tesla -
7:25 - 7:28mas, em vez de usá-la em uma rodovia,
para onde elas foram programadas, -
7:28 - 7:31utilizaram-na em vias urbanas.
-
7:31 - 7:36Um caminhão entrou na frente
do carro, que não conseguiu frear. -
7:37 - 7:41Vejam, a IA definitivamente foi treinada
para reconhecer caminhões em imagens. -
7:41 - 7:43Mas o que parece ter acontecido
-
7:43 - 7:46é que a IA foi treinada
para reconhecê-los em estradas, -
7:46 - 7:49onde se espera ver
a traseira dos caminhões. -
7:49 - 7:53Caminhões vindos pela lateral
não deveriam aparecer em estradas, -
7:53 - 7:56então, quando a IA o viu,
-
7:56 - 8:01parece que ela avaliou que se tratava
de uma placa de trânsito -
8:01 - 8:04e que, portanto,
seria seguro passar sob ela. -
8:04 - 8:07Agora vejamos um erro de IA
de um campo diferente. -
8:07 - 8:10A Amazon teve que desistir
de um algoritmo para seleção de currículos -
8:10 - 8:11no qual trabalhava
-
8:11 - 8:15ao descobrir que ele aprendeu
a discriminar mulheres. -
8:15 - 8:18Eles o treinaram com base
em exemplos de currículos -
8:18 - 8:20de pessoas que haviam sido
contratadas por eles. -
8:20 - 8:24E, desses exemplos, a IA
aprendeu a evitar os currículos -
8:24 - 8:26de pessoas que frequentaram
faculdades femininas -
8:26 - 8:29ou que continham a palavra
"feminina" em algum lugar, -
8:29 - 8:34como "equipe feminina de futebol"
ou "Sociedade Feminina de Engenharia". -
8:34 - 8:38A IA não sabia que não deveria
copiar esse padrão específico -
8:38 - 8:40que havia observado nos humanos.
-
8:40 - 8:43E, tecnicamente, fez o que lhe pediram.
-
8:43 - 8:46Mas acidentalmente lhe pediram
para fazer a coisa errada. -
8:47 - 8:50E isso sempre acontece com IA.
-
8:50 - 8:54Ela pode ser muito destrutiva sem saber.
-
8:54 - 8:59As IAs que recomendam novos conteúdos
no Facebook ou no YouTube -
8:59 - 9:02estão otimizadas para aumentar
o número de cliques e visualizações. -
9:02 - 9:06Infelizmente, uma das formas
que elas têm de fazer isso -
9:06 - 9:10é recomendar conteúdo de teorias
da conspiração ou de intolerância. -
9:11 - 9:16A própria IA não tem ideia
do que seja aquele conteúdo -
9:16 - 9:22ou de quais possam ser
as consequências de recomendá-lo. -
9:22 - 9:24Então, ao trabalharmos com IA,
-
9:24 - 9:29evitar problemas é função nossa.
-
9:29 - 9:31E evitar que as coisas deem errado
-
9:31 - 9:35pode se resumir ao velho
problema da comunicação, -
9:35 - 9:39e que nós, humanos, precisamos
aprender a nos comunicar com a IA. -
9:39 - 9:43Precisamos aprender
o que a IA é ou não capaz de fazer -
9:43 - 9:46e entender que, com seu
cerebrozinho de minhoca, -
9:46 - 9:51a IA, na verdade, não entende
o que tentamos pedir que ela faça. -
9:51 - 9:54Em outras palavras, precisamos
estar preparados para trabalhar com uma IA -
9:54 - 10:00que não é a IA supercompetente
e onisciente da ficção científica. -
10:00 - 10:03Precisamos estar preparados
para trabalhar com a IA -
10:03 - 10:06que realmente temos atualmente,
-
10:06 - 10:10e ela é suficientemente esquisita.
-
10:10 - 10:11Obrigada.
-
10:11 - 10:13(Aplausos)
- Title:
- O perigo da IA é mais estranho do que se imagina
- Speaker:
- Janelle Shane
- Description:
-
O perigo da inteligência artificial não é que ela se rebele contra nós, mas sim que faça exatamente o que peçamos que ela faça, diz a pesquisadora Janelle Shane. Abordando os feitos estranhos e por vezes alarmantes dos algoritmos de IA ao tentarem resolver problemas humanos, como criar novos sabores de sorvete ou reconhecer carros na estrada, Shane mostra por que a IA ainda não está à altura de um cérebro de verdade.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Maricene Crus approved Portuguese, Brazilian subtitles for The danger of AI is weirder than you think | ||
Maricene Crus edited Portuguese, Brazilian subtitles for The danger of AI is weirder than you think | ||
Maricene Crus accepted Portuguese, Brazilian subtitles for The danger of AI is weirder than you think | ||
Maricene Crus edited Portuguese, Brazilian subtitles for The danger of AI is weirder than you think | ||
Maricene Crus edited Portuguese, Brazilian subtitles for The danger of AI is weirder than you think | ||
Maricene Crus edited Portuguese, Brazilian subtitles for The danger of AI is weirder than you think | ||
Maricene Crus edited Portuguese, Brazilian subtitles for The danger of AI is weirder than you think | ||
Maricene Crus edited Portuguese, Brazilian subtitles for The danger of AI is weirder than you think |