Return to Video

O perigo da IA é mais estranho do que se imagina

  • 0:03 - 0:05
    A inteligência artificial
  • 0:05 - 0:08
    é conhecida por perturbar vários setores.
  • 0:09 - 0:11
    Por exemplo, o sorvete.
  • 0:12 - 0:16
    Que tipos de novos sabores
    incríveis poderíamos criar
  • 0:16 - 0:19
    com o poder de uma IA avançada?
  • 0:19 - 0:23
    Eu me uni a um grupo de programadores
    da Kealing Middle School
  • 0:23 - 0:25
    para descobrir a resposta.
  • 0:25 - 0:31
    Eles coletaram mais de 1,6 mil
    sabores de sorvete já existentes
  • 0:31 - 0:36
    e, juntos, os fornecemos a um algoritmo
    para ver o que seria gerado.
  • 0:36 - 0:40
    Esses são alguns dos sabores
    que a inteligência artificial criou:
  • 0:40 - 0:42
    [Recreio de Lixo de Abóbora]
  • 0:42 - 0:43
    (Risos)
  • 0:43 - 0:46
    [Gosma de Manteiga de Amendoim]
  • 0:47 - 0:49
    [Doença de Creme de Morango]
  • 0:49 - 0:50
    (Risos)
  • 0:50 - 0:55
    Esses sabores não são
    tão deliciosos quanto esperávamos.
  • 0:55 - 0:57
    A pergunta é: o que aconteceu?
  • 0:57 - 0:58
    O que saiu errado?
  • 0:58 - 1:01
    A IA está tentando nos matar?
  • 1:01 - 1:06
    Ou está tentando fazer o que pedimos,
    mas ocorreu algum problema?
  • 1:07 - 1:09
    Nos filmes, quando algo
    dá errado com a IA,
  • 1:09 - 1:12
    geralmente é porque ela decidiu
  • 1:12 - 1:14
    que não quer mais obedecer aos humanos
  • 1:14 - 1:17
    e tem objetivos próprios, sim senhor.
  • 1:17 - 1:19
    Mas, na vida real,
  • 1:19 - 1:23
    a inteligência artificial que temos
    não é inteligente o bastante para isso.
  • 1:23 - 1:27
    Ela possui aproximadamente a capacidade
    de processamento de uma minhoca,
  • 1:27 - 1:30
    ou, talvez, no máximo
    a de uma única abelha,
  • 1:31 - 1:33
    mas provavelmente menos que isso.
  • 1:33 - 1:35
    Constantemente aprendemos
    coisas novas sobre o cérebro
  • 1:35 - 1:40
    que deixam claro como nossas IAs
    não chegam aos pés de um cérebro real.
  • 1:40 - 1:45
    A IA de hoje pode efetuar tarefas simples,
    como identificar um pedestre em uma foto,
  • 1:45 - 1:48
    mas não faz ideia do que seja o pedestre
  • 1:48 - 1:53
    para além de um conjunto
    de linhas, texturas e afins.
  • 1:54 - 1:57
    Ela não sabe o que é um ser humano.
  • 1:57 - 2:00
    Então, a IA atual fará o que pedimos dela?
  • 2:00 - 2:02
    Sim, se ela puder,
  • 2:02 - 2:04
    mas talvez não faça
    o que realmente queremos.
  • 2:04 - 2:10
    Digamos que quiséssemos que uma IA
    pegasse um conjunto de peças robóticas
  • 2:10 - 2:14
    e as montasse como algum tipo de robô
    para que fosse do ponto A ao B.
  • 2:14 - 2:16
    Bem, se tentássemos resolver esse problema
  • 2:16 - 2:19
    criando um programa
    de computador tradicional,
  • 2:19 - 2:22
    daríamos instruções
    passo a passo ao programa
  • 2:22 - 2:26
    sobre como pegar as peças,
    juntá-las em um robô com pernas
  • 2:26 - 2:29
    que ele usaria para andar até o ponto B.
  • 2:29 - 2:32
    Mas, quando usamos a IA
    para resolver o problema,
  • 2:32 - 2:33
    não funciona assim.
  • 2:33 - 2:35
    Não dizemos para ela
    como resolver o problema,
  • 2:35 - 2:37
    só lhe damos o objetivo
  • 2:37 - 2:40
    e ela precisa descobrir sozinha,
    por tentativa e erro,
  • 2:40 - 2:42
    como atingir aquele objetivo.
  • 2:42 - 2:46
    E parece que a IA costuma resolver
    esse problema específico
  • 2:46 - 2:48
    fazendo o seguinte:
  • 2:48 - 2:51
    ela se transforma em uma torre e cai,
  • 2:51 - 2:53
    atingindo o ponto B.
  • 2:53 - 2:58
    E, tecnicamente, isso resolve o problema,
    ela chega ao ponto B.
  • 2:58 - 3:02
    O perigo da IA não é
    que ela se rebelará contra nós;
  • 3:02 - 3:06
    é que ela fará exatamente o que pedirmos.
  • 3:07 - 3:09
    Então, o segredo para trabalhar com IA é:
  • 3:09 - 3:13
    como configuramos o problema
    para que ela faça o que queremos?
  • 3:15 - 3:21
    Este robozinho é controlado por uma IA,
    que criou um design para as pernas dele
  • 3:21 - 3:25
    e depois descobriu como usá-las
    para passar por esses obstáculos.
  • 3:25 - 3:28
    Mas quando David Ha
    preparou essa experiência,
  • 3:28 - 3:31
    ele o fez dentro de limites
    bastante rigorosos
  • 3:31 - 3:34
    sobre o tamanho das pernas
    que a IA poderia criar,
  • 3:34 - 3:36
    porque, do contrário...
  • 3:43 - 3:45
    (Risos)
  • 3:49 - 3:52
    E, tecnicamente, ela chegou
    ao final da pista de obstáculos.
  • 3:52 - 3:57
    Percebe-se como é difícil que uma IA
    faça algo tão simples como andar.
  • 3:57 - 4:01
    Vendo a IA fazer isso,
    podem dizer: "Ah, não é justo!
  • 4:01 - 4:04
    Não se pode simplesmente
    ser uma torre e cair;
  • 4:04 - 4:07
    tem que usar as pernas para andar".
  • 4:07 - 4:10
    Mas acontece que isso também
    nem sempre funciona.
  • 4:10 - 4:13
    A tarefa dessa IA era
    se mover rapidamente.
  • 4:13 - 4:17
    Não lhe disseram
    que deveria correr de frente
  • 4:17 - 4:19
    ou que não poderia usar os braços.
  • 4:19 - 4:24
    Esse é o resultado quando treinamos
    uma IA para se mover rapidamente:
  • 4:24 - 4:28
    cambalhotas ou caminhadas ridículas.
  • 4:28 - 4:29
    Isso é muito comum.
  • 4:30 - 4:33
    Assim como se contorcer pelo chão.
  • 4:33 - 4:35
    (Risos)
  • 4:35 - 4:40
    Acho que mais esquisito ainda seriam
    os robôs do "Exterminador do Futuro".
  • 4:40 - 4:44
    Hackear a "Matrix" é outra coisa
    que a IA fará se tiver a oportunidade.
  • 4:44 - 4:47
    Então, se treinarmos
    uma IA em uma simulação,
  • 4:47 - 4:51
    ela aprenderá a fazer coisas como hackear
    os erros matemáticos da simulação
  • 4:51 - 4:53
    e colhê-los para conseguir energia.
  • 4:53 - 4:58
    Ou então descobrirá como se mover
    mais rápido se arrastando pelo chão.
  • 4:58 - 5:00
    Trabalhar com IA
  • 5:00 - 5:02
    não se assemelha a trabalhar
    com outro humano,
  • 5:02 - 5:06
    e sim a trabalhar com um tipo
    de força estranha da natureza.
  • 5:07 - 5:11
    É muito fácil dar, acidentalmente,
    o problema errado para a IA resolver
  • 5:11 - 5:16
    e frequentemente não percebemos
    isso até que algo dê errado.
  • 5:16 - 5:18
    Essa é uma experiência que fiz,
  • 5:18 - 5:22
    na qual eu queria que a IA
    copiasse cores de tinta
  • 5:22 - 5:23
    para inventar novas cores
  • 5:23 - 5:26
    com base em uma lista como a da esquerda.
  • 5:27 - 5:30
    E foi isso que a IA inventou.
  • 5:30 - 5:34
    [Cocô Sindis, Excremental,
    Sofrimento, Cinza Pubiano]
  • 5:34 - 5:35
    (Risos)
  • 5:39 - 5:41
    Então, tecnicamente,
  • 5:41 - 5:43
    ela fez o que eu pedi dela.
  • 5:43 - 5:46
    Pensei que estivesse pedindo
    nomes agradáveis de cores,
  • 5:46 - 5:49
    mas o que eu pedia, na verdade,
  • 5:49 - 5:52
    era que a IA imitasse
    os tipos de combinações de letras
  • 5:52 - 5:54
    que estavam presentes nos originais.
  • 5:54 - 5:57
    E não falei nada à IA
    sobre o significado das palavras,
  • 5:57 - 6:03
    nem que ela deveria evitar usar
    algumas palavras nos nomes das tintas.
  • 6:03 - 6:07
    Portanto, a única coisa que a IA sabe
    são os dados que lhe forneci.
  • 6:07 - 6:11
    Assim como ocorreu com os sabores
    de sorvete, a IA não sabe mais nada.
  • 6:12 - 6:15
    Então, é pelos dados que, frequentemente,
  • 6:15 - 6:19
    dizemos a ela para fazer a coisa errada.
  • 6:19 - 6:22
    Este é um peixe chamado tenca.
  • 6:22 - 6:24
    Um grupo de pesquisadores
  • 6:24 - 6:27
    treinou uma IA
    para reconhecê-lo em imagens.
  • 6:27 - 6:29
    Mas quando perguntaram à IA
  • 6:29 - 6:32
    qual parte da imagem era usada
    para identificar o peixe,
  • 6:32 - 6:34
    foi isso que ela apontou.
  • 6:35 - 6:37
    Sim, esses são dedos humanos.
  • 6:37 - 6:42
    Por que ela procuraria dedos humanos
    ao tentar identificar um peixe?
  • 6:42 - 6:45
    Bem, acontece que a tenca
    é um peixe-troféu,
  • 6:45 - 6:50
    então, em várias imagens em que a IA
    viu esse peixe durante o treinamento,
  • 6:50 - 6:52
    ele apresentava essa aparência.
  • 6:52 - 6:53
    (Risos)
  • 6:53 - 6:57
    E ela não sabia que os dedos
    não faziam parte do peixe.
  • 6:59 - 7:03
    É por isso que é tão difícil
    desenvolver uma IA
  • 7:03 - 7:06
    que realmente consiga entender
    o que está observando.
  • 7:06 - 7:09
    E é por isso que desenvolver
    o reconhecimento de imagem
  • 7:09 - 7:11
    em carros autônomos é tão difícil
  • 7:11 - 7:16
    e muitas falhas desses carros
    ocorrem porque a IA se confundiu.
  • 7:16 - 7:20
    Falarei sobre um exemplo de 2016.
  • 7:20 - 7:25
    Houve um acidente fatal quando alguém
    usou a IA do piloto automático de um Tesla
  • 7:25 - 7:28
    mas, em vez de usá-la em uma rodovia,
    para onde elas foram programadas,
  • 7:28 - 7:31
    utilizaram-na em vias urbanas.
  • 7:31 - 7:36
    Um caminhão entrou na frente
    do carro, que não conseguiu frear.
  • 7:37 - 7:41
    Vejam, a IA definitivamente foi treinada
    para reconhecer caminhões em imagens.
  • 7:41 - 7:43
    Mas o que parece ter acontecido
  • 7:43 - 7:46
    é que a IA foi treinada
    para reconhecê-los em estradas,
  • 7:46 - 7:49
    onde se espera ver
    a traseira dos caminhões.
  • 7:49 - 7:53
    Caminhões vindos pela lateral
    não deveriam aparecer em estradas,
  • 7:53 - 7:56
    então, quando a IA o viu,
  • 7:56 - 8:01
    parece que ela avaliou que se tratava
    de uma placa de trânsito
  • 8:01 - 8:04
    e que, portanto,
    seria seguro passar sob ela.
  • 8:04 - 8:07
    Agora vejamos um erro de IA
    de um campo diferente.
  • 8:07 - 8:10
    A Amazon teve que desistir
    de um algoritmo para seleção de currículos
  • 8:10 - 8:11
    no qual trabalhava
  • 8:11 - 8:15
    ao descobrir que ele aprendeu
    a discriminar mulheres.
  • 8:15 - 8:18
    Eles o treinaram com base
    em exemplos de currículos
  • 8:18 - 8:20
    de pessoas que haviam sido
    contratadas por eles.
  • 8:20 - 8:24
    E, desses exemplos, a IA
    aprendeu a evitar os currículos
  • 8:24 - 8:26
    de pessoas que frequentaram
    faculdades femininas
  • 8:26 - 8:29
    ou que continham a palavra
    "feminina" em algum lugar,
  • 8:29 - 8:34
    como "equipe feminina de futebol"
    ou "Sociedade Feminina de Engenharia".
  • 8:34 - 8:38
    A IA não sabia que não deveria
    copiar esse padrão específico
  • 8:38 - 8:40
    que havia observado nos humanos.
  • 8:40 - 8:43
    E, tecnicamente, fez o que lhe pediram.
  • 8:43 - 8:46
    Mas acidentalmente lhe pediram
    para fazer a coisa errada.
  • 8:47 - 8:50
    E isso sempre acontece com IA.
  • 8:50 - 8:54
    Ela pode ser muito destrutiva sem saber.
  • 8:54 - 8:59
    As IAs que recomendam novos conteúdos
    no Facebook ou no YouTube
  • 8:59 - 9:02
    estão otimizadas para aumentar
    o número de cliques e visualizações.
  • 9:02 - 9:06
    Infelizmente, uma das formas
    que elas têm de fazer isso
  • 9:06 - 9:10
    é recomendar conteúdo de teorias
    da conspiração ou de intolerância.
  • 9:11 - 9:16
    A própria IA não tem ideia
    do que seja aquele conteúdo
  • 9:16 - 9:22
    ou de quais possam ser
    as consequências de recomendá-lo.
  • 9:22 - 9:24
    Então, ao trabalharmos com IA,
  • 9:24 - 9:29
    evitar problemas é função nossa.
  • 9:29 - 9:31
    E evitar que as coisas deem errado
  • 9:31 - 9:35
    pode se resumir ao velho
    problema da comunicação,
  • 9:35 - 9:39
    e que nós, humanos, precisamos
    aprender a nos comunicar com a IA.
  • 9:39 - 9:43
    Precisamos aprender
    o que a IA é ou não capaz de fazer
  • 9:43 - 9:46
    e entender que, com seu
    cerebrozinho de minhoca,
  • 9:46 - 9:51
    a IA, na verdade, não entende
    o que tentamos pedir que ela faça.
  • 9:51 - 9:54
    Em outras palavras, precisamos
    estar preparados para trabalhar com uma IA
  • 9:54 - 10:00
    que não é a IA supercompetente
    e onisciente da ficção científica.
  • 10:00 - 10:03
    Precisamos estar preparados
    para trabalhar com a IA
  • 10:03 - 10:06
    que realmente temos atualmente,
  • 10:06 - 10:10
    e ela é suficientemente esquisita.
  • 10:10 - 10:11
    Obrigada.
  • 10:11 - 10:13
    (Aplausos)
Title:
O perigo da IA é mais estranho do que se imagina
Speaker:
Janelle Shane
Description:

O perigo da inteligência artificial não é que ela se rebele contra nós, mas sim que faça exatamente o que peçamos que ela faça, diz a pesquisadora Janelle Shane. Abordando os feitos estranhos e por vezes alarmantes dos algoritmos de IA ao tentarem resolver problemas humanos, como criar novos sabores de sorvete ou reconhecer carros na estrada, Shane mostra por que a IA ainda não está à altura de um cérebro de verdade.

more » « less
Video Language:
English
Team:
TED
Project:
TEDTalks
Duration:
10:28

Portuguese, Brazilian subtitles

Revisions