0:00:02.845,0:00:04.765
A inteligência artificial

0:00:04.789,0:00:08.318
é conhecida por perturbar vários setores.

0:00:08.961,0:00:11.004
Por exemplo, o sorvete.

0:00:11.879,0:00:15.518
Que tipos de novos sabores[br]incríveis poderíamos criar

0:00:15.542,0:00:18.518
com o poder de uma IA avançada?

0:00:19.011,0:00:23.172
Eu me uni a um grupo de programadores[br]da Kealing Middle School

0:00:23.196,0:00:25.437
para descobrir a resposta.

0:00:25.461,0:00:30.542
Eles coletaram mais de 1,6 mil[br]sabores de sorvete já existentes

0:00:30.566,0:00:36.088
e, juntos, os fornecemos a um algoritmo[br]para ver o que seria gerado.

0:00:36.112,0:00:39.865
Esses são alguns dos sabores[br]que a inteligência artificial criou:

0:00:40.194,0:00:41.905
[Recreio de Lixo de Abóbora]

0:00:41.939,0:00:43.341
(Risos)

0:00:43.365,0:00:46.228
[Gosma de Manteiga de Amendoim]

0:00:46.822,0:00:48.545
[Doença de Creme de Morango]

0:00:48.579,0:00:50.315
(Risos)

0:00:50.339,0:00:54.936
Esses sabores não são[br]tão deliciosos quanto esperávamos.

0:00:54.960,0:00:56.824
A pergunta é: o que aconteceu?

0:00:56.848,0:00:58.242
O que saiu errado?

0:00:58.266,0:01:00.585
A IA está tentando nos matar?

0:01:01.027,0:01:05.857
Ou está tentando fazer o que pedimos,[br]mas ocorreu algum problema?

0:01:06.567,0:01:09.031
Nos filmes, quando algo[br]dá errado com a IA,

0:01:09.055,0:01:11.767
geralmente é porque ela decidiu

0:01:11.791,0:01:14.063
que não quer mais obedecer aos humanos

0:01:14.087,0:01:16.710
e tem objetivos próprios, sim senhor.

0:01:17.266,0:01:18.802
Mas, na vida real,[br]

0:01:18.802,0:01:22.769
a inteligência artificial que temos[br]não é inteligente o bastante para isso.

0:01:22.781,0:01:27.063
Ela possui aproximadamente a capacidade[br]de processamento de uma minhoca,

0:01:27.087,0:01:30.490
ou, talvez, no máximo[br]a de uma única abelha,

0:01:30.514,0:01:32.729
mas provavelmente menos que isso.

0:01:32.753,0:01:35.347
Constantemente aprendemos[br]coisas novas sobre o cérebro

0:01:35.371,0:01:39.731
que deixam claro como nossas IAs[br]não chegam aos pés de um cérebro real.

0:01:39.755,0:01:45.418
A IA de hoje pode efetuar tarefas simples,[br]como identificar um pedestre em uma foto,

0:01:45.442,0:01:48.425
mas não faz ideia do que seja o pedestre

0:01:48.449,0:01:53.273
para além de um conjunto[br]de linhas, texturas e afins.

0:01:53.792,0:01:56.673
Ela não sabe o que é um ser humano.

0:01:56.822,0:02:00.104
Então, a IA atual fará o que pedimos dela?

0:02:00.128,0:02:01.722
Sim, se ela puder,

0:02:01.746,0:02:04.472
mas talvez não faça[br]o que realmente queremos.

0:02:04.496,0:02:09.551
Digamos que quiséssemos que uma IA[br]pegasse um conjunto de peças robóticas

0:02:09.578,0:02:13.775
e as montasse como algum tipo de robô[br]para que fosse do ponto A ao B.

0:02:13.799,0:02:15.850
Bem, se tentássemos resolver esse problema

0:02:15.884,0:02:18.655
criando um programa[br]de computador tradicional,

0:02:18.679,0:02:22.096
daríamos instruções[br]passo a passo ao programa

0:02:22.120,0:02:25.879
sobre como pegar as peças,[br]juntá-las em um robô com pernas

0:02:25.904,0:02:29.196
que ele usaria para andar até o ponto B.

0:02:29.341,0:02:31.781
Mas, quando usamos a IA[br]para resolver o problema,

0:02:31.805,0:02:32.979
não funciona assim.

0:02:33.003,0:02:35.385
Não dizemos para ela[br]como resolver o problema,

0:02:35.409,0:02:36.888
só lhe damos o objetivo

0:02:36.912,0:02:40.174
e ela precisa descobrir sozinha,[br]por tentativa e erro,

0:02:40.198,0:02:42.102
como atingir aquele objetivo.

0:02:42.254,0:02:46.356
E parece que a IA costuma resolver[br]esse problema específico

0:02:46.380,0:02:47.864
fazendo o seguinte:

0:02:47.888,0:02:51.255
ela se transforma em uma torre e cai,

0:02:51.279,0:02:53.106
atingindo o ponto B.

0:02:53.130,0:02:57.646
E, tecnicamente, isso resolve o problema,[br]ela chega ao ponto B.

0:02:57.646,0:03:01.911
O perigo da IA não é[br]que ela se rebelará contra nós;

0:03:01.935,0:03:06.209
é que ela fará exatamente o que pedirmos.

0:03:06.876,0:03:09.374
Então, o segredo para trabalhar com IA é:

0:03:09.398,0:03:13.226
como configuramos o problema[br]para que ela faça o que queremos?

0:03:14.726,0:03:20.892
Este robozinho é controlado por uma IA,[br]que criou um design para as pernas dele

0:03:20.894,0:03:24.972
e depois descobriu como usá-las[br]para passar por esses obstáculos.

0:03:24.996,0:03:27.737
Mas quando David Ha[br]preparou essa experiência,

0:03:27.761,0:03:30.617
ele o fez dentro de limites[br]bastante rigorosos

0:03:30.641,0:03:33.933
sobre o tamanho das pernas[br]que a IA poderia criar,

0:03:33.957,0:03:35.507
porque, do contrário...

0:03:43.058,0:03:45.309
(Risos)

0:03:48.563,0:03:52.308
E, tecnicamente, ela chegou[br]ao final da pista de obstáculos.

0:03:52.332,0:03:57.274
Percebe-se como é difícil que uma IA[br]faça algo tão simples como andar.

0:03:57.298,0:04:01.118
Vendo a IA fazer isso,[br]podem dizer: "Ah, não é justo!

0:04:01.142,0:04:03.722
Não se pode simplesmente[br]ser uma torre e cair;

0:04:03.746,0:04:07.181
tem que usar as pernas para andar".

0:04:07.205,0:04:09.964
Mas acontece que isso também[br]nem sempre funciona.

0:04:09.988,0:04:12.747
A tarefa dessa IA era[br]se mover rapidamente.

0:04:13.115,0:04:16.708
Não lhe disseram[br]que deveria correr de frente

0:04:16.708,0:04:19.487
ou que não poderia usar os braços.

0:04:19.487,0:04:24.105
Esse é o resultado quando treinamos[br]uma IA para se mover rapidamente:

0:04:24.129,0:04:27.663
cambalhotas ou caminhadas ridículas.

0:04:27.687,0:04:29.087
Isso é muito comum.

0:04:29.667,0:04:32.846
Assim como se contorcer pelo chão.

0:04:32.870,0:04:34.660
(Risos)

0:04:35.241,0:04:40.229
Acho que mais esquisito ainda seriam[br]os robôs do "Exterminador do Futuro".

0:04:40.256,0:04:44.011
Hackear a "Matrix" é outra coisa[br]que a IA fará se tiver a oportunidade.

0:04:44.035,0:04:46.552
Então, se treinarmos[br]uma IA em uma simulação,

0:04:46.576,0:04:50.689
ela aprenderá a fazer coisas como hackear[br]os erros matemáticos da simulação

0:04:50.713,0:04:52.920
e colhê-los para conseguir energia.

0:04:52.944,0:04:58.419
Ou então descobrirá como se mover[br]mais rápido se arrastando pelo chão.

0:04:58.443,0:05:00.028
Trabalhar com IA

0:05:00.052,0:05:02.441
não se assemelha a trabalhar[br]com outro humano,

0:05:02.465,0:05:06.094
e sim a trabalhar com um tipo[br]de força estranha da natureza.

0:05:06.562,0:05:11.185
É muito fácil dar, acidentalmente,[br]o problema errado para a IA resolver

0:05:11.209,0:05:15.747
e frequentemente não percebemos[br]isso até que algo dê errado.

0:05:16.242,0:05:18.322
Essa é uma experiência que fiz,

0:05:18.346,0:05:21.528
na qual eu queria que a IA[br]copiasse cores de tinta

0:05:21.552,0:05:23.298
para inventar novas cores

0:05:23.322,0:05:26.309
com base em uma lista como a da esquerda.

0:05:26.798,0:05:29.802
E foi isso que a IA inventou.

0:05:29.826,0:05:33.683
[Cocô Sindis, Excremental,[br]Sofrimento, Cinza Pubiano]

0:05:33.683,0:05:35.483
(Risos)

0:05:39.177,0:05:41.063
Então, tecnicamente,

0:05:41.087,0:05:42.951
ela fez o que eu pedi dela.

0:05:42.975,0:05:46.283
Pensei que estivesse pedindo[br]nomes agradáveis de cores,

0:05:46.307,0:05:48.614
mas o que eu pedia, na verdade,

0:05:48.638,0:05:51.724
era que a IA imitasse[br]os tipos de combinações de letras

0:05:51.748,0:05:53.653
que estavam presentes nos originais.

0:05:53.677,0:05:56.775
E não falei nada à IA[br]sobre o significado das palavras,

0:05:56.799,0:06:02.552
nem que ela deveria evitar usar[br]algumas palavras nos nomes das tintas.

0:06:03.141,0:06:06.635
Portanto, a única coisa que a IA sabe[br]são os dados que lhe forneci.

0:06:06.659,0:06:10.687
Assim como ocorreu com os sabores[br]de sorvete, a IA não sabe mais nada.

0:06:12.491,0:06:15.303
Então, é pelos dados que, frequentemente,

0:06:15.333,0:06:18.687
dizemos a ela para fazer a coisa errada.

0:06:18.694,0:06:21.726
Este é um peixe chamado tenca.

0:06:21.750,0:06:23.565
Um grupo de pesquisadores

0:06:23.589,0:06:27.463
treinou uma IA[br]para reconhecê-lo em imagens.

0:06:27.487,0:06:28.783
Mas quando perguntaram à IA

0:06:28.807,0:06:32.233
qual parte da imagem era usada[br]para identificar o peixe,

0:06:32.257,0:06:34.215
foi isso que ela apontou.

0:06:35.203,0:06:37.392
Sim, esses são dedos humanos.

0:06:37.416,0:06:42.095
Por que ela procuraria dedos humanos[br]ao tentar identificar um peixe?

0:06:42.126,0:06:45.290
Bem, acontece que a tenca[br]é um peixe-troféu,

0:06:45.314,0:06:50.310
então, em várias imagens em que a IA[br]viu esse peixe durante o treinamento,

0:06:50.324,0:06:51.814
ele apresentava essa aparência.

0:06:51.838,0:06:53.473
(Risos)

0:06:53.497,0:06:57.447
E ela não sabia que os dedos[br]não faziam parte do peixe.

0:06:58.808,0:07:02.928
É por isso que é tão difícil[br]desenvolver uma IA

0:07:02.952,0:07:06.271
que realmente consiga entender[br]o que está observando.

0:07:06.295,0:07:09.157
E é por isso que desenvolver[br]o reconhecimento de imagem

0:07:09.181,0:07:11.248
em carros autônomos é tão difícil

0:07:11.272,0:07:16.367
e muitas falhas desses carros[br]ocorrem porque a IA se confundiu.

0:07:16.410,0:07:20.418
Falarei sobre um exemplo de 2016.

0:07:20.442,0:07:24.897
Houve um acidente fatal quando alguém[br]usou a IA do piloto automático de um Tesla

0:07:24.921,0:07:28.335
mas, em vez de usá-la em uma rodovia,[br]para onde elas foram programadas,

0:07:28.359,0:07:30.864
utilizaram-na em vias urbanas.

0:07:30.998,0:07:36.014
Um caminhão entrou na frente[br]do carro, que não conseguiu frear.

0:07:36.507,0:07:40.909
Vejam, a IA definitivamente foi treinada[br]para reconhecer caminhões em imagens.

0:07:41.293,0:07:43.438
Mas o que parece ter acontecido

0:07:43.462,0:07:46.393
é que a IA foi treinada[br]para reconhecê-los em estradas,

0:07:46.417,0:07:49.316
onde se espera ver[br]a traseira dos caminhões.

0:07:49.340,0:07:52.760
Caminhões vindos pela lateral[br]não deveriam aparecer em estradas,

0:07:52.784,0:07:56.239
então, quando a IA o viu,

0:07:56.263,0:08:01.090
parece que ela avaliou que se tratava[br]de uma placa de trânsito

0:08:01.114,0:08:04.114
e que, portanto,[br]seria seguro passar sob ela.

0:08:04.114,0:08:06.694
Agora vejamos um erro de IA[br]de um campo diferente.

0:08:06.718,0:08:10.148
A Amazon teve que desistir[br]de um algoritmo para seleção de currículos

0:08:10.178,0:08:11.422
no qual trabalhava

0:08:11.446,0:08:14.924
ao descobrir que ele aprendeu[br]a discriminar mulheres.

0:08:14.957,0:08:18.094
Eles o treinaram com base[br]em exemplos de currículos

0:08:18.118,0:08:20.360
de pessoas que haviam sido[br]contratadas por eles.

0:08:20.384,0:08:24.003
E, desses exemplos, a IA[br]aprendeu a evitar os currículos

0:08:24.021,0:08:26.457
de pessoas que frequentaram[br]faculdades femininas

0:08:26.481,0:08:29.287
ou que continham a palavra[br]"feminina" em algum lugar,

0:08:29.311,0:08:33.887
como "equipe feminina de futebol"[br]ou "Sociedade Feminina de Engenharia".

0:08:33.911,0:08:37.885
A IA não sabia que não deveria[br]copiar esse padrão específico

0:08:37.909,0:08:39.887
que havia observado nos humanos.

0:08:39.911,0:08:43.088
E, tecnicamente, fez o que lhe pediram.

0:08:43.112,0:08:46.409
Mas acidentalmente lhe pediram[br]para fazer a coisa errada.

0:08:46.653,0:08:49.708
E isso sempre acontece com IA.

0:08:50.120,0:08:53.711
Ela pode ser muito destrutiva sem saber.

0:08:53.735,0:08:58.813
As IAs que recomendam novos conteúdos[br]no Facebook ou no YouTube

0:08:58.837,0:09:02.376
estão otimizadas para aumentar[br]o número de cliques e visualizações.

0:09:02.400,0:09:05.836
Infelizmente, uma das formas[br]que elas têm de fazer isso

0:09:05.860,0:09:10.363
é recomendar conteúdo de teorias[br]da conspiração ou de intolerância.

0:09:10.902,0:09:16.204
A própria IA não tem ideia[br]do que seja aquele conteúdo

0:09:16.228,0:09:21.969
ou de quais possam ser[br]as consequências de recomendá-lo.

0:09:22.296,0:09:24.307
Então, ao trabalharmos com IA,

0:09:24.331,0:09:28.513
evitar problemas é função nossa.

0:09:28.537,0:09:30.860
E evitar que as coisas deem errado

0:09:30.884,0:09:35.410
pode se resumir ao velho[br]problema da comunicação,

0:09:35.434,0:09:39.179
e que nós, humanos, precisamos[br]aprender a nos comunicar com a IA.

0:09:39.203,0:09:43.242
Precisamos aprender[br]o que a IA é ou não capaz de fazer

0:09:43.266,0:09:46.352
e entender que, com seu[br]cerebrozinho de minhoca,

0:09:46.376,0:09:50.549
a IA, na verdade, não entende[br]o que tentamos pedir que ela faça.

0:09:51.028,0:09:54.469
Em outras palavras, precisamos[br]estar preparados para trabalhar com uma IA

0:09:54.493,0:09:59.751
que não é a IA supercompetente[br]e onisciente da ficção científica.

0:09:59.775,0:10:02.637
Precisamos estar preparados[br]para trabalhar com a IA

0:10:02.661,0:10:05.599
que realmente temos atualmente,

0:10:05.623,0:10:09.828
e ela é suficientemente esquisita.

0:10:09.852,0:10:11.042
Obrigada.

0:10:11.066,0:10:13.195
(Aplausos)