WEBVTT

00:00:02.845 --> 00:00:04.765
A inteligência artificial

00:00:04.789 --> 00:00:08.318
é conhecida por perturbar vários setores.

00:00:08.961 --> 00:00:11.004
Por exemplo, o sorvete.

00:00:11.879 --> 00:00:15.518
Que tipos de novos sabores
incríveis poderíamos criar

00:00:15.542 --> 00:00:18.518
com o poder de uma IA avançada?

00:00:19.011 --> 00:00:23.172
Eu me uni a um grupo de programadores
da Kealing Middle School

00:00:23.196 --> 00:00:25.437
para descobrir a resposta.

00:00:25.461 --> 00:00:30.542
Eles coletaram mais de 1,6 mil
sabores de sorvete já existentes

00:00:30.566 --> 00:00:36.088
e, juntos, os fornecemos a um algoritmo
para ver o que seria gerado.

00:00:36.112 --> 00:00:39.865
Esses são alguns dos sabores
que a inteligência artificial criou:

NOTE Paragraph

00:00:40.194 --> 00:00:41.905
[Recreio de Lixo de Abóbora]

NOTE Paragraph

00:00:41.939 --> 00:00:43.341
(Risos)

NOTE Paragraph

00:00:43.365 --> 00:00:46.228
[Gosma de Manteiga de Amendoim]

NOTE Paragraph

00:00:46.822 --> 00:00:48.545
[Doença de Creme de Morango]

NOTE Paragraph

00:00:48.579 --> 00:00:50.315
(Risos)

NOTE Paragraph

00:00:50.339 --> 00:00:54.936
Esses sabores não são
tão deliciosos quanto esperávamos.

00:00:54.960 --> 00:00:56.824
A pergunta é: o que aconteceu?

00:00:56.848 --> 00:00:58.242
O que saiu errado?

00:00:58.266 --> 00:01:00.585
A IA está tentando nos matar?

00:01:01.027 --> 00:01:05.857
Ou está tentando fazer o que pedimos,
mas ocorreu algum problema?

NOTE Paragraph

00:01:06.567 --> 00:01:09.031
Nos filmes, quando algo
dá errado com a IA,

00:01:09.055 --> 00:01:11.767
geralmente é porque ela decidiu

00:01:11.791 --> 00:01:14.063
que não quer mais obedecer aos humanos

00:01:14.087 --> 00:01:16.710
e tem objetivos próprios, sim senhor.

00:01:17.266 --> 00:01:18.802
Mas, na vida real,


00:01:18.802 --> 00:01:22.769
a inteligência artificial que temos
não é inteligente o bastante para isso.

00:01:22.781 --> 00:01:27.063
Ela possui aproximadamente a capacidade
de processamento de uma minhoca,

00:01:27.087 --> 00:01:30.490
ou, talvez, no máximo
a de uma única abelha,

00:01:30.514 --> 00:01:32.729
mas provavelmente menos que isso.

00:01:32.753 --> 00:01:35.347
Constantemente aprendemos
coisas novas sobre o cérebro

00:01:35.371 --> 00:01:39.731
que deixam claro como nossas IAs
não chegam aos pés de um cérebro real.

00:01:39.755 --> 00:01:45.418
A IA de hoje pode efetuar tarefas simples,
como identificar um pedestre em uma foto,

00:01:45.442 --> 00:01:48.425
mas não faz ideia do que seja o pedestre

00:01:48.449 --> 00:01:53.273
para além de um conjunto
de linhas, texturas e afins.

00:01:53.792 --> 00:01:56.673
Ela não sabe o que é um ser humano.

00:01:56.822 --> 00:02:00.104
Então, a IA atual fará o que pedimos dela?

00:02:00.128 --> 00:02:01.722
Sim, se ela puder,

00:02:01.746 --> 00:02:04.472
mas talvez não faça
o que realmente queremos.

NOTE Paragraph

00:02:04.496 --> 00:02:09.551
Digamos que quiséssemos que uma IA
pegasse um conjunto de peças robóticas

00:02:09.578 --> 00:02:13.775
e as montasse como algum tipo de robô
para que fosse do ponto A ao B.

00:02:13.799 --> 00:02:15.850
Bem, se tentássemos resolver esse problema

00:02:15.884 --> 00:02:18.655
criando um programa
de computador tradicional,

00:02:18.679 --> 00:02:22.096
daríamos instruções
passo a passo ao programa

00:02:22.120 --> 00:02:25.879
sobre como pegar as peças,
juntá-las em um robô com pernas

00:02:25.904 --> 00:02:29.196
que ele usaria para andar até o ponto B.

00:02:29.341 --> 00:02:31.781
Mas, quando usamos a IA
para resolver o problema,

00:02:31.805 --> 00:02:32.979
não funciona assim.

00:02:33.003 --> 00:02:35.385
Não dizemos para ela
como resolver o problema,

00:02:35.409 --> 00:02:36.888
só lhe damos o objetivo

00:02:36.912 --> 00:02:40.174
e ela precisa descobrir sozinha,
por tentativa e erro,

00:02:40.198 --> 00:02:42.102
como atingir aquele objetivo.

00:02:42.254 --> 00:02:46.356
E parece que a IA costuma resolver
esse problema específico

00:02:46.380 --> 00:02:47.864
fazendo o seguinte:

00:02:47.888 --> 00:02:51.255
ela se transforma em uma torre e cai,

00:02:51.279 --> 00:02:53.106
atingindo o ponto B.

00:02:53.130 --> 00:02:57.646
E, tecnicamente, isso resolve o problema,
ela chega ao ponto B.

00:02:57.646 --> 00:03:01.911
O perigo da IA não é
que ela se rebelará contra nós;

00:03:01.935 --> 00:03:06.209
é que ela fará exatamente o que pedirmos.

00:03:06.876 --> 00:03:09.374
Então, o segredo para trabalhar com IA é:

00:03:09.398 --> 00:03:13.226
como configuramos o problema
para que ela faça o que queremos?

NOTE Paragraph

00:03:14.726 --> 00:03:20.892
Este robozinho é controlado por uma IA,
que criou um design para as pernas dele

00:03:20.894 --> 00:03:24.972
e depois descobriu como usá-las
para passar por esses obstáculos.

00:03:24.996 --> 00:03:27.737
Mas quando David Ha
preparou essa experiência,

00:03:27.761 --> 00:03:30.617
ele o fez dentro de limites
bastante rigorosos

00:03:30.641 --> 00:03:33.933
sobre o tamanho das pernas
que a IA poderia criar,

00:03:33.957 --> 00:03:35.507
porque, do contrário...

NOTE Paragraph

00:03:43.058 --> 00:03:45.309
(Risos)

NOTE Paragraph

00:03:48.563 --> 00:03:52.308
E, tecnicamente, ela chegou
ao final da pista de obstáculos.

00:03:52.332 --> 00:03:57.274
Percebe-se como é difícil que uma IA
faça algo tão simples como andar.

NOTE Paragraph

00:03:57.298 --> 00:04:01.118
Vendo a IA fazer isso,
podem dizer: "Ah, não é justo!

00:04:01.142 --> 00:04:03.722
Não se pode simplesmente
ser uma torre e cair;

00:04:03.746 --> 00:04:07.181
tem que usar as pernas para andar".

00:04:07.205 --> 00:04:09.964
Mas acontece que isso também
nem sempre funciona.

00:04:09.988 --> 00:04:12.747
A tarefa dessa IA era
se mover rapidamente.

00:04:13.115 --> 00:04:16.708
Não lhe disseram
que deveria correr de frente

00:04:16.708 --> 00:04:19.487
ou que não poderia usar os braços.

00:04:19.487 --> 00:04:24.105
Esse é o resultado quando treinamos
uma IA para se mover rapidamente:

00:04:24.129 --> 00:04:27.663
cambalhotas ou caminhadas ridículas.

00:04:27.687 --> 00:04:29.087
Isso é muito comum.

00:04:29.667 --> 00:04:32.846
Assim como se contorcer pelo chão.

NOTE Paragraph

00:04:32.870 --> 00:04:34.660
(Risos)

NOTE Paragraph

00:04:35.241 --> 00:04:40.229
Acho que mais esquisito ainda seriam
os robôs do "Exterminador do Futuro".

00:04:40.256 --> 00:04:44.011
Hackear a "Matrix" é outra coisa
que a IA fará se tiver a oportunidade.

00:04:44.035 --> 00:04:46.552
Então, se treinarmos
uma IA em uma simulação,

00:04:46.576 --> 00:04:50.689
ela aprenderá a fazer coisas como hackear
os erros matemáticos da simulação

00:04:50.713 --> 00:04:52.920
e colhê-los para conseguir energia.

00:04:52.944 --> 00:04:58.419
Ou então descobrirá como se mover
mais rápido se arrastando pelo chão.

00:04:58.443 --> 00:05:00.028
Trabalhar com IA

00:05:00.052 --> 00:05:02.441
não se assemelha a trabalhar
com outro humano,

00:05:02.465 --> 00:05:06.094
e sim a trabalhar com um tipo
de força estranha da natureza.

00:05:06.562 --> 00:05:11.185
É muito fácil dar, acidentalmente,
o problema errado para a IA resolver

00:05:11.209 --> 00:05:15.747
e frequentemente não percebemos
isso até que algo dê errado.

NOTE Paragraph

00:05:16.242 --> 00:05:18.322
Essa é uma experiência que fiz,

00:05:18.346 --> 00:05:21.528
na qual eu queria que a IA
copiasse cores de tinta

00:05:21.552 --> 00:05:23.298
para inventar novas cores

00:05:23.322 --> 00:05:26.309
com base em uma lista como a da esquerda.

00:05:26.798 --> 00:05:29.802
E foi isso que a IA inventou.

NOTE Paragraph

00:05:29.826 --> 00:05:33.683
[Cocô Sindis, Excremental,
Sofrimento, Cinza Pubiano]

NOTE Paragraph

00:05:33.683 --> 00:05:35.483
(Risos)

NOTE Paragraph

00:05:39.177 --> 00:05:41.063
Então, tecnicamente,

00:05:41.087 --> 00:05:42.951
ela fez o que eu pedi dela.

00:05:42.975 --> 00:05:46.283
Pensei que estivesse pedindo
nomes agradáveis de cores,

00:05:46.307 --> 00:05:48.614
mas o que eu pedia, na verdade,

00:05:48.638 --> 00:05:51.724
era que a IA imitasse
os tipos de combinações de letras

00:05:51.748 --> 00:05:53.653
que estavam presentes nos originais.

00:05:53.677 --> 00:05:56.775
E não falei nada à IA
sobre o significado das palavras,

00:05:56.799 --> 00:06:02.552
nem que ela deveria evitar usar
algumas palavras nos nomes das tintas.

00:06:03.141 --> 00:06:06.635
Portanto, a única coisa que a IA sabe
são os dados que lhe forneci.

00:06:06.659 --> 00:06:10.687
Assim como ocorreu com os sabores
de sorvete, a IA não sabe mais nada.

NOTE Paragraph

00:06:12.491 --> 00:06:15.303
Então, é pelos dados que, frequentemente,

00:06:15.333 --> 00:06:18.687
dizemos a ela para fazer a coisa errada.

00:06:18.694 --> 00:06:21.726
Este é um peixe chamado tenca.

00:06:21.750 --> 00:06:23.565
Um grupo de pesquisadores

00:06:23.589 --> 00:06:27.463
treinou uma IA
para reconhecê-lo em imagens.

00:06:27.487 --> 00:06:28.783
Mas quando perguntaram à IA

00:06:28.807 --> 00:06:32.233
qual parte da imagem era usada
para identificar o peixe,

00:06:32.257 --> 00:06:34.215
foi isso que ela apontou.

00:06:35.203 --> 00:06:37.392
Sim, esses são dedos humanos.

00:06:37.416 --> 00:06:42.095
Por que ela procuraria dedos humanos
ao tentar identificar um peixe?

00:06:42.126 --> 00:06:45.290
Bem, acontece que a tenca
é um peixe-troféu,

00:06:45.314 --> 00:06:50.310
então, em várias imagens em que a IA
viu esse peixe durante o treinamento,

00:06:50.324 --> 00:06:51.814
ele apresentava essa aparência.

NOTE Paragraph

00:06:51.838 --> 00:06:53.473
(Risos)

NOTE Paragraph

00:06:53.497 --> 00:06:57.447
E ela não sabia que os dedos
não faziam parte do peixe.

NOTE Paragraph

00:06:58.808 --> 00:07:02.928
É por isso que é tão difícil
desenvolver uma IA

00:07:02.952 --> 00:07:06.271
que realmente consiga entender
o que está observando.

00:07:06.295 --> 00:07:09.157
E é por isso que desenvolver
o reconhecimento de imagem

00:07:09.181 --> 00:07:11.248
em carros autônomos é tão difícil

00:07:11.272 --> 00:07:16.367
e muitas falhas desses carros
ocorrem porque a IA se confundiu.

00:07:16.410 --> 00:07:20.418
Falarei sobre um exemplo de 2016.

00:07:20.442 --> 00:07:24.897
Houve um acidente fatal quando alguém
usou a IA do piloto automático de um Tesla

00:07:24.921 --> 00:07:28.335
mas, em vez de usá-la em uma rodovia,
para onde elas foram programadas,

00:07:28.359 --> 00:07:30.864
utilizaram-na em vias urbanas.

00:07:30.998 --> 00:07:36.014
Um caminhão entrou na frente
do carro, que não conseguiu frear.

00:07:36.507 --> 00:07:40.909
Vejam, a IA definitivamente foi treinada
para reconhecer caminhões em imagens.

00:07:41.293 --> 00:07:43.438
Mas o que parece ter acontecido

00:07:43.462 --> 00:07:46.393
é que a IA foi treinada
para reconhecê-los em estradas,

00:07:46.417 --> 00:07:49.316
onde se espera ver
a traseira dos caminhões.

00:07:49.340 --> 00:07:52.760
Caminhões vindos pela lateral
não deveriam aparecer em estradas,

00:07:52.784 --> 00:07:56.239
então, quando a IA o viu,

00:07:56.263 --> 00:08:01.090
parece que ela avaliou que se tratava
de uma placa de trânsito

00:08:01.114 --> 00:08:04.114
e que, portanto,
seria seguro passar sob ela.

NOTE Paragraph

00:08:04.114 --> 00:08:06.694
Agora vejamos um erro de IA
de um campo diferente.

00:08:06.718 --> 00:08:10.148
A Amazon teve que desistir
de um algoritmo para seleção de currículos

00:08:10.178 --> 00:08:11.422
no qual trabalhava

00:08:11.446 --> 00:08:14.924
ao descobrir que ele aprendeu
a discriminar mulheres.

00:08:14.957 --> 00:08:18.094
Eles o treinaram com base
em exemplos de currículos

00:08:18.118 --> 00:08:20.360
de pessoas que haviam sido
contratadas por eles.

00:08:20.384 --> 00:08:24.003
E, desses exemplos, a IA
aprendeu a evitar os currículos

00:08:24.021 --> 00:08:26.457
de pessoas que frequentaram
faculdades femininas

00:08:26.481 --> 00:08:29.287
ou que continham a palavra
"feminina" em algum lugar,

00:08:29.311 --> 00:08:33.887
como "equipe feminina de futebol"
ou "Sociedade Feminina de Engenharia".

00:08:33.911 --> 00:08:37.885
A IA não sabia que não deveria
copiar esse padrão específico

00:08:37.909 --> 00:08:39.887
que havia observado nos humanos.

00:08:39.911 --> 00:08:43.088
E, tecnicamente, fez o que lhe pediram.

00:08:43.112 --> 00:08:46.409
Mas acidentalmente lhe pediram
para fazer a coisa errada.

NOTE Paragraph

00:08:46.653 --> 00:08:49.708
E isso sempre acontece com IA.

00:08:50.120 --> 00:08:53.711
Ela pode ser muito destrutiva sem saber.

00:08:53.735 --> 00:08:58.813
As IAs que recomendam novos conteúdos
no Facebook ou no YouTube

00:08:58.837 --> 00:09:02.376
estão otimizadas para aumentar
o número de cliques e visualizações.

00:09:02.400 --> 00:09:05.836
Infelizmente, uma das formas
que elas têm de fazer isso

00:09:05.860 --> 00:09:10.363
é recomendar conteúdo de teorias
da conspiração ou de intolerância.

00:09:10.902 --> 00:09:16.204
A própria IA não tem ideia
do que seja aquele conteúdo

00:09:16.228 --> 00:09:21.969
ou de quais possam ser
as consequências de recomendá-lo.

NOTE Paragraph

00:09:22.296 --> 00:09:24.307
Então, ao trabalharmos com IA,

00:09:24.331 --> 00:09:28.513
evitar problemas é função nossa.

00:09:28.537 --> 00:09:30.860
E evitar que as coisas deem errado

00:09:30.884 --> 00:09:35.410
pode se resumir ao velho
problema da comunicação,

00:09:35.434 --> 00:09:39.179
e que nós, humanos, precisamos
aprender a nos comunicar com a IA.

00:09:39.203 --> 00:09:43.242
Precisamos aprender
o que a IA é ou não capaz de fazer

00:09:43.266 --> 00:09:46.352
e entender que, com seu
cerebrozinho de minhoca,

00:09:46.376 --> 00:09:50.549
a IA, na verdade, não entende
o que tentamos pedir que ela faça.

00:09:51.028 --> 00:09:54.469
Em outras palavras, precisamos
estar preparados para trabalhar com uma IA

00:09:54.493 --> 00:09:59.751
que não é a IA supercompetente
e onisciente da ficção científica.

00:09:59.775 --> 00:10:02.637
Precisamos estar preparados
para trabalhar com a IA

00:10:02.661 --> 00:10:05.599
que realmente temos atualmente,

00:10:05.623 --> 00:10:09.828
e ela é suficientemente esquisita.

NOTE Paragraph

00:10:09.852 --> 00:10:11.042
Obrigada.

NOTE Paragraph

00:10:11.066 --> 00:10:13.195
(Aplausos)