1
00:00:02,845 --> 00:00:04,765
A inteligência artificial

2
00:00:04,789 --> 00:00:08,318
é conhecida por perturbar vários setores.

3
00:00:08,961 --> 00:00:11,004
Por exemplo, o sorvete.

4
00:00:11,879 --> 00:00:15,518
Que tipos de novos sabores
incríveis poderíamos criar

5
00:00:15,542 --> 00:00:18,518
com o poder de uma IA avançada?

6
00:00:19,011 --> 00:00:23,172
Eu me uni a um grupo de programadores
da Kealing Middle School

7
00:00:23,196 --> 00:00:25,437
para descobrir a resposta.

8
00:00:25,461 --> 00:00:30,542
Eles coletaram mais de 1,6 mil
sabores de sorvete já existentes

9
00:00:30,566 --> 00:00:36,088
e, juntos, os fornecemos a um algoritmo
para ver o que seria gerado.

10
00:00:36,112 --> 00:00:39,865
Esses são alguns dos sabores
que a inteligência artificial criou:

11
00:00:40,194 --> 00:00:41,905
[Recreio de Lixo de Abóbora]

12
00:00:41,939 --> 00:00:43,341
(Risos)

13
00:00:43,365 --> 00:00:46,228
[Gosma de Manteiga de Amendoim]

14
00:00:46,822 --> 00:00:48,545
[Doença de Creme de Morango]

15
00:00:48,579 --> 00:00:50,315
(Risos)

16
00:00:50,339 --> 00:00:54,936
Esses sabores não são
tão deliciosos quanto esperávamos.

17
00:00:54,960 --> 00:00:56,824
A pergunta é: o que aconteceu?

18
00:00:56,848 --> 00:00:58,242
O que saiu errado?

19
00:00:58,266 --> 00:01:00,585
A IA está tentando nos matar?

20
00:01:01,027 --> 00:01:05,857
Ou está tentando fazer o que pedimos,
mas ocorreu algum problema?

21
00:01:06,567 --> 00:01:09,031
Nos filmes, quando algo
dá errado com a IA,

22
00:01:09,055 --> 00:01:11,767
geralmente é porque ela decidiu

23
00:01:11,791 --> 00:01:14,063
que não quer mais obedecer aos humanos

24
00:01:14,087 --> 00:01:16,710
e tem objetivos próprios, sim senhor.

25
00:01:17,266 --> 00:01:18,802
Mas, na vida real,


26
00:01:18,802 --> 00:01:22,769
a inteligência artificial que temos
não é inteligente o bastante para isso.

27
00:01:22,781 --> 00:01:27,063
Ela possui aproximadamente a capacidade
de processamento de uma minhoca,

28
00:01:27,087 --> 00:01:30,490
ou, talvez, no máximo
a de uma única abelha,

29
00:01:30,514 --> 00:01:32,729
mas provavelmente menos que isso.

30
00:01:32,753 --> 00:01:35,347
Constantemente aprendemos
coisas novas sobre o cérebro

31
00:01:35,371 --> 00:01:39,731
que deixam claro como nossas IAs
não chegam aos pés de um cérebro real.

32
00:01:39,755 --> 00:01:45,418
A IA de hoje pode efetuar tarefas simples,
como identificar um pedestre em uma foto,

33
00:01:45,442 --> 00:01:48,425
mas não faz ideia do que seja o pedestre

34
00:01:48,449 --> 00:01:53,273
para além de um conjunto
de linhas, texturas e afins.

35
00:01:53,792 --> 00:01:56,673
Ela não sabe o que é um ser humano.

36
00:01:56,822 --> 00:02:00,104
Então, a IA atual fará o que pedimos dela?

37
00:02:00,128 --> 00:02:01,722
Sim, se ela puder,

38
00:02:01,746 --> 00:02:04,472
mas talvez não faça
o que realmente queremos.

39
00:02:04,496 --> 00:02:09,551
Digamos que quiséssemos que uma IA
pegasse um conjunto de peças robóticas

40
00:02:09,578 --> 00:02:13,775
e as montasse como algum tipo de robô
para que fosse do ponto A ao B.

41
00:02:13,799 --> 00:02:15,850
Bem, se tentássemos resolver esse problema

42
00:02:15,884 --> 00:02:18,655
criando um programa
de computador tradicional,

43
00:02:18,679 --> 00:02:22,096
daríamos instruções
passo a passo ao programa

44
00:02:22,120 --> 00:02:25,879
sobre como pegar as peças,
juntá-las em um robô com pernas

45
00:02:25,904 --> 00:02:29,196
que ele usaria para andar até o ponto B.

46
00:02:29,341 --> 00:02:31,781
Mas, quando usamos a IA
para resolver o problema,

47
00:02:31,805 --> 00:02:32,979
não funciona assim.

48
00:02:33,003 --> 00:02:35,385
Não dizemos para ela
como resolver o problema,

49
00:02:35,409 --> 00:02:36,888
só lhe damos o objetivo

50
00:02:36,912 --> 00:02:40,174
e ela precisa descobrir sozinha,
por tentativa e erro,

51
00:02:40,198 --> 00:02:42,102
como atingir aquele objetivo.

52
00:02:42,254 --> 00:02:46,356
E parece que a IA costuma resolver
esse problema específico

53
00:02:46,380 --> 00:02:47,864
fazendo o seguinte:

54
00:02:47,888 --> 00:02:51,255
ela se transforma em uma torre e cai,

55
00:02:51,279 --> 00:02:53,106
atingindo o ponto B.

56
00:02:53,130 --> 00:02:57,646
E, tecnicamente, isso resolve o problema,
ela chega ao ponto B.

57
00:02:57,646 --> 00:03:01,911
O perigo da IA não é
que ela se rebelará contra nós;

58
00:03:01,935 --> 00:03:06,209
é que ela fará exatamente o que pedirmos.

59
00:03:06,876 --> 00:03:09,374
Então, o segredo para trabalhar com IA é:

60
00:03:09,398 --> 00:03:13,226
como configuramos o problema
para que ela faça o que queremos?

61
00:03:14,726 --> 00:03:20,892
Este robozinho é controlado por uma IA,
que criou um design para as pernas dele

62
00:03:20,894 --> 00:03:24,972
e depois descobriu como usá-las
para passar por esses obstáculos.

63
00:03:24,996 --> 00:03:27,737
Mas quando David Ha
preparou essa experiência,

64
00:03:27,761 --> 00:03:30,617
ele o fez dentro de limites
bastante rigorosos

65
00:03:30,641 --> 00:03:33,933
sobre o tamanho das pernas
que a IA poderia criar,

66
00:03:33,957 --> 00:03:35,507
porque, do contrário...

67
00:03:43,058 --> 00:03:45,309
(Risos)

68
00:03:48,563 --> 00:03:52,308
E, tecnicamente, ela chegou
ao final da pista de obstáculos.

69
00:03:52,332 --> 00:03:57,274
Percebe-se como é difícil que uma IA
faça algo tão simples como andar.

70
00:03:57,298 --> 00:04:01,118
Vendo a IA fazer isso,
podem dizer: "Ah, não é justo!

71
00:04:01,142 --> 00:04:03,722
Não se pode simplesmente
ser uma torre e cair;

72
00:04:03,746 --> 00:04:07,181
tem que usar as pernas para andar".

73
00:04:07,205 --> 00:04:09,964
Mas acontece que isso também
nem sempre funciona.

74
00:04:09,988 --> 00:04:12,747
A tarefa dessa IA era
se mover rapidamente.

75
00:04:13,115 --> 00:04:16,708
Não lhe disseram
que deveria correr de frente

76
00:04:16,708 --> 00:04:19,487
ou que não poderia usar os braços.

77
00:04:19,487 --> 00:04:24,105
Esse é o resultado quando treinamos
uma IA para se mover rapidamente:

78
00:04:24,129 --> 00:04:27,663
cambalhotas ou caminhadas ridículas.

79
00:04:27,687 --> 00:04:29,087
Isso é muito comum.

80
00:04:29,667 --> 00:04:32,846
Assim como se contorcer pelo chão.

81
00:04:32,870 --> 00:04:34,660
(Risos)

82
00:04:35,241 --> 00:04:40,229
Acho que mais esquisito ainda seriam
os robôs do "Exterminador do Futuro".

83
00:04:40,256 --> 00:04:44,011
Hackear a "Matrix" é outra coisa
que a IA fará se tiver a oportunidade.

84
00:04:44,035 --> 00:04:46,552
Então, se treinarmos
uma IA em uma simulação,

85
00:04:46,576 --> 00:04:50,689
ela aprenderá a fazer coisas como hackear
os erros matemáticos da simulação

86
00:04:50,713 --> 00:04:52,920
e colhê-los para conseguir energia.

87
00:04:52,944 --> 00:04:58,419
Ou então descobrirá como se mover
mais rápido se arrastando pelo chão.

88
00:04:58,443 --> 00:05:00,028
Trabalhar com IA

89
00:05:00,052 --> 00:05:02,441
não se assemelha a trabalhar
com outro humano,

90
00:05:02,465 --> 00:05:06,094
e sim a trabalhar com um tipo
de força estranha da natureza.

91
00:05:06,562 --> 00:05:11,185
É muito fácil dar, acidentalmente,
o problema errado para a IA resolver

92
00:05:11,209 --> 00:05:15,747
e frequentemente não percebemos
isso até que algo dê errado.

93
00:05:16,242 --> 00:05:18,322
Essa é uma experiência que fiz,

94
00:05:18,346 --> 00:05:21,528
na qual eu queria que a IA
copiasse cores de tinta

95
00:05:21,552 --> 00:05:23,298
para inventar novas cores

96
00:05:23,322 --> 00:05:26,309
com base em uma lista como a da esquerda.

97
00:05:26,798 --> 00:05:29,802
E foi isso que a IA inventou.

98
00:05:29,826 --> 00:05:33,683
[Cocô Sindis, Excremental,
Sofrimento, Cinza Pubiano]

99
00:05:33,683 --> 00:05:35,483
(Risos)

100
00:05:39,177 --> 00:05:41,063
Então, tecnicamente,

101
00:05:41,087 --> 00:05:42,951
ela fez o que eu pedi dela.

102
00:05:42,975 --> 00:05:46,283
Pensei que estivesse pedindo
nomes agradáveis de cores,

103
00:05:46,307 --> 00:05:48,614
mas o que eu pedia, na verdade,

104
00:05:48,638 --> 00:05:51,724
era que a IA imitasse
os tipos de combinações de letras

105
00:05:51,748 --> 00:05:53,653
que estavam presentes nos originais.

106
00:05:53,677 --> 00:05:56,775
E não falei nada à IA
sobre o significado das palavras,

107
00:05:56,799 --> 00:06:02,552
nem que ela deveria evitar usar
algumas palavras nos nomes das tintas.

108
00:06:03,141 --> 00:06:06,635
Portanto, a única coisa que a IA sabe
são os dados que lhe forneci.

109
00:06:06,659 --> 00:06:10,687
Assim como ocorreu com os sabores
de sorvete, a IA não sabe mais nada.

110
00:06:12,491 --> 00:06:15,303
Então, é pelos dados que, frequentemente,

111
00:06:15,333 --> 00:06:18,687
dizemos a ela para fazer a coisa errada.

112
00:06:18,694 --> 00:06:21,726
Este é um peixe chamado tenca.

113
00:06:21,750 --> 00:06:23,565
Um grupo de pesquisadores

114
00:06:23,589 --> 00:06:27,463
treinou uma IA
para reconhecê-lo em imagens.

115
00:06:27,487 --> 00:06:28,783
Mas quando perguntaram à IA

116
00:06:28,807 --> 00:06:32,233
qual parte da imagem era usada
para identificar o peixe,

117
00:06:32,257 --> 00:06:34,215
foi isso que ela apontou.

118
00:06:35,203 --> 00:06:37,392
Sim, esses são dedos humanos.

119
00:06:37,416 --> 00:06:42,095
Por que ela procuraria dedos humanos
ao tentar identificar um peixe?

120
00:06:42,126 --> 00:06:45,290
Bem, acontece que a tenca
é um peixe-troféu,

121
00:06:45,314 --> 00:06:50,310
então, em várias imagens em que a IA
viu esse peixe durante o treinamento,

122
00:06:50,324 --> 00:06:51,814
ele apresentava essa aparência.

123
00:06:51,838 --> 00:06:53,473
(Risos)

124
00:06:53,497 --> 00:06:57,447
E ela não sabia que os dedos
não faziam parte do peixe.

125
00:06:58,808 --> 00:07:02,928
É por isso que é tão difícil
desenvolver uma IA

126
00:07:02,952 --> 00:07:06,271
que realmente consiga entender
o que está observando.

127
00:07:06,295 --> 00:07:09,157
E é por isso que desenvolver
o reconhecimento de imagem

128
00:07:09,181 --> 00:07:11,248
em carros autônomos é tão difícil

129
00:07:11,272 --> 00:07:16,367
e muitas falhas desses carros
ocorrem porque a IA se confundiu.

130
00:07:16,410 --> 00:07:20,418
Falarei sobre um exemplo de 2016.

131
00:07:20,442 --> 00:07:24,897
Houve um acidente fatal quando alguém
usou a IA do piloto automático de um Tesla

132
00:07:24,921 --> 00:07:28,335
mas, em vez de usá-la em uma rodovia,
para onde elas foram programadas,

133
00:07:28,359 --> 00:07:30,864
utilizaram-na em vias urbanas.

134
00:07:30,998 --> 00:07:36,014
Um caminhão entrou na frente
do carro, que não conseguiu frear.

135
00:07:36,507 --> 00:07:40,909
Vejam, a IA definitivamente foi treinada
para reconhecer caminhões em imagens.

136
00:07:41,293 --> 00:07:43,438
Mas o que parece ter acontecido

137
00:07:43,462 --> 00:07:46,393
é que a IA foi treinada
para reconhecê-los em estradas,

138
00:07:46,417 --> 00:07:49,316
onde se espera ver
a traseira dos caminhões.

139
00:07:49,340 --> 00:07:52,760
Caminhões vindos pela lateral
não deveriam aparecer em estradas,

140
00:07:52,784 --> 00:07:56,239
então, quando a IA o viu,

141
00:07:56,263 --> 00:08:01,090
parece que ela avaliou que se tratava
de uma placa de trânsito

142
00:08:01,114 --> 00:08:04,114
e que, portanto,
seria seguro passar sob ela.

143
00:08:04,114 --> 00:08:06,694
Agora vejamos um erro de IA
de um campo diferente.

144
00:08:06,718 --> 00:08:10,148
A Amazon teve que desistir
de um algoritmo para seleção de currículos

145
00:08:10,178 --> 00:08:11,422
no qual trabalhava

146
00:08:11,446 --> 00:08:14,924
ao descobrir que ele aprendeu
a discriminar mulheres.

147
00:08:14,957 --> 00:08:18,094
Eles o treinaram com base
em exemplos de currículos

148
00:08:18,118 --> 00:08:20,360
de pessoas que haviam sido
contratadas por eles.

149
00:08:20,384 --> 00:08:24,003
E, desses exemplos, a IA
aprendeu a evitar os currículos

150
00:08:24,021 --> 00:08:26,457
de pessoas que frequentaram
faculdades femininas

151
00:08:26,481 --> 00:08:29,287
ou que continham a palavra
"feminina" em algum lugar,

152
00:08:29,311 --> 00:08:33,887
como "equipe feminina de futebol"
ou "Sociedade Feminina de Engenharia".

153
00:08:33,911 --> 00:08:37,885
A IA não sabia que não deveria
copiar esse padrão específico

154
00:08:37,909 --> 00:08:39,887
que havia observado nos humanos.

155
00:08:39,911 --> 00:08:43,088
E, tecnicamente, fez o que lhe pediram.

156
00:08:43,112 --> 00:08:46,409
Mas acidentalmente lhe pediram
para fazer a coisa errada.

157
00:08:46,653 --> 00:08:49,708
E isso sempre acontece com IA.

158
00:08:50,120 --> 00:08:53,711
Ela pode ser muito destrutiva sem saber.

159
00:08:53,735 --> 00:08:58,813
As IAs que recomendam novos conteúdos
no Facebook ou no YouTube

160
00:08:58,837 --> 00:09:02,376
estão otimizadas para aumentar
o número de cliques e visualizações.

161
00:09:02,400 --> 00:09:05,836
Infelizmente, uma das formas
que elas têm de fazer isso

162
00:09:05,860 --> 00:09:10,363
é recomendar conteúdo de teorias
da conspiração ou de intolerância.

163
00:09:10,902 --> 00:09:16,204
A própria IA não tem ideia
do que seja aquele conteúdo

164
00:09:16,228 --> 00:09:21,969
ou de quais possam ser
as consequências de recomendá-lo.

165
00:09:22,296 --> 00:09:24,307
Então, ao trabalharmos com IA,

166
00:09:24,331 --> 00:09:28,513
evitar problemas é função nossa.

167
00:09:28,537 --> 00:09:30,860
E evitar que as coisas deem errado

168
00:09:30,884 --> 00:09:35,410
pode se resumir ao velho
problema da comunicação,

169
00:09:35,434 --> 00:09:39,179
e que nós, humanos, precisamos
aprender a nos comunicar com a IA.

170
00:09:39,203 --> 00:09:43,242
Precisamos aprender
o que a IA é ou não capaz de fazer

171
00:09:43,266 --> 00:09:46,352
e entender que, com seu
cerebrozinho de minhoca,

172
00:09:46,376 --> 00:09:50,549
a IA, na verdade, não entende
o que tentamos pedir que ela faça.

173
00:09:51,028 --> 00:09:54,469
Em outras palavras, precisamos
estar preparados para trabalhar com uma IA

174
00:09:54,493 --> 00:09:59,751
que não é a IA supercompetente
e onisciente da ficção científica.

175
00:09:59,775 --> 00:10:02,637
Precisamos estar preparados
para trabalhar com a IA

176
00:10:02,661 --> 00:10:05,599
que realmente temos atualmente,

177
00:10:05,623 --> 00:10:09,828
e ela é suficientemente esquisita.

178
00:10:09,852 --> 00:10:11,042
Obrigada.

179
00:10:11,066 --> 00:10:13,195
(Aplausos)