1
00:00:02,745 --> 00:00:04,835
A Inteligência Artificial!

2
00:00:04,889 --> 00:00:08,448
é conhecida por perturbar 
todos os tipos de indústrias.

3
00:00:09,081 --> 00:00:11,333
Por exemplo, a dos gelados.

4
00:00:11,763 --> 00:00:15,772
Que tipo de estonteantes sabores
podemos criar

5
00:00:15,792 --> 00:00:18,938
com o poder
da inteligência artificial avançada?

6
00:00:19,091 --> 00:00:21,816
Associei-me a um grupo de programadores

7
00:00:21,826 --> 00:00:23,446
da escola secundária de Kealing,

8
00:00:23,476 --> 00:00:25,827
para descobrir a resposta a esta pergunta.

9
00:00:26,031 --> 00:00:30,402
Eles reuniram mais de 1600 sabores
de gelados já existentes,

10
00:00:30,456 --> 00:00:35,998
e fornecemos-lhes um algoritmo
para verificar o que ele poderia gerar.

11
00:00:36,192 --> 00:00:39,865
Estes são alguns dos sabores
que a IA criou

12
00:00:39,914 --> 00:00:41,535
[Quebra de Lixo de Abóbora]

13
00:00:41,659 --> 00:00:42,891
(Risos)

14
00:00:42,955 --> 00:00:45,424
[Baba de Manteiga de Amendoim]

15
00:00:46,442 --> 00:00:48,325
[Doença de Creme de Morango]

16
00:00:48,439 --> 00:00:49,925
(Risos)

17
00:00:50,449 --> 00:00:54,556
Estes sabores não são tão deliciosos 
quanto esperávamos

18
00:00:54,800 --> 00:00:56,932
Logo, a pergunta é:
O que aconteceu?

19
00:00:56,962 --> 00:00:58,412
O que correu mal?

20
00:00:58,436 --> 00:01:00,745
A IA está a tentar matar-nos?

21
00:01:01,027 --> 00:01:05,607
Ou está a tentar fazer o que pedimos
e ocorreu um problema?

22
00:01:06,567 --> 00:01:09,231
Nos filmes, quando algo
corre mal com a IA,

23
00:01:09,279 --> 00:01:11,791
é geralmente porque a IA decidiu

24
00:01:11,791 --> 00:01:14,323
que não quer continuar
a obedecer aos seres humanos

25
00:01:14,367 --> 00:01:17,160
e tem os seus próprios objetivos,
muito obrigado!

26
00:01:17,266 --> 00:01:20,482
Porém, na vida real, a IA que temos

27
00:01:20,506 --> 00:01:22,729
não tem inteligência suficiente para isso.

28
00:01:22,781 --> 00:01:25,493
Tem uma capacidade de processamento

29
00:01:25,507 --> 00:01:27,283
aproximada à de uma minhoca,

30
00:01:27,317 --> 00:01:30,300
ou talvez no máximo, 
a de uma simples abelha

31
00:01:30,404 --> 00:01:32,609
e de facto, talvez ainda menos.

32
00:01:32,623 --> 00:01:35,821
Por exemplo, estamos sempre a aprender
coisas novas sobre o cérebro

33
00:01:35,841 --> 00:01:39,831
o que deixa claro o quanto a nossa IA
não se compara com o nosso cérebro.

34
00:01:39,995 --> 00:01:45,032
A IA de hoje consegue identificar
um peão numa imagem,

35
00:01:45,352 --> 00:01:48,615
mas não tem o conceito
do que é um peão,

36
00:01:48,649 --> 00:01:53,443
para além de um conjunto de linhas,
de texturas e de elementos.

37
00:01:53,882 --> 00:01:56,753
Não sabe o que é um ser humano.

38
00:01:56,822 --> 00:01:59,944
Então, a IA de hoje
irá fazer o que pedimos?

39
00:02:00,038 --> 00:02:01,822
Sim, fará se puder,

40
00:02:01,846 --> 00:02:04,642
mas pode não fazer o que desejamos.

41
00:02:04,666 --> 00:02:06,541
Digamos que estamos a tentar

42
00:02:06,585 --> 00:02:09,554
que a IA pegue neste conjunto
de partes de um robô

43
00:02:09,578 --> 00:02:13,565
e as monte num tipo de robô
que vá do Ponto A ao Ponto B.

44
00:02:13,799 --> 00:02:16,010
Se formos tentar resolver este problema

45
00:02:16,034 --> 00:02:18,895
escrevendo um programa de computador
ao estilo tradicional,

46
00:02:18,935 --> 00:02:22,096
daríamos ao programa
instruções passo a passo

47
00:02:22,150 --> 00:02:23,689
de como agarrar nessas partes

48
00:02:23,703 --> 00:02:26,050
e como as montar num robô com pernas,

49
00:02:26,084 --> 00:02:29,336
e depois como usar essas pernas
para andar até ao Ponto B.

50
00:02:29,441 --> 00:02:31,781
Mas quando usamos a IA
para resolver o problema,

51
00:02:31,805 --> 00:02:33,449
as coisas funcionam de outro modo.

52
00:02:33,479 --> 00:02:35,385
Não lhe dizemos como resolver o problema

53
00:02:35,419 --> 00:02:37,128
apenas lhe damos o objetivo,

54
00:02:37,142 --> 00:02:40,344
e ela terá de descobrir por si mesma,
através de tentativas e erros,

55
00:02:40,378 --> 00:02:42,202
como alcançar esse objetivo.

56
00:02:42,254 --> 00:02:46,186
Acontece que a IA tem tendência
a resolver este problema específico

57
00:02:46,230 --> 00:02:47,984
fazendo o seguinte:

58
00:02:48,018 --> 00:02:51,255
monta uma torre que depois cai,

59
00:02:51,279 --> 00:02:53,166
aterrando no Ponto B.

60
00:02:53,210 --> 00:02:55,959
Tecnicamente, isso resolve o problema.

61
00:02:56,043 --> 00:02:57,932
Tecnicamente, ela chega ao Ponto B.

62
00:02:57,966 --> 00:03:01,961
O perigo da IA não é que
se vá revoltar contra nós,

63
00:03:01,995 --> 00:03:06,439
mas que vai fazer exatamente
o que lhe pedimos para fazer.

64
00:03:06,896 --> 00:03:09,604
Logo, o segredo de trabalhar
com IA passa a ser:

65
00:03:09,648 --> 00:03:13,536
Como configuramos o problema para
a IA fazer exatamente o que queremos?

66
00:03:14,786 --> 00:03:18,032
Vejamos, este robô aqui,
está a ser controlado por uma IA.

67
00:03:18,056 --> 00:03:20,870
A IA desenvolveu um modelo
paras as pernas do robô,

68
00:03:20,894 --> 00:03:24,782
e depois descobriu como usá-las
para ultrapassar todos os obstáculos.

69
00:03:24,996 --> 00:03:27,667
Mas quando o David Ha realizou
esta experiência,

70
00:03:27,761 --> 00:03:30,677
teve de configurá-la
com limites muito estritos

71
00:03:30,711 --> 00:03:33,933
em relação à dimensão que a IA
teria para fazer as pernas,

72
00:03:33,957 --> 00:03:35,417
porque senão...

73
00:03:43,298 --> 00:03:45,209
(Risos)

74
00:03:48,713 --> 00:03:52,098
Tecnicamente, chegou ao fim
daquela corrida de obstáculos.

75
00:03:52,432 --> 00:03:57,274
Vemos como é difícil conseguir que a IA
faça algo tão simples como andar.

76
00:03:57,628 --> 00:04:00,038
Ao vermos a IA fazer isto, podemos dizer:

77
00:04:00,092 --> 00:04:03,502
"Ok, não é justo, não podes ser
uma torre alta e cair,

78
00:04:03,526 --> 00:04:06,961
"tens de usar as pernas para andar".

79
00:04:07,305 --> 00:04:09,804
Acontece que isso também
nem sempre funciona.

80
00:04:09,918 --> 00:04:12,607
A tarefa desta IA era avançar depressa.

81
00:04:13,115 --> 00:04:16,708
Não lhe disseram que tinha de avançar

82
00:04:16,732 --> 00:04:19,160
ou que não podia usar os braços.

83
00:04:19,487 --> 00:04:24,065
Logo, isto é o que acontece
quando treinamos a IA para andar depressa,

84
00:04:24,129 --> 00:04:27,663
obtemos movimentos como cambalhotas
e caminhadas ridículas.

85
00:04:27,787 --> 00:04:29,487
É muito comum.

86
00:04:29,777 --> 00:04:33,016
Tal como contorcer-se no chão.

87
00:04:33,180 --> 00:04:34,810
(Risos)

88
00:04:35,241 --> 00:04:38,405
Na minha opinião, sabem o que
seria ainda mais estranho?

89
00:04:38,469 --> 00:04:40,105
É o robô "Exterminador".

90
00:04:40,256 --> 00:04:44,121
Invadir o "Matrix" é outra coisa que a IA
fará, se lhe dermos essa oportunidade.

91
00:04:44,165 --> 00:04:46,622
Se treinarmos a IA num simulador,

92
00:04:46,676 --> 00:04:50,859
ela irá aprender a copiar
os erros matemáticos do simulador

93
00:04:50,913 --> 00:04:52,920
e colhê-los para obter energia.

94
00:04:53,078 --> 00:04:55,363
Ou irá descobrir como andar mais depressa,

95
00:04:55,383 --> 00:04:58,283
falhando repetidamente
aquela anomalia no chão.

96
00:04:58,443 --> 00:05:00,128
Quando se trabalha com a IA,

97
00:05:00,182 --> 00:05:02,611
é menos como trabalhar
com outro ser humano

98
00:05:02,625 --> 00:05:06,354
e mais como trabalhar
com uma estranha força da natureza.

99
00:05:06,562 --> 00:05:11,265
É muito fácil dar, acidentalmente,
à IA o problema errado para resolver,

100
00:05:11,329 --> 00:05:15,837
e, geralmente, não damos por isso
senão quando qualquer coisa corre mal.

101
00:05:16,242 --> 00:05:18,322
Esta é uma experiência que fiz

102
00:05:18,406 --> 00:05:21,528
em que eu queria que a IA copiasse
as cores das tintas,

103
00:05:21,582 --> 00:05:23,378
para inventar novas cores de tintas,

104
00:05:23,412 --> 00:05:26,709
de acordo com uma lista como
a que se encontra aqui à esquerda.

105
00:05:26,868 --> 00:05:29,742
E aqui está o que a IA sugeriu.

106
00:05:29,866 --> 00:05:32,829
[Cocó Sindis , Cocó,
Sofrimento, Púbico Cinza]

107
00:05:32,993 --> 00:05:35,403
(Risos)

108
00:05:39,177 --> 00:05:41,063
Tecnicamente,

109
00:05:41,087 --> 00:05:43,071
fez o que eu pedi que fizesse.

110
00:05:43,115 --> 00:05:46,283
Eu pensei que estava a pedir
nomes simpáticos para tintas,

111
00:05:46,337 --> 00:05:48,684
mas o que tinha pedido

112
00:05:48,728 --> 00:05:51,804
era apenas para imitar o tipo
de combinações de letras

113
00:05:51,858 --> 00:05:53,843
que ela tinha visto no original.

114
00:05:53,907 --> 00:05:56,985
E eu nada disse em relação
ao significado das palavras,

115
00:05:57,019 --> 00:05:59,539
ou que talvez houvesse algumas palavras

116
00:05:59,573 --> 00:06:02,762
que devia evitar usar
nessas cores de tintas.

117
00:06:03,141 --> 00:06:06,735
Portanto, todo o mundo dela
eram os dados que lhe fornecera.

118
00:06:06,789 --> 00:06:10,917
Tal como com os sabores dos gelados,
ela não sabe mais nada.

119
00:06:12,461 --> 00:06:14,299
É geralmente através dos dados

120
00:06:14,343 --> 00:06:18,607
que acidentalmente dizemos à IA
que faça as coisas erradas.

121
00:06:18,694 --> 00:06:21,726
Este é um peixe chamado tenca.

122
00:06:21,750 --> 00:06:23,725
Houve um grupo de investigadores

123
00:06:23,759 --> 00:06:27,463
que treinaram uma IA para identificar
esta tenca em imagens.

124
00:06:27,487 --> 00:06:28,803
Mas quando lhe perguntaram

125
00:06:28,847 --> 00:06:32,233
que parte da imagem utilizava
para identificar o peixe,

126
00:06:32,337 --> 00:06:34,065
eis o que ela salientou.

127
00:06:35,203 --> 00:06:37,392
Sim, são dedos humanos.

128
00:06:37,416 --> 00:06:39,585
Porque é que ela procurou dedos humanos

129
00:06:39,599 --> 00:06:41,830
se estava a tentar identificar um peixe?

130
00:06:42,126 --> 00:06:45,290
Bem, acontece que a tenca
é um peixe-troféu,

131
00:06:45,314 --> 00:06:49,125
por isso, em muitas das imagens
que a IA viu deste peixe,

132
00:06:49,149 --> 00:06:50,360
durante o treino,

133
00:06:50,404 --> 00:06:52,054
o peixe aparecia assim.

134
00:06:52,088 --> 00:06:53,593
(Risos)

135
00:06:53,647 --> 00:06:57,037
A IA não sabia que os dedos
não faziam parte do peixe.

136
00:06:58,808 --> 00:07:02,978
Assim, vemos porque é tão difícil
configurar uma IA

137
00:07:03,042 --> 00:07:06,271
que consiga perceber o que procura.

138
00:07:06,295 --> 00:07:09,257
Isto é o motivo por que criar 
o reconhecimento de imagem

139
00:07:09,291 --> 00:07:11,428
num veículo autónomo é super difícil,

140
00:07:11,442 --> 00:07:13,947
e o motivo do fracasso
de tantos veículos autónomos

141
00:07:13,977 --> 00:07:16,386
foi porque a IA ficou confusa.

142
00:07:16,420 --> 00:07:20,248
Vou falar sobre um exemplo
que aconteceu em 2016.

143
00:07:20,442 --> 00:07:24,957
Houve um acidente fatal quando alguém 
usou o piloto automático da Tesla IA.

144
00:07:24,991 --> 00:07:28,445
Em vez de usá-lo na autoestrada,
como tinha sido desenvolvido,

145
00:07:28,479 --> 00:07:31,054
usaram-no nas ruas da cidade.

146
00:07:31,239 --> 00:07:33,904
Aconteceu que um camião
atravessou-se em frente do carro

147
00:07:33,918 --> 00:07:36,334
e o carro não travou.

148
00:07:36,507 --> 00:07:40,789
A IA fora treinada para reconhecer
o camião nas imagens.

149
00:07:41,293 --> 00:07:43,438
Mas o que parece ter acontecido

150
00:07:43,472 --> 00:07:46,703
foi que a IA foi treinada para reconhecer
os camiões na autoestrada

151
00:07:46,727 --> 00:07:49,456
onde esperamos ver os camiões por detrás.

152
00:07:49,480 --> 00:07:52,760
Na autoestrada, os camiões
não aparecem pelos lados.

153
00:07:52,854 --> 00:07:56,239
Portanto, quando a IA viu o camião

154
00:07:56,323 --> 00:08:01,090
parece tê-lo reconhecido 
como um sinal de trânsito

155
00:08:01,114 --> 00:08:03,997
e portanto, seria seguro
passar por baixo dele.

156
00:08:04,024 --> 00:08:06,834
Aqui podem ver um erro da IA
num setor diferente.

157
00:08:06,878 --> 00:08:10,178
A Amazon teve de desistir
de um algoritmo de seleção de currículos

158
00:08:10,202 --> 00:08:11,572
em que estava a trabalhar,

159
00:08:11,586 --> 00:08:15,204
quando descobriram que o algoritmo
aprendera a discriminar as mulheres.

160
00:08:15,238 --> 00:08:18,214
Aconteceu que testaram a IA
com base em exemplos de currículos

161
00:08:18,238 --> 00:08:20,580
de pessoas que tinham sido
contratadas no passado.

162
00:08:20,624 --> 00:08:24,407
Com base nesses exemplos, a IA
aprendeu a evitar currículos de pessoas

163
00:08:24,431 --> 00:08:26,547
que tinham frequentado colégios femininos

164
00:08:26,591 --> 00:08:29,377
ou que tinham a palavra "feminina"
algures no currículo,

165
00:08:29,441 --> 00:08:33,807
como "equipa de futebol feminina" 
ou "Sociedade Feminina de Engenheiras".

166
00:08:33,911 --> 00:08:37,885
A IA não sabia que não devia copiar 
estes aspetos específicos

167
00:08:37,909 --> 00:08:39,987
que via os seres humanos fazerem.

168
00:08:40,031 --> 00:08:43,088
Tecnicamente, o programa fez
o que lhe pediram para fazer.

169
00:08:43,112 --> 00:08:46,349
Só que eles pediram, sem querer,
para fazer a coisa errada.

170
00:08:46,653 --> 00:08:49,748
Isto está sempre a acontecer com a IA.

171
00:08:50,120 --> 00:08:53,561
A IA pode ser destrutiva sem saber.

172
00:08:53,735 --> 00:08:58,763
Por isso, as IA que recomendam novos
conteúdos no Facebook e no YouTube,

173
00:08:58,837 --> 00:09:02,376
estão otimizadas para aumentar
o número de cliques e visualizações.

174
00:09:02,400 --> 00:09:05,836
Infelizmente, uma das formas
que encontraram para fazer isso

175
00:09:05,860 --> 00:09:10,613
é recomendar os conteúdos
de teorias de conspiração ou o fanatismo.

176
00:09:10,902 --> 00:09:15,974
A IA, por si só, não tem qualquer conceito
do que este conteúdo representa,

177
00:09:16,228 --> 00:09:19,623
nem tem nenhum conceito
das possíveis consequências

178
00:09:19,647 --> 00:09:22,136
de recomendar esses conteúdos.

179
00:09:22,296 --> 00:09:24,307
Logo, quando trabalhamos com a IA,

180
00:09:24,331 --> 00:09:28,233
cabe-nos a nós evitar os problemas.

181
00:09:28,537 --> 00:09:31,060
Evitar que algo corra mal

182
00:09:31,124 --> 00:09:35,020
pode resumir-se ao velho problema
da comunicação,

183
00:09:35,374 --> 00:09:39,209
em que nós, enquanto humanos, temos
de aprender a comunicar com a IA.

184
00:09:39,323 --> 00:09:43,242
Temos de aprender o que a IA
é capaz de fazer ou não

185
00:09:43,366 --> 00:09:46,422
e perceber que, com o seu minúsculo
cérebro de minhoca,

186
00:09:46,476 --> 00:09:50,529
a IA não percebe o que estamos
a tentar pedir-lhe para fazer.

187
00:09:51,148 --> 00:09:54,689
Por outras palavras, temos de estar 
preparados para trabalhar com uma IA

188
00:09:54,713 --> 00:09:59,751
que não seja a super competente
ou a omnisciente IA da ficção científica.

189
00:09:59,845 --> 00:10:02,377
Temos de nos preparar
para trabalhar com uma IA

190
00:10:02,401 --> 00:10:05,389
que seja a que atualmente temos.

191
00:10:05,623 --> 00:10:09,648
E a IA atual é suficientemente estranha.

192
00:10:09,852 --> 00:10:11,042
Obrigada.

193
00:10:11,166 --> 00:10:14,351
(Aplausos)