WEBVTT

00:00:02.745 --> 00:00:04.835
A Inteligência Artificial!

00:00:04.889 --> 00:00:08.448
é conhecida por perturbar 
todos os tipos de indústrias.

00:00:09.081 --> 00:00:11.333
Por exemplo, a dos gelados.

00:00:11.763 --> 00:00:15.772
Que tipo de estonteantes sabores
podemos criar

00:00:15.792 --> 00:00:18.938
com o poder
da inteligência artificial avançada?

00:00:19.091 --> 00:00:21.816
Associei-me a um grupo de programadores

NOTE Paragraph

00:00:21.826 --> 00:00:23.446
da escola secundária de Kealing,

00:00:23.476 --> 00:00:25.827
para descobrir a resposta a esta pergunta.

00:00:26.031 --> 00:00:30.402
Eles reuniram mais de 1600 sabores
de gelados já existentes,

00:00:30.456 --> 00:00:35.998
e fornecemos-lhes um algoritmo
para verificar o que ele poderia gerar.

00:00:36.192 --> 00:00:39.865
Estes são alguns dos sabores
que a IA criou

NOTE Paragraph

00:00:39.914 --> 00:00:41.535
[Quebra de Lixo de Abóbora]

NOTE Paragraph

00:00:41.659 --> 00:00:42.891
(Risos)

NOTE Paragraph

00:00:42.955 --> 00:00:45.424
[Baba de Manteiga de Amendoim]

NOTE Paragraph

00:00:46.442 --> 00:00:48.325
[Doença de Creme de Morango]

NOTE Paragraph

00:00:48.439 --> 00:00:49.925
(Risos)

NOTE Paragraph

00:00:50.449 --> 00:00:54.556
Estes sabores não são tão deliciosos 
quanto esperávamos

00:00:54.800 --> 00:00:56.932
Logo, a pergunta é:
O que aconteceu?

00:00:56.962 --> 00:00:58.412
O que correu mal?

00:00:58.436 --> 00:01:00.745
A IA está a tentar matar-nos?

00:01:01.027 --> 00:01:05.607
Ou está a tentar fazer o que pedimos
e ocorreu um problema?

NOTE Paragraph

00:01:06.567 --> 00:01:09.231
Nos filmes, quando algo
corre mal com a IA,

00:01:09.279 --> 00:01:11.791
é geralmente porque a IA decidiu

00:01:11.791 --> 00:01:14.323
que não quer continuar
a obedecer aos seres humanos

00:01:14.367 --> 00:01:17.160
e tem os seus próprios objetivos,
muito obrigado!

00:01:17.266 --> 00:01:20.482
Porém, na vida real, a IA que temos

00:01:20.506 --> 00:01:22.729
não tem inteligência suficiente para isso.

00:01:22.781 --> 00:01:25.493
Tem uma capacidade de processamento

00:01:25.507 --> 00:01:27.283
aproximada à de uma minhoca,

00:01:27.317 --> 00:01:30.300
ou talvez no máximo, 
a de uma simples abelha

00:01:30.404 --> 00:01:32.609
e de facto, talvez ainda menos.

00:01:32.623 --> 00:01:35.821
Por exemplo, estamos sempre a aprender
coisas novas sobre o cérebro

00:01:35.841 --> 00:01:39.831
o que deixa claro o quanto a nossa IA
não se compara com o nosso cérebro.

00:01:39.995 --> 00:01:45.032
A IA de hoje consegue identificar
um peão numa imagem,

00:01:45.352 --> 00:01:48.615
mas não tem o conceito
do que é um peão,

00:01:48.649 --> 00:01:53.443
para além de um conjunto de linhas,
de texturas e de elementos.

00:01:53.882 --> 00:01:56.753
Não sabe o que é um ser humano.

00:01:56.822 --> 00:01:59.944
Então, a IA de hoje
irá fazer o que pedimos?

00:02:00.038 --> 00:02:01.822
Sim, fará se puder,

00:02:01.846 --> 00:02:04.642
mas pode não fazer o que desejamos.

NOTE Paragraph

00:02:04.666 --> 00:02:06.541 line:1
Digamos que estamos a tentar

00:02:06.585 --> 00:02:09.554 line:1
que a IA pegue neste conjunto
de partes de um robô

00:02:09.578 --> 00:02:13.565 line:1
e as monte num tipo de robô
que vá do Ponto A ao Ponto B.

00:02:13.799 --> 00:02:16.010
Se formos tentar resolver este problema

00:02:16.034 --> 00:02:18.895
escrevendo um programa de computador
ao estilo tradicional,

00:02:18.935 --> 00:02:22.096
daríamos ao programa
instruções passo a passo

00:02:22.150 --> 00:02:23.689
de como agarrar nessas partes

00:02:23.703 --> 00:02:26.050
e como as montar num robô com pernas,

00:02:26.084 --> 00:02:29.336
e depois como usar essas pernas
para andar até ao Ponto B.

00:02:29.441 --> 00:02:31.781
Mas quando usamos a IA
para resolver o problema,

00:02:31.805 --> 00:02:33.449
as coisas funcionam de outro modo.

00:02:33.479 --> 00:02:35.385
Não lhe dizemos como resolver o problema

00:02:35.419 --> 00:02:37.128
apenas lhe damos o objetivo,

00:02:37.142 --> 00:02:40.344
e ela terá de descobrir por si mesma,
através de tentativas e erros,

00:02:40.378 --> 00:02:42.202
como alcançar esse objetivo.

00:02:42.254 --> 00:02:46.186 line:1
Acontece que a IA tem tendência
a resolver este problema específico

00:02:46.230 --> 00:02:47.984 line:1
fazendo o seguinte:

00:02:48.018 --> 00:02:51.255 line:1
monta uma torre que depois cai,

00:02:51.279 --> 00:02:53.166 line:1
aterrando no Ponto B.

00:02:53.210 --> 00:02:55.959 line:1
Tecnicamente, isso resolve o problema.

00:02:56.043 --> 00:02:57.932 line:1
Tecnicamente, ela chega ao Ponto B.

00:02:57.966 --> 00:03:01.961
O perigo da IA não é que
se vá revoltar contra nós,

00:03:01.995 --> 00:03:06.439
mas que vai fazer exatamente
o que lhe pedimos para fazer.

00:03:06.896 --> 00:03:09.604
Logo, o segredo de trabalhar
com IA passa a ser:

00:03:09.648 --> 00:03:13.536
Como configuramos o problema para
a IA fazer exatamente o que queremos?

NOTE Paragraph

00:03:14.786 --> 00:03:18.032 line:1
Vejamos, este robô aqui,
está a ser controlado por uma IA.

00:03:18.056 --> 00:03:20.870 line:1
A IA desenvolveu um modelo
paras as pernas do robô,

00:03:20.894 --> 00:03:24.782 line:1
e depois descobriu como usá-las
para ultrapassar todos os obstáculos.

00:03:24.996 --> 00:03:27.667 line:1
Mas quando o David Ha realizou
esta experiência,

00:03:27.761 --> 00:03:30.677 line:1
teve de configurá-la
com limites muito estritos

00:03:30.711 --> 00:03:33.933 line:1
em relação à dimensão que a IA
teria para fazer as pernas,

00:03:33.957 --> 00:03:35.417 line:1
porque senão...

NOTE Paragraph

00:03:43.298 --> 00:03:45.209
(Risos)

NOTE Paragraph

00:03:48.713 --> 00:03:52.098
Tecnicamente, chegou ao fim
daquela corrida de obstáculos.

00:03:52.432 --> 00:03:57.274
Vemos como é difícil conseguir que a IA
faça algo tão simples como andar.

NOTE Paragraph

00:03:57.628 --> 00:04:00.038
Ao vermos a IA fazer isto, podemos dizer:

00:04:00.092 --> 00:04:03.502
"Ok, não é justo, não podes ser
uma torre alta e cair,

NOTE Paragraph

00:04:03.526 --> 00:04:06.961
"tens de usar as pernas para andar".

00:04:07.305 --> 00:04:09.804
Acontece que isso também
nem sempre funciona.

00:04:09.918 --> 00:04:12.607
A tarefa desta IA era avançar depressa.

00:04:13.115 --> 00:04:16.708
Não lhe disseram que tinha de avançar

00:04:16.732 --> 00:04:19.160
ou que não podia usar os braços.

00:04:19.487 --> 00:04:24.065
Logo, isto é o que acontece
quando treinamos a IA para andar depressa,

00:04:24.129 --> 00:04:27.663
obtemos movimentos como cambalhotas
e caminhadas ridículas.

00:04:27.787 --> 00:04:29.487
É muito comum.

00:04:29.777 --> 00:04:33.016
Tal como contorcer-se no chão.

NOTE Paragraph

00:04:33.180 --> 00:04:34.810
(Risos)

NOTE Paragraph

00:04:35.241 --> 00:04:38.405
Na minha opinião, sabem o que
seria ainda mais estranho?

00:04:38.469 --> 00:04:40.105
É o robô "Exterminador".

00:04:40.256 --> 00:04:44.121
Invadir o "Matrix" é outra coisa que a IA
fará, se lhe dermos essa oportunidade.

00:04:44.165 --> 00:04:46.622
Se treinarmos a IA num simulador,

00:04:46.676 --> 00:04:50.859
ela irá aprender a copiar
os erros matemáticos do simulador

00:04:50.913 --> 00:04:52.920
e colhê-los para obter energia.

00:04:53.078 --> 00:04:55.363
Ou irá descobrir como andar mais depressa,

00:04:55.383 --> 00:04:58.283
falhando repetidamente
aquela anomalia no chão.

00:04:58.443 --> 00:05:00.128
Quando se trabalha com a IA,

00:05:00.182 --> 00:05:02.611
é menos como trabalhar
com outro ser humano

00:05:02.625 --> 00:05:06.354
e mais como trabalhar
com uma estranha força da natureza.

00:05:06.562 --> 00:05:11.265
É muito fácil dar, acidentalmente,
à IA o problema errado para resolver,

00:05:11.329 --> 00:05:15.837
e, geralmente, não damos por isso
senão quando qualquer coisa corre mal.

NOTE Paragraph

00:05:16.242 --> 00:05:18.322
Esta é uma experiência que fiz

00:05:18.406 --> 00:05:21.528
em que eu queria que a IA copiasse
as cores das tintas,

00:05:21.582 --> 00:05:23.378
para inventar novas cores de tintas,

00:05:23.412 --> 00:05:26.709
de acordo com uma lista como
a que se encontra aqui à esquerda.

00:05:26.868 --> 00:05:29.742
E aqui está o que a IA sugeriu.

NOTE Paragraph

00:05:29.866 --> 00:05:32.829
[Cocó Sindis , Cocó,
Sofrimento, Púbico Cinza]

NOTE Paragraph

00:05:32.993 --> 00:05:35.403
(Risos)

NOTE Paragraph

00:05:39.177 --> 00:05:41.063
Tecnicamente,

00:05:41.087 --> 00:05:43.071
fez o que eu pedi que fizesse.

00:05:43.115 --> 00:05:46.283
Eu pensei que estava a pedir
nomes simpáticos para tintas,

00:05:46.337 --> 00:05:48.684
mas o que tinha pedido

00:05:48.728 --> 00:05:51.804
era apenas para imitar o tipo
de combinações de letras

00:05:51.858 --> 00:05:53.843
que ela tinha visto no original.

00:05:53.907 --> 00:05:56.985
E eu nada disse em relação
ao significado das palavras,

00:05:57.019 --> 00:05:59.539
ou que talvez houvesse algumas palavras

00:05:59.573 --> 00:06:02.762
que devia evitar usar
nessas cores de tintas.

00:06:03.141 --> 00:06:06.735
Portanto, todo o mundo dela
eram os dados que lhe fornecera.

00:06:06.789 --> 00:06:10.917
Tal como com os sabores dos gelados,
ela não sabe mais nada.

NOTE Paragraph

00:06:12.461 --> 00:06:14.299
É geralmente através dos dados

00:06:14.343 --> 00:06:18.607
que acidentalmente dizemos à IA
que faça as coisas erradas.

00:06:18.694 --> 00:06:21.726
Este é um peixe chamado tenca.

00:06:21.750 --> 00:06:23.725
Houve um grupo de investigadores

00:06:23.759 --> 00:06:27.463
que treinaram uma IA para identificar
esta tenca em imagens.

00:06:27.487 --> 00:06:28.803
Mas quando lhe perguntaram

00:06:28.847 --> 00:06:32.233
que parte da imagem utilizava
para identificar o peixe,

00:06:32.337 --> 00:06:34.065
eis o que ela salientou.

00:06:35.203 --> 00:06:37.392
Sim, são dedos humanos.

00:06:37.416 --> 00:06:39.585
Porque é que ela procurou dedos humanos

00:06:39.599 --> 00:06:41.830
se estava a tentar identificar um peixe?

00:06:42.126 --> 00:06:45.290
Bem, acontece que a tenca
é um peixe-troféu,

00:06:45.314 --> 00:06:49.125
por isso, em muitas das imagens
que a IA viu deste peixe,

00:06:49.149 --> 00:06:50.360
durante o treino,

00:06:50.404 --> 00:06:52.054
o peixe aparecia assim.

NOTE Paragraph

00:06:52.088 --> 00:06:53.593
(Risos)

NOTE Paragraph

00:06:53.647 --> 00:06:57.037
A IA não sabia que os dedos
não faziam parte do peixe.

NOTE Paragraph

00:06:58.808 --> 00:07:02.978
Assim, vemos porque é tão difícil
configurar uma IA

00:07:03.042 --> 00:07:06.271
que consiga perceber o que procura.

00:07:06.295 --> 00:07:09.257
Isto é o motivo por que criar 
o reconhecimento de imagem

00:07:09.291 --> 00:07:11.428
num veículo autónomo é super difícil,

00:07:11.442 --> 00:07:13.947
e o motivo do fracasso
de tantos veículos autónomos

00:07:13.977 --> 00:07:16.386
foi porque a IA ficou confusa.

00:07:16.420 --> 00:07:20.248
Vou falar sobre um exemplo
que aconteceu em 2016.

00:07:20.442 --> 00:07:24.957
Houve um acidente fatal quando alguém 
usou o piloto automático da Tesla IA.

00:07:24.991 --> 00:07:28.445
Em vez de usá-lo na autoestrada,
como tinha sido desenvolvido,

00:07:28.479 --> 00:07:31.054
usaram-no nas ruas da cidade.

00:07:31.239 --> 00:07:33.904
Aconteceu que um camião
atravessou-se em frente do carro

00:07:33.918 --> 00:07:36.334
e o carro não travou.

00:07:36.507 --> 00:07:40.789
A IA fora treinada para reconhecer
o camião nas imagens.

00:07:41.293 --> 00:07:43.438
Mas o que parece ter acontecido

00:07:43.472 --> 00:07:46.703
foi que a IA foi treinada para reconhecer
os camiões na autoestrada

00:07:46.727 --> 00:07:49.456
onde esperamos ver os camiões por detrás.

00:07:49.480 --> 00:07:52.760
Na autoestrada, os camiões
não aparecem pelos lados.

00:07:52.854 --> 00:07:56.239
Portanto, quando a IA viu o camião

00:07:56.323 --> 00:08:01.090
parece tê-lo reconhecido 
como um sinal de trânsito

00:08:01.114 --> 00:08:03.997
e portanto, seria seguro
passar por baixo dele.

NOTE Paragraph

00:08:04.024 --> 00:08:06.834
Aqui podem ver um erro da IA
num setor diferente.

00:08:06.878 --> 00:08:10.178
A Amazon teve de desistir
de um algoritmo de seleção de currículos

00:08:10.202 --> 00:08:11.572
em que estava a trabalhar,

00:08:11.586 --> 00:08:15.204
quando descobriram que o algoritmo
aprendera a discriminar as mulheres.

00:08:15.238 --> 00:08:18.214
Aconteceu que testaram a IA
com base em exemplos de currículos

00:08:18.238 --> 00:08:20.580
de pessoas que tinham sido
contratadas no passado.

00:08:20.624 --> 00:08:24.407
Com base nesses exemplos, a IA
aprendeu a evitar currículos de pessoas

00:08:24.431 --> 00:08:26.547
que tinham frequentado colégios femininos

00:08:26.591 --> 00:08:29.377
ou que tinham a palavra "feminina"
algures no currículo,

00:08:29.441 --> 00:08:33.807
como "equipa de futebol feminina" 
ou "Sociedade Feminina de Engenheiras".

00:08:33.911 --> 00:08:37.885
A IA não sabia que não devia copiar 
estes aspetos específicos

00:08:37.909 --> 00:08:39.987
que via os seres humanos fazerem.

00:08:40.031 --> 00:08:43.088
Tecnicamente, o programa fez
o que lhe pediram para fazer.

00:08:43.112 --> 00:08:46.349
Só que eles pediram, sem querer,
para fazer a coisa errada.

NOTE Paragraph

00:08:46.653 --> 00:08:49.748
Isto está sempre a acontecer com a IA.

00:08:50.120 --> 00:08:53.561
A IA pode ser destrutiva sem saber.

00:08:53.735 --> 00:08:58.763
Por isso, as IA que recomendam novos
conteúdos no Facebook e no YouTube,

00:08:58.837 --> 00:09:02.376
estão otimizadas para aumentar
o número de cliques e visualizações.

00:09:02.400 --> 00:09:05.836
Infelizmente, uma das formas
que encontraram para fazer isso

00:09:05.860 --> 00:09:10.613
é recomendar os conteúdos
de teorias de conspiração ou o fanatismo.

00:09:10.902 --> 00:09:15.974
A IA, por si só, não tem qualquer conceito
do que este conteúdo representa,

00:09:16.228 --> 00:09:19.623
nem tem nenhum conceito
das possíveis consequências

00:09:19.647 --> 00:09:22.136
de recomendar esses conteúdos.

NOTE Paragraph

00:09:22.296 --> 00:09:24.307
Logo, quando trabalhamos com a IA,

00:09:24.331 --> 00:09:28.233
cabe-nos a nós evitar os problemas.

00:09:28.537 --> 00:09:31.060
Evitar que algo corra mal

00:09:31.124 --> 00:09:35.020
pode resumir-se ao velho problema
da comunicação,

00:09:35.374 --> 00:09:39.209
em que nós, enquanto humanos, temos
de aprender a comunicar com a IA.

00:09:39.323 --> 00:09:43.242
Temos de aprender o que a IA
é capaz de fazer ou não

00:09:43.366 --> 00:09:46.422
e perceber que, com o seu minúsculo
cérebro de minhoca,

00:09:46.476 --> 00:09:50.529
a IA não percebe o que estamos
a tentar pedir-lhe para fazer.

00:09:51.148 --> 00:09:54.689
Por outras palavras, temos de estar 
preparados para trabalhar com uma IA

00:09:54.713 --> 00:09:59.751
que não seja a super competente
ou a omnisciente IA da ficção científica.

00:09:59.845 --> 00:10:02.377
Temos de nos preparar
para trabalhar com uma IA

00:10:02.401 --> 00:10:05.389
que seja a que atualmente temos.

00:10:05.623 --> 00:10:09.648
E a IA atual é suficientemente estranha.

NOTE Paragraph

00:10:09.852 --> 00:10:11.042
Obrigada.

NOTE Paragraph

00:10:11.166 --> 00:10:14.351
(Aplausos)