0:00:02.745,0:00:04.835
A Inteligência Artificial!

0:00:04.889,0:00:08.448
é conhecida por perturbar [br]todos os tipos de indústrias.

0:00:09.081,0:00:11.333
Por exemplo, a dos gelados.

0:00:11.763,0:00:15.772
Que tipo de estonteantes sabores[br]podemos criar

0:00:15.792,0:00:18.938
com o poder[br]da inteligência artificial avançada?

0:00:19.091,0:00:21.816
Associei-me a um grupo de programadores

0:00:21.826,0:00:23.446
da escola secundária de Kealing,

0:00:23.476,0:00:25.827
para descobrir a resposta a esta pergunta.

0:00:26.031,0:00:30.402
Eles reuniram mais de 1600 sabores[br]de gelados já existentes,

0:00:30.456,0:00:35.998
e fornecemos-lhes um algoritmo[br]para verificar o que ele poderia gerar.

0:00:36.192,0:00:39.865
Estes são alguns dos sabores[br]que a IA criou

0:00:39.914,0:00:41.535
[Quebra de Lixo de Abóbora]

0:00:41.659,0:00:42.891
(Risos)

0:00:42.955,0:00:45.424
[Baba de Manteiga de Amendoim]

0:00:46.442,0:00:48.325
[Doença de Creme de Morango]

0:00:48.439,0:00:49.925
(Risos)

0:00:50.449,0:00:54.556
Estes sabores não são tão deliciosos [br]quanto esperávamos

0:00:54.800,0:00:56.932
Logo, a pergunta é:[br]O que aconteceu?

0:00:56.962,0:00:58.412
O que correu mal?

0:00:58.436,0:01:00.745
A IA está a tentar matar-nos?

0:01:01.027,0:01:05.607
Ou está a tentar fazer o que pedimos[br]e ocorreu um problema?

0:01:06.567,0:01:09.231
Nos filmes, quando algo[br]corre mal com a IA,

0:01:09.279,0:01:11.791
é geralmente porque a IA decidiu

0:01:11.791,0:01:14.323
que não quer continuar[br]a obedecer aos seres humanos

0:01:14.367,0:01:17.160
e tem os seus próprios objetivos,[br]muito obrigado!

0:01:17.266,0:01:20.482
Porém, na vida real, a IA que temos

0:01:20.506,0:01:22.729
não tem inteligência suficiente para isso.

0:01:22.781,0:01:25.493
Tem uma capacidade de processamento

0:01:25.507,0:01:27.283
aproximada à de uma minhoca,

0:01:27.317,0:01:30.300
ou talvez no máximo, [br]a de uma simples abelha

0:01:30.404,0:01:32.609
e de facto, talvez ainda menos.

0:01:32.623,0:01:35.821
Por exemplo, estamos sempre a aprender[br]coisas novas sobre o cérebro

0:01:35.841,0:01:39.831
o que deixa claro o quanto a nossa IA[br]não se compara com o nosso cérebro.

0:01:39.995,0:01:45.032
A IA de hoje consegue identificar[br]um peão numa imagem,

0:01:45.352,0:01:48.615
mas não tem o conceito[br]do que é um peão,

0:01:48.649,0:01:53.443
para além de um conjunto de linhas,[br]de texturas e de elementos.

0:01:53.882,0:01:56.753
Não sabe o que é um ser humano.

0:01:56.822,0:01:59.944
Então, a IA de hoje[br]irá fazer o que pedimos?

0:02:00.038,0:02:01.822
Sim, fará se puder,

0:02:01.846,0:02:04.642
mas pode não fazer o que desejamos.

0:02:04.666,0:02:06.541
Digamos que estamos a tentar

0:02:06.585,0:02:09.554
que a IA pegue neste conjunto[br]de partes de um robô

0:02:09.578,0:02:13.565
e as monte num tipo de robô[br]que vá do Ponto A ao Ponto B.

0:02:13.799,0:02:16.010
Se formos tentar resolver este problema

0:02:16.034,0:02:18.895
escrevendo um programa de computador[br]ao estilo tradicional,

0:02:18.935,0:02:22.096
daríamos ao programa[br]instruções passo a passo

0:02:22.150,0:02:23.689
de como agarrar nessas partes

0:02:23.703,0:02:26.050
e como as montar num robô com pernas,

0:02:26.084,0:02:29.336
e depois como usar essas pernas[br]para andar até ao Ponto B.

0:02:29.441,0:02:31.781
Mas quando usamos a IA[br]para resolver o problema,

0:02:31.805,0:02:33.449
as coisas funcionam de outro modo.

0:02:33.479,0:02:35.385
Não lhe dizemos como resolver o problema

0:02:35.419,0:02:37.128
apenas lhe damos o objetivo,

0:02:37.142,0:02:40.344
e ela terá de descobrir por si mesma,[br]através de tentativas e erros,

0:02:40.378,0:02:42.202
como alcançar esse objetivo.

0:02:42.254,0:02:46.186
Acontece que a IA tem tendência[br]a resolver este problema específico

0:02:46.230,0:02:47.984
fazendo o seguinte:

0:02:48.018,0:02:51.255
monta uma torre que depois cai,

0:02:51.279,0:02:53.166
aterrando no Ponto B.

0:02:53.210,0:02:55.959
Tecnicamente, isso resolve o problema.

0:02:56.043,0:02:57.932
Tecnicamente, ela chega ao Ponto B.

0:02:57.966,0:03:01.961
O perigo da IA não é que[br]se vá revoltar contra nós,

0:03:01.995,0:03:06.439
mas que vai fazer exatamente[br]o que lhe pedimos para fazer.

0:03:06.896,0:03:09.604
Logo, o segredo de trabalhar[br]com IA passa a ser:

0:03:09.648,0:03:13.536
Como configuramos o problema para[br]a IA fazer exatamente o que queremos?

0:03:14.786,0:03:18.032
Vejamos, este robô aqui,[br]está a ser controlado por uma IA.

0:03:18.056,0:03:20.870
A IA desenvolveu um modelo[br]paras as pernas do robô,

0:03:20.894,0:03:24.782
e depois descobriu como usá-las[br]para ultrapassar todos os obstáculos.

0:03:24.996,0:03:27.667
Mas quando o David Ha realizou[br]esta experiência,

0:03:27.761,0:03:30.677
teve de configurá-la[br]com limites muito estritos

0:03:30.711,0:03:33.933
em relação à dimensão que a IA[br]teria para fazer as pernas,

0:03:33.957,0:03:35.417
porque senão...

0:03:43.298,0:03:45.209
(Risos)

0:03:48.713,0:03:52.098
Tecnicamente, chegou ao fim[br]daquela corrida de obstáculos.

0:03:52.432,0:03:57.274
Vemos como é difícil conseguir que a IA[br]faça algo tão simples como andar.

0:03:57.628,0:04:00.038
Ao vermos a IA fazer isto, podemos dizer:

0:04:00.092,0:04:03.502
"Ok, não é justo, não podes ser[br]uma torre alta e cair,

0:04:03.526,0:04:06.961
"tens de usar as pernas para andar".

0:04:07.305,0:04:09.804
Acontece que isso também[br]nem sempre funciona.

0:04:09.918,0:04:12.607
A tarefa desta IA era avançar depressa.

0:04:13.115,0:04:16.708
Não lhe disseram que tinha de avançar

0:04:16.732,0:04:19.160
ou que não podia usar os braços.

0:04:19.487,0:04:24.065
Logo, isto é o que acontece[br]quando treinamos a IA para andar depressa,

0:04:24.129,0:04:27.663
obtemos movimentos como cambalhotas[br]e caminhadas ridículas.

0:04:27.787,0:04:29.487
É muito comum.

0:04:29.777,0:04:33.016
Tal como contorcer-se no chão.

0:04:33.180,0:04:34.810
(Risos)

0:04:35.241,0:04:38.405
Na minha opinião, sabem o que[br]seria ainda mais estranho?

0:04:38.469,0:04:40.105
É o robô "Exterminador".

0:04:40.256,0:04:44.121
Invadir o "Matrix" é outra coisa que a IA[br]fará, se lhe dermos essa oportunidade.

0:04:44.165,0:04:46.622
Se treinarmos a IA num simulador,

0:04:46.676,0:04:50.859
ela irá aprender a copiar[br]os erros matemáticos do simulador

0:04:50.913,0:04:52.920
e colhê-los para obter energia.

0:04:53.078,0:04:55.363
Ou irá descobrir como andar mais depressa,

0:04:55.383,0:04:58.283
falhando repetidamente[br]aquela anomalia no chão.

0:04:58.443,0:05:00.128
Quando se trabalha com a IA,

0:05:00.182,0:05:02.611
é menos como trabalhar[br]com outro ser humano

0:05:02.625,0:05:06.354
e mais como trabalhar[br]com uma estranha força da natureza.

0:05:06.562,0:05:11.265
É muito fácil dar, acidentalmente,[br]à IA o problema errado para resolver,

0:05:11.329,0:05:15.837
e, geralmente, não damos por isso[br]senão quando qualquer coisa corre mal.

0:05:16.242,0:05:18.322
Esta é uma experiência que fiz

0:05:18.406,0:05:21.528
em que eu queria que a IA copiasse[br]as cores das tintas,

0:05:21.582,0:05:23.378
para inventar novas cores de tintas,

0:05:23.412,0:05:26.709
de acordo com uma lista como[br]a que se encontra aqui à esquerda.

0:05:26.868,0:05:29.742
E aqui está o que a IA sugeriu.

0:05:29.866,0:05:32.829
[Cocó Sindis , Cocó,[br]Sofrimento, Púbico Cinza]

0:05:32.993,0:05:35.403
(Risos)

0:05:39.177,0:05:41.063
Tecnicamente,

0:05:41.087,0:05:43.071
fez o que eu pedi que fizesse.

0:05:43.115,0:05:46.283
Eu pensei que estava a pedir[br]nomes simpáticos para tintas,

0:05:46.337,0:05:48.684
mas o que tinha pedido

0:05:48.728,0:05:51.804
era apenas para imitar o tipo[br]de combinações de letras

0:05:51.858,0:05:53.843
que ela tinha visto no original.

0:05:53.907,0:05:56.985
E eu nada disse em relação[br]ao significado das palavras,

0:05:57.019,0:05:59.539
ou que talvez houvesse algumas palavras

0:05:59.573,0:06:02.762
que devia evitar usar[br]nessas cores de tintas.

0:06:03.141,0:06:06.735
Portanto, todo o mundo dela[br]eram os dados que lhe fornecera.

0:06:06.789,0:06:10.917
Tal como com os sabores dos gelados,[br]ela não sabe mais nada.

0:06:12.461,0:06:14.299
É geralmente através dos dados

0:06:14.343,0:06:18.607
que acidentalmente dizemos à IA[br]que faça as coisas erradas.

0:06:18.694,0:06:21.726
Este é um peixe chamado tenca.

0:06:21.750,0:06:23.725
Houve um grupo de investigadores

0:06:23.759,0:06:27.463
que treinaram uma IA para identificar[br]esta tenca em imagens.

0:06:27.487,0:06:28.803
Mas quando lhe perguntaram

0:06:28.847,0:06:32.233
que parte da imagem utilizava[br]para identificar o peixe,

0:06:32.337,0:06:34.065
eis o que ela salientou.

0:06:35.203,0:06:37.392
Sim, são dedos humanos.

0:06:37.416,0:06:39.585
Porque é que ela procurou dedos humanos

0:06:39.599,0:06:41.830
se estava a tentar identificar um peixe?

0:06:42.126,0:06:45.290
Bem, acontece que a tenca[br]é um peixe-troféu,

0:06:45.314,0:06:49.125
por isso, em muitas das imagens[br]que a IA viu deste peixe,

0:06:49.149,0:06:50.360
durante o treino,

0:06:50.404,0:06:52.054
o peixe aparecia assim.

0:06:52.088,0:06:53.593
(Risos)

0:06:53.647,0:06:57.037
A IA não sabia que os dedos[br]não faziam parte do peixe.

0:06:58.808,0:07:02.978
Assim, vemos porque é tão difícil[br]configurar uma IA

0:07:03.042,0:07:06.271
que consiga perceber o que procura.

0:07:06.295,0:07:09.257
Isto é o motivo por que criar [br]o reconhecimento de imagem

0:07:09.291,0:07:11.428
num veículo autónomo é super difícil,

0:07:11.442,0:07:13.947
e o motivo do fracasso[br]de tantos veículos autónomos

0:07:13.977,0:07:16.386
foi porque a IA ficou confusa.

0:07:16.420,0:07:20.248
Vou falar sobre um exemplo[br]que aconteceu em 2016.

0:07:20.442,0:07:24.957
Houve um acidente fatal quando alguém [br]usou o piloto automático da Tesla IA.

0:07:24.991,0:07:28.445
Em vez de usá-lo na autoestrada,[br]como tinha sido desenvolvido,

0:07:28.479,0:07:31.054
usaram-no nas ruas da cidade.

0:07:31.239,0:07:33.904
Aconteceu que um camião[br]atravessou-se em frente do carro

0:07:33.918,0:07:36.334
e o carro não travou.

0:07:36.507,0:07:40.789
A IA fora treinada para reconhecer[br]o camião nas imagens.

0:07:41.293,0:07:43.438
Mas o que parece ter acontecido

0:07:43.472,0:07:46.703
foi que a IA foi treinada para reconhecer[br]os camiões na autoestrada

0:07:46.727,0:07:49.456
onde esperamos ver os camiões por detrás.

0:07:49.480,0:07:52.760
Na autoestrada, os camiões[br]não aparecem pelos lados.

0:07:52.854,0:07:56.239
Portanto, quando a IA viu o camião

0:07:56.323,0:08:01.090
parece tê-lo reconhecido [br]como um sinal de trânsito

0:08:01.114,0:08:03.997
e portanto, seria seguro[br]passar por baixo dele.

0:08:04.024,0:08:06.834
Aqui podem ver um erro da IA[br]num setor diferente.

0:08:06.878,0:08:10.178
A Amazon teve de desistir[br]de um algoritmo de seleção de currículos

0:08:10.202,0:08:11.572
em que estava a trabalhar,

0:08:11.586,0:08:15.204
quando descobriram que o algoritmo[br]aprendera a discriminar as mulheres.

0:08:15.238,0:08:18.214
Aconteceu que testaram a IA[br]com base em exemplos de currículos

0:08:18.238,0:08:20.580
de pessoas que tinham sido[br]contratadas no passado.

0:08:20.624,0:08:24.407
Com base nesses exemplos, a IA[br]aprendeu a evitar currículos de pessoas

0:08:24.431,0:08:26.547
que tinham frequentado colégios femininos

0:08:26.591,0:08:29.377
ou que tinham a palavra "feminina"[br]algures no currículo,

0:08:29.441,0:08:33.807
como "equipa de futebol feminina" [br]ou "Sociedade Feminina de Engenheiras".

0:08:33.911,0:08:37.885
A IA não sabia que não devia copiar [br]estes aspetos específicos

0:08:37.909,0:08:39.987
que via os seres humanos fazerem.

0:08:40.031,0:08:43.088
Tecnicamente, o programa fez[br]o que lhe pediram para fazer.

0:08:43.112,0:08:46.349
Só que eles pediram, sem querer,[br]para fazer a coisa errada.

0:08:46.653,0:08:49.748
Isto está sempre a acontecer com a IA.

0:08:50.120,0:08:53.561
A IA pode ser destrutiva sem saber.

0:08:53.735,0:08:58.763
Por isso, as IA que recomendam novos[br]conteúdos no Facebook e no YouTube,

0:08:58.837,0:09:02.376
estão otimizadas para aumentar[br]o número de cliques e visualizações.

0:09:02.400,0:09:05.836
Infelizmente, uma das formas[br]que encontraram para fazer isso

0:09:05.860,0:09:10.613
é recomendar os conteúdos[br]de teorias de conspiração ou o fanatismo.

0:09:10.902,0:09:15.974
A IA, por si só, não tem qualquer conceito[br]do que este conteúdo representa,

0:09:16.228,0:09:19.623
nem tem nenhum conceito[br]das possíveis consequências

0:09:19.647,0:09:22.136
de recomendar esses conteúdos.

0:09:22.296,0:09:24.307
Logo, quando trabalhamos com a IA,

0:09:24.331,0:09:28.233
cabe-nos a nós evitar os problemas.

0:09:28.537,0:09:31.060
Evitar que algo corra mal

0:09:31.124,0:09:35.020
pode resumir-se ao velho problema[br]da comunicação,

0:09:35.374,0:09:39.209
em que nós, enquanto humanos, temos[br]de aprender a comunicar com a IA.

0:09:39.323,0:09:43.242
Temos de aprender o que a IA[br]é capaz de fazer ou não

0:09:43.366,0:09:46.422
e perceber que, com o seu minúsculo[br]cérebro de minhoca,

0:09:46.476,0:09:50.529
a IA não percebe o que estamos[br]a tentar pedir-lhe para fazer.

0:09:51.148,0:09:54.689
Por outras palavras, temos de estar [br]preparados para trabalhar com uma IA

0:09:54.713,0:09:59.751
que não seja a super competente[br]ou a omnisciente IA da ficção científica.

0:09:59.845,0:10:02.377
Temos de nos preparar[br]para trabalhar com uma IA

0:10:02.401,0:10:05.389
que seja a que atualmente temos.

0:10:05.623,0:10:09.648
E a IA atual é suficientemente estranha.

0:10:09.852,0:10:11.042
Obrigada.

0:10:11.166,0:10:14.351
(Aplausos)