[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:01.00,0:00:03.49,Default,,0000,0000,0000,,Eu vou falar de uma falha de intuição
Dialogue: 0,0:00:03.54,0:00:05.37,Default,,0000,0000,0000,,de que muitos de nós sofremos.
Dialogue: 0,0:00:05.48,0:00:08.95,Default,,0000,0000,0000,,É uma falha em detetar\Num certo tipo de perigo.
Dialogue: 0,0:00:09.36,0:00:11.37,Default,,0000,0000,0000,,Vou descrever um cenário
Dialogue: 0,0:00:11.44,0:00:14.57,Default,,0000,0000,0000,,que considero tão aterrador
Dialogue: 0,0:00:14.63,0:00:16.66,Default,,0000,0000,0000,,como provável de acontecer.
Dialogue: 0,0:00:16.90,0:00:19.67,Default,,0000,0000,0000,,Acontece que isto\Nnão é uma boa combinação.
Dialogue: 0,0:00:20.08,0:00:21.84,Default,,0000,0000,0000,,No entanto, em vez de assustados,
Dialogue: 0,0:00:21.88,0:00:24.88,Default,,0000,0000,0000,,a maioria de vocês acha\Nque aquilo de que estou a falar é fixe.
Dialogue: 0,0:00:25.47,0:00:28.26,Default,,0000,0000,0000,,Eu vou descrever\Ncomo as vantagens obtidas
Dialogue: 0,0:00:28.33,0:00:30.18,Default,,0000,0000,0000,,com a inteligência artificial
Dialogue: 0,0:00:30.23,0:00:32.66,Default,,0000,0000,0000,,podem acabar por nos destruir.
Dialogue: 0,0:00:32.12,0:00:35.11,Default,,0000,0000,0000,,Penso que é muito difícil\Nver como não nos vão destruir
Dialogue: 0,0:00:35.15,0:00:37.38,Default,,0000,0000,0000,,ou inspirar a destruirmo-nos a nós mesmos.
Dialogue: 0,0:00:37.56,0:00:39.51,Default,,0000,0000,0000,,Mas se vocês forem\Nminimamente como eu,
Dialogue: 0,0:00:39.55,0:00:42.59,Default,,0000,0000,0000,,vão descobrir que é divertido\Npensar nestas coisas.
Dialogue: 0,0:00:42.20,0:00:45.34,Default,,0000,0000,0000,,Essa resposta faz parte do problema.
Dialogue: 0,0:00:45.50,0:00:47.70,Default,,0000,0000,0000,,Essa resposta devia preocupar-vos.
Dialogue: 0,0:00:47.92,0:00:50.51,Default,,0000,0000,0000,,Se eu vos convencesse nesta palestra
Dialogue: 0,0:00:50.60,0:00:53.95,Default,,0000,0000,0000,,que vamos, provavelmente,\Nsofrer uma fome mundial,
Dialogue: 0,0:00:54.04,0:00:57.22,Default,,0000,0000,0000,,devido à mudança climática\Nou devido a alguma outra catástrofe,
Dialogue: 0,0:00:57.27,0:01:00.51,Default,,0000,0000,0000,,e que os vossos netos,\Nou os netos deles,
Dialogue: 0,0:01:00.70,0:01:03.14,Default,,0000,0000,0000,,têm a probabilidade de viver assim,
Dialogue: 0,0:01:03.20,0:01:04.74,Default,,0000,0000,0000,,não pensariam:
Dialogue: 0,0:01:05.44,0:01:06.96,Default,,0000,0000,0000,,"Que interessante.
Dialogue: 0,0:01:07.36,0:01:08.73,Default,,0000,0000,0000,,"Gosto desta palestra TED."
Dialogue: 0,0:01:09.54,0:01:11.43,Default,,0000,0000,0000,,A fome não tem graça.
Dialogue: 0,0:01:11.80,0:01:14.71,Default,,0000,0000,0000,,Mas a morte pela ficção científica\Né divertida.
Dialogue: 0,0:01:15.37,0:01:18.90,Default,,0000,0000,0000,,Uma das coisas que mais me preocupa\Nno desenvolvimento da IA, neste ponto,
Dialogue: 0,0:01:18.96,0:01:23.30,Default,,0000,0000,0000,,é que parecemos incapazes de mobilizar\Numa resposta emocional apropriada
Dialogue: 0,0:01:23.32,0:01:25.24,Default,,0000,0000,0000,,para os perigos que nos esperam.
Dialogue: 0,0:01:25.30,0:01:28.78,Default,,0000,0000,0000,,Sou incapaz de conseguir esta resposta,\Ne estou a fazer esta palestra.
Dialogue: 0,0:01:30.12,0:01:32.71,Default,,0000,0000,0000,,É como se estivéssemos diante\Nde duas portas.
Dialogue: 0,0:01:32.84,0:01:34.34,Default,,0000,0000,0000,,Atrás da porta número um,
Dialogue: 0,0:01:34.36,0:01:37.61,Default,,0000,0000,0000,,deixamos de fazer progressos\Nna construção de máquinas inteligentes.
Dialogue: 0,0:01:37.68,0:01:41.82,Default,,0000,0000,0000,,O hardware e o software dos computadores\Ndeixam de melhorar, por alguma razão.
Dialogue: 0,0:01:41.88,0:01:44.96,Default,,0000,0000,0000,,Agora, pensem um momento\Nna razão de isto poder acontecer.
Dialogue: 0,0:01:45.08,0:01:48.74,Default,,0000,0000,0000,,Ou seja, sendo a inteligência\Ne a automação tão valiosas,
Dialogue: 0,0:01:48.82,0:01:52.48,Default,,0000,0000,0000,,vamos continuar a melhorar\Na tecnologia, se formos capazes disso.
Dialogue: 0,0:01:53.20,0:01:55.22,Default,,0000,0000,0000,,O que é que nos pode impedir de o fazer?
Dialogue: 0,0:01:55.80,0:01:57.86,Default,,0000,0000,0000,,Uma guerra nuclear a larga escala?
Dialogue: 0,0:01:59.00,0:02:00.86,Default,,0000,0000,0000,,Uma pandemia mundial?
Dialogue: 0,0:02:02.32,0:02:04.35,Default,,0000,0000,0000,,O impacto de um asteroide?
Dialogue: 0,0:02:05.64,0:02:08.48,Default,,0000,0000,0000,,Justin Bieber tornar-se\Npresidente dos EUA?
Dialogue: 0,0:02:08.56,0:02:11.18,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:02:12.76,0:02:16.92,Default,,0000,0000,0000,,A questão é, algo teria de destruir\Na civilização, tal como a conhecemos
Dialogue: 0,0:02:17.70,0:02:21.55,Default,,0000,0000,0000,,Temos que imaginar\Nquão mau teria que ser
Dialogue: 0,0:02:21.80,0:02:24.96,Default,,0000,0000,0000,,para nos impedir de fazer\Nmelhoramentos na tecnologia
Dialogue: 0,0:02:25.12,0:02:26.46,Default,,0000,0000,0000,,de forma permanente,
Dialogue: 0,0:02:26.51,0:02:28.30,Default,,0000,0000,0000,,geração após geração.
Dialogue: 0,0:02:28.47,0:02:30.46,Default,,0000,0000,0000,,Quase por definição,\Nisto é a pior coisa
Dialogue: 0,0:02:30.48,0:02:32.64,Default,,0000,0000,0000,,que já aconteceu na história\Nda Humanidade.
Dialogue: 0,0:02:32.69,0:02:34.16,Default,,0000,0000,0000,,Por isso, a única alternativa,
Dialogue: 0,0:02:34.22,0:02:36.34,Default,,0000,0000,0000,,— e é o que está detrás da porta dois —
Dialogue: 0,0:02:36.39,0:02:39.49,Default,,0000,0000,0000,,é que continuemos a melhorar\Nas nossas máquinas inteligentes
Dialogue: 0,0:02:39.53,0:02:41.46,Default,,0000,0000,0000,,ano após ano após ano.
Dialogue: 0,0:02:41.72,0:02:45.78,Default,,0000,0000,0000,,A certa altura, iremos construir\Nmáquinas mais inteligentes que nós,
Dialogue: 0,0:02:46.08,0:02:48.70,Default,,0000,0000,0000,,e assim que tivermos máquinas\Nmais inteligentes que nós,
Dialogue: 0,0:02:48.72,0:02:50.96,Default,,0000,0000,0000,,elas vão começar\Na melhorar-se a si mesmas.
Dialogue: 0,0:02:51.03,0:02:53.66,Default,,0000,0000,0000,,Então arriscamo-nos ao que\No matemático I.J. Good chamou
Dialogue: 0,0:02:53.73,0:02:55.46,Default,,0000,0000,0000,,uma "explosão de inteligência,"
Dialogue: 0,0:02:55.52,0:02:57.98,Default,,0000,0000,0000,,que o processo poderá\Nsair das nossas mãos.
Dialogue: 0,0:02:58.12,0:03:01.63,Default,,0000,0000,0000,,Isto é normalmente caricaturado,\Ncomo vemos aqui,
Dialogue: 0,0:03:01.14,0:03:05.18,Default,,0000,0000,0000,,como o medo de que tropas\Nde robôs malignos nos vão atacar.
Dialogue: 0,0:03:05.48,0:03:07.87,Default,,0000,0000,0000,,Mas este não é o cenário\Nmais provável.
Dialogue: 0,0:03:08.42,0:03:12.78,Default,,0000,0000,0000,,As nossas máquinas não se tornarão\Nespontaneamente maléficas.
Dialogue: 0,0:03:13.20,0:03:15.73,Default,,0000,0000,0000,,O problema é se\Nconstruímos máquinas
Dialogue: 0,0:03:15.77,0:03:17.87,Default,,0000,0000,0000,,que são muito mais\Ncompetentes que nós
Dialogue: 0,0:03:17.92,0:03:21.66,Default,,0000,0000,0000,,que à mínima divergência\Nentre os seus objetivos e os nossos
Dialogue: 0,0:03:21.71,0:03:23.31,Default,,0000,0000,0000,,podem destruir-nos.
Dialogue: 0,0:03:23.96,0:03:26.39,Default,,0000,0000,0000,,Basta pensar na nossa \Nligação às formigas.
Dialogue: 0,0:03:26.60,0:03:28.30,Default,,0000,0000,0000,,Não as odiamos.
Dialogue: 0,0:03:28.38,0:03:30.55,Default,,0000,0000,0000,,Não saímos do nosso caminho\Npara as magoar.
Dialogue: 0,0:03:30.60,0:03:32.93,Default,,0000,0000,0000,,Até fazemos o necessário\Npara não as magoar.
Dialogue: 0,0:03:32.99,0:03:34.89,Default,,0000,0000,0000,,Passamos por cima delas\Nno passeio.
Dialogue: 0,0:03:34.95,0:03:36.96,Default,,0000,0000,0000,,Mas quando a sua presença
Dialogue: 0,0:03:37.01,0:03:39.51,Default,,0000,0000,0000,,representa um conflito\Ncom um dos nossos objetivos,
Dialogue: 0,0:03:39.57,0:03:42.10,Default,,0000,0000,0000,,digamos, quando construindo\Num edifício como este,
Dialogue: 0,0:03:42.15,0:03:44.37,Default,,0000,0000,0000,,eliminamo-las sem hesitação.
Dialogue: 0,0:03:44.48,0:03:47.55,Default,,0000,0000,0000,,O problema é que iremos\Num dia construir máquinas
Dialogue: 0,0:03:47.60,0:03:50.41,Default,,0000,0000,0000,,que, conscientes ou não,
Dialogue: 0,0:03:50.46,0:03:52.78,Default,,0000,0000,0000,,podem tratar-nos com\No mesmo desprezo.
Dialogue: 0,0:03:54.10,0:03:56.97,Default,,0000,0000,0000,,Suspeito que isto pareça\Nexagerado para a maioria.
Dialogue: 0,0:03:57.47,0:04:03.70,Default,,0000,0000,0000,,Aposto que são os mesmos que duvidam \Nda possibilidade duma IA superinteligente,
Dialogue: 0,0:04:03.75,0:04:05.41,Default,,0000,0000,0000,,e, mais ainda, inevitável.
Dialogue: 0,0:04:05.54,0:04:08.94,Default,,0000,0000,0000,,Então, devem encontrar algo de errado\Nnas seguintes premissas.
Dialogue: 0,0:04:09.32,0:04:10.90,Default,,0000,0000,0000,,Só existem três.
Dialogue: 0,0:04:11.80,0:04:15.20,Default,,0000,0000,0000,,A inteligência é uma questão\Nde processamento de informação
Dialogue: 0,0:04:15.25,0:04:17.20,Default,,0000,0000,0000,,em sistemas físicos.
Dialogue: 0,0:04:17.57,0:04:19.82,Default,,0000,0000,0000,,Na verdade, isto é mais\Nque uma premissa.
Dialogue: 0,0:04:19.88,0:04:23.50,Default,,0000,0000,0000,,Já construímos inteligência\Nlimitada nas nossas máquinas,
Dialogue: 0,0:04:23.59,0:04:25.69,Default,,0000,0000,0000,,e muitas dessas máquinas já funcionam
Dialogue: 0,0:04:25.76,0:04:28.62,Default,,0000,0000,0000,,a um nível de inteligência super-humana.
Dialogue: 0,0:04:28.84,0:04:31.42,Default,,0000,0000,0000,,Sabemos que mera matéria
Dialogue: 0,0:04:31.48,0:04:34.27,Default,,0000,0000,0000,,pode dar origem ao que chamamos\N"inteligência geral,"
Dialogue: 0,0:04:34.32,0:04:37.64,Default,,0000,0000,0000,,a capacidade de pensar flexivelmente\Nem múltiplos domínios,
Dialogue: 0,0:04:37.84,0:04:40.69,Default,,0000,0000,0000,,porque o nosso cérebros conseguiu isso.
Dialogue: 0,0:04:41.16,0:04:44.66,Default,,0000,0000,0000,,Quero dizer, aqui só há átomos.
Dialogue: 0,0:04:45.08,0:04:49.38,Default,,0000,0000,0000,,Enquanto continuamos a construir\Nsistemas de átomos
Dialogue: 0,0:04:49.40,0:04:52.19,Default,,0000,0000,0000,,que demonstram cada vez mais\Num comportamento inteligente,
Dialogue: 0,0:04:52.24,0:04:54.93,Default,,0000,0000,0000,,acabaremos — a não ser\Nque sejamos interrompidos —
Dialogue: 0,0:04:54.100,0:04:58.18,Default,,0000,0000,0000,,acabaremos por construir\Ninteligência geral
Dialogue: 0,0:04:58.23,0:04:59.68,Default,,0000,0000,0000,,nas nossas máquinas.
Dialogue: 0,0:04:59.77,0:05:03.92,Default,,0000,0000,0000,,É crucial entender que a velocidade\Ndo progresso não importa,
Dialogue: 0,0:05:03.14,0:05:06.63,Default,,0000,0000,0000,,pois qualquer progresso\Né suficiente para nos levar ao final.
Dialogue: 0,0:05:06.69,0:05:09.51,Default,,0000,0000,0000,,Não precisamos da Lei de Moore\Nnem de progresso exponencial
Dialogue: 0,0:05:09.51,0:05:10.75,Default,,0000,0000,0000,,para continuar.
Dialogue: 0,0:05:10.82,0:05:12.79,Default,,0000,0000,0000,,Só precisamos de continuar.
Dialogue: 0,0:05:13.71,0:05:16.79,Default,,0000,0000,0000,,A segunda premissa\Né que iremos continuar.
Dialogue: 0,0:05:17.00,0:05:20.18,Default,,0000,0000,0000,,Continuaremos a melhorar\Nas nossas máquinas inteligentes.
Dialogue: 0,0:05:21.12,0:05:25.17,Default,,0000,0000,0000,,E devido ao valor da inteligência
Dialogue: 0,0:05:25.32,0:05:28.94,Default,,0000,0000,0000,,— quer dizer, inteligência ou é\Na fonte de tudo que valorizamos
Dialogue: 0,0:05:29.14,0:05:32.63,Default,,0000,0000,0000,,ou precisamos dela para\Nsalvaguardar tudo o que valorizamos.
Dialogue: 0,0:05:32.13,0:05:34.11,Default,,0000,0000,0000,,É o nosso recurso mais valioso.
Dialogue: 0,0:05:34.19,0:05:35.93,Default,,0000,0000,0000,,Por isso, queremos fazer isto.
Dialogue: 0,0:05:35.99,0:05:39.14,Default,,0000,0000,0000,,Temos problemas que queremos\Ndesesperadamente resolver.
Dialogue: 0,0:05:39.20,0:05:42.58,Default,,0000,0000,0000,,Queremos curar doenças\Ncomo Alzheimer ou cancro.
Dialogue: 0,0:05:43.17,0:05:47.13,Default,,0000,0000,0000,,Queremos entender sistemas económicos\Ne melhorar a nossa ciência climatérica.
Dialogue: 0,0:05:47.17,0:05:49.45,Default,,0000,0000,0000,,Por isso iremos fazê-lo,\Nse conseguirmos,
Dialogue: 0,0:05:49.54,0:05:52.83,Default,,0000,0000,0000,,O comboio já saiu da estação,\Ne não há travão para acionar.
Dialogue: 0,0:05:53.92,0:05:58.77,Default,,0000,0000,0000,,Finalmente, não estamos\Nnum pico da inteligência,
Dialogue: 0,0:05:59.36,0:06:01.35,Default,,0000,0000,0000,,provavelmente, nem perto dela.
Dialogue: 0,0:06:01.64,0:06:03.54,Default,,0000,0000,0000,,E isto é a visão crucial.
Dialogue: 0,0:06:03.56,0:06:06.16,Default,,0000,0000,0000,,Isto é o que torna\Na nossa situação tão precária.
Dialogue: 0,0:06:06.22,0:06:10.49,Default,,0000,0000,0000,,Isto é o que torna tão incertas\Nas nossas intuições de risco.
Dialogue: 0,0:06:11.32,0:06:14.27,Default,,0000,0000,0000,,Agora, pensem na pessoa\Nmais inteligente de sempre.
Dialogue: 0,0:06:14.78,0:06:18.06,Default,,0000,0000,0000,,Na lista de quase toda a gente\Nestá John von Neumann.
Dialogue: 0,0:06:18.16,0:06:21.55,Default,,0000,0000,0000,,A impressão que von Neumann\Ndeixou nas pessoas ao seu redor,
Dialogue: 0,0:06:21.59,0:06:25.17,Default,,0000,0000,0000,,incluindo os melhores\Nmatemáticos e físicos do seu tempo,
Dialogue: 0,0:06:25.52,0:06:27.46,Default,,0000,0000,0000,,está bem documentada.
Dialogue: 0,0:06:27.67,0:06:31.26,Default,,0000,0000,0000,,Se metade das histórias sobre ele \Nsão meio verdadeiras,
Dialogue: 0,0:06:31.28,0:06:32.48,Default,,0000,0000,0000,,não há dúvida
Dialogue: 0,0:06:32.50,0:06:35.28,Default,,0000,0000,0000,,que ele foi uma das pessoas\Nmais inteligentes que existiu.
Dialogue: 0,0:06:35.33,0:06:38.92,Default,,0000,0000,0000,,Considerem o espetro da inteligência.
Dialogue: 0,0:06:38.46,0:06:40.34,Default,,0000,0000,0000,,Aqui temos John von Neumann.
Dialogue: 0,0:06:41.56,0:06:43.18,Default,,0000,0000,0000,,E aqui estamos nós.
Dialogue: 0,0:06:44.12,0:06:45.63,Default,,0000,0000,0000,,E aqui temos uma galinha.
Dialogue: 0,0:06:45.73,0:06:47.23,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:06:47.40,0:06:48.92,Default,,0000,0000,0000,,Desculpem, uma galinha.
Dialogue: 0,0:06:49.12,0:06:50.42,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:06:50.53,0:06:53.35,Default,,0000,0000,0000,,Não preciso de tornar esta palestra\Nainda mais deprimente.
Dialogue: 0,0:06:53.61,0:06:55.63,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:06:56.34,0:07:00.02,Default,,0000,0000,0000,,Mas parece muito provável\Nque o espetro da inteligência
Dialogue: 0,0:07:00.85,0:07:03.40,Default,,0000,0000,0000,,se alargue muito mais além\Ndo que imaginamos.
Dialogue: 0,0:07:04.32,0:07:06.81,Default,,0000,0000,0000,,Se construirmos máquinas\Nmais inteligentes que nós,
Dialogue: 0,0:07:07.12,0:07:09.68,Default,,0000,0000,0000,,iremos muito provavelmente\Nexplorar este espetro
Dialogue: 0,0:07:09.70,0:07:11.56,Default,,0000,0000,0000,,de formas inimagináveis,
Dialogue: 0,0:07:11.63,0:07:14.40,Default,,0000,0000,0000,,e superar-nos em formas,\Nque não imaginávamos.
Dialogue: 0,0:07:15.20,0:07:19.27,Default,,0000,0000,0000,,É importante reconhecer que isto é verdade\Nsó por virtude da velocidade.
Dialogue: 0,0:07:19.60,0:07:24.43,Default,,0000,0000,0000,,Imaginem que construímos\Numa IA superinteligente
Dialogue: 0,0:07:24.54,0:07:28.13,Default,,0000,0000,0000,,que não é mais inteligente que\Numa equipa normal de investigadores
Dialogue: 0,0:07:28.20,0:07:30.79,Default,,0000,0000,0000,,de Stanford ou do MIT.
Dialogue: 0,0:07:30.12,0:07:33.30,Default,,0000,0000,0000,,Os circuitos eletrónicos funcionam\Num milhão de vezes mais depressa
Dialogue: 0,0:07:33.34,0:07:34.90,Default,,0000,0000,0000,,do que os circuitos bioquímicos,
Dialogue: 0,0:07:34.94,0:07:38.19,Default,,0000,0000,0000,,por isso essa máquina iria \Npensar um milhão de vezes mais rápido
Dialogue: 0,0:07:38.21,0:07:40.03,Default,,0000,0000,0000,,do que as mentes que a construíram.
Dialogue: 0,0:07:40.10,0:07:41.95,Default,,0000,0000,0000,,Pomo-la a funcionar\Ndurante uma semana,
Dialogue: 0,0:07:41.98,0:07:46.87,Default,,0000,0000,0000,,e ela irá realizar 20 000 anos\Nde trabalho intelectual humano,
Dialogue: 0,0:07:46.40,0:07:48.52,Default,,0000,0000,0000,,semana após semana.
Dialogue: 0,0:07:49.88,0:07:52.99,Default,,0000,0000,0000,,Como podemos entender,\Ne muito menos restringir,
Dialogue: 0,0:07:53.06,0:07:55.79,Default,,0000,0000,0000,,uma mente que faz tal progresso?
Dialogue: 0,0:07:56.84,0:07:59.21,Default,,0000,0000,0000,,A outra coisa preocupante, honestamente...
Dialogue: 0,0:07:59.25,0:08:03.98,Default,,0000,0000,0000,,Imaginem o melhor cenário possível.
Dialogue: 0,0:08:04.12,0:08:08.18,Default,,0000,0000,0000,,Imaginem que chegamos ao "design"\Nde uma IA superinteligente
Dialogue: 0,0:08:08.20,0:08:09.89,Default,,0000,0000,0000,,sem problemas de segurança.
Dialogue: 0,0:08:09.95,0:08:12.86,Default,,0000,0000,0000,,Temos o "design" perfeito\Nna primeira tentativa.
Dialogue: 0,0:08:12.100,0:08:15.26,Default,,0000,0000,0000,,Seria como se nos tivessem dado um oráculo
Dialogue: 0,0:08:15.30,0:08:17.51,Default,,0000,0000,0000,,cujo comportamento seria o esperado.
Dialogue: 0,0:08:18.48,0:08:21.63,Default,,0000,0000,0000,,Esta máquina poderia ser\Na máquina perfeita para poupar trabalho.
Dialogue: 0,0:08:21.68,0:08:24.20,Default,,0000,0000,0000,,Poderia conceber a máquina\Npara construir a máquina
Dialogue: 0,0:08:24.26,0:08:26.24,Default,,0000,0000,0000,,que pode fazer qualquer\Ntrabalho físico,
Dialogue: 0,0:08:26.29,0:08:27.79,Default,,0000,0000,0000,,usando energia solar,
Dialogue: 0,0:08:27.85,0:08:30.16,Default,,0000,0000,0000,,mais ou menos ao custo\Ndas matérias-primas.
Dialogue: 0,0:08:30.37,0:08:33.38,Default,,0000,0000,0000,,Estamos a falar do fim\Ndo trabalho duro humano
Dialogue: 0,0:08:33.58,0:08:36.95,Default,,0000,0000,0000,,Estamos também a falar do fim\Nde maior parte do trabalho intelectual.
Dialogue: 0,0:08:37.20,0:08:40.34,Default,,0000,0000,0000,,O que fariam macacos como nós\Nnestas circunstâncias?
Dialogue: 0,0:08:40.92,0:08:45.21,Default,,0000,0000,0000,,Teríamos tempo para jogar ao disco,\Ne dar massagens uns aos outros.
Dialogue: 0,0:08:45.96,0:08:48.83,Default,,0000,0000,0000,,Adicionem LSD e algumas\Nescolhas duvidosas de roupa,
Dialogue: 0,0:08:48.87,0:08:51.37,Default,,0000,0000,0000,,e seria como o festival Burning Man\Npor todo o mundo.
Dialogue: 0,0:08:51.45,0:08:53.59,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:08:54.63,0:08:56.83,Default,,0000,0000,0000,,Isto até pode soar bem,
Dialogue: 0,0:08:57.28,0:08:59.80,Default,,0000,0000,0000,,mas questionem-se o que poderia aconteceu
Dialogue: 0,0:08:59.86,0:09:02.56,Default,,0000,0000,0000,,na nossa ordem atual\Neconómica e política?
Dialogue: 0,0:09:02.60,0:09:05.19,Default,,0000,0000,0000,,Parece que poderíamos testemunhar
Dialogue: 0,0:09:05.61,0:09:07.60,Default,,0000,0000,0000,,um nível de desigualdade de riqueza
Dialogue: 0,0:09:07.66,0:09:10.50,Default,,0000,0000,0000,,e desemprego como nunca vimos antes.
Dialogue: 0,0:09:10.56,0:09:13.39,Default,,0000,0000,0000,,Se não existir a vontade\Nde colocar essa riqueza
Dialogue: 0,0:09:13.10,0:09:15.62,Default,,0000,0000,0000,,imediatamente ao serviço\Nde toda a humanidade,
Dialogue: 0,0:09:15.78,0:09:19.78,Default,,0000,0000,0000,,alguns multimilionários poderiam figurar\Nnas capas das nossas revistas de negócios
Dialogue: 0,0:09:19.82,0:09:22.56,Default,,0000,0000,0000,,enquanto o resto do mundo\Nestaria à fome.
Dialogue: 0,0:09:22.32,0:09:24.62,Default,,0000,0000,0000,,E o que fariam os russos\Nou os chineses
Dialogue: 0,0:09:24.67,0:09:27.51,Default,,0000,0000,0000,,se soubessem que alguma companhia\Nem Silicon Valley
Dialogue: 0,0:09:27.57,0:09:30.21,Default,,0000,0000,0000,,estaria prestes a implementar\Numa IA superinteligente?
Dialogue: 0,0:09:30.27,0:09:32.80,Default,,0000,0000,0000,,Essa máquina seria capaz \Nde fazer a guerra,
Dialogue: 0,0:09:32.86,0:09:35.23,Default,,0000,0000,0000,,terrestre ou cibernética,
Dialogue: 0,0:09:35.31,0:09:37.18,Default,,0000,0000,0000,,com um poder inédito.
Dialogue: 0,0:09:38.12,0:09:40.18,Default,,0000,0000,0000,,Isto é um cenário de\N"o vencedor leva tudo".
Dialogue: 0,0:09:40.24,0:09:43.24,Default,,0000,0000,0000,,Estar seis meses adiantado\Nnesta competição
Dialogue: 0,0:09:43.30,0:09:46.72,Default,,0000,0000,0000,,é como estar 500 000 anos adiantado,
Dialogue: 0,0:09:46.12,0:09:47.46,Default,,0000,0000,0000,,no mínimo.
Dialogue: 0,0:09:47.78,0:09:52.22,Default,,0000,0000,0000,,Parece que os meros rumores\Ndeste tipo de inovação
Dialogue: 0,0:09:52.24,0:09:54.78,Default,,0000,0000,0000,,poderiam descontrolar a nossa espécie.
Dialogue: 0,0:09:55.15,0:09:57.60,Default,,0000,0000,0000,,Uma das coisas mais assustadoras,
Dialogue: 0,0:09:57.68,0:10:00.34,Default,,0000,0000,0000,,na minha perspetiva, neste momento,
Dialogue: 0,0:10:00.43,0:10:04.77,Default,,0000,0000,0000,,são o tipo de coisas\Nque os investigadores da IA dizem
Dialogue: 0,0:10:04.87,0:10:06.75,Default,,0000,0000,0000,,quando querem tranquilizar-nos.
Dialogue: 0,0:10:07.38,0:10:10.59,Default,,0000,0000,0000,,O motivo mais comum que invocam\Npara não nos preocuparmos é o tempo.
Dialogue: 0,0:10:10.68,0:10:12.72,Default,,0000,0000,0000,,"Não sabem que isto ainda vem longe?
Dialogue: 0,0:10:12.78,0:10:15.42,Default,,0000,0000,0000,,"Só daqui a 50 ou 100 anos".
Dialogue: 0,0:10:15.72,0:10:17.12,Default,,0000,0000,0000,,Um investigador disse:
Dialogue: 0,0:10:17.18,0:10:18.98,Default,,0000,0000,0000,,"Preocupar-se com a segurança da IA
Dialogue: 0,0:10:19.12,0:10:21.94,Default,,0000,0000,0000,,"é como preocupar-se com\No excesso de população em Marte."
Dialogue: 0,0:10:22.12,0:10:23.90,Default,,0000,0000,0000,,Esta é a versão de Silicon Valley
Dialogue: 0,0:10:23.97,0:10:26.14,Default,,0000,0000,0000,,de "não preocupem a vossa \Ncabeça com isto."
Dialogue: 0,0:10:26.21,0:10:27.50,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:10:27.65,0:10:29.42,Default,,0000,0000,0000,,Ninguém parece notar
Dialogue: 0,0:10:29.48,0:10:32.92,Default,,0000,0000,0000,,que mencionar o horizonte do tempo
Dialogue: 0,0:10:32.18,0:10:34.66,Default,,0000,0000,0000,,é um total "não se segue".
Dialogue: 0,0:10:34.72,0:10:38.11,Default,,0000,0000,0000,,Se a inteligência é apenas uma questão\Nde processamento de informação,
Dialogue: 0,0:10:38.17,0:10:40.76,Default,,0000,0000,0000,,e continuarmos a melhorar\Nas nossas máquinas,
Dialogue: 0,0:10:40.81,0:10:43.94,Default,,0000,0000,0000,,iremos produzir\Nalguma forma de superinteligência.
Dialogue: 0,0:10:44.42,0:10:48.08,Default,,0000,0000,0000,,Não fazemos ideia\Nquanto tempo iremos demorar
Dialogue: 0,0:10:48.14,0:10:50.93,Default,,0000,0000,0000,,a criar as condições\Npara o fazer em segurança.
Dialogue: 0,0:10:52.20,0:10:53.65,Default,,0000,0000,0000,,Vou repetir.
Dialogue: 0,0:10:53.72,0:10:57.38,Default,,0000,0000,0000,,Não sabemos quanto tempo vamos demorar
Dialogue: 0,0:10:57.44,0:11:00.16,Default,,0000,0000,0000,,para criar as condições\Npara fazê-lo em segurança.
Dialogue: 0,0:11:00.92,0:11:04.38,Default,,0000,0000,0000,,Se ainda não repararam,\N50 anos não é o que era dantes.
Dialogue: 0,0:11:04.54,0:11:06.96,Default,,0000,0000,0000,,Isto são 50 anos em meses.
Dialogue: 0,0:11:07.25,0:11:09.92,Default,,0000,0000,0000,,Isto é o tempo desde que temos o iPhone.
Dialogue: 0,0:11:09.44,0:11:12.40,Default,,0000,0000,0000,,Isto é o tempo em que "Os Simpsons"\Ntêm estado na TV.
Dialogue: 0,0:11:12.68,0:11:15.16,Default,,0000,0000,0000,,50 anos não é assim tanto tempo
Dialogue: 0,0:11:15.21,0:11:18.97,Default,,0000,0000,0000,,para ir de encontro aos maiores desafios\Nque a nossa espécie irá enfrentar.
Dialogue: 0,0:11:19.64,0:11:23.72,Default,,0000,0000,0000,,Mais uma vez, parecemos estar a falhar\Nem ter uma resposta emocional apropriada
Dialogue: 0,0:11:23.77,0:11:26.38,Default,,0000,0000,0000,,para o que acreditamos\Nque está para vir.
Dialogue: 0,0:11:26.51,0:11:30.51,Default,,0000,0000,0000,,O cientista informático Stuart Russell\Ntem uma boa analogia para isto.
Dialogue: 0,0:11:30.63,0:11:35.10,Default,,0000,0000,0000,,Disse: "Imaginem que recebemos\Numa mensagem de uma civilização alienígena,
Dialogue: 0,0:11:35.32,0:11:36.82,Default,,0000,0000,0000,,"que diz:
Dialogue: 0,0:11:37.14,0:11:38.80,Default,,0000,0000,0000,," 'Habitantes da Terra,
Dialogue: 0,0:11:38.84,0:11:41.44,Default,,0000,0000,0000,," vamos chegar ao vosso planeta\Ndentro de 50 anos.
Dialogue: 0,0:11:41.80,0:11:43.38,Default,,0000,0000,0000,," 'Preparem-se'."
Dialogue: 0,0:11:43.63,0:11:47.20,Default,,0000,0000,0000,,Vamos contar os meses\Naté a nave-mãe aterrar?
Dialogue: 0,0:11:47.82,0:11:50.94,Default,,0000,0000,0000,,Sentiríamos mais urgência\Ndo que o habitual.
Dialogue: 0,0:11:52.54,0:11:54.96,Default,,0000,0000,0000,,Outro motivo que nos dão\Npara não nos preocuparmos
Dialogue: 0,0:11:55.13,0:11:57.81,Default,,0000,0000,0000,,é que estas máquinas \Nvão partilhar os nossos valores
Dialogue: 0,0:11:57.85,0:12:00.29,Default,,0000,0000,0000,,pois serão literalmente\Nextensões de nós próprios.
Dialogue: 0,0:12:00.38,0:12:02.35,Default,,0000,0000,0000,,Serão implantadas no nosso cérebro,
Dialogue: 0,0:12:02.41,0:12:04.77,Default,,0000,0000,0000,,e seremos os seus sistemas límbicos.
Dialogue: 0,0:12:05.12,0:12:06.74,Default,,0000,0000,0000,,Parem um momento para considerar
Dialogue: 0,0:12:06.79,0:12:09.74,Default,,0000,0000,0000,,que o caminho mais prudente e seguro,
Dialogue: 0,0:12:09.76,0:12:11.39,Default,,0000,0000,0000,,o caminho recomendado,
Dialogue: 0,0:12:11.43,0:12:14.48,Default,,0000,0000,0000,,é implantar esta tecnologia\Ndiretamente no nosso cérebro.
Dialogue: 0,0:12:14.60,0:12:17.98,Default,,0000,0000,0000,,Isso poderá de facto ser\No caminho mais prudente e seguro,
Dialogue: 0,0:12:18.35,0:12:21.15,Default,,0000,0000,0000,,mas normalmente as questões\Nde segurança de uma tecnologia
Dialogue: 0,0:12:21.19,0:12:24.88,Default,,0000,0000,0000,,devem estar bem trabalhadas\Nantes de serem enfiadas na nossa cabeça.
Dialogue: 0,0:12:24.94,0:12:26.67,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:12:26.95,0:12:32.14,Default,,0000,0000,0000,,O maior problema é que\Nconstruir IA superinteligente, por si só,
Dialogue: 0,0:12:32.16,0:12:33.92,Default,,0000,0000,0000,,parece ser mais fácil
Dialogue: 0,0:12:33.96,0:12:35.95,Default,,0000,0000,0000,,do que construir IA superinteligente
Dialogue: 0,0:12:36.00,0:12:37.94,Default,,0000,0000,0000,,e ter a neurociência completa
Dialogue: 0,0:12:38.00,0:12:40.96,Default,,0000,0000,0000,,que nos permita integrar facilmente\Nas nossas mentes com isso.
Dialogue: 0,0:12:41.23,0:12:44.21,Default,,0000,0000,0000,,Sabendo que as companhias\Ne os governos que fazem este trabalho
Dialogue: 0,0:12:44.25,0:12:47.66,Default,,0000,0000,0000,,provavelmente se consideram \Nnuma corrida contra todos os outros,
Dialogue: 0,0:12:47.73,0:12:50.76,Default,,0000,0000,0000,,sendo que ganhar esta corrida,\Né ganhar o mundo,
Dialogue: 0,0:12:50.96,0:12:53.42,Default,,0000,0000,0000,,desde que não o destruam\Nlogo a seguir,
Dialogue: 0,0:12:53.53,0:12:56.24,Default,,0000,0000,0000,,então é evidente que\No que for mais fácil
Dialogue: 0,0:12:56.32,0:12:58.12,Default,,0000,0000,0000,,será o primeiro a ser feito.
Dialogue: 0,0:12:58.56,0:13:01.25,Default,,0000,0000,0000,,Infelizmente, não tenho\Na solução para este problema,
Dialogue: 0,0:13:01.44,0:13:03.83,Default,,0000,0000,0000,,apenas posso recomendar\Nque pensemos mais nisto.
Dialogue: 0,0:13:03.89,0:13:06.46,Default,,0000,0000,0000,,Acho que precisamos de algo\Ncomo o Projeto Manhattan
Dialogue: 0,0:13:06.48,0:13:08.68,Default,,0000,0000,0000,,no tópico da inteligência artificial.
Dialogue: 0,0:13:08.74,0:13:11.46,Default,,0000,0000,0000,,Não para a construir —acho\Nque o faremos inevitavelmente —
Dialogue: 0,0:13:11.52,0:13:14.62,Default,,0000,0000,0000,,mas para compreender\Ncomo evitar uma corrida ao armamento
Dialogue: 0,0:13:14.66,0:13:18.54,Default,,0000,0000,0000,,e para a construir de forma\Na estar alinhada com os nossos interesses.
Dialogue: 0,0:13:18.16,0:13:20.30,Default,,0000,0000,0000,,Quando falamos na IA superinteligente
Dialogue: 0,0:13:20.32,0:13:22.58,Default,,0000,0000,0000,,que pode alterar-se a si mesma,
Dialogue: 0,0:13:22.62,0:13:24.68,Default,,0000,0000,0000,,parece que só temos uma hipótese
Dialogue: 0,0:13:24.76,0:13:27.30,Default,,0000,0000,0000,,para conseguir\Nas condições iniciais corretas,
Dialogue: 0,0:13:27.38,0:13:29.73,Default,,0000,0000,0000,,e mesmo assim precisaremos de absorver
Dialogue: 0,0:13:29.81,0:13:32.93,Default,,0000,0000,0000,,as consequências económicas e politicas\Npara conseguir tal.
Dialogue: 0,0:13:33.76,0:13:35.97,Default,,0000,0000,0000,,Mas a partir do momento em que admitirmos
Dialogue: 0,0:13:36.21,0:13:40.22,Default,,0000,0000,0000,,que o processamento de informação\Né a fonte de inteligência,
Dialogue: 0,0:13:40.72,0:13:45.63,Default,,0000,0000,0000,,que algum sistema informático apropriado\Né a base de inteligência,
Dialogue: 0,0:13:46.36,0:13:50.45,Default,,0000,0000,0000,,e admitirmos que iremos melhorar\Nestes sistemas de forma contínua,
Dialogue: 0,0:13:51.28,0:13:54.11,Default,,0000,0000,0000,,e admitirmos que o horizonte da cognição
Dialogue: 0,0:13:54.14,0:13:57.35,Default,,0000,0000,0000,,provavelmente ultrapassa\No que conhecemos agora,
Dialogue: 0,0:13:58.12,0:13:59.78,Default,,0000,0000,0000,,então temos de admitir
Dialogue: 0,0:13:59.81,0:14:02.56,Default,,0000,0000,0000,,que estamos no processo\Nde construir uma espécie de deus.
Dialogue: 0,0:14:03.42,0:14:05.79,Default,,0000,0000,0000,,Agora seria uma boa altura\Nde certificarmo-nos
Dialogue: 0,0:14:05.85,0:14:07.88,Default,,0000,0000,0000,,que seja um deus\Ncom quem queremos viver.
Dialogue: 0,0:14:08.12,0:14:09.51,Default,,0000,0000,0000,,Muito obrigado.
Dialogue: 0,0:14:09.68,0:14:12.79,Default,,0000,0000,0000,,(Aplausos)