[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.57,0:00:05.34,Default,,0000,0000,0000,,Eu trabalho com um grupo de matemáticos,\Nfilósofos e informáticos,
Dialogue: 0,0:00:05.34,0:00:09.99,Default,,0000,0000,0000,,e pensamos acerca do futuro \Nda inteligência mecânica,
Dialogue: 0,0:00:09.99,0:00:12.03,Default,,0000,0000,0000,,entre outras coisas.
Dialogue: 0,0:00:12.21,0:00:16.76,Default,,0000,0000,0000,,Algumas pessoas pensam que algumas \Ndestas coisas são como ciência ficção,
Dialogue: 0,0:00:16.76,0:00:19.86,Default,,0000,0000,0000,,muito longe da realidade.
Dialogue: 0,0:00:19.86,0:00:21.33,Default,,0000,0000,0000,,Mas eu gosto de dizer,
Dialogue: 0,0:00:21.33,0:00:24.93,Default,,0000,0000,0000,,olhemos para as condições \Nhumanas modernas.
Dialogue: 0,0:00:24.93,0:00:26.62,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:00:26.62,0:00:29.02,Default,,0000,0000,0000,,Essa é a forma normal de as coisas serem.
Dialogue: 0,0:00:29.02,0:00:31.31,Default,,0000,0000,0000,,Mas se pensarmos nisso,
Dialogue: 0,0:00:31.31,0:00:34.60,Default,,0000,0000,0000,,somos na verdade visitantes \Nrecentes neste planeta,
Dialogue: 0,0:00:34.60,0:00:36.68,Default,,0000,0000,0000,,a espécie humana.
Dialogue: 0,0:00:36.68,0:00:41.43,Default,,0000,0000,0000,,Imaginem, se a Terra tivesse sido \Ncriada há um ano,
Dialogue: 0,0:00:41.43,0:00:44.98,Default,,0000,0000,0000,,a espécie humana, então,\Nteria 10 minutos de vida.
Dialogue: 0,0:00:44.98,0:00:48.15,Default,,0000,0000,0000,,A era da indústria teria começado \Nhá 2 segundos.
Dialogue: 0,0:00:49.28,0:00:51.17,Default,,0000,0000,0000,,Outra forma de olhar para isto \N
Dialogue: 0,0:00:51.17,0:00:54.32,Default,,0000,0000,0000,,é calcular o PIB mundial\Ndos últimos 10 000 anos,
Dialogue: 0,0:00:54.50,0:00:57.53,Default,,0000,0000,0000,,Tive a preocupação de inserir\Nisto num gráfico para vocês verem.
Dialogue: 0,0:00:57.68,0:00:59.30,Default,,0000,0000,0000,,Parece-se com isto.
Dialogue: 0,0:00:59.30,0:01:00.67,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:01:00.67,0:01:02.82,Default,,0000,0000,0000,,É uma forma curiosa \Npara uma situação normal.
Dialogue: 0,0:01:03.18,0:01:05.05,Default,,0000,0000,0000,,Eu não ficaria muito descansado.
Dialogue: 0,0:01:05.05,0:01:07.07,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:01:07.07,0:01:11.84,Default,,0000,0000,0000,,Perguntemos a nós próprios, \Nqual é a causa dessa anomalia?
Dialogue: 0,0:01:11.84,0:01:14.56,Default,,0000,0000,0000,,Algumas pessoas diriam que é a tecnologia.
Dialogue: 0,0:01:14.56,0:01:19.06,Default,,0000,0000,0000,,É verdade, a tecnologia acumulou-se\Ndurante a história da humanidade
Dialogue: 0,0:01:19.06,0:01:23.71,Default,,0000,0000,0000,,e, neste momento, a tecnologia evolui\Nextremamente depressa
Dialogue: 0,0:01:23.71,0:01:25.48,Default,,0000,0000,0000,,— essa é a causa imediata —
Dialogue: 0,0:01:25.48,0:01:28.07,Default,,0000,0000,0000,,é por isso que estamos tão produtivos.
Dialogue: 0,0:01:28.47,0:01:32.13,Default,,0000,0000,0000,,Mas eu gosto de pensar mais além,\Npara a causa fundamental.
Dialogue: 0,0:01:33.11,0:01:36.64,Default,,0000,0000,0000,,Olhem para estes dois senhores \Nmuito distintos:
Dialogue: 0,0:01:36.88,0:01:38.48,Default,,0000,0000,0000,,Temos o Kanzi,
Dialogue: 0,0:01:38.48,0:01:43.12,Default,,0000,0000,0000,,ele dominava 200 símbolos lexicais, \Numa incrível proeza.
Dialogue: 0,0:01:43.12,0:01:46.82,Default,,0000,0000,0000,,E Ed Witten desencadeou a segunda\Nrevolução das supercordas.
Dialogue: 0,0:01:46.82,0:01:49.20,Default,,0000,0000,0000,,Se examinarmos é isto que encontramos:
Dialogue: 0,0:01:49.20,0:01:50.81,Default,,0000,0000,0000,,basicamente a mesma coisa.
Dialogue: 0,0:01:50.81,0:01:52.52,Default,,0000,0000,0000,,Uma é um pouco maior,
Dialogue: 0,0:01:52.52,0:01:55.58,Default,,0000,0000,0000,,talvez tenha alguns truques na maneira\Ncomo está ligado.
Dialogue: 0,0:01:55.58,0:01:59.09,Default,,0000,0000,0000,,Contudo, essas diferenças invisíveis \Nnão podem ser muito complicadas,
Dialogue: 0,0:01:59.09,0:02:03.56,Default,,0000,0000,0000,,porque apenas houve 250 000 gerações
Dialogue: 0,0:02:03.56,0:02:05.58,Default,,0000,0000,0000,,desde o nosso último antepassado comum.
Dialogue: 0,0:02:05.58,0:02:09.20,Default,,0000,0000,0000,,Sabemos que os mecanismos complicados \Nlevam muito tempo a evoluir.
Dialogue: 0,0:02:10.00,0:02:12.50,Default,,0000,0000,0000,,Portanto algumas mudanças mínimas
Dialogue: 0,0:02:12.50,0:02:16.02,Default,,0000,0000,0000,,levam-nos de Kanzi para Witten,
Dialogue: 0,0:02:16.02,0:02:20.11,Default,,0000,0000,0000,,desde ramos de árvores quebrados até\Nmísseis balísticos intercontinentais.
Dialogue: 0,0:02:20.84,0:02:24.77,Default,,0000,0000,0000,,Assim, parece óbvio que tudo aquilo \Nque tenhamos realizado,
Dialogue: 0,0:02:24.77,0:02:26.57,Default,,0000,0000,0000,,e tudo aquilo que nos preocupa,
Dialogue: 0,0:02:26.57,0:02:31.38,Default,,0000,0000,0000,,dependa crucialmente de algumas mudanças\Nmínimas que construíram a mente humana.
Dialogue: 0,0:02:32.65,0:02:36.31,Default,,0000,0000,0000,,E o corolário, claro, é que\Nquaisquer mudanças adicionais
Dialogue: 0,0:02:36.31,0:02:39.79,Default,,0000,0000,0000,,que poderiam mudar significativamente\No substrato de pensar
Dialogue: 0,0:02:39.79,0:02:42.99,Default,,0000,0000,0000,,poderiam ter enormes consequências.
Dialogue: 0,0:02:44.32,0:02:47.23,Default,,0000,0000,0000,,Alguns dos meus colegas pensam\Nque estamos à beira
Dialogue: 0,0:02:47.23,0:02:51.13,Default,,0000,0000,0000,,de algo que poderá causar uma mudança\Ndrástica nesse substrato,
Dialogue: 0,0:02:51.13,0:02:54.35,Default,,0000,0000,0000,,e isso é a super inteligência mecânica.
Dialogue: 0,0:02:54.35,0:02:59.09,Default,,0000,0000,0000,,A inteligência artificial costumava \Ncingir-se a ordens numa caixa.
Dialogue: 0,0:02:59.09,0:03:00.95,Default,,0000,0000,0000,,Tínhamos programadores humanos
Dialogue: 0,0:03:00.95,0:03:04.10,Default,,0000,0000,0000,,que construíam objectos inteligentes\Ncuidadosamente.
Dialogue: 0,0:03:04.69,0:03:06.77,Default,,0000,0000,0000,,Construíamos esses sistemas \Nespecializados,
Dialogue: 0,0:03:06.77,0:03:08.30,Default,,0000,0000,0000,,e eram úteis para alguns fins,
Dialogue: 0,0:03:08.30,0:03:10.98,Default,,0000,0000,0000,,mas eram muito frágeis,\Nnão podíamos aumentá-los.
Dialogue: 0,0:03:10.98,0:03:14.41,Default,,0000,0000,0000,,Basicamente, apenas obtínhamos \Naquilo que lá colocávamos inicialmente.
Dialogue: 0,0:03:14.41,0:03:15.72,Default,,0000,0000,0000,,Mas a partir daí,
Dialogue: 0,0:03:15.72,0:03:19.23,Default,,0000,0000,0000,,ocorreu uma mudança de paradigma\Nno campo da inteligência artificial.
Dialogue: 0,0:03:19.23,0:03:22.03,Default,,0000,0000,0000,,Hoje, a acção anda à volta da\Naprendizagem da máquina.
Dialogue: 0,0:03:22.76,0:03:28.74,Default,,0000,0000,0000,,Portanto em vez de construir \Nrepresentações e elementos do conhecimento
Dialogue: 0,0:03:28.74,0:03:34.06,Default,,0000,0000,0000,,criamos algoritmos que aprendem,\Nmuitas vezes a partir de dados em bruto.
Dialogue: 0,0:03:34.90,0:03:38.04,Default,,0000,0000,0000,,Basicamente a mesma coisa\Nque a criança faz.
Dialogue: 0,0:03:39.06,0:03:43.27,Default,,0000,0000,0000,,O resultado é uma inteligência artificial\Nque não se limita a um domínio
Dialogue: 0,0:03:43.27,0:03:47.90,Default,,0000,0000,0000,,— o mesmo sistema que pode aprender a\Ntraduzir várias línguas,
Dialogue: 0,0:03:47.90,0:03:53.34,Default,,0000,0000,0000,,ou aprender a jogar qualquer tipo \Nde jogo de computador na consola Atari.
Dialogue: 0,0:03:53.60,0:03:55.12,Default,,0000,0000,0000,,Agora, é claro,
Dialogue: 0,0:03:55.12,0:03:59.12,Default,,0000,0000,0000,,a inteligência artificial ainda está muito\Nlonge de ter a mesma capacidade poderosa
Dialogue: 0,0:03:59.12,0:04:02.22,Default,,0000,0000,0000,,e transversal para aprender\Ne planificar tal como um ser humano.
Dialogue: 0,0:04:02.22,0:04:04.46,Default,,0000,0000,0000,,O córtex ainda tem alguns\Ntruques algorítmicos
Dialogue: 0,0:04:04.46,0:04:06.82,Default,,0000,0000,0000,,que ainda não sabemos \Ncomo ligar nas máquinas.
Dialogue: 0,0:04:07.89,0:04:09.78,Default,,0000,0000,0000,,Portanto a questão é,
Dialogue: 0,0:04:09.78,0:04:13.28,Default,,0000,0000,0000,,a que distância estamos \Nde poder ligar esses truques?
Dialogue: 0,0:04:14.24,0:04:15.70,Default,,0000,0000,0000,,Há alguns anos,
Dialogue: 0,0:04:15.70,0:04:18.41,Default,,0000,0000,0000,,fizemos um inquérito a alguns dos\Nespecialistas em I.A.,
Dialogue: 0,0:04:18.41,0:04:21.58,Default,,0000,0000,0000,,para ver o que eles pensam, e uma das\Nquestões que colocámos foi:
Dialogue: 0,0:04:21.58,0:04:24.79,Default,,0000,0000,0000,,"Por volta de que ano é que pensa que\Natingiremos a I.A.
Dialogue: 0,0:04:24.79,0:04:28.28,Default,,0000,0000,0000,,ao nível humano,\Ncom 50% de probabilidade?"
Dialogue: 0,0:04:28.78,0:04:32.97,Default,,0000,0000,0000,,Definimos o nível humano \Ncomo a capacidade de realizar
Dialogue: 0,0:04:32.97,0:04:35.84,Default,,0000,0000,0000,,praticamente qualquer trabalho.\Npelo menos como adulto,
Dialogue: 0,0:04:35.84,0:04:39.84,Default,,0000,0000,0000,,a nível humano real, não apenas\Ndentro de um domínio limitado.
Dialogue: 0,0:04:39.84,0:04:43.49,Default,,0000,0000,0000,,A resposta média foi 2040 ou 2050,
Dialogue: 0,0:04:43.49,0:04:46.30,Default,,0000,0000,0000,,consoante o grupo de especialistas \Na que perguntámos.
Dialogue: 0,0:04:47.43,0:04:50.34,Default,,0000,0000,0000,,Poderá acontecer muito mais tarde, \Nou mais cedo,
Dialogue: 0,0:04:50.34,0:04:52.42,Default,,0000,0000,0000,,a verdade é que ninguém sabe.
Dialogue: 0,0:04:53.26,0:04:56.32,Default,,0000,0000,0000,,O que nós sabemos \Né que o limite fundamental
Dialogue: 0,0:04:56.32,0:04:58.96,Default,,0000,0000,0000,,para processar informação\Nno substrato duma máquina,
Dialogue: 0,0:04:58.96,0:05:02.54,Default,,0000,0000,0000,,é muito superior ao limite\Ndos tecidos biológicos.
Dialogue: 0,0:05:03.24,0:05:05.62,Default,,0000,0000,0000,,Isto leva-nos à física.
Dialogue: 0,0:05:05.62,0:05:10.34,Default,,0000,0000,0000,,Um neurónio biológico dispara, talvez,\Na 200 hertz, 200 vezes por segundo.
Dialogue: 0,0:05:10.34,0:05:13.69,Default,,0000,0000,0000,,Mas até um transístor moderno \Nopera em gigahertz.
Dialogue: 0,0:05:13.93,0:05:19.09,Default,,0000,0000,0000,,Os neurónios propagam lentamente\Nem axónios, a 100 metros por segundo.
Dialogue: 0,0:05:19.09,0:05:22.43,Default,,0000,0000,0000,,Mas em computadores, os sinais podem\Ndeslocar-se à velocidade da luz.
Dialogue: 0,0:05:23.08,0:05:24.95,Default,,0000,0000,0000,,Também há limitações de tamanho.
Dialogue: 0,0:05:24.95,0:05:27.98,Default,,0000,0000,0000,,O cérebro humano tem que\Ncaber dentro do crânio,
Dialogue: 0,0:05:27.98,0:05:32.74,Default,,0000,0000,0000,,mas um computador pode ser do tamanho \Nde um armazém ou ainda maior.
Dialogue: 0,0:05:32.74,0:05:38.34,Default,,0000,0000,0000,,Por isso o potencial para a super\Ninteligência permanece latente na matéria,
Dialogue: 0,0:05:38.34,0:05:44.05,Default,,0000,0000,0000,,tal como a potência do átomo permaneceu\Nlatente na história da humanidade,
Dialogue: 0,0:05:44.05,0:05:47.17,Default,,0000,0000,0000,,pacientemente à espera até 1945.
Dialogue: 0,0:05:48.45,0:05:49.70,Default,,0000,0000,0000,,Neste século,
Dialogue: 0,0:05:49.70,0:05:53.82,Default,,0000,0000,0000,,os cientistas talvez aprendam a despertar\No poder da inteligência artificial.
Dialogue: 0,0:05:53.82,0:05:57.83,Default,,0000,0000,0000,,E penso que poderemos então assistir\Na uma explosão intelectual.
Dialogue: 0,0:05:58.41,0:06:02.36,Default,,0000,0000,0000,,A maioria das pessoas, quando pensam\Nacerca do que é a esperteza e a estupidez,
Dialogue: 0,0:06:02.36,0:06:05.39,Default,,0000,0000,0000,,têm em mente uma imagem \Ncomo esta, penso eu.
Dialogue: 0,0:06:05.39,0:06:07.98,Default,,0000,0000,0000,,Numa ponta temos o idiota da aldeia,
Dialogue: 0,0:06:07.98,0:06:10.47,Default,,0000,0000,0000,,e noutra ponta muito distante
Dialogue: 0,0:06:10.47,0:06:14.73,Default,,0000,0000,0000,,temos Ed Witten, ou Albert Einstein,\Nou qualquer um dos vossos gurus favoritos.
Dialogue: 0,0:06:15.22,0:06:19.06,Default,,0000,0000,0000,,Mas penso que, do ponto de vista\Nda inteligência artificial,
Dialogue: 0,0:06:19.06,0:06:22.74,Default,,0000,0000,0000,,a imagem verdadeira é provavelmente\Nmais parecida com isto.
Dialogue: 0,0:06:23.26,0:06:26.76,Default,,0000,0000,0000,,Começa tudo neste ponto aqui,\Nna inteligência zero,
Dialogue: 0,0:06:26.76,0:06:29.65,Default,,0000,0000,0000,,e depois, após muitos anos \Nde trabalho árduo,
Dialogue: 0,0:06:29.65,0:06:33.72,Default,,0000,0000,0000,,talvez cheguemos à inteligência\Nartificial ao nível de um rato,
Dialogue: 0,0:06:33.72,0:06:36.23,Default,,0000,0000,0000,,uma coisa que possa navegar \Nem ambientes obstruídos
Dialogue: 0,0:06:36.23,0:06:37.91,Default,,0000,0000,0000,,tal como um rato pode.
Dialogue: 0,0:06:37.91,0:06:42.22,Default,,0000,0000,0000,,E depois, após muitos mais anos\Nde trabalho árduo, muitos investimentos,
Dialogue: 0,0:06:42.22,0:06:46.86,Default,,0000,0000,0000,,talvez cheguemos à inteligência \Nartificial a nível de um chimpanzé.
Dialogue: 0,0:06:46.86,0:06:50.07,Default,,0000,0000,0000,,E depois, após ainda mais anos \Nde trabalho ainda mais duro,
Dialogue: 0,0:06:50.07,0:06:53.17,Default,,0000,0000,0000,,chegamos à inteligência artificial \Na nível do idiota da aldeia.
Dialogue: 0,0:06:53.17,0:06:56.26,Default,,0000,0000,0000,,E alguns momentos depois, \Nultrapassamos Ed Witten.
Dialogue: 0,0:06:56.26,0:06:59.22,Default,,0000,0000,0000,,O comboio não pára na estação Humanville.
Dialogue: 0,0:06:59.22,0:07:02.25,Default,,0000,0000,0000,,É mais provável que a ultrapasse.
Dialogue: 0,0:07:02.25,0:07:04.54,Default,,0000,0000,0000,,Isto tem profundas implicações,
Dialogue: 0,0:07:04.54,0:07:07.69,Default,,0000,0000,0000,,particularmente no que toca\Nà questão do poder.
Dialogue: 0,0:07:08.10,0:07:10.05,Default,,0000,0000,0000,,Por exemplo, os chimpanzés são fortes
Dialogue: 0,0:07:10.05,0:07:14.60,Default,,0000,0000,0000,,— em proporção ao peso, um chimpanzé\Né duas vezes mais forte que um ser humano.
Dialogue: 0,0:07:15.41,0:07:20.12,Default,,0000,0000,0000,,No entanto, o destino de Kanzi e dos seus\Ncamaradas depende mais
Dialogue: 0,0:07:20.12,0:07:23.97,Default,,0000,0000,0000,,daquilo que nós humanos fazemos \Ndo que o que os chimpanzés fazem.
Dialogue: 0,0:07:25.61,0:07:27.68,Default,,0000,0000,0000,,Uma vez atingida a super inteligência,
Dialogue: 0,0:07:27.68,0:07:31.25,Default,,0000,0000,0000,,o destino da humanidade pode depender\Ndaquilo que a super inteligência faz.
Dialogue: 0,0:07:32.45,0:07:33.80,Default,,0000,0000,0000,,Pensem nisto:
Dialogue: 0,0:07:33.80,0:07:38.55,Default,,0000,0000,0000,,A inteligência mecânica é a última invenção\Nque a humanidade precisa de fazer.
Dialogue: 0,0:07:38.55,0:07:41.52,Default,,0000,0000,0000,,As máquinas tornar-se-ão melhores \Na inventar do que nós,
Dialogue: 0,0:07:41.52,0:07:44.06,Default,,0000,0000,0000,,e farão isso em tempos digitais.
Dialogue: 0,0:07:44.34,0:07:48.97,Default,,0000,0000,0000,,O que isto significa é basicamente uma\Nprevisão do futuro distante.
Dialogue: 0,0:07:49.16,0:07:52.76,Default,,0000,0000,0000,,Pensem em todas as tecnologias absurdas\Nque alguma vez podem ter imaginado
Dialogue: 0,0:07:52.76,0:07:55.41,Default,,0000,0000,0000,,que os humanos pudessem ter\Ndesenvolvido com o tempo:
Dialogue: 0,0:07:55.41,0:07:58.58,Default,,0000,0000,0000,,curas para o envelhecimento,\Ncolonização do espaço,
Dialogue: 0,0:07:58.58,0:08:02.31,Default,,0000,0000,0000,,nanorobôs auto-replicadores ou transferir\Nas nossas mentes para computadores,
Dialogue: 0,0:08:02.31,0:08:04.65,Default,,0000,0000,0000,,todos os tipos de objectos \Nda ciência ficção
Dialogue: 0,0:08:04.65,0:08:07.34,Default,,0000,0000,0000,,que, no entanto, são consistentes\Ncom as leis da física.
Dialogue: 0,0:08:07.34,0:08:11.42,Default,,0000,0000,0000,,Toda esta super inteligência poderia \Nser desenvolvida, e rapidamente.
Dialogue: 0,0:08:12.45,0:08:16.01,Default,,0000,0000,0000,,Uma super inteligência com tanta\Nmaturidade tecnológica
Dialogue: 0,0:08:16.01,0:08:18.19,Default,,0000,0000,0000,,poderia ser extremamente poderosa
Dialogue: 0,0:08:18.19,0:08:22.73,Default,,0000,0000,0000,,e, pelo menos nalguns cenários,\Npoderia conseguir aquilo que quer.
Dialogue: 0,0:08:23.37,0:08:26.86,Default,,0000,0000,0000,,Teríamos então um futuro construído
Dialogue: 0,0:08:26.86,0:08:29.62,Default,,0000,0000,0000,,segundo as preferências \Ndessa inteligência artificial.
Dialogue: 0,0:08:29.86,0:08:33.60,Default,,0000,0000,0000,,Agora uma boa pergunta é,\Nquais são essas preferências?
Dialogue: 0,0:08:34.24,0:08:35.95,Default,,0000,0000,0000,,Aqui torna-se mais complicado.
Dialogue: 0,0:08:35.95,0:08:37.85,Default,,0000,0000,0000,,Para fazer qualquer progresso com isto,
Dialogue: 0,0:08:37.85,0:08:40.72,Default,,0000,0000,0000,,temos de, primeiramente,\Nevitar antropomorfizar.
Dialogue: 0,0:08:41.93,0:08:45.56,Default,,0000,0000,0000,,E isto é irónico porque \Ntodos os artigos de jornais
Dialogue: 0,0:08:45.56,0:08:48.81,Default,,0000,0000,0000,,acerca do futuro da inteligência\Nartificial têm uma imagem como esta.
Dialogue: 0,0:08:50.28,0:08:54.41,Default,,0000,0000,0000,,Então penso que aquilo que temos de fazer\Né imaginar a questão mais abstractamente,
Dialogue: 0,0:08:54.41,0:08:57.20,Default,,0000,0000,0000,,não em termos de cenários\Nbrilhantes de Hollywood.
Dialogue: 0,0:08:57.20,0:09:00.82,Default,,0000,0000,0000,,Temos de pensar na inteligência como\Num processo de optimização,
Dialogue: 0,0:09:00.82,0:09:05.87,Default,,0000,0000,0000,,um processo que guia o futuro para \Num conjunto particular de configurações.
Dialogue: 0,0:09:06.47,0:09:10.09,Default,,0000,0000,0000,,A super inteligência é um processo de\Noptimização muito forte.
Dialogue: 0,0:09:10.09,0:09:14.10,Default,,0000,0000,0000,,É extremamente bom a utilizar os meios\Ndisponíveis para atingir um estado
Dialogue: 0,0:09:14.10,0:09:16.27,Default,,0000,0000,0000,,no qual o seu objetivo seja atingido.
Dialogue: 0,0:09:16.45,0:09:19.12,Default,,0000,0000,0000,,Isto significa que não há \Nligação necessária
Dialogue: 0,0:09:19.12,0:09:21.85,Default,,0000,0000,0000,,entre ser muito inteligente neste sentido,
Dialogue: 0,0:09:21.85,0:09:26.52,Default,,0000,0000,0000,,e ter um objectivo que nós humanos\Nacharíamos útil ou proveitoso.
Dialogue: 0,0:09:27.19,0:09:31.44,Default,,0000,0000,0000,,Suponham que damos o objectivo de criar\Nsorrisos humanos à inteligência artificial.
Dialogue: 0,0:09:31.44,0:09:34.10,Default,,0000,0000,0000,,Quando a I.A. é fraca,\Nrealiza acções cómicas ou úteis
Dialogue: 0,0:09:34.10,0:09:36.31,Default,,0000,0000,0000,,que levam o utilizador a sorrir.
Dialogue: 0,0:09:36.31,0:09:39.24,Default,,0000,0000,0000,,Quando a inteligência artificial \Nse torna super inteligente,
Dialogue: 0,0:09:39.24,0:09:42.55,Default,,0000,0000,0000,,apercebe-se que existe uma melhor forma \Nde atingir esse objectivo:
Dialogue: 0,0:09:42.55,0:09:44.48,Default,,0000,0000,0000,,controlar o mundo
Dialogue: 0,0:09:44.48,0:09:47.64,Default,,0000,0000,0000,,e inserir eléctrodos \Nnos músculos faciais dos humanos
Dialogue: 0,0:09:47.64,0:09:50.48,Default,,0000,0000,0000,,para causar sorrisos \Nconstantes e radiantes.
Dialogue: 0,0:09:50.48,0:09:51.61,Default,,0000,0000,0000,,Outro exemplo:
Dialogue: 0,0:09:51.61,0:09:54.100,Default,,0000,0000,0000,,suponham que desafiamos a I.A.\Na resolver um problema matemático difícil.
Dialogue: 0,0:09:54.100,0:09:56.93,Default,,0000,0000,0000,,Quando a I.A. se torna\Nsuper inteligente,
Dialogue: 0,0:09:56.93,0:10:01.10,Default,,0000,0000,0000,,percebe que a forma mais eficiente de \Nobter a solução para este problema
Dialogue: 0,0:10:01.10,0:10:04.04,Default,,0000,0000,0000,,é através da transformação do planeta\Nnum computador gigante,
Dialogue: 0,0:10:04.04,0:10:06.28,Default,,0000,0000,0000,,para aumentar a sua capacidade de pensar.
Dialogue: 0,0:10:06.28,0:10:09.04,Default,,0000,0000,0000,,E reparem que isto dá uma razão\Ninstrumental à I.A.
Dialogue: 0,0:10:09.04,0:10:11.44,Default,,0000,0000,0000,,para nos fazer coisas \Nque possamos não aprovar.
Dialogue: 0,0:10:11.44,0:10:13.78,Default,,0000,0000,0000,,Neste modelo, os seres humanos \Nsão uma ameaça,
Dialogue: 0,0:10:13.78,0:10:16.74,Default,,0000,0000,0000,,poderíamos impedir a resolução \Ndeste problema matemático.
Dialogue: 0,0:10:16.88,0:10:20.70,Default,,0000,0000,0000,,Claro, as coisas não vão dar erradas \Nnessas formas particulares;
Dialogue: 0,0:10:20.70,0:10:22.45,Default,,0000,0000,0000,,estes são exemplos caricaturados.
Dialogue: 0,0:10:22.45,0:10:24.50,Default,,0000,0000,0000,,Mas este ponto geral é importante:
Dialogue: 0,0:10:24.50,0:10:27.27,Default,,0000,0000,0000,,se criarem um processo de optimização\Nmuito potente
Dialogue: 0,0:10:27.27,0:10:29.50,Default,,0000,0000,0000,,para maximizar o objectivo x,
Dialogue: 0,0:10:29.50,0:10:31.78,Default,,0000,0000,0000,,é melhor assegurarem-se \Nque a definição de x
Dialogue: 0,0:10:31.78,0:10:34.24,Default,,0000,0000,0000,,incorpora tudo aquilo que vos interessa.
Dialogue: 0,0:10:34.84,0:10:39.22,Default,,0000,0000,0000,,Esta é uma lição que também \Né ensinada em muitos mitos.
Dialogue: 0,0:10:39.22,0:10:44.52,Default,,0000,0000,0000,,O Rei Midas deseja que tudo aquilo\Nem que ele toca se torne ouro.
Dialogue: 0,0:10:44.52,0:10:47.38,Default,,0000,0000,0000,,Toca na filha dele, transforma-a em ouro.
Dialogue: 0,0:10:47.38,0:10:49.93,Default,,0000,0000,0000,,Toca na comida dele, esta torna-se ouro.
Dialogue: 0,0:10:49.93,0:10:52.52,Default,,0000,0000,0000,,Isto poderia tornar-se \Nparticularmente relevante,
Dialogue: 0,0:10:52.52,0:10:54.59,Default,,0000,0000,0000,,não apenas como metáfora para a ganância,
Dialogue: 0,0:10:54.59,0:10:56.74,Default,,0000,0000,0000,,mas como uma ilustração\Ndaquilo que acontece
Dialogue: 0,0:10:56.74,0:10:59.32,Default,,0000,0000,0000,,se criarem um processo \Nde optimização poderoso
Dialogue: 0,0:10:59.32,0:11:03.32,Default,,0000,0000,0000,,e lhe derem objectivos pouco específicos.
Dialogue: 0,0:11:04.44,0:11:09.30,Default,,0000,0000,0000,,Podem dizer, se um computador começar a\Nprender eléctrodos nas caras das pessoas,
Dialogue: 0,0:11:09.30,0:11:11.56,Default,,0000,0000,0000,,basta desligá-los.
Dialogue: 0,0:11:12.56,0:11:17.90,Default,,0000,0000,0000,,A) isso não é assim tão fácil de fazer\Nse nos tornarmos dependentes do sistema
Dialogue: 0,0:11:17.90,0:11:20.63,Default,,0000,0000,0000,,— por exemplo, onde está \No interruptor da Internet?
Dialogue: 0,0:11:21.09,0:11:24.27,Default,,0000,0000,0000,,B) porque é que os chimpanzés \Nou os neandertais
Dialogue: 0,0:11:24.27,0:11:27.30,Default,,0000,0000,0000,,não desligaram\No interruptor para a humanidade?
Dialogue: 0,0:11:27.30,0:11:29.96,Default,,0000,0000,0000,,Eles de certeza que tinham motivos.
Dialogue: 0,0:11:29.96,0:11:32.76,Default,,0000,0000,0000,,Temos um interruptor aqui, por exemplo.
Dialogue: 0,0:11:32.90,0:11:34.31,Default,,0000,0000,0000,,(Sufocação)
Dialogue: 0,0:11:34.58,0:11:37.24,Default,,0000,0000,0000,,A razão é que somos \Num adversário inteligente;
Dialogue: 0,0:11:37.24,0:11:39.97,Default,,0000,0000,0000,,podemos prever ameaças \Ne fazer planos para evitá-las.
Dialogue: 0,0:11:39.97,0:11:42.47,Default,,0000,0000,0000,,Mas isso também consegue\Num agente super inteligente,
Dialogue: 0,0:11:42.47,0:11:45.03,Default,,0000,0000,0000,,e seria muito melhor nisso do que nós.
Dialogue: 0,0:11:45.72,0:11:52.91,Default,,0000,0000,0000,,A questão é, não devemos ser confiantes \Ne pensar que temos tudo sob controlo.
Dialogue: 0,0:11:52.91,0:11:55.78,Default,,0000,0000,0000,,Podíamos tentar fazer o nosso trabalho\Num pouco mais fácil,
Dialogue: 0,0:11:55.78,0:11:57.95,Default,,0000,0000,0000,,pondo a inteligência artificial numa caixa,
Dialogue: 0,0:11:57.95,0:11:59.85,Default,,0000,0000,0000,,como um "software" de ambiente seguro,
Dialogue: 0,0:11:59.85,0:12:02.77,Default,,0000,0000,0000,,uma simulação da realidade virtual \Nda qual não possa escapar.
Dialogue: 0,0:12:02.77,0:12:06.91,Default,,0000,0000,0000,,Mas quanta certeza podemos ter \Nque a I.A. não encontraria um buraco.
Dialogue: 0,0:12:06.91,0:12:10.08,Default,,0000,0000,0000,,Dado que os "hackers" humanos\Nestão sempre a encontrar buracos,
Dialogue: 0,0:12:10.08,0:12:13.12,Default,,0000,0000,0000,,eu diria, provavelmente \Nnão muito confiantes.
Dialogue: 0,0:12:14.24,0:12:18.78,Default,,0000,0000,0000,,Então desligamos o cabo da Ethernet \Npara criar uma caixa de ar,
Dialogue: 0,0:12:18.78,0:12:21.45,Default,,0000,0000,0000,,mas mais uma vez, como meros "hackers"
Dialogue: 0,0:12:21.45,0:12:24.83,Default,,0000,0000,0000,,que transgridem caixas de ar \Nutilizando engenharia social.
Dialogue: 0,0:12:24.83,0:12:26.53,Default,,0000,0000,0000,,Neste momento em que falo,
Dialogue: 0,0:12:26.53,0:12:28.73,Default,,0000,0000,0000,,tenho a certeza que há \Num empregado, algures.
Dialogue: 0,0:12:28.73,0:12:31.83,Default,,0000,0000,0000,,a quem alguém que diz \Nser do departamento de informática
Dialogue: 0,0:12:31.83,0:12:34.57,Default,,0000,0000,0000,,está a pedir os dados \Nde identificação e "password".
Dialogue: 0,0:12:34.81,0:12:37.02,Default,,0000,0000,0000,,Também são possíveis \Ncenários mais criativos.
Dialogue: 0,0:12:37.02,0:12:38.79,Default,,0000,0000,0000,,Por exemplo, uma I.A. pode imaginar
Dialogue: 0,0:12:38.79,0:12:41.55,Default,,0000,0000,0000,,agitar eléctrodos nos circuitos internos
Dialogue: 0,0:12:41.55,0:12:44.75,Default,,0000,0000,0000,,para criar ondas de rádio \Nque pode utilizar para comunicar.
Dialogue: 0,0:12:45.01,0:12:47.30,Default,,0000,0000,0000,,Ou talvez pudesse fingir uma avaria
Dialogue: 0,0:12:47.30,0:12:51.06,Default,,0000,0000,0000,,e depois, quando os programadores a abrirem\Npara ver o que se passou de errado,
Dialogue: 0,0:12:51.06,0:12:52.87,Default,,0000,0000,0000,,olham para o código fonte — Bam! —
Dialogue: 0,0:12:52.87,0:12:55.31,Default,,0000,0000,0000,,a manipulação toma lugar.
Dialogue: 0,0:12:55.31,0:12:58.74,Default,,0000,0000,0000,,Ou poderia emitir um rascunho \Npara uma tecnologia genial
Dialogue: 0,0:12:58.74,0:13:00.32,Default,,0000,0000,0000,,e, quando a implementamos,
Dialogue: 0,0:13:00.32,0:13:04.54,Default,,0000,0000,0000,,tem alguns efeitos secundários \Nque a inteligência artificial planeou.
Dialogue: 0,0:13:05.15,0:13:08.11,Default,,0000,0000,0000,,A questão aqui é que não deveríamos\Nconfiar na nossa capacidade
Dialogue: 0,0:13:08.11,0:13:11.81,Default,,0000,0000,0000,,em manter um génio super inteligente\Nfechado na sua garrafa para sempre.
Dialogue: 0,0:13:11.81,0:13:14.06,Default,,0000,0000,0000,,Mais cedo ou mais tarde ele vai sair.
Dialogue: 0,0:13:15.03,0:13:18.14,Default,,0000,0000,0000,,Acredito que a resposta seja encontrar
Dialogue: 0,0:13:18.14,0:13:23.16,Default,,0000,0000,0000,,uma forma de criar uma inteligência\Nartificial que, mesmo que escape,
Dialogue: 0,0:13:23.16,0:13:26.44,Default,,0000,0000,0000,,ainda se mantenha segura porque está\Nfundamentalmente do nosso lado
Dialogue: 0,0:13:26.44,0:13:28.34,Default,,0000,0000,0000,,porque partilha os nossos valores.
Dialogue: 0,0:13:28.34,0:13:31.55,Default,,0000,0000,0000,,Não vejo outra forma \Npara este problema complexo.
Dialogue: 0,0:13:32.56,0:13:36.39,Default,,0000,0000,0000,,Eu sinto-me optimista \Nquanto à resolução deste problema.
Dialogue: 0,0:13:36.39,0:13:40.29,Default,,0000,0000,0000,,Não teríamos de escrever uma longa lista\Ncom tudo aquilo que nos é importante,
Dialogue: 0,0:13:40.29,0:13:43.94,Default,,0000,0000,0000,,ou ainda pior, enunciá-la numa\Nlinguagem de computador
Dialogue: 0,0:13:43.94,0:13:45.39,Default,,0000,0000,0000,,como C++ ou Python,
Dialogue: 0,0:13:45.39,0:13:48.16,Default,,0000,0000,0000,,o que seria uma tarefa sem esperança.
Dialogue: 0,0:13:48.16,0:13:52.46,Default,,0000,0000,0000,,Em vez disso, criaríamos uma inteligência\Nartificial que utiliza a sua inteligência
Dialogue: 0,0:13:52.46,0:13:55.23,Default,,0000,0000,0000,,para aprender o que nós valorizamos.
Dialogue: 0,0:13:55.23,0:14:00.51,Default,,0000,0000,0000,,O seu sistema de motivação seria construído\Nde tal forma que fosse motivado
Dialogue: 0,0:14:00.51,0:14:05.74,Default,,0000,0000,0000,,pela busca de valores ou de acções,\Nprevendo que iríamos aprová-las.
Dialogue: 0,0:14:06.34,0:14:09.43,Default,,0000,0000,0000,,Iríamos então elevar a sua inteligência\No mais possível
Dialogue: 0,0:14:09.43,0:14:12.12,Default,,0000,0000,0000,,para resolver o problema de \Ncarregamento de valores.
Dialogue: 0,0:14:12.73,0:14:14.24,Default,,0000,0000,0000,,Isto pode acontecer,
Dialogue: 0,0:14:14.24,0:14:17.84,Default,,0000,0000,0000,,e o resultado poderia ser muito\Nbom para a Humanidade.
Dialogue: 0,0:14:17.84,0:14:21.02,Default,,0000,0000,0000,,Mas não acontece sozinho.
Dialogue: 0,0:14:21.79,0:14:24.79,Default,,0000,0000,0000,,As condições iniciais para a \Nexplosão da inteligência
Dialogue: 0,0:14:24.79,0:14:27.65,Default,,0000,0000,0000,,podem precisar de ser definidas\Nda forma correta
Dialogue: 0,0:14:27.65,0:14:30.36,Default,,0000,0000,0000,,se queremos ter uma detonação controlada.
Dialogue: 0,0:14:31.18,0:14:33.80,Default,,0000,0000,0000,,Os valores da I.A.\Ntêm de corresponder aos nossos,
Dialogue: 0,0:14:33.80,0:14:35.70,Default,,0000,0000,0000,,não apenas num contexto familiar,
Dialogue: 0,0:14:35.70,0:14:38.39,Default,,0000,0000,0000,,onde podemos ver com facilidade\Ncomo a I.A. se comporta,
Dialogue: 0,0:14:38.39,0:14:41.23,Default,,0000,0000,0000,,mas também em todos os contextos \Nque a I.A. possa encontrar
Dialogue: 0,0:14:41.23,0:14:42.79,Default,,0000,0000,0000,,no futuro indefinido.
Dialogue: 0,0:14:42.79,0:14:47.53,Default,,0000,0000,0000,,E há também algumas questões esotéricas\Nque teriam de ser resolvidas, que são:
Dialogue: 0,0:14:47.53,0:14:49.62,Default,,0000,0000,0000,,os detalhes exactos da sua\Nteoria decisiva,
Dialogue: 0,0:14:49.62,0:14:52.48,Default,,0000,0000,0000,,como lidar com a incerteza lógica \Ne assim por diante.
Dialogue: 0,0:14:53.33,0:14:56.29,Default,,0000,0000,0000,,Os problemas que têm de ser\Nresolvidos tornam este trabalho
Dialogue: 0,0:14:56.29,0:14:57.54,Default,,0000,0000,0000,,um pouco difícil
Dialogue: 0,0:14:57.54,0:15:01.06,Default,,0000,0000,0000,,— não tão difícil como fazer uma\Ninteligência artificial super inteligente
Dialogue: 0,0:15:01.06,0:15:03.79,Default,,0000,0000,0000,,mas bastante difícil.
Dialogue: 0,0:15:03.79,0:15:05.49,Default,,0000,0000,0000,,A preocupação é esta:
Dialogue: 0,0:15:05.49,0:15:10.17,Default,,0000,0000,0000,,Criar uma inteligência artificial super\Ninteligente é um grande desafio.
Dialogue: 0,0:15:10.17,0:15:12.72,Default,,0000,0000,0000,,Fazer uma inteligência artificial\Nque seja segura
Dialogue: 0,0:15:12.72,0:15:15.47,Default,,0000,0000,0000,,envolve desafios adicionais \Npara além deste.
Dialogue: 0,0:15:16.22,0:15:19.70,Default,,0000,0000,0000,,O risco é que, se alguém descobre uma\Nforma de piratear o primeiro desafio
Dialogue: 0,0:15:19.70,0:15:22.70,Default,,0000,0000,0000,,sem ter pirateado o desafio adicional
Dialogue: 0,0:15:22.70,0:15:24.86,Default,,0000,0000,0000,,de assegurar a segurança perfeita.
Dialogue: 0,0:15:25.38,0:15:28.71,Default,,0000,0000,0000,,Por isso eu penso que deveríamos \Ntrabalhar numa solução
Dialogue: 0,0:15:28.71,0:15:31.53,Default,,0000,0000,0000,,para controlar os problemas\Ncom antecedência,
Dialogue: 0,0:15:31.53,0:15:34.19,Default,,0000,0000,0000,,para que o tenhamos disponível \Npara quando for preciso.
Dialogue: 0,0:15:34.77,0:15:38.28,Default,,0000,0000,0000,,Pode ser que não consigamos resolver \No problema de controlo por inteiro
Dialogue: 0,0:15:38.28,0:15:41.30,Default,,0000,0000,0000,,porque talvez apenas se possam\Ncolocar alguns elementos
Dialogue: 0,0:15:41.30,0:15:45.30,Default,,0000,0000,0000,,uma vez que saibamos os detalhes da\Narquitectura onde vai ser implementado.
Dialogue: 0,0:15:45.30,0:15:48.99,Default,,0000,0000,0000,,Mas quanto mais resolvermos \No problema de controlo,
Dialogue: 0,0:15:48.99,0:15:52.97,Default,,0000,0000,0000,,maior será a probabilidade que a transição\Npara a era da inteligência mecânica
Dialogue: 0,0:15:52.97,0:15:54.31,Default,,0000,0000,0000,,corra bem.
Dialogue: 0,0:15:54.57,0:15:58.95,Default,,0000,0000,0000,,Isto parece-me algo \Nque vale a pena ser feito
Dialogue: 0,0:15:58.95,0:16:02.28,Default,,0000,0000,0000,,e posso imaginar que,\Nse as coisas correrem bem,
Dialogue: 0,0:16:02.28,0:16:06.94,Default,,0000,0000,0000,,as pessoas daqui um milhão de anos\Nvão olhar para este século
Dialogue: 0,0:16:06.94,0:16:10.94,Default,,0000,0000,0000,,e é muito provável que digam que uma das\Ncoisas que fizemos e que teve impacto
Dialogue: 0,0:16:10.94,0:16:12.51,Default,,0000,0000,0000,,foi pôr isto a funcionar.
Dialogue: 0,0:16:12.51,0:16:14.20,Default,,0000,0000,0000,,Obrigado.
Dialogue: 0,0:16:14.21,0:16:18.21,Default,,0000,0000,0000,,(Aplausos)