Quando eu era miúdo, era um grandessíssimo "nerd".
Acho que alguns de vocês também eram.
(Risos)
E o senhor, que riu mais alto, provavelmente ainda é.
(Risos)
Cresci numa cidade pequena
nas planícies empoeiradas do norte do Texas,
filho de um xerife que era filho de um pastor.
Meter-me em sarilhos estava fora de causa.
Por isso, comecei a ler livros de cálculo por diversão.
(Risos)
Vocês também fizeram isso.
Isso levou-me a construir um laser, um computador e modelos de foguetões
e levou-me a fazer combustível para foguetões, no meu quarto.
Em termos científicos,
chamamos a isso uma ideia muito má.
(Risos)
Por volta dessa época,
"2001: A Odisseia no Espaço", de Stanley Kubrick, chegou ao cinema
e a minha vida mudou para sempre.
Adorei tudo naquele filme,
especialmente o HAL 9000,
O HAL era um computador sensível
concebido para guiar a astronave Discovery
da Terra para Júpiter.
O HAL também era um personagem com defeitos,
porque, no final, preferiu valorizar a missão em vez da vida humana.
O HAL era uma personagem fictícia,
mas, mesmo assim, fala dos nossos medos,
dos nossos medos de sermos subjugados
por alguma inteligência insensível, artificial
que é indiferente à nossa humanidade.
Acredito que tais medos são infundados.
Na verdade, estamos numa época notável
da história humana,
em que, impelidos pela recusa de aceitar os limites do nosso corpo e da nossa mente,
estamos a construir máquinas
de complexidade e graça requintada e bonita
que alargará a experiência humana
de formas para além da nossa imaginação.
Depois duma carreira que me levou da Academia da Força Aérea
até ao Comando Espacial, agora,
tornei-me engenheiro de sistemas,
e recentemente, envolvi-me num problema de engenharia
associado à missão da NASA em Marte.
Em voos espaciais para a Lua,
podemos confiar no controlo da missão em Houston
para observar todos os aspetos dum voo.
No entanto, Marte está 200 vezes mais longe
e, em resultado, são precisos 13 minutos, em média,
para um sinal viajar da Terra até Marte.
Se houver problemas, não há tempo suficiente.
Assim, uma solução razoável de engenharia
pede-nos para pôr o controlo da missão
dentro das paredes da astronave Orion.
Uma outra ideia fascinante, no perfil da missão,
coloca robôs humanoides na superfície de Marte
antes de os seres humanos chegarem,
primeiro para construir instalações
e depois, para servir como membros colaborativos da equipa de ciência
Como olhei para isto numa perspetiva de engenharia
percebi rapidamente que aquilo de que precisava para arquitetar
era de uma inteligência artificial,
esperta, colaborativa e socialmente inteligente.
Por outras palavras, tinha de construir algo muito parecido com um HAL
mas sem tendências homicidas.
(Risos)
Vamos fazer uma pausa por um momento
Será realmente possível construir uma inteligência artificial assim?
Na verdade, é.
De muitas formas,
isso é um árduo problema de engenharia
com elementos de inteligência artificial,
não um problema complicado de IA que precisa de ser projetado.
Parafraseando Alan Turing,
não estou interessado em construir uma máquina sensível.
Não estou a construir um HAL.
Só estou a procurar um cérebro simples,
algo que ofereça a ilusão de inteligência.
A arte e a ciência da informática têm percorrido um longo caminho
desde que o HAL esteve no ecrã
e imagino que, se o seu inventor Dr. Chandra estivesse aqui hoje,
teria um monte de questões para nós.
Será realmente possível
termos um sistema de milhões e milhões de dispositivos,
para ler nos fluxos de dados,
prever as suas falhas e agir com antecedência?
É, sim.
Podemos construir sistemas que conversam com humanos em língua natural?
Podemos, sim.
Podemos construir sistemas que reconheçam objetos, identifiquem emoções,
se emocionem, joguem jogos e até leiam lábios?
Podemos, sim.
Podemos construir um sistema que estabeleça metas,
que execute planos para essas metas e aprenda ao longo do caminho?
Podemos, sim.
Podemos construir sistemas que tenham uma teoria de pensamento?
Estamos a aprender a fazer isso.
Podemos construir sistemas que têm um fundamento ético e moral?
Temos de aprender a fazer isso.
Vamos aceitar, por instantes,
que é possível construir essa inteligência artificial
para este tipo de missão e outros.
A pergunta seguinte que devemos fazer é:
Devemos ter medo dela?
Cada nova tecnologia
traz consigo uma certa trepidação.
Quando viram carros pela primeira vez,
as pessoas queixaram-se de que veríamos a destruição da família.
Quando viram os telefones, pela primeira vez,
as pessoas recearam que fossem destruir toda a conversação civil.
A certa altura, vimos a palavra escrita tornar-se universal.
As pessoas pensaram perder a capacidade de memorizar.
Tudo isto é verdade, até certo ponto,
mas acontece também que essas tecnologias
trouxeram-nos coisas que ampliaram a experiência humana
de formas profundas.
Então, vamos levar isso um pouco mais longe.
Eu não temo a criação duma IA como esta,
porque ela acabará por incorporar alguns dos nossos valores.
Considerem isto: construir um sistema cognitivo é totalmente diferente
de construir um sistema tradicional de software intensivo do passado.
Não os programamos. Ensinamo-los.
Para ensinar um sistema a reconhecer flores,
mostro-lhe milhares de flores dos tipos que gosto.
Para ensinar um sistema a jogar um jogo...
— bem, eu ensinaria, vocês também ensinariam.
Adoro flores. Vamos lá.
Para ensinar um sistema a jogar um jogo como o Go,
deixá-lo-ia jogar milhares de jogos do Go,
mas no processo também lhe ensino
como discernir um jogo bom de um jogo mau.
Se eu quiser criar um assistente legal artificialmente inteligente,
vou ensinar-lhe algumas noções de leis
mas, ao mesmo tempo, estou a introduzir-lhe
o sentido de piedade e de justiça que faz parte dessas leis.
Em termos científicos, é aquilo a que chamamos verdade fundamental,
e este é o ponto importante:
ao produzir estas máquinas,
estamos a ensinar-lhes um sentido dos nossos valores.
Para esse fim, confio tanto numa inteligência artificial,
— ou mesmo mais — do que num ser humano que é bem formado.
Mas podem perguntar:
"E quanto a agentes desonestos,
"a alguma organização não governamental bem financiada?"
Eu não temo uma inteligência artificial na mão de um lobo solitário.
Claramente, não conseguimos proteger-nos
contra todos os atos fortuitos de violência,
mas a realidade é que um sistema destes
requer formação substancial e formação subtil
muito para além dos recursos de um indivíduo.
E além disso,
é muito mais do que injetar um vírus de Internet no mundo
em que apertamos um botão, e ele aparece num milhão de lugares
e os portáteis começam a explodir por toda a parte.
Estes tipos de substância são muito maiores,
e certamente vamos vê-los chegar.
Será que receio que essa inteligência artificial
possa ameaçar toda a humanidade?
Se olharmos para filmes como "The Matrix", "Metropolis",
"O Exterminador Implacável", séries como "Westworld",
todos falam desse tipo de medo.
De facto, no livro "Superintelligence" do filósofo Nick Bostrom,
ele pega neste tema
e nota que uma superinteligência pode não só ser perigosa,
pode representar uma ameaça existencial para toda a humanidade.
O argumento básico do Dr. Bostrom
é que tais sistemas vão acabar por ter
uma tal ânsia insaciável de informação
que talvez aprendam como aprender
e acabem por descobrir que podem ter metas
que são contrárias às necessidades humanas.
O Dr. Bostrom tem muitos seguidores.
É apoiado por pessoas como Elon Musk e Stephen Hawking.
Com o devido respeito
a essas mentes brilhantes,
acho que estão fundamentalmente errados.
Há muitas peças do argumento do Dr. Bostrom para desmontar,
mas não tenho tempo para desmontá-las a todas,
mas muito rapidamente, considerem isto:
o super conhecimento é muito diferente da super ação.
O HAL só foi uma ameaça para a tripulação do Discovery
na medida em que o HAL comandava todos os aspetos do Discovery.
Então teria de ser com superinteligência.
Teria que ter o domínio sobre todo o nosso mundo.
Isto é o material do Skynet de “O Exterminador Implacável”
em que tínhamos uma superinteligência
que comandava a vontade humana,
que dirigia todos os dispositivos que estavam pelo mundo inteiro.
Em termos práticos,
isso não vai acontecer.
Não estamos a construir IA que controlam o tempo,
que dirigem as marés,
que comandam os seres humanos caprichosos e caóticos.
E além disso, se existisse tal inteligência artificial,
teria de competir com economias humanas,
e, portanto, competir connosco pelos recursos.
E, no final,
— não digam isto ao Siri —
podemos sempre desligá-los.
(Risos)
Estamos numa viagem incrível
de coevolução com as nossas máquinas.
Os seres humanos que somos hoje
não são os seres humanos que seremos depois.
Preocuparmo-nos agora com o aparecimento duma superinteligência
é, em muitos aspetos, uma diversão perigosa.
porque o aparecimento da própria informática
traz-nos uma série de questões humanas e sociais
às quais devemos agora dar atenção.
Como é que organizo melhor a sociedade
quando a necessidade de trabalho humano diminui?
Como posso trazer compreensão e educação a todo o mundo
sem desrespeitar as nossas diferenças?
Como posso ampliar e melhorar a vida humana através da assistência médica cognitiva?
Como posso usar a informática
para nos levar às estrelas?
E esta é a coisa excitante.
As oportunidades de usar a informática
para fazer avançar a experiência humana
estão ao nosso alcance, aqui e agora,
e estamos apenas a começar.
Muito obrigado.
(Aplausos)