Não temam a Inteligência Artificial superinteligente

A tecnologia nova gera ansiedades novas, diz o cientista e filósofo Grady Booch, mas não precisamos de temer a Inteligência Artificial todo-poderosa e insensível. Booch tranquiliza os nossos piores temores (induzidos pela ficção científica) sobre computadores superinteligentes, explicando como vamos ensiná-los, não a programá-los, a partilhar os nossos valores. Em vez de se preocupar com uma improvável ameaça existencial, ele exorta-nos a considerar como é que a inteligência artificial vai melhorar a vida humana.

Quando eu era miúdo,
era um grandessíssimo "nerd".

Acho que alguns de vocês também eram.

(Risos)

E o senhor, que riu mais alto,
provavelmente ainda é.

(Risos)

Cresci numa cidade pequena

nas planícies empoeiradas
do norte do Texas,

filho de um xerife
que era filho de um pastor.

Meter-me em sarilhos estava fora de causa.

Por isso, comecei a ler
livros de cálculo por diversão.

(Risos)

Vocês também fizeram isso.

Isso levou-me a construir um laser,
um computador e modelos de foguetões

e levou-me a fazer combustível
para foguetões, no meu quarto.

Em termos científicos,

chamamos a isso uma ideia muito má.

(Risos)

Por volta dessa época,

"2001: A Odisseia no Espaço", de
Stanley Kubrick, chegou ao cinema

e a minha vida mudou para sempre.

Adorei tudo naquele filme,

especialmente o HAL 9000,

O HAL era um computador sensível

concebido para guiar a astronave Discovery

da Terra para Júpiter.

O HAL também era
um personagem com defeitos,

porque, no final, preferiu valorizar
a missão em vez da vida humana.

O HAL era uma personagem fictícia,

mas, mesmo assim,
fala dos nossos medos,

dos nossos medos de sermos subjugados

por alguma inteligência
insensível, artificial

que é indiferente à nossa humanidade.

Acredito que tais medos são infundados.

Na verdade, estamos numa época notável

da história humana,

em que, impelidos pela recusa de aceitar
os limites do nosso corpo e da nossa mente,

estamos a construir máquinas

de complexidade e graça
requintada e bonita

que alargará a experiência humana

de formas para além da nossa imaginação.

Depois duma carreira que me levou
da Academia da Força Aérea

até ao Comando Espacial, agora,

tornei-me engenheiro de sistemas,

e recentemente, envolvi-me
num problema de engenharia

associado à missão da NASA em Marte.

Em voos espaciais para a Lua,

podemos confiar no controlo
da missão em Houston

para observar todos os aspetos dum voo.

No entanto, Marte está
200 vezes mais longe

e, em resultado, são precisos
13 minutos, em média,

para um sinal viajar
da Terra até Marte.

Se houver problemas,
não há tempo suficiente.

Assim, uma solução razoável de engenharia

pede-nos para pôr o controlo da missão

dentro das paredes
da astronave Orion.

Uma outra ideia fascinante,
no perfil da missão,

coloca robôs humanoides
na superfície de Marte

antes de os seres humanos chegarem,

primeiro para construir instalações

e depois, para servir como membros
colaborativos da equipa de ciência

Como olhei para isto
numa perspetiva de engenharia

percebi rapidamente que aquilo
de que precisava para arquitetar

era de uma inteligência artificial,

esperta, colaborativa
e socialmente inteligente.

Por outras palavras, tinha de construir
algo muito parecido com um HAL

mas sem tendências homicidas.

(Risos)

Vamos fazer uma pausa por um momento

Será realmente possível construir
uma inteligência artificial assim?

Na verdade, é.

De muitas formas,

isso é um árduo problema de engenharia

com elementos de inteligência artificial,

não um problema complicado de IA
que precisa de ser projetado.

Parafraseando Alan Turing,

não estou interessado
em construir uma máquina sensível.

Não estou a construir um HAL.

Só estou a procurar um cérebro simples,

algo que ofereça a ilusão de inteligência.

A arte e a ciência da informática
têm percorrido um longo caminho

desde que o HAL esteve no ecrã

e imagino que, se o seu inventor
Dr. Chandra estivesse aqui hoje,

teria um monte de questões para nós.

Será realmente possível

termos um sistema de milhões
e milhões de dispositivos,

para ler nos fluxos de dados,

prever as suas falhas
e agir com antecedência?

É, sim.

Podemos construir sistemas que conversam
com humanos em língua natural?

Podemos, sim.

Podemos construir sistemas que
reconheçam objetos, identifiquem emoções,

se emocionem,
joguem jogos e até leiam lábios?

Podemos, sim.

Podemos construir um sistema
que estabeleça metas,

que execute planos para essas metas
e aprenda ao longo do caminho?

Podemos, sim.

Podemos construir sistemas
que tenham uma teoria de pensamento?

Estamos a aprender a fazer isso.

Podemos construir sistemas que têm
um fundamento ético e moral?

Temos de aprender a fazer isso.

Vamos aceitar, por instantes,

que é possível construir
essa inteligência artificial

para este tipo de missão e outros.

A pergunta seguinte
que devemos fazer é:

Devemos ter medo dela?

Cada nova tecnologia

traz consigo uma certa trepidação.

Quando viram carros pela primeira vez,

as pessoas queixaram-se
de que veríamos a destruição da família.

Quando viram os telefones,
pela primeira vez,

as pessoas recearam que fossem
destruir toda a conversação civil.

A certa altura, vimos a palavra escrita
tornar-se universal.

As pessoas pensaram perder
a capacidade de memorizar.

Tudo isto é verdade, até certo ponto,

mas acontece também que essas tecnologias

trouxeram-nos coisas
que ampliaram a experiência humana

de formas profundas.

Então, vamos levar isso
um pouco mais longe.

Eu não temo a criação
duma IA como esta,

porque ela acabará por incorporar
alguns dos nossos valores.

Considerem isto: construir um sistema
cognitivo é totalmente diferente

de construir um sistema tradicional
de software intensivo do passado.

Não os programamos. Ensinamo-los.

Para ensinar um sistema
a reconhecer flores,

mostro-lhe milhares de flores
dos tipos que gosto.

Para ensinar um sistema
a jogar um jogo...

— bem, eu ensinaria,
vocês também ensinariam.

Adoro flores. Vamos lá.

Para ensinar um sistema
a jogar um jogo como o Go,

deixá-lo-ia jogar
milhares de jogos do Go,

mas no processo também lhe ensino

como discernir um jogo bom
de um jogo mau.

Se eu quiser criar um assistente legal
artificialmente inteligente,

vou ensinar-lhe algumas noções de leis

mas, ao mesmo tempo,
estou a introduzir-lhe

o sentido de piedade e de justiça
que faz parte dessas leis.

Em termos científicos, é aquilo
a que chamamos verdade fundamental,

e este é o ponto importante:

ao produzir estas máquinas,

estamos a ensinar-lhes
um sentido dos nossos valores.

Para esse fim, confio tanto
numa inteligência artificial,

— ou mesmo mais — do que
num ser humano que é bem formado.

Mas podem perguntar:

"E quanto a agentes desonestos,

"a alguma organização
não governamental bem financiada?"

Eu não temo uma inteligência artificial
na mão de um lobo solitário.

Claramente, não conseguimos proteger-nos

contra todos os atos
fortuitos de violência,

mas a realidade é que um sistema destes

requer formação substancial
e formação subtil

muito para além
dos recursos de um indivíduo.

E além disso,

é muito mais do que injetar
um vírus de Internet no mundo

em que apertamos um botão,
e ele aparece num milhão de lugares

e os portáteis começam a explodir
por toda a parte.

Estes tipos de substância
são muito maiores,

e certamente vamos vê-los chegar.

Será que receio
que essa inteligência artificial

possa ameaçar toda a humanidade?

Se olharmos para filmes
como "The Matrix", "Metropolis",

"O Exterminador Implacável",
séries como "Westworld",

todos falam desse tipo de medo.

De facto, no livro "Superintelligence"
do filósofo Nick Bostrom,

ele pega neste tema

e nota que uma superinteligência
pode não só ser perigosa,

pode representar uma ameaça existencial
para toda a humanidade.

O argumento básico do Dr. Bostrom

é que tais sistemas vão acabar por ter

uma tal ânsia insaciável de informação

que talvez aprendam como aprender

e acabem por descobrir
que podem ter metas

que são contrárias
às necessidades humanas.

O Dr. Bostrom tem muitos seguidores.

É apoiado por pessoas como
Elon Musk e Stephen Hawking.

Com o devido respeito

a essas mentes brilhantes,

acho que estão fundamentalmente errados.

Há muitas peças do argumento
do Dr. Bostrom para desmontar,

mas não tenho tempo
para desmontá-las a todas,

mas muito rapidamente,
considerem isto:

o super conhecimento
é muito diferente da super ação.

O HAL só foi uma ameaça
para a tripulação do Discovery

na medida em que o HAL comandava
todos os aspetos do Discovery.

Então teria de ser com
superinteligência.

Teria que ter o domínio
sobre todo o nosso mundo.

Isto é o material do Skynet
de “O Exterminador Implacável”

em que tínhamos uma superinteligência

que comandava a vontade humana,

que dirigia todos os dispositivos
que estavam pelo mundo inteiro.

Em termos práticos,

isso não vai acontecer.

Não estamos a construir IA
que controlam o tempo,

que dirigem as marés,

que comandam os seres humanos
caprichosos e caóticos.

E além disso, se existisse
tal inteligência artificial,

teria de competir com economias humanas,

e, portanto, competir connosco
pelos recursos.

E, no final,

— não digam isto ao Siri —

podemos sempre desligá-los.

(Risos)

Estamos numa viagem incrível

de coevolução com as nossas máquinas.

Os seres humanos que somos hoje

não são os seres humanos
que seremos depois.

Preocuparmo-nos agora com o aparecimento
duma superinteligência

é, em muitos aspetos,
uma diversão perigosa.

porque o aparecimento
da própria informática

traz-nos uma série
de questões humanas e sociais

às quais devemos agora dar atenção.

Como é que organizo melhor a sociedade

quando a necessidade
de trabalho humano diminui?

Como posso trazer compreensão
e educação a todo o mundo

sem desrespeitar as nossas diferenças?

Como posso ampliar e melhorar a vida humana
através da assistência médica cognitiva?

Como posso usar a informática

para nos levar às estrelas?

E esta é a coisa excitante.

As oportunidades de usar a informática

para fazer avançar a experiência humana

estão ao nosso alcance,
aqui e agora,

e estamos apenas a começar.

Muito obrigado.

(Aplausos)