Podem desenvolupar una IA sense perdre'n el control?

Us fa por la IA superintel·ligent? "Us n'hauria de fer" és el que diu el neurocientífic i filòsof Sam Harris, i no només de forma teòrica. Estem en camí de construir màquines suprahumanes, diu en Harris, però en canvi encara no hem pensat en els problemes associats a crear quelcom que podria tractar-nos de la mateixa manera que nosaltres tractem a les formigues.

Tot seguit parlaré
sobre una manca d'intuïció

que molts de nosaltres patim.

És una dificultat per detectar
un tipus de perill específic.

Imagineu-vos el següent escenari,

que jo crec que és esgarrifós

i alhora ben probable.

Això no és pas una bona combinació

pel que sembla.

I enlloc d'espantar-vos,
molts creureu

que allò del que parlo
és divertit.

M'agradaria explicar
que els avenços que fem

en intel·ligència artificial

poden acabar destruint-nos.

I de fet, crec que és ben difícil
no veure com no ens poden destruir

o fer que ens autodestruïm.

Tot i així, si penseu com jo,

veureu que és distret
pensar en aquestes coses.

I aquesta és la resposta
que és part del problema.

És la que hauria d'amoïnar-vos.

I si us hagués de convèncer
amb aquesta xerrada

de que és ben possible
que arribem a patir una fam mundial,

ja sigui pel canvi climàtic
o per qualsevol altra catàstrofe,

i que els vostres néts,
o els seus néts,

probablement viuran així,

no pensaríeu:

"Interessant.

M'agrada aquesta xerrada TED."

La fam no és divertida.

La mort en la ciència ficció,
en canvi, sí que ho és,

i el que més em preocupa
sobre el progrés de la IA ara mateix

és que no sembla que siguem capaços
de respondre com cal a nivell emocional

als perills que ens esperen.

No sóc capaç de respondre-hi
i ara em trobo donant aquesta xerrada.

És com si ens trobéssim
davant dues portes.

Rera la porta número u,

deixem de progressar
i de construir màquines intel·ligents.

El nostre maquinari i programari
deixa de millorar per alguna raó.

Penseu durant uns instants
per què podria passar això.

Vull dir, ja que la intel·ligència
i la automatització són tan valuoses,

seguirem millorant la tecnologia
sempre que siguem sent capaços.

Què podria impedir-nos-ho?

Potser una guerra nuclear mundial?

O una gran epidèmia?

L'impacte d'un asteroide?

Justin Bieber com
president dels Estats Units?

(Riures)

Alguna cosa hauria de destruir
la civilització tal i com la coneixem.

Imagineu-vos com de greu hauria de ser

per impedir-nos seguir
millorant la tecnologia

de forma permanent,

generació rera generació.

Quasi per definició,
es tracta del pitjor

que podria arribar a patir la humanitat.

Però l'única alternativa,

que es troba darrera la porta número dos,

és seguir millorant
la intel·ligència de les màquines

any rere any.

En algun moment, construirem màquines
més intel·ligents que nosaltres,

i un cop les màquines ens superin,

es milloraran a elles mateixes.

I el que el matemàtic
IJ Good anomenava com

"l'explosió de la intel·ligència",

pot succeir fent que les màquines
ens superin amb escreix.

Aquest fet sovint es representa
com jo ho he fet aquí,

imaginant que exèrcits de robots malèvols

ens ataquen.

Però aquest no és l'escenari més probable.

No crec que les màquines
de cop i volta es tornin malèfiques.

Em preocupa més que arribem
a construir màquines

que són molt més
competents que nosaltres

i que la més subtil de les divergències
entre els seus objectius i els nostres

puguin arribar a destruir-nos.

Penseu només en com
tractem a les formigues.

No les odiem pas.

No sortim del camí per fer-les-hi mal.

Fins i tot patim mals de cap
per no esclafar-les

i les saltem quan caminem per la vorera.

Però quan la seva presència

entra en conflicte
amb els nostres objectius,

per exemple si volem construir un edifici,

les exterminem sense cap prejudici.

El que em preocupa és que un dia
construirem màquines

que tant si són conscients
com si no ho són,

podrien arribar a menysprear-nos així.

Crec que això queda molt lluny
per molts de vosaltres.

Inclús crec que molts de vosaltres dubteu
que la superintel·ligència sigui possible,

i menys encara inevitable.

Però en aquest cas heu de trobar quelcom
erroni en una d'aquestes suposicions:

I només n'hi ha tres:

La intel·ligència consisteix en processar
informació en sistemes físics.

De fet, això és quelcom
més que una suposició.

Ja hem incorporat petites intel·ligències
en les nostres màquines,

i moltes d'elles tenen
un rendiment superior

a un nivell d'intel·ligència suprahumana.

I ja sabem que la mera matèria

pot donar lloc
a la "intel·ligència general",

és a dir l'habilitat de pensar
amb flexibilitat en diversos camps.

Al cap i a la fi els nostres cervells
ho han aconseguit, cert?

És a dir, només hi ha àtoms aquí,

i sempre i quan seguim construint
sistemes a base d'àtoms

que es comporten de forma
cada cop més intel·ligent,

en algun moment, si res no ho impedeix,

en algun moment construirem
intel·ligència artificial

en les nostres màquines.

És de vital importància adonar-se'n
que el ritme de progrés no importa,

perquè qualsevol progrés ens acabarà
portant a l'altre extrem.

No ens cal la llei de Moore per continuar.
No ens cal un progrés exponencial.

Només ens cal seguir avançant.

La segona suposició
és que seguirem avançant.

Seguirem millorant
les màquines intel·ligents.

I donat el valor que té la intel·ligència,

és a dir, ja que la intel·ligència
és la font de tot el que valorem

i la necessitem per salvaguardar
tot el que ens importa.

És el recurs més valuós de que disposem.

Així doncs, volem que avanci.

Tenim problemes que
hem de solucionar desesperadament.

Volem guarir malalties
com l'Alzheimer i el càncer.

Volem entendre sistemes econòmics.
Volem millorar la ciència del clima.

Així doncs ho farem si podem.

El tren ja ha sortit de l'estació
i no hi ha manera de que pari.

I per últim, no ens trobem
al cim de la nostra intel·ligència,

o en qualsevol punt que s'hi acosti.

I això és la clau de la qüestió.

És el que fa que la nostra
situació sigui tan precària,

i és el que fa que les nostres intuïcions
sobre aquest risc siguin tan poc fiables.

Penseu en la persona
més intel·ligent que mai ha viscut.

Molts de vosaltres haureu considerat
a en John von Neumann.

La impressió que va causar
en von Neumann al seu voltant,

i això inclou als més grans matemàtics
i físics de la seva època,

està ben documentada.

Si només la meitat de
les històries sobre ell són certes,

no hi ha cap dubte

que és una de les persones més brillants.

Considerem l'espectre d'intel·ligència.

Tenim en John von Neumann.

I aquí estem nosaltres.

I aquí un pollastre.

(Riures)

Perdó, un pollastre.

(Riures)

No hi ha cap necessitat de fer aquesta
xerrada més depriment del que pot ser.

(Riures)

Sembla que està ben clar
que l'espectre de la intel·ligència

s'estén molt més enllà
del que considerem actualment,

i si construïm màquines que
són més intel·ligents que nosaltres,

molt probablement exploraran
aquest espectre

de maneres que no podem imaginar,

i ens superaran de maneres
que tampoc podem imaginar.

I hem de reconèixer que això és així
només en base a la velocitat.

D'acord? Doncs imagineu que
hem construit una IA superintel·ligent

que no és més brillant que
la majoria d'equips de recerca

de Stanford o del MIT.

Els circuits electrònics són
un milió de vegades més ràpids

que les ones bioquímiques,

així, aquesta màquina pensaria
un milió de cops més depressa

que les ments que l'han dissenyat.

Si la deixem encesa una setmana

haurà complert 20.000 anys de
feina intel·lectual a nivell humà,

setmana rere setmana rere setmana.

Com podem arribar a comprendre,
i menys encara limitar,

una ment que progressa així?

L'altra cosa que em preocupa,
sent honestos,

es que... imagineu-vos
el millor escenari possible.

Imagineu que tombem amb un disseny
de IA superintel·ligent

sense problemes de seguretat.

És el primer cop que
aconseguim el disseny perfecte.

És com si ens hagués arribat un oracle

que es comporta tal i com preteníem.

Doncs bé, aquesta màquina seria
l'eina perfecta per reduir-nos feina.

Podria dissenyar màquines
que podrien construir màquines

per fer qualsevol feina física,

alimentades per energia solar,

i més o menys pel que
costa la matèria prima.

Estem parlant de la fi
de les feines feixugues.

També seria la fi de la majoria
de feines intel·lectuals.

Què farien uns simis com nosaltres
en aquestes circumstàncies?

Tindríem temps per jugar al disc volador
i de fer-nos massatges els uns als altres.

Afegiu una mica de LSD
i un vestuari de gust qüestionable

i el món sencer podria
ser com el Burning Man.

(Riures)

Tot això pot sonar força atractiu,

però penseu que passaria

si succeís sota
l'ordre econòmic i polític actual?

És ben probable que experimentéssim

una desigualtat econòmica
i un nivell d'atur

que mai havíem experimentat.

I si no hi ha la voluntat
de posar tota aquesta riquesa

al servei de la humanitat,

uns quants bilionaris arribarien
a les portades de les revistes

mentre la resta
ens moriríem de gana.

I què farien els russos o els xinesos

si sapiguessin que
una empresa de Silicon Valley

estigués a punt d'aconseguir
una IA superintel·ligent?

Aquesta màquina estaria
preparada per entrar en guerra,

ja sigui per terra o cibernètica,

amb un poder sense precedents.

I aquí el guanyador s'ho emporta tot.

Aquí, trobar-se sis mesos
al capdavant de la competició

vol dir trobar-se
500.000 anys al davant

com a mínim.

Només que hi hagi un rumor
sobre algun descobriment d'aquest tipus

pot fer que la nostra espècie embogeixi.

Ara bé, una de les coses més paoroses,

segons el meu punt de vista, ara per ara,

són el tipus de coses
que els investigadors en IA diuen

quan volen tranquil·litzar-nos.

I la principal raó que ens donen
per no preocupar-no és el temps.

"Això encara està lluny,
no ho sabíeu?"

"Probablement encara queden
uns 50 o 100 anys."

Un investigador va dir:

"Preocuparse per una IA insegura

és com preocupar-se per la
sobre-població a Mart."

Això és la versió
de Silicon Valley

de "no et preocupis, nena!"

(Riures)

Ningú sembla adonar-se'n

que basar-se en un horitzó cronològic

és un 'non sequitur' absolut.

Si la intel·ligència consisteix
simplement en processar informació,

i seguim perfeccionant les màquines,

acabarem per generar alguna
forma de superintel·ligència.

I no tenim ni idea de quant
de temps ens portarà

crear les condicions
per fer-ho de forma segura.

Deixeu-me que ho repeteixi.

No tenim ni idea de quant
de temps ens portarà

crear les condicions per
fer-ho de forma segura.

I per si no us n'heu adonat,
50 anys no són el que eren abans.

Això són 50 anys en mesos.

Això són els mesos
que hem tingut l'iPhone.

Això són els mesos que
"Els Simpsons" han estat en pantalla.

Cinquanta anys no és gaire temps

per assolir un dels grans reptes
de la nostra espècie.

Torno a dir, sembla que no estem
reaccionant com cal a nivell emocional

envers allò que cada cop n'estem
més segurs que arribarà.

El científic informàtic Stuart Russell
fa una bonica analogia.

Va dir que imaginéssim que havíem rebut
un missatge d'una civilització alienígena,

que deia:

"Gent de la Terra,

arribarem al vostre planeta
d'aquí 50 anys.

Prepareu-vos."

I llavors comencem a comptar
els mesos que queden abans que arribin.

Segurament sentiríem
una mica més de pressió que ara.

Una altra raó que donen
per no preocupar-nos

és que les màquines només podran
compartir els nostres valors

perquè seran literalment
extensions de nosaltres.

Seran uns empelts
en els nostres cervells,

i esdevindrem els seus sistemes límbics.

Considereu per un moment

que la forma més segura
i més prudent de seguir avançant,

la forma més recomanada,

és implantar-los en els nostres
cervells directament.

És possible que sigui l'única manera
segura i prudent de continuar,

tot i que normalment si una tecnologia
ens preocupa una micona

primer cal que estigui lliure d'errors
si després ens la volem enganxar al cap.

(Riures)

El problema de fons és que desenvolupar
una IA superintel·ligent per si mateixa

sembla ser més fàcil

que construir una IA superintel·ligent

i tenir alhora la neurociència llesta

per permetre'ns connectar-hi
la ment sense interrupcions.

I donat que les empreses i els governs
que estan fent aquesta feina

és probable que es considerin
en una cursa contra la resta,

i donat que guanyar la cursa
és guanyar el món,

sempre i quan no
se'l destrueixi tot seguit,

aleshores és probable que allò
que sembli més fàcil de fer

sigui el que primer es faci.

Malauradament, no tinc cap
solució a aquest problema,

apart de recomanar que
tots hauríem de pensar-hi més.

Crec que necessitem
una mena de projecte Manhattan

però per la intel·ligència artificial.

No per desenvolupar-la,
ja que és inevitable,

sinó per comprendre com podem
evitar una cursa armementística

i per desenvolupar-la de manera
que vagi de la mà dels nostres interessos.

Quan parlem d'una IA superintel·ligent

que es pot canviar a si mateixa,

sembla que només tenim una oportunitat
per crear les bones condicions inicials,

però inclús així haurem d'absorbir

les conseqüències econòmiques i polítiques
d'haver-les establert correctament.

Però en el moment que admetem

que el processat d'informació
és l'origen de la intel·ligència,

que un sistema de computació apropiat
és la base de tota intel·ligència,

i que seguirem millorant
aquests sistemes indefinidament,

i admetem que l'horitzó de la cognició
molt probablement excedeix

el que sabem fins ara,

aleshores podrem admetre

que estem en un procés
de crear una mena de déu.

Ara és el moment

d'assegurar-nos que és un déu
amb qui podem viure.

Moltes gràcies.

(Aplaudiments)

Traduït per Marcos Morales Pallarés