Tot seguit parlaré sobre una manca d'intuïció
que molts de nosaltres patim.
És una dificultat per detectar un tipus de perill específic.
Imagineu-vos el següent escenari,
que jo crec que és esgarrifós
i alhora ben probable.
Això no és pas una bona combinació
pel que sembla.
I enlloc d'espantar-vos, molts creureu
que allò del que parlo és divertit.
M'agradaria explicar que els avenços que fem
en intel·ligència artificial
poden acabar destruint-nos.
I de fet, crec que és ben difícil no veure com no ens poden destruir
o fer que ens autodestruïm.
Tot i així, si penseu com jo,
veureu que és distret pensar en aquestes coses.
I aquesta és la resposta que és part del problema.
És la que hauria d'amoïnar-vos.
I si us hagués de convèncer amb aquesta xerrada
de que és ben possible que arribem a patir una fam mundial,
ja sigui pel canvi climàtic o per qualsevol altra catàstrofe,
i que els vostres néts, o els seus néts,
probablement viuran així,
no pensaríeu:
"Interessant.
M'agrada aquesta xerrada TED."
La fam no és divertida.
La mort en la ciència ficció, en canvi, sí que ho és,
i el que més em preocupa sobre el progrés de la IA ara mateix
és que no sembla que siguem capaços de respondre com cal a nivell emocional
als perills que ens esperen.
No sóc capaç de respondre-hi i ara em trobo donant aquesta xerrada.
És com si ens trobéssim davant dues portes.
Rera la porta número u,
deixem de progressar i de construir màquines intel·ligents.
El nostre maquinari i programari deixa de millorar per alguna raó.
Penseu durant uns instants per què podria passar això.
Vull dir, ja que la intel·ligència i la automatització són tan valuoses,
seguirem millorant la tecnologia sempre que siguem sent capaços.
Què podria impedir-nos-ho?
Potser una guerra nuclear mundial?
O una gran epidèmia?
L'impacte d'un asteroide?
Justin Bieber com president dels Estats Units?
(Riures)
Alguna cosa hauria de destruir la civilització tal i com la coneixem.
Imagineu-vos com de greu hauria de ser
per impedir-nos seguir millorant la tecnologia
de forma permanent,
generació rera generació.
Quasi per definició, es tracta del pitjor
que podria arribar a patir la humanitat.
Però l'única alternativa,
que es troba darrera la porta número dos,
és seguir millorant la intel·ligència de les màquines
any rere any.
En algun moment, construirem màquines més intel·ligents que nosaltres,
i un cop les màquines ens superin,
es milloraran a elles mateixes.
I el que el matemàtic IJ Good anomenava com
"l'explosió de la intel·ligència",
pot succeir fent que les màquines ens superin amb escreix.
Aquest fet sovint es representa com jo ho he fet aquí,
imaginant que exèrcits de robots malèvols
ens ataquen.
Però aquest no és l'escenari més probable.
No crec que les màquines de cop i volta es tornin malèfiques.
Em preocupa més que arribem a construir màquines
que són molt més competents que nosaltres
i que la més subtil de les divergències entre els seus objectius i els nostres
puguin arribar a destruir-nos.
Penseu només en com tractem a les formigues.
No les odiem pas.
No sortim del camí per fer-les-hi mal.
Fins i tot patim mals de cap per no esclafar-les
i les saltem quan caminem per la vorera.
Però quan la seva presència
entra en conflicte amb els nostres objectius,
per exemple si volem construir un edifici,
les exterminem sense cap prejudici.
El que em preocupa és que un dia construirem màquines
que tant si són conscients com si no ho són,
podrien arribar a menysprear-nos així.
Crec que això queda molt lluny per molts de vosaltres.
Inclús crec que molts de vosaltres dubteu que la superintel·ligència sigui possible,
i menys encara inevitable.
Però en aquest cas heu de trobar quelcom erroni en una d'aquestes suposicions:
I només n'hi ha tres:
La intel·ligència consisteix en processar informació en sistemes físics.
De fet, això és quelcom més que una suposició.
Ja hem incorporat petites intel·ligències en les nostres màquines,
i moltes d'elles tenen un rendiment superior
a un nivell d'intel·ligència suprahumana.
I ja sabem que la mera matèria
pot donar lloc a la "intel·ligència general",
és a dir l'habilitat de pensar amb flexibilitat en diversos camps.
Al cap i a la fi els nostres cervells ho han aconseguit, cert?
És a dir, només hi ha àtoms aquí,
i sempre i quan seguim construint sistemes a base d'àtoms
que es comporten de forma cada cop més intel·ligent,
en algun moment, si res no ho impedeix,
en algun moment construirem intel·ligència artificial
en les nostres màquines.
És de vital importància adonar-se'n que el ritme de progrés no importa,
perquè qualsevol progrés ens acabarà portant a l'altre extrem.
No ens cal la llei de Moore per continuar. No ens cal un progrés exponencial.
Només ens cal seguir avançant.
La segona suposició és que seguirem avançant.
Seguirem millorant les màquines intel·ligents.
I donat el valor que té la intel·ligència,
és a dir, ja que la intel·ligència és la font de tot el que valorem
i la necessitem per salvaguardar tot el que ens importa.
És el recurs més valuós de que disposem.
Així doncs, volem que avanci.
Tenim problemes que hem de solucionar desesperadament.
Volem guarir malalties com l'Alzheimer i el càncer.
Volem entendre sistemes econòmics. Volem millorar la ciència del clima.
Així doncs ho farem si podem.
El tren ja ha sortit de l'estació i no hi ha manera de que pari.
I per últim, no ens trobem al cim de la nostra intel·ligència,
o en qualsevol punt que s'hi acosti.
I això és la clau de la qüestió.
És el que fa que la nostra situació sigui tan precària,
i és el que fa que les nostres intuïcions sobre aquest risc siguin tan poc fiables.
Penseu en la persona més intel·ligent que mai ha viscut.
Molts de vosaltres haureu considerat a en John von Neumann.
La impressió que va causar en von Neumann al seu voltant,
i això inclou als més grans matemàtics i físics de la seva època,
està ben documentada.
Si només la meitat de les històries sobre ell són certes,
no hi ha cap dubte
que és una de les persones més brillants.
Considerem l'espectre d'intel·ligència.
Tenim en John von Neumann.
I aquí estem nosaltres.
I aquí un pollastre.
(Riures)
Perdó, un pollastre.
(Riures)
No hi ha cap necessitat de fer aquesta xerrada més depriment del que pot ser.
(Riures)
Sembla que està ben clar que l'espectre de la intel·ligència
s'estén molt més enllà del que considerem actualment,
i si construïm màquines que són més intel·ligents que nosaltres,
molt probablement exploraran aquest espectre
de maneres que no podem imaginar,
i ens superaran de maneres que tampoc podem imaginar.
I hem de reconèixer que això és així només en base a la velocitat.
D'acord? Doncs imagineu que hem construit una IA superintel·ligent
que no és més brillant que la majoria d'equips de recerca
de Stanford o del MIT.
Els circuits electrònics són un milió de vegades més ràpids
que les ones bioquímiques,
així, aquesta màquina pensaria un milió de cops més depressa
que les ments que l'han dissenyat.
Si la deixem encesa una setmana
haurà complert 20.000 anys de feina intel·lectual a nivell humà,
setmana rere setmana rere setmana.
Com podem arribar a comprendre, i menys encara limitar,
una ment que progressa així?
L'altra cosa que em preocupa, sent honestos,
es que... imagineu-vos el millor escenari possible.
Imagineu que tombem amb un disseny de IA superintel·ligent
sense problemes de seguretat.
És el primer cop que aconseguim el disseny perfecte.
És com si ens hagués arribat un oracle
que es comporta tal i com preteníem.
Doncs bé, aquesta màquina seria l'eina perfecta per reduir-nos feina.
Podria dissenyar màquines que podrien construir màquines
per fer qualsevol feina física,
alimentades per energia solar,
i més o menys pel que costa la matèria prima.
Estem parlant de la fi de les feines feixugues.
També seria la fi de la majoria de feines intel·lectuals.
Què farien uns simis com nosaltres en aquestes circumstàncies?
Tindríem temps per jugar al disc volador i de fer-nos massatges els uns als altres.
Afegiu una mica de LSD i un vestuari de gust qüestionable
i el món sencer podria ser com el Burning Man.
(Riures)
Tot això pot sonar força atractiu,
però penseu que passaria
si succeís sota l'ordre econòmic i polític actual?
És ben probable que experimentéssim
una desigualtat econòmica i un nivell d'atur
que mai havíem experimentat.
I si no hi ha la voluntat de posar tota aquesta riquesa
al servei de la humanitat,
uns quants bilionaris arribarien a les portades de les revistes
mentre la resta ens moriríem de gana.
I què farien els russos o els xinesos
si sapiguessin que una empresa de Silicon Valley
estigués a punt d'aconseguir una IA superintel·ligent?
Aquesta màquina estaria preparada per entrar en guerra,
ja sigui per terra o cibernètica,
amb un poder sense precedents.
I aquí el guanyador s'ho emporta tot.
Aquí, trobar-se sis mesos al capdavant de la competició
vol dir trobar-se 500.000 anys al davant
com a mínim.
Només que hi hagi un rumor sobre algun descobriment d'aquest tipus
pot fer que la nostra espècie embogeixi.
Ara bé, una de les coses més paoroses,
segons el meu punt de vista, ara per ara,
són el tipus de coses que els investigadors en IA diuen
quan volen tranquil·litzar-nos.
I la principal raó que ens donen per no preocupar-no és el temps.
"Això encara està lluny, no ho sabíeu?"
"Probablement encara queden uns 50 o 100 anys."
Un investigador va dir:
"Preocuparse per una IA insegura
és com preocupar-se per la sobre-població a Mart."
Això és la versió de Silicon Valley
de "no et preocupis, nena!"
(Riures)
Ningú sembla adonar-se'n
que basar-se en un horitzó cronològic
és un 'non sequitur' absolut.
Si la intel·ligència consisteix simplement en processar informació,
i seguim perfeccionant les màquines,
acabarem per generar alguna forma de superintel·ligència.
I no tenim ni idea de quant de temps ens portarà
crear les condicions per fer-ho de forma segura.
Deixeu-me que ho repeteixi.
No tenim ni idea de quant de temps ens portarà
crear les condicions per fer-ho de forma segura.
I per si no us n'heu adonat, 50 anys no són el que eren abans.
Això són 50 anys en mesos.
Això són els mesos que hem tingut l'iPhone.
Això són els mesos que "Els Simpsons" han estat en pantalla.
Cinquanta anys no és gaire temps
per assolir un dels grans reptes de la nostra espècie.
Torno a dir, sembla que no estem reaccionant com cal a nivell emocional
envers allò que cada cop n'estem més segurs que arribarà.
El científic informàtic Stuart Russell fa una bonica analogia.
Va dir que imaginéssim que havíem rebut un missatge d'una civilització alienígena,
que deia:
"Gent de la Terra,
arribarem al vostre planeta d'aquí 50 anys.
Prepareu-vos."
I llavors comencem a comptar els mesos que queden abans que arribin.
Segurament sentiríem una mica més de pressió que ara.
Una altra raó que donen per no preocupar-nos
és que les màquines només podran compartir els nostres valors
perquè seran literalment extensions de nosaltres.
Seran uns empelts en els nostres cervells,
i esdevindrem els seus sistemes límbics.
Considereu per un moment
que la forma més segura i més prudent de seguir avançant,
la forma més recomanada,
és implantar-los en els nostres cervells directament.
És possible que sigui l'única manera segura i prudent de continuar,
tot i que normalment si una tecnologia ens preocupa una micona
primer cal que estigui lliure d'errors si després ens la volem enganxar al cap.
(Riures)
El problema de fons és que desenvolupar una IA superintel·ligent per si mateixa
sembla ser més fàcil
que construir una IA superintel·ligent
i tenir alhora la neurociència llesta
per permetre'ns connectar-hi la ment sense interrupcions.
I donat que les empreses i els governs que estan fent aquesta feina
és probable que es considerin en una cursa contra la resta,
i donat que guanyar la cursa és guanyar el món,
sempre i quan no se'l destrueixi tot seguit,
aleshores és probable que allò que sembli més fàcil de fer
sigui el que primer es faci.
Malauradament, no tinc cap solució a aquest problema,
apart de recomanar que tots hauríem de pensar-hi més.
Crec que necessitem una mena de projecte Manhattan
però per la intel·ligència artificial.
No per desenvolupar-la, ja que és inevitable,
sinó per comprendre com podem evitar una cursa armementística
i per desenvolupar-la de manera que vagi de la mà dels nostres interessos.
Quan parlem d'una IA superintel·ligent
que es pot canviar a si mateixa,
sembla que només tenim una oportunitat per crear les bones condicions inicials,
però inclús així haurem d'absorbir
les conseqüències econòmiques i polítiques d'haver-les establert correctament.
Però en el moment que admetem
que el processat d'informació és l'origen de la intel·ligència,
que un sistema de computació apropiat és la base de tota intel·ligència,
i que seguirem millorant aquests sistemes indefinidament,
i admetem que l'horitzó de la cognició molt probablement excedeix
el que sabem fins ara,
aleshores podrem admetre
que estem en un procés de crear una mena de déu.
Ara és el moment
d'assegurar-nos que és un déu amb qui podem viure.
Moltes gràcies.
(Aplaudiments)
Traduït per Marcos Morales Pallarés