Dopo 13,8 miliardi di anni di storia cosmica,
il nostro universo si è risvegliato
e ha preso coscienza di se stesso.
Da un piccolo pianeta blu,
minuscole parti coscienti del nostro universo
hanno iniziato a osservare il cosmo
con telescopi,
scoprendo umiltà.
Abbiamo scoperto che il nostro universo è molto più grande
di quanto abbiano immaginato i nostri antenati
e che la vita sembra essere una perturbazione quasi impercettibile
in un universo altrimenti morto.
Ma abbiamo anche scoperto qualcosa di stimolante,
ossia che la tecnologia che stiamo sviluppando
può potenzialmente aiutare la vita a fiorire come mai prima d'ora,
non solo per secoli, ma per miliardi di anni,
e non solo sulla terra ma in gran parte dell'universo.
Vedo la vita precedente come una "Vita 1.0"
perché era davvero stupida,
come i batteri, incapaci di imparare alcunché.
Vedo gli esseri umani come una "Vita 2.0" perché possiamo imparare,
che in linguaggio nerd o geek,
significa installare nuovi software nel cervello,
come le lingue e le capacità lavorative.
La "Vita 3.0", che può progettare l'hardware oltre che il software
ovviamente non esiste ancora.
Ma forse la nostra tecnologia ci ha già resi "Vita 2.1",
con le ginocchia artificiali, i pacemaker e gli apparecchi acustici.
Diamo uno sguardo più da vicino alla nostra relazione con la tecnologia.
Ad esempio,
la missione lunare Apollo 11 è riuscita ed è stata stimolante,
mostrando che quando gli esseri umani usano la tecnologia con saggezza,
possiamo compiere cose che i nostri antenati si sognavano.
Ma c'è un percorso ancora più stimolante
spinto da qualcosa di ancora più forte dei motori dei razzi,
in cui i passeggeri non sono solo tre astronauti
ma tutta l'umanità.
Parliamo del nostro viaggio collettivo nel futuro
con l'intelligenza artificiale.
Il mio amico Jaan Tallinn ama sottolineare che proprio come i razzi,
non basta rendere potente la tecnologia.
Dobbiamo anche capire se saremo davvero ambiziosi,
dove indirizzarla
e dove vogliamo andarci.
Parliamo di tutti e tre per l'intelligenza artificiale:
la potenza, la direzione e la destinazione.
Iniziamo con la potenza.
Definisco l'intelligenza in modo molto inclusivo --
semplicemente la nostra capacità di realizzare obiettivi complessi,
perché voglio includere sia l'intelligenza biologica
che quella artificiale.
E voglio evitare quella stupida idea carbonio-sciovinistica
che si può essere intelligenti solo se fatti di carne.
È incredibile quanto sia migliorata l'IA ultimamente.
Pensateci un po'.
Non molto tempo fa, i robot non potevano camminare.
Ora possono fare capriole.
Poco tempo fa,
non avevamo le auto a guida autonoma.
Ora abbiamo razzi a volo autonomo.
Poco tempo fa,
l'IA non era capace di riconoscimento facciale.
Ora l'IA può generare falsi visi
e similare la vostra faccia che dice cose che non avete mai detto.
Poco tempo fa,
l'IA non poteva batterci a Go.
Poi, l'IA AlphaZero di Google DeepMind ha preso 3000 anni di giochi di Go
e saggezza Go,
li ha ignorati tutti ed è diventato il miglior giocatore al mondo
giocando contro se stesso.
E l'aspetto più impressionante non è che ha stracciato gli umani,
ma che ha stracciato i ricercatori di IA
che avevano passato decenni a creare il software di gioco.
E AlphaZero ha stracciato i ricercatori di IA non solo a Go, ma anche a scacchi,
su cui lavoriamo dal 1950.
Questi straordinari progressi recenti in IA sollevano la questione:
fin dove ci spingeremo?
Mi piace pensare a questa domanda
in termini di astratto panorama di compiti
in cui l'elevazione rappresenta la difficoltà di ogni compito per l'IA
a livello umano,
e il livello del mare rappresenta quello che l'IA può fare oggi.
Il livello del mare si innalza quando l'IA migliora,
c'è una specie di riscaldamento globale nel panorama dei compiti.
Il risultato ovvio è evitare carriere lungo la costa --
(Risate)
che saranno presto scombussolate e automatizzate.
Ma la questione è molto più ampia.
Quanto si innalzerà l'acqua?
Si innalzerà per inondare tutto,
arriverà a livello di tutti i compiti umani.
Questa è la definizione di intelligenza artificiale generale --
AGI,
che è stato il santo graal dell'IA fin dalla sua nascita.
Con questa definizione, la gente che dice,
"Ci saranno sempre lavori che gli esseri umani
possono fare meglio delle macchine,
sta semplicemente dicendo che non arriveremo mai all'AGI.
Certo, potremo anche scegliere di avere lavori umani
o di dare agli esseri umani reddito e scopo con i nostri lavori,
ma l'AGI trasformerà comunque la vita come la conosciamo
e gli esseri umani non saranno più i più intelligenti.
Se il livello dell'acqua raggiunge l'AGI,
gli ulteriori progressi dell'IA non saranno più guidati
dagli esseri umani, ma dalla IA,
che significa che c'è la possibilità
che un'ulteriore progresso dell'IA sia ancora più veloce
della tipica scala temporale di ricerca e sviluppo umani di anni,
sollevando la possibile controversia di un'esplosione di intelligenza
in cui una IA che auto-migliora in modo ricorrente
lascia rapidamente molto indietro l'intelligenza umana,
creando quello che chiamiamo una superintelligenza.
Controllo della realtà:
avremo a breve l'AGI?
Alcuni famosi ricercatori di IA, come Rodney Brooks,
pensano che non succederà per centinaia di anni.
Ma altri, come il fondatore di Google DeepMind Demis Hassabis,
sono più ottimisti
e stanno lavorando per farlo accadere molto prima.
Ricerche recenti hanno dimostrato che molti ricercatori di IA
condividono l'ottimismo di Demis,
e si aspettano di vedere l'AGI in qualche decennio,
quindi durante le vita di molti di noi,
il che solleva la domanda: e poi?
Quale vogliamo che sia il ruolo degli esseri umani
se le macchina possono fare tutto meglio e a minor costo?
La vedo così: abbiamo di fronte una scelta.
Un'opzione è esserne soddisfatti.
Possiamo dire, "Dai, costruiamo macchine
che possano fare tutto quel che facciamo noi
e non ci preoccupiamo delle conseguenze.
Dai, se costruiamo tecnologie che rendono gli umani obsoleti,
cosa potrebbe andare storto?"
(Risate)
Ma credo che sarebbe davvero poco convincente.
Credo che dovremmo essere più ambiziosi, nello spirito di TED.
Immaginiamo un futuro high-tech davvero stimolante
e cerchiamo di andare in quella direzione.
Questo ci porta alla seconda parte della metafora del razzo: la direzione.
Facciamo l'IA più potente,
ma come possiamo indirizzarci verso un futuro
in cui l'IA aiuti l'umanità a progredire invece di annaspare?
Per aiutare,
ho cofondato il Future of Life Institute.
È una piccola no profit che promuove l'uso benefico della tecnologia,
e il nostro obiettivo è il futuro della vita
e essere più stimolanti possibile.
Sapete che adoro la tecnologia.
La tecnologia è il motivo per cui oggi stiamo meglio che nell'età della pietra.
E sono ottimista, possiamo creare un futuro high-tech davvero stimolante...
se, ed è un grande se,
se vinciamo la gara della saggezza,
la gara tra il potere crescente della tecnologia
e la saggezza crescente con cui la gestiamo.
Ma sarà necessario un cambio di strategia
perché la nostra vecchia strategia prevedeva di imparare dagli errori.
Abbiamo inventato il fuoco,
abbiamo fatto qualche casino --
abbiamo inventato l'estintore.
(Risate)
Abbiamo inventato la macchina, fatto qualche casino --
abbiamo inventato i semafori, le cinture e gli airbag,
ma con una tecnologia più potente come le armi nucleari e l'AGI,
imparare dagli errori è una strategia che fa schifo,
siete d'accordo?
(Risate)
È molto meglio essere proattivi invece che reattivi;
pianificare in anticipo e fare le cose bene la prima volta
perché potrebbe essere la nostra unica occasione.
Ma è divertente perché talvolta la gente mi dice,
"Max, shhh, non dire così.
È allarmismo luddista."
Ma non è allarmismo.
È quello che noi all'MIT chiamiamo ingegneria di sicurezza.
Pensateci:
prima del lancio della missione Apollo 11,
la NASA ha pensato sistematicamente a tutto quello che poteva andare storto
a mettere persone su serbatoi carburante esplosivi
e lanciarle dove nessuno avrebbe potuto aiutarle.
E molte cose potevano andare storte.
Era allarmismo?
No.
Era esattamente l'ingegneria di sicurezza
che assicurava il successo della missione,
ed è esattamente la strategia che credo dovremmo adottare per l'AGI.
Pensare a quello che potrebbe andare storto per fare le cose giuste.
Con questo spirito, abbiamo organizzato conferenze,
riunito grandi ricercatori di IA e altri esperti
per discutere di come coltivare la saggezza utile
perché l'IA sia vantaggiosa.
La nostra ultima conferenza è stata a Asilomar, California, l'anno scorso
e ha prodotto una lista di 23 principi
che da allora sono stati sottoscritti da più di 1000 ricercatori di IA
e importanti leader industriali.
Voglio raccontarvi tre di questi principi.
Uno è che dovremmo evitare
una corsa agli armamenti e armi autonome letali.
L'idea è che qualunque scienza può essere usata per aiutare la gente
o per armare la gente.
Per esempio, è più probabile che la biologia e la chimica vengano usate
per nuovi medicinali o nuove cure che per uccidere le persone,
perché biologi e chimici fanno pressione,
in modo efficace,
per proibire armi chimiche e biologiche.
Con lo stesso spirito,
molti ricercatori vogliono stigmatizzare e proibire le armi letali autonome.
Un altro principio Asilomar dell'IA
è che dovremmo mitigare
le disparità di reddito alimentate dall'IA.
Credo che se possiamo far crescere significativamente l'economia con l'IA
senza capire come dividerci questa torta
in modo che tutti stiano meglio,
è una vergogna.
(Applausi)
Bene, ora alzate la mano se vi si è mai impallato il computer.
(Risate)
Wow, sono tante mani.
Allora vi piacerà questo principio
per cui dovremmo investire molto di più nella sicurezza dell'IA,
perché se cediamo il controllo all'IA in sempre più decisioni e infrastrutture,
dobbiamo capire come trasformare i bug e i computer attaccabili di oggi
in sistemi di IA solidi in cui avere fiducia,
perché altrimenti,
questa meravigliosa nuova tecnologia, può funzionare male e danneggiarci,
o essere attaccata e rivoltarsi contro di noi.
Questo lavoro di sicurezza sull'IA
deve includere un allineamento dei valori,
perché la vera minaccia dell'AGI non è la malizia,
come negli stupidi film hollywoodiani,
ma la competenza --
l'AGI realizza obiettivi che non sono allineati ai nostri.
Per esempio, quando noi umani
abbiamo portato il rinoceronte all'estinzione,
non l'abbiamo fatto perché eravamo nemici dei rinoceronti, no?
L'abbiamo fatto perché eravamo più intelligenti di loro
e i nostri obiettivi non erano allineati con i loro.
Ma l'AGI per definizione è più intelligente di noi,
quindi per essere sicuri di non metterci nella posizione di quei rinoceronti
se creiamo l'AGI,
dobbiamo capire come fare macchine che capiscano i nostri obiettivi,
li adottino e li memorizzino.
E comunque di chi dovrebbero essere questi obiettivi?
Quali obiettivi dovrebbero essere?
Questo ci porta
alla terza parte della nostra metafora del razzo: la destinazione.
Facciamo IA più potente,
per capire come indirizzarla,
ma dove vogliamo andarci?
È l'elefante nella stanza di cui quasi nessuno parla,
nemmeno qui a TED,
perché siamo così fissati sulle sfide a breve termine dell'IA.
La nostra specie sta cercando di costruire l'AGI,
motivata da curiosità e interessi economici,
ma in che tipo di società futura speriamo se abbiamo successo?
Di recente, abbiamo fatto un sondaggio,
sono stato colpito del fatto
che in realtà molti vogliono che si costruisca una superintelligenza:
IA che sia molto più intelligente di noi in tutti i sensi.
Il più grande accordo è stato sull'ambizione
e sull'aiutare la vita a diffondersi nel cosmo,
ma c'è stato molto meno accordo su chi o cosa fosse responsabile.
E mi sono quasi divertito
a vedere che qualcuno vorrebbe solo le macchine.
(Risate)
C'era totale disaccordo su quale debba essere il ruolo degli esseri umani,
anche a livello più basilare,
allora guardiamo più da vicino i futuri possibili
verso i quali potremmo andare.
Non fraintendetemi.
Non sto parlando di viaggio nello spazio,
semplicemente di un metaforico viaggio dell'umanità nel futuro.
Un'opzione che piace ai miei colleghi IA
è costruire una superintelligenza e tenerla sotto controllo umano,
come un Dio schiavizzato,
sconnesso da Internet
e usato per creare tecnologia e ricchezza inimmaginabili
per chiunque la controlli.
Ma Lord Acton ci ha avvisati
che il potere corrompe,
e il potere assoluto corrompe assolutamente,
penserete che forse gli esseri umani non sono abbastanza intelligenti,
o piuttosto abbastanza saggi,
per gestire un tale potere.
Inoltre, fatta eccezione per gli scrupoli morali che potreste avere
sulla sottomissione di menti superiori,
potreste preoccuparvi di un'intelligenza più furba di noi,
che scappa e prende il controllo.
Ma ho anche colleghi a cui sta bene una IA che prende il controllo
che causa addirittura l'estinzione dell'uomo,
purché sentiamo che l'IA è un nostro degno discendente,
come i nostri figli.
Ma come sapremo che l'IA ha adottato i nostri migliori valori
e non è solo fatta di zombie inconsapevoli che ci ingannano a antropomorfizzarli?
E quelli che non vogliono l'estinzione della razza umana
non dovrebbero dire qualcosa anche loro?
Se non vi piace nessuna di queste opzioni high-tech,
è importante ricordare che low-tech equivale a suicidio
da un punto di vista cosmico,
perché se non andiamo molto oltre la tecnologia di oggi,
la questione non è se l'umanità si estinguerà,
ma se verremo spazzati via
dal prossimo asteroide killer, supervulcano
o qualche altro problema
che una migliore tecnologia avrebbe potuto risolvere.
Allora perché non mangiarci la nostra torta...
con AGI non sottomessa
ma ci tratta bene perché i suoi valori sono allineati ai nostri?
Questo è il concetto di quello che Eliezer Yudowsky chiama "IA amica,"
e se potessimo farlo, sarebbe meraviglioso.
Potrebbe non solo eliminare
le esperienze negative come malattie, povertà,
crimini e altre sofferenze,
ma potrebbe darci anche la libertà di scelta
tra un fantastica nuova varietà di esperienze positive --
in sostanza rendendoci padroni del nostro destino.
Per riassumere,
la nostra situazione con la tecnologia è complicata,
ma il quadro generale è piuttosto semplice.
Molti ricercatori di IA si aspettano l'AGI entro qualche decennio,
e se ci arriviamo impreparati,
sarà probabilmente il più grande errore della storia --
accettiamolo.
Potrebbe permettere una dittatura globale brutale
con ineguaglianze, sorveglianza e sofferenza senza precedenti,
e forse addirittura l'estinzione del genere umano.
Ma se la indirizziamo attentamente,
potremmo finire in un futuro fantastico in cui tutti stanno meglio:
i poveri sono più ricchi, i ricchi sono più ricchi,
tutti sono più in salute e liberi di vivere i loro sogni.
Ora, tenetevi forte.
Volete un futuro politicamente di destra o di sinistra?
Volete la devota società con regole morali rigide,
o ne volete una edonistica gratis per tutti,
un po' come Burning Man H24?
Volete belle spiagge, foreste e laghi,
o preferite risistemare un po' di atomi con il computer,
che apra a esperienze di realtà virtuale?
Con una IA amichevole, potremmo costruire tutte queste società
e dare alla gente la libertà di scegliere in quale vivere
perché non saremmo più limitati dalla nostra intelligenza,
solamente dalla leggi della fisica.
Quindi le risorse e lo spazio diventerebbero astronomiche --
letteralmente.
Ecco la scelta.
Possiamo essere soddisfatti del nostro futuro,
prendere come dato con fede cieca
che qualunque nuova tecnologia è garantita vantaggiosa,
e ripetercelo come un mantra in continuazione
e andare alla deriva come una nave senza timone verso l'obsolescenza.
O possiamo essere ambiziosi --
pensare bene a come indirizzare la tecnologia
e dove vogliamo andarci
per creare l'era della meraviglia.
Siamo qui tutti per festeggiare l'era della meraviglia,
e sento che la sua essenza non dovrebbe stare nella sopraffazione
ma nella responsabilizzazione da parte della nostra tecnologia.
Grazie.
(Applausi)