Come non essere sopraffatti, ma responsabilizzati dall'IA

Molti ricercatori di intelligenza artificiale si aspettano che l'IA sia più furba degli essere umani in qualunque lavoro e compito nel giro di decenni, portando a un futuro in cui siamo vincolati solo dalle leggi della fisica, non i limiti della nostra intelligenza. Il fisico dell'MIT a ricercatore IA Max Tegmark separa le vere opportunità e minacce dai miti, descrivendo i passi concreti da fare oggi per garantire che l'IA finisca per essere la migliore cosa, invece della peggiore, che possa capitare all'umanità.

Dopo 13,8 miliardi di anni
di storia cosmica,

il nostro universo si è risvegliato

e ha preso coscienza di se stesso.

Da un piccolo pianeta blu,

minuscole parti coscienti
del nostro universo

hanno iniziato a osservare il cosmo

con telescopi,

scoprendo umiltà.

Abbiamo scoperto che il nostro universo
è molto più grande

di quanto abbiano immaginato
i nostri antenati

e che la vita sembra essere
una perturbazione quasi impercettibile

in un universo altrimenti morto.

Ma abbiamo anche scoperto
qualcosa di stimolante,

ossia che la tecnologia
che stiamo sviluppando

può potenzialmente aiutare la vita
a fiorire come mai prima d'ora,

non solo per secoli,
ma per miliardi di anni,

e non solo sulla terra
ma in gran parte dell'universo.

Vedo la vita precedente
come una "Vita 1.0"

perché era davvero stupida,

come i batteri, incapaci
di imparare alcunché.

Vedo gli esseri umani come una "Vita 2.0"
perché possiamo imparare,

che in linguaggio nerd o geek,

significa installare
nuovi software nel cervello,

come le lingue
e le capacità lavorative.

La "Vita 3.0", che può progettare
l'hardware oltre che il software

ovviamente non esiste ancora.

Ma forse la nostra tecnologia
ci ha già resi "Vita 2.1",

con le ginocchia artificiali,
i pacemaker e gli apparecchi acustici.

Diamo uno sguardo più da vicino
alla nostra relazione con la tecnologia.

Ad esempio,

la missione lunare Apollo 11
è riuscita ed è stata stimolante,

mostrando che quando gli esseri umani
usano la tecnologia con saggezza,

possiamo compiere cose
che i nostri antenati si sognavano.

Ma c'è un percorso ancora più stimolante

spinto da qualcosa di ancora più forte
dei motori dei razzi,

in cui i passeggeri
non sono solo tre astronauti

ma tutta l'umanità.

Parliamo del nostro viaggio collettivo
nel futuro

con l'intelligenza artificiale.

Il mio amico Jaan Tallinn
ama sottolineare che proprio come i razzi,

non basta rendere potente la tecnologia.

Dobbiamo anche capire
se saremo davvero ambiziosi,

dove indirizzarla

e dove vogliamo andarci.

Parliamo di tutti e tre
per l'intelligenza artificiale:

la potenza, la direzione
e la destinazione.

Iniziamo con la potenza.

Definisco l'intelligenza
in modo molto inclusivo --

semplicemente la nostra capacità
di realizzare obiettivi complessi,

perché voglio includere
sia l'intelligenza biologica

che quella artificiale.

E voglio evitare
quella stupida idea carbonio-sciovinistica

che si può essere intelligenti
solo se fatti di carne.

È incredibile
quanto sia migliorata l'IA ultimamente.

Pensateci un po'.

Non molto tempo fa,
i robot non potevano camminare.

Ora possono fare capriole.

Poco tempo fa,

non avevamo le auto
a guida autonoma.

Ora abbiamo razzi a volo autonomo.

Poco tempo fa,

l'IA non era capace
di riconoscimento facciale.

Ora l'IA può generare falsi visi

e similare la vostra faccia
che dice cose che non avete mai detto.

Poco tempo fa,

l'IA non poteva batterci a Go.

Poi, l'IA AlphaZero di Google DeepMind
ha preso 3000 anni di giochi di Go

e saggezza Go,

li ha ignorati tutti ed è diventato
il miglior giocatore al mondo

giocando contro se stesso.

E l'aspetto più impressionante
non è che ha stracciato gli umani,

ma che ha stracciato i ricercatori di IA

che avevano passato decenni
a creare il software di gioco.

E AlphaZero ha stracciato i ricercatori
di IA non solo a Go, ma anche a scacchi,

su cui lavoriamo dal 1950.

Questi straordinari progressi recenti
in IA sollevano la questione:

fin dove ci spingeremo?

Mi piace pensare a questa domanda

in termini di astratto panorama di compiti

in cui l'elevazione rappresenta
la difficoltà di ogni compito per l'IA

a livello umano,

e il livello del mare rappresenta
quello che l'IA può fare oggi.

Il livello del mare si innalza
quando l'IA migliora,

c'è una specie di riscaldamento globale
nel panorama dei compiti.

Il risultato ovvio è evitare
carriere lungo la costa --

(Risate)

che saranno presto
scombussolate e automatizzate.

Ma la questione è molto più ampia.

Quanto si innalzerà l'acqua?

Si innalzerà per inondare tutto,

arriverà a livello
di tutti i compiti umani.

Questa è la definizione
di intelligenza artificiale generale --

AGI,

che è stato il santo graal
dell'IA fin dalla sua nascita.

Con questa definizione, la gente che dice,

"Ci saranno sempre lavori
che gli esseri umani

possono fare meglio delle macchine,

sta semplicemente dicendo
che non arriveremo mai all'AGI.

Certo, potremo anche scegliere
di avere lavori umani

o di dare agli esseri umani reddito
e scopo con i nostri lavori,

ma l'AGI trasformerà comunque
la vita come la conosciamo

e gli esseri umani
non saranno più i più intelligenti.

Se il livello dell'acqua raggiunge l'AGI,

gli ulteriori progressi dell'IA
non saranno più guidati

dagli esseri umani, ma dalla IA,

che significa che c'è la possibilità

che un'ulteriore progresso dell'IA
sia ancora più veloce

della tipica scala temporale
di ricerca e sviluppo umani di anni,

sollevando la possibile controversia
di un'esplosione di intelligenza

in cui una IA che auto-migliora
in modo ricorrente

lascia rapidamente molto indietro
l'intelligenza umana,

creando quello che chiamiamo
una superintelligenza.

Controllo della realtà:

avremo a breve l'AGI?

Alcuni famosi ricercatori di IA,
come Rodney Brooks,

pensano che non succederà
per centinaia di anni.

Ma altri, come il fondatore
di Google DeepMind Demis Hassabis,

sono più ottimisti

e stanno lavorando
per farlo accadere molto prima.

Ricerche recenti hanno dimostrato
che molti ricercatori di IA

condividono l'ottimismo di Demis,

e si aspettano di vedere l'AGI
in qualche decennio,

quindi durante le vita di molti di noi,

il che solleva la domanda: e poi?

Quale vogliamo che sia
il ruolo degli esseri umani

se le macchina possono fare tutto
meglio e a minor costo?

La vedo così: abbiamo di fronte
una scelta.

Un'opzione è esserne soddisfatti.

Possiamo dire, "Dai, costruiamo macchine

che possano fare tutto
quel che facciamo noi

e non ci preoccupiamo delle conseguenze.

Dai, se costruiamo tecnologie
che rendono gli umani obsoleti,

cosa potrebbe andare storto?"

(Risate)

Ma credo che sarebbe
davvero poco convincente.

Credo che dovremmo essere
più ambiziosi, nello spirito di TED.

Immaginiamo un futuro high-tech
davvero stimolante

e cerchiamo di andare
in quella direzione.

Questo ci porta alla seconda parte
della metafora del razzo: la direzione.

Facciamo l'IA più potente,

ma come possiamo indirizzarci
verso un futuro

in cui l'IA aiuti l'umanità
a progredire invece di annaspare?

Per aiutare,

ho cofondato il Future of Life Institute.

È una piccola no profit che promuove
l'uso benefico della tecnologia,

e il nostro obiettivo è
il futuro della vita

e essere più stimolanti possibile.

Sapete che adoro la tecnologia.

La tecnologia è il motivo per cui oggi
stiamo meglio che nell'età della pietra.

E sono ottimista, possiamo creare
un futuro high-tech davvero stimolante...

se, ed è un grande se,

se vinciamo la gara della saggezza,

la gara tra il potere crescente
della tecnologia

e la saggezza crescente
con cui la gestiamo.

Ma sarà necessario un cambio di strategia

perché la nostra vecchia strategia
prevedeva di imparare dagli errori.

Abbiamo inventato il fuoco,

abbiamo fatto qualche casino --

abbiamo inventato l'estintore.

(Risate)

Abbiamo inventato la macchina,
fatto qualche casino --

abbiamo inventato i semafori,
le cinture e gli airbag,

ma con una tecnologia più potente
come le armi nucleari e l'AGI,

imparare dagli errori
è una strategia che fa schifo,

siete d'accordo?

(Risate)

È molto meglio essere proattivi
invece che reattivi;

pianificare in anticipo
e fare le cose bene la prima volta

perché potrebbe essere
la nostra unica occasione.

Ma è divertente perché talvolta
la gente mi dice,

"Max, shhh, non dire così.

È allarmismo luddista."

Ma non è allarmismo.

È quello che noi all'MIT chiamiamo
ingegneria di sicurezza.

Pensateci:

prima del lancio della missione Apollo 11,

la NASA ha pensato sistematicamente
a tutto quello che poteva andare storto

a mettere persone
su serbatoi carburante esplosivi

e lanciarle dove nessuno
avrebbe potuto aiutarle.

E molte cose potevano andare storte.

Era allarmismo?

No.

Era esattamente l'ingegneria di sicurezza

che assicurava il successo della missione,

ed è esattamente la strategia
che credo dovremmo adottare per l'AGI.

Pensare a quello che potrebbe
andare storto per fare le cose giuste.

Con questo spirito,
abbiamo organizzato conferenze,

riunito grandi ricercatori di IA
e altri esperti

per discutere di come coltivare
la saggezza utile

perché l'IA sia vantaggiosa.

La nostra ultima conferenza è stata
a Asilomar, California, l'anno scorso

e ha prodotto una lista di 23 principi

che da allora sono stati sottoscritti
da più di 1000 ricercatori di IA

e importanti leader industriali.

Voglio raccontarvi tre di questi principi.

Uno è che dovremmo evitare

una corsa agli armamenti
e armi autonome letali.

L'idea è che qualunque scienza
può essere usata per aiutare la gente

o per armare la gente.

Per esempio, è più probabile
che la biologia e la chimica vengano usate

per nuovi medicinali o nuove cure
che per uccidere le persone,

perché biologi e chimici
fanno pressione,

in modo efficace,

per proibire armi chimiche e biologiche.

Con lo stesso spirito,

molti ricercatori vogliono stigmatizzare
e proibire le armi letali autonome.

Un altro principio Asilomar dell'IA

è che dovremmo mitigare

le disparità di reddito
alimentate dall'IA.

Credo che se possiamo far crescere
significativamente l'economia con l'IA

senza capire come dividerci questa torta

in modo che tutti stiano meglio,

è una vergogna.

(Applausi)

Bene, ora alzate la mano
se vi si è mai impallato il computer.

(Risate)

Wow, sono tante mani.

Allora vi piacerà questo principio

per cui dovremmo investire
molto di più nella sicurezza dell'IA,

perché se cediamo il controllo all'IA
in sempre più decisioni e infrastrutture,

dobbiamo capire come trasformare
i bug e i computer attaccabili di oggi

in sistemi di IA solidi
in cui avere fiducia,

perché altrimenti,

questa meravigliosa nuova tecnologia,
può funzionare male e danneggiarci,

o essere attaccata
e rivoltarsi contro di noi.

Questo lavoro di sicurezza sull'IA

deve includere un allineamento dei valori,

perché la vera minaccia dell'AGI
non è la malizia,

come negli stupidi film hollywoodiani,

ma la competenza --

l'AGI realizza obiettivi
che non sono allineati ai nostri.

Per esempio, quando noi umani

abbiamo portato
il rinoceronte all'estinzione,

non l'abbiamo fatto perché eravamo
nemici dei rinoceronti, no?

L'abbiamo fatto perché
eravamo più intelligenti di loro

e i nostri obiettivi
non erano allineati con i loro.

Ma l'AGI per definizione
è più intelligente di noi,

quindi per essere sicuri di non metterci
nella posizione di quei rinoceronti

se creiamo l'AGI,

dobbiamo capire come fare macchine
che capiscano i nostri obiettivi,

li adottino e li memorizzino.

E comunque
di chi dovrebbero essere questi obiettivi?

Quali obiettivi dovrebbero essere?

Questo ci porta

alla terza parte della nostra metafora
del razzo: la destinazione.

Facciamo IA più potente,

per capire come indirizzarla,

ma dove vogliamo andarci?

È l'elefante nella stanza
di cui quasi nessuno parla,

nemmeno qui a TED,

perché siamo così fissati
sulle sfide a breve termine dell'IA.

La nostra specie
sta cercando di costruire l'AGI,

motivata da curiosità
e interessi economici,

ma in che tipo di società futura
speriamo se abbiamo successo?

Di recente, abbiamo fatto un sondaggio,

sono stato colpito del fatto

che in realtà molti vogliono
che si costruisca una superintelligenza:

IA che sia molto più intelligente
di noi in tutti i sensi.

Il più grande accordo
è stato sull'ambizione

e sull'aiutare la vita
a diffondersi nel cosmo,

ma c'è stato molto meno accordo
su chi o cosa fosse responsabile.

E mi sono quasi divertito

a vedere che qualcuno
vorrebbe solo le macchine.

(Risate)

C'era totale disaccordo su quale
debba essere il ruolo degli esseri umani,

anche a livello più basilare,

allora guardiamo più da vicino
i futuri possibili

verso i quali potremmo andare.

Non fraintendetemi.

Non sto parlando di viaggio nello spazio,

semplicemente di un metaforico viaggio
dell'umanità nel futuro.

Un'opzione che piace ai miei colleghi IA

è costruire una superintelligenza
e tenerla sotto controllo umano,

come un Dio schiavizzato,

sconnesso da Internet

e usato per creare tecnologia
e ricchezza inimmaginabili

per chiunque la controlli.

Ma Lord Acton ci ha avvisati

che il potere corrompe,

e il potere assoluto
corrompe assolutamente,

penserete che forse gli esseri umani
non sono abbastanza intelligenti,

o piuttosto abbastanza saggi,

per gestire un tale potere.

Inoltre, fatta eccezione
per gli scrupoli morali che potreste avere

sulla sottomissione di menti superiori,

potreste preoccuparvi
di un'intelligenza più furba di noi,

che scappa e prende il controllo.

Ma ho anche colleghi a cui sta bene
una IA che prende il controllo

che causa addirittura
l'estinzione dell'uomo,

purché sentiamo che l'IA
è un nostro degno discendente,

come i nostri figli.

Ma come sapremo che l'IA
ha adottato i nostri migliori valori

e non è solo fatta di zombie inconsapevoli
che ci ingannano a antropomorfizzarli?

E quelli che non vogliono
l'estinzione della razza umana

non dovrebbero dire
qualcosa anche loro?

Se non vi piace nessuna
di queste opzioni high-tech,

è importante ricordare
che low-tech equivale a suicidio

da un punto di vista cosmico,

perché se non andiamo molto oltre
la tecnologia di oggi,

la questione non è
se l'umanità si estinguerà,

ma se verremo spazzati via

dal prossimo asteroide killer,
supervulcano

o qualche altro problema

che una migliore tecnologia
avrebbe potuto risolvere.

Allora perché
non mangiarci la nostra torta...

con AGI non sottomessa

ma ci tratta bene perché i suoi valori
sono allineati ai nostri?

Questo è il concetto di quello
che Eliezer Yudowsky chiama "IA amica,"

e se potessimo farlo,
sarebbe meraviglioso.

Potrebbe non solo eliminare

le esperienze negative
come malattie, povertà,

crimini e altre sofferenze,

ma potrebbe darci anche
la libertà di scelta

tra un fantastica nuova varietà
di esperienze positive --

in sostanza rendendoci padroni
del nostro destino.

Per riassumere,

la nostra situazione
con la tecnologia è complicata,

ma il quadro generale
è piuttosto semplice.

Molti ricercatori di IA si aspettano l'AGI
entro qualche decennio,

e se ci arriviamo impreparati,

sarà probabilmente
il più grande errore della storia --

accettiamolo.

Potrebbe permettere
una dittatura globale brutale

con ineguaglianze, sorveglianza
e sofferenza senza precedenti,

e forse addirittura
l'estinzione del genere umano.

Ma se la indirizziamo attentamente,

potremmo finire in un futuro fantastico
in cui tutti stanno meglio:

i poveri sono più ricchi,
i ricchi sono più ricchi,

tutti sono più in salute
e liberi di vivere i loro sogni.

Ora, tenetevi forte.

Volete un futuro politicamente
di destra o di sinistra?

Volete la devota società
con regole morali rigide,

o ne volete una edonistica
gratis per tutti,

un po' come Burning Man H24?

Volete belle spiagge, foreste e laghi,

o preferite risistemare
un po' di atomi con il computer,

che apra a esperienze
di realtà virtuale?

Con una IA amichevole, potremmo costruire
tutte queste società

e dare alla gente la libertà
di scegliere in quale vivere

perché non saremmo più limitati
dalla nostra intelligenza,

solamente dalla leggi della fisica.

Quindi le risorse e lo spazio
diventerebbero astronomiche --

letteralmente.

Ecco la scelta.

Possiamo essere soddisfatti
del nostro futuro,

prendere come dato con fede cieca

che qualunque nuova tecnologia
è garantita vantaggiosa,

e ripetercelo come un mantra
in continuazione

e andare alla deriva come una nave
senza timone verso l'obsolescenza.

O possiamo essere ambiziosi --

pensare bene
a come indirizzare la tecnologia

e dove vogliamo andarci

per creare l'era della meraviglia.

Siamo qui tutti per festeggiare
l'era della meraviglia,

e sento che la sua essenza
non dovrebbe stare nella sopraffazione

ma nella responsabilizzazione
da parte della nostra tecnologia.

Grazie.

(Applausi)