Non abbiate paura delle super intelligenze artificiali

Nuove tecnologie generano nuove ansie, dice lo scienziato e filosofo Grady Booch, ma non c'è bisogno di spaventarsi per un'onnipotente e apatica intelligenza artificiale. Booch allevia le nostre peggiori paure (indotte dalla fantascienza) verso i computer super intelligenti, spiegando il modo in cui insegneremo loro a condividere i nostri valori. Piuttosto che preoccuparci per un'inesistente minaccia all'umanità, è urgente che consideriamo il modo in cui l'intelligenza artificiale potenzierà l'esperienza umana.

Quando ero piccolo, ero la quintessenza
dell'essere nerd.

Penso che anche alcuni di voi lo fossero.

(Risate)

E lei, che ride più forte
degli altri, probabilmente lo è ancora.

(Risate)

Sono cresciuto in una piccola città
nelle piane polverose del nord Texas,

figlio di uno sceriffo che era figlio
di un pastore.

Mettersi nei guai non era contemplato.

Quindi ho iniziato a leggere libri
di calcolo per divertimento.

(Risate)

Lo avete fatto anche voi.

Ciò mi ha portato a costruire un laser,
un computer e modellini di razzi,

e poi a creare del propellente per razzi
nella mia stanza.

Ora, in termini scientifici,

questa si chiama "una pessima idea".

(Risate)

All'incirca in quel periodo,

"2001: Odissea nello spazio" di Kubrick,
usciva nei cinema

e lì la mia vita cambiò per sempre.

Ho amato tutto di quel film,

specialmente HAL 9000.

HAL era un computer senziente

progettato per guidare
l'astronave Discovery

dalla Terra a Giove.

HAL era anche un personaggio fallace,

perché alla fine preferì
la missione alla vita umana.

HAL era un personaggio fittizio

ma nonostante ciò riusciva
a parlare alle nostre paure,

quelle di essere soggiogati

da qualche intelligenza artificiale,
priva di sentimenti

che è indifferente alla nostra umanità.

Credo che tali paure siano infondate.

Infatti, viviamo in un'epoca significativa

della storia dell'umanità,

in cui, guidati dal rifiuto di accettare
i limiti del corpo e della mente

costruiamo macchine

di ricercata, bellissima complessità
e grazia

che espanderà l'esperienza umana

in modi che non possiamo
immaginare.

Dopo una carriera che va
dall'Air Force Academy

allo Space Command a oggi,

sono un ingegnere sistemista,

e da poco sono stato coinvolto
in un problema d'ingegneria

associato alla spedizione NASA su Marte.

Nelle spedizioni verso la Luna,

possiamo affidarci
al centro di controllo di Houston

perché sorvegli la spedizione.

In ogni caso, Marte è 200 volte
più lontano,

e perciò ci vogliono in media
13 minuti

perché un segnale arrivi
dalla Terra a Marte.

Se si verifica un problema,
non c'è abbastanza tempo.

E quindi una soluzione ingegneristica
ragionevole

ci chiama a mettere dispositivi
di controllo

dentro la navicella Orion.

Un'altra affascinante idea per le missioni

è piazzare robot umanoidi
sulla superficie di Marte

prima che vi arrivino gli esseri umani,

affinché facilitino il lavoro

e collaborino
con la squadra scientifica.

Ora, lavorando
da una prospettiva ingegneristica,

fu molto chiaro per me che ciò
che dovevo architettare

era un'intelligenza artificiale

brillante, collaborativa,
socialmente ragionevole.

In altre parole, dovevo creare
qualcosa molto simile ad HAL

ma senza le sue tendenze omicide.

(Risate)

Fermiamoci per un momento.

È davvero possibile costruire
un'intelligenza artificiale come quella?

In effetti sì.

Sotto molti aspetti,

è un complesso problema ingegneristico

con elementi di IA,

non un inestricabile problema di IA
che ha bisogno dell'ingegneria.

Parafrasando Alan Turing,

non voglio costruire
una macchina senziente.

Non sto costruendo un HAL.

Ciò che cerco è un semplice cervello,

qualcosa che offra l'illusione
dell'intelligenza.

L'arte e la scienza dell'elaborazione dati
ha fatto molta strada

da quando è apparso HAL,

e immagino che se il suo inventore,
il Dott. Chandra, fosse qui oggi

avrebbe un sacco di domande per noi.

È davvero possibile per noi

prendere un sistema di milioni
e milioni di dispositivi,

leggere le loro sequenze dati,

prevedere i loro fallimenti
e azioni in anticipo?

Sì.

Possiamo costruire sistemi che conversino
con noi in linguaggio naturale?

Sì.

Sistemi che riconoscano oggetti,
identifichino emozioni,

si emozionino a loro volta,
giochino e leggano persino il labiale?

Sì.

Un sistema che ponga degli obiettivi,

che pianifichi in base ad essi
e che impari strada facendo?

Sì.

Costruire sistemi che abbiano
una teoria della mente?

Stiamo imparando a farlo.

Possiamo costruire sistemi che abbiano
un'etica e una morale?

Dobbiamo imparare a farlo.

Accettiamo per un momento

che si possa costruire una simile
intelligenza artificiale

per questo tipo di missioni o per altre.

La domanda successiva che dovete porvi è:

dovremmo averne paura?

Qualsiasi nuova tecnologia

porta con sé un po' di apprensione.

Quando arrivarono le prime auto,

la gente temeva di assistere
alla distruzione della famiglia.

Quando arrivarono i telefoni,

si preoccupò per la fine
della conversazione civile.

E, quando assistette alla
diffusione della scrittura,

la gente pensò di perdere
la capacità di memorizzare.

Tutto questo è vero
fino a un certo punto,

ma si dà anche il caso
che queste tecnologie

ci abbiano portato cose
che hanno allargato l'esperienza umana

profondamente.

Approfondiamo la questione.

Non ho paura della creazione di un'IA
come questa,

perché alla fine incarnerà alcuni
dei nostri valori.

Considerate questo: costruire
un sistema cognitivo è molto diverso

dal costruire un sistema software intensivo
tradizionale del passato.

Non li programmiamo ma insegniamo loro.

Per insegnare a un sistema
a riconoscere i fiori,

gli mostro migliaia di fiori, dei tipi
che piacciono a me.

Per insegnare a un sistema
a giocare a un gioco --

beh lo farei, farei anche questo.

Mi piacciono i fiori. Andiamo.

Per insegnare a un sistema a giocare
a un gioco come Go,

devo fargli fare migliaia di partite a Go,

e nel frattempo gli insegno anche

a distinguere un buon gioco
da un gioco cattivo.

Se voglio creare un assistente legale
artificialmente intelligente,

gli insegnerò il corpus legislativo

ma allo stesso tempo gli infonderò

il senso di pietà e giustizia
che è parte di quella legge.

In termini scientifici definiamo tutto
questo "ground truth",

e questo è il punto fondamentale:

nel produrre queste macchine,

insegniamo anche loro
il senso dei nostri valori.

Con questo fine, mi fido
di un'intelligenza artificiale

come, se non di più, mi fido
di un essere umano ben istruito.

Ma, potreste chiedere,

che ne è degli agenti corrotti,

di qualche organizzazione non governativa
ben finanziata?

Non ho paura di un'intelligenza
artificiale in mano a un lupo solitario.

È ovvio, non possiamo proteggerci
da tutti gli arbitrari atti di violenza,

ma la realtà è che un simile sistema

richiede un allenamento tanto acuto

da andare ben oltre le risorse
di un individuo.

E inoltre,

è molto più che iniettare un virus
via internet al mondo,

dove premi un bottone e subito
lo ritrovi in milioni di posti

e i computer iniziano ovunque
ad andare in tilt.

Questo tipo di elementi
è molto più complesso

e certamente lo sperimenteremo.

Ho paura che una simile
intelligenza artificiale

possa minacciare tutta l'umanità?

Se guardate film come
"Matrix", "Metropolis",

"Terminator", show come
"Westworld",

tutti parlano di questo tipo di paura.

Infatti, nel libro "Superintelligence"
del filosofo Nick Bostrom,

l'autore considera questo tema

e osserva che una super intelligenza
potrebbe non solo essere pericolosa,

ma rappresentare anche una minaccia
esistenziale per tutta l'umanità.

La principale argomentazione del
Dott. Bostrom

è che tali sistemi potrebbero prima o poi

avere una sete tale di informazioni

che potrebbero forse imparare
come si impara

e anche scoprire che potrebbero
avere obiettivi

contrari ai bisogni umani.

Bostrom ha un gran numero
di seguaci.

È supportato da persone come
Elon Musk e Stephen Hawking.

Con tutto il rispetto dovuto

a queste menti brillanti,

credo che siano gravemente in errore.

Ci sarebbero molte parti della teoria
di Bostrom da analizzare,

e non ho il tempo di analizzarle tutte,

ma molto brevemente, considerate questo:

una grande conoscenza è diversa
da una grande capacità di azione.

HAL era una minaccia per l'equipaggio

solo finché controllava tutti gli aspetti
del Discovery.

Quindi avrebbe dovuto avere
una super intelligenza.

Avrebbe dovuto dominare tutto
il mondo.

Questa è la squadra Skynet dal
film "Terminator"

in cui abbiamo una super intelligenza

che domina la volontà umana

e ogni congegno in ogni parte del mondo.

In pratica,

questo non succederà.

Non stiamo costruendo IA
che controllino il meteo,

le maree,

che comandino su noi capricciosi
e caotici umani.

Inoltre, se una simile intelligenza
artificiale esistesse,

dovrebbe competere con le economie
degli esseri umani,

e quindi competere con noi
per le risorse disponibili.

E infine --

non ditelo a Siri --

possiamo sempre disattivarli.

(Risate)

Siamo parte di un incredibile viaggio

di co-evoluzione con altre macchine.

Gli esseri umani che siamo oggi

non sono quelli che saremo in futuro.

Preoccuparsi ora della minaccia
di una super-intelligenza

è per molti aspetti
una distrazione pericolosa

perché l'incremento della
computerizzazione

ci presenta una quantità di questioni
umane e sociali

di cui adesso dobbiamo occuparci.

Come posso organizzare al meglio
la società

quando diminuirà la necessità
del lavoro umano?

Come posso fornire al mondo
conoscenza ed educazione

rispettando le nostre differenze?

Come posso estendere e migliorare la vita
umana attraverso la salute cognitiva?

Come posso usare la computerizzazione

per raggiungere le stelle?

Ed è questa la cosa eccitante.

Le opportunità di elaborare dati

per affinare l'esperienza umana

sono alla nostra portata,

qui e adesso,

e siamo solo all'inizio.

Grazie mille.

(Applausi)