I pericoli dell’IA sono più bizzarri di quanto si pensi.

I pericoli dell’intelligenza artificiale non hanno origine dal fatto che questa si voglia ribellare a noi, bensì che essa faccia esattamente ciò che le chiediamo di fare, afferma la ricercatrice di IA, Janelle Shane.
Condividendo le strane, a volte inquietanti bizzarìe degli algoritmi dell’IA proponendosi di risolvere i problemi umani, (come, ad esempio, creare nuovi gusti di gelato o riconoscere le auto per strada), Shane dimostra i motivi per cui l’intelligenza artificiale non sia ancora all’altezza del vero cervello.

L’intelligenza artificiale
è notoriamente capace

di sconvolgere tutte le industrie
in cui entra in azione.

Che ne dite di applicarla al gelato?

Che razza di nuovi,
strabilianti sapori potremmo generare

sfruttando un’intelligenza
artificiale avanzata?

Ho collaborato con dei programmatori
della Kealing Middle School

per trovare la risposta a questa domanda.

Hanno raccolto oltre 1.600 gusti
di gelato esistenti,

che abbiamo inserito in un algoritmo
per vedere cosa avrebbe generato.

Ecco alcuni dei gusti creati dall’IA:

[Merenda di spazzatura alla zucca]

(Risate)

[Melma al burro di arachidi]

[Malattia alla crema di fragole]

(Risate)

Non proprio le suggestioni invitanti
che speravamo di ricevere.

La domanda sorge spontanea:
cos’è successo?

Che cosa è andato storto?

L’IA sta cercando di ucciderci?

O ha fatto quello che abbiamo chiesto,
e si è verificato un problema?

Nei film, quando qualcosa
va storto con l’IA,

di solito è perché l’IA stessa ha deciso

che non vuole più obbedire agli umani,

ma perseguire i propri obiettivi,
e al diavolo tutti!

Tuttavia, nella vita reale,
l’IA di cui effettivamente disponiamo

non è così intelligente da poterlo fare.

Ha approssimativamnte
la potenza di calcolo di un lombrico,

o al massimo di una singola ape,

probabilmente anche meno.

Scopriamo continuamente
cose nuove sul cervello umano,

che possiamo tranquillamente affermare
non essere all’altezza di un’IA.

L’IA di oggi, quindi,
identifica un pedone in una foto,

ma non ha idea di cosa sia un pedone

al di là di un insieme
di linee, trame ed altro.

Di fatto, non sa cosa sia un essere umano.

Quindi l’IA di oggi farà
quello che le chiediamo di fare?

Lo farà se potrà,

ma potrebbe non fare
ciò che davvero vogliamo.

Mettiamo che stiate cercando
di indurre un'IA

a prendere questo insieme
di parti di robot

e assemblarli in una specie di robot
per andare dal punto A al punto B.

Se voleste provare
a risolvere questo problema

scrivendo un programma informatico
in stile tradizionale,

fornireste al programma
istruzioni dettagliate

su come prendere queste parti,

assemblarle in un robot con le gambe

e infine usare queste gambe
per raggiungere il punto B.

Ma quando usate l’IA
per risolvere il problema,

le cose vanno diversamente.

Non le spiegate
come risolvere il problema:

le date solo l'obiettivo,

e sarà lei a capire da sola,
attraverso tentativi ed errori,

come raggiungere quell’obiettivo.

Si scopre così che l’IA tende a risolvere
questo particolare problema

facendo così:

assembla se stessa in una torre,
fino a cadere e atterrare sul punto B.

Tecnicamente, questo risolve il problema.

Teoricamente, ha raggiunto il punto B.

La minaccia dell’IA non è data dal fatto
che questa possa ribellarsi a noi,

ma piuttosto che faccia esattamente
quello che le chiediamo di fare.

Per lavorare con l’IA, quindi,
la vera questione diventa:

come possiamo impostare il problema
in modo che faccia ciò che vogliamo?

Questo piccolo robot è controllato
da un’intelligenza artificiale.

L’IA ha elaborato una struttura
per le gambe del robot

e ha immaginato come muoverle
per farle superare tutti quegli ostacoli.

Ma quando David Ha
ha avviato questo esperimento,

ha dovuto stabilire dei limiti severissimi

entro i quali all’IA era permesso
realizzare le gambe,

perché altrimenti...

(Risate)

E tecnicamente, è arrivata alla fine
di quella corsa ad ostacoli.

Vedete quanto è difficile far fare all’IA
una cosa semplice come camminare.

Vedendo l’IA fare tutto questo,
potreste pensare: "Ok, non va bene,

non puoi pensare di essere
una torre alta e cadere;

devi usare le gambe per camminare.

Ma a quanto pare,
neanche questo sempre funziona.

Il compito di questa IA
era muoversi velocemente.

Non le hanno detto
che doveva correre guardando avanti,

o che non poteva utilizzare le braccia.

Questo è ciò che ottenete
se istruite l’IA a muoversi velocemente,

cose tipo capriole o camminate strambe.

È molto frequente.

Lo è anche ammucchiarsi sul pavimento
muovendosi a scatti.

(Risate)

Quindi, secondo me, sapete cosa
sarebbe stato ancora più strano?

Il robot “Terminator”.

Modificare “The Matrix” è un’altra cosa
che l’IA farà, potendo.

Se addestrate un’IA in una simulazione,

imparerà ad accedere agli errori
di matematica della simulazione

e a farne tesoro per avere energia.

Oppure capirà come andare più veloce
muovendosi a scatti sul pavimento.

Lavorare con l’IA

è diverso dal lavorare
con un altro essere umano:

e più simile al lavorare
con una strana forza della natura.

È molto facile darle accidentalmente
il problema sbagliato da risolvere,

e spesso non ce ne rendiamo conto
finché qualcosa non va storto.

Ecco un esperimento che ho fatto,

in cui volevo che l’IA
copiasse i colori della vernice,

per inventarne di nuovi,

prendendoli dalla lista
di quelli qui a sinistra.

Ed ecco quello che l’IA
ha effettivamente creato:

"Pupù Sindhi, Merdolino,
Sofferenza, Grigio Pubico"

(Risate)

Quindi, tecnicamente,

ha fatto quello che le ho chiesto.

Io pensavo di averle chiesto
dei nomi di colori di vernice carini,

ma in realtà quello che stavo chiedendo

era solo di imitare
il tipo di combinazioni di lettere

che aveva visto nell’originale.

Non le ho detto nulla
sul significato delle parole,

o che ci siano forse delle parole

che dovrebbe evitare di utilizzare
per questi colori di vernice.

Perciò, le informazioni che le ho dato
rappresentano tutto il suo mondo.

Come con i gusti del gelato,
l'IA non conosce nient’altro.

È con le informazioni

che spesso istruiamo l’IA,
senza volerlo, a fare la cosa sbagliata.

Questo è un pesce chiamato tinca.

C’è stato un gruppo di ricercatori

che ha addestrato un’IA
a riconoscere questa tinca nelle foto.

Ma quando le hanno chiesto

quale parte dell'immagine
stesse usando per identificare il pesce,

questo è quello che ha evidenziato.

Sì, quelle sono dita umane.

Perché dovrebbe cercare dita umane,
se sta cercando di identificare un pesce?

Beh, è emerso che la tinca
è un trofeo di pesca,

e in molte delle immagini di tinca
usate per allenare l’IA

il pesce appariva così.

(Risate)

E non sapeva che le dita
non facessero parte del pesce.

Capite quindi quanto è difficile
progettare un'IA

che riesca davvero a comprendere
cosa sta guardando.

Per questo progettare
il riconoscimento delle immagini,

in automobili a guida autonoma,
è così difficile;

e per questo tanti insuccessi
delle auto senza conducente

sono dovuti al fatto che l’IA si confonde.

Vorrei citare un esempio del 2016.

Ci fu un incidente mortale durante l’uso
del pilota automatico di una Tesla;

invece di usarlo in autostrada,
per cui era stato progettato,

fu usato per le strade di città.

Un camion sbucò di fronte all’auto,
e questa non frenò.

L’IA era stata sicuramente istruita
a riconoscere i camion nelle immagini.

Ma a quanto pare,

l’IA era stata istruita a riconoscere
i camion in autostrada,

dove ci si aspetta di vedere i camion
arrivare da dietro, non di lato.

E così, quando l’IA ha visto il camion,

sembra che l’abbia identificato
come più simile ad un cartello stradale,

sicura di potergli passare sotto.

Ecco un altro passo falso dell’IA,
in un altro settore.

Amazon ha recentemente rinunciato
a un algoritmo di selezione di curricula,

su cui stava lavorando,

quando ha scoperto che l’algoritmo
aveva imparato a discriminare le donne.

Si è scoperto che l’avevano istruito
basandosi su modelli di curricula

di persone assunte in passato.

Da questi esempi,
l’IA ha imparato ad evitare i cv

delle persone che avevano frequentato
università femminili,

o che avevano la parola "donne"
da qualche parte nei loro cv,

come in "Squadra di Calcio delle Donne"
o "Società delle Donne Ingegnere".

L’IA non sapeva di dover correggere
questa discriminazione appresa da noi.

Tecnicamente, ha fatto
quello che le hanno chiesto di fare.

Le hanno semplicemente chiesto,
per caso, di fare la cosa sbagliata.

E questo accade di continuo, con l’IA.

L’IA può essere davvero dannosa
senza rendersene conto.

Perciò le IA che raccomandano
nuovi contenuti su Facebook, su YouTube,

sono ottimizzate per accrescere
il numero di click e visualizzazioni.

E un modo che hanno trovato
per riuscirci, sfortunatamente,

è di raccomandare i contenuti
di complottismo e bigottismo.

Le IA stesse non hanno alcuna idea
di cosa sia realmente quel contenuto,

e non hanno alcuna idea
di quali possano essere le conseguenze,

nel raccomandarlo.

Quando lavoriamo con un’IA, quindi,

sta a noi evitare i problemi.

Ed evitare che le cose vadano male,

il che in sostanza ci riporta
all'annoso problema della comunicazione,

per cui noi umani dobbiamo imparare
a comunicare con l’IA.

Dobbiamo imparare cosa l’IA
sa fare bene e cosa no

e capire che, con il suo minuscolo
cervello da vermiciattolo,

l’IA non capisce che cosa
le stiamo chiedendo di fare.

Dobbiamo imparare, in altre parole,
a saper lavorare con l’IA "vera",

che non è l’IA super competente
e onnisciente della fantascienza.

Dobbiamo essere preparati a lavorare
con l’IA che abbiamo oggi.

E allo stato attuale,
l'IA è già bizzarra a sufficienza.

Grazie.

(Applausi)