Il vero motivo per cui temere l'Intelligenza Artificiale | Peter Haas | TEDxDirigo

Il ricercatore di robotica Peter Haas ci invita a entrare nel suo mondo per farci capire dove risiedono i pericoli dei robot e dell'Intelligenza Artificiale. Prima di arrivare ai robot assassini della fantascienza, all'Internet degli oggetti o addirittura al transumanesimo, c'è qualcosa con cui dobbiamo confrontarci: noi stessi.

Peter è il direttore associato della Humanity Centered Robotics Initiative dell'Università Brown. È stato il cofondatore e il direttore operativo di XactSense, un'azienda produttrice di droni con sistema di mappatura LIDAR e a navigazione autonoma. Prima di XactSense, Peter ha fondato AIDG, un acceleratore di piccole imprese di hardware nei mercati emergenti. Peter ha ricevuto una borsa di studio sia da TED che da Echoing Green. Ha tenuto conferenze presso varie sedi, tra cui TED Global, la Banca Mondiale e l'Università di Harvard. Ha una laurea in filosofia che ha conseguito presso l'Università di Yale.

Questo intervento è stato presentato a un evento TEDx che utilizza il format della conferenza TED, ma è stato organizzato in maniera indipendente da una comunità locale. Per maggiori informazioni, visita il sito http://ted.com/tedx

La rivolta delle macchine!

Chi ha paura dei robot assassini?

(Risate)

Io sì!

Lavoravo con i droni,
gli aeromobili a pilotaggio remoto,

e tutto quello a cui riuscivo a pensare
vedendo quelle macchine era che un giorno

qualcuno ci attaccherà una mitragliatrice

e si metteranno a darmi
la caccia in sciami.

Lavoro nel campo della robotica
all'Università Brown

e ho paura dei robot.

A dire il vero, ne sono terrorizzato.

Ma potete biasimarmi?

Sin da quando ero bambino
non ho fatto altro che vedere film

che narrano dell'ascesa
dell'Intelligenza Artificiale

e del nostro inevitabile conflitto
con essa:

2001: Odissea nello spazio,
Terminator, Matrix...

E le storie che raccontano
sono piuttosto spaventose:

bande di umani ribelli in fuga
da macchine super intelligenti.

Questa cosa mi spaventa.

E, dalle vostre mani,
mi sembra che spaventi anche voi.

So che spaventa Elon Musk.

Ma abbiamo ancora un po' di tempo
prima che i robot insorgano.

I robot del mio progetto come il PR2

non sono ancora in grado
di aprire una porta.

Quindi, secondo me, il dibattito
sui robot super intelligenti

non è che una distrazione
da qualcosa di molto più insidioso

che sta succedendo in tutta
la nazione con i sistemi di IA.

Vedete, ora come ora, ci sono persone,

dottori, giudici, contabili,

che ottengono informazioni
da un sistema di IA

e che trattano queste informazioni
come se provenissero da un collega fidato.

È questa fiducia che mi preoccupa.

E non perché spesso l'IA sbagli.

I ricercatori dell'IA sono fieri
della precisione dei risultati.

È quanto gravemente sbaglia
quando commette un errore

quello che mi preoccupa davvero.

Questi sistemi non sbagliano di poco.

Ma vediamo un po' come funzionano.

Questo è un cane che è stato scambiato
per un lupo da un algoritmo di IA.

I ricercatori volevano sapere:

perché proprio questo husky
è stato scambiato per un lupo?

Così, hanno riscritto l'algoritmo
affinché indicasse loro

quali erano le parti della foto
a cui aveva prestato attenzione

quando ha fatto la sua scelta.

Guardando questa fotografia,
a cosa pensate abbia prestato attenzione?

Voi a cosa avreste prestato attenzione?

Forse agli occhi,
forse alle orecchie, magari al muso.

Ecco a cosa ha prestato attenzione:

principalmente alla neve
e allo sfondo della fotografia.

C'era un preconcetto nell'insieme di dati
che è stato dato a questo algoritmo.

Nella maggior parte delle foto,
i lupi erano sulla neve,

quindi l'algoritmo di IA ha scambiato
la presenza o l'assenza della neve

per la presenza o l'assenza di un lupo.

La cosa preoccupante

è che i ricercatori non avevano idea
di quello che stava succedendo

fino a quando non hanno riscritto
l'algoritmo affinché lo spiegasse loro.

È questo il problema
degli algoritmi di IA,

dell'apprendimento
approfondito e automatico.

Persino gli sviluppatori
che lavorano con essi

non hanno idea di quello che fanno.

Questo potrebbe essere
un esempio perfetto per un ricercatore,

ma che significato ha nel mondo reale?

L'algoritmo COMPAS Criminal Sentencing
viene usato in 13 Stati americani

per determinare la recidività criminale

o il rischio di commettere
un reato dopo il rilascio.

ProPublica ha constato
che un afroamericano

con COMPAS ha il 77% in più
di possibilità di essere qualificato

come criminale potenzialmente violento
rispetto a un caucasico.

Questo è un sistema reale che viene usato
nel mondo reale da giudici reali

per prendere decisioni
sulla vita reale delle persone.

Perché i giudici dovrebbero fidarsi
di questo algoritmo

se si basa su un pregiudizio?

Il motivo per cui usano COMPAS
è perché è un modello di efficienza.

COMPAS permette di velocizzare
considerevolmente il carico di lavoro

in un sistema giudiziario penale
in cui ci sono molte cause arretrate.

Perché dovrebbero mettere
in dubbio il loro stesso software?

È stato richiesto dallo Stato,
approvato dal Dipartimento di Informatica.

Perché dovrebbero metterlo in dubbio?

Le persone condannate da COMPAS
lo hanno messo in dubbio

e le loro cause
dovrebbero farci rabbrividire.

La Corte Suprema
del Wisconsin ha stabilito

che COMPAS non negava
un processo equo all'imputato

a condizione che venisse utilizzato
"adeguatamente".

Ha inoltre stabilito

che l'imputato non poteva esaminare
il codice sorgente di COMPAS.

Deve essere usato adeguatamente,

ma non si può esaminare
il codice sorgente?

Prese insieme,
queste decisioni sono preoccupanti

per chiunque si trovi ad affrontare
una condanna penale.

A voi magari non interessa dato che
non state affrontando una condanna penale,

ma se vi dicessi che le black box
degli algoritmi di IA come questo

vengono usate per decidere
se concedervi il prestito per la casa,

se avete ottenuto un colloquio di lavoro,

se avete diritto all'assistenza sanitaria

e stanno addirittura guidando
automobili e camion in autostrada?

Vorreste che alle persone
fosse permesso esaminare l'algoritmo

che sta cercando di distinguere
un carrello della spesa da un passeggino

in un camion che si guida da solo

nello stesso modo in cui
l'algoritmo cane/lupo

stava cercando di distinguere
un cane da un lupo?

Siete potenzialmente un cane metaforico
che è stato scambiato per un lupo

dall'algoritmo di IA di qualcuno?

È possibile, se consideriamo
la complessità delle persone.

C'è qualcosa che potete fare
a riguardo ora?

Probabilmente no.

Ed è proprio su questo punto
che dobbiamo concentrarci.

Dobbiamo chiedere
standard di responsabilità,

trasparenza e ricorsi nei sistemi di IA.

L'ISO, l'Organizzazione
internazionale per la normazione,

ha creato una commissione

che deve decidere cosa fare
per quanto riguarda gli standard dell'IA.

Impiegheranno circa cinque anni
per fissare uno standard.

Questi sistemi vengono usati adesso,

non solo per i prestiti, ma anche,
come vi dicevo prima, nei veicoli.

Vengono usati per cose come il controllo
di adattamento della velocità di crociera.

È buffo che lo chiamino
"controllo di crociera"

perché il tipo di controllore
che viene usato, il controllore PID,

è stato usato per trent'anni
negli stabilimenti chimici

prima di venire installato
su un'automobile.

Il tipo di controllore impiegato

per guidare un'automobile senza conducente
e per l'apprendimento automatico

viene utilizzato nelle ricerche
solo dal 2007.

Sono nuove tecnologie.

Dobbiamo chiedere standard
e dobbiamo chiedere regolamentazioni

per evitare di trovare
ciarlatanate sul mercato.

E dobbiamo anche essere un po' scettici.

Gli esperimenti sull'autorità

effettuati da Stanley Milgram
dopo la Seconda Guerra Mondiale

hanno dimostrato che una persona media

eseguirebbe gli ordini
di una figura autoritaria

anche se questo significasse
fare del male ai propri concittadini.

In questo esperimento,

i cittadini medi americani
davano la scossa a un attore

anche dopo che questi
si lamentava del male,

anche dopo che urlava dal dolore

e persino dopo che si zittiva
fingendosi morto.

E questo solo perché qualcuno

senza qualifica
e con un camice da laboratorio

diceva loro una variante della frase:

"L'esperimento deve andare avanti".

Nell'IA, abbiamo la figura autoritaria
di Milgram per eccellenza.

Abbiamo un sistema imparziale
incapace di riflettere,

incapace di prendere altre decisioni,

al quale non si può fare ricorso

e che dirà sempre: "Il sistema"
o "Il processo deve andare avanti".

Ora vi racconterò una storia.

Parla di un viaggio in macchina
che ho fatto in giro per il Paese.

Stavo entrando a Salt Lake City
quando ha cominciato a piovere.

Quando sono arrivato sulle montagne,
la pioggia era diventata neve

e in poco tempo la neve
era diventata una tormenta.

Non riuscivo a vedere i fari posteriori
dell'auto che avevo davanti.

Ho iniziato a sbandare.

L'auto è slittata di 360 gradi
da una parte, poi dall'altra.

Sono uscito dall'autostrada.

C'era fango sui finestrini,
non vedevo niente.

Avevo paura che una macchina
mi piombasse addosso.

Vi sto raccontando questa storia
per farvi riflettere

su quanto una cosa piccola
e apparentemente banale

come un po' di pioggia

possa facilmente trasformarsi
in qualcosa di molto pericoloso.

Ora stiamo guidando
sotto la pioggia con l'IA

e quella pioggia si trasformerà in neve

e quella neve potrebbe diventare
una tormenta.

Dobbiamo fermarci un attimo,

verificare le condizioni,

stabilire degli standard di sicurezza

e dobbiamo chiederci
quanto in là vogliamo spingerci

perché gli incentivi finanziari per l'IA

e per l'automazione
che sostituirà il lavoro umano

andranno al di là
di qualsiasi cosa abbiamo visto

dai tempi della Rivoluzione Industriale.

Le richieste salariali degli umani
non possono competere

con il costo base dell'elettricità.

L'IA e i robot rimpiazzeranno
i cuochi nei fast food

e i radiologi negli ospedali.

Un giorno, sarà l'IA
a diagnosticarvi il cancro

e sarà un robot a eseguire l'intervento.

Solo un salutare scetticismo
verso questi sistemi

aiuterà a tenere le persone informate.

E confido nel fatto che se riusciremo
a tenere le persone informate,

se riusciremo a costruire
sistemi di IA trasparenti

come quello dell'esempio cane/lupo

dove l'IA ha spiegato alle persone
quello che stava facendo

e le persone hanno avuto
la possibilità di esaminarlo,

possiamo creare nuovi lavori
per le persone che collaborano con l'IA.

Se collaboriamo con l'IA,

riusciremo probabilmente a risolvere
alcuni dei nostri problemi più grandi.

Ma per farlo dobbiamo essere
i leader, non i seguaci.

Dobbiamo scegliere di essere
meno simili ai robot

e dobbiamo costruire robot
più simili alle persone

perché, in fin dei conti,

l'unica cosa che dobbiamo temere
non sono i robot assassini,

ma la nostra pigrizia intellettuale.

L'unica cosa che dobbiamo temere
siamo noi stessi.

Grazie.

(Applausi)