Una filiera etica risolve il conflitto tra diritto e tecnologia | Marco Giacomello | TEDxLivorno

L’intelligenza artificiale, la robotica e tutte le tecnologie dirompenti devono imparare a distinguere il bene dal male per proteggerci, ed in questo caso il diritto da solo potrebbe non bastare. Ecco che occorre un approccio antropocentrico allo sviluppo delle intelligenze artificiali e della robotica, un sistema di valori etico con al centro l’essere umano nella sua completezza, che non considera mai la tecnologia un obiettivo fine a se stesso, bensì uno strumento a servizio del nostro benessere.

Questo intervento è stato presentato a un evento TEDx, che utilizza il format della conferenza TED ma è stato organizzato in maniera indipendente da una comunità locale.

Per maggiori informazioni, visita il sito http://ted.com/tedx

Voglio raccontarvi una storia.

Era il tempo in cui si costruivano i nidi,

e un piccolo gruppo di passeri

se ne stava davanti
alla luce fioca del tramonto

a pensare a quanto si erano stancati
durante il giorno.

Uno dei passeri disse:
siamo tutti così piccoli e deboli!

Sarebbe così bello,

se un gufo ci potesse aiutare
a costruire i nidi.

Sì, disse un altro passero.

Potrebbe anche aiutarci
ad allevare i nostri bimbi,

e ad accudire gli anziani.

Un terzo passero si intromise e disse:

questa potrebbe essere, sicuramente,

la cosa migliore
che ci potesse mai capitare.

Mandiamo tutti i nostri esploratori
in giro a cercare un cucciolo di gufo.

Portiamolo il prima possibile tra noi
e progrediamo grazie a lui.

Lui potrebbe anche aiutarci,
con la sua vista,

a vedere e a capire quando sta arrivando
il gatto del vicino,

che ci dà così tanto fastidio.

Ci potrebbe aiutare
dove nessuno di noi può.

Solo un piccolo passero, Scrunfinkle,

con un occhio solo
e un carattere molto difficile,

si intromise e disse:

Questa potrebbe essere la nostra fine.

Portare tra di noi una creatura
senza conoscerla,

senza sapere come ammaestrarla,

ci ridurrà in schiavitù,
ci eliminerà dalla faccia della Terra.

Gli altri passeri,
totalmente scettici, dissero:

No, assolutamente, un gufo ci aiuterà.

Intanto portiamolo tra di noi.

Imparare ad ammaestrare un gufo,
una creatura nuova,

è difficile e porta via tempo.

Noi vogliamo farci aiutare ora,
vogliamo progredire ora.

Delle conseguenze ci preoccuperemo poi.

Scrunfinkle e un altro
piccolo gruppo di passeri

iniziò a cercare una ricerca spasmodica,
nel capire come poter ammaestrare i gufi,

temendo che gli altri passeri esploratori

tornassero dalla loro caccia
prima di aver trovato una soluzione.

Io non vi so dire come sia
andata quella storia.

Quello che vi posso dire è che, oggi,

quel passero con un occhio solo
e un carattere difficile

dovremmo essere tutti noi.

Stiamo creando
superintelligenze artificiali

e stiamo dando loro la possibilità

di imparare tramite l'accesso
a Internet, di evolvere.

Non c'è nessuna ragione

che ci dica che quelle
intelligenze artificiali

non evolvano delle strategie

che garantiscano loro
un futuro predominio su di noi.

Io amo la tecnologia, la amo follemente,
provo qualunque cosa mi trovi davanti.

La tecnologia vince sempre,
il futuro vince sempre,

è inutile cercare di fermarlo.

Qualche anno fa, diversi anni fa,

ho avuto la fortuna di poter provare,
per diversi mesi, i Google Glass,

gli occhiali a realtà aumentata di Google.

Ero talmente voglioso di provarli

che, una volta tornato a casa,

li ho aperti dalla scatola,
li ho messi addosso

e li ho accesi, senza leggere
quello che io stesso scrivo:

le informative privacy

che regolano un rapporto
tra me e una tecnologia.

Dopo qualche minuto,
a mia moglie Alessandra

arrivò una telefonata
di un amico tutto allarmato

che le disse queste parole:

"Lo sai, vero,

che Marco sta trasmettendo la vostra cena
in tempo reale in tutto il mondo?".

Questo succede quando non capiamo
la tecnologia che abbiamo davanti.

Quando non leggiamo,
quando non ci informiamo.

Questo succede quando noi stessi
non vogliamo formarci,

non vogliamo creare della conoscenza.

Questo succede quando siamo
degli ignoranti 5.0,

quando abbiamo a disposizione
tutto il sapere di questo mondo,

ma non vogliamo entrarci a fondo.

Oggi il problema è molto semplice:
la tecnologia va più veloce di tutto,

va più veloce di noi
e va più veloce della legge,

va più veloce delle modalità

con le quali impariamo
ed acquisiamo conoscenza.

Oggi, quindi, noi abbiamo a disposizione
tutte le informazioni di questo mondo;

ma non riusciamo a controllarle,

a eliminare il cosiddetto
"rumore di fondo''.

E quindi, quando non riusciamo
a capire qualcosa,

diciamo che serve una nuova legge,
diciamo che serve un cambio di paradigma.

Ma ci servono davvero nuove leggi?

Quando, nel 1955, Luigi Einaudi
scrisse le sue "Prediche inutili",

scrisse queste parole:

"Prima conoscere, poi discutere,
infine deliberare.

Non si legifera per ostentazione
velleitaria e infeconda''.

Leggi fatte in maniera frettolosa,
senza la conoscenza della materia,

portano a nuove leggi,

che cercano attraverso sotterfugi
di rendere qualcosa di impossibile:

applicare le regole che sono state create
per il mondo analogico al mondo digitale.

Questo è impossibile.

Questo crea un miscuglio
di norme totalmente inapplicabili,

che distorcono il mercato.

Oggi noi abbiamo risolto
l'ignoranza dei nostri nonni,

l'ignoranza informativa,

l'ignoranza data
dalla penuria di informazioni.

Questo grazie alla rete
Internet, in primis.

È nato però un nuovo tipo di ignoranza:
l'ignoranza elaborativa,

l'ignoranza che è data
dalla sovrabbondanza di informazioni,

e dall'altra parte dalla limitatezza
della nostra voglia, del nostro tempo,

ad elaborarle.

Esempi concreti sono
sui giornali tutti i giorni:

il dilagante aumento delle fake news;
la mancanza di fact checking,

che porta ad allarmismi
incontrollati e non veri;

gli hate speech.

Tutto quello che capita
sulla rete Internet,

se non viene verificato e controllato,

porta a un utilizzo superficiale
della tecnologia.

Che finché una notizia
letta in maniera non corretta

può portare a delle conseguenze,

dall'altra parte può portare
a conseguenze, come vedremo, ben peggiori.

Oggi noi, vi dicevo, siamo ignoranti 5.0,

perché sia quando c'era
una ignoranza informativa,

sia quando c è una ignoranza elaborativa,

queste due ignoranze
portano allo stesso risultato:

azioni sub-ottimali, tutte uguali.

Noi siamo come pecore, molte volte:

seguiamo l'andazzo generale,
seguiamo quello che fanno gli altri.

Seguiamo qualcosa che non dovremmo fare.

Perché?

Perché le azioni sub-ottimali
portano a non conoscenza,

e a una standardizzazione
del nostro comportamento sulla rete.

Sicuramente non a capire
come le tecnologie funzionano.

Capire come una tecnologia blockchain,

capire come una tecnologia
innovativa funzioni,

è difficile, porta via tempo.

Molte volte non saremo
nemmeno in grado di comprenderla,

perché manca la formazione iniziale.

E qui entra in gioco l'etica.

L'etica è la colla
che tiene assieme i popoli,

è la chiave che permette di cooperare,

è un qualcosa che ha aiutato
la nostra specie a progredire.

Se oggi noi siamo così,
nel bene o nel male,

lo dobbiamo anche alla nostra
capacità di ragionamento morale,

alla capacità e alla voglia
di entrare nelle situazioni

con un'etica, con un'abitudine
diversa dalla massa.

Questi siamo noi oggi.

Le intelligenze artificiali
sono già tra di noi.

Lo sono nei robot a guida autonoma,

lo sono nei robottini
che per casa ci puliscono

e tracciano ogni percorso, la grandezza,
cosa c'è nelle nostre case.

Lo sono in ospedale,
con i robot chirurgici.

Lo sono con i robot
che aiutano ad accudire gli anziani.

Lo sono con quei robottini

che aiutano a intrattenere
il vostro bimbo

quando voi avete altro da fare
o non potete stargli dietro.

Quello che voglio farvi capire

è che queste intelligenze
sono oggi tra di noi,

anzi lo erano da ieri.

E entrare oggi con un'etica
è particolarmente complesso, difficile,

e molte volte non si vuole farlo.

Perché chi produce
superintelligenze artificiali

non sono delle Onlus.

Sono società con scopo di lucro,

che giustamente
vogliono fare i loro soldi.

E quindi, come far sì
che l'etica si renda obbligatoria

per chi sviluppa, per chi programma,
per chi disegna un'applicazione

o un'intelligenza artificiale,
un sistema software?

Lo vedremo dopo.

Quello che sicuramente oggi è vero

è che noi siamo come bambini
che giochiamo con una bomba:

non ci rendiamo conto

che i robot dovrebbero avere
uno scopo principale,

che è quello di aiutarci
nel nostro progresso, nel benessere,

non un'evoluzione
della tecnologia fine a se stessa.

Quando nel 1947 Asimov scrisse
Le Tre Leggi della Robotica,

disse tre cose fondamentali:

"Caro robot, tu non devi uccidere l'uomo;

caro robot, tu devi stare
agli ordini dell'uomo;

e devi preservare te stesso.

Le tre leggi di Asimov sono, ancora oggi,

la base per chi discute
di moralità dell'intelligenza artificiale.

Lo sono perché...

Immaginatevi questa storia:

un robot dice a una donna,
sua amica, umana,

che l'uomo della sua vita la ama.

In realtà non è vero, ma glielo dice

perché, altrimenti, pensa
che quella donna impazzirà, soffrirà,

e quindi si andrebbe a violare
la prima regola:

non danneggiare l'uomo,
non far stare male l'uomo.

Peccato che, dicendo una bugia,
viola il loro rapporto di fiducia,

e di conseguenza fa soffrire
comunque la donna.

Il robot, che ragiona per ragionamenti
statici e freddi, fino ad oggi, impazzisce

perché non riesce a uscire
da un dilemma morale:

glielo dico, non glielo dico,
come glielo dico?

La tecnologia è neutra, quando nasce.

Siamo noi che decidiamo
come applicarla al mondo reale.

E quindi, come insegnare
l'etica a un robot,

come insegnare l'etica
a un'intelligenza artificiale,

fredda e 0-1 bit?

Basta inserirle del codice
nel proprio cervello?

Immaginatevi il caso

in cui siete sul sedile posteriore
della vostra automobile a guida autonoma,

sulla quale avete impostato
di non superare mai il limite di velocità.

Peccato che quel giorno voi siete
nel sedile posteriore della macchina

sanguinanti e in fin di vita.

E avete bisogno di andare
in ospedale prima possibile.

Se la macchina ragiona
in maniera fredda, vi risponderà:

"Non posso accelerare,
mi hai impostato per non farlo".

Bisogna porre attenzione

a come insegnare
le cose alle intelligenze.

Ovviamente non siamo noi,
molte volte, che le insegniamo.

Molte volte lo siamo noi,
perché con la tecnica del machine learning

siamo noi a fornire i dati

a una macchina che ragiona
secondo degli algoritmi,

ma glieli forniamo noi.

C'è un caso, molto simpatico,
di una intelligenza artificiale,

di quelle che teniamo in casa -
senza fare nomi, Alexa, Google Home,

che durante una cena
si è attivata e ha detto:

"Ricordati, domani,
di comprare la cocaina"

Non era vero,

non doveva comprare la cocaina,
non era un drogato.

La sera prima aveva ascoltato

una conversazione di una televisione,
di un programma televisivo,

dove c'era scritto:

"Fissare appuntamento domani
per prendere la cocaina''.

Capite le ripercussioni che possono avere?

Questo è un esempio simpatico,

ma ce ne sono tanti, di esempi,
che possono causare danni ben peggiori.

Immaginatevi un caso

in cui una macchina a guida autonoma
debba attraversare un dilemma,

un dilemma che non vorremmo
affrontare nemmeno noi,

tanto meno una macchina:

una macchina deve pensare,

per evitare di investire
cinque pedoni sulla strada,

di sterzare profondamente

e andare a uccidere, a investire,
un pedone ignaro sul marciapiede?

Quando lo deve fare?

E se sono tre, le persone
in mezzo alla strada? O se sono due?

Come fa a calcolare?

Deve vedere l'età media della persona,
per capire l'aspettativa di vita,

e quindi il danno economico allo Stato?

Il danno economico a lui stesso?

Capite che questo dilemma
sarebbe impossibile per noi;

pensate insegnare a un robot cosa fare.

È chiaro che, per insegnargli cosa fare,

prima o poi dovremmo entrare nella logica
di definire cosa il robot potrà fare.

Aristotele diceva una frase:

"Per imparare ad essere brave persone,
dobbiamo abituarci a fare cose buone".

Ecco, questa forse potrebbe
essere la soluzione

per insegnare ai robot una verità,

come agire in una situazione del genere.

Prima, però, di arrivare a pensare

che un'intelligenza artificiale
ragioni secondo il nostro volere,

dobbiamo andare un pochino prima

e dobbiamo capire come utilizzare l'etica

all'interno di una programmazione,
di uno sviluppo, di un sistema.

Queste macchine autonome sono già in giro
per molti stati americani.

Sono in test.

Si sta cercando di capire -

Le notizie che escono sui giornali
sono la classica:

"Auto a guida autonoma
ha investito e ucciso un pedone".

L'avrebbe investito anche
con la persona che stava guidando,

perché era buio, e la persona
attraversava fuori dalle strisce.

Si cerca sempre di limitare la tecnologia,

si cerca sempre
di bloccare il suo avanzamento.

Siamo arrivati a un punto

dove anche la Commissione Europea
si è dovuta interessare

dell'aspetto etico
delle intelligenze artificiali,

E proprio poche settimane fa è uscita

una prima linea guida,
una prima raccomandazione non vincolante

per chi sviluppa, per chi programma
intelligenze artificiali,

che si basa su un concetto
di trustability,

si basa su un concetto antropocentrico:

l'uomo dev'essere al centro.

La tecnologia non deve evolvere
in quanto tecnologia,

deve evolvere per migliorare
il benessere umano,

come volevano i passeri all'inizio.

Queste regole si basano
su dei principi basilari,

molte sono riprese dalle leggi di Asimov:

cara intelligenza artificiale,
non devi uccidere l'uomo;

cara intelligenza artificiale,

non devi danneggiare,
devi rispettare i loro ordini;

devi preservarti.

Ci sono alcune aggiunte:

devi garantire uguale trattamento
a qualunque soggetto.

E qui entro con una piccola divagazione:

nei giorni scorsi
c'è stato un grosso scandalo,

perché c'era un'applicazione,
usata in tutto il mondo,

che però, nei paesi arabi,

era usata per controllare
un determinato tipo di soggetti: le donne.

Le donne venivano tracciate,

e veniva visto dove andavano,
quanto rimanevano, cosa facevano.

Come vi dicevo prima,
la tecnologia è neutra.

La morale invece
è eternamente in evoluzione,

eternamente dibattuta,
e culturalmente specifica.

Non esiste un concetto unitario
e unico di morale.

Questo è un problema,
perché già cercare di capire

e di spiegare a uno sviluppatore,
un programmatore,

a una persona che si occupa di interfacce

come sviluppare, come mettere l'etica
dentro il suo lavoro, è complicato.

Immaginatevi dove un codice etico europeo,
quindi nemmeno mondiale, europeo,

si debba occupare di vincolare

il progresso della scienza
e della tecnologia.

C'è un altro problema:

il nostro essere antropomorfici
ci obbliga a pensare a una vulnerabilità.

Se noi pensassimo troppo che quel robot,
quella intelligenza artificiale,

è simile a noi, è uguale a noi,

andremmo a compiere un errore.

In questo momento non è così,
non sarà così ancora per tanti anni.

C'è chi dice che
le intelligenze artificiali

supereranno la nostra intelligenza
nel giro di pochi decenni,

c'è chi dice che non lo faranno mai,

perché saranno sempre
vincolate e limitate.

Io non vi dico qual è la scelta giusta,
vi dico di rifletterci,

vi dico di cominciare a pensare come,

se diamo troppa credibilità,
troppa credenza,

troppo pensiero morale a queste macchine,

senza che queste ce l'abbiano realmente,

commettiamo un errore.

Immaginatevi un robot donna
particolarmente avvenente,

che dica al suo compagno umano:

"Se vuoi continuare a uscire con me,

tutti i giorni devi comprarmi dei fiori
in quel negozio online;

devi comprarmi dei vestiti
da quel negozio online;

devi portarmi a fare determinati viaggi.

Altrimenti, la nostra amicizia è finita".

Peccato che quel robot
non è una scelta umana,

dove due persone possono decidere
cosa è bene per ognuno di essi.

Dietro quegli algoritmi,
dietro quella intelligenza,

ci sono delle società che fanno lucro,

e che potrebbero vincolare
e profilare le persone,

e convincere le persone in dei modi
totalmente impensabili ad oggi.

C'è una speranza:

la speranza che queste macchine

abbiano bisogno e avranno bisogno di noi
quanto noi avremmo bisogno di loro.

Questo concetto di trustability,
questo concetto di fidarsi delle macchine,

dovrà avere successo,
perché se non avrà successo

noi non implementeremo le intelligenze
artificiali nelle nostre vite;

diffideremo sempre, cercheremo sempre
una soluzione alternativa,

oppure bloccheremo sempre la tecnologia

dicendo: no, io questa cosa non la voglio

perché - con superficialità,
magari senza conoscerla-

non è fatta per me.

Io... per me non è un problema

schiacciare il pulsante
per accendere la luce,

invece di dirlo a un'intelligenza,
a livello vocale,

non è un problema guidare la macchina
rispetto a una guida autonoma.

Peccato che il progresso avanzerà,

e le nicchie di persone
rimarranno probabilmente indietro.

Il problema della fiducia

sarà che tutta questa fiducia
riposta nelle macchine,

dall'altra parte deve trovare un limite,

e il limite può essere l'approccio etico;

che siano le linee guida
che vi ho elencato adesso,

che siano i programmatori,

che siano le persone

che utilizzeranno queste intelligenze
in maniera non superficiale,

ma conoscendole, studiandole,

come sto cercando di fare con mio figlio
da quando aveva pochi mesi,

facendogli vedere la tecnologia,

facendogliela provare,
mettendogliela in mano.

Un amico mi diceva, l'altro giorno:

"Gli aerei -

i robot sono come degli aerei 747,

che ci possono portare da una parte
all'altra del pianeta in poche ore.

Ma non saranno mai in grado
di atterrare su un albero".

Attenzione a fidarsi solo delle macchine,
attenzione a fidarsi solo delle tecnologie

nei vostri progetti, nelle vostre idee,
nel vostro modo di vivere.

Però, se vogliamo avere la possibilità
di avere una scelta,

se vogliamo che queste
tecnologie, in futuro -

distopico quanto volete, ma in un futuro -

non prendano il predominio su di noi,
la regola giuridica varrà sempre poco.

Serviranno l'etica degli sviluppatori,
l'etica dei legal designer,

l'etica degli imprenditori,

che dovranno ragionare
in una maniera diversa

se non vorranno essere anche loro
travolti da queste novità.

Serve, in poche parole,
guardare oltre l'orizzonte,

per cercare di evitare
di fare la fine di quei passeri.

Grazie.

(Applausi)