0:00:02.655,0:00:05.549
L’intelligenza artificiale[br]è notoriamente capace

0:00:05.549,0:00:08.318
di sconvolgere tutte le industrie[br]in cui entra in azione.

0:00:08.961,0:00:11.004
Che ne dite di applicarla al gelato?

0:00:11.879,0:00:15.542
Che razza di nuovi,[br]strabilianti sapori potremmo generare

0:00:15.542,0:00:18.764
sfruttando un’intelligenza[br]artificiale avanzata?

0:00:18.764,0:00:23.184
Ho collaborato con dei programmatori[br]della Kealing Middle School

0:00:23.184,0:00:25.449
per trovare la risposta a questa domanda.

0:00:25.449,0:00:30.554
Hanno raccolto oltre 1.600 gusti[br]di gelato esistenti,

0:00:30.554,0:00:36.100
che abbiamo inserito in un algoritmo[br]per vedere cosa avrebbe generato.

0:00:36.100,0:00:39.879
Ecco alcuni dei gusti creati dall’IA:

0:00:39.879,0:00:41.927
[Merenda di spazzatura alla zucca]

0:00:41.927,0:00:43.353
(Risate)

0:00:43.353,0:00:45.933
[Melma al burro di arachidi]

0:00:45.933,0:00:48.177
[Malattia alla crema di fragole]

0:00:48.177,0:00:50.327
(Risate)

0:00:50.327,0:00:54.850
Non proprio le suggestioni invitanti[br]che speravamo di ricevere.

0:00:54.850,0:00:56.988
La domanda sorge spontanea:[br]cos’è successo?

0:00:56.988,0:00:58.626
Che cosa è andato storto?

0:00:58.626,0:01:00.225
L’IA sta cercando di ucciderci?

0:01:01.027,0:01:05.337
O ha fatto quello che abbiamo chiesto,[br]e si è verificato un problema?

0:01:06.566,0:01:09.043
Nei film, quando qualcosa[br]va storto con l’IA,

0:01:09.043,0:01:11.767
di solito è perché l’IA stessa ha deciso

0:01:11.767,0:01:14.063
che non vuole più obbedire agli umani,

0:01:14.063,0:01:16.710
ma perseguire i propri obiettivi,[br]e al diavolo tutti!

0:01:17.266,0:01:20.372
Tuttavia, nella vita reale,[br]l’IA di cui effettivamente disponiamo

0:01:20.372,0:01:22.781
non è così intelligente da poterlo fare.

0:01:22.781,0:01:27.075
Ha approssimativamnte[br]la potenza di calcolo di un lombrico,

0:01:27.075,0:01:30.502
o al massimo di una singola ape,

0:01:30.502,0:01:32.741
probabilmente anche meno.

0:01:32.741,0:01:35.359
Scopriamo continuamente[br]cose nuove sul cervello umano,

0:01:35.359,0:01:39.743
che possiamo tranquillamente affermare[br]non essere all’altezza di un’IA.

0:01:39.743,0:01:45.429
L’IA di oggi, quindi,[br]identifica un pedone in una foto,

0:01:45.429,0:01:48.437
ma non ha idea di cosa sia un pedone

0:01:48.437,0:01:53.273
al di là di un insieme[br]di linee, trame ed altro.

0:01:53.792,0:01:56.313
Di fatto, non sa cosa sia un essere umano.

0:01:56.822,0:02:00.116
Quindi l’IA di oggi farà[br]quello che le chiediamo di fare?

0:02:00.116,0:02:01.722
Lo farà se potrà,

0:02:01.722,0:02:04.482
ma potrebbe non fare[br]ciò che davvero vogliamo.

0:02:04.482,0:02:07.005
Mettiamo che stiate cercando[br]di indurre un'IA

0:02:07.005,0:02:09.566
a prendere questo insieme[br]di parti di robot

0:02:09.566,0:02:13.555
e assemblarli in una specie di robot[br]per andare dal punto A al punto B.

0:02:13.555,0:02:15.710
Se voleste provare[br]a risolvere questo problema

0:02:15.710,0:02:18.817
scrivendo un programma informatico[br]in stile tradizionale,

0:02:18.817,0:02:22.096
fornireste al programma[br]istruzioni dettagliate

0:02:22.096,0:02:23.683
su come prendere queste parti,

0:02:23.683,0:02:25.904
assemblarle in un robot con le gambe

0:02:25.904,0:02:29.003
e infine usare queste gambe[br]per raggiungere il punto B.

0:02:29.003,0:02:31.426
Ma quando usate l’IA[br]per risolvere il problema,

0:02:31.426,0:02:32.899
le cose vanno diversamente.

0:02:32.899,0:02:35.495
Non le spiegate[br]come risolvere il problema:

0:02:35.495,0:02:36.900
le date solo l'obiettivo,

0:02:36.900,0:02:40.034
e sarà lei a capire da sola,[br]attraverso tentativi ed errori,

0:02:40.034,0:02:42.013
come raggiungere quell’obiettivo.

0:02:42.013,0:02:46.368
Si scopre così che l’IA tende a risolvere[br]questo particolare problema

0:02:46.368,0:02:47.876
facendo così:

0:02:47.876,0:02:53.118
assembla se stessa in una torre,[br]fino a cadere e atterrare sul punto B.

0:02:53.118,0:02:55.869
Tecnicamente, questo risolve il problema.

0:02:55.869,0:02:57.736
Teoricamente, ha raggiunto il punto B.

0:02:57.736,0:03:01.923
La minaccia dell’IA non è data dal fatto[br]che questa possa ribellarsi a noi,

0:03:01.923,0:03:06.252
ma piuttosto che faccia esattamente[br]quello che le chiediamo di fare.

0:03:06.252,0:03:09.386
Per lavorare con l’IA, quindi,[br]la vera questione diventa:

0:03:09.386,0:03:13.226
come possiamo impostare il problema[br]in modo che faccia ciò che vogliamo?

0:03:14.346,0:03:18.044
Questo piccolo robot è controllato[br]da un’intelligenza artificiale.

0:03:18.044,0:03:20.882
L’IA ha elaborato una struttura[br]per le gambe del robot

0:03:20.882,0:03:24.984
e ha immaginato come muoverle[br]per farle superare tutti quegli ostacoli.

0:03:24.984,0:03:27.749
Ma quando David Ha[br]ha avviato questo esperimento,

0:03:27.749,0:03:30.629
ha dovuto stabilire dei limiti severissimi

0:03:30.629,0:03:33.945
entro i quali all’IA era permesso[br]realizzare le gambe,

0:03:33.945,0:03:35.507
perché altrimenti...

0:03:43.058,0:03:47.319
(Risate)

0:03:48.563,0:03:52.320
E tecnicamente, è arrivata alla fine[br]di quella corsa ad ostacoli.

0:03:52.320,0:03:57.286
Vedete quanto è difficile far fare all’IA[br]una cosa semplice come camminare.

0:03:57.286,0:04:01.130
Vedendo l’IA fare tutto questo,[br]potreste pensare: "Ok, non va bene,

0:04:01.130,0:04:03.572
non puoi pensare di essere[br]una torre alta e cadere;

0:04:03.572,0:04:07.193
devi usare le gambe per camminare.

0:04:07.193,0:04:09.976
Ma a quanto pare,[br]neanche questo sempre funziona.

0:04:09.976,0:04:12.931
Il compito di questa IA[br]era muoversi velocemente.

0:04:12.931,0:04:16.720
Non le hanno detto[br]che doveva correre guardando avanti,

0:04:16.720,0:04:19.238
o che non poteva utilizzare le braccia.

0:04:19.238,0:04:24.117
Questo è ciò che ottenete[br]se istruite l’IA a muoversi velocemente,

0:04:24.117,0:04:27.675
cose tipo capriole o camminate strambe.

0:04:27.675,0:04:29.087
È molto frequente.

0:04:29.587,0:04:32.858
Lo è anche ammucchiarsi sul pavimento[br]muovendosi a scatti.

0:04:32.858,0:04:34.020
(Risate)

0:04:34.891,0:04:37.935
Quindi, secondo me, sapete cosa[br]sarebbe stato ancora più strano?

0:04:37.935,0:04:40.085
Il robot “Terminator”.

0:04:40.085,0:04:44.011
Modificare “The Matrix” è un’altra cosa[br]che l’IA farà, potendo.

0:04:44.011,0:04:46.576
Se addestrate un’IA in una simulazione,

0:04:46.576,0:04:50.689
imparerà ad accedere agli errori[br]di matematica della simulazione

0:04:50.689,0:04:52.944
e a farne tesoro per avere energia.

0:04:52.944,0:04:58.431
Oppure capirà come andare più veloce[br]muovendosi a scatti sul pavimento.

0:04:58.431,0:04:59.988
Lavorare con l’IA

0:04:59.988,0:05:02.435
è diverso dal lavorare[br]con un altro essere umano:

0:05:02.435,0:05:06.328
e più simile al lavorare[br]con una strana forza della natura.

0:05:06.328,0:05:11.209
È molto facile darle accidentalmente[br]il problema sbagliato da risolvere,

0:05:11.209,0:05:15.994
e spesso non ce ne rendiamo conto[br]finché qualcosa non va storto.

0:05:15.994,0:05:18.346
Ecco un esperimento che ho fatto,

0:05:18.346,0:05:21.540
in cui volevo che l’IA[br]copiasse i colori della vernice,

0:05:21.540,0:05:23.310
per inventarne di nuovi,

0:05:23.310,0:05:26.553
prendendoli dalla lista[br]di quelli qui a sinistra.

0:05:26.553,0:05:29.814
Ed ecco quello che l’IA[br]ha effettivamente creato:

0:05:29.814,0:05:32.981
"Pupù Sindhi, Merdolino,[br]Sofferenza, Grigio Pubico"

0:05:32.981,0:05:37.223
(Risate)

0:05:38.987,0:05:41.087
Quindi, tecnicamente,

0:05:41.087,0:05:42.963
ha fatto quello che le ho chiesto.

0:05:42.963,0:05:46.295
Io pensavo di averle chiesto[br]dei nomi di colori di vernice carini,

0:05:46.295,0:05:48.626
ma in realtà quello che stavo chiedendo

0:05:48.626,0:05:51.736
era solo di imitare[br]il tipo di combinazioni di lettere

0:05:51.736,0:05:53.665
che aveva visto nell’originale.

0:05:53.665,0:05:56.787
Non le ho detto nulla[br]sul significato delle parole,

0:05:56.787,0:05:59.371
o che ci siano forse delle parole

0:05:59.371,0:06:02.452
che dovrebbe evitare di utilizzare[br]per questi colori di vernice.

0:06:03.141,0:06:06.647
Perciò, le informazioni che le ho dato[br]rappresentano tutto il suo mondo.

0:06:06.647,0:06:10.687
Come con i gusti del gelato,[br]l'IA non conosce nient’altro.

0:06:12.491,0:06:14.141
È con le informazioni

0:06:14.141,0:06:18.445
che spesso istruiamo l’IA,[br]senza volerlo, a fare la cosa sbagliata.

0:06:18.445,0:06:21.738
Questo è un pesce chiamato tinca.

0:06:21.738,0:06:23.577
C’è stato un gruppo di ricercatori

0:06:23.577,0:06:27.475
che ha addestrato un’IA[br]a riconoscere questa tinca nelle foto.

0:06:27.475,0:06:28.795
Ma quando le hanno chiesto

0:06:28.795,0:06:32.245
quale parte dell'immagine[br]stesse usando per identificare il pesce,

0:06:32.245,0:06:34.025
questo è quello che ha evidenziato.

0:06:35.202,0:06:37.392
Sì, quelle sono dita umane.

0:06:37.392,0:06:41.540
Perché dovrebbe cercare dita umane,[br]se sta cercando di identificare un pesce?

0:06:42.126,0:06:45.302
Beh, è emerso che la tinca[br]è un trofeo di pesca,

0:06:45.302,0:06:50.312
e in molte delle immagini di tinca[br]usate per allenare l’IA

0:06:50.312,0:06:51.826
il pesce appariva così.

0:06:51.826,0:06:53.485
(Risate)

0:06:53.485,0:06:56.827
E non sapeva che le dita[br]non facessero parte del pesce.

0:06:58.668,0:07:02.825
Capite quindi quanto è difficile[br]progettare un'IA

0:07:02.825,0:07:06.171
che riesca davvero a comprendere[br]cosa sta guardando.

0:07:06.171,0:07:09.121
Per questo progettare[br]il riconoscimento delle immagini,

0:07:09.121,0:07:11.462
in automobili a guida autonoma,[br]è così difficile;

0:07:11.462,0:07:14.481
e per questo tanti insuccessi[br]delle auto senza conducente

0:07:14.481,0:07:16.520
sono dovuti al fatto che l’IA si confonde.

0:07:16.520,0:07:20.378
Vorrei citare un esempio del 2016.

0:07:20.378,0:07:24.951
Ci fu un incidente mortale durante l’uso[br]del pilota automatico di una Tesla;

0:07:24.951,0:07:28.347
invece di usarlo in autostrada,[br]per cui era stato progettato,

0:07:28.347,0:07:30.564
fu usato per le strade di città.

0:07:31.239,0:07:35.834
Un camion sbucò di fronte all’auto,[br]e questa non frenò.

0:07:36.507,0:07:41.269
L’IA era stata sicuramente istruita[br]a riconoscere i camion nelle immagini.

0:07:41.269,0:07:43.408
Ma a quanto pare,

0:07:43.408,0:07:46.466
l’IA era stata istruita a riconoscere[br]i camion in autostrada,

0:07:46.466,0:07:52.784
dove ci si aspetta di vedere i camion[br]arrivare da dietro, non di lato.

0:07:52.784,0:07:56.263
E così, quando l’IA ha visto il camion,

0:07:56.263,0:08:01.102
sembra che l’abbia identificato[br]come più simile ad un cartello stradale,

0:08:01.102,0:08:03.580
sicura di potergli passare sotto.

0:08:03.580,0:08:06.584
Ecco un altro passo falso dell’IA,[br]in un altro settore.

0:08:06.584,0:08:10.112
Amazon ha recentemente rinunciato[br]a un algoritmo di selezione di curricula,

0:08:10.112,0:08:11.434
su cui stava lavorando,

0:08:11.434,0:08:14.944
quando ha scoperto che l’algoritmo[br]aveva imparato a discriminare le donne.

0:08:14.944,0:08:18.428
Si è scoperto che l’avevano istruito[br]basandosi su modelli di curricula

0:08:18.428,0:08:20.654
di persone assunte in passato.

0:08:20.654,0:08:23.567
Da questi esempi,[br]l’IA ha imparato ad evitare i cv

0:08:23.567,0:08:26.501
delle persone che avevano frequentato[br]università femminili,

0:08:26.501,0:08:29.411
o che avevano la parola "donne"[br]da qualche parte nei loro cv,

0:08:29.411,0:08:33.898
come in "Squadra di Calcio delle Donne"[br]o "Società delle Donne Ingegnere".

0:08:33.898,0:08:39.898
L’IA non sapeva di dover correggere[br]questa discriminazione appresa da noi.

0:08:39.898,0:08:42.921
Tecnicamente, ha fatto[br]quello che le hanno chiesto di fare.

0:08:42.921,0:08:46.419
Le hanno semplicemente chiesto,[br]per caso, di fare la cosa sbagliata.

0:08:46.419,0:08:49.683
E questo accade di continuo, con l’IA.

0:08:49.683,0:08:53.735
L’IA può essere davvero dannosa[br]senza rendersene conto.

0:08:53.735,0:08:58.825
Perciò le IA che raccomandano[br]nuovi contenuti su Facebook, su YouTube,

0:08:58.825,0:09:02.388
sono ottimizzate per accrescere[br]il numero di click e visualizzazioni.

0:09:02.388,0:09:05.848
E un modo che hanno trovato[br]per riuscirci, sfortunatamente,

0:09:05.848,0:09:10.363
è di raccomandare i contenuti[br]di complottismo e bigottismo.

0:09:10.902,0:09:16.215
Le IA stesse non hanno alcuna idea[br]di cosa sia realmente quel contenuto,

0:09:16.215,0:09:19.635
e non hanno alcuna idea[br]di quali possano essere le conseguenze,

0:09:19.635,0:09:21.756
nel raccomandarlo.

0:09:22.296,0:09:24.319
Quando lavoriamo con un’IA, quindi,

0:09:24.319,0:09:28.525
sta a noi evitare i problemi.

0:09:28.525,0:09:30.872
Ed evitare che le cose vadano male,

0:09:30.872,0:09:35.422
il che in sostanza ci riporta[br]all'annoso problema della comunicazione,

0:09:35.422,0:09:39.191
per cui noi umani dobbiamo imparare[br]a comunicare con l’IA.

0:09:39.191,0:09:43.254
Dobbiamo imparare cosa l’IA[br]sa fare bene e cosa no

0:09:43.254,0:09:46.364
e capire che, con il suo minuscolo[br]cervello da vermiciattolo,

0:09:46.364,0:09:50.389
l’IA non capisce che cosa[br]le stiamo chiedendo di fare.

0:09:51.148,0:09:54.481
Dobbiamo imparare, in altre parole,[br]a saper lavorare con l’IA "vera",

0:09:54.481,0:09:59.763
che non è l’IA super competente[br]e onnisciente della fantascienza.

0:09:59.763,0:10:05.611
Dobbiamo essere preparati a lavorare[br]con l’IA che abbiamo oggi.

0:10:05.611,0:10:09.840
E allo stato attuale,[br]l'IA è già bizzarra a sufficienza.

0:10:09.840,0:10:11.054
Grazie.

0:10:11.054,0:10:15.551
(Applausi)