1
00:00:02,655 --> 00:00:05,549
L’intelligenza artificiale
è notoriamente capace

2
00:00:05,549 --> 00:00:08,318
di sconvolgere tutte le industrie
in cui entra in azione.

3
00:00:08,961 --> 00:00:11,004
Che ne dite di applicarla al gelato?

4
00:00:11,879 --> 00:00:15,542
Che razza di nuovi,
strabilianti sapori potremmo generare

5
00:00:15,542 --> 00:00:18,764
sfruttando un’intelligenza
artificiale avanzata?

6
00:00:18,764 --> 00:00:23,184
Ho collaborato con dei programmatori
della Kealing Middle School

7
00:00:23,184 --> 00:00:25,449
per trovare la risposta a questa domanda.

8
00:00:25,449 --> 00:00:30,554
Hanno raccolto oltre 1.600 gusti
di gelato esistenti,

9
00:00:30,554 --> 00:00:36,100
che abbiamo inserito in un algoritmo
per vedere cosa avrebbe generato.

10
00:00:36,100 --> 00:00:39,879
Ecco alcuni dei gusti creati dall’IA:

11
00:00:39,879 --> 00:00:41,927
[Merenda di spazzatura alla zucca]

12
00:00:41,927 --> 00:00:43,353
(Risate)

13
00:00:43,353 --> 00:00:45,933
[Melma al burro di arachidi]

14
00:00:45,933 --> 00:00:48,177
[Malattia alla crema di fragole]

15
00:00:48,177 --> 00:00:50,327
(Risate)

16
00:00:50,327 --> 00:00:54,850
Non proprio le suggestioni invitanti
che speravamo di ricevere.

17
00:00:54,850 --> 00:00:56,988
La domanda sorge spontanea:
cos’è successo?

18
00:00:56,988 --> 00:00:58,626
Che cosa è andato storto?

19
00:00:58,626 --> 00:01:00,225
L’IA sta cercando di ucciderci?

20
00:01:01,027 --> 00:01:05,337
O ha fatto quello che abbiamo chiesto,
e si è verificato un problema?

21
00:01:06,566 --> 00:01:09,043
Nei film, quando qualcosa
va storto con l’IA,

22
00:01:09,043 --> 00:01:11,767
di solito è perché l’IA stessa ha deciso

23
00:01:11,767 --> 00:01:14,063
che non vuole più obbedire agli umani,

24
00:01:14,063 --> 00:01:16,710
ma perseguire i propri obiettivi,
e al diavolo tutti!

25
00:01:17,266 --> 00:01:20,372
Tuttavia, nella vita reale,
l’IA di cui effettivamente disponiamo

26
00:01:20,372 --> 00:01:22,781
non è così intelligente da poterlo fare.

27
00:01:22,781 --> 00:01:27,075
Ha approssimativamnte
la potenza di calcolo di un lombrico,

28
00:01:27,075 --> 00:01:30,502
o al massimo di una singola ape,

29
00:01:30,502 --> 00:01:32,741
probabilmente anche meno.

30
00:01:32,741 --> 00:01:35,359
Scopriamo continuamente
cose nuove sul cervello umano,

31
00:01:35,359 --> 00:01:39,743
che possiamo tranquillamente affermare
non essere all’altezza di un’IA.

32
00:01:39,743 --> 00:01:45,429
L’IA di oggi, quindi,
identifica un pedone in una foto,

33
00:01:45,429 --> 00:01:48,437
ma non ha idea di cosa sia un pedone

34
00:01:48,437 --> 00:01:53,273
al di là di un insieme
di linee, trame ed altro.

35
00:01:53,792 --> 00:01:56,313
Di fatto, non sa cosa sia un essere umano.

36
00:01:56,822 --> 00:02:00,116
Quindi l’IA di oggi farà
quello che le chiediamo di fare?

37
00:02:00,116 --> 00:02:01,722
Lo farà se potrà,

38
00:02:01,722 --> 00:02:04,482
ma potrebbe non fare
ciò che davvero vogliamo.

39
00:02:04,482 --> 00:02:07,005
Mettiamo che stiate cercando
di indurre un'IA

40
00:02:07,005 --> 00:02:09,566
a prendere questo insieme
di parti di robot

41
00:02:09,566 --> 00:02:13,555
e assemblarli in una specie di robot
per andare dal punto A al punto B.

42
00:02:13,555 --> 00:02:15,710
Se voleste provare
a risolvere questo problema

43
00:02:15,710 --> 00:02:18,817
scrivendo un programma informatico
in stile tradizionale,

44
00:02:18,817 --> 00:02:22,096
fornireste al programma
istruzioni dettagliate

45
00:02:22,096 --> 00:02:23,683
su come prendere queste parti,

46
00:02:23,683 --> 00:02:25,904
assemblarle in un robot con le gambe

47
00:02:25,904 --> 00:02:29,003
e infine usare queste gambe
per raggiungere il punto B.

48
00:02:29,003 --> 00:02:31,426
Ma quando usate l’IA
per risolvere il problema,

49
00:02:31,426 --> 00:02:32,899
le cose vanno diversamente.

50
00:02:32,899 --> 00:02:35,495
Non le spiegate
come risolvere il problema:

51
00:02:35,495 --> 00:02:36,900
le date solo l'obiettivo,

52
00:02:36,900 --> 00:02:40,034
e sarà lei a capire da sola,
attraverso tentativi ed errori,

53
00:02:40,034 --> 00:02:42,013
come raggiungere quell’obiettivo.

54
00:02:42,013 --> 00:02:46,368
Si scopre così che l’IA tende a risolvere
questo particolare problema

55
00:02:46,368 --> 00:02:47,876
facendo così:

56
00:02:47,876 --> 00:02:53,118
assembla se stessa in una torre,
fino a cadere e atterrare sul punto B.

57
00:02:53,118 --> 00:02:55,869
Tecnicamente, questo risolve il problema.

58
00:02:55,869 --> 00:02:57,736
Teoricamente, ha raggiunto il punto B.

59
00:02:57,736 --> 00:03:01,923
La minaccia dell’IA non è data dal fatto
che questa possa ribellarsi a noi,

60
00:03:01,923 --> 00:03:06,252
ma piuttosto che faccia esattamente
quello che le chiediamo di fare.

61
00:03:06,252 --> 00:03:09,386
Per lavorare con l’IA, quindi,
la vera questione diventa:

62
00:03:09,386 --> 00:03:13,226
come possiamo impostare il problema
in modo che faccia ciò che vogliamo?

63
00:03:14,346 --> 00:03:18,044
Questo piccolo robot è controllato
da un’intelligenza artificiale.

64
00:03:18,044 --> 00:03:20,882
L’IA ha elaborato una struttura
per le gambe del robot

65
00:03:20,882 --> 00:03:24,984
e ha immaginato come muoverle
per farle superare tutti quegli ostacoli.

66
00:03:24,984 --> 00:03:27,749
Ma quando David Ha
ha avviato questo esperimento,

67
00:03:27,749 --> 00:03:30,629
ha dovuto stabilire dei limiti severissimi

68
00:03:30,629 --> 00:03:33,945
entro i quali all’IA era permesso
realizzare le gambe,

69
00:03:33,945 --> 00:03:35,507
perché altrimenti...

70
00:03:43,058 --> 00:03:47,319
(Risate)

71
00:03:48,563 --> 00:03:52,320
E tecnicamente, è arrivata alla fine
di quella corsa ad ostacoli.

72
00:03:52,320 --> 00:03:57,286
Vedete quanto è difficile far fare all’IA
una cosa semplice come camminare.

73
00:03:57,286 --> 00:04:01,130
Vedendo l’IA fare tutto questo,
potreste pensare: "Ok, non va bene,

74
00:04:01,130 --> 00:04:03,572
non puoi pensare di essere
una torre alta e cadere;

75
00:04:03,572 --> 00:04:07,193
devi usare le gambe per camminare.

76
00:04:07,193 --> 00:04:09,976
Ma a quanto pare,
neanche questo sempre funziona.

77
00:04:09,976 --> 00:04:12,931
Il compito di questa IA
era muoversi velocemente.

78
00:04:12,931 --> 00:04:16,720
Non le hanno detto
che doveva correre guardando avanti,

79
00:04:16,720 --> 00:04:19,238
o che non poteva utilizzare le braccia.

80
00:04:19,238 --> 00:04:24,117
Questo è ciò che ottenete
se istruite l’IA a muoversi velocemente,

81
00:04:24,117 --> 00:04:27,675
cose tipo capriole o camminate strambe.

82
00:04:27,675 --> 00:04:29,087
È molto frequente.

83
00:04:29,587 --> 00:04:32,858
Lo è anche ammucchiarsi sul pavimento
muovendosi a scatti.

84
00:04:32,858 --> 00:04:34,020
(Risate)

85
00:04:34,891 --> 00:04:37,935
Quindi, secondo me, sapete cosa
sarebbe stato ancora più strano?

86
00:04:37,935 --> 00:04:40,085
Il robot “Terminator”.

87
00:04:40,085 --> 00:04:44,011
Modificare “The Matrix” è un’altra cosa
che l’IA farà, potendo.

88
00:04:44,011 --> 00:04:46,576
Se addestrate un’IA in una simulazione,

89
00:04:46,576 --> 00:04:50,689
imparerà ad accedere agli errori
di matematica della simulazione

90
00:04:50,689 --> 00:04:52,944
e a farne tesoro per avere energia.

91
00:04:52,944 --> 00:04:58,431
Oppure capirà come andare più veloce
muovendosi a scatti sul pavimento.

92
00:04:58,431 --> 00:04:59,988
Lavorare con l’IA

93
00:04:59,988 --> 00:05:02,435
è diverso dal lavorare
con un altro essere umano:

94
00:05:02,435 --> 00:05:06,328
e più simile al lavorare
con una strana forza della natura.

95
00:05:06,328 --> 00:05:11,209
È molto facile darle accidentalmente
il problema sbagliato da risolvere,

96
00:05:11,209 --> 00:05:15,994
e spesso non ce ne rendiamo conto
finché qualcosa non va storto.

97
00:05:15,994 --> 00:05:18,346
Ecco un esperimento che ho fatto,

98
00:05:18,346 --> 00:05:21,540
in cui volevo che l’IA
copiasse i colori della vernice,

99
00:05:21,540 --> 00:05:23,310
per inventarne di nuovi,

100
00:05:23,310 --> 00:05:26,553
prendendoli dalla lista
di quelli qui a sinistra.

101
00:05:26,553 --> 00:05:29,814
Ed ecco quello che l’IA
ha effettivamente creato:

102
00:05:29,814 --> 00:05:32,981
"Pupù Sindhi, Merdolino,
Sofferenza, Grigio Pubico"

103
00:05:32,981 --> 00:05:37,223
(Risate)

104
00:05:38,987 --> 00:05:41,087
Quindi, tecnicamente,

105
00:05:41,087 --> 00:05:42,963
ha fatto quello che le ho chiesto.

106
00:05:42,963 --> 00:05:46,295
Io pensavo di averle chiesto
dei nomi di colori di vernice carini,

107
00:05:46,295 --> 00:05:48,626
ma in realtà quello che stavo chiedendo

108
00:05:48,626 --> 00:05:51,736
era solo di imitare
il tipo di combinazioni di lettere

109
00:05:51,736 --> 00:05:53,665
che aveva visto nell’originale.

110
00:05:53,665 --> 00:05:56,787
Non le ho detto nulla
sul significato delle parole,

111
00:05:56,787 --> 00:05:59,371
o che ci siano forse delle parole

112
00:05:59,371 --> 00:06:02,452
che dovrebbe evitare di utilizzare
per questi colori di vernice.

113
00:06:03,141 --> 00:06:06,647
Perciò, le informazioni che le ho dato
rappresentano tutto il suo mondo.

114
00:06:06,647 --> 00:06:10,687
Come con i gusti del gelato,
l'IA non conosce nient’altro.

115
00:06:12,491 --> 00:06:14,141
È con le informazioni

116
00:06:14,141 --> 00:06:18,445
che spesso istruiamo l’IA,
senza volerlo, a fare la cosa sbagliata.

117
00:06:18,445 --> 00:06:21,738
Questo è un pesce chiamato tinca.

118
00:06:21,738 --> 00:06:23,577
C’è stato un gruppo di ricercatori

119
00:06:23,577 --> 00:06:27,475
che ha addestrato un’IA
a riconoscere questa tinca nelle foto.

120
00:06:27,475 --> 00:06:28,795
Ma quando le hanno chiesto

121
00:06:28,795 --> 00:06:32,245
quale parte dell'immagine
stesse usando per identificare il pesce,

122
00:06:32,245 --> 00:06:34,025
questo è quello che ha evidenziato.

123
00:06:35,202 --> 00:06:37,392
Sì, quelle sono dita umane.

124
00:06:37,392 --> 00:06:41,540
Perché dovrebbe cercare dita umane,
se sta cercando di identificare un pesce?

125
00:06:42,126 --> 00:06:45,302
Beh, è emerso che la tinca
è un trofeo di pesca,

126
00:06:45,302 --> 00:06:50,312
e in molte delle immagini di tinca
usate per allenare l’IA

127
00:06:50,312 --> 00:06:51,826
il pesce appariva così.

128
00:06:51,826 --> 00:06:53,485
(Risate)

129
00:06:53,485 --> 00:06:56,827
E non sapeva che le dita
non facessero parte del pesce.

130
00:06:58,668 --> 00:07:02,825
Capite quindi quanto è difficile
progettare un'IA

131
00:07:02,825 --> 00:07:06,171
che riesca davvero a comprendere
cosa sta guardando.

132
00:07:06,171 --> 00:07:09,121
Per questo progettare
il riconoscimento delle immagini,

133
00:07:09,121 --> 00:07:11,462
in automobili a guida autonoma,
è così difficile;

134
00:07:11,462 --> 00:07:14,481
e per questo tanti insuccessi
delle auto senza conducente

135
00:07:14,481 --> 00:07:16,520
sono dovuti al fatto che l’IA si confonde.

136
00:07:16,520 --> 00:07:20,378
Vorrei citare un esempio del 2016.

137
00:07:20,378 --> 00:07:24,951
Ci fu un incidente mortale durante l’uso
del pilota automatico di una Tesla;

138
00:07:24,951 --> 00:07:28,347
invece di usarlo in autostrada,
per cui era stato progettato,

139
00:07:28,347 --> 00:07:30,564
fu usato per le strade di città.

140
00:07:31,239 --> 00:07:35,834
Un camion sbucò di fronte all’auto,
e questa non frenò.

141
00:07:36,507 --> 00:07:41,269
L’IA era stata sicuramente istruita
a riconoscere i camion nelle immagini.

142
00:07:41,269 --> 00:07:43,408
Ma a quanto pare,

143
00:07:43,408 --> 00:07:46,466
l’IA era stata istruita a riconoscere
i camion in autostrada,

144
00:07:46,466 --> 00:07:52,784
dove ci si aspetta di vedere i camion
arrivare da dietro, non di lato.

145
00:07:52,784 --> 00:07:56,263
E così, quando l’IA ha visto il camion,

146
00:07:56,263 --> 00:08:01,102
sembra che l’abbia identificato
come più simile ad un cartello stradale,

147
00:08:01,102 --> 00:08:03,580
sicura di potergli passare sotto.

148
00:08:03,580 --> 00:08:06,584
Ecco un altro passo falso dell’IA,
in un altro settore.

149
00:08:06,584 --> 00:08:10,112
Amazon ha recentemente rinunciato
a un algoritmo di selezione di curricula,

150
00:08:10,112 --> 00:08:11,434
su cui stava lavorando,

151
00:08:11,434 --> 00:08:14,944
quando ha scoperto che l’algoritmo
aveva imparato a discriminare le donne.

152
00:08:14,944 --> 00:08:18,428
Si è scoperto che l’avevano istruito
basandosi su modelli di curricula

153
00:08:18,428 --> 00:08:20,654
di persone assunte in passato.

154
00:08:20,654 --> 00:08:23,567
Da questi esempi,
l’IA ha imparato ad evitare i cv

155
00:08:23,567 --> 00:08:26,501
delle persone che avevano frequentato
università femminili,

156
00:08:26,501 --> 00:08:29,411
o che avevano la parola "donne"
da qualche parte nei loro cv,

157
00:08:29,411 --> 00:08:33,898
come in "Squadra di Calcio delle Donne"
o "Società delle Donne Ingegnere".

158
00:08:33,898 --> 00:08:39,898
L’IA non sapeva di dover correggere
questa discriminazione appresa da noi.

159
00:08:39,898 --> 00:08:42,921
Tecnicamente, ha fatto
quello che le hanno chiesto di fare.

160
00:08:42,921 --> 00:08:46,419
Le hanno semplicemente chiesto,
per caso, di fare la cosa sbagliata.

161
00:08:46,419 --> 00:08:49,683
E questo accade di continuo, con l’IA.

162
00:08:49,683 --> 00:08:53,735
L’IA può essere davvero dannosa
senza rendersene conto.

163
00:08:53,735 --> 00:08:58,825
Perciò le IA che raccomandano
nuovi contenuti su Facebook, su YouTube,

164
00:08:58,825 --> 00:09:02,388
sono ottimizzate per accrescere
il numero di click e visualizzazioni.

165
00:09:02,388 --> 00:09:05,848
E un modo che hanno trovato
per riuscirci, sfortunatamente,

166
00:09:05,848 --> 00:09:10,363
è di raccomandare i contenuti
di complottismo e bigottismo.

167
00:09:10,902 --> 00:09:16,215
Le IA stesse non hanno alcuna idea
di cosa sia realmente quel contenuto,

168
00:09:16,215 --> 00:09:19,635
e non hanno alcuna idea
di quali possano essere le conseguenze,

169
00:09:19,635 --> 00:09:21,756
nel raccomandarlo.

170
00:09:22,296 --> 00:09:24,319
Quando lavoriamo con un’IA, quindi,

171
00:09:24,319 --> 00:09:28,525
sta a noi evitare i problemi.

172
00:09:28,525 --> 00:09:30,872
Ed evitare che le cose vadano male,

173
00:09:30,872 --> 00:09:35,422
il che in sostanza ci riporta
all'annoso problema della comunicazione,

174
00:09:35,422 --> 00:09:39,191
per cui noi umani dobbiamo imparare
a comunicare con l’IA.

175
00:09:39,191 --> 00:09:43,254
Dobbiamo imparare cosa l’IA
sa fare bene e cosa no

176
00:09:43,254 --> 00:09:46,364
e capire che, con il suo minuscolo
cervello da vermiciattolo,

177
00:09:46,364 --> 00:09:50,389
l’IA non capisce che cosa
le stiamo chiedendo di fare.

178
00:09:51,148 --> 00:09:54,481
Dobbiamo imparare, in altre parole,
a saper lavorare con l’IA "vera",

179
00:09:54,481 --> 00:09:59,763
che non è l’IA super competente
e onnisciente della fantascienza.

180
00:09:59,763 --> 00:10:05,611
Dobbiamo essere preparati a lavorare
con l’IA che abbiamo oggi.

181
00:10:05,611 --> 00:10:09,840
E allo stato attuale,
l'IA è già bizzarra a sufficienza.

182
00:10:09,840 --> 00:10:11,054
Grazie.

183
00:10:11,054 --> 00:10:15,551
(Applausi)