WEBVTT

00:00:02.655 --> 00:00:05.549
L’intelligenza artificiale
è notoriamente capace

00:00:05.549 --> 00:00:08.318
di sconvolgere tutte le industrie
in cui entra in azione.

00:00:08.961 --> 00:00:11.004
Che ne dite di applicarla al gelato?

00:00:11.879 --> 00:00:15.542
Che razza di nuovi,
strabilianti sapori potremmo generare

00:00:15.542 --> 00:00:18.764
sfruttando un’intelligenza
artificiale avanzata?

00:00:18.764 --> 00:00:23.184
Ho collaborato con dei programmatori
della Kealing Middle School

00:00:23.184 --> 00:00:25.449
per trovare la risposta a questa domanda.

00:00:25.449 --> 00:00:30.554
Hanno raccolto oltre 1.600 gusti
di gelato esistenti,

00:00:30.554 --> 00:00:36.100
che abbiamo inserito in un algoritmo
per vedere cosa avrebbe generato.

00:00:36.100 --> 00:00:39.879
Ecco alcuni dei gusti creati dall’IA:

00:00:39.879 --> 00:00:41.927
[Merenda di spazzatura alla zucca]

00:00:41.927 --> 00:00:43.353
(Risate)

00:00:43.353 --> 00:00:45.933
[Melma al burro di arachidi]

00:00:45.933 --> 00:00:48.177
[Malattia alla crema di fragole]

00:00:48.177 --> 00:00:50.327
(Risate)

00:00:50.327 --> 00:00:54.850
Non proprio le suggestioni invitanti
che speravamo di ricevere.

00:00:54.850 --> 00:00:56.988
La domanda sorge spontanea:
cos’è successo?

00:00:56.988 --> 00:00:58.626
Che cosa è andato storto?

00:00:58.626 --> 00:01:00.225
L’IA sta cercando di ucciderci?

00:01:01.027 --> 00:01:05.337
O ha fatto quello che abbiamo chiesto,
e si è verificato un problema?

00:01:06.566 --> 00:01:09.043
Nei film, quando qualcosa
va storto con l’IA,

00:01:09.043 --> 00:01:11.767
di solito è perché l’IA stessa ha deciso

00:01:11.767 --> 00:01:14.063
che non vuole più obbedire agli umani,

00:01:14.063 --> 00:01:16.710
ma perseguire i propri obiettivi,
e al diavolo tutti!

00:01:17.266 --> 00:01:20.372
Tuttavia, nella vita reale,
l’IA di cui effettivamente disponiamo

00:01:20.372 --> 00:01:22.781
non è così intelligente da poterlo fare.

00:01:22.781 --> 00:01:27.075
Ha approssimativamnte
la potenza di calcolo di un lombrico,

00:01:27.075 --> 00:01:30.502
o al massimo di una singola ape,

00:01:30.502 --> 00:01:32.741
probabilmente anche meno.

00:01:32.741 --> 00:01:35.359
Scopriamo continuamente
cose nuove sul cervello umano,

00:01:35.359 --> 00:01:39.743
che possiamo tranquillamente affermare
non essere all’altezza di un’IA.

00:01:39.743 --> 00:01:45.429
L’IA di oggi, quindi,
identifica un pedone in una foto,

00:01:45.429 --> 00:01:48.437
ma non ha idea di cosa sia un pedone

00:01:48.437 --> 00:01:53.273
al di là di un insieme
di linee, trame ed altro.

00:01:53.792 --> 00:01:56.313
Di fatto, non sa cosa sia un essere umano.

00:01:56.822 --> 00:02:00.116
Quindi l’IA di oggi farà
quello che le chiediamo di fare?

00:02:00.116 --> 00:02:01.722
Lo farà se potrà,

00:02:01.722 --> 00:02:04.482
ma potrebbe non fare
ciò che davvero vogliamo.

00:02:04.482 --> 00:02:07.005
Mettiamo che stiate cercando
di indurre un'IA

00:02:07.005 --> 00:02:09.566
a prendere questo insieme
di parti di robot

00:02:09.566 --> 00:02:13.555
e assemblarli in una specie di robot
per andare dal punto A al punto B.

00:02:13.555 --> 00:02:15.710
Se voleste provare
a risolvere questo problema

00:02:15.710 --> 00:02:18.817
scrivendo un programma informatico
in stile tradizionale,

00:02:18.817 --> 00:02:22.096
fornireste al programma
istruzioni dettagliate

00:02:22.096 --> 00:02:23.683
su come prendere queste parti,

00:02:23.683 --> 00:02:25.904
assemblarle in un robot con le gambe

00:02:25.904 --> 00:02:29.003
e infine usare queste gambe
per raggiungere il punto B.

00:02:29.003 --> 00:02:31.426
Ma quando usate l’IA
per risolvere il problema,

00:02:31.426 --> 00:02:32.899
le cose vanno diversamente.

00:02:32.899 --> 00:02:35.495
Non le spiegate
come risolvere il problema:

00:02:35.495 --> 00:02:36.900
le date solo l'obiettivo,

00:02:36.900 --> 00:02:40.034
e sarà lei a capire da sola,
attraverso tentativi ed errori,

00:02:40.034 --> 00:02:42.013
come raggiungere quell’obiettivo.

00:02:42.013 --> 00:02:46.368
Si scopre così che l’IA tende a risolvere
questo particolare problema

00:02:46.368 --> 00:02:47.876
facendo così:

00:02:47.876 --> 00:02:53.118
assembla se stessa in una torre,
fino a cadere e atterrare sul punto B.

00:02:53.118 --> 00:02:55.869
Tecnicamente, questo risolve il problema.

00:02:55.869 --> 00:02:57.736
Teoricamente, ha raggiunto il punto B.

00:02:57.736 --> 00:03:01.923
La minaccia dell’IA non è data dal fatto
che questa possa ribellarsi a noi,

00:03:01.923 --> 00:03:06.252
ma piuttosto che faccia esattamente
quello che le chiediamo di fare.

00:03:06.252 --> 00:03:09.386
Per lavorare con l’IA, quindi,
la vera questione diventa:

00:03:09.386 --> 00:03:13.226
come possiamo impostare il problema
in modo che faccia ciò che vogliamo?

00:03:14.346 --> 00:03:18.044
Questo piccolo robot è controllato
da un’intelligenza artificiale.

00:03:18.044 --> 00:03:20.882
L’IA ha elaborato una struttura
per le gambe del robot

00:03:20.882 --> 00:03:24.984
e ha immaginato come muoverle
per farle superare tutti quegli ostacoli.

00:03:24.984 --> 00:03:27.749
Ma quando David Ha
ha avviato questo esperimento,

00:03:27.749 --> 00:03:30.629
ha dovuto stabilire dei limiti severissimi

00:03:30.629 --> 00:03:33.945
entro i quali all’IA era permesso
realizzare le gambe,

00:03:33.945 --> 00:03:35.507
perché altrimenti...

00:03:43.058 --> 00:03:47.319
(Risate)

00:03:48.563 --> 00:03:52.320
E tecnicamente, è arrivata alla fine
di quella corsa ad ostacoli.

00:03:52.320 --> 00:03:57.286
Vedete quanto è difficile far fare all’IA
una cosa semplice come camminare.

00:03:57.286 --> 00:04:01.130
Vedendo l’IA fare tutto questo,
potreste pensare: "Ok, non va bene,

00:04:01.130 --> 00:04:03.572
non puoi pensare di essere
una torre alta e cadere;

00:04:03.572 --> 00:04:07.193
devi usare le gambe per camminare.

00:04:07.193 --> 00:04:09.976
Ma a quanto pare,
neanche questo sempre funziona.

00:04:09.976 --> 00:04:12.931
Il compito di questa IA
era muoversi velocemente.

00:04:12.931 --> 00:04:16.720
Non le hanno detto
che doveva correre guardando avanti,

00:04:16.720 --> 00:04:19.238
o che non poteva utilizzare le braccia.

00:04:19.238 --> 00:04:24.117
Questo è ciò che ottenete
se istruite l’IA a muoversi velocemente,

00:04:24.117 --> 00:04:27.675
cose tipo capriole o camminate strambe.

00:04:27.675 --> 00:04:29.087
È molto frequente.

00:04:29.587 --> 00:04:32.858
Lo è anche ammucchiarsi sul pavimento
muovendosi a scatti.

00:04:32.858 --> 00:04:34.020
(Risate)

00:04:34.891 --> 00:04:37.935
Quindi, secondo me, sapete cosa
sarebbe stato ancora più strano?

00:04:37.935 --> 00:04:40.085
Il robot “Terminator”.

00:04:40.085 --> 00:04:44.011
Modificare “The Matrix” è un’altra cosa
che l’IA farà, potendo.

00:04:44.011 --> 00:04:46.576
Se addestrate un’IA in una simulazione,

00:04:46.576 --> 00:04:50.689
imparerà ad accedere agli errori
di matematica della simulazione

00:04:50.689 --> 00:04:52.944
e a farne tesoro per avere energia.

00:04:52.944 --> 00:04:58.431
Oppure capirà come andare più veloce
muovendosi a scatti sul pavimento.

00:04:58.431 --> 00:04:59.988
Lavorare con l’IA

00:04:59.988 --> 00:05:02.435
è diverso dal lavorare
con un altro essere umano:

00:05:02.435 --> 00:05:06.328
e più simile al lavorare
con una strana forza della natura.

00:05:06.328 --> 00:05:11.209
È molto facile darle accidentalmente
il problema sbagliato da risolvere,

00:05:11.209 --> 00:05:15.994
e spesso non ce ne rendiamo conto
finché qualcosa non va storto.

00:05:15.994 --> 00:05:18.346
Ecco un esperimento che ho fatto,

00:05:18.346 --> 00:05:21.540
in cui volevo che l’IA
copiasse i colori della vernice,

00:05:21.540 --> 00:05:23.310
per inventarne di nuovi,

00:05:23.310 --> 00:05:26.553
prendendoli dalla lista
di quelli qui a sinistra.

00:05:26.553 --> 00:05:29.814
Ed ecco quello che l’IA
ha effettivamente creato:

00:05:29.814 --> 00:05:32.981
"Pupù Sindhi, Merdolino,
Sofferenza, Grigio Pubico"

00:05:32.981 --> 00:05:37.223
(Risate)

00:05:38.987 --> 00:05:41.087
Quindi, tecnicamente,

00:05:41.087 --> 00:05:42.963
ha fatto quello che le ho chiesto.

00:05:42.963 --> 00:05:46.295
Io pensavo di averle chiesto
dei nomi di colori di vernice carini,

00:05:46.295 --> 00:05:48.626
ma in realtà quello che stavo chiedendo

00:05:48.626 --> 00:05:51.736
era solo di imitare
il tipo di combinazioni di lettere

00:05:51.736 --> 00:05:53.665
che aveva visto nell’originale.

00:05:53.665 --> 00:05:56.787
Non le ho detto nulla
sul significato delle parole,

00:05:56.787 --> 00:05:59.371
o che ci siano forse delle parole

00:05:59.371 --> 00:06:02.452
che dovrebbe evitare di utilizzare
per questi colori di vernice.

00:06:03.141 --> 00:06:06.647
Perciò, le informazioni che le ho dato
rappresentano tutto il suo mondo.

00:06:06.647 --> 00:06:10.687
Come con i gusti del gelato,
l'IA non conosce nient’altro.

00:06:12.491 --> 00:06:14.141
È con le informazioni

00:06:14.141 --> 00:06:18.445
che spesso istruiamo l’IA,
senza volerlo, a fare la cosa sbagliata.

00:06:18.445 --> 00:06:21.738
Questo è un pesce chiamato tinca.

00:06:21.738 --> 00:06:23.577
C’è stato un gruppo di ricercatori

00:06:23.577 --> 00:06:27.475
che ha addestrato un’IA
a riconoscere questa tinca nelle foto.

00:06:27.475 --> 00:06:28.795
Ma quando le hanno chiesto

00:06:28.795 --> 00:06:32.245
quale parte dell'immagine
stesse usando per identificare il pesce,

00:06:32.245 --> 00:06:34.025
questo è quello che ha evidenziato.

00:06:35.202 --> 00:06:37.392
Sì, quelle sono dita umane.

00:06:37.392 --> 00:06:41.540
Perché dovrebbe cercare dita umane,
se sta cercando di identificare un pesce?

00:06:42.126 --> 00:06:45.302
Beh, è emerso che la tinca
è un trofeo di pesca,

00:06:45.302 --> 00:06:50.312
e in molte delle immagini di tinca
usate per allenare l’IA

00:06:50.312 --> 00:06:51.826
il pesce appariva così.

00:06:51.826 --> 00:06:53.485
(Risate)

00:06:53.485 --> 00:06:56.827
E non sapeva che le dita
non facessero parte del pesce.

00:06:58.668 --> 00:07:02.825
Capite quindi quanto è difficile
progettare un'IA

00:07:02.825 --> 00:07:06.171
che riesca davvero a comprendere
cosa sta guardando.

00:07:06.171 --> 00:07:09.121
Per questo progettare
il riconoscimento delle immagini,

00:07:09.121 --> 00:07:11.462
in automobili a guida autonoma,
è così difficile;

00:07:11.462 --> 00:07:14.481
e per questo tanti insuccessi
delle auto senza conducente

00:07:14.481 --> 00:07:16.520
sono dovuti al fatto che l’IA si confonde.

00:07:16.520 --> 00:07:20.378
Vorrei citare un esempio del 2016.

00:07:20.378 --> 00:07:24.951
Ci fu un incidente mortale durante l’uso
del pilota automatico di una Tesla;

00:07:24.951 --> 00:07:28.347
invece di usarlo in autostrada,
per cui era stato progettato,

00:07:28.347 --> 00:07:30.564
fu usato per le strade di città.

00:07:31.239 --> 00:07:35.834
Un camion sbucò di fronte all’auto,
e questa non frenò.

00:07:36.507 --> 00:07:41.269
L’IA era stata sicuramente istruita
a riconoscere i camion nelle immagini.

00:07:41.269 --> 00:07:43.408
Ma a quanto pare,

00:07:43.408 --> 00:07:46.466
l’IA era stata istruita a riconoscere
i camion in autostrada,

00:07:46.466 --> 00:07:52.784
dove ci si aspetta di vedere i camion
arrivare da dietro, non di lato.

00:07:52.784 --> 00:07:56.263
E così, quando l’IA ha visto il camion,

00:07:56.263 --> 00:08:01.102
sembra che l’abbia identificato
come più simile ad un cartello stradale,

00:08:01.102 --> 00:08:03.580
sicura di potergli passare sotto.

00:08:03.580 --> 00:08:06.584
Ecco un altro passo falso dell’IA,
in un altro settore.

00:08:06.584 --> 00:08:10.112
Amazon ha recentemente rinunciato
a un algoritmo di selezione di curricula,

00:08:10.112 --> 00:08:11.434
su cui stava lavorando,

00:08:11.434 --> 00:08:14.944
quando ha scoperto che l’algoritmo
aveva imparato a discriminare le donne.

00:08:14.944 --> 00:08:18.428
Si è scoperto che l’avevano istruito
basandosi su modelli di curricula

00:08:18.428 --> 00:08:20.654
di persone assunte in passato.

00:08:20.654 --> 00:08:23.567
Da questi esempi,
l’IA ha imparato ad evitare i cv

00:08:23.567 --> 00:08:26.501
delle persone che avevano frequentato
università femminili,

00:08:26.501 --> 00:08:29.411
o che avevano la parola "donne"
da qualche parte nei loro cv,

00:08:29.411 --> 00:08:33.898
come in "Squadra di Calcio delle Donne"
o "Società delle Donne Ingegnere".

00:08:33.898 --> 00:08:39.898
L’IA non sapeva di dover correggere
questa discriminazione appresa da noi.

00:08:39.898 --> 00:08:42.921
Tecnicamente, ha fatto
quello che le hanno chiesto di fare.

00:08:42.921 --> 00:08:46.419
Le hanno semplicemente chiesto,
per caso, di fare la cosa sbagliata.

00:08:46.419 --> 00:08:49.683
E questo accade di continuo, con l’IA.

00:08:49.683 --> 00:08:53.735
L’IA può essere davvero dannosa
senza rendersene conto.

00:08:53.735 --> 00:08:58.825
Perciò le IA che raccomandano
nuovi contenuti su Facebook, su YouTube,

00:08:58.825 --> 00:09:02.388
sono ottimizzate per accrescere
il numero di click e visualizzazioni.

00:09:02.388 --> 00:09:05.848
E un modo che hanno trovato
per riuscirci, sfortunatamente,

00:09:05.848 --> 00:09:10.363
è di raccomandare i contenuti
di complottismo e bigottismo.

00:09:10.902 --> 00:09:16.215
Le IA stesse non hanno alcuna idea
di cosa sia realmente quel contenuto,

00:09:16.215 --> 00:09:19.635
e non hanno alcuna idea
di quali possano essere le conseguenze,

00:09:19.635 --> 00:09:21.756
nel raccomandarlo.

00:09:22.296 --> 00:09:24.319
Quando lavoriamo con un’IA, quindi,

00:09:24.319 --> 00:09:28.525
sta a noi evitare i problemi.

00:09:28.525 --> 00:09:30.872
Ed evitare che le cose vadano male,

00:09:30.872 --> 00:09:35.422
il che in sostanza ci riporta
all'annoso problema della comunicazione,

00:09:35.422 --> 00:09:39.191
per cui noi umani dobbiamo imparare
a comunicare con l’IA.

00:09:39.191 --> 00:09:43.254
Dobbiamo imparare cosa l’IA
sa fare bene e cosa no

00:09:43.254 --> 00:09:46.364
e capire che, con il suo minuscolo
cervello da vermiciattolo,

00:09:46.364 --> 00:09:50.389
l’IA non capisce che cosa
le stiamo chiedendo di fare.

00:09:51.148 --> 00:09:54.481
Dobbiamo imparare, in altre parole,
a saper lavorare con l’IA "vera",

00:09:54.481 --> 00:09:59.763
che non è l’IA super competente
e onnisciente della fantascienza.

00:09:59.763 --> 00:10:05.611
Dobbiamo essere preparati a lavorare
con l’IA che abbiamo oggi.

00:10:05.611 --> 00:10:09.840
E allo stato attuale,
l'IA è già bizzarra a sufficienza.

00:10:09.840 --> 00:10:11.054
Grazie.

00:10:11.054 --> 00:10:15.551
(Applausi)