WEBVTT

00:00:01.000 --> 00:00:02.809
Chris Anderson: Nick Bostrom.

00:00:02.833 --> 00:00:06.809
Allora, ci hai già regalato 
tante idee pazzesche su questo tema.

00:00:06.833 --> 00:00:08.212
Una ventina di anni fa,

00:00:08.212 --> 00:00:11.672
hai ipotizzato fosse possibile 
che stessimo vivendo in una simulazione,

00:00:11.672 --> 00:00:13.351
o magari che fosse probabile.

00:00:13.375 --> 00:00:14.726
Recentemente,

00:00:14.726 --> 00:00:19.351
ci hai illustrato vividi esempi di come 
con l'intelligenza artificiale

00:00:19.375 --> 00:00:21.208
potrebbe finire davvero male.

00:00:21.750 --> 00:00:23.143
E quest’anno,

00:00:23.167 --> 00:00:25.393
stai per pubblicare un articolo

00:00:25.417 --> 00:00:29.351
che introduce qualcosa che tu definisci 
l'ipotesi del mondo vulnerabile.

00:00:29.375 --> 00:00:33.958
Questa sera cercheremo di fornire 
una guida descrittiva a questa ipotesi.

00:00:34.417 --> 00:00:36.250
Quindi cominciamo.

00:00:36.833 --> 00:00:38.625
Qual è l'ipotesi?

NOTE Paragraph

00:00:40.000 --> 00:00:42.434
Nick Bostrom: Si cerca di considerare

00:00:42.458 --> 00:00:45.881
una sorta di caratteristica strutturale 
dell'attuale condizione umana.

00:00:47.575 --> 00:00:49.416
A te piace la metafora dell'urna,

00:00:49.416 --> 00:00:51.393
quindi la userò per spiegarla.

00:00:51.417 --> 00:00:55.768
Immagina una grossa urna piena di sfere

00:00:55.792 --> 00:00:59.750
che rappresentano le idee, 
i metodi, le possibili tecnologie.

00:01:00.833 --> 00:01:04.419
Possiamo immaginare la storia 
della creatività umana

00:01:04.419 --> 00:01:08.417
come l’atto di pescare in quest'urna 
e tirare fuori le sfere una dopo l'altra,

00:01:08.417 --> 00:01:11.747
e l'effetto fino ad ora
è stato largamente positivo, giusto?

00:01:11.747 --> 00:01:14.143
Abbiamo estratto
un gran numero di sfere bianche,

00:01:14.143 --> 00:01:17.909
qualcuna con diverse sfumature di grigio, 
con un misto di vantaggi e svantaggi.

00:01:18.042 --> 00:01:21.000
Finora non abbiamo estratto
la sfera nera,

00:01:22.292 --> 00:01:27.718
una tecnologia che immancabilmente 
distruggerebbe la civiltà che la scopre.

00:01:27.718 --> 00:01:31.083
Nell'articolo cerco di pensare
a quale può essere questa sfera nera.

NOTE Paragraph

00:01:31.083 --> 00:01:32.893
CA: Quindi tu definisci questa sfera

00:01:32.917 --> 00:01:36.601
quella che determinerebbe inevitabilmente
la distruzione della civiltà.

NOTE Paragraph

00:01:36.625 --> 00:01:41.934
NB: Se non abbandoniamo quella che chiamo
la condizione semianarchica prestabilita.

00:01:41.958 --> 00:01:43.458
Ma praticamente in automatico.

NOTE Paragraph

00:01:44.333 --> 00:01:47.851
CA: Quindi, sostieni la tua ipotesi

00:01:47.875 --> 00:01:49.893
mostrando una serie di controesempi

00:01:49.917 --> 00:01:52.851
in cui ritieni che finora 
siamo stati davvero fortunati,

00:01:52.875 --> 00:01:55.726
che avremmo potuto pescare 
la sfera della morte.

00:01:55.750 --> 00:01:56.909
senza neanche saperlo.

00:01:56.909 --> 00:01:58.425
Quindi perché questa citazione?

NOTE Paragraph

00:02:01.525 --> 00:02:03.333
NB: Immagino sia per mostrare

00:02:03.333 --> 00:02:05.434
la difficoltà di prevedere

00:02:05.458 --> 00:02:08.143
a cosa condurranno
le scoperte fondamentali.

00:02:08.167 --> 00:02:11.226
Semplicemente non ne siamo capaci.

00:02:11.250 --> 00:02:14.601
Perché siamo diventati piuttosto bravi
a estrarre le sfere,

00:02:14.625 --> 00:02:18.351
ma non siamo proprio in grado 
di rimetterle nell'urna.

00:02:18.375 --> 00:02:20.542
Possiamo inventare, non disinventare.

00:02:21.583 --> 00:02:24.241
Quindi la nostra strategia, 
se così la si può chiamare,

00:02:24.241 --> 00:02:26.809
è sperare che nell'urna 
non ci sia nessuna sfera nera.

NOTE Paragraph

00:02:26.833 --> 00:02:30.637
CA: Quindi una volta fuori, è fuori, 
e non la si può rimettere dentro,

00:02:30.637 --> 00:02:32.434
e tu pensi che siamo stati fortunati.

00:02:32.458 --> 00:02:34.758
Allora spieghiamo bene 
un paio di questi esempi.

00:02:34.758 --> 00:02:37.809
Parli di diversi tipi di vulnerabilità.

NOTE Paragraph

00:02:37.833 --> 00:02:40.268
NB: Il tipo più semplice da comprendere

00:02:40.292 --> 00:02:43.434
deriva da una tecnologia 
che renda davvero molto facile

00:02:43.458 --> 00:02:45.583
provocare grandi distruzioni.

00:02:47.025 --> 00:02:50.893
La biologia sintetica potrebbe essere 
un'ottima base per quel tipo di sfera nera

00:02:50.917 --> 00:02:53.601
ma potrebbero esserlo 
anche molte altre cose:

00:02:53.625 --> 00:02:56.143
pensate alla geoingegneria, 
fantastica, vero?

00:02:56.167 --> 00:02:58.323
Potremmo combattere 
il riscaldamento globale,

00:02:58.323 --> 00:03:00.683
ma non vorremmo diventasse 
troppo semplice,

00:03:00.683 --> 00:03:03.029
non vorremmo che chiunque, 
o la nonna di chiunque

00:03:03.029 --> 00:03:06.143
avesse la capacità di alterare 
radicalmente il clima della Terra.

00:03:06.167 --> 00:03:09.726
O magari dei droni autonomi letali,

00:03:09.750 --> 00:03:13.083
prodotti in massa, sciami di robot killer
piccoli come zanzare.

00:03:14.500 --> 00:03:17.226
La nanotecnologia,
l'intelligenza artificiale generale.

NOTE Paragraph

00:03:17.226 --> 00:03:18.613
CA: Nel tuo articolo sostieni

00:03:18.613 --> 00:03:21.660
che è stata solo questione di fortuna
avere scoperto

00:03:21.660 --> 00:03:24.934
che con l'energia nucleare 
si poteva creare una bomba,

00:03:24.934 --> 00:03:26.425
sarebbe potuto succedere invece

00:03:26.425 --> 00:03:28.226
di poter creare una bomba

00:03:28.250 --> 00:03:31.809
con risorse più semplici, 
accessibili a chiunque.

NOTE Paragraph

00:03:31.833 --> 00:03:35.393
NB: Già, quindi ripensiamo agli anni '30

00:03:35.417 --> 00:03:40.018
quando per la prima volta abbiamo fatto 
passi da gigante nella fisica nucleare,

00:03:40.018 --> 00:03:43.830
qualche genio ha capito che era possibile 
creare una reazione nucleare a catena

00:03:43.830 --> 00:03:46.934
e poi ha realizzato che questo 
avrebbe potuto portare alla bomba.

00:03:46.958 --> 00:03:48.851
E lavorandoci su,

00:03:48.851 --> 00:03:51.775
venne fuori che quello che serve 
per fare una bomba nucleare

00:03:51.775 --> 00:03:54.018
è l'uranio arricchito o il plutonio,

00:03:54.022 --> 00:03:56.059
materiali molto difficili da ottenere.

00:03:56.083 --> 00:03:58.351
Servono ultracentrifughe,

00:03:58.375 --> 00:04:02.143
reattori, enormi quantità di energia.

00:04:02.167 --> 00:04:04.282
Ma supponiamo invece 
che fosse saltato fuori

00:04:04.282 --> 00:04:07.976
che esisteva un modo semplice 
per liberare l'energia dell'atomo.

00:04:07.980 --> 00:04:10.588
Che magari arrostendo 
della sabbia nel microonde

00:04:10.588 --> 00:04:11.819
o qualcosa del genere

00:04:11.819 --> 00:04:14.114
si fosse potuto creare 
una detonazione nucleare.

00:04:14.114 --> 00:04:16.301
Oggi sappiamo dalla fisica 
che è impossibile.

00:04:16.301 --> 00:04:17.808
Ma prima di fare le ricerche

00:04:17.808 --> 00:04:20.473
come avremmo potuto sapere 
come sarebbe andata a finire?

NOTE Paragraph

00:04:20.473 --> 00:04:22.343
CA: Però non si può discutere il fatto

00:04:22.343 --> 00:04:24.202
che l'evoluzione della vita sulla Terra

00:04:24.202 --> 00:04:27.309
ha avuto bisogno di una sorta 
di ambiente stabile,

00:04:27.309 --> 00:04:31.258
e che se fosse stato possibile 
creare facilmente tali reazioni nucleari,

00:04:31.258 --> 00:04:33.140
la Terra non sarebbe mai stata stabile,

00:04:33.140 --> 00:04:34.896
ei noi non saremmo qui adesso.

NOTE Paragraph

00:04:34.896 --> 00:04:38.393
NB: Già, a meno che non ci fosse qualcosa 
di facile da fare volutamente

00:04:38.417 --> 00:04:41.098
ma non accadrebbe per caso.

00:04:41.098 --> 00:04:42.956
Tipo cose che possiamo fare facilmente,

00:04:42.956 --> 00:04:45.006
come impilare 10 blocchi 
uno sopra l'altro,

00:04:45.031 --> 00:04:48.228
ma in natura, è improbabile
trovare una pila di 10 blocchi.

NOTE Paragraph

00:04:48.228 --> 00:04:50.096
CA: Ora, questa 
è probabilmente la cosa

00:04:50.096 --> 00:04:52.157
per cui molti di noi 
si preoccupano di più,

00:04:52.157 --> 00:04:55.434
e sì, la biologia sintetica 
è forse la via più veloce

00:04:55.434 --> 00:04:58.476
che possiamo prevedere 
ci condurrà a questo nel prossimo futuro.

NOTE Paragraph

00:04:58.500 --> 00:05:01.454
NB: Sì, e pensa cosa significherebbe

00:05:01.458 --> 00:05:05.031
se, ad esempio, chiunque lavorando 
per un pomeriggio nella propria cucina

00:05:05.031 --> 00:05:06.518
potesse distruggere una città.

00:05:06.542 --> 00:05:10.021
È difficile immaginare 
come la civiltà moderna come la conosciamo

00:05:10.021 --> 00:05:11.559
potrebbe sopravvivere a questo.

00:05:11.583 --> 00:05:14.101
Perché in una popolazione 
di un milione di persone,

00:05:14.101 --> 00:05:16.809
ci sarà sempre qualcuno che, 
per una ragione qualsiasi,

00:05:16.809 --> 00:05:19.017
sceglierebbe di usare 
quel potere distruttivo.

00:05:19.750 --> 00:05:22.553
Così, se quel residuo apocalittico

00:05:22.553 --> 00:05:25.073
decidesse di distruggere una città, 
o fare di peggio,

00:05:25.073 --> 00:05:26.500
le città verrebbero distrutte.

NOTE Paragraph

00:05:26.500 --> 00:05:28.851
CA: Ma c'è un altro tipo di vulnerabilità.

00:05:28.875 --> 00:05:30.518
Parlaci di questo.

NOTE Paragraph

00:05:30.542 --> 00:05:34.248
NB: Sì, oltre a questo tipo 
piuttosto ovvio di palle nere

00:05:34.248 --> 00:05:37.352
che renderebbero possibile 
far saltare in aria un sacco di cose,

00:05:37.376 --> 00:05:41.809
altri tipi agirebbero 
creando cattivi incentivi

00:05:41.833 --> 00:05:44.059
per gli uomini 
portandoli a fare cose dannose.

00:05:44.083 --> 00:05:48.184
Quindi, il Tipo-2a, 
potremmo chiamarlo così,

00:05:48.208 --> 00:05:52.726
potrebbe derivare da una tecnologia 
che incentivasse le grandi potenze

00:05:52.750 --> 00:05:57.226
a usare la loro enorme forza 
per creare distruzione.

00:05:57.250 --> 00:06:00.083
Le armi nucleari si sono avvicinate molto 
a questo, giusto?

00:06:02.083 --> 00:06:05.143
In quel caso abbiamo speso 
oltre 10 mila miliardi di dollari

00:06:05.143 --> 00:06:07.684
per costruire 70.000 testate nucleari

00:06:07.684 --> 00:06:09.853
e metterle nello stato 
di allerta immediata.

00:06:09.853 --> 00:06:12.108
E in diverse occasioni 
durante la Guerra Fredda

00:06:12.108 --> 00:06:14.154
abbiamo rischiato 
di saltare tutti in aria.

00:06:14.154 --> 00:06:16.558
E non perché tanta gente ritenesse 
una grande idea

00:06:16.558 --> 00:06:19.576
spendere 10 mila miliardi di dollari 
per saltare tutti in aria,

00:06:19.576 --> 00:06:22.384
ma gli incentivi erano tali 
che ci siamo ritrovati a farlo.

00:06:22.384 --> 00:06:23.778
Sarebbe potuta andare peggio.

00:06:23.778 --> 00:06:26.550
Immagina se ci fosse stato 
un primo colpo nucleare sicuro.

00:06:26.550 --> 00:06:28.609
Dopo sarebbe potuto 
essere molto difficile,

00:06:28.609 --> 00:06:29.901
in una situazione di crisi,

00:06:29.901 --> 00:06:32.626
trattenersi dal lanciare 
tutti i propri missili nucleari.

00:06:32.626 --> 00:06:35.528
Se non altro, per la paura 
che potesse farlo la controparte.

NOTE Paragraph

00:06:35.528 --> 00:06:37.865
CA: La certezza
di una distruzione reciproca

00:06:37.865 --> 00:06:40.635
ha mantenuto una certa stabilità 
durante la Guerra Fredda.

00:06:40.635 --> 00:06:42.543
Senza quella, forse 
ora non saremmo qui.

NOTE Paragraph

00:06:42.543 --> 00:06:44.397
NB: Sarebbe potuta essere meno stabile.

00:06:44.397 --> 00:06:46.969
E potrebbero esserci 
altre proprietà della tecnologia.

00:06:46.969 --> 00:06:49.915
Avere trattati sulle armi 
sarebbe potuto essere più difficile,

00:06:49.915 --> 00:06:51.300
se invece delle armi nucleari

00:06:51.300 --> 00:06:54.157
ci fossero state cose più piccole, 
o meno distruttive.

NOTE Paragraph

00:06:54.157 --> 00:06:56.295
CA: Oltre ai cattivi incentivi 
per i potenti,

00:06:56.295 --> 00:07:00.393
ti preoccupano anche i cattivi incentivi 
per tutti noi, qui nel Tipo-2b.

NOTE Paragraph

00:07:00.417 --> 00:07:04.667
NB: Sì, si potrebbe considerare il caso 
del riscaldamento globale.

00:07:06.958 --> 00:07:08.851
Ci sono un sacco di piccole comodità

00:07:08.851 --> 00:07:10.934
che ci incentivano a fare cose

00:07:10.934 --> 00:07:13.934
che singolarmente non hanno 
un effetto significativo, giusto?

00:07:13.958 --> 00:07:15.934
Ma se fatte da un miliardo di persone,

00:07:15.934 --> 00:07:17.868
nell'insieme, hanno un effetto dannoso.

00:07:17.868 --> 00:07:21.135
Il riscaldamento globale sarebbe 
potuto essere molto peggio di così.

00:07:21.135 --> 00:07:23.945
Abbiamo il parametro della 
"sensibilità climatica".

00:07:23.945 --> 00:07:27.518
È un parametro che ci dice 
quanto diventa più caldo

00:07:27.518 --> 00:07:30.226
con l'emissione 
di una certa quantità di gas serra.

00:07:30.250 --> 00:07:32.593
Ma, mettiamo il caso

00:07:32.593 --> 00:07:35.208
che con l'emissione 
di una certa quantità di gas serra,

00:07:35.208 --> 00:07:37.268
invece di un aumento della temperatura

00:07:37.268 --> 00:07:41.018
tra i 3 e i 4,5 gradi per il 2100,

00:07:41.018 --> 00:07:43.542
fosse previsto un aumento
di 15 o 20 gradi.

00:07:43.735 --> 00:07:46.537
Ci saremmo potuti trovare
in una situazione davvero brutta.

00:07:46.537 --> 00:07:50.125
Supponiamo che l'energia rinnovabile 
fosse stata più difficile da ottenere.

00:07:50.125 --> 00:07:52.457
Che il combustibile fossile
fosse più disponibile.

NOTE Paragraph

00:07:52.457 --> 00:07:55.434
CA: Non si potrebbe supporre 
che se in quel caso,

00:07:55.458 --> 00:07:57.184
se quello che stiamo facendo oggi

00:07:57.208 --> 00:08:01.728
avesse prodotto una differenza di 10 gradi
nel periodo osservato,

00:08:01.728 --> 00:08:05.500
invece l'umanità si sarebbe data una mossa
e avrebbe fatto qualcosa a proposito.

00:08:05.500 --> 00:08:08.309
Siamo stupidi, ma forse non così stupidi.

00:08:08.333 --> 00:08:09.601
O forse lo siamo.

NOTE Paragraph

00:08:09.625 --> 00:08:10.893
NB: Non ci scommetterei.

NOTE Paragraph

00:08:10.917 --> 00:08:12.941
(Risate)

NOTE Paragraph

00:08:12.941 --> 00:08:14.819
Si potrebbero immaginare altri scenari.

00:08:14.833 --> 00:08:20.351
Ora come ora, è difficile la conversione 
alle rinnovabili eccetera,

00:08:20.375 --> 00:08:21.643
ma si può fare.

00:08:21.667 --> 00:08:24.643
Ma con una fisica leggermente diversa,

00:08:24.667 --> 00:08:27.458
sarebbe potuto essere molto più costoso 
fare queste cose.

NOTE Paragraph

00:08:28.375 --> 00:08:29.893
CA: Qual è la tua idea, Nick?

00:08:29.893 --> 00:08:32.415
Pensi che, mettendo insieme 
tutte queste possibilità,

00:08:32.415 --> 00:08:36.210
questa Terra, il nostro genere umano,

00:08:36.210 --> 00:08:38.250
dobbiamo considerarci
un mondo vulnerabile?

00:08:38.250 --> 00:08:40.667
Che c'è una palla della morte 
nel nostro futuro?

NOTE Paragraph

00:08:43.958 --> 00:08:45.226
NB: Difficile a dirsi.

00:08:45.250 --> 00:08:50.309
Voglio dire, penso che chiaramente
possano esserci più palle nere nell'urna,

00:08:50.333 --> 00:08:51.643
così sembrerebbe.

00:08:51.667 --> 00:08:54.059
Potrebbero esserci anche 
alcune palle d'oro

00:08:54.083 --> 00:08:57.559
in grado di aiutarci a proteggerci 
dalle palle nere.

00:08:57.583 --> 00:09:00.559
E non so in quale ordine usciranno.

NOTE Paragraph

00:09:00.583 --> 00:09:04.434
CA: Una possibile critica filosofica 
a questa teoria

00:09:04.458 --> 00:09:10.101
è che essa implica una visione del futuro
come essenzialmente stabilito,

00:09:10.125 --> 00:09:12.601
che quella palla esista oppure no.

00:09:12.625 --> 00:09:15.523
E in qualche modo,

00:09:15.523 --> 00:09:18.268
questa non è una visione del mondo
a cui voglio credere.

00:09:18.292 --> 00:09:20.533
Voglio credere che il futuro 
sia indeterminato,

00:09:20.533 --> 00:09:22.735
che le nostre decisioni di oggi
determineranno

00:09:22.735 --> 00:09:24.833
che tipo di palle estrarremo 
da quell'urna.

NOTE Paragraph

00:09:25.917 --> 00:09:29.684
NB: Se continuiamo a inventare,

00:09:29.708 --> 00:09:32.042
prima o poi estrarremo tutte le palle.

00:09:32.875 --> 00:09:36.268
Penso che ci sia una specie di forma
debole di determinismo tecnologico

00:09:36.292 --> 00:09:37.559
piuttosto plausibile,

00:09:37.583 --> 00:09:40.226
considerando che è improbabile 
trovare una società

00:09:40.250 --> 00:09:43.083
che usi asce di selce e jet.

00:09:44.208 --> 00:09:48.268
Ma si può quasi pensare a una tecnologia
come a una serie di possibili usi e scopi.

00:09:48.268 --> 00:09:51.269
La tecnologia è qualcosa 
che ci rende possibile fare varie cose

00:09:51.269 --> 00:09:52.989
e ottenere vari risultati nel mondo.

00:09:52.989 --> 00:09:56.433
Il modo in cui poi la usiamo, 
ovviamente dipende dalla scelta dell'uomo.

00:09:56.433 --> 00:09:58.851
Ma se pensiamo 
a questi tre tipi di vulnerabilità,

00:09:58.875 --> 00:10:02.268
formulano ipotesi davvero deboli 
su come potremmo decidere di usarle.

00:10:02.292 --> 00:10:05.684
Tornando alla vulnerabilità di Tipo-1,
questo enorme potere distruttivo,

00:10:05.684 --> 00:10:07.167
è un'ipotesi piuttosto debole

00:10:07.167 --> 00:10:09.783
pensare che in una popolazione 
di un milione di persone

00:10:09.783 --> 00:10:12.518
ci sia qualcuno che decida di usarla 
in modo distruttivo.

NOTE Paragraph

00:10:12.542 --> 00:10:14.976
CA: Per me, la questione 
più inquietante

00:10:15.000 --> 00:10:19.559
è che potremmo effettivamente avere
una sorta di vista all'interno dell'urna

00:10:19.583 --> 00:10:23.101
che renda davvero probabile 
che siamo spacciati.

00:10:23.125 --> 00:10:27.768
Ovvero, se credi nella capacità 
sempre maggiore,

00:10:27.792 --> 00:10:30.059
sostanzialmente accelerata 
dalla tecnologia,

00:10:30.059 --> 00:10:32.642
di costruire gli strumenti 
che ci rendono più potenti,

00:10:32.642 --> 00:10:35.184
allora a un certo punto 
si arriva a uno stadio

00:10:35.208 --> 00:10:38.268
in cui un singolo individuo 
potrebbe demolirci tutti,

00:10:38.292 --> 00:10:41.143
e allora si direbbe che siamo spacciati.

00:10:41.167 --> 00:10:44.101
Non è allarmante?

NOTE Paragraph

00:10:44.125 --> 00:10:45.875
NB: Ah, sì.

NOTE Paragraph

00:10:46.708 --> 00:10:47.976
(Risate)

NOTE Paragraph

00:10:48.000 --> 00:10:49.333
Penso che...

00:10:50.555 --> 00:10:52.560
sì, abbiamo competenze sempre più potenti,

00:10:52.560 --> 00:10:56.434
ed è sempre più facile usare 
queste competenze,

00:10:56.434 --> 00:11:00.018
ma possiamo anche inventare tecnologie
che potrebbero aiutarci a controllare

00:11:00.018 --> 00:11:02.059
come le persone usano queste competenze.

NOTE Paragraph

00:11:02.083 --> 00:11:04.934
CA: Parliamo di questo, 
parliamo delle contromisure.

00:11:04.958 --> 00:11:08.417
Supponiamo che pensando 
a tutte le possibilità

00:11:08.417 --> 00:11:09.417
oggi esistenti,

00:11:09.417 --> 00:11:13.143
non solo la biologia sintetica, 
ma cose come la guerra informatica,

00:11:13.167 --> 00:11:16.518
l'intelligenza artificiale, ecc.,

00:11:16.542 --> 00:11:21.049
che il nostro futuro ci riservi 
un destino infausto.

00:11:21.049 --> 00:11:22.808
Quali sono le possibili contromisure?

00:11:22.808 --> 00:11:27.601
Tu hai anche parlato 
di quattro possibili interventi.

NOTE Paragraph

00:11:27.625 --> 00:11:31.138
NB: Limitare lo sviluppo tecnologico 
non sembra promettente.

00:11:31.138 --> 00:11:34.518
Se parliamo di una sospensione
generalizzata del progresso tecnologico,

00:11:34.518 --> 00:11:35.853
non penso che sia fattibile,

00:11:35.853 --> 00:11:38.167
né che sia desiderabile 
anche potendolo fare.

00:11:38.167 --> 00:11:41.034
Penso che potrebbero esserci 
aree molto limitate

00:11:41.034 --> 00:11:43.934
in cui forse si vorrebbe rallentare 
il progresso tecnologico.

00:11:43.958 --> 00:11:47.351
Penso che non si voglia accelerare
il progresso nelle armi biologiche,

00:11:47.375 --> 00:11:49.434
o nella separazione degli isotopi,

00:11:49.434 --> 00:11:52.198
che potrebbe rendere più semplice
creare testate nucleari.

NOTE Paragraph

00:11:52.583 --> 00:11:55.893
CA: Sono sempre stato d'accordo 
con questo.

00:11:55.917 --> 00:11:59.184
Ma vorrei davvero riconsiderare 
la questione per un minuto.

00:11:59.208 --> 00:12:00.582
Solo perché, prima di tutto,

00:12:00.582 --> 00:12:03.226
se si guarda alla storia 
dell'ultimo ventennio,

00:12:03.250 --> 00:12:06.809
è stato un continuo avanzare 
a tutta velocità,

00:12:06.809 --> 00:12:08.718
va bene, è stata la nostra unica scelta.

00:12:08.718 --> 00:12:12.976
Ma guardiamo alla globalizzazione 
e alla sua rapida accelerazione,

00:12:13.000 --> 00:12:16.434
e se guardiamo alla strategia del
"move fast and break things"

00:12:16.458 --> 00:12:18.468
e a cosa ha portato,

00:12:18.468 --> 00:12:21.473
e poi si considerano le potenzialità 
della biologia sintetica,

00:12:21.473 --> 00:12:25.768
non so se dovremmo avanzare rapidamente

00:12:25.792 --> 00:12:27.434
o senza alcun tipo di restrizione

00:12:27.458 --> 00:12:30.768
verso un mondo in cui si potrà 
stampare il DNA nella propria casa

00:12:30.768 --> 00:12:32.355
e in ogni laboratorio scolastico.

00:12:33.167 --> 00:12:34.851
Ci sono delle restrizioni, giusto?

NOTE Paragraph

00:12:34.875 --> 00:12:37.518
NB: Forse, c'è la prima parte, 
quella non realistica.

00:12:37.542 --> 00:12:39.726
Se pensi che sarebbe auspicabile fermarla,

00:12:39.750 --> 00:12:41.476
c'è il problema della fattibilità.

00:12:41.500 --> 00:12:44.309
Cioè, non aiuta molto 
se una nazione in un certo senso...

NOTE Paragraph

00:12:44.333 --> 00:12:46.425
CA: No, non aiuta 
se solo una nazione lo fa,

00:12:46.425 --> 00:12:49.309
ma abbiamo già siglato degli accordi 
in precedenza.

00:12:49.309 --> 00:12:52.758
È proprio così che siamo riusciti 
a sopravvivere alla minaccia nucleare,

00:12:52.758 --> 00:12:53.906
andando là fuori

00:12:53.906 --> 00:12:56.572
e attraversando il doloroso
processo della negoziazione.

00:12:56.572 --> 00:13:01.976
Mi chiedo solo se non sarebbe logico,
per una questione di priorità globale,

00:13:01.976 --> 00:13:03.264
non andare là fuori

00:13:03.264 --> 00:13:06.393
e provare subito a iniziare a negoziare 
regole davvero severe

00:13:06.393 --> 00:13:09.125
su dove svolgere la ricerca 
sulla biologia di sintesi,

00:13:09.125 --> 00:13:11.976
che non è un qualcosa 
che si vorrebbe democratizzare, no?

NOTE Paragraph

00:13:12.000 --> 00:13:13.809
NB: Concordo pienamente su questo:

00:13:13.833 --> 00:13:18.059
sarebbe desiderabile, per esempio,

00:13:18.083 --> 00:13:21.684
forse avere macchine 
per la sintesi del DNA,

00:13:21.708 --> 00:13:25.268
non come dispositivi 
disponibili in ogni laboratorio,

00:13:25.292 --> 00:13:26.768
ma come un servizio.

00:13:26.768 --> 00:13:29.163
Potrebbero esserci quattro 
o cinque posti al mondo

00:13:29.163 --> 00:13:33.015
dove inviare il proprio progetto
digitale e avere indietro il DNA, giusto?

00:13:33.015 --> 00:13:34.643
E poi, si avrebbe la capacità,

00:13:34.667 --> 00:13:37.059
se un giorno si dimostrasse 
davvero necessario,

00:13:37.083 --> 00:13:39.434
di porre una serie finita di restrizioni.

00:13:39.458 --> 00:13:42.976
Vorresti poter individuare
quelle situazioni particolari,

00:13:42.976 --> 00:13:45.123
dove puoi esercitare
un controllo più stretto.

NOTE Paragraph

00:13:45.123 --> 00:13:47.360
CA: La tua convinzione è che,
fondamentalmente,

00:13:47.360 --> 00:13:49.643
non riusciremo semplicemente 
a tirarci indietro.

00:13:49.643 --> 00:13:52.887
Qualcuno, da qualche parte,
nella Corea del Nord, ad esempio,

00:13:52.887 --> 00:13:55.934
qualcuno ci arriverà 
e scoprirà quella tecnologia,

00:13:55.958 --> 00:13:57.226
se deve essere scoperta.

NOTE Paragraph

00:13:57.250 --> 00:13:59.511
NB: Sembra plausibile 
nella attuali condizioni.

00:13:59.511 --> 00:14:01.703
E ciò non vale solo 
per la biologia sintetica.

00:14:01.703 --> 00:14:03.835
Qualsiasi cambiamento 
nuovo e profondo

00:14:03.835 --> 00:14:05.224
può rivelarsi una palla nera.

NOTE Paragraph

00:14:05.224 --> 00:14:07.273
CA: Consideriamo 
un'altra possibile misura.

NOTE Paragraph

00:14:07.273 --> 00:14:10.250
NB: Anche questa, penso, 
possiede solo un potenziale limitato.

00:14:10.290 --> 00:14:13.579
Considerando ancora
la vulnerabilità di Tipo-1,

00:14:13.579 --> 00:14:16.714
se si potesse ridurre
il numero di persone incentivate

00:14:16.714 --> 00:14:18.556
a distruggere il mondo,

00:14:18.556 --> 00:14:20.949
qualora ne avessero la possibilità 
e le risorse,

00:14:20.949 --> 00:14:21.869
sarebbe fantastico.

NOTE Paragraph

00:14:21.869 --> 00:14:24.511
CA: In questa quadro
che ci hai chiesto di realizzare

00:14:24.511 --> 00:14:26.624
tu immagini questi droni 
volare per il mondo

00:14:26.624 --> 00:14:28.726
equipaggiati 
per il riconoscimento facciale.

00:14:28.726 --> 00:14:32.297
Se individuano qualcuno che mostra
i segni di un comportamento sociopatico,

00:14:32.297 --> 00:14:33.916
lo ricoprono di amore, lo curano.

NOTE Paragraph

00:14:33.916 --> 00:14:35.912
NB: Penso sia una specie di quadro ibrido.

00:14:35.912 --> 00:14:39.809
Eliminare vuole dire 
incarcerare o uccidere,

00:14:39.809 --> 00:14:42.905
ma può anche voler dire indurre 
a una migliore visione del mondo.

00:14:42.905 --> 00:14:44.601
Ma il punto è quello,

00:14:44.625 --> 00:14:46.768
supponiamo di essere riusciti in questo,

00:14:46.792 --> 00:14:50.101
e di aver ridotto della metà 
questo genere di individui.

00:14:50.125 --> 00:14:52.018
E per riuscire con la persuasione,

00:14:52.018 --> 00:14:54.540
si deve competere contro 
tutte le altre potenti forze

00:14:54.540 --> 00:14:56.207
che cercano di persuadere la gente:

00:14:56.207 --> 00:14:57.968
partiti, religione,
sistema educativo.

00:14:57.968 --> 00:14:59.723
Supponiamo di ridurli della metà,

00:14:59.723 --> 00:15:01.963
il rischio non risulterebbe ridotto 
della metà.

00:15:01.963 --> 00:15:03.750
Forse di un cinque o un 10 per cento.

NOTE Paragraph

00:15:03.750 --> 00:15:06.465
CA: Non raccomandi di scommettere 
il futuro dell'umanità

00:15:06.465 --> 00:15:07.464
sulla seconda misura.

NOTE Paragraph

00:15:07.464 --> 00:15:10.803
NB: Penso che vada bene tentare 
di dissuadere e persuadere le persone,

00:15:10.803 --> 00:15:14.177
ma non dovremmo fare affidamento
su questo come unica misura di difesa.

NOTE Paragraph

00:15:14.177 --> 00:15:15.434
CA: Che dire della terza?

NOTE Paragraph

00:15:15.458 --> 00:15:18.351
NB: Penso che ci siano due metodi generali

00:15:18.375 --> 00:15:22.351
che possiamo usare per raggiungere 
la capacità di stabilizzare il mondo

00:15:22.375 --> 00:15:25.291
contro tutta una gamma 
di possibili vulnerabilità.

00:15:25.291 --> 00:15:27.151
E probabilmente ci serviranno entrambi.

00:15:27.151 --> 00:15:31.396
Uno è la capacità estremamente efficace

00:15:31.396 --> 00:15:33.268
di realizzare una politica preventiva,

00:15:33.268 --> 00:15:34.816
con cui si possa intercettare.

00:15:34.840 --> 00:15:37.601
Se qualcuno iniziasse 
a fare cose pericolose,

00:15:37.625 --> 00:15:40.309
si potrebbe intercettarlo 
in tempo reale, e fermarlo.

00:15:40.333 --> 00:15:42.809
Questo richiederebbe 
una sorveglianza ubiquitaria,

00:15:42.833 --> 00:15:45.208
tutti sarebbero controllati 
per tutto il tempo.

NOTE Paragraph

00:15:46.333 --> 00:15:48.893
CA: Essenzialmente una forma 
alla "Minority Report".

NOTE Paragraph

00:15:48.917 --> 00:15:50.851
NB: Potrebbero esserci algoritmi di IA,

00:15:50.875 --> 00:15:55.292
grandi centri di controllo della libertà 
che ispezionano, ecc., ecc.

NOTE Paragraph

00:15:56.583 --> 00:16:00.976
CA: Tu sai che il concetto di sorveglianza
di massa non è molto popolare al momento?

NOTE Paragraph

00:16:01.000 --> 00:16:02.250
(Risate)

NOTE Paragraph

00:16:03.188 --> 00:16:05.268
NB: Sì. Quindi 
quel piccolo dispositivo lì,

00:16:05.292 --> 00:16:08.893
immagina questa specie di collana 
da indossare tutto il tempo

00:16:08.917 --> 00:16:10.917
con delle telecamere multidirezionali.

00:16:11.702 --> 00:16:13.601
Ma, per farla accettare più facilmente,

00:16:13.601 --> 00:16:16.683
chiamala semplicemente "tag della libertà"
o qualcosa del genere.

NOTE Paragraph

00:16:16.683 --> 00:16:18.184
(Risate)

NOTE Paragraph

00:16:18.208 --> 00:16:19.476
CA: Ok.

00:16:19.500 --> 00:16:21.561
Voglio dire, l'argomento è questo, amici,

00:16:21.561 --> 00:16:25.184
questo è il motivo per cui si tratta 
di una conversazione così stupefacente.

NOTE Paragraph

00:16:25.208 --> 00:16:27.619
NB: Effettivamente, c'è tutto un discorso

00:16:27.619 --> 00:16:29.143
solo su questo tema, ovviamente.

00:16:29.167 --> 00:16:31.643
Ci sono problemi e rischi enormi 
con questo.

00:16:31.667 --> 00:16:32.934
Potremmo ritornarci su.

00:16:32.958 --> 00:16:34.226
L'altra, l'ultima,

00:16:34.250 --> 00:16:36.439
l'atra possibilità 
di stabilizzazione generale

00:16:36.439 --> 00:16:39.487
consiste un po' nel tappare 
un altro buco a livello governativo.

00:16:39.487 --> 00:16:43.101
La sorveglianza sarebbe una sorta 
di lacuna governativa al microlivello,

00:16:43.125 --> 00:16:46.226
come, impedire che qualcuno 
possa fare qualcosa di illegale.

00:16:46.250 --> 00:16:48.559
Poi, c'è una corrispondente 
lacuna governativa

00:16:48.583 --> 00:16:50.518
al macrolivello, a livello globale.

00:16:50.542 --> 00:16:53.936
Servirebbe la capacità, la sicurezza,

00:16:53.936 --> 00:16:57.309
di prevenire i peggiori tipi di fallimenti
nella coordinazione globale,

00:16:57.333 --> 00:17:01.101
di evitare guerre tra le superpotenze,

00:17:01.125 --> 00:17:02.458
corse agli armamenti,

00:17:03.500 --> 00:17:05.708
comuni problemi catastrofici,

00:17:07.667 --> 00:17:11.851
per affrontare le vulnerabilità 
di Tipo-2a.

NOTE Paragraph

00:17:11.875 --> 00:17:15.684
CA: Governanza globale è un termine
decisamente fuori moda al momento,

00:17:15.684 --> 00:17:18.601
ma si potrebbe notare
che nel corso della storia,

00:17:18.625 --> 00:17:19.917
la storia dell'umanità

00:17:19.917 --> 00:17:25.351
ci ha dimostrato che a ogni stadio 
di crescita del potere tecnologico

00:17:25.351 --> 00:17:28.591
le persone hanno riorganizzato 
e più o meno centralizzato il potere.

00:17:28.591 --> 00:17:31.449
Ad esempio, ogni volta che 
un branco errante di criminali

00:17:31.449 --> 00:17:33.841
è riuscito a prendere il controllo 
di una società,

00:17:33.841 --> 00:17:36.031
la risposta è stata avere 
uno stato-nazione

00:17:36.031 --> 00:17:38.433
centralizzare le forze armate,
un corpo di polizia,

00:17:38.433 --> 00:17:40.143
ovvero: "No, non potete fare così."

00:17:40.167 --> 00:17:44.726
La logica, forse, di avere una singola
persona o un singolo gruppo

00:17:44.726 --> 00:17:46.207
in grado di eliminare l'umanità

00:17:46.207 --> 00:17:49.257
implica che a un certo punto 
che dovremo prendere questa strada,

00:17:49.257 --> 00:17:50.601
almeno in qualche forma, no?

NOTE Paragraph

00:17:50.625 --> 00:17:54.309
NB: È sicuramente vero che la scala
dell'organizzazione politica è aumentata

00:17:54.333 --> 00:17:56.425
nel corso della storia dell'umanità.

00:17:56.425 --> 00:17:58.772
Era del tipo gruppo 
di cacciatori e raccoglitori,

00:17:58.772 --> 00:18:01.640
poi territorio governato da capotribù,
città-stato, nazione,

00:18:01.640 --> 00:18:05.476
ora ci sono organizzazioni internazionali 
e via di dicendo.

00:18:05.476 --> 00:18:07.142
Quindi, voglio solo essere sicuro

00:18:07.142 --> 00:18:08.998
di avere la possibilità di sottolineare

00:18:08.998 --> 00:18:11.238
che ci sono ovviamente 
grandi risvolti negativi

00:18:11.238 --> 00:18:12.290
nonché, rischi enormi,

00:18:12.290 --> 00:18:15.271
sia nella sorveglianza di massa 
che nella governance globale.

00:18:15.271 --> 00:18:17.444
Voglio solo far notare che
se siamo fortunati,

00:18:17.444 --> 00:18:20.917
il mondo potrebbe diventare tale che
questi potrebbero essere i soli modi

00:18:20.917 --> 00:18:22.538
per sopravvivere a una palla nera.

NOTE Paragraph

00:18:22.538 --> 00:18:24.976
CA: La logica di questa teoria,

00:18:25.000 --> 00:18:26.268
mi pare di capire,

00:18:26.292 --> 00:18:29.893
è quella che dobbiamo riconoscere 
che non possiamo avere tutto.

00:18:29.917 --> 00:18:31.750
Che quel genere di sogno naif,

00:18:33.500 --> 00:18:36.476
oserei dire, quel sogno ingenuo 
che molti di noi hanno

00:18:36.500 --> 00:18:39.491
che la tecnologia sarà sempre 
al servizio del bene,

00:18:39.491 --> 00:18:42.631
che bisogna andare avanti, non fermarsi,
più velocemente possibile

00:18:42.631 --> 00:18:45.216
senza prestare attenzione 
ad alcune delle conseguenze,

00:18:45.216 --> 00:18:47.068
questa semplicemente non è un'opzione.

00:18:47.068 --> 00:18:48.893
Possiamo averla.

00:18:48.917 --> 00:18:50.184
Se l'abbiamo,

00:18:50.184 --> 00:18:54.033
dovremo accettare alcune 
delle altre cose spiacevoli con essa,

00:18:54.040 --> 00:18:56.416
e di essere in questa sorta 
di gara con noi stessi

00:18:56.416 --> 00:18:58.939
in cui se vogliamo questo potere, 
conviene limitarlo,

00:18:58.939 --> 00:19:00.834
conviene trovare un modo per limitarlo.

NOTE Paragraph

00:19:00.958 --> 00:19:04.164
NB: Penso che questa sia un'opzione,

00:19:04.164 --> 00:19:07.450
un'opzione davvero allettante, 
in un certo senso l'opzione più facile

00:19:07.450 --> 00:19:08.518
e potrebbe funzionare,

00:19:08.542 --> 00:19:11.785
ma vorrebbe dire 
essere totalmente vulnerabili

00:19:11.785 --> 00:19:13.375
all'estrazione di una palla nera.

00:19:13.375 --> 00:19:15.328
Penso che con un po' di coordinazione,

00:19:15.328 --> 00:19:18.292
se si risolvesse questo problema 
a livello di macrogovernance,

00:19:18.292 --> 00:19:19.893
e a livello di microgovernance,

00:19:19.893 --> 00:19:22.226
allora potremmo estrarre 
tutte le palle dall'urna

00:19:22.250 --> 00:19:24.518
e ne avremmo notevoli benefici.

NOTE Paragraph

00:19:24.542 --> 00:19:27.976
CA: Insomma, se viviamo 
in una simulazione, ha importanza?

00:19:28.000 --> 00:19:29.309
Basta solo riavviare.

NOTE Paragraph

00:19:29.333 --> 00:19:30.601
(Risate)

NOTE Paragraph

00:19:30.625 --> 00:19:32.268
NB: In tal caso... Io...

NOTE Paragraph

00:19:32.292 --> 00:19:34.768
(Risate)

00:19:34.792 --> 00:19:36.208
Questa non me l'aspettavo.

NOTE Paragraph

00:19:37.825 --> 00:19:39.393
CA: Quindi qual è la tua visione?

00:19:39.417 --> 00:19:43.826
Mettendo insieme tutti i pezzi, 
quanto è probabile che siamo condannati?

NOTE Paragraph

00:19:43.880 --> 00:19:46.208
(Risate)

NOTE Paragraph

00:19:46.702 --> 00:19:49.434
Mi piace come ride la gente
quando faccio questa domanda.

NOTE Paragraph

00:19:49.458 --> 00:19:50.809
NB: Come individui,

00:19:50.833 --> 00:19:54.544
sembra che siamo condannati in ogni caso,
in base alla linea del tempo,

00:19:54.544 --> 00:19:57.723
ci decomponiamo e invecchiamo 
e tutto quel genere di cose.

NOTE Paragraph

00:19:57.723 --> 00:19:58.934
(Risate)

NOTE Paragraph

00:19:58.934 --> 00:20:00.410
In effetti è un po' complicato.

00:20:00.410 --> 00:20:03.688
Se si vuole stabilire un ordine 
per poter attribuire una probabilità,

00:20:03.688 --> 00:20:04.496
primo, chi siamo?

00:20:04.496 --> 00:20:07.446
Se sei molto vecchio, 
probabilmente morirai di cause naturali,

00:20:07.446 --> 00:20:09.845
se sei molto giovane, 
potresti avere 100 anni...

00:20:09.845 --> 00:20:12.182
la probabilità dipenderebbe
da a chi lo chiedi.

00:20:12.182 --> 00:20:16.268
Poi il confine, cioè: cosa conta 
come distruzione della civiltà?

00:20:16.292 --> 00:20:21.934
Nell'articolo non occorre che si tratti 
di una catastrofe esistenziale

00:20:21.958 --> 00:20:23.283
per contare.

00:20:23.283 --> 00:20:25.001
È solo una questione di definizione,

00:20:25.001 --> 00:20:26.458
io dico un miliardo di morti,

00:20:26.458 --> 00:20:28.518
o la riduzione del PIL del 50%,

00:20:28.518 --> 00:20:30.568
ma a seconda di quale soglia 
si stabilisce,

00:20:30.568 --> 00:20:32.855
si ottiene una stima diversa 
della probabilità.

00:20:32.855 --> 00:20:37.309
Direi che potresti considerarmi 
un ottimista spaventato.

NOTE Paragraph

00:20:37.333 --> 00:20:38.434
(Risate)

NOTE Paragraph

00:20:38.434 --> 00:20:40.101
CA: Tu sei un ottimista spaventato,

00:20:40.125 --> 00:20:43.753
e credo che tu abbia appena creato 
un gran numero di altre...

00:20:43.753 --> 00:20:45.614
persone spaventate.

NOTE Paragraph

00:20:45.614 --> 00:20:46.528
(Risate)

NOTE Paragraph

00:20:46.528 --> 00:20:47.839
NB: Nella simulazione.

NOTE Paragraph

00:20:47.839 --> 00:20:49.061
CA: In una simulazione.

00:20:49.061 --> 00:20:51.263
Nick Bostrom, 
la tua mente è sbalorditiva.

00:20:51.263 --> 00:20:53.866
Davvero grazie per averci 
spaventati a morte.

NOTE Paragraph

00:20:53.866 --> 00:20:56.105
(Applausi)