Így pusztíthatja el a civilizáció önmagát – és négy mód, ahogy ezt megelőzhetjük
-
0:01 - 0:03Chris Anderson: Nick Bostrom.
-
0:03 - 0:07Annyi őrült ötlettel rukkoltál már elő.
-
0:07 - 0:09Néhány évtizeddel ezelőtt azzal,
-
0:09 - 0:12hogy talán mind egy szimulációban élünk,
-
0:12 - 0:13vagy talán valószínűleg éltünk.
-
0:13 - 0:15Nemrégiben
-
0:15 - 0:17élénk képet festettél arról,
-
0:17 - 0:21hogyan sülhet el balul
az általános mesterséges intelligencia. -
0:22 - 0:23Idén pedig
-
0:23 - 0:25egy tanulmányt készülsz kiadni,
-
0:25 - 0:29mely a sebezhető világ
hipotézisét boncolgatja. -
0:29 - 0:34Ma este az a dolgunk,
hogy ehhez képes útmutatót nyújtsunk. -
0:34 - 0:36Tegyünk hát így.
-
0:37 - 0:39Miről szól a hipotézis?
-
0:40 - 0:42Nick Bostrom: A jelen emberi lét
-
0:42 - 0:46egyfajta strukturális
jellemzőjét boncolgatja. -
0:47 - 0:49Kedveled az urnametaforát,
-
0:50 - 0:51így azt használom magyarázatképp.
-
0:52 - 0:56Képzelj el egy nagy, golyókkal teli urnát,
-
0:56 - 1:00ahol a golyók ötletek, módszerek,
lehetséges technológiák. -
1:01 - 1:05Az emberi kreativitás
történelmét felfoghatjuk úgy is, -
1:05 - 1:08mint annak folyamatát, ahogyan az urnából
egyik golyót a másik után húzzuk ki, -
1:08 - 1:12és a végeredmény eddig
elég hasznos volt, ugye? -
1:12 - 1:14Nagy számban húztunk elő fehér golyókat,
-
1:14 - 1:17néhány szürkés árnyalatút,
vegyes eredménnyel. -
1:18 - 1:21A fekete golyót még nem húztuk ki –
-
1:22 - 1:28a technológiát, amely végérvényesen
lerombolja az azt felfedező civilizációt. -
1:28 - 1:31A tanulmány azt elemzi,
milyen is lehet az a fekete golyó. -
1:31 - 1:33CA: Tehát a golyót úgy jellemzed,
-
1:33 - 1:37mint amelyik elkerülhetetlenül
lerombolja a civilizációt. -
1:37 - 1:42NB: Kivéve, ha kilépünk abból, amit én
félanarchikus alapállapotnak hívok. -
1:42 - 1:43Egyfajta alapválasztásként.
-
1:44 - 1:48CA: Úgy teszed meggyőzővé ezt a modellt,
-
1:48 - 1:50hogy mutatsz néhány ellenpéldát,
-
1:50 - 1:53ahol valójában eddig szerencsések voltunk,
-
1:53 - 1:56hiszen akár ki is húzhattuk
volna azt a halálgolyót, -
1:56 - 1:57még csak nem is sejtve.
-
1:57 - 2:00Itt ez az idézet, miről szól?
-
2:01 - 2:03NB: Gondolom, illusztrálni akarja,
-
2:03 - 2:05milyen nehéz előre megjósolni,
-
2:05 - 2:08hová vezetnek alapfelfedezések.
-
2:08 - 2:11Képtelenek vagyunk megjósolni.
-
2:11 - 2:15Abban elég jók vagyunk,
hogy kihúzzuk a golyókat, -
2:15 - 2:18de visszatenni nem igazán tudjuk őket.
-
2:18 - 2:21Felfedezni tudunk, visszacsinálni nem.
-
2:22 - 2:24Ilyenképp a stratégiánk az,
-
2:24 - 2:27hogy reméljük, az urnában
nincs fekete golyó. -
2:27 - 2:31CA: Ha tehát egyszer kihúzzák,
kint van, nem lehet visszatenni, -
2:31 - 2:33és szerinted eddig csak szerencsénk volt.
-
2:33 - 2:35Mutass be nekünk
párat ezen példák közül. -
2:35 - 2:38Különböző típusú
sebezhetőségekről beszélsz. -
2:38 - 2:39NB: A legegyszerűbb ezt
-
2:39 - 2:42egy olyan technológia
segítségével megérteni, -
2:42 - 2:46amellyel könnyű
nagy pusztítást véghezvinni. -
2:47 - 2:51A szintetikus biológia termékeny
talaj lehet egy ilyen golyónak, -
2:51 - 2:54ám számtalan más dolog is szóba jöhet
-
2:54 - 2:56– mondjuk a geomérnökség,
igazán nagyszerű, nem? -
2:56 - 2:58Legyőzhetnénk a globális felmelegedést,
-
2:58 - 3:01viszont ne legyen túl könnyű,
-
3:01 - 3:03nem akarjuk, hogy egy random valaki
a nagymamájával -
3:03 - 3:06képes legyen megváltoztatni
a Föld klímáját. -
3:06 - 3:10Vagy ott vannak a halált okozó
önvezető drónok, -
3:10 - 3:13szériagyártású, szúnyogméretű,
gyilkos robotrajok. -
3:14 - 3:17Nanotechnológia, mesterséges
általános intelligencia. -
3:17 - 3:19CA: A tanulmányban úgy érvelsz,
-
3:19 - 3:21csak a szerencse kérdése volt,
-
3:22 - 3:25hogy amikor felfedeztük
az atomenergiában rejlő bombát, -
3:25 - 3:26az erőforrások nem voltak
-
3:26 - 3:28sokkal könnyebben elérhetőek,
-
3:28 - 3:31mindenki számára hozzáférhetőek
a bombakészítéshez. -
3:32 - 3:35NB: Igen, visszagondolva
az 1930-as évekre, -
3:35 - 3:40amikor először értünk el
áttörést az atomfizikában, -
3:40 - 3:44egy zseni rájön, hogy nukleáris
láncreakció hozható létre, -
3:44 - 3:47amely elvezethet a bombához.
-
3:47 - 3:49Kicsit tovább dolgozunk rajta,
-
3:49 - 3:52és kiderül, hogy az atombombához
-
3:52 - 3:54magasan dúsított urán
vagy plutónium szükséges, -
3:54 - 3:56mely anyagokhoz nehéz hozzájutni.
-
3:56 - 3:58Ultracentrifugákra, reaktorokra,
-
3:58 - 4:02meg nagy mennyiségű energiára
van szükség. -
4:02 - 4:04Tegyük fel, ehelyett úgy alakul,
-
4:04 - 4:08hogy van könnyebb mód
az atomenergia felszabadítására. -
4:08 - 4:11Például azzal, hogy homokot
sütünk a mikrohullámúban -
4:11 - 4:12vagy valami ilyesmi,
-
4:12 - 4:14atomrobbanást idézhetünk elő.
-
4:14 - 4:16Tudjuk, hogy ez fizikai képtelenség.
-
4:16 - 4:18Ám a kellő fizika nélkül
-
4:18 - 4:20honnan tudtuk volna, mi fog történni?
-
4:21 - 4:22CA: Bár nem tagadhatod,
-
4:22 - 4:24hogy mivel a földi élet kialakulása
-
4:24 - 4:27egyfajta stabil környezetet igényelt,
-
4:27 - 4:32amennyiben könnyedén lehetne
masszív magreakciót létrehozni, -
4:32 - 4:33akkor a Föld sosem lett volna stabil,
-
4:33 - 4:35sőt egyáltalán nem is létezne.
-
4:35 - 4:38NB: Igen, kivéve, ha bizonyos dolgokat
szándékosan könnyű megvalósítani, -
4:38 - 4:41ám véletlenszerűen nem alakulnak ki.
-
4:41 - 4:43Például könnyen megtehetjük,
-
4:43 - 4:45hogy egymásra halmozunk 10 farönköt,
-
4:45 - 4:48de a természetben nem fogunk
egy 10 rönkből álló farakást találni. -
4:48 - 4:50CA: Oké, valószínűleg ez az,
-
4:50 - 4:52ami sokunkat a legjobban aggaszt,
-
4:52 - 4:55és igen, a szintetikus biológia
talán a leggyorsabb út, -
4:55 - 4:58amely a közeljövőben
feltehetően odajuttat bennünket. -
4:58 - 5:01NB: Igen, gondoljuk csak el,
mivel járhatott volna, -
5:01 - 5:04ha bárki képes lenne
lerombolni egy várost, -
5:04 - 5:07mondjuk miközben délután
a konyhájában tevékenykedik. -
5:07 - 5:10Nehéz felfogni, hogyan élhette volna
túl ezt a modern civilizáció -
5:10 - 5:12abban a formájában, ahogy ismerjük.
-
5:12 - 5:14Ugyanis egymillió emberből
-
5:14 - 5:17mindig lesz néhány
– bármi legyen is az oka –, -
5:17 - 5:19aki használni akarja azt a pusztító erőt.
-
5:20 - 5:23És ha ezek az apokaliptikus szereplők,
-
5:23 - 5:25egy várost akarnának lerombolni,
-
5:25 - 5:26tényleg városok pusztulnának el.
-
5:26 - 5:29CA: Nézzük a sebezhetőség
egy másik típusát. -
5:29 - 5:31Beszéljünk erről.
-
5:31 - 5:35NB: Az egyértelmű fekete golyók mellett,
-
5:35 - 5:37melyek szimplán lehetővé teszik
csomó minden felrobbantását, -
5:37 - 5:42mások úgy fejtenék ki hatásukat,
hogy negatív ösztönzőként -
5:42 - 5:44az embereket rossz
cselekedetekre sarkallnák. -
5:44 - 5:48A 2a típus alatt, nevezhetjük így,
-
5:48 - 5:53elképzelhetünk valami olyan technológiát,
amely a nagyhatalmakat arra ösztönzi, -
5:53 - 5:57hogy hatalmas erőiket mozgósítva
vigyenek végbe pusztítást. -
5:57 - 6:00Az atomfegyverek eléggé
a képbe illenek, ugye? -
6:02 - 6:05Több mint 10 billió dollárt költöttünk
-
6:05 - 6:0870 000 atomtöltet megépítésére,
-
6:08 - 6:10és kilövésre kész állapotban tartjuk őket.
-
6:10 - 6:12A Hidegháború alatt bizony párszor
-
6:12 - 6:14majdnem felrobbantottuk egymást.
-
6:14 - 6:17Nem azért, mert bárki is úgy érezte,
-
6:17 - 6:20jó ötlet 10 billió dollárt költeni
magunk felrobbantására, -
6:20 - 6:23hanem a körülmények
erre ösztönöztek bennünket – -
6:23 - 6:24rosszabb is lehetett volna.
-
6:24 - 6:26Képzeljünk el egy megelőző csapást.
-
6:26 - 6:29Azt követően, krízishelyzetben,
-
6:29 - 6:30nehéz lett volna megállni
-
6:30 - 6:33az összes atomrakéta kilövését.
-
6:33 - 6:36Ha másért nem, legalább attól való
félelmünkben, hogy a másik megteszi. -
6:36 - 6:39CA: A kölcsönösen biztosított
megsemmisítés -
6:39 - 6:41viszonylag stabilizálta a Hidegháborút,
-
6:41 - 6:42enélkül lehet nem lennénk itt.
-
6:42 - 6:44NB: Instabilabb is lehetett
volna a helyzet. -
6:44 - 6:47A technológia más jellemzői miatt is.
-
6:47 - 6:50Nehezebben kötöttünk volna
fegyverkezési egyezményeket, -
6:50 - 6:51ha atomfegyverek helyett
-
6:51 - 6:54kisebb vagy kevésbé
feltűnő dolgokról lett volna szó. -
6:54 - 6:57CA: Nemcsak a nagyhatalmak
negatív motivációja, -
6:57 - 7:00hanem mindannyiunké aggaszt,
ahogy a 2b pont is mutatja. -
7:00 - 7:05NB: Igen, vegyük például
a globális felmelegedést. -
7:07 - 7:09Elkényelmesedettségünk okán
-
7:09 - 7:11olyan dolgokat teszünk,
-
7:11 - 7:14amelyeknek külön-külön nincs
ugyebár jelentős hatása. -
7:14 - 7:16Ám ha emberek milliárdja tesz így,
-
7:16 - 7:18összesítve már romboló hatással bírnak.
-
7:18 - 7:21A globális felmelegedés most
sokkal rosszabb is lehetne. -
7:21 - 7:24Vegyük a klímaérzékenységi paramétert.
-
7:24 - 7:28Ez mutatja meg, mennyivel lesz melegebb,
-
7:28 - 7:30ha bizonyos mennyiségű
üvegházhatású gázt bocsájtunk ki. -
7:30 - 7:33Ám tegyük fel,
-
7:33 - 7:35hogy a kibocsájtott üvegházhatású gázzal
-
7:35 - 7:392100-ra mondjuk nem 3,5-4 fokkal,
-
7:39 - 7:41hanem 15 vagy 20 fokkal
-
7:41 - 7:44emeljük a hőmérsékletet.
-
7:44 - 7:47Akkor lennénk igazán rossz helyzetben.
-
7:47 - 7:50Vagy tegyük fel, nehezebb lenne
megújuló energiát előállítani. -
7:50 - 7:53Vagy több lenne a földben
rejlő fosszilis üzemanyag. -
7:53 - 7:55CA: Nem tagadhatod,
hogy ebben az esetben – -
7:55 - 7:57hogy ha az, amit ma teszünk,
-
7:57 - 8:02tíz fok különbséget eredményezett volna
egy általunk is belátható időszakon belül, -
8:02 - 8:05az emberiség keményen dolgozott
volna valamilyen megoldáson. -
8:06 - 8:08Hülyék vagyunk, de talán mégsem annyira.
-
8:08 - 8:10Vagy talán mégis.
-
8:10 - 8:11NB: Nem fogadnék rá.
-
8:11 - 8:13(Nevetés)
-
8:13 - 8:15Más jellemzőket is elképzelhetnek.
-
8:15 - 8:20Jelenleg kicsit nehézkes a megújulókra
és hasonlókra való átállás, -
8:20 - 8:22de meg lehet csinálni.
-
8:22 - 8:25Lehetséges lenne kissé másfajta fizikával,
-
8:25 - 8:27viszont sokkal többe került
volna megtenni ezeket. -
8:28 - 8:30CA: Mit gondolsz, Nick?
-
8:30 - 8:32Ha ezeket a lehetőségeket összerakjuk:
-
8:32 - 8:37ez a Föld, ez az emberiség,
-
8:37 - 8:38sebezhető világnak számít?
-
8:38 - 8:41Tartogat a jövőnk egy halálgolyót?
-
8:44 - 8:45NB: Nehéz megmondani.
-
8:45 - 8:50Szerintem szép számmal akadnak
az urnában különböző fekete golyók, -
8:50 - 8:52ez a helyzet.
-
8:52 - 8:54Talán akadnak ott aranygolyók is,
-
8:54 - 8:58amelyek segítenek a feketék
elleni védekezésben. -
8:58 - 9:01Fogalmam sincs, milyen
sorrendben kerülnek elő. -
9:01 - 9:04CA: Egy lehetséges elméleti
kritikája ennek a gondolatnak, -
9:04 - 9:10hogy e nézet szerint a jövőnk
alapvetően eldöntetett. -
9:10 - 9:13Vagy van golyó, vagy nincs.
-
9:13 - 9:16Bizonyos tekintetben
-
9:16 - 9:18ez nem az a jövő, amiben hinni szeretnék.
-
9:18 - 9:21Azt akarom hinni,
hogy a jövőnk nincs elrendelve, -
9:21 - 9:23hogy a ma döntései határozzák meg,
-
9:23 - 9:25milyen golyót húzunk ki az urnából.
-
9:26 - 9:30NB: Úgy vélem, ha a felfedezéseket
tovább folytatjuk, -
9:30 - 9:32végül ki fogjuk húzni az összes golyót.
-
9:33 - 9:36Szerintem van egyfajta enyhe
technológiai elrendeltség, -
9:36 - 9:38mert elég valószínű,
-
9:38 - 9:40hogy nem találunk olyan társadalmat,
-
9:40 - 9:43amely pattintott kőbaltát és
sugárhajtású repülőt használ. -
9:44 - 9:48A technológiát szinte úgy is felfoghatjuk,
mint egy adag "megengedést". -
9:48 - 9:51A technológia számtalan dolgot
tesz számunkra lehetővé, -
9:51 - 9:53és különbözőképp hat a világra.
-
9:53 - 9:56Hogy ezt hogyan használjuk,
az emberi választáson múlik. -
9:56 - 9:59Ha a sebezhetőség
e három típusára gondolunk, -
9:59 - 10:02elég valószínű, hogyan döntenénk
a használatukat illetően. -
10:02 - 10:06Egy 1-es típusú sebezhetőség
– ez a nagy pusztítóerő – kapcsán -
10:06 - 10:07eléggé valószínű feltételezés,
-
10:07 - 10:10hogy egy millió emberből
-
10:10 - 10:13néhány felhasználná rombolás céljából.
-
10:13 - 10:15CA: Számomra az egyetlen zavaró érv,
-
10:15 - 10:20hogy tulajdonképp van egyfajta
elképzelésünk az urna tartalmáról, -
10:20 - 10:23ami valószínűsíti, hogy a sorsunk
megpecsételődött. -
10:23 - 10:28Tudniillik, ha hisznek a gyorsító erőben,
-
10:28 - 10:30hogy a technológia eredendően felgyorsul,
-
10:30 - 10:33hogy eszközöket építünk,
melyek erősebbé tesznek, -
10:33 - 10:35hogy egy ponton eljutnak arra a szintre,
-
10:35 - 10:38ahol az egyén képes lesz
mindannyiunkat elpusztítani, -
10:38 - 10:41és az végzetesnek tűnik ránk nézve.
-
10:41 - 10:44Nem aggasztó ez az érvelés?
-
10:44 - 10:46NB: Dehogynem.
-
10:47 - 10:48(Nevetés)
-
10:48 - 10:49Szerintem...
-
10:51 - 10:52Egyre erősebbek leszünk
-
10:52 - 10:56és egyre könnyebben használjuk az erőket,
-
10:56 - 11:00ám feltalálhatunk olyan technológiákat is,
melyek kontrollálni képesek, -
11:00 - 11:02ahogy az emberek használják az erőket.
-
11:02 - 11:05CA: Beszéljünk erről,
a lehetséges reakcióról. -
11:05 - 11:07Feltételezve, hogy a jelenleg már létező
-
11:07 - 11:09lehetőségek kapcsán úgy gondolkodunk
-
11:09 - 11:13– nemcsak a szintetikus biológiáról,
hanem pl. a kiberháborúról, -
11:13 - 11:17a mesterséges intelligenciáról stb. –,
-
11:17 - 11:21hogy a jövőben pusztulás várhat ránk.
-
11:21 - 11:23Mik a lehetséges reakciók?
-
11:23 - 11:28Négy lehetőséget említesz válaszként.
-
11:28 - 11:31NB: A technológiai fejlődést korlátozni
nem tűnik ígéretes megoldásnak, -
11:31 - 11:35ha általában véve meg akarnánk
állítani a technológiai fejlődést. -
11:35 - 11:36Nem megvalósítható,
-
11:36 - 11:38és nem is kívánatos út,
még ha meg is tehetnénk. -
11:38 - 11:41Úgy hiszem, igen kevés terület az,
-
11:41 - 11:44ahol le akarnánk lassítani
a technológiai fejlődést. -
11:44 - 11:47Gondolom, nem akarnak gyorsabb
fejlődést biológiai fegyverek esetében, -
11:47 - 11:49vagy mondjuk az izotópok
szétválasztásában, -
11:49 - 11:52mellyel könnyebb lenne
atomfegyvereket gyártani. -
11:53 - 11:56CA: Régebben egyetértettem ezzel.
-
11:56 - 11:59Ám szeretnék most ellenvetéssel élni,
-
11:59 - 12:01mindenekelőtt,
-
12:01 - 12:03mert az elmúlt évtized történéseit nézve,
-
12:03 - 12:07mindig is teljes gázzal mentünk előre,
-
12:07 - 12:09ez oké, ez az egyetlen lehetőségünk.
-
12:09 - 12:13Ám ha a globalizációt
és annak gyorsulását, -
12:13 - 12:16ha a "Haladj gyorsan és zúzd a dolgokat"
mottó stratégiáját nézzük, -
12:16 - 12:19és hogy mi lett annak a sorsa,
-
12:19 - 12:21majd megnézzük a szintetikus
biológia kínálta lehetőségeket, -
12:22 - 12:26nem tudom, tényleg gyorsabban
kellene-e haladnunk, -
12:26 - 12:27vagy bármilyen korlátozás nélkül,
-
12:27 - 12:30egy olyan világ felé, ahol a DNS-nyomtató
-
12:30 - 12:32minden háztartásban
és gimnáziumi laborban elérhető. -
12:33 - 12:35Vannak korlátozások, ugye?
-
12:35 - 12:38NB: Ott van egyrészről,
hogy nem megvalósítható. -
12:38 - 12:40Ha úgy hisszük, kívánatos megállítani,
-
12:40 - 12:41ott a megvalósíthatóság kérdése.
-
12:42 - 12:44Az nem igazán segít,
ha egy nemzet valahogy... -
12:44 - 12:46CA: Nem, ha egy nemzet teszi, nem segít,
-
12:46 - 12:49de megállapodásokat korábban is kötöttünk.
-
12:49 - 12:53Úgy éltük túl a nukleáris fenyegetést,
-
12:53 - 12:54hogy felléptünk
-
12:54 - 12:57és átestünk az egyezkedés
fájdalmas folyamatán. -
12:57 - 13:02Csak csodálkozom,
hogy mivel ez globálisan elsődleges, -
13:02 - 13:04nem lenne-e logikus megpróbálni,
-
13:04 - 13:06mondjuk azzal,
hogy szigorúan szabályozzuk, -
13:06 - 13:09hol lehet szintetikusbiológiai
kutatásokat végezni, -
13:09 - 13:12ez nem olyasvalami, ugye,
amit demokratizálni akarnánk? -
13:12 - 13:14NB: Teljes mértékben egyetértek
-
13:14 - 13:18– például nem rossz,
-
13:18 - 13:22ha a DNS-szintetizáló elérhető,
-
13:22 - 13:25ne olyan termék legyen,
hogy minden labor rendelkezzen vele, -
13:25 - 13:27hanem inkább szolgáltatás.
-
13:27 - 13:29Mondjuk négy-öt hely a világon,
-
13:29 - 13:33ahová digitális lenyomatot küldhetnek,
és DNS-t kapnak vissza, nem? -
13:33 - 13:35Aztán lenne rá lehetőség,
-
13:35 - 13:37ha egy nap tényleg szükség volna rá,
-
13:37 - 13:39hogy legyenek véges számú ellenőrzőpontok.
-
13:39 - 13:43Úgy értem, ha egyfajta speciális
lehetőségeket akarnánk, -
13:43 - 13:45ahol szigorúbban lehet ellenőrizni.
-
13:45 - 13:47CA: Alapvetően abban hiszel,
-
13:47 - 13:50hogy a visszatartás nem vezet eredményhez.
-
13:50 - 13:52Valaki, valahol – mondjuk,
Észak-Koreában –, -
13:52 - 13:56valaki eljut oda
és felfedezi ezt a tudást, -
13:56 - 13:57ha van mit felfedezni.
-
13:57 - 14:00NB: A jelen körülmények
között ez valószínű. -
14:00 - 14:02És nem csak a szintetikus biológiában.
-
14:02 - 14:04Szerintem a világon bármely
mélyreható, új változásból -
14:04 - 14:06lehet fekete golyó.
-
14:06 - 14:08CA: Nézzünk egy másik lehetséges reakciót.
-
14:08 - 14:10NB: Ez itt szintén csak
korlátozott hatással bír. -
14:10 - 14:14Újra az 1-es típusú sebezhetőséget véve,
-
14:14 - 14:16ha csökkenthető lenne
-
14:16 - 14:19a világ lerombolásában érdekeltek száma,
-
14:19 - 14:21ha csak nekik lenne
hozzáférésük, eszközeik, -
14:21 - 14:22az jó lenne.
-
14:22 - 14:25CA: Ezen a képen elképzeled,
-
14:25 - 14:27amint drónok repkednek mindenfelé,
-
14:27 - 14:28arcfelismerővel.
-
14:28 - 14:32Ha kiszúrnak valakit
szociopata viselkedéssel, -
14:32 - 14:34megöntözik szeretettel, megjavítják.
-
14:34 - 14:36NB: Ez olyan, mint egy hibrid kép.
-
14:36 - 14:40Az eltávolítás egyszerre jelenthet
bebörtönzést vagy kivégzést, -
14:40 - 14:43de azt is, hogy szebb
színben lássák a világot. -
14:43 - 14:45Ám a lényeg,
-
14:45 - 14:47tegyük fel, jó eredményeket értünk el,
-
14:47 - 14:50és felére csökkent
az effajta egyének száma. -
14:50 - 14:52Ha meggyőzéssel élnénk,
-
14:52 - 14:54nagy erőkkel kell szembeszállnunk,
-
14:54 - 14:56amelyek ugyanúgy
igyekeznek hatni az emberekre: -
14:56 - 14:58pártok, vallás, oktatás.
-
14:58 - 15:00De tegyük fel, felére csökken a számuk,
-
15:00 - 15:02viszont a kockázat
nem csökkenne a felére. -
15:02 - 15:04Talán öt-tíz százalékkal.
-
15:04 - 15:08CA: Tehát nem ajánlod, hogy ezzel
tegyük kockára az emberiség jövőjét. -
15:08 - 15:11NB: Szerintem jó dolog elrettenteni
és meggyőzni az embereket, -
15:11 - 15:14de nem szabad erre, mint egyetlen
biztosítékra támaszkodnunk. -
15:14 - 15:15CA: És a harmadik?
-
15:15 - 15:18NB: Szerintem két általános
módszer jöhet szóba, -
15:18 - 15:22hogy megerősítsük a világot
-
15:22 - 15:25egy egész seregnyi
sebezhetőséggel szemben. -
15:25 - 15:27Lehet, mindkettő szükséges lesz.
-
15:27 - 15:31Az egyik nagyon hatékony képesség
-
15:32 - 15:33a megelőző rendszabályozás.
-
15:33 - 15:35Időben közbe tudnánk lépni.
-
15:35 - 15:38Ha bárki veszélyes dologba fogna,
-
15:38 - 15:40valós időben közbe tudnánk
lépni, megakadályozni. -
15:40 - 15:43Ehhez totális megfigyelés szükségeltetik,
-
15:43 - 15:45mindenkit, mindenkor megfigyelnének.
-
15:46 - 15:49CA: Ez a "Különvélemény" egy formája.
-
15:49 - 15:51NB: Talán lennének MI algoritmusok,
-
15:51 - 15:55nagy központokkal,
amelyek ezeket figyelik stb. -
15:57 - 16:01CA: Tudod, hogy a tömeges megfigyelés
manapság nem túl népszerű? -
16:01 - 16:02(Nevetés)
-
16:03 - 16:05NB: Persze; ezért képzeljük el,
-
16:05 - 16:09hogy egy ilyen nyakláncot
kellene állandóan viselnünk, -
16:09 - 16:11benne 360 fokos kamerával.
-
16:12 - 16:14De hogy emészthetőbb legyen,
-
16:14 - 16:16hívhatjuk "szabadságcédulának"
vagy valami ilyesmi. -
16:16 - 16:18(Nevetés)
-
16:18 - 16:19CA: Oké.
-
16:20 - 16:22Ez aztán a beszélgetés, barátaim,
-
16:22 - 16:25és pont emiatt ilyen
elképesztő a beszélgetés. -
16:25 - 16:28NB: Valójában egész nagy
beszélgetés folyik erről, -
16:28 - 16:29csakis erről.
-
16:29 - 16:32Ez rengeteg problémát,
kockázatot jelent, nem? -
16:32 - 16:33Erről később beszélhetünk.
-
16:33 - 16:34A másik, a végső,
-
16:34 - 16:37a másik általános megerősítési lehetőség
-
16:37 - 16:39a kormányzási szakadék
egyfajta betömése. -
16:39 - 16:43A megfigyelés például
mikroszintű kormányzási szakadék, -
16:43 - 16:46megakadályozni bárkit, hogy valami
nagyon törvénytelent csináljon. -
16:46 - 16:49Ez a kormányzási szakadék pedig
-
16:49 - 16:51makroszinten, világszinten is látható.
-
16:51 - 16:54Megbízhatóan szükségünk
van arra a képességre, -
16:54 - 16:57hogy útját álljuk a legsúlyosabb
globális koordinációs hibáknak, -
16:57 - 17:01így kerülve el a nagyhatalmak
közti háborúkat, -
17:01 - 17:02fegyverkezési versenyeket,
-
17:04 - 17:06a közösségek katasztrófáit,
-
17:08 - 17:12hogy lehetőségük legyen a 2a típusú
sebezhetőségekkel foglalkozni. -
17:12 - 17:14CA: A globális kormányzás
-
17:14 - 17:16manapság idejétmúlt fogalom,
-
17:16 - 17:19de tagadhatod-e a tényt,
hogy a történelem során, -
17:19 - 17:20az emberiség történelmében,
-
17:20 - 17:25a technológiai erő növekedésének
minden szakaszában -
17:25 - 17:29újraszervezték és egyfajtaképp
központosították a hatalmat. -
17:29 - 17:32Például ha egy huligánbanda
-
17:32 - 17:34átvehetné a társadalom fölötti uralmat,
-
17:34 - 17:36a válasz az, hogy egy nemzetállamban,
-
17:36 - 17:38központosított erőkkel,
rendőri vagy katonai erővel -
17:39 - 17:40ez nem lehetséges.
-
17:40 - 17:45A logikus az, hogy ha egyetlen személy,
vagy egy csoport, -
17:45 - 17:46ki tudná irtani az emberiséget,
-
17:46 - 17:49azt jelenti, valamikor rá is
kell lépjünk erre az útra, -
17:49 - 17:51valamilyen formában, nem?
-
17:51 - 17:54NB: Tény, hogy a politikai szervezettség
nagy mértékben nőtt -
17:54 - 17:56az emberi történelem során.
-
17:56 - 17:59Először vadászó-gyűjtögető horda,
-
17:59 - 18:01majd fejedelemség, városállamok, nemzetek,
-
18:02 - 18:05most nemzetközi szervezeteink
vannak, és így tovább. -
18:05 - 18:07Ismétlem,
-
18:07 - 18:09hangsúlyozom,
-
18:09 - 18:11hogy a tömeges megfigyelésnek
-
18:11 - 18:12és a globális kormányzásnak
-
18:12 - 18:16nyilvánvalóan komoly hátulütői,
jelentős kockázatai vannak. -
18:16 - 18:18Csak rá szeretnék mutatni,
hogy ha szerencsénk van, -
18:18 - 18:21lehet olyan világ is,
ahol ezek lesznek a fekete golyó -
18:21 - 18:22túlélésének egyetlen esélyei.
-
18:22 - 18:25CA: Ennek az elméletnek a logikája,
-
18:25 - 18:26nekem úgy tűnik,
-
18:26 - 18:30az, hogy nem lehet minden a miénk.
-
18:30 - 18:32Igen, valahogy úgy.
-
18:34 - 18:36Hogy úgy mondjam, sokunk naiv álma az,
-
18:36 - 18:40hogy a technológia mindig
a jó erőket szolgálja majd, -
18:40 - 18:43ne álljunk meg, folytassuk,
amilyen gyorsan csak lehet, -
18:43 - 18:45ne figyeljünk oda következményekre,
-
18:45 - 18:47ez nem választási lehetőség.
-
18:47 - 18:49Meg tudjuk csinálni.
-
18:49 - 18:50Ha megvan,
-
18:50 - 18:52el kell fogadnunk
-
18:52 - 18:54néhány kellemetlen velejáróját is,
-
18:54 - 18:57és mintegy önmagunkkal kell
fegyverkezési versenybe szállni: -
18:57 - 18:59ha akarjuk a hatalmat,
korlátoznunk kell, -
18:59 - 19:01és jobb, ha kitaláljuk,
hogyan korlátozhatjuk. -
19:01 - 19:04NB: Szerintem ez is egy lehetőség,
-
19:04 - 19:07igen csábító lehetőség,
bizonyos értelemben a legkönnyebb, -
19:07 - 19:09és talán működhet is.
-
19:09 - 19:13De azt jelenti, a fekete golyó kihúzását
nézve alapvetően sebezhetőek vagyunk. -
19:13 - 19:16Szerintem kis koordinációval,
-
19:16 - 19:17ha mondjuk megoldottuk
-
19:17 - 19:20a makro- és mikrokormányzási problémát,
-
19:20 - 19:22akkor minden golyót
kihúzhatunk az urnából, -
19:22 - 19:25és élvezhetjük ezek előnyeit.
-
19:25 - 19:28CA: Ha viszont egy szimulációban
élünk, számít ez egyáltalán? -
19:28 - 19:29Csak újrabootolunk.
-
19:29 - 19:31(Nevetés)
-
19:31 - 19:32NB: Akkor... én...
-
19:32 - 19:35(Nevetés)
-
19:35 - 19:36Erre nem számítottam.
-
19:38 - 19:39CA: Szóval, mit gondolsz?
-
19:39 - 19:44Ha összeillesztjük a részleteket, mennyire
biztos, hogy halálra vagyunk ítélve? -
19:44 - 19:46(Nevetés)
-
19:47 - 19:49Szeretem, ahogy nevetnek
a kérdés hallatán. -
19:49 - 19:51NB: Mint egyének,
-
19:51 - 19:55az idővel, amúgy is halálra
vagyunk ítélve, -
19:55 - 19:57romlunk és öregszünk és hasonlók, nem?
-
19:57 - 19:59(Nevetés)
-
19:59 - 20:01Valójában ez kissé trükkös.
-
20:01 - 20:03Ha a valószínűségre is
kíváncsi, akkor először is: -
20:03 - 20:04kik vagyunk?
-
20:04 - 20:07Ha nagyon öregek,
a halál lehet természetes. -
20:07 - 20:10Ha nagyon fiatalok,
lehet még száz évünk – -
20:10 - 20:12a valószínűség azon is
múlhat, kiről van szó. -
20:12 - 20:16Aztán a küszöbérték: mi számít
a civilizáció pusztulásának? -
20:16 - 20:22A tanulmányban nemcsak az
egzisztenciális katasztrófákat -
20:22 - 20:23veszem figyelembe.
-
20:23 - 20:25Ez csak meghatározás kérdése.
-
20:25 - 20:26Mondjuk egymilliárd halott
-
20:26 - 20:29vagy a GDP 50%-os csökkenése,
-
20:29 - 20:31ám attól függően, mi a küszöbérték,
-
20:31 - 20:33eltérő valószínűségi becslések jönnek ki.
-
20:33 - 20:37Ám lehet, rémült optimistának tartanak.
-
20:37 - 20:38(Nevetés)
-
20:38 - 20:40CA: Te egy rémült optimista vagy,
-
20:40 - 20:44és szerintem épp most
rémítettél meg egy csomó másik ... -
20:44 - 20:46embert is.
-
20:46 - 20:47(Nevetés)
-
20:47 - 20:48NB: A szimulációban.
-
20:48 - 20:49CA: Egy szimulációban.
-
20:49 - 20:51Nick Bostrom, az elméd lenyűgöz,
-
20:51 - 20:54köszönöm, hogy halálos rémületbe
kergettél bennünket. -
20:54 - 20:56(Taps)
- Title:
- Így pusztíthatja el a civilizáció önmagát – és négy mód, ahogy ezt megelőzhetjük
- Speaker:
- Nick Bostrom
- Description:
-
Az emberiség dolgozik a "fekete golyón": egy olyan technológiai áttörésen, amely, Nick Bostrom filozófus szerint, mindannyiunkat elpusztíthat. Ebben, a Chris Andersonnal, a TED elnökével folytatott éles elméjű, meglepően könnyed beszélgetésben Bostrom felvázolja azokat a sebezhetőségeket, amelyekkel szembe kell nézzünk, ha (vagy amikor) a felfedezéseink felett elveszítjük a kontrollt – és felfedi azt is, hogyan akadályozhatjuk meg önnön jövőbeli pusztulásunkat.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 21:09
Csaba Lóki approved Hungarian subtitles for How civilization could destroy itself -- and 4 ways we could prevent it | ||
Csaba Lóki edited Hungarian subtitles for How civilization could destroy itself -- and 4 ways we could prevent it | ||
Csaba Lóki commented on Hungarian subtitles for How civilization could destroy itself -- and 4 ways we could prevent it | ||
Csaba Lóki edited Hungarian subtitles for How civilization could destroy itself -- and 4 ways we could prevent it | ||
Csaba Lóki edited Hungarian subtitles for How civilization could destroy itself -- and 4 ways we could prevent it | ||
Csaba Lóki edited Hungarian subtitles for How civilization could destroy itself -- and 4 ways we could prevent it | ||
Ádám Kósa accepted Hungarian subtitles for How civilization could destroy itself -- and 4 ways we could prevent it | ||
Ádám Kósa edited Hungarian subtitles for How civilization could destroy itself -- and 4 ways we could prevent it |
Csaba Lóki
Sziasztok!
Megnéznétek, jó-e ygy? Kicsit összehangoltam a számokat, személyeket.