[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:01.00,0:00:03.22,Default,,0000,0000,0000,,Pričaću vam o porazu intuicije
Dialogue: 0,0:00:03.24,0:00:04.84,Default,,0000,0000,0000,,od koga mnogi patimo.
Dialogue: 0,0:00:05.48,0:00:08.52,Default,,0000,0000,0000,,Zista je porazno opaziti\Nodređenu vrstu opasnosti.
Dialogue: 0,0:00:09.36,0:00:11.10,Default,,0000,0000,0000,,Opisaću vam jedan scenario
Dialogue: 0,0:00:11.12,0:00:14.38,Default,,0000,0000,0000,,za koji mislim da je i zastrašujuć
Dialogue: 0,0:00:14.40,0:00:16.16,Default,,0000,0000,0000,,i koji se realno može dogoditi,
Dialogue: 0,0:00:16.84,0:00:18.50,Default,,0000,0000,0000,,a to, kako se čini,
Dialogue: 0,0:00:18.52,0:00:20.06,Default,,0000,0000,0000,,nije dobra kombinacija.
Dialogue: 0,0:00:20.08,0:00:22.54,Default,,0000,0000,0000,,A opet umesto da se uplaše,\Nmnogi od vas će misliti
Dialogue: 0,0:00:22.56,0:00:24.64,Default,,0000,0000,0000,,da je ono o čemu pričam nešto kul.
Dialogue: 0,0:00:25.20,0:00:28.18,Default,,0000,0000,0000,,Opisaću vam kako bi\Nnapredak koji pravimo
Dialogue: 0,0:00:28.20,0:00:29.98,Default,,0000,0000,0000,,u veštačkoj inteligenciji
Dialogue: 0,0:00:30.00,0:00:31.78,Default,,0000,0000,0000,,mogao na kraju da nas uništi.
Dialogue: 0,0:00:31.80,0:00:35.26,Default,,0000,0000,0000,,Zapravo, mislim da je jako teško\Nzamisliti kako nas neće uništiti,
Dialogue: 0,0:00:35.28,0:00:36.96,Default,,0000,0000,0000,,ili navesti da se samouništimo.
Dialogue: 0,0:00:37.40,0:00:39.26,Default,,0000,0000,0000,,A opet ako ste imalo kao ja,
Dialogue: 0,0:00:39.28,0:00:41.94,Default,,0000,0000,0000,,shvatićete da je zabavno\Nrazmišljati o ovim stvarima.
Dialogue: 0,0:00:41.96,0:00:45.34,Default,,0000,0000,0000,,I taj odgovor je deo ovog problema.
Dialogue: 0,0:00:45.36,0:00:47.08,Default,,0000,0000,0000,,OK? Taj odgovor treba da vas brine.
Dialogue: 0,0:00:47.92,0:00:50.58,Default,,0000,0000,0000,,Kad bih vas u ovom govoru ubedio
Dialogue: 0,0:00:50.60,0:00:54.02,Default,,0000,0000,0000,,da ćemo vrlo verovatno\Nglobalno gladovati,
Dialogue: 0,0:00:54.04,0:00:57.10,Default,,0000,0000,0000,,bilo zbog klimatskih promena\Nili neke druge katastrofe,
Dialogue: 0,0:00:57.12,0:01:00.54,Default,,0000,0000,0000,,i da će vaši unuci, ili njihovi unuci,
Dialogue: 0,0:01:00.56,0:01:02.36,Default,,0000,0000,0000,,vrlo verovatno živeti ovako,
Dialogue: 0,0:01:03.20,0:01:04.40,Default,,0000,0000,0000,,ne biste mislili:
Dialogue: 0,0:01:05.44,0:01:06.78,Default,,0000,0000,0000,,"Zanimljivo.
Dialogue: 0,0:01:06.80,0:01:08.25,Default,,0000,0000,0000,,Dobar ovaj TED Talk."
Dialogue: 0,0:01:09.20,0:01:10.72,Default,,0000,0000,0000,,Glad nije zabavna.
Dialogue: 0,0:01:11.80,0:01:15.18,Default,,0000,0000,0000,,Smrt u naučnoj fantastici, \Nsa druge strane, jeste zabavna,
Dialogue: 0,0:01:15.20,0:01:19.18,Default,,0000,0000,0000,,i nešto što me najviše brine\Nu ovom trenutku u vezi sa razvojem VI
Dialogue: 0,0:01:19.20,0:01:23.30,Default,,0000,0000,0000,,je što izgleda da ne možemo da pružimo\Nodgovarajući emocionalni odgovor
Dialogue: 0,0:01:23.32,0:01:25.14,Default,,0000,0000,0000,,na opasnosti koje dolaze.
Dialogue: 0,0:01:25.16,0:01:28.36,Default,,0000,0000,0000,,Ni ja ne mogu da pružim ovaj odgovor,\Na držim ovaj govor.
Dialogue: 0,0:01:30.12,0:01:32.82,Default,,0000,0000,0000,,To je kao da stojimo ispred dvoja vrata.
Dialogue: 0,0:01:32.84,0:01:34.10,Default,,0000,0000,0000,,Iza vrata broj jedan,
Dialogue: 0,0:01:34.12,0:01:37.42,Default,,0000,0000,0000,,zaustavljamo napredak\Nu pravljenju inteligentnih mašina.
Dialogue: 0,0:01:37.44,0:01:41.46,Default,,0000,0000,0000,,Kompjuterski hardver i softver prosto\Nprestaju da budu bolji iz nekog razloga.
Dialogue: 0,0:01:41.48,0:01:44.48,Default,,0000,0000,0000,,Sada na trenutak razmislite\Nzašto bi se ovo moglo desiti.
Dialogue: 0,0:01:45.08,0:01:48.74,Default,,0000,0000,0000,,Mislim, s obzirom koliku vrednost\Nimaju inteligencija i automatizacija,
Dialogue: 0,0:01:48.76,0:01:52.28,Default,,0000,0000,0000,,nastavićemo da unapređujemo tehnologiju\Nako smo uopšte kadri za to.
Dialogue: 0,0:01:53.20,0:01:54.87,Default,,0000,0000,0000,,Šta bi nas moglo sprečiti u tome?
Dialogue: 0,0:01:55.80,0:01:57.60,Default,,0000,0000,0000,,Svetski nuklearni rat?
Dialogue: 0,0:01:59.00,0:02:00.56,Default,,0000,0000,0000,,Globalna pandemija?
Dialogue: 0,0:02:02.32,0:02:03.64,Default,,0000,0000,0000,,Pad asteroida?
Dialogue: 0,0:02:05.64,0:02:08.22,Default,,0000,0000,0000,,Ako Džastin Biber postane\Npredsednik Amerike?
Dialogue: 0,0:02:08.24,0:02:10.52,Default,,0000,0000,0000,,(Smeh)
Dialogue: 0,0:02:12.76,0:02:16.68,Default,,0000,0000,0000,,Poenta je u tome, da bi nešto moralo\Nda uništi civilizaciju ovakvu kakva je.
Dialogue: 0,0:02:17.36,0:02:21.66,Default,,0000,0000,0000,,Morate zamisliti kako\Nbi zaista loše moralo biti to
Dialogue: 0,0:02:21.68,0:02:25.02,Default,,0000,0000,0000,,što bi nas trajno sprečilo\Nda unapređujemo,
Dialogue: 0,0:02:25.04,0:02:26.26,Default,,0000,0000,0000,,tehnologiju,
Dialogue: 0,0:02:26.28,0:02:28.30,Default,,0000,0000,0000,,generaciju za generacijom.
Dialogue: 0,0:02:28.32,0:02:30.46,Default,,0000,0000,0000,,Skoro po definiciji, ovo je najgora stvar
Dialogue: 0,0:02:30.48,0:02:32.50,Default,,0000,0000,0000,,koja se ikada desila u ljudskoj istoriji.
Dialogue: 0,0:02:32.52,0:02:33.82,Default,,0000,0000,0000,,Pa je jedina alternativa,
Dialogue: 0,0:02:33.84,0:02:36.18,Default,,0000,0000,0000,,a ovo se nalazi iza vrata broj dva,
Dialogue: 0,0:02:36.20,0:02:39.34,Default,,0000,0000,0000,,da nastavimo da unapređujemo\Nnaše inteligentne mašine
Dialogue: 0,0:02:39.36,0:02:40.96,Default,,0000,0000,0000,,bez prestanka.
Dialogue: 0,0:02:41.72,0:02:45.36,Default,,0000,0000,0000,,U jednom trenutku, napravićemo\Nmašine koje su pametnije od nas,
Dialogue: 0,0:02:46.08,0:02:48.70,Default,,0000,0000,0000,,i tad kad budemo imali mašine\Nkoje su pametnije od nas,
Dialogue: 0,0:02:48.72,0:02:50.70,Default,,0000,0000,0000,,one će same početi da se razvijaju.
Dialogue: 0,0:02:50.72,0:02:53.46,Default,,0000,0000,0000,,I onda rizikujemo ono\Nšto je matematičar I.Dž. Gud nazvao
Dialogue: 0,0:02:53.48,0:02:55.26,Default,,0000,0000,0000,,"eksplozija inteligencije",
Dialogue: 0,0:02:55.28,0:02:57.28,Default,,0000,0000,0000,,da proces može da nam pobegne.
Dialogue: 0,0:02:58.12,0:03:00.94,Default,,0000,0000,0000,,E, sad, ovo se često karikira,\Nkao što ću i ja uraditi,
Dialogue: 0,0:03:00.96,0:03:04.18,Default,,0000,0000,0000,,kao strah od napada armije
Dialogue: 0,0:03:04.20,0:03:05.46,Default,,0000,0000,0000,,zlih robota.
Dialogue: 0,0:03:05.48,0:03:08.18,Default,,0000,0000,0000,,Ali to nije najverovatniji scenario.
Dialogue: 0,0:03:08.20,0:03:13.06,Default,,0000,0000,0000,,Nije kao da će naše mašine\Nspontano postati zle.
Dialogue: 0,0:03:13.08,0:03:15.70,Default,,0000,0000,0000,,Brine nas, zapravo,\Nda ćemo mi napraviti mašine
Dialogue: 0,0:03:15.72,0:03:17.78,Default,,0000,0000,0000,,koje su mnogo, mnogo\Nkompetentnije od nas,
Dialogue: 0,0:03:17.80,0:03:21.58,Default,,0000,0000,0000,,brinemo da će nas uništiti\Ni najmanja razlika između
Dialogue: 0,0:03:21.60,0:03:22.80,Default,,0000,0000,0000,,naših i njihovih ciljeva.
Dialogue: 0,0:03:23.96,0:03:26.04,Default,,0000,0000,0000,,Zamislite kakvi smo mi prema mravima.
Dialogue: 0,0:03:26.60,0:03:28.26,Default,,0000,0000,0000,,Ne mrzimo ih.
Dialogue: 0,0:03:28.28,0:03:30.34,Default,,0000,0000,0000,,Ne povređujemo ih namerno.
Dialogue: 0,0:03:30.36,0:03:32.74,Default,,0000,0000,0000,,Zapravo, ponekad se\Ntrudimo se da ih ne povredimo.
Dialogue: 0,0:03:32.76,0:03:34.78,Default,,0000,0000,0000,,Preskačemo ih na trotoaru.
Dialogue: 0,0:03:34.80,0:03:36.94,Default,,0000,0000,0000,,Ali kada god njihovo prisustvo
Dialogue: 0,0:03:36.96,0:03:39.46,Default,,0000,0000,0000,,ozbiljno ugrozi neke naše ciljeve,
Dialogue: 0,0:03:39.48,0:03:41.96,Default,,0000,0000,0000,,recimo kada konstruišemo\Nneku zgradu poput ove,
Dialogue: 0,0:03:41.98,0:03:43.94,Default,,0000,0000,0000,,bez po muke ih istrebimo.
Dialogue: 0,0:03:44.48,0:03:47.42,Default,,0000,0000,0000,,Brine nas da ćemo\Njednog dana napraviti mašine
Dialogue: 0,0:03:47.44,0:03:50.18,Default,,0000,0000,0000,,koje će, bilo da su svesne ili ne,
Dialogue: 0,0:03:50.20,0:03:52.20,Default,,0000,0000,0000,,nas tretirati na isti način.
Dialogue: 0,0:03:53.76,0:03:56.52,Default,,0000,0000,0000,,E, sad, cenim da većini vas\Novo zvuči kao daleka budućnost.
Dialogue: 0,0:03:57.36,0:04:03.70,Default,,0000,0000,0000,,Kladim se da ima onih koji ne veruju\Nda je superinteligentna VI moguća,
Dialogue: 0,0:04:03.72,0:04:05.38,Default,,0000,0000,0000,,a kamoli neizbežna.
Dialogue: 0,0:04:05.40,0:04:09.02,Default,,0000,0000,0000,,Ali onda morate naći neku grešku\Nu sledećim pretpostavkama.
Dialogue: 0,0:04:09.04,0:04:10.62,Default,,0000,0000,0000,,A samo ih je tri.
Dialogue: 0,0:04:11.80,0:04:16.52,Default,,0000,0000,0000,,Inteligencija je stvar obrade\Ninformacija u fizičkim sistemima.
Dialogue: 0,0:04:17.32,0:04:19.94,Default,,0000,0000,0000,,U stvari, ovo je malo više\Nod neke pretpostavke.
Dialogue: 0,0:04:19.96,0:04:23.42,Default,,0000,0000,0000,,Već smo ugradili specifičnu\Ninteligenciju u naše mašine,
Dialogue: 0,0:04:23.44,0:04:25.46,Default,,0000,0000,0000,,i mnoge od ovih mašina već
Dialogue: 0,0:04:25.48,0:04:28.12,Default,,0000,0000,0000,,imaju performanse na nivou\Nsuperljudske inteligencije.
Dialogue: 0,0:04:28.84,0:04:31.42,Default,,0000,0000,0000,,I znamo da sama materija
Dialogue: 0,0:04:31.44,0:04:34.06,Default,,0000,0000,0000,,može da omogući takozvanu\N"uopštenu inteligenciju",
Dialogue: 0,0:04:34.08,0:04:37.74,Default,,0000,0000,0000,,sposobnost da se fleksibilno\Nrazmišlja u različitim domenima,
Dialogue: 0,0:04:37.76,0:04:40.90,Default,,0000,0000,0000,,jer to može i naš mozak. Je l' tako?
Dialogue: 0,0:04:40.92,0:04:44.86,Default,,0000,0000,0000,,Mislim, ovde postoje samo atomi,
Dialogue: 0,0:04:44.88,0:04:49.38,Default,,0000,0000,0000,,i sve dok mi nastavljamo\Nda gradimo sisteme atoma
Dialogue: 0,0:04:49.40,0:04:52.10,Default,,0000,0000,0000,,koji su sve inteligentniji\Ni inteligentniji,
Dialogue: 0,0:04:52.12,0:04:54.66,Default,,0000,0000,0000,,mi ćemo na kraju, osim ako nas prekinu,
Dialogue: 0,0:04:54.68,0:04:58.06,Default,,0000,0000,0000,,mi ćemo na kraju\Nugraditi uopštenu inteligenciju
Dialogue: 0,0:04:58.08,0:04:59.38,Default,,0000,0000,0000,,u naše mašine.
Dialogue: 0,0:04:59.40,0:05:03.06,Default,,0000,0000,0000,,Od suštinske je važnosti da shvatimo\Nda stopa napretka nije važna,
Dialogue: 0,0:05:03.08,0:05:06.26,Default,,0000,0000,0000,,jer bilo kakav napredak\Nje dovoljan da nas dovede do cilja.
Dialogue: 0,0:05:06.28,0:05:10.06,Default,,0000,0000,0000,,Ne treba nam Murov zakon.\NNe treba nam eksponencijalni napredak.
Dialogue: 0,0:05:10.08,0:05:11.68,Default,,0000,0000,0000,,Samo treba da nastavimo dalje.
Dialogue: 0,0:05:13.48,0:05:16.40,Default,,0000,0000,0000,,Druga pretpostavka je\Nda ćemo nastaviti dalje.
Dialogue: 0,0:05:17.00,0:05:19.76,Default,,0000,0000,0000,,Nastavićemo da poboljšavamo\Nnaše inteligentne mašine.
Dialogue: 0,0:05:21.00,0:05:25.38,Default,,0000,0000,0000,,I uz postojeću vrednost inteligencije -
Dialogue: 0,0:05:25.40,0:05:28.94,Default,,0000,0000,0000,,mislim, inteligencija je\Nili izvor svega što je vredno
Dialogue: 0,0:05:28.96,0:05:31.74,Default,,0000,0000,0000,,ili nam treba da sačuvamo\Nsve ono što nam je vredno.
Dialogue: 0,0:05:31.76,0:05:34.02,Default,,0000,0000,0000,,To je naš najvredniji resurs.
Dialogue: 0,0:05:34.04,0:05:35.58,Default,,0000,0000,0000,,I zato želimo da uradimo ovo.
Dialogue: 0,0:05:35.60,0:05:38.94,Default,,0000,0000,0000,,Imamo probleme koje\Nočajnički moramo da rešimo.
Dialogue: 0,0:05:38.96,0:05:42.16,Default,,0000,0000,0000,,Želimo da izlečimo bolesti poput\NAlchajmera i raka.
Dialogue: 0,0:05:42.96,0:05:46.90,Default,,0000,0000,0000,,Želimo da shvatimo ekonomske sisteme.\NŽelimo da poboljšamo nauku o klimi.
Dialogue: 0,0:05:46.92,0:05:49.18,Default,,0000,0000,0000,,Tako da, ako možemo, to ćemo i uraditi.
Dialogue: 0,0:05:49.20,0:05:52.49,Default,,0000,0000,0000,,Voz je već napustio stanicu,\Ni nema kočnice.
Dialogue: 0,0:05:53.88,0:05:59.34,Default,,0000,0000,0000,,Konačno, mi ne stojimo\Nna vrhuncu inteligencije,
Dialogue: 0,0:05:59.36,0:06:01.16,Default,,0000,0000,0000,,a verovatno ni blizu toga.
Dialogue: 0,0:06:01.64,0:06:03.54,Default,,0000,0000,0000,,I ovo je zaista suštinski uvid.
Dialogue: 0,0:06:03.56,0:06:05.98,Default,,0000,0000,0000,,Zbog ovoga je naša\Nsituacija tako nepouzdana,
Dialogue: 0,0:06:06.00,0:06:10.04,Default,,0000,0000,0000,,i zbog toga je naša intuicija\No riziku tako nepouzdana.
Dialogue: 0,0:06:11.12,0:06:13.84,Default,,0000,0000,0000,,E, sad, samo razmislite\No najpametnijoj osobi ikada.
Dialogue: 0,0:06:14.64,0:06:18.06,Default,,0000,0000,0000,,Na skoro svačijem užem spisku ovde\Nje Džon fon Nojman.
Dialogue: 0,0:06:18.08,0:06:21.42,Default,,0000,0000,0000,,Mislim, utisak koji je Nojman\Nostavio na ljude oko sebe,
Dialogue: 0,0:06:21.44,0:06:25.50,Default,,0000,0000,0000,,uključujući tu najveće\Nmatematičare i fizičare tog vremena,
Dialogue: 0,0:06:25.52,0:06:27.46,Default,,0000,0000,0000,,je prilično dobro dokumentovan.
Dialogue: 0,0:06:27.48,0:06:31.26,Default,,0000,0000,0000,,I ako je samo pola onih\Npriča o njemu polutačna,
Dialogue: 0,0:06:31.28,0:06:32.50,Default,,0000,0000,0000,,nema dileme da je on
Dialogue: 0,0:06:32.52,0:06:34.98,Default,,0000,0000,0000,,jedan od najpametnijih ljudi\Nkoji su ikada živeli.
Dialogue: 0,0:06:35.00,0:06:37.52,Default,,0000,0000,0000,,Samo zamislite opseg inteligencije.
Dialogue: 0,0:06:38.32,0:06:39.75,Default,,0000,0000,0000,,Ovde imamo Džona fon Nojmana.
Dialogue: 0,0:06:41.56,0:06:42.89,Default,,0000,0000,0000,,Onda smo tu vi i ja.
Dialogue: 0,0:06:44.12,0:06:45.42,Default,,0000,0000,0000,,I onda imamo neko pile.
Dialogue: 0,0:06:45.44,0:06:47.38,Default,,0000,0000,0000,,(Smeh)
Dialogue: 0,0:06:47.40,0:06:48.62,Default,,0000,0000,0000,,Pardon, neko pile.
Dialogue: 0,0:06:48.64,0:06:49.90,Default,,0000,0000,0000,,(Smeh)
Dialogue: 0,0:06:49.92,0:06:53.66,Default,,0000,0000,0000,,Nema potrebe da idem dalje u dubiozu\Nu ovom govoru nego što treba.
Dialogue: 0,0:06:53.68,0:06:55.28,Default,,0000,0000,0000,,(Smeh)
Dialogue: 0,0:06:56.34,0:06:59.82,Default,,0000,0000,0000,,Međutim, čini se da je više nego verovatno\Nda se spektar inteligencije
Dialogue: 0,0:06:59.84,0:07:02.96,Default,,0000,0000,0000,,proteže mnogo više\Nnego što trenutno možemo da shvatimo,
Dialogue: 0,0:07:03.88,0:07:07.10,Default,,0000,0000,0000,,i ako napravimo mašine\Nkoje su mnogo inteligentnije od nas,
Dialogue: 0,0:07:07.12,0:07:09.42,Default,,0000,0000,0000,,one će skoro sigurno\Nistražiti ovaj spektar
Dialogue: 0,0:07:09.44,0:07:11.30,Default,,0000,0000,0000,,onako kako to ne možemo ni zamisliti,
Dialogue: 0,0:07:11.32,0:07:13.84,Default,,0000,0000,0000,,i preteći nas na načine\Nkoje ne možemo ni zamisliti.
Dialogue: 0,0:07:15.00,0:07:19.34,Default,,0000,0000,0000,,I važno je shvatiti da je ovo\Nmoguće samo putem brzine.
Dialogue: 0,0:07:19.36,0:07:24.42,Default,,0000,0000,0000,,U redu? Zamislite samo da napravimo\Njednu superinteligentnu VI
Dialogue: 0,0:07:24.44,0:07:27.90,Default,,0000,0000,0000,,koja nije ništa pametnija\Nod vašeg prosečnog tima istraživača
Dialogue: 0,0:07:27.92,0:07:30.22,Default,,0000,0000,0000,,na Stanfordu ili MIT-u.
Dialogue: 0,0:07:30.24,0:07:33.22,Default,,0000,0000,0000,,Pa, električna kola\Nfunkcionišu oko milion puta brže
Dialogue: 0,0:07:33.24,0:07:34.50,Default,,0000,0000,0000,,od biohemijskih,
Dialogue: 0,0:07:34.52,0:07:37.66,Default,,0000,0000,0000,,tako da bi ove mašine razmišljale\Noko milion puta brže
Dialogue: 0,0:07:37.68,0:07:39.50,Default,,0000,0000,0000,,od umova koje su ih sastavile.
Dialogue: 0,0:07:39.52,0:07:41.18,Default,,0000,0000,0000,,Pustite ih da rade nedelju dana,
Dialogue: 0,0:07:41.20,0:07:45.76,Default,,0000,0000,0000,,i izvešće 20.000 godina\Nljudskog intelektualnog rada,
Dialogue: 0,0:07:46.40,0:07:48.36,Default,,0000,0000,0000,,nedelju za nedeljom.
Dialogue: 0,0:07:49.64,0:07:52.74,Default,,0000,0000,0000,,Kako čak možemo i razumeti,\Na kamoli ograničiti
Dialogue: 0,0:07:52.76,0:07:55.04,Default,,0000,0000,0000,,um koji bi mogao ovo da uradi?
Dialogue: 0,0:07:56.84,0:07:58.98,Default,,0000,0000,0000,,Iskreno, ono drugo što je zabrinjavajuće
Dialogue: 0,0:07:59.00,0:08:03.98,Default,,0000,0000,0000,,je da, zamislite najbolji mogući scenario.
Dialogue: 0,0:08:04.00,0:08:08.18,Default,,0000,0000,0000,,Zamislite da nabasamo na neki dizajn\Nsuperinteligentne VI
Dialogue: 0,0:08:08.20,0:08:09.58,Default,,0000,0000,0000,,čija nas sigurnost ne brine.
Dialogue: 0,0:08:09.60,0:08:12.86,Default,,0000,0000,0000,,Po prvi put imamo savršeni dizajn.
Dialogue: 0,0:08:12.88,0:08:15.10,Default,,0000,0000,0000,,To je kao da nam je dato proročanstvo
Dialogue: 0,0:08:15.12,0:08:17.14,Default,,0000,0000,0000,,koje se odvija baš kako je zapisano.
Dialogue: 0,0:08:17.16,0:08:20.88,Default,,0000,0000,0000,,Ta mašina bi bila savršeni\Nuređaj za uštedu radne snage.
Dialogue: 0,0:08:21.68,0:08:24.11,Default,,0000,0000,0000,,Dizajnirala bi mašinu\Nkoja može napraviti mašine
Dialogue: 0,0:08:24.13,0:08:25.90,Default,,0000,0000,0000,,za bilo kakav fizički posao,
Dialogue: 0,0:08:25.92,0:08:27.38,Default,,0000,0000,0000,,a koje bi napajalo sunce,
Dialogue: 0,0:08:27.40,0:08:30.10,Default,,0000,0000,0000,,manje-više po ceni sirovina.
Dialogue: 0,0:08:30.12,0:08:33.38,Default,,0000,0000,0000,,Pričamo o kraju teškog ljudskog rada.
Dialogue: 0,0:08:33.40,0:08:36.20,Default,,0000,0000,0000,,Takođe pričamo o kraju\Nvećeg dela intelektualnog rada.
Dialogue: 0,0:08:37.20,0:08:40.26,Default,,0000,0000,0000,,Pa šta će onda majmuni poput nas\Nda rade u takvim okolnostima?
Dialogue: 0,0:08:40.28,0:08:44.36,Default,,0000,0000,0000,,Pa, imali bismo vremena za frizbi\Ni da masiramo jedni druga.
Dialogue: 0,0:08:45.84,0:08:48.70,Default,,0000,0000,0000,,Dodajmo malo LSD-a i neke\Ndiskutabilne garderobe,
Dialogue: 0,0:08:48.72,0:08:51.37,Default,,0000,0000,0000,,i ceo svet bi mogao\Nbiti poput festivala Burning Man.
Dialogue: 0,0:08:51.39,0:08:53.03,Default,,0000,0000,0000,,(Smeh)
Dialogue: 0,0:08:54.32,0:08:56.32,Default,,0000,0000,0000,,E, sad, to možda zvuči kao dobra ideja,
Dialogue: 0,0:08:57.28,0:08:59.66,Default,,0000,0000,0000,,ali zapitajte se šta bi se desilo
Dialogue: 0,0:08:59.68,0:09:02.42,Default,,0000,0000,0000,,pod našim trenutnim ekonomskim\Ni političkim poretkom?
Dialogue: 0,0:09:02.44,0:09:04.86,Default,,0000,0000,0000,,Čini se verovatnim da bismo bili svedoci
Dialogue: 0,0:09:04.88,0:09:09.02,Default,,0000,0000,0000,,određenog nivoa novčane nejednakosti\Ni nezaposlenosti
Dialogue: 0,0:09:09.04,0:09:10.54,Default,,0000,0000,0000,,koji ranije nismo viđali.
Dialogue: 0,0:09:10.56,0:09:13.18,Default,,0000,0000,0000,,Uz odsustvo volje da\Nse odmah ovo novo bogatstvo stavi
Dialogue: 0,0:09:13.20,0:09:14.68,Default,,0000,0000,0000,,na raspolaganje čovečanstvu,
Dialogue: 0,0:09:15.64,0:09:19.26,Default,,0000,0000,0000,,nekoliko bilionera bi poziralo\Nna omotima biznis magazina
Dialogue: 0,0:09:19.28,0:09:21.72,Default,,0000,0000,0000,,dok bi ostatak sveta slobodno\Nmogao umreti od gladi.
Dialogue: 0,0:09:22.32,0:09:24.62,Default,,0000,0000,0000,,I šta bi radili Rusi ili Kinezi
Dialogue: 0,0:09:24.64,0:09:27.26,Default,,0000,0000,0000,,kada bi čuli da tamo neka firma\Niz Silicijumske doline
Dialogue: 0,0:09:27.28,0:09:30.02,Default,,0000,0000,0000,,treba da izbaci superinteligentnu VI?
Dialogue: 0,0:09:30.04,0:09:32.90,Default,,0000,0000,0000,,Ova mašina bi bila sposobna da vodi rat,
Dialogue: 0,0:09:32.92,0:09:35.14,Default,,0000,0000,0000,,bilo klasični, bilo sajber rat,
Dialogue: 0,0:09:35.16,0:09:36.84,Default,,0000,0000,0000,,nadmoćna bez presedana.
Dialogue: 0,0:09:38.12,0:09:39.98,Default,,0000,0000,0000,,Ovo je scenario pobednik nosi sve.
Dialogue: 0,0:09:40.00,0:09:43.14,Default,,0000,0000,0000,,Biti šest meseci ispred konkurencije ovde
Dialogue: 0,0:09:43.16,0:09:45.94,Default,,0000,0000,0000,,je isto biti 500 000 godina ispred,
Dialogue: 0,0:09:45.96,0:09:47.46,Default,,0000,0000,0000,,u najmanju ruku.
Dialogue: 0,0:09:47.48,0:09:52.22,Default,,0000,0000,0000,,Tako se čini da bi čak i samo glasina\No proboju ovog tipa
Dialogue: 0,0:09:52.24,0:09:54.62,Default,,0000,0000,0000,,izazvala ludnicu među ljudima.
Dialogue: 0,0:09:54.64,0:09:57.54,Default,,0000,0000,0000,,I, sad, jedna od najstarašnijih stvari,
Dialogue: 0,0:09:57.56,0:10:00.34,Default,,0000,0000,0000,,prema mom mišljenju, trenutno,
Dialogue: 0,0:10:00.36,0:10:04.66,Default,,0000,0000,0000,,su one stvari koje istraživači VI kažu
Dialogue: 0,0:10:04.68,0:10:06.24,Default,,0000,0000,0000,,kada žele da vas ohrabre.
Dialogue: 0,0:10:07.00,0:10:10.46,Default,,0000,0000,0000,,I najuobičajeniji razlog zbog koga\Nnam kažu da ne brinemo jeste vreme.
Dialogue: 0,0:10:10.48,0:10:12.54,Default,,0000,0000,0000,,Sve je to daleko, znate.
Dialogue: 0,0:10:12.56,0:10:15.00,Default,,0000,0000,0000,,To je verovatno 50 ili 100 godina daleko.
Dialogue: 0,0:10:15.72,0:10:16.98,Default,,0000,0000,0000,,Jedan istraživač je rekao:
Dialogue: 0,0:10:17.00,0:10:18.58,Default,,0000,0000,0000,,"Briga o bezbednosti VI
Dialogue: 0,0:10:18.60,0:10:20.88,Default,,0000,0000,0000,,je kao briga o prenaseljenosti Marsa."
Dialogue: 0,0:10:21.49,0:10:23.74,Default,,0000,0000,0000,,Ovo je kao kada vam\Niz Silicijumske doline kažu:
Dialogue: 0,0:10:23.76,0:10:26.14,Default,,0000,0000,0000,,"Nemojte vi zamarati vaše glavice time."
Dialogue: 0,0:10:26.16,0:10:27.50,Default,,0000,0000,0000,,(Smeh)
Dialogue: 0,0:10:27.52,0:10:29.42,Default,,0000,0000,0000,,Izgleda da niko ne primećuje
Dialogue: 0,0:10:29.44,0:10:32.06,Default,,0000,0000,0000,,da je odnos prema vremenu
Dialogue: 0,0:10:32.08,0:10:34.66,Default,,0000,0000,0000,,potpuni non sequitur.
Dialogue: 0,0:10:34.68,0:10:37.94,Default,,0000,0000,0000,,Ako je inteligencija samo stvar\Nprocesuiranja informacija,
Dialogue: 0,0:10:37.96,0:10:40.62,Default,,0000,0000,0000,,i mi nastavimo da poboljšavamo mašine,
Dialogue: 0,0:10:40.64,0:10:43.52,Default,,0000,0000,0000,,proizvešćemo neki\Noblik superinteligencije.
Dialogue: 0,0:10:44.32,0:10:47.98,Default,,0000,0000,0000,,I nemamo pojma\Nkoliko će nam trebati vremena
Dialogue: 0,0:10:48.00,0:10:50.40,Default,,0000,0000,0000,,da stvorimo uslove da to uradimo bezbedno.
Dialogue: 0,0:10:52.20,0:10:53.50,Default,,0000,0000,0000,,Dozvolite mi da ponovim.
Dialogue: 0,0:10:53.52,0:10:57.34,Default,,0000,0000,0000,,Nemamo pojma koliko vremena će nam trebati
Dialogue: 0,0:10:57.36,0:10:59.60,Default,,0000,0000,0000,,da stvorimo uslove da to uradimo bezbedno.
Dialogue: 0,0:11:00.92,0:11:04.38,Default,,0000,0000,0000,,Ako niste primetili,\N50 godina nije kao što je bilo ranije.
Dialogue: 0,0:11:04.40,0:11:06.86,Default,,0000,0000,0000,,Ovo je 50 godina u mesecima.
Dialogue: 0,0:11:06.88,0:11:08.72,Default,,0000,0000,0000,,Ovoliko dugo već imamo iPhone.
Dialogue: 0,0:11:09.44,0:11:12.04,Default,,0000,0000,0000,,Ovoliko se već prikazuju "Simpsonovi".
Dialogue: 0,0:11:12.68,0:11:15.06,Default,,0000,0000,0000,,Pedeset godina nije mnogo vremena
Dialogue: 0,0:11:15.08,0:11:18.24,Default,,0000,0000,0000,,da se ostvari jedan od najvećih\Nizazova naše vrste.
Dialogue: 0,0:11:19.64,0:11:23.66,Default,,0000,0000,0000,,Još jedanput, izgleda da nam nedostaje\Nodgovarajući emocionalni odgovor
Dialogue: 0,0:11:23.68,0:11:26.38,Default,,0000,0000,0000,,na ono na šta imamo svako pravo\Nda verujemo da dolazi.
Dialogue: 0,0:11:26.40,0:11:30.38,Default,,0000,0000,0000,,Kompjuterski naučnik Stjuart Rasel\Nima lepu analogiju za ovo.
Dialogue: 0,0:11:30.40,0:11:35.30,Default,,0000,0000,0000,,On kaže, zamislite da smo primili\Nneku poruku od vanzemaljaca,
Dialogue: 0,0:11:35.32,0:11:37.02,Default,,0000,0000,0000,,u kojoj stoji:
Dialogue: 0,0:11:37.04,0:11:38.58,Default,,0000,0000,0000,,"Zemljani,
Dialogue: 0,0:11:38.60,0:11:40.96,Default,,0000,0000,0000,,stižemo na vašu planetu za 50 godina.
Dialogue: 0,0:11:41.80,0:11:43.38,Default,,0000,0000,0000,,Spremite se."
Dialogue: 0,0:11:43.40,0:11:47.66,Default,,0000,0000,0000,,I mi ćemo samo da odbrojavamo mesece\Ndok se njihov brod ne spusti?
Dialogue: 0,0:11:47.68,0:11:50.68,Default,,0000,0000,0000,,Osetili bismo malo\Nviše straha nego obično.
Dialogue: 0,0:11:52.68,0:11:54.54,Default,,0000,0000,0000,,Drugo zbog čega kažu da ne brinemo
Dialogue: 0,0:11:54.56,0:11:57.58,Default,,0000,0000,0000,,je da ove mašine ne mogu drugačije\Nnego da dele naše vrednosti
Dialogue: 0,0:11:57.60,0:12:00.22,Default,,0000,0000,0000,,zato što će one bukvalno biti\Nprodužeci nas samih.
Dialogue: 0,0:12:00.24,0:12:02.06,Default,,0000,0000,0000,,One će biti nakalamljene na naš mozak
Dialogue: 0,0:12:02.08,0:12:04.44,Default,,0000,0000,0000,,i mi ćemo suštinski postati\Nlimbički sistem.
Dialogue: 0,0:12:05.12,0:12:06.54,Default,,0000,0000,0000,,Sad na trenutak razmislite
Dialogue: 0,0:12:06.56,0:12:09.74,Default,,0000,0000,0000,,da je najbezbednija i jedina\Nrazborita i preporučena,
Dialogue: 0,0:12:09.76,0:12:11.10,Default,,0000,0000,0000,,putanja napred,
Dialogue: 0,0:12:11.12,0:12:13.92,Default,,0000,0000,0000,,da ovu tehnologiju implementiramo\Ndirektno u naš mozak.
Dialogue: 0,0:12:14.60,0:12:17.98,Default,,0000,0000,0000,,Sad, ovo može biti najbezbednija i jedina\Nrazborita putanja napred,
Dialogue: 0,0:12:18.00,0:12:21.06,Default,,0000,0000,0000,,ali obično se bezbednost neke tehnologije
Dialogue: 0,0:12:21.08,0:12:24.74,Default,,0000,0000,0000,,mora baš dobro razmotriti\Npre nego što vam se zabode u mozak.
Dialogue: 0,0:12:24.76,0:12:26.78,Default,,0000,0000,0000,,(Smeh)
Dialogue: 0,0:12:26.80,0:12:32.14,Default,,0000,0000,0000,,Veći problem je što pravljenje\Nsuperinteligentne VI same od sebe
Dialogue: 0,0:12:32.16,0:12:33.90,Default,,0000,0000,0000,,izgleda lakše
Dialogue: 0,0:12:33.92,0:12:35.78,Default,,0000,0000,0000,,od pravljenja superinteligentne VI
Dialogue: 0,0:12:35.80,0:12:37.58,Default,,0000,0000,0000,,i kompletiranja neuronauke
Dialogue: 0,0:12:37.60,0:12:40.28,Default,,0000,0000,0000,,koja nam omogućava da\Nintegrišemo naše umove sa njom.
Dialogue: 0,0:12:40.80,0:12:43.98,Default,,0000,0000,0000,,I ako imamo to da kompanije\Ni vlade rade ovaj posao,
Dialogue: 0,0:12:44.00,0:12:47.66,Default,,0000,0000,0000,,one će verovatno to shvatiti\Nkao da se takmiče protiv svih drugih,
Dialogue: 0,0:12:47.68,0:12:50.94,Default,,0000,0000,0000,,jer pobediti u ovoj trci\Nznači osvojiti svet,
Dialogue: 0,0:12:50.96,0:12:53.42,Default,,0000,0000,0000,,uz uslov da ga sledećeg \Ntrenutka ne uništite,
Dialogue: 0,0:12:53.44,0:12:56.06,Default,,0000,0000,0000,,a onda će verovatno prvo biti urađeno
Dialogue: 0,0:12:56.08,0:12:57.28,Default,,0000,0000,0000,,ono što je najlakše.
Dialogue: 0,0:12:58.56,0:13:01.42,Default,,0000,0000,0000,,E, sad, nažalost,\Nja nemam rešenje za ovaj problem,
Dialogue: 0,0:13:01.44,0:13:04.06,Default,,0000,0000,0000,,osim toga da preporučim\Nda više nas promisli o tome.
Dialogue: 0,0:13:04.08,0:13:06.70,Default,,0000,0000,0000,,Smatram da nam je potrebno\Nnešto poput Projekta Menhetn
Dialogue: 0,0:13:06.70,0:13:08.50,Default,,0000,0000,0000,,na temu veštačke inteligencije.
Dialogue: 0,0:13:08.52,0:13:11.26,Default,,0000,0000,0000,,Ne da bismo je izgradili, jer mislim\Nda je to neizbežno,
Dialogue: 0,0:13:11.28,0:13:14.62,Default,,0000,0000,0000,,već da razumemo\Nkako da izbegnemo trku naoružanja
Dialogue: 0,0:13:14.64,0:13:18.14,Default,,0000,0000,0000,,i da je napravimo na način\Nkoji je u skladu sa našim interesima.
Dialogue: 0,0:13:18.16,0:13:20.30,Default,,0000,0000,0000,,Kada se razgovara o superinteligentnoj VI
Dialogue: 0,0:13:20.32,0:13:22.58,Default,,0000,0000,0000,,koja sama sebe može da menja,
Dialogue: 0,0:13:22.60,0:13:27.22,Default,,0000,0000,0000,,čini se da imamo samo jednu šansu\Nda početne uslove postavimo kako treba,
Dialogue: 0,0:13:27.24,0:13:29.30,Default,,0000,0000,0000,,a čak i onda ćemo morati da prihvatimo
Dialogue: 0,0:13:29.32,0:13:32.36,Default,,0000,0000,0000,,ekonomske i političke\Nposledice pravilne upotrebe.
Dialogue: 0,0:13:33.76,0:13:35.82,Default,,0000,0000,0000,,Ali trenutak kada priznamo
Dialogue: 0,0:13:35.84,0:13:39.84,Default,,0000,0000,0000,,da je obrada informacija\Nizvor inteligencije,
Dialogue: 0,0:13:40.72,0:13:45.52,Default,,0000,0000,0000,,da je neki odgovarajući računarski sistem\Nosnova onoga što je inteligencija,
Dialogue: 0,0:13:46.36,0:13:50.12,Default,,0000,0000,0000,,i prihvatimo da ćemo stalno\Nunapređivati ove sisteme,
Dialogue: 0,0:13:51.28,0:13:55.74,Default,,0000,0000,0000,,i prihvatimo da će horizont\Nshvatanja vrlo verovatno daleko nadmašiti
Dialogue: 0,0:13:55.76,0:13:56.96,Default,,0000,0000,0000,,ono što trenutno znamo,
Dialogue: 0,0:13:58.12,0:13:59.34,Default,,0000,0000,0000,,onda moramo da prihvatimo
Dialogue: 0,0:13:59.36,0:14:02.00,Default,,0000,0000,0000,,da smo u procesu\Npravljenja neke vrste božanstva.
Dialogue: 0,0:14:03.40,0:14:04.98,Default,,0000,0000,0000,,Sada bi bilo dobro vreme
Dialogue: 0,0:14:05.00,0:14:08.11,Default,,0000,0000,0000,,da se postaramo da je to božanstvo\Nsa kojim bismo mogli živeti.
Dialogue: 0,0:14:08.12,0:14:09.66,Default,,0000,0000,0000,,Hvala vam mnogo.
Dialogue: 0,0:14:09.68,0:14:13.78,Default,,0000,0000,0000,,(Aplauz)