Pričat ću vam o neuspjehu intuicije
koji pogađa brojne među nama.
To je zapravo neuspjeh uočavanja određene vrste opasnosti.
Opisat ću scenarij
za koji smatram kako je jednako zastrašujuć
koliko i vjerojatan da se dogodi,
a to nije dobra kombinacija,
kako se ispostavlja.
A ipak umjesto da budete prestrašeni, većina će vas osjećati
kako je ono o čemu govorim nekako fora.
Opisat ću kako bi nas dobici koje stvaramo
u umjetnoj inteligenciji (dalje: AI)
na kraju mogli uništiti.
I zapravo, mislim ako je jako teško vidjeti kako nas oni neće uništiti
ili nas nadahnuti da se sami uništimo.
Pa ipak ako ste imalo poput mene,
naći ćete kako je zabavno razmišljati o ovim stvarima.
A taj je odgovor dio problema.
Ok? Taj bi vas odgovor trebao brinuti.
A ako bih vas uvjeravao ovim govorom
kako ćemo vjerojatno doživjeti globalnu glad,
bilo zbog klimatskih promjena ili neke druge katastrofe,
te kako će vaši unuci, ili njihovi unuci,
vrlo vjerojatno živjeti ovako,
ne biste mislili:
"Zanimljivo.
Sviđa mi se ovaj TED govor."
Glad nije zabavna.
Smrt znanstvenom fantastikom, s druge strane, jest zabavna,
a jedna od stvari koje me najviše brinu oko razvoja AI u ovom trenutku
je kako se činimo nesposobnim stvoriti prikladan emotivni odgovor
na opasnosti pred kojima se nalazimo.
Ja sam nesposoban stvorti taj odgovor, a držim ovaj govor.
Ovo je kao da stojimo pred dvama vratima.
Iza vrata broj jedan,
prestanemo stvarati napredak u izgradnji inteligentnih strojeva.
Hardver se i softver naših računala samo iz nekog razloga prestane poboljšavati.
Sad uzmite trenutak, razmislite zašto bi se to moglo dogoditi.
MIslim, uzevši kako su vrijedne inteligencija i automatizacija,
nastavit ćemo unaprijeđivati tehnologiju ako smo to ikako sposobni.
Što bi nas moglo zaustaviti u tome?
Potpuni nuklearni rat?
Globalna pandemija?
Udar asteroida?
Da Justin Bieber postane predsjednik Sjedinjenih država?
(Smijeh)
Poanta je, nešto bi moralo uništiti civilizaciju kakvu znamo.
Morate zamisliti kako bi loše to moralo biti
da nas spriječi od pravljenja poboljšanja u našoj tehnologiji
trajno,
generaciju za generacijom.
Skoro po definiciji, to je najgora stvar
koja se ikad dogodila u ljudskoj povijesti.
Dakle jedina alternativa,
a to je ono što leži iza vrata broj dva,
je da nastavimo poboljšavati naše inteligentne strojeve
godinu za godinom za godinom.
U nekom trenutku, sagradit ćemo strojeve koji su pametniji od nas,
a jednom kad imamo strojeve koji su pametniji od nas,
oni će početi poboljšavati sami sebe.
A tada risikiramo što je matematičar I.J. Good nazvao
"eksplozijom inteligencije,"
da bi nam se proces mogao izmaknuti.
Sad, to je često karikirano, kako imam ovdje,
kao strah da će vojske zloćudnih robota
udariti na nas.
Ali to nije najvjerojatniji scenarij.
Nije da će naši strojevi spontano postati zloćudnim.
Zapravo je briga kako ćemo izraditi strojeve
koji su toliko sposobniji od nas
da bi nas najmanje razmimoilaženje između njihovih i naših ciljeva
moglo uništiti.
Samo pomislite kako se odnosimo prema mravima.
Ne mrzimo ih.
Ne silazimo sa svog puta kako bismo im naudili.
Zapravo, ponekad se baš i trudimo kako im ne bismo naudili.
Prekoračimo ih na pločniku.
Ali kad god sje njihova prisutnost
ozbiljno sukobi s nekim od naših ciljeva,
recimo kad dižemo građevinu poput ove,
uništavamo ih bez pol muke.
Briga je kako ćemo jednog dana sagraditi strojeve
koji, bili oni svjesni ili ne,
bi se mogli odnositi spram nas sa sličnim nehajem.
Sad, pretpostavljam kako vam se ovo doima nategnutim.
Kladim se kako vas ima koji sumnjate kako je superinteligentan AI moguć,
a još manje neizbježan.
Ali onda morate naći nešto krivo s nekom od slijedeći pretpostavki.
A samo ih je tri.
Inteligencija je stvar obrade informacija u fizičkim sustavima.
Zapravo, ovo je malo više od pretpostavke.
Već smo ugradili usku inteligenciju u naše strojeve,
i puno tih strojeva imaju izvedbu
na razini nadljudske inteligencije već sada.
I znamo kako puka materija
može omogućiti nastanak onog što nazivamo "opća inteligencija,"
sposobnost razmišljanja rastezljivog na višestruka područja,
jer to mogu naši mozgovi. U redu?
Mislim, ovdje su samo atomi,
i sve dok nastavimo graditi sustave atoma
koji pokazuju sve više inteligentnog ponašanja
s vremenom ćemo, osim ako ne budemo ometeni,
s vremenom ćemo ugraditi opću inteligenciju
u naše strojeve.
Ključno je shvatiti kako stopa napretka nije bitna,
jer će nas bilo kakav napredak dovesti u krajnju zonu.
Ne trebamo nastavak Mooreovog zakona. Ne trebamo eksponencijalni rast.
Samo trebamo nastaviti napredovati.
Druga je pretpostavka kako ćemo nastaviti napredovati.
Nastavit ćemo unapređivati naše inteligentne strojeve.
A uzevši vrijednost inteligencije --
Mislim, inteligencija je ili izvor svega što držimo vrijednim
ili je trebamo kako bi zaštitili sve što smatramo vrijednim.
Ona je naš najvredniji resurs.
Pa želimo to raditi.
Imamo probleme koje očajnički trebamo riješiti.
Želimo liječiti bolesti poput Alzheimera ili raka.
Želimo razumjeti ekonomske sustave. Želimo unaprijediti naše klimatske znanosti.
Pa ćemo to učiniti, ako možemo.
Vlak je već napustio postaju a nema kočnice za povući.
Konačno, ne stojimo na vrhuncu inteligencije,
ili igdje blizu njega, vjerojatno.
A to je zbilja ključan uvid.
To je ono što čini našu situaciju tako neizvjesnom,
i to je ono što čini naše intuicije o riziku tako nepouzdanim.
Sad, samo razmotrite najpametniju osobu koja je ikad živjela.
U gotovo svačijem užem izboru ovdje je John von Neumann.
Mislim, utisak koji je von Neumann ostavljao na ljude oko sebe,
a ti uključuju najveće matematičare i fizičare njegovog doba,
je dobro dokumentirana.
Ako je samo pola priča o njemu na pola istinito,
nema pitanja
on je jedna od najpametnijih osoba koje su ikad živjele.
Pa razmotrite spektar inteligencije.
Ovdje imamo John von Neumanna.
A onda imamo vas i mene.
A onda imamo piceka.
(Smijeh)
Pardon, piceka.
(Smijeh)
Nema razloga da učinim ovaj govor depresivnijem nego što mora biti.
(Smijeh)
Izgleda premoćno vjerojatno, međutim, kako se spektar inteligencije
proteže puno dalje nego što trenutno poimamo,
i ako sagradimo strojeve koji su inteligentniji od nas,
oni će vrlo vjerojatno istražiti ovaj spektar
na načine koje ne možemo zamisliti,
te nas nadmašiti na načine koje ne možemo zamisliti.
A bitno je prepoznati kako je to istinito već po samom svojstvu brzine.
U redu? Zamislite kako smo upravo sagradili superinteligentan AI
koji nije pametniji od vašeg prosječnog tima istraživača
na Stanfordu ili MIT-u.
Dobro, elektronički krugovi rade oko milijun puta brže
od onih biokemijskih,
pa bi ovaj stroj trebao razmišljati oko milijun puta brže
od umova koji su ga sagradili.
Pa ga pustite raditi tjedan dana,
a on će izvesti 20.000 godina intelektualnog rada ljudske razine,
tjedan za tjednom za tjednom.
Kako bi uopće mogli razumjeti, puno manje ograničiti,
um koji stvara ovu vrst napretka?
Druga stvar koja je zabrinjavajuća, iskreno,
je kako, zamislite najbolji scenarij.
dakle zamislite kako pogodimo dizajn superinteligentne AI
koji nema sigurnosnih problema.
Imamo savršen dizajn iz prve.
Kao da nam je dano proročanstvo
koje se ponaša posve kako bi i trebalo.
Dobro, taj bi stroj bio savršena naprava za uštedu rada.
Može dizajnirati stroj koji može izraditi stroj
koji može obavljati svaki fizički rad,
pogonjen sunčanom svjetlošću,
manje ili više po cijeni sirovog materijala.
Dakle pričamo o kraju ljudske tlake.
Također pričamo o kraju većine intelektualnog rada.
Pa što bi majmuni poput nas činili u takvim okolnostima?
Ok, bili bi slobodni igrati frizbi i masirati se međusobno.
Dodajte nešto LSD i nešto upitnih odluka oko odjeće,
i cijeli bi svijet mogao biti poput Burning Mana.
(Smijeh)
Sad, to može zvučati prilično dobro,
ali pitajte se što bi se dogodilo
pod našim trenutnim ekonomskim i političkim poretkom?
Čini se vjerojatnim kako bismo svjedočili
razini nejednakosti u bogatstvu te nezaposlenosti
kakvu nismo vidjeli nikad prije.
Bez volje za trenutnim stavljanjem tog novog bogatstva
u službu svog čovječanstva,
nekoliko bi trilijunaša moglo resiti naslovnice naših poslovni časopisa
dok bi ostatak svijeta bio slobodan gladovati.
A što bi Rusi ili Kinezi učinili
ako bi čuli kako se neka kompanija u Silicijskoj dolini
upravo sprema izbaciti superinteligentnu AI?
Taj bi stroj bio sposoban voditi rat,
bilo zemaljski ili cyber,
sa neviđenom moći.
Ovo je scenarij gdje pobjednik dobija sve.
Biti šest mjeseci ispred konkurencije ovdje
je biti 500.000 godina ispred,
minimalno.
Pa se čini kako bi čak i puke glasine o ovakvoj vrsti probitka
mogle prouzročiti našu vrstu da poludi.
Sad, jedna od najviše zastrašujućih stvari,
kako ja to vidim, u ovom trenutku,
su stvari koje istraživači AI govore
kada žele biti ohrabrujući.
A najčešći razlog za bezbrižnost koji navode je vrijeme.
To je sve daleko, ne znaš li?
To je vjerojatno 50 ili 100 godina od nas.
Jedan je istraživač rekao:
"Brinuti se oko sigurnosti AI
je poput brige o prekomjernoj populaciji na Marsu."
To je verzija iz Silicijske doline
one: "nemoj brinuti svoju lijepu malu glavu sa time."
(Smijeh)
Izgleda kako nitko ne primjećuje
kako je oslanjanje na vremenski horizont
potpuni non sequitur.
Ako je inteligencija samo pitanje procesiranja informacija,
te ako nastavimo unapređivati naše strojeve,
stvorit ćemo neki oblik superinteligencije.
A nemamo pojma koliko će nam dugo trebati
stvoriti uvjete kako bismo to učinili sigurno.
Dajte da to kažem ponovo.
Nemamo pojma koliko će nam dugo trebati
stvoriti uvjete kako bismo to učinili sigurno.
A ako niste primijetili, 50 godina nije što je nekad bilo.
Ovo je 50 godina u mjesecima.
Ovo je koliko dugo imamo iPhone.
Ovo je koliko dugo su "Simpsoni" na televiziji.
Pedeset godina nije tako puno vremena
za sučeliti se sa jednim od najvećih izazova koje će naša vrsta ikad imati.
Još jednom, izgleda da ne uspijevamo imati prikladan emotivni odgovor
za što imamo svaki razlog vjerovati kako dolazi.
Računalni znanstvenik Stuart Russell ovdje pravi zgodnu analogiju.
On kaže, zamislite kako smo primili poruku od vanzemaljske civilizacije,
koja piše:
"Ljudi Zemlje,
stići ćemo na vaš planet za 50 godina.
Pripremite se."
I sad mi samo brojimo mjesece dok matični brod ne sleti?
Osjećali bismo malo veću hitnost nego što osjećamo.
Još jedan razlog što nam govore da ne brinemo
je kako si ti strojevi ne mogu pomoći da ne dijele naše vrijednosti
jer će doslovno biti produžeci nas samih.
Bit će usađeni u naše mozgove,
a mi ćemo u biti postati njihov limbički sustav.
sad uzmite trenutak pa razmislite
kako je najsigurniji i jedini razborit put naprijed,
preporučeno,
ugraditi tu tehnologiju izravno u naše mozgove.
Sad, to može zapravo biti najsigurniji i jedini razborit put nparijed,
ali obično sigurnosni problemi oko tehnologije
moraju biti manje više izglađeni prije nego ju zabijete u vlastitu glavu.
(Smijeh)
Dublji je problem što se izgradnja superinteligentne AI
čini vjerojatno lakšim
nego izgradnja superinteligentne AI
i imanje zaokružene neuroznanosti
koja nam omogućuje da ju glatko integriramo s našim umovima.
A uzevši kako će kompanije i vlade koje se bave ovim poslom
vjerojatno percipirati kako su u utrci protiv svih ostalih,
uzevši kako je osvojiti ovu utrku isto što i osvojiti svijet,
pod pretpostavkom kako ga nećete uništiti u slijedećem trenutku,
onda se čini vjerojatnim kako će što god je lakše učiniti
biti učinjeno prvo.
Sad, na nesreću, nemam rješenje za ovaj problem,
osim preporučiti kako bi više nas trebalo razmišljati o njemu.
Mislim kako trebamo nešto poput Manhattan Projecta
po pitanju umjetne inteligencije.
Ne kako bismo je stvorili, jer ćemo to neizbježno napraviti,
već kako bismo razumjeli kako izbjeći utrku u naoružanju
te kako ju sagraditi na način koji se podudara s našim interesima.
Kad pričate o superinteligentnoj AI
koja može raditi preinake sebi samoj,
čini se kako imamo samo jednu priliku za posložiti ispravne početne uvjete,
a čak i tada ćemo trebati upiti
ekonomske i političke posljedice slaganja takvih uvjeta.
Ali trenutak u kojem priznamo
kako je obrada informacija izvor inteligencije,
kako je neki prikladan račualni sustav ono na čemu se inteligencija temelji,
te priznamo kako ćemo trajno unaprijeđivati te sustave,
te priznamo kako horizont spoznaje vrlo vjerojatno daleko premašuje
što trenutno znamo,
onda moramo priznati
kako smo u postupku izgradnje neke vrste boga.
Sad bi bilo dobro vrijeme
osigurati da to bude bog s kakvim možemo živjeti.
Hvala Vam puno.
(Pljesak)