Možemo li napraviti umjetnu inteligenciju bez da izgubimo kontrolu nad njom?

Prestrašeni superintelignetnom umjetnom inteligencijom? Trebali bi biti, kaže neuroznanstvenik i filozof Sam Harris -- i to ne samo na neki teorijski način. Sagradit ćemo nadljudske strojeve, kaže Harris, a još se nismo primili ukoštac sa problemima vezanim uz stvaranje nečega što bi moglo postupati s nama onako kako mi postupamo s mravima.

Pričat ću vam
o neuspjehu intuicije

koji pogađa brojne među nama.

To je zapravo neuspjeh
uočavanja određene vrste opasnosti.

Opisat ću scenarij

za koji smatram kako je jednako zastrašujuć

koliko i vjerojatan da se dogodi,

a to nije dobra kombinacija,

kako se ispostavlja.

A ipak umjesto da budete prestrašeni,
većina će vas osjećati

kako je ono o čemu govorim
nekako fora.

Opisat ću kako bi nas
dobici koje stvaramo

u umjetnoj inteligenciji (dalje: AI)

na kraju mogli uništiti.

I zapravo, mislim ako je jako teško
vidjeti kako nas oni neće uništiti

ili nas nadahnuti da se sami uništimo.

Pa ipak ako ste imalo poput mene,

naći ćete kako je zabavno
razmišljati o ovim stvarima.

A taj je odgovor dio problema.

Ok? Taj bi vas odgovor trebao brinuti.

A ako bih vas uvjeravao
ovim govorom

kako ćemo vjerojatno
doživjeti globalnu glad,

bilo zbog klimatskih promjena
ili neke druge katastrofe,

te kako će vaši unuci,
ili njihovi unuci,

vrlo vjerojatno živjeti ovako,

ne biste mislili:

"Zanimljivo.

Sviđa mi se ovaj TED govor."

Glad nije zabavna.

Smrt znanstvenom fantastikom,
s druge strane, jest zabavna,

a jedna od stvari koje me najviše brinu
oko razvoja AI u ovom trenutku

je kako se činimo nesposobnim
stvoriti prikladan emotivni odgovor

na opasnosti pred kojima se nalazimo.

Ja sam nesposoban stvorti taj odgovor,
a držim ovaj govor.

Ovo je kao da stojimo
pred dvama vratima.

Iza vrata broj jedan,

prestanemo stvarati napredak
u izgradnji inteligentnih strojeva.

Hardver se i softver naših računala
samo iz nekog razloga prestane poboljšavati.

Sad uzmite trenutak,
razmislite zašto bi se to moglo dogoditi.

MIslim, uzevši kako su vrijedne
inteligencija i automatizacija,

nastavit ćemo unaprijeđivati tehnologiju
ako smo to ikako sposobni.

Što bi nas moglo zaustaviti u tome?

Potpuni nuklearni rat?

Globalna pandemija?

Udar asteroida?

Da Justin Bieber postane
predsjednik Sjedinjenih država?

(Smijeh)

Poanta je, nešto bi moralo
uništiti civilizaciju kakvu znamo.

Morate zamisliti
kako bi loše to moralo biti

da nas spriječi od pravljenja
poboljšanja u našoj tehnologiji

trajno,

generaciju za generacijom.

Skoro po definiciji,
to je najgora stvar

koja se ikad dogodila u ljudskoj povijesti.

Dakle jedina alternativa,

a to je ono što leži
iza vrata broj dva,

je da nastavimo poboljšavati
naše inteligentne strojeve

godinu za godinom za godinom.

U nekom trenutku, sagradit ćemo
strojeve koji su pametniji od nas,

a jednom kad imamo strojeve
koji su pametniji od nas,

oni će početi poboljšavati sami sebe.

A tada risikiramo što je
matematičar I.J. Good nazvao

"eksplozijom inteligencije,"

da bi nam se proces mogao izmaknuti.

Sad, to je često karikirano,
kako imam ovdje,

kao strah da će
vojske zloćudnih robota

udariti na nas.

Ali to nije najvjerojatniji scenarij.

Nije da će naši strojevi
spontano postati zloćudnim.

Zapravo je briga
kako ćemo izraditi strojeve

koji su toliko
sposobniji od nas

da bi nas najmanje razmimoilaženje
između njihovih i naših ciljeva

moglo uništiti.

Samo pomislite kako se odnosimo prema mravima.

Ne mrzimo ih.

Ne silazimo sa svog puta
kako bismo im naudili.

Zapravo, ponekad
se baš i trudimo kako im ne bismo naudili.

Prekoračimo ih na pločniku.

Ali kad god sje njihova prisutnost

ozbiljno sukobi s nekim od naših ciljeva,

recimo kad dižemo
građevinu poput ove,

uništavamo ih bez pol muke.

Briga je kako ćemo
jednog dana sagraditi strojeve

koji, bili oni svjesni ili ne,

bi se mogli odnositi spram nas
sa sličnim nehajem.

Sad, pretpostavljam kako
vam se ovo doima nategnutim.

Kladim se kako vas ima koji sumnjate
kako je superinteligentan AI moguć,

a još manje neizbježan.

Ali onda morate naći nešto krivo
s nekom od slijedeći pretpostavki.

A samo ih je tri.

Inteligencija je stvar obrade
informacija u fizičkim sustavima.

Zapravo, ovo je
malo više od pretpostavke.

Već smo ugradili
usku inteligenciju u naše strojeve,

i puno tih strojeva imaju izvedbu

na razini nadljudske
inteligencije već sada.

I znamo kako puka materija

može omogućiti nastanak
onog što nazivamo "opća inteligencija,"

sposobnost razmišljanja
rastezljivog na višestruka područja,

jer to mogu naši mozgovi. U redu?

Mislim, ovdje su samo atomi,

i sve dok nastavimo
graditi sustave atoma

koji pokazuju sve više
inteligentnog ponašanja

s vremenom ćemo,
osim ako ne budemo ometeni,

s vremenom ćemo
ugraditi opću inteligenciju

u naše strojeve.

Ključno je shvatiti
kako stopa napretka nije bitna,

jer će nas bilo kakav
napredak dovesti u krajnju zonu.

Ne trebamo nastavak Mooreovog zakona.
Ne trebamo eksponencijalni rast.

Samo trebamo nastaviti napredovati.

Druga je pretpostavka
kako ćemo nastaviti napredovati.

Nastavit ćemo unapređivati
naše inteligentne strojeve.

A uzevši vrijednost inteligencije --

Mislim, inteligencija je ili
izvor svega što držimo vrijednim

ili je trebamo kako bi zaštitili
sve što smatramo vrijednim.

Ona je naš najvredniji resurs.

Pa želimo to raditi.

Imamo probleme
koje očajnički trebamo riješiti.

Želimo liječiti bolesti
poput Alzheimera ili raka.

Želimo razumjeti ekonomske sustave.
Želimo unaprijediti naše klimatske znanosti.

Pa ćemo to učiniti, ako možemo.

Vlak je već napustio postaju
a nema kočnice za povući.

Konačno, ne stojimo
na vrhuncu inteligencije,

ili igdje blizu njega, vjerojatno.

A to je zbilja ključan uvid.

To je ono što čini
našu situaciju tako neizvjesnom,

i to je ono što čini
naše intuicije o riziku tako nepouzdanim.

Sad, samo razmotrite najpametniju osobu
koja je ikad živjela.

U gotovo svačijem užem izboru
ovdje je John von Neumann.

Mislim, utisak koji je von Neumann
ostavljao na ljude oko sebe,

a ti uključuju najveće matematičare
i fizičare njegovog doba,

je dobro dokumentirana.

Ako je samo pola priča
o njemu na pola istinito,

nema pitanja

on je jedna od najpametnijih
osoba koje su ikad živjele.

Pa razmotrite spektar inteligencije.

Ovdje imamo John von Neumanna.

A onda imamo vas i mene.

A onda imamo piceka.

(Smijeh)

Pardon, piceka.

(Smijeh)

Nema razloga da učinim ovaj govor
depresivnijem nego što mora biti.

(Smijeh)

Izgleda premoćno vjerojatno,
međutim, kako se spektar inteligencije

proteže puno dalje
nego što trenutno poimamo,

i ako sagradimo strojeve
koji su inteligentniji od nas,

oni će vrlo vjerojatno
istražiti ovaj spektar

na načine koje ne možemo zamisliti,

te nas nadmašiti na načine
koje ne možemo zamisliti.

A bitno je prepoznati kako je
to istinito već po samom svojstvu brzine.

U redu? Zamislite kako smo
upravo sagradili superinteligentan AI

koji nije pametniji od
vašeg prosječnog tima istraživača

na Stanfordu ili MIT-u.

Dobro, elektronički krugovi
rade oko milijun puta brže

od onih biokemijskih,

pa bi ovaj stroj trebao
razmišljati oko milijun puta brže

od umova koji su ga sagradili.

Pa ga pustite raditi tjedan dana,

a on će izvesti 20.000 godina
intelektualnog rada ljudske razine,

tjedan za tjednom za tjednom.

Kako bi uopće mogli razumjeti,
puno manje ograničiti,

um koji stvara ovu vrst napretka?

Druga stvar koja je
zabrinjavajuća, iskreno,

je kako, zamislite najbolji scenarij.

dakle zamislite kako pogodimo
dizajn superinteligentne AI

koji nema sigurnosnih problema.

Imamo savršen dizajn
iz prve.

Kao da nam je dano proročanstvo

koje se ponaša posve kako bi i trebalo.

Dobro, taj bi stroj bio
savršena naprava za uštedu rada.

Može dizajnirati stroj
koji može izraditi stroj

koji može obavljati
svaki fizički rad,

pogonjen sunčanom svjetlošću,

manje ili više po cijeni
sirovog materijala.

Dakle pričamo o
kraju ljudske tlake.

Također pričamo o kraju
većine intelektualnog rada.

Pa što bi majmuni poput nas
činili u takvim okolnostima?

Ok, bili bi slobodni
igrati frizbi i masirati se međusobno.

Dodajte nešto LSD i nešto
upitnih odluka oko odjeće,

i cijeli bi svijet mogao
biti poput Burning Mana.

(Smijeh)

Sad, to može zvučati prilično dobro,

ali pitajte se što bi se dogodilo

pod našim trenutnim
ekonomskim i političkim poretkom?

Čini se vjerojatnim
kako bismo svjedočili

razini nejednakosti u bogatstvu
te nezaposlenosti

kakvu nismo vidjeli nikad prije.

Bez volje za trenutnim
stavljanjem tog novog bogatstva

u službu svog čovječanstva,

nekoliko bi trilijunaša moglo
resiti naslovnice naših poslovni časopisa

dok bi ostatak svijeta
bio slobodan gladovati.

A što bi Rusi
ili Kinezi učinili

ako bi čuli kako se
neka kompanija u Silicijskoj dolini

upravo sprema izbaciti
superinteligentnu AI?

Taj bi stroj bio
sposoban voditi rat,

bilo zemaljski ili cyber,

sa neviđenom moći.

Ovo je scenarij gdje pobjednik dobija sve.

Biti šest mjeseci ispred
konkurencije ovdje

je biti 500.000 godina ispred,

minimalno.

Pa se čini kako bi čak i puke glasine
o ovakvoj vrsti probitka

mogle prouzročiti našu vrstu da poludi.

Sad, jedna od najviše
zastrašujućih stvari,

kako ja to vidim, u ovom trenutku,

su stvari koje istraživači AI govore

kada žele biti ohrabrujući.

A najčešći razlog za bezbrižnost
koji navode je vrijeme.

To je sve daleko,
ne znaš li?

To je vjerojatno 50 ili 100 godina od nas.

Jedan je istraživač rekao:

"Brinuti se oko sigurnosti AI

je poput brige
o prekomjernoj populaciji na Marsu."

To je verzija iz Silicijske doline

one: "nemoj brinuti
svoju lijepu malu glavu sa time."

(Smijeh)

Izgleda kako nitko ne primjećuje

kako je oslanjanje na vremenski horizont

potpuni non sequitur.

Ako je inteligencija samo pitanje
procesiranja informacija,

te ako nastavimo
unapređivati naše strojeve,

stvorit ćemo
neki oblik superinteligencije.

A nemamo pojma
koliko će nam dugo trebati

stvoriti uvjete
kako bismo to učinili sigurno.

Dajte da to kažem ponovo.

Nemamo pojma
koliko će nam dugo trebati

stvoriti uvjete
kako bismo to učinili sigurno.

A ako niste primijetili,
50 godina nije što je nekad bilo.

Ovo je 50 godina u mjesecima.

Ovo je koliko dugo imamo iPhone.

Ovo je koliko dugo su
"Simpsoni" na televiziji.

Pedeset godina nije tako puno vremena

za sučeliti se sa jednim od
najvećih izazova koje će naša vrsta ikad imati.

Još jednom, izgleda da ne uspijevamo
imati prikladan emotivni odgovor

za što imamo
svaki razlog vjerovati kako dolazi.

Računalni znanstvenik Stuart Russell
ovdje pravi zgodnu analogiju.

On kaže, zamislite kako smo primili
poruku od vanzemaljske civilizacije,

koja piše:

"Ljudi Zemlje,

stići ćemo na vaš planet za 50 godina.

Pripremite se."

I sad mi samo brojimo
mjesece dok matični brod ne sleti?

Osjećali bismo malo veću
hitnost nego što osjećamo.

Još jedan razlog
što nam govore da ne brinemo

je kako si ti strojevi
ne mogu pomoći da ne dijele naše vrijednosti

jer će doslovno biti
produžeci nas samih.

Bit će usađeni u naše mozgove,

a mi ćemo u biti
postati njihov limbički sustav.

sad uzmite trenutak pa razmislite

kako je najsigurniji
i jedini razborit put naprijed,

preporučeno,

ugraditi tu tehnologiju
izravno u naše mozgove.

Sad, to može zapravo biti najsigurniji
i jedini razborit put nparijed,

ali obično sigurnosni problemi
oko tehnologije

moraju biti manje više izglađeni
prije nego ju zabijete u vlastitu glavu.

(Smijeh)

Dublji je problem što se
izgradnja superinteligentne AI

čini vjerojatno lakšim

nego izgradnja superinteligentne AI

i imanje zaokružene neuroznanosti

koja nam omogućuje da ju glatko
integriramo s našim umovima.

A uzevši kako će kompanije
i vlade koje se bave ovim poslom

vjerojatno percipirati
kako su u utrci protiv svih ostalih,

uzevši kako je osvojiti ovu utrku
isto što i osvojiti svijet,

pod pretpostavkom kako ga
nećete uništiti u slijedećem trenutku,

onda se čini vjerojatnim
kako će što god je lakše učiniti

biti učinjeno prvo.

Sad, na nesreću,
nemam rješenje za ovaj problem,

osim preporučiti kako bi više nas
trebalo razmišljati o njemu.

Mislim kako trebamo nešto
poput Manhattan Projecta

po pitanju umjetne inteligencije.

Ne kako bismo je stvorili, jer
ćemo to neizbježno napraviti,

već kako bismo razumjeli
kako izbjeći utrku u naoružanju

te kako ju sagraditi na način
koji se podudara s našim interesima.

Kad pričate o
superinteligentnoj AI

koja može raditi preinake sebi samoj,

čini se kako imamo samo jednu priliku
za posložiti ispravne početne uvjete,

a čak i tada ćemo trebati upiti

ekonomske i političke
posljedice slaganja takvih uvjeta.

Ali trenutak u kojem priznamo

kako je obrada informacija
izvor inteligencije,

kako je neki prikladan račualni sustav
ono na čemu se inteligencija temelji,

te priznamo kako ćemo
trajno unaprijeđivati te sustave,

te priznamo kako horizont
spoznaje vrlo vjerojatno daleko premašuje

što trenutno znamo,

onda moramo priznati

kako smo u postupku
izgradnje neke vrste boga.

Sad bi bilo dobro vrijeme

osigurati da to bude bog
s kakvim možemo živjeti.

Hvala Vam puno.

(Pljesak)