Kad sam bio klinac,
bio sam onaj pravi štreber.
MIslim kako su i neki od vas bili,
također.
(Smijeh)
A vi, gospodine, koji ste se najglasnije
nasmijali,vjerojatno to i dalje jeste.
(Smijeh)
Odrastao sam u malenom gradu
na prašnjavim ravnicama sjevernog Teksasa,
sin šerifa
koji je bio sin pastora.
Upadanje u nevolje nije bila mogućnost.
I tako sam počeo čitati
knjige iz (*infinitezimalnog) računa za zabavu.
(Smijeh)
I vi ste, također.
To me dovelo do izgradnje lasera
i računala i modelarskih raketa,
a to me dovelo do izrade
raketnog goriva u mojoj spavaćoj sobi.
Sad, u znanstvenim terminima,
to nazivamo vrlo lošom idejom.
(Smijeh)
Nekako oko tog doba,
Kubrick-ova "2001: Odiseja u Svemiru"
je došla u kina,
i moj se život zauvijek promijenio.
Volio sam sve oko tog filma,
posebno HAL 9000.
Sad, HAL je bio svjesno računalo
osmišljeno da vodi svemirsku
letjelicu Discovery
od Zemlje do Jupitera.
HAL je također bio manjkav lik,
jer je na kraju birao vrednovati
misiju više od ljudskog života.
Sad, HAL je bio izmišljeni lik,
ali ipak se obraćao našim strahovima,
našim strahovima o bivanju podčinjenim
od strane neke
bezosjećajne, umjetne inteligencije
koja je ravnodušna spram naše ljudskosti.
Vjerujem kako su takvi strahovi
neutemeljeni.
Zbilja, stojimo na upečatljivom mjestu
u ljudskoj povijesti,
gdje, potaknuti odbijanjem prihvaćanja
granica naših tijela i naših umova,
gradimo strojeve,
fine, prekrasne
složenosti i ljepote
koji će proširiti ljudsko iskustvo
na načine onkraj naše mašte.
Nakon karijere koja me vodila
od Akademije zračnih snaga
preko Svemirskog zapovjedništva do sada,
postao sam sistemski inženjer,
i nedavno sam uvučen
u inženjerski problem
vezan uz NASA-inu misiju na Mars.
Sad, u svemirskim letovima do Mjeseca,
možemo se osloniti
na kontrolu misije u Houstonu
kako će paziti na sve aspekte leta.
Međutim, Mars je 200 puta udaljeniji,
te kao rezultat treba
prosječno 13 minuta
signalu da otputuje
od Zemlje do Marsa.
Ako ima nevolje,
nema dovoljno vremena.
I tako razumno inženjersko rješenje
kaže nam neka stavimo kontrolu misije
unutar zidova svemirske letjelice Orion.
Druga očaravajuća ideja
u profilu misije
stavlja humanoidne robote
na površinu Marsa
prije nego sami ljudi doputuju,
prvo kako bi sagradili postrojenja
a kasnije kako bi služili kao
pomoćni članovi znanstvenog tima.
Sad, kad sam gledao na ovo
iz inženjerskog kuta,
postalo mi je vrlo jasno
kako je ono što trebam osmisliti
bila pametna, uslužna,
društveno inteligentna
umjetna inteligencija.
Drugim riječima, trebao sam složiti
nešto vrlo slično HAL-u
ali bez ubilačkih sklonosti.
(Smijeh)
Zaustavimo se na trenutak.
Je li stvarno moguće sagraditi
umjetnu inteligenciju poput ove?
Zapravo, jest.
Na puno načina,
ovo je tvrdi inženjerski problem
s elementima UI,
ne neki UI problem mokre lopte kose
kojeg treba osmisliti.
Da parafraziram Alana Turinga:
Ne zanima me
izgradnja svjesnog stroja.
Ne gradim HAL-a.
Sve za čime idem je
jednostavan mozak,
nešto što nudi privid inteligencije.
Umjetnost i znanost računarstva
je prošla dalek put
otkad je HAL bio na ekranu,
i mogu zamisliti kad bi njegov izumitelj
dr. Chandra bio ovdje danas,
imao bi cijeli niz pitanja za nas.
Je li nam zbilja moguće
uzeti sustav od milijuna
i milijuna uređaja,
čitati njihove tokove podataka,
predviđati njihove kvarove
te djelovati unaprijed?
Da.
Možemo li graditi sustave koji
razgovaraju s ljudima prirodnim jezikom?
Da.
Možemo li graditi sustave
koji prepoznaju objekte, identificiraju osjećaje,
sami izražavaju emocije,
igraju igre i čak čitaju s usana?
Da.
Možemo li sagraditi sustav
koji postavlja ciljeve,
potom izvršava planove
prema tim ciljevima te usput uči?
Da.
Možemo li sagraditi sustave
koji imaju teoriju uma?
To upravo učimo.
Možemo li sagraditi sustave
koji imaju etičke i moralne temelje?
Ovo moramo naučiti kako.
Pa prihvatimo na trenutak
kako je moguće sagraditi
takvu umjetnu inteligenciju
za ovu vrstu misije i slično.
Slijedeće pitanje
koje biste se trebali pitati je,
bismo li je se trebali bojati?
Sad, svaka nova tehnologija
sa sobom donosi
neku mjeru strepnje.
Kad smo prvo vidjeli aute,
ljudi su se žalili kako ćemo vidjeti
uništenje obitelji.
Kad smo prvo vidjeli telefone kako dolaze,
ljudi su brinuli kako će uništiti
sav uljudan razgovor.
U točci vremena kad smo vidjeli
kako pisana riječ sve više prožima,
ljudi su mislili kako ćemo izgubiti
našu sposobnost pamćenja.
Sve su te stvari točne do nekog stupnja,
ali je također slučaj
kako su nam te tehnologije
dovele stvari koje su
proširile ljudsko iskustvo
na neke duboke načine.
Pa hajdemo s ovim još malo dalje.
Ne bojim se
stvaranje UI poput ove,
jer će s vremenom
utjeloviti neke od naših vrijednosti.
Uzmite u obzir ovo: izgradnja
spoznajnog sustava je iz temelja različita
od izgradnje tradicionalnog softverski
intenzivnog sustava u prošlosti.
Ne programiramo ih. Učimo ih.
Kako bismo sustav naučili
prepoznavati cvijeće,
pokazujem mu tisuće vrsta cvjetova
koje mi se sviđaju.
Kako bismo sustav naučili
igrati igru --
Dobro, ja bih. I vi bi.
Sviđa mi se cvijeće. Hajde.
Naučiti sustav kako
igrati igru kakva je Go,
pustit ću ga neka odigra
tisuće partija Go-a,
ali ću ga u postupku
također naučiti i
kako razaznati
dobru partiju od loše partije.
Ako želim stvoriti umjetno
inteligentnog pravnog savjetnika,
naučit ću ga neki korpus zakona
ali ću u isto vrijeme spojiti s njim
osjećaj milosti i pravde
koji je dio tog zakona.
Znanstvenim rječnikom, to je
ono što zovemo neposredna informacija,
a evo važnog momenta:
u stvaranju svih tih strojeva,
mi ih dakle učimo
smislu naših vrijednosti.
Stoga, vjerujem
umjetnoj inteligenciji
isto, ako ne i više,
koliko i čovjeku koji je dobro obučen.
Ali, možete pitati,
što sa nevaljalim igračima,
nekom dobro financiranom
nevladinom organizacijom?
Ne bojim se umjetne inteligencije
u rukama vuka samotnjaka.
Jasno, ne možemo se zaštititi
od svih nasumičnih činova nasilja,
ali stvarnost je da takav sustav
traži znatnu obuku
i finu obuku
daleko onkraj resursa pojedinca.
I nadalje,
to je daleko više nego
samo ubaciti internetski virus u svijet,
gdje pritisnete tipku,
odjednom je na milijun mjesta
i laptopi posvuda
krenu eksplodirati.
Sad, ove su vrste stvari
puno veće,
i sigurno ćemo ih vidjeti kako dolaze.
Bojim li se kako bi takva
umjetna inteligencija
mogla zaprijetiti cijelom čovječanstvu?
Ako pogledate filmove
kao što su "Matrix" ili "Metropolis,"
"Terminator,"
serije kao što je "Westworld,"
svi oni pričaju o ovom tipu straha.
Zbilja, u knjizi "Superinteligencija"
filozofa Nicka Bostroma,
on polazi od ove teme
te uočava kako superinteligencija
može biti ne samo opasna,
mogla bi predstavljati egzistencijalnu
opasnost svom čovječanstvu.
Dr. Bostromov temeljni argument
je kako će takvi sustavi s vremenom
imati tako neutaživu žeđ
za informacijom
da će možda naučiti kako učiti
te s vremenom otkriti
kako mogu imati ciljeve
koji su suprotni ljudskim potrebama.
Dr. Bostrom ima neki broj sljedbenika.
Podržavaju ga ljudi
poput Elona Muska i Stephena Hawkinga.
Sa svim dužnim poštovanjem
prema tim briljantnim umovima,
vjerujem kako su oni
iz temelja u krivu.
Sad, ima puno dijelova
dr. Bostromovog argumenta za maknuti,
a nemam vremena kako bih ih maknuo sve,
ali vrlo kratko, razmislite o ovome:
super znanje je vrlo različito
od super djelovanja.
HAL je bio prijetnja posadi Discoveryja
samo stoga što je HAL
upravljao svime u Discoveryju.
Tako bi trebalo biti
i sa superinteligencijom.
Morala bi imati vlast
nad cijelim našim svijetom.
Tako je sastavljen Skynet
iz filma "Terminator"
u kojem smo imali superinteligenciju
koja je upravljala ljudskom voljom,
koja je vodila svaki uređaj
koji je bio u svakom kutku svijeta.
Praktično govoreći,
to se neće dogoditi.
Ne gradimo UI-e
koji kontroliraju vrijeme,
koji upravljaju plimom,
koji upravljaju nama
jogunastima, kaotičnim ljudima.
I nadalje, ako bi takva
umjetna superinteligencija postojala,
morala bi se nadmetati
sa ljudskim ekonomijama,
i time se nadmetati za resurse sa nama.
I na kraju --
nemojte reći Siri ovo --
uvijek ih možemo ištekati.
(Smijeh)
Mi smo na nevjerojatnom putovanju
koevolucije sa našim strojevima.
Ljudi koji smo danas
nisu ljudi koji ćemo biti tada.
Brinuti sada o usponu
superinteligencije
je na puno načina
opasno odvraćanje pažnje
stoga što nam već uspon računarstva sam
donosi brojna
ljudska i društvena pitanja
kojima se moramo pozabaviti sada.
Kako ću najbolje organizirati društvo
kad se potreba za radom smanji?
Kako mogu donijeti razumijevanje
i obrazovanje širom svijeta
a i dalje uvažavati razlike?
Kako mogu produljiti i poboljšati ljudski
život kroz kognitivnu zdravstvenu skrb?
Kako mogu koristiti računarstvo
za pomoć kako bi došli do zvijezda?
A to je uzbudljiva stvar.
Prilike za korištenje računarstva
kako bi unaprijedili ljudsko iskustvo
su nam unutar dosega,
sada i ovdje,
a tek smo na početku.
Hvala vam puno.
(Pljesak)