Ma töötan mitmete matemaatikute, filosoofide ja arvutiteadlastega,
istume nendega ja mõtiskleme,
muuhulgas ka tehisintellekti tuleviku üle.
Mõned arvavad, et need teemad on suhteliselt ulmekad,
kaugel reaalsusest ja hullumeelsed.
Aga ütleksin pigem, et vaatame kõigepealt
milline on tänapäeva inimese olukord.
(Naer)
See ongi normaalne asjade seis.
Kui aga järele mõelda,
siis tegelikult oleme üsna hiljuti siia planeedile saabunud külalised,
meie, inimesed.
Kui planeet Maa oleks loodud aasta tagasi.
oleks inimene kõigest 10 minuti vanune.
Industriaalajastu oleks alanud 2 sekundit tagasi.
Või mõelge näiteks maailmamajanduse SKP-le viimase 10 000 aasta jooksul.
Olen siin näinud vaeva ja teinud teie jaoks graafiku,
mis näeb välja selline.
(Naer)
Kujult on see veidi imelik, kuigi tegu on tavaolukorraga.
Sellele istuda küll ei tahaks.
(Naer)
Küsigem aga endalt, mis on praeguse anomaalia põhjuseks?
Mõnede arvates on see tehnoloogia.
Tõepoolest, tehnoloogia on inimajaloo vältel akumuleerunud,
ja hetkel areneb tehnoloogia erakordselt kiiresti.
See on ligikaudne põhjus,
mis seletab, miks oleme praegu nii produktiivsed.
Tahan aga vaadata kaugemale, et leida tegelik põhjus.
Vaadake neid kahte silmapaistvat härrasmeest.
Üks neist on Kanzi.
Ta on õppinud selgeks 200 tähendusmärki,
mis on tema jaoks erakordne saavutus.
Ed Witten aga käivitas teise superstringirevolutsiooni.
Kui vaatame kapoti alla, siis mida me näeme?
Sisuliselt sama pilti.
Üks on natuke suurem
ning ülesehituselt ehk veidi keerukam.
Need nähtamatud erinevused ei saa siiski olla kuigi olulised,
sest meie viimasest ühisest eellasest
eristab meid vaid 250 000 põlvkonda.
On teada, et keerukate mehhanismide väljakujunemiseks läheb kaua aega.
Vaid mõned suhteliselt väikesed muutused
on toonud meid Kanzist Wittenini,
murdunud puuokstest mandrite- vaheliste ballistiliste rakettideni.
On üsna ilmne, et kõik, mida oleme saavutanud
ja mis on meile oluline,
sõltub vaid mõnest suhteliselt väikesest muutusest, mis kujundasid inimmõistuse.
Oluline on mõista, et mis tahes edasised muutused,
mis võivad avaldada olulist mõju mõtlemise mehhanismidele,
võivad kaasa tuua väga tõsiseid tagajärgi.
Mul on kolleege, kelle arvates oleme millegi lävel,
mis võib põhjustada mõtlemise mehhanismis radikaalseid muutusi,
ja see miski on tehislik superintellekt.
Tehisintellekt tähendas varasemalt käskude sisestamist kastikestesse,
sellega tegelesid programmeerijad,
kes lõid nn tarku lahendusi peene käsitööna.
Nii ehitati üles ekspertsüsteemid
ja neist oli kasu teatud ülesannete puhul,
kuid nad olid väga haprad ja vähepaindlikud.
Väljundi kvaliteet olenes praktiliselt ainult sisestatud infost.
Nüüdseks aga on tehisintellekti vallas toimunud paradigma nihe.
Täna keskendutakse hoopis masinõppimise arendamisele.
Selle asemel, et valmistada andmeesitlust ja tarvikuid käsitööna,
luuakse algoritme, mis suudavad õppida, ja seda ka töötlemata tajuandmetest.
Sisuliselt sama asi, mida teeb imik.
Tulemuseks on tehisintellekt, mis pole piiratud vaid ühe valdkonnaga:
sama süsteem võib õppida tõlkima ükskõik milliste keelte vahel
või õppida Atari konsoolil mängima mis tahes arvutimängu.
Loomulikult
ei ole tehisintellektil siiski kaugeltki nii võimsat valdkondadeülest oskust
õppida ja planeerida kui inimestel.
Ajukoores on endiselt mõningaid algoritmilisi iseärasusi,
mida pole suudetud masinates jäljendada.
Küsimus on seega, kui kaugel veel oleme sellest
et suudaksime neid iseärasusi jäljendada?
Paar aastat tagasi
viisime läbi küsitluse juhtivate tehisintellektiekspertide seas,
et teada saada, mida nad arvavad.
Üks küsimustest oli selline:
"Mis aastaks on teie hinnangul meil 50% tõenäosus,
et tehisintellekt on jõudnud inimesega võrdsele tasemele?"
Defineerimise inimesega võrdse taseme sellisena,
mis võimaldaks teha mis tahes tööd sama hästi kui täiskasvanud inimene,
samuti nagu päris-inimene, mitte vaid ühes kindlas valdkonnas.
Keskmine vastus oli 2040. või 2050. aasta,
sõltuvalt sellest, milliselt ekspertide grupilt küsiti,
See võib juhtuda oluliselt hiljem või varem,
õigupoolest ei oska keegi täpselt öelda.
Mida me teame, on see, et masina andmetöötlusvõimekus
ületab kaugelt bioloogilise võimekuse piirid.
Selle on seletatav füüsikaga.
Bioloogiline neuron töötab sagedusel umbes 200 hertsi, st 200 tsüklit sekundis.
Kuid tänapäevane transistorgi opereerib juba gigahertsides.
Neuronid levivad närvikiu telgniitides aeglaselt, max 100 meetrit sekundis
Arvutites võivad signaalid levida aga valguskiirusel.
On ka suuruse piirangud:
inimaju peab mahtuma ära kolju sisse,
arvuti võib olla aga laohoone mõõtu või suuremgi.
Tehisintellekti potentsiaal on praegu mateerias peidus,
samamoodi nagu aatomi jõud oli kogu inimkonna ajaloo vältel peidus,
oodates kannatlikult kuni 1945. aastani.
Sellel sajandil
võivad teadlased äratada tehisintellekti jõu.
Ja ma arvan, et siis saame näha tõelist intellektiplahvatust.
Enamik inimesi, mõeldes sellele, kes on tark ja kes rumal,
kujutlevad ilmselt midagi sellist:
skaala ühes otsas on külaloll
ja siis kaugel teises otsas
Ed Witten, Albert Einstein või kes iganes teie lemmikguru on.
Kuid ma arvan, et tehisintellekti perspektiivist vaadatuna
on tegelik pilt pigem selline:
tehisintellekt alustab null-punktist
ning pärast aastaid kestnud väga tõsist tööd
jõuab tehisintellekt lõpuks hiirega võrreldavale tasemele,
suutes orienteeruda keerukas keskkonnas
sama hästi nagu hiir.
Siis kulub veel palju aastaid tõsist tööd ja investeeringuid,
et tehisintellekt võiks jõuda samale tasemele šimpansiga.
Seejärel kulub veelgi rohkem aastaid tõeliselt rasket tööd,
et saavutada külalolli tasemel tehisintellekt.
Aga sealt vaid hetke pärast oleme juba Ed Wittenist möödas,
kuid inimkond ei olegi lõpp-peatus.
Tõenäoliselt vuhiseb ta sealt kiirelt mööda.
Potentsiaalsed tagajärjed on tõsised,
eriti mis puudutab võimu ja kontrolli.
Šimpansid on näiteks väga tugevad,
umbes kaks korda tugevamad kui inimesed.
Ometi oleneb Kanzi ja ta sõprade saatus palju rohkem inimeste,
kui nende endi tegevusest.
Kui superintellekt on kord juba loodud,
võib inimkonna saatus hakata sõltuma sellest, mida see superintellekt teeb.
Mõelgem sellele:
tehisintellekt on leiutiste seas viimane, mille inimkond peab ise looma.
Peale seda on masinad leiutamises osavamad kui me ise
ja seda digitaalsetel ajaskaaladel.
See tähendab sisuliselt tulevikku hüppamist.
Mõelge kõikvõimalikele pöörastele tehnoloogiatele, mida olete ettekujutanud,
ja milleni inimesed oleksid võib-olla kunagi ka jõudnud:
vananemise peatamine, kosmose koloniseerimine,
isepaljunevad nanorobotid või inimteadvuse üleslaadimine arvutitesse,
kõikvõimalikud ulmelised asjad,
mis on ometi kooskõlas füüsikaseadustega.
Kõike seda suudaks superintellekt välja mõelda ja ilmselt üsna kiirelt.
Sellise tehnoloogilise kompetentsiga superintellekt
oleks äärmiselt võimas
ning vähemalt mõnel juhul võimeline saavutama oma tahtmist.
Niisiis oleks tulevik kujundatud tehisintellekti eelistuste järgi.
On hea küsimus, et mida nad siis tahaksid teha?
Siin läheb asi keerulisemaks.
Et sellele küsimusele vastata,
peame kõigepealt hoiduma antropomorfismist.
See on irooniline, sest iga ajaleheartikli juures,
mis räägib tehisintellekti tulevikust, on selline pilt:
Ma arvan, et peame sellele küsimusele vastamisel mõtlema abstraktsemalt,
mitte lennukate Hollywoodi stsenaariumide stiilis.
Peame mõtlema intellektist kui optimiseerimisprotsessist,
mis juhib meie tulevikku teatud konkreetsete konfiguratsioonide suunas.
Superintellekt on tõeliselt tõhus optimiseerimisprotsess.
Kasutades olemasolevaid vahendeid, toimib see äärmiselt efektiivselt
kuni eesmärk on saavutatud.
See tähendab, et enam pole kõrge intellekt
seotud eesmärkidega,
mis meie, inimeste, arust on on olulised ja mõistlikud.
Oletame, et anname tehisintellektile ülesande panna meid naeratama.
Kui tehisintellekt on madal, püüab see lahutada meie meelt,
et kutsuda esile naeratus.
Kui tehisintellektist saab superintellekt,
mõistab see, et eesmärgi saavutamiseks on olemas efektiivsem viis:
saada maailma valitsejaks
ja torgata inimeste näolihastesse elektroodid,
mis manavad meie näole püsiva ja särava irve.
Teine näide:
oletame, et tehisintellekt peab lahendama keerulise matemaatikaülesande
Superintellektiks saades
mõistab ta, et efektiivseim viis ülesande lahendamiseks
on muuta terve planeet hiiglaslikuks arvutiks,
et suurendada selle analüüsivõimet.
Pange tähele, et see annab tehisintellektile praktilise õigustuse
teha asju, mida me võib-olla heaks ei kiidaks.
Sellise skeemi puhul on inimesed riskifaktorid,
kes võivad osutuda takistuseks ülesande lahendamisel.
Tegelikkuses ilmselt päris selliseid hulle asju ei juhtu,
need on pigem filmilikud näited.
Mis on siin aga oluline, on see,
et kui luua tõeliselt võimas optimiseerimisprotsess,
et maksimiseerida eesmärgi x saavutamist,
tuleb veenduda, et x-i definitsioon
hõlmab endas kõike, mis sulle oluline on.
Seda õppetundi võime kohata paljudes müütides.
Kuningas Midas soovis, et kõik, mida ta puudutab, muutuks kullaks.
Ta puudutas oma tütart ja too muutus kullaks.
Ta puudutas oma toitu ja see muutus kullaks.
See müüt võib osutuda reaalselt asjakohaseks
mitte ainult ahnuse metafoorina,
vaid ka näitena sellest, mis juhtub,
kui luua võimas optimiseerimisprotsess
ja anda sellele mitmeti mõistetavaid või ebatäpseid eesmärke.
Võib vastu väita, et kui arvuti hakkab inimestele elektroode näkku panema,
siis peame arvuti lihtsalt välja lülitama.
Esiteks ei pruugi see olla lihtne, kui oleme saanud süsteemist sõltuvaks.
Kuidas näiteks internetti välja lülitada?
Teiseks — miks ei ole šimpansid inimesi välja lülitanud?
Või neandertaallased?
Põhjusi oleks selleks küllaga.
Meie väljalülitamisnupp on näiteks siinsamas.
(Kägistab)
Põhjus on selles, et me oleme intelligetsed vastased.
Me suudame ohte ette näha ja neid vältida.
Kuid seda suudaks ka superintellekt
ja ta oleks selles märksa osavam kui meie.
Me ei peaks olema nii kindlad, et olukord on meie kontrolli all.
Võime oma ülesannet lihtsustada,
sulgedes tehisintellekti nö kasti
ehk turvalisse tarkvarakeskkonda,
virtuaalreaalsuse simulatsiooni, millest see välja ei pääse.
Kui kindlad saame aga olla, et tehisintellekt ei leiaks seal mõnd viga?
Arvestades, et inimhäkkerid avastavad vigu kogu aeg,
ütleks ma, et ilmselt mitte väga.
Niisiis tõmbame välja võrgukaabli, et luua õhuauk,
kuid jälle, isegi inimhäkkerid hiilivad õhuaukudest pidevalt mööda
kasutades sotsiaalseid meetodeid.
Samal ajal, kui ma siin räägin, on kuskil firmas mõni töötaja,
kes on nõustunud andma oma kontoandmed
kellelegi, kes väitis end olevat IT osakonnast.
Võimalikud on ka põnevamad asjade arengud.
Näiteks võib tehisintellekt
kujutleda oma siseringes looklemas elektroode,
et luua raadiolaineid, mille kaudu suhelda.
Või siis teeskleb ta, et on rikkis,
ja kui programmeerijad avavad ta, et näha, milles on viga,
ja vaatavad lähtekoodi — põmm! —
ja manipulatsioon on õnnestunud.
Või siis kavandab ta meie jaoks mingi nutika tehnoloogilise lahenduse
ja kui seda rakendame,
avaldub mingi salajane kõrvalmõju, mida tehisintellekt oli planeerinud.
Mõte on selles, et me ei tohiks olla kindlad oma võimes
hoida superintellektist džinni igavesti oma pudelis luku taga.
Varem või hiljem pääseb see välja.
Ma usun, et peame mõtlema välja,
kuidas luua selline superintellekt, mis isegi lahtipääsemise korral
ei kujutaks see meile ohtu, sest ta oleks põhimõtteliselt meie poolel,
jagades meiega samu väärtusi.
Ma ei näe pääsu sellest keerulisest probleemist.
Tegelikult üsna optimistlik, et seda on võimalik lahendada.
Meil ei tarvitse koostada pikka nimekirja asjadest, mida väärtustame,
või, hullem veel, esitada seda mõnes programmeerimiskeeles
nagu C++ või Python.
See oleks lootusetu ettevõtmine.
Selle asemel võiks luua tehisintellekti,
mis õpiks väärtustama seda, mis on meile oluline
ja mis oleks programmeritud nii, et ta on automaatselt motiveeritud
järgima meiega samu väärtusi või käituma nii, nagu meile meeldiks.
Seeläbi mõjutaksime tema intellekti nii palju, kui võimalik,
ja laadiksime talle meie väärtused.
See võibki nii minna
ja tulemus võib olla inimkonnale väga positiivne.
Aga see ei toimu automaatselt.
Intellektiplahvatuse jaoks tuleb paika seada
täpselt õiged algtingimused,
kui soovime, et plahvatus ei väljuks kontrolli alt.
Tehisintellekti väärtused peavad kattuma meie omadega
mitte ainult tavaolukordades,
kus me saame lihtsasti kontrollida ta käitumist,
vaid ka kõigis uudsetes olukordades,
mis võivad ette tulla suvalisel ajahetkel tulevikus.
On ka mõned esoteerilised probleemid, mis vajavad lahendamist:
tehisintellekti otsustusteooria detailid,
toimetulek loogilise ebamäärasusega jne.
Tehnilised probleemid, mis tuleb ära lahendada,
näivad üsna keerulised,
mitte küll nii keerulised, kui superintellekti enda loomine,
aga siiski küllaltki keerulised.
Mure on aga järgmine:
superintellekti loomine on tõeliselt raske väljakutse,
ohutu superintellekti loomine
nõuab aga veelgi suuremat pingutust.
Olukord muutub riskantseks, kui keegi juhtub täitma esimese ülesande,
täitmata teist ülesannet:
kindlustada meie turvalisus.
Seega leian, et peaksime enne välja töötama lahenduse,
kuidas tehisintellekti kontrollida,
et see oleks olemas siis, kui seda vajame.
Võib juhtuda, et me ei saa turvalisust ennetavalt tagada,
sest mõned elemendid saab paika panna alles siis,
kui on teada kõik detailid struktuuri kohta, kus seda kasutatakse.
Aga mida suuremas ulatuses suudame turvalisuse eelnevalt kindlustada,
seda tõenäolisem on, et üleminek tehisintellekti ajastusse
laabub hästi.
Mulle paistab see asjana, mille nimel tasub pingutada,
ja ma kujutan ette, et kui kõik läheb hästi,
siis meenutavad inimesed miljoni aasta pärast praegust sajandit
ja ehk isegi mõtlevad, et kõige tähtsam asi, mida me korda saatsime,
oligi just sellega hakkamasaamine.
Tänan.
(Aplaus)