Mis juhtub, kui arvutid saavad targemaks kui me ise?

Tehisintellekti areng on olnud hüppeliselt võimas ning teadlased väidavad, et juba sellel sajandil võib tehisintellekt saada sama "targaks" kui inimene. Ja siis, väidab Nick Bostrom, võtab tehisintellekt asjad üle: "Tehisintellekt on viimane leiutis, mille inimene peab ise looma." Bostrom, kes on filosoofi ja tehnoloogiaekspert palub meil mõelda sügavalt järele selle uue maailma üle, mida me parajasti loome ja mida hakkavad juhtima mõtlevad masinad. Kas targad masinad soodustavad inimkonna ja meie väärtuste püsimist või saavad neil olema omaenda väärtused?

Ma töötan mitmete matemaatikute,
filosoofide ja arvutiteadlastega,

istume nendega ja mõtiskleme,

muuhulgas ka tehisintellekti tuleviku üle.

Mõned arvavad, et need teemad
on suhteliselt ulmekad,

kaugel reaalsusest ja hullumeelsed.

Aga ütleksin pigem, et vaatame kõigepealt

milline on tänapäeva inimese olukord.

(Naer)

See ongi normaalne asjade seis.

Kui aga järele mõelda,

siis tegelikult oleme üsna hiljuti
siia planeedile saabunud külalised,

meie, inimesed.

Kui planeet Maa oleks loodud aasta tagasi.

oleks inimene kõigest 10 minuti vanune.

Industriaalajastu oleks alanud
2 sekundit tagasi.

Või mõelge näiteks maailmamajanduse
SKP-le viimase 10 000 aasta jooksul.

Olen siin näinud vaeva
ja teinud teie jaoks graafiku,

mis näeb välja selline.

(Naer)

Kujult on see veidi imelik,
kuigi tegu on tavaolukorraga.

Sellele istuda küll ei tahaks.

(Naer)

Küsigem aga endalt, mis on
praeguse anomaalia põhjuseks?

Mõnede arvates on see tehnoloogia.

Tõepoolest, tehnoloogia on
inimajaloo vältel akumuleerunud,

ja hetkel areneb tehnoloogia
erakordselt kiiresti.

See on ligikaudne põhjus,

mis seletab, miks oleme
praegu nii produktiivsed.

Tahan aga vaadata kaugemale,
et leida tegelik põhjus.

Vaadake neid kahte
silmapaistvat härrasmeest.

Üks neist on Kanzi.

Ta on õppinud selgeks 200 tähendusmärki,

mis on tema jaoks erakordne saavutus.

Ed Witten aga käivitas
teise superstringirevolutsiooni.

Kui vaatame kapoti alla,
siis mida me näeme?

Sisuliselt sama pilti.

Üks on natuke suurem

ning ülesehituselt ehk veidi keerukam.

Need nähtamatud erinevused ei saa
siiski olla kuigi olulised,

sest meie viimasest ühisest eellasest

eristab meid vaid 250 000 põlvkonda.

On teada, et keerukate mehhanismide
väljakujunemiseks läheb kaua aega.

Vaid mõned suhteliselt väikesed muutused

on toonud meid Kanzist Wittenini,

murdunud puuokstest mandrite-
vaheliste ballistiliste rakettideni.

On üsna ilmne, et kõik,
mida oleme saavutanud

ja mis on meile oluline,

sõltub vaid mõnest suhteliselt väikesest
muutusest, mis kujundasid inimmõistuse.

Oluline on mõista,
et mis tahes edasised muutused,

mis võivad avaldada olulist mõju
mõtlemise mehhanismidele,

võivad kaasa tuua väga tõsiseid tagajärgi.

Mul on kolleege, kelle arvates
oleme millegi lävel,

mis võib põhjustada mõtlemise
mehhanismis radikaalseid muutusi,

ja see miski on tehislik superintellekt.

Tehisintellekt tähendas varasemalt
käskude sisestamist kastikestesse,

sellega tegelesid programmeerijad,

kes lõid nn tarku lahendusi
peene käsitööna.

Nii ehitati üles ekspertsüsteemid

ja neist oli kasu teatud ülesannete puhul,

kuid nad olid väga haprad
ja vähepaindlikud.

Väljundi kvaliteet olenes praktiliselt
ainult sisestatud infost.

Nüüdseks aga on tehisintellekti vallas
toimunud paradigma nihe.

Täna keskendutakse hoopis
masinõppimise arendamisele.

Selle asemel, et valmistada andmeesitlust
ja tarvikuid käsitööna,

luuakse algoritme, mis suudavad õppida,
ja seda ka töötlemata tajuandmetest.

Sisuliselt sama asi, mida teeb imik.

Tulemuseks on tehisintellekt, mis pole
piiratud vaid ühe valdkonnaga:

sama süsteem võib õppida tõlkima
ükskõik milliste keelte vahel

või õppida Atari konsoolil mängima
mis tahes arvutimängu.

Loomulikult

ei ole tehisintellektil siiski kaugeltki
nii võimsat valdkondadeülest oskust

õppida ja planeerida kui inimestel.

Ajukoores on endiselt mõningaid
algoritmilisi iseärasusi,

mida pole suudetud
masinates jäljendada.

Küsimus on seega,
kui kaugel veel oleme sellest

et suudaksime neid iseärasusi jäljendada?

Paar aastat tagasi

viisime läbi küsitluse juhtivate
tehisintellektiekspertide seas,

et teada saada, mida nad arvavad.

Üks küsimustest oli selline:

"Mis aastaks on teie hinnangul
meil 50% tõenäosus,

et tehisintellekt on jõudnud
inimesega võrdsele tasemele?"

Defineerimise inimesega võrdse taseme sellisena,

mis võimaldaks teha mis tahes tööd
sama hästi kui täiskasvanud inimene,

samuti nagu päris-inimene,
mitte vaid ühes kindlas valdkonnas.

Keskmine vastus oli 2040. või 2050. aasta,

sõltuvalt sellest, milliselt
ekspertide grupilt küsiti,

See võib juhtuda oluliselt
hiljem või varem,

õigupoolest ei oska keegi täpselt öelda.

Mida me teame, on see,
et masina andmetöötlusvõimekus

ületab kaugelt bioloogilise
võimekuse piirid.

Selle on seletatav füüsikaga.

Bioloogiline neuron töötab sagedusel
umbes 200 hertsi, st 200 tsüklit sekundis.

Kuid tänapäevane transistorgi
opereerib juba gigahertsides.

Neuronid levivad närvikiu telgniitides
aeglaselt, max 100 meetrit sekundis

Arvutites võivad signaalid
levida aga valguskiirusel.

On ka suuruse piirangud:

inimaju peab mahtuma ära kolju sisse,

arvuti võib olla aga laohoone
mõõtu või suuremgi.

Tehisintellekti potentsiaal
on praegu mateerias peidus,

samamoodi nagu aatomi jõud oli
kogu inimkonna ajaloo vältel peidus,

oodates kannatlikult kuni 1945. aastani.

Sellel sajandil

võivad teadlased äratada
tehisintellekti jõu.

Ja ma arvan, et siis saame näha
tõelist intellektiplahvatust.

Enamik inimesi, mõeldes sellele,
kes on tark ja kes rumal,

kujutlevad ilmselt midagi sellist:

skaala ühes otsas on külaloll

ja siis kaugel teises otsas

Ed Witten, Albert Einstein või
kes iganes teie lemmikguru on.

Kuid ma arvan, et tehisintellekti
perspektiivist vaadatuna

on tegelik pilt pigem selline:

tehisintellekt alustab null-punktist

ning pärast aastaid kestnud
väga tõsist tööd

jõuab tehisintellekt lõpuks
hiirega võrreldavale tasemele,

suutes orienteeruda
keerukas keskkonnas

sama hästi nagu hiir.

Siis kulub veel palju aastaid
tõsist tööd ja investeeringuid,

et tehisintellekt võiks jõuda
samale tasemele šimpansiga.

Seejärel kulub veelgi rohkem aastaid
tõeliselt rasket tööd,

et saavutada külalolli
tasemel tehisintellekt.

Aga sealt vaid hetke pärast oleme
juba Ed Wittenist möödas,

kuid inimkond ei olegi lõpp-peatus.

Tõenäoliselt vuhiseb
ta sealt kiirelt mööda.

Potentsiaalsed tagajärjed on tõsised,

eriti mis puudutab võimu ja kontrolli.

Šimpansid on näiteks väga tugevad,

umbes kaks korda tugevamad kui inimesed.

Ometi oleneb Kanzi ja ta sõprade
saatus palju rohkem inimeste,

kui nende endi tegevusest.

Kui superintellekt on kord juba loodud,

võib inimkonna saatus hakata sõltuma
sellest, mida see superintellekt teeb.

Mõelgem sellele:

tehisintellekt on leiutiste seas viimane,
mille inimkond peab ise looma.

Peale seda on masinad leiutamises
osavamad kui me ise

ja seda digitaalsetel ajaskaaladel.

See tähendab sisuliselt
tulevikku hüppamist.

Mõelge kõikvõimalikele pöörastele
tehnoloogiatele, mida olete ettekujutanud,

ja milleni inimesed oleksid
võib-olla kunagi ka jõudnud:

vananemise peatamine,
kosmose koloniseerimine,

isepaljunevad nanorobotid või
inimteadvuse üleslaadimine arvutitesse,

kõikvõimalikud ulmelised asjad,

mis on ometi kooskõlas füüsikaseadustega.

Kõike seda suudaks superintellekt
välja mõelda ja ilmselt üsna kiirelt.

Sellise tehnoloogilise
kompetentsiga superintellekt

oleks äärmiselt võimas

ning vähemalt mõnel juhul
võimeline saavutama oma tahtmist.

Niisiis oleks tulevik kujundatud
tehisintellekti eelistuste järgi.

On hea küsimus,
et mida nad siis tahaksid teha?

Siin läheb asi keerulisemaks.

Et sellele küsimusele vastata,

peame kõigepealt hoiduma
antropomorfismist.

See on irooniline,
sest iga ajaleheartikli juures,

mis räägib tehisintellekti
tulevikust, on selline pilt:

Ma arvan, et peame sellele küsimusele
vastamisel mõtlema abstraktsemalt,

mitte lennukate Hollywoodi
stsenaariumide stiilis.

Peame mõtlema intellektist
kui optimiseerimisprotsessist,

mis juhib meie tulevikku teatud
konkreetsete konfiguratsioonide suunas.

Superintellekt on tõeliselt
tõhus optimiseerimisprotsess.

Kasutades olemasolevaid vahendeid,
toimib see äärmiselt efektiivselt

kuni eesmärk on saavutatud.

See tähendab, et enam pole kõrge intellekt

seotud eesmärkidega,

mis meie, inimeste, arust on
on olulised ja mõistlikud.

Oletame, et anname tehisintellektile
ülesande panna meid naeratama.

Kui tehisintellekt on madal,
püüab see lahutada meie meelt,

et kutsuda esile naeratus.

Kui tehisintellektist saab superintellekt,

mõistab see, et eesmärgi saavutamiseks
on olemas efektiivsem viis:

saada maailma valitsejaks

ja torgata inimeste
näolihastesse elektroodid,

mis manavad meie näole
püsiva ja särava irve.

Teine näide:

oletame, et tehisintellekt peab
lahendama keerulise matemaatikaülesande

Superintellektiks saades

mõistab ta, et efektiivseim viis
ülesande lahendamiseks

on muuta terve planeet
hiiglaslikuks arvutiks,

et suurendada selle analüüsivõimet.

Pange tähele, et see annab
tehisintellektile praktilise õigustuse

teha asju, mida me
võib-olla heaks ei kiidaks.

Sellise skeemi puhul on
inimesed riskifaktorid,

kes võivad osutuda takistuseks
ülesande lahendamisel.

Tegelikkuses ilmselt päris
selliseid hulle asju ei juhtu,

need on pigem filmilikud näited.

Mis on siin aga oluline, on see,

et kui luua tõeliselt võimas
optimiseerimisprotsess,

et maksimiseerida eesmärgi x saavutamist,

tuleb veenduda, et x-i definitsioon

hõlmab endas kõike, mis sulle oluline on.

Seda õppetundi võime
kohata paljudes müütides.

Kuningas Midas soovis, et kõik,
mida ta puudutab, muutuks kullaks.

Ta puudutas oma tütart
ja too muutus kullaks.

Ta puudutas oma toitu
ja see muutus kullaks.

See müüt võib osutuda
reaalselt asjakohaseks

mitte ainult ahnuse metafoorina,

vaid ka näitena sellest, mis juhtub,

kui luua võimas optimiseerimisprotsess

ja anda sellele mitmeti mõistetavaid
või ebatäpseid eesmärke.

Võib vastu väita, et kui arvuti hakkab
inimestele elektroode näkku panema,

siis peame arvuti lihtsalt välja lülitama.

Esiteks ei pruugi see olla lihtne,
kui oleme saanud süsteemist sõltuvaks.

Kuidas näiteks internetti välja lülitada?

Teiseks — miks ei ole šimpansid
inimesi välja lülitanud?

Või neandertaallased?

Põhjusi oleks selleks küllaga.

Meie väljalülitamisnupp on näiteks siinsamas.

(Kägistab)

Põhjus on selles, et me oleme
intelligetsed vastased.

Me suudame ohte ette näha ja neid vältida.

Kuid seda suudaks ka superintellekt

ja ta oleks selles
märksa osavam kui meie.

Me ei peaks olema nii kindlad,
et olukord on meie kontrolli all.

Võime oma ülesannet lihtsustada,

sulgedes tehisintellekti nö kasti

ehk turvalisse tarkvarakeskkonda,

virtuaalreaalsuse simulatsiooni,
millest see välja ei pääse.

Kui kindlad saame aga olla, et
tehisintellekt ei leiaks seal mõnd viga?

Arvestades, et inimhäkkerid
avastavad vigu kogu aeg,

ütleks ma, et ilmselt mitte väga.

Niisiis tõmbame välja
võrgukaabli, et luua õhuauk,

kuid jälle, isegi inimhäkkerid hiilivad
õhuaukudest pidevalt mööda

kasutades sotsiaalseid meetodeid.

Samal ajal, kui ma siin räägin,
on kuskil firmas mõni töötaja,

kes on nõustunud andma oma kontoandmed

kellelegi, kes väitis end
olevat IT osakonnast.

Võimalikud on ka põnevamad asjade arengud.

Näiteks võib tehisintellekt

kujutleda oma siseringes
looklemas elektroode,

et luua raadiolaineid,
mille kaudu suhelda.

Või siis teeskleb ta, et on rikkis,

ja kui programmeerijad avavad ta,
et näha, milles on viga,

ja vaatavad lähtekoodi — põmm! —

ja manipulatsioon on õnnestunud.

Või siis kavandab ta meie jaoks
mingi nutika tehnoloogilise lahenduse

ja kui seda rakendame,

avaldub mingi salajane kõrvalmõju,
mida tehisintellekt oli planeerinud.

Mõte on selles, et me ei tohiks
olla kindlad oma võimes

hoida superintellektist džinni
igavesti oma pudelis luku taga.

Varem või hiljem pääseb see välja.

Ma usun, et peame mõtlema välja,

kuidas luua selline superintellekt,
mis isegi lahtipääsemise korral

ei kujutaks see meile ohtu, sest ta
oleks põhimõtteliselt meie poolel,

jagades meiega samu väärtusi.

Ma ei näe pääsu sellest
keerulisest probleemist.

Tegelikult üsna optimistlik,
et seda on võimalik lahendada.

Meil ei tarvitse koostada pikka nimekirja
asjadest, mida väärtustame,

või, hullem veel, esitada seda
mõnes programmeerimiskeeles

nagu C++ või Python.

See oleks lootusetu ettevõtmine.

Selle asemel võiks luua tehisintellekti,

mis õpiks väärtustama seda,
mis on meile oluline

ja mis oleks programmeritud nii,
et ta on automaatselt motiveeritud

järgima meiega samu väärtusi või
käituma nii, nagu meile meeldiks.

Seeläbi mõjutaksime tema
intellekti nii palju, kui võimalik,

ja laadiksime talle meie väärtused.

See võibki nii minna

ja tulemus võib olla
inimkonnale väga positiivne.

Aga see ei toimu automaatselt.

Intellektiplahvatuse
jaoks tuleb paika seada

täpselt õiged algtingimused,

kui soovime, et plahvatus
ei väljuks kontrolli alt.

Tehisintellekti väärtused peavad
kattuma meie omadega

mitte ainult tavaolukordades,

kus me saame lihtsasti
kontrollida ta käitumist,

vaid ka kõigis uudsetes olukordades,

mis võivad ette tulla
suvalisel ajahetkel tulevikus.

On ka mõned esoteerilised probleemid,
mis vajavad lahendamist:

tehisintellekti otsustusteooria detailid,

toimetulek loogilise ebamäärasusega jne.

Tehnilised probleemid,
mis tuleb ära lahendada,

näivad üsna keerulised,

mitte küll nii keerulised,
kui superintellekti enda loomine,

aga siiski küllaltki keerulised.

Mure on aga järgmine:

superintellekti loomine on
tõeliselt raske väljakutse,

ohutu superintellekti loomine

nõuab aga veelgi suuremat pingutust.

Olukord muutub riskantseks,
kui keegi juhtub täitma esimese ülesande,

täitmata teist ülesannet:

kindlustada meie turvalisus.

Seega leian, et peaksime
enne välja töötama lahenduse,

kuidas tehisintellekti kontrollida,

et see oleks olemas siis,
kui seda vajame.

Võib juhtuda, et me ei saa
turvalisust ennetavalt tagada,

sest mõned elemendid
saab paika panna alles siis,

kui on teada kõik detailid struktuuri
kohta, kus seda kasutatakse.

Aga mida suuremas ulatuses suudame
turvalisuse eelnevalt kindlustada,

seda tõenäolisem on, et
üleminek tehisintellekti ajastusse

laabub hästi.

Mulle paistab see asjana,
mille nimel tasub pingutada,

ja ma kujutan ette,
et kui kõik läheb hästi,

siis meenutavad inimesed
miljoni aasta pärast praegust sajandit

ja ehk isegi mõtlevad, et kõige tähtsam
asi, mida me korda saatsime,

oligi just sellega hakkamasaamine.

Tänan.

(Aplaus)