< Return to Video

Mis juhtub, kui arvutid saavad targemaks kui me ise?

  • 0:01 - 0:05
    Ma töötan mitmete matemaatikute,
    filosoofide ja arvutiteadlastega,
  • 0:06 - 0:09
    istume nendega ja mõtiskleme,
  • 0:09 - 0:12
    muuhulgas ka tehisintellekti tuleviku üle.
  • 0:12 - 0:17
    Mõned arvavad, et need teemad
    on suhteliselt ulmekad,
  • 0:17 - 0:20
    kaugel reaalsusest ja hullumeelsed.
  • 0:20 - 0:23
    Aga ütleksin pigem, et vaatame kõigepealt
  • 0:23 - 0:25
    milline on tänapäeva inimese olukord.
  • 0:25 - 0:26
    (Naer)
  • 0:27 - 0:29
    See ongi normaalne asjade seis.
  • 0:30 - 0:32
    Kui aga järele mõelda,
  • 0:32 - 0:35
    siis tegelikult oleme üsna hiljuti
    siia planeedile saabunud külalised,
  • 0:35 - 0:37
    meie, inimesed.
  • 0:37 - 0:41
    Kui planeet Maa oleks loodud aasta tagasi.
  • 0:41 - 0:45
    oleks inimene kõigest 10 minuti vanune.
  • 0:45 - 0:48
    Industriaalajastu oleks alanud
    2 sekundit tagasi.
  • 0:49 - 0:54
    Või mõelge näiteks maailmamajanduse
    SKP-le viimase 10 000 aasta jooksul.
  • 0:55 - 0:58
    Olen siin näinud vaeva
    ja teinud teie jaoks graafiku,
  • 0:58 - 0:59
    mis näeb välja selline.
  • 0:59 - 1:01
    (Naer)
  • 1:01 - 1:03
    Kujult on see veidi imelik,
    kuigi tegu on tavaolukorraga.
  • 1:03 - 1:05
    Sellele istuda küll ei tahaks.
  • 1:05 - 1:07
    (Naer)
  • 1:07 - 1:12
    Küsigem aga endalt, mis on
    praeguse anomaalia põhjuseks?
  • 1:12 - 1:14
    Mõnede arvates on see tehnoloogia.
  • 1:14 - 1:19
    Tõepoolest, tehnoloogia on
    inimajaloo vältel akumuleerunud,
  • 1:19 - 1:24
    ja hetkel areneb tehnoloogia
    erakordselt kiiresti.
  • 1:24 - 1:25
    See on ligikaudne põhjus,
  • 1:25 - 1:28
    mis seletab, miks oleme
    praegu nii produktiivsed.
  • 1:28 - 1:32
    Tahan aga vaadata kaugemale,
    et leida tegelik põhjus.
  • 1:33 - 1:37
    Vaadake neid kahte
    silmapaistvat härrasmeest.
  • 1:37 - 1:38
    Üks neist on Kanzi.
  • 1:38 - 1:41
    Ta on õppinud selgeks 200 tähendusmärki,
  • 1:41 - 1:43
    mis on tema jaoks erakordne saavutus.
  • 1:43 - 1:47
    Ed Witten aga käivitas
    teise superstringirevolutsiooni.
  • 1:47 - 1:49
    Kui vaatame kapoti alla,
    siis mida me näeme?
  • 1:49 - 1:51
    Sisuliselt sama pilti.
  • 1:51 - 1:53
    Üks on natuke suurem
  • 1:53 - 1:55
    ning ülesehituselt ehk veidi keerukam.
  • 1:55 - 1:59
    Need nähtamatud erinevused ei saa
    siiski olla kuigi olulised,
  • 1:59 - 2:03
    sest meie viimasest ühisest eellasest
  • 2:03 - 2:05
    eristab meid vaid 250 000 põlvkonda.
  • 2:05 - 2:09
    On teada, et keerukate mehhanismide
    väljakujunemiseks läheb kaua aega.
  • 2:10 - 2:12
    Vaid mõned suhteliselt väikesed muutused
  • 2:12 - 2:16
    on toonud meid Kanzist Wittenini,
  • 2:16 - 2:20
    murdunud puuokstest mandrite-
    vaheliste ballistiliste rakettideni.
  • 2:21 - 2:25
    On üsna ilmne, et kõik,
    mida oleme saavutanud
  • 2:25 - 2:26
    ja mis on meile oluline,
  • 2:26 - 2:31
    sõltub vaid mõnest suhteliselt väikesest
    muutusest, mis kujundasid inimmõistuse.
  • 2:33 - 2:36
    Oluline on mõista,
    et mis tahes edasised muutused,
  • 2:36 - 2:40
    mis võivad avaldada olulist mõju
    mõtlemise mehhanismidele,
  • 2:40 - 2:43
    võivad kaasa tuua väga tõsiseid tagajärgi.
  • 2:44 - 2:47
    Mul on kolleege, kelle arvates
    oleme millegi lävel,
  • 2:47 - 2:51
    mis võib põhjustada mõtlemise
    mehhanismis radikaalseid muutusi,
  • 2:51 - 2:54
    ja see miski on tehislik superintellekt.
  • 2:54 - 2:59
    Tehisintellekt tähendas varasemalt
    käskude sisestamist kastikestesse,
  • 2:59 - 3:01
    sellega tegelesid programmeerijad,
  • 3:01 - 3:04
    kes lõid nn tarku lahendusi
    peene käsitööna.
  • 3:05 - 3:06
    Nii ehitati üles ekspertsüsteemid
  • 3:06 - 3:08
    ja neist oli kasu teatud ülesannete puhul,
  • 3:08 - 3:11
    kuid nad olid väga haprad
    ja vähepaindlikud.
  • 3:11 - 3:14
    Väljundi kvaliteet olenes praktiliselt
    ainult sisestatud infost.
  • 3:14 - 3:18
    Nüüdseks aga on tehisintellekti vallas
    toimunud paradigma nihe.
  • 3:19 - 3:22
    Täna keskendutakse hoopis
    masinõppimise arendamisele.
  • 3:22 - 3:28
    Selle asemel, et valmistada andmeesitlust
    ja tarvikuid käsitööna,
  • 3:29 - 3:34
    luuakse algoritme, mis suudavad õppida,
    ja seda ka töötlemata tajuandmetest.
  • 3:34 - 3:38
    Sisuliselt sama asi, mida teeb imik.
  • 3:39 - 3:43
    Tulemuseks on tehisintellekt, mis pole
    piiratud vaid ühe valdkonnaga:
  • 3:43 - 3:48
    sama süsteem võib õppida tõlkima
    ükskõik milliste keelte vahel
  • 3:48 - 3:53
    või õppida Atari konsoolil mängima
    mis tahes arvutimängu.
  • 3:53 - 3:55
    Loomulikult
  • 3:55 - 3:59
    ei ole tehisintellektil siiski kaugeltki
    nii võimsat valdkondadeülest oskust
  • 3:59 - 4:02
    õppida ja planeerida kui inimestel.
  • 4:02 - 4:04
    Ajukoores on endiselt mõningaid
    algoritmilisi iseärasusi,
  • 4:04 - 4:07
    mida pole suudetud
    masinates jäljendada.
  • 4:08 - 4:10
    Küsimus on seega,
    kui kaugel veel oleme sellest
  • 4:10 - 4:13
    et suudaksime neid iseärasusi jäljendada?
  • 4:14 - 4:15
    Paar aastat tagasi
  • 4:15 - 4:18
    viisime läbi küsitluse juhtivate
    tehisintellektiekspertide seas,
  • 4:18 - 4:19
    et teada saada, mida nad arvavad.
  • 4:19 - 4:21
    Üks küsimustest oli selline:
  • 4:21 - 4:25
    "Mis aastaks on teie hinnangul
    meil 50% tõenäosus,
  • 4:25 - 4:28
    et tehisintellekt on jõudnud
    inimesega võrdsele tasemele?"
  • 4:29 - 4:33
    Defineerimise inimesega võrdse taseme sellisena,
  • 4:33 - 4:36
    mis võimaldaks teha mis tahes tööd
    sama hästi kui täiskasvanud inimene,
  • 4:36 - 4:40
    samuti nagu päris-inimene,
    mitte vaid ühes kindlas valdkonnas.
  • 4:40 - 4:43
    Keskmine vastus oli 2040. või 2050. aasta,
  • 4:43 - 4:47
    sõltuvalt sellest, milliselt
    ekspertide grupilt küsiti,
  • 4:47 - 4:50
    See võib juhtuda oluliselt
    hiljem või varem,
  • 4:50 - 4:52
    õigupoolest ei oska keegi täpselt öelda.
  • 4:53 - 4:58
    Mida me teame, on see,
    et masina andmetöötlusvõimekus
  • 4:58 - 5:03
    ületab kaugelt bioloogilise
    võimekuse piirid.
  • 5:03 - 5:06
    Selle on seletatav füüsikaga.
  • 5:06 - 5:10
    Bioloogiline neuron töötab sagedusel
    umbes 200 hertsi, st 200 tsüklit sekundis.
  • 5:10 - 5:14
    Kuid tänapäevane transistorgi
    opereerib juba gigahertsides.
  • 5:14 - 5:19
    Neuronid levivad närvikiu telgniitides
    aeglaselt, max 100 meetrit sekundis
  • 5:19 - 5:22
    Arvutites võivad signaalid
    levida aga valguskiirusel.
  • 5:23 - 5:25
    On ka suuruse piirangud:
  • 5:25 - 5:28
    inimaju peab mahtuma ära kolju sisse,
  • 5:28 - 5:32
    arvuti võib olla aga laohoone
    mõõtu või suuremgi.
  • 5:33 - 5:38
    Tehisintellekti potentsiaal
    on praegu mateerias peidus,
  • 5:38 - 5:44
    samamoodi nagu aatomi jõud oli
    kogu inimkonna ajaloo vältel peidus,
  • 5:44 - 5:48
    oodates kannatlikult kuni 1945. aastani.
  • 5:48 - 5:50
    Sellel sajandil
  • 5:50 - 5:54
    võivad teadlased äratada
    tehisintellekti jõu.
  • 5:54 - 5:58
    Ja ma arvan, et siis saame näha
    tõelist intellektiplahvatust.
  • 5:58 - 6:02
    Enamik inimesi, mõeldes sellele,
    kes on tark ja kes rumal,
  • 6:02 - 6:05
    kujutlevad ilmselt midagi sellist:
  • 6:05 - 6:08
    skaala ühes otsas on külaloll
  • 6:08 - 6:10
    ja siis kaugel teises otsas
  • 6:10 - 6:15
    Ed Witten, Albert Einstein või
    kes iganes teie lemmikguru on.
  • 6:15 - 6:19
    Kuid ma arvan, et tehisintellekti
    perspektiivist vaadatuna
  • 6:19 - 6:23
    on tegelik pilt pigem selline:
  • 6:23 - 6:27
    tehisintellekt alustab null-punktist
  • 6:27 - 6:30
    ning pärast aastaid kestnud
    väga tõsist tööd
  • 6:30 - 6:33
    jõuab tehisintellekt lõpuks
    hiirega võrreldavale tasemele,
  • 6:33 - 6:36
    suutes orienteeruda
    keerukas keskkonnas
  • 6:36 - 6:38
    sama hästi nagu hiir.
  • 6:38 - 6:42
    Siis kulub veel palju aastaid
    tõsist tööd ja investeeringuid,
  • 6:42 - 6:47
    et tehisintellekt võiks jõuda
    samale tasemele šimpansiga.
  • 6:47 - 6:50
    Seejärel kulub veelgi rohkem aastaid
    tõeliselt rasket tööd,
  • 6:50 - 6:53
    et saavutada külalolli
    tasemel tehisintellekt.
  • 6:53 - 6:56
    Aga sealt vaid hetke pärast oleme
    juba Ed Wittenist möödas,
  • 6:56 - 6:59
    kuid inimkond ei olegi lõpp-peatus.
  • 6:59 - 7:02
    Tõenäoliselt vuhiseb
    ta sealt kiirelt mööda.
  • 7:02 - 7:04
    Potentsiaalsed tagajärjed on tõsised,
  • 7:04 - 7:08
    eriti mis puudutab võimu ja kontrolli.
  • 7:08 - 7:10
    Šimpansid on näiteks väga tugevad,
  • 7:10 - 7:15
    umbes kaks korda tugevamad kui inimesed.
  • 7:15 - 7:21
    Ometi oleneb Kanzi ja ta sõprade
    saatus palju rohkem inimeste,
  • 7:21 - 7:24
    kui nende endi tegevusest.
  • 7:25 - 7:28
    Kui superintellekt on kord juba loodud,
  • 7:28 - 7:31
    võib inimkonna saatus hakata sõltuma
    sellest, mida see superintellekt teeb.
  • 7:32 - 7:34
    Mõelgem sellele:
  • 7:34 - 7:39
    tehisintellekt on leiutiste seas viimane,
    mille inimkond peab ise looma.
  • 7:39 - 7:42
    Peale seda on masinad leiutamises
    osavamad kui me ise
  • 7:42 - 7:44
    ja seda digitaalsetel ajaskaaladel.
  • 7:44 - 7:49
    See tähendab sisuliselt
    tulevikku hüppamist.
  • 7:49 - 7:53
    Mõelge kõikvõimalikele pöörastele
    tehnoloogiatele, mida olete ettekujutanud,
  • 7:53 - 7:55
    ja milleni inimesed oleksid
    võib-olla kunagi ka jõudnud:
  • 7:55 - 7:59
    vananemise peatamine,
    kosmose koloniseerimine,
  • 7:59 - 8:02
    isepaljunevad nanorobotid või
    inimteadvuse üleslaadimine arvutitesse,
  • 8:02 - 8:04
    kõikvõimalikud ulmelised asjad,
  • 8:04 - 8:07
    mis on ometi kooskõlas füüsikaseadustega.
  • 8:07 - 8:11
    Kõike seda suudaks superintellekt
    välja mõelda ja ilmselt üsna kiirelt.
  • 8:12 - 8:16
    Sellise tehnoloogilise
    kompetentsiga superintellekt
  • 8:16 - 8:18
    oleks äärmiselt võimas
  • 8:18 - 8:23
    ning vähemalt mõnel juhul
    võimeline saavutama oma tahtmist.
  • 8:23 - 8:28
    Niisiis oleks tulevik kujundatud
    tehisintellekti eelistuste järgi.
  • 8:30 - 8:34
    On hea küsimus,
    et mida nad siis tahaksid teha?
  • 8:34 - 8:36
    Siin läheb asi keerulisemaks.
  • 8:36 - 8:37
    Et sellele küsimusele vastata,
  • 8:37 - 8:41
    peame kõigepealt hoiduma
    antropomorfismist.
  • 8:42 - 8:45
    See on irooniline,
    sest iga ajaleheartikli juures,
  • 8:45 - 8:48
    mis räägib tehisintellekti
    tulevikust, on selline pilt:
  • 8:50 - 8:54
    Ma arvan, et peame sellele küsimusele
    vastamisel mõtlema abstraktsemalt,
  • 8:54 - 8:57
    mitte lennukate Hollywoodi
    stsenaariumide stiilis.
  • 8:57 - 9:01
    Peame mõtlema intellektist
    kui optimiseerimisprotsessist,
  • 9:01 - 9:06
    mis juhib meie tulevikku teatud
    konkreetsete konfiguratsioonide suunas.
  • 9:06 - 9:10
    Superintellekt on tõeliselt
    tõhus optimiseerimisprotsess.
  • 9:10 - 9:14
    Kasutades olemasolevaid vahendeid,
    toimib see äärmiselt efektiivselt
  • 9:14 - 9:16
    kuni eesmärk on saavutatud.
  • 9:16 - 9:19
    See tähendab, et enam pole kõrge intellekt
  • 9:19 - 9:22
    seotud eesmärkidega,
  • 9:22 - 9:27
    mis meie, inimeste, arust on
    on olulised ja mõistlikud.
  • 9:27 - 9:31
    Oletame, et anname tehisintellektile
    ülesande panna meid naeratama.
  • 9:31 - 9:34
    Kui tehisintellekt on madal,
    püüab see lahutada meie meelt,
  • 9:34 - 9:37
    et kutsuda esile naeratus.
  • 9:37 - 9:39
    Kui tehisintellektist saab superintellekt,
  • 9:39 - 9:43
    mõistab see, et eesmärgi saavutamiseks
    on olemas efektiivsem viis:
  • 9:43 - 9:44
    saada maailma valitsejaks
  • 9:44 - 9:48
    ja torgata inimeste
    näolihastesse elektroodid,
  • 9:48 - 9:51
    mis manavad meie näole
    püsiva ja särava irve.
  • 9:51 - 9:52
    Teine näide:
  • 9:52 - 9:55
    oletame, et tehisintellekt peab
    lahendama keerulise matemaatikaülesande
  • 9:55 - 9:57
    Superintellektiks saades
  • 9:57 - 10:01
    mõistab ta, et efektiivseim viis
    ülesande lahendamiseks
  • 10:01 - 10:04
    on muuta terve planeet
    hiiglaslikuks arvutiks,
  • 10:04 - 10:06
    et suurendada selle analüüsivõimet.
  • 10:06 - 10:09
    Pange tähele, et see annab
    tehisintellektile praktilise õigustuse
  • 10:09 - 10:12
    teha asju, mida me
    võib-olla heaks ei kiidaks.
  • 10:12 - 10:13
    Sellise skeemi puhul on
    inimesed riskifaktorid,
  • 10:13 - 10:16
    kes võivad osutuda takistuseks
    ülesande lahendamisel.
  • 10:17 - 10:21
    Tegelikkuses ilmselt päris
    selliseid hulle asju ei juhtu,
  • 10:21 - 10:22
    need on pigem filmilikud näited.
  • 10:22 - 10:24
    Mis on siin aga oluline, on see,
  • 10:24 - 10:27
    et kui luua tõeliselt võimas
    optimiseerimisprotsess,
  • 10:27 - 10:30
    et maksimiseerida eesmärgi x saavutamist,
  • 10:30 - 10:32
    tuleb veenduda, et x-i definitsioon
  • 10:32 - 10:34
    hõlmab endas kõike, mis sulle oluline on.
  • 10:35 - 10:39
    Seda õppetundi võime
    kohata paljudes müütides.
  • 10:39 - 10:45
    Kuningas Midas soovis, et kõik,
    mida ta puudutab, muutuks kullaks.
  • 10:45 - 10:47
    Ta puudutas oma tütart
    ja too muutus kullaks.
  • 10:47 - 10:50
    Ta puudutas oma toitu
    ja see muutus kullaks.
  • 10:50 - 10:53
    See müüt võib osutuda
    reaalselt asjakohaseks
  • 10:53 - 10:55
    mitte ainult ahnuse metafoorina,
  • 10:55 - 10:56
    vaid ka näitena sellest, mis juhtub,
  • 10:56 - 10:59
    kui luua võimas optimiseerimisprotsess
  • 10:59 - 11:04
    ja anda sellele mitmeti mõistetavaid
    või ebatäpseid eesmärke.
  • 11:04 - 11:09
    Võib vastu väita, et kui arvuti hakkab
    inimestele elektroode näkku panema,
  • 11:09 - 11:12
    siis peame arvuti lihtsalt välja lülitama.
  • 11:13 - 11:18
    Esiteks ei pruugi see olla lihtne,
    kui oleme saanud süsteemist sõltuvaks.
  • 11:18 - 11:21
    Kuidas näiteks internetti välja lülitada?
  • 11:21 - 11:26
    Teiseks — miks ei ole šimpansid
    inimesi välja lülitanud?
  • 11:26 - 11:27
    Või neandertaallased?
  • 11:27 - 11:30
    Põhjusi oleks selleks küllaga.
  • 11:30 - 11:33
    Meie väljalülitamisnupp on näiteks siinsamas.
  • 11:33 - 11:34
    (Kägistab)
  • 11:34 - 11:37
    Põhjus on selles, et me oleme
    intelligetsed vastased.
  • 11:37 - 11:40
    Me suudame ohte ette näha ja neid vältida.
  • 11:40 - 11:42
    Kuid seda suudaks ka superintellekt
  • 11:42 - 11:46
    ja ta oleks selles
    märksa osavam kui meie.
  • 11:46 - 11:53
    Me ei peaks olema nii kindlad,
    et olukord on meie kontrolli all.
  • 11:53 - 11:56
    Võime oma ülesannet lihtsustada,
  • 11:56 - 11:58
    sulgedes tehisintellekti nö kasti
  • 11:58 - 12:00
    ehk turvalisse tarkvarakeskkonda,
  • 12:00 - 12:03
    virtuaalreaalsuse simulatsiooni,
    millest see välja ei pääse.
  • 12:03 - 12:07
    Kui kindlad saame aga olla, et
    tehisintellekt ei leiaks seal mõnd viga?
  • 12:07 - 12:10
    Arvestades, et inimhäkkerid
    avastavad vigu kogu aeg,
  • 12:10 - 12:13
    ütleks ma, et ilmselt mitte väga.
  • 12:14 - 12:19
    Niisiis tõmbame välja
    võrgukaabli, et luua õhuauk,
  • 12:19 - 12:22
    kuid jälle, isegi inimhäkkerid hiilivad
    õhuaukudest pidevalt mööda
  • 12:23 - 12:25
    kasutades sotsiaalseid meetodeid.
  • 12:25 - 12:28
    Samal ajal, kui ma siin räägin,
    on kuskil firmas mõni töötaja,
  • 12:28 - 12:32
    kes on nõustunud andma oma kontoandmed
  • 12:32 - 12:35
    kellelegi, kes väitis end
    olevat IT osakonnast.
  • 12:35 - 12:37
    Võimalikud on ka põnevamad asjade arengud.
  • 12:37 - 12:38
    Näiteks võib tehisintellekt
  • 12:38 - 12:42
    kujutleda oma siseringes
    looklemas elektroode,
  • 12:42 - 12:45
    et luua raadiolaineid,
    mille kaudu suhelda.
  • 12:45 - 12:47
    Või siis teeskleb ta, et on rikkis,
  • 12:47 - 12:51
    ja kui programmeerijad avavad ta,
    et näha, milles on viga,
  • 12:51 - 12:53
    ja vaatavad lähtekoodi — põmm! —
  • 12:53 - 12:55
    ja manipulatsioon on õnnestunud.
  • 12:55 - 12:59
    Või siis kavandab ta meie jaoks
    mingi nutika tehnoloogilise lahenduse
  • 12:59 - 13:00
    ja kui seda rakendame,
  • 13:00 - 13:05
    avaldub mingi salajane kõrvalmõju,
    mida tehisintellekt oli planeerinud.
  • 13:05 - 13:08
    Mõte on selles, et me ei tohiks
    olla kindlad oma võimes
  • 13:08 - 13:12
    hoida superintellektist džinni
    igavesti oma pudelis luku taga.
  • 13:12 - 13:14
    Varem või hiljem pääseb see välja.
  • 13:15 - 13:18
    Ma usun, et peame mõtlema välja,
  • 13:18 - 13:23
    kuidas luua selline superintellekt,
    mis isegi lahtipääsemise korral
  • 13:23 - 13:26
    ei kujutaks see meile ohtu, sest ta
    oleks põhimõtteliselt meie poolel,
  • 13:26 - 13:28
    jagades meiega samu väärtusi.
  • 13:28 - 13:32
    Ma ei näe pääsu sellest
    keerulisest probleemist.
  • 13:33 - 13:36
    Tegelikult üsna optimistlik,
    et seda on võimalik lahendada.
  • 13:36 - 13:40
    Meil ei tarvitse koostada pikka nimekirja
    asjadest, mida väärtustame,
  • 13:40 - 13:44
    või, hullem veel, esitada seda
    mõnes programmeerimiskeeles
  • 13:44 - 13:45
    nagu C++ või Python.
  • 13:45 - 13:48
    See oleks lootusetu ettevõtmine.
  • 13:48 - 13:52
    Selle asemel võiks luua tehisintellekti,
  • 13:52 - 13:55
    mis õpiks väärtustama seda,
    mis on meile oluline
  • 13:55 - 14:01
    ja mis oleks programmeritud nii,
    et ta on automaatselt motiveeritud
  • 14:01 - 14:06
    järgima meiega samu väärtusi või
    käituma nii, nagu meile meeldiks.
  • 14:06 - 14:09
    Seeläbi mõjutaksime tema
    intellekti nii palju, kui võimalik,
  • 14:09 - 14:12
    ja laadiksime talle meie väärtused.
  • 14:13 - 14:14
    See võibki nii minna
  • 14:14 - 14:17
    ja tulemus võib olla
    inimkonnale väga positiivne.
  • 14:18 - 14:21
    Aga see ei toimu automaatselt.
  • 14:21 - 14:25
    Intellektiplahvatuse
    jaoks tuleb paika seada
  • 14:25 - 14:28
    täpselt õiged algtingimused,
  • 14:28 - 14:31
    kui soovime, et plahvatus
    ei väljuks kontrolli alt.
  • 14:31 - 14:34
    Tehisintellekti väärtused peavad
    kattuma meie omadega
  • 14:34 - 14:36
    mitte ainult tavaolukordades,
  • 14:36 - 14:38
    kus me saame lihtsasti
    kontrollida ta käitumist,
  • 14:38 - 14:41
    vaid ka kõigis uudsetes olukordades,
  • 14:41 - 14:43
    mis võivad ette tulla
    suvalisel ajahetkel tulevikus.
  • 14:43 - 14:48
    On ka mõned esoteerilised probleemid,
    mis vajavad lahendamist:
  • 14:48 - 14:50
    tehisintellekti otsustusteooria detailid,
  • 14:50 - 14:52
    toimetulek loogilise ebamäärasusega jne.
  • 14:53 - 14:56
    Tehnilised probleemid,
    mis tuleb ära lahendada,
  • 14:56 - 14:58
    näivad üsna keerulised,
  • 14:58 - 15:01
    mitte küll nii keerulised,
    kui superintellekti enda loomine,
  • 15:01 - 15:04
    aga siiski küllaltki keerulised.
  • 15:04 - 15:05
    Mure on aga järgmine:
  • 15:05 - 15:10
    superintellekti loomine on
    tõeliselt raske väljakutse,
  • 15:10 - 15:13
    ohutu superintellekti loomine
  • 15:13 - 15:15
    nõuab aga veelgi suuremat pingutust.
  • 15:16 - 15:20
    Olukord muutub riskantseks,
    kui keegi juhtub täitma esimese ülesande,
  • 15:20 - 15:23
    täitmata teist ülesannet:
  • 15:23 - 15:25
    kindlustada meie turvalisus.
  • 15:25 - 15:29
    Seega leian, et peaksime
    enne välja töötama lahenduse,
  • 15:29 - 15:32
    kuidas tehisintellekti kontrollida,
  • 15:32 - 15:34
    et see oleks olemas siis,
    kui seda vajame.
  • 15:35 - 15:38
    Võib juhtuda, et me ei saa
    turvalisust ennetavalt tagada,
  • 15:38 - 15:41
    sest mõned elemendid
    saab paika panna alles siis,
  • 15:41 - 15:45
    kui on teada kõik detailid struktuuri
    kohta, kus seda kasutatakse.
  • 15:45 - 15:49
    Aga mida suuremas ulatuses suudame
    turvalisuse eelnevalt kindlustada,
  • 15:49 - 15:53
    seda tõenäolisem on, et
    üleminek tehisintellekti ajastusse
  • 15:53 - 15:54
    laabub hästi.
  • 15:54 - 15:59
    Mulle paistab see asjana,
    mille nimel tasub pingutada,
  • 15:59 - 16:02
    ja ma kujutan ette,
    et kui kõik läheb hästi,
  • 16:02 - 16:07
    siis meenutavad inimesed
    miljoni aasta pärast praegust sajandit
  • 16:07 - 16:11
    ja ehk isegi mõtlevad, et kõige tähtsam
    asi, mida me korda saatsime,
  • 16:11 - 16:13
    oligi just sellega hakkamasaamine.
  • 16:13 - 16:14
    Tänan.
  • 16:14 - 16:17
    (Aplaus)
Title:
Mis juhtub, kui arvutid saavad targemaks kui me ise?
Speaker:
Nick Bostrom
Description:

Tehisintellekti areng on olnud hüppeliselt võimas ning teadlased väidavad, et juba sellel sajandil võib tehisintellekt saada sama "targaks" kui inimene. Ja siis, väidab Nick Bostrom, võtab tehisintellekt asjad üle: "Tehisintellekt on viimane leiutis, mille inimene peab ise looma." Bostrom, kes on filosoofi ja tehnoloogiaekspert palub meil mõelda sügavalt järele selle uue maailma üle, mida me parajasti loome ja mida hakkavad juhtima mõtlevad masinad. Kas targad masinad soodustavad inimkonna ja meie väärtuste püsimist või saavad neil olema omaenda väärtused?

more » « less
Video Language:
English
Team:
closed TED
Project:
TEDTalks
Duration:
16:31

Estonian subtitles

Revisions