WEBVTT

00:00:00.570 --> 00:00:04.947
Ma töötan mitmete matemaatikute, 
filosoofide ja arvutiteadlastega,

00:00:05.767 --> 00:00:09.116
istume nendega ja mõtiskleme,

00:00:09.116 --> 00:00:11.850
muuhulgas ka tehisintellekti tuleviku üle.

00:00:12.160 --> 00:00:16.755
Mõned arvavad, et need teemad
on suhteliselt ulmekad,

00:00:16.755 --> 00:00:19.636
kaugel reaalsusest ja hullumeelsed.

00:00:19.856 --> 00:00:22.816
Aga ütleksin pigem, et vaatame kõigepealt

00:00:22.886 --> 00:00:25.170
milline on tänapäeva inimese olukord.

00:00:25.170 --> 00:00:26.422
(Naer)

00:00:26.532 --> 00:00:29.464
See ongi normaalne asjade seis.

NOTE Paragraph

00:00:29.944 --> 00:00:31.549
Kui aga järele mõelda,

00:00:31.549 --> 00:00:34.602
siis tegelikult oleme üsna hiljuti 
siia planeedile saabunud külalised,

00:00:34.602 --> 00:00:36.944
meie, inimesed.

00:00:37.164 --> 00:00:41.430
Kui planeet Maa oleks loodud aasta tagasi.

00:00:41.430 --> 00:00:44.978
oleks inimene kõigest 10 minuti vanune.

00:00:44.978 --> 00:00:48.146
Industriaalajastu oleks alanud 
2 sekundit tagasi.

00:00:49.276 --> 00:00:54.371
Või mõelge näiteks maailmamajanduse 
SKP-le viimase 10 000 aasta jooksul.

00:00:54.501 --> 00:00:57.810
Olen siin näinud vaeva 
ja teinud teie jaoks graafiku,

00:00:57.810 --> 00:00:59.264
mis näeb välja selline.

00:00:59.314 --> 00:01:00.667
(Naer)

00:01:00.667 --> 00:01:03.048
Kujult on see veidi imelik, 
kuigi tegu on tavaolukorraga.

00:01:03.048 --> 00:01:04.946
Sellele istuda küll ei tahaks.

00:01:04.946 --> 00:01:07.067
(Naer)

NOTE Paragraph

00:01:07.067 --> 00:01:11.841
Küsigem aga endalt, mis on 
praeguse anomaalia põhjuseks?

00:01:11.841 --> 00:01:14.393
Mõnede arvates on see tehnoloogia.

00:01:14.393 --> 00:01:19.061
Tõepoolest, tehnoloogia on 
inimajaloo vältel akumuleerunud,

00:01:19.061 --> 00:01:23.713
ja hetkel areneb tehnoloogia 
erakordselt kiiresti.

00:01:23.713 --> 00:01:25.278
See on ligikaudne põhjus,

00:01:25.278 --> 00:01:27.843
mis seletab, miks oleme 
praegu nii produktiivsed.

00:01:28.473 --> 00:01:32.134
Tahan aga vaadata kaugemale, 
et leida tegelik põhjus.

NOTE Paragraph

00:01:33.114 --> 00:01:36.880
Vaadake neid kahte 
silmapaistvat härrasmeest.

00:01:36.880 --> 00:01:38.480
Üks neist on Kanzi.

00:01:38.480 --> 00:01:40.793
Ta on õppinud selgeks 200 tähendusmärki,

00:01:40.793 --> 00:01:43.123
mis on tema jaoks erakordne saavutus.

00:01:43.123 --> 00:01:46.817
Ed Witten aga käivitas 
teise superstringirevolutsiooni.

00:01:46.817 --> 00:01:49.141
Kui vaatame kapoti alla, 
siis mida me näeme?

00:01:49.141 --> 00:01:50.711
Sisuliselt sama pilti.

00:01:50.711 --> 00:01:52.524
Üks on natuke suurem

00:01:52.524 --> 00:01:55.282
ning ülesehituselt ehk veidi keerukam.

00:01:55.282 --> 00:01:59.094
Need nähtamatud erinevused ei saa 
siiski olla kuigi olulised,

00:01:59.094 --> 00:02:02.869
sest meie viimasest ühisest eellasest

00:02:02.869 --> 00:02:05.461
eristab meid vaid 250 000 põlvkonda.

00:02:05.461 --> 00:02:08.960
On teada, et keerukate mehhanismide
väljakujunemiseks läheb kaua aega.

00:02:10.000 --> 00:02:12.499
Vaid mõned suhteliselt väikesed muutused

00:02:12.499 --> 00:02:15.566
on toonud meid Kanzist Wittenini,

00:02:15.566 --> 00:02:20.109
murdunud puuokstest mandrite-
vaheliste ballistiliste rakettideni.

NOTE Paragraph

00:02:20.839 --> 00:02:24.774
On üsna ilmne, et kõik, 
mida oleme saavutanud

00:02:24.774 --> 00:02:26.152
ja mis on meile oluline,

00:02:26.152 --> 00:02:31.380
sõltub vaid mõnest suhteliselt väikesest
muutusest, mis kujundasid inimmõistuse.

00:02:32.650 --> 00:02:36.312
Oluline on mõista,
et mis tahes edasised muutused,

00:02:36.312 --> 00:02:39.789
mis võivad avaldada olulist mõju 
mõtlemise mehhanismidele,

00:02:39.789 --> 00:02:42.991
võivad kaasa tuua väga tõsiseid tagajärgi.

NOTE Paragraph

00:02:44.321 --> 00:02:47.226
Mul on kolleege, kelle arvates 
oleme millegi lävel,

00:02:47.226 --> 00:02:51.134
mis võib põhjustada mõtlemise
mehhanismis radikaalseid muutusi,

00:02:51.134 --> 00:02:54.347
ja see miski on tehislik superintellekt.

00:02:54.347 --> 00:02:59.086
Tehisintellekt tähendas varasemalt
käskude sisestamist kastikestesse,

00:02:59.086 --> 00:03:00.751
sellega tegelesid programmeerijad,

00:03:00.751 --> 00:03:04.336
kes lõid nn tarku lahendusi 
peene käsitööna.

00:03:04.506 --> 00:03:05.972
Nii ehitati üles ekspertsüsteemid

00:03:05.972 --> 00:03:08.296
ja neist oli kasu teatud ülesannete puhul,

00:03:08.296 --> 00:03:10.977
kuid nad olid väga haprad 
ja vähepaindlikud.

00:03:10.977 --> 00:03:14.410
Väljundi kvaliteet olenes praktiliselt
ainult sisestatud infost.

00:03:14.410 --> 00:03:18.377
Nüüdseks aga on tehisintellekti vallas
toimunud paradigma nihe.

NOTE Paragraph

00:03:18.874 --> 00:03:21.644
Täna keskendutakse hoopis 
masinõppimise arendamisele.

00:03:22.394 --> 00:03:28.021
Selle asemel, et valmistada andmeesitlust 
ja tarvikuid käsitööna,

00:03:28.511 --> 00:03:34.065
luuakse algoritme, mis suudavad õppida, 
ja seda ka töötlemata tajuandmetest.

00:03:34.305 --> 00:03:38.383
Sisuliselt sama asi, mida teeb imik.

00:03:39.063 --> 00:03:43.270
Tulemuseks on tehisintellekt, mis pole 
piiratud vaid ühe valdkonnaga:

00:03:43.270 --> 00:03:47.901
sama süsteem võib õppida tõlkima 
ükskõik milliste keelte vahel

00:03:47.901 --> 00:03:53.338
või õppida Atari konsoolil mängima 
mis tahes arvutimängu.

00:03:53.338 --> 00:03:55.117
Loomulikult

00:03:55.117 --> 00:03:59.116
ei ole tehisintellektil siiski kaugeltki 
nii võimsat valdkondadeülest oskust

00:03:59.116 --> 00:04:02.335
õppida ja planeerida kui inimestel.

00:04:02.335 --> 00:04:04.461
Ajukoores on endiselt mõningaid 
algoritmilisi iseärasusi,

00:04:04.461 --> 00:04:06.816
mida pole suudetud 
masinates jäljendada.

NOTE Paragraph

00:04:07.886 --> 00:04:10.415
Küsimus on seega, 
kui kaugel veel oleme sellest

00:04:10.415 --> 00:04:13.285
et suudaksime neid iseärasusi jäljendada?

00:04:14.245 --> 00:04:15.328
Paar aastat tagasi

00:04:15.328 --> 00:04:18.216
viisime läbi küsitluse juhtivate 
tehisintellektiekspertide seas,

00:04:18.216 --> 00:04:19.216
et teada saada, mida nad arvavad.

00:04:19.216 --> 00:04:21.440
Üks küsimustest oli selline:

00:04:21.440 --> 00:04:24.793
"Mis aastaks on teie hinnangul 
meil 50% tõenäosus,

00:04:24.793 --> 00:04:28.275
et tehisintellekt on jõudnud 
inimesega võrdsele tasemele?"

00:04:28.785 --> 00:04:32.968
Defineerimise inimesega võrdse taseme sellisena,

00:04:32.968 --> 00:04:35.839
mis võimaldaks teha mis tahes tööd 
sama hästi kui täiskasvanud inimene,

00:04:35.839 --> 00:04:39.844
samuti nagu päris-inimene, 
mitte vaid ühes kindlas valdkonnas.

00:04:39.844 --> 00:04:43.494
Keskmine vastus oli 2040. või 2050. aasta,

00:04:43.494 --> 00:04:46.820
sõltuvalt sellest, milliselt
ekspertide grupilt küsiti,

00:04:47.380 --> 00:04:50.339
See võib juhtuda oluliselt 
hiljem või varem,

00:04:50.339 --> 00:04:52.279
õigupoolest ei oska keegi täpselt öelda.

NOTE Paragraph

00:04:53.259 --> 00:04:58.171
Mida me teame, on see, 
et masina andmetöötlusvõimekus

00:04:58.441 --> 00:05:02.542
ületab kaugelt bioloogilise 
võimekuse piirid.

00:05:03.241 --> 00:05:05.619
Selle on seletatav füüsikaga.

00:05:05.619 --> 00:05:10.337
Bioloogiline neuron töötab sagedusel 
umbes 200 hertsi, st 200 tsüklit sekundis.

00:05:10.337 --> 00:05:13.931
Kuid tänapäevane transistorgi 
opereerib juba gigahertsides.

00:05:13.931 --> 00:05:19.228
Neuronid levivad närvikiu telgniitides 
aeglaselt, max 100 meetrit sekundis

00:05:19.228 --> 00:05:22.339
Arvutites võivad signaalid 
levida aga valguskiirusel.

00:05:23.079 --> 00:05:24.948
On ka suuruse piirangud:

00:05:24.948 --> 00:05:27.975
inimaju peab mahtuma ära kolju sisse,

00:05:27.975 --> 00:05:31.996
arvuti võib olla aga laohoone 
mõõtu või suuremgi.

00:05:32.736 --> 00:05:38.335
Tehisintellekti potentsiaal 
on praegu mateerias peidus,

00:05:38.335 --> 00:05:44.047
samamoodi nagu aatomi jõud oli 
kogu inimkonna ajaloo vältel peidus,

00:05:44.047 --> 00:05:48.042
oodates kannatlikult kuni 1945. aastani.

00:05:48.452 --> 00:05:49.700
Sellel sajandil

00:05:49.700 --> 00:05:53.818
võivad teadlased äratada 
tehisintellekti jõu.

00:05:53.818 --> 00:05:57.826
Ja ma arvan, et siis saame näha 
tõelist intellektiplahvatust.

NOTE Paragraph

00:05:58.406 --> 00:06:02.363
Enamik inimesi, mõeldes sellele, 
kes on tark ja kes rumal,

00:06:02.363 --> 00:06:05.386
kujutlevad ilmselt midagi sellist:

00:06:05.386 --> 00:06:07.984
skaala ühes otsas on külaloll

00:06:07.984 --> 00:06:10.467
ja siis kaugel teises otsas

00:06:10.467 --> 00:06:15.103
Ed Witten, Albert Einstein või 
kes iganes teie lemmikguru on.

00:06:15.403 --> 00:06:19.427
Kuid ma arvan, et tehisintellekti
perspektiivist vaadatuna

00:06:19.427 --> 00:06:22.738
on tegelik pilt pigem selline:

00:06:23.258 --> 00:06:26.636
tehisintellekt alustab null-punktist

00:06:26.636 --> 00:06:29.647
ning pärast aastaid kestnud
väga tõsist tööd

00:06:29.647 --> 00:06:33.491
jõuab tehisintellekt lõpuks 
hiirega võrreldavale tasemele,

00:06:33.491 --> 00:06:35.921
suutes orienteeruda 
keerukas keskkonnas

00:06:35.921 --> 00:06:37.908
sama hästi nagu hiir.

00:06:37.908 --> 00:06:42.221
Siis kulub veel palju aastaid 
tõsist tööd ja investeeringuid,

00:06:42.221 --> 00:06:46.860
et tehisintellekt võiks jõuda
samale tasemele šimpansiga.

00:06:46.860 --> 00:06:50.070
Seejärel kulub veelgi rohkem aastaid 
tõeliselt rasket tööd,

00:06:50.070 --> 00:06:52.983
et saavutada külalolli 
tasemel tehisintellekt.

00:06:52.983 --> 00:06:56.255
Aga sealt vaid hetke pärast oleme 
juba Ed Wittenist möödas,

00:06:56.255 --> 00:06:59.225
kuid inimkond ei olegi lõpp-peatus.

00:06:59.225 --> 00:07:02.247
Tõenäoliselt vuhiseb 
ta sealt kiirelt mööda.

NOTE Paragraph

00:07:02.247 --> 00:07:04.231
Potentsiaalsed tagajärjed on tõsised,

00:07:04.231 --> 00:07:08.093
eriti mis puudutab võimu ja kontrolli.

00:07:08.093 --> 00:07:09.992
Šimpansid on näiteks väga tugevad,

00:07:09.992 --> 00:07:15.214
umbes kaks korda tugevamad kui inimesed.

00:07:15.214 --> 00:07:20.918
Ometi oleneb Kanzi ja ta sõprade
saatus palju rohkem inimeste,

00:07:20.918 --> 00:07:23.968
kui nende endi tegevusest.

00:07:25.188 --> 00:07:27.542
Kui superintellekt on kord juba loodud,

00:07:27.542 --> 00:07:31.381
võib inimkonna saatus hakata sõltuma 
sellest, mida see superintellekt teeb.

00:07:32.451 --> 00:07:33.758
Mõelgem sellele:

00:07:33.918 --> 00:07:38.552
tehisintellekt on leiutiste seas viimane, 
mille inimkond peab ise looma.

00:07:38.552 --> 00:07:41.525
Peale seda on masinad leiutamises 
osavamad kui me ise

00:07:41.525 --> 00:07:44.065
ja seda digitaalsetel ajaskaaladel.

00:07:44.065 --> 00:07:48.966
See tähendab sisuliselt 
tulevikku hüppamist.

00:07:48.966 --> 00:07:52.524
Mõelge kõikvõimalikele pöörastele 
tehnoloogiatele, mida olete ettekujutanud,

00:07:52.524 --> 00:07:55.322
ja milleni inimesed oleksid 
võib-olla kunagi ka jõudnud:

00:07:55.322 --> 00:07:58.580
vananemise peatamine, 
kosmose koloniseerimine,

00:07:58.580 --> 00:08:02.311
isepaljunevad nanorobotid või 
inimteadvuse üleslaadimine arvutitesse,

00:08:02.311 --> 00:08:04.470
kõikvõimalikud ulmelised asjad,

00:08:04.470 --> 00:08:07.207
mis on ometi kooskõlas füüsikaseadustega.

00:08:07.207 --> 00:08:11.419
Kõike seda suudaks superintellekt 
välja mõelda ja ilmselt üsna kiirelt.

NOTE Paragraph

00:08:12.449 --> 00:08:16.007
Sellise tehnoloogilise 
kompetentsiga superintellekt

00:08:16.007 --> 00:08:18.186
oleks äärmiselt võimas

00:08:18.186 --> 00:08:22.732
ning vähemalt mõnel juhul 
võimeline saavutama oma tahtmist.

00:08:22.732 --> 00:08:28.393
Niisiis oleks tulevik kujundatud 
tehisintellekti eelistuste järgi.

00:08:29.615 --> 00:08:33.604
On hea küsimus, 
et mida nad siis tahaksid teha?

00:08:34.244 --> 00:08:36.013
Siin läheb asi keerulisemaks.

00:08:36.013 --> 00:08:37.448
Et sellele küsimusele vastata,

00:08:37.448 --> 00:08:40.724
peame kõigepealt hoiduma 
antropomorfismist.

00:08:41.934 --> 00:08:45.235
See on irooniline, 
sest iga ajaleheartikli juures,

00:08:45.235 --> 00:08:48.180
mis räägib tehisintellekti 
tulevikust, on selline pilt:

00:08:50.280 --> 00:08:54.414
Ma arvan, et peame sellele küsimusele 
vastamisel mõtlema abstraktsemalt,

00:08:54.414 --> 00:08:57.204
mitte lennukate Hollywoodi 
stsenaariumide stiilis.

NOTE Paragraph

00:08:57.204 --> 00:09:00.821
Peame mõtlema intellektist
kui optimiseerimisprotsessist,

00:09:00.821 --> 00:09:06.470
mis juhib meie tulevikku teatud 
konkreetsete konfiguratsioonide suunas.

00:09:06.470 --> 00:09:09.981
Superintellekt on tõeliselt 
tõhus optimiseerimisprotsess.

00:09:09.981 --> 00:09:14.098
Kasutades olemasolevaid vahendeid,
toimib see äärmiselt efektiivselt

00:09:14.098 --> 00:09:16.007
kuni eesmärk on saavutatud.

00:09:16.447 --> 00:09:19.119
See tähendab, et enam pole kõrge intellekt

00:09:19.119 --> 00:09:21.853
seotud eesmärkidega,

00:09:21.853 --> 00:09:26.515
mis meie, inimeste, arust on
on olulised ja mõistlikud.

NOTE Paragraph

00:09:27.321 --> 00:09:31.115
Oletame, et anname tehisintellektile 
ülesande panna meid naeratama.

00:09:31.115 --> 00:09:34.097
Kui tehisintellekt on madal, 
püüab see lahutada meie meelt,

00:09:34.097 --> 00:09:36.614
et kutsuda esile naeratus.

00:09:36.614 --> 00:09:39.031
Kui tehisintellektist saab superintellekt,

00:09:39.031 --> 00:09:42.554
mõistab see, et eesmärgi saavutamiseks 
on olemas efektiivsem viis:

00:09:42.554 --> 00:09:44.476
saada maailma valitsejaks

00:09:44.476 --> 00:09:47.638
ja torgata inimeste 
näolihastesse elektroodid,

00:09:47.638 --> 00:09:50.579
mis manavad meie näole
püsiva ja särava irve.

00:09:50.579 --> 00:09:51.614
Teine näide:

00:09:51.614 --> 00:09:54.997
oletame, et tehisintellekt peab 
lahendama keerulise matemaatikaülesande

00:09:54.997 --> 00:09:56.934
Superintellektiks saades

00:09:56.934 --> 00:10:01.105
mõistab ta, et efektiivseim viis 
ülesande lahendamiseks

00:10:01.105 --> 00:10:04.035
on muuta terve planeet 
hiiglaslikuks arvutiks,

00:10:04.035 --> 00:10:06.281
et suurendada selle analüüsivõimet.

00:10:06.281 --> 00:10:09.045
Pange tähele, et see annab 
tehisintellektile praktilise õigustuse

00:10:09.045 --> 00:10:11.561
teha asju, mida me 
võib-olla heaks ei kiidaks.

00:10:11.561 --> 00:10:13.496
Sellise skeemi puhul on 
inimesed riskifaktorid,

00:10:13.496 --> 00:10:16.417
kes võivad osutuda takistuseks 
ülesande lahendamisel.

NOTE Paragraph

00:10:17.207 --> 00:10:20.701
Tegelikkuses ilmselt päris 
selliseid hulle asju ei juhtu,

00:10:20.701 --> 00:10:22.454
need on pigem filmilikud näited.

00:10:22.454 --> 00:10:24.393
Mis on siin aga oluline, on see,

00:10:24.393 --> 00:10:27.266
et kui luua tõeliselt võimas 
optimiseerimisprotsess,

00:10:27.266 --> 00:10:29.500
et maksimiseerida eesmärgi x saavutamist,

00:10:29.500 --> 00:10:31.776
tuleb veenduda, et x-i definitsioon

00:10:31.776 --> 00:10:34.245
hõlmab endas kõike, mis sulle oluline on.

00:10:34.835 --> 00:10:39.219
Seda õppetundi võime 
kohata paljudes müütides.

00:10:39.219 --> 00:10:44.517
Kuningas Midas soovis, et kõik, 
mida ta puudutab, muutuks kullaks.

00:10:44.517 --> 00:10:47.378
Ta puudutas oma tütart 
ja too muutus kullaks.

00:10:47.378 --> 00:10:49.931
Ta puudutas oma toitu 
ja see muutus kullaks.

00:10:49.931 --> 00:10:52.520
See müüt võib osutuda
reaalselt asjakohaseks

00:10:52.520 --> 00:10:54.590
mitte ainult ahnuse metafoorina,

00:10:54.590 --> 00:10:56.485
vaid ka näitena sellest, mis juhtub,

00:10:56.485 --> 00:10:59.322
kui luua võimas optimiseerimisprotsess

00:10:59.322 --> 00:11:04.111
ja anda sellele mitmeti mõistetavaid 
või ebatäpseid eesmärke.

NOTE Paragraph

00:11:04.111 --> 00:11:09.300
Võib vastu väita, et kui arvuti hakkab
inimestele elektroode näkku panema,

00:11:09.300 --> 00:11:11.565
siis peame arvuti lihtsalt välja lülitama.

00:11:12.555 --> 00:11:17.895
Esiteks ei pruugi see olla lihtne, 
kui oleme saanud süsteemist sõltuvaks.

00:11:17.895 --> 00:11:20.627
Kuidas näiteks internetti välja lülitada?

00:11:20.627 --> 00:11:25.747
Teiseks — miks ei ole šimpansid 
inimesi välja lülitanud?

00:11:25.747 --> 00:11:27.298
Või neandertaallased?

00:11:27.298 --> 00:11:29.964
Põhjusi oleks selleks küllaga.

00:11:29.964 --> 00:11:32.759
Meie väljalülitamisnupp on näiteks siinsamas.

00:11:32.759 --> 00:11:34.313
(Kägistab)

00:11:34.313 --> 00:11:37.238
Põhjus on selles, et me oleme 
intelligetsed vastased.

00:11:37.238 --> 00:11:39.966
Me suudame ohte ette näha ja neid vältida.

00:11:39.966 --> 00:11:42.470
Kuid seda suudaks ka superintellekt

00:11:42.470 --> 00:11:45.724
ja ta oleks selles 
märksa osavam kui meie.

00:11:45.724 --> 00:11:52.911
Me ei peaks olema nii kindlad, 
et olukord on meie kontrolli all.

NOTE Paragraph

00:11:52.911 --> 00:11:56.358
Võime oma ülesannet lihtsustada,

00:11:56.358 --> 00:11:57.948
sulgedes tehisintellekti nö kasti

00:11:57.948 --> 00:11:59.744
ehk turvalisse tarkvarakeskkonda,

00:11:59.744 --> 00:12:02.766
virtuaalreaalsuse simulatsiooni, 
millest see välja ei pääse.

00:12:02.766 --> 00:12:06.912
Kui kindlad saame aga olla, et 
tehisintellekt ei leiaks seal mõnd viga?

00:12:06.912 --> 00:12:10.081
Arvestades, et inimhäkkerid 
avastavad vigu kogu aeg,

00:12:10.081 --> 00:12:13.117
ütleks ma, et ilmselt mitte väga.

00:12:14.237 --> 00:12:18.785
Niisiis tõmbame välja 
võrgukaabli, et luua õhuauk,

00:12:18.785 --> 00:12:22.313
kuid jälle, isegi inimhäkkerid hiilivad
õhuaukudest pidevalt mööda

00:12:23.163 --> 00:12:25.014
kasutades sotsiaalseid meetodeid.

00:12:25.383 --> 00:12:28.022
Samal ajal, kui ma siin räägin, 
on kuskil firmas mõni töötaja,

00:12:28.482 --> 00:12:31.828
kes on nõustunud andma oma kontoandmed

00:12:31.828 --> 00:12:34.574
kellelegi, kes väitis end
olevat IT osakonnast.

NOTE Paragraph

00:12:34.574 --> 00:12:36.701
Võimalikud on ka põnevamad asjade arengud.

00:12:36.701 --> 00:12:38.016
Näiteks võib tehisintellekt

00:12:38.016 --> 00:12:41.548
kujutleda oma siseringes 
looklemas elektroode,

00:12:41.548 --> 00:12:45.010
et luua raadiolaineid, 
mille kaudu suhelda.

00:12:45.010 --> 00:12:47.434
Või siis teeskleb ta, et on rikkis,

00:12:47.434 --> 00:12:50.931
ja kui programmeerijad avavad ta, 
et näha, milles on viga,

00:12:50.931 --> 00:12:52.867
ja vaatavad lähtekoodi — põmm! —

00:12:52.867 --> 00:12:55.314
ja manipulatsioon on õnnestunud.

00:12:55.314 --> 00:12:58.744
Või siis kavandab ta meie jaoks 
mingi nutika tehnoloogilise lahenduse

00:12:58.744 --> 00:13:00.142
ja kui seda rakendame,

00:13:00.142 --> 00:13:04.539
avaldub mingi salajane kõrvalmõju, 
mida tehisintellekt oli planeerinud.

00:13:04.539 --> 00:13:08.002
Mõte on selles, et me ei tohiks 
olla kindlad oma võimes

00:13:08.002 --> 00:13:11.810
hoida superintellektist džinni 
igavesti oma pudelis luku taga.

00:13:11.810 --> 00:13:14.064
Varem või hiljem pääseb see välja.

NOTE Paragraph

00:13:15.034 --> 00:13:18.137
Ma usun, et peame mõtlema välja,

00:13:18.137 --> 00:13:23.161
kuidas luua selline superintellekt, 
mis isegi lahtipääsemise korral

00:13:23.161 --> 00:13:26.438
ei kujutaks see meile ohtu, sest ta 
oleks põhimõtteliselt meie poolel,

00:13:26.438 --> 00:13:28.337
jagades meiega samu väärtusi.

00:13:28.337 --> 00:13:31.547
Ma ei näe pääsu sellest 
keerulisest probleemist.

NOTE Paragraph

00:13:33.377 --> 00:13:36.391
Tegelikult üsna optimistlik, 
et seda on võimalik lahendada.

00:13:36.391 --> 00:13:40.294
Meil ei tarvitse koostada pikka nimekirja 
asjadest, mida väärtustame,

00:13:40.294 --> 00:13:43.937
või, hullem veel, esitada seda 
mõnes programmeerimiskeeles

00:13:43.937 --> 00:13:45.391
nagu C++ või Python.

00:13:45.391 --> 00:13:48.158
See oleks lootusetu ettevõtmine.

00:13:48.158 --> 00:13:51.855
Selle asemel võiks luua tehisintellekti,

00:13:51.855 --> 00:13:54.876
mis õpiks väärtustama seda, 
mis on meile oluline

00:13:55.156 --> 00:14:00.506
ja mis oleks programmeritud nii,
et ta on automaatselt motiveeritud

00:14:00.506 --> 00:14:05.738
järgima meiega samu väärtusi või 
käituma nii, nagu meile meeldiks.

00:14:05.738 --> 00:14:09.152
Seeläbi mõjutaksime tema 
intellekti nii palju, kui võimalik,

00:14:09.152 --> 00:14:11.897
ja laadiksime talle meie väärtused.

NOTE Paragraph

00:14:12.727 --> 00:14:14.239
See võibki nii minna

00:14:14.239 --> 00:14:17.395
ja tulemus võib olla 
inimkonnale väga positiivne.

00:14:17.725 --> 00:14:21.262
Aga see ei toimu automaatselt.

00:14:21.472 --> 00:14:24.790
Intellektiplahvatuse 
jaoks tuleb paika seada

00:14:24.790 --> 00:14:27.653
täpselt õiged algtingimused,

00:14:27.653 --> 00:14:30.853
kui soovime, et plahvatus 
ei väljuks kontrolli alt.

00:14:31.183 --> 00:14:33.801
Tehisintellekti väärtused peavad 
kattuma meie omadega

00:14:33.801 --> 00:14:35.561
mitte ainult tavaolukordades,

00:14:35.561 --> 00:14:37.999
kus me saame lihtsasti 
kontrollida ta käitumist,

00:14:37.999 --> 00:14:40.583
vaid ka kõigis uudsetes olukordades,

00:14:40.583 --> 00:14:42.650
mis võivad ette tulla
suvalisel ajahetkel tulevikus.

NOTE Paragraph

00:14:42.790 --> 00:14:47.527
On ka mõned esoteerilised probleemid, 
mis vajavad lahendamist:

00:14:47.527 --> 00:14:49.616
tehisintellekti otsustusteooria detailid,

00:14:49.616 --> 00:14:52.480
toimetulek loogilise ebamäärasusega jne.

00:14:53.330 --> 00:14:56.432
Tehnilised probleemid, 
mis tuleb ära lahendada,

00:14:56.432 --> 00:14:57.545
näivad üsna keerulised,

00:14:57.545 --> 00:15:00.925
mitte küll nii keerulised, 
kui superintellekti enda loomine,

00:15:00.925 --> 00:15:03.573
aga siiski küllaltki keerulised.

00:15:03.793 --> 00:15:05.488
Mure on aga järgmine:

00:15:05.488 --> 00:15:09.662
superintellekti loomine on 
tõeliselt raske väljakutse,

00:15:10.162 --> 00:15:12.720
ohutu superintellekti loomine

00:15:12.720 --> 00:15:15.136
nõuab aga veelgi suuremat pingutust.

00:15:16.216 --> 00:15:19.703
Olukord muutub riskantseks, 
kui keegi juhtub täitma esimese ülesande,

00:15:19.703 --> 00:15:22.704
täitmata teist ülesannet:

00:15:22.704 --> 00:15:24.605
kindlustada meie turvalisus.

NOTE Paragraph

00:15:25.375 --> 00:15:28.706
Seega leian, et peaksime 
enne välja töötama lahenduse,

00:15:28.706 --> 00:15:31.528
kuidas tehisintellekti kontrollida,

00:15:31.528 --> 00:15:34.188
et see oleks olemas siis, 
kui seda vajame.

00:15:34.768 --> 00:15:38.275
Võib juhtuda, et me ei saa 
turvalisust ennetavalt tagada,

00:15:38.275 --> 00:15:41.299
sest mõned elemendid 
saab paika panna alles siis,

00:15:41.299 --> 00:15:45.296
kui on teada kõik detailid struktuuri 
kohta, kus seda kasutatakse.

00:15:45.296 --> 00:15:48.676
Aga mida suuremas ulatuses suudame 
turvalisuse eelnevalt kindlustada,

00:15:48.676 --> 00:15:52.766
seda tõenäolisem on, et 
üleminek tehisintellekti ajastusse

00:15:52.766 --> 00:15:54.306
laabub hästi.

NOTE Paragraph

00:15:54.306 --> 00:15:58.950
Mulle paistab see asjana, 
mille nimel tasub pingutada,

00:15:58.950 --> 00:16:02.282
ja ma kujutan ette, 
et kui kõik läheb hästi,

00:16:02.282 --> 00:16:06.940
siis meenutavad inimesed
miljoni aasta pärast praegust sajandit

00:16:06.940 --> 00:16:10.942
ja ehk isegi mõtlevad, et kõige tähtsam 
asi, mida me korda saatsime,

00:16:10.942 --> 00:16:12.509
oligi just sellega hakkamasaamine.

NOTE Paragraph

00:16:12.509 --> 00:16:14.198
Tänan.

NOTE Paragraph

00:16:14.198 --> 00:16:17.011
(Aplaus)