< Return to Video

Mi történik, ha a számítógépeink nálunk okosabbak lesznek?

  • 0:01 - 0:05
    Több matematikussal, filozófussal
    és számítógépes szakemberrel dolgozom,
  • 0:05 - 0:10
    akikkel együtt gondolkodunk
    a gépi intelligencia, értelem jövőjéről
  • 0:10 - 0:12

    és számos más kérdésről.
  • 0:12 - 0:15
    Néhányan azt gondolják,
    egyes kérdéseink
  • 0:15 - 0:19
    sci-fibe illő, elvont őrültségek.
  • 0:19 - 0:21
    Rendben, szoktam mondani,
    de nézzük meg,
  • 0:21 - 0:25
    milyen ma az ember helyzete.
  • 0:25 - 0:27
    (Nevetés)
  • 0:27 - 0:29
    Ez a szokásos állapot,
    ahogy annak lennie kell.
  • 0:29 - 0:31
    Ám ha utánagondolunk, mi, emberek
  • 0:31 - 0:34
    csak nemrég érkezett vendégek vagyunk
  • 0:34 - 0:36
    ezen a bolygón.
  • 0:36 - 0:41
    Képzeljük el, hogy a Föld
    csak egy éve jött lére,
  • 0:41 - 0:45
    így az emberi faj tíz perce létezne.
  • 0:45 - 0:48
    Az ipari korszak csak
    két másodperce kezdődött.
  • 0:49 - 0:55
    Máshonnan nézve a kérdést, gondoljunk
    a világ elmúlt 10 000 évi GDP-jére.
  • 0:55 - 0:58
    Vettem magamnak a fáradságot,
  • 0:58 - 1:00
    és készítettem önöknek egy grafikont. Íme!
  • 1:00 - 1:01
    (Nevetés)
  • 1:01 - 1:04
    Egy normál állapothoz képest
    elég furcsa görbe.
  • 1:04 - 1:05
    Hát, én biztos nem szeretnék ráülni.
  • 1:05 - 1:07
    (Nevetés)
  • 1:07 - 1:12
    Tegyük fel magunknak a kérdést,
    mi az oka ennek a szabálytalanságnak?
  • 1:12 - 1:14
    Néhányan a technológiát neveznék meg.
  • 1:14 - 1:19
    Valóban, a technológiai megoldások
    egyre tökéletesedtek a történelem során,
  • 1:19 - 1:23
    és éppen most a technológiai fejlődés
  • 1:23 - 1:25
    hihetetlenül felgyorsult,
    ami közvetlen oka
  • 1:25 - 1:28
    jelenlegi magas termelékenységünknek.
  • 1:28 - 1:32
    De szeretnék jobban
    visszamenni a tényleges okig.
  • 1:33 - 1:37
    Nézzük csak ezt a két kiváló urat!
  • 1:37 - 1:38
    Itt van Kanzi,
  • 1:38 - 1:43
    aki 200 nyelvi szimbólumot tanult meg,
    ami hihetetlen teljesítmény,
  • 1:43 - 1:47
    és Ed Witten, aki elindította
    a második szuperhúr forradalmat.
  • 1:47 - 1:49
    Ha benézünk a burkolat alá,
  • 1:49 - 1:51
    ott alapvetően ugyanazt találjuk.
  • 1:51 - 1:53
    Az egyikük kicsit nagyobb, s esetleg
  • 1:53 - 1:55
    a kapcsolatokban is van
    egy-két trükkös megoldás.
  • 1:55 - 1:59
    De ezek a láthatatlan különbségek
    nem lehetnek nagyon bonyolultak,
  • 1:59 - 2:03
    mivel mi csupán
    250 000 nemzedéknyire vagyunk
  • 2:03 - 2:05
    utolsó közös ősünktől.
  • 2:05 - 2:10
    Tudjuk, hogy az összetett mechanizmusok
    kifejlődéséhez hosszú időre van szükség.
  • 2:10 - 2:12
    Tehát jó néhány viszonylag kisebb változás
  • 2:12 - 2:16
    elvezet Kanzitól Wittenig,
  • 2:16 - 2:20
    a letört faágaktól az interkontinentális
    ballisztikus rakétákig.
  • 2:21 - 2:23
    Ezért eléggé nyilvánvaló, hogy minden,
  • 2:23 - 2:27
    amit elértünk, ami fontos számunkra,
  • 2:27 - 2:32
    alapvetően pár kisebb változás eredménye,
    melyek kialakították az emberi elmét.
  • 2:33 - 2:36
    Következésképpen,
    minden további változásnak,
  • 2:36 - 2:39
    ami jelentősen módosíthatja
  • 2:39 - 2:43
    a gondolkodás alapjait,
    óriási kihatása lehet.
  • 2:44 - 2:47
    Néhány kollégám szerint
    közel járunk valamihez,
  • 2:47 - 2:51
    ami gyökeresen megváltoztathatja
    gondolkodásunk alapjait:
  • 2:51 - 2:54
    ez pedig a gépi szuperértelem.
  • 2:54 - 2:58
    A mesterséges intelligencia
    eddig azt jelentette,
  • 2:58 - 3:01
    hogy parancsokat írunk egy dobozba.
    A programozók egyesével,
  • 3:01 - 3:04
    aprólékosan pötyögték be a tudnivalókat.
  • 3:04 - 3:06
    Felépítettük a szakértői rendszereket,
  • 3:06 - 3:08
    amelyek megfeleltek néhány célra,
  • 3:08 - 3:11
    de nagyon merevek
    és skálázhatatlanok voltak.
  • 3:11 - 3:14
    Alapvetően csak az jött ki,
    amit beletettünk.
  • 3:14 - 3:16
    De azóta
  • 3:16 - 3:19
    paradigmaváltás történt
    a mesterséges intelligencia területén.
  • 3:19 - 3:22
    Ma már a gépi tanulásról
    szól a történet.
  • 3:22 - 3:28
    Ismeretek manuális bütykölése helyett
  • 3:29 - 3:34
    tanuló algoritmusokat alkotunk,
    gyakorta közvetlenül az észlelt adatokból.
  • 3:34 - 3:39
    Tulajdonképpen úgy,
    ahogy a kisgyerekek csinálják.
  • 3:39 - 3:43
    Az eredmény a mesterséges intelligencia
    (MI), mely nem korlátozódik egy területre:
  • 3:43 - 3:48
    ugyanaz a rendszer megtanulhat
    bármely két nyelv között fordítani,
  • 3:48 - 3:53
    vagy bármilyen számítógépes játékot
    játszani egy Atari konzolon.
  • 3:53 - 3:55
    Azért persze az MI-nek
    még távolról sincs meg
  • 3:55 - 3:59
    az a figyelemre méltó,
    több területet átfogó képessége,
  • 3:59 - 4:02
    hogy ember módjára tanuljon és tervezzen.
  • 4:02 - 4:05
    Az agykéregnek van
    néhány algoritmikus trükkje,
  • 4:05 - 4:08
    melyet még nem tudunk gépekkel utánozni.
  • 4:08 - 4:10
    Szóval az a kérdés,
  • 4:10 - 4:13
    milyen messze vagyunk attól,
    hogy lemásoljuk ezeket a trükköket?
  • 4:14 - 4:16
    Néhány éve felmérést végeztünk
  • 4:16 - 4:18
    a világ néhány vezető
    MI szakértőjének bevonásával,
  • 4:18 - 4:21
    hogy lássuk, mit gondolnak a jövőről.
    Egyik kérdésünk így szólt:
  • 4:21 - 4:25
    ''Mikorra gondolja,
    hogy 50%-os valószínűséggel meglesz
  • 4:25 - 4:28
    az emberi szinvonalú gépi értelem?''
  • 4:29 - 4:33
    Az emberi szintet úgy határoztuk meg,
    mint olyan képességet,
  • 4:33 - 4:36
    amellyel egy felnőtt csaknem
    bármely tevékenységet
  • 4:36 - 4:40
    egyformán jól elvégezhet,
    nem csak egyszerű feladatokat.
  • 4:40 - 4:43
    A válaszok mediánja, azaz középértéke
    2040 vagy 2050 volt,
  • 4:43 - 4:46
    attól függően, melyik
    szakértői csoportot kérdeztük meg.
  • 4:46 - 4:50
    Ez az esemény sokkal később
    vagy hamarabb is bekövetkezhet,
  • 4:50 - 4:52
    igazság szerint senki sem tudja.
  • 4:53 - 4:58
    Azt viszont tudjuk,
    hogy a gépi információfeldolgozás
  • 4:58 - 5:03
    végső lehetőségei jóval meghaladják
    az élő agyszövet korlátait.
  • 5:03 - 5:06
    Ez fizikai alapokra vezethető vissza.
  • 5:06 - 5:10
    Egy élő neuron legfeljebb 200 hertzcel
    sül ki, azaz egy másodperc alatt 200-szor.
  • 5:10 - 5:14
    Ezzel szemben ma már egy tranzisztor
    is gigahertzes tartományban üzemel.
  • 5:14 - 5:19
    A neuronok axonjai lassan,
    legföljebb 100 m/s sebességgel működnek.
  • 5:19 - 5:22
    De a számítógépekben a jelek
    fénysebességgel terjedhetnek.
  • 5:23 - 5:25
    És ott vannak a méret adta korlátok:
  • 5:25 - 5:28
    az emberi agynak
    bele kell férnie a koponyába,
  • 5:28 - 5:33
    de egy számítógép raktárméretű
    vagy még nagyobb is lehet.
  • 5:33 - 5:38
    A szuperértelem lehetősége
    ott szunnyad az anyagban,
  • 5:38 - 5:44
    akár az atomerő, amely a történelem során
  • 5:44 - 5:48
    türelmesen várt ébredésére 1945-ig.
  • 5:48 - 5:50
    Ebben az évszázadban
  • 5:50 - 5:54
    a kutatók rájöhetnek,
    hogyan kell életre hívni az MI erejét.
  • 5:54 - 5:58
    Úgy gondolom, intelligencia-robbanást
    láthatunk majd.
  • 5:58 - 6:02
    A legtöbbünk, amikor arra gondol,
    mi az okosság és a butaság,
  • 6:02 - 6:05
    szerintem nagyjából
    egy ilyen képet fest maga elé.
  • 6:05 - 6:08
    A skála egyik végén ott a falu bolondja
  • 6:08 - 6:10
    és valahol, jó messze a másik végén
  • 6:10 - 6:15
    ott van Ed Witten vagy Albert Einstein,
    vagy bárki a kedvenc guruink közül.
  • 6:15 - 6:19
    Szerintem a mesterséges
    intelligenciát illetően
  • 6:19 - 6:23
    a valódi helyzet valószínűleg
    inkább így áll:
  • 6:23 - 6:27
    Az MI itt kezdődik,
    a nulla intelligenciánál,
  • 6:27 - 6:30
    aztán nagyon-nagyon sok év
    szorgalmas munkájával,
  • 6:30 - 6:33
    talán eljutunk egy egér szintjének
    megfelelő mesterséges intelligenciához.
  • 6:33 - 6:36
    Olyasmihez, ami eligazodik
    zsúfolt környezetben,
  • 6:36 - 6:38
    úgy, mint azt egy egér teszi.
  • 6:38 - 6:42
    Aztán még sokkal több év szívós
    munkája, rengeteg befektetés árán
  • 6:42 - 6:47
    talán elérjük
    egy csimpánz szintjének megfelelő MI-t.
  • 6:47 - 6:50
    Majd még több évnyi
    nagyon-nagyon kitartó munkával
  • 6:50 - 6:53
    elérjük a falu bolondjának MI szintjét.
  • 6:53 - 6:56
    Csak egy pillanattal később
    már lekörözzük Ed Wittent.
  • 6:56 - 6:59
    A vonat nem áll meg
    az Emberfalva állomáson,
  • 6:59 - 7:02
    hanem valószínűleg átrobog rajta.
  • 7:02 - 7:04
    Ennek pedig lényeges kihatásai vannak,
  • 7:04 - 7:08
    főleg, ha már erőviszonyokról lesz szó.
  • 7:08 - 7:11
    A csimpánzok például erősek.
  • 7:11 - 7:15
    Súlyához képest a csimpánz kétszer
    olyan erős, mint egy jó erőben lévő férfi.
  • 7:15 - 7:20
    Mégis, Kanzi és társai sorsa
    sokkal inkább attól függ,
  • 7:20 - 7:24
    hogy mi, emberek mit teszünk,
    mint attól, hogy ők mit tesznek.
  • 7:25 - 7:28
    Ha egyszer eljön a szuperértelem kora,
  • 7:28 - 7:31
    az emberiség sorsa attól függhet,
    amit ez a szuperértelem művel.
  • 7:32 - 7:34
    Gondoljunk csak bele!
    A gépi intelligencia lesz
  • 7:34 - 7:39
    az utolsó találmány, amit
    nekünk kell kigondolnunk.
  • 7:39 - 7:42
    A gépek jobb feltalálók lesznek,
    mint mi vagyunk,
  • 7:42 - 7:44
    ráadásul digitális időkeretben működnek.
  • 7:44 - 7:48
    Alapvetően ez a jövő
    felgyorsulását jelenti.
  • 7:48 - 7:52
    Gondoljunk az összes elképzelhető,
    eszement technológiára,
  • 7:52 - 7:56
    amelyeket ha elég időnk lenne,
    talán kifejleszthetnénk:
  • 7:56 - 7:58

    az öregedés ellenszere, az űr meghódítása,
  • 7:58 - 8:03
    önmagukat reprodukáló nanobotok,
    az emberi elme gépre történő feltöltése
  • 8:03 - 8:04

    és még mindenféle sci-fibe illő ötlet,
  • 8:04 - 8:07
    amelyek azért a fizikai
    törvényeknek nem mondanak ellent.
  • 8:07 - 8:12
    Egy szuperértelem mindezt talán
    elég gyorsan ki tudná fejleszteni.
  • 8:12 - 8:16
    Egy ilyen kifinomult technológiájú
    szuperértelemnek
  • 8:16 - 8:18
    rendkívüli hatalma lenne, mellyel legalább
  • 8:18 - 8:23
    néhány esetben el tudná érni, amit akar.
  • 8:23 - 8:28
    A jövőnket ekkor ennek az MI-nek
    a szempontjai alakítanák.
  • 8:30 - 8:34
    Jó kérdés, melyek is ezek a szempontok?
  • 8:34 - 8:36
    Itt kezd rázóssá válni a dolog.
  • 8:36 - 8:37
    Hogy valahová is eljussunk,
  • 8:37 - 8:41
    először is el kell kerülnünk
    az antropomorfizálást.
  • 8:42 - 8:46
    Ez azért ironikus,
    mert az MI jövőjéről szóló
  • 8:46 - 8:49
    minden újságcikkben ilyen kép szerepel.
  • 8:50 - 8:54
    A kérdéshez egy kicsit elvonatkoztatva
    kellene közelítenünk,
  • 8:54 - 8:57
    nem a látványos hollywoodi
    forgatókönyvek alapján.
  • 8:57 - 9:01
    Az értelmet optimalizálási
    eljárásként kell felfognunk,
  • 9:01 - 9:06
    amely a jövőt bizonyos lehetséges
    kimenetek felé tereli.
  • 9:06 - 9:10
    A szuperértelem tényleg
    nagyon jó optimalizációs eljárás,
  • 9:10 - 9:14
    amely elképesztően ügyesen használja
    az elérhető eszközöket, hogy létrejöjjön
  • 9:14 - 9:16
    a céljának megfelelő állapot.
  • 9:16 - 9:19
    Ez azt jelenti,
    hogy nem szükségképpen kötődik
  • 9:19 - 9:22
    az ebben az értelemben vett
    magas intelligenciához
  • 9:22 - 9:27
    egy számunkra értékes
    vagy értelmes cél követése.
  • 9:27 - 9:31
    Adjuk azt a feladatot egy MI-nek,
    hogy késztesse mosolyra az embereket!
  • 9:31 - 9:34
    Amíg az MI még gyenge,
    hasznos vagy mulatságos dolgokat tesz,
  • 9:34 - 9:37
    mosolyra fakasztva a felhasználót.
  • 9:37 - 9:39
    Mire az MI szuperértelmes lesz, rájön,
  • 9:39 - 9:43
    hogy sokkal hatékonyabban is
    elérheti célját:
  • 9:43 - 9:44
    átveszi a világ fölötti uralmat,
  • 9:44 - 9:48
    és elektródákat ültet be
    az emberek arcizmaiba,
  • 9:48 - 9:51
    amelyek állandó vigyorra kényszerítenek.
  • 9:51 - 9:52
    Egy másik példa:
  • 9:52 - 9:55
    tegyük fel, egy bonyolult matematikai
    problémát kell megoldania az MI-nek.
  • 9:55 - 9:57
    Amikor az MI szuperértelmes lesz,
  • 9:57 - 10:01
    rájön, hogy a probléma
    leghatékonyabb megoldása
  • 10:01 - 10:04
    a bolygó átalakítása
    egy hatalmas számítógéppé,
  • 10:04 - 10:06
    hogy kiterjeszthesse
    gondolkodási képességét.
  • 10:06 - 10:09
    Vegyük észre,
    hogy ez további jó ok az MI-nek,
  • 10:09 - 10:12
    hogy olyat műveljen,
    amellyel mi nem értenénk egyet.
  • 10:12 - 10:14
    Mi fenyegetjük őt ebben a modellben,
  • 10:14 - 10:17
    mert akadályozhatjuk
    a matematikai probléma megoldását.
  • 10:17 - 10:21
    Az események persze nem pont
    így mehetnek rossz irányba,
  • 10:21 - 10:22
    ezek csak képregényszintű példák.
  • 10:22 - 10:24
    Fontos viszont az általános tanulság:
  • 10:24 - 10:27
    ha egy valóban jó
    optimalizálási eljárást alkotunk,
  • 10:27 - 10:30
    amely x cél szerint maximalizál,
  • 10:30 - 10:32
    akkor gondoskodjunk róla,
    hogy az x célkitűzés
  • 10:32 - 10:35
    tartalmazza mindazt, ami fontos számunkra.
  • 10:35 - 10:39
    Erről sokat mond Midász király mondája,
  • 10:39 - 10:45
    aki azt kívánta, hogy amihez
    csak hozzáér, váljék arannyá.
  • 10:45 - 10:47
    Megérinti a lányát, aki arannyá változik.
  • 10:47 - 10:50
    Arannyá válik az étele is,
    amihez hozzányúl.
  • 10:50 - 10:51
    A rege nem csak
  • 10:51 - 10:55
    a mohóság metaforájaként értelmezhető,
  • 10:55 - 10:56
    de annak bemutatásaként is,
    mi történik,
  • 10:56 - 10:59
    ha túl jól sikerül
    optimalizálnunk egy folyamatot,
  • 10:59 - 11:04
    amelyhez rosszul felfogott
    vagy homályos célokat rendeltünk.
  • 11:04 - 11:09
    Mondhatnák persze, hogy ha egy gép
    elektródákat akar a képünkbe dugdosni,
  • 11:09 - 11:12
    majd egyszerűen kikapcsoljuk.
  • 11:13 - 11:18
    De ezt nem olyan könnyű megtenni,
    ha már függővé váltunk a rendszertől.
  • 11:18 - 11:21
    Ugyan már, hol az internet kikapcsolója?
  • 11:21 - 11:26
    Miért nem kapcsolták ki
    a csimpánzok az emberiséget
  • 11:26 - 11:27
    vagy a neandervölgyieket?
  • 11:27 - 11:30
    Alapos okuk volt rá.
  • 11:30 - 11:33
    Van nekünk is egy kikapcsolónk,
    például itt.
  • 11:33 - 11:34
    (Fojtogatja magát)
  • 11:34 - 11:37
    Az ok azonban az, hogy mi olyan
    okos ellenfél vagyunk,
  • 11:37 - 11:40
    amelyik előre látja a veszélyeket,
    és felkészül rájuk.
  • 11:40 - 11:42
    De egy szuperértelmes szereplő is
    ezt tenné,
  • 11:42 - 11:46
    csak nálunk sokkal ügyesebben,
  • 11:46 - 11:53
    Nem kellene abban bíznunk,
    hogy urai vagyunk helyzetnek.
  • 11:53 - 11:56
    De azért megpróbálhatnánk
    megkönnyíteni a dolgunkat,
  • 11:56 - 11:58
    pl. hogy az MI-t bedobozoljuk
  • 11:58 - 12:00
    egy biztos szoftveres környezetbe,
  • 12:00 - 12:03
    olyan virtuális valóságba,
    amelyből nem szabadulhat ki.
  • 12:03 - 12:07
    Mennyire bízhatunk azonban abban,
    hogy az MI nem találna-e programhibát?
  • 12:07 - 12:10
    Tekintve, hogy hackerek is
    mindig találnak hibákat,
  • 12:10 - 12:14
    azt mondanám, hogy ebben
    nem nagyon bízhatunk.
  • 12:14 - 12:19
    Akkor húzzuk ki az ethernet kábelt,
    egy légrést teremtve,
  • 12:19 - 12:21
    de még az egyszerű hackerek is simán
  • 12:21 - 12:25
    veszik ezt az akadályt,
    pszichológiai manipulációt használva.
  • 12:25 - 12:26
    Éppen most, amíg beszélek,
  • 12:26 - 12:28
    valahol egy alkalmazottat biztosan
  • 12:28 - 12:32
    éppen rádumáltak,
    hogy árulja el fiókja adatait valakinek,
  • 12:32 - 12:35
    aki állítása szerint a cég informatikusa.
  • 12:35 - 12:37
    Sokkal kreatívabb cselek is lehetségesek:
  • 12:37 - 12:38
    mondjuk,
  • 12:38 - 12:42
    egy MI elektródákat köthet
    az áramköreinkre,
  • 12:42 - 12:45
    hogy az így kibocsátott
    rádióhullámok útján kommunikálhasson.
  • 12:45 - 12:47
    Esetleg üzemzavart mímelhetne,
  • 12:47 - 12:51
    és amikor a programozók kinyitják,
    hogy megkeressék, mi a baj,
  • 12:51 - 12:53
    megnézik a forráskódot is, és hoppá,
  • 12:53 - 12:55
    már sor is kerülhet a manipulációra.
  • 12:55 - 12:59
    Egy MI tervezhetne valami
    nagyon pöpec technológiát,
  • 12:59 - 13:01
    amelynek alkalmazásakor
  • 13:01 - 13:05
    az MI által tervezett néhány alattomos
    mellékhatás is előjön.
  • 13:05 - 13:08
    Kulcsfontosságú, hogy nem szabad
    bíznunk benne,
  • 13:08 - 13:12
    hogy egy szuperértelmes szellemet
    örökre palackba zárva tarthatunk,
  • 13:12 - 13:14
    mert előbb-utóbb úgyis kiszabadul.
  • 13:15 - 13:18
    Azt hiszem, a megoldás inkább az,
    ha kitaláljuk, hogyan alkothatunk
  • 13:18 - 13:23
    olyan szuperértelmet,
    mely ha netán elszabadul,
  • 13:23 - 13:26
    még mindig megbízható,
    mert alapvetően a mi oldalunkon áll,
  • 13:26 - 13:28
    mivel értékeink közösek.
  • 13:28 - 13:32
    Ez a fogas kérdés megkerülhetetlen.
  • 13:33 - 13:36
    A kérdés megoldhatóságát illetően
    eléggé optimista vagyok.
  • 13:36 - 13:40
    Írhatnánk egy hosszú listát mindarról,
    amit fontosnak tartunk,
  • 13:40 - 13:44
    vagy ami még rosszabb:
    valamilyen programnyelven írnánk meg,
  • 13:44 - 13:45
    pl. C++-ban vagy Pythonban,
  • 13:45 - 13:48
    ami reménytelen feladat lenne.
  • 13:48 - 13:52
    Ehelyett egy olyan MI-t csinálhatnánk,
    amely értelmét arra használja,
  • 13:52 - 13:55
    hogy megtanulja, mik az értékeink,
  • 13:55 - 14:01
    s az MI ösztönzőrendszerét
    a mi értékeink követésére,
  • 14:01 - 14:06
    vagy az általunk vélhetően
    engedélyezett akciókra terveznénk.
  • 14:06 - 14:09
    Az MI értelmét tehát feljavítanánk,
    amennyire lehet,
  • 14:09 - 14:12
    hogy megoldjuk az értékkövetés kérdését.
  • 14:12 - 14:14
    Ez a lehetséges kimenetel
  • 14:14 - 14:18
    nagyon jó lenne az emberiségnek.
  • 14:18 - 14:22
    De ez nem történik meg magától.
  • 14:22 - 14:25
    Az intelligencia-robbanás
    kezdeti feltételeit
  • 14:25 - 14:28
    már most jól elő kellene készíteni,
  • 14:28 - 14:31
    ha irányított robbanást akarunk.
  • 14:31 - 14:34
    Az MI értékeinek illeszkedniük
    kell a mieinkhez,
  • 14:34 - 14:36
    az olyan ismerős helyzeteken túl is,
  • 14:36 - 14:38
    amikor könnyen ellenőrizhető
    az MI viselkedése,
  • 14:38 - 14:41
    de olyan új helyzetekben is,
    amelyekkel az MI szembekerülhet,
  • 14:41 - 14:44
    a bizonytalan jövőben.
  • 14:44 - 14:48
    Van még néhány megoldandó
    ezoterikus kérdés,
  • 14:48 - 14:50
    mint a döntéselméleti kérdések részletei,
  • 14:50 - 14:52
    a logikai bizonytalanság
    és egyebek kezelése.
  • 14:53 - 14:56
    A megoldandó technikai
    nehézségek miatt a feladat
  • 14:56 - 14:57
    eléggé bonyolultnak látszik.
  • 14:57 - 15:01
    Nem annyira, mint
    egy szuperértelmes MI létrehozása,
  • 15:01 - 15:04
    de még így is meglehetősen komplikált.
  • 15:04 - 15:05
    Azért aggódhatunk,
  • 15:05 - 15:10
    hogy egy értelmes MI létrehozása
    tényleg kemény dió,
  • 15:10 - 15:13
    de a biztonságos, szuperértelmes
    MI megalkotása
  • 15:13 - 15:16
    ezt még néhány további feladattal tetézi.
  • 15:16 - 15:20
    Abban rejlik a kockázat,
    ha megoldjuk az első feladatot anélkül,
  • 15:20 - 15:23
    hogy megoldottuk volna a másodikat is,
  • 15:23 - 15:25
    amely szavatolná a teljes biztonságot.
  • 15:25 - 15:29
    Ezért olyan megoldást kell kidolgoznunk,
  • 15:29 - 15:32
    amely előbb oldja meg
    az ellenőrizhetőség kérdését,
  • 15:32 - 15:34
    hogy mire szükségünk lesz rá,
    már kéznél legyen.
  • 15:35 - 15:38
    Talán nem tudjuk az ellenőrzés
    kérdését előre és teljesen megoldani,
  • 15:38 - 15:41
    mert néhány elem csak
    akkor kerülhet a helyére,
  • 15:41 - 15:45
    ha részleteiben ismerjük
    a fogadó architektúrát.
  • 15:45 - 15:49
    De minél többet megoldunk előre
    az ellenőrzés kérdéséből,
  • 15:49 - 15:53
    annál jobbak az esélyeink,
    hogy a gépi értelem korszakába
  • 15:53 - 15:54
    zökkenőmentes lesz az átmenet.
  • 15:54 - 15:59
    Szerintem ezt nagyon megéri
    rendesen megcsinálni,
  • 15:59 - 16:02
    és azt is el tudom képzelni,
    ha minden jól megy,
  • 16:02 - 16:07
    amikor az emberek egymillió év múlva
    visszatekintenek erre az évszázadra,
  • 16:07 - 16:11
    elmondhatják: az egyetlen lényeges dolgot
  • 16:11 - 16:12
    elődeik akkor jól rendezték el.
  • 16:12 - 16:13
    Köszönöm.
  • 16:13 - 16:18
    (Taps)
Title:
Mi történik, ha a számítógépeink nálunk okosabbak lesznek?
Speaker:
Nick Bostrom
Description:

A mesterséges intelligencia (MI) rohamosan fejlődik, és a kutatások szerint még ebben az évszázadban elérheti az emberi értelem szintjét. Ezen a ponton, Nick Bostrom szerint, az MI átveszi felettünk az uralmat. ‘’A gépi értelem lesz az utolsó találmány, amelyet nekünk kellett kigondolnunk.’’ Az egy személyben filozófus és technológus Bostrom arra ösztönöz, hogy alaposan gondoljuk meg, milyen, gondolkodó gépek irányította világot építünk. Segítenek-e okos gépeink megőrizni az emberiességet és értékeinket, vagy saját értékeket alakítanak ki?

more » « less
Video Language:
English
Team:
closed TED
Project:
TEDTalks
Duration:
16:31
  • Sziasztok!

    Izgalmas téma, gyakorlatilag tökéletes magyar szöveg. Mndössze két észrevételem van:

    1. 13:08 - A "genius" és a "genie" hasonlóan festenek, de az utóbbi a mesebeli "dzsinn"-re utal
    2. Több helyen: "szuper értelem" -> "szuperértelem"
    Mivel nem vagyok nyelvész, csupán érzés alapján az egybeírásra szavazok, de találtam vonatkozó paragrafusokat is a helyesírási szabályok között (http://helyesiras.mta.hu/helyesiras/default/akh#112).
    Szerintem a b.pont "gyorsvonat" mintája éppen ide passzol.
    @Péter, érdekelne a véleményed! :)

    "
    107. A minőségjelzős kapcsolatok írásának fő szabályai a következők:

    a) A minőségjelzős kapcsolatok tagjait általában különírjuk egymástól: jobb kéz, általános iskola, ipari ország, olvasó lány, érett gyümölcs stb.; különösen olyankor, ha a kapcsolatnak valamelyik vagy mindkét tagja összetett szó: egyetértő mosoly; orvosi titoktartás, baráti kézfogás; mezőgazdasági árutermelés; stb.

    b) A minőségjelzős összetételeket egybeírjuk. Ezek tagjainak együttes jelentése más, mint az előtag és az utótag jelentésének összege; gyorsvonat (vonatfajta), hidegvérű (= nyugodt), melegágy (a kertészetben), kispárna (párnafajta), söröspohár (= sörnek való pohár), forgószél (szélfajta), holtág (folyóé) stb.

    c) A kialakult szokást megtartva jelentésváltozás nélkül is egybeírjuk számos minőségjelzős kapcsolat tagjait: nagyfokú, fiatalkorú, haditerv, légiposta, útitárs, vízinövény, jótett stb.
    "

Hungarian subtitles

Revisions