[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.57,0:00:04.78,Default,,0000,0000,0000,,Több matematikussal, filozófussal \Nés számítógépes szakemberrel dolgozom,
Dialogue: 0,0:00:04.78,0:00:09.99,Default,,0000,0000,0000,,akikkel együtt gondolkodunk \Na gépi intelligencia, értelem jövőjéről
Dialogue: 0,0:00:09.99,0:00:12.03,Default,,0000,0000,0000,,\Nés számos más kérdésről.
Dialogue: 0,0:00:12.03,0:00:14.66,Default,,0000,0000,0000,,Néhányan azt gondolják, \Negyes kérdéseink
Dialogue: 0,0:00:14.66,0:00:19.21,Default,,0000,0000,0000,,sci-fibe illő, elvont őrültségek.
Dialogue: 0,0:00:19.21,0:00:21.33,Default,,0000,0000,0000,,Rendben, szoktam mondani, \Nde nézzük meg,
Dialogue: 0,0:00:21.33,0:00:25.29,Default,,0000,0000,0000,,milyen ma az ember helyzete.
Dialogue: 0,0:00:25.30,0:00:26.62,Default,,0000,0000,0000,,(Nevetés)
Dialogue: 0,0:00:26.62,0:00:29.02,Default,,0000,0000,0000,,Ez a szokásos állapot, \Nahogy annak lennie kell.
Dialogue: 0,0:00:29.02,0:00:31.31,Default,,0000,0000,0000,,Ám ha utánagondolunk, mi, emberek
Dialogue: 0,0:00:31.31,0:00:33.92,Default,,0000,0000,0000,,csak nemrég érkezett vendégek vagyunk
Dialogue: 0,0:00:33.92,0:00:36.10,Default,,0000,0000,0000,,ezen a bolygón.
Dialogue: 0,0:00:36.10,0:00:41.43,Default,,0000,0000,0000,,Képzeljük el, hogy a Föld \Ncsak egy éve jött lére,
Dialogue: 0,0:00:41.43,0:00:44.98,Default,,0000,0000,0000,,így az emberi faj tíz perce létezne.
Dialogue: 0,0:00:44.98,0:00:48.15,Default,,0000,0000,0000,,Az ipari korszak csak \Nkét másodperce kezdődött.
Dialogue: 0,0:00:49.28,0:00:54.50,Default,,0000,0000,0000,,Máshonnan nézve a kérdést, gondoljunk \Na világ elmúlt 10 000 évi GDP-jére.
Dialogue: 0,0:00:54.50,0:00:57.77,Default,,0000,0000,0000,,Vettem magamnak a fáradságot,
Dialogue: 0,0:00:57.77,0:00:59.94,Default,,0000,0000,0000,,és készítettem önöknek egy grafikont. Íme!
Dialogue: 0,0:00:59.94,0:01:00.67,Default,,0000,0000,0000,,(Nevetés)
Dialogue: 0,0:01:00.67,0:01:03.55,Default,,0000,0000,0000,,Egy normál állapothoz képest \Nelég furcsa görbe.
Dialogue: 0,0:01:03.55,0:01:05.33,Default,,0000,0000,0000,,Hát, én biztos nem szeretnék ráülni.
Dialogue: 0,0:01:05.33,0:01:07.07,Default,,0000,0000,0000,,(Nevetés)
Dialogue: 0,0:01:07.07,0:01:11.84,Default,,0000,0000,0000,,Tegyük fel magunknak a kérdést, \Nmi az oka ennek a szabálytalanságnak?
Dialogue: 0,0:01:11.84,0:01:14.39,Default,,0000,0000,0000,,Néhányan a technológiát neveznék meg.
Dialogue: 0,0:01:14.39,0:01:19.06,Default,,0000,0000,0000,,Valóban, a technológiai megoldások \Negyre tökéletesedtek a történelem során,
Dialogue: 0,0:01:19.06,0:01:23.10,Default,,0000,0000,0000,,és éppen most a technológiai fejlődés
Dialogue: 0,0:01:23.10,0:01:25.28,Default,,0000,0000,0000,,hihetetlenül felgyorsult, \Nami közvetlen oka
Dialogue: 0,0:01:25.28,0:01:27.84,Default,,0000,0000,0000,,jelenlegi magas termelékenységünknek.
Dialogue: 0,0:01:28.47,0:01:32.13,Default,,0000,0000,0000,,De szeretnék jobban \Nvisszamenni a tényleges okig.
Dialogue: 0,0:01:33.11,0:01:36.88,Default,,0000,0000,0000,,Nézzük csak ezt a két kiváló urat!
Dialogue: 0,0:01:36.88,0:01:38.48,Default,,0000,0000,0000,,Itt van Kanzi,
Dialogue: 0,0:01:38.48,0:01:43.12,Default,,0000,0000,0000,,aki 200 nyelvi szimbólumot tanult meg, \Nami hihetetlen teljesítmény,
Dialogue: 0,0:01:43.12,0:01:46.82,Default,,0000,0000,0000,,és Ed Witten, aki elindította \Na második szuperhúr forradalmat.
Dialogue: 0,0:01:46.82,0:01:49.14,Default,,0000,0000,0000,,Ha benézünk a burkolat alá,
Dialogue: 0,0:01:49.14,0:01:50.71,Default,,0000,0000,0000,,ott alapvetően ugyanazt találjuk.
Dialogue: 0,0:01:50.71,0:01:52.52,Default,,0000,0000,0000,,Az egyikük kicsit nagyobb, s esetleg
Dialogue: 0,0:01:52.52,0:01:55.28,Default,,0000,0000,0000,,a kapcsolatokban is van \Negy-két trükkös megoldás.
Dialogue: 0,0:01:55.28,0:01:59.09,Default,,0000,0000,0000,,De ezek a láthatatlan különbségek \Nnem lehetnek nagyon bonyolultak,
Dialogue: 0,0:01:59.09,0:02:03.38,Default,,0000,0000,0000,,mivel mi csupán \N250 000 nemzedéknyire vagyunk
Dialogue: 0,0:02:03.38,0:02:05.37,Default,,0000,0000,0000,,utolsó közös ősünktől.
Dialogue: 0,0:02:05.37,0:02:09.61,Default,,0000,0000,0000,,Tudjuk, hogy az összetett mechanizmusok \Nkifejlődéséhez hosszú időre van szükség.
Dialogue: 0,0:02:10.00,0:02:12.50,Default,,0000,0000,0000,,Tehát jó néhány viszonylag kisebb változás
Dialogue: 0,0:02:12.50,0:02:15.57,Default,,0000,0000,0000,,elvezet Kanzitól Wittenig,
Dialogue: 0,0:02:15.57,0:02:20.11,Default,,0000,0000,0000,,a letört faágaktól az interkontinentális \Nballisztikus rakétákig.
Dialogue: 0,0:02:20.84,0:02:23.44,Default,,0000,0000,0000,,Ezért eléggé nyilvánvaló, hogy minden,
Dialogue: 0,0:02:23.44,0:02:26.77,Default,,0000,0000,0000,,amit elértünk, ami fontos számunkra,
Dialogue: 0,0:02:26.77,0:02:32.29,Default,,0000,0000,0000,,alapvetően pár kisebb változás eredménye,\Nmelyek kialakították az emberi elmét.
Dialogue: 0,0:02:32.65,0:02:36.31,Default,,0000,0000,0000,,Következésképpen, \Nminden további változásnak,
Dialogue: 0,0:02:36.31,0:02:38.60,Default,,0000,0000,0000,,ami jelentősen módosíthatja
Dialogue: 0,0:02:38.60,0:02:43.39,Default,,0000,0000,0000,,a gondolkodás alapjait, \Nóriási kihatása lehet.
Dialogue: 0,0:02:44.32,0:02:47.23,Default,,0000,0000,0000,,Néhány kollégám szerint \Nközel járunk valamihez,
Dialogue: 0,0:02:47.23,0:02:51.13,Default,,0000,0000,0000,,ami gyökeresen megváltoztathatja \Ngondolkodásunk alapjait:
Dialogue: 0,0:02:51.13,0:02:54.35,Default,,0000,0000,0000,,ez pedig a gépi szuperértelem.
Dialogue: 0,0:02:54.35,0:02:57.91,Default,,0000,0000,0000,,A mesterséges intelligencia \Neddig azt jelentette,
Dialogue: 0,0:02:57.91,0:03:00.75,Default,,0000,0000,0000,,hogy parancsokat írunk egy dobozba.\NA programozók egyesével,
Dialogue: 0,0:03:00.75,0:03:03.89,Default,,0000,0000,0000,,aprólékosan pötyögték be a tudnivalókat.
Dialogue: 0,0:03:03.89,0:03:05.97,Default,,0000,0000,0000,,Felépítettük a szakértői rendszereket,
Dialogue: 0,0:03:05.97,0:03:08.30,Default,,0000,0000,0000,,amelyek megfeleltek néhány célra,
Dialogue: 0,0:03:08.30,0:03:10.98,Default,,0000,0000,0000,,de nagyon merevek \Nés skálázhatatlanok voltak.
Dialogue: 0,0:03:10.98,0:03:14.41,Default,,0000,0000,0000,,Alapvetően csak az jött ki, \Namit beletettünk.
Dialogue: 0,0:03:14.41,0:03:15.89,Default,,0000,0000,0000,,De azóta
Dialogue: 0,0:03:15.89,0:03:18.87,Default,,0000,0000,0000,,paradigmaváltás történt \Na mesterséges intelligencia területén.
Dialogue: 0,0:03:18.87,0:03:21.64,Default,,0000,0000,0000,,Ma már a gépi tanulásról \Nszól a történet.
Dialogue: 0,0:03:22.39,0:03:27.96,Default,,0000,0000,0000,,Ismeretek manuális bütykölése helyett
Dialogue: 0,0:03:28.51,0:03:34.06,Default,,0000,0000,0000,,tanuló algoritmusokat alkotunk, \Ngyakorta közvetlenül az észlelt adatokból.
Dialogue: 0,0:03:34.06,0:03:39.06,Default,,0000,0000,0000,,Tulajdonképpen úgy, \Nahogy a kisgyerekek csinálják.
Dialogue: 0,0:03:39.06,0:03:43.27,Default,,0000,0000,0000,,Az eredmény a mesterséges intelligencia \N(MI), mely nem korlátozódik egy területre:
Dialogue: 0,0:03:43.27,0:03:47.90,Default,,0000,0000,0000,,ugyanaz a rendszer megtanulhat \Nbármely két nyelv között fordítani,
Dialogue: 0,0:03:47.90,0:03:52.59,Default,,0000,0000,0000,,vagy bármilyen számítógépes játékot\Njátszani egy Atari konzolon.
Dialogue: 0,0:03:52.59,0:03:55.35,Default,,0000,0000,0000,,Azért persze az MI-nek\Nmég távolról sincs meg
Dialogue: 0,0:03:55.35,0:03:59.12,Default,,0000,0000,0000,,az a figyelemre méltó, \Ntöbb területet átfogó képessége,
Dialogue: 0,0:03:59.12,0:04:02.34,Default,,0000,0000,0000,,hogy ember módjára tanuljon és tervezzen.
Dialogue: 0,0:04:02.34,0:04:05.03,Default,,0000,0000,0000,,Az agykéregnek van \Nnéhány algoritmikus trükkje,
Dialogue: 0,0:04:05.03,0:04:07.73,Default,,0000,0000,0000,,melyet még nem tudunk gépekkel utánozni.
Dialogue: 0,0:04:07.89,0:04:09.78,Default,,0000,0000,0000,,Szóval az a kérdés,
Dialogue: 0,0:04:09.78,0:04:13.28,Default,,0000,0000,0000,,milyen messze vagyunk attól, \Nhogy lemásoljuk ezeket a trükköket?
Dialogue: 0,0:04:13.92,0:04:15.68,Default,,0000,0000,0000,,Néhány éve felmérést végeztünk
Dialogue: 0,0:04:15.69,0:04:18.22,Default,,0000,0000,0000,,a világ néhány vezető \NMI szakértőjének bevonásával,
Dialogue: 0,0:04:18.22,0:04:21.44,Default,,0000,0000,0000,,hogy lássuk, mit gondolnak a jövőről. \NEgyik kérdésünk így szólt:
Dialogue: 0,0:04:21.44,0:04:24.79,Default,,0000,0000,0000,,''Mikorra gondolja, \Nhogy 50%-os valószínűséggel meglesz
Dialogue: 0,0:04:24.79,0:04:28.28,Default,,0000,0000,0000,,az emberi szinvonalú gépi értelem?''
Dialogue: 0,0:04:28.78,0:04:32.97,Default,,0000,0000,0000,,Az emberi szintet úgy határoztuk meg, \Nmint olyan képességet,
Dialogue: 0,0:04:32.97,0:04:35.84,Default,,0000,0000,0000,,amellyel egy felnőtt csaknem \Nbármely tevékenységet
Dialogue: 0,0:04:35.84,0:04:39.84,Default,,0000,0000,0000,,egyformán jól elvégezhet,\Nnem csak egyszerű feladatokat.
Dialogue: 0,0:04:39.84,0:04:43.49,Default,,0000,0000,0000,,A válaszok mediánja, azaz középértéke \N2040 vagy 2050 volt,
Dialogue: 0,0:04:43.49,0:04:46.30,Default,,0000,0000,0000,,attól függően, melyik \Nszakértői csoportot kérdeztük meg.
Dialogue: 0,0:04:46.30,0:04:50.34,Default,,0000,0000,0000,,Ez az esemény sokkal később \Nvagy hamarabb is bekövetkezhet,
Dialogue: 0,0:04:50.34,0:04:52.28,Default,,0000,0000,0000,,igazság szerint senki sem tudja.
Dialogue: 0,0:04:53.26,0:04:57.79,Default,,0000,0000,0000,,Azt viszont tudjuk,\Nhogy a gépi információfeldolgozás
Dialogue: 0,0:04:57.79,0:05:02.87,Default,,0000,0000,0000,,végső lehetőségei jóval meghaladják \Naz élő agyszövet korlátait.
Dialogue: 0,0:05:03.24,0:05:05.62,Default,,0000,0000,0000,,Ez fizikai alapokra vezethető vissza.
Dialogue: 0,0:05:05.62,0:05:10.34,Default,,0000,0000,0000,,Egy élő neuron legfeljebb 200 hertzcel \Nsül ki, azaz egy másodperc alatt 200-szor.
Dialogue: 0,0:05:10.34,0:05:13.93,Default,,0000,0000,0000,,Ezzel szemben ma már egy tranzisztor \Nis gigahertzes tartományban üzemel.
Dialogue: 0,0:05:13.93,0:05:19.23,Default,,0000,0000,0000,,A neuronok axonjai lassan, \Nlegföljebb 100 m/s sebességgel működnek.
Dialogue: 0,0:05:19.23,0:05:22.34,Default,,0000,0000,0000,,De a számítógépekben a jelek \Nfénysebességgel terjedhetnek.
Dialogue: 0,0:05:23.08,0:05:24.95,Default,,0000,0000,0000,,És ott vannak a méret adta korlátok:
Dialogue: 0,0:05:24.95,0:05:27.98,Default,,0000,0000,0000,,az emberi agynak \Nbele kell férnie a koponyába,
Dialogue: 0,0:05:27.98,0:05:32.74,Default,,0000,0000,0000,,de egy számítógép raktárméretű \Nvagy még nagyobb is lehet.
Dialogue: 0,0:05:32.74,0:05:38.34,Default,,0000,0000,0000,,A szuperértelem lehetősége \Nott szunnyad az anyagban,
Dialogue: 0,0:05:38.34,0:05:44.05,Default,,0000,0000,0000,,akár az atomerő, amely a történelem során
Dialogue: 0,0:05:44.05,0:05:48.45,Default,,0000,0000,0000,,türelmesen várt ébredésére 1945-ig.
Dialogue: 0,0:05:48.45,0:05:49.70,Default,,0000,0000,0000,,Ebben az évszázadban
Dialogue: 0,0:05:49.70,0:05:53.82,Default,,0000,0000,0000,,a kutatók rájöhetnek, \Nhogyan kell életre hívni az MI erejét.
Dialogue: 0,0:05:53.82,0:05:57.83,Default,,0000,0000,0000,,Úgy gondolom, intelligencia-robbanást \Nláthatunk majd.
Dialogue: 0,0:05:58.41,0:06:02.36,Default,,0000,0000,0000,,A legtöbbünk, amikor arra gondol, \Nmi az okosság és a butaság,
Dialogue: 0,0:06:02.36,0:06:05.39,Default,,0000,0000,0000,,szerintem nagyjából \Negy ilyen képet fest maga elé.
Dialogue: 0,0:06:05.39,0:06:07.98,Default,,0000,0000,0000,,A skála egyik végén ott a falu bolondja
Dialogue: 0,0:06:07.98,0:06:10.47,Default,,0000,0000,0000,,és valahol, jó messze a másik végén
Dialogue: 0,0:06:10.47,0:06:15.22,Default,,0000,0000,0000,,ott van Ed Witten vagy Albert Einstein, \Nvagy bárki a kedvenc guruink közül.
Dialogue: 0,0:06:15.22,0:06:19.06,Default,,0000,0000,0000,,Szerintem a mesterséges \Nintelligenciát illetően
Dialogue: 0,0:06:19.06,0:06:22.74,Default,,0000,0000,0000,,a valódi helyzet valószínűleg \Ninkább így áll:
Dialogue: 0,0:06:23.26,0:06:26.64,Default,,0000,0000,0000,,Az MI itt kezdődik, \Na nulla intelligenciánál,
Dialogue: 0,0:06:26.64,0:06:29.65,Default,,0000,0000,0000,,aztán nagyon-nagyon sok év \Nszorgalmas munkájával,
Dialogue: 0,0:06:29.65,0:06:33.49,Default,,0000,0000,0000,,talán eljutunk egy egér szintjének \Nmegfelelő mesterséges intelligenciához.
Dialogue: 0,0:06:33.49,0:06:35.92,Default,,0000,0000,0000,,Olyasmihez, ami eligazodik \Nzsúfolt környezetben,
Dialogue: 0,0:06:35.92,0:06:37.91,Default,,0000,0000,0000,,úgy, mint azt egy egér teszi.
Dialogue: 0,0:06:37.91,0:06:42.22,Default,,0000,0000,0000,,Aztán még sokkal több év szívós\Nmunkája, rengeteg befektetés árán
Dialogue: 0,0:06:42.22,0:06:46.86,Default,,0000,0000,0000,,talán elérjük \Negy csimpánz szintjének megfelelő MI-t.
Dialogue: 0,0:06:46.86,0:06:50.07,Default,,0000,0000,0000,,Majd még több évnyi \Nnagyon-nagyon kitartó munkával
Dialogue: 0,0:06:50.07,0:06:52.98,Default,,0000,0000,0000,,elérjük a falu bolondjának MI szintjét.
Dialogue: 0,0:06:52.98,0:06:56.26,Default,,0000,0000,0000,,Csak egy pillanattal később \Nmár lekörözzük Ed Wittent.
Dialogue: 0,0:06:56.26,0:06:59.22,Default,,0000,0000,0000,,A vonat nem áll meg \Naz Emberfalva állomáson,
Dialogue: 0,0:06:59.22,0:07:02.25,Default,,0000,0000,0000,,hanem valószínűleg átrobog rajta.
Dialogue: 0,0:07:02.25,0:07:04.23,Default,,0000,0000,0000,,Ennek pedig lényeges kihatásai vannak,
Dialogue: 0,0:07:04.23,0:07:07.57,Default,,0000,0000,0000,,főleg, ha már erőviszonyokról lesz szó.
Dialogue: 0,0:07:07.57,0:07:11.49,Default,,0000,0000,0000,,A csimpánzok például erősek.
Dialogue: 0,0:07:11.49,0:07:15.21,Default,,0000,0000,0000,,Súlyához képest a csimpánz kétszer \Nolyan erős, mint egy jó erőben lévő férfi.
Dialogue: 0,0:07:15.21,0:07:19.83,Default,,0000,0000,0000,,Mégis, Kanzi és társai sorsa \Nsokkal inkább attól függ,
Dialogue: 0,0:07:19.83,0:07:23.97,Default,,0000,0000,0000,,hogy mi, emberek mit teszünk, \Nmint attól, hogy ők mit tesznek.
Dialogue: 0,0:07:24.74,0:07:27.54,Default,,0000,0000,0000,,Ha egyszer eljön a szuperértelem kora,
Dialogue: 0,0:07:27.54,0:07:31.38,Default,,0000,0000,0000,,az emberiség sorsa attól függhet, \Namit ez a szuperértelem művel.
Dialogue: 0,0:07:31.51,0:07:34.03,Default,,0000,0000,0000,,Gondoljunk csak bele! \NA gépi intelligencia lesz
Dialogue: 0,0:07:34.03,0:07:38.55,Default,,0000,0000,0000,,az utolsó találmány, amit \Nnekünk kell kigondolnunk.
Dialogue: 0,0:07:38.55,0:07:41.52,Default,,0000,0000,0000,,A gépek jobb feltalálók lesznek, \Nmint mi vagyunk,
Dialogue: 0,0:07:41.52,0:07:44.06,Default,,0000,0000,0000,,ráadásul digitális időkeretben működnek.
Dialogue: 0,0:07:44.06,0:07:48.38,Default,,0000,0000,0000,,Alapvetően ez a jövő \Nfelgyorsulását jelenti.
Dialogue: 0,0:07:48.41,0:07:52.44,Default,,0000,0000,0000,,Gondoljunk az összes elképzelhető, \Neszement technológiára,
Dialogue: 0,0:07:52.45,0:07:55.89,Default,,0000,0000,0000,,amelyeket ha elég időnk lenne, \Ntalán kifejleszthetnénk:
Dialogue: 0,0:07:55.89,0:07:58.41,Default,,0000,0000,0000,,\Naz öregedés ellenszere, az űr meghódítása,
Dialogue: 0,0:07:58.41,0:08:02.58,Default,,0000,0000,0000,,önmagukat reprodukáló nanobotok, \Naz emberi elme gépre történő feltöltése
Dialogue: 0,0:08:02.58,0:08:04.47,Default,,0000,0000,0000,,\Nés még mindenféle sci-fibe illő ötlet,
Dialogue: 0,0:08:04.47,0:08:07.21,Default,,0000,0000,0000,,amelyek azért a fizikai \Ntörvényeknek nem mondanak ellent.
Dialogue: 0,0:08:07.21,0:08:12.31,Default,,0000,0000,0000,,Egy szuperértelem mindezt talán \Nelég gyorsan ki tudná fejleszteni.
Dialogue: 0,0:08:12.45,0:08:16.01,Default,,0000,0000,0000,,Egy ilyen kifinomult technológiájú \Nszuperértelemnek
Dialogue: 0,0:08:16.01,0:08:18.19,Default,,0000,0000,0000,,rendkívüli hatalma lenne, mellyel legalább
Dialogue: 0,0:08:18.19,0:08:22.73,Default,,0000,0000,0000,,néhány esetben el tudná érni, amit akar.
Dialogue: 0,0:08:22.73,0:08:28.39,Default,,0000,0000,0000,,A jövőnket ekkor ennek az MI-nek \Na szempontjai alakítanák.
Dialogue: 0,0:08:29.86,0:08:33.60,Default,,0000,0000,0000,,Jó kérdés, melyek is ezek a szempontok?
Dialogue: 0,0:08:34.24,0:08:36.01,Default,,0000,0000,0000,,Itt kezd rázóssá válni a dolog.
Dialogue: 0,0:08:36.01,0:08:37.45,Default,,0000,0000,0000,,Hogy valahová is eljussunk,
Dialogue: 0,0:08:37.45,0:08:40.72,Default,,0000,0000,0000,,először is el kell kerülnünk \Naz antropomorfizálást.
Dialogue: 0,0:08:41.93,0:08:46.06,Default,,0000,0000,0000,,Ez azért ironikus, \Nmert az MI jövőjéről szóló
Dialogue: 0,0:08:46.06,0:08:49.09,Default,,0000,0000,0000,,minden újságcikkben ilyen kép szerepel.
Dialogue: 0,0:08:50.28,0:08:54.41,Default,,0000,0000,0000,,A kérdéshez egy kicsit elvonatkoztatva \Nkellene közelítenünk,
Dialogue: 0,0:08:54.41,0:08:57.20,Default,,0000,0000,0000,,nem a látványos hollywoodi \Nforgatókönyvek alapján.
Dialogue: 0,0:08:57.20,0:09:00.82,Default,,0000,0000,0000,,Az értelmet optimalizálási \Neljárásként kell felfognunk,
Dialogue: 0,0:09:00.82,0:09:06.47,Default,,0000,0000,0000,,amely a jövőt bizonyos lehetséges \Nkimenetek felé tereli.
Dialogue: 0,0:09:06.47,0:09:09.98,Default,,0000,0000,0000,,A szuperértelem tényleg \Nnagyon jó optimalizációs eljárás,
Dialogue: 0,0:09:09.98,0:09:14.10,Default,,0000,0000,0000,,amely elképesztően ügyesen használja \Naz elérhető eszközöket, hogy létrejöjjön
Dialogue: 0,0:09:14.10,0:09:16.01,Default,,0000,0000,0000,,a céljának megfelelő állapot.
Dialogue: 0,0:09:16.45,0:09:19.12,Default,,0000,0000,0000,,Ez azt jelenti, \Nhogy nem szükségképpen kötődik
Dialogue: 0,0:09:19.12,0:09:21.85,Default,,0000,0000,0000,,az ebben az értelemben vett \Nmagas intelligenciához
Dialogue: 0,0:09:21.85,0:09:26.52,Default,,0000,0000,0000,,egy számunkra értékes \Nvagy értelmes cél követése.
Dialogue: 0,0:09:27.32,0:09:31.12,Default,,0000,0000,0000,,Adjuk azt a feladatot egy MI-nek, \Nhogy késztesse mosolyra az embereket!
Dialogue: 0,0:09:31.12,0:09:34.10,Default,,0000,0000,0000,,Amíg az MI még gyenge, \Nhasznos vagy mulatságos dolgokat tesz,
Dialogue: 0,0:09:34.10,0:09:36.61,Default,,0000,0000,0000,,mosolyra fakasztva a felhasználót.
Dialogue: 0,0:09:36.61,0:09:39.03,Default,,0000,0000,0000,,Mire az MI szuperértelmes lesz, rájön,
Dialogue: 0,0:09:39.03,0:09:42.55,Default,,0000,0000,0000,,hogy sokkal hatékonyabban is \Nelérheti célját:
Dialogue: 0,0:09:42.55,0:09:44.48,Default,,0000,0000,0000,,átveszi a világ fölötti uralmat,
Dialogue: 0,0:09:44.48,0:09:47.64,Default,,0000,0000,0000,,és elektródákat ültet be \Naz emberek arcizmaiba,
Dialogue: 0,0:09:47.64,0:09:50.58,Default,,0000,0000,0000,,amelyek állandó vigyorra kényszerítenek.
Dialogue: 0,0:09:50.58,0:09:51.61,Default,,0000,0000,0000,,Egy másik példa:
Dialogue: 0,0:09:51.61,0:09:55.16,Default,,0000,0000,0000,,tegyük fel, egy bonyolult matematikai \Nproblémát kell megoldania az MI-nek.
Dialogue: 0,0:09:55.16,0:09:56.93,Default,,0000,0000,0000,,Amikor az MI szuperértelmes lesz,
Dialogue: 0,0:09:56.93,0:10:01.10,Default,,0000,0000,0000,,rájön, hogy a probléma \Nleghatékonyabb megoldása
Dialogue: 0,0:10:01.10,0:10:04.04,Default,,0000,0000,0000,,a bolygó átalakítása \Negy hatalmas számítógéppé,
Dialogue: 0,0:10:04.04,0:10:06.28,Default,,0000,0000,0000,,hogy kiterjeszthesse \Ngondolkodási képességét.
Dialogue: 0,0:10:06.28,0:10:09.04,Default,,0000,0000,0000,,Vegyük észre, \Nhogy ez további jó ok az MI-nek,
Dialogue: 0,0:10:09.04,0:10:11.56,Default,,0000,0000,0000,,hogy olyat műveljen, \Namellyel mi nem értenénk egyet.
Dialogue: 0,0:10:11.56,0:10:13.79,Default,,0000,0000,0000,,Mi fenyegetjük őt ebben a modellben,
Dialogue: 0,0:10:13.79,0:10:16.100,Default,,0000,0000,0000,,mert akadályozhatjuk \Na matematikai probléma megoldását.
Dialogue: 0,0:10:16.100,0:10:20.70,Default,,0000,0000,0000,,Az események persze nem pont \Nígy mehetnek rossz irányba,
Dialogue: 0,0:10:20.70,0:10:22.45,Default,,0000,0000,0000,,ezek csak képregényszintű példák.
Dialogue: 0,0:10:22.45,0:10:24.39,Default,,0000,0000,0000,,Fontos viszont az általános tanulság:
Dialogue: 0,0:10:24.39,0:10:27.27,Default,,0000,0000,0000,,ha egy valóban jó \Noptimalizálási eljárást alkotunk,
Dialogue: 0,0:10:27.27,0:10:29.50,Default,,0000,0000,0000,,amely x cél szerint maximalizál,
Dialogue: 0,0:10:29.50,0:10:31.78,Default,,0000,0000,0000,,akkor gondoskodjunk róla, \Nhogy az x célkitűzés
Dialogue: 0,0:10:31.78,0:10:34.64,Default,,0000,0000,0000,,tartalmazza mindazt, ami fontos számunkra.
Dialogue: 0,0:10:34.84,0:10:39.22,Default,,0000,0000,0000,,Erről sokat mond Midász király mondája,
Dialogue: 0,0:10:39.22,0:10:44.52,Default,,0000,0000,0000,,aki azt kívánta, hogy amihez \Ncsak hozzáér, váljék arannyá.
Dialogue: 0,0:10:44.52,0:10:47.38,Default,,0000,0000,0000,,Megérinti a lányát, aki arannyá változik.
Dialogue: 0,0:10:47.38,0:10:49.80,Default,,0000,0000,0000,,Arannyá válik az étele is, \Namihez hozzányúl.
Dialogue: 0,0:10:49.80,0:10:51.21,Default,,0000,0000,0000,,A rege nem csak
Dialogue: 0,0:10:51.21,0:10:54.59,Default,,0000,0000,0000,,a mohóság metaforájaként értelmezhető,
Dialogue: 0,0:10:54.59,0:10:56.48,Default,,0000,0000,0000,,de annak bemutatásaként is,\Nmi történik,
Dialogue: 0,0:10:56.48,0:10:59.32,Default,,0000,0000,0000,,ha túl jól sikerül \Noptimalizálnunk egy folyamatot,
Dialogue: 0,0:10:59.32,0:11:04.11,Default,,0000,0000,0000,,amelyhez rosszul felfogott\Nvagy homályos célokat rendeltünk.
Dialogue: 0,0:11:04.11,0:11:09.30,Default,,0000,0000,0000,,Mondhatnák persze, hogy ha egy gép\Nelektródákat akar a képünkbe dugdosni,
Dialogue: 0,0:11:09.30,0:11:11.56,Default,,0000,0000,0000,,majd egyszerűen kikapcsoljuk.
Dialogue: 0,0:11:12.56,0:11:17.90,Default,,0000,0000,0000,,De ezt nem olyan könnyű megtenni, \Nha már függővé váltunk a rendszertől.
Dialogue: 0,0:11:17.90,0:11:20.63,Default,,0000,0000,0000,,Ugyan már, hol az internet kikapcsolója?
Dialogue: 0,0:11:20.63,0:11:25.75,Default,,0000,0000,0000,,Miért nem kapcsolták ki \Na csimpánzok az emberiséget
Dialogue: 0,0:11:25.75,0:11:27.30,Default,,0000,0000,0000,,vagy a neandervölgyieket?
Dialogue: 0,0:11:27.30,0:11:29.96,Default,,0000,0000,0000,,Alapos okuk volt rá.
Dialogue: 0,0:11:29.96,0:11:32.76,Default,,0000,0000,0000,,Van nekünk is egy kikapcsolónk, \Npéldául itt.
Dialogue: 0,0:11:32.76,0:11:34.31,Default,,0000,0000,0000,,(Fojtogatja magát)
Dialogue: 0,0:11:34.31,0:11:37.24,Default,,0000,0000,0000,,Az ok azonban az, hogy mi olyan\Nokos ellenfél vagyunk,
Dialogue: 0,0:11:37.24,0:11:39.97,Default,,0000,0000,0000,,amelyik előre látja a veszélyeket, \Nés felkészül rájuk.
Dialogue: 0,0:11:39.97,0:11:42.47,Default,,0000,0000,0000,,De egy szuperértelmes szereplő is \Nezt tenné,
Dialogue: 0,0:11:42.47,0:11:45.72,Default,,0000,0000,0000,,csak nálunk sokkal ügyesebben,
Dialogue: 0,0:11:45.72,0:11:52.91,Default,,0000,0000,0000,,Nem kellene abban bíznunk, \Nhogy urai vagyunk helyzetnek.
Dialogue: 0,0:11:52.91,0:11:56.36,Default,,0000,0000,0000,,De azért megpróbálhatnánk \Nmegkönnyíteni a dolgunkat,
Dialogue: 0,0:11:56.36,0:11:57.95,Default,,0000,0000,0000,,pl. hogy az MI-t bedobozoljuk
Dialogue: 0,0:11:57.95,0:11:59.74,Default,,0000,0000,0000,,egy biztos szoftveres környezetbe,
Dialogue: 0,0:11:59.74,0:12:02.77,Default,,0000,0000,0000,,olyan virtuális valóságba, \Namelyből nem szabadulhat ki.
Dialogue: 0,0:12:02.77,0:12:06.91,Default,,0000,0000,0000,,Mennyire bízhatunk azonban abban, \Nhogy az MI nem találna-e programhibát?
Dialogue: 0,0:12:06.91,0:12:10.25,Default,,0000,0000,0000,,Tekintve, hogy hackerek is \Nmindig találnak hibákat,
Dialogue: 0,0:12:10.25,0:12:14.01,Default,,0000,0000,0000,,azt mondanám, hogy ebben \Nnem nagyon bízhatunk.
Dialogue: 0,0:12:14.24,0:12:18.78,Default,,0000,0000,0000,,Akkor húzzuk ki az ethernet kábelt, \Negy légrést teremtve,
Dialogue: 0,0:12:18.78,0:12:21.45,Default,,0000,0000,0000,,de még az egyszerű hackerek is simán
Dialogue: 0,0:12:21.45,0:12:24.83,Default,,0000,0000,0000,,veszik ezt az akadályt, \Npszichológiai manipulációt használva.
Dialogue: 0,0:12:24.83,0:12:26.09,Default,,0000,0000,0000,,Éppen most, amíg beszélek,
Dialogue: 0,0:12:26.09,0:12:28.48,Default,,0000,0000,0000,,valahol egy alkalmazottat biztosan
Dialogue: 0,0:12:28.48,0:12:31.83,Default,,0000,0000,0000,,éppen rádumáltak, \Nhogy árulja el fiókja adatait valakinek,
Dialogue: 0,0:12:31.83,0:12:34.57,Default,,0000,0000,0000,,aki állítása szerint a cég informatikusa.
Dialogue: 0,0:12:34.57,0:12:36.70,Default,,0000,0000,0000,,Sokkal kreatívabb cselek is lehetségesek:
Dialogue: 0,0:12:36.70,0:12:38.14,Default,,0000,0000,0000,,mondjuk,
Dialogue: 0,0:12:38.14,0:12:41.55,Default,,0000,0000,0000,,egy MI elektródákat köthet \Naz áramköreinkre,
Dialogue: 0,0:12:41.55,0:12:45.01,Default,,0000,0000,0000,,hogy az így kibocsátott \Nrádióhullámok útján kommunikálhasson.
Dialogue: 0,0:12:45.01,0:12:47.43,Default,,0000,0000,0000,,Esetleg üzemzavart mímelhetne,
Dialogue: 0,0:12:47.43,0:12:50.93,Default,,0000,0000,0000,,és amikor a programozók kinyitják, \Nhogy megkeressék, mi a baj,
Dialogue: 0,0:12:50.93,0:12:52.87,Default,,0000,0000,0000,,megnézik a forráskódot is, és hoppá,
Dialogue: 0,0:12:52.87,0:12:55.31,Default,,0000,0000,0000,,már sor is kerülhet a manipulációra.
Dialogue: 0,0:12:55.31,0:12:58.74,Default,,0000,0000,0000,,Egy MI tervezhetne valami \Nnagyon pöpec technológiát,
Dialogue: 0,0:12:58.74,0:13:00.90,Default,,0000,0000,0000,,amelynek alkalmazásakor
Dialogue: 0,0:13:00.90,0:13:04.54,Default,,0000,0000,0000,,az MI által tervezett néhány alattomos\Nmellékhatás is előjön.
Dialogue: 0,0:13:04.54,0:13:08.00,Default,,0000,0000,0000,,Kulcsfontosságú, hogy nem szabad\Nbíznunk benne,
Dialogue: 0,0:13:08.00,0:13:11.81,Default,,0000,0000,0000,,hogy egy szuperértelmes szellemet\Nörökre palackba zárva tarthatunk,
Dialogue: 0,0:13:11.81,0:13:14.06,Default,,0000,0000,0000,,mert előbb-utóbb úgyis kiszabadul.
Dialogue: 0,0:13:14.86,0:13:18.14,Default,,0000,0000,0000,,Azt hiszem, a megoldás inkább az, \Nha kitaláljuk, hogyan alkothatunk
Dialogue: 0,0:13:18.14,0:13:23.16,Default,,0000,0000,0000,,olyan szuperértelmet, \Nmely ha netán elszabadul,
Dialogue: 0,0:13:23.16,0:13:26.44,Default,,0000,0000,0000,,még mindig megbízható, \Nmert alapvetően a mi oldalunkon áll,
Dialogue: 0,0:13:26.44,0:13:28.34,Default,,0000,0000,0000,,mivel értékeink közösek.
Dialogue: 0,0:13:28.34,0:13:31.55,Default,,0000,0000,0000,,Ez a fogas kérdés megkerülhetetlen.
Dialogue: 0,0:13:32.56,0:13:36.39,Default,,0000,0000,0000,,A kérdés megoldhatóságát illetően \Neléggé optimista vagyok.
Dialogue: 0,0:13:36.39,0:13:40.29,Default,,0000,0000,0000,,Írhatnánk egy hosszú listát mindarról, \Namit fontosnak tartunk,
Dialogue: 0,0:13:40.29,0:13:43.94,Default,,0000,0000,0000,,vagy ami még rosszabb: \Nvalamilyen programnyelven írnánk meg,
Dialogue: 0,0:13:43.94,0:13:45.39,Default,,0000,0000,0000,,pl. C++-ban vagy Pythonban,
Dialogue: 0,0:13:45.39,0:13:48.16,Default,,0000,0000,0000,,ami reménytelen feladat lenne.
Dialogue: 0,0:13:48.16,0:13:52.46,Default,,0000,0000,0000,,Ehelyett egy olyan MI-t csinálhatnánk, \Namely értelmét arra használja,
Dialogue: 0,0:13:52.46,0:13:55.23,Default,,0000,0000,0000,,hogy megtanulja, mik az értékeink,
Dialogue: 0,0:13:55.23,0:14:00.51,Default,,0000,0000,0000,,s az MI ösztönzőrendszerét\Na mi értékeink követésére,
Dialogue: 0,0:14:00.51,0:14:05.74,Default,,0000,0000,0000,,vagy az általunk vélhetően \Nengedélyezett akciókra terveznénk.
Dialogue: 0,0:14:05.74,0:14:09.15,Default,,0000,0000,0000,,Az MI értelmét tehát feljavítanánk,\Namennyire lehet,
Dialogue: 0,0:14:09.15,0:14:11.90,Default,,0000,0000,0000,,hogy megoldjuk az értékkövetés kérdését.
Dialogue: 0,0:14:12.49,0:14:14.40,Default,,0000,0000,0000,,Ez a lehetséges kimenetel
Dialogue: 0,0:14:14.40,0:14:17.84,Default,,0000,0000,0000,,nagyon jó lenne az emberiségnek.
Dialogue: 0,0:14:17.84,0:14:21.79,Default,,0000,0000,0000,,De ez nem történik meg magától.
Dialogue: 0,0:14:21.79,0:14:24.79,Default,,0000,0000,0000,,Az intelligencia-robbanás \Nkezdeti feltételeit
Dialogue: 0,0:14:24.79,0:14:27.65,Default,,0000,0000,0000,,már most jól elő kellene készíteni,
Dialogue: 0,0:14:27.65,0:14:31.18,Default,,0000,0000,0000,,ha irányított robbanást akarunk.
Dialogue: 0,0:14:31.18,0:14:33.80,Default,,0000,0000,0000,,Az MI értékeinek illeszkedniük \Nkell a mieinkhez,
Dialogue: 0,0:14:33.80,0:14:35.56,Default,,0000,0000,0000,,az olyan ismerős helyzeteken túl is,
Dialogue: 0,0:14:35.56,0:14:37.100,Default,,0000,0000,0000,,amikor könnyen ellenőrizhető \Naz MI viselkedése,
Dialogue: 0,0:14:37.100,0:14:41.49,Default,,0000,0000,0000,,de olyan új helyzetekben is, \Namelyekkel az MI szembekerülhet,
Dialogue: 0,0:14:41.49,0:14:43.60,Default,,0000,0000,0000,,a bizonytalan jövőben.
Dialogue: 0,0:14:43.60,0:14:47.53,Default,,0000,0000,0000,,Van még néhány megoldandó \Nezoterikus kérdés,
Dialogue: 0,0:14:47.53,0:14:49.62,Default,,0000,0000,0000,,mint a döntéselméleti kérdések részletei,
Dialogue: 0,0:14:49.62,0:14:52.48,Default,,0000,0000,0000,,a logikai bizonytalanság \Nés egyebek kezelése.
Dialogue: 0,0:14:52.67,0:14:55.84,Default,,0000,0000,0000,,A megoldandó technikai \Nnehézségek miatt a feladat
Dialogue: 0,0:14:55.84,0:14:57.42,Default,,0000,0000,0000,,eléggé bonyolultnak látszik.
Dialogue: 0,0:14:57.44,0:15:00.92,Default,,0000,0000,0000,,Nem annyira, mint \Negy szuperértelmes MI létrehozása,
Dialogue: 0,0:15:00.92,0:15:03.79,Default,,0000,0000,0000,,de még így is meglehetősen komplikált.
Dialogue: 0,0:15:03.79,0:15:05.49,Default,,0000,0000,0000,,Azért aggódhatunk,
Dialogue: 0,0:15:05.49,0:15:10.17,Default,,0000,0000,0000,,hogy egy értelmes MI létrehozása \Ntényleg kemény dió,
Dialogue: 0,0:15:10.17,0:15:13.38,Default,,0000,0000,0000,,de a biztonságos, szuperértelmes \NMI megalkotása
Dialogue: 0,0:15:13.38,0:15:15.96,Default,,0000,0000,0000,,ezt még néhány további feladattal tetézi.
Dialogue: 0,0:15:16.22,0:15:19.70,Default,,0000,0000,0000,,Abban rejlik a kockázat, \Nha megoldjuk az első feladatot anélkül,
Dialogue: 0,0:15:19.70,0:15:22.70,Default,,0000,0000,0000,,hogy megoldottuk volna a másodikat is,
Dialogue: 0,0:15:22.70,0:15:25.06,Default,,0000,0000,0000,,amely szavatolná a teljes biztonságot.
Dialogue: 0,0:15:25.38,0:15:28.71,Default,,0000,0000,0000,,Ezért olyan megoldást kell kidolgoznunk,
Dialogue: 0,0:15:28.71,0:15:31.53,Default,,0000,0000,0000,,amely előbb oldja meg \Naz ellenőrizhetőség kérdését,
Dialogue: 0,0:15:31.53,0:15:34.43,Default,,0000,0000,0000,,hogy mire szükségünk lesz rá, \Nmár kéznél legyen.
Dialogue: 0,0:15:34.77,0:15:38.28,Default,,0000,0000,0000,,Talán nem tudjuk az ellenőrzés \Nkérdését előre és teljesen megoldani,
Dialogue: 0,0:15:38.28,0:15:41.30,Default,,0000,0000,0000,,mert néhány elem csak \Nakkor kerülhet a helyére,
Dialogue: 0,0:15:41.30,0:15:45.30,Default,,0000,0000,0000,,ha részleteiben ismerjük \Na fogadó architektúrát.
Dialogue: 0,0:15:45.30,0:15:48.68,Default,,0000,0000,0000,,De minél többet megoldunk előre \Naz ellenőrzés kérdéséből,
Dialogue: 0,0:15:48.68,0:15:52.77,Default,,0000,0000,0000,,annál jobbak az esélyeink, \Nhogy a gépi értelem korszakába
Dialogue: 0,0:15:52.77,0:15:54.31,Default,,0000,0000,0000,,zökkenőmentes lesz az átmenet.
Dialogue: 0,0:15:54.31,0:15:58.95,Default,,0000,0000,0000,,Szerintem ezt nagyon megéri \Nrendesen megcsinálni,
Dialogue: 0,0:15:58.95,0:16:02.28,Default,,0000,0000,0000,,és azt is el tudom képzelni, \Nha minden jól megy,
Dialogue: 0,0:16:02.28,0:16:06.94,Default,,0000,0000,0000,,amikor az emberek egymillió év múlva \Nvisszatekintenek erre az évszázadra,
Dialogue: 0,0:16:06.94,0:16:10.52,Default,,0000,0000,0000,,elmondhatják: az egyetlen lényeges dolgot
Dialogue: 0,0:16:10.52,0:16:12.12,Default,,0000,0000,0000,,elődeik akkor jól rendezték el.
Dialogue: 0,0:16:12.12,0:16:13.11,Default,,0000,0000,0000,,Köszönöm.
Dialogue: 0,0:16:13.11,0:16:18.21,Default,,0000,0000,0000,,(Taps)