A hibás előérzetekről fogok beszélni,
amitől oly sokan szenvedünk.
Valóban hibás egy bizonyos fajta veszély felismerése.
Felvázolok egy forgatókönyvet,
amelyről úgy gondolom egyszerre ijesztő,
és bekövetkezése egyben valószínűsíthető,
és ez a kettő együtt nem jó kombináció,
ahogy az bebizonyosodik majd.
Ennek ellenére a többségetek az ijedtség helyett úgy érzi majd,
hogy amiről beszélek, egy menő dolog.
El fogom magyarázni,
hogy a mesterséges intelligencia fejlődése
miként semmisíthet meg bennünket.
Úgy vélem, nehezebb felismerni, hogyan nem pusztítanak el minket,
vagy buzdítanak minket önmagunk elpusztítására.
De ha kicsit is hasonlítasz rám,
rájössz majd, mennyire vicces dolog ezeken elmélkedni.
És ez a fajta reakció szintén a probléma része.
Értitek ugye? A reakció miatt aggódnotok kellene.
Ha az előadással meg tudlak győzni benneteket,
hogy a globális éhínség várhatóan bekövetkezik majd,
klímaváltozás vagy más katasztrófa hatására,
és hogy az unokátokra, vagy az ő unokáikra
nagy valószínűséggel hasonló élet vár,
magatokban nem gondolnátok:
"Érdekes.
Tetszik ez a TED előadás."
Az éhínség nem vicc.
A tudományos-fantasztikum általi halál ezzel ellentétben vicces,
de ami engem aggaszt leginkább, a MI jelenlegi állapotát illetően,
hogy képtelenek vagyunk az előttünk álló veszélyekhez
megfelelő érzelmi reakciót párosítani.
Képtelen vagyok irányítani a reakciót, pedig én tartom az előadást.
Olyan, mintha két ajtó előtt állnánk.
Az egyes számú ajtó mögött
leállunk az intelligens gépek fejlesztésével.
Valamilyen okból a hardverek és szoftverek fejlesztése leáll.
Egy percre kérlek, gondoljatok bele, miért történne ilyesmi.
Tudván, mekkora érték rejlik az intelligenciában és automatizálásban,
ha mód van rá, folytatni fogjuk a technológiai fejlesztéseket.
Mi állhatna az utunkba?
Egy mindent elsöprő nukleáris háború?
Egy globális járvány?
Egy aszteroida becsapódása?
Justin Biebert megválasztják elnöknek?
(Nevetés)
Bármi legyen is, az általunk ismert civilizációt kellene megsemmisítse.
Képzeld el, mennyire borzasztónak kellene lennie ahhoz,
hogy leálljunk a technológiai fejlesztésekkel,
egyik nemzedék a másik után,
mindörökre.
Fogalmazhatnánk úgy is, hogy ez a legrosszabb,
ami valaha történhet az emberiség történelmében.
Így az egyetlen alternatíva,
és ez rejlik a kettes számú ajtó mögött,
hogy folytatjuk az intelligens gépek fejlesztését,
egyik évről a másikra.
És elérkezünk a ponthoz, amikor nálunk okosabb gépeket hozunk létre.
És amint létrehoztuk a minket meghaladó okos gépeket,
megkezdik majd önmaguk fejlesztését.
És ezzel megkockáztatjuk azt, amit IJ Good matematikus
úgy hívott: "intelligencia-robbanás".
Amikor a fejlődésük kicsúszik a kezünk közül.
Sokszor kifigurázzák, mint én is itt,
miként rettegünk a rosszindulatú robotok
támadásától.
De nem ez a legvalószínűbb forgatókönyv.
A gépek nem fognak egyik pillanatról a másikra gonosszá válni.
A valós aggály abban rejlik, hogy olyan gépeket hozunk létre,
melyek meghaladják a mi képességeinket,
és a legapróbb összeférhetetlenség az ő és saját céljaink között
a végünket jelentheti.
Csak gondoljatok bele, mi hogyan viszonyulunk a hangyákhoz.
Nem utáljuk őket.
Nem akarjuk szándékosan bántalmazni őket.
Sőt, néha megóvásukra áldozatokat is hozunk értük.
Kikerüljük őket a járdán.
De amint összeütközik a jelenlétük
a céljaink megvalósításával,
mint például egy ilyen épület felhúzásakor,
szemrebbenés nélkül kiírtjuk valamennyit.
A gond az, hogy egy napon olyan gépeket hozunk létre,
amelyek, akár tudatosak akár nem,
hasonlóképpen viszonyulnak majd hozzánk.
Gondolom, ez sokatok számára, elképzelhetetlennek tűnik.
Fogadni mernék, hogy egyesek a MI lehetőségét is megkérdőjelezik,
mintsem elkerülhetetlennek véljék.
De akkor valami mégsem stimmel a következő feltevésekkel.
Amiből mindössze csak három van.
Az intelligencia a fizikai rendszerekben feldolgozott információból származik.
Tulajdonképpen, ez kicsivel több puszta feltevésnél.
A közvetlen intelligenciát már beépítettük a gépeinkbe,
mely gépek többsége már most
emberfeletti teljesítményekre képes.
Azt is tudjuk, hogy az anyag önmagában
életre tudja hívni az úgynevezett "alap intelligenciát,"
a különböző tartományokon belüli rugalmas gondolkodás képességét,
hiszen saját agyunk is képes volt rá, nem igaz?
Mivel itt legbelül csak atomok vannak,
és amíg atomokból álló rendszereket építünk,
melyek egyre intelligensebb viselkedést mutatnak,
akkor egyszer, hacsak nem lépünk közbe,
akkor egyszer megépítjük az alap intelligenciával
rendelkező gépeket.
Mindennél fontosabb azonban felismerni, hogy a fejlődés üteme lényegtelen,
mert a fejlődés önmagában elegendő ahhoz, hogy célba érjünk.
Nincs szükségünk Moore-törvényre, sem exponenciális növekedésre.
Csak haladnunk kell tovább.
A második feltevés, hogy haladunk tovább.
Egyre intelligensebb gépeket hozunk létre.
És ami az intelligencia értékét illeti --
az intelligencia, vagy a forrása a számunkra értékesnek,
vagy megóvja számunkra mindazt, amit értékesnek tartunk.
Az egyik legértékesebb erőforrásunk.
Szóval megakarjuk alkotni.
Vannak problémák, melyeket haladéktalanul meg kell oldanunk.
Meg akarjuk gyógyítani az Alzheimert, a rákot és hasonló betegségeket.
Érteni akarjuk a gazdasági rendszereket. Javítani akarjuk a klímaismereteinket.
Amint mód van rá, megtesszük ezeket.
A vonat már elhagyta az állomást, és nincs fék, amit behúzhatnánk.
Végül is nem vagyunk az intelligencia tetőfokán,
de még csak a közelében sem járunk.
És ez itt a lényeges momentum.
Ez teszi a helyzetünket különösen bizonytalanná,
és pont ezért megbízhatatlanok a veszélyhez fűződő előérzeteink.
Képzeljük el a valaha élt legokosabb embert.
Minden bizonnyal Neumann János szerepel mindenki listáján.
Ahogy Neumann hatni tudott a körülötte lévő emberekre,
többek között minden idők legjobb matematikusaira és fizikusaira,
annak bárki utánajárhat.
Ha a róla szóló történeteknek csak a fele is igaz,
akkor kétségkívül
ő a világon valaha élt legokosabb ember.
Képzeljük el az intelligencia tartományát.
Itt van Neumann János.
És itt vagytok ti és én.
Itt pedig egy csirke.
(Nevetés)
Elnézést, egy kiscsirke.
(Nevetés)
Nem akarom ezt a beszédet még lesújtóbbá tenni.
(Nevetés)
Valószínűsíthető, hogy az intelligencia tartománya
sokkalta tágabb, mint ahogy azt gondolnánk,
és ha magunknál intelligensebb gépeket építünk,
akkor azok valószínűleg olyan területeket tárnak fel,
melyeket elképzelni sem tudunk,
és ott múlnak felül minket, ahol nem is sejtjük.
Fontos belátni, hogy ez pusztán a sebességet tekintve már igaz.
Ugye? Mi lenne, ha olyan szuperintelligens MI-t hoznánk létre,
ami semmivel sem okosabb egy hétköznapi kutatócsoportnál
az MIT-n vagy a Stanford Egyetemen.
Az elektronikus áramkörök milliószor gyorsabban működnek,
mint a biokémiaiak,
ezért ez a gép milliószor gyorsabb gondolkodásra lesz képes,
mind azok az elmék, akik ezt létrehozták.
Szóval életre kelted, és alig egy hét alatt
20 000 évnyi emberi szellemi munkát végez el.
És ezt hétről hétre megismétli.
Képtelenség felfogni, nemhogy kordában tartani
egy elmét, ami ilyen mértékű fejlődésre képes.
A másik, ami aggodalomra ad okot, őszintén szólva,
ez a legjobb, ami megtörténhet velünk.
Képzeljük el, hogy olyan szuperintelligens MI-t alkotunk,
ami nem rejt biztonsági kockázatokat.
Rögtön, elsőre létrehozzuk a legtökéletesebb változatát.
Mintha kezünkbe kapnánk a mindentudást,
ami pont úgy működik, ahogy kell.
Ez a gép lenne a leghatékonyabb munkaerő-helyettesítő berendezés.
Létrehozná a gépet, amely létrehozná azt a gépet,
amely bármilyen fizikai munkát elvégez,
napenergia hajtja,
és költségét csak az anyagköltség okozza.
Az emberi robotolás végéről beszélünk.
De ez egyben a szellemi munka végét is jelenti.
Vajon ilyen esetben mit tennének a hozzánk hasonló emberszabásúak?
Nos, bármikor frizbizhetnénk, vagy masszírozhatnánk egymást.
Jöhet egy kis LSD, pár extravagáns ruhadarab,
és az egész világ Burning Manné változhatna.
(Nevetés)
Ez tényleg jó mókának hangzik,
de tegyétek fel magatoknak a kérdést,
hogy mi történne a jelenlegi gazdasági és politika rendszerekkel.
Azt hiszem, szemtanúi lehetnénk
egy soha nem látott mértékű
jóléti aránytalanságnak és munkanélküliségnek.
Hacsak nem állítanánk ezt az újfajta jólétet
az emberiség szolgálatába,
akkor pár milliárdos villogna az üzleti magazinok címlapján,
miközben a világ többi része éhen pusztulna.
Vajon mit tennének az oroszok vagy a kínaiak,
ha megtudnák, hogy az egyik Szilícium-völgyben lévő cég
bevetni készül a szuperintelligens MI-t?
Ez a gép a hadviselésre is képes lenne,
akár földön, akár a kibertérben,
soha nem tapasztalt erőfölénnyel.
Ez a győztes-mindent-visz forgatókönyv.
Ezt a versenyt hat hónappal beelőzni,
minimum
500 000 év szükséges.
Ezért már az ilyen áttörésről szóló leghalványabb pletyka is
fajunk totális megvadulásába torkollhat.
A legijesztőbb dolog azonban
- az én meglátásom szerint - jelen pillanatban az,
amit az MI-kutatók mondogatnak,
amikor meg akarnak nyugtatni minket.
Az aggodalmakra adott leggyakoribb válaszuk az idő.
Annyira messze van még, hát nem tudjátok.
50 vagy 100 év is eltelik addig.
Az egyik kutató szerint:
"A MI biztonsága miatt aggódni olyan,
mintha a túlnépesedés miatt aggódnánk a Marson."
Ez a szilícium-völgyi változata annak,
hogy "ne törd ezen a szép kis buksidat".
(Nevetés)
Senkinek nem tűnik fel,
hogy az időhorizontra való hivatkozás,
totál nem passzol a képbe.
Ha az intelligencia csupán az információ feldolgozásából áll,
és mi folytatjuk a gépek fejlesztését,
akkor létre fogunk hozni valamiféle szuperintelligenciát.
És fogalmunk sincs mennyi időbe telik majd megteremteni
a biztonságos kivitelezés feltételeit.
Hadd ismételjem meg:
Fogalmunk sincs mennyi időbe telik majd megteremteni
a biztonságos kivitelezés feltételeit.
Ha nem tűnt volna fel, az elmúlt 50 év sem olyan, mint az előzőek.
Ez az 50 év hónapokra bontva.
Ilyen régóta létezik az iPhone.
Ilyen régóta megy a tévében a "Simpson család".
50 év nem egy hosszú idő,
hogy elérkezzünk fajunk egyik legnagyobb kihívásához.
Ismétlem: képtelenek vagyunk megfelelő érzelmi reakcióval kezelni,
ami minden kétséget kizáróan előttünk áll.
Stuart Russell számítógéptudósnak van egy szép analógiája.
Azt mondta: Képzeljük el, hogy kapunk egy üzenetet egy idegen civilizációtól,
amiben ez áll:
"Földi népség,
50 év múlva érkezünk.
Készüljetek fel!"
Elkezdenénk visszaszámlálni, amíg meg nem érkezik az anyahajó?
Sokkal sürgetőbbnek éreznénk, mint most.
Az aggodalmakra adott másik válasz,
hogy ezek a gépek osztják a mi nézeteinket,
mivel ők a mi saját kiterjesztéseink.
Az agyunkba lesznek ültetve,
aminek folytán limbikus rendszerükké válunk.
Egyetlen pillanatra gondoljunk csak bele,
azt javasolják,
hogy az egyetlen biztonságos és megbízható módszer az,
ha ezt a technológiát közvetlenül az agyunkba ültetjük be.
Nos, lehet, hogy az egyetlen biztonságos és megbízható módszer,
de a technológiák biztonsági kockázatait
alaposan tesztelni kéne, mielőtt bármit bárki fejébe ültetnék.
(Nevetés)
A mélyebb probléma az, hogy egy szuperintelligens MI létrehozása,
már önmagában is egyszerűbbnek bizonyul,
mint létrehozni a szuperintelligens MI-t,
és megalkotni hozzá a szükséges idegtudományt,
amely lehetővé teszi a saját elménkkel való gond nélküli összekapcsolását.
És mivel az ezen dolgozó vállalatok és kormányok
vetélytársként tekintenek egymásra,
mondván, hogy a verseny győzelme egyben a világ feletti győzelem is,
hacsak nem rombolják le a következő pillanatban,
akkor valószínűleg a könnyebb megoldás
fog előbb megvalósulni.
Nos, sajnos a problémára nem tudom a megoldást.
Csak javasolni tudom, hogy minél többen gondolkodjunk el ezen.
Úgy vélem, szükségünk lenne a mesterséges intelligencia
Manhattan-projektjére.
Nem a megépítéséhez, mert azt hiszem, ez elkerülhetetlen,
hanem hogy megértsük, hogyan kerüljük el a fegyverkezési versenyt,
és hozzuk létre úgy, hogy összhangban legyen az érdekeinkkel.
Ha szuperintelligens MI-ról beszélünk,
amely önmaga megváltoztatására is képes,
akkor egyetlen esélyünk van a kezdeti feltételek helyes meghatározására,
és még akkor is szükség lesz az ezzel járó
gazdasági és politikai következmények elfogadására.
És amint elfogadjuk,
hogy az intelligencia forrása az információ feldolgozásában rejlik,
és hogy az intelligencia alapja egy megfelelő számítógépes rendszer,
és elfogadjuk, hogy ezeket a rendszereket folyamatosan fejleszteni fogjuk,
és hogy a megismerés horizontja messze meghaladja
jelenlegi tudásunkat,
akkor be kell majd látnunk,
hogy valamiféle isten megalkotása felé haladunk.
Most van itt a pillanat,
hogy olyan istent alkossunk, amellyel együtt is tudunk élni.
Nagyon köszönöm.
(Taps)