V dětství jsem byl typickým nerdem,
myslím, že pár z vás taky.
(smích)
A vy, pane, který se smějete nejhlasitěji, jím ještě možná jste.
(smích)
Vyrůstal jsem v malém městě na prašných pláních severního Texasu,
syn šerifa, který byl synem kněze.
Moc rošťáren jsem provádět nemohl.
A tak jsem si z nudy začal číst o integrálech.
(smích)
Vy také, že?
To mě dovedlo k postavení modelu laseru a počítače a rakety
a to zase k vytvoření raketového paliva v mé ložnici.
Ve vědeckých termínech tomu říkáme
velmi špatný nápad.
(smích)
Ve stejném čase se do kin dostala
"2001: Vesmírná odysea" Stanleyho Kubricka
a můj život se navždy změnil.
Miloval jsem vše o tom filmu,
zejména Hala 9000.
HAL byl cítícím počítačem,
navrženým k navádění vesmírné lodě Discovery
ze Země na Jupiter.
HAL měl také charakterovou vadu,
protože na konci si cenil více mise než lidského života.
HAL byl fiktivní postavou,
nicméně hovoří k našemu strachu,
strachu z podřízení se
nějaké necítící, umělé inteligenci,
která je lhostejná k našemu lidství.
Věřím, že tento strach je neopodstatněný.
Nalézáme se vskutku
v pozoruhodném období,
odmítnutí omezení našich těl a mysli
nás vede ke stavbě výjimečných
nádherně komplexních a půvabných strojů,
které rozšíří lidskou zkušenost
způsoby přesahujícími naši představivost.
Po kariéře, která mne zavedla z letecké akademie
přes Vesmírné velení až do dnešního dne,
jsem se stal systémovým inženýrem
a nedávno se nechal vtáhnout do inženýrského problému,
souvisejícího s misí NASA na Mars.
Ve vesmírných letech na Měsíc,
můžeme spoléhat na řídicí středisko v Houstonu,
které dohlíží na všechny aspekty letu.
Nicméně Mars je 200krát dále
a signálu průměrně trvá 13 minut
cestovat ze Země na Mars.
Pokud se objeví problém, není zde dost času.
A rozumné inženýrské řešení
nám navrhuje umístit kontrolu mise
mezi stěny vesmírné lodi Orion.
Další fascinující myšlenka v profilu mise
umisťuje humanoidní roboty na povrch Marsu
před příletem samotných lidí,
aby nejprve postavili zařízení
a později sloužili jako členové vědeckého týmu.
Když se na to dívám pohledem inženýra,
zdálo se mi jasné, že potřebuji navrhnout
malou, spolupracující,
sociálně inteligentní umělou inteligenci.
Jinými slovy jsem potřeboval postavit něco velmi podobného HALovi,
ale bez vražedných tendencí.
(smích)
Zastavme se na chvilku.
Je možné postavit takovou umělou inteligenci?
Vlastně ano.
Z mnoha pohledů
je to složitý inženýrský problém
s prvky AI,
není to žádný otravný AI problém, který potřebuje být vyřešen.
Abych parafrázoval Alana Turinga,
nezajímá mne postavení cítícího stroje.
Nestavím HALa.
Chci jen jednoduchý mozek,
který poskytuje iluzi inteligence.
Umění a věda o počítačích podstoupila dlouhou cestu
od doby, kdy se HAL objevil na obrazovce
a kdyby zde byl jeho tvůrce, Dr. Chandra,
měl by pro nás mnoho otázek.
Je pro nás opravdu možné
číst datové toky v systému
s miliony zařízení,
předvídat jejich selhání a jednat v předstihu?
Ano.
Můžeme postavit systém, který komunikuje s lidmi přirozeným jazykem?
Ano.
Můžeme postavit systém, který rozlišuje objekty, identifikuje emoce,
emoce samotné, hraje hry a dokonce odečítá ze rtů?
Ano.
Můžeme postavit systém, který stanovuje cíle,
provádí plány ve vztahu k těm cílům a průběžně se učí?
Ano.
Můžeme postavit systémy, které mají teorii mysli?
Toto se učíme udělat.
Můžeme postavit systémy, které mají etické a morální základy?
To se musíme naučit.
Přijměme na okamžik to,
že je možné postavit takovou umělou inteligenci
pro tento typ mise a další.
Další otázka, kterou si musíme položit,
zní, měli bychom se jí bát?
Každá technologie sebou přináší
určitou míru očekávání.
Když jsme poprvé spatřili auta,
lidé lamentovali, že uvidíme rozpad rodiny.
Když se objevily telefony,
lidé se obávali, že to zničí obyčejnou konverzaci.
V určitém období jsme viděli všudypřítomné psané slovo,
lidé se obávali ztráty schopnosti pamatovat si.
Vše v sobě má zrnko pravdy,
ale je také pravdou, že tyto technologie
nám přinesly věci významným způsobem
rozšiřující lidskou zkušenost.
Pokročme trochu dále.
Nebojím se vytvoření takové AI,
protože bude ztělesňovat naše hodnoty.
Zvažte: vytvoření kognitivního systému je zcela odlišné
od vytvoření tradičního softwarového systému minulosti.
Neprogramujeme je. Učíme je.
Aby se systém naučil rozpoznávat květiny,
ukážeme mu tisíce květin, které máme rádi.
Abychom naučili systém hrát hru --
Já bych to udělal. Vy taky.
Mám rád květiny. No tak.
Abychom naučili hrát systém hru jako Go,
musel bych hrát tisíce her Go,
ale v průběhu je také učím,
jak rozpoznat dobrou hru od špatné.
Pokud chci stvořit uměle inteligentního právního asistenta,
naučím jej část práva,
ale současně mu dávám
smysl pro soucit a spravedlnost, které jsou součástí práva.
Terminologií vědy to nazýváme základní pravda
a zde je to důležité:
při vytváření těchto strojů
jim učením dáváme smysl pro hodnoty.
Věřím umělé inteligenci stejně,
ne-li více, jako dobře vyškolené osobě.
Můžete se ale zeptat,
a co nezávislí agenti,
třeba dobře financované nevládní organizace?
Nebojím se umělé inteligence v rukou osamělého vlka.
Je zřejmé, že se nemůžeme chránit proti všem náhodným násilným činům,
ale realita je systém, vyžadující
hodně a přesný trénink,
který je mimo možnosti jednotlivců.
A navíc,
je to mnohem více než jen vypustit do světa internetový virus,
který se stisknutím tlačítka ihned objeví na milionech míst
a laptopy začnou všude vybuchovat.
Tento typ prostředků je mnohem větší
a určitě je uvidíme přicházet.
Bojím se, že by takováto umělá inteligence
mohla ohrozit celé lidstvo?
Když shlédnete filmy jako "Matrix", "Metropolis"
"Terminátor", seriály jako "Westworld,"
všechny hovoří o tomto typu strachu.
V knize "Superinteligence" filozofa Nicka Bostroma
vyzvedává toto téma
a poznamenává, že superinteligence může být nejenom nebezpečná,
ale může znamenat existenční hrozbu celému lidstvu.
Základním argumentem Dr. Bostroma je,
že takový systém bude nakonec mít
neukojitelný hlad po informacích,
že se nakonec naučí jak se učit
a zjistí, že mohou mít cíle,
které jsou v protikladu s potřebami člověka.
Dr. Bostrom má mnoho následovníků.
Podporují jej lidé jako Elon Musk a Stephen Hawking.
Se vší úctou
k těmto brilantním mozkům věřím,
že se zásadně mýlí.
Je zde mnoho částí argumentů dr. Bostroma k diskusi
a já nemám čas se jim všem věnovat,
ale jen stručně zvažte toto:
super vědění je velmi odlišné od super konání.
HAL byl hrozbou posádce Discovery
jen dokud ovládal všechny části Discovery.
Tak by to mohlo být i se superinteligencí.
Musel by to být vládce celého našeho světa.
To je Skynet z filmu "Terminátor",
ve kterém byla superinteligence,
která velela lidské vůli,
která řídila každé zařízení, v každém koutku světa.
Prakticky,
to se prostě nestane.
Nestavíme AI, které ovládají počasí,
řídí vlny,
které řídí nás, rozmarné, chaotické lidi.
Navíc pokud by taková umělá inteligence existovala,
bude muset soupeřit s lidskými ekonomikami
a soupeřit s námi o zdroje.
Nakonec --
neříkejte to Siri --
vždycky je můžeme odpojit ze zásuvky.
(smích)
Jsme na neuvěřitelné cestě
koevoluce s našimi stroji.
Lidé dneška
nejsou lidé, kteří budou v budoucnu.
Obávat se nyní vzestupu superinteligence
je v mnoha ohledech nebezpečné rozptýlení,
protože sám vzestup počítačů
sebou přináší mnohé lidské a společenské otázky,
kterým se nyní musíme věnovat.
Jak nejlépe zorganizovat společnost,
když se zmenší potřeba lidské práce?
Jak mohu přinést porozumění a vzdělávání napříč zeměkoulí
a stále respektovat naše odlišnosti?
Jak mohu rozšířit a podpořit lidský život pomocí kognitivní zdravotní péče?
Jak mohu použít počítače,
aby nám pomohly dostat se ke hvězdám?
A to je vzrušující.
Příležitosti využít počítače
k lidskému pokroku
jsou v našem dosahu,
zde a nyní,
a to jsme teprve na začátku.
Děkuji.
(potlesk)