Nebezpečí umělé inteligence je divnější, než si myslíte
-
0:03 - 0:05Umělá inteligence,
-
0:05 - 0:08jak známo, se míchá do spousty
průmyslových odvětví. -
0:09 - 0:11Tak třeba zmrzlina.
-
0:12 - 0:16Jakou spoustu neskutečných
nových příchutí bychom mohli vytvořit -
0:16 - 0:19pomocí pokročilé umělé inteligence?
-
0:19 - 0:23Dala jsem se dohromady se skupinou
programátorů z Kealingovy střední školy, -
0:23 - 0:25abych našla odpověď na tuto otázku.
-
0:25 - 0:30Sebrali více než 1600 existujících
zmrzlinových příchutí -
0:31 - 0:36a společně jsme je nacpali do jednoho
algoritmu a čekali, co z něj vzejde. -
0:36 - 0:40A tohle jsou příklady příchutí,
se kterými umělá inteligence přišla. -
0:40 - 0:42[Dýňová kopa odpadků]
-
0:42 - 0:43(Smích)
-
0:43 - 0:46[Sliz s arašídovým máslem]
-
0:46 - 0:49[Jahodovo-smetanová choroba]
-
0:49 - 0:50(Smích)
-
0:50 - 0:55To nejsou lahodné příchutě,
které jsme doufali získat. -
0:55 - 0:57Takže otázka zní: Co se stalo?
-
0:57 - 0:58Co se pokazilo?
-
0:58 - 1:00Snaží se nás umělá inteligence zabít?
-
1:01 - 1:05Nebo se snaží dělat, co po ní chceme,
ale má s tím nějaký problém? -
1:06 - 1:09Když se ve filmech začne dít
něco špatného s UI, -
1:09 - 1:12je to většinou proto,
že se umělá inteligence rozhodla, -
1:12 - 1:14že už nechce lidstvo poslouchat
-
1:14 - 1:16a má svoje vlastní cíle - děkuji pěkně.
-
1:17 - 1:20Nicméně ve skutečném světě
ta umělá inteligence, kterou máme, -
1:21 - 1:22není ani zdaleka tak chytrá.
-
1:23 - 1:27Má výpočetní sílu přibližně jako žížala
-
1:27 - 1:30nebo maximálně jako jediná včela,
-
1:31 - 1:33ale ve skutečnosti spíš méně.
-
1:33 - 1:35Jak stále získáváme
nové poznatky o mozku -
1:35 - 1:40nám ukazuje, jak moc je umělá inteligence
vzdálená skutečným mozkům. -
1:40 - 1:45Dneska třeba dokáže UI
rozpoznat chodce na obrázku, -
1:45 - 1:48ale nechápe, co to vlastně chodec je,
-
1:48 - 1:53pro ni je to jenom soubor linek,
textur a podobných věcí. -
1:54 - 1:56Ale neví, co to vlastně je člověk.
-
1:57 - 2:00Bude dnešní umělá inteligence
dělat to, co po ní chceme? -
2:00 - 2:02Bude, když to bude umět,
-
2:02 - 2:04ale může se stát, že neudělá to,
co jsme měli na mysli. -
2:04 - 2:07Řekněme, že se snažíte vyvinout UI,
-
2:07 - 2:10která vezme tuhle sadu
robotích součástek -
2:10 - 2:14a sestaví z nich robota,
který se má dostat z bodu A do bodu B. -
2:14 - 2:16Kdybyste se snažili vyřešit tento problém
-
2:16 - 2:19napsáním tradičního počítačového programu,
-
2:19 - 2:22programovali byste instrukce
krok po kroku, -
2:22 - 2:23jak má vzít ty součástky
-
2:23 - 2:26a jak z nich sestavit robota,
který má nohy, -
2:26 - 2:29jak má ty nohy použít,
aby se dostal do bodu B. -
2:29 - 2:32Ale když používáte umělou inteligenci,
-
2:32 - 2:33tak to funguje jinak.
-
2:33 - 2:35Neřeknete jí, jak ten problém vyřešit,
-
2:35 - 2:37dáte jí jenom cíl
-
2:37 - 2:40a ona musí sama metodou pokusu a omylu
přijít na to, -
2:40 - 2:42jak toho cíle dosáhnout.
-
2:42 - 2:47Ukáže se, že UI se tenhle konkrétní
úkol snaží vyřešit takto: -
2:48 - 2:51postaví z dílů věž a pak se skácí tak,
-
2:51 - 2:53že dopadne do bodu B.
-
2:53 - 2:56V podstatě je to skutečně řešení problému.
-
2:56 - 2:58Technicky vzato se dostala do bodu B.
-
2:58 - 3:02Nebezpečí UI není v tom,
že by proti nám povstala, -
3:02 - 3:06ale že bude dělat přesně to,
o co jí požádáme. -
3:07 - 3:09Vtip práce s umělou inteligencí zní:
-
3:09 - 3:13Jak zformulovat náši úlohu,
aby udělala to, co po ní skutečně chceme? -
3:15 - 3:18Tady ten malý robot je ovládán
umělou inteligencí. -
3:18 - 3:21UI navrhla, jak mají vypadat jeho nohy
-
3:21 - 3:25a vymyslela, jak je používat,
aby překonala všechny tyto překážky. -
3:25 - 3:28Ale když David Ha navrhoval
tento experiment, -
3:28 - 3:31musel v něm nastavit
velmi velmi přísné limity, -
3:31 - 3:34jak dlouhé smí mít ten robot nohy,
-
3:34 - 3:36protože jinak ...
-
3:43 - 3:47(Smích)
-
3:49 - 3:52A technicky vzato, překonalo to
všechny překážky. -
3:52 - 3:57Takže vidíte, jak je těžké přimět UI
k něčemu tak jednoduchému jako chůze. -
3:57 - 4:01Když vidíte, že UI udělá tohle,
mohli byste říct, fajn, tohle není fér, -
4:01 - 4:04nemůžeš se prostě stát věží
a pak spadnout, -
4:04 - 4:07musíš používat nohy a chodit.
-
4:07 - 4:10Ale pak se ukáže, že to taky nefunguje.
-
4:10 - 4:13Úkolem téhle umělé inteligence
byl rychlý pohyb. -
4:13 - 4:17Neřekli jí, že má běžet směrem dopředu,
-
4:17 - 4:19nebo že nesmí používat ruce.
-
4:19 - 4:24Tohle dostanete,
když chcete naučit UI rychle běhat: -
4:24 - 4:28dostanete věci jako salta
a švihlou chůzi. -
4:28 - 4:29A to je skutečně běžné.
-
4:30 - 4:33Podobně jako lezení po zemi.
-
4:33 - 4:34(Smích)
-
4:35 - 4:38Podle mého názoru
by daleko divnější měly být -
4:39 - 4:40roboti jako Terminátor.
-
4:40 - 4:44Nabourat se do „Matrixu“ je další věc,
kterou UI udělá, když jí dáte příležitost. -
4:44 - 4:47Když trénujete UI v simulaci,
-
4:47 - 4:51naučí se dělat věci jako nabourat se
do matematických chyb v simulaci -
4:51 - 4:52a získávat z nich energii.
-
4:53 - 4:58Nebo si najde způsob, hýbat se rychleji
opakovaným padáním na zem. -
4:58 - 5:00Když pracujete s UI,
-
5:00 - 5:02není to jako práce s jiným člověkem,
-
5:02 - 5:06daleko více se to podobá práci
s nějakou zvláštní přírodní silou. -
5:07 - 5:11A je velice jednoduché UI
omylem špatně zadat řešený problém. -
5:11 - 5:16Často si to neuvědomíme do té doby,
než se něco stane. -
5:16 - 5:18Tohle je můj pokus,
-
5:18 - 5:22chtěla jsem po UI,
aby napodobila nátěrové barvy, -
5:22 - 5:23aby vymyslela nové barvy,
-
5:23 - 5:26přičemž dostala seznam
jako tady nalevo. -
5:27 - 5:30A UI nakonec přišla s tímto.
-
5:30 - 5:33[Sindino kakání, lejno,
utrpení, pubická šedá] -
5:33 - 5:37(Smích)
-
5:39 - 5:41Takže vlastně udělala,
-
5:41 - 5:43co jsem si přála.
-
5:43 - 5:46Jenom jsem chtěla, aby vymysla
pro barvy nějaké hezké názvy, -
5:46 - 5:49ale ve skutečnosti jsem požádala o to,
-
5:49 - 5:52aby napodobila kombinace písmen,
-
5:52 - 5:54které viděla v předloze.
-
5:54 - 5:57Neřekla jsem jí nic o tom,
co ta slova znamenají, -
5:57 - 5:59nebo že by některá slova
-
5:59 - 6:02možná neměla používat pro názvy barev.
-
6:03 - 6:07Celý svět jsou pro ni jenom ta data
která jsem jí zadala. -
6:07 - 6:11Podobně jako s těmi příchutěmi zmrzlin,
nezná nic jiného. -
6:12 - 6:14Takže jsou to data,
-
6:14 - 6:18kterými často omylem žádáme UI o něco,
co nechceme. -
6:19 - 6:22Tahle ryba je lín.
-
6:22 - 6:24Jedna skupina vědců
-
6:24 - 6:27se jednou snažila naučit UI
rozpoznávat lína na obrázcích. -
6:27 - 6:29Ale když se potom zeptali,
-
6:29 - 6:32kterou část obrázku skutečně používá
k rozpoznání té ryby, -
6:32 - 6:34vyznačila toto.
-
6:35 - 6:37Ano, to jsou lidské prsty.
-
6:37 - 6:39Proč by se dívala na lidské prsty,
-
6:39 - 6:41když se snaží rozpoznat rybu?
-
6:42 - 6:45Jde o to, že lín je ryba,
která se loví na udici, -
6:45 - 6:50takže na spoustě obrázků,
kde ji UI při tréninku viděla, -
6:50 - 6:52ta ryba vypadala takto.
-
6:52 - 6:53(Smích)
-
6:53 - 6:57Ona nevěděla, že ty prsty
nejsou součástí ryby. -
6:59 - 7:03Tady vidíte, jak je to těžké,
navrhnout umělou inteligenci, -
7:03 - 7:06která skutečně dokáže pochopit,
na co se dívá. -
7:06 - 7:09A to je důvod, proč je vývoj
rozpoznávání obrazu -
7:09 - 7:11pro samořiditelná auta tak těžký
-
7:11 - 7:14a proč je spousta selhání
samořiditelných aut -
7:14 - 7:16způsobena tím, že UI byla zmatená.
-
7:16 - 7:20Chtěla bych zmínit příklad
z roku 2016. -
7:20 - 7:25Došlo ke smrtelné nehodě,
když někdo používal autopilota Tesly, -
7:25 - 7:28ale místo aby ho používal na dálnici,
pro kterou byl autopilot navržen, -
7:28 - 7:31použil ho ve městě.
-
7:31 - 7:32A stalo se,
-
7:32 - 7:36že před auto vjel náklaďák
a to auto nezabrzdilo. -
7:37 - 7:41Umělá inteligence určitě byla trénovaná
na rozpoznávání nákladních aut. -
7:41 - 7:43Ale problém byl nejspíš v tom,
-
7:43 - 7:46že UI byla trénovaná na rozpoznávání
náklaďáků na dálnici, -
7:46 - 7:49kde lze očekávat,
že jsou vidět jenom zezadu. -
7:49 - 7:53Na dálnici se nemůže vyskytnout
náklaďák ze strany, -
7:53 - 7:56takže když UI viděla ten náklaďák,
-
7:56 - 8:01tak si nejspíš řekla,
že to asi bude dopravní značka -
8:01 - 8:03a může bezpečně projet pod ní.
-
8:04 - 8:07Teď přešlap UI z jiné oblasti.
-
8:07 - 8:11V Amazonu museli nedávno vzdát
vývoj algoritmu na třídění životopisů, -
8:11 - 8:15když zjistili, že ten algoritmus
se naučil diskriminovat ženy. -
8:15 - 8:18Trénovali ho na příkladech
životopisů lidí, -
8:18 - 8:20které zaměstnali v minulosti.
-
8:20 - 8:24A z těchto příkladů se UI naučila
vyhýbat se životopisům lidí, -
8:24 - 8:26kteří chodili na ženské univerzity,
-
8:26 - 8:29nebo měli slovo ‚žena‘
někde ve svém životopisu, -
8:29 - 8:34jako třeba ‚ženský fotbalový tým‘,
nebo ‚Společnost ženských inženýrů‘. -
8:34 - 8:38Umělá inteligence nevěděla, že neměla
napodobovat tuhle konkrétní věc, -
8:38 - 8:40kterou viděla u lidí.
-
8:40 - 8:43A technicky vzato dělala to,
o co jí žádali. -
8:43 - 8:46Jenom ji omylem požádali o špatnou věc.
-
8:47 - 8:50A tohle se děje
s umělou inteligencí stále. -
8:50 - 8:54UI může být opravdu destruktivní
a nevědět o tom. -
8:54 - 8:59UI, která doporučuje obsah
na Facebooku nebo YouTube, -
8:59 - 9:02je optimalizovaná na zvyšování počtu
kliknutí a shlédnutí. -
9:02 - 9:06Bohužel se ukázalo, že jeden způsob
jak toho dosahuje, -
9:06 - 9:10je doporučovat obsah plný předsudků
nebo konspiračních teorií. -
9:11 - 9:16Samotná umělá inteligence nemá ponětí,
co ten obsah skutečně znamená -
9:16 - 9:22a nemá ani ponětí o možných důsledcích
doporučování takového obsahu. -
9:22 - 9:24Takže když pracujeme s UI,
-
9:24 - 9:28je na nás, abychom se vyvarovali problémů.
-
9:29 - 9:31A vyvarovat se problémů
-
9:31 - 9:35může být otázkou
prastarého problému komunikace, -
9:35 - 9:39přičemž my jako lidé se musíme naučit
komunikovat s umělou inteligencí. -
9:39 - 9:43Musíme se naučit, co UI dokáže
a co nedokáže -
9:43 - 9:46a pochopit, že se svým malinkatým
žížalím mozečkem -
9:46 - 9:50UI tak úplně nerozumí tomu,
o co se ji snažíme požádat. -
9:51 - 9:54Jinými slovy, musíme být připraveni
pracovat s UI, -
9:54 - 10:00která není superschopná vševědoucí
umělá inteligence ze sci-fi. -
10:00 - 10:03Musíme být připraveni pracovat s UI,
-
10:03 - 10:06kterou máme k dispozici dnes.
-
10:06 - 10:10Dnešní UI je docela dost divná.
-
10:10 - 10:11Děkuji.
-
10:11 - 10:16(Potlesk)
- Title:
- Nebezpečí umělé inteligence je divnější, než si myslíte
- Speaker:
- Janelle Shane
- Description:
-
Nebezpečí umělé inteligence netkví v tom, že by se proti nám vzbouřila, ale v tom, že bude dělat přesně to, o co ji požádáme, říká Janelle Shane, výzkumnice v oblasti umělé inteligence. Podělí se s námi o zvláštní a občas znepokojivé vylomeniny, které umělá inteligence dělá, když se snaží řešit lidské problémy, jako je vymýšlení nových zmrzlinových příchutí nebo rozpoznávání aut na silnici. Shane ukazuje, že umělá inteligence se zatím nevyrovná lidským mozkům.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Samuel Titera approved Czech subtitles for The danger of AI is weirder than you think | ||
Samuel Titera edited Czech subtitles for The danger of AI is weirder than you think | ||
Karel Čížek accepted Czech subtitles for The danger of AI is weirder than you think | ||
Karel Čížek edited Czech subtitles for The danger of AI is weirder than you think | ||
Karel Čížek edited Czech subtitles for The danger of AI is weirder than you think | ||
Karel Čížek edited Czech subtitles for The danger of AI is weirder than you think | ||
Daniel Gromada edited Czech subtitles for The danger of AI is weirder than you think | ||
Daniel Gromada edited Czech subtitles for The danger of AI is weirder than you think |