Return to Video

Nebezpečí umělé inteligence je divnější, než si myslíte

  • 0:03 - 0:05
    Umělá inteligence,
  • 0:05 - 0:08
    jak známo, se míchá do spousty
    průmyslových odvětví.
  • 0:09 - 0:11
    Tak třeba zmrzlina.
  • 0:12 - 0:16
    Jakou spoustu neskutečných
    nových příchutí bychom mohli vytvořit
  • 0:16 - 0:19
    pomocí pokročilé umělé inteligence?
  • 0:19 - 0:23
    Dala jsem se dohromady se skupinou
    programátorů z Kealingovy střední školy,
  • 0:23 - 0:25
    abych našla odpověď na tuto otázku.
  • 0:25 - 0:30
    Sebrali více než 1600 existujících
    zmrzlinových příchutí
  • 0:31 - 0:36
    a společně jsme je nacpali do jednoho
    algoritmu a čekali, co z něj vzejde.
  • 0:36 - 0:40
    A tohle jsou příklady příchutí,
    se kterými umělá inteligence přišla.
  • 0:40 - 0:42
    [Dýňová kopa odpadků]
  • 0:42 - 0:43
    (Smích)
  • 0:43 - 0:46
    [Sliz s arašídovým máslem]
  • 0:46 - 0:49
    [Jahodovo-smetanová choroba]
  • 0:49 - 0:50
    (Smích)
  • 0:50 - 0:55
    To nejsou lahodné příchutě,
    které jsme doufali získat.
  • 0:55 - 0:57
    Takže otázka zní: Co se stalo?
  • 0:57 - 0:58
    Co se pokazilo?
  • 0:58 - 1:00
    Snaží se nás umělá inteligence zabít?
  • 1:01 - 1:05
    Nebo se snaží dělat, co po ní chceme,
    ale má s tím nějaký problém?
  • 1:06 - 1:09
    Když se ve filmech začne dít
    něco špatného s UI,
  • 1:09 - 1:12
    je to většinou proto,
    že se umělá inteligence rozhodla,
  • 1:12 - 1:14
    že už nechce lidstvo poslouchat
  • 1:14 - 1:16
    a má svoje vlastní cíle - děkuji pěkně.
  • 1:17 - 1:20
    Nicméně ve skutečném světě
    ta umělá inteligence, kterou máme,
  • 1:21 - 1:22
    není ani zdaleka tak chytrá.
  • 1:23 - 1:27
    Má výpočetní sílu přibližně jako žížala
  • 1:27 - 1:30
    nebo maximálně jako jediná včela,
  • 1:31 - 1:33
    ale ve skutečnosti spíš méně.
  • 1:33 - 1:35
    Jak stále získáváme
    nové poznatky o mozku
  • 1:35 - 1:40
    nám ukazuje, jak moc je umělá inteligence
    vzdálená skutečným mozkům.
  • 1:40 - 1:45
    Dneska třeba dokáže UI
    rozpoznat chodce na obrázku,
  • 1:45 - 1:48
    ale nechápe, co to vlastně chodec je,
  • 1:48 - 1:53
    pro ni je to jenom soubor linek,
    textur a podobných věcí.
  • 1:54 - 1:56
    Ale neví, co to vlastně je člověk.
  • 1:57 - 2:00
    Bude dnešní umělá inteligence
    dělat to, co po ní chceme?
  • 2:00 - 2:02
    Bude, když to bude umět,
  • 2:02 - 2:04
    ale může se stát, že neudělá to,
    co jsme měli na mysli.
  • 2:04 - 2:07
    Řekněme, že se snažíte vyvinout UI,
  • 2:07 - 2:10
    která vezme tuhle sadu
    robotích součástek
  • 2:10 - 2:14
    a sestaví z nich robota,
    který se má dostat z bodu A do bodu B.
  • 2:14 - 2:16
    Kdybyste se snažili vyřešit tento problém
  • 2:16 - 2:19
    napsáním tradičního počítačového programu,
  • 2:19 - 2:22
    programovali byste instrukce
    krok po kroku,
  • 2:22 - 2:23
    jak má vzít ty součástky
  • 2:23 - 2:26
    a jak z nich sestavit robota,
    který má nohy,
  • 2:26 - 2:29
    jak má ty nohy použít,
    aby se dostal do bodu B.
  • 2:29 - 2:32
    Ale když používáte umělou inteligenci,
  • 2:32 - 2:33
    tak to funguje jinak.
  • 2:33 - 2:35
    Neřeknete jí, jak ten problém vyřešit,
  • 2:35 - 2:37
    dáte jí jenom cíl
  • 2:37 - 2:40
    a ona musí sama metodou pokusu a omylu
    přijít na to,
  • 2:40 - 2:42
    jak toho cíle dosáhnout.
  • 2:42 - 2:47
    Ukáže se, že UI se tenhle konkrétní
    úkol snaží vyřešit takto:
  • 2:48 - 2:51
    postaví z dílů věž a pak se skácí tak,
  • 2:51 - 2:53
    že dopadne do bodu B.
  • 2:53 - 2:56
    V podstatě je to skutečně řešení problému.
  • 2:56 - 2:58
    Technicky vzato se dostala do bodu B.
  • 2:58 - 3:02
    Nebezpečí UI není v tom,
    že by proti nám povstala,
  • 3:02 - 3:06
    ale že bude dělat přesně to,
    o co jí požádáme.
  • 3:07 - 3:09
    Vtip práce s umělou inteligencí zní:
  • 3:09 - 3:13
    Jak zformulovat náši úlohu,
    aby udělala to, co po ní skutečně chceme?
  • 3:15 - 3:18
    Tady ten malý robot je ovládán
    umělou inteligencí.
  • 3:18 - 3:21
    UI navrhla, jak mají vypadat jeho nohy
  • 3:21 - 3:25
    a vymyslela, jak je používat,
    aby překonala všechny tyto překážky.
  • 3:25 - 3:28
    Ale když David Ha navrhoval
    tento experiment,
  • 3:28 - 3:31
    musel v něm nastavit
    velmi velmi přísné limity,
  • 3:31 - 3:34
    jak dlouhé smí mít ten robot nohy,
  • 3:34 - 3:36
    protože jinak ...
  • 3:43 - 3:47
    (Smích)
  • 3:49 - 3:52
    A technicky vzato, překonalo to
    všechny překážky.
  • 3:52 - 3:57
    Takže vidíte, jak je těžké přimět UI
    k něčemu tak jednoduchému jako chůze.
  • 3:57 - 4:01
    Když vidíte, že UI udělá tohle,
    mohli byste říct, fajn, tohle není fér,
  • 4:01 - 4:04
    nemůžeš se prostě stát věží
    a pak spadnout,
  • 4:04 - 4:07
    musíš používat nohy a chodit.
  • 4:07 - 4:10
    Ale pak se ukáže, že to taky nefunguje.
  • 4:10 - 4:13
    Úkolem téhle umělé inteligence
    byl rychlý pohyb.
  • 4:13 - 4:17
    Neřekli jí, že má běžet směrem dopředu,
  • 4:17 - 4:19
    nebo že nesmí používat ruce.
  • 4:19 - 4:24
    Tohle dostanete,
    když chcete naučit UI rychle běhat:
  • 4:24 - 4:28
    dostanete věci jako salta
    a švihlou chůzi.
  • 4:28 - 4:29
    A to je skutečně běžné.
  • 4:30 - 4:33
    Podobně jako lezení po zemi.
  • 4:33 - 4:34
    (Smích)
  • 4:35 - 4:38
    Podle mého názoru
    by daleko divnější měly být
  • 4:39 - 4:40
    roboti jako Terminátor.
  • 4:40 - 4:44
    Nabourat se do „Matrixu“ je další věc,
    kterou UI udělá, když jí dáte příležitost.
  • 4:44 - 4:47
    Když trénujete UI v simulaci,
  • 4:47 - 4:51
    naučí se dělat věci jako nabourat se
    do matematických chyb v simulaci
  • 4:51 - 4:52
    a získávat z nich energii.
  • 4:53 - 4:58
    Nebo si najde způsob, hýbat se rychleji
    opakovaným padáním na zem.
  • 4:58 - 5:00
    Když pracujete s UI,
  • 5:00 - 5:02
    není to jako práce s jiným člověkem,
  • 5:02 - 5:06
    daleko více se to podobá práci
    s nějakou zvláštní přírodní silou.
  • 5:07 - 5:11
    A je velice jednoduché UI
    omylem špatně zadat řešený problém.
  • 5:11 - 5:16
    Často si to neuvědomíme do té doby,
    než se něco stane.
  • 5:16 - 5:18
    Tohle je můj pokus,
  • 5:18 - 5:22
    chtěla jsem po UI,
    aby napodobila nátěrové barvy,
  • 5:22 - 5:23
    aby vymyslela nové barvy,
  • 5:23 - 5:26
    přičemž dostala seznam
    jako tady nalevo.
  • 5:27 - 5:30
    A UI nakonec přišla s tímto.
  • 5:30 - 5:33
    [Sindino kakání, lejno,
    utrpení, pubická šedá]
  • 5:33 - 5:37
    (Smích)
  • 5:39 - 5:41
    Takže vlastně udělala,
  • 5:41 - 5:43
    co jsem si přála.
  • 5:43 - 5:46
    Jenom jsem chtěla, aby vymysla
    pro barvy nějaké hezké názvy,
  • 5:46 - 5:49
    ale ve skutečnosti jsem požádala o to,
  • 5:49 - 5:52
    aby napodobila kombinace písmen,
  • 5:52 - 5:54
    které viděla v předloze.
  • 5:54 - 5:57
    Neřekla jsem jí nic o tom,
    co ta slova znamenají,
  • 5:57 - 5:59
    nebo že by některá slova
  • 5:59 - 6:02
    možná neměla používat pro názvy barev.
  • 6:03 - 6:07
    Celý svět jsou pro ni jenom ta data
    která jsem jí zadala.
  • 6:07 - 6:11
    Podobně jako s těmi příchutěmi zmrzlin,
    nezná nic jiného.
  • 6:12 - 6:14
    Takže jsou to data,
  • 6:14 - 6:18
    kterými často omylem žádáme UI o něco,
    co nechceme.
  • 6:19 - 6:22
    Tahle ryba je lín.
  • 6:22 - 6:24
    Jedna skupina vědců
  • 6:24 - 6:27
    se jednou snažila naučit UI
    rozpoznávat lína na obrázcích.
  • 6:27 - 6:29
    Ale když se potom zeptali,
  • 6:29 - 6:32
    kterou část obrázku skutečně používá
    k rozpoznání té ryby,
  • 6:32 - 6:34
    vyznačila toto.
  • 6:35 - 6:37
    Ano, to jsou lidské prsty.
  • 6:37 - 6:39
    Proč by se dívala na lidské prsty,
  • 6:39 - 6:41
    když se snaží rozpoznat rybu?
  • 6:42 - 6:45
    Jde o to, že lín je ryba,
    která se loví na udici,
  • 6:45 - 6:50
    takže na spoustě obrázků,
    kde ji UI při tréninku viděla,
  • 6:50 - 6:52
    ta ryba vypadala takto.
  • 6:52 - 6:53
    (Smích)
  • 6:53 - 6:57
    Ona nevěděla, že ty prsty
    nejsou součástí ryby.
  • 6:59 - 7:03
    Tady vidíte, jak je to těžké,
    navrhnout umělou inteligenci,
  • 7:03 - 7:06
    která skutečně dokáže pochopit,
    na co se dívá.
  • 7:06 - 7:09
    A to je důvod, proč je vývoj
    rozpoznávání obrazu
  • 7:09 - 7:11
    pro samořiditelná auta tak těžký
  • 7:11 - 7:14
    a proč je spousta selhání
    samořiditelných aut
  • 7:14 - 7:16
    způsobena tím, že UI byla zmatená.
  • 7:16 - 7:20
    Chtěla bych zmínit příklad
    z roku 2016.
  • 7:20 - 7:25
    Došlo ke smrtelné nehodě,
    když někdo používal autopilota Tesly,
  • 7:25 - 7:28
    ale místo aby ho používal na dálnici,
    pro kterou byl autopilot navržen,
  • 7:28 - 7:31
    použil ho ve městě.
  • 7:31 - 7:32
    A stalo se,
  • 7:32 - 7:36
    že před auto vjel náklaďák
    a to auto nezabrzdilo.
  • 7:37 - 7:41
    Umělá inteligence určitě byla trénovaná
    na rozpoznávání nákladních aut.
  • 7:41 - 7:43
    Ale problém byl nejspíš v tom,
  • 7:43 - 7:46
    že UI byla trénovaná na rozpoznávání
    náklaďáků na dálnici,
  • 7:46 - 7:49
    kde lze očekávat,
    že jsou vidět jenom zezadu.
  • 7:49 - 7:53
    Na dálnici se nemůže vyskytnout
    náklaďák ze strany,
  • 7:53 - 7:56
    takže když UI viděla ten náklaďák,
  • 7:56 - 8:01
    tak si nejspíš řekla,
    že to asi bude dopravní značka
  • 8:01 - 8:03
    a může bezpečně projet pod ní.
  • 8:04 - 8:07
    Teď přešlap UI z jiné oblasti.
  • 8:07 - 8:11
    V Amazonu museli nedávno vzdát
    vývoj algoritmu na třídění životopisů,
  • 8:11 - 8:15
    když zjistili, že ten algoritmus
    se naučil diskriminovat ženy.
  • 8:15 - 8:18
    Trénovali ho na příkladech
    životopisů lidí,
  • 8:18 - 8:20
    které zaměstnali v minulosti.
  • 8:20 - 8:24
    A z těchto příkladů se UI naučila
    vyhýbat se životopisům lidí,
  • 8:24 - 8:26
    kteří chodili na ženské univerzity,
  • 8:26 - 8:29
    nebo měli slovo ‚žena‘
    někde ve svém životopisu,
  • 8:29 - 8:34
    jako třeba ‚ženský fotbalový tým‘,
    nebo ‚Společnost ženských inženýrů‘.
  • 8:34 - 8:38
    Umělá inteligence nevěděla, že neměla
    napodobovat tuhle konkrétní věc,
  • 8:38 - 8:40
    kterou viděla u lidí.
  • 8:40 - 8:43
    A technicky vzato dělala to,
    o co jí žádali.
  • 8:43 - 8:46
    Jenom ji omylem požádali o špatnou věc.
  • 8:47 - 8:50
    A tohle se děje
    s umělou inteligencí stále.
  • 8:50 - 8:54
    UI může být opravdu destruktivní
    a nevědět o tom.
  • 8:54 - 8:59
    UI, která doporučuje obsah
    na Facebooku nebo YouTube,
  • 8:59 - 9:02
    je optimalizovaná na zvyšování počtu
    kliknutí a shlédnutí.
  • 9:02 - 9:06
    Bohužel se ukázalo, že jeden způsob
    jak toho dosahuje,
  • 9:06 - 9:10
    je doporučovat obsah plný předsudků
    nebo konspiračních teorií.
  • 9:11 - 9:16
    Samotná umělá inteligence nemá ponětí,
    co ten obsah skutečně znamená
  • 9:16 - 9:22
    a nemá ani ponětí o možných důsledcích
    doporučování takového obsahu.
  • 9:22 - 9:24
    Takže když pracujeme s UI,
  • 9:24 - 9:28
    je na nás, abychom se vyvarovali problémů.
  • 9:29 - 9:31
    A vyvarovat se problémů
  • 9:31 - 9:35
    může být otázkou
    prastarého problému komunikace,
  • 9:35 - 9:39
    přičemž my jako lidé se musíme naučit
    komunikovat s umělou inteligencí.
  • 9:39 - 9:43
    Musíme se naučit, co UI dokáže
    a co nedokáže
  • 9:43 - 9:46
    a pochopit, že se svým malinkatým
    žížalím mozečkem
  • 9:46 - 9:50
    UI tak úplně nerozumí tomu,
    o co se ji snažíme požádat.
  • 9:51 - 9:54
    Jinými slovy, musíme být připraveni
    pracovat s UI,
  • 9:54 - 10:00
    která není superschopná vševědoucí
    umělá inteligence ze sci-fi.
  • 10:00 - 10:03
    Musíme být připraveni pracovat s UI,
  • 10:03 - 10:06
    kterou máme k dispozici dnes.
  • 10:06 - 10:10
    Dnešní UI je docela dost divná.
  • 10:10 - 10:11
    Děkuji.
  • 10:11 - 10:16
    (Potlesk)
Título:
Nebezpečí umělé inteligence je divnější, než si myslíte
Altavoz:
Janelle Shane
Descripción:

Nebezpečí umělé inteligence netkví v tom, že by se proti nám vzbouřila, ale v tom, že bude dělat přesně to, o co ji požádáme, říká Janelle Shane, výzkumnice v oblasti umělé inteligence. Podělí se s námi o zvláštní a občas znepokojivé vylomeniny, které umělá inteligence dělá, když se snaží řešit lidské problémy, jako je vymýšlení nových zmrzlinových příchutí nebo rozpoznávání aut na silnici. Shane ukazuje, že umělá inteligence se zatím nevyrovná lidským mozkům.

more » « less
Video Language:
English
Team:
TED
Proyecto:
TEDTalks
Duration:
10:28

Subtítulos en Czech

Revisiones