Nebezpečí umělé inteligence je divnější, než si myslíte

Nebezpečí umělé inteligence netkví v tom, že by se proti nám vzbouřila, ale v tom, že bude dělat přesně to, o co ji požádáme, říká Janelle Shane, výzkumnice v oblasti umělé inteligence. Podělí se s námi o zvláštní a občas znepokojivé vylomeniny, které umělá inteligence dělá, když se snaží řešit lidské problémy, jako je vymýšlení nových zmrzlinových příchutí nebo rozpoznávání aut na silnici. Shane ukazuje, že umělá inteligence se zatím nevyrovná lidským mozkům.

Umělá inteligence,

jak známo, se míchá do spousty
průmyslových odvětví.

Tak třeba zmrzlina.

Jakou spoustu neskutečných
nových příchutí bychom mohli vytvořit

pomocí pokročilé umělé inteligence?

Dala jsem se dohromady se skupinou
programátorů z Kealingovy střední školy,

abych našla odpověď na tuto otázku.

Sebrali více než 1600 existujících
zmrzlinových příchutí

a společně jsme je nacpali do jednoho
algoritmu a čekali, co z něj vzejde.

A tohle jsou příklady příchutí,
se kterými umělá inteligence přišla.

[Dýňová kopa odpadků]

(Smích)

[Sliz s arašídovým máslem]

[Jahodovo-smetanová choroba]

(Smích)

To nejsou lahodné příchutě,
které jsme doufali získat.

Takže otázka zní: Co se stalo?

Co se pokazilo?

Snaží se nás umělá inteligence zabít?

Nebo se snaží dělat, co po ní chceme,
ale má s tím nějaký problém?

Když se ve filmech začne dít
něco špatného s UI,

je to většinou proto,
že se umělá inteligence rozhodla,

že už nechce lidstvo poslouchat

a má svoje vlastní cíle - děkuji pěkně.

Nicméně ve skutečném světě
ta umělá inteligence, kterou máme,

není ani zdaleka tak chytrá.

Má výpočetní sílu přibližně jako žížala

nebo maximálně jako jediná včela,

ale ve skutečnosti spíš méně.

Jak stále získáváme
nové poznatky o mozku

nám ukazuje, jak moc je umělá inteligence
vzdálená skutečným mozkům.

Dneska třeba dokáže UI
rozpoznat chodce na obrázku,

ale nechápe, co to vlastně chodec je,

pro ni je to jenom soubor linek,
textur a podobných věcí.

Ale neví, co to vlastně je člověk.

Bude dnešní umělá inteligence
dělat to, co po ní chceme?

Bude, když to bude umět,

ale může se stát, že neudělá to,
co jsme měli na mysli.

Řekněme, že se snažíte vyvinout UI,

která vezme tuhle sadu
robotích součástek

a sestaví z nich robota,
který se má dostat z bodu A do bodu B.

Kdybyste se snažili vyřešit tento problém

napsáním tradičního počítačového programu,

programovali byste instrukce
krok po kroku,

jak má vzít ty součástky

a jak z nich sestavit robota,
který má nohy,

jak má ty nohy použít,
aby se dostal do bodu B.

Ale když používáte umělou inteligenci,

tak to funguje jinak.

Neřeknete jí, jak ten problém vyřešit,

dáte jí jenom cíl

a ona musí sama metodou pokusu a omylu
přijít na to,

jak toho cíle dosáhnout.

Ukáže se, že UI se tenhle konkrétní
úkol snaží vyřešit takto:

postaví z dílů věž a pak se skácí tak,

že dopadne do bodu B.

V podstatě je to skutečně řešení problému.

Technicky vzato se dostala do bodu B.

Nebezpečí UI není v tom,
že by proti nám povstala,

ale že bude dělat přesně to,
o co jí požádáme.

Vtip práce s umělou inteligencí zní:

Jak zformulovat náši úlohu,
aby udělala to, co po ní skutečně chceme?

Tady ten malý robot je ovládán
umělou inteligencí.

UI navrhla, jak mají vypadat jeho nohy

a vymyslela, jak je používat,
aby překonala všechny tyto překážky.

Ale když David Ha navrhoval
tento experiment,

musel v něm nastavit
velmi velmi přísné limity,

jak dlouhé smí mít ten robot nohy,

protože jinak ...

(Smích)

A technicky vzato, překonalo to
všechny překážky.

Takže vidíte, jak je těžké přimět UI
k něčemu tak jednoduchému jako chůze.

Když vidíte, že UI udělá tohle,
mohli byste říct, fajn, tohle není fér,

nemůžeš se prostě stát věží
a pak spadnout,

musíš používat nohy a chodit.

Ale pak se ukáže, že to taky nefunguje.

Úkolem téhle umělé inteligence
byl rychlý pohyb.

Neřekli jí, že má běžet směrem dopředu,

nebo že nesmí používat ruce.

Tohle dostanete,
když chcete naučit UI rychle běhat:

dostanete věci jako salta
a švihlou chůzi.

A to je skutečně běžné.

Podobně jako lezení po zemi.

(Smích)

Podle mého názoru
by daleko divnější měly být

roboti jako Terminátor.

Nabourat se do „Matrixu“ je další věc,
kterou UI udělá, když jí dáte příležitost.

Když trénujete UI v simulaci,

naučí se dělat věci jako nabourat se
do matematických chyb v simulaci

a získávat z nich energii.

Nebo si najde způsob, hýbat se rychleji
opakovaným padáním na zem.

Když pracujete s UI,

není to jako práce s jiným člověkem,

daleko více se to podobá práci
s nějakou zvláštní přírodní silou.

A je velice jednoduché UI
omylem špatně zadat řešený problém.

Často si to neuvědomíme do té doby,
než se něco stane.

Tohle je můj pokus,

chtěla jsem po UI,
aby napodobila nátěrové barvy,

aby vymyslela nové barvy,

přičemž dostala seznam
jako tady nalevo.

A UI nakonec přišla s tímto.

[Sindino kakání, lejno,
utrpení, pubická šedá]

(Smích)

Takže vlastně udělala,

co jsem si přála.

Jenom jsem chtěla, aby vymysla
pro barvy nějaké hezké názvy,

ale ve skutečnosti jsem požádala o to,

aby napodobila kombinace písmen,

které viděla v předloze.

Neřekla jsem jí nic o tom,
co ta slova znamenají,

nebo že by některá slova

možná neměla používat pro názvy barev.

Celý svět jsou pro ni jenom ta data
která jsem jí zadala.

Podobně jako s těmi příchutěmi zmrzlin,
nezná nic jiného.

Takže jsou to data,

kterými často omylem žádáme UI o něco,
co nechceme.

Tahle ryba je lín.

Jedna skupina vědců

se jednou snažila naučit UI
rozpoznávat lína na obrázcích.

Ale když se potom zeptali,

kterou část obrázku skutečně používá
k rozpoznání té ryby,

vyznačila toto.

Ano, to jsou lidské prsty.

Proč by se dívala na lidské prsty,

když se snaží rozpoznat rybu?

Jde o to, že lín je ryba,
která se loví na udici,

takže na spoustě obrázků,
kde ji UI při tréninku viděla,

ta ryba vypadala takto.

(Smích)

Ona nevěděla, že ty prsty
nejsou součástí ryby.

Tady vidíte, jak je to těžké,
navrhnout umělou inteligenci,

která skutečně dokáže pochopit,
na co se dívá.

A to je důvod, proč je vývoj
rozpoznávání obrazu

pro samořiditelná auta tak těžký

a proč je spousta selhání
samořiditelných aut

způsobena tím, že UI byla zmatená.

Chtěla bych zmínit příklad
z roku 2016.

Došlo ke smrtelné nehodě,
když někdo používal autopilota Tesly,

ale místo aby ho používal na dálnici,
pro kterou byl autopilot navržen,

použil ho ve městě.

A stalo se,

že před auto vjel náklaďák
a to auto nezabrzdilo.

Umělá inteligence určitě byla trénovaná
na rozpoznávání nákladních aut.

Ale problém byl nejspíš v tom,

že UI byla trénovaná na rozpoznávání
náklaďáků na dálnici,

kde lze očekávat,
že jsou vidět jenom zezadu.

Na dálnici se nemůže vyskytnout
náklaďák ze strany,

takže když UI viděla ten náklaďák,

tak si nejspíš řekla,
že to asi bude dopravní značka

a může bezpečně projet pod ní.

Teď přešlap UI z jiné oblasti.

V Amazonu museli nedávno vzdát
vývoj algoritmu na třídění životopisů,

když zjistili, že ten algoritmus
se naučil diskriminovat ženy.

Trénovali ho na příkladech
životopisů lidí,

které zaměstnali v minulosti.

A z těchto příkladů se UI naučila
vyhýbat se životopisům lidí,

kteří chodili na ženské univerzity,

nebo měli slovo ‚žena‘
někde ve svém životopisu,

jako třeba ‚ženský fotbalový tým‘,
nebo ‚Společnost ženských inženýrů‘.

Umělá inteligence nevěděla, že neměla
napodobovat tuhle konkrétní věc,

kterou viděla u lidí.

A technicky vzato dělala to,
o co jí žádali.

Jenom ji omylem požádali o špatnou věc.

A tohle se děje
s umělou inteligencí stále.

UI může být opravdu destruktivní
a nevědět o tom.

UI, která doporučuje obsah
na Facebooku nebo YouTube,

je optimalizovaná na zvyšování počtu
kliknutí a shlédnutí.

Bohužel se ukázalo, že jeden způsob
jak toho dosahuje,

je doporučovat obsah plný předsudků
nebo konspiračních teorií.

Samotná umělá inteligence nemá ponětí,
co ten obsah skutečně znamená

a nemá ani ponětí o možných důsledcích
doporučování takového obsahu.

Takže když pracujeme s UI,

je na nás, abychom se vyvarovali problémů.

A vyvarovat se problémů

může být otázkou
prastarého problému komunikace,

přičemž my jako lidé se musíme naučit
komunikovat s umělou inteligencí.

Musíme se naučit, co UI dokáže
a co nedokáže

a pochopit, že se svým malinkatým
žížalím mozečkem

UI tak úplně nerozumí tomu,
o co se ji snažíme požádat.

Jinými slovy, musíme být připraveni
pracovat s UI,

která není superschopná vševědoucí
umělá inteligence ze sci-fi.

Musíme být připraveni pracovat s UI,

kterou máme k dispozici dnes.

Dnešní UI je docela dost divná.

Děkuji.

(Potlesk)