WEBVTT

00:00:02.875 --> 00:00:04.765
Umělá inteligence,

00:00:04.789 --> 00:00:08.318
jak známo, se míchá do spousty
průmyslových odvětví.

00:00:08.961 --> 00:00:11.004
Tak třeba zmrzlina.

00:00:11.879 --> 00:00:15.518
Jakou spoustu neskutečných
nových příchutí bychom mohli vytvořit

00:00:15.542 --> 00:00:18.518
pomocí pokročilé umělé inteligence?

00:00:19.011 --> 00:00:23.072
Dala jsem se dohromady se skupinou
programátorů z Kealingovy střední školy,

00:00:23.196 --> 00:00:25.437
abych našla odpověď na tuto otázku.

00:00:25.461 --> 00:00:30.472
Sebrali více než 1600 existujících
zmrzlinových příchutí

00:00:30.566 --> 00:00:36.088
a společně jsme je nacpali do jednoho
algoritmu a čekali, co z něj vzejde.

00:00:36.112 --> 00:00:39.865
A tohle jsou příklady příchutí,
se kterými umělá inteligence přišla.

NOTE Paragraph

00:00:39.884 --> 00:00:41.915
[Dýňová kopa odpadků]

NOTE Paragraph

00:00:41.939 --> 00:00:43.125
(Smích)

NOTE Paragraph

00:00:43.125 --> 00:00:45.834
[Sliz s arašídovým máslem]

NOTE Paragraph

00:00:46.402 --> 00:00:48.745
[Jahodovo-smetanová choroba]

NOTE Paragraph

00:00:48.745 --> 00:00:50.315
(Smích)

NOTE Paragraph

00:00:50.339 --> 00:00:54.936
To nejsou lahodné příchutě,
které jsme doufali získat.

00:00:54.960 --> 00:00:56.824
Takže otázka zní: Co se stalo?

00:00:56.848 --> 00:00:58.242
Co se pokazilo?

00:00:58.266 --> 00:01:00.225
Snaží se nás umělá inteligence zabít?

00:01:01.027 --> 00:01:05.337
Nebo se snaží dělat, co po ní chceme,
ale má s tím nějaký problém?

NOTE Paragraph

00:01:06.307 --> 00:01:09.031
Když se ve filmech začne dít
něco špatného s UI,

00:01:09.055 --> 00:01:11.767
je to většinou proto,
že se umělá inteligence rozhodla,

00:01:11.791 --> 00:01:13.863
že už nechce lidstvo poslouchat

00:01:13.863 --> 00:01:16.486
a má svoje vlastní cíle - děkuji pěkně.

00:01:17.046 --> 00:01:20.482
Nicméně ve skutečném světě
ta umělá inteligence, kterou máme,

00:01:20.506 --> 00:01:22.369
není ani zdaleka tak chytrá.

00:01:22.781 --> 00:01:26.553
Má výpočetní sílu přibližně jako žížala

00:01:27.087 --> 00:01:29.620
nebo maximálně jako jediná včela,

00:01:30.514 --> 00:01:32.603
ale ve skutečnosti spíš méně.

00:01:32.623 --> 00:01:35.347
Jak stále získáváme
nové poznatky o mozku

00:01:35.351 --> 00:01:39.641
nám ukazuje, jak moc je umělá inteligence
vzdálená skutečným mozkům.

00:01:39.755 --> 00:01:45.418
Dneska třeba dokáže UI 
rozpoznat chodce na obrázku,

00:01:45.442 --> 00:01:48.425
ale nechápe, co to vlastně chodec je,

00:01:48.449 --> 00:01:53.273
pro ni je to jenom soubor linek,
textur a podobných věcí.

00:01:53.792 --> 00:01:56.313
Ale neví, co to vlastně je člověk.

00:01:56.822 --> 00:02:00.024
Bude dnešní umělá inteligence
dělat to, co po ní chceme?

00:02:00.128 --> 00:02:01.722
Bude, když to bude umět,

00:02:01.746 --> 00:02:04.472
ale může se stát, že neudělá to,
co jsme měli na mysli.

NOTE Paragraph

00:02:04.496 --> 00:02:06.911
Řekněme, že se snažíte vyvinout UI,

00:02:06.935 --> 00:02:09.554
která vezme tuhle sadu
robotích součástek

00:02:09.578 --> 00:02:13.775
a sestaví z nich robota,
který se má dostat z bodu A do bodu B.

00:02:13.799 --> 00:02:16.280
Kdybyste se snažili vyřešit tento problém

00:02:16.304 --> 00:02:18.655
napsáním tradičního počítačového programu,

00:02:18.679 --> 00:02:22.096
programovali byste instrukce
krok po kroku,

00:02:22.120 --> 00:02:23.449
jak má vzít ty součástky

00:02:23.473 --> 00:02:25.880
a jak z nich sestavit robota,
který má nohy,

00:02:25.904 --> 00:02:28.656
jak má ty nohy použít,
aby se dostal do bodu B.

00:02:29.441 --> 00:02:31.781
Ale když používáte umělou inteligenci,

00:02:31.805 --> 00:02:32.979
tak to funguje jinak.

00:02:33.003 --> 00:02:35.385
Neřeknete jí, jak ten problém vyřešit,

00:02:35.409 --> 00:02:36.888
dáte jí jenom cíl

00:02:36.912 --> 00:02:40.174
a ona musí sama metodou pokusu a omylu
přijít na to,

00:02:40.198 --> 00:02:41.682
jak toho cíle dosáhnout.

00:02:42.254 --> 00:02:47.356
Ukáže se, že UI se tenhle konkrétní
úkol snaží vyřešit takto:

00:02:47.888 --> 00:02:51.255
postaví z dílů věž a pak se skácí tak,

00:02:51.279 --> 00:02:53.106
že dopadne do bodu B.

00:02:53.130 --> 00:02:55.899
V podstatě je to skutečně řešení problému.

00:02:55.899 --> 00:02:57.736
Technicky vzato se dostala do bodu B.

00:02:57.736 --> 00:03:01.911
Nebezpečí UI není v tom,
že by proti nám povstala,

00:03:01.935 --> 00:03:06.209
ale že bude dělat přesně to,
o co jí požádáme.

00:03:06.876 --> 00:03:09.374
Vtip práce s umělou inteligencí zní:

00:03:09.398 --> 00:03:13.226
Jak zformulovat náši úlohu,
aby udělala to, co po ní skutečně chceme?

NOTE Paragraph

00:03:14.726 --> 00:03:18.032
Tady ten malý robot je ovládán
umělou inteligencí.

00:03:18.056 --> 00:03:20.870
UI navrhla, jak mají vypadat jeho nohy

00:03:20.894 --> 00:03:24.972
a vymyslela, jak je používat,
aby překonala všechny tyto překážky.

00:03:24.996 --> 00:03:27.737
Ale když David Ha navrhoval
tento experiment,

00:03:27.761 --> 00:03:30.617
musel v něm nastavit
velmi velmi přísné limity,

00:03:30.641 --> 00:03:33.933
jak dlouhé smí mít ten robot nohy,

00:03:33.957 --> 00:03:35.507
protože jinak ...

NOTE Paragraph

00:03:43.058 --> 00:03:46.989
(Smích)

NOTE Paragraph

00:03:48.563 --> 00:03:52.308
A technicky vzato, překonalo to
všechny překážky.

00:03:52.332 --> 00:03:57.084
Takže vidíte, jak je těžké přimět UI
k něčemu tak jednoduchému jako chůze.

NOTE Paragraph

00:03:57.298 --> 00:04:01.118
Když vidíte, že UI udělá tohle,
mohli byste říct, fajn, tohle není fér,

00:04:01.142 --> 00:04:03.722
nemůžeš se prostě stát věží
a pak spadnout,

00:04:03.746 --> 00:04:07.181
musíš používat nohy a chodit.

00:04:07.205 --> 00:04:09.964
Ale pak se ukáže, že to taky nefunguje.

00:04:09.988 --> 00:04:12.747
Úkolem téhle umělé inteligence
byl rychlý pohyb.

00:04:13.115 --> 00:04:16.708
Neřekli jí, že má běžet směrem dopředu,

00:04:16.732 --> 00:04:18.990
nebo že nesmí používat ruce.

00:04:19.487 --> 00:04:24.105
Tohle dostanete,
když chcete naučit UI rychle běhat:

00:04:24.129 --> 00:04:27.663
dostanete věci jako salta
a švihlou chůzi.

00:04:27.687 --> 00:04:29.087
A to je skutečně běžné.

00:04:29.667 --> 00:04:32.846
Podobně jako lezení po zemi.

NOTE Paragraph

00:04:32.870 --> 00:04:34.020
(Smích)

NOTE Paragraph

00:04:35.241 --> 00:04:38.495
Podle mého názoru
by daleko divnější měly být

00:04:38.519 --> 00:04:39.915
roboti jako Terminátor.

00:04:40.166 --> 00:04:44.011
Nabourat se do „Matrixu“ je další věc,
kterou UI udělá, když jí dáte příležitost.

00:04:44.035 --> 00:04:46.552
Když trénujete UI v simulaci,

00:04:46.576 --> 00:04:50.689
naučí se dělat věci jako nabourat se
do matematických chyb v simulaci

00:04:50.713 --> 00:04:52.500
a získávat z nich energii.

00:04:52.944 --> 00:04:58.252
Nebo si najde způsob, hýbat se rychleji
opakovaným padáním na zem.

00:04:58.443 --> 00:05:00.028
Když pracujete s UI,

00:05:00.052 --> 00:05:02.441
není to jako práce s jiným člověkem,

00:05:02.465 --> 00:05:06.094
daleko více se to podobá práci
s nějakou zvláštní přírodní silou.

00:05:06.562 --> 00:05:11.185
A je velice jednoduché UI
omylem špatně zadat řešený problém.

00:05:11.209 --> 00:05:15.747
Často si to neuvědomíme do té doby,
než se něco stane.

NOTE Paragraph

00:05:16.242 --> 00:05:18.322
Tohle je můj pokus,

00:05:18.346 --> 00:05:21.528
chtěla jsem po UI,
aby napodobila nátěrové barvy,

00:05:21.552 --> 00:05:23.298
aby vymyslela nové barvy,

00:05:23.322 --> 00:05:26.309
přičemž dostala seznam
jako tady nalevo.

00:05:26.798 --> 00:05:29.802
A UI nakonec přišla s tímto.

NOTE Paragraph

00:05:29.826 --> 00:05:33.469
[Sindino kakání, lejno,
utrpení, pubická šedá]

NOTE Paragraph

00:05:33.469 --> 00:05:37.223
(Smích)

NOTE Paragraph

00:05:39.177 --> 00:05:41.063
Takže vlastně udělala,

00:05:41.087 --> 00:05:42.835
co jsem si přála.

00:05:42.835 --> 00:05:46.283
Jenom jsem chtěla, aby vymysla
pro barvy nějaké hezké názvy,

00:05:46.307 --> 00:05:48.614
ale ve skutečnosti jsem požádala o to,

00:05:48.638 --> 00:05:51.724
aby napodobila kombinace písmen,

00:05:51.748 --> 00:05:53.653
které viděla v předloze.

00:05:53.677 --> 00:05:56.775
Neřekla jsem jí nic o tom,
co ta slova znamenají,

00:05:56.799 --> 00:05:59.359
nebo že by některá slova

00:05:59.383 --> 00:06:02.272
možná neměla používat pro názvy barev.

00:06:03.141 --> 00:06:06.635
Celý svět jsou pro ni jenom ta data
která jsem jí zadala.

00:06:06.659 --> 00:06:10.587
Podobně jako s těmi příchutěmi zmrzlin,
nezná nic jiného.

NOTE Paragraph

00:06:12.491 --> 00:06:14.129
Takže jsou to data,

00:06:14.153 --> 00:06:18.197
kterými často omylem žádáme UI o něco,
co nechceme.

00:06:18.694 --> 00:06:21.726
Tahle ryba je lín.

00:06:21.750 --> 00:06:23.565
Jedna skupina vědců

00:06:23.589 --> 00:06:27.463
se jednou snažila naučit UI
rozpoznávat lína na obrázcích.

00:06:27.487 --> 00:06:28.933
Ale když se potom zeptali,

00:06:28.933 --> 00:06:32.233
kterou část obrázku skutečně používá
k rozpoznání té ryby,

00:06:32.257 --> 00:06:33.615
vyznačila toto.

00:06:35.203 --> 00:06:37.392
Ano, to jsou lidské prsty.

00:06:37.416 --> 00:06:39.475
Proč by se dívala na lidské prsty,

00:06:39.499 --> 00:06:41.420
když se snaží rozpoznat rybu?

00:06:42.126 --> 00:06:45.290
Jde o to, že lín je ryba,
která se loví na udici,

00:06:45.314 --> 00:06:49.954
takže na spoustě obrázků,
kde ji UI při tréninku viděla,

00:06:49.954 --> 00:06:51.814
ta ryba vypadala takto.

NOTE Paragraph

00:06:51.838 --> 00:06:53.473
(Smích)

NOTE Paragraph

00:06:53.497 --> 00:06:56.827
Ona nevěděla, že ty prsty
nejsou součástí ryby.

NOTE Paragraph

00:06:58.808 --> 00:07:02.928
Tady vidíte, jak je to těžké,
navrhnout umělou inteligenci,

00:07:02.952 --> 00:07:06.271
která skutečně dokáže pochopit,
na co se dívá.

00:07:06.295 --> 00:07:09.157
A to je důvod, proč je vývoj
rozpoznávání obrazu

00:07:09.181 --> 00:07:11.248
pro samořiditelná auta tak těžký

00:07:11.272 --> 00:07:13.777
a proč je spousta selhání
samořiditelných aut

00:07:13.777 --> 00:07:16.386
způsobena tím, že UI byla zmatená.

00:07:16.410 --> 00:07:20.418
Chtěla bych zmínit příklad
z roku 2016.

00:07:20.442 --> 00:07:24.897
Došlo ke smrtelné nehodě,
když někdo používal autopilota Tesly,

00:07:24.921 --> 00:07:28.335
ale místo aby ho používal na dálnici,
pro kterou byl autopilot navržen,

00:07:28.359 --> 00:07:30.564
použil ho ve městě.

00:07:31.239 --> 00:07:32.414
A stalo se,

00:07:32.438 --> 00:07:35.834
že před auto vjel náklaďák
a to auto nezabrzdilo.

00:07:36.507 --> 00:07:41.079
Umělá inteligence určitě byla trénovaná
na rozpoznávání nákladních aut.

00:07:41.293 --> 00:07:43.438
Ale problém byl nejspíš v tom,

00:07:43.462 --> 00:07:46.393
že UI byla trénovaná na rozpoznávání
náklaďáků na dálnici,

00:07:46.417 --> 00:07:49.316
kde lze očekávat,
že jsou vidět jenom zezadu.

00:07:49.340 --> 00:07:52.760
Na dálnici se nemůže vyskytnout
náklaďák ze strany,

00:07:52.784 --> 00:07:56.239
takže když UI viděla ten náklaďák,

00:07:56.263 --> 00:08:01.090
tak si nejspíš řekla,
že to asi bude dopravní značka

00:08:01.114 --> 00:08:03.387
a může bezpečně projet pod ní.

NOTE Paragraph

00:08:04.114 --> 00:08:06.694
Teď přešlap UI z jiné oblasti.

00:08:06.718 --> 00:08:11.428
V Amazonu museli nedávno vzdát
vývoj algoritmu na třídění životopisů,

00:08:11.446 --> 00:08:14.758
když zjistili, že ten algoritmus
se naučil diskriminovat ženy.

00:08:14.858 --> 00:08:18.094
Trénovali ho na příkladech
životopisů lidí,

00:08:18.118 --> 00:08:20.360
které zaměstnali v minulosti.

00:08:20.384 --> 00:08:24.407
A z těchto příkladů se UI naučila
vyhýbat se životopisům lidí,

00:08:24.431 --> 00:08:26.457
kteří chodili na ženské univerzity,

00:08:26.481 --> 00:08:29.287
nebo měli slovo ‚žena‘
někde ve svém životopisu,

00:08:29.311 --> 00:08:33.887
jako třeba ‚ženský fotbalový tým‘,
nebo ‚Společnost ženských inženýrů‘.

00:08:33.911 --> 00:08:37.885
Umělá inteligence nevěděla, že neměla
napodobovat tuhle konkrétní věc,

00:08:37.909 --> 00:08:39.787
kterou viděla u lidí.

00:08:39.911 --> 00:08:43.008
A technicky vzato dělala to,
o co jí žádali.

00:08:43.112 --> 00:08:45.909
Jenom ji omylem požádali o špatnou věc.

NOTE Paragraph

00:08:46.653 --> 00:08:49.548
A tohle se děje
s umělou inteligencí stále.

00:08:50.120 --> 00:08:53.711
UI může být opravdu destruktivní
a nevědět o tom.

00:08:53.735 --> 00:08:58.813
UI, která doporučuje obsah
na Facebooku nebo YouTube,

00:08:58.837 --> 00:09:02.276
je optimalizovaná na zvyšování počtu
kliknutí a shlédnutí.

00:09:02.400 --> 00:09:05.866
Bohužel se ukázalo, že jeden způsob
jak toho dosahuje,

00:09:05.866 --> 00:09:10.363
je doporučovat obsah plný předsudků
nebo konspiračních teorií.

00:09:10.902 --> 00:09:16.204
Samotná umělá inteligence nemá ponětí,
co ten obsah skutečně znamená

00:09:16.228 --> 00:09:21.773
a nemá ani ponětí o možných důsledcích
doporučování takového obsahu.

NOTE Paragraph

00:09:22.296 --> 00:09:24.307
Takže když pracujeme s UI,

00:09:24.331 --> 00:09:28.441
je na nás, abychom se vyvarovali problémů.

00:09:28.537 --> 00:09:30.860
A vyvarovat se problémů

00:09:30.884 --> 00:09:35.080
může být otázkou
prastarého problému komunikace,

00:09:35.434 --> 00:09:39.179
přičemž my jako lidé se musíme naučit
komunikovat s umělou inteligencí.

00:09:39.203 --> 00:09:43.242
Musíme se naučit, co UI dokáže
a co nedokáže

00:09:43.266 --> 00:09:46.352
a pochopit, že se svým malinkatým
žížalím mozečkem

00:09:46.376 --> 00:09:50.389
UI tak úplně nerozumí tomu,
o co se ji snažíme požádat.

00:09:51.148 --> 00:09:54.469
Jinými slovy, musíme být připraveni
pracovat s UI,

00:09:54.493 --> 00:09:59.751
která není superschopná vševědoucí
umělá inteligence ze sci-fi.

00:09:59.775 --> 00:10:02.637
Musíme být připraveni pracovat s UI,

00:10:02.661 --> 00:10:05.599
kterou máme k dispozici dnes.

00:10:05.623 --> 00:10:09.828
Dnešní UI je docela dost divná.

NOTE Paragraph

00:10:09.852 --> 00:10:11.042
Děkuji.

NOTE Paragraph

00:10:11.066 --> 00:10:16.291
(Potlesk)