0:00:02.875,0:00:04.765
Umělá inteligence,

0:00:04.789,0:00:08.318
jak známo, se míchá do spousty[br]průmyslových odvětví.

0:00:08.961,0:00:11.004
Tak třeba zmrzlina.

0:00:11.879,0:00:15.518
Jakou spoustu neskutečných[br]nových příchutí bychom mohli vytvořit

0:00:15.542,0:00:18.518
pomocí pokročilé umělé inteligence?

0:00:19.011,0:00:23.072
Dala jsem se dohromady se skupinou[br]programátorů z Kealingovy střední školy,

0:00:23.196,0:00:25.437
abych našla odpověď na tuto otázku.

0:00:25.461,0:00:30.472
Sebrali více než 1600 existujících[br]zmrzlinových příchutí

0:00:30.566,0:00:36.088
a společně jsme je nacpali do jednoho[br]algoritmu a čekali, co z něj vzejde.

0:00:36.112,0:00:39.865
A tohle jsou příklady příchutí,[br]se kterými umělá inteligence přišla.

0:00:39.884,0:00:41.915
[Dýňová kopa odpadků]

0:00:41.939,0:00:43.125
(Smích)

0:00:43.125,0:00:45.834
[Sliz s arašídovým máslem]

0:00:46.402,0:00:48.745
[Jahodovo-smetanová choroba]

0:00:48.745,0:00:50.315
(Smích)

0:00:50.339,0:00:54.936
To nejsou lahodné příchutě,[br]které jsme doufali získat.

0:00:54.960,0:00:56.824
Takže otázka zní: Co se stalo?

0:00:56.848,0:00:58.242
Co se pokazilo?

0:00:58.266,0:01:00.225
Snaží se nás umělá inteligence zabít?

0:01:01.027,0:01:05.337
Nebo se snaží dělat, co po ní chceme,[br]ale má s tím nějaký problém?

0:01:06.307,0:01:09.031
Když se ve filmech začne dít[br]něco špatného s UI,

0:01:09.055,0:01:11.767
je to většinou proto,[br]že se umělá inteligence rozhodla,

0:01:11.791,0:01:13.863
že už nechce lidstvo poslouchat

0:01:13.863,0:01:16.486
a má svoje vlastní cíle - děkuji pěkně.

0:01:17.046,0:01:20.482
Nicméně ve skutečném světě[br]ta umělá inteligence, kterou máme,

0:01:20.506,0:01:22.369
není ani zdaleka tak chytrá.

0:01:22.781,0:01:26.553
Má výpočetní sílu přibližně jako žížala

0:01:27.087,0:01:29.620
nebo maximálně jako jediná včela,

0:01:30.514,0:01:32.603
ale ve skutečnosti spíš méně.

0:01:32.623,0:01:35.347
Jak stále získáváme[br]nové poznatky o mozku

0:01:35.351,0:01:39.641
nám ukazuje, jak moc je umělá inteligence[br]vzdálená skutečným mozkům.

0:01:39.755,0:01:45.418
Dneska třeba dokáže UI [br]rozpoznat chodce na obrázku,

0:01:45.442,0:01:48.425
ale nechápe, co to vlastně chodec je,

0:01:48.449,0:01:53.273
pro ni je to jenom soubor linek,[br]textur a podobných věcí.

0:01:53.792,0:01:56.313
Ale neví, co to vlastně je člověk.

0:01:56.822,0:02:00.024
Bude dnešní umělá inteligence[br]dělat to, co po ní chceme?

0:02:00.128,0:02:01.722
Bude, když to bude umět,

0:02:01.746,0:02:04.472
ale může se stát, že neudělá to,[br]co jsme měli na mysli.

0:02:04.496,0:02:06.911
Řekněme, že se snažíte vyvinout UI,

0:02:06.935,0:02:09.554
která vezme tuhle sadu[br]robotích součástek

0:02:09.578,0:02:13.775
a sestaví z nich robota,[br]který se má dostat z bodu A do bodu B.

0:02:13.799,0:02:16.280
Kdybyste se snažili vyřešit tento problém

0:02:16.304,0:02:18.655
napsáním tradičního počítačového programu,

0:02:18.679,0:02:22.096
programovali byste instrukce[br]krok po kroku,

0:02:22.120,0:02:23.449
jak má vzít ty součástky

0:02:23.473,0:02:25.880
a jak z nich sestavit robota,[br]který má nohy,

0:02:25.904,0:02:28.656
jak má ty nohy použít,[br]aby se dostal do bodu B.

0:02:29.441,0:02:31.781
Ale když používáte umělou inteligenci,

0:02:31.805,0:02:32.979
tak to funguje jinak.

0:02:33.003,0:02:35.385
Neřeknete jí, jak ten problém vyřešit,

0:02:35.409,0:02:36.888
dáte jí jenom cíl

0:02:36.912,0:02:40.174
a ona musí sama metodou pokusu a omylu[br]přijít na to,

0:02:40.198,0:02:41.682
jak toho cíle dosáhnout.

0:02:42.254,0:02:47.356
Ukáže se, že UI se tenhle konkrétní[br]úkol snaží vyřešit takto:

0:02:47.888,0:02:51.255
postaví z dílů věž a pak se skácí tak,

0:02:51.279,0:02:53.106
že dopadne do bodu B.

0:02:53.130,0:02:55.899
V podstatě je to skutečně řešení problému.

0:02:55.899,0:02:57.736
Technicky vzato se dostala do bodu B.

0:02:57.736,0:03:01.911
Nebezpečí UI není v tom,[br]že by proti nám povstala,

0:03:01.935,0:03:06.209
ale že bude dělat přesně to,[br]o co jí požádáme.

0:03:06.876,0:03:09.374
Vtip práce s umělou inteligencí zní:

0:03:09.398,0:03:13.226
Jak zformulovat náši úlohu,[br]aby udělala to, co po ní skutečně chceme?

0:03:14.726,0:03:18.032
Tady ten malý robot je ovládán[br]umělou inteligencí.

0:03:18.056,0:03:20.870
UI navrhla, jak mají vypadat jeho nohy

0:03:20.894,0:03:24.972
a vymyslela, jak je používat,[br]aby překonala všechny tyto překážky.

0:03:24.996,0:03:27.737
Ale když David Ha navrhoval[br]tento experiment,

0:03:27.761,0:03:30.617
musel v něm nastavit[br]velmi velmi přísné limity,

0:03:30.641,0:03:33.933
jak dlouhé smí mít ten robot nohy,

0:03:33.957,0:03:35.507
protože jinak ...

0:03:43.058,0:03:46.989
(Smích)

0:03:48.563,0:03:52.308
A technicky vzato, překonalo to[br]všechny překážky.

0:03:52.332,0:03:57.084
Takže vidíte, jak je těžké přimět UI[br]k něčemu tak jednoduchému jako chůze.

0:03:57.298,0:04:01.118
Když vidíte, že UI udělá tohle,[br]mohli byste říct, fajn, tohle není fér,

0:04:01.142,0:04:03.722
nemůžeš se prostě stát věží[br]a pak spadnout,

0:04:03.746,0:04:07.181
musíš používat nohy a chodit.

0:04:07.205,0:04:09.964
Ale pak se ukáže, že to taky nefunguje.

0:04:09.988,0:04:12.747
Úkolem téhle umělé inteligence[br]byl rychlý pohyb.

0:04:13.115,0:04:16.708
Neřekli jí, že má běžet směrem dopředu,

0:04:16.732,0:04:18.990
nebo že nesmí používat ruce.

0:04:19.487,0:04:24.105
Tohle dostanete,[br]když chcete naučit UI rychle běhat:

0:04:24.129,0:04:27.663
dostanete věci jako salta[br]a švihlou chůzi.

0:04:27.687,0:04:29.087
A to je skutečně běžné.

0:04:29.667,0:04:32.846
Podobně jako lezení po zemi.

0:04:32.870,0:04:34.020
(Smích)

0:04:35.241,0:04:38.495
Podle mého názoru[br]by daleko divnější měly být

0:04:38.519,0:04:39.915
roboti jako Terminátor.

0:04:40.166,0:04:44.011
Nabourat se do „Matrixu“ je další věc,[br]kterou UI udělá, když jí dáte příležitost.

0:04:44.035,0:04:46.552
Když trénujete UI v simulaci,

0:04:46.576,0:04:50.689
naučí se dělat věci jako nabourat se[br]do matematických chyb v simulaci

0:04:50.713,0:04:52.500
a získávat z nich energii.

0:04:52.944,0:04:58.252
Nebo si najde způsob, hýbat se rychleji[br]opakovaným padáním na zem.

0:04:58.443,0:05:00.028
Když pracujete s UI,

0:05:00.052,0:05:02.441
není to jako práce s jiným člověkem,

0:05:02.465,0:05:06.094
daleko více se to podobá práci[br]s nějakou zvláštní přírodní silou.

0:05:06.562,0:05:11.185
A je velice jednoduché UI[br]omylem špatně zadat řešený problém.

0:05:11.209,0:05:15.747
Často si to neuvědomíme do té doby,[br]než se něco stane.

0:05:16.242,0:05:18.322
Tohle je můj pokus,

0:05:18.346,0:05:21.528
chtěla jsem po UI,[br]aby napodobila nátěrové barvy,

0:05:21.552,0:05:23.298
aby vymyslela nové barvy,

0:05:23.322,0:05:26.309
přičemž dostala seznam[br]jako tady nalevo.

0:05:26.798,0:05:29.802
A UI nakonec přišla s tímto.

0:05:29.826,0:05:33.469
[Sindino kakání, lejno,[br]utrpení, pubická šedá]

0:05:33.469,0:05:37.223
(Smích)

0:05:39.177,0:05:41.063
Takže vlastně udělala,

0:05:41.087,0:05:42.835
co jsem si přála.

0:05:42.835,0:05:46.283
Jenom jsem chtěla, aby vymysla[br]pro barvy nějaké hezké názvy,

0:05:46.307,0:05:48.614
ale ve skutečnosti jsem požádala o to,

0:05:48.638,0:05:51.724
aby napodobila kombinace písmen,

0:05:51.748,0:05:53.653
které viděla v předloze.

0:05:53.677,0:05:56.775
Neřekla jsem jí nic o tom,[br]co ta slova znamenají,

0:05:56.799,0:05:59.359
nebo že by některá slova

0:05:59.383,0:06:02.272
možná neměla používat pro názvy barev.

0:06:03.141,0:06:06.635
Celý svět jsou pro ni jenom ta data[br]která jsem jí zadala.

0:06:06.659,0:06:10.587
Podobně jako s těmi příchutěmi zmrzlin,[br]nezná nic jiného.

0:06:12.491,0:06:14.129
Takže jsou to data,

0:06:14.153,0:06:18.197
kterými často omylem žádáme UI o něco,[br]co nechceme.

0:06:18.694,0:06:21.726
Tahle ryba je lín.

0:06:21.750,0:06:23.565
Jedna skupina vědců

0:06:23.589,0:06:27.463
se jednou snažila naučit UI[br]rozpoznávat lína na obrázcích.

0:06:27.487,0:06:28.933
Ale když se potom zeptali,

0:06:28.933,0:06:32.233
kterou část obrázku skutečně používá[br]k rozpoznání té ryby,

0:06:32.257,0:06:33.615
vyznačila toto.

0:06:35.203,0:06:37.392
Ano, to jsou lidské prsty.

0:06:37.416,0:06:39.475
Proč by se dívala na lidské prsty,

0:06:39.499,0:06:41.420
když se snaží rozpoznat rybu?

0:06:42.126,0:06:45.290
Jde o to, že lín je ryba,[br]která se loví na udici,

0:06:45.314,0:06:49.954
takže na spoustě obrázků,[br]kde ji UI při tréninku viděla,

0:06:49.954,0:06:51.814
ta ryba vypadala takto.

0:06:51.838,0:06:53.473
(Smích)

0:06:53.497,0:06:56.827
Ona nevěděla, že ty prsty[br]nejsou součástí ryby.

0:06:58.808,0:07:02.928
Tady vidíte, jak je to těžké,[br]navrhnout umělou inteligenci,

0:07:02.952,0:07:06.271
která skutečně dokáže pochopit,[br]na co se dívá.

0:07:06.295,0:07:09.157
A to je důvod, proč je vývoj[br]rozpoznávání obrazu

0:07:09.181,0:07:11.248
pro samořiditelná auta tak těžký

0:07:11.272,0:07:13.777
a proč je spousta selhání[br]samořiditelných aut

0:07:13.777,0:07:16.386
způsobena tím, že UI byla zmatená.

0:07:16.410,0:07:20.418
Chtěla bych zmínit příklad[br]z roku 2016.

0:07:20.442,0:07:24.897
Došlo ke smrtelné nehodě,[br]když někdo používal autopilota Tesly,

0:07:24.921,0:07:28.335
ale místo aby ho používal na dálnici,[br]pro kterou byl autopilot navržen,

0:07:28.359,0:07:30.564
použil ho ve městě.

0:07:31.239,0:07:32.414
A stalo se,

0:07:32.438,0:07:35.834
že před auto vjel náklaďák[br]a to auto nezabrzdilo.

0:07:36.507,0:07:41.079
Umělá inteligence určitě byla trénovaná[br]na rozpoznávání nákladních aut.

0:07:41.293,0:07:43.438
Ale problém byl nejspíš v tom,

0:07:43.462,0:07:46.393
že UI byla trénovaná na rozpoznávání[br]náklaďáků na dálnici,

0:07:46.417,0:07:49.316
kde lze očekávat,[br]že jsou vidět jenom zezadu.

0:07:49.340,0:07:52.760
Na dálnici se nemůže vyskytnout[br]náklaďák ze strany,

0:07:52.784,0:07:56.239
takže když UI viděla ten náklaďák,

0:07:56.263,0:08:01.090
tak si nejspíš řekla,[br]že to asi bude dopravní značka

0:08:01.114,0:08:03.387
a může bezpečně projet pod ní.

0:08:04.114,0:08:06.694
Teď přešlap UI z jiné oblasti.

0:08:06.718,0:08:11.428
V Amazonu museli nedávno vzdát[br]vývoj algoritmu na třídění životopisů,

0:08:11.446,0:08:14.758
když zjistili, že ten algoritmus[br]se naučil diskriminovat ženy.

0:08:14.858,0:08:18.094
Trénovali ho na příkladech[br]životopisů lidí,

0:08:18.118,0:08:20.360
které zaměstnali v minulosti.

0:08:20.384,0:08:24.407
A z těchto příkladů se UI naučila[br]vyhýbat se životopisům lidí,

0:08:24.431,0:08:26.457
kteří chodili na ženské univerzity,

0:08:26.481,0:08:29.287
nebo měli slovo ‚žena‘[br]někde ve svém životopisu,

0:08:29.311,0:08:33.887
jako třeba ‚ženský fotbalový tým‘,[br]nebo ‚Společnost ženských inženýrů‘.

0:08:33.911,0:08:37.885
Umělá inteligence nevěděla, že neměla[br]napodobovat tuhle konkrétní věc,

0:08:37.909,0:08:39.787
kterou viděla u lidí.

0:08:39.911,0:08:43.008
A technicky vzato dělala to,[br]o co jí žádali.

0:08:43.112,0:08:45.909
Jenom ji omylem požádali o špatnou věc.

0:08:46.653,0:08:49.548
A tohle se děje[br]s umělou inteligencí stále.

0:08:50.120,0:08:53.711
UI může být opravdu destruktivní[br]a nevědět o tom.

0:08:53.735,0:08:58.813
UI, která doporučuje obsah[br]na Facebooku nebo YouTube,

0:08:58.837,0:09:02.276
je optimalizovaná na zvyšování počtu[br]kliknutí a shlédnutí.

0:09:02.400,0:09:05.866
Bohužel se ukázalo, že jeden způsob[br]jak toho dosahuje,

0:09:05.866,0:09:10.363
je doporučovat obsah plný předsudků[br]nebo konspiračních teorií.

0:09:10.902,0:09:16.204
Samotná umělá inteligence nemá ponětí,[br]co ten obsah skutečně znamená

0:09:16.228,0:09:21.773
a nemá ani ponětí o možných důsledcích[br]doporučování takového obsahu.

0:09:22.296,0:09:24.307
Takže když pracujeme s UI,

0:09:24.331,0:09:28.441
je na nás, abychom se vyvarovali problémů.

0:09:28.537,0:09:30.860
A vyvarovat se problémů

0:09:30.884,0:09:35.080
může být otázkou[br]prastarého problému komunikace,

0:09:35.434,0:09:39.179
přičemž my jako lidé se musíme naučit[br]komunikovat s umělou inteligencí.

0:09:39.203,0:09:43.242
Musíme se naučit, co UI dokáže[br]a co nedokáže

0:09:43.266,0:09:46.352
a pochopit, že se svým malinkatým[br]žížalím mozečkem

0:09:46.376,0:09:50.389
UI tak úplně nerozumí tomu,[br]o co se ji snažíme požádat.

0:09:51.148,0:09:54.469
Jinými slovy, musíme být připraveni[br]pracovat s UI,

0:09:54.493,0:09:59.751
která není superschopná vševědoucí[br]umělá inteligence ze sci-fi.

0:09:59.775,0:10:02.637
Musíme být připraveni pracovat s UI,

0:10:02.661,0:10:05.599
kterou máme k dispozici dnes.

0:10:05.623,0:10:09.828
Dnešní UI je docela dost divná.

0:10:09.852,0:10:11.042
Děkuji.

0:10:11.066,0:10:16.291
(Potlesk)