WEBVTT

00:00:01.765 --> 00:00:04.765
Штучний інтелект

00:00:04.789 --> 00:00:08.318
відомий своїм впливом
на усі галузі промисловості.

00:00:08.961 --> 00:00:11.004
А як щодо морозива?

00:00:11.879 --> 00:00:15.518
Які нові дивовижні смаки 
ми можемо отримати

00:00:15.542 --> 00:00:18.518
за допомогою передового
штучного інтелекту?

00:00:19.011 --> 00:00:23.172
Отож, я об'єднала свої зусилля із групою
програмістів зі школи Кілінг Міддл Скул,

00:00:23.196 --> 00:00:25.437
щоб знайти відповідь на це запитання.

00:00:25.461 --> 00:00:30.542
Програмісти зібрали понад 1600
існуючих назв смаків морозива,

00:00:30.566 --> 00:00:36.088
і ми пов'язали ці смаки із алгоритмом,
щоб побачити, що він видасть.

00:00:36.112 --> 00:00:39.865
Ось неповний перелік смаків,
які нам видав штучний інтелект (ШІ).

NOTE Paragraph

00:00:40.444 --> 00:00:41.915
[Смак гарбуза зі сміттям]

NOTE Paragraph

00:00:41.939 --> 00:00:43.341
(Сміх)

NOTE Paragraph

00:00:43.365 --> 00:00:45.834
[Смак арахісового масла зі слизом]

NOTE Paragraph

00:00:46.712 --> 00:00:48.165
[Полунично-вершкова інфекція]

NOTE Paragraph

00:00:48.189 --> 00:00:50.315
(Сміх)

NOTE Paragraph

00:00:50.339 --> 00:00:54.936
Ці смаки видалися не такими смачними,
як ми на те сподівалися.

00:00:54.960 --> 00:00:56.824
Із цього випливає питання: Що сталося?

00:00:56.848 --> 00:00:58.242
Що пішло не так?

00:00:58.266 --> 00:01:00.225
Невже ШІ намагається нас вбити?

00:01:01.027 --> 00:01:05.337
Чи він намагається зробити те, що ми
попросили, а це і стало проблемою?

NOTE Paragraph

00:01:06.567 --> 00:01:09.031
У фільмах, коли щось пішло не так зі ШІ,

00:01:09.055 --> 00:01:11.767
зазвичай поясненням є те, що ШІ вирішив,

00:01:11.791 --> 00:01:14.063
що він більше не хоче підкорятися людині,

00:01:14.087 --> 00:01:16.710
та він має власні цілі, і все, дуже дякую.

00:01:17.266 --> 00:01:20.482
Проте у реальному житті, ШІ,
який фактично існує зараз,

00:01:20.482 --> 00:01:22.499
ще не настільки розумний, щоб утнути таке.

00:01:22.781 --> 00:01:25.763
Він має приблизно таку саму
обчислювальну потужність,

00:01:25.787 --> 00:01:27.063
як дощовий черв'як,

00:01:27.087 --> 00:01:30.490
або максимум, як одна бджола,

00:01:30.514 --> 00:01:32.729
а насправді, можливо і менше.

00:01:32.753 --> 00:01:35.347
Подібним чином ми дізнаємося
щось нове про наш мозок

00:01:35.371 --> 00:01:39.731
і тоді бачимо, як далеко ще знаходиться 
ШІ у порівнянні з людським мозком.

00:01:39.755 --> 00:01:45.418
У наш час ШІ здатний, наприклад,
розпізнати пішохода на малюнку,

00:01:45.442 --> 00:01:48.425
але він не має уявлення про те,
що це таке -- пішохід.

00:01:48.449 --> 00:01:53.273
Для ШІ пішохід -- це набір
ліній та текстури, і таке інше.

00:01:53.792 --> 00:01:56.313
Він не розуміє насправді, 
що це таке -- людина.

00:01:56.902 --> 00:02:00.104
Тож чи виконає сучасний ШІ те,
що нам потрібно зробити?

00:02:00.128 --> 00:02:01.722
Виконає, якщо зможе,

00:02:01.746 --> 00:02:04.472
але мабуть він виконає це не так,
як би нам того хотілося.

NOTE Paragraph

00:02:04.496 --> 00:02:06.935
Уявімо, що ви намагаєтеся
зробити так, щоб ШІ

00:02:06.935 --> 00:02:09.554
взяв ці окремі частини робота

00:02:09.578 --> 00:02:13.775
і склав із них іншого робота, який повинен
дістатися з точки А у точку Б.

00:02:13.799 --> 00:02:16.280
Якби ви намагалися вирішити цю проблему

00:02:16.280 --> 00:02:18.679
шляхом написання традиційної
комп'ютерної програми,

00:02:18.679 --> 00:02:22.096
ви б надали цій програмі
покрокові вказівки стосовно того,

00:02:22.120 --> 00:02:23.449
як взяти ці частини,

00:02:23.473 --> 00:02:25.880
як скласти з них робота з ногами,

00:02:25.904 --> 00:02:28.846
і як застосувати ці ноги,
щоб дійти до точки Б.

00:02:29.301 --> 00:02:31.795
Але якщо застосувати ШІ 
для вирішення цієї проблеми,

00:02:31.795 --> 00:02:32.969
він зробить по-іншому.

00:02:33.003 --> 00:02:35.385
Ви не повідомляєте йому,
як вирішити цю проблему,

00:02:35.409 --> 00:02:36.888
ви лише ставите перед ним мету,

00:02:36.912 --> 00:02:40.174
а він повинен визначити для себе
шляхом спроб та помилок,

00:02:40.198 --> 00:02:41.682
як досягти цієї мети.

00:02:42.254 --> 00:02:46.356
І, виявляється, що спосіб, за допомогою
якого ШІ намагається вирішити цю проблему,

00:02:46.380 --> 00:02:47.864
полягає в наступному:

00:02:47.888 --> 00:02:51.255
він складає із тих частин вежу,
яка потім падає

00:02:51.279 --> 00:02:53.106
і приземляється у точку Б.

00:02:53.130 --> 00:02:55.959
Фактично, цим вирішується дана проблема.

00:02:55.983 --> 00:02:57.622
Фактично, він дістався до точки Б.

00:02:57.646 --> 00:03:01.911
Небезпека ШІ полягає не в тому,
що він повстане проти нас,

00:03:01.935 --> 00:03:06.209
а в тому, що він робитиме конкретно те,
що ми його попросимо зробити.

00:03:06.876 --> 00:03:09.374
Головна складність роботи зі ШІ
полягає у цьому:

00:03:09.398 --> 00:03:13.226
як вирішити проблему, щоб ШІ
зробив саме те, що нам потрібно?

NOTE Paragraph

00:03:14.726 --> 00:03:18.032
Тож зараз ви бачите маленького 
робота, яким керує ШІ.

00:03:18.056 --> 00:03:20.870
ШІ спроектував ноги робота,

00:03:20.894 --> 00:03:24.972
а потім спланував, як їх застосувати,
щоб подолати ці перешкоди.

00:03:24.996 --> 00:03:27.737
Але коли Дейвід Ха
проводив цей експеримент,

00:03:27.761 --> 00:03:30.617
він був змушений провести його
у дуже суворих рамках

00:03:30.641 --> 00:03:33.933
стосовно того, який розмір ніг
дозволялося мати ШІ,

00:03:33.957 --> 00:03:35.507
тому що у іншому випадку...

NOTE Paragraph

00:03:43.058 --> 00:03:46.989
(Сміх)

NOTE Paragraph

00:03:48.563 --> 00:03:52.308
Фактично, він дістався
до кінця смуги перешкод.

00:03:52.332 --> 00:03:57.274
Тож ви бачите, як складно навчити ШІ
навіть такому простому, як ходьба.

NOTE Paragraph

00:03:57.298 --> 00:04:01.118
Коли ви побачили, як це робить ШІ,
ви можете сказати, що це нечесно,

00:04:01.142 --> 00:04:03.722
ти не можеш просто стати вежею,
а потім впасти,

00:04:03.746 --> 00:04:07.181
фактично, тобі необхідно
застосувати ноги, щоб ходити.

00:04:07.181 --> 00:04:09.828
І виявляється, це теж 
не завжди спрацьовує.

00:04:10.028 --> 00:04:12.787
Це завдання ШІ полягало
у швидкому русі.

00:04:13.115 --> 00:04:16.708
У ШІ не було вказівок стосовно того,
що він повинен бігти обличчям вперед,

00:04:16.732 --> 00:04:18.990
або що йому заборонено
використовувати руки.

00:04:19.487 --> 00:04:24.105
Ось, що ви отримаєте, коли будете
тренувати ШІ рухатися швидко.

00:04:24.129 --> 00:04:27.663
Ви отримаєте такий результат,
як перекочування та незграбна ходьба.

00:04:27.687 --> 00:04:29.087
Це справді так.

00:04:29.667 --> 00:04:32.846
Або дивні рухи по підлозі у вигляді купи.

NOTE Paragraph

00:04:32.870 --> 00:04:34.020
(Сміх)

NOTE Paragraph

00:04:35.241 --> 00:04:38.495
На мою думку, більш чудернацькими були б

00:04:38.495 --> 00:04:39.891
роботи "Термінатори".

00:04:40.256 --> 00:04:44.011
ШІ може навіть зламати "Матрицю",
якщо ви дасте йому таке завдання.

00:04:44.035 --> 00:04:46.552
Під час навчання в ком'ютерній симуляції,

00:04:46.576 --> 00:04:50.689
ШІ навчиться, як зламувати 
математичні помилки симуляції

00:04:50.713 --> 00:04:52.920
та збирати їх для енергії.

00:04:52.944 --> 00:04:58.419
Або він зрозуміє, як рухатися швидше,
повторно відштовхуючись від підлоги.

00:04:58.443 --> 00:05:00.028
Коли ви працюєте зі ШІ,

00:05:00.052 --> 00:05:02.441
це не схоже на роботу з іншою людиною,

00:05:02.465 --> 00:05:06.094
а більш схоже на співпрацю
зі згубною силою природи.

00:05:06.562 --> 00:05:11.185
І дуже легко випадково поставити 
перед ШІ зовсім не ту проблему,

00:05:11.209 --> 00:05:15.747
і часто ми усвідомлюємо це лише тоді,
коли щось пішло не так.

NOTE Paragraph

00:05:16.242 --> 00:05:18.322
Ось результати проведеного експерименту,

00:05:18.346 --> 00:05:21.528
під час якого я хотіла,
щоб ШІ скопіював фарби

00:05:21.552 --> 00:05:23.298
для винайдення нових кольорів,

00:05:23.322 --> 00:05:26.309
на основі переліку фарб, які подані зліва.

00:05:26.798 --> 00:05:29.802
І ось, що ШІ фактично вигадав.

NOTE Paragraph

00:05:29.826 --> 00:05:33.153
[Сіндійський Дурень, Випорожнення, 
Страждання, Сіре Суспільство]

NOTE Paragraph

00:05:33.153 --> 00:05:37.223
(Сміх)

NOTE Paragraph

00:05:39.177 --> 00:05:41.063
Фактично,

00:05:41.087 --> 00:05:42.951
він зробив те, про що я його попросила.

00:05:42.975 --> 00:05:46.283
Я думала, що попросила його, скажімо,
вигадати красиві назви кольорів,

00:05:46.307 --> 00:05:48.614
але насправді я поставила 
перед ним завдання

00:05:48.638 --> 00:05:51.724
лише зімітувати різні 
варіанти буквосполучень,

00:05:51.748 --> 00:05:53.653
які він побачив в оригіналі.

00:05:53.677 --> 00:05:56.799
І я не говорила нічого про 
значення цих слів

00:05:56.799 --> 00:05:59.359
або про те, що, можливо,
існують певні слові,

00:05:59.383 --> 00:06:02.272
яких слід уникати,
вигадуючи назви цих кольорів.

00:06:03.141 --> 00:06:06.635
Отже, його знання обмежуються
лише інформацією, яку я надала.

00:06:06.659 --> 00:06:10.687
Наприклад, як назви смаків морозива,
про які він більше нічого не знає.

NOTE Paragraph

00:06:12.371 --> 00:06:14.129
Саме через подачу такої інформації

00:06:14.153 --> 00:06:18.197
трапляється, що ми часто просимо ШІ
робити не те, що нам потрібно.

00:06:18.694 --> 00:06:21.726
На екрані ви бачите
зображення риби під назвою "лин".

00:06:21.750 --> 00:06:23.565
Отже, одна група дослідників

00:06:23.589 --> 00:06:27.463
тренувала ШІ розпізнавати
зображення цього лина на малюнках.

00:06:27.487 --> 00:06:28.783
Коли вони запитали його,

00:06:28.807 --> 00:06:32.233
яку частину малюнка він застосовував
для розпізнавання цієї риби,

00:06:32.257 --> 00:06:33.615
результат був наступним:

00:06:35.203 --> 00:06:37.392
так, це були людські пальці.

00:06:37.416 --> 00:06:39.475
Чому він шукав зображення пальців,

00:06:39.499 --> 00:06:41.420
якщо він намагався розпізнати рибу?

00:06:42.126 --> 00:06:45.290
Виявляється, що лин -- це рідкісна риба,

00:06:45.314 --> 00:06:49.015
тому на багатьох фотографіях 
цієї риби, які бачив ШІ

00:06:49.069 --> 00:06:50.300
під час тренувань,

00:06:50.324 --> 00:06:51.814
ця риба виглядала ось так.

NOTE Paragraph

00:06:51.838 --> 00:06:53.473
(Сміх)

NOTE Paragraph

00:06:53.497 --> 00:06:56.827
І він не розумів, що пальці
не є частиною цієї риби.

NOTE Paragraph

00:06:58.808 --> 00:07:02.928
Тепер зрозуміло, чому так важко
запрограмувати ШІ таким чином,

00:07:02.952 --> 00:07:06.271
щоб він міг зрозуміти те,
на що він дивиться.

00:07:06.295 --> 00:07:09.157
Саме тому розробка
системи розпізнавання зображень

00:07:09.181 --> 00:07:11.248
для самокерованих автомобілів
дуже складна.

00:07:11.272 --> 00:07:13.477
І тому часті збої у роботі цих автомобілів

00:07:13.501 --> 00:07:16.386
пояснюються тим, що ШІ
опинився у безвиході.

00:07:16.410 --> 00:07:20.418
Я хочу розповісти про аварію,
яка сталася у 2016 році.

00:07:20.442 --> 00:07:24.897
Причина фатального ДТП -- режим автопілота
під керуванням ШІ у електрокарі Тесла,

00:07:24.921 --> 00:07:28.335
але замість застосування ШІ на
автомагістралі, для чого його і створили,

00:07:28.359 --> 00:07:30.564
його використали на дорогах міста.

00:07:31.239 --> 00:07:32.414
І сталось так, що

00:07:32.438 --> 00:07:35.834
вантажівка виїхала перед електрокаром,
і йому не вдалося загальмувати.

00:07:36.507 --> 00:07:41.269
Розумієте, ШІ точно тренували на 
розпізнавання вантажівок на фото.

00:07:41.293 --> 00:07:43.438
Але, здається, трапилось так, що

00:07:43.462 --> 00:07:46.393
ШІ тренували для розпізнавання
вантажівок на автомагістралі,

00:07:46.417 --> 00:07:49.316
де ви очікуєте побачити вантажівки позаду.

00:07:49.340 --> 00:07:52.760
Вантажівки не можуть бути
на бічній смузі автомагістралі,

00:07:52.784 --> 00:07:56.239
тому, коли ШІ помітив цю вантажівку,

00:07:56.263 --> 00:08:01.090
схоже на те, що він розпізнав її,
імовірніше, як дорожній знак,

00:08:01.114 --> 00:08:03.387
і тому збирався безпечно проїхати під ним.

NOTE Paragraph

00:08:04.114 --> 00:08:06.694
Ще один приклад збою ШІ з іншої сфери.

00:08:06.718 --> 00:08:10.178
Компанія Amazon була змушена відмовитися
від алгоритму сортування резюме,

00:08:10.202 --> 00:08:11.422
над яким вона працювала,

00:08:11.446 --> 00:08:15.354
коли стало відомо, що цей алгоритм
навчився дискримінувати жінок.

00:08:15.378 --> 00:08:18.094
Трапилося так, що вони тренували ШІ
на прикладах резюме

00:08:18.118 --> 00:08:20.360
людей, яких найняли раніше.

00:08:20.384 --> 00:08:24.407
І на основі цих прикладів ШІ навчився
уникати резюме тих людей,

00:08:24.431 --> 00:08:26.457
які навчалися у жіночих коледжах,

00:08:26.481 --> 00:08:29.287
або в чиїх резюме десь
траплялося слово ''жінка'',

00:08:29.311 --> 00:08:33.887
наприклад, ''жіноча футбольна команда''
або ''Спілка інженеринь''.

00:08:33.911 --> 00:08:37.885
ШІ не знав, що йому не потрібно було
копіювати цю конкретну інформацію

00:08:37.909 --> 00:08:39.887
стосовно того, чим займалися ці люди.

00:08:39.911 --> 00:08:43.088
І фактично, він зробив те,
що його попросили.

00:08:43.112 --> 00:08:45.909
Його просто випадково неправильно
попросили це зробити.

NOTE Paragraph

00:08:46.653 --> 00:08:49.548
І це постійно трапляється зі ШІ.

00:08:50.120 --> 00:08:53.711
ШІ дійсно може бути руйнівним,
навіть не знаючи про це.

00:08:53.735 --> 00:08:58.813
Тому ШІ, який рекомендує новий контент
для перегляду у Facebook або Youtube,

00:08:58.837 --> 00:09:02.376
він оптимізований для підвищення
кількості кліків та переглядів.

00:09:02.400 --> 00:09:05.836
І, на жаль, спосіб,
як ШІ навчився це робити,

00:09:05.860 --> 00:09:10.363
полягає у рекомендації вмісту, пов'язаного
із теорією змови або фанатизмом.

00:09:10.902 --> 00:09:16.204
Сам ШІ не має жодного уявлення стосовно
того, про що ця інформація,

00:09:16.228 --> 00:09:19.623
і він не має жодного уявлення стосовно
можливих наслідків

00:09:19.647 --> 00:09:21.756
від рекомендації такого контенту.

NOTE Paragraph

00:09:22.296 --> 00:09:24.307
Тож, коли ми працюємо зі ШІ,

00:09:24.331 --> 00:09:28.513
саме ми повинні усунути будь-які проблеми.

00:09:28.537 --> 00:09:30.860
І, усуваючи проблеми,

00:09:30.884 --> 00:09:35.410
які зводяться до однієї
одвічної проблеми спілкування,

00:09:35.434 --> 00:09:39.179
ми, як представники людського роду,
повинні навчитися спілкуватися із ШІ.

00:09:39.203 --> 00:09:43.242
Нам слід навчитися дізнаватися,
що здатний зробити ШІ, а що ні,

00:09:43.266 --> 00:09:46.352
і розуміти те, що зі своїм
крихітним примітивним мозком

00:09:46.376 --> 00:09:50.389
ШІ насправді не розуміє, про що
його намагаються попросити зробити.

00:09:51.148 --> 00:09:54.469
Іншими словами, ми повинні
бути готові працювати зі ШІ,

00:09:54.493 --> 00:09:59.751
який не є компетентним, всезнаючим ШІ
із області наукової фантастики.

00:09:59.751 --> 00:10:02.711
Нам треба бути готовими працювати зі ШІ,

00:10:02.751 --> 00:10:05.599
з яким ми маємо справу у наш час.

00:10:05.623 --> 00:10:09.828
І теперішній Ші здатний принести нам
багато неочікуваних сюрпризів.

NOTE Paragraph

00:10:09.852 --> 00:10:11.042
Дякую.

NOTE Paragraph

00:10:11.066 --> 00:10:16.291
(Оплески)