Химерна небезпека штучного інтелекту (ШІ)
-
0:02 - 0:05Штучний інтелект
-
0:05 - 0:08відомий своїм впливом
на усі галузі промисловості. -
0:09 - 0:11А як щодо морозива?
-
0:12 - 0:16Які нові дивовижні смаки
ми можемо отримати -
0:16 - 0:19за допомогою передового
штучного інтелекту? -
0:19 - 0:23Отож, я об'єднала свої зусилля із групою
програмістів зі школи Кілінг Міддл Скул, -
0:23 - 0:25щоб знайти відповідь на це запитання.
-
0:25 - 0:31Програмісти зібрали понад 1600
існуючих назв смаків морозива, -
0:31 - 0:36і ми пов'язали ці смаки із алгоритмом,
щоб побачити, що він видасть. -
0:36 - 0:40Ось неповний перелік смаків,
які нам видав штучний інтелект (ШІ). -
0:40 - 0:42[Смак гарбуза зі сміттям]
-
0:42 - 0:43(Сміх)
-
0:43 - 0:46[Смак арахісового масла зі слизом]
-
0:47 - 0:48[Полунично-вершкова інфекція]
-
0:48 - 0:50(Сміх)
-
0:50 - 0:55Ці смаки видалися не такими смачними,
як ми на те сподівалися. -
0:55 - 0:57Із цього випливає питання: Що сталося?
-
0:57 - 0:58Що пішло не так?
-
0:58 - 1:00Невже ШІ намагається нас вбити?
-
1:01 - 1:05Чи він намагається зробити те, що ми
попросили, а це і стало проблемою? -
1:07 - 1:09У фільмах, коли щось пішло не так зі ШІ,
-
1:09 - 1:12зазвичай поясненням є те, що ШІ вирішив,
-
1:12 - 1:14що він більше не хоче підкорятися людині,
-
1:14 - 1:17та він має власні цілі, і все, дуже дякую.
-
1:17 - 1:20Проте у реальному житті, ШІ,
який фактично існує зараз, -
1:20 - 1:22ще не настільки розумний, щоб утнути таке.
-
1:23 - 1:26Він має приблизно таку саму
обчислювальну потужність, -
1:26 - 1:27як дощовий черв'як,
-
1:27 - 1:30або максимум, як одна бджола,
-
1:31 - 1:33а насправді, можливо і менше.
-
1:33 - 1:35Подібним чином ми дізнаємося
щось нове про наш мозок -
1:35 - 1:40і тоді бачимо, як далеко ще знаходиться
ШІ у порівнянні з людським мозком. -
1:40 - 1:45У наш час ШІ здатний, наприклад,
розпізнати пішохода на малюнку, -
1:45 - 1:48але він не має уявлення про те,
що це таке -- пішохід. -
1:48 - 1:53Для ШІ пішохід -- це набір
ліній та текстури, і таке інше. -
1:54 - 1:56Він не розуміє насправді,
що це таке -- людина. -
1:57 - 2:00Тож чи виконає сучасний ШІ те,
що нам потрібно зробити? -
2:00 - 2:02Виконає, якщо зможе,
-
2:02 - 2:04але мабуть він виконає це не так,
як би нам того хотілося. -
2:04 - 2:07Уявімо, що ви намагаєтеся
зробити так, щоб ШІ -
2:07 - 2:10взяв ці окремі частини робота
-
2:10 - 2:14і склав із них іншого робота, який повинен
дістатися з точки А у точку Б. -
2:14 - 2:16Якби ви намагалися вирішити цю проблему
-
2:16 - 2:19шляхом написання традиційної
комп'ютерної програми, -
2:19 - 2:22ви б надали цій програмі
покрокові вказівки стосовно того, -
2:22 - 2:23як взяти ці частини,
-
2:23 - 2:26як скласти з них робота з ногами,
-
2:26 - 2:29і як застосувати ці ноги,
щоб дійти до точки Б. -
2:29 - 2:32Але якщо застосувати ШІ
для вирішення цієї проблеми, -
2:32 - 2:33він зробить по-іншому.
-
2:33 - 2:35Ви не повідомляєте йому,
як вирішити цю проблему, -
2:35 - 2:37ви лише ставите перед ним мету,
-
2:37 - 2:40а він повинен визначити для себе
шляхом спроб та помилок, -
2:40 - 2:42як досягти цієї мети.
-
2:42 - 2:46І, виявляється, що спосіб, за допомогою
якого ШІ намагається вирішити цю проблему, -
2:46 - 2:48полягає в наступному:
-
2:48 - 2:51він складає із тих частин вежу,
яка потім падає -
2:51 - 2:53і приземляється у точку Б.
-
2:53 - 2:56Фактично, цим вирішується дана проблема.
-
2:56 - 2:58Фактично, він дістався до точки Б.
-
2:58 - 3:02Небезпека ШІ полягає не в тому,
що він повстане проти нас, -
3:02 - 3:06а в тому, що він робитиме конкретно те,
що ми його попросимо зробити. -
3:07 - 3:09Головна складність роботи зі ШІ
полягає у цьому: -
3:09 - 3:13як вирішити проблему, щоб ШІ
зробив саме те, що нам потрібно? -
3:15 - 3:18Тож зараз ви бачите маленького
робота, яким керує ШІ. -
3:18 - 3:21ШІ спроектував ноги робота,
-
3:21 - 3:25а потім спланував, як їх застосувати,
щоб подолати ці перешкоди. -
3:25 - 3:28Але коли Дейвід Ха
проводив цей експеримент, -
3:28 - 3:31він був змушений провести його
у дуже суворих рамках -
3:31 - 3:34стосовно того, який розмір ніг
дозволялося мати ШІ, -
3:34 - 3:36тому що у іншому випадку...
-
3:43 - 3:47(Сміх)
-
3:49 - 3:52Фактично, він дістався
до кінця смуги перешкод. -
3:52 - 3:57Тож ви бачите, як складно навчити ШІ
навіть такому простому, як ходьба. -
3:57 - 4:01Коли ви побачили, як це робить ШІ,
ви можете сказати, що це нечесно, -
4:01 - 4:04ти не можеш просто стати вежею,
а потім впасти, -
4:04 - 4:07фактично, тобі необхідно
застосувати ноги, щоб ходити. -
4:07 - 4:10І виявляється, це теж
не завжди спрацьовує. -
4:10 - 4:13Це завдання ШІ полягало
у швидкому русі. -
4:13 - 4:17У ШІ не було вказівок стосовно того,
що він повинен бігти обличчям вперед, -
4:17 - 4:19або що йому заборонено
використовувати руки. -
4:19 - 4:24Ось, що ви отримаєте, коли будете
тренувати ШІ рухатися швидко. -
4:24 - 4:28Ви отримаєте такий результат,
як перекочування та незграбна ходьба. -
4:28 - 4:29Це справді так.
-
4:30 - 4:33Або дивні рухи по підлозі у вигляді купи.
-
4:33 - 4:34(Сміх)
-
4:35 - 4:38На мою думку, більш чудернацькими були б
-
4:38 - 4:40роботи "Термінатори".
-
4:40 - 4:44ШІ може навіть зламати "Матрицю",
якщо ви дасте йому таке завдання. -
4:44 - 4:47Під час навчання в ком'ютерній симуляції,
-
4:47 - 4:51ШІ навчиться, як зламувати
математичні помилки симуляції -
4:51 - 4:53та збирати їх для енергії.
-
4:53 - 4:58Або він зрозуміє, як рухатися швидше,
повторно відштовхуючись від підлоги. -
4:58 - 5:00Коли ви працюєте зі ШІ,
-
5:00 - 5:02це не схоже на роботу з іншою людиною,
-
5:02 - 5:06а більш схоже на співпрацю
зі згубною силою природи. -
5:07 - 5:11І дуже легко випадково поставити
перед ШІ зовсім не ту проблему, -
5:11 - 5:16і часто ми усвідомлюємо це лише тоді,
коли щось пішло не так. -
5:16 - 5:18Ось результати проведеного експерименту,
-
5:18 - 5:22під час якого я хотіла,
щоб ШІ скопіював фарби -
5:22 - 5:23для винайдення нових кольорів,
-
5:23 - 5:26на основі переліку фарб, які подані зліва.
-
5:27 - 5:30І ось, що ШІ фактично вигадав.
-
5:30 - 5:33[Сіндійський Дурень, Випорожнення,
Страждання, Сіре Суспільство] -
5:33 - 5:37(Сміх)
-
5:39 - 5:41Фактично,
-
5:41 - 5:43він зробив те, про що я його попросила.
-
5:43 - 5:46Я думала, що попросила його, скажімо,
вигадати красиві назви кольорів, -
5:46 - 5:49але насправді я поставила
перед ним завдання -
5:49 - 5:52лише зімітувати різні
варіанти буквосполучень, -
5:52 - 5:54які він побачив в оригіналі.
-
5:54 - 5:57І я не говорила нічого про
значення цих слів -
5:57 - 5:59або про те, що, можливо,
існують певні слові, -
5:59 - 6:02яких слід уникати,
вигадуючи назви цих кольорів. -
6:03 - 6:07Отже, його знання обмежуються
лише інформацією, яку я надала. -
6:07 - 6:11Наприклад, як назви смаків морозива,
про які він більше нічого не знає. -
6:12 - 6:14Саме через подачу такої інформації
-
6:14 - 6:18трапляється, що ми часто просимо ШІ
робити не те, що нам потрібно. -
6:19 - 6:22На екрані ви бачите
зображення риби під назвою "лин". -
6:22 - 6:24Отже, одна група дослідників
-
6:24 - 6:27тренувала ШІ розпізнавати
зображення цього лина на малюнках. -
6:27 - 6:29Коли вони запитали його,
-
6:29 - 6:32яку частину малюнка він застосовував
для розпізнавання цієї риби, -
6:32 - 6:34результат був наступним:
-
6:35 - 6:37так, це були людські пальці.
-
6:37 - 6:39Чому він шукав зображення пальців,
-
6:39 - 6:41якщо він намагався розпізнати рибу?
-
6:42 - 6:45Виявляється, що лин -- це рідкісна риба,
-
6:45 - 6:49тому на багатьох фотографіях
цієї риби, які бачив ШІ -
6:49 - 6:50під час тренувань,
-
6:50 - 6:52ця риба виглядала ось так.
-
6:52 - 6:53(Сміх)
-
6:53 - 6:57І він не розумів, що пальці
не є частиною цієї риби. -
6:59 - 7:03Тепер зрозуміло, чому так важко
запрограмувати ШІ таким чином, -
7:03 - 7:06щоб він міг зрозуміти те,
на що він дивиться. -
7:06 - 7:09Саме тому розробка
системи розпізнавання зображень -
7:09 - 7:11для самокерованих автомобілів
дуже складна. -
7:11 - 7:13І тому часті збої у роботі цих автомобілів
-
7:14 - 7:16пояснюються тим, що ШІ
опинився у безвиході. -
7:16 - 7:20Я хочу розповісти про аварію,
яка сталася у 2016 році. -
7:20 - 7:25Причина фатального ДТП -- режим автопілота
під керуванням ШІ у електрокарі Тесла, -
7:25 - 7:28але замість застосування ШІ на
автомагістралі, для чого його і створили, -
7:28 - 7:31його використали на дорогах міста.
-
7:31 - 7:32І сталось так, що
-
7:32 - 7:36вантажівка виїхала перед електрокаром,
і йому не вдалося загальмувати. -
7:37 - 7:41Розумієте, ШІ точно тренували на
розпізнавання вантажівок на фото. -
7:41 - 7:43Але, здається, трапилось так, що
-
7:43 - 7:46ШІ тренували для розпізнавання
вантажівок на автомагістралі, -
7:46 - 7:49де ви очікуєте побачити вантажівки позаду.
-
7:49 - 7:53Вантажівки не можуть бути
на бічній смузі автомагістралі, -
7:53 - 7:56тому, коли ШІ помітив цю вантажівку,
-
7:56 - 8:01схоже на те, що він розпізнав її,
імовірніше, як дорожній знак, -
8:01 - 8:03і тому збирався безпечно проїхати під ним.
-
8:04 - 8:07Ще один приклад збою ШІ з іншої сфери.
-
8:07 - 8:10Компанія Amazon була змушена відмовитися
від алгоритму сортування резюме, -
8:10 - 8:11над яким вона працювала,
-
8:11 - 8:15коли стало відомо, що цей алгоритм
навчився дискримінувати жінок. -
8:15 - 8:18Трапилося так, що вони тренували ШІ
на прикладах резюме -
8:18 - 8:20людей, яких найняли раніше.
-
8:20 - 8:24І на основі цих прикладів ШІ навчився
уникати резюме тих людей, -
8:24 - 8:26які навчалися у жіночих коледжах,
-
8:26 - 8:29або в чиїх резюме десь
траплялося слово ''жінка'', -
8:29 - 8:34наприклад, ''жіноча футбольна команда''
або ''Спілка інженеринь''. -
8:34 - 8:38ШІ не знав, що йому не потрібно було
копіювати цю конкретну інформацію -
8:38 - 8:40стосовно того, чим займалися ці люди.
-
8:40 - 8:43І фактично, він зробив те,
що його попросили. -
8:43 - 8:46Його просто випадково неправильно
попросили це зробити. -
8:47 - 8:50І це постійно трапляється зі ШІ.
-
8:50 - 8:54ШІ дійсно може бути руйнівним,
навіть не знаючи про це. -
8:54 - 8:59Тому ШІ, який рекомендує новий контент
для перегляду у Facebook або Youtube, -
8:59 - 9:02він оптимізований для підвищення
кількості кліків та переглядів. -
9:02 - 9:06І, на жаль, спосіб,
як ШІ навчився це робити, -
9:06 - 9:10полягає у рекомендації вмісту, пов'язаного
із теорією змови або фанатизмом. -
9:11 - 9:16Сам ШІ не має жодного уявлення стосовно
того, про що ця інформація, -
9:16 - 9:20і він не має жодного уявлення стосовно
можливих наслідків -
9:20 - 9:22від рекомендації такого контенту.
-
9:22 - 9:24Тож, коли ми працюємо зі ШІ,
-
9:24 - 9:29саме ми повинні усунути будь-які проблеми.
-
9:29 - 9:31І, усуваючи проблеми,
-
9:31 - 9:35які зводяться до однієї
одвічної проблеми спілкування, -
9:35 - 9:39ми, як представники людського роду,
повинні навчитися спілкуватися із ШІ. -
9:39 - 9:43Нам слід навчитися дізнаватися,
що здатний зробити ШІ, а що ні, -
9:43 - 9:46і розуміти те, що зі своїм
крихітним примітивним мозком -
9:46 - 9:50ШІ насправді не розуміє, про що
його намагаються попросити зробити. -
9:51 - 9:54Іншими словами, ми повинні
бути готові працювати зі ШІ, -
9:54 - 10:00який не є компетентним, всезнаючим ШІ
із області наукової фантастики. -
10:00 - 10:03Нам треба бути готовими працювати зі ШІ,
-
10:03 - 10:06з яким ми маємо справу у наш час.
-
10:06 - 10:10І теперішній Ші здатний принести нам
багато неочікуваних сюрпризів. -
10:10 - 10:11Дякую.
-
10:11 - 10:16(Оплески)
- Title:
- Химерна небезпека штучного інтелекту (ШІ)
- Speaker:
- Джанель Шейн
- Description:
-
Небезпека штучного інтелекту полягає не в тому, що він повстане проти нас, а в тому, що він робитиме не те, що нам потрібно, стверджує дослідник ШІ Джанель Шейн. Показуючи приклади згубних, інколи тривожних збоїв алгоритмів ШІ під час вирішення проблем людей -- наприклад, вигадування нових смаків морозива або розпізнавання автомобілів на дорозі -- Шейн пояснює, чому ШІ ще далеко до людського мозку.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Khrystyna Romashko approved Ukrainian subtitles for The danger of AI is weirder than you think | ||
Khrystyna Romashko edited Ukrainian subtitles for The danger of AI is weirder than you think | ||
Khrystyna Romashko edited Ukrainian subtitles for The danger of AI is weirder than you think | ||
Khrystyna Romashko edited Ukrainian subtitles for The danger of AI is weirder than you think | ||
Khrystyna Romashko edited Ukrainian subtitles for The danger of AI is weirder than you think | ||
Khrystyna Romashko edited Ukrainian subtitles for The danger of AI is weirder than you think | ||
Khrystyna Romashko edited Ukrainian subtitles for The danger of AI is weirder than you think | ||
Khrystyna Romashko edited Ukrainian subtitles for The danger of AI is weirder than you think |