Химерна небезпека штучного інтелекту (ШІ)

Небезпека штучного інтелекту полягає не в тому, що він повстане проти нас, а в тому, що він робитиме не те, що нам потрібно, стверджує дослідник ШІ Джанель Шейн. Показуючи приклади згубних, інколи тривожних збоїв алгоритмів ШІ під час вирішення проблем людей -- наприклад, вигадування нових смаків морозива або розпізнавання автомобілів на дорозі -- Шейн пояснює, чому ШІ ще далеко до людського мозку.

Штучний інтелект

відомий своїм впливом
на усі галузі промисловості.

А як щодо морозива?

Які нові дивовижні смаки
ми можемо отримати

за допомогою передового
штучного інтелекту?

Отож, я об'єднала свої зусилля із групою
програмістів зі школи Кілінг Міддл Скул,

щоб знайти відповідь на це запитання.

Програмісти зібрали понад 1600
існуючих назв смаків морозива,

і ми пов'язали ці смаки із алгоритмом,
щоб побачити, що він видасть.

Ось неповний перелік смаків,
які нам видав штучний інтелект (ШІ).

[Смак гарбуза зі сміттям]

(Сміх)

[Смак арахісового масла зі слизом]

[Полунично-вершкова інфекція]

(Сміх)

Ці смаки видалися не такими смачними,
як ми на те сподівалися.

Із цього випливає питання: Що сталося?

Що пішло не так?

Невже ШІ намагається нас вбити?

Чи він намагається зробити те, що ми
попросили, а це і стало проблемою?

У фільмах, коли щось пішло не так зі ШІ,

зазвичай поясненням є те, що ШІ вирішив,

що він більше не хоче підкорятися людині,

та він має власні цілі, і все, дуже дякую.

Проте у реальному житті, ШІ,
який фактично існує зараз,

ще не настільки розумний, щоб утнути таке.

Він має приблизно таку саму
обчислювальну потужність,

як дощовий черв'як,

або максимум, як одна бджола,

а насправді, можливо і менше.

Подібним чином ми дізнаємося
щось нове про наш мозок

і тоді бачимо, як далеко ще знаходиться
ШІ у порівнянні з людським мозком.

У наш час ШІ здатний, наприклад,
розпізнати пішохода на малюнку,

але він не має уявлення про те,
що це таке -- пішохід.

Для ШІ пішохід -- це набір
ліній та текстури, і таке інше.

Він не розуміє насправді,
що це таке -- людина.

Тож чи виконає сучасний ШІ те,
що нам потрібно зробити?

Виконає, якщо зможе,

але мабуть він виконає це не так,
як би нам того хотілося.

Уявімо, що ви намагаєтеся
зробити так, щоб ШІ

взяв ці окремі частини робота

і склав із них іншого робота, який повинен
дістатися з точки А у точку Б.

Якби ви намагалися вирішити цю проблему

шляхом написання традиційної
комп'ютерної програми,

ви б надали цій програмі
покрокові вказівки стосовно того,

як взяти ці частини,

як скласти з них робота з ногами,

і як застосувати ці ноги,
щоб дійти до точки Б.

Але якщо застосувати ШІ
для вирішення цієї проблеми,

він зробить по-іншому.

Ви не повідомляєте йому,
як вирішити цю проблему,

ви лише ставите перед ним мету,

а він повинен визначити для себе
шляхом спроб та помилок,

як досягти цієї мети.

І, виявляється, що спосіб, за допомогою
якого ШІ намагається вирішити цю проблему,

полягає в наступному:

він складає із тих частин вежу,
яка потім падає

і приземляється у точку Б.

Фактично, цим вирішується дана проблема.

Фактично, він дістався до точки Б.

Небезпека ШІ полягає не в тому,
що він повстане проти нас,

а в тому, що він робитиме конкретно те,
що ми його попросимо зробити.

Головна складність роботи зі ШІ
полягає у цьому:

як вирішити проблему, щоб ШІ
зробив саме те, що нам потрібно?

Тож зараз ви бачите маленького
робота, яким керує ШІ.

ШІ спроектував ноги робота,

а потім спланував, як їх застосувати,
щоб подолати ці перешкоди.

Але коли Дейвід Ха
проводив цей експеримент,

він був змушений провести його
у дуже суворих рамках

стосовно того, який розмір ніг
дозволялося мати ШІ,

тому що у іншому випадку...

(Сміх)

Фактично, він дістався
до кінця смуги перешкод.

Тож ви бачите, як складно навчити ШІ
навіть такому простому, як ходьба.

Коли ви побачили, як це робить ШІ,
ви можете сказати, що це нечесно,

ти не можеш просто стати вежею,
а потім впасти,

фактично, тобі необхідно
застосувати ноги, щоб ходити.

І виявляється, це теж
не завжди спрацьовує.

Це завдання ШІ полягало
у швидкому русі.

У ШІ не було вказівок стосовно того,
що він повинен бігти обличчям вперед,

або що йому заборонено
використовувати руки.

Ось, що ви отримаєте, коли будете
тренувати ШІ рухатися швидко.

Ви отримаєте такий результат,
як перекочування та незграбна ходьба.

Це справді так.

Або дивні рухи по підлозі у вигляді купи.

(Сміх)

На мою думку, більш чудернацькими були б

роботи "Термінатори".

ШІ може навіть зламати "Матрицю",
якщо ви дасте йому таке завдання.

Під час навчання в ком'ютерній симуляції,

ШІ навчиться, як зламувати
математичні помилки симуляції

та збирати їх для енергії.

Або він зрозуміє, як рухатися швидше,
повторно відштовхуючись від підлоги.

Коли ви працюєте зі ШІ,

це не схоже на роботу з іншою людиною,

а більш схоже на співпрацю
зі згубною силою природи.

І дуже легко випадково поставити
перед ШІ зовсім не ту проблему,

і часто ми усвідомлюємо це лише тоді,
коли щось пішло не так.

Ось результати проведеного експерименту,

під час якого я хотіла,
щоб ШІ скопіював фарби

для винайдення нових кольорів,

на основі переліку фарб, які подані зліва.

І ось, що ШІ фактично вигадав.

[Сіндійський Дурень, Випорожнення,
Страждання, Сіре Суспільство]

(Сміх)

Фактично,

він зробив те, про що я його попросила.

Я думала, що попросила його, скажімо,
вигадати красиві назви кольорів,

але насправді я поставила
перед ним завдання

лише зімітувати різні
варіанти буквосполучень,

які він побачив в оригіналі.

І я не говорила нічого про
значення цих слів

або про те, що, можливо,
існують певні слові,

яких слід уникати,
вигадуючи назви цих кольорів.

Отже, його знання обмежуються
лише інформацією, яку я надала.

Наприклад, як назви смаків морозива,
про які він більше нічого не знає.

Саме через подачу такої інформації

трапляється, що ми часто просимо ШІ
робити не те, що нам потрібно.

На екрані ви бачите
зображення риби під назвою "лин".

Отже, одна група дослідників

тренувала ШІ розпізнавати
зображення цього лина на малюнках.

Коли вони запитали його,

яку частину малюнка він застосовував
для розпізнавання цієї риби,

результат був наступним:

так, це були людські пальці.

Чому він шукав зображення пальців,

якщо він намагався розпізнати рибу?

Виявляється, що лин -- це рідкісна риба,

тому на багатьох фотографіях
цієї риби, які бачив ШІ

під час тренувань,

ця риба виглядала ось так.

(Сміх)

І він не розумів, що пальці
не є частиною цієї риби.

Тепер зрозуміло, чому так важко
запрограмувати ШІ таким чином,

щоб він міг зрозуміти те,
на що він дивиться.

Саме тому розробка
системи розпізнавання зображень

для самокерованих автомобілів
дуже складна.

І тому часті збої у роботі цих автомобілів

пояснюються тим, що ШІ
опинився у безвиході.

Я хочу розповісти про аварію,
яка сталася у 2016 році.

Причина фатального ДТП -- режим автопілота
під керуванням ШІ у електрокарі Тесла,

але замість застосування ШІ на
автомагістралі, для чого його і створили,

його використали на дорогах міста.

І сталось так, що

вантажівка виїхала перед електрокаром,
і йому не вдалося загальмувати.

Розумієте, ШІ точно тренували на
розпізнавання вантажівок на фото.

Але, здається, трапилось так, що

ШІ тренували для розпізнавання
вантажівок на автомагістралі,

де ви очікуєте побачити вантажівки позаду.

Вантажівки не можуть бути
на бічній смузі автомагістралі,

тому, коли ШІ помітив цю вантажівку,

схоже на те, що він розпізнав її,
імовірніше, як дорожній знак,

і тому збирався безпечно проїхати під ним.

Ще один приклад збою ШІ з іншої сфери.

Компанія Amazon була змушена відмовитися
від алгоритму сортування резюме,

над яким вона працювала,

коли стало відомо, що цей алгоритм
навчився дискримінувати жінок.

Трапилося так, що вони тренували ШІ
на прикладах резюме

людей, яких найняли раніше.

І на основі цих прикладів ШІ навчився
уникати резюме тих людей,

які навчалися у жіночих коледжах,

або в чиїх резюме десь
траплялося слово ''жінка'',

наприклад, ''жіноча футбольна команда''
або ''Спілка інженеринь''.

ШІ не знав, що йому не потрібно було
копіювати цю конкретну інформацію

стосовно того, чим займалися ці люди.

І фактично, він зробив те,
що його попросили.

Його просто випадково неправильно
попросили це зробити.

І це постійно трапляється зі ШІ.

ШІ дійсно може бути руйнівним,
навіть не знаючи про це.

Тому ШІ, який рекомендує новий контент
для перегляду у Facebook або Youtube,

він оптимізований для підвищення
кількості кліків та переглядів.

І, на жаль, спосіб,
як ШІ навчився це робити,

полягає у рекомендації вмісту, пов'язаного
із теорією змови або фанатизмом.

Сам ШІ не має жодного уявлення стосовно
того, про що ця інформація,

і він не має жодного уявлення стосовно
можливих наслідків

від рекомендації такого контенту.

Тож, коли ми працюємо зі ШІ,

саме ми повинні усунути будь-які проблеми.

І, усуваючи проблеми,

які зводяться до однієї
одвічної проблеми спілкування,

ми, як представники людського роду,
повинні навчитися спілкуватися із ШІ.

Нам слід навчитися дізнаватися,
що здатний зробити ШІ, а що ні,

і розуміти те, що зі своїм
крихітним примітивним мозком

ШІ насправді не розуміє, про що
його намагаються попросити зробити.

Іншими словами, ми повинні
бути готові працювати зі ШІ,

який не є компетентним, всезнаючим ШІ
із області наукової фантастики.

Нам треба бути готовими працювати зі ШІ,

з яким ми маємо справу у наш час.

І теперішній Ші здатний принести нам
багато неочікуваних сюрпризів.

Дякую.

(Оплески)