0:00:01.765,0:00:04.765
Штучний інтелект

0:00:04.789,0:00:08.318
відомий своїм впливом[br]на усі галузі промисловості.

0:00:08.961,0:00:11.004
А як щодо морозива?

0:00:11.879,0:00:15.518
Які нові дивовижні смаки [br]ми можемо отримати

0:00:15.542,0:00:18.518
за допомогою передового[br]штучного інтелекту?

0:00:19.011,0:00:23.172
Отож, я об'єднала свої зусилля із групою[br]програмістів зі школи Кілінг Міддл Скул,

0:00:23.196,0:00:25.437
щоб знайти відповідь на це запитання.

0:00:25.461,0:00:30.542
Програмісти зібрали понад 1600[br]існуючих назв смаків морозива,

0:00:30.566,0:00:36.088
і ми пов'язали ці смаки із алгоритмом,[br]щоб побачити, що він видасть.

0:00:36.112,0:00:39.865
Ось неповний перелік смаків,[br]які нам видав штучний інтелект (ШІ).

0:00:40.444,0:00:41.915
[Смак гарбуза зі сміттям]

0:00:41.939,0:00:43.341
(Сміх)

0:00:43.365,0:00:45.834
[Смак арахісового масла зі слизом]

0:00:46.712,0:00:48.165
[Полунично-вершкова інфекція]

0:00:48.189,0:00:50.315
(Сміх)

0:00:50.339,0:00:54.936
Ці смаки видалися не такими смачними,[br]як ми на те сподівалися.

0:00:54.960,0:00:56.824
Із цього випливає питання: Що сталося?

0:00:56.848,0:00:58.242
Що пішло не так?

0:00:58.266,0:01:00.225
Невже ШІ намагається нас вбити?

0:01:01.027,0:01:05.337
Чи він намагається зробити те, що ми[br]попросили, а це і стало проблемою?

0:01:06.567,0:01:09.031
У фільмах, коли щось пішло не так зі ШІ,

0:01:09.055,0:01:11.767
зазвичай поясненням є те, що ШІ вирішив,

0:01:11.791,0:01:14.063
що він більше не хоче підкорятися людині,

0:01:14.087,0:01:16.710
та він має власні цілі, і все, дуже дякую.

0:01:17.266,0:01:20.482
Проте у реальному житті, ШІ,[br]який фактично існує зараз,

0:01:20.482,0:01:22.499
ще не настільки розумний, щоб утнути таке.

0:01:22.781,0:01:25.763
Він має приблизно таку саму[br]обчислювальну потужність,

0:01:25.787,0:01:27.063
як дощовий черв'як,

0:01:27.087,0:01:30.490
або максимум, як одна бджола,

0:01:30.514,0:01:32.729
а насправді, можливо і менше.

0:01:32.753,0:01:35.347
Подібним чином ми дізнаємося[br]щось нове про наш мозок

0:01:35.371,0:01:39.731
і тоді бачимо, як далеко ще знаходиться [br]ШІ у порівнянні з людським мозком.

0:01:39.755,0:01:45.418
У наш час ШІ здатний, наприклад,[br]розпізнати пішохода на малюнку,

0:01:45.442,0:01:48.425
але він не має уявлення про те,[br]що це таке -- пішохід.

0:01:48.449,0:01:53.273
Для ШІ пішохід -- це набір[br]ліній та текстури, і таке інше.

0:01:53.792,0:01:56.313
Він не розуміє насправді, [br]що це таке -- людина.

0:01:56.902,0:02:00.104
Тож чи виконає сучасний ШІ те,[br]що нам потрібно зробити?

0:02:00.128,0:02:01.722
Виконає, якщо зможе,

0:02:01.746,0:02:04.472
але мабуть він виконає це не так,[br]як би нам того хотілося.

0:02:04.496,0:02:06.935
Уявімо, що ви намагаєтеся[br]зробити так, щоб ШІ

0:02:06.935,0:02:09.554
взяв ці окремі частини робота

0:02:09.578,0:02:13.775
і склав із них іншого робота, який повинен[br]дістатися з точки А у точку Б.

0:02:13.799,0:02:16.280
Якби ви намагалися вирішити цю проблему

0:02:16.280,0:02:18.679
шляхом написання традиційної[br]комп'ютерної програми,

0:02:18.679,0:02:22.096
ви б надали цій програмі[br]покрокові вказівки стосовно того,

0:02:22.120,0:02:23.449
як взяти ці частини,

0:02:23.473,0:02:25.880
як скласти з них робота з ногами,

0:02:25.904,0:02:28.846
і як застосувати ці ноги,[br]щоб дійти до точки Б.

0:02:29.301,0:02:31.795
Але якщо застосувати ШІ [br]для вирішення цієї проблеми,

0:02:31.795,0:02:32.969
він зробить по-іншому.

0:02:33.003,0:02:35.385
Ви не повідомляєте йому,[br]як вирішити цю проблему,

0:02:35.409,0:02:36.888
ви лише ставите перед ним мету,

0:02:36.912,0:02:40.174
а він повинен визначити для себе[br]шляхом спроб та помилок,

0:02:40.198,0:02:41.682
як досягти цієї мети.

0:02:42.254,0:02:46.356
І, виявляється, що спосіб, за допомогою[br]якого ШІ намагається вирішити цю проблему,

0:02:46.380,0:02:47.864
полягає в наступному:

0:02:47.888,0:02:51.255
він складає із тих частин вежу,[br]яка потім падає

0:02:51.279,0:02:53.106
і приземляється у точку Б.

0:02:53.130,0:02:55.959
Фактично, цим вирішується дана проблема.

0:02:55.983,0:02:57.622
Фактично, він дістався до точки Б.

0:02:57.646,0:03:01.911
Небезпека ШІ полягає не в тому,[br]що він повстане проти нас,

0:03:01.935,0:03:06.209
а в тому, що він робитиме конкретно те,[br]що ми його попросимо зробити.

0:03:06.876,0:03:09.374
Головна складність роботи зі ШІ[br]полягає у цьому:

0:03:09.398,0:03:13.226
як вирішити проблему, щоб ШІ[br]зробив саме те, що нам потрібно?

0:03:14.726,0:03:18.032
Тож зараз ви бачите маленького [br]робота, яким керує ШІ.

0:03:18.056,0:03:20.870
ШІ спроектував ноги робота,

0:03:20.894,0:03:24.972
а потім спланував, як їх застосувати,[br]щоб подолати ці перешкоди.

0:03:24.996,0:03:27.737
Але коли Дейвід Ха[br]проводив цей експеримент,

0:03:27.761,0:03:30.617
він був змушений провести його[br]у дуже суворих рамках

0:03:30.641,0:03:33.933
стосовно того, який розмір ніг[br]дозволялося мати ШІ,

0:03:33.957,0:03:35.507
тому що у іншому випадку...

0:03:43.058,0:03:46.989
(Сміх)

0:03:48.563,0:03:52.308
Фактично, він дістався[br]до кінця смуги перешкод.

0:03:52.332,0:03:57.274
Тож ви бачите, як складно навчити ШІ[br]навіть такому простому, як ходьба.

0:03:57.298,0:04:01.118
Коли ви побачили, як це робить ШІ,[br]ви можете сказати, що це нечесно,

0:04:01.142,0:04:03.722
ти не можеш просто стати вежею,[br]а потім впасти,

0:04:03.746,0:04:07.181
фактично, тобі необхідно[br]застосувати ноги, щоб ходити.

0:04:07.181,0:04:09.828
І виявляється, це теж [br]не завжди спрацьовує.

0:04:10.028,0:04:12.787
Це завдання ШІ полягало[br]у швидкому русі.

0:04:13.115,0:04:16.708
У ШІ не було вказівок стосовно того,[br]що він повинен бігти обличчям вперед,

0:04:16.732,0:04:18.990
або що йому заборонено[br]використовувати руки.

0:04:19.487,0:04:24.105
Ось, що ви отримаєте, коли будете[br]тренувати ШІ рухатися швидко.

0:04:24.129,0:04:27.663
Ви отримаєте такий результат,[br]як перекочування та незграбна ходьба.

0:04:27.687,0:04:29.087
Це справді так.

0:04:29.667,0:04:32.846
Або дивні рухи по підлозі у вигляді купи.

0:04:32.870,0:04:34.020
(Сміх)

0:04:35.241,0:04:38.495
На мою думку, більш чудернацькими були б

0:04:38.495,0:04:39.891
роботи "Термінатори".

0:04:40.256,0:04:44.011
ШІ може навіть зламати "Матрицю",[br]якщо ви дасте йому таке завдання.

0:04:44.035,0:04:46.552
Під час навчання в ком'ютерній симуляції,

0:04:46.576,0:04:50.689
ШІ навчиться, як зламувати [br]математичні помилки симуляції

0:04:50.713,0:04:52.920
та збирати їх для енергії.

0:04:52.944,0:04:58.419
Або він зрозуміє, як рухатися швидше,[br]повторно відштовхуючись від підлоги.

0:04:58.443,0:05:00.028
Коли ви працюєте зі ШІ,

0:05:00.052,0:05:02.441
це не схоже на роботу з іншою людиною,

0:05:02.465,0:05:06.094
а більш схоже на співпрацю[br]зі згубною силою природи.

0:05:06.562,0:05:11.185
І дуже легко випадково поставити [br]перед ШІ зовсім не ту проблему,

0:05:11.209,0:05:15.747
і часто ми усвідомлюємо це лише тоді,[br]коли щось пішло не так.

0:05:16.242,0:05:18.322
Ось результати проведеного експерименту,

0:05:18.346,0:05:21.528
під час якого я хотіла,[br]щоб ШІ скопіював фарби

0:05:21.552,0:05:23.298
для винайдення нових кольорів,

0:05:23.322,0:05:26.309
на основі переліку фарб, які подані зліва.

0:05:26.798,0:05:29.802
І ось, що ШІ фактично вигадав.

0:05:29.826,0:05:33.153
[Сіндійський Дурень, Випорожнення, [br]Страждання, Сіре Суспільство]

0:05:33.153,0:05:37.223
(Сміх)

0:05:39.177,0:05:41.063
Фактично,

0:05:41.087,0:05:42.951
він зробив те, про що я його попросила.

0:05:42.975,0:05:46.283
Я думала, що попросила його, скажімо,[br]вигадати красиві назви кольорів,

0:05:46.307,0:05:48.614
але насправді я поставила [br]перед ним завдання

0:05:48.638,0:05:51.724
лише зімітувати різні [br]варіанти буквосполучень,

0:05:51.748,0:05:53.653
які він побачив в оригіналі.

0:05:53.677,0:05:56.799
І я не говорила нічого про [br]значення цих слів

0:05:56.799,0:05:59.359
або про те, що, можливо,[br]існують певні слові,

0:05:59.383,0:06:02.272
яких слід уникати,[br]вигадуючи назви цих кольорів.

0:06:03.141,0:06:06.635
Отже, його знання обмежуються[br]лише інформацією, яку я надала.

0:06:06.659,0:06:10.687
Наприклад, як назви смаків морозива,[br]про які він більше нічого не знає.

0:06:12.371,0:06:14.129
Саме через подачу такої інформації

0:06:14.153,0:06:18.197
трапляється, що ми часто просимо ШІ[br]робити не те, що нам потрібно.

0:06:18.694,0:06:21.726
На екрані ви бачите[br]зображення риби під назвою "лин".

0:06:21.750,0:06:23.565
Отже, одна група дослідників

0:06:23.589,0:06:27.463
тренувала ШІ розпізнавати[br]зображення цього лина на малюнках.

0:06:27.487,0:06:28.783
Коли вони запитали його,

0:06:28.807,0:06:32.233
яку частину малюнка він застосовував[br]для розпізнавання цієї риби,

0:06:32.257,0:06:33.615
результат був наступним:

0:06:35.203,0:06:37.392
так, це були людські пальці.

0:06:37.416,0:06:39.475
Чому він шукав зображення пальців,

0:06:39.499,0:06:41.420
якщо він намагався розпізнати рибу?

0:06:42.126,0:06:45.290
Виявляється, що лин -- це рідкісна риба,

0:06:45.314,0:06:49.015
тому на багатьох фотографіях [br]цієї риби, які бачив ШІ

0:06:49.069,0:06:50.300
під час тренувань,

0:06:50.324,0:06:51.814
ця риба виглядала ось так.

0:06:51.838,0:06:53.473
(Сміх)

0:06:53.497,0:06:56.827
І він не розумів, що пальці[br]не є частиною цієї риби.

0:06:58.808,0:07:02.928
Тепер зрозуміло, чому так важко[br]запрограмувати ШІ таким чином,

0:07:02.952,0:07:06.271
щоб він міг зрозуміти те,[br]на що він дивиться.

0:07:06.295,0:07:09.157
Саме тому розробка[br]системи розпізнавання зображень

0:07:09.181,0:07:11.248
для самокерованих автомобілів[br]дуже складна.

0:07:11.272,0:07:13.477
І тому часті збої у роботі цих автомобілів

0:07:13.501,0:07:16.386
пояснюються тим, що ШІ[br]опинився у безвиході.

0:07:16.410,0:07:20.418
Я хочу розповісти про аварію,[br]яка сталася у 2016 році.

0:07:20.442,0:07:24.897
Причина фатального ДТП -- режим автопілота[br]під керуванням ШІ у електрокарі Тесла,

0:07:24.921,0:07:28.335
але замість застосування ШІ на[br]автомагістралі, для чого його і створили,

0:07:28.359,0:07:30.564
його використали на дорогах міста.

0:07:31.239,0:07:32.414
І сталось так, що

0:07:32.438,0:07:35.834
вантажівка виїхала перед електрокаром,[br]і йому не вдалося загальмувати.

0:07:36.507,0:07:41.269
Розумієте, ШІ точно тренували на [br]розпізнавання вантажівок на фото.

0:07:41.293,0:07:43.438
Але, здається, трапилось так, що

0:07:43.462,0:07:46.393
ШІ тренували для розпізнавання[br]вантажівок на автомагістралі,

0:07:46.417,0:07:49.316
де ви очікуєте побачити вантажівки позаду.

0:07:49.340,0:07:52.760
Вантажівки не можуть бути[br]на бічній смузі автомагістралі,

0:07:52.784,0:07:56.239
тому, коли ШІ помітив цю вантажівку,

0:07:56.263,0:08:01.090
схоже на те, що він розпізнав її,[br]імовірніше, як дорожній знак,

0:08:01.114,0:08:03.387
і тому збирався безпечно проїхати під ним.

0:08:04.114,0:08:06.694
Ще один приклад збою ШІ з іншої сфери.

0:08:06.718,0:08:10.178
Компанія Amazon була змушена відмовитися[br]від алгоритму сортування резюме,

0:08:10.202,0:08:11.422
над яким вона працювала,

0:08:11.446,0:08:15.354
коли стало відомо, що цей алгоритм[br]навчився дискримінувати жінок.

0:08:15.378,0:08:18.094
Трапилося так, що вони тренували ШІ[br]на прикладах резюме

0:08:18.118,0:08:20.360
людей, яких найняли раніше.

0:08:20.384,0:08:24.407
І на основі цих прикладів ШІ навчився[br]уникати резюме тих людей,

0:08:24.431,0:08:26.457
які навчалися у жіночих коледжах,

0:08:26.481,0:08:29.287
або в чиїх резюме десь[br]траплялося слово ''жінка'',

0:08:29.311,0:08:33.887
наприклад, ''жіноча футбольна команда''[br]або ''Спілка інженеринь''.

0:08:33.911,0:08:37.885
ШІ не знав, що йому не потрібно було[br]копіювати цю конкретну інформацію

0:08:37.909,0:08:39.887
стосовно того, чим займалися ці люди.

0:08:39.911,0:08:43.088
І фактично, він зробив те,[br]що його попросили.

0:08:43.112,0:08:45.909
Його просто випадково неправильно[br]попросили це зробити.

0:08:46.653,0:08:49.548
І це постійно трапляється зі ШІ.

0:08:50.120,0:08:53.711
ШІ дійсно може бути руйнівним,[br]навіть не знаючи про це.

0:08:53.735,0:08:58.813
Тому ШІ, який рекомендує новий контент[br]для перегляду у Facebook або Youtube,

0:08:58.837,0:09:02.376
він оптимізований для підвищення[br]кількості кліків та переглядів.

0:09:02.400,0:09:05.836
І, на жаль, спосіб,[br]як ШІ навчився це робити,

0:09:05.860,0:09:10.363
полягає у рекомендації вмісту, пов'язаного[br]із теорією змови або фанатизмом.

0:09:10.902,0:09:16.204
Сам ШІ не має жодного уявлення стосовно[br]того, про що ця інформація,

0:09:16.228,0:09:19.623
і він не має жодного уявлення стосовно[br]можливих наслідків

0:09:19.647,0:09:21.756
від рекомендації такого контенту.

0:09:22.296,0:09:24.307
Тож, коли ми працюємо зі ШІ,

0:09:24.331,0:09:28.513
саме ми повинні усунути будь-які проблеми.

0:09:28.537,0:09:30.860
І, усуваючи проблеми,

0:09:30.884,0:09:35.410
які зводяться до однієї[br]одвічної проблеми спілкування,

0:09:35.434,0:09:39.179
ми, як представники людського роду,[br]повинні навчитися спілкуватися із ШІ.

0:09:39.203,0:09:43.242
Нам слід навчитися дізнаватися,[br]що здатний зробити ШІ, а що ні,

0:09:43.266,0:09:46.352
і розуміти те, що зі своїм[br]крихітним примітивним мозком

0:09:46.376,0:09:50.389
ШІ насправді не розуміє, про що[br]його намагаються попросити зробити.

0:09:51.148,0:09:54.469
Іншими словами, ми повинні[br]бути готові працювати зі ШІ,

0:09:54.493,0:09:59.751
який не є компетентним, всезнаючим ШІ[br]із області наукової фантастики.

0:09:59.751,0:10:02.711
Нам треба бути готовими працювати зі ШІ,

0:10:02.751,0:10:05.599
з яким ми маємо справу у наш час.

0:10:05.623,0:10:09.828
І теперішній Ші здатний принести нам[br]багато неочікуваних сюрпризів.

0:10:09.852,0:10:11.042
Дякую.

0:10:11.066,0:10:16.291
(Оплески)