1
00:00:01,765 --> 00:00:04,765
Штучний інтелект

2
00:00:04,789 --> 00:00:08,318
відомий своїм впливом
на усі галузі промисловості.

3
00:00:08,961 --> 00:00:11,004
А як щодо морозива?

4
00:00:11,879 --> 00:00:15,518
Які нові дивовижні смаки 
ми можемо отримати

5
00:00:15,542 --> 00:00:18,518
за допомогою передового
штучного інтелекту?

6
00:00:19,011 --> 00:00:23,172
Отож, я об'єднала свої зусилля із групою
програмістів зі школи Кілінг Міддл Скул,

7
00:00:23,196 --> 00:00:25,437
щоб знайти відповідь на це запитання.

8
00:00:25,461 --> 00:00:30,542
Програмісти зібрали понад 1600
існуючих назв смаків морозива,

9
00:00:30,566 --> 00:00:36,088
і ми пов'язали ці смаки із алгоритмом,
щоб побачити, що він видасть.

10
00:00:36,112 --> 00:00:39,865
Ось неповний перелік смаків,
які нам видав штучний інтелект (ШІ).

11
00:00:40,444 --> 00:00:41,915
[Смак гарбуза зі сміттям]

12
00:00:41,939 --> 00:00:43,341
(Сміх)

13
00:00:43,365 --> 00:00:45,834
[Смак арахісового масла зі слизом]

14
00:00:46,712 --> 00:00:48,165
[Полунично-вершкова інфекція]

15
00:00:48,189 --> 00:00:50,315
(Сміх)

16
00:00:50,339 --> 00:00:54,936
Ці смаки видалися не такими смачними,
як ми на те сподівалися.

17
00:00:54,960 --> 00:00:56,824
Із цього випливає питання: Що сталося?

18
00:00:56,848 --> 00:00:58,242
Що пішло не так?

19
00:00:58,266 --> 00:01:00,225
Невже ШІ намагається нас вбити?

20
00:01:01,027 --> 00:01:05,337
Чи він намагається зробити те, що ми
попросили, а це і стало проблемою?

21
00:01:06,567 --> 00:01:09,031
У фільмах, коли щось пішло не так зі ШІ,

22
00:01:09,055 --> 00:01:11,767
зазвичай поясненням є те, що ШІ вирішив,

23
00:01:11,791 --> 00:01:14,063
що він більше не хоче підкорятися людині,

24
00:01:14,087 --> 00:01:16,710
та він має власні цілі, і все, дуже дякую.

25
00:01:17,266 --> 00:01:20,482
Проте у реальному житті, ШІ,
який фактично існує зараз,

26
00:01:20,482 --> 00:01:22,499
ще не настільки розумний, щоб утнути таке.

27
00:01:22,781 --> 00:01:25,763
Він має приблизно таку саму
обчислювальну потужність,

28
00:01:25,787 --> 00:01:27,063
як дощовий черв'як,

29
00:01:27,087 --> 00:01:30,490
або максимум, як одна бджола,

30
00:01:30,514 --> 00:01:32,729
а насправді, можливо і менше.

31
00:01:32,753 --> 00:01:35,347
Подібним чином ми дізнаємося
щось нове про наш мозок

32
00:01:35,371 --> 00:01:39,731
і тоді бачимо, як далеко ще знаходиться 
ШІ у порівнянні з людським мозком.

33
00:01:39,755 --> 00:01:45,418
У наш час ШІ здатний, наприклад,
розпізнати пішохода на малюнку,

34
00:01:45,442 --> 00:01:48,425
але він не має уявлення про те,
що це таке -- пішохід.

35
00:01:48,449 --> 00:01:53,273
Для ШІ пішохід -- це набір
ліній та текстури, і таке інше.

36
00:01:53,792 --> 00:01:56,313
Він не розуміє насправді, 
що це таке -- людина.

37
00:01:56,902 --> 00:02:00,104
Тож чи виконає сучасний ШІ те,
що нам потрібно зробити?

38
00:02:00,128 --> 00:02:01,722
Виконає, якщо зможе,

39
00:02:01,746 --> 00:02:04,472
але мабуть він виконає це не так,
як би нам того хотілося.

40
00:02:04,496 --> 00:02:06,935
Уявімо, що ви намагаєтеся
зробити так, щоб ШІ

41
00:02:06,935 --> 00:02:09,554
взяв ці окремі частини робота

42
00:02:09,578 --> 00:02:13,775
і склав із них іншого робота, який повинен
дістатися з точки А у точку Б.

43
00:02:13,799 --> 00:02:16,280
Якби ви намагалися вирішити цю проблему

44
00:02:16,280 --> 00:02:18,679
шляхом написання традиційної
комп'ютерної програми,

45
00:02:18,679 --> 00:02:22,096
ви б надали цій програмі
покрокові вказівки стосовно того,

46
00:02:22,120 --> 00:02:23,449
як взяти ці частини,

47
00:02:23,473 --> 00:02:25,880
як скласти з них робота з ногами,

48
00:02:25,904 --> 00:02:28,846
і як застосувати ці ноги,
щоб дійти до точки Б.

49
00:02:29,301 --> 00:02:31,795
Але якщо застосувати ШІ 
для вирішення цієї проблеми,

50
00:02:31,795 --> 00:02:32,969
він зробить по-іншому.

51
00:02:33,003 --> 00:02:35,385
Ви не повідомляєте йому,
як вирішити цю проблему,

52
00:02:35,409 --> 00:02:36,888
ви лише ставите перед ним мету,

53
00:02:36,912 --> 00:02:40,174
а він повинен визначити для себе
шляхом спроб та помилок,

54
00:02:40,198 --> 00:02:41,682
як досягти цієї мети.

55
00:02:42,254 --> 00:02:46,356
І, виявляється, що спосіб, за допомогою
якого ШІ намагається вирішити цю проблему,

56
00:02:46,380 --> 00:02:47,864
полягає в наступному:

57
00:02:47,888 --> 00:02:51,255
він складає із тих частин вежу,
яка потім падає

58
00:02:51,279 --> 00:02:53,106
і приземляється у точку Б.

59
00:02:53,130 --> 00:02:55,959
Фактично, цим вирішується дана проблема.

60
00:02:55,983 --> 00:02:57,622
Фактично, він дістався до точки Б.

61
00:02:57,646 --> 00:03:01,911
Небезпека ШІ полягає не в тому,
що він повстане проти нас,

62
00:03:01,935 --> 00:03:06,209
а в тому, що він робитиме конкретно те,
що ми його попросимо зробити.

63
00:03:06,876 --> 00:03:09,374
Головна складність роботи зі ШІ
полягає у цьому:

64
00:03:09,398 --> 00:03:13,226
як вирішити проблему, щоб ШІ
зробив саме те, що нам потрібно?

65
00:03:14,726 --> 00:03:18,032
Тож зараз ви бачите маленького 
робота, яким керує ШІ.

66
00:03:18,056 --> 00:03:20,870
ШІ спроектував ноги робота,

67
00:03:20,894 --> 00:03:24,972
а потім спланував, як їх застосувати,
щоб подолати ці перешкоди.

68
00:03:24,996 --> 00:03:27,737
Але коли Дейвід Ха
проводив цей експеримент,

69
00:03:27,761 --> 00:03:30,617
він був змушений провести його
у дуже суворих рамках

70
00:03:30,641 --> 00:03:33,933
стосовно того, який розмір ніг
дозволялося мати ШІ,

71
00:03:33,957 --> 00:03:35,507
тому що у іншому випадку...

72
00:03:43,058 --> 00:03:46,989
(Сміх)

73
00:03:48,563 --> 00:03:52,308
Фактично, він дістався
до кінця смуги перешкод.

74
00:03:52,332 --> 00:03:57,274
Тож ви бачите, як складно навчити ШІ
навіть такому простому, як ходьба.

75
00:03:57,298 --> 00:04:01,118
Коли ви побачили, як це робить ШІ,
ви можете сказати, що це нечесно,

76
00:04:01,142 --> 00:04:03,722
ти не можеш просто стати вежею,
а потім впасти,

77
00:04:03,746 --> 00:04:07,181
фактично, тобі необхідно
застосувати ноги, щоб ходити.

78
00:04:07,181 --> 00:04:09,828
І виявляється, це теж 
не завжди спрацьовує.

79
00:04:10,028 --> 00:04:12,787
Це завдання ШІ полягало
у швидкому русі.

80
00:04:13,115 --> 00:04:16,708
У ШІ не було вказівок стосовно того,
що він повинен бігти обличчям вперед,

81
00:04:16,732 --> 00:04:18,990
або що йому заборонено
використовувати руки.

82
00:04:19,487 --> 00:04:24,105
Ось, що ви отримаєте, коли будете
тренувати ШІ рухатися швидко.

83
00:04:24,129 --> 00:04:27,663
Ви отримаєте такий результат,
як перекочування та незграбна ходьба.

84
00:04:27,687 --> 00:04:29,087
Це справді так.

85
00:04:29,667 --> 00:04:32,846
Або дивні рухи по підлозі у вигляді купи.

86
00:04:32,870 --> 00:04:34,020
(Сміх)

87
00:04:35,241 --> 00:04:38,495
На мою думку, більш чудернацькими були б

88
00:04:38,495 --> 00:04:39,891
роботи "Термінатори".

89
00:04:40,256 --> 00:04:44,011
ШІ може навіть зламати "Матрицю",
якщо ви дасте йому таке завдання.

90
00:04:44,035 --> 00:04:46,552
Під час навчання в ком'ютерній симуляції,

91
00:04:46,576 --> 00:04:50,689
ШІ навчиться, як зламувати 
математичні помилки симуляції

92
00:04:50,713 --> 00:04:52,920
та збирати їх для енергії.

93
00:04:52,944 --> 00:04:58,419
Або він зрозуміє, як рухатися швидше,
повторно відштовхуючись від підлоги.

94
00:04:58,443 --> 00:05:00,028
Коли ви працюєте зі ШІ,

95
00:05:00,052 --> 00:05:02,441
це не схоже на роботу з іншою людиною,

96
00:05:02,465 --> 00:05:06,094
а більш схоже на співпрацю
зі згубною силою природи.

97
00:05:06,562 --> 00:05:11,185
І дуже легко випадково поставити 
перед ШІ зовсім не ту проблему,

98
00:05:11,209 --> 00:05:15,747
і часто ми усвідомлюємо це лише тоді,
коли щось пішло не так.

99
00:05:16,242 --> 00:05:18,322
Ось результати проведеного експерименту,

100
00:05:18,346 --> 00:05:21,528
під час якого я хотіла,
щоб ШІ скопіював фарби

101
00:05:21,552 --> 00:05:23,298
для винайдення нових кольорів,

102
00:05:23,322 --> 00:05:26,309
на основі переліку фарб, які подані зліва.

103
00:05:26,798 --> 00:05:29,802
І ось, що ШІ фактично вигадав.

104
00:05:29,826 --> 00:05:33,153
[Сіндійський Дурень, Випорожнення, 
Страждання, Сіре Суспільство]

105
00:05:33,153 --> 00:05:37,223
(Сміх)

106
00:05:39,177 --> 00:05:41,063
Фактично,

107
00:05:41,087 --> 00:05:42,951
він зробив те, про що я його попросила.

108
00:05:42,975 --> 00:05:46,283
Я думала, що попросила його, скажімо,
вигадати красиві назви кольорів,

109
00:05:46,307 --> 00:05:48,614
але насправді я поставила 
перед ним завдання

110
00:05:48,638 --> 00:05:51,724
лише зімітувати різні 
варіанти буквосполучень,

111
00:05:51,748 --> 00:05:53,653
які він побачив в оригіналі.

112
00:05:53,677 --> 00:05:56,799
І я не говорила нічого про 
значення цих слів

113
00:05:56,799 --> 00:05:59,359
або про те, що, можливо,
існують певні слові,

114
00:05:59,383 --> 00:06:02,272
яких слід уникати,
вигадуючи назви цих кольорів.

115
00:06:03,141 --> 00:06:06,635
Отже, його знання обмежуються
лише інформацією, яку я надала.

116
00:06:06,659 --> 00:06:10,687
Наприклад, як назви смаків морозива,
про які він більше нічого не знає.

117
00:06:12,371 --> 00:06:14,129
Саме через подачу такої інформації

118
00:06:14,153 --> 00:06:18,197
трапляється, що ми часто просимо ШІ
робити не те, що нам потрібно.

119
00:06:18,694 --> 00:06:21,726
На екрані ви бачите
зображення риби під назвою "лин".

120
00:06:21,750 --> 00:06:23,565
Отже, одна група дослідників

121
00:06:23,589 --> 00:06:27,463
тренувала ШІ розпізнавати
зображення цього лина на малюнках.

122
00:06:27,487 --> 00:06:28,783
Коли вони запитали його,

123
00:06:28,807 --> 00:06:32,233
яку частину малюнка він застосовував
для розпізнавання цієї риби,

124
00:06:32,257 --> 00:06:33,615
результат був наступним:

125
00:06:35,203 --> 00:06:37,392
так, це були людські пальці.

126
00:06:37,416 --> 00:06:39,475
Чому він шукав зображення пальців,

127
00:06:39,499 --> 00:06:41,420
якщо він намагався розпізнати рибу?

128
00:06:42,126 --> 00:06:45,290
Виявляється, що лин -- це рідкісна риба,

129
00:06:45,314 --> 00:06:49,015
тому на багатьох фотографіях 
цієї риби, які бачив ШІ

130
00:06:49,069 --> 00:06:50,300
під час тренувань,

131
00:06:50,324 --> 00:06:51,814
ця риба виглядала ось так.

132
00:06:51,838 --> 00:06:53,473
(Сміх)

133
00:06:53,497 --> 00:06:56,827
І він не розумів, що пальці
не є частиною цієї риби.

134
00:06:58,808 --> 00:07:02,928
Тепер зрозуміло, чому так важко
запрограмувати ШІ таким чином,

135
00:07:02,952 --> 00:07:06,271
щоб він міг зрозуміти те,
на що він дивиться.

136
00:07:06,295 --> 00:07:09,157
Саме тому розробка
системи розпізнавання зображень

137
00:07:09,181 --> 00:07:11,248
для самокерованих автомобілів
дуже складна.

138
00:07:11,272 --> 00:07:13,477
І тому часті збої у роботі цих автомобілів

139
00:07:13,501 --> 00:07:16,386
пояснюються тим, що ШІ
опинився у безвиході.

140
00:07:16,410 --> 00:07:20,418
Я хочу розповісти про аварію,
яка сталася у 2016 році.

141
00:07:20,442 --> 00:07:24,897
Причина фатального ДТП -- режим автопілота
під керуванням ШІ у електрокарі Тесла,

142
00:07:24,921 --> 00:07:28,335
але замість застосування ШІ на
автомагістралі, для чого його і створили,

143
00:07:28,359 --> 00:07:30,564
його використали на дорогах міста.

144
00:07:31,239 --> 00:07:32,414
І сталось так, що

145
00:07:32,438 --> 00:07:35,834
вантажівка виїхала перед електрокаром,
і йому не вдалося загальмувати.

146
00:07:36,507 --> 00:07:41,269
Розумієте, ШІ точно тренували на 
розпізнавання вантажівок на фото.

147
00:07:41,293 --> 00:07:43,438
Але, здається, трапилось так, що

148
00:07:43,462 --> 00:07:46,393
ШІ тренували для розпізнавання
вантажівок на автомагістралі,

149
00:07:46,417 --> 00:07:49,316
де ви очікуєте побачити вантажівки позаду.

150
00:07:49,340 --> 00:07:52,760
Вантажівки не можуть бути
на бічній смузі автомагістралі,

151
00:07:52,784 --> 00:07:56,239
тому, коли ШІ помітив цю вантажівку,

152
00:07:56,263 --> 00:08:01,090
схоже на те, що він розпізнав її,
імовірніше, як дорожній знак,

153
00:08:01,114 --> 00:08:03,387
і тому збирався безпечно проїхати під ним.

154
00:08:04,114 --> 00:08:06,694
Ще один приклад збою ШІ з іншої сфери.

155
00:08:06,718 --> 00:08:10,178
Компанія Amazon була змушена відмовитися
від алгоритму сортування резюме,

156
00:08:10,202 --> 00:08:11,422
над яким вона працювала,

157
00:08:11,446 --> 00:08:15,354
коли стало відомо, що цей алгоритм
навчився дискримінувати жінок.

158
00:08:15,378 --> 00:08:18,094
Трапилося так, що вони тренували ШІ
на прикладах резюме

159
00:08:18,118 --> 00:08:20,360
людей, яких найняли раніше.

160
00:08:20,384 --> 00:08:24,407
І на основі цих прикладів ШІ навчився
уникати резюме тих людей,

161
00:08:24,431 --> 00:08:26,457
які навчалися у жіночих коледжах,

162
00:08:26,481 --> 00:08:29,287
або в чиїх резюме десь
траплялося слово ''жінка'',

163
00:08:29,311 --> 00:08:33,887
наприклад, ''жіноча футбольна команда''
або ''Спілка інженеринь''.

164
00:08:33,911 --> 00:08:37,885
ШІ не знав, що йому не потрібно було
копіювати цю конкретну інформацію

165
00:08:37,909 --> 00:08:39,887
стосовно того, чим займалися ці люди.

166
00:08:39,911 --> 00:08:43,088
І фактично, він зробив те,
що його попросили.

167
00:08:43,112 --> 00:08:45,909
Його просто випадково неправильно
попросили це зробити.

168
00:08:46,653 --> 00:08:49,548
І це постійно трапляється зі ШІ.

169
00:08:50,120 --> 00:08:53,711
ШІ дійсно може бути руйнівним,
навіть не знаючи про це.

170
00:08:53,735 --> 00:08:58,813
Тому ШІ, який рекомендує новий контент
для перегляду у Facebook або Youtube,

171
00:08:58,837 --> 00:09:02,376
він оптимізований для підвищення
кількості кліків та переглядів.

172
00:09:02,400 --> 00:09:05,836
І, на жаль, спосіб,
як ШІ навчився це робити,

173
00:09:05,860 --> 00:09:10,363
полягає у рекомендації вмісту, пов'язаного
із теорією змови або фанатизмом.

174
00:09:10,902 --> 00:09:16,204
Сам ШІ не має жодного уявлення стосовно
того, про що ця інформація,

175
00:09:16,228 --> 00:09:19,623
і він не має жодного уявлення стосовно
можливих наслідків

176
00:09:19,647 --> 00:09:21,756
від рекомендації такого контенту.

177
00:09:22,296 --> 00:09:24,307
Тож, коли ми працюємо зі ШІ,

178
00:09:24,331 --> 00:09:28,513
саме ми повинні усунути будь-які проблеми.

179
00:09:28,537 --> 00:09:30,860
І, усуваючи проблеми,

180
00:09:30,884 --> 00:09:35,410
які зводяться до однієї
одвічної проблеми спілкування,

181
00:09:35,434 --> 00:09:39,179
ми, як представники людського роду,
повинні навчитися спілкуватися із ШІ.

182
00:09:39,203 --> 00:09:43,242
Нам слід навчитися дізнаватися,
що здатний зробити ШІ, а що ні,

183
00:09:43,266 --> 00:09:46,352
і розуміти те, що зі своїм
крихітним примітивним мозком

184
00:09:46,376 --> 00:09:50,389
ШІ насправді не розуміє, про що
його намагаються попросити зробити.

185
00:09:51,148 --> 00:09:54,469
Іншими словами, ми повинні
бути готові працювати зі ШІ,

186
00:09:54,493 --> 00:09:59,751
який не є компетентним, всезнаючим ШІ
із області наукової фантастики.

187
00:09:59,751 --> 00:10:02,711
Нам треба бути готовими працювати зі ШІ,

188
00:10:02,751 --> 00:10:05,599
з яким ми маємо справу у наш час.

189
00:10:05,623 --> 00:10:09,828
І теперішній Ші здатний принести нам
багато неочікуваних сюрпризів.

190
00:10:09,852 --> 00:10:11,042
Дякую.

191
00:10:11,066 --> 00:10:16,291
(Оплески)