Опасность ИИ более странная, чем вы думаете
-
0:02 - 0:05Итак, искусственный интеллект
-
0:05 - 0:08известен тем, что вмешивается
во все виды промышленности. -
0:09 - 0:11А как насчёт мороженого?
-
0:12 - 0:16Какие новые умопомрачительные вкусы
мы можем создать -
0:16 - 0:19с помощью продвинутого
искусственного интеллекта? -
0:19 - 0:23Чтобы это выяснить,
я объединилась с группой программистов -
0:23 - 0:25из средней школы Килинга.
-
0:25 - 0:31Они собрали более 1 600
уже существующих вкусов мороженого, -
0:31 - 0:36и мы загрузили их в алгоритм,
чтобы посмотреть, что он сгенерирует. -
0:36 - 0:39И вот некоторые из вкусов,
которые придумал ИИ. -
0:39 - 0:41[Тыквенная мусорная куча]
-
0:41 - 0:43(Смех)
-
0:43 - 0:46[Слизь арахисового масла]
-
0:47 - 0:49[Клубничное заболевание]
-
0:49 - 0:50(Смех)
-
0:50 - 0:55Эти вкусы не такие приятные,
как мы надеялись. -
0:55 - 0:57Так что же произошло?
-
0:57 - 0:58Что пошло не так?
-
0:58 - 1:00ИИ пытается убить нас?
-
1:01 - 1:05Или он пытается сделать именно то,
о чём мы его просили, и в этом проблема? -
1:07 - 1:09В фильмах, когда с ИИ что-то не в порядке,
-
1:09 - 1:12обычно это потому, что ИИ решил,
-
1:12 - 1:14что больше не хочет подчиняться людям
-
1:14 - 1:17и имеет свои цели, спасибо большое.
-
1:17 - 1:20Однако в реальной жизни современный ИИ
-
1:21 - 1:22недостаточно умён для этого.
-
1:23 - 1:26Его вычислительная мощность
приблизительно совпадает -
1:26 - 1:27с дождевым червём
-
1:27 - 1:30или максимум с одной пчелой.
-
1:31 - 1:33Хотя на самом деле она,
скорее всего, даже меньше. -
1:33 - 1:35Мы постоянно узнаём
что-то новое о нашем мозге, -
1:35 - 1:40что показывает, как сильно
ИИ отстаёт от нашего разума. -
1:40 - 1:45Например, современный ИИ может
распознавать пешеходов на изображении, -
1:45 - 1:48но он не понимает, что такое пешеход,
-
1:48 - 1:53кроме набора линий, текстур и объектов.
-
1:54 - 1:56Он не знает, что такое
человек на самом деле. -
1:57 - 2:00Так что сделает ли современный ИИ
то, о чём мы его попросим? -
2:00 - 2:01Да, если сможет,
-
2:01 - 2:04но в итоге может получиться не то,
чего мы хотели на самом деле. -
2:04 - 2:07Допустим, вы хотите, чтобы ИИ
-
2:07 - 2:10взял эти детали и собрал из них робота,
-
2:10 - 2:14который сможет добраться
из точки А в точку Б. -
2:14 - 2:16Если бы вы пытались решить эту задачу
-
2:16 - 2:19с помощью обычной компьютерной программы,
-
2:19 - 2:22вы бы запрограммировали
пошаговые инструкции о том, -
2:22 - 2:23как взять эти детали,
-
2:23 - 2:26как собрать из них робота с ногами
-
2:26 - 2:29и как потом использовать эти ноги,
чтобы дойти до точки Б. -
2:29 - 2:31Но при использовании ИИ
-
2:31 - 2:33всё происходит по-другому.
-
2:33 - 2:35Вы не говорите ему, как решить эту задачу,
-
2:35 - 2:37вы просто указываете цель,
-
2:37 - 2:40и ИИ должен сам
методом проб и ошибок решить, -
2:40 - 2:42как достичь этой цели.
-
2:42 - 2:46И оказывается, что ИИ пытается решить
-
2:46 - 2:48эту конкретную задачу так:
-
2:48 - 2:51он собирается в башню и падает,
-
2:51 - 2:53приземляясь в точке Б.
-
2:53 - 2:56И технически это решает
поставленную задачу. -
2:56 - 2:58Технически он попадает в точку Б.
-
2:58 - 3:02Опасность ИИ заключается не в том,
что он восстанет против нас, -
3:02 - 3:06а в том, что он будет делать именно то,
о чём мы его попросим. -
3:07 - 3:09Так что основная сложность при работе с ИИ
-
3:09 - 3:13в том, как поставить задачу,
чтобы он сделал именно то, что мы хотим. -
3:15 - 3:18Этот маленький робот управляется ИИ.
-
3:18 - 3:21ИИ разработал конструкцию ног робота
-
3:21 - 3:25и придумал, как их использовать
для преодоления всех этих препятствий. -
3:25 - 3:28Но когда Дэвид Ха
проводил этот эксперимент, -
3:28 - 3:31ему пришлось установить
очень жёсткие ограничения -
3:31 - 3:34длинны ног, которые мог сделать ИИ,
-
3:34 - 3:36потому что иначе...
-
3:43 - 3:48(Смех)
-
3:49 - 3:52И технически он преодолел
эту полосу препятствий. -
3:52 - 3:57Так что вы видите, как сложно заставить ИИ
сделать что-то такое простое, как ходьба. -
3:57 - 4:01Конечно, можно попробовать сказать:
«Нет, так не честно, -
4:01 - 4:04ты не можешь просто стать башней и упасть,
-
4:04 - 4:07ты должен использовать ноги,
чтобы ходить». -
4:07 - 4:10И оказывается,
что даже это не всегда работает. -
4:10 - 4:13Задачей этого ИИ
было научиться быстро двигаться. -
4:13 - 4:17Но ему не сказали,
что нужно бежать лицом вперёд -
4:17 - 4:19или что нельзя использовать руки.
-
4:19 - 4:25Так что часто, если вы пытаетесь
научить ИИ быстро передвигаться, -
4:24 - 4:28у него получаются такие сальто
и глупые движения. -
4:28 - 4:30Это происходит очень часто.
-
4:30 - 4:33Или он просто ползает кучкой по полу.
-
4:33 - 4:34(Смех)
-
4:35 - 4:38Так что я считаю, что
Терминаторы должны были быть -
4:39 - 4:40гораздо более странными.
-
4:40 - 4:44А ещё ИИ постоянно пытается
взломать «Матрицу». -
4:44 - 4:47Если вы обучаете ИИ в симуляции,
-
4:47 - 4:51он научится использовать
её математические ошибки -
4:51 - 4:53для получения энергии.
-
4:53 - 4:58Или он научится двигаясь быстрее,
постоянно врезаясь в пол. -
4:58 - 5:00Когда вы работаете с ИИ,
-
5:00 - 5:03это совсем не похоже
на взаимодействие с другим человеком, -
5:03 - 5:06это больше похоже
на какую-то странную силу природы. -
5:07 - 5:11И на самом деле очень легко случайно
поставить перед ИИ неправильную цель, -
5:11 - 5:16даже того не осознавая,
пока что-то не пойдёт не так. -
5:16 - 5:18Вот эксперимент, который я провела:
-
5:18 - 5:22я хотела, чтобы ИИ
использовал существующие цвета, -
5:22 - 5:23чтобы придумывать новые
-
5:23 - 5:26из подобных списков.
-
5:27 - 5:30И вот что из этого получилось.
-
5:30 - 5:33[Какашки Синди, Дурацкий,
Страдание, Серый лобковый] -
5:33 - 5:37(Смех)
-
5:39 - 5:41Технически
-
5:41 - 5:43он сделал то, о чём я просила.
-
5:43 - 5:46Я думала, что прошу его придумать
красивые названия цветов, -
5:46 - 5:49но на самом деле я попросила его
-
5:49 - 5:52просто подражать комбинациям букв,
-
5:52 - 5:54которые он видел в оригинале.
-
5:54 - 5:57И я ничего не сказала ему о значении слов
-
5:57 - 5:59или о том, что некоторые слова
-
5:59 - 6:02лучше не использовать в названиях цветов.
-
6:03 - 6:07Всё, что он знает о мире, —
это данные, которые я ему предоставила. -
6:07 - 6:11Так же как со вкусами мороженого,
он не знает ничего другого. -
6:12 - 6:14Так что именно посредством данных
-
6:14 - 6:18мы случайно можем поручить ИИ
сделать что-то неправильное. -
6:19 - 6:22Эта рыба называется линь.
-
6:22 - 6:24Одна группа исследователей
-
6:24 - 6:27обучила ИИ распознавать
линя на фотографиях. -
6:27 - 6:29Но когда они спросили,
-
6:29 - 6:32какие части изображений ИИ использовал,
чтобы распознать эту рыбу, -
6:32 - 6:34вот что они получили в ответ.
-
6:35 - 6:37Да, это человеческие пальцы.
-
6:37 - 6:40Но с какой стати ИИ ищет
на изображении пальцы, -
6:40 - 6:41пытаясь распознать рыбу?
-
6:42 - 6:45Оказывается, линь — трофейная рыба,
-
6:45 - 6:49и на множестве фотографий,
которые видел ИИ -
6:49 - 6:50в ходе обучения,
-
6:50 - 6:52рыба выглядела вот так.
-
6:52 - 6:53(Смех)
-
6:53 - 6:57И ИИ не знал, что пальцы
не относятся к рыбе. -
6:59 - 7:03Так что теперь вы понимаете,
почему так сложно разработать ИИ, -
7:03 - 7:06который сможет понять, что он видит.
-
7:06 - 7:09И поэтому распознавание изображений
в беспилотных автомобилях -
7:09 - 7:11так сложно спроектировать.
-
7:11 - 7:14И так много сбоев в них
происходит из-за того, -
7:14 - 7:16что ИИ неправильно распознал объекты.
-
7:16 - 7:20Например, автомобильная катастрофа,
-
7:20 - 7:23которая произошла в 2016 году из-за того,
-
7:23 - 7:27что водитель использовал
автопилот Теслы в городе, -
7:27 - 7:31хотя он был разработан
для передвижения по трассе. -
7:31 - 7:32Вот, что произошло:
-
7:32 - 7:36перед машиной выехал грузовик,
но машина не затормозила. -
7:37 - 7:41Конечно, ИИ был обучен распознавать
грузовики на изображениях. -
7:41 - 7:43Но, судя по всему,
-
7:43 - 7:46ИИ был обучен распознавать их
при движении по шоссе, -
7:46 - 7:49где грузовики можно увидеть только сзади.
-
7:49 - 7:53Вид на грузовики сбоку
обычно не встречается на шоссе. -
7:53 - 7:56Так что когда ИИ увидел этот грузовик,
-
7:56 - 8:01судя по всему, он распознал его
как дорожный знак -
8:01 - 8:04и поэтому решил, что под ним
можно безопасно проехать. -
8:04 - 8:07Вот ещё одна ошибка ИИ из другой области.
-
8:07 - 8:11Недавно Amazon отказался
от использования алгоритма отбора резюме, -
8:11 - 8:12который они разрабатывали,
-
8:12 - 8:15когда они выяснили,
что алгоритм дискриминирует женщин. -
8:15 - 8:18Из-за того, что алгоритм
обучался на выборке резюме -
8:18 - 8:20кандидатов, которых нанимали в прошлом,
-
8:20 - 8:24ИИ научился избегать резюме кандидатов,
-
8:24 - 8:26которые учились в женских колледжах
-
8:26 - 8:30или у которых встречались
слова «женщина» или «женский» в резюме. -
8:30 - 8:34Например, «женская футбольная команда»
или «Общество женщин-инженеров». -
8:34 - 8:40ИИ не знал, что не нужно было повторять
это конкретное поведение людей. -
8:40 - 8:43И технически он сделал
то, о чём его просили. -
8:43 - 8:46Просто перед ним неправильно
поставили задачу. -
8:47 - 8:50И подобные вещи происходят с ИИ постоянно.
-
8:50 - 8:54ИИ может оказывать разрушительный
эффект, не осознавая этого. -
8:54 - 8:59Например, алгоритмы ИИ, которые предлагают
новый контент на Facebook и YouTube, -
8:59 - 9:02оптимизированы для увеличения
количества кликов и просмотров. -
9:02 - 9:06И к сожалению,
один из способов этого добиться — -
9:06 - 9:10рекомендовать контент
с теориями заговора и фанатизмом. -
9:11 - 9:16Сами ИИ понятия не имеют
о содержании контента, -
9:16 - 9:20так же как и о последствиях
-
9:20 - 9:22рекомендации такого контента.
-
9:22 - 9:24Так что при использовании ИИ
-
9:24 - 9:29заботиться об избежании проблем
должны именно мы. -
9:29 - 9:31И попытки избежать проблем
-
9:31 - 9:35можно свести к извечной
проблеме коммуникации, -
9:35 - 9:39при которой нам, людям,
нужно научиться общаться с ИИ. -
9:39 - 9:43Мы должны изучить, но что ИИ способен,
а что ему недоступно. -
9:43 - 9:46И мы должны понять, что ИИ
с его крошечным разумом червяка -
9:46 - 9:50на самом деле не понимает,
чего мы от него хотим. -
9:51 - 9:54Другими словами, нужно смириться с тем,
что нам придётся работать -
9:54 - 10:00не с суперумным всезнающим ИИ
из научной фантастики. -
10:00 - 10:03Мы должны быть готовы к работе
-
10:03 - 10:06а с тем, что у нас есть сейчас.
-
10:06 - 10:10И современный ИИ достаточно странный.
-
10:10 - 10:11Спасибо.
-
10:11 - 10:16(Аплодисменты)
- Title:
- Опасность ИИ более странная, чем вы думаете
- Speaker:
- Джанель Шейн
- Description:
-
Опасность искусственного интеллекта заключается не в том, что он восстанет против нас, а в том, что он будет делать именно то, о чём мы его попросим, говорит исследователь ИИ Джанель Шейн.
Рассказывая о странных, порой даже пугающих результатах работы алгоритмов ИИ, когда они пытаются выполнить такие человеческие задачи, как, например, создание новых вкусов мороженого или распознавание машин на дороге, Шейн показывает, почему ИИ пока что далёк от человеческого разума. - Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Retired user approved Russian subtitles for The danger of AI is weirder than you think | ||
Retired user edited Russian subtitles for The danger of AI is weirder than you think | ||
Retired user accepted Russian subtitles for The danger of AI is weirder than you think | ||
Retired user edited Russian subtitles for The danger of AI is weirder than you think | ||
Retired user edited Russian subtitles for The danger of AI is weirder than you think | ||
Retired user edited Russian subtitles for The danger of AI is weirder than you think | ||
Retired user edited Russian subtitles for The danger of AI is weirder than you think | ||
Anna Kotova rejected Russian subtitles for The danger of AI is weirder than you think |