Не бойтесь умных машин. Работайте с ними

«Мы должны смотреть в глаза нашим страхам, если хотим извлечь максимум из того, на что способны технологии, и мы должны побеждать эти страхи, если хотим сохранить всё самое лучшее, на что способно человечество», — говорит Гарри Каспаров. Один из величайших шахматистов всех времён, Каспаров проиграл суперкомпьютеру IBM Deep Blue в знаменательном матче 1997 года. Он делится своей версией будущего, в котором умные машины помогут нам воплотить наши самые великие мечты в жизнь.

Эта история началась в 1985 году,

когда в 22-летнем возрасте

я стал чемпионом мира по шахматам,

победив Анатолия Карпова.

В начале того же года

я проводил так называемый
сеанс одновременной игры

против 32 лучших в мире
шахматных вычислительных машин

в Гамбурге, в Германии.

Я выиграл все партии,

и в то время никому не казалось
чем-то удивительным,

что я смог выиграть
у 32 компьютеров одновременно.

Для меня это было золотое время.

(Смех)

Машины играли слабо,

а волосы держались крепко.

(Смех)

Но уже 12 годами позже

я сражался не на жизнь, а на смерть
против одного единственного компьютера

в матче,

названном на обложке «Newsweek»

«Последним шансом разума».

Без напряга.

(Смех)

И в мифологии, и в научной фантастике

поединок человека против машины

зачастую представлялся
как вопрос жизни и смерти.

Джон Генри,

«стальной молоток»,

легендарный афроамериканский
супергерой XIX века,

соревновался с паровым молотом,

пробивая тоннель в скале.

Легенда о Джоне Генри —
часть давно сложившейся парадигмы

противоборства человека с технологиями.

Эта риторика соперничества
доминирует и по сей день.

Мы участвуем в гонке против машин,

это сражение, если не война.

Нас лишают работы.

Людей заменяют, как будто
они уже исчезли с лица Земли.

Достаточно представить, что такие фильмы,
как «Терминатор» или «Матрица»,

стали реальностью.

Есть лишь немного областей,

где тело и разум человека
могут на равных соперничать

с компьютером или роботом.

Мне хотелось бы, чтобы их было больше.

Вместо этого

я оказался одновременно
благословлён и проклят,

став олицетворением поражения

в противоборстве человека и машины,

о котором говорят до сих пор.

В самом знаменитом после Джона Генри
поединке человека с машиной

я сыграл два матча

против Deep Blue — суперкомпьютера IBM.

Никто уже не помнит,
что первый матч я выиграл.

(Смех)

(Аплодисменты)

Это было в Филадельфии, до проигрыша
на следующий год в Нью-Йорке.

Но, по-моему, это справедливо.

Ведь не отмечены же какими-то
особыми датами в истории

все провалившиеся попытки
покорить Эверест

до того, как сэр Эдмунд Хиллари
вместе с Тэнцингом Норгеем

достигли его вершины.

Я всё ещё был чемпионом мира в 1997 году,

когда компьютеры наконец
«доросли» до шахмат.

Я был тогда вершиной Эвереста,

которую покорил Deep Blue.

Должен сказать, что, разумеется,
это сделал не Deep Blue,

а его создатели:

Анансараман, Кэмпбелл, Хоэн, Сю.

Снимаю перед ними шляпу.

Как всегда, победа машины
была человеческим триумфом,

о чём мы склонны забывать,
когда наше же творение нас превосходит.

Deep Blue победил,

но был ли он при этом умён?

Нет, не был.

Во всяком случае, не в том смысле,
о каком мечтали Алан Тьюринг

и другие основоположники информатики.

Оказалось, что шахматы можно постичь,
применив грубую силу,

то есть при достаточно быстрых процессорах

и достаточно изощрённых алгоритмах.

Хотя по факту достижения результата —

умению играть в шахматы
на гроссмейстерском уровне —

Deep Blue был умён.

Но даже при невероятной скорости

в 200 миллионов комбинаций в секунду

метод Deep Blue

не приблизил нас, как того хотелось,
к разгадкам тайн человеческого разума.

Очень скоро

роботы станут водителями такси,

врачами и профессорами,

но будут ли они «разумны»?

Я бы предпочёл оставить этот вопрос

философам и составителям словарей.

Важно то, какие чувства мы, люди,

испытываем, живя и работая
бок о бок с этими машинами.

Когда мне впервые представили
Deep Blue в феврале 1996 года,

я уже был чемпионом мира более десяти лет,

и я сыграл 182 игры на мировых чемпионатах

и сотни игр против других мастеров
в различных состязаниях.

Я знал, чего ожидать от своих соперников

и чего ожидать от самого себя.

Я привык предугадывать их ходы

и оценивать их эмоциональное состояние,

наблюдая за их жестами
и поведением, глядя им в глаза.

И тут я оказался напротив Deep Blue.

Я немедленно ощутил некую новизну,

некий дискомфорт.

Нечто вроде того, что вы почувствовали бы

во время первой поездки
на автомобиле без водителя

или когда ваш новый компьютерный босс
отдал бы первое распоряжение.

Во время той первой игры

я не был уверен,

чего ожидать от этой штуковины.

Технологии развиваются стремительно,
и IBM вложила в это солидные средства.

Ту игру я проиграл.

И меня не покидала мысль:

а можно ли его вообще победить?

Пришёл ли конец моей
излюбленной игре в шахматы?

То были естественные человеческие
сомнения и страхи,

и я был совершенно уверен в том,

что у моего оппонента Deep Blue
не было никаких беспокойств.

(Смех)

После того сокрушительного удара

я сражался снова

и отыграл первую партию,

но написанного не сотрёшь.

Пускай я проиграл машине,

но я, по крайней мере, не удостоился
судьбы Джона Генри,

который, победив, погиб
от истощения с молотом в руке.

Оказалось, что миру шахмат

всё ещё нужен был чемпион мира
в человеческом обличии.

И даже сегодня,

когда бесплатные шахматные приложения
на последних моделях телефонов

мощнее Deep Blue,

люди всё ещё играют в шахматы

и даже больше, чем когда-либо.

Пессимисты предрекали,
что никто не захочет играть в игру,

в которой победила машина,

и оказались неправы, и это доказано,

но мрачные предсказания
в отношении технологий всегда были

популярным времяпрепровождением.

Я на собственном опыте убедился,

что страхам надо смотреть в глаза,

если мы хотим извлечь максимум
из того, на что способны технологии,

и что надо побеждать эти страхи,

если мы хотим сохранить всё самое
лучшее, на что способно человечество.

Пока я зализывал раны,

меня посетило вдохновение

по поводу поединков против Deep Blue.

Как говорится в русской пословице:
не можешь победить — присоединяйся!

Тогда я подумал:

а что, если сыграть вместе с компьютером,

имея компьютер на своей стороне,
объединив наши силы —

человеческую интуицию
с машинными расчётами,

человеческую стратегию
с машинной тактикой,

человеческий опыт с машинной памятью?

Получилась бы тогда
идеальная игра всех времён?

Моя идея воплотилась в жизнь

в 1998 году под названием «адванс»,
или продвинутые шахматы,

когда я играл в состязании человека
и машины против другого элитного игрока.

Но в том первом эксперименте

у нас не получилось эффективно
сочетать способности человека и машины.

Адванс занял свою нишу в интернете,

а в 2005-м соревнования
по так называемым фристайл-шахматам

стали настоящим открытием.

В нём участвовали гроссмейстеры
и ведущие шахматные компьютеры,

однако победителями стали не гроссмейстеры

и не суперкомпьютеры.

Победителями стали двое
американских игроков-любителей,

одновременно управлявших тремя
обычными домашними компьютерами.

Их умелое управление компьютерами

превзошло глубочайшие знания шахмат

игравших против них гроссмейстеров

и намного бóльшие вычислительные
мощности других машин.

Тогда-то я и вывел эту формулу.

Слабый игрок плюс компьютер

плюс мастерское управление превосходят

не только более мощную машину,

но, что ещё поразительнее,
превосходят сильного игрока

плюс компьютер

при неэффективном управлении.

Это убедило меня в том,
что нам понадобятся

более совершенные интерфейсы,
чтобы помогать компьютерным процессам

становиться более разумными.

Человек плюс машина — это не будущее,

это настоящее.

Любой, кто пользовался
автоматическим переводом,

чтобы понять суть новостной статьи
из иностранной онлайн-газеты,

знает, что тот далёк от совершенства.

Но когда мы добавляем собственный опыт,

чтобы придать смысл прочитанному,

машина учится на наших исправлениях.

Эта модель распространяется и применяется
в медицинской диагностике, в безопасности.

Машины перемалывают данные,

вычисляют вероятности,

доводят точность до 80%, до 90%,

упрощая данные для анализа

и процесса принятия решений человеком.

Только не думаю, что вы отправите детей

в школу на самоуправляемой машине
с 90-процентной точностью

или даже с точностью в 99%.

Поэтому нам необходим скачок,

который добавит эти жизненно важные
недостающие знаки после запятой.

Спустя 20 лет после
моего матча против Deep Blue,

моего второго матча,

тот сенсационный заголовок:
«Последний шанс разума»

стал избитой истиной

в отношении искусственного интеллекта,

проникающего

казалось бы, с каждым днём
всё глубже в каждый сектор.

Однако вопреки прошлому,

когда машины заменяли

сельскохозяйственных животных,
ручной труд,

сейчас они угрожают людям с дипломами

и политическим влиянием.

И как тот, кто сражался
с машиной и проиграл,

я хочу сказать вам, что это
замечательная, отличная новость.

В конце концов любой профессионал

должен испытать на себе это давление,

иначе человечество перестанет развиваться.

Не нам

выбирать,

где и когда остановится
технологический прогресс.

Мы не можем

замедлиться.

Говоря по правде,

нам впору ускоряться.

Технологии отлично
справляются с устранением

сложностей и неопределённостей
из нашей жизни,

так что мы должны искать

ещё более сложные,

ещё более неопределённые задачи.

Машины способны

на вычисления.

Мы способны на понимание.

У машин есть инструкции.

У нас есть цели.

Машинам присуща

объективность.

Нам присуща увлечённость.

Нам не следует беспокоиться о том,
на что машины способны сегодня.

Нам следует беспокоиться о том,
на что они пока ещё не способны,

потому что нам понадобится
помощь новых, умных машин,

чтобы воплотить наши
величайшие мечты в реальность.

И если нам это не удастся,

если не удастся, то это не потому,
что машины окажутся слишком умны

или недостаточно умны.

Если нам не удастся, то это оттого,
что мы избаловались

и умалили собственные амбиции.

Наше человеческое начало
не определяется набором навыков

вроде махания молотом
или даже игры в шахматы.

Единственная вещь,
на которую способны только люди, —

это мечтать.

Так давайте мечтать о большем.

Спасибо.

(Аплодисменты)