Гарри Каспаров: Не бойтесь умных машин. Работайте с ними

Эта история началась в 1985 году, когда в 22-летнем возрасте я стал чемпионом мира по шахматам, победив Анатолия Карпова. В начале того же года я проводил так называемый сеанс одновременной игры против 32 лучших в мире шахматных вычислительных машин в Гамбурге, в Германии. Я выиграл все партии, и в то время никому не казалось чем-то удивительным, что я смог выиграть у 32 компьютеров одновременно. Для меня это было золотое время.

Машины играли слабо, а волосы держались крепко.

Но уже 12 годами позже я сражался не на жизнь, а на смерть против одного единственного компьютера в матче, названном на обложке «Newsweek» «Последним шансом разума». Без напряга.

И в мифологии, и в научной фантастике поединок человека против машины зачастую представлялся как вопрос жизни и смерти. Джон Генри, «стальной молоток», легендарный афроамериканский супергерой XIX века, соревновался с паровым молотом, пробивая тоннель в скале. Легенда о Джоне Генри — часть давно сложившейся парадигмы противоборства человека с технологиями. Эта риторика соперничества доминирует и по сей день. Мы участвуем в гонке против машин, это сражение, если не война. Нас лишают работы. Людей заменяют, как будто они уже исчезли с лица Земли. Достаточно представить, что такие фильмы, как «Терминатор» или «Матрица», стали реальностью.

Есть лишь немного областей, где тело и разум человека могут на равных соперничать с компьютером или роботом. Мне хотелось бы, чтобы их было больше. Вместо этого я оказался одновременно благословлен и проклят, став олицетворением поражения в противоборстве человека и машины, о котором говорят до сих пор. В самом знаменитом после Джона Генри поединке человека с машиной я сыграл два матча против Deep Blue — суперкомпьютера IBM. Никто уже не помнит, что первый матч я выиграл.

Это было в Филадельфии, до проигрыша на следующий год в Нью-Йорке. Но, по-моему, это справедливо. Ведь не отмечены же какими-то особыми датами в истории все провалившиеся попытки покорить Эверест до того, как сэр Эдмунд Хиллари вместе с Тэнцингом Норгеем достигли его вершины. Я все еще был чемпионом мира в 1997 году, когда компьютеры наконец «доросли» до шахмат. Я был тогда вершиной Эвереста, которую покорил Deep Blue. Должен сказать, что, разумеется, это сделал не Deep Blue, а его создатели: Анансараман, Кэмпбелл, Хоэн, Сю. Снимаю перед ними шляпу. Как всегда, победа машины была человеческим триумфом, о чем мы склонны забывать, когда наше же творение нас превосходит.

Deep Blue победил, но был ли он при этом умен? Нет, не был. Во всяком случае, не в том смысле, о каком мечтали Алан Тьюринг и другие основоположники информатики. Оказалось, что шахматы можно постичь, применив грубую силу, то есть при достаточно быстрых процессорах и достаточно изощренных алгоритмах. Хотя по факту достижения результата — умению играть в шахматы на гроссмейстерском уровне — Deep Blue был умен. Но даже при невероятной скорости в 200 млн комбинаций в секунду метод Deep Blue не приблизил нас, как того хотелось, к разгадкам тайн человеческого разума.

Очень скоро роботы станут водителями такси, врачами и профессорами, но будут ли они «разумны»? Я бы предпочел оставить этот вопрос философам и составителям словарей. Важно то, какие чувства мы, люди, испытываем, живя и работая бок о бок с этими машинами.

Когда мне впервые представили Deep Blue в феврале 1996 года, я уже был чемпионом мира более десяти лет, и я сыграл 182 игры на мировых чемпионатах и сотни игр против других мастеров в различных состязаниях. Я знал, чего ожидать от своих соперников и чего ожидать от самого себя. Я привык предугадывать их ходы и оценивать их эмоциональное состояние, наблюдая за их жестами и поведением, глядя им в глаза.

И тут я оказался напротив Deep Blue. Я немедленно ощутил некую новизну, некий дискомфорт. Нечто вроде того, что вы почувствовали бы во время первой поездки на автомобиле без водителя или когда ваш новый компьютерный босс отдал бы первое распоряжение. Во время той первой игры я не был уверен, чего ожидать от этой штуковины. Технологии развиваются стремительно, и IBM вложила в это солидные средства. Ту игру я проиграл. И меня не покидала мысль: а можно ли его вообще победить? Пришел ли конец моей излюбленной игре в шахматы? То были естественные человеческие сомнения и страхи, и я был совершенно уверен в том, что у моего оппонента Deep Blue не было никаких беспокойств.

После того сокрушительного удара я сражался снова и отыграл первую партию, но написанного не сотрешь. Пускай я проиграл машине, но я, по крайней мере, не удостоился судьбы Джона Генри, который, победив, погиб от истощения с молотом в руке. [«Джон Генри умер с молотом в руке» Палмер Хайден Музей афроамериканского искусства, Лос-Анджелес] Оказалось, что миру шахмат все еще нужен был чемпион мира в человеческом обличии. И даже сегодня, когда бесплатные шахматные приложения на последних моделях телефонов мощнее Deep Blue, люди все еще играют в шахматы и даже больше, чем когда-либо. Пессимисты предрекали, что никто не захочет играть в игру, в которой победила машина, и оказались неправы, и это доказано, но мрачные предсказания в отношении технологий всегда были популярным времяпрепровождением.

Я на собственном опыте убедился, что страхам надо смотреть в глаза, если мы хотим извлечь максимум из того, на что способны технологии, и что надо побеждать эти страхи, если мы хотим сохранить все самое лучшее, на что способно человечество. Пока я зализывал раны, меня посетило вдохновение по поводу поединков против Deep Blue. Как говорится в русской пословице: не можешь победить — присоединяйся! Тогда я подумал: а что, если сыграть вместе с компьютером, имея компьютер на своей стороне, объединив наши силы — человеческую интуицию с машинными расчетами, человеческую стратегию с машинной тактикой, человеческий опыт с машинной памятью? Получилась бы тогда идеальная игра всех времен?

Моя идея воплотилась в жизнь в 1998 году под названием «адванс», или продвинутые шахматы, когда я играл в состязании человека и машины против другого элитного игрока. Но в том первом эксперименте у нас не получилось эффективно сочетать способности человека и машины. Адванс занял свою нишу в интернете, а в 2005-м соревнования по так называемым фристайл-шахматам стали настоящим открытием. В нем участвовали гроссмейстеры и ведущие шахматные компьютеры, однако победителями стали не гроссмейстеры и не суперкомпьютеры. Победителями стали двое американских игроков-любителей, одновременно управлявших тремя обычными домашними компьютерами. Их умелое управление компьютерами превзошло глубочайшие знания шахмат игравших против них гроссмейстеров и намного бóльшие вычислительные мощности других машин. Тогда-то я и вывел эту формулу. Слабый игрок плюс компьютер плюс мастерское управление превосходят не только более мощную машину, но, что еще поразительнее, превосходят сильного игрока плюс компьютер при неэффективном управлении. Это убедило меня в том, что нам понадобятся более совершенные интерфейсы, чтобы помогать компьютерным процессам становиться более разумными.

Человек плюс машина — это не будущее, это настоящее. Любой, кто пользовался автоматическим переводом, чтобы понять суть новостной статьи из иностранной онлайн-газеты, знает, что тот далек от совершенства. Но когда мы добавляем собственный опыт, чтобы придать смысл прочитанному, машина учится на наших исправлениях. Эта модель распространяется и применяется в медицинской диагностике, в безопасности. Машины перемалывают данные, вычисляют вероятности, доводят точность до 80%, до 90%, упрощая данные для анализа и процесса принятия решений человеком. Только не думаю, что вы отправите детей в школу на самоуправляемой машине с 90%-й точностью или даже с точностью в 99%. Поэтому нам необходим скачок, который добавит эти жизненно важные недостающие знаки после запятой.

Спустя 20 лет после моего матча против Deep Blue, моего второго матча, тот сенсационный заголовок: «Последний шанс разума» стал избитой истиной в отношении искусственного интеллекта, проникающего казалось бы, с каждым днем все глубже в каждый сектор. Однако вопреки прошлому, когда машины заменяли сельскохозяйственных животных, ручной труд, сейчас они угрожают людям с дипломами и политическим влиянием. И как тот, кто сражался с машиной и проиграл, я хочу сказать вам, что это замечательная, отличная новость. В конце концов любой профессионал должен испытать на себе это давление, иначе человечество перестанет развиваться. Не нам выбирать, где и когда остановится технологический прогресс. Мы не можем замедлиться. Говоря по правде, нам впору ускоряться. Технологии отлично справляются с устранением сложностей и неопределенностей из нашей жизни, так что мы должны искать еще более сложные, еще более неопределенные задачи. Машины способны на вычисления. Мы способны на понимание. У машин есть инструкции. У нас есть цели. Машинам присуща объективность. Нам присуща увлеченность. Нам не следует беспокоиться о том, на что машины способны сегодня. Нам следует беспокоиться о том, на что они пока еще не способны, потому что нам понадобится помощь новых, умных машин, чтобы воплотить наши величайшие мечты в реальность. И если нам это не удастся, если не удастся, то это не потому, что машины окажутся слишком умны или недостаточно умны. Если нам не удастся, то это оттого, что мы избаловались и умалили собственные амбиции. Наше человеческое начало не определяется набором навыков вроде махания молотом или даже игры в шахматы.

Единственная вещь, на которую способны только люди, — это мечтать. Так давайте мечтать о большем.

Перевод: Юлия Каллистратова
Редактор: Анна Котова

Источник