Почти по-человечески: зачем ИИ обучают допускать ошибки

Компьютерам потребовалось около 50 лет, чтобы свергнуть человека с шахматного пьедестала. Стандартный смартфон умеет делать такие ходы, которые приводят в восторг гроссмейстеров. Но одна программа искусственного интеллекта откатилась на несколько шагов назад, чтобы оценить, как играют обычные люди — c грубыми ошибками и оплошностями.

Эта программа, известная как Maia, использует передовой ИИ, лежащий в основе лучших программ игры в шахматы. Но вместо того, чтобы учиться уничтожать противника на доске, она прогнозирует ходы человека, в том числе и неправильные.

Профессор Корнельского университета Джон Кляйнберг, руководивший разработкой Maia, говорит, что это первый шаг к созданию ИИ, который лучше понимает склонность человека к ошибкам. И есть надежда, что благодаря этому он сможет лучше взаимодействовать с людьми, например, обучать или помогать им, или даже вести переговоры.

По словам Кляйнберга, одна из возможных сфер применения такого ИИ — это здравоохранение. Система, которая предвидит ошибки, может обучать врачей чтению медицинских снимков или находить ложные заключения. «Один из способов — помогать врачам ставить диагноз на основе медицинских снимков, искать те снимки, относительно которых система предсказывает высокий уровень противоречий», — говорит он.

Кляйнберг решил сосредоточиться на шахматах, потому что это одна из первых областей, где машинный интеллект победил людей. «Это своего рода идеальная система для проверки алгоритмов, — говорит он. — Что-то вроде модели доминирования ИИ».

По его словам, шахматы стали предметом интенсивного изучения, что превратило их в своеобразную плодовую мушку для науки. «Херб Саймон назвал их дрозофилой психологии, а Джон Маккарти — дрозофилой искусственного интеллекта», — говорит Клейнберг.

Maia была разработана на основе программы с открытым исходным кодом Leela Zero, которая в свою очередь была клоном Alpha Zero — революционной программы искусственного интеллекта, созданной дочерней компанией Alphabet DeepMind.

Alpha Zero оставила позади привычные шахматные программы искусственного интеллекта, заставив компьютеры учиться играть профессионально, независимо от каких-либо человеческих указаний. В смоделированной нейронной сети программы есть виртуальные нейроны, которые можно настроить для ответа на вводную информацию. В шахматах Alpha Zero получает информацию о позициях на доске и ходах, сгенерированных в тренировочных играх, и настраивает срабатывание нейронов на выигрышные ходы. Этот подход известен как обучение с подкреплением. Alpha Zero может использовать тот же подход с минимальными изменениями, чтобы научиться играть в другие настольные игры, например, шашки или го.

Команда Корнелла изменила код Leela Zero, чтобы создать программу, которая обучается в основном за счет точных предсказаний ходов человека. Другие шахматные ИИ, включая Deep Blue от IBM, победившую чемпиона мира Гарри Каспарова в 1997 году, изучают возможные ходы. Но Maia отличается от них тем, что ищет ход, который вероятнее всего сделает человек.

Maia обучалась на основе данных популярного шахматного онлайн-сервера LiChess. В результате получилась шахматная программа, которая играет почти так же, как человек. Несколько версий Maia, настроенных на разные сильные стороны игры, теперь можно опробовать на LiChess.

Более сложные формы ИИ могут в конечном счете превзойти человеческий интеллект во всех областях, от математики до литературы и не только. Но, по словам Кляйнберга, «будет долгий переходный период, когда ИИ и люди будут работать вместе, и даже каким-то образом общаться между собой».

ИИ, который может предсказывать и имитировать поведение человека, сразу же нашел применение в шахматах и других играх. «Это прекрасная идея, — говорит Мэтью Сэдлер, британский гроссмейстер и автор книги о шахматных возможностях Alpha Zero «Game Changer». — Клубным игрокам крайне необходимы машины, которые говорят на их языке».

Сэдлер говорит, что Maia можно использовать для тренировок и практики. Эксперты уже некоторое время обсуждают идею шахматных программ, которые имитировали бы определенных игроков. Имея достаточное количество данных об играх, Maia можно научить предсказывать ходы конкретного игрока. «Только представьте, что вы готовитесь к игре на первенство мира с Магнусом Карлсеном, — говорит Сэдлер, имея в виду действующего чемпиона мира. — И у вас есть машина, которая играет так же, как Магнус».

Программа может выйти за рамки шахмат. Представьте, что вы играете в видеоигру против ИИ, обученного копировать главную звезду киберспорта. Помимо игр, программы искусственного интеллекта, понимающие поведение человека, могли бы помогать компаниям выбирать тактику переговоров. Можно создать программы и роботов, которые предугадывают, что будут делать люди.

«Насколько хорошо этот подход может предсказать действия человека — интересный вопрос», — комментирует профессор Массачусетского технологического института Джули Шах, изучающая взаимодействие и сотрудничество человека и машины. Техническая сторона работы требует одобрения, но, по ее мнению, важно проверить, помогает ли этот подход создать лучший способ сотрудничества людей и машин в сфере шахмат.

Профессор Кассельского университета Маттиас Зёлльнер, изучающий пользу ИИ для офисных работников, говорит, что для таких систем критически важно вести себя, как человек, но еще более важно людям понять, как работают такие системы искусственного интеллекта. Если система работает плохо и необъяснимо, это может помешать ее внедрению.

Источник