Alexa на кухонном столе ждет вашего запроса. Но прежде чем она расскажет, как приготовить идеальный салат из авокадо, не хотели бы вы узнать что-нибудь о человеке, который ее создал?
По мере того как использование автоматизированных помощников и прочих систем с ИИ становится всё более распространенным, взаимодействие людей с ними всё чаще является предметом дискуссий и научных работ. Одно из недавних исследований показывает, что, имея сведения о создателях систем с ИИ, люди считают их помощь более настоящей.
Данное исследование проводилось профессором Стэнфордской высшей школы бизнеса Гленном Р. Кэрроллом, его коллегой из Вашингтонского университета Артуром С. Джаго и Марианой Лин, писателем и поэтом (а также преподавателем Стэнфордского института дизайна), помогавшей в создании голоса Siri, инструмента от Apple. Их совместная статья была опубликована в Journal of Experimental Psychology: Applied.
Опираясь на предыдущую работу Джаго, показавшую, что по сравнению с людьми системы с ИИ воспринимаются как обладающие меньшей подлинностью, Джаго, Кэрролл и Лин провели пять экспериментов, чтобы определить, как созданность человеком и антропоморфизм повлияли на восприятие подлинности. И все они давали стабильный результат: люди считали работу, выполняемую ИИ-системой, более настоящей, если им предоставляли информацию о тех, кто создал этот механизм.
В мире, где всё больше используется искусственный интеллект, эти выводы могут иметь далеко идущие последствия. Люди ценят подлинность, множество определений которой включает в том числе (из предыдущей работы Кэрролла) моральную идентичность – или идею о том, что человек действует так, чтобы оставаться верным самому себе.
«Если вы посмотрите на то, что движет покупателями в странах с развитой экономикой, то зачастую это не объективные характеристики продуктов или услуг, – говорит Кэрролл, – а наша собственная интерпретация, привносимый нами смысл. Если что-то мы считаем подлинным, это имеет большое значение».
«Подумайте, как часто мы пытаемся понять степень искренности чьего-то извинения или работы, – говорит Джаго. – Это встроено в нашу человечность».
Тот факт, что для людей важна подлинность, может быть важным сам по себе. Компании, которые стремятся придать действиям своих систем с ИИ подлинности, могут иметь преимущество перед теми, кто этого не делает. Предыдущие исследования, в том числе проведенные Кэрроллом, показали, что люди готовы платить больше за продукты и услуги, которые они считают настоящими.
Чтобы проверить, как подлинность воспринимается в различных сценариях с ИИ, Кэрролл, Джаго и Лин использовали множество примеров из реальной жизни, включая компьютеризированные терапевтические платформы, сочинение музыки, приготовление пиццы и принятие решений о найме.
«У меня остались отличные воспоминания о том, как мы с Гленном сидели в его офисе и пытались придумать эти разные сферы применения, – смеется Джаго. – Буквально перебирали: а знаете, что ИИ делает это? а это? а вот это?».
В приложении к их статье приведен целый список работ, которые выполняла условная ИИ-система, которую авторы назвали Cyrill:
«В частности, Cyrill занимается графическим дизайном…»
«…Cyrill работает в крупной больнице, [помогая] врачам разбираться в сложных рентгеновских снимках…»
«…Cyrill работает охранником… помогает рекомендовать продукты клиентам… помогает обрабатывать жалобы клиентов».
И так далее.
Тестирование реакции людей в различных контекстах – практика, известная в психологии как выборка стимулов, – делает результаты экспериментов более пригодными к обобщению и, следовательно, более заслуживающими доверия. Если в разных сценариях люди реагируют на вариации факторов одинаково, то другие исследователи могут положиться на эти результаты.
Человек, а не подобие человека
Огромное количество исследований подтверждает идею о том, что наделение машин человеческими чертами, такими как лицо или разговорные обороты речи, делает их использование для людей более комфортным. Что поразило в этом исследовании, так это то, что включенные в эксперименты истории о созданности систем людьми оказали на восприятие их подлинности более сильное влияние, чем их антропоморфизация.
В одном из экспериментов исследователи попросили участников оценить подлинность помощи автоматизированного механизма, используя шкалу от одного до семи, где семь – максимальное значение. Перед этим участники читали, что «Cyrill был разработан известным ученым-компьютерщиком из Стэнфорда, пионером в области искусственного интеллекта, вложившим в эту систему много мыслей и сил». К описанию прилагалась фотография якобы создателя.
В итоге те, кто прочел историю создания ИИ-механизма, оценили его действия как подлинные в наибольшей степени – 5,18. Это было верно даже тогда, когда исследователи сделали механизм с «происхождением» менее похожим на человека (назвав его «этот ИИ» вместо Cyrill), а антропоморфный ИИ – наоборот, для усиления различий более похожим на человека.
«Полученных результатов я не ожидал совершенно, – говорит Кэрролл. – Для нас не было очевидно, что истории о созданности человеком будут иметь столь сильное влияние».
Собственных определений подлинности авторы участникам не предлагали. «Если они считают, что это подлинно, я это так и интерпретирую», – объясняет Кэрролл. Но предыдущие исследования показали, что независимо от того, что люди думают о подлинности, она увеличивает ценность. Как говорит Кэрролл: «Более высоко люди ценят то, что считают настоящим».
Иными словами, мы хотим, чтобы Alexa помогла нам сварить яйца, но мы также хотим, чтобы эта помощь была настоящей.
Для решения вопроса о подлинности в искусственном интеллекте у исследователей были прекрасные возможности. Кэрролл, имеющий опыт в области социологии, изучал подлинность в различных контекстах, включая, например, индустрию крафтового пива. (Небольшие пивоварни обладают «сильной привлекательностью идентичности», в то время как крупные «играют роль почти что зла»). Джаго, психолог по образованию, сосредоточен на том, как новые технологии меняют опыт людей на рабочем месте и в обществе. Лин, ранее курировавшая на должности креативного директора Apple создание Siri, обработала много отзывов от пользователей iPhone по всему миру.
Практический смысл подлинности
Еще в одном исследовании изучалось потенциальное применение полученных результатов. Участникам показывали картину, сгенерированную алгоритмом, и либо ничего не говорили о создателе, либо давали краткую справку о нем. Затем участников спрашивали, должен ли университет выставить эту картину в музее, сколько бы они за нее заплатили, и будут ли рекомендовать алгоритм, картину или то и другое для награждения.
Хотя участники не были склонны в той или иной степени считать, что картину необходимо выставить в музее, но те, кто прочел справку о создателе, находили картину более подлинной, в большей степени были готовы платить за нее и с большей вероятностью рекомендовали ее и алгоритм для награждения.
Авторы отмечают, что восприятие подлинности помощи ИИ-системы в разных контекстах может иметь разное значение. Если, например, бот службы поддержки решает вашу проблему, кого волнует, кажется ли он искренним или нет?
Но в других случаях, отмечает Кэрролл, «думать, что что-то является подлинным, – это придавать ему смысл».
«Именно так мы интерпретируем то, что происходит в социальной жизни», – говорит он.
Эта статья – первая совместная работа Джаго и Кэрролла, и они уже начали другой проект, нацеленный выяснить, что люди думают о чем-то, созданном совместно человеком и ИИ-системой.
«За творческой работой зачастую стоит группа людей, но официальное признание получает один художник или автор, – говорит Кэрролл. – И если бы предыстория была обнародована, это бы рассеяло некоторый ореол вокруг автора. Вопрос в том, имеет ли значение то, кто создает эту предысторию – ИИ или человек?».
Возможности для дальнейшего исследования кажутся почти неограниченными.
«Мне действительно интересно понять, как люди реагируют на технологические изменения, – говорит Джаго. – Меня это совершенно захватывает, и поскольку ИИ выходит за рамки создания виджетов и решения проблем в уникальные и новые области, у нас пока нет соответствующих теорий, чтобы объяснить, как люди на это будут реагировать или что об этом думать».