Дух человека: как подлинность ИИ связана с происхождением
Исследователи обнаружили, что люди, зная о создателе системы с искусственным интеллектом, воспринимают ее помощь как более настоящую
БудущееAlexa на кухонном столе ждет вашего запроса. Но прежде чем она расскажет, как приготовить идеальный салат из авокадо, не хотели бы вы узнать что-нибудь о человеке, который ее создал?
По мере того как использование автоматизированных помощников и прочих систем с ИИ становится всё более распространенным, взаимодействие людей с ними всё чаще является предметом дискуссий и научных работ. Одно из недавних исследований показывает, что, имея сведения о создателях систем с ИИ, люди считают их помощь более настоящей.
Данное исследование проводилось профессором Стэнфордской высшей школы бизнеса Гленном Р. Кэрроллом, его коллегой из Вашингтонского университета Артуром С. Джаго и Марианой Лин, писателем и поэтом (а также преподавателем Стэнфордского института дизайна), помогавшей в создании голоса Siri, инструмента от Apple. Их совместная статья была опубликована в Journal of Experimental Psychology: Applied.
Опираясь на предыдущую работу Джаго, показавшую, что по сравнению с людьми системы с ИИ воспринимаются как обладающие меньшей подлинностью, Джаго, Кэрролл и Лин провели пять экспериментов, чтобы определить, как созданность человеком и антропоморфизм повлияли на восприятие подлинности. И все они давали стабильный результат: люди считали работу, выполняемую ИИ-системой, более настоящей, если им предоставляли информацию о тех, кто создал этот механизм.
В мире, где всё больше используется искусственный интеллект, эти выводы могут иметь далеко идущие последствия. Люди ценят подлинность, множество определений которой включает в том числе (из предыдущей работы Кэрролла) моральную идентичность – или идею о том, что человек действует так, чтобы оставаться верным самому себе.
«Если вы посмотрите на то, что движет покупателями в странах с развитой экономикой, то зачастую это не объективные характеристики продуктов или услуг, – говорит Кэрролл, – а наша собственная интерпретация, привносимый нами смысл. Если что-то мы считаем подлинным, это имеет большое значение».
«Подумайте, как часто мы пытаемся понять степень искренности чьего-то извинения или работы, – говорит Джаго. – Это встроено в нашу человечность».
Тот факт, что для людей важна подлинность, может быть важным сам по себе. Компании, которые стремятся придать действиям своих систем с ИИ подлинности, могут иметь преимущество перед теми, кто этого не делает. Предыдущие исследования, в том числе проведенные Кэрроллом, показали, что люди готовы платить больше за продукты и услуги, которые они считают настоящими.
Чтобы проверить, как подлинность воспринимается в различных сценариях с ИИ, Кэрролл, Джаго и Лин использовали множество примеров из реальной жизни, включая компьютеризированные терапевтические платформы, сочинение музыки, приготовление пиццы и принятие решений о найме.
«У меня остались отличные воспоминания о том, как мы с Гленном сидели в его офисе и пытались придумать эти разные сферы применения, – смеется Джаго. – Буквально перебирали: а знаете, что ИИ делает это? а это? а вот это?».
В приложении к их статье приведен целый список работ, которые выполняла условная ИИ-система, которую авторы назвали Cyrill:
«В частности, Cyrill занимается графическим дизайном…»
«…Cyrill работает в крупной больнице, [помогая] врачам разбираться в сложных рентгеновских снимках…»
«…Cyrill работает охранником… помогает рекомендовать продукты клиентам… помогает обрабатывать жалобы клиентов».
И так далее.
Тестирование реакции людей в различных контекстах – практика, известная в психологии как выборка стимулов, – делает результаты экспериментов более пригодными к обобщению и, следовательно, более заслуживающими доверия. Если в разных сценариях люди реагируют на вариации факторов одинаково, то другие исследователи могут положиться на эти результаты.
Человек, а не подобие человека
Огромное количество исследований подтверждает идею о том, что наделение машин человеческими чертами, такими как лицо или разговорные обороты речи, делает их использование для людей более комфортным. Что поразило в этом исследовании, так это то, что включенные в эксперименты истории о созданности систем людьми оказали на восприятие их подлинности более сильное влияние, чем их антропоморфизация.
В одном из экспериментов исследователи попросили участников оценить подлинность помощи автоматизированного механизма, используя шкалу от одного до семи, где семь – максимальное значение. Перед этим участники читали, что «Cyrill был разработан известным ученым-компьютерщиком из Стэнфорда, пионером в области искусственного интеллекта, вложившим в эту систему много мыслей и сил». К описанию прилагалась фотография якобы создателя.
В итоге те, кто прочел историю создания ИИ-механизма, оценили его действия как подлинные в наибольшей степени – 5,18. Это было верно даже тогда, когда исследователи сделали механизм с «происхождением» менее похожим на человека (назвав его «этот ИИ» вместо Cyrill), а антропоморфный ИИ – наоборот, для усиления различий более похожим на человека.
«Полученных результатов я не ожидал совершенно, – говорит Кэрролл. – Для нас не было очевидно, что истории о созданности человеком будут иметь столь сильное влияние».
Собственных определений подлинности авторы участникам не предлагали. «Если они считают, что это подлинно, я это так и интерпретирую», – объясняет Кэрролл. Но предыдущие исследования показали, что независимо от того, что люди думают о подлинности, она увеличивает ценность. Как говорит Кэрролл: «Более высоко люди ценят то, что считают настоящим».
Иными словами, мы хотим, чтобы Alexa помогла нам сварить яйца, но мы также хотим, чтобы эта помощь была настоящей.
Для решения вопроса о подлинности в искусственном интеллекте у исследователей были прекрасные возможности. Кэрролл, имеющий опыт в области социологии, изучал подлинность в различных контекстах, включая, например, индустрию крафтового пива. (Небольшие пивоварни обладают «сильной привлекательностью идентичности», в то время как крупные «играют роль почти что зла»). Джаго, психолог по образованию, сосредоточен на том, как новые технологии меняют опыт людей на рабочем месте и в обществе. Лин, ранее курировавшая на должности креативного директора Apple создание Siri, обработала много отзывов от пользователей iPhone по всему миру.
Практический смысл подлинности
Еще в одном исследовании изучалось потенциальное применение полученных результатов. Участникам показывали картину, сгенерированную алгоритмом, и либо ничего не говорили о создателе, либо давали краткую справку о нем. Затем участников спрашивали, должен ли университет выставить эту картину в музее, сколько бы они за нее заплатили, и будут ли рекомендовать алгоритм, картину или то и другое для награждения.
Хотя участники не были склонны в той или иной степени считать, что картину необходимо выставить в музее, но те, кто прочел справку о создателе, находили картину более подлинной, в большей степени были готовы платить за нее и с большей вероятностью рекомендовали ее и алгоритм для награждения.
Авторы отмечают, что восприятие подлинности помощи ИИ-системы в разных контекстах может иметь разное значение. Если, например, бот службы поддержки решает вашу проблему, кого волнует, кажется ли он искренним или нет?
Но в других случаях, отмечает Кэрролл, «думать, что что-то является подлинным, – это придавать ему смысл».
«Именно так мы интерпретируем то, что происходит в социальной жизни», – говорит он.
Эта статья – первая совместная работа Джаго и Кэрролла, и они уже начали другой проект, нацеленный выяснить, что люди думают о чем-то, созданном совместно человеком и ИИ-системой.
«За творческой работой зачастую стоит группа людей, но официальное признание получает один художник или автор, – говорит Кэрролл. – И если бы предыстория была обнародована, это бы рассеяло некоторый ореол вокруг автора. Вопрос в том, имеет ли значение то, кто создает эту предысторию – ИИ или человек?».
Возможности для дальнейшего исследования кажутся почти неограниченными.
«Мне действительно интересно понять, как люди реагируют на технологические изменения, – говорит Джаго. – Меня это совершенно захватывает, и поскольку ИИ выходит за рамки создания виджетов и решения проблем в уникальные и новые области, у нас пока нет соответствующих теорий, чтобы объяснить, как люди на это будут реагировать или что об этом думать».