Я-мы чат-бот: люди и ИИ формируют речь по одним законам

ChatGPT стал темой жарких университетских обсуждений: преподаватели глубоко обеспокоены академической честностью, а представители администрации призывают «воспользоваться преимуществами нового мира». Это классический пример того, что мой коллега Пунья Мишра называет «циклом обреченности» для новых технологий. Аналогичным образом, освещение взаимодействия человека и ИИ в СМИ (от паники до восторга) подчеркивает новизну.

В каком-то смысле это несомненная новинка. Взаимодействие с ChatGPT может показаться беспрецедентным, как, например, в случае, когда технический журналист не мог остановить чат-бота от признаний в любви. Однако, на мой взгляд, граница между людьми и машинами, с точки зрения того, как мы взаимодействуем друг с другом, более размыта, чем многие хотели бы признать. Эта зыбкость объясняет значительную часть дискуссий, развернувшихся вокруг ChatGPT.

Когда меня просят поставить галочку в окошке, подтверждающем, что я не робот, я не задумываюсь. Конечно, я не робот. С другой стороны, когда сервис электронной почты предлагает слово или фразу для завершения предложения, или когда мой телефон угадывает следующее слово, которое я собираюсь написать, я начинаю сомневаться в себе. То ли я хотел сказать? Если бы не было подсказки, я бы написал именно это? Может быть, я частично робот? Эти большие языковые модели были обучены на огромном количестве «естественного» языкового материала. Делает ли это роботов частично людьми?

Чат-боты ИИ — это что-то новенькое, а вот общественные дебаты по поводу изменения языка — нет. Как антрополог-лингвист, я нахожу реакцию людей на ChatGPT наиболее интересной. Внимательное изучение таких реакций позволяет выявить убеждения о языке, лежащие в основе амбивалентных, непростых и все еще развивающихся отношений людей с собеседниками, обладающими искусственным интеллектом.

ChatGPT и ему подобные — это зеркало человеческого языка. Язык человека отличается как оригинальностью, так и ее отсутствием. Чат-боты отражают это, выявляя тенденции и закономерности, которые уже есть в общении между людьми.

Творцы или подражатели?

Известный лингвист Ноам Хомский и его коллеги недавно заявили, что чат-боты «застряли в дочеловеческой или нечеловеческой фазе когнитивной эволюции»: они могут только описывать и предсказывать, но не объяснять. Скорее, они не используют бесконечную способность создавать новые фразы, а компенсируют ее огромным количеством вводных данных. Это позволяет им с высокой степенью точности определять, какие слова следует использовать.

Это соответствует историческому представлению Хомского о том, что формирование и передача человеческого языка не ограничивается только подражанием взрослым ораторам у детей. Языковые способности человека — это творческий процесс: дети создают собственные языковые формы, многие из которых они не могли слышать раньше. Именно так можно объяснить, почему человек, в отличие от других животных со сложной системой коммуникации, обладает поистине бесконечной способностью генерировать новые фразы.

Однако с этим аргументом есть проблема. Даже если человек бесконечно способен создавать новые конструкции языка, обычно он этого не делает. Люди постоянно перерабатывают уже встречавшиеся им фрагменты языка и формируют свою речь таким образом, чтобы реагировать (сознательно или бессознательно) на речь других людей, присутствующих или нет.

Как сказал Михаил Бахтин (авторитет которого сравним со значимостью Хомского в среде лингвистов-антропологов), сама наша мысль, как и наш язык, рождается и формируется в процессе взаимодействия и борьбы с чужой мыслью. Наши слова «пробуют на вкус» условия, в которых мы и другие люди сталкивались с ними ранее, поэтому мы постоянно боремся за то, чтобы сделать их своими собственными.

Даже плагиат не так прост, как кажется. Концепция воровства чужих слов предполагает, что общение всегда происходит между людьми, которые самостоятельно придумывают свои оригинальные идеи и фразы. Людям, возможно, нравится думать о себе именно так, но реальность доказывает обратное практически в каждом случае: когда я пересказываю дочери высказывание своего отца, когда президент произносит речь, написанную кем-то другим и выражающую взгляды сторонней группы интересов, или когда терапевт взаимодействует с клиентом в соответствии с ранее изученными принципами.

В любом взаимодействии рамки создания (устной или письменной речи) или воспроизводства (слушания или чтения и понимания) варьируются в зависимости от того, что говорится, как говорится, кто говорит и кто несет ответственность в каждом конкретном случае.

Что стало понятно о человеке благодаря ИИ

Согласно распространенному представлению о человеческом языке, общение происходит в основном между людьми, которые придумывают новые фразы с нуля. Однако это предположение оказывается несостоятельным, когда Woebot, психологическое приложение с искусственным интеллектом, обучается взаимодействию с клиентами-людьми с помощью специалистов-людей, используя разговоры из терапевтических сессий между людьми. Оно оказывается неверным, когда один из моих любимых авторов песен, Колин Мелой из группы The Decemberists, просит ChatGPT написать текст и аккорды в его собственном стиле. Мелой нашел получившуюся песню «удивительно посредственной» и лишенной всякой индивидуальности, но в то же время точно попадающей в стилистику группы The Decemberists.

Однако, как отмечает Мелой, последовательность аккордов, темы и рифмы в поп-песнях, написанных людьми, также имеют тенденцию повторять другие хиты, точно так же, как речи политиков свободно заимствуют фразы из выступлений их предшественников. Поп-песни и политические речи являются особенно яркими иллюстрациями более общего явления. Когда кто-то говорит или пишет, сколько в этом нового, как писал Хомский? А сколько перерабатывается, как считает Бахтин? Являемся ли мы частично роботами? Являются ли роботы частично людьми?

Правы те, кто, как Хомский, говорит, что чат-боты не похожи на людей. Однако правы и те, кто, подобно Бахтину, указывает на то, что мы никогда не контролируем свои слова, по крайней мере, в той степени, в какой нам это кажется. В этом смысле ChatGPT заставляет нас по-новому взглянуть на извечный вопрос: насколько наш язык действительно является нашим?

Источник