Вавилонская библиотека: как ИИ изменит технику, культуру и историю

ИИ изменит не только то, как люди получают знания, но и то, как они относятся к информации и к самим себе. В статье The Economist появление ChatGPT сравнивается по значимости с эпохой Просвещения, созданием печатного станка и появлением психоанализа. Но нужно помнить, что глобальные перемены не всегда бывают исключительно положительными.

Эпоха Просвещения принесла, помимо всего прочего, доказательства того, что человечество может погибнуть. Открытия в астрономии об устройстве солнечной системы заставили задуматься о кометах, которые могут столкнуться с Землей. Данные геологии свидетельствовали о массовых вымираниях, в результате которых виды исчезали навсегда. Развитие термодинамики привело к уверенности в том, что все когда-нибудь закончится: и Солнце, и Землю и все остальное в конце концов ждет «тепловая смерть».

В XX веке появилась идея о том, что вымирание может произойти не естественным, а искусственным путем. Толчком к этому послужило открытие, а затем и использование атомной энергии. Оптимистичное отношение к этому виду энергетики быстро сменилось опасениями, что именно она станет причиной неминуемой катастрофы.

Это отношение к прогрессу как к угрозе жизни затронуло и другие сферы развития технологий. Искусственный интеллект стал занимать большое место в размышлениях ученых, которые рассматривают экзистенциальные риски последнего десятилетия. Мир, в котором есть сущности, думающие лучше и действующие быстрее, чем люди и их институты, и имеющие интересы, не совпадающие с интересами человечества, — это опасное место. Стремительное развитие технологий генеративного ИИ привело к тому, что обсуждение экзистенциального риска стало вопросом общественной и международной важности.

Действительно, прогресс в этой области стремителен, а перспективы огромны. Но в конкретном контексте чат-бота GPT-4 и его генеративных собратьев, разговоры об экзистенциальных рисках кажутся абсурдными. Они создают прозу, поэзию и код; они генерируют изображения, звук и видео; они делают предсказания на основе закономерностей. Легко понять, что эти возможности несут в себе огромный потенциал для злоупотреблений, но трудно представить, что у них будет «власть контролировать цивилизацию» или «заменить нас», как предупреждают пессимисты.

Песня о любви

То, что технологии ИИ в том виде, в котором они существуют сейчас, не несут угрозы жизни человечеству не означает, что они не изменят мир. Переход к миру, наполненному компьютерными программами, способными разговаривать и понимать язык на человеческом уровне и обладающими сверхчеловеческими способностями к усвоению данных и распознаванию образов, только начался. Появление повсеместного псевдосознания в этом смысле может стать поворотным моментом в истории, даже если нынешние темпы развития ИИ снизятся (что может произойти) или фундаментальные разработки будут исчерпаны (что кажется маловероятным). Можно ожидать, что это повлияет не только на то, как люди зарабатывают и организуют свою жизнь, но и на то, как они думают о своей человечности.

Рассмотрим три примера, как новые знания и технологии изменили мир: браузер, печатный станок и практика психоанализа. Одно изменило компьютеры и экономику, другое — то, как люди получали доступ к знаниям и относились к ним, третье — то как мы относимся сами к себе.

Скромный веб-браузер, появившийся в начале 1990-х годов как способ обмена файлами по сети, изменил способы использования компьютеров, работу компьютерной индустрии и способ организации информации. Влияние браузера было сразу же очевидно. Борьба за то, насколько быстро и эффективно можно склонить пользователей к тому или иному браузеру, стала вопросом высокой коммерческой драмы. Amazon, Meta (запрещена в России) и Google поднялись на головокружительную высоту, превратив браузер в проводник товаров, информации и человеческих связей.

За несколько месяцев, прошедших с момента выпуска ChatGPT, произошел взрыв предпринимательской активности. Для пользователей приложения могут быть до смешного просты: введите запрос и получите результат. Для разработчиков это не намного сложнее. Это может означать фундаментальные изменения как в том, как люди используют компьютеры, так и в бизнес-моделях, в рамках которых они это делают.

Бесконечная книга

Технологии искусственного интеллекта сегодня с легкостью могут создать код — и это одно из их преимуществ. Если браузеры в основном предоставляют окно для просмотра контента и кода, созданного людьми, то ИИ генерирует свой контент сам. При этом чат-боты создают большое количество мистификаций в своем контенте и некоторые из них просто бессмысленны. Некоторые, такие как включение вымышленных проступков в биографические очерки живых людей, одновременно правдоподобны и вредны. Эти ошибки и дезинформация могут быть порождены противоречиями в обучающих наборах и тем, что ИИ разработан для создания последовательности, а не истины. У систем ИИ нет ощущения мира за пределами текстов и изображений, на которых они обучаются.

Во многих приложениях склонность к правдоподобной лжи является ошибкой. Для некоторых она может оказаться особенностью. Подделки и сфабрикованные видеоролики — всего лишь начало. Ожидается, что эти модели будут использоваться для создания вредоносных сетей влияния, включающих поддельные веб-сайты, ботов Twitter, страницы соцсетей, каналы TikTok и многое другое. Специалист проекта Stanford Internet Observatory, Рене ДиРеста предупреждает, что дезинформация скоро станет повсеместной и бесконечной.

Возможно, это не угроза нашей жизни, но все же она вызывает глубокую тревогу. В рассказе «Вавилонская библиотека» Борхес описывает место, где собраны все книги, которые когда-либо были написаны, но также и те книги, что никогда не были написаны, книги, что ошибочны, книги, которые являются бессмыслицей. Все самое важное находится там, но его невозможно найти из-за всего остального; библиотекари доведены до безумия и отчаяния. Ничего не напоминает?

Эту фантазию можно применить к миру современных технологий. В ней способность печатного станка создавать бесконечное число комбинаций фиксированного набора символов неограниченным числом способов доведена до предела. И это еще один повод задуматься о чат-ботах.

Вечная мечта

Вернемся к изобретению печатного станка. Разработка Иоганном Гутенбергом подвижного шрифта была признана ответственной почти за каждую грань жизни, которая развивалась в последующие века. Она изменила отношения между Богом и человеком, мужчиной и женщиной, прошлым и настоящим. Она позволила массово распространять мнения, систематизировать бюрократию, накапливать знания. Она привела к появлению понятия интеллектуальной собственности и возможности ее пиратства. Именно широта использования этой технологии позволяет сравнить ее с технологиями ИИ. Как выразился Брэдфорд ДеЛонг, историк экономики из Калифорнийского университета в Беркли: «Это единственная реальная вещь, в которой цена создания информации падает на порядок».

Чуть более чем через столетие после начала работы пресса Гутенберга Мишель де Монтень, французский философ-аристократ, смог собрать личную библиотеку из примерно 1500 книг — нечто невообразимое для людей предыдущих поколений. Массовое производство книг позволило им стать особенно личными; можно было написать книгу о себе и о том человеке, каким тебя сделало чтение других книг.

Как способ представления знаний, технологии ИИ обещают убрать практическую и личностную сторону книг, а в некоторых случаях и вовсе упразднить их. Вместо того чтобы читать свод текстов, можно задать вопросы обученному на них чат-боту и получать ответы, основанные на том, что говорится в тексте. Зачем перелистывать страницы, если можно изучить произведение целиком?

Сейчас многие стремятся использовать такие точные модели в качестве способов обеспечения доступа к знаниям. Bloomberg, медиакомпания, работает над BloombergGPT, моделью для финансовой информации, существуют ранние версии КоранаGPT и БиблииGPT. Несколько стартапов предлагают услуги, которые превращают все документы на жестком диске пользователя в ресурс для разговорных консультаций. Многие начинающие пользователи уже используют чат-ботов в качестве экспертов. Легко представить, что такие посредники будут обладать конкретными личными качествами, развивающимися со временем. Они могут стать похожими на своих пользователей: внешняя версия их внутреннего голоса. Или же они могут быть похожи на любого другого человека, чьи данные достаточны для обучения модели (если не учитывать вопросы интеллектуальной собственности). Исследователи из Австралийского института машинного обучения создали раннюю версию такого помощника для  композитора Лори Андерсон. Он обучается частично на ее работах, а частично на работах ее покойного мужа Лу Рида.

Без тебя

Лори Андерсон говорит, что не рассматривает возможность использования системы для сотрудничества со своим умершим партнером. Другие могут с большей готовностью поддаться такой иллюзии. Если некоторые чат-боты в какой-то степени становятся внутренним голосом своего пользователя, то этот голос сохранится и после смерти, если другие захотят поговорить с ним. Таким образом, многие люди, возможно, захотят оставить после себя чат-бот со своим образом.

Такие применения и последствия заставляют вспомнить классическое эссе Зигмунда Фрейда «Жуткое», о сверхъестественном. В качестве отправной точки Фрейд взял идею о том, что сверхъестественное проистекает из «сомнений [относительно] того, действительно ли одушевленное существо является живым; или, наоборот, не может ли безжизненный объект быть на самом деле одушевленным». Этих сомнений сложно избежать, размышляя о природе ИИ.

Хотя исследователи ИИ могут объяснить механику своих творений, они упорно не могут сказать, что на самом деле происходит внутри них. Как считает Стивен Вольфрам, компьютерный ученый и создатель Wolfram Alpha, математической поисковой системы, нет окончательной теоретической причины, почему что-то подобное должно работать. Это вызывает два связанных, но взаимоисключающих опасения: у ИИ есть какая-то внутренняя работа, которую ученые пока не могут постичь, или что в социальном мире можно считать себя человеком без какого-либо внутреннего понимания.

По словам профессора Университета Вашингтона в Сиэтле Эмили Бендер, модели искусственного интеллекта не имеют реального понимания, это просто представления распределений слов в текстах, которые могут быть использованы для производства большего количества слов. Не имея опыта реальной жизни или человеческого общения, они предлагают не более чем способность повторять услышанное в процессе обучения, способность, которую огромное количество вычислений делает часто уместной и иногда удивительной, но которая не похожа на мышление.

Другие специалисты не согласны с этим. По словам Блеза Агуэра-и-Аркаса, руководителя группы в Alphabet, которая работает над продуктами, использующими ИИ, их модели трудно отбросить как «просто болтунов». Он считает, что ИИ обладает свойствами, которые нельзя отличить от способности понимать, что на самом деле означают те или иные вещи. По его мнению, это можно увидеть в их способности надежно выбирать правильное значение при переводе грамматически неоднозначных фраз или объяснять шутки.

В действительности, не имеет особого значения, какая из этих точек зрения верна. Если не вникать и просто плыть по течению, то мир, населенный общительными псевдолюдьми, станет удивительно комфортным. Люди могут одновременно признавать, что нечто не является живым, и относиться к нему так, как если бы оно было живым. Лишь немногие начнут испытывать внутреннюю глубокую тревогу как угрозу собственной человечности.

Если провести аналогию с психоанализом, то Фрейд считал важнейшим вкладом «стремление доказать «эго» каждого из нас, что он не является хозяином даже в своем собственном доме». Искусственный интеллект развивает эту идею еще дальше. Если задуматься, то «хозяин» вообще не нужен.

Новая утопия

Но существует вероятность, что Агуэра-и-Аркас прав, и то, что наука считает безжизненным, каким-то загадочным, частичным и случайным образом является одушевленным. В этом случае, нужно будет сделать для ИИ то, что Фрейд предлагал для людей: если наше сознание — это еще не все, то нужно найти источники желаний, которые, хорошо это или плохо, управляют поведением. Сейчас мало кто придерживается конкретных фрейдистских объяснений человеческого поведения. Но идея о том, что существуют причины, по которым люди совершают неосознанные поступки, является частью общепринятых норм психологии. Бессознательное, вероятно, не самая лучшая модель для того, что обеспечивает ИИ видимое чувство смысла или приближение к самостоятельному мышлению. Но ощущение того, что под поверхностью ИИ может существовать нечто, требующее понимания, впечатляет.

Даже если сторонники «разумности ИИ» в корне не правы, стоит рассмотреть эту возможность, хотя бы для полезных действий в области этики. Избавление от неосознанных предубеждений, приобретенных в невербальном младенчестве обучения; работа с противоречиями, лежащими в основе дезинформации чат-ботов; упорядочивание неконтролируемых желаний — эти идеи из психотерапии можно рассмотреть как полезные аналогии для работы с псевдокогнитивным переходом ИИ даже теми, кто отвергает все представления о разуме алгоритмов.

Кроме того, стоит поразмыслить над ответственностью новых «родителей»: что такое воспитание ИИ? Какое воспитание должно быть запрещено? В какой степени создатели ИИ должны нести ответственность за вред, причиненный их творением?

В наших взаимоотношениях с ИИ человеческие желания тоже нуждаются в проверке. Почему так много людей жаждут той близости, которую может обеспечить искусственный интеллект? Почему многие влиятельные люди считают, что, поскольку эволюция показала, что виды могут вымереть, то их вид, скорее всего, сделает это сам или его преемник? И где решимость превратить сверхчеловеческую рациональность в нечто, что не просто подстегнет экономику, но и изменит историю к лучшему?

Источник