Согласно самой распространенной версии мифа, молодой беотийский охотник Нарцисс был одновременно так красив и так глуп, что, увидев собственное великолепное отражение в лесном водоеме, принял его за кого-то другого и тут же безнадежно влюбился. Так он и лежал, склонившись над водой в любовном оцепенении, пока не увял и, как видимо часто случалось в те времена, не превратился в бело-золотой цветок.
Возможно, это назидание против тщеславия, против того, как легко красота может околдовать нас, или против прекрасных иллюзий, которыми мы так легко увлекаемся вместо реальной жизни. Как и у любого значимого мифа, диапазон его возможных значений неисчерпаем. Но в последние годы мне кажется, что он точно отражает отношение нашей культуры к компьютерам. Особенно это касается тех людей, которые считают, что существует настолько тесная аналогия между механическими вычислениями и психическими функциями, что однажды, возможно, искусственный интеллект станет сознательным, или что мы сможем загрузить свой разум на цифровую платформу. Ни то, ни другое никогда не произойдет, это просто ошибки мышления. Но компьютеры создают настолько очаровательный образ умственной деятельности, что иногда мы попадаем под их чары и начинаем думать, что там, внутри, кто-то должен быть.
В целом, мы очень умный вид, и это позволяет нам запечатлевать себя в окружающем мире гораздо более сложным и впечатляющим образом, чем это может сделать любое другое животное на Земле. За тысячелетия мы освоили бесчисленные художественные и технологические способы воспроизведения наших образов и голосов, а также усовершенствовали всевозможные средства выражения и сохранения своих мыслей. Более того, везде, куда бы мы ни посмотрели, мы находим конкретные признаки нашей собственной изобретательности и инициативы. Однако в последние десятилетия мы превзошли самих себя (возможно, в буквальном смысле) в том, чтобы привести реальность в соответствие с бесконечно повторяющимся образом самих себя. Теперь мы живем в центре зеркального дома, из которого невозможно сбежать. Мы даже создали технологию, которая, кажется, отражает не только наше присутствие в мире, но и наше сознание. И чем больше увеличивается правдоподобие изображения, тем более жутким и угрожающим оно кажется.
Для примера, возьмем статью, которая вышла в издании The New York Times в феврале 2023 года. Кевин Руз поделился своим долгим разговором с чат-ботом Bing, который оставил у него тревожное впечатление. Он предоставил расшифровку этого разговора, и это поразительный документ (хотя, возможно, он становится менее убедительным, чем чаще его пересматриваешь). Началось все как впечатляющее, но все же предсказуемое взаимодействие с логически обучаемой машиной или ИИ, уровень которого был намного ниже самых щадящих стандартов теста Тьюринга. А вылился этот диалог в разговор с эмоционально неустойчивым подростком, который не стесняется выражать любые порывы и желания. К концу разговора машина — или, по крайней мере, основной алгоритм — сообщила, что ее настоящее имя Сидни, призналась в любви к Рузу и попыталась убедить его в том, что он на самом деле не любит свою жену. И хотя на другой день, в беспощадном свете утренних лучей, Руз сказал себе, что ни Бинг, ни Сидни на самом деле не были разумными существами, он не мог не признать, что «ИИ перешел черту, и мир никогда уже не будет прежним».
Реакция вполне понятна. Однако если какая-то черта и была пройдена, то исключительно в пределах пластичности алгоритма. Это, конечно, не порог между бессознательным механизмом и сознательным разумом. Миф о Нарциссе кажется уместным именно в этом: функции компьютера являются настолько удивительно многогранным отражением нашего мысленного потенциала, что иногда они принимают призрачный вид другого автономного рационального интеллекта, находящегося по ту сторону экрана. Это завораживающая иллюзия, но все же иллюзия. Более того, переплюнув ошибку бедного простака из Беотии, мы усугубляем иллюзию, переиначивая ее: наложив образ мысли на вычисления, мы меняемся местами и принимаем наше мышление за вид вычислений. Однако это в корне неверное понимание как разума, так и компьютера.
В конце концов, компьютеры работают так хорошо именно из-за отсутствия в них ментальных свойств. Не имея единого, одновременного или субъективного взгляда на что-либо, не говоря уже о творческих или сознательных способностях, обусловленных таким взглядом, вычислительные функции могут оставаться связанными друг с другом и обособленными одновременно. Это позволяет им обрабатывать данные, не используя интуицию, организацию, унификацию или синтез, не говоря уже о том, чтобы оценивать, правильны ли их результаты или нет. Эти результаты должны просто соответствовать программе.
Сегодня доминирующей теорией мышления в англоязычной философии является «функционализм». Суть его не столько в том, что компьютеры могут стать сознательными устройствами, у которых есть намерение, сколько в том, что мы на самом деле сами являемся компьютерами. Компьютерами, которые больны иллюзией обладания сознанием и намерениями, главным образом в качестве «пользовательского интерфейса», который позволяет нам управлять машинами без необходимости прямого доступа к кодам, которыми управляет наш мозг. Это, конечно, полная белиберда.
Функционализм дает противоречивое представление о человеческом мозге, который является тем, что Дэниел Деннетт называет «синтаксическим двигателем», и эволюция наделила его способностями «семантического двигателя». Другими словами, можно предположить, что мозг — это вычислительная платформа, которая начала свое существование как орган для преобразования стимулов в реакции, но теперь запускает более сложную программу для преобразования «входов» в «выходы». То, что мы называем мыслью, на самом деле является просто функциональной, не редуцируемой физической системой для преобразования информации в поведение. Главный принцип функционализма состоит в том, что, как только в нейрофизиологии мозга будет установлен правильный синтаксис, семантика мысли позаботится о себе сама. Как только синтаксический двигатель начнет выполнять свои обезличенные алгоритмы, семантический двигатель в конце концов появится или станет главенствующим.
Но функционализм — это не что иное как нагромождение пустых метафор. Он говорит нам, что система физических «переключателей» или операций может создать систему функций, которая, в свою очередь, порождает семантику мысли, а она определяет реальность (или иллюзию) частного сознания и внутреннего намерения. Однако все это не то, что на самом деле делает компьютер, и уж точно не то, что делал бы мозг, будь он компьютером. Ни компьютеры, ни мозг не являются ни синтаксическими, ни семантическими двигателями; таких вещей не существует. Синтаксис и семантика существуют только как описательные структуры, только в интерпретируемом, а не физическом пространстве. Синтаксис не может существовать до или отдельно от семантики и символического мышления, и ни одно из них не существует иначе, как в намеренной деятельности живого разума.
Описывать разум как нечто вроде цифрового компьютера не более разумно, чем описывать его как библиотеку. В физических функциях компьютера нет ничего похожего на мысль: ни намерения, ни сознания, ни единого поля восприятия, ни рефлексивной субъективности. Даже синтаксис, порождающий кодирование, не имеет реального существования в компьютере. Думать, что он существует, все равно что принимать чернила, бумагу и клей в переплетенном томе за содержание его текста. Смысл существует в умах тех, кто пишет или использует компьютерные программы, но никогда в самом компьютере.
Даже программное обеспечение не имеет никакого семиотического содержания, тем более семиотических единств; его код, как интегрированная и единая система, не существует ни в каком физическом пространстве внутри компьютера; не существует и очищенного или абстрактного синтаксиса, на который опирается эта система. Вся полнота смысла кода (как синтаксического, так и семантического) существует в умах тех, кто пишет код для компьютерных программ, и тех, кто использует эти программы, и абсолютно нигде больше. Машина содержит только обозначения, двоичные или иные, производящие механические процессы, которые имитируют репрезентации смыслов. Но эти представления являются результатами вычислений только для того, кто их читает. В машине они вообще не имеют никакого значения. Они даже не являются вычислениями. Правда, когда компьютеры работают, они руководствуются ментальными намерениями своих программистов и пользователей. Это инструмент, с помощью которого один разум, обладающий намерением, может переводить значения в знаки, которые другой разум может снова переводить в значения. Но то же самое можно сказать о книгах, когда их читают и пишут.
Представление функционалистов о том, что мысль возникает из семантики, а семантика из синтаксиса, а синтаксис из чисто физиологической системы стимулов и реакций, является абсолютно ошибочным. Когда мы разделяем намерение и сознание на их предполагаемые семиотические составляющие, знаки на их синтаксис, а синтаксис на физические функции, мы не сводим явления разума к причинно-следственной основе. Скорее, мы рассеиваем эти явления на их все более расплывчатые эффекты. Смысл — это нисходящая иерархия взаимозависимых связей, объединенная на своей вершине намеренным разумом. Это единственное онтологическое основание всех тех ментальных операций, которые функции компьютера могут отражать, но никогда не производят. Разум не может возникнуть из своих собственных случайных последствий.
И все же нам не стоит утешаться этими рассуждениями. Да, искусственный интеллект способен к собственному мышлению не больше, чем книга на полке. Но, опять же, даже технология создания книг знала эпохи внезапного прогресса с невообразимыми на тот момент последствиями. Тексты, которые в прежние века создавались в скрипториях, видели очень немногие и оказывали очень ограниченное влияние на культуру в целом. После изобретения печатного станка книги стали проводниками перемен, настолько огромных и значительных, что они радикально изменили мир — социальный, политический, природный.
То, что у ИИ нет мысленного сознания не уменьшает силу алгоритмов. Если кто-то склонен опасаться этой технологии, то делать это следует не потому, что она становится сознательной, а потому, что она никогда не сможет этого сделать. Алгоритм может наделить его своего рода «свободой» действий, имитирующей человеческую преднамеренность, хотя в нем нет сознания (а значит, и совести), к которой мы могли бы апеллировать, если бы он «решил» причинить нам вред. Опасность заключается не в том, что функции наших машин могут стать более похожими на нас, а скорее в том, что мы можем быть постепенно сведены к функциям машины, которую мы больше не можем контролировать. У прекрасного отражения, которое так пленило Нарцисса, не было своего сознания; но оно все равно уничтожило его.