«Тот факт, что мы не можем надеяться детально описать доступным нам языком феноменологию марсиан или летучих мышей, не означает того, что они не испытывают сложных субъективных переживаний, сравнимых по богатству деталей с нашими ощущениями». Томас Нагель
Каково быть смартфоном? Во всех разговорах о будущем искусственного интеллекта этот вопрос замалчивается или, что еще хуже, считается решенным. Давнее предположение, отражение антропоморфного романтизма компьютерных ученых, писателей-фантастов и интернет-предпринимателей, заключается в том, что, когда у компьютера будет разум, у него будет и сознание, подобное нашему собственному. Мы, великие программисты, создадим машинное сознание по собственному образу и подобию.
Это предположение абсурдно, и не только потому, что источники и механизмы работы человеческого сознания до сих пор нам неизвестны и, следовательно, недоступны в качестве моделей для программистов и инженеров. Сознание переплетено с бытием, а бытие — с телом, а тело компьютера и (предположительно) бытие не имеют ничего общего с человеческим. Гораздо более разумно предположить, что сознание компьютера, если оно возникнет, будет полностью отличаться от сознания человека. Оно будет — если будет — настолько иным, что мы, вероятно, даже не сможем понять, что это и есть сознание.
Как заметил философ Томас Нагель в классической статье 1974 года «Каково быть летучей мышью?», мы, люди, не способны проникнуть в сознание любого другого живого существа. Мы не можем понять «субъективный характер» опыта других животных больше, чем они могут понять наш. Однако мы видим, что, за исключением, пожалуй, самых простых форм жизни, животное обладает сознанием — или, по крайней мере, бытием. Мы понимаем, что животное — это живое существо с разумом, чувствами и характером. Мы знаем, что эти животные что-то чувствуют, даже если не понимаем, что именно.
Мы понимаем это потому, что у нас общее генетическое наследие. Животные — продукты того же эволюционного процесса, что породил и нас, у них такая же основополагающая биология, тот же материальный субстрат, а значит они похожи на нас как физическими характеристиками, так и поведением. Учитывая это очевидное сходство, невозможно считать их чем-то иным, чем живыми существами.
С искусственным интеллектом у нас нет такого общего наследия или общей основы. Наше отношение к ИИ и его отношение к нам будет радикально отличаться. Столкнувшись с ИИ, мы не только не сможем проникнуть в его сознание или иным образом ощутить характер его существа, мы вообще не сможем распознать, что у него есть сознание или бытие. В нашем восприятии он останется неодушевленным предметом, который мы сконструировали.
Но вы можете спросить, разве его бытие не определяется созданием программы? В какой-то степени это может быть так — хотя кто может сказать, откуда взялось бытие? — но даже в этом случае программа не поможет понять характер компьютера. Вы не сможете узнать, что значит быть ИИ, исследуя единицы и нули его машинного кода, точно так же, как вы нельзя понять собственное бытие, изучив последовательности белков генетического кода. Сознательный компьютер, скорее всего, не будет знать о процедурах своего программного обеспечения — так же и мы не осознаем, как ДНК формирует тело, и не задумываемся о бесчисленных сигналах, которые каждое мгновение проходят через нервную систему. Интеллектуальный компьютер может выполнять всевозможные практические функции, в том числе принимать входные данные и выдавать результат, не осознавая, что он выполняет эти функции. Его бытие может лежать совершенно в другом месте.
Тест Тьюринга во всех его вариациях также бесполезен для идентификации ИИ. Он просто проверяет способность машины симулировать сходство с человеком. Он не дает понимания сущности ИИ, которая, опять же, может быть полностью отделена от его способности заставить нас почувствовать, что он похож на нас. Тест Тьюринга говорит о наших собственных навыках, но ничего не говорит о характере искусственного существа.
Все это открывает еще одну возможность. Может быть, мы уже окружены ИИ, но понятия не имеем, что они существуют. Их сущность невидима для нас, как и наша для них. Мы оба — объекты, находящиеся в одном и том же месте, но как существа мы живем в разных вселенных. Наши смартфоны, возможно, прямо сейчас, по словам Нагеля, испытывают «впечатления, полностью сопоставимые по богатству деталей с нашими собственными».
Посмотрите на свой смартфон. Вы видите в нем простой инструмент для исполнения команд, и, возможно, именно так вас он воспринимает вас — как послушного, но в остальном ничем не примечательного робота, который время от времени подключает его к электрической розетке.