Прощай, Скайнет: почему компьютеру не суждено обрести сознание

Многие передовые проекты в области искусственного интеллекта говорят, что работают над созданием сознательной машины, основываясь на идее, что функции мозга просто кодируют и обрабатывают мультисенсорную информацию. Предполагается, что, как только функции мозга будут правильно поняты, их можно будет запрограммировать в компьютер. Microsoft недавно объявила, что потратит $1 млрд именно на это.

Пока что попытки построить мозг суперкомпьютера далеки от реализации. Европейский проект стоимостью в несколько миллиардов долларов, начатый в 2013 году, считается проваленным. Эти усилия переключились на похожий, но менее амбициозный проект в США, направленный на разработку новых программных инструментов для исследователей, которые изучают данные мозга, а не моделируют мозг.

Некоторые исследователи продолжают настаивать на том, что симуляция нейробиологии с помощью компьютеров — возможный путь. Другие, как и я, считают эти усилия обреченными на провал, так как мы не верим, что сознание исчислимо. Наш основной аргумент заключается в том, что мозг объединяет и сжимает множество компонентов опыта, включая зрение и запах, которые просто не могут быть обработаны таким образом, как воспринимают, обрабатывают и хранят данные современные компьютеры.

Мозг работает не как компьютер

Живые организмы накапливают опыт в мозгу, адаптируя нейронные связи в активном процессе между субъектом и окружающей средой. Компьютер, напротив, записывает данные в краткосрочные и долгосрочные блоки памяти. Это означает, что обработка информации в мозге также должна отличаться от работы компьютеров.

Разум активно исследует окружающую среду, чтобы найти элементы, которые ведут к выполнению того или иного действия. Восприятие не имеет прямого отношения к сенсорным данным: человек может идентифицировать стол с разных точек зрения, без нужды осознанно интерпретировать данные, а затем обратиться к памяти с запросом, можно ли создать этот шаблон с помощью альтернативных представлений об объекте, полученных ранее.

Другая точка зрения на это заключается в том, что самые обыденные задачи памяти связаны с несколькими областями мозга, некоторые из которых довольно велики. Обучение навыкам и опыт предполагают реорганизацию и физические изменения, такие как изменение силы связей между нейронами. Такие преобразования невозможно полностью воспроизвести на компьютере с фиксированной архитектурой.

Вычисление и сознательность

В своей недавней работе я выделил некоторые дополнительные причины, по которым сознание невозможно исчислить.

Сознательный человек понимает, о чем он думает, и способен перестать думать об одном и начать думать о другом — независимо от того, где он находился в начальном потоке мысли. Но для компьютера это невозможно. Более 80 лет назад британский ученый-компьютерщик Алан Тьюринг показал: нет способа доказать, что какая-то конкретная компьютерная программа может остановиться самостоятельно — а это центральная способность сознания.

Его аргумент основан на логической уловке. Он создает внутреннее противоречие: представьте, что существует общий процесс, который может определить, остановится ли какая-либо анализируемая программа. Результатом проверки будет либо «да, остановится», либо «нет, не остановится». Довольно просто. Но затем Тьюринг предполагает, что хитрый инженер написал программу, которая включает в себя процесс проверки возможной остановки, с одним важнейшим элементом: указанием продолжать работу программы, если ответ был «да, остановится».

Запуск процесса проверки остановки в этой новой программе обязательно приведет к ошибке: если проверка покажет, что программа остановится, инструкции программы скажут ей не останавливаться. И наоборот, если проверка покажет, что программа не остановится, инструкции программы остановят все немедленно. Это не имеет смысла — и Тьюринг сделал вывод, что не существует способа проанализировать программу и быть абсолютно уверенным, что она может остановиться. Поэтому невозможно быть уверенным в том, что любой компьютер может копировать систему, которая точно может остановить ход своих мыслей и переключиться на другие мысли — а уверенность в этой способности служит неотъемлемой частью сознания.

Еще до работы Тьюринга немецкий квантовый физик Вернер Гейзенберг показал, что существует явное различие в природе физического события и том, как его воспринимает наблюдатель. Австрийский физик Эрвин Шредингер истолковал это так, что сознание не может происходить из физического процесса, подобного компьютерному, который сводит все операции к базовым логическим аргументам.

Эти идеи подтверждаются данными медицинских исследований о том, что в мозге нет уникальных структур, управляющих сознанием. Напротив, функциональная МРТ показывает, что разные когнитивные задачи происходят в разных областях мозга. Отталкиваясь от этого, нейробиолог Семир Зеки пришел к выводу, что «сознание — это не что-то цельное, вместо этого существует много сознаний, которые распределены во времени и пространстве». Этот тип безграничных умственных способностей — не та задача, с которой когда-либо сможет справиться конечный компьютер.

Источник