Загадки эмерджентности: как в сложных системах возникает строгий порядок

Несколько веков назад закрученный хаос атмосферы Юпитера породил гигантскую бурю, которую назвали Большим красным пятном.

Когда вы читаете эти слова, в вашем мозге возникает уникальный опыт, вызванный интенсивной работой миллиардов нейронов.

Пешеходы, прокладывая путь по переполненному людьми тротуару, начинают следовать друг за другом, образуя потоки, которые никто не организовывал и не выбирал осознанно.

Мир полон подобных эмерджентных явлений — масштабных моделей, которые возникают из взаимодействий между огромным числом составных элементов. Но согласованной научной теории, которая объясняла бы эмерджентность, не существует. Грубо говоря, поведение сложной системы можно считать эмерджентным, если его нельзя заранее предсказать только на основании свойств ее частей. Но как возникают такие крупномасштабные структуры и модели, и каков критерий эмерджентности? В этом царит путаница.

«Философы уже давно спорят об этом и ходят по кругу», — говорит Анил Сет, нейробиолог из Университета Сассекса в Англии. Проблема, по его словам, заключается в том, что у нас нет нужных научных инструментов не только для анализа, но и для размышления об этих системах. В последние несколько лет сообщество физиков, компьютерных разработчиков и нейробиологов работает над тем, чтобы решить эту проблему. Исследователи разработали теоретическую основу для определения того, с какого момента систему можно считать эмерджентной. А в феврале Фернандо Росас, специалист по сложным системам из Сассекса, вместе с Анилом Сетом и пятью соавторами пошел дальше, предложив структуру для понимания того, как возникает эмерджентность.

Согласно новой структуре, сложная система проявляет эмерджентность, организуя иерархию уровней, каждый из которых работает независимо от того, как действуют нижние уровни. Ученые предлагают нам представлять эмерджентность как своего рода «программное обеспечение в естественной среде». Так же, как программное обеспечение вашего ноутбука работает без необходимости отслеживать всю микроинформацию об электронах в схемах компьютера, так и эмерджентные явления управляют макромасштабными правилами, которые самодостаточны по отношению к тому, что делают небольшие составные части.

С помощью вычислительной механики исследователи определили критерии того, какие системы имеют такую иерархическую структуру. Эти критерии были проверены на нескольких моделях, про которые известно, что они демонстрируют эмерджентные явления (это нейронные сети и клеточные автоматы типа игры «Жизнь»). Конечно, на макроскопическом уровне в подобных системах не появляется никакой новой материи или энергии, которых нет на микроскопическом уровне. Скорее, возникающие явления, от Больших красных пятен до мыслей в голове человека, требуют новых определений для описания. То, что сделали Росас и Сет, было попыткой их создать и описать с точки зрения математики.

Три типа замкнутости

Росас подошел к теме эмерджентности с разных сторон. Его отец был известным дирижером в Чили, где Росас учился музыке. Он вырос в концертных залах, затем переключился на философию, а потом получил степень по математике, что дало ему «передозировку абстрактностью», которую он «вылечил» докторской степенью по электротехнике. Несколько лет назад Росас начал серьезно размышлять о том, является ли наш мозг компьютером. Подумайте о том, что происходит в вашем ноутбуке. Программное обеспечение генерирует предсказуемые и повторяющиеся выходные данные для заданного набора входных данных. Но если бы вы могли посмотреть на эту систему с точки зрения физики, то увидели бы, что электроны не следуют каждый раз по одинаковым траекториям. Это хаос, и он всегда будет хаосом.

Программное обеспечение, похоже, замкнуто само в себе — в том смысле, что оно не зависит от детальной физики микроэлементного оборудования. Мозг ведет себя примерно так же: в нашем поведении есть последовательность, но нейронная активность никогда не бывает одинаковой ни при каких обстоятельствах.

Росас и его коллеги пришли к выводу, что на самом деле в эмерджентных системах задействованы три типа замкнутости. Будет ли работа вашего ноутбука более предсказуемой, если вы потратите много времени и энергии на сбор информации обо всех его микросостояниях? Скорее всего, нет. Так проявляется информационная замкнутость: все детали ниже уровня макроса бесполезны для его прогнозирования.

А что, если вы хотите не просто предсказывать, но и контролировать систему, поможет ли в этом информация микроуровня? Снова нет. Вмешательства, которые мы производим на макроуровне (например, изменение программного кода) не станут более надежными, если мы попытаемся изменить траектории отдельных электронов. Макроуровень каузально замкнут: он один несет в себе свое собственное будущее.

Для этого вида замкнутости можно найти много примеров. Для описания и контроля потоков жидкости, мы можем использовать макроскопические переменные (давление, текучесть), но знания о траекториях отдельных молекул не добавят полезной информации. Мы описываем рыночную экономику, рассматривая компании, а не подробности об отдельных сотрудниках.

Для полного описания эмерджентности необходим и третий тип — вычислительная замкнутость. Для того, чтобы лучше понять, как она себя проявляет, Росас и его коллеги обратились к вычислительной механике, пионером которой является Джеймс Кратчфилд. Именно он представил концептуальное устройство, которое назвал машиной эпсилон (the epsilon machine). Это устройство может существовать в некотором конечном наборе состояний и может предсказывать свое будущее состояние на основе текущего. Росас говорит, что это немного похоже на лифт: ввод, например, нажатие кнопки, заставит машину перейти в другое состояние (этаж) детерминированным образом, который зависит от ее истории (от текущего этажа — пойдет ли машина вниз или вверх, и от того, какие кнопки уже были нажаты). Лифт имеет мириады составных частей, но вам не нужно о них думать. Аналогично машина эпсилон позволяет представить, как неопределенные взаимодействия между частями вызывают будущее состояние машины.

Вычислительная механика позволяет свести сеть взаимодействий между компонентами сложной системы к простейшему описанию. Состояние сложной системы в любой момент времени, включающее информацию о ее прошлых состояниях, создает распределение возможных будущих состояний. Наш мозг никогда не будет дважды иметь совершенно одинаковую схему активации нейронов, но есть множество обстоятельств, при которых мы, тем не менее, в конечном итоге сделаем одно и то же.

Система эпсилон

Росас и его коллеги представили общую сложную систему (например, мозг) как набор машин эпсилон, работающих на разных уровнях. Одна из них могла бы, скажем, представлять все ионы молекулярного масштаба, другая — схемы активации нейронов, третья — активность, наблюдаемую в таких отделах головного мозга, как гиппокамп и префронтальная кора. Система мозга развивается на всех этих уровнях, и в целом взаимоотношения между этими машинами эпсилон сложны. Но для системы, которая вычислительно замкнута, машины на каждом уровне могут быть включены в работу с помощью укрупненной детализации компонентов нижнего уровня: они, в терминологии исследователей, «strongly lumpable» («сильно объединены»). Мы могли бы представить себе объединение всей динамики ионов и нейротрансмиттеров, движущихся в нейрон и из него, чтобы описать процесс, при котором активируется нейрон. Можно представить себе и другие возможные «объединения» такого рода, но система вычислительно замкнута только в том случае, если машины эпсилон, которые ее представляют, являются более крупными версиями друг друга. «Структура демонстрирует вложенность», — поясняет Росас.

На макроуровне системы проявляется очень сжатая информация о динамике микроуровня, который имеет значение для макромасштаба. Можно сказать, что эта информация отфильтрована сетью промежуточных машин эпсилон. В таком случае поведение макроуровня можно предсказать максимально полно, используя только макромасштабную информацию, и нет необходимости ссылаться то, что происходит в более тонких плоскостях. Такая система полностью эмерджентна. Ключевой характеристикой ее, говорят исследователи, является эта иерархическая структура «сильно объединенных» состояний, каждое из которых является причиной другого.

Сбои на микроуровнях

Исследователи проверили свои идеи на некоторых модельных системах. Одна из них — аналог случайного блуждания по сети, которая может представлять, например, улицы города. Город часто иллюстрирует иерархию масштабов с плотно объединенными улицами внутри районов и менее связанными друг с другом улицами в разных районах. Исследователи обнаружили, что результат случайного блуждания по такой сети в большей степени подчинен объединению. Вероятность того, что странник начнет свой путь в районе А и окажется в районе Б (макромасштабное поведение) остается неизменной, независимо от того, по каким улицам в пределах районов А и Б он передвигается.

Исследователи также рассмотрели искусственные нейронные сети, подобные тем, которые используются в алгоритмах машинного обучения и ИИ. Некоторые из этих сетей организуются в состояния, которые могут надежно идентифицировать макроскопические закономерности в данных независимо от микроскопических различий между состояниями отдельных нейронов в сети. Решение о том, какой паттерн будет выведен сетью, «работает на более высоком уровне», говорит Росас.

Поможет ли объяснение Росаса понять возникновение устойчивой крупномасштабной структуры, подобной Большому красному пятну Юпитера? Росас считает, что огромный вихрь может соответствовать условиям вычислительной замкнутости, но нужно провести более тщательный анализ.

Что касается живых организмов, то иногда они кажутся эмерджентными, но являются более «вертикально интегрированными», когда микроскопические изменения действительно влияют на проявления более масштабного уровня. Для примера можно рассмотреть работу сердца. Несмотря на различия в генах и в значениях белковой концентрации в разных частях организма, все клетки нашей сердечной мышцы работают по сути одинаково, что позволяет им в массе представлять собою насос, приводимый в действие макроскопическими электрическими импульсами, проходящими через ткань. Но это не всегда так. Хотя многие из наших генов несут мутации, которые не влияют на здоровье, иногда мутация — всего лишь одна генетическая «буква» в последовательности ДНК, которая «неправильна» — может быть катастрофической. Таким образом, независимость макро от микро не является полной: между уровнями есть некоторая утечка. В жизни иногда происходит так, что макроуровню приходится учитывать то, что происходит на микропластах.

Спасение для свободы воли

Описанная Росасом структура поможет исследователям сложных систем увидеть, когда они могут или не могут надеяться на разработку предсказательных моделей. Если система соответствует ключевому требованию вычислительной замкнутости, «вы не совершите ошибки, моделируя верхние уровни и пренебрегая нижними». Но, кроме этого, Росас надеется, что его подход поможет ответить на некоторое глобальные вопросы о структуре Вселенной. Например, почему жизнь существует только в масштабах, промежуточных между атомным и галактическим.

Эта структура также имеет значение для понимания сложной причинно-следственной связи в эмерджентных системах. Традиционно предполагалось, что причинно-следственная связь строится снизу вверх. Например, наши выборы и действия приписываются моделям активации нейронов, которые, в свою очередь, вызваны потоками ионов через клеточные мембраны. Но в эмерджентной системе это не обязательно так. Причинность может работать на более высоком уровне независимо от деталей более низкого уровня. Новая вычислительная структура Росаса, по-видимому, охватывает этот аспект эмерджентности, который ранее уже исследовался. Так нейробиолог Джулио Тонони из Университета Висконсина в Мэдисоне доказал, что общее поведение некоторых сложных систем обусловлено чаще на более высоких, чем на более низких уровнях.

Новые идеи затрагивают вопрос о свободной воле. В то время как закоренелые редукционисты утверждали, что не может быть никакой свободы воли, поскольку вся причинность в конечном итоге возникает из взаимодействий атомов и молекул, воля может быть спасена формализмом причинности более высокого уровня. Если главной причиной наших действий являются не молекулы, а возникающие ментальные состояния, которые кодируют воспоминания, намерения, убеждения и так далее, разве этого недостаточно для осмысленного понятия свободной воли? «Вполне разумно думать о причинности на макроуровне», — сказал Анил Сет.

Тем не менее, среди исследователей сохраняются разногласия относительно того, может ли макроскопическая причинность возникнуть в сложных системах. Иными словами, может ли макроуровень управлять микроуровнем? Схема Росаса может дать ответ на этот вопрос, если полностью объяснит, как уровни системы сообщаются друг с другом. Кратчфилд настроен оптимистично: «Мы разберемся с этим через пять или десять лет».

Источник