Теперь следует задать весьма важный вопрос и, естественно, ответить на него. Действительно, почему в случае специализированной модели мы отказали процессу самоприменимости в занятии им места претендента на роль создателя феномена сознания и оставили за ним право лишь породить некоторые его элементы? Почему эту роль мы безоговорочно отдаем самоприменимости универсальной модели? Ответ на эти два взаимосвязанных вопроса сравнительно прости и зависти от особого, опять-таки побочного, свойства самоприменимости универсальной модели.
Существенная, отличительная особенность самоприменимости универсальной модели по сравнению с моделью специализированной проявляется в наличии двух факторов. Фактор первый. Реализация любого алгоритма в универсальной модели может быть выполнена через процесс ее самоприменимости. Имеется налицо существование двух процессов и их взаимная обусловленность, что, по крайней мере, внешне хорошо коррелируется с сознательной деятельностью мозга человека: идет процесс умственной деятельности и процесс осознания этой деятельности, что в свою очередь влияет на характер этой деятельности. Фактор второй. Самоприменимость универсальной модели никак не связана с использованием символов внешнего алфавита, так как описание таблицы универсальной машины Тьюринга может быть выполнено полностью на внутреннем языке, нигде не пересекающимся с внешним, т.е. на вполне самостоятельном интроспективном языке. Об этом мы уже говорили, когда описывали работу универсальной машины Тьюринга.
Собственное описание интерпретирующего механизма, составленное полностью из символов внутреннего языка модели и прочитанное на входе модели без вкрапления в него символов внешнего алфавита (как это было в специализированной машине Тьюринга), создает качественно новую картину, позволяющую однозначно отделить осознание моделью своей структурной организации от осознания остального мира. А так как осознание этой структурной организации идет только на внутреннем (как его иногда называют, интроспективном) языке, без вкрапления сигналов внешнего мира, то это могло бы способствовать не только субъективно воспринимаемой уникальности самовосприятия, но и его целостности, поскольку никакие непредсказуемые воздействия внешней среды, если процесс самоприменимости не подвержен своим внутренним искажениям, не могут его разрушить. Существование внутреннего языка, на котором реализуется самоприменимость универсальной модели, т.е. ее рефлексия, хорошо вписывается в концепцию информационной модели на рис.6, в которой каналы обратной связи мозга строго специфицированы.
П. Тейяр в своей книге феномен человека уделяет значительное внимание рефлектирующему мозгу (о термине рефлексия мы упомянули выше). Правда, у Тейяра этот термин трактуется шире, чем у нас: мы рефлексию рассматриваем только в связи с самоприменимостью модели.... Рефлексия - это приобретенная сознанием способность сосредоточиться на самом себе и овладеть сами собой как предметом, обладающим своей специфической устойчивостью и своим специфическим значением, - способность уже не просто познавать, а познавать самого себя; не просто знать, а знать, что знаешь. Путем этой индивидуализации самого себя внутри себя... элемент, до того распыленный и разделенный в смутном кругу восприятий и действий, впервые превратился в точечный центр, в котором все представления и опыт связываются и скрепляются в единое целое, осознающее свою организацию.
Процитируем далее: Рефлектирующий психический центр, однажды сосредоточившись на себе, может продолжать существование лишь путем двустороннего развития, которое состоит в дальнейшем самососредоточении путем проникновения в новое пространство и одновременно в сосредоточении вокруг себя остального мира, путем установления в окружающей реальности все более стройной и лучше организованной перспективы. Не неподвижно застывший очаг, а водоворот, все более углубляющийся путем втягивания жидкости, в которой он возник. Рефлектирующее существо в силу самого сосредоточивания на самом себе внезапно становится способным развиваться в новой сфере. В действительности это возникновение нового мира. Абстракция, логика, обдуманный выбор и изобретательность, математика, искусство, рассчитанное восприятие пространства и длительности, тревоги и мучения любви... Вся эта деятельность внутренней жизни - не что иное, как возбуждение вновь образованного центра, воспламеняющегося в самом себе.
И, наконец, последняя цитата: С появлением рефлективности, свойства в сущности элементарного (по крайней мере, в начале!), все меняется, и мы замечаем, что под более яркой реальностью коллективных преобразований скрытно происходило параллельное движение к индивидуализации [46, с.136, 132].
Нам бы хотелось немного порассуждать над процитированными текстами, сопоставляя их с нашими собственными предположениями. Итак, первое. На наш взгляд, рефлексия - это не приобретенная сознанием способность, а первооснова сознания, без нее его просто нет. Полемизируя с Тейяром, выскажем следующее суждение: рефлексия - это лишь необходимое условие возможности появления сознания. Чтобы оно (условие) стало достаточным, нужно, чтобы первый, начальный цикл рефлексии осуществлялся на внутреннем языке мозга.
А теперь сформулируем важное, на наш взгляд, Утверждение: хотя рефлексия по своему внешнему проявлению выглядит как функциональное свойство (я знаю - я знаю, что я знаю - я знаю, что я знаю, что я знаю и т.д.), в ее основе лежит структурное образование. Для того чтобы лучше понять, сколь важна роль особой структурной организации в рефлектирующей информационной системе, воспользуемся следующей достаточно наглядной аналогией.
Может ли плоское зеркало отразить себя? Нет, оно может отразить лишь окружающее его полупространство. Но если взять зеркальную полусферу, то она способна отразить уже полное пространство, но себя отразить по-прежнему не может. А если сфера будет полая и выполнена из прозрачного материала, такого, что наружная и внутренняя ее поверхности будут обладать достаточно высоким коэффициентом отражения? (наглядной иллюстрацией возможности построения такой сферы является знакомый с детства каждому мыльный пузырь). В результате мы имеем весьма интересный объект. Наружная поверхность прозрачной сферы отражает внешнее пространство. Образ этого отражения полностью подобен отражаемой реальности и в то же время специфичен в силу отражения света от поверхности с отрицательной кривизной. Внутренняя поверхность вновь отражает окружающее сферу пространство, но это происходит уже путем отражения самой себя и уже на другом, своем языке, обусловленном отражением света от поверхности с положительной кривизной. Итак, плоское зеркало не рефлектирует, а внутренняя поверхность упомянутой сферы, т.е. мыльного пузыря, да. В этом и заключается проявление структурных свойств. Правда, рассмотренная рефлектирующая сфера в отличие от рефлектирующего мозга пассивна, но на ее примере, тем не менее, можно показать один достаточно важный момент. Хотя полая прозрачная сфера рефлектирует, т.е. отражает себя, она сама в отражении невидима, если, конечно, предположить, что на ее поверхности нет дефектов и загрязнения. Но, будучи невидимой, она вносит в отражаемое изображение характеристики своей структуры.
Не происходит ли нечто подобное и с рефлектирующим мозгом? Внутри черепа мы не находим ничего, что не было бы отражением внешнего мира (более точная цитата по этому поводу будет приведена позже), и в то же время в этом отражении не присутствует ли нечто такое, что является отражением сугубо внутренних, уникальных и в то же время стандартных свойств? Как-то сам собой напрашивается еще один вопрос: рефлектирующий психический центр, упомянутый Тейяром, или его же элемент, который живет внутри себя, не есть ли это та самая внутренняя отражающая поверхность сферы, не есть ли это инвариантная система координат, упомянутая в первой главе, не есть ли это тот самый первый уровень рефлексии, моделируемый самоприменимостью универсальной тьюринговой модели?
Как тут не вспомнить еще одно высказывание цитируемого нами автора: Материалисты упорно продолжают говорить о предметах так, как если бы они сводились лишь к внешним условиям... спиритуалисты упорно не хотят выйти за пределы... одиночной интроскопии, где существа рассматриваются лишь замкнутыми в себе... По моему убеждению, эти две точки зрения требуется объединить, и они скоро будут объединены в рамках своего рода феноменологии, или расширенной физики (добавим от себя - информатики. - Б.П.), в которой внутренняя сторона вещей будет принята во внимание, как и внешняя сторона мира [46, с.53].
Нами осилена, пожалуй, труднейшая часть пути. Поэтому полезно оглянуться назад и осмыслить пройденное. Цель, стоявшая перед нами, - понять сущность сознания. Однако вместо, казалось бы, ожидаемого исследования поведения организмов, обладающих мозгом, мы пошли другим путем. Были предложены две модели организации процессов обработки информации в мозге - специализированная и универсальная. Мы увидели, что первая из них в принципе может достигнуть достаточно высокого уровня пластичности в определенных границах изменения входной информации и диапазона перестраиваемости, то есть ее эволюционные возможности и приспособляемость к меняющимся условиям среды в принципе достаточно велики. Она обладает способностью накапливать информацию в течение своей жизни, иными словами, обучаться. Правда, предел обучаемости может быть достигнут достаточно быстро, что ограничивает возможности каждой конкретной популяции этой модели. Модель может обладать начальными элементами самосознания, которые, однако, не позволяют выделить себя из среды обитания. Поэтому модель интроспективно интегрирована со средой.
Вторая, универсальная модель, подобно первой тоже имеет фиксированную (во всяком случае, при рождении модели) структуру, но эта фиксированность основана на других принципах. Она также может эволюционировать, правда, ее эволюция идет иначе, чем у первой модели. Пластичность второй модели очень высока, а способность к обучению у нее практически безгранична. Модель содержит механизм самоприменимости, способствующий появлению в моделируемом объекте устойчивого и цельного качества, в результате чего объект становится субъектом.
По результату сравнения двух рассматриваемых моделей мы фактически уже высказали следующее. Первая модель в ее высших специализированных формах - это модель мозга млекопитающих, вплоть до самых близких человеку, как принято считать, - приматов. Вторая модель - модель мозга человека. Выбор пути - направо пойдешь..., налево пойдешь... произошел давно, наверно, гораздо раньше и не так, как сейчас принято думать.
Плывем в сторону
В этом месте русло наших рассуждений имеет ответвление. Очень соблазнительно посмотреть, что находится за изгибом, обозначенным словами: выбор пути... произошел... гораздо раньше и не так.... Без наличия лоции не рекомендуется отправляться в путешествие по незнакомым фарватерам. Но мы не будем углубляться далеко, только чуть-чуть посмотрим, что там впереди: мощное течение или уютное болотце со всеми его неотъемлемыми атрибутами. Однако поворот в сторону - это не только любопытство. Теперь во всей своей необходимости замаячила новая цель: найти как можно больше подтверждений (а, может быть, опровержений?) справедливости предложенных моделей. Поэтому мы вновь готовы совершить путешествие в эволюционные дебри. У нас есть только один компас - тьюрингова модель. Выберем с помощью этого компаса ряд навигационных принципов, или постулатов, которые пригодятся в дальнейшем. Некоторые из них известны или очевидны, другие будут иметь гипотетический характер.
Постулат первый. Любая, произвольным образом составленная таблица, если ее рассматривать как таблицу машины Тьюринга, задает некий процесс переработки информации.
Постулат второй. Не всякая, произвольным образом составленная таблица задает алгоритм, т.е. определенное целенаправленное действие. Таким образом, очевидно, что мощность множества целенаправленных таблиц (назовем так) меньше мощности множества, отмеченного в первом постулате. (Для не математиков поясним, что мощность множества означает количество элементов, в нем содержащихся; это справедливо для множеств с конечным числом элементов. Если же рассматривается бесконечное множество, то мощность характеризует порядок роста этой бесконечности).
Постулат третий. Не всякая машина Тьюринга, образованная из целенаправленных таблиц, самоприменима. Иными словами, мощность множества самоприменимых машин меньше мощности множества машин, выделенных вторым постулатом.
Это, так сказать, очевидные положения, которые к тому же подтверждены экспериментально. Так М.Минский в своей работе Общение с внеземным разумом [47] описывает машинный эксперимент над несколькими тысячами тьюринговых машин, который позволил выделить четыре основных типа. Во-первых, машины, вычислительный процесс в которых прекращался, не приводя к результатам. Во-вторых, машины, стирающие на ленте всю информацию и ничего больше не делающие. В-третьих, зацикливающиеся, т.е. бесконечно повторяющие одну и ту же последовательность действий машины. И, наконец, в-четвертых, очень малое количество машин, которые приводили к каким-то интересным результатам. Конечно, число типов может быть больше; приведенные четыре - получены среди нескольких тысяч наиболее простых машин.
Постулат четвертый. Чем проще модель, тем уже зона ее самоприменимости. При определенном усложнении модели зона ее самоприменимости может расширяться. Очевидно, что под зоной самоприменимости понимается некий диапазон изменений таблицы, в котором модификация алгоритма функционирования модели (опять-таки в определенных пределах) не лишает модель свойства самоприменимости.
Постулат пятый. Универсальная модель, так же как и специализированная, может быть самоприменима и несамоприменима. Универсальная самоприменимая модель, работающая на принципе интерпретации в определенной фиксированной системе кодирования информации, единственна. Можно ослабить это предположение и считать, что число таких машин конечно.
Постулат шестой. Мощность множества самоприменимых универсальных машин существенно меньше мощности множества специализированных самоприменимых моделей.
Постулат седьмой. Если считать действие движущих факторов эволюции случайным потоком, то с понятием мощности множества можно связать понятие вероятности появления той или иной модели.
Следует особо оговорить принципы контролируемости модели, ибо ни одна сложная система не может обойтись без контроля своей работоспособности. Нужно иметь в виду, что нашей модели, поскольку она является природным образованьем, принципиально доступны, особенно на стадиях ее ранней эволюции, только методы внутреннего контроля (самоконтроля). В данном случае можно указать на две его формы - пассивную и активную. Пассивная форма фактически соответствует созданию таких условий, при которых необходимость контроля вообще отпадает, - условий, при которых система жестко консервирует себя (ригидность). Еще одна форма пассивного (почти пассивного) контроля - резервирование вышедших из строя элементов. Однако так как резервирующие элементы ригидны, то такой контроль не вносит в наши рассуждения ничего принципиально нового. Активный контроль - это самоприменимость, при которой или допускается определенная пластичность модели (самоприменимые специализированные модели) или устанавливается сверхригидность модели (самоприменимые универсальные модели).
Резюмируя сказанное, сформулируем наш восьмой постулат. Ригидность и самоприменимость - две формы контроля модели. Каждая из них, обеспечивая большую устойчивость модели, одновременно консервирует ее.
Проанализируем поведение различных типов моделей при изменении внешней среды их обитания. При этом следует принять в расчет, что внешние изменения могут проявлять себя, по крайней мере, двумя способами. Во-первых, это могут быть малые изменения входных воздействий, к которым модель приспосабливается, и, во-вторых, большие воздействия, на которые модель реагирует необратимыми органическими изменениями своей структуры.
Несамоприменимая (ригидная) специализированная модель. Изменения входного алфавита или появления нестандартных комбинаций входных символов такой моделью не обнаруживаются, однако ее поведение становится неадекватным изменившимся условиям внешней среды. Модель попадает в зону риска, где более отчетливо проявляют себя факторы естественного отбора. Следует иметь в виду, что изменения условий обитания действуют не на отдельные особи модели, а на всю популяцию. Поэтому в результате мутагенеза определенного числа популяций происходит либо адаптация, либо исчезновение. Если адаптация осуществилась, то мы имеем фактически новую специализированную модель. Если внешние воздействия вносят в модель какие-то структурные изменения, то они касаются не всей популяции, а отдельных особей, однако окончательный итог, по-видимому, тот же, что и в предыдущем случае.
Самоприменимая (пластичная) специализированная модель. Такая модель обнаруживает изменения внешних воздействий, и поэтому ее дальнейшую судьбу будут определять не только факторы естественного отбора, но и ее собственная активность. Совместное действие указанных факторов либо вообще не меняет модели, либо приводит к ее незначительной трансформации. Интенсивные внешние воздействия, изменяя структуру модели (вновь - не у всей популяции, а только у отдельных ее особей), могут привести к двум ситуациям: либо измененная модель остается самоприменимой (что менее вероятно), и мы приходим к исходной ситуации, либо модель лишается свойства самоприменимости (более вероятный случай), что приводит к появлению неустойчивого типа. Следует иметь в виду, что в хорошо сконструированной системе, если ей суждено выйти из строя при воздействии каких-то непредвиденных ситуаций, сначала отказывают службы контроля. Данное высказывание можно отнести и к самоприменимой тьюринговой модели: как только внешние воздействия выходят за некоторый, допустимый для данной модели, диапазон, она, меняя себя, перестает быть самоприменимой. Далее, пластичность становится источником появления новых специализаций. Резюмируя, можно предположить, что серьезные изменения внешней среды (тем не менее, назовем это микро взрывом) взрывают самоприменимую пластичную специализированную модель, порождая определенное множество специализированных осколков (ветвей). В результате этого возникают близкие популяции, большинство из которых гибнет; успевшие обзавестись самоприменимостью, сохраняются как обновленные специализированные популяции.
Оценим теперь ситуацию с универсальными моделями, которые по определению являются ригидными, начав анализ с универсальной несамоприменимой. Такая модель нечувствительна к изменению внешних воздействий, так как она сможет достаточно быстро выработать новый алгоритм обработки этих изменений с соответствующей сохранению популяции реакцией. Изменения модели (на ее ленте), происходят, но не затрагивают основное ее свойство - универсальность. Теперь остановимся на органических изменениях в модели, причем придется отдельно оговорить таковые как на ленте, так и в структуре таблицы. Информация, записанная на ленте универсальной модели, вообще характеризуется подвижностью, поэтому ее искажения подлежат достаточно быстрому восстановлению или изменению в нужном направлении. Изменения структуры таблицы более опасны: если они не приводят к потере универсальности, то несамоприменимая модель их не обнаруживает, но запас ее устойчивости, естественно, уменьшается.
Наиболее интересным является случай, когда универсальная модель теряет свое главное свойство, т.е. универсальность, и по необходимости становится специализированной (трудно сказать - какой, самоприменимой или нет). Это уже не медленный переход от одной специализации к другой, это скачок. Вновь возникает множество специализированных моделей. Назовем это большим взрывом. Среди осколков (ветвей) бывшей универсальной модели могут сохраниться и несамоприменимые универсальные. Для детального описания этого скачка необходимо знание структуры конкретной универсальной модели, что нам пока не доступно. Поэтому придется ограничиться только констатацией наличия скачка при переходе от универсальности к специализации, что, несомненно, важно.
И, наконец, универсальная самоприменимая модель. Как это ни парадоксально (в свете наших же предположений), но такая модель по отношению к эволюционным факторам действует подобно несамоприменимой. Ее структурные свойства (напоминаем - структурные свойства модели, а не моделируемого объекта) практически не коррелируются с внешними воздействиями: лишь бы они не нарушали эти свойства. Все компенсационные реакции, если они необходимы, реализуются на ленте. Конечно, наличие самоприменимости должно вносить и наверняка вносит качественные изменения в описываемые явления, но так как процесс самоприменимости не формализуем, мы не можем его учесть с помощью нашей модели. Здесь нужны иные подходы, но нам для дальнейшего вполне достаточно полученных выводов.
Теперь следует остановиться на очень важном и еще более трудном вопросе: каким образом возникает универсальная модель? Можно просто предположить, что вслед за общепринятой ригидной моделью (мозг первого типа), специализациям которой несть числа, появилась тоже ригидная по структуре, но зато очень пластичная по операциям на ленте, а стало быть, универсальная модель. Иными словами, преемственность перехода как бы обеспечивается сохранением свойств ригидности. Почему это произошло? Действительно, специализация - это один из принципов эволюции. А Гексли писал: Специализация... это повышение эффективности приспособления к определенному образу жизни... Органическая эволюция сводится главным образом к развитию специализации (цит. по [48,с.331]). Если принцип специализации универсален, откуда же взялась универсальная модель? Можно, конечно, отшутиться, заявив, что универсальная модель - это модель, специализированная на универсальности. Если же считать возникновение универсальности случайным фактором, нужно признать вероятность такого возникновения ничтожно малой.
Построение универсальной модели на путях ее сознательного конструирования - факт весьма распространенный. Человеку свойственно моделировать и строить универсальное: универсальная ЭВМ, универсальная машина Тьюринга, универсальный кухонный комбайн, университетское образование, - список можно продолжат долго. Но как могла возникнуть универсальная модель на путях действия слепых сил? Существует, правда, мнение, что движение к сознанию - это тоже действие одного из принципов эволюции. Так, например, Тейяр пишет:... в сердцевине жизни, как объяснение ее поступательного движения (находится. - Б.П.) пружина подъема сознания [46,с.124]. Правда, несколькими строками ниже следует иной поворот мысли: Импульс мира, выражающийся в росте сознания, может иметь своим последним источником лишь какой-то внутренний принцип движения, только в нем он находит объяснение своего необратимого устремления ко все более высоким формам психического... Быть может, когда-нибудь мы это лучше поймем [46,с.124,125]. Действительно, нам пока неизвестны какие-то скрытые принципы эволюции.
Что может служить переходным мостиком между специализированной и универсальной моделями? Конечно же, какие-то принципы, существующие в природе или, может быть, в модели. Относительно внешних природных принципов мы не можем судить сколько-нибудь определенно, поэтому попытаемся обратиться к принципам, которые могут существовать в модели.
Нам думается, что убедительно предположение о переходе к универсальной модели от специализированной через пластичность последней. Пластичная - это значит более гибкая и, следовательно, более приспособленная к внешней среде модель. Можно предположить, что пластичность обеспечивается функциональной и структурной избыточности модели. Таким образом, специализированную пластичную тьюрингову модель можно представить или как таблицу, имеющую избыточное число клеток, или как некоторое множество неизменных таблиц, работающих с одной лентой: в зависимости от значений входных воздействий в работу включается та или иная таблица. Из пластичности (изменчивости) структуры управляющего устройства однозначно вытекает требование контролируемости этой изменчивости, которое может быть удовлетворено с помощью процесса самоприменимости. Самоприменимость, как мы видели, есть передача информации из устройства управления на ленту, для чего необходимо специальное перекодирующее устройство.
Что же переносит перекодировщик из устройства управления на ленту? Вот именно - алгоритм функционирования специализированного управляющего устройства. Но на ленте универсальной машины Тьюринга, которую нам нужно создать, как раз и записываются алгоритмы работы интерпретируемых специализированных моделей. Иными словами, лента самоприменимой пластичной специализированной модели по своей разбивки на зоны имеет черты сходства с лентой универсальной (правда, несамоприменимой) модели. Для того чтобы модель превратилась в универсальную, дело за малым: необходим механизм интерпретации данных как алгоритмов.
Интерпретация команд как чисел (слов), подлежащих обработке, и, наоборот, чисел (слов) как команд - прием, хорошо известный в теории и практике программирования (об этом мы упоминали ранее). На заре возникновения вычислительной техники, в отсутствие языков программирования высокого уровня, профессиональные программисты частенько пользовались эти приемом. Программы, выходившие из-под их пера, были компактны и... непонятны. Они выдавали правильный результат, но, как это они делали, большинство не понимало. Нужно было приблизиться к уровню и стилю работы таких программистов, чтобы понять тонкости и хитрости подобного подхода.
Сейчас такой стиль программирования считается признаком дурного тона. Однако то, что отвергнуто в среде специалистов, вполне могло стать непременным атрибутом живых информационных систем. Скажем, модель проигрывает какую-то ситуацию, имевшую место ранее, для того, чтобы выдать прогноз поведения на будущее. Это типичный случай интерпретации зафиксированных ранее данных как последовательности команд (алгоритм поведения). Или - самоприменимость модели (рефлексия): алгоритм работы (т.е. последовательность команд) поступает на вход как данные, подлежащие обработке. Таким образом, самоприменимые пластичные модели уже могут иметь механизм подобной двоякой интерпретации данных, записанных на ленте; при этом следует помнить, что способность интерпретировать данные как команды - это признак механизма универсальности, но, как он возникает, пока неясно. Малое остается пока непреодолимой пропастью. В модели есть механизм перестройки от специализации к универсальности, но нет пока программы его работы.
Отвергая идею направленного скачка, предлагаем обратить внимание на следующее обстоятельство. Искомая нами универсальная структура работает на принципе интерпретации, т.е. подражания. Но именно этот принцип заложен в механизме размножения. Здесь вновь уместно обратиться к автомату фон Неймана.
В основе модели размножения по Нейману лежит некий автомат, способный конструировать другой автомат по его описанию. [41]. Важно подчеркнуть, что автомат-конструктор имеет фиксированную структуру, и его работа основана на том же принципе, что и работа универсальной машины Тьюринга, т.е. на принципе интерпретации. Только работает он не с информацией, а с материальными элементами, из которых он строит другой автомат. Таким образом, мы видим, что ответ на поставленный выше вопрос - откуда взялась программа перестройки специализированной тьюринговой модели мозга в универсальную - следует искать в модели механизма размножения живой материи. Каким образом принципы, лежащие в основе работы этого механизма, были перенесены из сферы размножения в сферу организации обработки информации мозгом, мы, естественно, не знаем. Ясно одно: принцип интерпретации как основа работы механизма размножения зародился гораздо раньше, чем возник самый примитивный ригидный мозг, и поэтому сам факт переноса этого принципа на работу одного из типов мозга не должен казаться неестественным. Другой вопрос, как мог появиться интерпретирующий механизм?
Известно, что гены - образования, состоящие из нескольких миллионов атомов, - способны воспроизводить себя и передавать свои свойства по наследству, т.е. даже они обладают интерпретирующим механизмом. Как он возник, пока неизвестно. Существует только общая концепция, согласно которой в основе его возникновения может лежать абиогенный синтез - цепочка избирательных химических реакций, которые в определенных условиях могли привести к возникновению механизма интерпретации. Академик Р. З. Сагдеев по этому поводу как-то сказал, наполовину серьезно, наполовину, видимо, в шутку:... рано или поздно придется искать механизм абиогенного синтеза или обратиться, как предлагает религия, за сверхъестественным объяснением [49,с.3].
Как было отмечено ранее (гл.4), применительно к нашему контексту интерпретация означает подражание. Интересную, на наш взгляд, мысль по поводу подражания высказал П. С. Гуревич:... можно, я думаю, назвать изначальное свойство человека, из которого выросли все остальные... Это свойство... способность человека к подражанию [50, с.203]. Таким образом, мы еще раз убеждаемся, что использование понятия интерпретации для объяснения многих сторон проявления человеческой сущности вовсе не лишено основания.
Является ли принцип интерпретации имманентным живой природе свойством или он вторичен? Вопрос слишком сложен, чтобы дать на него однозначный ответ. Автор, вообще, заметил, что многие обсуждаемые на страницах этой книги темы являются обильным источником все новых и новых проблем и вопросов. С одной стороны, обсуждаемые темы настолько глубоки, что нет ничего странного в появлении из этих глубин нового и неожиданного. С другой стороны, возникающие вопросы лежат, опять-таки, неожиданно, на таком значительном удалении друг от друга, что охватить их одним взглядом просто невозможно. Это обстоятельство не позволило автору рассмотреть все аспекты проблемы на одном уровне профессионализма; данное замечание мы просим критически настроенного читателя принять во внимание.
Так вот, о принципе интерпретации. Как уже было сказано, мы уверены, что он - основа, как процесса размножения, так и процесса построения человеческого сознания. Известно, что в основе процесса размножения лежит деление клетки. Зачем клетка делится? По этому поводу уже написано много книг, и будет написана еще не одна. Приведем интересную мысль, принадлежащую Тейяру: Само по себе деление клетки, видимо, вызывается просто необходимостью для живой частицы избавиться от своей молекулярной неустойчивости и от структурных трудностей, связанных с продолжением своего возрастания. Поэтому самовоспроизведение вначале оказывается простым способом, изобретенным природой для обеспечения постоянства, неустойчивого в случае крупных молекулярных соединений [46, с.91].
Если признать истинность этой мысли, то деление (а значит, и размножение) - это не первичное свойство живой материи, а снова (?!) лишь побочный феномен, как и сознание. Стало быть, интерпретация - вторичный продукт. А что же первично? Первично в этом смысле, нам думается, отражение - действительно имманентное свойство материи. Что должна сделать клетка, чтобы разделиться? (Мы ставим этот вопрос не в биологическом или физическом, а в философском смысле). Она, во-первых, должна рефлектировать, т.е. отразить себя в себе самой, узнать себя, создать свой образ и, во-вторых, отразить этот свой образ как новую живую субстанцию.
До сих пор, говоря о тьюринговой универсальной модели, мы все время сопоставляли ее с мозгом человека. Теперь попробуем задать вопрос: можно ли в природе наблюдать еще какой-нибудь организм, которому по его структурно-функциональным свойствам также можно было бы поставить в соответствие универсальную модель? Мы думаем, что такой организм есть - это живая клетка. Доказательство универсальности ее модели почти очевидно. Действительно, процесс размножения, в основе которого лежит карикиоз (деление) клеток, моделируется интерпретирующим автоматом фон Неймана, последний, в свою очередь, является аналогом универсальной машины Тьюринга. Таким образом, справедливо утверждение: наличие принципа интерпретации является достаточным условием для появления свойства универсальности.
Особенность клетки не как модели, а как живого организма состоит в том, что она перерабатывает не информацию, а вещество, осуществляя синтез живого из неживых молекул. Чтобы пройти путь от атомных и молекулярных кирпичиков к кирпичикам клеточным, природе потребовалось перейти от размеров строительных элементов порядка 10-8 см к размерам порядка 10-2 см (в среднем), т.е. линейные размеры строительных блоков увеличились на шесть порядков. Приблизительно в таком же отношении находятся линейные размеры тела млекопитающего и клеток, из которых оно состоит. Эволюционный путь от простейшей клетки до человека длился около 1 млрд. лет. Путь от мертвой материи к живой клетке длился ничуть не меньше (если не больше). О нем мало, что известно из-за отсутствия следов, точнее - из-за их малочисленности. Природа, создавая существующие формы живого, прошла два этих пути, скорее похожих на два витка раскручивающейся спирали: разный строительный материал, разная архитектура, но... одинаковая модель.
Если сопоставить путь от молекулы к клетке с эволюционной лестницей, ведущей от клетки к человеку, то предполагаемый скачок от мертвой материи к живой тоже скорее напоминает идущую вверх лестницу, на которой соседние ступеньки разделены не ощущаемым подошвой уступчиком. Ископаемая история Земли не оставила и не могла оставить каких-либо следов существования первого марша лестницы. Но зато мы располагаем следами и остатками следующего, второго марша, а также его чертежами: от простейшей специализированной машины Тьюринга, образованной одноклеточной таблицей (вспомним квант переработки информации), до универсальной самоприменимой модели, сопоставимой с функциями мозга человека. При подобной фокусировке ретроспективного взгляда в глубины времени возникновение первой жизни это не разовый скачок из мертвого царства - это медленный, трудный и малозаметный ступенчатый подъем от преджизни к жизни - подъем, не отвергаемый современной эволюционной теорией.
Вернемся, однако, к клетке. Если мы сопоставляем с ней универсальную тьюрингову модель (точнее, автомат фон Неймана, работающий не с информацией, а с веществом), то, естественно, возникает вопрос о самоприменимости подобной модели. Внутренняя завершенность структуры клетки, ее специфическая индивидуальность, наконец, ее способность в определенных условиях делиться - все это приводит к мысли, сто такая модель должна быть самоприменимой. Следовательно, клетка изнутри может иметь... субъективное начало. Такой вывод не должен обескураживать, он способен в худшем случае лишь озадачивать.
Это субъективность, так сказать, не идеального, а материального толка, ибо клетка перерабатывает не информацию, а материю. Какого рода сознанием обладает клетка, какова ее воля - представить трудно. Нам думается, что рефлективность клетки (самоприменимость ее модели), ее субъективное начало как раз и проявляется во внутренней способности клетки к делению. Эта способность в зависимости от внешних по отношению к клетке условий может проявляться (клетка делится) или не проявляться (деления нет). Данное предположение (возможны, конечно, и другие) показывает, что психика клетки не есть элементарный кирпичик психики человека. Поэтому, как бы соглашаясь с предположением Тейяра, что психическое изначально присуще материи - внутренняя сторона материи [46,с.53], мы склонны считать это психическое атрибутом не материи, а системной организации, т.е. особой организации, присущей не только человеку. А отсюда следует, что более высокий уровень сознания, свойственный человеку, не есть сумма (или какая-то более сложная функция) элементарных квантов сознания, присущих клетке.
Теперь мы, пожалуй, готовы изобразить все основные этапы эволюции тьюринговой модели, начиная от простейшей одноклеточной таблицы, до универсальной самоприменимой. Естественно, в зависимости от исходного строительного материала должны получаться различные архитектурные ансамбли, но мы ограничимся рассмотрением только их моделей.
Первые простейшие модели были, естественно, специализированными. Подавляющее большинство из них смело может быть отнесено к типу ничего не делающих, все стирающих, зацикленных (см. сформулированные ранее постулаты). Совсем небольшое число из них реализовали какой-то алгоритм, но и тот мог быть неадекватным внешним условиям. И лишь единичные экземпляры попадали, как говорится, в десятку, они противостояли среде; все остальное погибало и распадалось, чтобы сделать новую попытку.
Через некоторое, достаточно продолжительное, время образовалось какое-то конечное число популяций еще достаточно простых специализированных моделей, и пока действовали условия спонтанной генерации первичных моделей, это число возрастало. После изменения этих условий (а это условия внешней среды) начинается следующий этап эволюции. Характеризуется он тем, что модели перестают возникать из ничего: каждая новая - результат трансформации части популяции старой. Если внешние условия спокойны, то процесс трансформации идет медленно, ветви эволюционного дерева редки. На этом спокойном этапе процесс возникновения свойства пластичности, а вслед за ней - самоприменимости в специализированных моделях протекает вяло.
При активизации среды или при возникновении каких-то других стимулирующих факторов (например, когда выходная информация одних моделей становится входной для других) процесс возрастания количества самоприменимых моделей может ускоряться. Ясно одно: на ранних этапах это количество еще невелико. Остальные модели или ригидны, или, будучи пластичными, но несамоприменимыми, неустойчивы. Накопление признаков универсальности - это наиболее слабое место наших построений, но тезис о том, что это накопление должно происходить у пластичных самоприменимых, менее спорен, чем другие возможные предположения. Следовательно, будем считать, что пластичная самоприменимая модель является потенциально универсальной несамоприменимой моделью.
Каково количество потенциально универсальных моделей? Согласно одному из выдвинутых ранее постулатов оно не должно быть большим. Возможно, в будущем его удастся вычислить, если определить ряд количественных факторов: частоту и интенсивность внешних воздействий, порог чувствительности модели, некоторые вероятностные характеристики и т.д. Иными словами, пользуясь ранее выдвинутыми постулатами, а также параметрами взаимодействия модели и среды, можно качественную картину превратить в количественную.
Все идет медленно и спокойно до тех пор, пока не происходит резкий скачок внешних условий. Ригидные модели во множестве погибают или, трансформируясь, резко сужают зоны своего обитания. Самоприменимые тоже частично погибают, частично трансформируются: во всяком случае, число ригидных и самоприменимых моделей несколько выравнивается, потенциально универсальных, поставщиком которых являются самоприменимые пластичные, становится еще меньше, а их продвинутость к универсализму - больше. Процесс идет эволюционно, т.е. без скачков (те, которые все же случаются, мы ранее назвали микро взрывами). Таким образом, в эпоху существования специализированных моделей резкие внешние изменения, обрекая на гибель многие популяции, не вызывают адекватного по силе ветвления дерева эволюции.
Многое меняется после появления первой универсальной модели (одновременно могло появиться несколько таких моделей). Собственно, появление универсальной модели (еще несамоприменимой) остается незаметным, и события приобретают революционный характер только тогда, когда одновременно имеют место два фактора: наличие универсальной не самоприменимой модели и резкое изменение внешних условий. Какие-то популяции универсальной модели, теряя свою универсальность, взрываются, выбрасывая множество новых специализированных осколков (ветвей), при этом количество не взорванных универсальных моделей или сохранившихся после взрыва универсальных осколков (ветвей) становится еще меньше. Не будет ничего странного, если после нескольких таких катастроф останется только одна универсальная модель, и то факт ее дальнейшего выживания следует поставить в прямую зависимость от появления у нее самоприменимости. А что же осколки? Большинство из них гибнет, оставшиеся образуют новые специализированные, законсервированные самоприменимостью, ветви.
Сформулируем еще один, девятый по счету, гипотетический постулат. Несамоприменимые модели постоянно являются источником появления новых специализаций: несамоприменимая пластичная специализированная модель дает ветвление малой, а универсальная - большой интенсивности. И далее, в этом же постулате: аккумулятором накопления признаков и механизмов универсальности являются самоприменимые пластичные специализированные модели.
Зададим провокационный вопрос: а как быть с ригидными самоприменимыми специализированными моделями? С одной стороны, такая модель, если она реально существует, как бы защищена двойным контролем и, следовательно, особо устойчива, а с другой - из-за наличия самоприменимости должна обладать элементами сознания, как это определено раньше. Читатель догадался уже, что автор подвел его к мысли о наличии такой модели, по крайней мере, у некоторых современных насекомых. Однако развивать эту мысль дальше мы не имеем возможности.
И краткий последний эпизод. После того, как сохранившаяся универсальная ветвь обзаведется самоприменимостью, универсальная модель также консервирует себя: дерево эволюции модели, выросшее на почве образующих его элементов, прекращает свой рост. Новое сможет вырасти уже на другой почве, в других условиях.
Плосколицые млекопитающие
Так могла происходить гипотетическая эволюция тьюринговых моделей. А как было на самом деле? Автор слукавил, заявив, что у него нет никакой лоции. Есть такой термин рекапитуляция, означающий повторение в развитии эмбриона стадий эволюции. Даже из школьного курса биологии можно узнать, что на ранних стадиях своего развития человеческий эмбрион имеет недоразвитые жаберные щели и даже внешне напоминает рыбу. Что-то подобное наблюдается и у зародышей млекопитающих. Казалось бы, исследуй детально стадии рекапитуляции эмбриональных форм животных и человека и выстраивай всех по ранжиру - кто от кого произошел.
У А. Барнетта читаем: Эмбриональное развитие действительно отражает эволюционную историю человека, но этот процесс неизмеримо сложнее, чем кажется на первый взгляд... На развитии эмбриона человека можно проследить нашу эволюционную историю, но это отнюдь не означает, что мы должны ограничиваться одной эмбриологией. Ведь существуют такие процессы развития, которые не отражают эволюции вида. В качестве иллюстрации возьмем форму лица. Морда большинства млекопитающих вытянута вперед, в то время как лицо человека плоское. При наличии прямой рекапитуляции предковых форм можно было бы ожидать, что у эмбриона человека будет развиваться морда, которую в дальнейшем он утратит. На самом деле у человеческого эмбриона ни на какой стадии морда не появляется. У млекопитающих вытягивание передней части головы происходит довольно поздно, на всех ранних стадиях эмбрион плосколиц [51,с.60,61,62].
Пусть простит нас читатель за удлиненную цитату, но автор раньше по наивности, конечно, предполагал, что эмбрионы млекопитающих всегда мордаты, а тут, надо же, на ранних стадиях они плосколицы. Мы намеренно привели цитату из книги А. Барнетта Род человеческий, чтобы показать существование определенных трудностей в современной теории эволюции, особенно в той ее части, которая связана с возникновением у человека и наличием у него принципиальных отличий от животных. Можно сослаться также на высказывание Д. Мичи по поводу дельфинов:... основным препятствием, мешающим дельфину и человеку вступить в разговор друг с другом, может быть коренное различие в их когнитивных мирах [36,с.177]. Похожее высказывание можно встретить у М. Руттена, который на основе анализа эволюции поздней жизни констатировал, что... происхождение человека принципиально отличается от возникновения млекопитающих [52,с.163].
О качественном различии между мозгом млекопитающих и человека пишет Й. Хамори:... даже между мозгом человека и наиболее развитых млекопитающих (например, шимпанзе) существует большое различие - и не только количественное, но и качественное, так что даже самый тщательный анализ мозга животного не может привести к удовлетворительному пониманию всей полноты механизмов функционирования мозга человека [53,с.13]. Позволим себе еще одну ссылку на Тейяра:... перед животным закрыта одна область реальности, в которой мы развиваемся, но куда оно не может вступить. Нас разделяет ров или порог, непреодолимый для него. Будучи рефлектирующими, мы не только отличаемся от животного, но мы иные по сравнению с ним [46,с.137]. Еще раз напомним, что, на наш взгляд, существо вопроса не столько в рефлексии (специализированные модели тоже обладают самоприменимостью), сколько в языке, на котором она происходит.
Объективности ради следует отметить, что по поводу сходства и различий человека и обезьяны существует прямо противоположная точка зрения. Сошлемся лишь на одну цитату: Говорящие обезьяны показали, что между высшими приматами и человеком нет непроходимой пропасти, а есть преемственность [54,с.177]. Трудно, будучи математиком, а не биологом, вступать по данной проблеме в полемику и комментировать противоположные высказывания по одному и тому же вопросу представителями разных биологических школ. Как бы примиряя противоположные стороны, сошлемся в какой уж раз на так часто цитируемого нами автора: Спиритуалисты правы, когда они настойчиво защищают трансцендентность человека по отношению к остальной природе. Но и материалисты также не ошибаются, когда утверждают, что человек - это лишь один член в ряду животных форм [46,с.139].
Принимая предложенную модель эволюции, следует признать, что и обезьяны, и медведи, и жучки, и паучки - это все тупиковые с точки зрения разума пути эволюции, осколки больших взрывов. Автор не хотел бы уж очень настаивать на не всеми признаваемом тезисе о том, что человек произошел не от обезьяны, а от неизвестного нам существа, но упомянуть об этом факте на основе описанных сюжетов считает возможным.
К сказанному можно добавить еще один тезис. В окружающем нас мире мы видим много специализированных моделей, а универсальная - одна. Этот факт не должен казаться странным, так как специализация по своей сути является множественной. В принципе, универсальные структуры тоже не должны быть единственными. Пример из области вычислительных моделей: универсальная машина Тьюринга и универсальная электронная машина (компьютер). Но не следует забывать, что природа всегда шла от простого к сложному, накапливая простое. Поэтому вполне возможно, что в условиях окружающего нас физического мира человеку (и еще, наверное, живой клетке) следует поставить в соответствие универсальную модель.
Спрашивается, зачем понадобилось цитировать работы, не относящиеся к основной теме и углубляться в эволюционные дебри? Казалось бы, это уводит с основного пути, затрудняет чтение. Однако, как уже было сказано, у автора был свой расчет. Нам нужно было не только предложить модель, но и показать, что она работает. И первая попытка запустить модель оказалась, на наш взгляд, вполне удовлетворительной.
Модель подтвердила существование трех основных типов мозга, предложенных эволюционной теорией. В нашу концепцию укладываются основные сегодняшние представления об эволюционном развитии. Некоторые трудности современной биологии, связанные с происхождением человека, удивительным образом отражаются в трудностях объяснения возникновения универсальной модели, если руководствоваться традиционным подходом. Нами намечен некоторый путь преодоления этих трудностей в модели, в результате этого появилась возможность как-то объяснить парадоксы рекапитуляции эмбрионов животных и человека. Пусть для биологов данные объяснения покажутся малоубедительными: хорошо уже то, что модель позволяет строить гипотезы.
Неутешительный вывод
Однако нам пора вернуться к обсуждению главного вопроса этой главы. Речь идет о самоприменимости модели. Можно ли процесс самоприменимости формализовать и описать, скажем, каким-либо алгоритмом? Это существенный вопрос, так как в случае положительного ответа на него можно было бы рассчитывать на быстрый прогресс в изучении рефлектирующих структур. Но, увы... Обычно, когда алгоритм работы модели известен и известно входное слово, то можно сказать, каково будет выходное слово. В случае самоприменимости есть запись алгоритма, точнее, известно входное слово, эквивалентное этой записи, но доказано, что не существует алгоритма, который позволил бы сказать, каково выходное слово. Таким образом, нет алгоритма, который описал бы самоприменимость: можно только постфактум констатировать - есть она в данной модели или ее нет. Иными словами, проблема самоприменимости машины Тьюринга (любой ее разновидности) алгоритмически неразрешима.
Понятие алгоритмическая неразрешимость следует обсудить более подробно. Прежде всего, не нужно думать, что коль скоро его относят к некоторой проблеме, то оно ложится на нее как вечное клеймо, относя ее к разряду непознаваемых. Алгоритмическая неразрешимость не имеет ничего общего с агностицизмом. Однако подобное клеймо сразу же относит проблему к разряду наиболее трудно разрешимых, хотя разрешимость, познаваемость явления, связанного с такой проблемой, не отрицается. Просто, существенно затрудняются, а если быть более точными - принципиально становятся невозможными формализованные пути решения. Чтобы пояснить высказанный тезис, сошлемся на один пример, довольно часто приводимый в литературе. Речь идет о знаменитой проблеме Ферма, история которой чрезвычайно интересна и поучительна, однако наш путь проходит мимо ее истории.
Всякий, имеющий среднее образование, поймет, что ниже написано алгебраическое уравнение
в котором, x,y,z - неизвестные переменные, при этом считается, что переменная n принимает любые целочисленные значения 1,2,3 и т.д. Проблема Ферма заключается в следующем: требуется найти алгоритм, который позволял бы определять целочисленные значения x,y,z для любых целых n. При n=1 задача решается легко: для любых целых x,y значение z равно их сумме. Когда n=2, некоторые значения x,y,z можно найти методом подбора, например, x=3, y=4, z=5 или x=6, y=8, z=10. Доказано, что при n=3 уравнение не имеет целочисленных корней отличных от нуля, но это доказательство несправедливо для других значений n.
На сегодняшний день автор располагает информацией, что проблема Ферма якобы алгоритмически неразрешима (приходится писать якобы, так как абсолютно достоверной информации мы, к сожалению, не имеем). Это означает, что нет смысла искать единый алгоритм решения, годный для всех целых n, не нужно тратить на это силы и время, хотя для некоторых конкретных n метод решения когда-нибудь будет найден, или будет доказано, что целочисленных решений нет, как это случилось для n=3.
Что касается самоприменимости машины Тьюринга, то с помощью не очень сложного, хотя довольно тонкого доказательства удалось сформулировать утверждение: проблема самоприменимости машины Тьюринга алгоритмически неразрешима. Это означает, что нельзя формальными методами (на основе анализа таблицы машины) про любую машину сказать, будет ли она самоприменима или нет. В то же время ответ на вопрос получить можно, построив машину и проверив, какое свойство имеет место. Значит, глядя на собственное описание машины, мы не можем сказать, в какое слово она его преобразует. Хотя, если машину построить и она окажется самоприменимой, интересующее нас выходное слово определить очень просто: для этого достаточно машину запустить и посмотреть на ее выход.
То, что проблема самоприменимости машины Тьюринга алгоритмически неразрешима, огорчительно. Однако нас, пусть это не покажется странным, данное обстоятельство радует. Будь все иначе, проблемы сознания, сущности я человека, наверное, оказались бы давно решенными. Коль скоро этого не произошло, можно предполагать, что мы на правильном пути.
Самоприменимость универсальной машины Тьюринга моделирует то общее, что по нашим предположениям лежит в основе появления субъективного начала. Но мы не можем сказать, какой должна быть структура управляющего устройства универсальной тьюринговой модели, чтобы она была самоприменима. Мы можем попытаться найти какую-то структуру, которая будет самоприменима, возможно, сможем найти несколько таких структур, но мы никогда не сможем сказать, как их находить.
Данное заключение, казалось бы, должно привести нас к пессимистическому вывожу о невозможности решения проблемы сознания - проблемы я. Однако фактически не все безнадежно. Известно, что на практике все реакции мозга протекают в ограниченный и, как правило, достаточно малый отрезок времени. Поэтому, говоря о тьюринговой модели работы мозга применительно к проблеме сознания, правильнее ставить вопрос не о самоприменимости модели, а о так называемой ограниченной самоприменимости (в теории алгоритмов f -самоприменимость [38,с.158]). В отличие от проблемы самоприменимости проблемы ограниченной самоприменимости не существует. Иными словами, если имеется описание таблицы универсальной машины Тьюринга, то по этому описанию в принципе можно вычислить некоторую функцию, имеющую размерность времени (пока, конечно, доказана только теоретическая возможность ее вычисления).
Если модель перерабатывает свое описание за время, не превышающее вычисленное, и выдает определенный, заранее оговоренный результат, то такая модель обладает свойством ограниченной самоприменимости. Так как допустимое время различных реакций мозга известно, и существует принципиальная возможность пересчета этого времени во временные масштабы работы модели, то имеется реальная возможность, во-первых, классифицировать модели по признаку: ограниченно самоприменима - несамоприменима; во-вторых, проводить анализ тех структурных свойств модели, которые приводят к появлению свойства ограниченной самоприменимости.
Но вот другой неутешительный (а возможно, как раз, приятный) вывод, следующий из того, что процесс самоприменимости (пока мы не научимся записывать и вычислять ограничивающую f -функцию) не может быть описан никаким алгоритмом. Так как мы предположили, что процесс самоприменимости универсальной машины Тьюринга является моделью одного из звеньев сознания, то на основании всего сказанного следует совершенно четко заявить: часть процесса работы мозга, связанная с появлением сознания, - не алгоритмический процесс, и, следовательно, для него в принципе не существует формального описания. Поэтому, рассматривая самые разные стороны деятельности человеческого мозга, можно сказать, существенно уточняя написанное ранее, что, хотя мозг работает в целом алгоритмически, одна его функция - реализация способности к возникновению субъективного начала - не алгоритмична. Именно по этой причине не существует формализованного пути к созданию субъективного начала в искусственных системах, хотя неформальные или частично формальные пути, конечно, остаются.
