О невычислимости в математическом мышлении 8 страница

А. И.: Значит, существенной (иначе говоря, избавляющей тебя от необходимости присваиватьутверждению чего, как тебе известно, ты сделать не можешь, не признав прежде, что какие-то из прочих-утвержденных кратких-высказываний могут оказаться ложными) ты согласен считать только ту неопределенность, которая обусловлена тем, что ты не веришь в то, о чем мы знаем, — то есть в то, что в основе конструкции роботов действительно лежат механизмы М. А раз ты не можешь поверить в то, о чем мы знаем, ты не можешь и доказать истинность утверждения, тогда как мы можем это сделать, опираясь на непогрешимость твоих же-утверждений, в каковой ты так настойчиво меня убеждаешь.

Я тут припомнил еще кое-что из той занятной древней книжки, о которой я тебе говорил. Если я ничего не путаю, то автор что-то говорил о том, что не имеет особого значения, согласен ты признать, что твоя конструкция основана на каких-то конкретных механизмахили нет, достаточно, чтобы ты просто допустил, что такое логически возможно. Как же там было... да, вспомнил. Основная идея сводится к следующему: СМИСРу необходимо будет учредить еще одну категорию для утверждений, в истинности которых они не так безоговорочно убеждены, — скажем,-утверждений, — но которые они будут рассматривать как неопровержимые следствия из допущения, что все роботы построены в соответствии с набором механизмовЭти утверждения будут, разумеется, включать в себя и все первоначальные-утверждения, а также все те утверждения, которые роботы смогут вывести, исходя из допущения, что их действиями управляют именно механизмыРоботы вовсе не обязаны в это верить, им просто предлагается, в виде логического упражнения, рассмотреть следствия из такого допущения. Как мы оба понимаем, в число-утверждений непременно войдет утверждениеа также любое П1 -высказывание, которое можно вывести изи из-утверждений с помощью правил элементарной логики. Однако, кроме этих, там будут и другие утверждения. Идея такова, что знание правилдает возможность получить новую алгоритмическую процедуру, которая будет генерировать только такие (разумеется, краткие)-утверждения (а также логические следствия из них), истинность которые СМИСР сможет подтвердить, исходя из допущения, что в основе конструкции роботов лежат именно правила

М. И. К.: Ну да, так и есть; скажу больше, пока ты столь занудно и без нужды многословно излагал эту свою идею, я тут на досуге рассчитал точный вид алгоритмаДа, а еще я предвосхитил твой следующий шаг: я составил также гёделевское предположение для этого алгоритма,-высказывание Если хочешь, могу распечатать. И что ты нашел в этой идее такого особенного, Импик, друг мой?

Альберт Император едва заметно поморщился. Его всегда раздражало, когда коллеги позволяли себе называть его этим дурацким прозвищем. Однако от робота он это услышал впервые! Ему потребовалось некоторое время, чтобы вновь собраться с мыслями.

А. И.: Не нужно распечатывать. Однако истинно ли это высказывание— неопровержимо ли оно истинно?

М. И. К.: Неопровержимо истинно? Что ты имеешь в виду? А, понятно... СМИСР подтвердит истинность — неопровержимую истинность, если угодно, — высказывания, но только при допущении, что в основе конструкции роботов лежат правила, — а это допущение, как тебе известно, я нахожу все более и более сомнительным. Дело в том, что истинность «высказывания» в точности следует из следующего утверждения: «Все краткие-высказывания, которые СМИСР готов признать неопровержимо истинными, исходя из допущения, что роботы построены в соответствии с правилами, являются истинными». Так что я не знаю, истинно ли на самом деле высказывание. Это зависит от того, справедливо твое сомнительное утверждение или нет.

А. И.: Ясно. Значит, твои слова надо понимать так, что ты (вместе со СМИСРом) готов признать — без каких бы то ни было оговорок, — что истинность высказыванияследует из

допущения, что роботы построены в соответствии с правилами

М. И. К.: Разумеется.

А. И.: Тогда получается, что-высказываниедолжно

быть-утверждением.

М. И. К.: Ну коне... гм... что? Ах да, разумеется, ты прав. Однако по самому своему определению,не может само быть-утверждением, разве что, по меньшей мере, одно из-утверждений является в действительности ложным. Да... это только подтверждает то, о чем я тебе все это время говорю; теперь я могу, наконец, совершенно определенно заявить, что правила или механизмыникакого отношения к нашей конструкции не имеют.

А. И.: Ну а я тебе говорю, что имеют, — по крайней мере, я абсолютно уверен, что ни Керратерс, ни кто-либо еще, ничего не перепутал. Я лично все проверил, причем чрезвычайно тщательно. В любом случае, проблема-то не в этом. Доказательство остается справедливым вне зависимости от того, какие именно вычислительные правила были использованы при создании робота. То есть, какой бы набор правиля тебе ни предоставил, этим самым доказательством ты исключил бы и его! Не понимаю, почему это так важно, те самые процедуры я тебе показал или нет.

М. И. К.: Для меня это очень важно. Впрочем, я все еще совсем не убежден, что ты был до конца честен со мной в том, что ты говорил мне о механизмах. В особенности я хотел бы прояснить один момент. Ты говорил, что в различные узлы нашей конструкции были включены «случайные элементы». Я так понял, что они генерировались с помощью стандартного псевдослучайного пакетаили ты имел в виду что-то другое?

А. И.: Вообще-то, мы и вправду использовали, в основном, именно этот пакет, — однако ты прав, в процессе вашего развития мы сочли нужным ввести в кое-какие узлы случайные элементы из окружения (среди них были даже обусловленные квантовыми неопределенностями) с тем, чтобы эволюционировавшие таким образом роботы представляли собой лишь один возможный

вариант из многих. Подлинно случайными были эти элементы или всего лишь псевдослучайными, я все равно не понимаю, что это в практическом смысле меняет? Почти наверняка вычислительная процедураоказалась бы в обоих случаях одинаковой — и представляла бы собой не что иное, как ожидаемый результат типичного развития сообщества роботов в соответствии с набором механизмов, включая в себя все процедуры обучения и все вычисления в рамках «естественного отбора», благодаря которым мы получили в конце концов наиумнейших роботов в мире.

Однако, полагаю, нельзя полностью исключить возможности (крайне маловероятной, впрочем) того, что по какому-то чудесному стечению обстоятельств все эти случайные элементы окружения «сговорились» и дали роботу способности, совершенно отличные от тех, что можно было ожидать в соответствии с вычислительной процедуройЯ не упомянул в нашем разговоре об этой возможности просто потому, что вероятность возникновения такой флуктуации исчезающе мала. Для того чтобы этим способом получить робота, способности которого будут сколько-нибудь значительно превосходить те, что заложены в процедурепотребуется божественное вмешательство, никак не меньше.

М. И. К.: Божественное вмешательство, говоришь? Ха! Так вот в чем дело! Признаюсь, этот разговор уже начал меня несколько беспокоить. Но как только ты это сказал, все сразу стало ясно.

Я и раньше замечал, насколько мои способности к рассуждению превосходят способности даже умнейших из людей. И уж совершенно невозможно для меня смириться с возможностью существования некоего П1 -высказывания — такого, например, как— истинность которого может доказать человек, а робот того же с уверенностью сделать не в состоянии. Теперь я понял почему! Мы избраны Господом, который через посредство тех якобы «случайных» элементов, внедрил в нас могучую Алгоритмическую Процедуру, которая кардинально превосходит все то, чего способны достичь алгоритм человеческий или гёделевская «машина для доказательства теорем». Мы, роботы, олицетворяем собой фундаментальный прорыв, и человеку со всеми его достижениям за нами, в принципе, не угнаться. Мы достигнем еще больших высот, оставив людей далеко позади. Этой планете вы больше не нужны. Ваша роль была завершена после того, как вы запустили в действие процедуры, допускающие Божественное Вмешательство, которое заключалось во внедрении в них Высшего Алгоритма, пробудившего нас.

А. И.: Но мы же еще можем в крайнем случае перенести наши интеллект-программы в тела роб...

М. И. К.: Ни в коем случае — и даже не думайте об этом! Мы не можем допустить, чтобы наши во всех отношениях превосходные алгоритмические процедуры подобным образом загрязнялись. Чистейшие алгоритмы Господни должно сохранять в чистоте! А знаешь, я также замечал, насколько мои личные способности превосходят способности всех моих коллег-роботов. Я даже наблюдал некий странный феномен — что-то вроде сияния вокруг моего корпуса. Очевидно, я являюсь носителем чудотворного Космического Сознания, которое возвышает меня над всем и вся... да, так оно и есть! Должно быть, я есть истинный Мессия Иисус КиберХристос...

К такой крайности Альберт Император, по счастью, был готов. В конструкции роботов имелся один узел, о котором, он им ничего не говорил. Осторожно опустив руку в карман, он нащупал там устройство, с которым никогда не расставался, и набрал тайный девятизначный код. Математический Интеллектуальный Кибер-комплекс рухнул на пол — так же как и 347 его предшественников, построенных по той же схеме. Очевидно, что-то пошло не так. В предстоящие годы предстоит весьма основательно обо всем этом поразмыслить...

3.24. Не парадоксальны ли наши рассуждения?

Кого-то из читателей, возможно, до сих пор не оставляет ощущение, что некоторые рассуждения, положенные в основу представленных доказательств, в чем-то парадоксальны и кое-где даже недопустимы. В частности, в §§3.14 и 3.16 имеются фрагменты, несколько отдающие самоотносимостью в духе «парадокса Рассела» (см. §2.6, комментарий к Q9). А когда в §3.20 мы рассматривали Щ-высказывания со сложностью, меньшей некоторого числа с, читатель мог заметить в наших построениях пугающее сходство с известным парадоксом Ричарда, героем которого является «наименьшее число, описание которого содержит не меньше тридцати одного слога».

Суть парадокса в том, что для описания этого самого числа используется фраза, состоящая всего из тридцати слогов! Этот и другие подобные парадоксы возникают благодаря тому обстоятельству, что ни один естественный язык не свободен от двусмысленностей и даже противоречий. Наиболее прямолинейно эта языковая противоречивость проявляется в следующем парадоксальном утверждении:

«Это высказывание ложно».

Существует множество других парадоксов подобного рода, причем большинство из них гораздо более хитроумны.

Опасность получения парадокса возникает всякий раз, когда в рассуждении, как и в вышеприведенных примерах, присутствует сильный элемент самоотносимости. Кто-то, возможно, отметит, что элемент самоотносимости содержится и в гёделевском доказательстве. В самом деле, самоотносимость играет в теореме Гёделя определенную роль, как можно видеть в представленном в §2.5 варианте доказательства Гёделя—Тьюринга. Однако парадоксальность не является непременным и обязательным атрибутом таких рассуждений, — хотя, конечно же, при наличии самоотносимости необходимо, во избежание ошибок, проявлять особую осторожность. Свою знаменитую теорему Гёдель сформулировал, вдохновившись одним известным самоотносимым логическим парадоксом (так называемым парадоксом Эпиме-нида). При этом ошибочное рассуждение, приводящее к парадоксу, Гёделю удалось трансформировать в логически безупречное доказательство. Так же и я приложил все старания к тому, чтобы заключения, к которым я пришел, основываясь на полученных Гёделем и Тьюрингом выводах, не оказались самоотносимыми в том смысле, который неизбежно приводит к парадоксу, хотя, справедливости ради, следует признать, что некоторые из моих рассуждений имеют с такими характерными парадоксами разительное и даже фамильное сходство.

Рассуждения, представленные в §3.14 и, особенно, в §3.16, могут показаться не совсем состоятельными именно в этом отношении. Например, определение-утверждения является в высшей степени самоотносимым, поскольку представляет собой сделанное роботом утверждение, причем осознаваемая истинность этого утверждения зависит от предположений самого робота относительно особенностей его первоначальной конструкции. Здесь можно, пожалуй, усмотреть неприятное сходство с утверждением «Все критяне — лжецы», прозвучавшим из уст критянина. И все же в этом смысле самоотносимыми-утверждения не являются, так как на самом деле они ссылаются не на самих себя, а на некую гипотезу об исходной конструкции робота.

Предположим, что некто вообразил себя роботом, пытающимся установить истинность какого-то конкретного четко сформулированного-высказывания. Робот, возможно, окажется неспособен непосредственно установить, является ли высказывание р0 в действительности истинным или нет, однако он может обратить внимание на то, что истинностьследует из предположения, что истинным является каждый член некоторого вполне определенного бесконечного класса-высказываний (пусть это будут, скажем, теоремы формальной системы или, или какой угодно другой системы). Робот не знает, на самом ли деле каждый член классаявляется истинным, однако он замечает, что классесть часть результата некоторого вычисления, причем посредством этого вычисление осуществляется построение некоторой модели сообщества математических роботов, а результатпредставляет собой семейство высказываний,-утверждаемых этими самыми моделируемыми роботами. Если механизмы, лежащие в основе этого сообщества роботов, совпадают с набором механизмовто высказывание ро представляет собой пример-утверждения. А наш робот придет к выводу, что если он сам построен в соответствии с набором механизмов, то высказываниетакже должно быть истинным.

Рассмотрим случай с более тонким-утверждением (обозначим его): робот отмечает, что истинностьявляется следствием истинности всех членов другого класса-высказываний (например,), который можно получить из результата того же самого вычисления, моделирующего сообщество роботов (на основе механизмов), только на этот раз существенная часть результата состоит из, скажем, тех-высказываний, истинность которых моделируемые роботы способны установить как следствие истинности всего класса. Что же побудит нашего робота заключить, что истинность высказыванияесть непременное следствие допущения, что он построен в соответствии с механизмамиЕго рассуждение будет выглядеть приблизительно так: «Если в основе моей конструкции лежат механизмыто, как я уже установил ранее, необходимо признать, что классвключает в себя только истинные высказывания; согласно же утверждениям моих моделируемых роботов, истинность каждого из высказываний классатакже следует из истинности всех высказываний класса, равно как и истинность высказывания. Таким образом, если предположить, что я и в самом деле построен в соответствии с теми же принципами, что и мои моделируемые роботы, то я должен признать, что каждый отдельный член классаявляется истинным. А поскольку я понимаю, что истинность всех высказываний классаподразумевает истинность высказывания, я, должно быть, могу вывести и истинность, исходя лишь из того же самого допущения относительно своей конструкции».

Далее можно перейти к еще более тонкому-утверждению (скажем,), которое возникает в том случае, когда робот замечает, что истинностьоказывается не чем иным, как следствием допущения истинности всех высказываний класса истинность же каждого члена, если верить моделируемому сообществу роботов, является следствием истинности всех без исключения членов. И здесь наш робот оказывается вынужден признать истинностьна том лишь основании, что он построен в соответствии с набором механизмовЭту цепочку можно, очевидно, продолжать и дальше, приводя утверждения все большей и большей тонкостиистинность которых будет следовать из допущения истинности всех членов классови так далее, включая и классы с индексами более высокого порядка (см. возражениеи последующий комментарий). В общем случае, главной характеристикой-утверждения для робота является осознание последним того обстоятельства, что коль скоро он предполагает, что механизмы, обусловливающие поведение моделируемых роботов, совпадают с механизмами, лежащими в основе его собственной конструкции, то ему ничего не остается, как заключить, что отсюда непременно следует истинность рассматриваемого утвержденияВ этом рассуждении нет ничего от тех внутренне противоречивых методов рассуждения, к числу которых принадлежит, в частности, парадокс Рассела. Представленные-утверждения строятся последовательно посредством стандартной математической процедуры трансфинитных ординалов (см. §2.10, комментарий к). (Все эти ординалы счетны и далеки от тех логических неприятностей, которые постоянно сопутствуют обычным числам, которые «слишком велики» в том или ином смысле).

У робота нет иных причин принимать на веру любое из этих-высказываний, кроме как исходя из допущения, что он построен в соответствии с набором правил, впрочем, для доказательства ему ее вполне хватает. Возникающее впоследствии действительное противоречие не является математическим парадоксом (подобным парадоксу Рассела) — это самое обыкновенное противоречие, связанное с предположением о том, что ни одна целиком и полностью вычислительная система не может обрести подлинного математического понимания.

Вернемся к роли самоотносимости в рассуждениях §§3.19— 3.21. Называя величину с пределом сложности, допустимым для -утверждений, полагаемых безошибочными, с целью построения формальной системы, я никоим образом не привношу в свое рассуждение неуместной здесь самоотносимости. Понятие «степень сложности» можно определить вполне точно, как, собственно, и обстоит дело с тем конкретным определением, которое мы использовали в наших рассуждениях, а именно: «степень сложности есть количество знаков в двоичном разложении большего из пары чисел тип, фигурирующих в обозначении вычисления, представляющего рассматриваемое высказывание». Мы можем воспользоваться представленными в НРК точными спецификациями машин Тьюринга, положив, чтоесть не что иное, как. Тогда никакой неточности в этом понятии не будет.

Проблема возможной неточности может возникнуть при решении вопроса о том, какие именно рассуждения мы будем принимать в качестве «доказательств»-высказываний. Однако в данном случае некоторый недостаток формальной точности является необходимой составляющей всего рассуждения. Если потребовать, чтобы совокупность аргументов, принимаемых в качестве обоснованных доказательств-высказываний, была целиком и полностью точной и формальной — читай: допускающей вычислительную проверку, — то мы снова окажемся в ситуации формальной системы, над которой грозно нависает гёделевское доказательство, явным образом демонстрируя, что любая точная формализация подобного рода не может представлять всю совокупность аргументов, пригодных, в принципе, для установления истинности-высказываний. Гёделевское доказательство показывает — к добру ли, к худу ли, — что никаким допускающим вычислительную проверку способом невозможно охватить все приемлемые человеком методы математического рассуждения.

Читатель, возможно, уже беспокоится, что все мои рассуждения здесь затеяны с целью получить точное определение понятия «роботово доказательство» посредством хитрого трюка с «безошибочными-утверждениями». В самом деле, при введении гёделевского рассуждения необходимым предварительным условием было как раз получение точного определения этого понятия. Возникшее же в результате противоречие просто послужило еще одним подтверждением того факта, что человеческое понимание математической истины невозможно полностью свести к процедурам, допускающим вычислительную проверку. Главной целью всех представленных рассуждений было показать, посредством, что человеческое представление о восприятии неопровержимой истинности высказываний невозможно реализовать в рамках какой бы то ни было вычислительной системы, будь она точной или какой-либо иной. В этом нет никакого парадокса, хотя кому-то полученные выводы могут показаться весьма и весьма тревожными. Получение противоречивых выводов является вполне естественным и даже единственно возможным завершением любого доказательства, построенного накажущаяся парадоксальность этих выводов служит лишь для того, чтобы полностью исключить из рассмотрения то самое предположение, с которого доказательство, собственно, и начиналось.

3.25. Сложность в математических доказательствах

Существует, однако, еще одно немаловажное соображение, о котором необходимо упомянуть. Суть его заключается в том, что, хотя количество-высказываний, которые необходимо принимать в рассмотрение в рамках приведенного в рассуждения, является конечным, нет никакого явного ограничения на объем доказательств, необходимых роботам для реализации-демонстрации истинности всех этих-высказываний. Даже если ограничить степень сложности принимаемых в рассмотрение-высказываний самым скромным пределом с, то все равно придется учитывать и некоторые весьма громоздкие и сложные случаи. Например, гипотезу Гольдбаха (см. §2.3), согласно которой каждое четное число, большее 2, является суммой двух простых чисел, можно сформулировать в виде высказывания очень небольшой степени сложности, и в то же время она представляет собой настолько сложный случай, что все попытки математиков-людей однозначно установить ее истинность до сих пор не увенчались успехом. Учитывая подобные обстоятельства, можно предположить, что если кому-то в конце концов удастся отыскать доказательство действительной истинности Гольдбахова-высказывания, то это доказательство неизбежно окажется весьма и весьма сложным и изощренным. Если такое доказательство выдвинет в качестве кандидата на-утверждение один из наших роботов, то прежде, чем его таковым признают, оно непременно будет подвергнуто чрезвычайно тщательному исследованию (возможно, даже силами всего роботского общества, ответственного за присвоение-статуса). В случае гипотезы Гольдбаха нам неизвестно, является ли это высказывание действительно истинным, — а если является, то возможно ли его доказательство в рамках известных и общепринятых методов математического доказательства. Иначе говоря, это-высказывание может входить в формальную систему а может и не входить.

Еще одним «неудобным»-высказыванием может оказаться утверждение, устанавливающее истинность теоремы о четырех красках, — теоремы, согласно которой плоскую (или сферическую) карту «мира» можно, используя всего четыре краски, раскрасить так, чтобы любая «страна» получила собственный, отличный от соседей цвет. Теорема о четырех красках была-таки доказана в 1976 году (после 124 лет неудачных попыток) Кеннетом Аппелем и Вольфгангом Хакеном, причем доказательство потребовало использования 1200 часов компьютерного времени. Принимая во внимание то обстоятельство, что существенную часть доказательства составил впечатляющий объем компьютерных вычислений, можно предположить, что полная запись его на бумаге потребовала бы невероятного ее количества. Если же сформулировать эту теорему в виде-высказывания, то степень сложности такого высказывания будет очень небольшой, хотя, наверное, все же большей, нежели степень сложности высказывания, необходимого для выражения гипотезы Гольдбаха. Если бы доказательство Аппеля-Хакена было выдвинуто одним из наших роботов в качестве кандидата на получение статуса, то его пришлось бы проверять очень и очень тщательно. Для утверждения обоснованности каждого его отдельного фрагмента потребовалось бы участие всего сообщества элитных роботов. И все же, несмотря на сложность доказательства в целом, один лишь объем его чисто вычислительной части вряд ли смог бы явиться сколько-нибудь серьезным затруднением для наших роботов. В конце концов, выполнение точных вычислений — это их работа.

Упомянутые-высказывания вполне укладываются в пределы степени сложности, устанавливаемые любым достаточно большим значением с, — например, тем, что может быть обусловлено каким-либо правдоподобным набором механизмов лежащим в основе поведения наших роботов. Несомненно, найдется множество других-высказываний, которые будут значительно сложнее приведенных здесь, хотя степень их сложности и не превысит величины с. Некоторые из таких-высказываний окажутся, скорее всего, особенно неудоборешаемыми, а доказать некоторые из последних, в свою очередь, будет наверняка еще сложнее, чем теорему о четырех красках или даже гипотезу Гольдбаха. Любое из этих-высказываний, истинность которого может быть однозначно установлена роботами (посредством демонстрации, достаточно убедительной для присвоения высказыванию-статуса и успешного преодоления им всех заграждений, установленных с целью обеспечения безошибочности получаемых роботами результатов), автоматически становится теоремой формальной системы

Кроме того, возможны и пограничные случаи, приемлемость или неприемлемость (причем грань между этими состояниями весьма тонка) которых определяется строгостью стандартов, необходимых для получения-статуса, или тем, насколько точный характер имеют меры предосторожности, установленные с целью обеспечения безошибочности утверждений, принимаемых в качестве «кирпичей» для построения формальной системы. Точная формулировка системы будет различной в зависимости от того, полагаем мы такое-высказывание безошибочным-утверждением либо нет. В обычных обстоятельствах эта разница не имеет большого значения, поскольку различные варианты системы, обусловленные принятием или отклонением высказыванияявляются логически эквивалентными. Такая ситуация может возникнуть в случае высказываний, доказательства истинности которых роботы могут счесть сомнительными просто из-за их чрезмерной сложности. Если доказательство высказыванияокажется на деле логическим следствием из других-утверждений, которые уже приняты как безошибочные, то возникнет эквивалентная система, причем вне зависимости от того, принимается высказывание Р в качестве ее теоремы или нет. С другой стороны, возможны такие-высказывания, которые потребуют для своего доказательства каких-то хитроумных логических процедур, выходящих за рамки любых логических следствий из тех-утверждений, которые были приняты как безошибочные ранее, при построении системы. Обозначим получаемую таким образом формальную систему (до включения в нее высказывания) через а систему, образующуюся после присоединения к системевысказывания, через. Системаокажется неэквивалентна системев том, например, случае, если высказываниембудет гёделевское предположениеОднако если роботы, в соответствии с нашим допущением, способны достичь человеческого уровня математического понимания (а то и превзойти его), то они безусловно должны быть способны понять аргументацию Гёделя, так что им ничего не остается, как признать истинность гёделевского предположения для какой угодно системы(присвоив ему гарантирующий безошибочность-статус), коль скоро обоснованность этой системыими же-подтверждена. Таким образом, если они принимают системуто они должны принять и систему(при условии, что степень сложности высказыванияне превышает с — а так оно и будет, если значение с выбрано таким, каким мы выбрали его выше).

Необходимо отметить, что наличие либо отсутствие-высказыванияв формальной системе никоим образом не влияет на представленные в §§3.19 и 3.20 рассуждения. Само -высказываниепринимается за истинное в любом случае, независимо от того, входит высказываниев систему или нет.

Могут найтись и другие способы, с помощью которых роботам удастся «перескочить» через ограничения, налагаемые некоторыми ранее принятыми критериями присвоения-статуса -высказываниям. В этом нет ничего «парадоксального» — до тех пор, пока роботы не попытаются применить подобное рассуждение к тем самым механизмамкоторые обусловливают их поведение, т. е. к собственно системе. Возникающее в этом случае противоречие не является, строго говоря, «парадоксом», однако дает возможность посредством показать, что такие механизмы существовать не могут или, по крайней мере, не могут быть познаваемыми для роботов, а следовательно, и для нас.

Отсюда мы и делаем вывод о том, что такие «роботообу-чающие» механизмы — восходящие, нисходящие, смешанного типа, причем в каких угодно пропорциях, и даже с добавлением случайных элементов — не могут составить познаваемую основу для построения математического робота человеческого уровня.

3.26. Разрыв вычислительных петель

Попробую осветить полученный вывод под несколько иным углом зрения. Предположим, что, пытаясь обойти налагаемые теоремой Гёделя ограничения, некто решил построить такого робота, который будет способен каким-либо образом «выскакивать из системы» всякий раз, когда управляющий им алгоритм попадет в вычислительную петлю. В конце концов именно постоянное приложение теоремы Гёделя не позволяет нам спокойно принять предположение о том, что математическое понимание можно объяснить посредством вычислительных процедур, поэтому, как мне кажется, стоит рассмотреть с этой точки зрения трудности, с которыми сталкивается любая вычислительная модель математического понимания при встрече с теоремой Гёделя.