Вычисление и сознательное мышление

В чем же здесь загвоздка? Неужели все дело лишь в вычис­лительных способностях, в скорости и точности работы, в объеме памяти или, быть может, в конкретном способе «связи» отдель­ных структурных элементов? С другой стороны, не может ли наш мозг выполнять какие-то действия, которые вообще невозможно описать через вычисление? Каким образом можно поместить в такую вычислительную картину нашу способность к осмыслен­ному осознанию — счастья, боли, любви, какого-либо эстетиче­ского переживания, желания, понимания и т. п.? Будут ли ком­пьютеры будущего действительно обладать разумом? Влияет ли обладание сознательным разумом на поведение индивида, и если влияет, то как именно? Имеет ли вообще смысл говорить о таких вещах на языке научных терминов; иными словами, обладает ли наука достаточной компетентностью для того, чтобы рассматри­вать вопросы, относящиеся к сознанию человека?

Мне кажется, что можно говорить, как минимум, о четырех различных точках зрения) — или даже крайностях, — которых разумный индивид может придерживаться в отношении данного вопроса:

Всякое мышление есть вычисление; в частности, ощущение осмысленного осознания есть не что иное, как результат вы­полнения соответствующего вычисления.

Осознание представляет собой характерное проявление фи­зической активности мозга; хотя любую физическую актив­ность можно моделировать посредством той или иной сово­купности вычислений, численное моделирование как таковое не способно вызвать осознание.

Осознание является результатом соответствующей физиче­ской активности мозга, однако эту физическую активность невозможно должным образом смоделировать вычислитель­ными средствами.

Осознание невозможно объяснить в физических, математи­ческих и вообще научных терминах.

Точка зрения полностью отрицающая взгляды физикалистов и рассматривающая разум как нечто абсолютно непод­властное языку науки, свойственна мистикам; и, по крайней мере, в какой-то степени, такое мировоззрение, видимо, сродни рели­гиозной доктрине. Лично я считаю, что связанные с разумом во­просы, пусть даже и не объясняемые должным образом в рамках современного научного понимания, не следует рассматривать как нечто, чего науке никогда не постичь. Пусть на данный момент наука и не способна сказать в отношении этих вопросов своего веского слова, со временем ее возможности неминуемо расши­рятся настолько, что в ней найдется место и для таких вопросов, причем не исключено, что в процессе такого расширения изме­нятся и сами ее методы. Отбрасывая мистицизм с его отрицанием научных критериев в пользу научного познания, я все же убежден, что и в рамках усовершенствованной науки вообще и математики в частности найдется немало загадок, среди которых не последнее место займет тайна разума. К некоторым из этих идей я еще вернусь в следующих главах книги, сейчас же достаточно будет сказать, что согласиться с точкой зрения я никак не могу, поскольку твердо намерен двигаться вперед, следуя пути, проло­женному наукой. Если мой читатель питает сильное убеждение, что истинным является именно пункт , в той или иной его форме, я попрошу его потерпеть еще немного и посмотреть, сколько нам удастся пройти вместе по дороге науки, — и попытаться при этом понять, куда, по моему убеждению, эта дорога в конечном счете нас приведет.

Теперь обратимся к противоположной крайности: к точке зрения . Эту точку зрения разделяют сторонники так называ­емого сильного, или жесткого, искусственного интеллекта (ИИ), иногда для обозначения такой позиции употребляется так­же термин функционализм, хотя некоторые распространяют термин «функционализм» еще и на определенные варианты пунк­та . Одни считают единственно возможной точкой зрения, которую допускает сугубо научное отношение. Другие воспри­нимают как нелепость, которая вряд ли стоит сколь-нибудь серьезного внимания. Существует, несомненно, множество раз­личных вариантов позиции . (Длинный список альтернативных версий вычислительной точки зрения приводится в [343].) Неко­торые из них отличаются лишь различным пониманием того, что следует считать «вычислением» или «выполнением вычисления». Есть и такие приверженцы , которые вообще не считают се­бя «сторонниками сильного ИИ», поскольку придерживаются принципиально иного взгляда на интерпретацию термина «вы­числение», нежели та, что предлагается в традиционном понятии ИИ (см. [ 111 ]). Я рассмотрю эти вопросы подробнее в § 1.4. Пока же достаточно будет понимать под «вычислением» такую опера­цию, какую способны выполнять обычные универсальные ком­пьютеры. Другие сторонники позиции могут расходиться в ин­терпретации значения терминов «осмысление» или «осознание». Некоторые отказываются признавать само существование та­кого феномена, как «осмысленное осознание», тогда как другие собственно феномен признают, однако рассматривают его лишь как своего рода «эмергентное свойство» (см. также §4.3 и §4.4), которое проявляется всякий раз, когда выполняемое вычисление имеет достаточную степень сложности (или громоздкости, или самоотносимости, или чего угодно еще). В § 1.12 я приведу свою собственную интерпретацию терминов «осознание» и «осмысле­ние». Пока же любые расхождения в возможной их интерпрета­ции не будут иметь особой важности для наших рассуждений.

Аргументы, приведенные мной в НРК, были направлены, главным образом, против точки зрения , или позиции сильного ИИ. Один только объем этой книги должен показать, что, хотя лично я не верю в истинность , я все же рассматриваю эту точку зрения как реальную возможность, на которую стоит обратить серьезное внимание. есть следствие предельно операционного подхода к науке, предполагающего, что абсолютно все феномены физического мира можно описать одними лишь вычислительны­ми методами. В одной из крайних вариаций такого подхода сама вселенная рассматривается, по существу, как единый гигантский компьютер), причем «осмысленные осознания», формирующие, в сущности, наш с вами сознательный разум, вызываются по­средством соответствующих субвычислений, выполняемых этим компьютером.

Я полагаю, что эта точка зрения (согласно которой фи­зические системы следует считать простыми вычислительными объектами) отчасти основывается на значительной и постоянно растущей роли вычислительных моделей в современной науке и отчасти из убеждения в том, что сами физические объекты — это, в некотором смысле, всего лишь «информационные моде­ли», подчиняющиеся математическим, вычислительным законам. Большая часть материи, из которой состоят наше тело и мозг, по­стоянно обновляется — неизменными остаются лишь их модели. Более того, и сама материя, судя по всему, ведет преходящее су­ществование, поскольку ее можно преобразовать из одной фор­мы в другую. Даже масса материального тела, которая является точной физической мерой количества материи, содержащегося в теле, может быть при определенных обстоятельствах превраще­на в чистую энергию (в соответствии со знаменитой формулой Эйнштейна ). Следовательно, и материальная субстанция, по-видимому, способна превращаться в нечто, обладающее лишь теоретико-математической реальностью. Более того, если верить квантовой теории, материальные частицы — это не что иное, как информационные «волны». (На этих вопросах мы более подробно остановимся во второй части книги.) Таким образом, сама материя есть нечто неопределенное и недолговечное, поэто­му вполне разумно предположить, что постоянство человеческого «я», возможно, больше связано с сохранением моделей, нежели реальных частиц материи.

Даже если мы не считаем возможным рассматривать все­ленную всего лишь как компьютер, к точке зрения нас могут подтолкнуть более практические, операционные соображения.

Предположим, что перед нами управляемый компьютером робот, который отвечает на вопросы так же, как это делал бы человек. Мы спрашиваем его, как он себя чувствует, и обнаруживаем, что его ответы полностью соответствуют нашим представлениям об ответах на подобные вопросы разумного существа, действи­тельно обладающего чувствами. Он говорит нам, что способен к осознанию, что ему весело или грустно, что он воспринимает красный цвет и что его волнуют вопросы «разума» и «собствен­ного я». Он может даже выразить озадаченность тем, следует ли ему допустить, что и других существ (в частности, людей) нужно рассматривать как обладающих сознанием, сходным с тем, на обладание которым претендует он сам. Что помешает нам пове­рить его утверждениям о том, что он ощущает, любопытствует, радуется, испытывает боль, особенно если учесть, что о других людях мы знаем ничуть не больше и все же считаем их обладаю­щими сознанием? Мне кажется, что операционный аргумент все же обладает значительной силой, хотя его и нельзя считать ре­шающим. Если все внешние проявления сознательного разума, включая ответы на непрекращающиеся вопросы, действитель­но могут быть полностью воспроизведены системой, управляе­мой исключительно вычислительными алгоритмами, то мы имеем полное право допустить, что в рамках рассматриваемой ситуации такая модель должна содержать и все внутренние проявления разума (включая собственно сознание).

Принимая или отвергая такой вывод из вышеприведенного рассуждения, которое в основе своей составляет суть так называ­емого теста Тьюринга, мы тем самым определяем свою при­надлежность к тому или иному лагерю — именно здесь проходит граница между позициями .Согласно , любого управляемого компьютером робота, который после достаточно большого количества заданных ему вопросов ведет себя так, словно он обладает сознанием, следует фактически считать обладающим сознанием. Согласно , робот вполне может вести себя точно так же, как обладающий сознанием человек, при этом реально не имея и малой доли этого внутреннего качества. И сходятся в том, что управляемый компьютером робот может ве­сти себя так, как ведет себя обладающий сознанием человек, же, напротив, не допускает и малейшей возможности того, что когда-либо может быть реализована эффективная модель обла­дающего сознанием человека в виде управляемого компьютером робота. Таким образом, согласно , после некоторого достаточно большого количества вопросов реальное отсутствие сознания у робота так или иначе проявится. Вообще говоря, является в го­раздо большей степени операционной точкой зрения, нежели , и в этом отношении она больше похожа на , чем на Так что же представляет собой позиция ? Я думаю, что — это, вероятно, именно та точка зрения, которую многие полагают «научным здравым смыслом». Описываемый ею искусственный интеллект еще называют слабым (или мягким) ИИ. Подобно , она утверждает, что все физические объекты этого мира должны вести себя в соответствии с некоторыми научными принципами, которые, в принципе, допускают создание вычислительной моде­ли этих объектов. С другой стороны, эта точка зрения уверен­но отрицает мнение операционистов, согласно которому любой объект, внешне проявляющий себя как сознательное существо, непременно обладает сознанием. Как отмечает философ Джон Серл, вычислительную модель физического процесса никоим образом не следует отождествлять с самим процессом, проис­ходящим в действительности. (Компьютерная модель, например, урагана — это совсем не то же самое, что и реальный ураган!) Со­гласно взгляду , наличие или отсутствие сознания очень сильно зависит от того, какой именно физический объект «осуществляет мышление» и какие физические действия он при этом совершает. И только потом следует рассмотреть конкретные вычисления, которых требуют эти действия. Таким образом, активность био­логического мозга может вызвать осознание, а вот его точная электронная модель вполне может оказаться на это неспособной. Это различие, по , совсем не обязательно должно оказаться различием между биологией и физикой. Однако крайне важным остается реальное материальное строение рассматриваемого объекта (скажем, мозга), а не просто его вычислительная актив­ность.

Позиция , на мой взгляд, ближе всех к истине. Она подра­зумевает более операционный подход, нежели , так как утвер­ждает, что существуют такие внешние проявления обладающих сознанием объектов (скажем, мозга), которые отличаются от внешних проявлений компьютера: внешние проявления сознания невозможно должным образом воспроизвести вычислительными методами. Свои основания для такой убежденности я приведу несколько позже. Поскольку , как и , не отвергает позиции физикалистов, согласно которой разум возникает в результате проявления активности тех или иных физических объектов (на­пример, мозга, хотя это и не обязательно), следовательно, под­разумевает, что не всякую физическую активность можно долж­ным образом смоделировать вычислительными методами.

Допускает ли современная физика возможность существо­вания процессов, которые принципиально невозможно смодели­ровать на компьютере? Если мы надеемся получить на этот во­прос математически строгий ответ, то нас ждет разочарование. По крайней мере, лично мне такой ответ неизвестен. Вообще, с математической точностью здесь дело обстоит несколько запу­таннее, чем хотелось бы). Однако сам я убежден в том, что подобные невычислимые процессы следует искать за предела­ми тех областей физики, которые описываются известными на настоящий момент физическими законами. Далее в этой книге я вновь перечислю некоторые весьма серьезные — причем имен­но физические — доводы в пользу того, что мы действительно нуждаемся в новом взгляде на ту область, которая лежит между уровнем микроскопических величин, где господствуют квантовые законы, и уровнем «обычных» размеров, подвластным класси­ческой физике. Хотя, надо сказать, далеко не все современные физики единодушно уверены в необходимости подобной новой физической теории.

Таким образом, существуют, как минимум, две различные точки зрения, которые можно отнести к категории . Одни сто­ронники утверждают, что наше современное физическое по­нимание абсолютно адекватно, следует лишь обратить в рамках традиционной теории более пристальное внимание на некото­рые тонкие типы поведения, которые вполне могут вывести нас за пределы того, что целиком и полностью объяснимо с помо­щью вычислений (некоторые из таких типов мы рассмотрим ни­же — например, хаотическое поведение (§ 1.7), некоторые тон­кости непрерывного действия в противоположность дискретному (§ 1.8), квантовая случайность). Другие же, напротив, полагают, что современная физика, в сущности, не располагает должны­ми средствами для реализации невычислимости требуемого типа. Далее я представлю некоторые веские, на мой взгляд, доводы в пользу принятия позиции именно в этом, более строгом, ее варианте, который предполагает создание фундаментально новой физики.

Кое-кто попытался было объявить, что эти соображения от­правляют меня прямиком в лагерь сторонников точки зрения , поскольку я утверждаю, что для отыскания хоть какого-то объ­яснения феномену сознания нам придется выйти за пределы из­вестной науки. Однако между упомянутым строгим вариантом и точкой зрения есть существенная разница, в частности, на уровне методологии. В соответствии с , проблема осмыслен­ного осознания носит, в сущности, научный характер, даже если подходящей наукой мы пока что не располагаем. Я всецело под­держиваю эту точку зрения; я полагаю, что ответы на интересую­щие нас вопросы нам следует искать именно с помощью научных методов — разумеется, должным образом усовершенствованных, пусть даже о конкретной природе необходимых изменений мы, возможно, имеем на данный момент лишь самое смутное пред­ставление. В этом и состоит ключевая разница между , на­сколько бы похожими не казались нам соответствующие мнения относительно того, на что способна современная наука.

Определенные выше точки зрения представляют собою крайности, или полярные точки возможных позиций, кото­рых может придерживаться тот или иной индивидуум. Я вполне допускаю, что кому-то может показаться, что их собственные взгляды не подходят ни под одну из перечисленных категорий, а лежат где-то между ними либо противоречат некоторым из них. Безусловно, между такими, например, крайними точками зрения, как , можно разместить множество различных промежуточных точек зрения (см. [343]). Существует даже мне­ние (весьма, кстати, широко распространенное), которое лучше всего определяется как комбинация (или, быть может, и ), — предусматриваемая им возможность еще сыграет нема­ловажную роль в наших дальнейших размышлениях. Согласно этому мнению, мозг действительно работает как компьютер, од­нако компьютер настолько невообразимой сложности, что его имитация не под силу человеческому и научному разумению, ибо он, несомненно, является божественным творением Господа — «лучшего в мире системотехника», не иначе!

Физикализм и ментализм

Я должен сделать здесь краткое отступление касательно использования терминов «физикалист» и «менталист», обыч­но противопоставляемых один другому, в нашей конкретной ситуации, т. е. в отношении крайних точек зрения, обозначенных нами через .Поскольку являет собой полное отрицание физикализма, сторонников безусловно следует считать менталистами. Однако мне не совсем ясно, где провести границу между физикализмом и ментализмом в случае с тремя другими позициями Я полагаю, что приверженцев следует обыкновенно считать физикалистами, и я уверен, что подавля­ющее их большинство согласилось бы со мной. Однако здесь скрывается некий парадокс. В соответствии с , материальное строение мыслящего устройства считается несущественным. Все его мыслительные атрибуты определяются лишь вычислениями, которые это устройство выполняет. Сами по себе вычисления суть феномены абстрактной математики, не связанные с конкрет­ными материальными телами. Таким образом, согласно , сами мыслительные атрибуты не имеют жесткой связи с физически­ми объектами, а потому термин «физикалист» может показаться несколько неуместным. Точки зрения , напротив, требуют, чтобы при определении наличия в том или ином объекте подлин­ного разума решающую роль играло реальное физическое стро­ение рассматриваемого объекта. Соответственно, вполне можно было бы утверждать, что именно эти точки зрения, а никак не , представляют возможные позиции физикалистов. Однако такая терминология, по-видимому, вошла бы в некоторое противоречие с общепринятым употреблением, где более уместным считается называть «менталистами» сторонников , поскольку в этих случаях свойства мышления рассматриваются как нечто «реаль­ное», а не просто как «эпифеномены», которые случайным обра­зом возникают при выполнении определенных типов вычислений. Ввиду такой путаницы, я буду избегать использования терминов «физикалист» и «менталист» в последующих рассуждениях, ссы­лаясь вместо этого на конкретные точки зрения , определенные выше.