Спасут ли роботы этот безумный мир?

РОДЖЕР ПЕНРОУЗ

«Тени разума. В поисках науки о сознании.»

Часть I. ПОЧЕМУ ДЛЯ ПОНИМАНИЯ РАЗУМА НЕОБХОДИМА НОВАЯ ФИЗИКА? Невычислимость сознательного мышления

СОЗНАНИЕ И ВЫЧИСЛЕНИЕ

Разум и наука

Насколько широки доступные науке пределы? Подвластны ли ее методам лишь материальные свойства нашей Вселенной, тогда как познанию нашей духовной сущности суждено навеки остаться за рамками ее возможностей? Или, быть может, одна­жды мы обретем надлежащее научное понимание тайны разума? Лежит ли феномен сознания человека за пределами досягаемости научного поиска, или все же настанет тот день, когда силой на­учного метода будет разрешена проблема самого существования наших сознательных «я»?

Кое-кто склонен верить, что мы действительно способны приблизиться к научному пониманию сознания, что в этом фе­номене вообще нет ничего загадочного, а всеми существенными его ингредиентами мы уже располагаем. Они утверждают, что в настоящий момент наше понимание мыслительных процессов человека ограничено лишь крайней сложностью и изощренной организацией человеческого мозга; разумеется, эту сложность и изощренность недооценивать ни в коем случае не следует, однако принципиальных препятствий для выхода за рамки современной научной картины нет. На противоположном конце шкалы распо­ложились те, кто считает, что мы не можем даже надеяться на адекватное применение холодных вычислительных методов бес­чувственной науки к тому, что связано с разумом, духом да и самой тайной сознания человека.

В этой книге я попытаюсь обратиться к вопросу сознания с научных позиций. При этом, однако, я твердо убежден (и осно­вано это убеждение на строго научной аргументации) в том, что в современной научной картине мира отсутствует один очень важный ингредиент. Этот недостающий ингредиент совершенно необходим, если мы намерены хоть сколько-нибудь успешно уме­стить центральные проблемы мыслительных процессов человека в рамки логически последовательного научного мировоззрения. Я утверждаю, что сам по себе этот ингредиент не находится за пределами, доступными науке, хотя в данном случае нам, несо­мненно, придется в некоторой степени расширить наш научный кругозор. Во второй части книги я попытаюсь указать читателю конкретное направление, следуя которому он непременно придет как раз к такому расширению современной картины физической вселенной. Это направление связано с серьезным изменением са­мых основных из наших физических законов, причем я весьма де­тально опишу необходимую природу этого изменения и возмож­ности его применения к биологии нашего мозга. Даже обладая нынешним ограниченным пониманием природы этого недостаю­щего ингредиента, мы вполне способны указать области, отме­ченные его несомненным влиянием, и определить, каким именно образом он вносит крайне существенный вклад в то, что лежит в основе осознаваемых нами ощущений и действий.

Разумеется, некоторые из приводимых мной аргументов ока­жутся не совсем просты, однако я постарался сделать свое изло­жение максимально ясным и везде, где только возможно, исполь­зовал лишь элементарные понятия. Кое-где в книге все же встре­чаются некоторые сугубо математические тонкости, но только тогда, когда они действительно необходимы или каким-то обра­зом способствуют достижению более высокой степени ясности рассуждения. С некоторых пор я уже не жду, что смогу с помо­щью аргументов, подобных приводимым ниже, убедить в своей правоте всех и каждого, однако хотелось бы отметить, что эти аргументы все же заслуживают внимательного и беспристраст­ного рассмотрения — хотя бы потому, что они создают прецедент, пренебрегать которым нельзя.

Научное мировоззрение, которое на глубинном уровне не желает иметь ничего общего с проблемой сознательного мыш­ления, не может всерьез претендовать на абсолютную завершен­ность. Сознание является частью нашей Вселенной, а потому лю­бая физическая теория, которая не отводит ему должного места, заведомо неспособна дать истинное описание мира. Я склонен думать, что пока ни одна физическая, биологическая либо математическая теория не приблизилась к объяснению нашего созна­ния и его логического следствия — интеллекта, однако этот факт ни в коей мере не должен отпугнуть нас от поисков такой теории. Именно эти соображения легли в основу представленных в книге рассуждений. Возможно, продолжая поиски, мы когда-нибудь получим в полной мере приемлемую совокупность идей. Если это произойдет, то наше философское восприятие мира претерпит, по всей вероятности, глубочайшую перемену. И все же научное знание — это палка о двух концах. Важно еще, что мы намере­ны делать со своим научным знанием. Попробуем разобраться, куда могут привести нас наши взгляды на науку и разум.

Спасут ли роботы этот безумный мир?

Открывая газету или включая телевизор, мы всякий раз рис­куем столкнуться с очередным проявлением человеческой глупо­сти. Целые страны или отдельные их области пребывают в вечной конфронтации, которая время от времени перерастает в отвра­тительнейшие войны. Чрезмерный религиозный пыл, национа­лизм, интересы различных этнических групп, простые языковые или культурные различия, а то и корыстные интересы отдельных демагогов могут привести к непрекращающимся беспорядкам и вспышкам насилия, порой беспрецедентным по своей жестоко­сти. В некоторых странах власть до сих пор принадлежит де­спотическим авторитарным режимам, которые угнетают народ, держа его под контролем с помощью пыток и бригад смерти. При этом порабощенные — то есть те, кто, на первый взгляд, должны быть объединены общей целью, — зачастую сами конфликтуют друг с другом; создается впечатление, что, получи они свободу, в которой им так долго отказывали, дело может дойти до самого настоящего взаимоистребления. Даже в сравнительно благопо­лучных странах, наслаждающихся преуспеянием, миром и демо­кратическими свободами, природные богатства и людские ресур­сы проматываются очевидно бессмысленным образом. Не яв­ный ли это признак общей глупости Человека? Мы уверены, что являем собой апофеоз интеллекта в царстве животных, однако этот интеллект, по всей видимости, оказывается самым жалким образом не способен справиться с множеством проблем, которые продолжает ставить перед нами наше собственное общество.

Впрочем, нельзя забывать и о положительных достижениях нашего интеллекта. Среди них — весьма впечатляющие наука и технология. В самом деле, признавая, что некоторые плоды этой технологии имеют явно спорную долговременную (или сиюми­нутную) ценность, о чем свидетельствуют многочисленные про­блемы, связанные с окружающей средой, и неподдельный ужас перед техногенной глобальной катастрофой, нельзя забывать и о том, что эта же технология является фундаментом нашего совре­менного общества со всеми его удобствами, свободой от страха, болезней и нищеты, с обширными возможностями для интел­лектуального и эстетического развития, включая весьма способ­ствующие этому развитию средства глобальной коммуникации. Если технология сумела раскрыть столь огромный потенциал и, в некотором смысле, расширила границы и увеличила возмож­ности наших индивидуальных физических «я», то не следует ли ожидать от нее еще большего в будущем?

Благодаря технологиям — как древним, так и современ­ным — существенно расширились возможности наших органов чувств. Зрение получило поддержку и дополнительную функ­циональность за счет очков, зеркал, телескопов, всевозмож­ных микроскопов, а также видеокамер, телевизоров и т. п. Не остались в стороне и наши уши: сначала им помогали слу­ховые трубки, теперь же — крохотные электронные слуховые аппараты; что касается функциональных возможностей наше­го слуха, то их расширение связано с появлением телефонов, радиосвязи и спутников. На подмогу естественным средствам передвижения приходят велосипеды, поезда, автомобили, кора­бли и самолеты. Помощниками нашей памяти выступают печат­ные книги и фильмы, а также огромные емкости запоминаю­щих устройств электронных, компьютеров. Наши способно­сти к решению вычислительных задач — простых и рутинных или же громоздких и изощренных — также весьма увеличива­ются благодаря возможностям современных компьютеров. Та­ким образом, технология не только обеспечивает громадное рас­ширение сферы деятельности наших физических «я», она так­же усиливает наши умственные возможности, совершенствуя наши способности к выполнению многих повседневных задач. А как насчет тех умственных задач, которые далеки от обы­денности и рутины, — задач, требующих участия подлинного интеллекта? Совершенно естественно спросить: поможет ли нам и в их решении технология, основанная на повсеместной компьютеризации?

Я практически не сомневаюсь, что в нашем технологическом (часто сплошь компьютеризованном) обществе в неявном виде присутствует, как минимум, одно направление, содержащее гро­мадный потенциал для совершенствования интеллекта. Я имею в виду образовательные возможности нашего общества, которые могли бы весьма значительно выиграть от применения различных аспектов технологии, — для этого требуются лишь должные чут­кость и понимание. Технология обеспечивает необходимый по­тенциал, т. е. хорошие книги, фильмы, телевизионные программы и всевозможные интерактивные системы, управляемые компью­терами. Эти и прочие разработки предоставляют массу возмож­ностей для расширения нашего кругозора; они же, впрочем, могут и задушить его. Человеческий разум способен на гораздо боль­шее, чем ему обычно дают шанс достичь. К сожалению, эти воз­можности зачастую попросту разбазариваются, и умы как ста­рых, так и малых не получают тех благоприятных возможностей, которых они несомненно заслуживают.

Многие читатели спросят: а нет ли какой-то иной возможно­сти существенного расширения умственных способностей чело­века — например, с помощью этакого нечеловеческого электрон­ного «интеллекта», к появлению которого нас как раз вплотную подводят выдающиеся достижения компьютерных технологий? Действительно, уже сейчас мы часто обращаемся за интеллек­туальной поддержкой к компьютерам. В очень многих ситуациях человек, используя лишь свой невооруженный разум, оказывает­ся не в состоянии оценить возможные последствия того или иного своего действия, так как они могут находиться далеко за пре­делами его ограниченных вычислительных способностей. Таким образом, можно ожидать, что в будущем произойдет значитель­ное расширение роли компьютеров именно в этом направлении, т. е. там, где для принятия решения человеческому интеллекту требуются именно однозначные и вычислимые факты.

И все же не могут ли компьютеры достичь в конечном итоге чего-то большего? Многие специалисты заявляют, что компью­теры обладают потенциалом, достаточным — по крайней мере, принципиально — для формирования искусственного интел­лекта, который со временем превзойдет наш собственный. По утверждению этих специалистов, как только управляемые посредством вычислительных схем роботы достигнут уровня «эк­вивалентности человеку», понадобится совсем немного времени, чтобы они значительно поднялись над нашим ничтожным уров­нем. Только тогда, не унимаются специалисты, появятся у нас власти, обладающие интеллектом, мудростью и пониманием, до­статочными для того, чтобы суметь разрешить глобальные про­блемы этого мира, человечеством же и созданные.

Когда же нам следует ожидать наступления сего счастливого момента? По данному вопросу у упомянутых специалистов нет единого мнения. Одни говорят о многих столетиях, другие заяв­ляют, будто эквивалентность компьютера человеку будет достиг­нута всего через несколько десятилетий. Последние обычно указывают на очень быстрый «экспоненциальный» рост мощно­сти компьютеров и основывают свои оценки на сравнении скоро­сти и точности транзисторов с относительной медлительностью и «небрежностью» нейронов. И правда, скорость работы элек­тронных схем уже более чем в миллион раз превышает скорость возбуждения нейронов в мозге (порядка операций в секунду для транзисторов и лишь для нейронов), при этом электрон­ные схемы демонстрируют высокую точность синхронизации и обработки инструкций, что ни в коей мере не свойственно ней­ронам. Более того, конструкции «принципиальных схем» мозга присуща высокая степень случайности, что, на первый взгляд, представляется весьма серьезным недостатком по сравнению с продуманной и точной организацией электронных печатных плат.

Кое в чем, однако, нейронная структура мозга все же вполне измеримо превосходит современные компьютеры, хотя это пре­восходство может оказаться относительно недолговечным. Уче­ные утверждают, что по общему количеству нейронов (несколько сотен тысяч миллионов) человеческий мозг опережает в пересче­те на транзисторы современные компьютеры. Более того, в сред­нем, нейроны мозга соединены гораздо большим количеством связей, нежели транзисторы в компьютере. В частности, клетки Пуркинье в мозжечке могут иметь до синаптических окончаний (зон контакта между нейронами), тогда как для компьютера соответствующее значение равно максимум трем или четырем. (В дальнейшем я приведу еще несколько комментариев относительно мозжечка; см. § 1.14, §8.6.) Кроме того, большая часть транзисторов в современных компьютерах занимается лишь хра­нением данных и не имеет отношения непосредственно к вычис­лениям, тогда как в мозге, по всей видимости, в вычислениях может принимать участие гораздо более значительный процент клеток.

Это временное превосходство мозга может быть без труда преодолено в будущем, особенно когда должное развитие получат вычислительные системы с массивным «параллелизмом». Пре­имущество компьютеров в том, что отдельные их узлы можно объединять друг с другом, создавая все более крупные блоки, так что общее количество транзисторов, в принципе, можно увеличи­вать почти бесконечно. Кроме того, ждут своего выхода на сце­ну и технологические инновации — такие, как замена кабелей и транзисторов современных компьютеров соответствующими оп­тическими (лазерными) устройствами, благодаря чему, вероятно, будет достигнуто огромное увеличение скорости и мощности с одновременным уменьшением размеров компьютеров. На более фундаментальном уровне можно отметить, что наш мозг, судя по всему, застрял на своем теперешнем уровне, и его количествен­ные характеристики вряд ли в обозримом будущем изменятся; кроме того, имеется и много других ограничений — например, мозг вырастает из одной-единственной клетки, и ничего с этим не поделаешь. Компьютеры же можно конструировать, учиты­вая заранее возможность их расширения по мере необходимости. Хотя несколько позже я укажу на некоторые важные факторы, которые в данном рассуждении пока не фигурируют (в частности, речь пойдет о весьма бурной деятельности, лежащей в основе функционирования нейронов), одна лишь вычислительная мощь компьютеров вполне способна составить очень и очень внуши­тельный довод в пользу следующего неутешительного предполо­жения: если машина на данный момент и не превосходит челове­ческий мозг, то она непременно превзойдет его в самом ближай­шем будущем.

Таким образом, если поверить самым смелым заявлениям наиболее отъявленных провозвестников искусственного интел­лекта и допустить, что компьютеры и управляемые ими роботы в конечном счете — и даже, вероятно, довольно скоро — во всем превзойдут человека, то получается, что компьютеры способны стать чем-то неизмеримо большим, чем просто помощниками нашего интеллекта. Они, в сущности, разовьют свой собственный колоссальный интеллект. А мы сможем обращаться к этому выс­шему интеллекту за советом и поддержкой во всех своих забо­тах — и наконец-то появится возможность исправить все то зло, что мы принесли в этот мир!

Однако из этих потенциальных соображений возможно, по-видимому, и другое логическое следствие, причем весьма и весьма тревожное. Не сделают ли такие компьютеры в итоге ненужными самих людей? Если управляемые компьютерами роботы превзой­дут нас во всех отношениях, то не обнаружат ли они, что машины в состоянии править миром неизмеримо лучше людей, и не сочтут ли они нас в таком случае вообще ни на что не пригодными? Все человечество окажется в таком случае не более чем пережитком прошлого. Быть может, если повезет, они оставят нас при се­бе в качестве домашних животных, как однажды предположил Эдвард Фредкин. Возможно также, что у нас достанет сообра­зительности, и мы сумеем перенести «информационные модели», составляющие нашу «сущность», в машинную форму — о такой возможности писал Ханс Моравек(1988). Опять же, может, и не повезет, а сообразительности не достанет...