Компьютеры и искусственный интеллект

Технические аналогии

О каком бы театре ни шла речь, реальном или воображаемом, мы уже далеко отошли от первоначального намерения Цицерона и давно преодолели заблуждение Платона о вреде письменного слова для ума: появляется технологический императив использования механизмов памяти. Но для этого нужны определенные усилия, чтобы понять и объяснить эти механизмы, и именно здесь особое значение приобретает своеобразное двойственное отношение техники к биологии вообще и к биологии разума в частности.

В науке объяснение осуществляется через аналогию. Мы пытаемся понять неизвестное, сравнивая его с тем, что уже знаем или по крайней мере думаем, что знаем. Возьмем одно из самых фундаментальных подразделений известного нам мира - разделение на одушевленное и неодушевленное. В науке первое стало предметом биологии, а второе - физики. В дотехнологическую эру в западных обществах и во многих других культурнь1х традициях конечное объяснение давалось попеременно то биологией, то физикой. Непредсказуемые перемены ветра и дождя, равно как и регулярность поведения рек, моря и земли, звезд, солнца и луны объяснялись анимистически, как отражение желаний и прихотей местных и всеобщих богов, которые руководствуются теми же побуждениями, что и люди. С другой стороны, проявления всего одушевленного, т. е. биологические феномены, метафорически объяснялись на языке физики и все чаще - техники. Из-за сложности биологических систем их обычно уподобляют самым сложным и совершенным формам современной технологии. У каждого периода, каждой культуры есть такая форма или, как выразился Дэвид Болтер [б], определяющая технология. В самом деле, мы делим предысторию человечества на этапы именно по таким определяющим технологиям: каменный век, бронзовый век, железный век1.

В древних культурах одной из самых тонких технологий было гончарное дело, позволявшее с помощью глины и гончарного круга, глазури и огня создавать форму и рисунок. Не удивительно, что в этих культурах (где мы снова и снова встречаем в сказаниях Старого и Нового Света миф о сотворении) божество с гончарным кругом лепит людей, а потом вдыхает в них жизнь. В других мифах фигурируют прядение и ткачество; например, парки держат в руках нити жизни. Не избежала такой метафоризации и память. Для древних память с запечатлеваемыми в ней образами была тем же самым, что «восковые таблички с написанными на них буквами», как говорит Цицерон в трактате «Об ораторе». Отзвук этой метафоры слышен и в последующие века. Она лежит в основе философских споров XVIII века и научно-идеологических дискуссий XIX и XX веков о том, рождаются ли люди с уже определившимися склонностями или же их душа - как tabula rasa, чистая грифельная доска, на которую лишь опыт впервые наносит свои надписи.

1) И не только предысторию. В нашей с Хилари Роуз книге о развитии науки как общественного института мы писали о войне 1914-1918 годов как о войне химиков, а о периоде 1939-1945 годов как о войне физиков. А теперь наступает уже век компьютерных и даже биологических войн [7].

В наше время слово «память» можно услышать в бесчисленных научных дебатах. Этот термин используют в математике, физике и химии, в молекулярной биологии, генетике, иммунологии и теории эволюции, не говоря уже о работах по искусственному интеллекту, однако здесь имеется в виду совсем не та память, которую изучают нейробиологи, физиологи и даже романисты и которая интересует меня. Почему так многозначно слово «память»? Имеем ли мы дело с простой игрой слов, т. е. использованием слов, взятых из одного контекста, в другом контексте? Или же тот факт, что термин используется в столь разных областях науки, проливает свет на возможные механизмы и процессы, с которыми связана память?

Могут ли разнообразные аналогии что-нибудь дать для познания природы какого-либо явления, даже высветить неожиданное сходство, казалось бы, совершенно разных явлений, или это всего лишь фигуры речи? В каком смысле память можно уподоблять восковым дощечкам или... компьютерам?

В науке следует различать три типа аналогий, или метафор [9]. Первый тип - поэтические метафоры, как, например, описание электронов, данное Резерфордом, который сравнил электроны, движущиеся по орбитам вокруг атомного ядра, с планетами, обращающимися вокруг Солнца. Проводя такую аналогию, ученый, разумеется, был далек от мысли уподоблять ядро и электроны Солнцу и планетам или считать связывающие их силы гравитационными. Здесь аналогия нужна лишь для того, чтобы создать наглядный зрительный образ. Очевидно, что к этому типу относится и древняя метафора гончарного круга.

Второй тип аналогий - эвокативный; здесь происходит перенос какого-то принципа из одной области в другую. Например, вплоть до средневековья и революционизирующих открытий Ньютона полагали, что если что-нибудь движется, то его должно тянуть или толкать что-то другое. Поэтому, подыскивая объяснение движению Солнца вокруг Земли, его сравнивали с влекомой конями огненной колесницей.

Наконец, аналогия может служить для утверждения структурного или организационного тождества. Например, когда в XVII веке Уильям Гарвей открыл кровообращение и сравнил сердце с насосом, эта метафора имела совершенно точное значение, что отличало ее от двух предыдущих типов. Как часть системы кровообращения, сердце и в самом деле действует как насос, и по своему устройству - с его клапанами и фазами наполнения и опорожнения - оно сходно по крайней мере с теми типами механических насосов, которые существовали во времена Гарвея. Сравнение сердца с насосом позволяет создавать математические модели его работы и точно описывать многие свойства этого органа.

К какому же типу аналогий можно отнести сравнение памяти с восковыми дощечками или компьютерами - к поэтическому, эвокативному или структурному? Или оно не относится ни к одному из них и только запутывает дело?

Декартовское раздвоение

С рождением современной науки в Европе XVII века была нарушена симметрия между уподоблением физических сил жизненным, а биологических явлений - техническим моделям. Важно понять, что это прежде всего феномен западного мира, и объясняется он тем, что формирование науки было рождением двойни, а не одного младенца. Современная наука появилась и развивалась до зрелого состояния вместе с особой формой буржуазной, капиталистической организации общества, поэтому и наука, и общество имеют во многом общую философско-идеологическую базу, определявшую понимание и подходы к природе и общественным отношениям [7, 9]. Другие культуры со свойственными им научными традициями долго сопротивлялись разрушению симметрии, которое уже произошло в западной науке. Конечно, это прежде всего относится к Китаю [10], где никогда не было столь резкого деления природы на живую и неживую, так же как и других форм дуализма, обосновавшегося в западной культурной традиции.

Однако развивавшаяся в Европе наука не выходила за рамки, определенные для нее Галилеем, Ньютоном и, конечно, Декартом, который больше, чем кто-либо другой, дебиологизировал физический мир, превратив его в простой «механизм». Для этих ученых «определяющей технологией» были часы и ассоциировавшиеся с ними системы шестеренок и гидравлических передач, которые, работая вместе, обеспечивали невообразимую раньше точность движения - его можно было описать математическими уравнениями. Часовые механизмы преобразили время, установили границы прежде считавшейся неделимой вселенной, расчленили ее на части, каждую из которых можно было оценивать и изучать по отдельности1. Гидравлика была источником силы и управляла движением в этой механической вселенной. Новая физика не просто по-новому объясняла вселенную, но давала новую технику, формировала новые системы производства и новые производственные отношения. Европа вступила на путь индустриализации и колониальных завоеваний (курс, который теперь она уже оставила), а математическая физика стала определяющей моделью научного объяснения, с которой сопоставляются все другие модели. Если само движение планет. Луны и Солнца можно описать с помощью несложной математики, как будто оно неотвратимо вытекает из уравнений, почему нельзя так же просто поступить с биологией?

1 С появлением цифровых (в отличив от аналоговых) часов время стали делить и рассчитывать еще точнее, все дальше отходя от мирового времени, которое определялось циклической сменой дня и ночи, месяцев, сезонов и лет. В современном мире ношение аналоговых часов вместо цифровых выливается в слабый акт сопротивления, на что впервые указал Морис Базен, радикальный физик и один из лучших популяризаторов науки.

Конечно, могло быть иначе. Биология как организованная наука могла сложиться раньше физики, а менее механистические, более телеологичные (телеономические) функциональные и эволюционистские приемы объяснения одушевленного мира, предлагаемые биологией, могли стать моделью, которую стремились бы найти физики. В таком случае редукционизм, настаивающий на том, что в конечном итоге мир можно объяснить на основе атомных и квантовых свойств и с помощью нескольких универсальных уравнений, был бы не более чем нелепым извращением истинно научного толкования [II], а биологи уже не страдали бы от зависти к физикам и не стыдились своего предмета как «мягкой», а не «жесткой» науки. Однако этому не суждено было случиться. Возобладали технологические, а не биологические аналогии, и в руках Декарта сами живые организмы превратились в подобие часов, устройства, где внутренние процессы поддерживаются сложными гидравлическими системами труб и клапанов.

Как известно, Декарт сделал кардинальное исключение для человека. Хотя повседневная работа человеческого организма была, по его представлениям, таким же механическим процессом, как и у животных, людей он признавал мыслящими существами и, что еще важнее, они имели душу, тогда как животные, по Декарту, способны лишь строго определенным образом реагировать на окружающую среду. Мысль и душа - бестелесные сущности, но они взаимодействуют с механизмами тела через специальный орган - шишковидную железу, расположенную в глубине мозга. Декарт выбрал эту железу по двум причинам. Во-первых, в отличие от всех других, парных, структур мозга, который и в целом состоит из двух более или менее симметричных полушарий, эта железа является непарным органом, она не дублирована. Это позволяет ей объединять все мыслительные процессы. Во-вторых, шишковидная железа имеется только у людей и отсутствует у животных. Разумеется, в обоих случаях Декарт был неправ. В мозгу много других непарных структур, а шишковидная железа есть и у остальных позвоночных. Однако почерпнутая из теории логика аргументации Декарта по-прежнему обращена к тем, кто вместе с ним хотел бы отстоять уникальность человека: «Немыслимо по моральным соображениям, чтобы какая-то машина была настолько универсальной, что могла бы действовать во всех случаях жизни так, как нас заставляет действовать наш разум» [12].

Именно отсюда берет начало провозглашенный Декартом разрыв между душой и телом - дуализм, который на три столетия затуманил научное и философское мышление запада навязчивым и необоснованным беспокойством относительно «проблемы сознания и мозга».

Однако сейчас декартовские сравнения с часовым механизмом и гидравлическими системами интересуют меня больше, чем картезианский дуализм. Современное движение в защиту прав животных во многом использовало в своих интересах эту сторону мышления Декарта, которая привела его к утверждению, что крики боли подопытных животных - это не что иное, как скрип несмазанных машин. Наиболее серьезно картезианские представления были восприняты французской физиологической школой в XIX веке (особенно Клодом Бернаром) с ее безразличным отношением к страданиям животных [13]. Современные нарекания на Декарта, разумеется, справедливы, но я бы добавил, что его метафоры вредны не только своей трактовкой природы животных, но не в меньшей мере - членением и уничижением цельного человеческого естества. Может быть, Декарт и сохранил для католицизма душу и разум, облачив их в лучший воскресный наряд и позволив им манипулировать рукоятками механизма через шишковидную железу, но на остальные шесть дней недели он оставил механического человека дебиологизированным и десакрализованным, как простую bete machine, совершенно не защищенным в условиях промышленной революции XVIII и XIX веков. Требовалось лишь время, чтобы технология бросила вызов декартовым «моральным соображениям».

Этой мрачной философии и идеологической ущербности противостоят, однако, крупные завоевания картезианства. Вывод о связи психических функций с мозгом, даже в механистически-метафорической форме, был отнюдь не тривиален. Мысль о мозге как о местонахождении разума и души не есть самоочевидная идея, какой бы естественной она ни казалась нам сейчас. По Аристотелю, эти функции сосредоточены в сердце, по мнению древних евреев - в почках и кишечнике. Представители медицинской традиции Галена показали, что нервы отходят от мозга и что двигательные и сенсорные функции выпадают после повреждения этого органа. Образ мышления, основанный на понятиях гидравлики, сосредоточивал внимание не на жирной, по виду бездеятельной ткани, образующей мозг, а на его заполненных жидкостью центральных участках - желудочках, которые на любовно сделанных рисунках старых анатомов выглядят не менее впечатляющими, чем на набросках Леонардо.

Как следствие, в ранних гидравлических моделях памяти именно желудочки служили хранилищем воспоминаний, оживляемых потоками духа, который в свою очередь управлялся клапаном между передним и задним отделами мозга. В учении Декарта эта исключительно важная задача возлагалась на шишковидную железу:

Когда душа желает что-нибудь вспомнить..., воля заставляет железу отклоняться то в одну, то в другую сторону, направляя дух в разные отделы мозга, пока он, наконец, не натолкнется в одном из них на следы, оставленные предметом, который мы хотим вспомнить. Такие следы существуют просто потому, что поры в мозгу, через которые дух проходил раньше при восприятии этого предмета, теперь более других склонны открываться, когда дух снова направляется к ним. И тогда дух легче выходит в эти поры, вызывая в железе то особое движение, которое указывает душе на тот же предмет, заставляет ее узнать в нем именно то, что она хочет вспомнить [14].

Это остроумное описание содержит в себе зачатки многих современных представлении о механизмах памяти, рассматриваемых в этой книге. Оно показывает также, сколь прямолинейно философы подходят к биологическим проблемам. В связи с этим мне особенно нравится употребление Декартом слова «просто»; если бы так оно и было...

Как следует понимать эти картезианские метафоры памяти? Возможно, Декарт считал свою теорию таким же точным описанием процессов, происходящих в мозгу, каким для Гарвея было сравнение сердца с насосом. Но мне кажется, что мы должны воспринимать эту теорию всего-навсего как поэтическую метафору, как способ осмысления такого сложного феномена, как человек, который рассматривается не как объект sui generis, а как один из типов движущейся материи.

На протяжении XVIII и XIX веков метафоры разума и памяти постепенно менялись. С открытием Гальвани «животного электричества» (лягушка, дергающая лапками, к которым подсоединены металлические провода) нервная система перестала быть водяным лабиринтом и стала электрической сетью. В этой сети мозг сначала служил телеграфной сигнальной системой, а потом (в начале нынешнего столетия) превратился в телефонную станцию. Эта новая аналогия особенно нравилась знаменитому нейрофизиологу Шеррингтону. (Другой незабываемый, но явно поэтический шеррингтоновский образ - это «волшебный станок», плетущий узоры из электричества.) В отличие от гидравлических аналогий сравнение мозга с телеграфной и телефонной системами уже не было просто поэтической метафорой. Например, телеграф, подобно мозгу, преобразует входную информацию в символы (в руках Морзе и его последователей - в особые коды для отдельных букв), которые можно передавать на большие расстояния и после приема расшифровывать. Принцип телефонной связи еще более сходен с принципами работы мозга, так как в этом случае речь переводится в особым образом модулированный поток электронов, направляемый по проводам. В телефонной модели мозга последний перерабатывает входную информацию в выходную, так что, например, сигналы от глаз могут переключаться на путь, ведущий к мышцам ноги, и т. п.

В двадцатых годах нынешнего столетия было установлено, что через мозг и в самом деле непрерывно текут электрические токи, а приложенные к голове электроды регистрируют регулярные всплески и ритмические волны электрической активности, изменяющиеся во время покоя, умственной работы, сна и бодрствования. Это было тотчас воспринято как подтверждение телефонной модели с идеей о центральной станции, соединяющей абонентов, из которых одни набирают номера, а другие отвечают на вызов. Вот, например, как описан очень примитивный вариант такой модели в одной детской энциклопедии того времени:

Представьте, что ваш мозг - это административный отдел крупного предприятия... За большим столом в Главном управлении сидит Генеральный директор - это ваша сознательная личность; на столе телефонные аппараты, связывающие вас со всеми отделами... Представьте теперь, что вы рассеянно бредете по улице и вдруг встречаете своего приятеля Джонни Джонса. Он окликает вас по имени, вы останавливаетесь, приветствуете его, обмениваетесь рукопожатием. Все это как будто очень просто, но давайте посмотрим, что происходит в это время в вашем мозгу. В тот момент, когда Джонни Джонс произносит ваше имя, ваш Заведующий слухом передает звуки его голоса, а Заведующий зрением - фотографическое изображение. «Внимание!» - звучит сигнал в вашем кабинете, и тотчас на стол ложатся оба сообщения. Быстрый как молния мальчик-посыльный - ваша память - подбегает к картотеке и достает карточку. На ней значится, что голос и лицо принадлежат человеку по имени Джонни Джонс, который является вашим другом. Вы сразу же начинаете отдавать распоряжения... [15].

Компьютеры и искусственный интеллект

От восковой дощечки до мальчика-посыльного с его картотекой прошло больше 2000 лет, т. е. скорость прогресса в подборе аналогий была не так уж велика, и такие сравнения трудно было бы назвать даже поэтическими метафорами. Но действительно серьезный вызов утверждению Декарта об ограниченных возможностях неодушевленных систем был брошен определяющей технологией второй половины XX века - компьютерами. Ближайшие предшественники современных ЭВМ, как и многих других технических достижений, появились в результате военных разработок. К последним можно отнести и логические игры кембриджского математика Алана Тьюринга, которые нашли практическое применение при тренировках по декодированию, проводившихся в 1939-1945 годах Британской разведывательной службой в Блетчли-Парке (от которого рукой подать до моей нынешней лаборатории). Позже они были переведены на электронику для удовлетворения различных военных потребностей, например для создания эффективных сервомеханизмов для расчета высоты и направления при стрельбе из зенитных орудий по быстро движущимся целям. Эта задача была решена американским математиком Норбертом Винером, который дал новой науке название кибернетики, под которым она вошла в моду в послевоенные десятилетия. В этот период Винер и его коллега-математик Джон фон Нейман - разумеется, в сотрудничестве с американской (и в меньшей степени с британской) промышленностью - дали обоснование теории и практическому применению новой науки и возникшей на ее базе электронной технологии. Потребности военных, а вместе с тем и стимулы для новых разработок на протяжении последующего полувека не ослабевали и стали особенно бурно нарастать в 80-х годах - времени безудержных трат на создававшуюся под эгидой администрации Рейгана программу «звездных войн», которая требовала беспрецедентного увеличения компьютерной мощи. ЭВМ, работающие подобно мозгу и даже заменяющие его, превратились из темы научной фантастики в объект серьезных военных разработок. Уж очень привлекательной кажется перспектива создания «мыслящих систем», способных заменить или дополнить высококвалифицированных, хорошо оплачиваемых специалистов. Действительно, в наши дни трудно представить себе научную конференцию по вопросам обучения, памяти и их компьютерных моделей, на которой не ощущалось бы военное присутствие США в лице представителей военно-морского флота, военно-воздушных сил или ведомства, известного под зловещим акронимом ОАПНП (Оборонное агентство приоритетных научных проектов).

Качественная новизна компьютерной техники была очевидна с самого начала. Разумеется, и раньше существовали электромеханические счетные машины и подобные им аппараты. Но компьютеры общего назначения представляли собой нечто большее, чем быстродействующие счетные устройства и хранилища информации: они могли сравнивать и преобразовывать информацию, манипулировать ею, что делало возможным создание принципиально новых технологических процессов и инструментов и даже постановку любых мыслимых научных проблем, касающихся познания Вселенной. На протяжении последних двух десятилетий компьютеры постепенно, но во все нарастающем темпе изменяют способы, которыми мы познаем мир и воздействуем на него. Не удивительно, что столь велик идеологический резонанс компьютеризации. Перед создателями компьютерной техники с самого начала во весь рост встала проблема взаимоотношения между компьютером и мозгом. Это нашло отражение даже в их языке. Так, цифровая ЭВМ фон Неймана состояла из центрального процессора, выполнявшего арифметические и логические операции, и блока хранения информации, которые был тут же наречен его конструкторами памятью.

Компьютерная память - это система чипов (силиконовых плат с впечатанными транзисторами), хранящая информацию в форме двоичного кода, где каждая единица информации представлена одним из двух состояний (О, 1). Такая конструкция, разумеется, предполагает, что все хранимое и обрабатываемое в компьютере должно быть сначала переведено в форму, доступную для представления в цифровом двоичном выражении, как некоторое число битов (бинарных единиц) информации. Слово «информация» имеет здесь технический, даже технологический, а не повседневный смысл (об этом речь пойдет позже). Заслуживает внимания и то обстоятельство, что в названии «компьютерная память» неявно подразумевается, что операции, с помощью которых компьютер хранит или обрабатывает бинарные единицы, аналогичны процессам, происходящим в нашей, человеческой памяти.

На первый взгляд это сходство кажется весьма обнадеживающим. Разве эта языковая система не описывает физический, неодушевленный механизм по аналогии с биологической системой? А неудача попыток такого описания - разве не то, о чем я сожалел, говоря о картезианских представлениях XVII века? Увы, нет. В дальнейшем станет понятно, что практический и идеологический потенциал техники превосходит возможности биологии, так что метафора инверсируется. Вместо биологизации компьютера мы сталкиваемся с настойчивыми утверждениями, что человеческая память - это всего лишь менее совершенный вариант компьютерной памяти, и если мы хотим понять, как работает наш мозг, нам следует больше сил отдавать исследованию и конструированию компьютеров.

Это отнюдь не заблуждение отдельных энтузиастов научной фантастики. Такая мысль с самого начала была центральной в программе создателей компьютеров и разделявших их взгляды философов. Сам Тьюринг обосновал ее в 1950 году, незадолго до самоубийства, с помощью одной из своих многочисленных логических игр. Предположим, что вы связаны через телетайп с другим телетайпом, находящимся в соседней комнате. Этот второй телетайп может контролироваться либо оператором, либо машиной. Как определить, кто поддерживает с вами связь: человек или машина? Очевидно, что машина должна быть достаточно умна, чтобы имитировать возможные ошибки человека, а не демонстрировать безупречное выполнение задач, с которыми машины справляются лучше человека (быстроту и точность вычислений). В то же время машина должна не хуже человека делать то, что последний выполняет безукоризненно, а в случае неудачи должна достаточно правдоподобно лгать, чтобы оправдать ее. В этом суть так называемого теста Тьюринга, который верил, что «через 50 лет» можно будет таким образом запрограммировать компьютер, чтобы у него были все шансы выдержать подобное испытание [16].

Для поколений, которые после 1950 года искали пути создания машины, отвечающей условиям Тьюринга, это стало поиском священного Грааля или поисками искусственного интеллекта, как они скромно называли свою работу. Но как решить эту задачу? С самого начала обозначились два совершенно разных подхода, которые можно грубо определить как редукционистский и холистический. Вспоминая то время и имея все преимущества ретроспективного взгляда, один из пионеров и провозвестников холистического подхода описывает события в стиле сказочного повествования:

В один прекрасный день у новой науки кибернетики родились две дочери. Одна дочь была настоящая, она унаследовала черты науки о мозге, черты истинно природные. Другая дочь поддельная, она была плодом начавшегося использования компьютеров. Обе сестры старались построить модели разума, но из разного материала. Настоящая сестра строила модели (названные нервными сетями) из математически идеализированных нейронов. Другая создавала свои модели из компьютерных программ.

В цветущей юности обе имели успех, за обеими одинаково ухаживали представители других отраслей знания, и они прекрасно уживались вместе. Отношения изменились в начале шестидесятых годов, когда появился новый король с такой казной, какую никогда раньше не видели в королевстве наук. То был король ОАПНП... В поддельной сестре проснулась ревность, и она присвоила себе одной право доступа к деньгам ОАПНП. А настоящей сестре предстояло умереть.

Палачами вызвались быть два верных друга поддельной сестры:

Марвин Минский и Сеймур Пейперт, которым досталась роль охотников, отправленных, чтобы убить Белоснежку и в качестве подтверждения принести ее сердце. Их орудием был не кинжал, а искусное перо, с которого сошла книга под названием «Персептроны»; цель ее состояла в том, чтобы доказать, что создатели нервных сетей никогда не смогут выполнить свое обещание построить модель разума: это смогут сделать только компьютерные программы. Казалось, победа обеспечена... [17].

Разумеется, сказка Сеймура и Пейперта кончается торжеством холистики, хотя теперь многие из создателей искусственного интеллекта не разделяют его оптимизма. Как будет ясно, я считаю сказочную метафору Пейперта такой же неудачной, как и его метафоры памяти и разума. Ни ту, ни другую сестру нельзя сравнивать с Золушкой или хотя бы с Прекрасным Принцем. Оба подхода к моделированию нельзя признать правомерными, если их задача - поиски структурных метафор работы реального мозга и реальной памяти. Тем не менее стоит более внимательно присмотреться к притязаниям обеих сторон.

Как правильно пишет Пейперт, одна группа разработчиков моделей, которых я называю редукционистами, утверждает, что для создания искусственного интеллекта надо с помощью компьютера имитировать известные свойства мозга. Функциональными единицами мозга они считают нервные клетки, или нейроны; сети из этих нейронов хранят, обрабатывают и преобразуют информацию. Задача состояла в том, чтобы создавать математические модели функции нейронов, объединять их в сеть и выяснять, к каким результатам приводят разные способы соединения клеток, в том числе и такие, при которых сети могли бы изменять свои свойства и функции в результате приобретаемого опыта, т. е. «обучаться» и «запоминать». Впервые такую имитацию осуществил Франк Розенблатт в середине 50-х годов с помощью модельной системы «Персептрон». Персептроны были триумфом компьютерного моделирования, однако скоро стало ясно, что они далеко не адекватно отображают функцию реальных нейронов мозга. Хотя они, по-видимому, могли обучаться, т. е. изменять свойства в ответ на введение новой информации (например, узнавать и классифицировать простые рисунки), они были совершенно неспособны решать более сложные задачи, хотя бы отдаленно напоминавшие реальные жизненные ситуации.

Непреодолимые трудности, с которыми столкнулось моделирование нейронов, и теоретические ограничения, выявленные Пейпертом и Минским, привели к тому, что в 60-х и 70-х годах этот подход был практически оставлен. Именно в это время оценка будущих перспектив искусственного интеллекта, проведенная при финансовой поддержке британского правительства, показала, что они были сильно преувеличены, и объем таких работ был значительно сокращен [18].

Однако в конце 80-х годов интерес к этой области опять пробудился в связи с появлением совершенно новых возможностей. Компьютеры первых поколений были, по существу, последовательными процессорами, т. е. в каждый данный момент осуществляли только одну операцию; переработка информации носила линейный характер, хотя и шла с невероятно большой скоростью. Однако сам принцип линейных операций накладывал ограничение на скорость работы машины, так как сигналы из одной части компьютера в другую не могут передаваться быстрее, чем со скоростью света. Этот предел получил название ограничения фон Неймана. Когда новые поколения супермашин приблизились вплотную к этому пределу, разработчики компьютерных моделей обратили, наконец, внимание на то, что настоящий мозг работает совсем иначе. Он производит множество операций одновременно, причем в осуществлении какой-то одной функции участвуют разные части нейронной сети, а каждая отдельная клетка может выполнять разные функции. Ограничение, накладываемое скоростью передачи сигналов, можно бьию бы преодолеть, если бы удалось создать компьютеры, более сходные с мозгом, т. е. способные осуществлять различные операции не только последовательно, но и параллельно.

Результатом был взрыв интереса к новым конструктивным решениям, основанным на принципе параллельной и распределенной обработки информации (ПРО). Появилось новое перспективное поколение машин, заинтересовавшее и военных, и промышленность, и разработчиков искусственного интеллекта, хотя, разумеется, только два первых члена этой триады несли расходы по их созданию. Вот один из показателей масштабов этого интереса: в конце 80-х годов Директорат Европейского сообщества по научным исследованиям посчитал, что Европа отстает от США и Японии в эксплуатации этих новых систем, и выделил 50 млн. экю (около 50 млн. долларов США) на работы по моделированию нервной функции на основе ПРО. Когда в 1986 году Дэвид Румелхарт и Джеймс Клелланд с их коллегами из Массачусетского технологического института выпустили большой двухтомник статей по перспективам применения ПРО для моделирования мозга, в день поступления его в продажу, говорят, было продано 6000 экземпляров [19].

Новый подход к моделированию известен под названием «коннекционизма». Подобно прежнему подходу, он основан на предположении, что мозг состоит из ансамблей нейронов с многочисленными связями между ними. Надлежащим образом' соединенные группы нейронов могут обучаться таким образом, что они будут сортировать и классифицировать входные сигналы и постепенно изменять свои свойства по мере поступления новой информации. Однако в отличие от моделей прежнего, персептронного типа каждый элемент «памяти» не заключен здесь в одной-единственной клетке или паре связанных клеток: вместо этого функция памяти является свойством нейронной сети как целого. Кроме того, если в персептронных моделях отдельные функциональные единицы сети должны были получать сигналы прямо из внешнего мира и соответственно изменять свои свойства, то в новых коннекционистских моделях нейронные сети более сложны - они включают слои «клеток», расположенных между входными и выходными элементами (разработчики называют их «скрытыми слоями»). Это резко повышает эффективность системы. Первые поколения моделей искусственного интеллекта были организованы таким образом, будто мозг - это простой телефонный коммутатор с прямыми связями между органами чувств, например глазами и ушами, и исполнительными органами, такими как мышцы. Эти модели фактически игнорировали тот факт, что большинство нейронов в достаточно сложном мозгу не связано непосредственно с внешним миром через сенсорные входы и двигательные выходы; такие нейроны соединены лишь между собой: они получают сигналы от других нейронов и отвечают на них. Иными словами, обычно происходит сложнейшая внутренняя переработка любых поступающих извне сообщений при участии промежуточных нейронов, и только после этого могут приниматься решения о внешних реакциях. «Скрытые слои» в моделях ПРО действуют наподобие промежуточных нейронов, и это намного повышает способность системы к обучению, обобщению и прогнозированию.

Коннекционистские модели привлекательны для промышленности и военных тем, что позволяют преодолеть прежние ограничения эффективности компьютерных систем. Но не меньший взрыв энтузиазма они вызвали и среди нейробиологов, многие из которых считают, что наконец получили модель, весьма сходную с мозгом или хотя бы с какими-то его отделами. В последние три года множество новых научных журналов публикует сообщения о моделях нейронных сетей, претендующих на объяснение различных аспектов работы мозга. Командиры и идеологи этой Армии Моделей беспрерывно кружат по всему свету, переезжая с одних авторитетных конференций и семинаров на другие и едва успевая заглянуть в собственные кабинеты и лаборатории, чтобы собрать новейшие данные и снова мчаться в аэропорт.

К ним начинают прислушиваться даже философы. Одной из книг, популярных сре^и нейробиологов, вообще-то не склонных к чтению философских трудов, стала недавно вышедшая «Нейрофилософия» Патриции Чёрчленд из Калифорнии [20]. Автор рассматривает традиционные философские проблемы сознания и сопоставляет их с данными современной нейробиологии, а затем приходит к выводу, что в ней властвует редукционизм. По мнению Чёрчленд, спасение - в коннекционистских идеях. Вслед за книгой она опубликовала в солиднейшем журнале «Science» пару статей в соавторстве с нейробиологом Терренсом Сейновским из Сан-Диего, где рассмотрены перспективы науки, которую они называют вычислительной нейробиологией [21]; теперь это название в свою очередь попадает в заголовки других книг и журналов. Тот факт, что философы, создатели моделей и нейробиологи начали прислушиваться друг к другу и что компьютерщики наконец-то стали с известным уважением относиться не только к искусственному, но и к природному мозгу, делает их анализы более обоснованными. Раньше энтузиасты искусственного интеллекта подходили к функции нервных клеток с предвзятым мнением и в результате очень скоро теряли всякое представление о реальных биологических явлениях, изучаемых нейробиологами. Однако восторженный прием, оказанный нейробиологами книге Чёрчленд, объясняется, на мой взгляд, тем, что она не оспаривает наши представления, а скорее демонстрирует довольно некритичное почтение к ним. В результате ее книга выглядит льстивым зеркалом, в котором нам дают увидеть себя в весьма привлекательном виде1. И дело не только в том, что в отражении мы не видим мелких дефектов своей кожи. Сама наша поза, по-редукционистски неудобная, выглядит позой голливудского героя. Тем не менее недостатки коннекционистской нейробиологии и порожденной ею философии очевидны и, я полагаю, в конце концов приведут к их краху по причинам, которые я постараюсь объяснить в дальнейшем.

Пока же вернемся ко второй из двух сестер в сказке Пейперта - «поддельной», или «холистической». При холистическом подходе не делалось попыток моделировать мозг - все внимание было сосредоточено на моделировании разума. Иными словами, разработчики старались понять те явления, которые они принимали за функции сознания, такие как «верование, слушание, наблюдение, ощущение, поиск, объяснение, требование, просьба...» (я привожу этот эклектичный, но очень характерный набор процессов из последней книги Минского «Общество разума» [22]). Затем они пытались моделировать логику этих процессов независимо от того, насколько создаваемые модели можно было уподобить настоящему мозгу. Важно было лишь то, чтобы модели «работали». Иными словами, они должны были давать на выходе такой результат, какой, по мнению разработчиков, давал бы человеческий мозг, если бы он выполнял те функции, которые они хотели воспроизвести в своих моделях.

1 И все же многие неиробиологи чувствуют себя не очень уютно, читая у Чёрчленд о редукционизме. Это обнаружилось пару лет назад на одной из конференций в Швейцарии, так любимых нейробиологами, где была возможность покататься на горных лыжах. Участники проводили в первой половине дня научные заседания, а до того и после того занимались делом, т. е. выходили на склон и вечером оставались там, пока не стемнеет или пока не иссякнут силы. Такое времяпровождение, вероятно, лучше всего попадает под хорошо известное определение «досуг после теоретизирования». Темой конференции были «взаимоотношения между нейроанатомией и психологией», а открывать дискуссию должна была Чёрчленд. Она взошла на редукционистскую кафедру и стала проповедовать грядущее сведение психологии к нейроанатомии, ожидая, по-видимому, лишь легкой критики со стороны группы нейробиологов. К своему удивлению, она столкнулась с сильной оппозицией большинства присутствующих, особенно из лагеря нейроанатомов!

Чтобы лучше понять разницу между двумя подходами, представьте себе, например, человека, стреляющего в тире по движущимся металлическим уткам. Приверженец коннекционистских моделей с параллельной обработкой информации спросил бы: как должны быть связаны нейроны, чтобы подвижные изображения передавались через сетчатку глаза в надлежащие области мозга («скрытые слои»), и как должны при этом изменяться их свойства, чтобы они могли «научиться» вызывать соответствующие моторные реакции? Сторонник холистического подхода поставил бы вопрос иначе: как можно построить такой сервомеханизм, который получал бы информацию о положении и движении уток и соответственно управлял движениями стрелка? Будут ли. выходные реакции такого механизма сходны с реакциями человека, решающего ту же задачу? И если не будут, то почему?

На протяжении почти всей сорокалетней истории искусственного интеллекта преобладал второй из этих подходов. Однако, развивая его, разработчики совсем перестали думать о том, как работает настоящий мыслящий мозг. Вместо этого они сосредоточили внимание на решении проблем, связанных с конструированием силиконовых элементов компьютера и с разработкой математической логики. Это могло приводить к созданию более сложных и эффективных машин, но не имело никакого отношения к биологическим системам, которые вначале предполагалось моделировать. Общее мнение сторонников такого подхода откровенно выразила Маргарет Боден - философ из Суссекского университета - такими словами: «Чтобы быть мозговитым, мозги не нужны» [23].

Порочная метафора

К чему бы ни призывали разработчики моделей того или иного типа, я считаю, что оба подхода порочны в своей основе, если задача состоит в том, чтобы понять, как работают природный мозг и природный разум (или даже память). Отсюда и провал всех прежних предсказаний о возможных сроках создания искусственного интеллекта и появления компьютеров, подобных мозгу: наиболее оптимистичные последователи Винера в пятидесятых годах уверенно ожидали этого к концу шестидесятых, потом откладывали до семидесятых, восьмидесятых, а затем и на начало третьего тысячелетия. Но время шло, на смену персептронам приходили новые модели и программы и так же исчезали.

Недавно с критикой методологии и перспектив разработки искусственного интеллекта выступили три автора - философ, математик и иммунолог. Я кратко изложу их доводы, прежде чем перейду к моим собственным проблемам, связанным с вычислительной аналогией.

Первым идет философ Джон Сирл, который для аргументации своих взглядов ставит тест Тьюринга как бы с ног на голову. Представьте себе, что в закрытой комнате находится человек, который не знает китайского языка, но через машину получает вопросы, написанные по-китайски. В его распоряжении имеется код, позволяющий сопоставлять китайские иероглифы с другим набором текстов, содержащим ответы на задаваемые вопросы. Эти ответы можно передавать, опять-таки с помощью машины, за пределы комнаты. Находящимся снаружи наблюдателям будет ясно, что на заданные по-китайски вопросы поступают осмысленные ответы на том же языке; таким образом, тот, кто находится в комнате, выдержит тест Тьюринга. Но из этого никак не следует, что он понимал содержание посланий, поступавших в комнату и выходивших из нее, и отвечал на них сознательно и разумно: на самом деле он выполнял чисто автоматические операции. Именно это, говорит Сирл, делают компьютеры, и потому нет оснований считать их разумными и сознательными устройствами [24].

Второй автор - оксфордский математик Роджер Пенроуз, чья недавно вышедшая книга «Новый ум императора» содержит последовательную критику принципов коннещионизма [25]. Точка зрения Пенроуза по сути очень проста: для того чтобы эти принципы работали, в нейронной сети между клетками должны существовать достаточно стабильные, фиксированные отношения, которые могут изменяться лишь в ответ на специфические входные сигналы, после чего система должна реагировать детерминированным образом. По мнению Пенроуза, против этого говорят современные физические и математические представления. Квантовые механизмы, по его утверждению, обусловливают изначальную недепгерминированность нервных реакций; что касается математики, то ставшая весьма модной теория хаоса показывает, как недетерминированные системы могут тем не менее действовать вполне упорядоченным образом (например, случайное хаотическое движение молекул газа в сосуде приводит в целом к точной и предсказуемой зависимости между температурой, давлением и объемом, которую описывает простой газовый закон Бойля).

Таким образом, по мнению Пенроуза, стратегия редукционизма не выдерживает критики по двум взаимосвязанным причинам. Во-первых, недетерминированность на уровне нейронов и синаптических связей между ними означает, что мы никогда не сможем понять работу мозга и разума путем простого анализа составляющих компонентов, реакции которых непредсказуемы по самой своей природе. Во-вторых, эта неопределенность на уровне отдельных компонентов может, однако, обеспечивать предсказуемость на уровне всей системы. Поэтому сознание, разум, память возникают как свойства мозга в целом, а не как свойства его отдельных элементов.

Третьим критиком искусственного интеллекта и лежащих в его основе методов обработки информации выступает лауреат Нобелевской премии, иммунолог и теоретик из Рокфеллеровского университета Джералд Эделмен. В своем недавно вышедшем трехтомном труде [26] он пытается решить необычайно смелую задачу - создать общие теории биологии развития, нервной организации и сознания на основе аналогии, почерпнутой не из физики или техники, а из эволюционной теории и прежде всего из собственного понимания дарвиновского естественного отбора. Кое в чем я согласен с критикой Эделмена, хотя и не поддерживаю его в выборе аналогии; однако более подробное обсуждение этого вопроса требует дополнительных биологических сведений, которьгх я еще не дал читателю, и поэтому я откладываю его до последней главы. Сейчас я хотел бы поговорить о том, почему меня не удовлетворяет сравнение мозга, разума и памяти с компьютером и его вычислительными функциями.

Эта аналогия, столь завораживающая многих, всегда воспринималась с подозрением биологически мыслящими представителями нейронаук по причинам как структурного, так и организационного порядка. В структурном отношении платы с транзисторами, системы «и/или», логические схемы и другие элементы компьютеров совсем не похожи на аналогичные механизмы нейронов, если последние вообще можно рассматривать как единицы обмена информацией в пределах нервной системы. Функциональные единицы компьютеров детерминированы, имеют малое число входов и выходов, а процессы, осуществляемые ими с такой поразительной правильностью, протекают последовательно и свободны от ошибок. Элементы ЭВМ хранят и обрабатывают информацию по заданному заранее набору правил. Одно из следствий этого - то, что создатели компьютерных моделей мозга настойчиво пытаются конкретным образом воплотить отдельные типы процессов, в которых участвует разум или мозг. В частности, сама концепция «искусственного интеллекта» подразумевает, что разумность есть просто свойство самой машины (я бы сказал, что такая материализация равно неприемлема и в отношении компьютеров, и в отношении мозга).

Сравнение мозга с компьютером несостоятельно, так как системы нейронов, образующие мозг, в отличие от компьютерных систем в высокой степени недетерминированы. В этом утверждении я иду даже дальше Пенроуза, поскольку я хочу подчеркнуть, что нельзя рассматривать мозг и его обладателей - прежде всего человеческий мозг и самого человека - как закрытые системы вроде молекул газа в запаянном сосуде. Совсем наоборот, это открытые системы, сформированные собственной историей и находящиеся в непрерывном взаимодействии с природным и общественным окружением, которое изменяет их, но и само при этом подвергается изменению. Такая открытость обусловливает еще один уровень неопределенности в работе мозга и поведении его владельца. В отличие от компьютеров мозг не функционирует безошибочно и действие его не ограничено последовательной обработкой информации; его организацию нельзя даже свести к небольшому числу «скрытых слоев». Каждый из нейронов центральной нервной системы имеет тысячи входов (синапсов), различных по значимости и по месту, откуда к ним приходят сигналы. (В мозгу человека имеется, по-видимому, до 1014-1015 синапсов, так что у каждого из нас в сотню тысяч раз больше межнейронных связей, чем людей, живущих сейчас на Земле!) Мозг отличается большой пластичностью, т. е. способностью изменять свою структуру, химию, физиологию и выходные реакции в результате приобретения опыта и случайных обстоятельств в процессе развития. В то же время он обладает большим запасом надежности и может весьма эффективно восстанавливать свои функции после травмы или инсульта.

Последовательные операции мозг выполняет относительно медленно, зато процессы формирования суждений происходят в нем с необыкновенной легкостью, которая ставит в тупик разработчиков компьютерных моделей.

Рассмотрим простой эксперимент: человеку быстро показывают четыре цифры и просят его запомнить их, а потом назвать. Почти каждый легко справится с этой задачей. Но если число цифр увеличить до семи-восьми, это станет не по силам большинству испытуемых, особенно в том случае, если интервал между предъявлением цифр и просьбой вспомнить их будет увеличен с нескольких минут до часу и более. Максимальную способность человека запоминать ряды случайных цифр можно довольно просто рассчитать и выразить в битах, как описано ниже для последовательности из восьми цифр: - сначала подсчитывают биты для самих чисел:

8-log2l0=8-3,32=26,56;

- затем, поскольку цифры должны стоять в определенном порядке, нужно рассчитать информацию об этом порядке, которую можно выразить как log28!= 15,30.

В общей сложности получается всего лишь 41,86 бит, и тут оказывается, что емкость нашей памяти недостаточна, чтобы справиться с таким объемом! Теперь сравните эту величину с числом битов, на которое рассчитана память простого карманного калькулятора: примерно одна тысяча. А десятисантиметровый мягкий диск двойной плотности, вставленный в мой любимый «Эппл Мэк», на котором я печатаю эти фразы, способен хранить в своей памяти более 10 млн. бит информации.

В чем же действительный смысл такого подсчета? Джон Гриффит, математик из Кембриджа [27], однажды прикинул, что если бы человек непрерывно запоминал информацию со скоростью 1 бит в секунду на протяжении 70 лет жизни, то в его памяти накопилось бы 1014 бит, что приблизительно эквивалентно количеству информации, заключенному в Британской энциклопедии или в 10 000 мягких дисков; это почти столько же, сколько вмещает жесткий диск в моем компьютере. Весьма впечатляющая цифра для микро-ЭВМ, но на удивление скромная для функционирующего мозга.

Неужели объем человеческой памяти действительно меньше, чем у микрокомпьютера? Очевидно, что-то не в порядке со всеми этими расчетами. Что бы это могло быть? А вот и подсказка: хотя я не способен запомнить больше восьми цифр, вспыхивающих передо мной на экране, я однажды продемонстрировал слушателям возможности человеческой памяти, сначала показав гораздо более длинный ряд из 48 цифр, а затем повернувшись к экрану спиной и правильно назвав их:

524719382793633521255440908653225141355600362629.

Как мне удалось это, если я не выдержал испытания даже восемью цифрами? Очень просто. Этот длинный перечень был не случайным набором цифр, а последовательностью дат дней рождения, телефонных номеров и других цифровых кодов, которыми я постоянно пользуюсь и потому помню. Но я помню их не так, как компьютер безошибочно помнит цифровую информацию, и не храню их в своей памяти как непрерывную последовательность. В отличие от компьютерной человеческая память постоянно ошибается и пользуется множеством особых приемов, чтобы сохранить информацию. Для меня эта особенная, уникальная последовательность цифр имеет смысл, и он известен только мне. Этим я отличаюсь от компьютера и от того переводчика с китайского, который сидит в комнате Сирла. Я вспоминаю цифры именно по их смыслу, а не по простой последовательности. Более того, я настаиваю, что смысл, значение не синонимичны информации. Смысл подразумевает динамическое взаимодействие между мною и цифрами, это процесс, который несводим к количеству информации.

Другой пример. Вчера за обедом мне принесли меню с большим выбором блюд. Я просмотрел его, выбрал кое-что и съел. Я и сегодня помню, что обед состоял из капустного супа и отварной лососины. Информация, содержавшаяся в печатном тексте меню, преобразовалась в воспоминание об испытанных ранее вкусовых ощущениях, затем в устный заказ официанту и, наконец, в восприятие реальной пищи и ее нынешнего вкуса. Теперь, когда я рассказываю вам, что ел капустный суп и лососину, я не предлагаю вам ни меню, ни саму пищу, еще меньше я предполагаю, что вы отведаете ее; вместо этого я продолжаю трансформировать мой вчерашний опыт, переводя его в слова [28]. В каждом звене этой последовательности происходит не просто переключение с одного способа представления информации на другой, а определенная работа с этой информацией, которая приводит к ее необратимому преобразованию (я не говорю уже о работе, которую проделывает любой слушатель или читатель этого описания в ходе дальнейшей трансформации полученных сведений и интерпретации приведенных мною данных).

Таким образом, мозг работает не с информацией в компьютерном понимании этого слова, а со смыслом, или значением. А значение - это исторически формируемое понятие, оно находит выражение в процессе взаимодействия индивидуума с природной и социальной средой. Одна из трудностей изучения памяти состоит в том,, что приходится иметь дело с диалектическим феноменом. Вспоминая, мы всегда выполняем над воспоминанием какую-то работу и трансформируем его. Мы не просто извлекаем образы из хранилища и, использовав, возвращаем обратно в прежнем виде, а каждый раз пересоздаем заново. В заключительной главе мне придется более обстоятельно поговорить об этой работе по пересозданию следов памяти.

Моя критика до сих пор касалась моделей коннекционистского типа, однако сходные аргументы могут относиться и к холистическому подходу. Достаточно вспомнить контраст между относительной легкостью, с какой программисты смогли научить машины играть в шахматы на гроссмейстерском уровне, и трудностями, с которыми они столкнулись при создании робота, способного водружать оранжевую пирамиду на синий куб. И для сравнения посмотрите, как точно нетренированный человек бросает апельсиновую кожуру в мусорную корзину с расстояния в несколько метров от нее или, например, как легко обучается игре в покер. Конечно, можно создать программу для расчета вероятности взятки при выпадении карты в масть к трем уже имеющимся; но в покере мы, кроме того, имеем дело с чем-то вроде психологического соревнования, с необходимостью перехитрить соперника, что требует оценки моментов, не поддающихся рациональному познанию; а с такой оценкой, я уверен, не сможет хорошо справиться никакая машина. Можно еще получить какое-то удовольствие, играя с компьютером в шахматы, но при игре в покер против программы это исключено. Может быть, надо заменить тест Тьюринга или Сирла покерным тестом?

Попытки холистов обойти стороной проблему мозга и сконцентрировать все внимание на моделировании разума выхолащивают реальное биологическое содержание из психологии, пытающейся объяснить поведение. Эта сухая, почти схоластическая методология утверждает, что стоит только идентифицировать определенные свойства разума и связанные с ним процессы, как можно будет смоделировать эти свойства и процессы в абстрактнь1х экспериментах или наборе математических символов, а потом воплотить их (может быть, лучше сказать «вмашинить») в силиконовых деталях, световых переключателях или магнитных монополях не хуже, чем они воплощаются в сложных органических структурах, из которых в процессе эволюции был создан настоящий мозг [29]. Так и возник афоризм Боден: «Чтобы быть мозговитым, мозги не нужны», которым она хочет сказать, что мозговые функции можно моделировать, пользуясь новейшими, особо мощными компьютерными системами, полностью игнорируя их биологическую природу. Нужны только соответствующие механизмы или их математические модели, которые реагировали бы на входные сигналы и формировали ответы, подобные тем, что формируются в мозгу. Такие системы будут работать наподобие систем машинного перевода, преобразующие французскую фразу в ее английский эквивалент, хотя способ осуществления такого перевода может ничем не напоминать приемы, используемые для той же цели людьми.

Отделение разума от его конкретной материальной основы в известном смысле возвращает нас к старой картезианской концепции дуализма «мозг - сознание». В то же время отношение к мозгу, как к некоему черному ящику, где важна только зависимость между входом и выходом, а внутренние биологические процессы и механизмы несущественны, напоминает бихевиористский подход в психологии, о котором речь более подробно пойдет в главе 6.

Концепции психики и мозга бихевиористам не нужны. Поведение человека и других животных они объясняют на основе его собственных закономерностей, видя в нем просто цепи реакций, вырабатывающихся в результате вознаграждения или наказания за те или иные ответы на стимул. Если картезианский дуализм считать тезисом, а бихевиоризм антитезисом, то программа холистов, отраженная в лапидарном лозунге Боден, будет своего рода лукавым гегельянским синтезом.

Для того чтобы раскрыть смысл афоризма Боден, давайте рассмотрим аналогичное утверждение: «Чтобы передвигаться, не обязательно иметь две ноги». Конечно, это утверждение верно. Можно перемещаться по земле на четырех ногах, подобно лошади, или имея много ног, как сороконожки, или вообще без ног, как змеи или улитки. Можно двигаться на колесах по рельсам, как движется железнодорожный состав, или более свободно, как автомобиль, либо, наконец, с помощью гусениц, как танк. Можно передвигаться на воздушной подушке или использовать магнитную подвеску. В конце концов, можно представить себе и путешествие на ковре-самолете. Все эти способы в функциональном отношении сводятся к переходу из точки А в точку Див этом смысле совершенно эквивалентны. Однако принципы, на которых они основаны, очень сильно, иногда радикально, различаются. Если нас интересует специальный вопрос о ходьбе, ее происхождении, способе осуществления, временном расстройстве под влиянием алкоголя или более длительном нарушении в результате мозговой травмы, то чтение сказок о летающих коврах или изучение автомобильного двигателя и даже оставляемого змеей волнистого следа принесет мало пользы. Но именно такого рода специфические механизмы интересуют большинство исследователей мозга, какими бы скучными и тривиальными они ни казались философам.

Чтобы это утверждение не показалось чересчур полемичным, взгляните на перечень процессов, которые предлагается моделировать в упоминавшейся ранее книге Минского. «Сознание» (mind) представляется автору как «сообщество» произвольно выделенных и иерархически организованньис «агентов» - «памяти», «гнева», «сна», «требования», «верования» и т. п. - словом, всего, что придет на ум. Эти ярлыки приклеиваются затем к «черным ящикам» (кружкам со стрелками на бумаге), связанным между собой достаточно произвольно; из этого и должна будто бы выкристаллизоваться теория сознания. Такие упражнения представляют собой классический пример перевернутого с ног на голову подхода, весьма далекого от биологического мира, в котором живу я сам и, осмелюсь предположить, большинство других людей. Как можно судить, какие из этой мешанины разнородных и по видимости произвольно выбранных агентов «сообщества сознания» Минского проявляют себя в мозговых процессах, поддающихся наблюдению? Допустим, я придумал бы совершенно иной перечень, включающий, например, «духовность», веру в «мутантных черепах», «скептицизм» и «неспособность отличить гамбургер от его полистироловой упаковки». Каким образом я мог бы решить, на что похожи «агенты» в мозгу любого человека - на агенты Минского или мои? Дело, несомненно, в том, что можно предложить поистине бесконечное число подобных моделей (в виде черных ящиков, соединенных стрелками), способных выдержать нечто вроде теоретического теста, поскольку в случае недостаточной эффективности модели всегда можно придать стрелкам иное направление, добавить новые или представить их не сплошными, а пунктирными линиями. В этом воображаемом мире можно пририсовать змее конечности или для удобства надеть на ноги людей роликовые коньки, чтобы получить «правильный» результат. Но реальный биологический мир подвергает эмпирическую науку гораздо более жесткому испытанию действительностью. Холистические модели Минского - это именно тот тип аналогий, который меньше всего нужен нейробиологам, пытающимся понять биологически реальные мозг и поведение.

Я отнюдь не оспариваю ценности компьютерного моделирования и используемых в нем аналогий. Поиск аналогий - важнейшая составная часть научной работы, и без него нейробиология не может рассчитывать на успех в понимании реального1, т. е. биологического, мозга и его функций; с другой стороны, прогресс в области искусственного интеллекта зависит от правильного биологического обоснования, а не от выбора чисто рациональных, когнитивньк, перевернутых моделей. Но исследования по искусственному интеллекту не должны выходить за определенные рамки, не должны опрокидывать метафоры, отдавая предпочтение чистому моделированию перед биологией; они, напротив, должны выказывать некоторое смирение перед своим удивительным объектом - мозгом.

1) Еще в черновом варианте этой главы я потерял счет употреблению слова «реальный», часто вымарывая его по той причине, что споры между реалистами и социальными конструктивистами как в философии, так и в социологии научного знания достигли высокого накала, и использовать этот термин, не защитив его живой изгородью оговорок, - значит подвергать себя риску быть обвиненным в интеллектуальной наивности или в естествоиспытательском пренебрежении к другим формам понимания мира, которые тоже сродни интеллектуальной наивности. Но я не намерен здесь вмешиваться в эти споры. Для тех, кто хочет, чтобы я продолжал избранную линию, скажу, что считаю себя в основном реалистом, остающимся в рамках исторической релятивистской традиции; короче говоря, я верю, что существует материальная вселенная, о которой мы можем получить определенную сумму достоверных знаний, хотя эти знания окрашены нашей исторической и социальной принадлежностью, ограничены современным состоянием технологии и рамками, в пределах которых мы стремимся получить эти знания [30]. Это означает, что, говоря о «реальном» мозге, я готов без колебаний защищать перед сомневающимися социологами и философами его существование и свою способность получать объективные сведения о самом мозге и способах его функционирования. Но только не сейчас. С вашего позволения сейчас я займусь другим.

Память - природная и искусственная

В начале этой главы я говорил о том, что древнегреческие и римские философы и риторы различали два вида памяти - естественную и искусственную. Искусственную память можно тренировать и уподоблять ведению записей на.восковых табличках, что вело к поиску технологической метафоры. Напротив, природная память дана человеку как присущее ему свойство, которое не требовало объяснения, а просто признавалось. Однако, как я уже говорил, взаимодействие нашей технологии с нашей биологией настолько сильно, что само формирование технологизированного общества, в котором центральную роль стали играть искусственные аналоги памяти, изменяет природу этой функции. Акт письма, как признавал и Платон, и заирский сказитель, фиксирует текучую динамичную память устных культур в линейной форме. Появление печатных текстов для массового чтения, в отличие от изготовлявшихся вручную и потому различавшихся копий того или иного манускрипта, сопровождалось, как отмечает Уолтер Онг, дальнейшей стабилизацией памяти и усилением контроля над ней, стандартизацией и коллективизацией наших представлений. Это создает «ощущение замкнутости не только в литературных произведениях, но и в аналитических, философских и научных работах. Изобретение книгопечатания дало катехизисы и «учебники», более догматичные и менее спорные, чем большинство предшествовавших рукописных текстов... В катехизисах и учебниках приводились запоминающиеся «факты», категоричные утверждения... Запоминавшиеся утверждения устных культур - в большинстве случаев... не «факты», а скорее их «отражения...» [31].

Современная техника - фотография, киносъемка, видео- и аудиоаппаратура и прежде всего компьютеры - вызывает еще более глубокую перестройку сознания и памяти, устанавливая новый порядок познания мира и воздействия на него. С одной стороны, техника замораживает память, делая ее столь же неподвижной, как лица на фамильных портретах, написанных сепией в викторианскую эпоху, заключая ее в подобие наружного скелета, не позволяя ей созревать и развиваться, как это было бы в отсутствие сдерживающих факторов и постоянных внешних воздействий на внутреннюю систему памяти. С другой стороны, современная техника коварно устраняет барьеры между фактом и вымыслом. Достаточно вспомнить увлечение телевидения документальными драмами или фильм с Вуди Алленом, в котором неожиданно видим, как Гитлер обращается к своим сторонникам на Нюрнбергском процессе.

Эти противоречия я ощущаю и сейчас, когда набираю свой текст на компьютере и он появляется передо мной на экране. Раньше, когда я начерно писал главу какой-нибудь книги, мне сначала предстояла утомительная работа пером, потом я подправлял и перепечатывал текст, приводя его в более или менее окончательный вид, так как новые перестановки слов и перегруппировки материала были слишком трудоемки, чтобы прибегать к ним без особо серьезных оснований. Сейчас все проще. Эта глава, которая должна была бы писаться последовательно с начала до конца, на самом деле росла путем вставок в самые разные места первоначального наброска; прежде последовательные куски были бы зафиксированы и не подлежали перестановке, а теперь они обретают крылья и легко целиком перепархивают в другие разделы. Я помню ранее намеченный план расположения материала, но современная техника раскрепощает мою память, и та отказывается подчиняться прежней дисциплине. Различие, которое проводили Платон и Цицерон между природной и искусственной памятью, больше не существует. Если изучение памяти требует отказа от компьютерных моделей и метафор в пользу биологических и «реальных», мы все же должны признать, что сама природа памяти и ее механизмы изменяются под влиянием технических средств, объяснительный потенциал которых мы отвергаем.

Все это, вероятно, помогает понять необыкновенный интерес к природе памяти, столь характерный для литературы и искусства. Очень хорошо его отразила Джейн Остин в «Мэнсфилд-Парке», заставив свою стоически выдержанную героиню Фанни Прайс размышлять следующим образом: Если какую-то из наших способностей можно счесть самой поразительной, я назвала бы п