L) Верования электронного мозга

Очерченная выше программа исследований и конструирования гомеостатов, способных к созданию метафизических систем, или «верующих машин», отнюдь не забава. Генезис трансцендентальных понятий с помощью машины был бы карикатурой, и речь идет не о нем. Цель состоит в том, чтобы выявить общие закономерности возникновения метафизических моделей мира. Можно вообразить (пока что лишь вообразить) коллектив гомеостатов, коллоидных, электрохимических или каких-либо иных, тяготеющих в процессе своей эволюции к выработке определенных верований. Верования эти возникают не потому, что данные гомеостаты умышленно так запрограммированы. Подобный эксперимент был бы лишен смысла. Гомеостаты должны быть способны к самопрограммированию, то есть должны обладать изменяемостью целей – кибернетическим эквивалентом «свободной воли». Подобно тому как человек слагается из ряда подсистем, иерархически «подключенных» к мозгу, эти гомеостаты должны включать в себя различные воспринимающие системы (входы, или «органы чувств») и исполнительные системы (выходы, или эффекторы, такие, например, как механизмы передвижения), а также собственно «мозг», который мы никак не предопределяем и не ограничиваем. В этот мозг не должно быть введено никакой инструкции действия, кроме необходимой, но спонтанно возникающей в гомеостатической системе тенденции приспособления к окружающей среде. В начале деятельности подобный гомеостат будет «пуст», как чистый лист бумаги. Благодаря органам чувств он сможет воспринимать среду, а благодаря эффекторам – влиять на нее. Мы вводим ограничения только в его эффекторы (в его исполнительные подсистемы, или в «тело», «сому» гомеостата) для проверки того, в какой мере характер сомы влияет на генерируемую мозгом метафизику. По-видимому, эта метафизика будет носить выравнивающий характер по отношению к введенным ограничениям. Как это следует понимать? Исследовав характер своих ограничений (свое «бренное несовершенство»), гомеостат, по-видимому, выработает на основании этих данных такие мысленные дополнения своей структуры, такое «потустороннее совершенство», которое оптимизирует его переход к внутреннему равновесию, или, выражаясь обиходным языком, к принятию существующего положения вещей. Однако компенсационные мотивы не исчерпывают всех «генераторов» метафизики. Кроме факторов, «выравнивающее» действие которых носит «эгоистический» характер, могут действовать также факторы «гностические» и «генетические». Гомеостат обнаружит, что его знание может быть только приближенным и неполным. Стремясь, естественно, получить точное и полное знание, он придет к такой «метафизической модели», которая позволит ему считать, что он «знает все», а поскольку обрести эмпирически такую мудрость невозможно, осуществление этого гомеостат вынесет за пределы собственного материального существования. Короче говоря, гомеостат придет к убеждению, что обладает «душой», заведомо бессмертной.

Далее – факторы «генетические». Это поиск «создателя» как самого гомеостата, так и окружающего мира. В этом месте вопрос становится особенно интересным, поскольку кибернетическое моделирование позволяет наряду с созданием гомеостатов создать и «мир» для них. Простейший пример дает обычная (но значительно более сложная, чем существующие) цифровая машина, в которой идут два процесса, зависящие определенным образом друг от друга. Их можно было бы назвать «процессом» и «антипроцессом». «Процесс» состоит в самоорганизации системы, которая с ходом времени становится «двойником» разумного организма. «Антипроцесс» – это его «окружение», его «мир». Разумеется, эти «разумные существа» и их «мир» не являются материальными двойниками реалий нашей действительности, они состоят лишь из огромного набора некоторых процессов (электрических, атомных), происходящих в машине. Как представить себе подобную ситуацию наглядно? Ее можно сравнить с «переносом» реальности в мозг спящего человека. Все те места, которые человек посещает, находятся в его голове наряду со всеми встреченными во сне людьми; таким образом, его мозг является аналогом «машины мира», приближением к ней, ибо в обоих случаях благодаря некоторым процессам (биохимическим или электронным) происходит разделение явлений на «среду» и живущие в ней «организмы». Разница состоит лишь в том, что сон – личное достояние индивидуума, а то, что происходит в машине, может контролировать и изучать любой специалист.

Итак, имеются процесс и антипроцесс. Задача состоит в приспособлении «организмов» к «среде». Теперь можно произвольно изменять конструктивные данные не только «организма», но и его «мира». Можно, например, создать мир жесткого детерминизма. Либо мир по преимуществу статистический. Либо, наконец, мир промежуточный, образованный наложением друг на друга явлений обоих типов и благодаря этому более близкий к нашему. Это может быть «машинный» мир, где случаются «чудеса», то есть явления, которые противоречат наблюдавшимся прежде закономерностям. Можно также лишить этот мир чудес. Он может быть «сводимым», «математичным» до предела, либо, напротив, в «окончательном смысле – непознаваемым». Помимо этого, возможны проявления различных форм упорядоченности. Последнее нас особенно интересует, ибо у лиц, занимающихся научными исследованиями, склонность к метафизике проявляется в том, что они из упорядоченности реального мира выводят существование его Конструктора (такой тип аргументации в пользу Создателя характерен для Джинса и Эддингтона).

Гомеостаты, живущие в этих мирах, по-видимому, создали бы и опытную науку. Часть из них, несомненно, развилась бы в «материалистов», «агностиков», «атеистов». Гомеостаты-«спиритуалисты» прошли бы через периоды различных схизм. Схизма – это изменения аксиоматического ядра постулированной трансценденции. Во всяком случае, существенным является то, что, вводя в подсистемы гомеостатов определенные изменения, а именно ограничивая их материальные возможности, но никогда не ограничивая духовных, то есть свободу умственных операций, можно добиться возникновения различных метафизик. Если же изменять характеристики «мира» и сравнивать полученные таким путем результаты, то можно выяснить, благоприятствует ли – и как именно – тот или иной тип «мира» возникновению определенной структуры метафизических верований. Вполне возможно, я полагаю, что разумный гомеостат («обычный», вроде «робота»), воспитанный не среди других гомеостатов, а среди людей, и к тому же верующих, переймет их «метафизическую модель». Это могло бы приводить к довольно непривычным конфликтам, ибо такой гомеостат стал бы домогаться равноправия с приверженцами той религии, которую он отныне исповедует. «Перенимание метафизической модели» индивидуумом от общества, в котором он родился и живет, настолько типично, что такая экстраполяция вполне оправданна. Однако подобные домогательства «метафизического равноправия» с приверженцами религии должны занимать больше теологов (которым так или иначе придется выработать какое-то отношение к ним), чем исследователей.

В намеченном направлении поиски можно продолжать различными способами. Так, например, в обществе, состоящем из «высших», то есть интеллектуально более развитых, и «низших» гомеостатов, может возникнуть ситуация, когда «метафизическая солидарность» высшей группы не будет охватывать «низших» гомеостатов, вследствие чего отношение более разумных машин к их менее сложным собратьям будет в точности соответствовать отношению человека к остальному животному и растительному миру. Аргументы в пользу метафизики зачастую опираются на ее мнимую необходимость для объяснения различных несовершенств, несчастий, страданий, не имеющих вознаграждения в этом мире. Круг подобной «метафизической солидарности» исключает все существа, кроме человека (в христианстве и близких к нему религиях). Для биолога, отчетливо представляющего бездонность океана страданий, каковым является история жизни на Земле, подобная позиция столь же смешна, сколь ужасна. Ведь за пределы нашего уважения к чужим правам, этой нашей мифотворческой лояльности, выбрасывается вся миллиардолетняя история видов, а наша лояльность охватывает только ее микроскопическую частицу, лишь несколько тысячелетий существования на Земле одной из ветвей приматов – и то только потому, что мы принадлежим к этой ветви.

Особая, занятная возможность представится, если изъять у гомеостатов сведения об ограниченности их существования. Это, возможно, уменьшит вероятность возникновения метафизики, хотя и не сведет ее до нуля. Теория гомеостатов различает машины двух типов[47]: ограниченные (которые только и осуществимы Природой и человеком) и неограниченные по своим возможностям (так называемая «универсальная машина Тьюринга»). «Неограниченный» автомат – это автомат, способный беспредельно переходить из одного состояния в другое; он является абстракцией, так как требует бесконечно большого времени и такого же количества материала. И все же гомеостаты на нашем «полигоне» могут быть столь долговечны, что мысль о собственном бессмертии представится им вполне правдоподобной. Такой автомат лишен познавательного – «гностического» – обоснования метафизики собственной бренностью, так как может питать надежду, что в процессе своего вечного бытия он познает «все». Это, однако, означает устранение только познавательных, но не компенсационных источников метафизики: подобный гомеостат может счесть свое беспредельное бытие за препятствие к переходу в «лучший мир», вратами которого было бы – в его ситуации – лишь самоубийство.

M) Призрак в машине

«Призраком в машине» – the ghost in the machine – некоторые английские психологи (например, Райл) называют убеждение в двойственной природе человека, якобы слагающегося из «материи» и «души».

Сознание не является технологической проблемой, так как конструктора не интересует, чувствует ли машина; для него важно, действует ли она. Поэтому «технология сознания» может возникнуть, так сказать, только как побочный эффект, если окажется, что определенный класс кибернетических устройств обладает субъективным миром психических переживаний.

Каким путем, однако, можно установить наличие сознания в машине? Этот вопрос имеет не только абстрактно-философское значение: если в некой машине, предназначенной на слом из-за нерентабельности ремонта, будет обнаружено сознание, то наш акт разрушения материального предмета, вроде граммофона, превратится в акт уничтожения личности, сознающей свою гибель. Можно было бы снабдить граммофон переключателем и такой грампластинкой, что при попытке прикоснуться к нему мы услышали бы возгласы: «Умоляю, пощади мою жизнь!» Как отличить такой несомненно бездушный аппарат от мыслящей машины? Только путем разговора с ней. Английский математик Алан Тьюринг в работе «Может ли машина мыслить?»[48] предлагает в качестве решающего критерия «игру в имитацию», состоящую в том, что мы задаем Кому-то произвольные вопросы и на основании полученных ответов должны решить, является ли этот Кто-то человеком или машиной. Если отличить машину от человека не удается, следует признать, что машина ведет себя как человек, то есть обладает сознанием. Отметим, что игру можно усложнить. Мыслимы два вида машин. Первый – «обычная» цифровая машина той же сложности, что и человеческий мозг; с ней можно играть в шахматы, говорить о книгах, о мире, на любые темы вообще. Открыв ее, мы увидели бы огромное количество электрических цепей, соединенных в схемы, подобные нейронным сетям мозга, затем блоки памяти и т.п.

Второй тип машин совершенно иной. Это увеличенный до размеров планеты (или космоса) граммофон. В нем очень много, например сто триллионов, записанных ответов на всевозможные вопросы. Когда мы задаем вопрос, такая машина, конечно, «ничего не понимает», но сама форма вопроса, то есть последовательность колебаний нашего голоса, запускает реле, которое приводит в действие пластинку или ленту с записанным ответом. Вопросы технического рода оставим в стороне. Понятно, что такая машина неэкономична, что ее никто не будет строить, потому что это невозможно, а главное, непонятно, зачем ее надо было бы строить. Нас интересует теоретическая сторона. Если не внутреннее устройство, а одно лишь поведение решает вопрос о наличии сознания в машине, то не поспешим ли мы с выводом, будто у «космического граммофона» есть сознание, – и тем самым выскажем заведомый nonsense (или, точнее, ложь)?

Удастся ли, однако, запрограммировать все возможные вопросы? Разумеется, человек в среднем за свою жизнь не отвечает и на миллиард вопросов. Мы же могли бы записать на всякий случай во много раз больше. Как поступить в этом случае? Необходимо вести игру с достаточно гибкой стратегией. Мы задаем вопрос: любите ли вы анекдоты? Машина, предположим, отвечает, что она, конечно, любит анекдоты, только остроумные. Мы рассказываем ей анекдот. Она смеется (точнее, смеется голос в телефонной трубке). Либо этот анекдот был записан на ее лентах, что позволило ей включить нужную реакцию, либо это действительно мыслящая машина (или человек, ведь мы и этого не знаем). Мы разговариваем еще некоторое время, затем внезапно спрашиваем, помнит ли она анекдот, рассказанный перед этим? Если она действительно мыслит, она должна помнить. Она скажет, что помнит. Мы попросим повторить его своими словами. А вот это уже очень трудно запрограммировать, потому что тут мы вынуждаем конструктора «космограммофона» записать не только все возможные ответы, но и целые последовательности фраз, какие могут встретиться в разговорах. Это уже требует памяти, пластинок или лент в количестве, какого, быть может, не вместит вся солнечная система. Предположим, что машина не может повторить анекдот. Мы «разоблачаем» ее: это граммофон. Конструктор, уязвленный в своем самолюбии, начинает совершенствовать машину, достраивая к ней память, с помощью которой она могла бы повторять рассказанное. Но тем самым он делает первый шаг на пути от машины-граммофона к мыслящей машине. Бессознательная машина не может установить тождественность вопросов с аналогичным содержанием, но сформулированных хотя бы с небольшими формальными отклонениями; поэтому вопросы «Хорошо ли было вчера на улице?», «Хорошая ли стояла вчера погода?», «Не был ли погожим денек, предшествовавший сегодняшнему?» и т.д., и т.п. для такой машины различны, тогда как для мыслящей они тождественны. Конструктор вновь и вновь разоблачаемой машины должен будет все время ее переделывать. Наконец, после длинной серии переделок он введет в машину способность к индукции и дедукции, к ассоциациям, к пониманию одинаковой сути по-разному сформулированных, но одинаковых по содержанию вопросов и т.п. И в конце концов он получит «обыкновенную» мыслящую машину.

Возникает занятная проблема: в какой, собственно, момент в машине появилось сознание? Предположим, что конструктор не переделывал машину, а относил каждый раз в музей и следующую модель строил заново. В музее собралось 10000 машин – таково было число модификаций. В сумме это дает плавный переход от «бездушного автомата», вроде музыкального ящика, к «машине, которая мыслит». Какую машину мы должны считать уже сознательной – №7852 или только №9973? Они отличаются одна от другой тем, что первая не умела объяснить, почему она смеется над анекдотом, и лишь повторяла, что он чертовски смешон, а вторая умеет. Но некоторые люди смеются, слыша анекдоты, хотя не могут объяснить, что в них смешно. Известно, что теория юмора – трудный орешек. Лишены ли эти люди сознания? Конечно, нет; они, по-видимому, не слишком сообразительны, малоинтеллигентны, их ум не обладает сноровкой в аналитическом подходе к проблемам; но мы ведь не спрашиваем, умна машина или туповата, а только есть у нее сознание или нет.

Следует, по-видимому, признать, что у модели №1 нулевое сознание, а модель №10000 обладает полным сознанием, тогда как сознание всех промежуточных моделей «все возрастает». Эта констатация показывает всю безнадежность затеи точно локализировать сознание. Отключение отдельных элементов («нейронов») машины приведет лишь к едва заметным количественным изменениям («ослаблению») сознания, как делает это в живом мозге болезнь или нож хирурга. Материал и размеры «мыслящего устройства» не имеют никакого значения для данной проблемы. Можно построить мыслящую машину из отдельных блоков, отвечающих, скажем, отдельным мозговым извилинам. Разделим теперь эти блоки и разместим их по всей Земле – в Москве, в Париже, в Мельбурне, в Иокогаме и т.д. Сами по себе эти блоки «психически мертвы», но соединенные друг с другом (телефонным кабелем, например) они составляли бы единое целое, «личность», единый «мыслящий гомеостат». Сознание такой машины, конечно, не находится ни в Москве, ни в Париже, ни в Иокогаме. В определенном смысле оно находится в каждом из этих городов, и вместе с тем – ни в одном из них. Ведь нельзя сказать о сознании, что оно, как Висла, протянулось от Татр до Балтики. Да и сам человеческий мозг тоже ставит перед нами, хотя и не столь резко, аналогичную проблему – кровеносные сосуды, белковые молекулы и соединительные ткани находятся внутри мозга, но не внутри сознания; нельзя также и сказать, что сознание находится под самым сводом черепа или что оно расположено немного ниже, возле ушей по обе стороны головы. Оно «рассеяно» по всему гомеостату, по всей его функциональной сети. И больше ничего о сем предмете сказать мы не можем, если хотим сочетать рассудок с осмотрительностью.