В этой полифонии достаточно отчетливо проявляются два вида ориентации: на предметно-вещные показатели и на духовные ценности, базирующиеся на понимании роли человека во Вселенной. Может проявиться гармония предметно-вещных ориентиров и духовных ценностей, основанных на антропоцентризме, но может и должна быть образована гармония предметно-вещных ориентиров как носителей, в которых реализуются духовные ценности, основанные на космизме человека.
Следует иметь в виду, что в последнее время понятия аксиологии в отечественной литературе по экологии оказались запутанными, особенно когда идет речь о духовных ценностях. В аксиологии ценность определяется как телеологическая, нормативная категория, объемлющая все, что может быть целью, идеалом, предметом влечения, стремления, интереса. Выделяются два вида ценностей - предметные и духовные (в советской философской литературе чаще использовалось понятие субъектной ценности, или ценности сознания).
Критериями ценности являются благо и зло. Для предметных ценностей они являются сущностью природных богатств, стихийных бедствий, продуктов труда, социальных явлении, например революции, научной истины, поступков и действий людей, они лежат в основе эстетических характеристик природных и общественных объектов. В духовных ценностях понятия добра и зла реализуются в общественных установках и оценках, императивах и запретах, нормативных представлениях о справедливости, прекрасном, идеалах, в религиозных, правовых, политических, экономических установках.
Количество и соотношение предметных и духовных ценностей и определяют, вероятно, тип и вид экологического сознания. Именно поэтому экологическое воспитание должно начинаться с формирования в сознании мира ценностей.
Изложение проблемы экологического сознания будет неполным, а сама проблема окажется значительно обедненной, если мы не затронем еще один аспект, важность которого постоянно возрастает. К сожалению, он ускользнул от внимания экологов-теоретиков, хотя довольно оживленно дискутируется среди ученых-кибернетиков. Сошлемся, в частности, на недавно опубликованную книгу К.Уорвика «Наступление машин», хотя автор, в свою очередь, также не очень озабочен экологическими аспектами проблемы, которая заключается в том, что за последние 50 лет в человеческом окружении возникло новое, не имеющее в прошлом аналогов явление - антропогенная техника, обладающая искусственным интеллектом или, вернее, способная осуществлять действия, которые ранее были прерогативой только мозга человека. Экология, как учение о взаимоотношениях человека со средой, столкнулась с ситуацией, когда в эту среду были включены машины, обладающие рядом качеств, которые ранее считались присущими только человеку. Возник своеобразный парадокс: экологическое сознание современного человека, избавившись в процессе своего развития от антропоморфизма природы (приписывание явлениям природы человеческих свойств), столкнулось на современном этапе развития с реальными объектами, наделенными такими свойствами.
Суть возникшей проблемы заключается в следующем. До сих пор в сознании человека существовало прочное убеждение в том, что человек является господином и хозяином природы, поскольку он всегда имеет возможность решать в свою пользу все ситуации, которые возникали в процессе взаимоотношения с явлениями природы. Такое убеждение базировалось на принятии положения о том, что человек значительно превосходит по своему интеллек-тувсехдругихпредставителейживойприроды. Превосходство интеллекта, ума дало возможность превосходства и по другим критериям, которое достигается путем использования машин как искусственных органов мозга. Так, человек, используя микроскоп или телескоп, стал видеть объекты, недоступные зрению любого самого зоркого существа; применяя простейшие рычаги типа домкрата, стал сильнее любого слона; пользуясь самолетом, сталлетатьвыше, быстрее и дальше любой птицы.
Здесь важно подчеркнуть один нюанс: видит не микроскоп, поднимает тяжести не домкрат, летает не самолет, выплавляет железо не доменная печь, а видит, поднимает, летает, плавит - человек, и машины лишь помогают ему это осуществлять. Таким образом, машины лишь усиливают какие-либо функции человека или же наделяют его новыми, ему не присущими, например способностью летать.
Наряду с этим происходит и некоторое отчуждение машины от человека, поскольку первая, увеличивая возможности человека, одновременно увеличивает и возможности нанесения ему прямого или косвенного вреда в виде тех или иных аварий, катастроф или из-за разрушения природы.
Машины и механизмы вторгаются и в самого человека, уже обыденностью стали глазные линзы, искусственные сосуды, широко используется искусственная почка, на очереди машина-печень и машина-сердце или машина-глаз. Более того, теоретически возможно создать искусственную почку лучшую, чем естественная, и сердце лучшее, чем то, которое дано от природы, не только по долговечности или по механическим свойствам, но и по уровню регуляции его работы. Итогом такого научно-технического прогресса явились создание и ускоренные темпы развития мира человеческих творений как среды, в которой существует современный человек, среды, созданной мозгом, сознанием человека.
Все обстояло более или менее благополучно до тех пор, пока не появились машины, которые обладают задатками интеллекта. Не будем сейчас разбираться в сущности понятия интеллекта, прежде всего потому, что пока нет единого его определения. У нас вообще сложилось впечатление, что это понятие в чем-то аналогично понятию множества в математике, т. е. в принципе не может иметь определения, приемлемыми могут быть только негативные характеристики - интеллект это не знания, это не способности и т. п. Поэтому в дальнейшем будем использовать два понятия искусственного интеллекта, пригодные для понимания сути проблемы. Одно из них принадлежит М. Мински, считавшему, что искусственный интеллект - это создание машины, которая может делать то, что ей позволяет делать уровень человеческого интеллекта. Второе определение, данное нами: искусственный интеллект - это модель человеческого интеллекта, позволяющая воспроизвести все, что возможно для интеллекта человека на данном уровне его развития и в данной сфере применения или исследования.
Проблема искусственного интеллекта сводится к вопросу, может ли мозг создать сам себя, или более современной версии античной проблемы: как сознание познает само себя.
Анализ этой проблемы позволил определить ряд исходных положений. Одно из них заключается в признании того, что есть ряд функций, которые, несомненно, связаны с интеллектом, но которые уже на сегодняшнем уровне развития машина (имеется в виду прежде всего компьютер) делает лучше человека. Так, по сравнению с любым человеком компьютер может осуществлять счетные операции в миллиарды раз быстрее, может обладать оперативной памятью, превосходящей оперативную память человека. Эти качества позволяют машине быстрее ориентироваться в многофакторном мире.
Есть и другие положения, например то, что машина свободна от некоторых человеческих недостатков, в первую очередь утомляемости, т.е. и в этом она лучше человека. Слабость подобных положений заключается в том, что здесь неправомерно используется понятие «лучше», так как игнорируется сам факт того, что машины - это органы человека, созданные человеком. Допустим, появилась машина, которая производит сто математических операций в секунду, хотя ее создатель может осуществить только одну. Это значит, что человек стал лучше считать. Другой создает машину на миллиард операций в секунду и станет считать лучше первого благодаря наличию более быстрой машины. Компьютеризация банковской сети, часто приводимая в качестве примера превосходства машины над человеком, позволяет последнему быстрее производить операции и тем самым лучше справляться с текущей ситуацией. При этом слово «лучше» относится не к машине, а к человеку, в интересах которого производится анализ.
Увлечение термином «лучше» привело к тому, что некоторые ученые высказали опасение о возможности появления машины, обладающей более совершенным, более высоким интеллектом, чем человек, что приведет к возникновению борьбы за господство над миром между машиной и человеком, которая неминуемо окончится поражением человека. Там самым центр тяжести в экологическом аспекте проблемы «человек и машина» с вопросов вреда, связанного с воздействием машины на природу, переносится на угрозу самому существованию человека.
Теоретически эта проблема поднималась и ранее в виде «бунта машин» в некоторых произведениях писателей-фантастов, но сейчас она стала объектом и научного изучения, в процессе которого ряд серьезных ученых, специалистов по кибернетике, например уже упоминавшийся К.Уорвик, приходят к выводу о неминуемом проигрыше человечества в таком соревновании, о грядущем мире, в котором будет править не человек, а новое поколение роботов.
Попробуем более внимательно разобраться в ситуации, рассмотрев ряд вопросов, на которые попытаемся дать ответ.
Вспомним известные нам элементарные психические функции, которые лежат в основе работы мозга, например функции сенсорики, внимания, памяти, и попытаемся ответить на вопросы: можно ли создать электронный мозг с более низким порогом восприятия звуковых колебаний или электромагнитных колебаний в области инфракрасного диапазона, можно ли создать электронный мозг с более тонким избирательным вниманием или с более емкой памятью?
Ответы на эти вопросы кажутся бесспорными - да, теоретически это возможно. Такая уверенность, однако, касается только индивидуального мозга, но если рассматривать коллективный мозг человечества, его коллективный разум, то очевидность исчезает, поскольку в потенциальном распоряжении человечества имеются возможности усиливать до бесконечности свои интеллектуальные функции. Так, электронный мозг можно снабдить огромным объемом памяти, но она будет лишь равна объему памяти человечества, запечатленному в книгах, музеях, легендах и т. п. При этом память человечества будет постоянно расширяться благодаря индивидуальномуопы-ту, и скорость и объем такого расширения будут зависеть не от быстродействия, а от разнообразия интересов и целей.
Все это позволяет нам считать, что самый совершенный электронный мозг по сравнению с коллективным мозгом человека по элементарным функциям может лишь достичь его уровня, поскольку в противоборстве с «взбунтовавшимся» компьютером человек будет использовать такие же компьютеры с целью противодействовать этому компьютеру, посягнувшему на функции человека в структуре мира.
Поэтому даже неоспоримое преимущество машины в быстроте действия может быть использовано человеком в теоретической борьбе с роботами, претендующими на господство.
Рассмотрим следующий вопрос: можно ли создать искусственный интеллект, обладающий более совершенными, чем у человека, психическими функциями, например ассоциациями, эмоциями, мышлением и, наконец, рефлексией?
Ответ на этот вопрос менее очевиден, чем в предыдущем случае, поскольку он находится, по нашему мнению, не в сфере технических возможностей, а в области психологии.
Вероятно, можно создать аналоговую модель и этих функций. Например, такая функция, как озабоченность, моделируется несложным датчиком в современном автомобиле, зажигающем табло «бензин на исходе» или «падает давление масла». Можно, задав компьютеру вопрос, «что будет, если...», промоделировать ассоциативные связи причинно-следственного характера, разработав соответствующую программу Это позволяет прийти к выводу о теоретической возможности создания электронного мозга, в котором действующие механизмы будут полностью аналогичны тем, которые существуют в мозге человека.
Однако аналогичные еще не значит такие же. Проблема заключается в том, что мозг человека - продукт эволюционного развития и критерием, стимулом его эволюции является адекватность тем проблемам, с которыми сталкивается человек, живя на земле, т. е. он совершенен для земных условий.
Если изменить закономерности внешнего мира, то совершенство мозга может исчезнуть. Классическим примером этого является эксперимент с так называемым перевернутым миром, когда испытуемый носит специальные очки, дающие перевернутое изображение. Должно пройти немало времени, чтобы мозг смог внести соответствующую поправку в воспринимаемый образ.
Итак, можно считать, что мозг человека, вооруженный машинами-помощниками, является тем идеалом, к которому будут стремиться создатели искусственного интеллекта, а проблемой станет моделирование не процессов, а целей и объектов, на которые будет направлена работа этого интеллекта. Это означает, что ответ на главный вопрос - о сосуществовании человека и искусственного интеллекта - относится не к технике, а к психологии, и в первую очередь к экологическому сознанию, его направленности, объему и развитию.
Было бы неверно, пытаясь создать искусственный интеллект, по тем или иным параметрам превосходящий интеллект человека, рассматривать сознание человека как нечто застывшее; мозг не останавливается в своем развитии, и чем стремительнее идет научно-технический прогресс, тем совершеннее становится мозг. Это не морфологическое совершенство, мозг не увеличивается и не формирует в себе новые структуры - совершенствуется то, что И.П.Павлов называл функциональной мозаикой мозга, лежащей в основе психологических процессов. В этом отношении интересно высказывание К.Уорвика «В Рединге мы... стараемся с каждым разом создавать все более "умные" машины. Интересно, что результат при этом отражается и на нашем собственном интеллекте» (с. 58).
Анализируя экологическое сознание, мы исходили из положения о том, что в его основе лежат потребности и обусловленные им цели, среди которых есть постоянные и временные. Попробуем подойти к проблеме сосуществования человека и машины с искусственным интеллектом с этих позиций, приняв допущение о возможности моделирования всех механизмов, лежащих в основе психических процессов*.
Создавая думающую машину, человек закладывает в нее определенный целевой принцип, исходя из своих, человеческих целей, среди которых можно выделить одну глобальную - преобразование отношений человека и среды для оптимизации жизни человека. Из этого следует, что и «потребности» структуры с искусственным интеллектом будут связаны с этими общими для нее и для человека целями, хотя и отличными от человека по своему набору, исходя из различий работы биоорганических и электрических элементов.
Принципиальным выводом из этого является совместимость человека и машины. Это важное положение проводит резкую границу между искусственным интеллектом как экологическим фактором и теми факторами среды, наличие которых обусловлено разрушением жизни человека. Такими отношениями характеризуются, например, связи человека и вируса.
Возникает теоретический вопрос: возможно ли возникновение ситуации, когда машина, ориентированная на обеспечение удовлетворения потребности человека и наделенная искусственным интеллектом, может по каким-либо причинам изменить свою целевую функцию на обратную и действовать против человека. В принципе такая возможность не исключена, поскольку подобные изменения возникают и в интеллекте человека (в психиатрии известно большое число заболеваний, где ведущими симптомами являются асоциальное поведение, социально ориентированные маниакальные состояния или состояние самообвинения с тенденцией к суициду).
Опасность искусственного интеллекта-маньяка, вероятно, при достаточно надежной технологии создания интеллекта не будет превышать опасности, создаваемой человеком в таком же состоянии, и, как и в человеческом обществе, может быть скорректирована введением соответствующих правил, установок в интеллект взаимодействующих с ним думающих компьютеров.
Более сложна проблема в том случае, когда между человеком и машиной возникает конфликт решений, т. е. ситуация, когда предлагаются разные варианты достижения одной и той же цели, поставленной во имя человека, причем решение машины основано не на программе, вложенной человеком, а выработанной в результате способности искусственного интеллекта к самопрограммированию. В случае, когда способности к самопрограммированию нет, ситуация разрешается довольно спокойно, о чем свидетельствуют многочисленные данные, полученные военными авиационными психологами, изучавшими взаимодействие летчика с высокоавтоматизированным боевым самолетом, при котором устанавливается высокая степень доверия человека к машине, выражающаяся в близости принимаемых человеком и компьютером решений, поскольку правила принятия решения и имеющиеся исходные данные в принципе одни и те же.
Однако при способности машины к самопрограммированию ситуация осложняется не только тем, что расхождение решений может быть слишком велико, но и тем, что искусственный интеллект способен выработать решение и реализовать его значительно быстрее человека и необходимая, по мнению человека, коррекция будет безнадежно опаздывать. Разрешение такого конфликта в стандартных, прогнозируемых ситуациях будет происходить, вероятно, по типу «притирки», как это бывает при формировании человеческого коллектива, по пути взаимных уступок и выработки аксиоматических правил поведения.
Таким образом, можно предполагать, что теоретически допустимая возможность способности искусственного интеллекта к самореализации будет определяться заложенным при конструировании машины «смыслом жизни» в виде обеспечения потребности человека, а теоретическая опасность будет аналогична опасности, которая возникает, например, при патологическом процессе в мозжечке или в больших полушариях мозга, нарушающем необходимые условия их взаимодействия.
До тех пор пока сохранится именно это содержание смысла жизни, человечество может не опасаться появления внутренне враждебной расы думающих машин.
Может ли спонтанно появиться такая враждебность? Вероятно, может в результате каких-то случайных отклонений в механизме искусственного интеллекта, но развитию их будет противодействовать вся система, вся сеть структур с искусственным интеллектом, объединенная заложенным в нее принципом содействия человеку, человеческому обществу, подобно тому как в организме существует система защиты, отторжения случайных отклонений жизненных процессов.
Поясним этот тезис некоторыми соображениями, заимствованными из области эволюционной психологии, которые свидетельствуют о том, что понятие смысла жизни смогло появиться только там и тогда, когда мозг человека освободился от всепоглощающей постоянной заботы об обеспечении такой цели, как потребность в еде. Лишь эта свобода, возникшая с развитием скотоводства и земледелия, позволила сознанию поставить перед собой этот вопрос. Будет ли способен искусственный интеллект освободиться от проблем, для решения которых он, собственно, и создан?
Нам представляется, что в этом большую роль сыграли те особенности мозга, которые с позиций концепции искусственного интеллекта должны трактоваться как недостатки. Во-первых, это соотношение времени происходящих в природе процессов, с которыми взаимодействует человек, с временем процессов мышления, позволившим в большинстве случаев обеспечить и своевременность реакции и одновременно быть достаточно медленным, чтобы можно было внести коррекции в процесс решения и его реализации. Быстродействие типа десятков или сотен миллиардов операций в секунду требуется для решения чисто человеческих задач, для обеспечения интересов человека, но нужно ли оно для интересов машины? Во-вторых, это пока еще не очень ясная для познания, но, несомненно, существующая особенность мозга человека спонтанно переключаться с одной цели на другую, не имеющую под собой видимой причины. В отечественной физиологии подробно изучен вероятный механизм этого явления - торможение, позволившее И.М.Сеченову создать стройную систему подхода к психике человека. Вероятно, способность человека к алогичности мышления является мощнейшим фактором развития интеллекта, которая по определению исключается при создании искусственного интеллекта.
Поэтому можно считать, что опасность «бунта» искусственного интеллекта против человека в значительной мере преувеличена. Однако в связи с появлением искусственного интеллекта существует действительная реальная опасность для человечества, которую можно обозначить как «проблемная нищета». Дело в том, что основная тенденция, преобладающая сейчас в робототехнике, это облегчение выполнения некоторых человеческих функций, особенно связанных с репродуктивными операциями, что приводит к устранению из жизни человека не только ряда проблем, но и к необходимости в самом определении проблемы и путей ее решения. Таким образом, человеческий интеллект лишается своей главной функции - видеть проблему и находить ее решение, принципиально отличное от тех, которые уже известны. Прогресс заключается в том, что поиск идет не по пути усложнения решений, а по пути решений, связанных с принципиально иным взглядом на проблему, или обнаружения проблемы там, где она явно не просматривалась с позиции уже известных данных.
Для реализации этого человеческий интеллект имеет четыре важнейших свойства: 1) возможность осуществлять постоянный (на уровне подсознания) поиск проблем, опираясь на случайные явления, с последующим превращением его не только в направленный поиск закономерности в случайном, но и случайного в закономерном; 2) возможность отказа от всей структуры имеющихся знаний и построения новой гипотетической структуры, основываясь на абсурдных с точки зрения старых знаний базовых положениях; 3) (близкое ко второму) возможность смены логик в процессе поиска и решения проблемы; 4) допущение тактического проигрыша во имя стратегической победы.
Искусственный интеллект, освобождая человека от решения очевидных проблем по известным канонам, ликвидирует как бы ту учебную базу, на которой формируется интеллект человека, и делает его послушным исполнителем навязываемых решений, т. е. освобождает от определенной доли ранее необходимых знаний и тем самым препятствует прогрессу, поскольку отказ от старых знаний предполагает наличие таких знаний. Для прогресса важен не только результат, но и знание путей, используемых для получения именно такого результата.
С этим явлением мы сталкиваемся уже сейчас. Особенно нагляден пример с использованием калькуляторов, что привело к появлению большого числа людей, не знающих элементарных правил деления и умножения.
Вероятно, это и есть та «леность ума», о которой писали многие известные исследователи.
Таким образом, можно прийти к выводу, что опасность существования среды, обладающей искусственным интеллектом, исходит не от самого искусственного интеллекта с его отличными от человека постоянными «жизненными» потребностям, а заключена в самом человеке.
Помимо пассивной опасности, о которой мы только что говорили, существует и другая, не менее грозная - это опасность создания искусственного интеллекта, сформированного на основе потребности разрушения человека, сообщества людей и обеспечивающей их существование инфраструктуры, т. е. искусственного интеллекта как боевого оружия. Конечно, теоретически противодействующая сторона может создать оружие защиты и контрнападения, но это лишь ускорит гибель человечества. Однако эта проблема выходит за рамки экологического сознания и является предметом коллективного социального сознания.
Рассматривая проблему искусственного интеллекта как составного элемента экологии, мы исходим из крайнего допущения о возможности моделирования всех без исключения психических процессов и психологических категорий, хотя на самом деле такое допущение вызывает сомнения. Вряд ли искусственный интеллект способен сам выработать критерий красоты, свободный от рационализма.
Мы постарались в этой книге затронуть большинство из известных нам сторон экологического сознания. Как, вероятно, заметил читатель, сложность подачи материала в разных главах неодинакова, однако это лишь отражает степень развития проблемы. По некоторым вопросам мы выдвигали нашу, субъективную позицию, хотя и старались в какой-то мере отразить взгляды других ученых.
Надеемся, что прочтение нашей книги не только даст читателю исходные знания по проблемам экологического сознания, но и поможет ему сформировать свою позицию, свою систему взглядов, возможно и отличающуюся от взглядов авторов, но поднимающую знания на новый, более совершенный уровень.
ПРИЛОЖЕНИЕ
