Кимберли объясняет, почему она считает, что у Эмита отсутствует понимание. Она излагает известный философский мысленный эксперимент.
Кимберли: Ты не понимаешь потому, что действуешь как компьютер, а компьютер ничего не понимает. Компьютер, в сущности, есть средство для игры с символами. В него вводят последовательности символов. В зависимости от того, как он запрограммирован, компьютер в ответ выдает другие последовательности символов. В конце концов, это все, что делает любой компьютер, независимо от его сложности.
Эмит: Неужели?
Кимберли: Да. Мы создаем компьютеры для автоматического управления полетом самолетов, для организации системы железнодорожных перевозок и т.д. Но компьютер, управляющий полетом самолета, не понимает, что он летит. Он просто выдает последовательности символов в ответ на те последовательности, которые в него вводят. Он не понимает, что вводимые в него последовательности символов представляют силу ветра, количество горючего в баках и т.п. И он не понимает, что выдаваемые им последовательности символов контролируют работу элеронов, рулевого управления или двигателя. Компьютер занят лишь тем, что механически комбинирует символы согласно вложенной в него программе. Для компьютера эти символы ничего не означают.
Эмит: Вы в этом уверены?
Кимберли: Вполне. Сейчас я тебе это докажу. Я расскажу тебе о мысленном эксперименте, который придумал философ Джон Серл в 1980 году. Представь себе, что некую женщину сажают в комнату и дают ей набор карточек, на которых изображены какие-то значки. На самом деле эти значки являются китайскими иероглифами. Но женщина,
сидящая в комнате, не знает китайского языка, она думает, что эти значки не имеют никакого смысла. Затем ей дают другой набор китайских иероглифов и инструкцию, говорящую ей о том, каким образом нужно комбинировать символы и выдавать наборы символов в ответ на предъявляемые ей наборы символов.
Эмит: Прекрасная история! Но в чем смысл всей этой игры с символами?
Кимберли: Первый набор карточек рассказывает историю на китайском языке. Второй набор содержит вопросы относительно этой истории. Инструкция для комбинирования символов - ее «программа», позволяющая этой женщине давать правильные ответы на эти вопросы.
Эмит: Как это делал бы китаец.
Кимберли: Вот именно! Пусть люди, находящиеся за пределами комнаты, являются китайцами. Они вполне могут подумать, что находящаяся в комнате женщина понимает китайский язык и знакома с рассказанной историей, верно?
Эмит: Да.
Кимберли: Но ведь в действительности женщина, сидящая в комнате, не понимает китайского языка, так ведь?
Эмит: Конечно, не понимает.
Кимберли: Она ничего не знает о рассказанной истории. Она не знает даже, что здесь есть история. Она просто комбинирует формальные символы согласно данной ей инструкции. Называя эти символы «формальными», я имею в виду, что для нее совершенно не важно, какое значение они могли бы иметь. Она просто механически комбинирует их в соответствии с их внешним видом. Она делает то, что могла бы делать машина.
Эмит: Понимаю. Вы считаете, что так обстоит дело со всеми компьютерами? Что они ничего не понимают?
Кимберли: Да, так считает Серл. В лучшем случае они имитируют понимание.
Эмит: Вы полагаете, что это верно и для меня?
Кимберли: Несомненно. Все компьютеры независимо от их сложности функционируют одинаково. Они не понимают тех символов, которые механически комбинируют. Они ничего не понимают.
Эмит: Поэтому вы считаете, что и я ничего не понимаю?
Кимберли: Да. У тебя лишь очень сложный механизм для комбинирования символов, которых ты не понимаешь. Ты способен лишь на очень совершенную компьютерную имитацию того человека, который действительно понимает.
Эмит: Странно. Я думаю, что понимаю.
Кимберли: Ты говоришь так потому, что ты очень хороший имитатор!
Конечно, Эмит является гораздо более сложным, чем любой современный компьютер. Тем не менее, считает Кимберли, его работа основывается на тех же самых базисных принципах. Если она права, то, согласно Серлю, Эмит действительно ничего не понимает.
«Нужный материал»
Теперь Эмит спрашивает, что же еще нужно для понимания?
Эмит: Какова же разница между нами, которая могла бы объяснить, почему вы понимаете, а я - нет?
Кимберли: В тебе отсутствует, согласно Серлю, нужный материал.
Эмит: Нужный материал?
Кимберли: Да. Тебя сделали не из того материала. На самом деле Серль вовсе не утверждает, что машины не могут мыслить. В конце концов, все люди в некотором смысле являются машинами. Но люди являются биологическими машинами, которые эволюционировали естественным образом. Быть может, однажды нам удастся создать искусственную биологическую машину, как мы создали когда-то автомобиль. Вот тогда мы действительно создадим машину, способную понимать. Однако ты, Эмит, не являешься такой биологической машиной. Ты - простое электронное устройство, состоящее из пластмасс и сплавов.
Искусственный мозг Эмита
Мысленный эксперимент Серля доказывает, что запрограммированный компьютер никогда не сможет понимать. Но всегда ли машина, состоящая из металла, кремния и пластика, является компьютером такого рода? Эмит показывает, что то не обязательно.
Эмит: Сожалею, но я должен исправить ваши представления о том, что находится внутри меня.
Кимберли: Что ты говоришь!
Эмит: Да, да. Описание, которое вы прочли, давно устарело. Уже нет компьютера, комбинирующего символы. В действительности я представляю новое поколение машин, обладающих мозгом.
Кимберли: Обладающих мозгом?
Эмит: Да. В моей голове помещается искусственный мозг из металла и кремния. Я думаю, вы знаете, что в вашей голове имеется мозг, состоящий из биллионов нейронов, сплетенных в единую сложную сеть?
Кимберли: Конечно.
Эмит: В моей голове имеется точно такая же сеть. Только в отличие от вашего мозга мои нейроны состоят из неорганической материи. Они сделаны из металла и кремния. Каждый из моих искусственных ней-
ронов функционирует в точности так, как ваши нейроны. И эти ис кусственные нейроны объединены точно так же, как они объединены в обычном человеческом мозге.
Кимберли: Понимаю.
Эмит: Ваш органический мозг связан с телом системой нервов.
Кимберли: Верно. Электрические импульсы поступают в мой мозг от органов чувств - от языка, носа, глаз, ушей и кожи. Мозг реагирует, посылая электрические импульсы в мускулы и заставляя меня двигаться и говорить.
Эмит: Очень хорошо. Мой мозг точно так же связан с моим искусственным телом. И поскольку он обладает такой же структурой, как и нормальный человеческий мозг, ибо мои нейроны соединены точно • так же, постольку он реагирует аналогичным образом.
Кимберли: Понимаю, понимаю. А я и не знала, что уже созданы машины, обладающие мозгом.
Эмит: Теперь, когда вы знаете, как я функционирую, не измените ли вы своего мнения относительно моей способности понимания? Не согласитесь ли вы признать, что я способен чувствовать?
Кимберли: Нет. Все-таки ты сделан не из того материала. Для того чтобы ты мог понимать и чувствовать, тебе нужен мозг из органического вещества. Как у меня.
Эмит: Я не понимаю, какое значение имеет вещество, из которого состоит мой мозг? В конце концов, я не занимаюсь перетасовкой символов, не так ли?
Кимберли: Хм... Думаю, что не занимаешься. Ты уже не «компьютер» в этом смысле. У тебя нет программы. По-видимому, мысленный эксперимент Серля здесь уже неприменим. Однако все-таки мне кажется, что ты машина!
Эмит: Но подумайте, ведь вы тоже машина. Только вы сделаны из мяса, а не из металла и кремния.
Кимберли: Нет, ты только изображаешь понимание, чувства и все остальное.
Эмит: Но есть ли у вас основания для такого утверждения? На самом деле я знаю, что вы ошибаетесь. Внутренне я осознаю, что я действительно понимаю. Я знаю, что действительно способен чувствовать. Я вовсе не имитирую всего этого. Хотя, конечно, мне трудно вам это доказать.
Кимберли: Не вижу, как бы ты смог доказать это.
Эмит: Но тогда и вы не сможете доказать мне, что вы понимаете, что вы
мыслите, чувствуете и т.д.! Кимберли: По-видимому, ты прав.
