Сёрл известен своим мысленным экспериментом Китайской Комнаты. Аргумент впервые появился в статье «Сознание, мозг и программы» в 1980 г. С помощью этой истории Сёрл оспаривает тест Тьюринга как критерий рациональности, идею о том, что мышление представляет собой вычислительный процесс, и функционалистские теории сознания. Его вывод в том, что, вне зависимости от программы, компьютер не может обладать интеллектом, даже если симулирует поведение разумного существа. Для разума, считает Сёрл, необходимы биологические процессы. Как построена Китайская Комната?

В Комнате заперт человек. Он не знает китайского, но у него множество справочников с правилами формирования ответов и наборы иероглифов, из которых эти ответы должны формироваться. Люди снаружи, владеющие китайским, передают в Комнату вопросы, узник по справочникам из имеющихся у него иероглифов составляет ответы. У людей снаружи создается впечатление, что узник понимает китайский, тогда как он ничего не понимает, а просто следует инструкциям. Для узника обмен сообщениями — только синтаксические операции, действия с символами. Для понимания необходима связь между символами и их смыслом, семантика. А она отсутствует.

Китайская Комната это метафора компьютера. Узник — центральный процессор, инструкции — программы, а наборы иероглифов — данные. Из ситуации интуитивно следует, что, какие бы манипуляции не производил компьютер, в конечном итоге он имеет дело только с синтаксисом. Для значений и понимания нет места. На Китайскую Комнату бурно откликнулись сторонники искусственного интеллекта. С первых дней существования она стала магнитом для возражений.

Возражение 1. Системный аргумент

Одним из возражений на Китайскую Комнату является системный аргумент. Его сторонники считают, что понимание китайского языка должно быть не у узника, а у всей Комнаты. И оно, вполне возможно, есть. Человек внутри — только часть механизма системы, но в нее входят также справочники, используемые им для формирования ответов, кусочки бумаги с написанными на них иероглифами. Именно в справочниках и наборах символов в большей степени сосредоточен интеллект системы, без которого действительно никакого понимания быть не может. Это возражение любопытно, но его можно парировать.

Ответ Сёрла — ксеноглоссия. Представьте, что человек вышел из Комнаты в поле, говорит Сёрл. Но перед этим человек запомнил все символы и каждое правило. Тогда вся система сосредоточена в его голове. Он теперь свободно общается по-китайски без Комнаты, но, согласно нашим интуициям, он по-прежнему ничего не понимает! Это должно выглядеть как ксеноглоссия — предполагаемая в парапсихологии истерия, обычно связанная с религиозными переживаниями, в ходе которой человек начинает говорить на реально существующих языках, которые он никогда не учил. Человек из Китайской Комнаты слышит вопросы и мгновенно на них отвечает, не понимая при этом сам ни единого слова.

Пусть системный аргумент плохо согласуется с интуициями. Но по-другому и быть не может. Чтобы Комната работала так, как обещает Сёрл, она должна содержать миллионы томов инструкций, а сам узник — носиться по ней с ошеломляющей скоростью. Это перегружает воображение. Как тут оно может не подвести? Интуитивно способность «понимать» также плохо согласуется и с физическими процессами, которые происходят в мозге.

Представим ещё одну фантастическую ситуацию. У носителя китайского языка возникает дефект мозга — нейромедиаторы перестают передавать сигналы между нейронами. Тогда ему встраивают механизм, который заменяет работу нейромедиаторов. Назовём его демоном Сёрла. Демон носится между нейронами и передает электрические импульсы в точности, как делали бы это нейромедиаторы. Что будет с поведением человека? Если демон полностью симулирует работу нейромедиаторов, поведение человека не изменится. Он точно так же будет способен разговаривать на китайском. Но будет ли он при этом понимать речь? Когда этот вопрос задают Сёрлу, он высказывается утвердительно. Но из этого, по-видимому, следует, что Сёрл принимает системный аргумент! Сёрл не задает вопрос, понимает ли китайскую речь демон. Возможно, как и узник Китайской Комнаты, демон просто следует инструкциям. Понимает речь человек. Задавая вопрос о том, понимает ли узник китайский язык, Сёрл совершает категориальную ошибку. Понимать язык может не какая-то часть системы, а система целиком.

Возражение 2. Аргумент Робота

Другой аргумент против Китайской Комнаты — аргумент Робота. Для того чтобы описать механизм, способный к пониманию, считают его сторонники, нужно представить не Комнату с символами и инструкциями, а её аналог, реализованный в роботе. Компьютерная программа будет установлена в контрольном центре робота. Там будут обрабатываться не только языковые данные, но и данные от «органов восприятия». Такой робот будет способен не только говорить, но и сообразно действовать. Он должен понимать любой язык, на котором будет говорить.

Ответ Сёрла — Китайский Робот. Эти новые условия усложняют ситуацию, но принципиально ничего не меняют. По мнению Сёрла, робот не может добавить ничего для понимания и появления интенциональных содержаний. Просто вместо компьютера мы помещаем в робота Китайскую Комнату. Теперь у нас Китайский Робот! И узник обрабатывает не только символы-вопросы, но и данные от «органов восприятия». Обратно он тоже отправляет символы как для ответов, так и для управления Роботом. Но понимания всё равно не возникает. «Я получаю ‘‘информацию’’ от ‘‘перцептуального’’ аппарата робота и даю инструкции его ‘‘моторному’’ аппарату, ничего об этом не подозревая, — говорит Сёрл от лица узника. — Я являюсь ‘‘гомункулюсом’’ этого робота, но, в отличие от традиционного гомункулюса, я не знаю, что происходит. Я не понимаю ничего, кроме правил манипуляции символами» [i.]. Сёрл не видит принципиальной разницы между Комнатой и Роботом. Но разница есть.

Различие Робота и Комнаты.
Комната с Кока-Колой

На различие двух сценариев обращает внимание В.В. Васильев. Он считает, что, в отличие от Робота, Комната вообще не способна пройти тест Тьюринга. Васильев предлагает вообразить дополнительные детали: «Допустим, я знаю китайский и веду диалог с Сёрлом, запертым в его Комнате вместе с программой и целыми горами иероглифов. Допустим также, что перед экспериментом я зашёл в комнату и поставил банку Кока-Колы на стол, за которым будет сидеть Сёрл. И вот мы начинаем наш диалог»[ii.] Эксперт спрашивает узника, что находится перед ним. По правилам Китайской комнаты, узник должен обратиться к инструкциям, чтобы сформировать ответ. Но как инструкции могут «знать», что находится в Комнате перед узником? Узник и программа не могут дать нужного ответа, а значит, они не способны пройти тест Тьюринга.

Васильев проводит оригинальную атаку на аргумент Сёрла. Но, мне кажется, её можно отбить. Можно показать, что этот ход незаконный, что он нарушает аналогию между Комнатой и рациональным агентом. Сколько нейронов у Вас в голове? Приблизительно пятьдесят-сто миллиардов? А точнее? Неужели, если Вы не знаете точное число нейронов у себя в голове, Вы не в состоянии пройти тест Тьюринга? Как выглядит орган, соединяющий ваше правое и левое полушарие? А вдруг там находится банка с Кока-Колой? В конце концов, демон Сёрла, пока вы сегодня спали, мог туда её установить. Неспособность агента дать ответы о своем внутреннем устройстве и изменениях «внутри Комнаты» не дают основания полагать, что агент не рационален.

Внутреннее время

Но позицию Васильева можно развивать. Даже без посторонних предметов Комнату можно поставить в тупик. Нужно задать ей вопрос о фактах, доступных обеим сторонам, ответ на который нельзя было бы подготовить заранее. Набор этих фактов сильно ограничен, т.к. у Комнаты нет органов чувств. Но в ходе беседы с экспертом эти факты появляются. Например, сколько вопросов было уже задано с начала беседы? Подобный вопрос может быть опробован несколько раз в ходе испытания. Как программа будет реагировать на него? Наверное, можно написать такие инструкции, чтобы, в зависимости от контекста, узник давал разные удовлетворительные ответы. Для этого в его распоряжении должны быть варианты всех возможных разворачивающихся бесед. Вообразите масштаб библиотеки![iii.] Допускаю, что, когда узнику будут задавать одни и те же вопросы и он обнаружит, что дает разные ответы, у него появится серьезная подсказка. И он даже сможет вычислить остальные значения по ней[iv.] Но пока не вижу способа это окончательно доказать. Программу, которая бы правильно отвечала на вопросы о самой беседе, все равно можно помыслить. Тогда члены жюри должны задавать вопросы о внутреннем чувстве. Например, вопрос, сколько времени прошло с момента первого вопроса. Разговор с узником может длиться сколь угодно долго, интервалы между вопросами могут быть любыми, поэтому программа не сможет заранее предусмотреть ответ. Жюри знает, что у узника нет часов (иначе это будет банка с Кока-Колой) и ему придется ориентироваться только на внутреннее чувство, но, чтобы казаться рациональным, он должен уметь отличить 10 минут от 10 дней. Чтобы поставить программу в тупик, можно попросить узника сравнить между собой два интервала времени или что-нибудь подобное. Насколько я понимаю, нельзя написать инструкции так, чтобы предусмотреть правильный разумный ответ. Значит, аргумент от времени показывает, что Комната, способная только к лингвистическому поведению, все-таки не сможет пройти тест Тьюринга. И поэтому аргумент Сёрла не представляет угрозы для функционалистских теорий сознания.