Философия в сознании или Изобретение китайского велосипеда

Как мы видели выше, проблемы обычно возникают в форме неопределённостей, вызванных либо:

- нечёткой формулировкой исходной задачи. Например проблема реальности квалиа относится больше к проблеме понимания реальности, а не самих сырых ощущений.

- неопределённость терминологии. Например попытка определить тёплое в терминах мягкого, психическое в терминах физического и т.д. Отчасти это является следствием нечёткой постановки задачи. Но в большей степени - результатом онтологического авторитета физики и непонимания самого факта нередуцируемости субстрата одной реальности к субстрату другой.

Нужно отметить, что многие философы отмечали несводимость выскокоурвневых описаний к низкоуровневым. Но большинство считали этот факт недостатком теории, и поэтому акцентировали внимание на тех случаях, когда можно было хотя бы приблизительно констатировать отношения если не тождества, то хотя бы эквивалентности. Такова, в частности, чалмерсовская типология супенрвентности[28]. И только меньшинство акцентировало факт нередуцируемости сложного к простому и несводимости неопределённости к недостатку наших знаний. Такова например теория “Личностного знания” Майкла Полани[29].

Мысленный эксперимент Китайская комната, предложенный в 80м году Джоном Сёрлом, первоначально был направлен на критику сильного ИИ и теста Тьюринга, но стал одним из центральных в когнитивной науке, потому что затрагивает самое её основание - феномен “понимания”. К сожалению Сёрл, как и подавляющее большинство философов, совершенно не различает когнитивный и коммуникативный аспекты сознания. То есть, собственно знание и речь. Человек, перекладывающий карточки с иероглифами по некоторым правилам должен знать (понимать) эти самые правила. Это и есть когнитивный аспект, то есть - знание. И феномен понимания как осмысления находится исключительно на этом уровне. А обмен карточками - это коммуникативный уровень, т.е. речь. На этом уровне работает психика, как способ взаимодействия со средой. Отсюда следует, что Китайская комната показывает не столько невозможность сильного ИИ, сколько различную природу коммуникативных и когнитивных способностей (речи и знаний).

Устранив первую проблему (нечёткую формулировку исходной задачи) давайте теперь определимся с терминологией. Под речью мы понимаем любую форму коммуникации - устной, письменной или даже невербальной. Печатный текст, например, определяется как форма письменной речи.

Что бы определиться с ролью языка и знаний, вернёмся в наших рассуждениях чуть назад, к становлению социальности. Появление сексуальности приводит к свободному формированию пар с нерепродуктивным взаимодействием, что позволяет устанавливать самое простое чувственное взаимодействие в пределах пары. Это создаёт эмоции как протокол установления соединения (link). Затем интериоризация метафоры иерархии не просто создаёт логику. Она формирует её статус, как коммуникационного протокола межсетевого уровня, обеспечивающего взаимодействия между различными сетями[30]. Только в нашем случае - это разные нейронные сети. Если продолжать пользоваться метафорой стека протоколов, то речь выступает в роли протоколов транспортного уровня. Как понятно из названия, речевые протоколы обеспечивают передачу смысла сообщений между индивидами, как хостами коммуникационной сети. Как известно, протоколы транспортного уровня делятся на две группы:

- с установлением соединения: акцентируют формальный порядок коммуникации, как то: сохранение порядка следования сообщений и подтверждение приёма. В нашем случае это вербальная коммуникация.

- и без установления соединения: применяются для потоковой передачи или для малых объёмов данных. Это невербальная коммуникация (мимика, интонация, жестикуляция).

Наконец, прикладной уровень, с которым собственно и работают сетевые приложения. Протоколы этого уровня задают тип и структуру данных, которыми обмениваются приложения. Содержанием этого уровня является текст, как среда передачи знаний. Отсюда видно, что язык в целом представляет собой стек коммуникационных протоколов. Но отсюда так же видно, что язык не сводится к коммуникации (речи).

Дело в том, что единица предыдущего уровня, может быть описана только в протоколах следующего уровня. Например информационный сигнал описывается смыслом слов: буква А, слог КУ. Значение слова, в свою очередь, описывается смыслом предложений: математика есть наука «об операциях, рассматриваемых сами по себе, независимо от различных предметов, к которым они могут применяться»[31]. Смысл же предложения может быть раскрыт только неким поясняющим текстом. Проблема в том, что заключенные в тексте единицы знания (идеи) не могут быть пояснены никак иначе, кроме как самим текстом, т.е. рекурсивно. Из этого с необходимостью следует деление знания на эксплицитное и имплицитное, о котором писал упомянутый выше Полани. Т.е. эксплицитным будет такое знание, которое может быть переведено на сознательный уровень с помощью текущих языковых техник. Имплицитное же знание на существующий уровень сознания переведено быть не может.

Юмор ситуации в том, сам язык (как стек протоколов) очевидно является знанием, и в значительной мере - имплицитным. Мы все умеем составлять текст из фраз, но никто не понимает - КАК мы это делаем? В этом смысле - мы все немножечко зомби. Мы спокойно пользуемся родным языком, правил которого не знаем. Мы живём в обществе, законов которого не понимаем[32]. Более того, сами совершаем поступки, причин которых не осознаём. Так что лозунг “Познай себя” остаётся для нас таким же недостижимым идеалом, как и для сформулировавших его два с половиной тысячелетия назад греческих мудрецов.

Но давайте всё таки вернёмся к Китайской комнате. Теперь мы постараемся устранить вторую часть проблемы, т.е. дать определения используемым терминам:

Коммуникация - процесс передачи информации от одной нейронной сети к другой. Этот процесс лежит на чисто биологическом уровне, т.е. на уровне психики. Точно так же, как процесс репликации РНК (лежащий в основе жизни) относится к уровню химии (и синергетики).

Язык - стек коммуникационных протоколов передачи знаний. Выражаясь гуманитарным стилем, язык есть набор социальных средств организации биологического субстрата коммуникации. Т.е. язык относится к социальной области знаний. Сущность языка в том, что он превращает коммуникацию, как передачу информации, в речь - как способ манипулирования. Отсюда с необходимостью вытекает многозначность языковых структур, т.к. смысл сообщения может быть вторичен, являясь лишь средством, по отношению к цели манипуляции.

Знание - способ хранения социальных единиц наследования, т.е. идей. Именно идеи являются субстанцией социальной реальности, и эволюция социума напрямую связана с развитием образующих его идей. Как мы уже заметили ранее, идеи передаются поверх текста, следовательно невыразимы в языке. Именно - в силу своей первичности к сознанию и социуму вообще, и по отношению к языку - в частности. Впрочем некоторая, эксплицитная, часть знаний может быть с некоторой точностью отображена в текст.

Сознание - процесс коммуникативной репликации знаний как социальных единиц (идей). Оно представляет собой рекурсивную структуру психики, возникшую в результате метафоризации коммуникативной и манипулятивной функций речи. Эти свойства, будучи направленными на психику, порождают соответственно самосознание и самоконтроль. Именно из линейности коммуникативного процесса вытекает последовательность сознания (и его отличие от параллельной структуры психики основанной на нейронной сети).

Понимание - процесс трансляции (перевода) текста из формы коммуникативной передачи (язык) в форму когнитивного хранения (знания). Фактически понимание есть перевод эксплицитного знания, в имплицитное. Этот процесс, как и социальные аспекты вообще, лежит вне нашего сознания. Мы не можем сознательно контролировать понимание, из-за этого процесс обучения до сих пор требует огромных затрат времени и усилий и всё равно не даёт устойчивых результатов. Более того, даже в обыденном общении, даже с хорошо нам знакомым человеком, мы никогда не можем быть на 100% уверенны в том, что нас понимают правильно.

Т.е. как коммуникация работает на основе стека языковых протоколов общения, так и когнитивные процессы основаны на некотором языке идей, формализующим процедуры их хранения и обработки. И сложности процесса понимания обусловлены неустойчивостью процесса перевода с одного языка на другой.

Процесс понимания так же задаёт ключевое отличие социальной реальности от биологической. В живых клетках ДНК (знание) как набор генов (идей) транслируется только в одном направлении - через систему РНК (сознание) в белки (тексты). Относительно недавно была открыта ревертаза, как механизм обратной транскрипции РНК в ДНК. Механизмов трансляции белковых структур в ДНК нет. Социальная же реальность обладает устойчивыми механизмами двусторонней трансляции, не только идей в тексты, но и наоборот.

То есть сознание, как процесс коммуникативной репликации знаний, включает в себя не только алгоритмы перевода идей в тексты, но и обратные механизмы редактирования знаний, на основе входящих текстов. Пользуясь компьютерной метафорой можно сказать, что знания представляют собой некие исходные коды социальных программ. Сознание, в этом случае, служит транслятором, компилирующим социальный исходный код, для исполнения в биологической операционной среде (психика) на конкретном физическом исполнении решающего устройства (нейронная сеть). Уникальность этого транслятора в его двунаправленности, т.е. он не только компилирует исходные знания в исполняемый мозгом код, но и декомпилирует содержание нейронных структур, обратно в социальные идеи и знания.

Здесь нужно уточнить ещё вот что. Компиляция - процесс принципиально необратимый. При трансляции программы с исходного высокоуровнего языка в язык машинных кодов теряется множество избыточной информации. Комментарии[33], имена переменных, структуры и классы - в общем вся иерархия высокоуровнего языка, которая не может быть выражена (да и не нужна) в “плоском” машинном коде. Соответственно декомпиляция - это не столько обратный перевод (трансляция) сколько реконструкция объемного исходника по его проекции в “плоский” машинный код. Соответственно, реконструированная (декомпилированная) программа в принципе не может быть идентична исходной. В лучшем случае - она должна быть функционально изоморфна, то есть работать так же, как и исходная.

Отсюда возникают две непоределёности:

1. Принципиальные потери при компиляции порождают неэксплицитность большей части социальных знаний. Эксплицитно может быть выражена только та их часть, которая отображается в био/физический (коммуникативный) субстрат без принципиальных искажений. Это задаёт неопределённость передачи знаний.

2. Один и тот же код может быть декомпилирован множеством способов, в следствии чего один и тот же текст разными людьми всегда может быть понят по разному. Т.о., сложность реконструкции знаний порождает неопределённость процесса понимания.

Отсюда же прекрасно видно, что мозг порождает разум не в большей степени, чем процессор Intel Core i7 порождает компилятор Microsoft C#. Напротив, компилятор лишь исполняется на этом процессоре, и не более того. И все попытки некоторых мыслителей (вроде Сёрла) привязать разум к физиологической функции мозга, просто низводят этот самый ум до уровня, функционально неотличимого от сытой отрыжки, теряя таким образом, саму его сущность.

И раз уж мы всё таки вернулись к Сёрлу, то давайте на основе сформулированной терминологии попробуем ещё раз рассмотреть эксперимент китайской комнаты. Начнём со формулированных Сёрлом аксиом[34]:

“Аксиома 1. Компьютерные программы — это формальные (синтаксические) объекты....манипуляция символами осуществляется без всякой связи с каким бы то ни было смыслом. Символы в программе могут обозначать все, что угодно программисту или пользователю. В этом смысле программа обладает синтаксисом, но не обладает семантикой.”

Отчасти это утверждение можно признать верным, если в под термином “программа” понимать некий абстрактный алгоритм действий. Потому что, даже если мы говорим о реализации алгоритма на конкретном языке программирования, очевидно, что символы этого языка, НЕ МОГУТ “обозначать все, что угодно программисту или пользователю”. Напротив структура этих символов достаточно жёстко детерминирована синтаксисом конкретного языка, способами задания классов, объявления переменных и т.п. Да, это в целом синтаксически структуры, но полагать их полностью лишёнными смысла может только человек, которому ни разу лично не приходилось по полтора часа искать в коде пропущенную точку с запятой, или букву “с” по ошибке набранную в русской раскладке вместо английской.

Но это чисто субъективный аргумент. С объективными несколько сложнее,поскольку Сёрл, как и положено любому профессиональному философу, принципиально не определяет значение используемых им терминов. Что он понимает под “программой”? Что такое “смысл” и “значение”, чем они отличаются, и тождественны ли они терминам “семантика” и “синтаксис”? Ответов на эти вопросы мне у него обнаружить не удалось.

С другой стороны, если Сёрл считает программой то, что исполняется компьютером[35], то исходный код - это НЕ программа. Ни один процессор не может исполнять команды языка С++ или Java. Процессор исполняет машинный код, как результат компиляции исходного кода. И, в этом отношении, исходный код, как раз выступает смыслом (семантикой), для обладающих лишь синтаксисом инструкций процессора.

Ещё раз - исходный текст программы и скомпилированный, исполняемый процессором код, хранимый в исполняемом файле - это две существенно разные вещи. Например, производительность одного и того же исходного кода может меняться в несколько раз в зависимости от используемого компилятора, или даже от изменения настроек одного компилятора. Про необратимость процесса компиляции я уже писал.

В связи с этим я никак не могу согласиться с отсутствием семантики у компьютера. Смыслом для него выступают исходники, содержащие все комментарии, отладочную информацию, мануалы и всё остальное, облегчающее как раз процесс ПОНИМАНИЯ кода. Ну а то, что у самого смысла нет другого смысла, представляется мне трюизмом, точно так же, как и то что слово “красное” не обладает краснотой само по себе.

Таким образом, хотя комната и не обладает пониманием китайского, но она отлично понимает семантику того языка, на котором написана инструкция. В связи с чем я не вижу никаких оснований полностью лишать компьютерные системы феномена знания.

В принципе, на этом анализ китайской комнаты можно было бы завершить. Если ограничиться только целью опровержения выводов Сёрла. Но мне представляется гораздо более интересным попытаться сделать всё же некие позитивные выводы: что в природе сознания нам даёт понять этот мысленный эксперимент? Для этого давайте продолжим анализ аксиом Сёрла:

“Аксиома 2. Человеческий разум оперирует смысловым содержанием (семантикой). Располагать только символами как таковыми (т. е. синтаксисом) еще недостаточно для того, чтобы располагать семантикой. Простого манипулирования символами недостаточно, чтобы гарантировать знание их смыслового значения.” [36]

На самом деле человек оперирует не только смыслами, но всем стеком протоколов: информация, значение, смысл, знание. Кроме того, здесь нужно сделать ещё несколько замечаний. Использованный термин “разум” (в оригинале - “mind”[37]) мне представляется не слишком удачным, из за свой аморфности. С одной стороны он очевидно отличается от термина “сознание”, другой стороны - не слишком понятно, чем именно? Дело в том, что хотя каждый человек пользуется всем спектром этих протоколов, далеко не все эти процессы лежат в области сознания. С нижней стороны - огромное количество информации наш организм и психика обрабатывают без привлечения сознания. Часть этой информации потом представляется в сознании в виде различных чувств: от голода до сексуального влечения. Но это вовсе не значит, что те процессы, что не представлены в сознании, не оказывают влияния на поведение.

“Например, па­циенты с повреждением правой зрительной коры совершенно не видят все, что расположено слева от носа, если они смотрят строго перед собой (специа­листы называют это левым нолем зрения) Обследуя таких пациентов, Вейскранц заметил нечто очень странное. Он показал пациенту небольшую точку света в слепой области и спросил, что он видит. Па­циент, как и ожидалось, ничего не увидел. Однако затем Вейскранц попросил его протянуть руку и кос­нуться света, несмотря ни на что.

«Но я не могу видеть его, — сказал пациент, — как же вы можете просить меня об этом?» Вейс­кранц сказал: «Попробуйте паугад». И к удивлению экспериментатора, мужчина вытянул руку и указал точно на точку, которую не мог воспринимать. Пос­ле сотни проб стало ясно, что он мог указывать на свет с 99-процентной точностью, несмотря на то что при каждом эксперименте заявлял, что просто на­правляет руку наугад и не знает, правильно ли он попадает. Эти опыты поразительны. Каким образом человек указывает на объект, которого он не может видеть и коснуться?

На деле ответ очевиден. У этого пациента была повреждена зрительная кора — новый путь, и по­этому он ослеп. Тем не менее вспомним, что в каче­стве поддержки у него остался дополнительный зри­тельный путь (старый), идущий по мозговому стволу и верхним бугоркам. Таким образом, хотя информа­ция от глаз и зрительных нервов не достигала зри­тельной коры из-за ее повреждения, она выбирала обходной путь через верхние бугорки, которые поз­воляли определять положение объекта в простран­стве. Затем информация передавалась к высшим цент­рам мозга в теменные доли, направлявшие движе­ние руки точно к невидимому объекту! Это сродни тому, как если бы в человеке находилось другое бес­сознательное начало — «зомби» — которое направ­ляло его Руку со сверхъестественной точностью.

Такое объяснение позволяет предположить, что только новый путь носит осознанный характер, а со­бытия, проходящие через бугорки и направляющие движение руки, могут происходить без сознательного участия человека!”[38]

В данном случае роль таинственного “зомби” исполняет психика, как операционная система мозга. Она конечно не может заменить сознательное видение, зато вполне может координировать афферентные и эфферентные потоки информации драйверов периферийных устройств.

Таким образом “снизу” сознание ограничено биологической средой, т.е. той информацией, что предоставляет ему психика. Но тогда логично логично предположить что сверху, сознание так же ограничено, только уже социальной средой. Здесь деление между сознательным и неосознанным проходит по границе эксплицитного и имплицитного знания, о которой я писал выше. Тогда структуру разума (mind) можно представить так:

Закрашенный параллелограмм собственно и представляет собой ум, на границе двух реальностей: социальной и биологической. Сознание же приблизительно ограниченно пунктирными линиями.

Т.о. точно так же, как китайская комната может оперировать карточками, не зная их смысла, так же и человек, оперирует элементами имплицитного знания, не осознавая даже наличие самого этого знания. Компьютер исполняет машинный код, который он сгенерировал для себя сам, в процессе компиляции исходных текстов, написанных для него людьми. Но ведь и люди исполняют социальные предписания, авторами которых сами не являются. Разница только в том, что мы умеем проявлять активность в процессе компиляции под себя социальных программ, а иногда можем даже создавать новые исходники, а наши компьютеры пока этого не умеют. Собственно ум - это механизм правки знаний под текущие обстоятельства. (Понимание - реконструкция знаний из текста).

Т.о., анализируя Аксиому 1 мы выяснили, что компьютерные системы, как и человек, обладают семантикой в виде исходных кодов программ. С другой стороны, из проделанного выше анализа Аксиомы 2 очевидно, что сам человек, как и компьютерные системы, обладает весьма ограниченными осознанием своих знаний (семантического уровня). Просто потому, что на уровне обработки эти знания представлены в компилированном виде. Теперь продолжим анализ аргументов Сёрла:

“Аксиома 3. Синтаксис сам по себе не составляет семантику и его недостаточно для существования семантики. … существует различие между формальными элементами, не имеющими внутреннего смыслового значения, или содержания, и теми явлениями, у которых такое содержание есть. Из рассмотренных предпосылок следует:

Заключение 1. Программы не являются сущностью разума и их наличия недостаточно для наличия разума.”

Здесь мы можем наблюдать весьма любопытный случай, когда два ошибочных утверждения (первые две аксиомы), плюс одно банальное (третья аксиома) приводят сначала, к совершенно верному выводу (Заключение 1), а затем, к ошибочному толкованию правильного вывода:

“ Аксиома 4. Мозг порождает разум.

...мышление — это биологическое явление: психические состояния и процессы обусловлены процессами мозга. ”

В этом смысле Сёрл безусловно гениальный философ. По крайней мере, если под гениальностью понимать способность совершать правильные выводы из ошибочных предпосылок. Программы действительно составляют сущность разума не в большей степени, чем набор РНК представляет собой сущность жизни. РНКовые программы позволяют так организовать чисто химический процесс репликации ДНК, что бы он происходил хотя и в рамках химических законов, но по правилам биологической реальности: от отдельной особи до биосферы в целом. Соответственно и сущность разума заключается в таком взаимодействии исполняемых мозгом социальных программ, что в результате происходит не только коммуникативная репликация знаний в тексты (ДНК в белки), но и обратный процесс - реконструкции знаний из полученных через общение текстов. Отсюда хорошо видна ограниченность компьютерной метафоры: Как мы видели раньше, человек не столько компьютер (вычислитель) сколько коммуникатор. Соответственно и сущность ума проявляется не в действиях какой-то одной программы, но в процессе их взаимо-действия, образующих либо нисходящий, компилятивный поток идей, от знаний в тексты; либо наоборот, восходяще-реконструктивный, от текстов к знаниям.

И проблема Сёрла даже не том, что он напрочь игнорирует социальный аспект сознания. Хотя именно этот просчёт приводит его к заявлениям типа:

“На самом деле, мышление — это биологическое явление: психические состояния и процессы обусловлены процессами мозга.”

Хотя оно элементарно опровергается тем, что мозг сам по себе не порождает никакого сознания (см.феномен Маугли), точно так же как и работа процессора сама по себе не порождает никаких программ. Сознание появляется только в коммуникации и без неё (в изоляции) быстро деградирует. Но дело не в этом.

Заявление о том, что ум - это социальный или физический процесс будут столь же ошибочными. Впрочем, заявление о то, что ум это социальный феномен кажется будет чуть менее ошибочным, чем остальные. Биологическим феноменом, судя по тем же языковым проектам обучения приматов, можно назвать сознание, как процесс репликации знаний. Ум же даёт возможность создания новых знаний, путём их реконструкции из текстов. Сначала - предположение мотивов по поведению человека, затем реконструкция законов природы по поведению материи.

Таким образом, ум появляется в процессе рекурсивной интерференции всех трёх описанных выше реальностей: физической, биологической и социальной. Если мы проецируем образ ума на физическую реальность - мы увидим мозг, и будем оперировать в рамках теорий тождества, или других вариантов физиологического редукционизма. Глядя на разум через призму биологической реальности - мы увидим психику, как процесс обратной связи организма со средой. В теоретическом плане такому взгляду соответствуют различные формы бихевиоризма, анализирующие поведение. Наконец рассматривая ум в чисто социальных рамках мы увидим сознание, как семантику, т.е. механизм передачи знаний. Большинство современных филисофских концепций сознания являются некоторой комбинацией этих подходов. Но дело в том, что ум как рекурсивная структура, может быть понят только на основе интерференции всех трёх реальностей. Т.е. каждая из этих теорий описывает лишь одну из плоских граней куба, упуская при этом из внимания и саму фигуру, и объёмность структуры ума вообще.

Мозг можно представить как некоторое решающее устройство, психику - как операционную систему, обеспечивающее его взаимодействие с периферией (сенсорами и манипуляторами), сознание - как комплекс приложений, обеспечивающих коммуникацию этой системы, с другими такими же системами. Именно развитие всего этого комплекса приводит к появлению языка, как способа передачи (и хранения) не только данных, но и самих программ. А затем и ума, как программы для создания новых программ, путём реконструкции языковых текстов. Но компьютер не может работать в сети без соответствующего софта (сознания), софт - без операционки (психика), ОС - без процессора (мозг). Так что игнорирование любого из этих уровней приводит теорию в тупик.

Проблема Китайской комнаты в том, что сидящий в ней отрезан от всех физических проявлений внешнего мира[39]. В случае человека такое положение дел имеет место например при врождённой слепо-глухоте. И если не использовать специальные тактильные системы коммуникации, то никакого разума при этом не возникнет. Если же мы вытащим нашего человека из комнаты в реальный мир, то он сможет выучить китайский просто тыкая пальцем в предмет и задавая соответствующий вопрос. В этом случае эта таинственная книга “книга правил” с помощью которой Сёрл собирался проходить тест Тьюринга становится тем, чем и была с самого начала - Англо-Китайским разговорником.