Что было в прошлых частях

Пенроуз, в своих замечательных книжках, считает, что мозг способен выдавать абсолютно истинные суждения, и утверждает, что в основе мыслительных процессов лежат физические процессы, которые могут выполнять вечные вычисления за конечное время. Причём вычисляют эти процессы не абы что, а абсолютную и неопровержимую истину в самом прямом смысле этого слова. И мозг может "дёргать" эти процессы, чтобы подумать. И именно поэтому для работы мозга нужны такие процессы. И, хотя сегодняшней физике такие процессы неизвестны, Пенроуз полагает, что более глубокий уровень мироздания составляет иная реальность, основанная на таких вот процессах.

Во многом Пенроуз прав насчёт этой иной реальности, и даже более того, как-нибудь мы расскажем не менее интересные и похожие идеи насчёт того, что лежит в основах мироздания. Но всё-таки Пенроуз поторопился, перескочил, так сказать несколько ступенек. Подавляющее (если не всё) большинство интеллектуальной деятельности можно объяснить более прозаическими и приземлёнными вещами.

Несомненная заслуга Пенроуза в том, что он убедительно объяснил, почему интеллектуальная деятельность никак не может быть основана на формальной логике (или другими словами, на строгих алгоритмах). Точнее, Пенроуз показал, что абсолютно истинная логика (она же в понимании Пенроуза интеллектуальная деятельность) невозможна на известных физических процессах. Но мы поняли это по-своему, а именно, что интеллектуальная деятельность не нуждается в абсолютно истинной логике. Или, другими словами, человеческий интеллект правдоподобен, он выдаёт хорошие приближения к истине, но вероятность ошибки всё-же есть. А это кардинально меняет дело, а именно, совершенно меняет подходы к тому, как объяснить естественный интеллект, и как построить искусственный интеллект. И такой интеллект можно промоделировать на машине Тьюринга, запрограммировать на обычном компьютере, правда, лучше иметь архитектуру большей мощности и с присущим параллелизмом, например, квантовую или оптическую.

Теперь напомним, что за сыр-бор вокруг истиной и не истиной логики. Математические и компьютерные вычисления, человеческие размышления, логические построения и умозаключения связывают с понятием алгоритма или формальной системы (фактически это одно и тоже). Выполнение алгоритма (оно же применение правил формальной системы) это и есть модель всяческих вычислений, размышлений и прочих физических процессов (или, как минимум, достаточно хорошее приближение). Алгоритм - это набор инструкций, которые последовательно по шагам может выполнить какой-то абстрактный компьютер (машина Тьюринга).

Есть понятие строгого алгоритма (оно же полная и непротиворечивая формальная система). На одном и том же наборе входных данных, строгий алгоритм за конечное число шагов выдаст один и тот же ответ. В применении к формальным системам и логическим рассуждениям это значит, что за конечное время для исходных условий можно найти истинный (непротиворечивый и однозначный) ответ. Такие вычисления ещё называют детерминированными.

Но есть и недетерминированные (нестрогие) алгоритмы, в которых эти условия не соблюдаются (они же неполные/противоречивые формальные системы). Для алгоритма несоблюдение условия конечности означает, что неизвестно закончит ли алгоритм своё вычисление, и непонятно как об этом узнать заранее. Недетерминированный алгоритм может закончить своё вычисление, а может и блуждать вечно, но что именно он сделает - это загадка, отгадывать которую можно вечно. Для формальных систем доказательство истинности или ложности исходного утверждения непонятно закончится когда-нибудь или будет продолжаться вечно. Противоречивость значит, что внутри формальной системы можно подобрать разные цепочки правил, которые для исходного утверждения выдадут и истинный и ложный ответ. Для алгоритма это значит, что на одних и тех же данных могут быть получены разные результаты.

Многие, в том числе Пенроуз, говорят, что интеллектуальная деятельность основана на строгой формальной логике. Но тут есть глобальная засада. Давно доказанная теорема Гёделя говорит, что формальная система не может быть одновременно полной и непротиворечивой. Полнота означает, что формальная система знает о своей области знаний всё. В том числе такая система может судить об истинности самой себя. Если формальную систему создаст кто-то извне, то она сможет работать, выдавая правильные результаты и нисколько не заботясь о том, правильно ли её создал этот кто-то. Если же формальная система попытается убедиться в том, что она сделана правильно, то ничего у неё не получится. Потому что наша система непротиворечива, но не полна. Если же система сможет судить о правильности самой себя (полна), то у такой системы будут внутренние противоречия, и результаты её деятельности необязательно правильные. Почему? В том числе и потому, что вопрос самопроверки (самопознания, саморефлексирования) относится к разряду вечных вычислений.

Что из этого следует? Получается (по Пенроузу), что человеческий интеллект - это полная и непротиворечивая система, потому что может генерировать истинные высказывания и в тоже время следить за правильностью самой себя. Но по теореме Гёделя это невозможно. Вот и приходится привлекать для работы интеллекта неизвестные физические процессы, которые в краткий миг могут окинуть взглядом вечность, найти ответ и вернуть этот ответ в мозг. Но как мы уже заметили, интеллект вовсе не обязан быть полным и непротиворечивым, хотя при этом может очень правдоподобно прикидываться истинным и непогрешимым.

Вторая засада - физике неизвестны сущности, которыми оперирует формальная логика. А именно, формальные рассуждения часто основаны на понятиях натуральных чисел, понятиях истинности и ложности. Натуральные числа это такие, в которых 1+1 = 2, 2+1 = 3 и так далее. Истина = 1, ложь = 0, отрицание истины = ложь. Все единицы абсолютно равны друг другу, перестановка слагаемых суммы не меняет, и так далее. Да вот беда, нет в нашем мире таких частиц, таких вещей или процессов, которые можно было бы однозначно сопоставить натуральным числам, и при этом, чтобы правила арифметики выполнялись для этих сущностей в любых диапазонах. В некоторых диапазонах арифметика приблизительно верна, но за пределами начинаются глобальные сбои. Поэтому формальная логика, грубо говоря, оперирует сама не понимая чем, сущностями, суть которых довольно таки расплывчата. Причём арифметика сама не относится к полным и непротиворечивым системам, такой вот забавный факт. Да и вообще, похоже, таких понятий как абсолютная истина, натуральные числа, в принципе не может существовать. Как именно и почему, будет в следующих частях.

Что из этого следует? Все процессы, все вычисления, происходящие хоть в мозгу, хоть в компьютерах, по сути своей или неполны, или противоречивы, хотя при этом дают хорошее правдоподобное приближение к полным и непротиворечивым вычислениям.

Почему Пенроузу не нравятся противоречивые формальные системы, почему Пенроуз отказывает им в праве быть основой интеллектуальной деятельности? Как мы помним, в противоречивой формальной системе, для одних и тех же данных, можно вывести и истинное и ложное утверждение, вплоть до того, что 1 = 2 и так далее. На этом основании Пенроуз намекает, что противоречивые системы будут всегда(!) выдавать противоречивые результаты. Отсюда же у Пенроуза вытекает весьма узкая трактовка хаотических процессов, он считает, что это просто случайные процессы, которые в среднем можно промоделировать строгой формальной системой.

На самом же деле, противоречивые системы могут в большинстве случаев сходиться к истинному результату, совсем не обязательно, что внутренние противоречия будут сразу же доминировать и разрушать систему. Могут быть такие системы, в которых противоречия минимизируются. И даже будучи запущенными на абстрактном компьютере, они останутся недетерминированными, они будут неполны и противоречивы, но в большинстве случаев они будут выдавать правдоподобный результат. Почему Пенроуз решил, что противоречивые системы всегда будут разрушаться своими противоречиями? Об этом Пенроуз молчит...

Дальше - больше. Как мы видели в предыдущих частях, процессы нашего мира, что в компьютерах, что в мозгах, все они по своей сути расплывчаты и противоречивы. Но в большинстве случаев они выдают правильный результат. Связано это с тем, что процессы эти состоят или из многократного повторения похожих вычислений, или из большого числа похожих элементов, таким образом, что сочетание этих повторений или элементов в большинстве случаев выдаёт стабильный и правильный результат. При этом, конечно, сохраняется очень маленький шанс, что небольшое внутренне противоречие разрастётся и разрушит всю систему. Но в большинстве случаев система как бы гармонизируется, элементы, воздействуя друг на друга, минимизируют внутренние противоречия. Далеко не все процессы в нашем мире высокогармонизированы, но такие процессы есть, и происходящее в компьютерах и в мозгу к ним относится. Откуда происходит такая гармонизация в нашем мире - тема следующих частей. Остаётся и крохотный шанс, что в наших мировоззрениях, в нашей интеллектуальной деятельности мы в чём-то глобально не правы, что есть небольшая чревоточина в наших суждениях, которая может на корню перевернуть всё наше представление о мироздании. Но и об этом в следующих частях.

Изначально человеческое мышление основано как раз на таких процессах. Нет длинных логических цепочек, нет чётких правил. Вместо этого - короткие цепочки ситуация-отклик, без длительных циклов переработки. Элементы этих цепочек имеют большое число входов, и внутри элемента входные данные распадаются на множество параллельных, дублирующих друг друга, нечётких путей, которые на выходе дают чёткое решение. Назвали мы такие элементы короткими и широкими правдоподобными правилами. Такие правила не занимаются логическим выводом, они уже "помнят" готовое решение на известные им ситуации. Механизм обучения таких правил тоже далёк от чёткого логического вывода и описан в предыдущих частях.

Такие процессы хороши для взаимодействия с реальным миром, но формальная логика им даётся тяжело. Тем не менее, человеческий интеллект может работать в режиме формальной логики, может эмулировать компьютерные вычисления. Может, но за счёт намного более "тяжёлых" процессов. Чтобы прогнать в мозгу вычисления простой логической схемы, простой программы, привлекаются мириады коротких нечётких правил, которые, в своём сочетании и дают результат, похожий на работу строгой логики. И так как правила эти предназначены совсем не для формальной логики, то их количество, привлечённое для эмуляции формальной логики будет намного более огромным, чем для взаимодействия с реальным миром. И поэтому разные животные не способны к логическим размышлениям, для этого нужен изощрённый человеческий мозг. Хотя бытовые задачи, которые разные животные решают мимоходом, компьютеру не под силу.

Но есть у таких "тяжелых" процессов и преимущество. Состоит оно в том, что мозг может производить на свет новые логические построения и компьютерные программы с высокой степенью правдоподобности, в то время как простой, но эффективный алгоритм, способен лишь бессмысленно выполнять свою работу. Сложность производных построений на многие порядки меньше, чем степень изначально задействованных в мозгу процессов. Вот этот перепад сложности и разрешает противоречие о том, что противоречивые интеллектуальные процессы создают истинные логические построения. Если этот перепад сложности не принимать во внимание, то никак не понять, откуда берутся эти истинные построения.

Задачи, требующие сложных логических построений, человек решает буквально методом "научного тыка". А именно, придумать какой-то простейший вариант, прогнать в мозгу его вычисление, увидеть неправильные моменты, придумать следующий (необязательно правильный вариант), снова проэмулировать вычисление и так далее. При хорошей тренировке, такие построения переходят в разряд быстрых автоматических действий, не требующих участия сознания (и, тем не менее, всё равно сложность их огромна), запоминаются типовые ситуации, и начинает казаться, что мозг работает как обычный компьютер (в соответствии с формальной логикой), хотя это вовсе не так.

Бывает и такое, когда мозг долго "взводится", "разгоняется" на какую-то задачу, идёт закладка начальных данных, неудачных попыток, неясных предчувствий и томлений о том, что истина где-то рядом. А потом бах, и вспышка озарения, всё становится на свои места и рождается новая истина. Может показаться, что эта истина родилась мгновенно и пришла из высших сфер. Но на самом деле эффект тот же, вспышке озарения предшествовала долгая и упорная работа, которая задействовала, изменяла и создавала мириады коротких и правдоподобных правил, пыталась их вместе как-то сочетать, гармонизировать, по большей части неудачно. И вот наступает момент, когда все эти правила уже гармонично сочетаются друг с другом, сливаются в единый гармоничный процесс, и все вместе выдают наружу новую истину.

Искусственный интеллект, следуя таким принципам, вполне может быть запрограммирован на обычных компьютерах. Естественно, программа эта изначально будет нацелена на недетерминированность и присутствие внутренних противоречий. В то время как существующие компьютерные программы, хотя и недетерменированны и противоречивы, но пишутся современные программы прицелом на то, чтобы в них было меньше недетерминированности и противоречий. Конечно, для искусственного интеллекта лучше задействовать более эффективную архитектуру, допускающую большое количество параллельных и взаимодействующих процессов. Например, квантовую или оптическую. Однопроцессорные электронные компьютеры тоже можно запрограммировать на интеллект, но мощности им, вероятно, будет недоставать.