Машины, которые обманывают

Весь этот анархический экстаз отчего-то заставляет меня думать о том, что компьютерные модели работы мозга с их не столь давними попытками разобраться в творческих процессах достигли, по-видимому, какого-то серьезного препятствия, уткнулись в тупик. Полагаю, для того чтобы иметь созидательное воображение, нужно уметь представлять себе нечто такое, чего еще не существует. Значит, любой творческий акт подобен обычной лжи: он требует вообразить существование вещи, которой фактически нет в природе, и писать или говорить о ней так, словно эта фикция вполне реальна. Подавляющее большинство книг, написанных в жанре беллетристики, стремятся поведать нам вымышленные истории — да так, чтобы убедить нас, будто все описанные события действительно происходят или происходили. Мотивация, лежащая в основе рассказа и лжи, конечно, разная, но творческий процесс аналогичен в обоих случаях.

Чтобы получить машину, действительно способную творить, мы неизбежно должны будем создать нечто, похожее на HAL[31], которое сможет не только производить, сопоставлять и просеивать гигантские объемы информации, но и воображать, творить, лгать и вводить в заблуждение. С точки зрения машины никакой разницы между воображением и наглым враньем может и не оказаться.

У нас, созданных из мяса марионеток, есть своя мораль, инстинкты, законы и табу — они призваны помочь нам выдерживать баланс, который по своей природе человекоцентричен, а потому не универсален. Нам хотелось бы думать, что моральные устои и запреты даны свыше и применимы ко всем людям, но на самом деле они рассказывают нам, что хорошо и что плохо для нас как для биологического вида, а иногда — лишь для нашего племени, нашей нации, конкретного района обитания. Что ж, гипотетическую творческую машину непременно придется наделить неким машинным эквивалентом этих законов и запретов. К тому же, если она будет создавать нечто ценное для людей, ей также потребуется научиться испытывать страх, любовь, голод и грусть; наши инстинкты и побуждения, наша интуиция, все детали наших мыслительных процессов и принятия решений, ходы рассуждения. Нашими действиями управляет не только логический анализ ситуации, но и всяческие иррациональные импульсы, не говоря уже об эмоциях, — значит, чтобы научить машину по-настоящему думать как мы, надо будет дать ей возможность объединять рациональный подход с эмоциональным. Вы уже, наверное, догадываетесь, куда ведут эти рассуждения.

Далее, творческим машинам, по-видимому, может потребоваться весь сумбурный набор человеческих атрибутов — генетическая мотивация, социальная жизнь и даже какая-то форма половой жизни (желание, страсть, совокупление, порождение потомства), — чтобы развить религиозные и социальные отношения, которые послужат, как это происходит с нами самими, сдерживанию негативных эмоций, лжи и нарциссизма, которые неизбежно вылезут из этого «ящика Пандоры». Эти социальные структуры лишь до какой-то степени смогут смягчить антиобщественные тенденции: с людьми это работает точно так же. Мы способны создавать мыслящие существа исключительно по собственному образу и подобию (иначе мы не можем): стало быть, то дерьмо, в котором мы сами порой оказываемся, неизбежно замарает и наши «творения».

На этот печальный вывод можно и возразить: если, скажем, изобретенный нами велосипед — способ «продвинуть» ноги, тогда, возможно, нам все-таки удастся придумать что-то получше нас самих? Ну, в физическом смысле, во всяком случае. Подозреваю, речь в таком случае идет о развитии инструментария. Вороны и шимпанзе пользуются инструментами, способными дотянуться туда, куда не достают пальцы или клювы, но их усилия едва ли можно назвать творческими. Для этого нам потребуется смастерить машину, которая окажется «лучше» нас самих в эмоциональном и творческом ключе. Если мы даже преуспеем и создадим такую машину, велик шанс, что мы не сможем оценить степень улучшения.