Глава 4. Несколько дней спустя Джералд Мартин позвонил управляющему местного отделения «Ю

Несколько дней спустя Джералд Мартин позвонил управляющему местного отделения «Ю. С. Роботе энд Мекэникл Мен Корпорейшн» и сказал:

— У меня возникли небольшие проблемы с домашним роботом НДР, которого я приобрел у вас.

Управляющего звали Эллиот Смайт. Как и большинство высших чинов «ЮСРММ», Смайт принадлежал к большому, богатому семейству Робертсонов, ведущему свое начало от Лоуренса Робертсона, основавшего «Ю. С. Роботс Корпорейшн» в конце двадцатого века.

К этому времени компания так разрослась, что, строго говоря, не могла рассматриваться как семейное предприятие Робертсонов: необходимость в притоке новых капиталов для расширения производства принуждала Робертсонов и Смайтов постоянно продавать значительные количества акций «ЮСРММ» посторонним инвесторам. Тем не менее человеку, не принадлежащему к их кругу, не так уж просто было поднять трубку и попросить к телефону Робертсона или Смайта. Но Джералд Мартин был председателем регионального Комитета по науке и технике, и как бы богаты и могущественны ни были Робертсоны и Смайты, они не посмели бы принебречь звонком Джералда Мартина.

— Проблемы? — сказал Эллиот Смайт, и его лицо на телефонном экране выразило крайнее замешательство. — Чрезвычайно жаль, мистер Мартин. Должен признаться, меня это удивляет. Ваш НДР — это, знаете ли, произведение искусства, и перед тем, как быть отправленным к вам, он прошел всестороннее тестирование. Какие неисправности вы обнаружили в нем? Он в чем-то не оправдал ваших ожиданий?

— Я ничего не говорил о неисправностях.

— Но вы упомянули о возникших проблемах, мистер Мартин. НДР должен справляться с любой работой по дому, которую..

Сэр решительно прервал его:

— Я вовсе не имею в виду тех обязанностей, которые ему предписаны, мистер Смайт. НДР-113 прекрасно с ними справляется. Проблема в том, что у робота проявились не оговоренные в руководстве способности, в том руководстве, которое мы с вами обсуждали, когда впервые решили доставить в мой дом роботов-слуг.

Выражение замешательства на лице Смайта сменилось выражением мрачного предчувствия.

— Вы хотите сказать, что он преступил запрограммированный в его мозгу блок обязанностей и делает все, что ему вздумается, а не то, что ему приказывают?

— Нет, ничего подобного. Если бы происходило что-нибудь в этом роде, вы давно были бы осведомлены об этом, уверяю вас. Нет, мистер Смайт, дело в том, что совершенно неожиданно он занялся работами по дереву. Он делает из дерева украшения

и мебель. Моя младшая дочь обратилась к нему как-то с просьбой сделать ей из дерева кулон, и он выполнил работу так превосходно, что превзошел все наши ожидания. И тогда я велел ему вырезать из дерева еще много разных вещиц. Он вырезает феноменально тонкие узоры и при этом никогда не повторяется. Его работы — это произведения искусства. Любой музей почел бы за честь выставить их у себя.

После того как Сэр кончил говорить, Смайт немного помолчал. Уголки его губ слегка подергивались, но никаких других проявлений эмоций он себе не позволил.

Потом он сказал:

— Роботы серии НДР довольно многосторонни, мистер Мартин. Нет ничего невозможного в том, что какой-то НДР оказался способен к столярным работам.

— Мне казалось, что я недвусмысленно сказал вам, что это далеко не обычные столярные работы, — возразил Сэр.

— Да, возможно, — сказал Смайт, и наступила новая, довольно продолжительная пауза. Затем Смайт произнес: — Я хотел бы посмотреть на его работы. И заодно посмотрел бы на вашего робота. Надеюсь, вы не будете против, если я прилечу к вам на побережье и быстренько обследую его?

— Но обследование потребует лабораторных условий, не так ли? Насколько я понимаю, вам нужны будут приборы для тестирования, а как вы доставите их сюда, в мой дом? Может быть, проще мне привезти к вам Эндрю, чтобы вы на месте хорошенько проверили его?

— Эндрю?

Сэр улыбнулся:

— Так его называют мои девочки. По созвучию с его серией НДР, знаете ли.

— Ах да. Да, понятно. Но не стоит вам утруждать себя этим полетом сюда, на восток, мистер Мартин. Я все равно давно должен был посетить наши предприятия на Западном побережье, это вполне оправдывает мой визит к вам. К тому же я не собираюсь подвергать вашего НДР сложному тестированию. Мне нужно всего лишь поговорить с ним и с вами и посмотреть его работы по дереву и вообразить не могу, как это вы доставите сюда целый вагон его столов и шкафов.

— Вы, пожалуй, правы.

— Тогда в следующий вторник? Это удобно для вас?

— Думаю, что да, — сказал Сэр.

— Да, вот еще что. Если позволите, я захвачу с собой Мервина Менски. Он — наш главный робопсихолог. Наверное, доктору Менски тоже будет интересно взглянуть на поделки робота НДР-113. Я даже уверен в этом.

Сэр освободил вторник от всех дел, чтобы остаться дома. Смайт и Менски должны были прилететь в Сан-Франциско дневным рейсом, а потом еще в течение тридцати минут добираться местным шатлом до побережья.

Эндрю был предупрежден о том, что приедут гости, чтобы осмотреть его. Ему это показалось странным: кому может прийти в голову наносить светский визит роботу, — но разбираться в происходящем у него не возникло никакого желания. Тогда Эндрю еще редко интересовался делами людей и почти не анализировал их всерьез. Только спустя многие годы, когда он гораздо лучше осознал свое положение, он смог правильно оценить это уже давнее событие и понять его истинный смысл.

Роскошный лимузин с шофером-роботом доставил руководителя «Ю. С. Роботе» и главного робопсихолога в поместье Мартинов. Они представляли собой совершенно разнородную пару: Эллиот Смайт был стройный, высокого роста человек атлетического сложения, с огромной, пышной гривой седых волос; казалось, ему уместнее было бы находиться не в конторе корпорации, а на теннисном корте или на матче по водному поло; а Мервин Менски был низеньким толстяком, волос не имел вовсе и производил впечатление человека, который покинет свое рабочее место только под сильным нажимом.

— Это Эндрю, — сказал им Сэр. — Его мастерская находится наверху, но и здесь вы можете увидеть кое-какие его работы. Вот этот книжный шкаф, светильники и стол, на котором они стоят, люстра...

— Изумительная работа, — сказал Эллиот Смайт. — Без всяких преувеличений — это шедевры, каждый из них.

Мервин Менски едва взглянул на всю эту мебель. Его внимание было сосредоточено на Эндрю.

— Контрольный код Элиф-9, Эндрю, — резко бросил он.

Ответ Эндрю последовал незамедлительно. Так оно и должно

было быть: кодовая проверка была сопряжена со Вторым Законом и требовала беспрекословного подчинения. Эндрю, сверкая красными фотоэлектрическими глазами, выдал все параметры системы Элиф-9; Менски слушал его, кивая головой.

— Прекрасно, Эндрю. Контрольный код Эпсилон-7.

Эндрю исполнил ему весь Эпсилон-7. Менски дал ему Омикрон-14. Потом Каппа-3 — самый каверзный контрольный код в который входили все параметры Трех Законов.

— Хорошо, — сказал Менски. — Ну, еще один. Контрольный код Омега, вся группа.

Эндрю перечислил все коды Омеги, которые регулировали и корректировали все процессы при введении новых данных в программу. Их перечисление требовало немало времени. Сэр в растерянности наблюдал за долгим испытанием. Эллиот Смайт, казалось, не слушал ни Менски, ни Эндрю.

— Он в прекрасной форме, — сказал Менски. — Каждый параметр отвечает требованиям.

— Я говорил мистеру Смайту, что дело не в том, что Эндрю якобы не справляется со своими обязанностями. Он не только с ними справляется — его возможности оказались вопреки ожиданиям куда более широкими.

— Может, вопреки вашим ожиданиям, — сказал Менски.

Сэр резко повернулся к нему, как будто его ужалили:

— О чем это вы, позвольте вас спросить?

Менски наморщил лоб, переходящий в лысину. Морщины были такие глубокие, как будто их вырезал своим резцом Эндрю. Его заострившиеся черты, усталые глаза, глубоко запрятанные в глазницах, бледная кожа, казалось, говорили о его нездоровье. Эндрю подумал, что Менски, должно быть, моложе, чем выглядит.

— Роботехника, мистер Мартин, не такая уж точная наука. Я не могу объяснить это вам во всех деталях — может, и смог бы, но это займет слишком много времени, и я не уверен, что вы много почерпнули бы из моих объяснений; но вот что я вам скажу: математическая теория, на основании которой программируются позитронные связи, настолько сложна, что не дает иных решений, кроме приблизительных. Поэтому роботы того же уровня сложности, что и Эндрю, частенько имеют способности, выходящие за пределы предусмотренных спецификаций... Хочу заверить вас, однако: то, что Эндрю оказался великолепным плотником, ни в коей мере не грозит тем, что он станет вести себя непредсказуемо и тем самым подвергнет опасности вас или вашу семью. Как бы ни варьировалось поведение роботов, Три Закона для них неоспоримы и нерушимы. Они составляют сущность их позитронного мозга. Прежде чем Эндрю попытается нарушить Законы, он полностью перестанет функционировать.

— Он не просто превосходный плотник, доктор Менски, — сказал Сэр. — Мы ведь говорим не только о прекрасно сделанных столах и стульях.

— Да-да, я понимаю. Он еще делает всякие там штучки-дрючки.

Сэр улыбнулся, но улыбка вышла холодная как лед. Он открыл шкаф, где Маленькая Мисс хранила свои сокровища, которые сделал для нее Эндрю, и вынул кое-что оттуда.

— Судите сами, — холодно предложил он доктору Менски. — Вот один из его пустячков, одна из его «штучек-дрючек».

Сэр передал ему блестящий шарик из черного дерева, на котором была вырезана маленькая площадка для игр. Фигурки девочек и мальчиков были совсем крохотные, их трудно было разглядеть, но пропорции были прекрасно соблюдены и так естественно сочетались с фактурой дерева, что она становилась частью композиции. Казалось, еще чуть-чуть — и фигуры придут в движение. Два мальчика приготовились биться на кулачках; две девочки внимательно рассматривали микроскопическое ожерелье, которое показывала им третья; немного в стороне стояла учительница, наклонившись к маленькому мальчику и отвечая на его вопросы.

Робопсихолог довольно долго молча разглядывал изящную вещицу.

— Позвольте и мне взглянуть, доктор Менски, — попросил Эллиот Смайт.

— Да-да, конечно.

Рука Менски дрожала, когда он передавал это маленькое изделие руководителю «Ю. С. Роботс».

Теперь настала очередь Смайту замереть в восторженном молчании. Эндрю, наблюдая за ним, снова испытал эмоцию, которую он привык считать наслаждением. Эти два человека были явно поражены его работами. И поражены так сильно, что не находили слов, чтобы выразить свое восхищение.

Менски сказал наконец:

—И это сделал он?

Сэр кивнул:

— Он никогда не видел школьную площадку для игр. Но как-то раз моя дочь Аманда описала ему эту сцену, когда он попросил ее рассказать, что такое площадка для игр. Минут пять они поговорили на эту тему, потом он поднялся в мастерскую и сделал этот шарик.

— Поразительно, — произнес Смайт. — Феноменально.

— Да, феноменально, — согласился Сэр. — Теперь понимаете, почему я счел необходимым привлечь к этому ваше внимание? Этот вид работы никак не предусматривался стандартными способностями роботов вашей серии НДР, так ведь? Я терпеть не могу банальностей, но, господа, разве здесь мы не имеем дело с гениальным роботом? Что-то такое, что можно рассматривать как возможности на грани человеческих?

— Ничего человеческого в НДР-113 я не нахожу,—упрямо и с раздражением ответил Менски. — Пожалуйста, не будем заблуждаться на этот счет, мистер Мартин. Перед нами всего лишь машина, никогда не забывайте об этом. В какой-то мере разумная, но машина. А в данном случае машина, обладающая чем-то вроде творческой жилки. И все равно машина. Все мое рабочее время я посвящаю исследованию личностей роботов — а они по-своему тоже личности, — и уж у кого, как не у меня должно было появиться искушение поверить в то, что в роботах есть что-то человеческое. Но я так и не поверил, мистер Мартин, не должны верить этому и вы.

— Я и не рассматривал такую возможность всерьез. Но как вы объясняете его художественные способности?

— Счастливая случайность, — сказал Менски. — Что-то в его цепях... Некая флюктуация. Последние два года мы старались производить такие конструкции... то есть роботов, которые не ограничивались бы простым выполнением заложенных в них обязанностей, но расширяли бы свой кругозор чем-то вроде индуктивных заключений, и нет ничего удивительного в том, что в одном из роботов возникло это подобие творческого потенциала. Как я уже отмечал, роботехника — это не всегда точное искусство. Порой случаются необычные вещи.

— Вы могли бы повторить эту «случайность»? Могли бы создать другого такого робота с неординарными способностями Эндрю? А может быть, и целую серию таких роботов?

— Пожалуй, нет. Тут мы столкнулись со стахостическим процессом, мистер Мартин. Вы понимаете меня? У нас нет точных количественных показателей, благодаря которым мы сумели наделить Эндрю его способностями, так что у нас нет шансов повторить те отклонения, которые стали причиной творческих способностей Эндрю. Я хочу сказать, что Эндрю — порождение случая, что он уникален.

— Прекрасно! Меня совсем не огорчает уникальность Эндрю.

Смайт, который стоял у окна все это время и смотрел на

укрытый туманом океан, резко повернулся к ним и сказал:

— Мистер Мартин, я хотел бы вернуть Эндрю в наш центр для тщательнейшего обследования. Естественно, вместо него мы пришлем вам в качестве замены другого робота НДР и проследим, чтобы он был оптимально запрограммирован на выполнение домашних работ, которые возлагались на Эндрю, так что...

— Нет, — ответил Сэр с неожиданной жесткостью.

Смайт слегка приподнял бровь:

— Уж поскольку вы сами обратились к нам с данной проблемой, вы не можете не понимать всю важность исчерпывающего изучения феномена Эндрю, чтобы установить...

— Доктор Менски только что назвал Эндрю «простой флюктуацией» и признал, что представления не имеет, каким образом Эндрю обрел способность к творчеству, и что второго такого создать, даже если вы очень постараетесь, вы не сумеете. Так что я не вижу смысла в том, чтобы вернуть вам Эндрю и получить взамен другого робота.

— Может быть, доктор Менски слишком пессимистичен. Если мы сможем проследить нервные связи в мозгу Эндрю...

— Стоит вам начать, — сказал Сэр, — и, вполне возможно, тогда мало что уцелеет от Эндрю. Разве я не прав?

— Эти связи очень хрупки. Исследования часто сопряжены с риском разрушить их, тут вы правы, — признал Смайт.

— Мои дочери очень любят Эндрю, — сказал Сэр. — Особенно младшая, Аманда. Я даже смею утверждать, что Эндрю — ее лучший друг, что она любит его больше всего на свете. И сам Эндрю, кажется, любит ее не меньше. Я сообщил вам о способностях Эндрю, потому что подумал, что вам полезно будет знать о том, что вы производите, и еще потому, что будучи непрофессионалом, я предположил, что мастерство Эндрю — это нечто, случайно вмонтированное в него, и мне было интересно узнать, так ли это на самом деле; теперь это подтвердилось. Но если вы питаете хоть малейшую надежду на то, что я позволю вам забрать Эндрю с собой, раз уж нам обоим известно, что вам не удастся снова сделать его таким, какой он сейчас, выкиньте ее из головы. И забудем об этом.

— Я вполне отдаю должное той привязанности, которая может возникнуть между маленькой девочкой и ее домашним роботом. Но то, что вы, мистер Мартин, препятствуете развитию наших изысканий...

— Я могу воспрепятствовать и кое-чему более важному, чем ваши изыскания, — сказал Сэр. — Или вы забыли, кто проталкивал законы в защиту роботов в Собрании последние три года? Предлагаю пройти наверх и посмотреть другие работы Эндрю, думаю, они вас заинтересуют. А затем вы с доктором Менски должны будете позаботиться о том, чтобы вернуться в Сан-Франциско и посетить те предприятия на Западном побережье, о необходимости проинспектировать которые вы мне говорили. Эндрю остается здесь. Вам все ясно?

Искра ярости зажглась в глазах Смайта. Всего лишь искра, едва заметное изменение в выражении лица, которое даже

Эндрю, с его превосходной наблюдательностью, еле уследил. Потом Смайт пожал плечами:

— Как вам будет угодно, мистер Мартин. Даю вам слово — никакого вреда не будет причинено Эндрю.

— Хорошо.

— А мне и в самом деле не терпится посмотреть на его другие работы.

— С превеликим удовольствием, — сказал Сэр. — Я мог бы дать вам какую-нибудь из них, если вам понравится. Выбирайте что хотите, только не украшения, которые он сделал для моей жены и дочери, что-нибудь из мебели. Пожалуйста, выбирайте, я не шучу.

— Вы очень добры, — сказал Смайт.

Менски спросил:

— Можно, я повторю вам кое-что из того, что заметил тут, у вас, мистер Мартин?

— Если считаете нужным, доктор Менски.

— Вы сказали, что творчество Эндрю граничит с человеческими возможностями. Да, это так, даже я готов допустить это. Но «граничить» и «быть» человеком — это не одно и то же. И я хочу напомнить вам, что Эндрю — машина.

— Приму к сведению.

— Чем дальше, тем труднее вам будет иметь это в виду, раз уж Эндрю остается с вами. Но, пожалуйста, постарайтесь. Вы называете робота «другом» вашей дочери. Вы утверждаете, что она «любит» его. Это опасное отношение, опасное для нее. Друзья — это друзья, а машины — это машины, и нельзя путать одно с другим. Можно любить другого человека, но нельзя любить бытовые приборы, как бы привлекательны или полезны, или приятны они ни были. Эндрю — не более чем передвигающийся компьютер, мистер Мартин, компьютер, наделенный искусственным разумом и человекоподобной внешностью, что создает впечатление, что он не из тех компьютеров, которые управляют самолетами, ведают работой систем связи и помогают в домашнем хозяйстве. Личность, которую ваша дочь, как она считает, открыла в Эндрю, за что, по-вашему, и «полюбила» его, — это всего лишь эрзац личности, сконструированный намеренно, целиком из синтетики. Умоляю вас, мистер Мартин, не забывайте никогда, что компьютер с руками и ногами и с позитронным мозгом — это не более чем компьютер, хотя и более совершенный, но компьютер.

— Постараюсь иметь это в виду, — ледяным тоном сказал Сэр. — Знаете ли, доктор Менски, я привык мыслить четко и логично. Я никогда не приму руку за ногу, или запястье за лодыжку, или корову за лошадь и уж постараюсь не спутать робота с человеком, каким бы сильным ни было искушение. Так что весьма благодарен за ваш совет. А теперь, если хотите пройтись по мастерской Эндрю...