Глава 1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред

ТРИ ЗАКОНА РОБОТЕХНИКИ

*

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

**

Робот должен повиноваться командам человека, если эти команды не противоречат Первому Закону.

***

Робот должен заботиться о своей безопасности, поскольку это не противоречит Первому и Второму Законам.

Глава 1

— Пожалуйста, присаживайтесь, сэр, — сказал хирург, указывая на стул возле стола.

— Благодарю, — сказал Эндрю Мартин.

Он спокойно сел. Он все делал спокойно. Это было его второй натурой, неизменной чертой его характера. И, глядя на него сейчас, никто бы не заподозрил, что Эндрю Мартин дошел до последней черты. Но это было так. Ради этой встречи он пересек чуть ли не половину континента. Здесь, и только здесь он надеялся осуществить чаяния всей своей жизни, здесь сконцентрировалось все, решительно все.

Лицо его выражало полное безразличие, и разве что очень внимательный наблюдатель смог бы заметить что-то вроде печали в глазах. Его светло-каштановые волосы были гладко причесаны, лицо было чисто выбрито, он не носил ни усов, ни бороды — никаких излишеств. Его хорошо сшитая одежда, преимущественно бархатистого красно-пурпурного цвета, носила явный отпечаток старомодности — свободные, летящие линии в стиле «дрэпери» были в моде несколько поколений назад и теперь встречались редко.

Лицо хирурга тоже носило печать полного безразличия, но тут удивляться было нечему, оно, как и все его тело, было сделано из нержавеющей стали бронзового оттенка. Хирург солидно и прямо сидел за импозантным столом одного из кабинетов без окон, в здании, высившемся на берегу озера Мичиган. Безмятежно и сосредоточенно глядел он на Эндрю своими блестящими глазами. На столе перед ним была укреплена медная табличка с его серийным номером — обычным сочетанием цифр и букв, составляющих заводскую марку.

Эндрю Мартин не обратил внимания на эти безличные обозначения. Подобные скучные, механические «удостоверения личности» никогда — ни теперь, ни тем более раньше — ничего не значили для него. Эндрю собирался называть робота-хирурга «доктор», и никак иначе.

— Но, сэр, все это чрезвычайно странно. Чрезвычайно, сэр.

— Да. Я знаю, — сказал Эндрю Мартин.

— С тех пор как я получил ваш запрос, я почти ни о чем другом думать не мог.

— Искренне сожалею, что доставил вам столько беспокойства своей просьбой.

— Благодарю вас. Признателен за заботу.

Очень все вежливо, очень официально и совершенно бессмысленно. Они просто занимались словесным фехтованием, и ни один не хотел приступить к существу проблемы. Хирург умолк. Эндрю ждал, чтобы он продолжил, разговор. Молчание затягивалось.

«Так мы ни к чему не придем», — подумал Эндрю и обратился к хирургу:

— Единственное, что я хотел бы узнать, доктор, — это как скоро вы сможете провести операцию.

Еще некоторое время хирург хранил молчание. Затем мягко, с характерным для роботов выражением глубочайшего уважения при обращении к человеку, сказал:

— Признаюсь, сэр, я еще сам не совсем понимаю, как проводить такую операцию, не говоря уже о том, почему в ней возникла надобность. К тому же я еще не знаю, кого я должен оперировать.

На его лице можно было бы прочесть выражение исполненной уважения непреклонности, если бы элегантный, безупречный лик робота мог иметь подобное — или вообще какое-нибудь выражение.

Теперь настало время помолчать Эндрю Мартину.

Он рассматривал правую, рабочую руку робота, которая в абсолютном покое лежала на столе. Это было изумительное создание мастера. Пальцы тонкие и длинные, и плавные изгибы металлической руки были прекрасны, грациозны и в то же время настолько приспособлены к выполнению своих функций, что очень легко было представить себе скальпель, становящийся естественным продолжением этой руки, единым гармоничным целым с пальцами, держащими его: хирург и скальпель как бы объединялись в единый чудесно приспособленный к своей работе механизм.

Все это обнадеживает, подумал Эндрю. В работе этого хирурга исключены колебания, запинки, дрожь в руках, ошибки, даже вероятность ошибки немыслима.

Такое совершенство было достигнуто благодаря специализации, — специализации, к которой человечество стремилось так страстно, что к настоящему моменту осталось очень мало роботов, обладающих собственным мозгом. Большинство из них стало простыми придатками невероятно мощного центрального компьютера, возможности которого далеко превосходили то, на что был способен мозг, ограниченный размером черепной коробки робота.

И робот-хирург на самом деле тоже не нуждался ни в чем, кроме набора датчиков и мониторов и множества приспособлений, манипулирующих инструментами, — если бы не то обстоятельство, что люди предпочитали иллюзию — и даже больше чем иллюзию, — будто их оперирует индивид, личность, а не придаток какой-то находящейся за тридевять земель машины. Так что те хирурги, у которых была частная практика, были оснащены собственными мозгами. Но этот-то, независимо от того, был у него мозг или нет, оказался настолько ограниченным, что даже не узнал в госте Эндрю Мартина, — возможно, даже никогда и не слышал о нем.

Для Эндрю это было внове. Ведь он был знаменит. Не в его вкусе было искать славы, да он и не искал ее, но слава, или, если хотите, известность, сама пришла к нему. Благодаря тому, чего он достиг, благодаря тому, чем он был. Именно не кем, а чем.

Вместо того чтобы ответить хирургу, Эндрю с внезапной непоследовательностью спросил:

— Скажите-ка мне, доктор, вам никогда не приходила в голову мысль, что хорошо бы стать человеком?

Вопрос, странный и неожиданный, застал хирурга врасплох. Некоторое время он колебался, словно сама мысль стать человеком была настолько чужда ему, что не укладывалась в позитронных связях его мозга.

Затем он вновь обрел свой апломб и невозмутимо ответил:

— Но я робот, сэр.

— А не кажется ли вам, что человеком быть лучше?

— Если бы мне была предоставлена возможность улучшить себя, сэр, я бы предпочел стать лучшим, чем теперь, хирургом. Главная цель моего существования — это хирургическая практика. Став человеком, я не стал бы лучшим хирургом, — это возможно, только если я буду более совершенным роботом. По правде говоря, я был бы очень доволен, если бы смог стать роботом более совершенной модели.»

— Но и тогда вы останетесь роботом.

—Да, конечно. И меня это вполне устраивает. Как я уже объяснил, сэр, чтобы добиться выдающихся успехов в исключительно трудном и требующем большой практики искусстве современной хирургии, необходимо быть...

— Роботом, да, — сказал с некоторым раздражением в голосе Эндрю. — Но, доктор, подумайте о неизбежном при этом раболепстве! Подумайте только: вы — самый искусный хирург на свете. Вам приходится иметь дело с тончайшими проблемами жизни и смерти. Вы оперируете самых важных персон, и, насколько мне известно, к вам приезжают пациенты и из других миров. И при этом... при этом вы — робот? И вы согласны им оставаться? И, будучи искуснейшим из хирургов, подчиняться приказам любого человека — ребенка, дурака, хама, мошенника? Ведь именно этого требует Второй Закон. И выбора у вас нет. Вот прямо сейчас я мог бы приказать вам: «Доктор, встать!» — и вам пришлось бы встать. «Постучи пальцами себя по носу!» — и вы будете стучать. Стой на одной ноге, сядь на пол, иди направо или налево — я мог бы приказать вам все, что мне в голову взбредет, и вы подчинитесь. Я мог бы приказать вам, чтобы вы разобрали себя на части — и вы сделали бы это. Вы, великий хирург! У вас нет выбора. Человек свистнет — и вы броситесь на его свист со всех ног. Разве вас не оскорбляет, что я властен заставить вас делать черт знает что, все, что мне захочется, — до неимоверности глупое, пустое или унизительное?

Хирург был безмятежен.

— Мне будет приятно доставить вам удовольствие, сэр. Конечно, с некоторыми очевидными исключениями. Если ваши приказания принудят меня нанести вред вам или любому другому человеку, то заложенные в меня законы не дадут мне подчиниться вам, и никакие силы не заставят меня выполнить такой приказ. Первый Закон, который обязывает меня обеспечивать безопасность человека, выше Второго Закона, требующего подчинения человеку. Во всех остальных случаях повиновение доставляет мне одно удовольствие. Если бы вы потребовали, чтобы я совершил какие-то, пусть, с вашей точки зрения, идиотские, или бессмысленные, или унизительные поступки, я бы их совершил. И они не показались бы мне ни бессмысленными, ни идиотскими, ни унизительными.

Слова хирурга ничуть не удивили Эндрю. Вот если бы робот думал как-то иначе, это действительно было бы удивительно и даже смахивало бы на инакомыслие.

Но все же... все же...

Между тем хирург, без всякого намека на обиду или раздражение, спокойно, бесстрастно продолжил:

— Ну а теперь не вернуться ли нам к проблеме той необычной операции, ради обсуждения которой вы прибыли сюда? Я никак не могу взять в толк, чего вы от меня хотите. Мне трудно представить себе ситуацию, при которой такая операция нужна. Но прежде всего я должен знать имя того, кому я должен сделать эту операцию.

— Эндрю Мартин, — сказал Эндрю. — Операции должен подвергнуться я.

— Но, сэр, это невозможно!

— Но вы наверняка способны провести такую операцию?

— В смысле техники — да, способен. На этот счет у меня нет серьезных сомнений, независимо от того, какие требования будут мне предъявлены, хотя есть некоторые процедурные аспекты, требующие очень скрупулезного рассмотрения. Хотя все это в конце концов не так важно. Пожалуйста, поймите, сэр, операция нанесет непоправимый вред прежде всего вам самому.

— Это не имеет значения, — сказал Эндрю.

— Это имеет значение для меня.

— Это что — переработанный для роботов вариант клятвы Гиппократа?

— Гораздо более веская причина, чем эта, — ответил хирург. — Клятва Гиппократа — как бы добровольный обет. Но есть в моей схеме нечто, о чем вы, безусловно, знаете, осуществляющее контроль над моими профессиональными решениями. И превыше всего, и в первую очередь я не имею права причинять вред. Я не могу причинить вред.

— Людям, не так ли?

— Конечно. Первый Закон гласит...

— Доктор, пожалуйста, не излагайте мне Первый Закон. Я его знаю, во всяком случае не хуже вас. Но Первый Закон управляет действиями роботов только по отношению к людям. А я не человек, доктор.

Хирург лишь пожал плечами в ответ. Может, еще и искра промелькнула в его фотоэлектрических глазах. Казалось, сказанное Эндрю представляется ему бессмысленным.

— Да, — сказал Эндрю, — я знаю, что выгляжу совсем как человек, и то, что вы сейчас испытываете, можно было бы назвать удивлением, если бы робот мог испытывать нечто подобное. И тем не менее, доктор, я говорю вам сущую правду. Как бы вы ни воспринимали меня, как бы вам ни казалось, что я человек, на самом деле я — робот. Робот, доктор. И ничего более. Уж поверьте мне. И поэтому вы вправе подвергнуть меня этой операции. В Первом Законе не содержится запрета одному роботу проделывать операции над другим роботом. Даже если эта операция нанесет мне вред, доктор.