Компьютеры

Может ли быть так, что когда человечество эволюционирует и, предположительно, усовершенствуется, с другими видами произойдет то же самое? Не могут ли эти виды догнать нас и сжить со света?

Мы, в некотором смысле, догнали и перегнали дельфинов, мозг у которых был величиной с наш еще за миллионы лет до появления человека. Однако не было никакой конкуренции между проживающими в воде китовыми и обитающими на суше приматами, и именно люди разработали технику.

Мы сами вряд ли будем конкурировать; или, если и будем, то на основе разрешения другим видам, таким же разумным, как и мы, присоединиться к нам в качестве союзников в битве против катастрофы. И это не может произойти, если мы не ускорим эволюцию других видов в направлении развития интеллекта путем использования технологий генной инженерии; и для этого потребуется значительно меньше миллиона лет.

Однако есть на Земле еще один вид интеллекта, который не имеет ничего общего с органической жизнью и который целиком является созданием человеческих рук. Это компьютер.

О вычислительных машинах, способных решать сложные математические задачи гораздо быстрее и гораздо надежнее, чем люди (при условии, если компьютер хорошо запрограммирован), мечтали еще в 1822 году. Именно в этом году английский математик Чарлз Бэббидж (1792‑1871) начал строить вычислительную машину. Он потратил на нее годы и потерпел неудачу не из‑за того, что плоха была его теория, а потому, что у него для работы были только механические детали, и они были просто недостаточно хорошо приспособлены для такой работы.

Что тут было нужно, так это электроника; манипуляция субатомными частицами, а совсем не большими движущимися частями. Первый большой электронный компьютер был построен в университете Пенсильвании во время Второй мировой войны Джоном Проспером Эк‑кертом‑младшим (р. 1919) и Джоном Вильямом Машли (р. 1907) на основе системы, разработанной ранее инженером‑электриком Ванневаром Бушем (1890‑1974). Этот электронный компьютер ENIAC (электронно‑цифровой интегратор и компьютер) стоил три миллиона долларов, содержал 19 000 вакуумных ламп, весил 30 тонн, занимал 1500 квадратных футов пола и потреблял энергию, как локомотив. Операции на нем прекратили в 1955 году, а в 1957 году он, как безнадежно устаревший, был разобран.

Хрупкие, ненадежные, энергоемкие вакуумные лампы были заменены твердыми транзисторами, гораздо меньшими, гораздо более надежными, гораздо менее энергоемкими. В дальнейшем стали изготавливать печатные платы — еще меньше и еще более надежные. И наконец, крохотные чипы из силикона, площадью в квадратный дюйм, тонкие, как бумага, с тонко нанесенными на них другими веществами, были составлены в маленькие компактные лабиринты, смонтированные тоненькими алюминиевыми проводками, и соединены, составляя компьютеры.

На исходе 70‑х компьютер можно было получить за три сотни долларов заказом по почте или почти на каждом углу в лавке. И это уже был компьютер, который потреблял энергии не больше, чем маленькая лампочка, достаточно небольшой (его нетрудно было унести) и способный совершать гораздо больше операций, в двадцать раз быстрее и в тысячи раз надежнее, чем ENIAC (Японская электронная корпорация Эн‑И‑Си объявила, что собирается к 2001 году создать компьютер, который будет производить 32 триллиона операций в секунду, т. е. действовать примерно в миллион раз быстрее обычного персонального компьютера).

По мере того как компьютеры становились все более компактными, более универсальными и более дешевыми, они стали наводнять дома. 80‑е годы могут быть свидетелями того, как они станут неотъемлемым предметом повседневной жизни, как в 50‑е стал телевизор. Собственно, ранее в этой главе я называл компьютеры обучающими машинами будущего. Как долго это будет продолжаться?

В настоящий момент компьютер — это машина, строго ограниченная ее программой и способная выполнять только самые простейшие задачи, но зато с неизмеримой скоростью и терпением. Своего рода зачаточный интеллект компьютер начнет проявлять, когда он станет способен к самопроверке и к модификации собственных программ.

Когда компьютеры и их «искусственный интеллект» захватят все больше и больше рутинной умственной работы мира, а, может быть, и не такие уж простые — тоже, не станет ли человеческий ум атрофироваться из‑за недостатка работы? Не станем ли мы глупо зависеть от машин, и, когда у нас уже не будет интеллекта, чтобы их соответственно использовать, не выйдет ли наш вид из строя, а с ним и цивилизация?

С такой же проблемой и страхом человечество, должно быть, сталкивалось и в более ранние периоды истории. Можно себе представить, например, презрение древних строителей, когда вошел в пользование эквивалент измерительной линейки. Не выродится ли навсегда точный глазомер и опытное суждение умелого архитектора, как только любой дурак сможет определить, какой длины нужно взять дерево или камень, просто чтением отметок на палке? И, безусловно, не ужаснулись ли стародавние барды при изобретении письменности — кода отметок, который устранял необходимость памяти. Ребенок десяти лет, научившись читать, мог тогда декламировать «Илиаду», хотя никогда ее раньше не видел, просто следуя этим отметкам. Как бы мог выродиться ум!

Все же использование неодушевленных средств для рассуждения и памяти не разрушили рассуждение и память. Конечно, нелегко сегодня найти такого, кто бы мог без остановки по памяти читать эпические поэмы. Но кому это надо? Если наши таланты без подсказки больше не демонстрируют ненужные подвиги, разве достижение не стоит потери? Можно ли было построить на глаз Тадж Махал или мост Золотые Ворота? Как много людей знали бы драмы Шекспира или романы Толстого, если бы мы зависели от подыскания кого‑нибудь, кто бы знал их наизусть и согласился нам читать, — если бы вообще было возможно создать их без написания?

Когда промышленная революция применила силу пара, а затем и электричество для решения физических задач человечества, разве мускулы людей в результате этого стали дряблыми? Подвиги на игровом поле и в гимнастическом зале опровергают это. Даже обычный, привязанный к городу работник офиса остается в форме благодаря бегу трусцой, теннису, гимнастике, делая с желанием то, что ему необходимо, и больше не делая этого под тяжелым давлением рабского принуждения.

С компьютерами может быть так же. Мы бы оставляли им механические работы по сухим, как пыль, расчетам, ведение документации, поиск информации, хранение данных, позволяя тем самым освободить свою голову для истинно творческой работы — так, чтобы мы могли построить Тадж Махал вместо глиняных хаток.

Это, безусловно, предполагает, что компьютеры никогда не будут служить ни для чего более, как для рутины и повтора. А что если компьютеры продолжат бесконечно развиваться и будут следовать за нами до последней твердыни нашего разума? Что если компьютеры тоже научатся строить Тадж Махал, писать симфонии и совершать новые великие открытия в науке? Что если они научатся подделывать все умственные способности, какие есть у людей? Что, в самом деле, если компьютеры смогут использоваться как мозги роботов, которые будут искусственными аналогами человека, делая все, что делает человек, только, изготовленные из более прочного и более долговечного материала, лучше переносящие суровую окружающую среду? Не станет ли человечество устаревшим? Не смогут ли компьютеры «взять верх»? Не станет ли это катастрофой четвертого класса (именно не пятого), которая уничтожит людей и оставит за собой наследников людей, созданных ими самими?

Если поразмыслить над этим, то можно задать себе довольно циничный вопрос: а почему бы нет? История эволюции жизни является историей медленного изменения видов или физической заменой одних видов совершенно другими, когда это изменение или замена приводят к лучшей подгонке к определенной нише в окружающей среде. Эта длительная, петляющая история несколько сотен тысяч лет назад пришла наконец к Homo sapiens, но почему это должен быть окончательный шаг?

Надо ли считать, что пьеса закончена? Собственно, если бы мы были способны отстраненно взглянуть на весь сложный путь эволюции в мире эпоха за эпохой, как медленно, по пути проб и ошибок, успехов и промахов эволюционировала жизнь, прежде чем появились известные нам виды, нам бы могло показаться, что разумно взять процесс эволюции в собственные, направляющие руки. Нам бы могло показаться, что в эволюции произошел бы реальный прогресс, если бы появился искусственный интеллект — лучшее из того, что до сих пор было придумано.

В таком случае замена человечества компьютерами была бы естественным явлением, объективно приветствуемым, как мы сами приветствовали смену рептилий млекопитающими, и чему мы могли бы возразить только из самолюбия по причине, которая в сущности легкомысленна и к делу не относится. Если быть еще более циничным, то стоит ли доказывать, что замена человечества — это отнюдь не зло, а истинное добро?

В самом деле, в предыдущих главах я предположил, что человечество предпримет разумные меры, которые предотвратят войны, ограничат население и установят гуманный порядок в обществе. Но сделает ли оно это? Хотелось бы думать, что да, но история человечества не очень‑то воодушевляет в этом отношении. Что если люди не оставят свою вечную подозрительность и насилие друг против друга? Что если они не смогут ограничить население? Что если не существует пути, чтобы человеческая порядочность создала открытое общество? В таком случае как мы сможем избежать уничтожения цивилизации и, быть может, даже самого человечества?

Может быть, единственное спасение в замене видов, которые совершенно никуда не годятся, лучшими. С этой точки зрения следует бояться не того, что человечество будет заменено компьютерами, а того, что человечество не сможет развивать компьютеры достаточно быстро, чтобы подготовить себе наследников, которые бы взяли все в свои руки ко времени неизбежного крушения цивилизации в течение следующего века.

А все же что если люди все‑таки решат проблемы, с которыми они сталкиваются сегодня, и создадут порядочное общество, основанное на мире, сотрудничестве и мудром техническом развитии? Что если это будет сделано с бесценной помощью совершенствующихся компьютеров? Несмотря на успех человека, есть ли у людей гарантия того, что их не вытеснят вещи, которые они сами создали, и не станет ли это настоящей катастрофой?

Но тогда мы можем задать вопрос: что имеется в виду под высшим разумом?

Это уж слишком упрощенно — сравнивать качества, как будто мы замеряем длину линейкой. Мы привыкли к одномерным сравнениям и прекрасно понимаем, что имеется в виду, когда мы говорим, что одна величина больше другой, или одна масса больше, чем другая, или одна длительность больше другой. У нас вырабатывается привычка считать, что все можно так же просто сравнивать.

Например, зебра может достичь удаленной точки раньше, чем это сможет сделать пчела, если обе стартуют в одно время и с одного места. Мы рассуждаем тогда, что, по‑видимому, зебра быстрее пчелы. Однако пчела намного меньше зебры и, в отличие от зебры она может летать. Обе эти особенности важны при определении этого «быстрее».

Пчела может вылететь из ямы, из которой зебре не выбраться; она может пролететь сквозь прутья клетки, которая держит зебру в заключении. Что же тогда значит это «быстрее»? Если А превосходит Б в одном качестве, Б может превосходить А в другом качестве. Если условия изменятся, то или иное качество может приобрести большее значение.

Человек в аэроплане летит быстрее, чем птица, но он не может лететь в нем так же медленно, как птица, а временами медлительность может понадобиться для выживания. Человек в вертолете может летать так же медленно, как птица, но не так бесшумно, как птица, а иногда бесшумность может потребоваться для выживания. Короче, выживание требует комплекса характеристик, и никакие виды не могут быть заменены другими только из‑за различия в одном качестве, даже если этим качеством является разум.

Мы видим это в человеческих делах достаточно часто. В критическом положении не обязательно выиграет человек с самым высоким коэффициентом умственного развития, может выиграть более решительный, или самый сильный, или самый выносливый, самый состоятельный, самый влиятельный. Да, разум важен, но это еще не все, что важно.

Одним словом, разум не просто определяемое качество, он проявляется по‑разному. Суперобразованный ученый, профессор, и вместе с тем — ребенок в отношении вещей, далеких от его специальности, является стереотипной фигурой современного фольклора. Мы можем не удивиться, встретив искушенного бизнесмена, который достаточно разумен, чтобы уверенно руководить предприятием в миллионы долларов, и который не способен говорить грамматически правильно. Так как же мы тогда можем сравнить человеческий разум и разум компьютера, и что же мы можем иметь в виду под «высшим разумом»?

Уже теперь компьютеры способны на такие фокусы, которые человеку не под силу, но это не заставляет нас говорить, что компьютер разумнее нас. Мы, собственно, даже не готовы признать, что он вообще разумен. Не забудьте также, что развитие разума в людях и в компьютерах проходило и проходит по различным путям; что оно было и есть приводимо в движение различными механизмами.

Человеческий мозг, благодаря беспорядочным мутациям, развивался по принципу — пан или пропал; он использовал тонкие химические изменения и двигался вперед благодаря естественному отбору и необходимости выживать в определенном мире данных качеств и опасностей. Компьютерный мозг развивается благодаря продуманному замыслу, как результат тщательной человеческой разработки, с использованием тонких электротехнических достижений и с движением вперед благодаря техническому прогрессу и необходимости удовлетворять определенные человеческие требования.

Было бы очень странно, если бы мозг и компьютеры, двигаясь такими двумя расходящимися путями, заканчивали бы столь похоже один на другой, что один из них недвусмысленно мог бы быть назван превосходящим по разуму другого.

Гораздо более вероятно, что даже когда эти две вещи равны по разуму в целом, свойства их разумов будут настолько различны, что не может быть сделано никакого простого сравнения. Будут виды деятельности, к которым лучше адаптирован компьютер, и другие виды — к которым лучше адаптирован мозг. Это было бы определенно верно, если бы генная инженерия была целенаправленно использована для совершенствования человеческого мозга именно в тех направлениях, в которых компьютер слаб. Было бы, конечно, желательно держать как компьютер, так и человеческий мозг специализированными в различных направлениях, поскольку дублирование способностей было бы потерей времени и сделало бы тот или другой ненужным.

Следовательно, вопрос замены никогда не должен возникнуть. Конечно, то что мы бы могли увидеть, это был бы симбиоз или взаимная дополняемость; мозг и компьютер, работая вместе, обеспечивали бы каждый то, чего не хватает другому, образуя разумную пару, которая открывала бы новые горизонты и делала возможным достижение новых высот. Собственно, союз мозгов, человеческого и созданного человеком, мог бы послужить дверным проемом, через который люди могли бы пройти из своего младенчества в свою богатую взаимодействием взрослую жизнь.