Когда роботы превзойдут людей

В одном сценарии нас, ничтожных человечков, просто отодвинут в сторону как пережиток эволюции. Более приспособленные виды развиваются и сменяют менее приспособленные — это закон эволюции. Возможно, существование человечества на этом закончится и последние люди будут доживать свой век в зоопарках под любопытными взглядами наших творений-роботов. Возможно, такова наша судьба: дать жизнь суперроботам, которые затем будут относиться к нам как к чудовищно примитивной и не слишком существенной главе своей эволюции. Может быть, в этом и состоит наша историческая роль — породить тех, кто сменит нас на пути эволюции. В этом сценарии нашей задачей будет побыстрее уйти с пути разумных роботов.

Дуглас Хофштадтер признался мне, что, возможно, таков естественный порядок вещей, но мы должны относиться к этим сверхразумным роботам как к собственным детям — ведь они и впрямь наши дети в каком-то смысле. Если человек может заботиться о своих детях, сказал он мне, то почему он не может так же заботиться и о разумных роботах, которые тоже являются нашими детьми?

Ганс Моравек представляет, как может чувствовать себя человек, которого обошли и оставили далеко позади роботы: «…жизнь может показаться бессмысленной, если нам суждено будет провести ее за глупым разглядыванием нашего сверхразумного потомства, в то время как они будут пытаться растолковать нам свои все более впечатляющие достижения упрощенным языком, чтобы мы могли понять».

Если настанет наконец судьбоносный день, когда роботы обойдут нас разумом, мы не только перестанем быть самыми разумными существами на Земле; наши создания смогут изготовить собственные копии и даже улучшить их, так что «дети» будут умнее «родителей». Эта армия самовоспроизводящихся роботов положит начало бесконечному ряду будущих поколений, причем каждое следующее будет умнее предыдущего. А поскольку теоретически роботы смогут создавать следующие поколения очень быстро, со временем этот процесс вплотную подойдет к экспоненциальному взрыву, и бесчисленные роботы в своем ненасытном стремлении к разумности начнут истощать ресурсы планеты.

В одном из возможных сценариев этот ненасытный аппетит ко все более высокому интеллекту со временем истощит все ресурсы планеты и Земля целиком превратится в компьютер. Некоторые считают, что сверхразумные роботы отправятся с Земли к звездам, чтобы там продолжить свой бесконечный квест; они доберутся до других планет, звезд и галактик и попытаются превратить в компьютеры и их. Но поскольку планеты, звезды и галактики находятся от нас невероятно далеко, Земля-компьютер, возможно, сумеет изменить законы природы, так чтобы можно было путешествовать быстрее скорости света и поглощать целые звездные системы и галактики. Некоторые даже верят, что в конце концов этот сверхкомпьютер сможет поглотить всю Вселенную, так что Вселенная тоже станет разумной.

Получается сингулярность. Слово это первоначально пришло из мира релятивистской физики — моей научной специализации, где сингулярность представляет собой точку с бесконечной гравитацией, откуда ничто не может улететь, такую как черная дыра. Поскольку свет тоже не может оттуда улететь, увидеть что-либо за этим горизонтом не представляется возможным.

Идея ИИ-сингулярности впервые была высказана в 1958 г. в беседе между двумя математиками, Станиславом Уламом (которому довелось сделать ключевой шаг в разработке водородной бомбы) и Джоном фон Нейманом. Улам писал: «Один из разговоров крутился вокруг все ускоряющегося технического прогресса и изменений в образе жизни людей, по которым похоже, что приближается некая важная сингулярность в истории человеческого рода, после которой дела человечества, какими мы их знаем, не смогут продолжаться». Различные варианты этой идеи витали в воздухе уже несколько десятков лет. Но именно тогда ее подхватил, усилил и популяризовал в своих романах и эссе писатель-фантаст и математик Вернор Виндж.

Но все это не дает ответа на главный вопрос: когда наступит эта сингулярность? При нашей жизни? Может быть, в следующем столетии? Или никогда? Можно вспомнить, что участники Азиломарской конференции 2009 г. решили: до этого знаменательного момента может пройти от 20 до 1000 лет.

Есть человек, которого в настоящее время можно, пожалуй, назвать выразителем идей сингулярности. Это изобретатель и автор бестселлеров Рей Курцвейл; он очень любит делать предсказания, основанные на экспоненциальном развитии техники. Курцвейл однажды сказал мне, что при взгляде ночью на далекие звезды, по идее, там можно отыскать какие-то космические свидетельства подобной же сингулярности, имеющей место в далекой-далекой галактике. Если эта стремительно расширяющаяся сингулярность обладает способностью пожирать или переделывать целые звездные системы, следы ее деятельности должны оставаться и быть заметны. (Его противники говорят, что он поднимает вокруг пресловутой сингулярности едва ли не религиозный шум. Однако сторонники возражают, что Курцвейл, судя по его послужному списку, обладает необычайной способностью верно предугадывать будущее.)

Курцвейл всерьез столкнулся с компьютерной революцией, когда основал несколько компаний в разных областях, имеющих отношение к распознаванию образов; речь шла о технологиях распознавания речи, оптического распознавания символов и о разработке электронных клавишных музыкальных инструментов. В 1999 г. он написал бестселлер «Эпоха духовных машин: когда компьютеры превзойдут интеллектом человека», в котором предсказал дату этого события. В 2005 г. он написал книгу «Сингулярность уже близка», в которой изложил свои предсказания более подробно. Путь к знаменательному дню, когда компьютеры превзойдут человека в разумности, будет состоять из нескольких этапов.

К 2019 г., предсказывает он, персональный компьютер стоимостью в 1000 долларов по чистой вычислительной мощности сравняется с человеческим мозгом. Вскоре после этого компьютеры оставят нас далеко позади. К 2029 г. тот же персональный компьютер стоимостью в 1000 долларов будет уже в 1000 раз мощнее человеческого мозга. К 2045 г. все тот же ПК за 1000 долларов будет обладать в миллиард раз более мощным интеллектом, чем все человечество, вместе взятое. Способности даже небольших компьютеров будут намного превосходить способности всего рода человеческого.

После 2045 г. компьютеры станут настолько продвинутыми, что смогут производить собственные копии в еще более продвинутом варианте, открывая тем самым путь к технологической сингулярности. Стремясь удовлетворить эту нескончаемую и ненасытную жажду компьютерной мощности, они начнут поглощать Землю, астероиды, планеты и звезды и смогут даже повлиять на космологическую историю нашей Вселенной.

Мне довелось побывать в гостях у Курцвейла в его офисе в пригороде Бостона. Проходя по коридору, вы видите на стенах дипломы полученных им премий и наград, а также некоторые из разработанных им музыкальных инструментов, которыми пользуются лучшие музыканты, такие как Стиви Уандер. Курцвейл рассказал мне, что в его жизни был поворотный момент. В 35 лет ему неожиданно поставили очень неприятный диагноз: диабет II типа. Внезапно он, что называется, упал с небес на землю и понял, что может не дожить до исполнения собственных пророчеств. После многих лет небрежения тело его состарилось до срока. Курцвейл был потрясен диагнозом, но рук не опустил.

Он подошел к вопросу собственного здоровья с теми же энтузиазмом и энергией, с какими относился к компьютерной революции. (Сегодня он принимает в день более 100 таблеток и написал несколько книг о революции в деле продления жизни. Он считает, что революция в создании микроскопических роботов приведет к появлению средств очистки и ремонта человеческого тела, которые позволят ему жить вечно. Его философия состоит в том, что он хотел бы прожить достаточно, чтобы увидеть революционные медицинские новинки, которые позволят продлить жизнь до бесконечности. Иными словами, он хочет прожить достаточно долго, чтобы жить вечно.)

Недавно он пустился в амбициозный проект по организации университета сингулярности при Исследовательском центре NASA имени Эймса в районе Сан-Франциско, который будет готовить ученых к близкому наступлению технологической сингулярности.

Вообще, существует множество вариаций и комбинаций этих тем.

Сам Курцвейл считает: «Это не будет вторжение разумных машин откуда-то из-за горизонта. Мы и сами сольемся с этой технологией… Мы поместим эти умные устройства в наши тела и мозг, чтобы жить дольше и счастливее».

Любая противоречивая идея — а идея технологической сингулярности, согласитесь, весьма противоречива — обязательно порождает обратную реакцию. Митч Капор (Mitch Карог), основатель Lotus Development Corporation, говорит, что сингулярность — это своего рода «разумный замысел для людей с коэффициентом интеллекта 140… Утверждение о том, что мы приближаемся к моменту, когда все изменится, станет просто невообразимо не так, как сейчас, — это в основе своей, на мой взгляд, проявление религиозного импульса. И никакое Размахивание руками не может заслонить от меня этот факт».

Дуглас Хофштадтер сказал: «Это как если бы вы взяли много хорошей еды и немного собачьего дерьма и смешали бы все вместе, так чтобы невозможно было разобраться, что хорошо и что плохо. Это почти однородная смесь чепухи и отличных идей, и очень трудно различить, где что, потому что говорят об этом умные люди; они не глупы».

Никто не знает, чем все это обернется. Но мне лично наиболее вероятным представляется следующий сценарий.

Date: 2015-05-08; view: 671; Нарушение авторских прав