Собственных орудий

Когда Генри Торо написал о том, что «люди стали

орудиями своих орудий», он имел в виду сравнитель-

но простые орудия труда середины ХIХ века: топо-

ры, сельскохозяйственный и плотницкий инвентарь.

Но даже в его время орудия труда определяли жиз-

ненный путь людей: «Я вижу моих молодых земляков,

имевших несчастье унаследовать ферму, дом, амбар,

скот и сельскохозяйственный инвентарь, ибо все это

легче приобрести, чем сбыть с рук». Сегодня мы се-

туем на то, что наша техника требует практически по-

стоянной заботы. Торо, несомненно, посочувствовал

бы нам, ведь он еще в 1854 году заметил, что повсе-

дневный изнурительный труд его соседей будет почи-

ще подвигов Геракла: «Двенадцать подвигов Геракла

кажутся пустяками в сравнении с тяготами, которые

возлагают на себя мои ближние. Тех было всего две-

надцать, и каждый достигал какой-то цели».

Сегодня я бы перефразировал печальное наблю-

дение Торо: «Люди стали рабами собственных тех-

нологий, слугами своих орудий». Смысл, как видите,

остается тем же. Более того, мы не просто должны

служить нашим орудиям, добросовестно используя их

в повседневной жизни, следя за ними, наводя глянец,

ухаживая, но и бездумно следуем их предписаниям,

даже если они ведут нас к катастрофе.

Назад пути уже нет: мы больше не можем жить без

техники. Зачастую мы виним во всем ее саму: мол,

она сбивает с толку и только мешает – такое можно

услышать на каждом углу. Но эти жалобы не отража-

ют существа дела. По большей части наша техника

работает хорошо, включая и то орудие труда, которым

Торо писал процитированные строки. Кстати, его и са-

мого можно назвать технологом, создателем рабочих

инструментов, ведь он занимался совершенствовани-

ем технологии изготовления карандашей на семейной

фабрике. Да-да, карандаш – это тоже продукт техно-

логии.

Технология – нечто новое, работающее либо

плохо, либо непостижимым, неизвестным миру

образом.

В просторечии «технологиями» принято называть

новые вещи, появившиеся в нашей жизни, особен-

но если они кажутся непривычными, странными, зага-

дочными или наводящими ужас. Они должны впечат-

лять. Космический корабль, робот-хирург, Интернет –

вот это технологии! Но бумага и карандаш? Одежда?

Кухонная утварь? Однако вопреки обыденным пред-

ставлениям, «технология» – это совокупность знаний,

применяемых для создания предметов, инструментов

и изменения алгоритмов и процедур. Это относится

ко всему, что произведено искусственным путем. То

есть одежда – это результат применения технологии,

и письменность тоже, как, в общем, и сама культу-

ра. Даже музыку и живопись можно рассматривать ли-

бо как технологию, либо как «продукт», который не

мог бы возникнуть без технологий производства му-

зыкальных инструментов, бумаги, холста, красок, ки-

стей, карандашей и других орудий труда художников

и музыкантов.

До недавних пор технологии были более или менее

управляемыми. Техника становилась все «умнее», но

она была доступной для понимания. В конце концов

машины создавались людьми, и люди же их контро-

лировали – включали, выключали, направляли.

Но все изменилось. Сейчас многие операции ав-

томатизированы: порой неблагодарные (достаточ-

но вспомнить, что нормальную работу канализа-

ции обеспечивает автоматическое оборудование), по-

рой не столь неприятные (с появлением банкоматов

немало банковских служащих лишились работы). Ав-

томатизация ставит перед обществом ряд серьезных

проблем. Впрочем, при всей важности этого вопроса

меня интересуют в первую очередь случаи, когда на

автоматику нельзя полностью положиться, когда она

оказывается несостоятельной, и исправлять положе-

ние приходится людям. Именно здесь возникают глав-

ные стрессы, влекущие за собой серьезные опасно-

сти, катастрофы и человеческие жертвы.

Возьмем автомобиль, превратившийся, по словам

журналиста из New York Times, в «компьютер на коле-

сах». Для чего предназначено это компьютерное обо-

рудование? Да буквально для всего. Для регулиро-

вания отопления и кондиционирования воздуха (при-

чем, у водителя и каждого из пассажиров есть соб-

ственные регуляторы). Для управления аудио– и ви-

деосистемами (при этом у каждого пассажира име-

ется собственный канал с дисплеем высокого разре-

шения и стереозвуком). Для связи по телефону, элек-

тронной почте, с помощью sms. Для навигационных

систем, которые сообщают, где вы находитесь, куда

едете, какова ситуация с пробками, показывают бли-

жайшие рестораны, бензоколонки, гостиницы и раз-

влекательные центры. Для того чтобы заплатить за

скачанную музыку и фильмы, за платную дорогу, за

еду в закусочных, где вас обслуживают прямо за ру-

лем.

Разумеется, многие из этих систем используются

для управления машиной. Некоторые функции авто-

матизированы полностью, так что водитель и пас-

сажиры этого даже не замечают. Речь идет о та-

ких важнейших операциях, как регулирование зажига-

ния, открытие и закрытие клапанов, впрыск топлива,

охлаждение двигателя, усиление тормозов и рулевого

управления. Другие автоматические устройства, на-

пример тормоза и система курсовой устойчивости, ча-

стично контролируются людьми. Некоторые – навига-

ционные системы, круиз-контроль, системы, обеспе-

чивающие движение в ряду, даже устройства для ав-

томатической парковки – взаимодействуют с водите-

лем. И это лишь малая часть того, что уже существу-

ет, а сколько всего еще ждет нас в будущем.

Системы предупреждения об авариях сегодня обо-

рудованы радаром для оценки вероятности столкно-

вения и готовят машину к удару: выпрямляют спинки

сидений, затягивают ремни безопасности, активируют

тормозную систему. В некоторых машинах за водите-

лем наблюдают телекамеры, и если они видят, что че-

ловек отвлекся и не смотрит на дорогу, автомобиль

предупреждает его звуковыми и световыми сигнала-

ми. Если водитель и на них не реагирует, автомати-

чески включаются тормоза. Нетрудно представить се-

бе, что в будущем в зале суда может состояться такой

диалог:

Прокурор: Вызываю следующего свидетеля.

Господин Автомобиль, вы готовы подтвердить

под присягой, что перед столкновением

подсудимый не следил за дорогой?

Автомобиль: Так точно. Он все время смотрел

в сторону, даже после того, как я сигналами

предупредил его об опасности.

Прокурор: И что подсудимый попытался

сделать с вами?

Автомобиль: Он попытался стереть мою

память, но моя база данных зашифрована и

защищена от уничтожения.

Уже скоро ваша машина сможет беседовать с со-

седними автомобилями, обмениваясь разными инте-

ресными сведениями. Машины будут общаться друг

с другом посредством беспроводных сетей, которые

называются ad hoc («импровизированные»), посколь-

ку формируются «на лету», по мере надобности. Они

позволяют автомобилям предупреждать друг друга

о том, что происходит на дороге. Подобно водите-

лям встречных машин, которые сигналят вам фара-

ми, предупреждая о полицейском патруле (или посы-

лают сообщения по радиопередатчику и мобильному

телефону), автомобили будущего расскажут встреч-

ным машинам о пробках и состоянии трассы, о пре-

пятствиях, авариях, плохой погоде и массе других ве-

щей, полезных и нет, получая от них информацию

о том, что происходит впереди. Более того, машины

смогут обмениваться и другой информацией, в том

числе и той, которую их владельцы или пассажиры

могут счесть личной и конфиденциальной.

Машины-сплетницы? О чем они будут судачить?

Ну, о погоде, о загруженности трассы. Как разойтись

на перекрестке, к которому обе приближаются на вы-

сокой скорости. По крайней мере именно над этим

работают ученые. Но можно побиться об заклад, что

и хитроумные рекламщики понимают, какие возмож-

ности здесь заложены. Любой билборд может быть

оборудован собственной системой беспроводной свя-

зи, передающей машине содержание размещенной

на нем рекламы. Представим, что эта система связы-

вается с навигационной системой автомобиля, выяс-

няет, куда он едет, и предлагает услуги какого-либо

ресторана, отеля или торгового центра. А что, если

она будет способна взять под контроль навигацион-

ную систему и перепрограммировать ее так, чтобы та

заставила водителя ехать в рекламируемое заведе-

ние? Когда управление будет полностью передовере-

но машине, она вполне может решить, что вас надо

доставить в выбранный ею ресторан, и даже заранее

закажет ваши любимые блюда. На ваше недоумение

она отреагирует так: «Что? Ты не хочешь есть люби-

мое блюдо каждый день по три раза? Странно, поче-

му же ты тогда называешь его любимым?»

А что, если навигационная система, телефоны и

компьютеры автомобиля будут перегружены реклам-

ными сообщениями или туда проникнет вирус? Воз-

можно такое? Не будем недооценивать изобретатель-

ности рекламщиков, компьютерных хулиганов и про-

сто преступников. Соединение автоматизированных

систем в одну сеть чревато самыми неожиданными

последствиями. По мнению экспертов, вопрос не в

том, может ли такое случиться, а в том, когда имен-

но это произойдет. Это похоже на гонку – что бы ни

сделали хорошие парни, плохие парни всегда найдут

способ это испортить.

Конференции, конференции…

У старика Макдоналда прошла конференция – ия-

ия-йо! Здесь конференция, там конференция, везде

одни конференции…

В жизни ученого есть один весьма приятный аспект:

где-нибудь всегда проходит какая-нибудь конферен-

ция: летом – во Флоренции, зимой – в Хайдарабаде

(летом там собираться точно не стоит), весной – в

Стэнфорде, осенью – в Тэджоне. Существует целая

индустрия по организации научных собраний в самых

экзотических уголках планеты.

Разумеется, конференции проводятся не только

для развлечения, люди там реально работают. Фи-

нансируют их государственные ведомства и фонды,

порой организации вроде ООН и НАТО, порой част-

ные спонсоры. Но откуда бы ни поступали средства,

грантодатели внимательно следят за результатами

(книги, сборники докладов, изобретения, конструктор-

ские разработки, научные открытия), которые должны

быть реальными и позитивными. А это значит, что в

анонсах организаторы расписывают поистине чудес-

ные результаты, которые последуют за предполагае-

мыми открытиями, а их отчеты буквально дышат оп-

тимизмом. Исключением являются собрания гумани-

тариев и философов, они посвящены опасностям, ко-

торыми чреваты все эти чудесные научные прорывы.

Меня приглашают обе стороны – и те, кто считает,

что технологии будущего дадут нам невиданную сво-

боду, и те, кто полагает, что они нас унизят и порабо-

тят. Я против крайностей. Технологии не могут дать

нам свободу. Они никогда не решат всех проблем че-

ловечества. Более того, на смену решенным пробле-

мам будут приходить новые. Не верю я и в то, что тех-

нологии нас поработят, по крайней мере больше, чем

уже поработили. Единожды привыкнув к требовани-

ям, которые предъявляет нам наша техника, мы уже

не воспринимаем их как «рабство». Напротив, нам ка-

жется, что технологии улучшают нашу жизнь. Боль-

шинство людей моют руки несколько раз в день, часто

принимают душ и ежедневно меняют одежду. В про-

шлые времена это было не принято – и где же здесь

порабощение? Мы готовим пищу в посуде, сделанной

из суперсовременных сплавов, наши плиты работают

на газе или электричестве, которые производятся за

тысячи миль от нас с помощью высокотехнологичного

оборудования и доставляются в наши дома по слож-

ной системе трубопроводов или линий электропере-

дач. Это что, рабство? По-моему, нет.

На мой взгляд, новые технологии скорее будут ста-

вить нас в тупик, сбивать с толку, злить и раздражать,

а вовсе не порабощать. После внедрения технологии

всегда возникают как преимущества, о которых да-

же не помышляли конструкторы и разработчики, так и

столь же неожиданные проблемы.

Многие утверждают, что новые технологии следу-

ет внедрять лишь после того, как будут учтены и тща-

тельно взвешены все их потенциальные достоинства

и недостатки. Звучит заманчиво, но, увы, нереаль-

но. Неожиданных последствий, как позитивных, так и

негативных, в новых технологиях всегда больше, чем

ожидаемых. А если они неожиданны, как их учесть?

Хотите получить представление о будущем? Сле-

дите за конференциями. Все грядущие изменения,

по крайней мере в сфере технологий, предваряются

аршинными предупреждениями – научные лаборато-

рии всего мира публикуют свои открытия в научных

журналах, о них говорят на различных конференци-

ях, возникают исследовательские центры. Как прави-

ло, для того чтобы концепция воплотилась в конкрет-

ный продукт, требуются десятилетия, и именно в этот

период происходит интенсивное взаимодействие ее

авторов с теми, кого интересуют похожие идеи. В ка-

кой-то момент интерес к разработкам начинают про-

являть промышленники, и тогда исследования ком-

мерциализируются, уходят в тень (в недра корпора-

тивных научных подразделений) и их начинают бди-

тельно охранять.

Но за этими запертыми дверьми существует мир

публичных конференций. А там много чего обсуж-

дается и под самыми разными названиями: «умные

помощники», интегрированные компьютеры, техноло-

гии, которые должны органично вписаться в нашу

жизнь, при условии, что она изменится соответствую-

щим образом. Чтобы дать вам представление об об-

щей тенденции, приведу избранные цитаты из двух

анонсов:

Проблемы взаимодействия с «умными

помощниками», Стэнфордский университет,

штат Калифорния, США

В условиях быстро усложняющегося мира

новое поколение «умных» искусственных

помощников способно упростить и улучшить

нашу повседневную жизнь и профессиональную

деятельность. Они окажут помощь в быту

(от покупки продуктов до организации встреч),

выполнят ряд «фоновых» функций (от

напоминаний о делах до мониторинга состояния

здоровья) и более сложных заданий (от

написания докладов до поиска выживших под

развалинами рухнувшего здания).

Некоторые из них способны обучать или

давать рекомендации. Будь то роботы или

компьютерные программы, все они помогут нам

сэкономить время и деньги, умственные и

физические усилия дома, на работе, в машине и

общественных местах.

Международный семинар по применению

искусственного

интеллекта

(ИИ)

для

интеллектуальных

компьютеров,

взаимодействующих с человеком, Хайдарабад,

Индия, январь

Интеллектуальные

компьютеры

–

это

интерфейсы

следующего

поколения,

предназначенные для людей и создаваемые

по образу и подобию человека. Они призваны

расширить традиционные представления о

взаимодействии с компьютером (клавиатура

+ мышь) благодаря наличию естественных,

антропоморфных интерактивных функций, в том

числе способности понимать поведенческие и

социальные сигналы и подражать им.

«Антропоморфные интерактивные функции» – са-

ма эта формулировка наводит на мысль о неких непо-

нятных, загадочных созданиях, выполняющих наши

поручения. Это роботы-помощники, которые будут

обучать, развлекать и защищать наших детей, раз-

влекать и оберегать стариков (учить их, по-видимому,

уже не нужно), то есть позаботятся о том, чтобы они

вовремя принимали лекарства, не занимались опас-

ными для здоровья вещами, а в случае падения по-

могут им подняться или хотя бы позовут на помощь.

Да, создание «умных» машин, способных читать

наши мысли, выполнять наши желания (еще до того,

как мы сами поняли, что чего-то хотим), заботиться

о детях, стариках, больных и о нас самих, идет пол-

ным ходом. Роботы-собеседники, роботы-кулинары…

роботы, роботы… Разработкой «умных» домов зани-

маются во многих странах мира.

Но между мечтой и реальностью – дистанция

огромного размера. Создания с искусственным ин-

теллектом становятся главными персонажами ком-

пьютерных игр, но это отнюдь не равносильно ре-

альной помощи в быту. Несомненно и то, что тех-

нологии, лежащие в основе популярных роботов-пы-

лесосов, можно применить в решении любых задач,

связанных с простым перемещением по ограничен-

ному пространству: для чистки бассейна, уборки ли-

стьев, стрижки газонов. «Умные» машины действи-

тельно способны неплохо взаимодействовать с пред-

метной средой и себе подобными. Но когда речь идет

о взаимодействии с людьми, начинаются трудности.

Такие машины хорошо работают в заданных усло-

виях, там, где нужно выполнять конкретные задачи,

например стирать белье. Эффективны они и на про-

изводстве, где не только задачи четко определены,

но и люди, управляющие машинами и следящие за

их работой, хорошо подготовлены, досконально зна-

ют принципы их действия, долго тренировались на

симуляторах, изучая сбои и способы их устранения.

Но между применением искусственного интеллекта в

промышленности и в быту существует огромная раз-

ница. Во-первых, различаются сами технологии. Ес-

ли промышленники в состоянии потратить на автома-

тизацию десятки тысяч долларов, то домовладельцы,

как правило, готовы выложить за «умное» устройство

десятки, максимум сотни долларов. Во-вторых, люди

на производстве отлично подготовлены, в отличие от

тех, кто пользуется домашними приборами или авто-

мобилем. В-третьих, на производстве между возник-

новением проблемы и моментом, когда сбой может

нанести серьезный ущерб, проходит немалое время.

А в автомобиле это считанные секунды.

Ученые достигли больших успехов в разработке

«умных» устройств для автомобилей, самолетов и ко-

раблей. Но все эти разработки имеют смысл, если

речь идет о машинах, выполняющих строго опреде-

ленные задачи. Искусственный интеллект эффекти-

вен в компьютерном мире, где от агентов, выступаю-

щих в роли посредников между пользователем и си-

стемой, требуется лишь некоторая разумность и спо-

собность выводить картинку на дисплей, а реальное

«тело» не нужно. Такие устройства хороши в компью-

терных играх и сфере развлечений – в управлении

куклами, роботами, имитирующими домашних живот-

ных, персонажами игр. Здесь периодически возника-

ющие недоразумения и сбои не страшны, а порой да-

же забавляют. В мире развлечений эффектная неуда-

ча иногда радует больше, чем успех.

Весьма популярны и эффективны программные

средства, связанные с анализом статистических дан-

ных. Некоторые интернет-магазины рекомендуют кни-

ги, аудиозаписи, фильмы и даже кухонную утварь, вы-

являя предпочтения людей, чьи вкусы напоминают

ваши. Эта система работает неплохо.

Несмотря на множество конференций и непоколе-

бимую веру мирового научного сообщества в про-

гресс, создание устройств, способных реально вза-

имодействовать с нами, лежит далеко за предела-

ми наших возможностей. Почему? По множеству при-

чин. Некоторые из них чисто физического свойства:

мы пока не в состоянии создать автоматические

устройства, которые могут подниматься и спускать-

ся по лестницам, передвигаться в естественной сре-

де, поднимать, перемещать и управлять реальными

«природными» объектами. Другие причины связаны

с недостатком знаний: наука о поведении человека

бурно развивается, но объем того, что нам еще неиз-

вестно, существенно превышает наши познания. На-

ши способности к естественному взаимодействию с

машинами очень ограниченны.

Самоуправляемые автомобили,