Как машины берут власть

Я выезжаю из дому на горный серпантин, что про-

ходит вдоль побережья Тихого океана. Дорога вьется

между гигантскими секвойями; за крутыми поворота-

ми открываются виды на Калифорнийский залив или

бесконечный простор океана. Я наслаждаюсь поезд-

кой, машина превосходно слушается руля и изящно

вписывается в повороты. Но вдруг я замечаю, как на-

пряглась сидящая рядом жена. Ей страшно – она съе-

жилась, уперлась ногами в пол, вцепились руками в

приборную панель. «Что с тобой? – спрашиваю я. –

Успокойся, я знаю, что делаю».

А теперь представим другой сюжет. Я еду по тому

же серпантину и замечаю, как напряглась моя машина

– ей страшно. Откинутые спинки сидений сами собой

выпрямляются, ремни безопасности туго затягивают-

ся, индикаторы на приборной панели тревожно мига-

ют и пищат. Затем сами собой включаются тормоза.

«Вот те на, – мелькает у меня в голове. – Надо сни-

зить скорость».

Считаете, что испуганный автомобиль – это нечто

из области фантастики? Уверяю вас, вы ошибаетесь.

Так уже ведут себя некоторые автомобили класса

«люкс». И то ли еще будет. Стоит вам случайно вы-

ехать из своей полосы – и машина начинает протесто-

вать: она гудит, руль и сиденья вибрируют, на боко-

вых зеркалах загораются лампочки. Автомобильные

компании экспериментируют с системами корректи-

ровки траектории движения, помогающими водителю

вернуть машину на полосу. Указатели поворота были

придуманы для того, чтобы другие водители видели,

что вы собираетесь повернуть или перестроиться. Те-

перь с их помощью вы даете понять собственной ма-

шине, что делаете это не по ошибке, а намеренно. Вы

словно говорите ей: «Не мешай. Я действительно хо-

чу совершить маневр».

Как-то раз я входил в группу консультантов одной

крупной автомобилестроительной фирмы. На одном

из заседаний я сказал, что буду по-разному реаги-

ровать на испуг жены и машины. «Как это? – удиви-

лась моя коллега Шерри Теркл, профессор Масса-

чусетского технологического университета, признан-

ный авторитет в вопросах человекомашинного взаи-

модействия. – Вы что же, к машине прислушиваетесь

больше, чем к жене?»

Действительно странно. Конечно, я могу привести

кучу рациональных доводов, но они ничего не объяс-

нят. Сегодня, когда мы наделяем творения своих рук

все большей самостоятельностью, разумом, эмоция-

ми и индивидуальностью, пора уже задуматься о том,

как мы взаимодействуем с этими механизмами.

Почему я обращаю больше внимания на поведение

машины, а не жены? В двух словах ответить трудно,

но в конечном счете все дело в коммуникации. Когда

жене что-то не нравится, я могу спросить ее о при-

чине и, выслушав ответ, либо согласиться, либо пе-

реубедить ее. Кроме того, чтобы она успокоилась, я

могу изменить манеру вождения. Но с автомобилем в

беседу не вступишь, коммуникация здесь носит одно-

сторонний характер.

– И как тебе новая машина? – спросил

я Тома, когда он вез меня в аэропорт

после затянувшегося совещания. – Нравится

навигационная система?

– Машина отличная, – ответил он, – но

навигационной системой я вообще не пользуюсь.

Я хочу сам выбирать маршрут, а она все решает

за меня.

Техника обслуживает нас, и поэтому у нее больше

власти. Не логично? Да, но именно так обстоит дело.

Задумайтесь: если при заключении контракта вы не

хотите идти на уступки, кого вы пошлете на перего-

воры – генерального директора или кого-нибудь ран-

гом пониже? Как это ни странно, рядовой сотрудник

зачастую может добиться более выгодных условий.

Почему? Да потому что, какие бы обоснованные ар-

гументы ни приводила другая сторона, переговорщик

с ограниченными полномочиями не может принять

окончательного решения. И выслушав самые убеди-

тельные доводы, он вправе сказать лишь: «Извини-

те, но я дам вам ответ после того, как проконсульти-

руюсь с начальством». А на следующий день, вернув-

шись за стол переговоров, он разведет руками: «Увы,

я не сумел переубедить босса». Если же ваш предста-

витель наделен широкими полномочиями, его можно

убедить, и он примет предложение, пусть даже впо-

следствии вы все об этом пожалеете.

Искушенные переговорщики хорошо знают эту

уловку и не позволяют оппонентам к ней прибегать.

Когда я обсуждал этот вопрос с моей знакомой, пре-

успевающим адвокатом, она только посмеялась: «Ес-

ли противная сторона попробует провернуть нечто по-

добное, я их быстро выведу на чистую воду. Со мной

в такие игры не поиграешь». Но техника играет с на-

ми в такие игры, и мы ничего с этим не можем поде-

лать. Когда машина вмешивается в наши действия,

нам остается только подчиниться. Она фактически го-

ворит нам: «Будет либо по-моему, либо никак», при-

чем вариант «никак» заведомо исключен.

Возьмем случай Тома. Он дает навигационной си-

стеме задание проложить маршрут, и та это делает.

Казалось бы, все просто. Такое вот идеальное вза-

имодействие человека и техники – конструктивный

диалог. Но вспомним, как Том жаловался: «Она все

решает за меня». Разработчики передовых техноло-

гий гордятся тем, что закладывают в свои системы

«коммуникационные способности». Но при тщатель-

ном анализе выясняется, что здесь происходит под-

мена понятий: нет никакой «коммуникации», никакого

обмена мнениями, характерного для подлинного диа-

лога. Есть два монолога. Мы отдаем приказы машине,

а она – нам. А два монолога – это никакой не диалог.

В нашем случае у Тома есть выбор. Если он от-

ключит навигационную систему, автомобиль не пере-

станет функционировать. Поэтому Том, недовольный

тем, как она прокладывает маршрут, этой системой

просто не пользуется. Но с другими системами такой

вариант невозможен: не пользоваться ими значит не

пользоваться автомобилем. Проблема в том, что они

зачастую крайне полезны и при всех своих недостат-

ках спасают жизни людей. То есть вопрос должен зву-

чать так: как нам изменить способ взаимодействия с

техникой, чтобы, эффективно используя ее достоин-

ства, попытаться исключить назойливые, а порой и

опасные действия?

Чем могущественнее техника, тем более насущ-

ной становится проблема коммуникации и сотрудни-

чества с ней. Сотрудничество предполагает не толь-

ко координацию действий, но еще объяснения и об-

мен мнениями. Для этого необходимо доверие, кото-

рое возникает лишь на основе опыта и взаимопони-

мания. Имея дело с автоматизированными «умными»

машинами, мы порой необоснованно им доверяем –

или столь же необоснованно не доверяем. Том не до-

веряет указаниям навигационной системы, но в неко-

торых случаях нежелание полагаться на технику чре-

вато опасными последствиями. Скажем, что может

случиться, если Том отключит антиблокировочную си-

стему тормозов или систему курсовой устойчивости?

Многие водители считают, что способны управлять

машиной лучше, чем любая автоматика. Однако си-

стемы, предотвращающие заносы и обеспечивающие

устойчивость, действуют эффективнее, чем любой

водитель, за исключением разве что самых опытных

профессионалов. Они спасают немало жизней. Но как

автомобилисту определить, каким системам можно

доверять?

Конструкторы, как правило, сосредоточиваются на

технологиях, пытаясь ради нашей безопасности и

комфорта автоматизировать все, что только можно.

Их цель – полная автоматизация, если этому не пре-

пятствуют технические ограничения или соображения

рентабельности. Однако наличие этих ограничитель-

ных факторов означает, что некоторые функции мож-

но автоматизировать лишь частично, то есть чело-

век должен постоянно следить за работой машины и

брать дело в свои руки, если она не может действо-

вать самостоятельно. Поэтому, когда функции авто-

матизированы не полностью, необходимо, чтобы каж-

дая из сторон – человек и механизм – понимала, что

делает другая и зачем.