Два монолога еще не диалог

Две тысячи лет назад Сократ утверждал, что появ-

ление книг подрывает способность людей к логиче-

скому мышлению. Он верил в диалог, в беседу и спор.

Но с книгой не вступишь в дискуссию: письменный

текст не ответит на ваши доводы. Сегодня, когда кни-

га стала символом знаний, мы можем лишь посмеять-

ся над подобными аргументами. Но попробуем отне-

стись к ним всерьез. Вопреки мнению Сократа, пись-

менные сочинения дают нам навыки самостоятельно-

го мышления, поскольку нам попросту незачем поле-

мизировать с их авторами. Мы обсуждаем их и спо-

рим друг с другом на занятиях, в дискуссионных груп-

пах, а если речь идет о важном тексте, то к нашим

услугам все средства массовой коммуникации. Тем не

менее доводы Сократа верны: технологии, не созда-

ющие возможностей для дискуссий, разъяснений, де-

батов, по определению ущербны.

За годы, проведенные в бизнесе и во главе уни-

верситетской кафедры, я понял, что процесс приня-

тия решения часто бывает важнее, чем само реше-

ние. Когда человек принимает решение, никак его не

объясняя и ни с кем не советуясь, люди не доверя-

ют результату и не одобряют его, даже если после об-

суждения они сами поступили бы точно так же. Мно-

гие бизнесмены задаются вопросом: «Зачем тратить

время на обсуждения, если конечный результат будет

тем же самым?» Но это не так. Даже в случае при-

нятия аналогичного решения сам процесс его приня-

тия и реализации – особенно в незапланированных

обстоятельствах – будет совершенно иным, если им

займется команда, не просто выполняющая приказ, а

понимающая суть дела и принимающая участие в ре-

ализации замысла.

Тома не устраивает навигационная система в его

автомобиле, хотя он понимает, что порой она может

быть полезна. Однако он не может взаимодейство-

вать с системой, чтобы приспособить ее к своим по-

требностям. Даже если некоторые важные решения:

«самый быстрый путь», «самый короткий», «с самы-

ми живописными видами», «без проезда по платным

дорогам» – Том принимает сам, он не может обсудить

с навигационной системой причины, по которым вы-

бран именно этот, а не другой маршрут. Он не знает,

почему для нее маршрут А предпочтительнее марш-

рута Б. Учитывает ли она время ожидания на свето-

форах и количество знаков «стоп»? А вдруг маршру-

ты отличаются только тем, что один из них экономит

минуту на час езды? Том не знает альтернативы, ко-

торую, возможно, предпочтет, несмотря на потерю во

времени. Методы работы системы неизвестны, поэто-

му, даже если бы он был склонен ей доверять, молча-

ние и тайна подрывают это доверие – как подрывает

доверие единоличное принятие решений в бизнесе.

Что, если бы навигационные системы могли обсуж-

дать маршрут с водителем? Если бы они предлагали

ему альтернативные варианты, демонстрируя их и на

карте, и в виде таблицы, на которой указаны протя-

женность маршрута, предполагаемое время в пути и

расходы на проезд по платным дорогам, чтобы води-

тель имел возможность выбирать? В некоторых нави-

гационных системах это уже предусмотрено, и табли-

ца для поездки в Пало-Альто из долины Напа может

выглядеть следующим образом:

Маршрут Сент-Хелена – Пало-Альто, Калифорния

Это, конечно, явное усовершенствование, но до

диалога и здесь далеко. Система говорит: вот три ва-

рианта, выбирай один из них. Узнать подробности или

изменить маршрут вы не можете. Я знаком со всеми

тремя дорогами и знаю: самая быстрая, короткая и

дешевая проходит по наименее живописным местам,

а та, где виды будут лучше всего, даже не предлага-

ется. Но если водитель не имеет об этом представле-

ния? Понятно, что такой уровень общения машины с

человеком не может нас удовлетворить. И то, что со-

здание навигационных систем, предлагающих авто-

мобилистам хотя бы такой выбор, считается большим

шагом вперед, лишь показывает, как плохи остальные

системы и как мы еще далеки от искомого результата.

Если моя машина сочтет, что авария неизбежна,

она выпрямит спинки кресел или включит тормоза и

ни о чем меня не спросит, не посоветуется со мной,

даже не сообщит, в чем причина. Может, ей луч-

ше знать, поскольку она напичкана механическими и

электронными приборами, безошибочно делающими

нужные расчеты? Не обязательно. Да, с арифмети-

кой у приборов все в порядке, но, прежде чем де-

лать расчеты, нужно еще учесть состояние дороги,

поток и квалификацию водителя. Водители-профес-

сионалы порой отключают автоматику, поскольку она

не позволяет им использовать все их навыки. Точнее,

они отключают то, что им позволено отключить: мно-

гие из современных машин столь авторитарны, что не

оставляют водителю даже этой возможности.

Не думайте, что это относится только к автомоби-

лям. В будущем аналогичная проблема возникнет при

обращении с очень многими видами устройств. Так,

в банках уже существуют автоматизированные систе-

мы, определяющие, можно ли дать вам кредит, а ав-

томатизированные медицинские системы решают, ка-

кое лечение или лекарство вам назначить. Скоро ма-

шины станут следить за тем, что вы едите, что читае-

те, какую музыку любите и какие телепередачи пред-

почитаете смотреть. Специальные системы будут на-

блюдать, как вы ведете себя за рулем, и если они ре-

шат, что вы нарушили правила, то уведомят страхо-

вую компанию, прокатную контору, а то и полицию.

Другие системы отслеживают нарушение авторских

прав, принимая решения о том, что можно разрешить,

а что нет. Во всех этих случаях речь идет о произволь-

ных решениях: машины делают важнейшие выводы о

ваших намерениях на основе далеко не полной кар-

тины вашего поведения.

Так называемые «умные» системы стали черес-

чур самоуверенными. Они убеждены, будто знают, что

для нас лучше. Но их интеллект ограничен. И это огра-

ниченность фундаментального свойства: машина по

определению не может знать все факторы, которые

человек учитывает при принятии решений. Это, впро-

чем, не означает, что нам следует отказываться от по-

мощи «умных» машин. В то же время, поскольку ма-

шины берут на себя все больше и больше, их нужно

социализировать – они должны стать более комму-

никабельными и лучше понимать пределы своих воз-

можностей. Только тогда они смогут приносить насто-

ящую пользу. Именно этой теме и посвящена моя кни-

га.Когда я только начинал над ней работать, я думал,

что ключевым в социализации машин является созда-

ние более совершенных систем, способных к диалогу.

Но я ошибался. Для конструктивного диалога нужны

общие знания и опыт. Нужно уметь учитывать обста-

новку и контекст, предшествующие события, а также

множество различных целей и мотивов, которыми ру-

ководствуются участники процесса. И в этом, как я те-

перь понимаю, заключено одно из главных ограниче-

ний, не позволяющих современным технологиям пол-

ноценно взаимодействовать с человеком. Если даже

людям непросто найти полное взаимопонимание, от-

куда оно возьмется у людей и машин?

Для успешного взаимодействия с техникой нам

нужно научиться относиться к ней как к животным.

Несмотря на то что и люди, и животные обладают ин-

теллектом, мы – разные виды, с разным взглядом на

мир и разными способностями. Точно так же даже са-

мая умная машина – это представитель другого вида,

со своими сильными и слабыми сторонами, собствен-

ным пониманием вещей и способностями. Порой мы

должны слушаться животных и машин, порой – они

нас.