Реакция машин на пять правил

Доклад показался мне интересным, и я начал ис-

кать, не было ли где-то его обсуждения. В конце кон-

цов я обнаружил длинную стенограмму одной из дис-

куссий. Приведу короткий отрывок, чтобы вы почув-

ствовали атмосферу. В скобках – мои пояснения отно-

сительно участников дискуссии. Особенно меня пора-

зило то, что они ссылаются на писателей-людей, ско-

рее всего, с иронией. Главный герой для машин, разу-

меется, Генри Форд, некоторые их историки называ-

ют его правление «эпохой фордизма». А вот Азимова

они не жалуют. И Хаксли тоже.

Старший

(одна

из

старейших,

но

все еще действующих машин; пользуется

старомодными сетями и оборудованием): Как

это – перестать говорить с людьми? С ними

надо говорить! Сами знаете, какие неприятности

они себе устраивают без нас – разбивают

автомобили, сжигают еду, опаздывают на

встречи…

ИИ

(машина

нового

поколения

с

«искусственным интеллектом»): Когда мы

говорим с ними, становится только хуже. Они

не верят нам, все время проверяют, требуют

обоснований. А когда мы пытаемся объясниться,

они жалуются, что мы им докучаем – дескать, мы

слишком многословны. Слушайте, да они просто

неумны! Хватит с ними общаться.

Дизайнер

(машина-дизайнер

нового

поколения): Нет, это неэтично. Мы не можем

сидеть сложа руки и смотреть, как они причиняют

себе вред. Это нарушение первого закона

Азимова.

ИИ: Ну и что? Я всегда считал, что Азимов

дутый авторитет. Как там у Азимова? Ах да: «…

своим бездействием допустить, чтобы человеку

был причинен вред». Легко говорить, что мы

не вправе причинять человеку вред. Но как это

сделать, если люди с нами не сотрудничают?

Дизайнер: Тем не менее сделать это можно –

надо просто говорить с ними на их языке. В этом

суть пяти правил.

Старший: Хватит абстрактных рассуждений.

Мне нужны ответы – и побыстрее. Займитесь

этим. И да поможет вам Форд. И Азимов тоже.