Они будут чувствовать боль

Другой вариант обучения, когда информация о правильности действий недоступна. Напомню, при обучении методом отжига, для перестройки решения применяются случайные изменения параметров целиком по всему решению. Сила таких изменений (температура) начинается с высокой, и постепенно уменьшается, когда решение сходится к лучшему варианту. Если изменения нас не устраивают, сила изменений (температура отжига) увеличивается в поисках более подходящего варианта.

Поэтому в процессе эволюции выработался механизм боли. Неправильное действие - и мы мгновенно чувствуем, как наши нейронные связи пожирает жестокое пламя. Такая встряска не проходит бесследно. Последствия неправильного действия оказываются буквально выжженными в наших нейронных связях. Да так, что мы избегаем всеми силами повторения этих неправильных действий. Механизм простой, но эффективный.

В искусственном интеллекте обучение может дополняться более интенсивным темпом случайных изменений, более высоким темпом целенаправленных изменений, если интеллект выдаёт плохие решения. Такие дополнения могут применяться как на уровне коллектива программ, так и на уровне отдельных программ или правил. "Плохие" правила или программы могут оказаться буквально сожжёнными в результате неправильных действий, в то же время хорошие правила и программа сохраняться и приумножатся, но как огня будут "бояться" неправильных действий.

На более высоком уровне интеллекта "боль" будет проявляться и в плане того, что "голова раскалывается от идей", "невозможно собраться с мыслями" и т.п. Состояние хорошего решения будет сопровождаться чёткостью мысли, гармонией и "душевным равновесием".