Метод наискорейшего спуска

Здесь тоже находится в результате одномерной минимизации

, где

Многомерная минимизация при наличии ограничений.

Задача математического программирования.

Соотношение (1) – (3) – задача математического программирования.

1. Задача линейного программирования, когда все функции линейны и .

2. Задачи нелинейного программирования, когда хотя бы одна функция – нелинейная.

2.1. Задача на условный экстремум, когда отсутствуют условия (2).

2.2. Задача выпуклого программирования, когда все функции выпуклых и отсутствует условия (3).

Напомним, что функция, заданная на отрезке называется выпуклой на отрезке, если для всех и , принадлежащих отрезку и произвольного числа выполняется неравенство

.

Более конструктивно другое определение.

Для выпуклости на отрезке необходимо и достаточно, чтобы во всех точках выполнялось неравенство

.