Проверка выпуклости

Выпуклость определяется по критерию Сильвестра: функция будет выпуклой тогда и только тогда, когда

Общая схема методов спуска заключается в следующем:

Выбирается некоторая начальная точка и задается некоторый вектор , и каждая последующая точка определяется формулой где - некоторое число, выбираемое из условия сходимости метода.

Все методы отличаются друг от друга тем, что разные способы выбора вектора и числа .

Метод наискорейшего спуска является одним из градиентных методов выпуклого программирования, в котором в качестве направления вектора берется либо градиент функции (для нахождения максимума вогнутой функции) , либо антиградиент (для нахождения минимум выпуклой функции) .

Суть метода наискорейшего спуска заключается в способе выбора числа . В этом методе выбирается так, чтобы разность между значениями функции в двух соседних точках была наименьшей для нахождения минимума или наибольшей при нахождении максимума.

Учитывая это требования должно находиться из условия:

С геометрической точки зрения, градиент в очередной точке ортогонален градиенту в предыдущей точке .