Другие методы. О выборе метода

Для задачи (1) популярны методы многомерного поиска. Самый простой из них метод покоординатного спуска: на первой итерации в качестве направления выбирается , затем подбирается шаг с помощью решения задачи:

(13)

Замечание. В этом методе шаг может быть и отрицательный. Затем полагаем . На 2-ой итерации в качестве направления снова решается задача (13), находится шаг и строится , и так далее. На -ой итерации выбирается решается задача (13) и получаем . Задача (13) решается методом последовательного подбора .

Первые итераций метода дают его полный цикл, если нас не удовлетворяет, то можно совершить ещё один цикл. В методе покоординатного спуска на каждой итерации решается одномерная задача минимизации (13) (можно использовать метод золотого сечения, Фибоначчи) и на каждом шаге улучшается лишь одна компонента плана.