Общая идея методов

В общем случае под градиентными методами понимают методы, в которых направления движения к точке оптимума функции совпадают с направлением её градиента.

Используя градиентные методы, можно найти решение любой ЗНЛП.

Однако в общем случае применение этих методов позволяет найти точку локального экстремума.

Поэтому более целесообразно использовать градиентные методы для нахождения решения задач выпуклого программирования, в которых всякий локальный экстремум является одновременно и глобальным.

Процесс нахождения решения задачи с помощью градиентных методов состоит в том, что начиная с некоторой точки X^(k) осуществляется последовательный переход к некоторым точкам до тех пор, пока не выявляется приемлемое решение исходной задачи.

Градиентные методы подразделяются на две группы.

К первой группе относятся методы, при использовании которых исследуемые точки могут как принадлежать, так и не принадлежать области допустимых решений.

Однако в результате реализации итерационного процесса находится точка области допустимых решений, определяющая приемлемое решение.

Из таких методов наиболее часто используется метод штрафных функций или метод Эрроу - Гурвица.

При нахождении решения задач градиентными методами, в том числе и названными, итерационный процесс осуществляется до того момента, пока градиент функции f(x₁, x₂,..., x_n) в очередной точке X^(k+1) не станет равным нулю или же пока где e — достаточно малое положительное число, характеризующее точность полученного решения.

Мы рассмотрим несколько наиболее простых и также часто используемых в практике вычислений градиентных методов.