Шаги алгоритма при движение по антиградиентному направлению

1. Для i-го компонента вектора a_i n-го шага оптимизации можно записать, что

(8.13)- рабочий шаг

- масштабные коэффициенты, зависящие от ограничений, накладываемых на оптимизируемый параметр

Границы и заданы в явном виде.

2. Расчет масштабных коэффициентов.

Если в процессе реализации выражения (8.13) какой-либо из компонент выходит на заданную границу или пересекает ее или , то процесс оптимизации продолжается, а данный компонент вектора получает значение или .

(8.14)

3. Если выражение для критерия оптимизации не позволяет вычислить градиент в явном виде, то используется его конечно-разностная оценка

(8.15)

Оценка градиента по выражению (8.15) может выполняться не на каждом рабочем шаге n, что позволяет сократить время оптимизации.

4. При нарушении ограничений типа (8.14) по всем компонентам вектора A для обеспечения сходимости процедуры (8.13) шаг уменьшают в k раз и продолжают итерационный процесс.

Движение по анти градиентному направлению происходит до тех пор, пока очередное значение критерия оптимизации убывает по отношению к предыдущему

(8.16)

Если же условие (8.16) нарушается в каком-либо из циклов, то выполняют оперативную корректировку рабочего шага . и проверяется условие = (8.17)

При неоднократном применении условия ()8.17 для окончания процесса оптимизации проверяют следующее условие (8.18)

Использование для окончания процесса оптимизации условий (8.17) или (8.18) позволяет в интерактивном режиме управлять процессом (8.13), при этом ограничения других алгоритмов связанные с величиной параметра m, в данном случае снимается.