Метод покоординатного спуску

Суть методу полягає в почерговому пошуку оптимального розв’язку цільової функції по кожній координаті.

Алгоритм методу покоординатного спуску

1 Як і в попередньому методі, виберемо початкове (нульове) наближення - точку з координатами . Значення цільової функції в цій точці складає Z⁰.

2 Згідно з виразом (2.17) обчислимо часткові похідні цільової функції Z.

3 Із сукупності часткових похідних виберемо найбільшу за модулем похідну. Хай це буде похідна дZ/дх_i. Отже, у напрямі змінної х_i, функція Z має найбільшу зміну. Якщо похідна додатна, при збільшенні змінної х_i функція збільшується. Якщо похідна від’ємна, при збільшенні змінної х_i, функція зменшується.

4 Для пошуку мінімуму функції здійснюємо "спуск" по змінній х_i у напрямі зменшення цільової функції (виконуємо одиничні кроки λ=1) до тих пір, поки функція спадатиме. Послідовно отримуємо 1-е, 2-е, 3-є наближення - точки з координатами ; ; . Таким чином здійснюється оптимізація по одній координаті.

5 Повторюємо кроки 2-4 з іншою змінною х_i до тих пір, поки цільова функція не почне збільшуватися за всіма координатами. Обчислювальна процедура повторюється до досягнення точності, яка відповідає вибраному кроку. Точка розв’язку знаходиться в околиці мінімуму цільової функції Z.