Використання багатовимірної оптимізації для розв’язку системи рівнянь

зводиться до пошуку min функціоналу або . Наприклад, для розв’язку системи двох нелінійних рівнянь необхідно мінімізувати функцію F(x₁,x₂)=(x₁²+x₂²-1)²+(x₁³-x₂)². Координати точки мінімуму і будуть розв’язками системи рівнянь.

Одним із методів є метод координатного спуску, який заключається в почерговому пошуку min по кожній з координат x₁, x₂, …x_n. Після знаходження точки min по одній з координат переходимо до пошуку по іншій і т. д. Пошук ведеться з однаковим кроком, котрий зменшується після знаходжень всіх значень на черговій ітерації.

Метод координатного спуску з квадратичною інтерполяцією-екстраполяцією заснований на послідовному пошуку min кожної змінної з використанням квадратичної інтерполяції-екстраполяції. Розглянемо ідею методу на прикладі функції однієї змінної. Метод полягає в заміні F(x) на проміжку x₁±h параболою. Ітераційна процедура продовжується до тих пір, доки різниця в положеннях мінімуму не стане меншою за e. Метод використовується як для знаходження min, так і max функції, причому точка x_m може бути як на інтервалі x₁±h (інтерполяція), так і поза ним (екстраполяція).

Алгоритм:

1) Задаємо початкове наближення x₁ для x_m і обраховуємо два аргументи F(x): x₀=x₁-h; x₂=x₁+h, h-пів інтервал інтерполяції-екстраполяції.

2) Обраховуємо три значення F(x): F(x₀)=F₀, F(x₁)=F_1, F(x₂)=F₂.

3) Знаходимо коефіцієнти ,

параболи y(x)=ax²+bx+c, яка проходить через вибрані три точки, а по них обраховуємо положення максимуму. (2.8)

4) Перевіряємо виконання умови . Якщо умова не виконується, задаємо і йдемо до пункту 1. Якщо виконується, вважаємо знайденим, обраховуємо F(x_m).

Тест: F(x₁,x₂)=(x₁²+x₂²-1)²+(x₁²-x₂)².

H=0,01; E=1*10^-4; x₁₀=x₂₀-1;

Отримаємо x_1m=0,8259, x_2m=0,5636, F(x_1m,x_2m)=2,2726*10^-4.

y=ax²+bx+c,

Для знаходження коефіцієнтів параболічної залежності використаємо розклад у ряд Тейлора функції F(x) для точок x-h та x+h:

F(x-h)=(x-h)²+b(x-h)+c=F(x)-2xh+h²-bh; (2.9)

F(x+h)=F(x)+2xh+h²+bh.

Додавши почленно, отримаємо

F(x-h)+F(x+h)=2F(x)+a2h².

Звідси,

. (2.10)

Відповідно, на основі виразу bh=F(x)-F(x-h)-2axh+ah² знаходиться коефіцієнт b:

(2.11)

(2.12)