Наближення експериментальних даних по методу найменших квадратів

Визначення функціональної залежності f(х) має велике значення при теоретичному аналізі експериментальних даних.

Якщо при цьому просто з’єднати послідовні значення отриманих з певною похибкою точок, то така ломана крива не має нічого спільного з дійсною функціональною залежністю. До того ж, при кожному наступному вимірюванні вона буде відрізнятися від попереднього вигляду. Тому емпіричну залежність апроксимують повною функцією з декількома параметрами (коефіцієнтами), які й визначаються з умови мінімального середньо-квадратичного відхилення отриманої функції від експериментальних точок. При цьому частіше всього зупиняються на поліноміальній залежності f(x)=a₀+a₁x+a₂x²+…, а метод знаходження коефіцієнтів полінома називається методом найменших квадратів.

Лінійна регресія полягає в визначенні параметрів емпіричної лінійної залежності y(x) = k x + z. При цьому, потрібно забезпечити найменшу середньо-квадратичну похибку. Фактично це означає, що потрiбно через множину точок на площині x_i та y_i провести пряму таким чином, щоб величина всіх вiдхилень вiдповiдала умовi U = (y_i-y(x_i))² = min, де y(x_i)=kx_i+z. Для цього потрiбно прирiвняти нулю частиннi похiднi:

=

(4.12)

що дає для визначення невiдомих коефiцiєнтiв z та k систему лiнiйних рiвнянь

(4.13)

Розв'язок цiєї системи:

k=

z= . (4.14)

Цей алгоритм реалiзовано в програмi

PROGRAM LIN_REG;

VAR N,A,B,C,D,X,Y,K,Z: REAL;

I: INTEGER;

LABEL 1;

BEGIN

WRITELN (‘Лінійна регресія’);

WRITE(‘Введіть N=’); READ (N);

A:=0; B:=0; C:=0; D:=0;

WRITELN (‘Введіть X(I), Y(I)’);

FOR I:=1 TO N DO

BEGIN

WRITE(‘X(I)=’); READ(X);

WRITE(‘Y(I)=’); READ(Y);

A:=A+X;

B:=B+X;

C:=C+X*X;

D:=D+X*Y;

END;

K:=(A*B-N*D)/(A*A-N*C);

Z:=(B-K*A)/N;

WRITELN(‘Y=’,Z;’+’,K,’*X’);

WRITELN(‘Для закінчення введіть 0’);

1: WRITE(‘Введіть X=’);

READ(X);

IF X<>0 THEN BEGIN

WRITE(‘Y(X)=’,’Z+K*X’);

GO TO 1

END;

END.

Тест 3: Для набору точок

X
Y	5,5	6,3	7,2		8,6

Коефіцієнти k = 0,395 та Z = 4,75.

Для наглядності необхідно побудувати експериментальні точки та пряму регресії.

У випадку, коли функціональна залежність повинна носити параболічний характер, апроксимуючий поліном має вигляд (x)=a₀+a₁x+a₂x₂. Для знаходження коефіцієнтів проводяться обрахунки, аналогічні вище приведеним, з розглядом додаткової умови =0.

Подібний алгоритм діє і для більш високих степеней полінома.

Якість наближення експериментальних точок по методу найменших квадратів характеризується коефіцієнтом кореляції між двома наборами точок (експериментальними і по поліному). При цьому, якщо коефіцієнт кореляції близький до 1, то вигляд полінома (степінь, коефіцієнти) вибрано вірно. Можливо, також, наближати і іншими функціональними залежностями: експоненціальною, логарифмічною або їх різноманітними комбінаціями. Правильний вибір залежності базується на інтуїції дослідника, а також на переборі різних варіантів. Якщо лінійна, або іншого степеня залежність не спостерігається, то можливо лініарезувати інший тип залежності. Так, якщо зупинитися на експоненціальній залежності між y і x y~exp(kx+z), то можливо шукати лінійну залежність між w=ln(y) і x. Інші варіанти приведені в таблиці 1.

Таблиця 1

N	Вид залежності	Лініаризований вид
		W=kp+z	P=x	W=y
		W=kp+z	P=x2	W=y
		W=kp+z	P=	W=y
		W=kp+z	P=lnx	W=y
		W=kp+z	P=x	W=y2
		W=kp+z	P=x2	W=y2
		W=zp+k	P=	W=
		W=kp+z	P=x	W=lny
		W=kp+lnz	P=lnx	W=lny
		W=kp+z	P=x	W=

При цьому, отримавши залежність між w і p, легко знаходять x і y. Наприклад, для експоненціальної залежності: w=kp+z; ln(y)=kx+z; y=e^kx+z.