Рівнянь регресій за допомогою МНК

I. ŷ=a+bx+cx².

Параметри a, b, c знаходяться із умови

S=∑(y- ŷ)² →min

В нашому випадку

S=∑(y- a-bx-cx²)² →min

Записавши умови існування мінімуму

Одержимо систему лінійних рівнянь відносно a, b, c.

Можна доказати, що визначник системи відмінний від нуля. Значить

система має єдиний розв^,язок.

II. ŷ=ab^x.

Прологарифмувавши,одержимо:

lnŷ=lna+xlnb

Позначивши A=lna,B=lnb,Y=lny,Ŷ=lnŷ,одержимо лінійне відповідно А та В рівняння

Ŷ=А+Вх

Застосувавши МНК,одержимо:

Знайшовши із ситеми А та В, обчислимо

a=e^A, b=e^B.

III. ŷ=e^a+bx.

Прологарифмувавши,одержимо

lnŷ=а+вх.

Застосувавши МНК,одержимо систему:

IV. ŷ=ax^b

Після логарифмування матимемо:

lnŷ =lna+blnx

Позначивши A=lna, одержимо лінійне відповідно А та b рівняння:

lnŷ =А+blnx

Застосувавши МНК,одержимо систему:

Одержавши із системи А та b, знайдемо а:

a= e^A.

Приклади розв^,язання задач по темі «Парна регресія»

Задана статистична залежність прибутку від кількості сировини

сировина х (кількість)
прибуток у					330,57	347,5

1. Найти рівняня регресій

a) ŷ=a+bx d) ŷ=e^a+bx

b) ŷ=a+bx+cx² e) ŷ=ax^b

c) ŷ=ab^x

2. Для кожного рівняння побудувати графік,оцінити тісноту та якість зв^,язку по коефіцієнтам детермінації R² та середнім похибкам апроксимацій Ā.

3.Визначити «найкращу» регресію та зробити прогноз для х=х_к +∆х =140+21=161.

a) ŷ1=a+bx

Рівняння регресії:

Приведемо графіки заданої статистичної та найденої теоретичної

залежностей:

Оцінимо якість зв,язку: = - 2 = - 2   = 409078,775
Таким чином одержимо:
=8942,5-(87,5) 2 = 1286,25 = 35,864   =68179,796 – (246,017) 2 = 7655,53 = 87,496
= 2,399 = 0,983 2 = 0,967   Таким чином, майже 97% зміни у визвано зміною х. Для визначення середньої похибки апроксимації зробимо таблицю:   х               у         330,57 347,5   ŷ 120,068 170,443 220,82 271,20 321,57 371,95   у - ŷ у 0,1435 0,0145 0,0441 0,0776 0,0272 0,0704 =0,3773 Середня похибка апроксимації:
Ā= 0,3773*100 % =6,29 %, Що не перевищує допустиму (10 %).   b) ŷ2=a+bx+cx2

Розв^,язавши систему,одержимо

a = -50,579; b = 4,780; c = - 0,0136.

Таким чином

ŷ2= - 50,579+4,78х -0,014х ²

Приведемо графіки заданої статистичної та найденої теоретичної

залежностей:

Оцінимо якість зв^,язку та визначемо середню похибку апроксимації.

Для цього зробимо таблицю:

x
y					330,57	347,5
ŷ	100,1	174,4	236,8	287,2	325,6	351,9
(y- ŷ) 2	24,395	41,563	33,974	46,156	24,917	19,789	190,794
(y- ) 2	19884,3	6085,825	225,351	2302,88	7150,11	10299,9	45948,3
у – ŷ у	0,0467	0,0381	0,0251	0,0232	0,0150	0,0127	0,1608

∑(y-ŷ)²

R² = 1- ———. = 1- =0,9956

∑(y- )²

у – ŷ

у

Ā= ∑ 100 % = 0,1608*100 % =2,68 %

c) ŷ=ab^x

де A=lna,B= lnb.

Розв^,язавши систему,одержимо

A= 4,4431, B= 0,0113.

Після потенціювання матимемо

a=e^A = 85, 0382 b=e^B. = 1,0113

Таким чином

Ŷ3= 85, 0382 * 1,0113^x

Графіки заданої статистичної та найденої теоретичної

залежностей:

Оцінимо якість зв^,язку та визначемо середню похибку апроксимації.

Для цього зробимо таблицю:

x
y					330,57	347,5
Ŷ	126,013	159,549	202,011	255,773	323,843	410,029
(y- ŷ) 2	441,546	71,419	840,362	1461,30	45,252	3909,88	6769,76
(y- ) 2	19884,3	6085,825	225,351	2302,88	7150,11	10299,9	45948,3
у – ŷ у	0,200	0,050	0,125	0,130	0,020	0,180	0,705

Одержимо:

∑(y-ŷ)²

R² = 1- ———. = 1- =0,85267

∑(y- )²

у – ŷ

у

Ā= ∑ 100 % = 0,705*100 % =11,75 %

Таким чином, похибка апроксимації більша 10 %.

d) ŷ 4 =e^a+bx

Одержимо:

a = 4,4431, b = 0,0112.

Рівняння регресії буде:

ŷ=e ^{4,4431 +0,0112 х}

Графіки заданої статистичної та найденої теоретичної

залежностей:

Оцінимо якість зв^,язку та визначемо середню похибку апроксимації.

Для цього зробимо таблицю:

x
y					330,57	347,5
Ŷ	125,851	159,222	199,198	254,856	322,435	407,932
(y- ŷ) 2	434,773	77,0515	1011,36	1524,43	66,1864	3625,00	6765,81
(y- ) 2	19884,3	6085,825	225,351	2302,88	7150,11	10299,9	45948,3
у – ŷ у	0,1986	0,0522	0,1377	0,1331	0,0246	0,1739	0,9093

Одержимо:

∑(y-ŷ)²

R² = 1- ———. = 1- = 0,853

∑(y- )²

у – ŷ

у

Ā= ∑ 100 % = 0,9093*100 % =15,16 %

Таким чином, похибка апроксимації більша 10 %.

e) ŷ5 =ax^b

де A=lna;

Розв^,язавши систему,одержимо

A= 1, 5146; b= 0,8947.

Після потенціювання матимемо

a=e^A = 4,5458

Таким чином

Ŷ= 4,5458*x^0,8947

Графіки заданої статистичної та найденої теоретичної

залежностей:

Оцінимо якість зв^,язку та визначемо середню похибку апроксимації.

Для цього зробимо таблицю:

x
y					330,57	347,5
Ŷ	109,418	166,615	221,541	274,891	327,041	378,226
(y- ŷ) 2	19,5170	1,9182	89,4784	365,158	12,4538	944,069	1432,59
(y- ) 2	19884,3	6085,825	225,351	2302,88	7150,11	10299,9	45948,3
у – ŷ у	0,042	0,008	0,041	0,065	0,011	0,088	0,255

Одержимо:

∑(y-ŷ)²

R² = 1- ———. = 1- = 0,9688

∑(y- )²

у – ŷ

у

Ā= ∑ 100 % = 0,255*100 % =4,25 %

Похибка апроксимації менше 10 %.

Порівнюючи одержані результати, приходимо до висновку,що квадратична регресія

Ŷ=a+bx+cx² = - 50,579 + 4,7804 х – 0,0136 х²

найбільш якісно характеризує задану статистичну залежність.