Знаходження параметрів теоретичного рівняння регресії методом найменших квадратів

Розглянемо питання про знаходження параметрів теоретичного рівняння регресії методом найменших квадратів.

Нехай дано точок (для простоти позначимо ). Знайдемо та методом найменших квадратів. Для цього будемо вимагати, щоб сума квадратів відхилень точок від лінії вздовж осі була найменшою (рис.1).

0

Рис. 1. Метод найменших квадратів.

Маємо: . Оскільки – функція, залежна від двох змінних і , для знаходження її мінімуму шукаємо частинні похідні та :

,

.

Прирівнюючи ці похідні до нуля, одержимо так звану нормальну систему відносно і :

.

Звідси маємо:

Параметри і теоретичного рівняння регресії можна оцінити за формулами (для рівняння значущості )

,

де – статистика Стьюдента при рівні значущості ; – кількість степенів свободи (критична область двохстороння).

Зауваження. Коефіцієнт можна представити у вигляді

,

де та – вибіркові середні квадратичні відхилення, а – вибірковий коефіцієнт кореляції:

.

Цей коефіцієнт є статистичною оцінкою невідомого теоретичного коефіцієнта кореляції , який визначається рівністю:

.

Аналогічно можна знайти вибіркове рівняння прямої лінії регресії на :

,

Цікаво визначити, що у швейному і взуттєвому виробництвах при виборі ознак, за якими стандартизують одяг і взуття, велику роль відіграє оцінка близькості кореляційної залежності між і і лінійної функціональної залежності. Це пов’язане з тим, що розміри людського тіла (наприклад, зріст, повнота, довжина, ширина кисті руки) відповідають нормальним законам розподілу, а в таких випадках кореляційні залежності близькі до лінійних функцій.