Регресійний аналіз і кореляція. Основні означення

Нехай ми маємо дві випадкові величини – і . Кожну з них окремо можна характеризувати, наприклад, за допомогою її середнього значення, дисперсії тощо. Вивчаючи та в сукупності, будемо розглядати ще і вплив однієї величини на іншу. При цьому величина може бути і не випадковою, а заданою експерементатором. Можливі такі ситуації.

1. та – незалежні величини: зміна не впливає на розподіл .

2. та пов’язані функціональною залежністю: кожному значенню відповідає цілком певне значення (тут – область визначення функції).

3. Між існує статистична (стохастична) залежність, коли одному і тому ж значенню величини відповідає статистична сукупність значень величини з законом розподілу, що змінюється зі зміною . Якщо, зокрема, при зміні однієї величини () змінюється середнє значення другої (), то статистична залежність називається кореляційною. Отже, кореляційна залежність – це функціональна залежність між значеннями величини та умовними середніми значеннями випадкової величини (тобто середніми значеннями величини , обчисленими при даних ).

Неповною називається кореляція, коли одній величині (наприклад, ) надаються певні фіксовані значення і для кожного з них шляхом експерименту знаходять сукупність значень у величини .

Повною називається кореляція, коли кожен із відібраних елементів статистичної сукупності об’єктів вивчається відразу і по , і по .

В теорії кореляції розв’язується такі дві основні задачі:

1) питання про форму кореляційного зв’язку між та (підбір певного виду функціональної залежності);

2) оцінка тісноти кореляційного зв’язку між та (наскільки близька залежність до вибраної функціональної).

Перша з цих задач розв’язується за допомогою регресій. Емпірична лінія регресії – це ламана лінія, яка з’єднує точки з координатами (тут – умовна середня ). Теоретичною лінією регресії по називається лінія, яка “згладжує” емпіричну лінію регресії. Її рівняння, таким чином, дає наближений аналітичний вираз регресії. Щоб одержати теоретичну лінію регресії, спочатку підбирають тип лінії, навколо якої групуються експериментальні точки: пряма, гіпербола, показникова функція і т.д. Далі обчислюють параметри вибраної залежності (наприклад, методом найменших квадратів).

Кореляційна залежність між випадковими величинами та називається лінійною кореляцією, якщо обидва теоретичні рівняння регресії та лінійні (тобто їх графіки – прямі лінії). В противному випадку кореляційна залежність називається нелінійною.

Якщо – не випадкова величина, то кореляційна залежність між та називається лінійною, якщо теоретичне рівняння лінійне, і нелінійною – в противному випадку.