Елементи теорії кореляційного та регресійного аналізу

Як показано в [11], зміна випадкової величини Y може бути пов’язано з дією “власних” випадкових факторів величини Y,а також стохастичного фактору, пов’язаного з наявністю причинно-наслідкового зв’язку між Y і змінами значень іншої випадкової величини X. Дві випадкові величини X і Y пов’язані стохастичним зв’язком, якщо зі змінами значень однієї випадкової величини змінюється закон розподілу іншої величини. Такі закони розподілу однієї випадкової величини, обчислені при фіксованих значеннях іншої, називаються умовними законами розподілу.

Очевидно дві випадкові величини X і Y можуть бути зв’язані як позитивним зв’язком (професійна компетентність викладачів вузу X і якість знань студентів Y), так і негативним зв’язком (час профілактичних робіт на технічній системі X та число відмов на наступному етапі експлуатації Y).

Формалізація наявності стохастичного зв’язку між X і Y, якознака їх залежності, подається нерівністю:

D (X +Y) ¹ D (X) + D (Y).

Стохастичний зв’язок між X і Y (розподіл змінної Y як результат змін X) є найбільш загальний в природі, суспільстві та техносфері.

Частинним випадком стохастичного зв’язку є кореляційний зв'язок – це статистична залежність між випадковими величинами X і Y, яка носить імовірнісний “м’який” характер (від лат. correlatio– співвідношення).

І нарешті, окремим випадком кореляційної залежності є строга кореляція – функціональна залежність, яка визначає значення змінної Y від X однозначно (“жорстка” залежність величин, яка формалізується у вигляді функції, як приклад y = f (x) = 2x² + 7).

Кількісна міра кореляційного зв’язку оцінюється за значеннями коефіцієнта кореляції r_xy Î [–1, 1]. На діаграмі розсіяння емпіричних значень взаємозв’язку змінних X і Y [12, с. 57] можливе зображення як сильного кореляційного зв’язку між X і Y (r_xy ® 1) у вигляді вузької продовгуватої смуги, так і відсутність кореляційного зв’язку між X і Y (r_xy = 0) у вигляді емпіричних значень, які обмежені колом. Рівність нулю коефіцієнта кореляції означає, що випадкові величини X і Y не корельовані, проте в загальному випадку вони можуть виявитися залежними.

Залежно від типів вимірювальних шкал, використовують різні коефіцієнти кореляції, зокрема:

а) коефіцієнти Чупрова, Пірсона, Юла (номінальна шкала);

б) коефіцієнти Спірмена, Кендалла, конкордації W (порядкова і рангова шкали);

в) коефіцієнт Пірсона (шкала інтервальна та шкала відношень).

Детальне висвітлення цих питань є в [11; 12].

Якщо випадкові величини X і Y являють собоюсистему (X, Y) з нормальним законом розподілу, то можна отримати рівняння регресії (від лат. regression – рух назад, Ф.Гальтон “прямування до посередності”,1886 р.) – рівняння, яке встановлює залежність між математичним сподіванням однієї випадкової величини Y і можливими значеннями іншої величини X. Іншими словами, регресія дозволяє за величиною однієї ознаки (змінна X) знаходити середні (очікувані) значення іншої ознаки (змінна Y), зв’язаної з X кореляційно.

Вираз Y = f (X) має назву рівняння регресії, а f (X) – функція регресії, їхні графіки – лінії регресії.

Подамо рівняння регресії більш детально. Умовне математичне сподівання випадкової величини Y в функції від значень випадкової величини X виражається рівнянням регресії Y на X:

m_y/xº f (x) = m_y +h_xy × s_y / s_x × (x – m_x),

де m_y і m_x – математичне сподівання випадкових величин Y і X; s_y і s_x – середнє квадратичне відхилення випадкових величин Y і X; h_xy – коефіцієнт кореляції моделі нелінійної регресії, який має вигляд h_xy= .

Графік регресії зображується кривою лінією. Наприклад, у випадку параболічної кореляції другого порядку вибіркове рівняння регресії Y на X має вигляд:

.

У моделі нелінійної регресії числівник має вигляд: = – факторна дисперсія або дисперсія, що пояснюється регресією; – безумовна (повна) дисперсія випадкової величини Y; – умовна дисперсія випадкової величини Y або дисперсія відтворюваності, яка характеризує випадковий компонент та обчислюється за тими значеннями Y, які відповідають фіксованому значенню X = x.

Кореляційне відношення h_xy завжди додатне (0 £ h_xy £ 1), асиметричне h_{xy ¹} h_yx.

Рівність h_xy = 0 означає, що випадкова величина Y не корельована з випадковою величиною X, проте це не означає, що Y і X незалежні.

Незалежні випадкові величини X і Y (при h_xy = 0) будуть тільки тоді, коли закон розподілу системи (X, Y) нормальний.

Рівність h_xy = 1 означає, що X і Y функціонально зв’язані. При нелінійній регресії кореляційне відношення h_xy завжди більше модуля коефіцієнта кореляції Пірсона, тобто h_xy > . При цьому має місце криволінійна кореляція та нелінійний зв'язок між Y і X.

Якщо зв'язок між Y і X лінійний, то h_{xy =} h_yx і кореляційне відношення h_xy дорівнює модулю коефіцієнта кореляції Пірсона, тобто h_xy= , при цьому маємо модель лінійної регресії, тобто лінійну кореляційну залежність.

Якщо дві лінії регресії Y на X і X на Y – прямі, то кореляцію називають лінійною. Вибіркове рівняння прямої лінії регресії Y на X має вигляд:

,

де – вибіркова середня ознаки Y; – вибіркова середня ознаки X; – умовна середня; і – вибіркові середні квадратичні відхилення ознак X і Y; – вибірковий коефіцієнт кореляції, причому

.

Вибіркове рівняння прямої лінії регресії X на Y має вигляд:

.

Вибірковий коефіцієнт кореляції характеризує силу лінійного кореляційного зв’язку: чим ближче до одиниці, тим зв'язок сильніше; чим ближче до нуля, тим зв'язок слабше.

Зазначимо, що в наукових дослідженнях здебільшого спостерігаються нелінійні зв’язки між випадковими величинами. Відомий ефект Ленца в фізиці, який звично іменується правилом Ленца: зміна (var) сили електричного струму i = var (підвищення чи зменшення) в колі з активним опором R та індуктивністю L спричиняє зміну напруженості магнітного поля H = var, яке викличе індуктивний струм, який спрямований проти основного струму. Зворотній зв'язок струмів можна формалізувати нелінійною кореляцією з від’ємним значенням коефіцієнта кореляції. Рівняння Максвелла це підтверджують. Не становлять виключення психолого-педагогічні дослідження. Як приклад, можна навести закон Йеркса-Додсона, за яким зростання позитивної мотивації спочатку викликає підвищення ефективності та результативності навчання, а через деякий проміжок часу наступає зниження результативності (продуктивності) навчання – ефект “перемотивації”.