Обработка результатов измерений методом наименьших квадратов

В регрессионном анализе рассматривается зависимость случайного результативного признака от неслучайных факторных признаков . В случае единственного факторного признака уравнение взаимосвязи двух переменных и можно представить в виде

,

где случайная величина, такая что , а дисперсия не зависит от .

В зависимости от вида функции различают такие виды регрессий, как линейную, гиперболическую, показательную, степенную, логарифмическую, параболическую и т.д., для которых , соответственно, имеет вид

, , , , .

Предположим, что нам дана выборка, содержащая пар значений , где

. В этом случае выбор типа регрессии осуществляется на основе анализа корреляционного поля. Корреляционным полем называется чертеж, на котором изображены точки с координатами , соответствующими этой выборке. По форме корреляционного поля можно сделать вывод о том, в каком классе зависимостей следует искать аппроксимацию функции регрессии .

Допустим, что анализ корреляционного поля показал, что мы имеем дело с линейной моделью регрессии: . Оценкой этого уравнения регрессии служит выборочное уравнение регрессии . Параметры и выборочного уравнения регрессии находят по методу наименьших квадратов-они минимизируют функцию , представляющую собой сумму квадратов отклонений фактических значений результативного признака от теоретических, полученных по выборочному уравнению регрессии. Приравнивая к нулю частные производные и , получаем систему уравнений

для нахождения и . Эта система уравнений называется нормальной. Введем обозначения:

.

В этих обозначениях нормальная система имеет вид

.

Она сильно упрощается, если , т.е. если среднее значение выборки равно нулю. В этом случае , .

Можно показать, что если распределена нормально, то и являются несмещенными и эффективными оценками и .