Основные положения регрессионного анализа

Теорема Гаусса – Маркова

В силу воздействия неучтенных случайных факторов и причин отдельные наблюдения переменной будут в большей или меньшей мере отклоняться от функции регрессии .

Рассмотрим линейный регрессионный анализ, для которого линейная парная регрессионная модель имеет вид:

. (2.18)

Отметим основные предпосылки регрессионного анализа.

1. В модели возмущение (или зависимая переменная ) есть величина случайная, а объясняющая переменная - величина неслучайная.

2. Математическое ожидание возмущения равно нулю:

(2.19)

(или математическое ожидание зависимой переменной равно линейной функции регрессии: ).

3. Дисперсия возмущения (или зависимой переменной ) постоянна для любого

(2.20)

(или ) – условие гомоскедастичности или равноизменчивости возмущения (зависимой переменной)).

4. Возмущения и (или переменные и ) не коррелированы:

(2.21)

5. Возмущение (или зависимая переменная ) есть нормально распределенная случайная величина.

В этом случае модель называется классической нормальной линейной регрессионной моделью.

Для получения уравнения регрессии достаточно предпосылок 1 – 4. Требование выполнения предпосылки 5 (т.е. рассмотрение «нормальной регрессии») необходимо для оценки точности уравнения регрессии и его параметров.

Оценкой модели по выборке является уравнение регрессии . Параметры этого уравнения и определяются на основе метода наименьших квадратов.

Воздействие неучтенных случайных факторов и ошибок наблюдений в модели определяется с помощью дисперсии возмущений (ошибок) или остаточной дисперсии . Несмещенной оценкой этой дисперсии является выборочная остаточная дисперсия.

S ² , (2.22)

где – групповая средняя, найденная по уравнению регрессии; – выборочная оценка возмущения или остаток регрессии.

Возникает вопрос, являются ли оценки , и параметров «наилучшими»? Ответ на этот вопрос дает следующая теорема.

Теорема Гаусса – Маркова. Если регрессионная модель удовлетворяет предпосылкам 1 – 4, то оценки , имеют наименьшую дисперсию в классе всех линейных несмещенных оценок.

Таким образом, оценки , в определенном смысле являются наиболее эффективными линейными оценками параметров , .