Коэффициент детерминации и скорректированный коэффициент детерминации

Для оценки взаимосвязи между зависимой переменной и совокупностью объясняющих переменных используют множественный (совокупный) коэффициент (индекс) корреляции R или коэффициент детерминации R².

или

R² = RSS / TSS

Множественный коэффициент детерминации можно рассматривать как меру качества уравнения регрессии, характеристику прогностической силы регрессионной модели. Чем ближе R² к 1, тем лучше регрессия описывает зависимость между объясняющими и зависимой переменными.

Основная проблема применения (выборочного) заключается в том, что его значение увеличивается (не уменьшается) от добавления в модель новых переменных, даже если эти переменные никакого отношения к объясняемой переменной не имеют!

Для того, чтобы была возможность сравнивать модели с разным числом факторов так, чтобы число факторов не влияло на статистику обычно используется скорректированный коэффициент детерминации.

, где

n – общее число наблюдений,

р – число объясняющих переменных (число параметров модели регрессии без учета свободного члена).

Чем ближе значения коэффициентов к 1, тем качественнее модель.

При R² =0, скорректированный R² может принимать отрицательные значения.

Скорректированный R² - показатель качества для множественной регрессии.

17. Сформулируйте предпосылки МНК. Каковы последствия их выполнимости или невыполнимости.

Исследования остатков е_i предполагают проверку наличия следующих пяти предпосылок МНК:

1. Случайный характер остатков (график зависимости отклонений от номера измерения должен иметь большое количество поворотных точек);

2. Нулевая средняя величина остатков, не зависящая от х_i (мат.ожидание=0);

3. Гомоскедастичность – равенство дисперсий всех отклонений (если это условие не выполняется, то имеет место гетероскедастичность);

4. Отсутствие автокорреляции остатков;

5. Остатки подчиняются нормальному распределению. (|е_i / S|<=2)

В случае, когда все пять предпосылок выполняются, оценки, полученные по МНК и методу максимального правдоподобия, совпадают между собой. Если распределение случайных остатков е_i не соответствуют некоторым предпосылкам МНК, то следует корректировать модель.

При несоблюдении основных предпосылок МНК приходится корректировать модель, изменяя ее спецификацию, добавлять (исключать) некоторые факторы, преобразовывать исходные данные для того, чтобы получить оценки коэффициентов регрессии, которые обладают свойством несмещённости, имеют меньшее значение дисперсии остатков и обеспечивают в связи с этим более эффективную статистическую проверку значимости параметров регрессии.