Оценка надежности результатов множественной регрессии и корреляции

Значимость уравнения множественной регрессии в целом, так же как и в парной регрессии, оценивается с помощью F -критерия Фишера:

где – факторная сумма квадратов на одну степень свободы;

– остаточная сумма квадратов на одну степень свободы;

– коэффициент (индекс) множественной детерминации;

m – число параметров при переменных х (в линейной регрессии совпадает с числом включенных в модель факторов);

n – число наблюдений.

Необходимость такой оценки связана с тем, что не каждый фактор, вошедший в модель, может существенно увеличивать долю объясненной вариации результативного признака. Кроме того, при наличии в модели нескольких факторов они могут вводиться в модель в разной последовательности, в виду того, что корреляции между факторами значимость одного и того же фактора может быть разной в зависимости от последовательности его введения в модель. Мерой для оценки включения фактора в модель служит частный F -критерий, т. е. F_xi.

Частный F -критерий построен на сравнении прироста факторной дисперсии, обусловленного влиянием дополнительно включенного фактора, с остаточной дисперсией на одну степень свободы по регрессионной модели в целом. Предположим, что оцениваем значимость влияния x ₁ как дополнительно включенного в модель фактора. Используем следующую формулу:

где – коэффициент множественной детерминации для модели с полным набором факторов;

– тот же показатель, но без включения в модель фактора х ₁;

п – число наблюдений;

т – число параметров в модели (без свободного члена).

Если оцениваем значимость влияния фактора х_р после включения в модель факторов х ₁, х ₂,..., х_{p– 1}, то формула частного F -критерия примет вид:

В общем виде для фактора х_i, частный F -критерий определится как

В числителе формул показан прирост доли объясненной вариации у за счет дополнительного включения в модель соответствующего фактора:

– прирост за счет х ₁,

– за счет х_р,

– за счет х_i.

Частный F -критерий оценивает значимость коэффициентов чистой регрессии. Зная величину F_xi, можно определить и t -критерий Стьюдента для коэффициента регрессии при i -м факторе, , a именно: