Сравнение различных регрессий. Пошаговый отбор переменных

На 1-м шаге (k = 1) найдем один наиболее информативную переменную. При k = 1 величина R ² совпадает с квадратом обычного (парного) коэффициента корреляции

R ² = r ² (y, x),

из матрицы корреляций находим:

r ² (y, x_j) = r ² (y, x ₄ ) = (0.577)² = 0.333

Так что в классе однофакторных регрессионных моделей наиболее информативным предиктором (предсказателем) является x ₄- количество удобрений. Вычисление скорректированного (adjusted) коэффициента детерминации по (20) дает

R ² _adj (1) = 0.296.

Это значение получаем возвратом в окно Select dep. And indep. Var. Lists: Dep. Var: y, Indep. Var.: x 4 -OK - OK.

2-й шаг (k = 2). Среди всевозможных пар (х ₄, х_j), j = 1, 2, 3, 5, выбирается наиболее информативная (в смысле R ² или, что то же самое, в смысле R ² _adj) пара:

возврат в окно Select dep. And indep. Var. и перебор различных пар; результат:

(х ₄, х ₁) = 0.406, (х ₄, х ₂) = 0.399,

(х ₄, х ₃) = 0.421, (х ₄, х ₅) = 0.255,

откуда видно, что наиболее информативной парой является (х ₄, х ₃), которая дает

(2) = (х ₄, х_j) = 0.421

Оценка уравнения регрессии урожайности по факторам х ₃и х ₄имеет вид (х ₃, х ₄) = 7.29 + 0.28 х ₃+ 3.47 х ₄(27)

(0.66) (0.13) (1.07)

Внизу в скобках указаны стандартные ошибки, взятые из столбца Std. Err. of B таблицы Regression Results для варианта независимых переменных (х ₃, х ₄) Все три коэффициента статистически значимо отличаются от нуля при уровне значимости a = 0.05, что видно из столбца p-level той же таблицы.

3-й шаг (k = 3). Среди всевозможных троек (х ₄, х ₃ ,х_j), j = 1, 2, 5, выбираем аналогично наиболее информативную: (х ₄, х ₃ ,х ₅), которая дает (3) = 0.404,

что меньше, чем (2) = 0.421; это означает, что третью переменную в модель включать нецелесообразно, т.к. она не повышает значение (более того, уменьшает). Итак, результатом анализа является (28).