Точность коэффициентов регрессии. Проверка значимости

Полученные оценки коэффициентов регрессии зависят от используемой выборки значений переменных x и y и являются случайными величинами. Представление о точности полученных оценок, о том насколько далеко они могут отклониться от истинных значений коэффициентов можно получить, используя так называемые «стандартные ошибки» коэффициентов регрессии.

Определение 13.2. Под стандартной ошибкой коэффициента регрессии понимается оценка стандартного отклонения функции плотности вероятности от коэффициента.

Стандартные ошибки коэффициентов регрессии () определяются соотношениями

(13.13)

(13.14)

где представляет собой несмещенную оценку остаточной дисперсии

(13.15)

Сопоставляя оценки параметров и их стандартные ошибки можно сделать вывод о надежности (точности) полученных оценок.

Отношения

и (13.16)

в случае нормально распределенной ошибки являются t -статистиками, т. е. случайными величинами, распределенными по закону Стьюдента с числом степеней свободы n -2. Через и обозначены точные значения коэффициентов регрессии.

Для оценки статистической значимости коэффициентов регрессии применяется t -критерий Стьюдента, согласно которому выдвигается «нулевая» гипотеза о статистической незначимости коэффициента уравнения регрессии (т. е. о статистически незначимом отличии величины а или b от нуля). Эта гипотеза отвергается при выполнении условия , где определяется по таблицам t -критерия Стьюдента по числу степеней свободы (k - число независимых переменных в уравнении регрессии) и заданному уровню значимости α.

t -критерий Стьюдента может использоваться и для оценки статистической значимости выборочного коэффициента корреляции , так как величина

, (13.17)

где

(13.18)

распределена по закону Стьюдента с числом степеней свободы n -2. Через обозначена стандартная ошибка коэффициента корреляции .

Проверка значимости оценок параметров ничего не говорит о том, насколько эти оценки могут отличаться от точных значений. Ответ на этот вопрос дает построение доверительных интервалов.

Определение 13.3. Под доверительным интервалом понимаются пределы, в которых лежит точное значение определяемого показателя с заданной вероятностью ().

Доверительные интервалы для параметров a и b уравнения линейной регрессии определяются соотношениями:

(13.19)

Величина представляет собой табличное значение t -критерия Стьюдента на уровне значимости α при числе степеней свободы n–2.

Если в границы доверительного интервала попадает ноль, т. е. нижняя граница отрицательна, а верхняя положительна, то оцениваемый параметр принимается равным нулю, так как он не может одновременно принимать и положительное, и отрицательное значения.

Для статистически значимого коэффициента корреляции интервальные оценки (доверительный интервал) получают с использованием Z -преобразования Фишера:

(13.20)

Первоначально определяется интервальная оценка для z

(13.21)

где – квантиль стандартного нормального распределения порядка 1–α/2, – значение Z -преобразования Фишера, соответствующее полученному значению коэффициента корреляции .

Граничные значения доверительного интервала для получаются из граничных значений доверительного интервала для z с помощью обратного Z -преобразования Фишера

(13.22)