Линейная регрессия

В измерительной технике очень часто определяют зависимость
одной переменной у от другой . С помощью линейной
регрессии исследуют линейную зависимость измеряемых величин. Рассмотрим величину как зависимую, а вели­чину как независимую переменные. Так, например, при поверке величина, воспроизводимая ме­рой, является независимой, а по­казание поверяемого прибора - зависимой.

Наиболее предпочтительна линейная зависи­мость, но измеренные величины , как правило, не лежат на прямой. В данном случае это происходит потому, что имеется случайная погрешность измерений. При ис­следовании статистических про­цессов это обусловлено и тем, что взаимосвязь является не функциональной, а лишь статистической. Так, например, рост сыновей зависит от роста родителей, но только в статистическом смысле.

Возникает вопрос, как провести искомую прямую, называемую прямой регрессии или прямой выравнивания, через точки измерения, нанесённые на - диаграмме, или как её рассчитать.

Исходя из того, что для определённого значения независимой переменной величина нормального распределена относительно её математического ожидания, лежащего на прямой, и что это нормальное распределение не зависит от переменной , можно применить метод наименьших квадратов. При этом рассматривают не расстояние точки измерения от прямой, а разность ординат точки измерения и прямой.

Прямую, соответствующую минимальной сумме квадратов погрешности, с наибольшей вероятностью можно рассматривать как искомую прямую генеральной совокупности и рассчитывать по следующей формуле:

где

Крутизна прямой b называется коэффициентом регрессии и рассчитывается следующим образом:

b =

В результате получают оценку прямой, описывающей линейную зависимость. Здесь снова возникает проблема доверительных границ. Сначала мы рассмотрим доверительные границы для коэффициента регрессии b. Процедура решения этого вопроса состоит в следующем:

1. Выбирают доверительную вероятность Р (%) (например, 95, 99 % или другую).

2. По результатам исследований (рис.6.2) (t – распределение Стьюдента) определяют где число степеней свободы.

3. Вычисляют : , и в:

S S b =

4. Определяют доверительные границы погрешности коэффициента регрессии:

Математическое ожидание коэффициента регрессии b с доверительной вероятностью Р (%) лежит в области

Если, доверительный интервал для коэффициента b включает величину = 0, то с выбранной доверительной вероятностью нет оснований утверждать, что действительный коэффициент регрессии b отличен от нуля. В этом случае считают, что линейная зависимость не установлена с достаточной достоверностью.

Дополнительная недостоверность состоит в том, что средняя величина представляет собой лишь оценку соответствующего математического ожидания. Поэтому недостоверным является и «положение» прямой, построенной с учетом измерений .

Теперь можно для каждого значения прямой линии = b

определить доверительный интервал следующим образом:

1. Выбирают доверительную вероятность Р (например, 95, 99 % или другую).

2. По результатам, представленным на рис.5.2 (t – распределение Стьюдента) определяют c = f (р, n_f), где n_f = n – 2 число степеней свободы.

3. Проводят вычисления:

S S b =

4. Определяют доверительный интервал погрешности измерений значений для разных значений :

(6.1)

Математическое ожидание величины с выбранной доверительной вероятностью Р лежит в области

Как видно из (6.1), этот интервал зависит от и минимален при что связано с установленной выше недостоверностью коэффициента b.

Если требуется проверить только то, что крутизна b значимо отличается от нуля, т.е. что имеет место существенная и линейная зависимость между и , то поступают следующим образом.

Определяют:

S S b =

Вычисляют

По результатам исследований (рис. 6.2) (t – распределение Стьюдента) определяют Р = f (с, n_f), n_f = n – 2.

Вероятность Р (%) представляет уровень значимости отклонения крутизны b исследуемой зависимости от прямой с b = 0.

Если уровень значимости достаточно мал (например, Р 1 %), то гипотеза, что = 0, исключается. В этом случае можно предполагать, что зависимость должна быть линейной.