Оценка коэффициентов линейной регрессии

Регрессией случайной величины Y на X называется условное математическое ожидание случайной величины Y при условии, что X = x:

my (x) = M[ Y / X = x ]. (9.1)

Регрессия Y на X устанавливает зависимость среднего значения величины Y от величины X. Если X и Y независимы, то

my (x) = my = const.

Простейшим видом регрессии является линейная:

my (x) = a 0+ a 1 x.

Определение оценок коэффициентов a 0, a 1осуществляется с помощью метода наименьших квадратов.

Пусть имеется выборка {(x 1, y 1), (x 2, y 2),..., (xn, yn)}, содержащая n пар значений случайных величин X и Y. Тогда оценки параметров и вычисляются по следующим формулам:

(9.2)

(9.3)

Для визуальной проверки правильности вычисления величин необходимо построить диаграмму рассеивания и график уравнения регрессии (рис. 9.1).

Рис 9.1

Если оценки парамет­ров a 0, a 1рассчитаны без грубых ошибок, то сумма квадратов отклонений всех точек (xi, yi) от прямой должна быть минимально возможной.

Если выборка дву­мер­ной случайной вели­чины за­да­на с помощью приведен­ной ниже корреляционной таблицы

Таблица 9.1

X	Y
	y 1	y 2		ys
x 1	n 1,1	n 1,2		n 1, S
x 2	n 2,1	n2,2	...	n 2, S
		. . .
xr	nr,1	nr,2		n r,s

где ni,j - количество появлений в выборке пары (xi, yj), то величины , вычисляются по формулам

(9.4)

(9.5)

где (9.6)

Пример 9.1 Найти уравнение прямой регрессии Y на X по данным корреляционной таблицы: Таблица 9.2

xi	yj

Решение. Для расчета оценок коэффициентов a 0, a 1воспользуемся формулами (9.4-9.6).

Тогда

Таким образом, уравнение регрессии имеет вид

ЗАДАЧИ.

Найти уравнение прямой регрессии для следующих экспериментальных данных:

9.1

X
Y	0,1		8,1	14,9	23,9

Ответ:

9.2

X
Y		4,9	7,9	11,1	14,1

Ответ:

9.3

X		1,5		2,5
Y	2,1	2,2	2,7	2,8	2,85

Ответ:

9.4

X	Y

Ответ:

ЛИТЕРАТУРА

1. Большев Л.Н., Смирнов Н.В. Таблицы математической статистики.– М.: Наука, 1983. – 416 с.

2. Герасимович А.И. Математическая статистика. – Мн.: Выш.школа, 1983. - 279 с.

3. Гмурман В.Е. Теория вероятностей и математическая статистика. - М.: Высш.шк., 1977.– 479 с.

4. Гурский Е.И. Сборник задач по теории вероятностей и математической статистике.– Мн.: Выш.шк., 1984.–223 с.

5. Жевняк Р.М., Карпук А.А. Высшая математика. Ч.V.– Мн.: Выш.шк., 1988.-253 с.

6. Сборник задач по математике для втузов. ч. 3. Теория вероятностей и математическая статистика (под редакцией А.В.Ефимова).–М.:Наука. 1990.-428 с.

7. Сборник задач по теории вероятностей, математической статистике и теории случайных функций (под редакцией А.А.Свешникова).-М.: Наука, 1965.-656 с.

8. Сборник индивидуальных заданий по теории вероятностей и математической статистике (под редакцией А.П.Рябушко). – Мн.: Выш. шк., 1992. – 191 с.

9. Справочник по теории вероятностей и математической статистике/ В.С.Королюк и др.– М.: Наука, 1985. – 640 с.

10. Харин Ю.С., Степанова М.Д. Практикум по ЭВМ по математической статистике.– Мн.: изд-во "Университетское", 1987. – 304 с.