Расчетные формулы

Регрессия – это модель вида

,

где y – зависимая переменная (результативный признак, функция отклика, эндогенная (внутренняя) переменная). Термин «внутренний» отражает тот факт, что значения зависимой переменной у определяются только значениями независимых переменных x;

х – независимая переменная (объясняющая переменная, фактор, входная переменная, внешняя или экзогенная переменная). Термин «внешний» говорит о том, что значения переменных х определяются вне рассматриваемой модели, для которой они являются заданными.

Знак «ˆ» («ридж») означает, что между переменными х и у нет строгой функциональной зависимости, поэтому практически в каждом отдельном случае величина у складывается из двух слагаемых:

,

где у – фактическое (экспериментальное) значение результативного признака;

– теоретическое значение результативного признака, найденное из уравнения регрессии;

– случайная величина, характеризующая отклонения фактического значения у от .

Случайная величина e _i включает влияние не учтенных в модели факторов, случайных ошибок и особенностей измерения [5, с. 44].

В случае единственной входной переменной регрессию называют парной (простой), если переменных две и более – множественной.

В зависимости от типа выбранного уравнения различают линейную и нелинейную регрессию (экспоненциальную, логарифмическую и т. д.).

При изучении регрессии выполняют следующие этапы:

1) спецификация уравнения регрессии и определение параметров регрессии;

2) определение степени стохастической взаимосвязи результативного признака и факторов, проверка общего качества уравнения регрессии;

3) проверка статистической значимости каждого коэффициента уравнения регрессии и определение их доверительных интервалов.

Спецификация уравнения регрессии – это выбор вида аналитической зависимости . В случае парной регрессии спецификация осуществляется по графическому изображению реальных статистических данных в виде точек в декартовой системе координат, которое называется корреляционным полем (диаграммой рассеивания) (рисунок 1.1).

От правильно выбранной спецификации модели зависит величина случайных ошибок: они тем меньше, чем в большей мере теоретические значения результативного признака подходят к фактическим данным y.

Парная регрессия применяется, если имеется доминирующий фактор, который и используется в качестве объясняющей переменной х.

Простейшей является линейная взаимосвязь между x и y, описываемая линейной функцией регрессии вида .

Для вычисления коэффициентов a, b используется метод наименьших квадратов (МНК), который позво­ляет получить такие оценки параметров а и b, при которых сумма квадратов отклонений фактических значений зависимой переменной у от теоретических минимальна, т. е.

Это означает, что линейная регрессия на диаграмме рассеивания будет проходить «достаточно близко» к точкам (x_i, y_i).

Теснота связи изучаемых явлений оценивается при использовании линейной регрессии с помощью линейного коэффициента корреляции .

Линейный коэффициент корреляции принимает значение в пределах от (–1) до 1, т. е. (–1) < r_ху < 1. Чем ближе кединице, тем связь теснее.Качественная оценка тесноты связи величин x и y может быть выявлена на основе шкалы Чеддока.

Линейный коэффициент корреляциихарактеризует степень тесноты не всякой, а только линейной зависимости. При нелинейной зависимости между явлениями линейный коэффициент корреляции теряет смысл, и для измерения тесноты связи применяют так называемый индекс корреляции .

Для оценки качества подбора линейной регрессии рассчитывается квадрат линейного коэффициента корреляции, называемый коэффициентом детерминации , а для нелинейной регрессии – квадрат индекса корреляции, называемый индексом детерминации .

Коэффициент детерминации характеризует долю дисперсии результативного признака y, объясняемую регрессией, в общей дисперсии результативного признака. Чем больше доля объясненной вариации, тем меньше роль прочих факторов и тем лучше уравнение регрессии описывает исходные данные. Чем ближе R ² к 1, тем лучше модель описывает (аппроксимирует) исходные данные, и, значит, ее можно использовать для оценки качества построенной модели.

Средняя ошибка аппроксимации – среднее отклонение расчётных значений от фактических. Построенное уравнение регрессии считается хорошего качества, если значение не превышает 8–10 % [5, с. 107].

Средний коэффициент эластичности показывает, на сколько процентов в среднем изменится результат у от своей средней величины при изменении фактора х на 1 % от своего среднего значения:

,

где – первая производная уравнения регрессии, характеризующая соотношение приростов результата у и фактора х.

После того, как найдено уравнение линейной регрессии, проводится:

1) оценка значимости уравнения в целом с помощью F -критерия Фишера;

2) оценка значимости коэффициентов регрессии с помощью t -критерия Стьюдента.

F -критерий Фишера дает ответ на вопрос, при каких значениях R ² уравнение регрессии следует считать статистически незначимым, что делает необоснованным его использование. Согласно F -критерию Фишера, выдвигается «нулевая» гипотеза Н ₀остатистической незначимости уравнения регрессии (т. е. о статистически незначимом отличии величины F от нуля). Если расчетное значение F -критерия превышает табличное , т. е. ,то гипотеза Н ₀отклоняется и принимается статистическая значимость и надежность уравнения регрессии. Если , то гипотеза Н ₀не отклоняется и признается статистическая незначимость, ненадежность уравнения регрессии.

Табличное значение F -критерия определяется по таблицам F -критерия Фишера при числе степеней свободы m (m – число параметров при переменных х), (n – число наблюдений) и заданному уровню зна­чимости α.

Уровнем значимостиα в статистических гипотезах называ­ется вероятность отвергнуть верную гипотезу. Уровень значимости α обычно принимает значения 0,05 и 0,01, что соответствует вероятности отвергнуть верную гипотезу 5 и 1 %.

Возможна ситуация, когда часть вычисленных коэффициентов регрессии не обладает необходимой степенью значимости, т. е. значения этих коэффициентов будут меньше их стандартной ошибки. В этом случае такие коэффициенты должны быть исключены из уравнения регрессии. Поэтому проверка адекватности построенного уравнения регрессии, наряду с проверкой значимости коэффициента детерминации R ², включает в себя также и проверку значимости каждого коэффициента регрессии.

Для оценки статистической значимости коэффициентов регрессии применяется t -критерий Стьюдента, согласно которому выдвигается «нулевая» гипотеза Н ₀о статистической незначимости коэффициента уравнения регрессии (т. е. о статистически незначимом отличии a и b от нуля). Эта гипотеза отвергается при выполнении условия , при этом принимается статистическая значимость и надежность проверяемого коэффициента регрессии, т. е. считается, что отличие рассматриваемого коэффициента уравнения регрессии от нуля статистически значимо. Табличное значение t -критерия определяется по таблице t -критерия Стьюдента по числу степеней свободы и заданному уровню значимости α. Расчетные значения -критерия для каждого коэффициента регрессии ( -статистики Стьюдента) представляют собой отношение оценки коэффициента регрессии к его стандартной ошибке.

Стандартные ошибки коэффициентов линейной регрессии позволяют получить представление о точности полученных оценок коэффициентов регрессии и , о том, на­сколько далеко они могут отклониться от истинных значений коэффициентов.

Общая дисперсия результативного признака у отображает влияние как основных, так и остаточных факторов. Остаточная дисперсия результативного признака у отображает влияние только остаточных факторов.

Рассчитанные значения оценок коэффициентов регрессии являются приближенными, полученными на основе имеющихся выборочных данных. Для оценки того, насколько точные значения оценок коэффициентов могут отличаться от рассчитанных, осуществляется построение доверительных интервалов. Доверительные интервалы определяют пределы, в которых лежит точное значение определяемого показателя с заданной вероятностью [1, с. 131].

Доверительные интервалы для оценок коэффициентов линейной регрессии рассчитываются по формулам:

, ,

где , – предельные ошибки, рассчитываемые по формулам

, .

В таблице 1.1 представлены формулы для вычисления основных характеристик линейной и различных нелинейных регрессий.

В MS Excel для построения функции линейной регрессии используются команда «Добавить линию тренда» и инструмент анализа «Регрессия».

Таблица 1.1 – Основные характеристики линейной и различных нелинейных регрессий

Функция у	линейная	логарифмическая	степенная	экспоненциальная
Среднеквадратические ошибки	,
Линейный коэффициент корреляции	, (–1) < rху < 1	–
Индекс корреляции	–	,
Коэффициент детерминации	,	–
Индекс детерминации	–	,
Табличное значение F -критерия	( – число параметров при переменных х), , α = 0,05
Расчетное значение F -критерия
Средняя ошибка аппроксимации	, приемлемое значение – 8–10 %
Коэффициент эластичности
Общая дисперсия признака у
Остаточная дисперсия признака у
Стандартная ошибка коэффициента а
Стандартная ошибка коэффициента b
Расчетные значения -критерия для коэффициентов	a
b
Табличное значение критерия Стьюдента	, α = 0,05

Для построения функций линейной и нелинейной регрессий используется команда «Добавить линию тренда». На рабочий лист MS Excel вводятся исходные данные, после чего строится точечная диаграмма, представляющая собой поле корреляции (диаграмму рассеивания). Если щелкнуть правой кнопкой мыши на любой точке данных и в контекстном меню выбрать команду «Добавить линию тренда…», то появится диалоговое окно. В диалоговом окне на вкладке «Тип» необходимо щелкнуть по пиктограмме, например, «Линейная».

Далее необходимо открыть вкладку «Параметры» и в области «Название аппроксимирующей (сглаженной) кривой» выбрать опцию «автоматическое:». Следует убедиться, что опция «пересечение кривой с осью Y в точке:» не отмечена. Далее следует включить опции «показывать уравнение на диаграмме» и «поместить на диаграмму величину достоверности аппроксимации (R^2)» и щелкнуть на кнопке ОК. После этого необходимо выделить текст с уравнением регрессии и значением R ² и перетащить на свободное место диаграммы.

Построить линейное уравнение регрессии и выполнить расчет его характеристик можно с помощью режима Регрессия модуля Анализ данных

надстройки «Пакет анализа» процессора MS Excel следующим образом:

1) проверить доступ к пакету анализа. В главном меню выбирается Сервис/Надстройки и устанавливается флажок Пакет анализа;

2) в главном меню выбрать Сервис/Анализ данных/Регрессия;

3) заполнить диалоговое окно ввода данных и параметров вывода (рисунок 1.2).

В диалоговом окне режима Регрессия (см. рисунок 1.2) задаются следующие параметры.

Входные данные:

– Входной интервал Y – вводится диапазон адресов ячеек, содержащих значения у_i (ячейки должны составлять один столбец);

– Входной интервал X – вводится диапазон адресов ячеек, содержащих значения независимых переменных. Значения каждой переменной представляются одним столбцом. Количество переменных – не более 16;

– Метки – флажок включается, если первая строка во входном диапазоне содержит заголовок. В этом случае автоматически будут созданы стандартные названия;

– константа-ноль – при включении этого параметра коэффициент а = 0;

– уровень надежности. Данный флажок устанавливается в активное состояние, если в поле, расположенное напротив флажка, необходимо ввести уровень надежности, отличный от уровня 95 %, применяемого по умолчанию. Принятый уровень надежности используется для проверки значимости коэффициента детерминации R ²и коэффициентов регрессии .

Параметры вывода:

– Выходной интервал – при включении активизируется поле, в которое необходимо ввести адрес левой верхней ячейки выходного диапазона, который содержит ячейки с результатами вычислений режима Регрессия;

– Новый рабочий лист – при включении этого параметра открывается новый лист, в который, начиная с ячейки А1, вставляются результаты работы режима Регрессия;

– Новая рабочая книга – при включении этого параметра открывается новая книга, на первом листе которой, начиная с ячейки А1, вставляются результаты работы режима Регрессия.

остатки:

– остатки – при включении вычисляется столбец, содержащий невязки , ;

– стандартизованные остатки – при включении вычисляется столбец, содержащий стандартизованные остатки;

– график остатков – при включении выводятся точечные графики невязки , в зависимости от значений переменных . Количество графиков равно числу m переменных .

Далее рассмотрены показатели, объединенные названием Регрессионная статистика (см. ВЫВОД ИТОГОВ к примеру расчета) (рисунок 1.3).

Множественный R – коэффициент корреляции .

R-квадрат – коэффициент детерминации R ².

Нормированный R-квадрат – приведенный коэффициент детерминации R ².

Стандартная ошибка – оценка s для среднеквадратического отклонения.

Наблюдения – число наблюдений п.

Далее рассмотрены показатели, объединенные названием Дисперсионный анализ (см. ВЫВОД ИТОГОВ к примеру расчета) (см. рисунок 1.3).

Столбец df – это число степеней свободы, которое для строки Регрессия определяется числом параметров при переменных х в уравнении регрессии и равно т. Для строки Остаток число степеней свободы определяется числом наблюдений n и количеством переменных в уравнении регрессии т + 1: . Для строки Итого число степеней свободы определяется суммой чисел и .

Столбец SS – сумма квадратов отклонений. Для строки Регрессия – это сумма квадратов отклонений теоретических данных от среднего. Для строки Остаток – это сумма квадратов отклонений экспериментальных данных от теоретических. Для строки Итого – это сумма квадратов отклонений экспериментальных данных от среднего.

Столбец MS – дисперсии. Для строки Регрессия – факторная дисперсия, для строки Остаток – остаточная дисперсия.

Столбец F – расчетное значение F -критерия Фишера .

Столбец Значимость F – значение уровня значимости, соответствующее вычисленному значению . Определяется с помощью функции = FРАСП(F _p; df (регрессия); df (остаток)). Если значимость F меньше уровня значимости α (обычно α = 0,05), то построенная регрессия яв­ляется значимой.

Столбец Коэффициенты – значения коэффи­циентов a, b.

Столбец Стандартная ошибка – значения .

t-статистика – расчетные значения t -критерия.

Р-значение – значения уровней значимости, соответствующие вычисленным значениям t_р. Определяются с помощью функции = СТЬЮДРАСП(t_р; n–m– 1). Если Р-значение меньше уровня значимости α, то принимается гипотеза о значимости соответствующего коэффициента регрессии.

Нижние 95 % и Верхние 95 % – соответственно нижние и верхние границы доверительных интервалов для коэффициентов регрессии.

Далее рассмотрены показатели, объединенные названием Вывод остатка (см. ВЫВОД ИТОГОВ к примеру расчета) (см. рисунок 1.3).

Столбец «Наблюдение» содержит номера наблюдений.

Столбец «Предсказанное y» содержит значения , вычисленные по построенному уравнению регрессии.

Столбец «Остатки» содержит значения невязок , которые вычисляются как разность между эмпирическими у и теоретическими значениями результативного признака y.

Пример – Зависимость доли расходов у на товары длительного пользования в общих расходах семьи в процентах от среднемесячных доходов х семьи (млн р.) представлена полем корреляций на рисунке 1.1, а [5, с. 85]. Построить уравнения линейной и логарифмической регрессий и выбрать регрессию, наилучшим образом описывающую исходные данные.

На основе рисунка 1.1, а можно выдвинуть гипотезу о том, что наилучшим образом описывать исходные данные будет, скорее всего, логарифмическая функция. Проверим это утверждение.

С помощью команды «Добавить линию тренда» на рисунке 1.1, б построены линии линейного и логарифмического трендов. Параметры полученных уравнений регрессий представлены в таблице 1.2.

По формулам, представленным в таблице 1.1, рассчитаны основные характеристики построенных регрессий. Результаты расчетов представлены таблицами 1.3 и 1.4.

Результаты построения линейного уравнения регрессии и расчета его характеристик с помощью режима Регрессия модуля Анализ данных надстройки «Пакет анализа» представлены на рисунках 1.3 и 1.4.

Сравнение результатов, полученных с помощью расчетных формул, с результатами применения инструментальных средств Excel показывает их близость, что свидетельствует о правильном понимании методики построения линейных регрессионных уравнений и оценки их качества.

а) б)

а – пары чисел , которые представляют собой поле корреляции; б – графики линейной (1) и логарифмической (2) регрессий

Рисунок 1.1 – Графики поля корреляций, линейной и логарифмической регрессий

Таблица 1.2 – Уравнения линейной и логарифмической регрессий

Функция	линейная	логарифмическая
a	9,28	9,8759
b	1,7771	5,1289
Уравнение регрессии

Далее необходимо выбрать регрессию, наилучшим образом описывающую исходные данные.

Из расчетов видно, что наименьшая остаточная дисперсия – в логарифмической функции ( 0,0811).

Индекс корреляции = 0,9916 превышает значение линейного коэффициента корреляции = 0,9742. При этом 97 % вариации результативного признака y логарифмической регрессии объясняется вариацией фактора х, а 3 % приходится на долю прочих факторов.

Наименьшая средняя ошибка аппроксимации , задающая среднее отклонение расчетных значений от фактических, содержится в логарифмической регрессии: = 1,3 (что не выходит за пределы интервала в 8–10 %).

Таким образом, наилучшим образом описывать исходные данные будет логарифмическая регрессия, что подтверждается значениями , , .

Таблица 1.3 – Исходные данные к расчетам

Номер наблюдения i	х	y		xy		линейная			логарифми-ческая
						11,0571	1,1175	10,5710	9,8759	0,0154	1,2410
		13,4		26,8	179,56	12,8342	0,3201	4,2224	13,4310	0,0010	0,2312
		15,4		46,2	237,16	14,6113	0,6220	5,1214	15,5106	0,0122	0,7180
		16,5			272,25	16,3884	0,0125	0,6764	16,9861	0,2363	2,9458
		18,6			345,96	18,1655	0,1888	2,3360	18,1305	0,2204	2,5239
		19,1		114,6	364,81	19,9426	0,7100	4,4115	19,0657	0,0012	0,1798
Среднее значение	3,5	15,5	15,1667	59,4333	249,9567	–	–	4,5565	–	–	1,3066

Таблица 1.4 – Результаты расчетов

Функция	линейная	логарифмическая
Среднеквадратическая ошибка
Среднеквадратическая ошибка
Линейный коэффициент корреляции		–
Индекс корреляции	–
Коэффициент детерминации		–
Индекс детерминации	–
Табличное значение F -критерия	, , α = 0,05, = 7,71
Окончание таблицы 1.4
Функция	линейная	логарифмическая
Расчетное значение F -критерия
Средняя ошибка аппроксимации	=4,5565	=1,3066
Коэффициент эластичности
Общая дисперсия признака у
Остаточная дисперсия признака у		=0,0811
Стандартная ошибка коэффициента а
Стандартная ошибка коэффициента b
Расчетные значения -критерия для каждого коэффициента регрессии	a
b
Табличное значение критерия Стьюдента	, α = 0,05, = 2,132

Рисунок 1.2 – Диалоговое окно режима Регрессия

Рисунок 1.3 – Вывод итогов к расчету