Определение коэффициентов множественной линейной регрессии

Пусть имеется выборка, состоящая из n наблюдении зависимой и объясняющих переменных у_i, х_i1, х_i2, х_in, i=1,2,…,n, для которых уравнение регрессии запишется в виде системы уравнений

. (5.2)

Определим векторы-столбцы и матрицу:

, , ,

Столбец у и матрица х содержат данные выборки. В столбце b записаны неизвестные коэффициенты, которые следует оценить по имеющейся выборке, e- столбец случайных членов, которые ненаблюдаемые.

Используя эти обозначения, систему уравнений (5.2) можно записать в компактной матричной форме:

(5.3)

В модели множественной линейной регрессии метод наименьших квадратов представляет собой обобщение МНК для парной линейной регрессии. Оцененное уравнение множественной линейной регрессии

(5.4)

Запишем для всех наблюдений: ,.

Их также можно записать в матричной форме:

. (5.5)

где столбцы , .

Определим столбец отклонений фактических значений у зависимой переменной у от ее значений , вычисленных по оцененному уравнению регрессии (5.4):

, .

Метод наименьших квадратов заключается в определении коэффициентов оцененного уравнения (5.4) из условия минимума суммы квадратов отклонений: .

Пример 5.1

В 2001 г. европейское мясное лобби размышляет на тему, стоит ли оказать давление на правительства стран – членов ЕС, чтобы новые слу­чаи заболевания губчатой энцефалопатией и болезнью Кройцфельда-Якоба не становились достоянием гласности. Безусловно, такое давление будет стоить недешево, и поэтому необходимо предварительно оценить полезность подобных действий. Оценивается зависимость у_t, (доли вегета­рианцев среди населения t -й страны ЕС) от x _{1 t} (числа ставших известны­ми случаев инфицирования коров губчатой энцефалопатией) и x _{2 t} (числа ставших известными случаев заболевания людей болезнью Кройцфельда-Якоба). Исследование проводится для T =15 стран.

Результаты оценивания по МНК (в скобках даны стандартные отклонения оценок коэффициентов):

у_t = 0,21 + 0,0030 x _{1 t} + 0,0092 x _{2 t} + e_t.

(0,045) (0,0016) (0,0050)

Т р е б у е т с я:

1) Проверить статистическую значимость коэффициентов уравнения при a = 0,05;

2) Определить, является ли константа значимо меньше 0,31;

3) Проверить совместную статистическую значимость переменных x ₁ и
x ₂, если сумма квадратов ошибок составляет 0,0084, а дисперсия наблюдаемой переменной у – 0,0011.

Решение

1. Для проверки статистической значимости коэффициентов модели рассчитываются значения критерия Стьюдента по следующей формуле:

.

; ; .

Табличное значение критерия Стьюдента для доверительной вероятности 95% и числа степеней свободы =15-2-1=12 равно 2.179.

Поскольку , коэффициент является статистически значимым. и , следовательно, коэффициенты и статистически незначимы.

2.Тестируется нулевая гипотеза : >0.31. Рассчитаем:

.

Поскольку , нулевая гипотеза отклоняется, т.е. коэффициент является статистически значимо меньше, чем 0.31.

1.Рассчитаем коэффициент множественной детерминации по следующей формуле:

.

Определим теперь значение критерия Фишера.

табличное значение критерия Фишера для доверительной вероятности 95% и числа степеней свободы , равно 3.89. Так как F >F*, уравнение в целом статистически значимо.

Задание 5.1. Торговое предприятие имеет сеть, состоящую из 12 магазинов, информация о деятельности которых представлена в таблице 5.1.

Таблица 5.1

Номер ма­газина	Годовой товарооборот, млн. руб.	Торговая площадь, тыс. м2	Среднее число посе­тителей в день, тыс.чел.
	19,76	0,24	8,25
	38,09	0,31	10,24
	40,95	0,55	9,31
	41,08	0,48	11,01
	56,29	0,78	8,54
	68,51	0,98	7,51
	75,01	0,94	12,36
	89,05	1,21	10,81
	91,13	1,29	9,89
	91,26	1,12	13,72
	99,84	1,29	12,27
	108,55	1,49	13,92

Требуется построить диаграммы рассеяния годового товарооборота (у)в зависимости от торговой площади (x ₁) и среднего числа посетителей в день (x ₂) и определить форму связи между результирующим показателем (у)и каждым из факторов (x ₁ и x ₂).

Задание 5.2. На основании информации, приведенной в таблице 5.1 построено двухфакторное уравнение годового товарооборота в зависимости от торговой площади магазина () и среднего числа посетителей в день (), которое выглядит следующим образом:

Т р е б у е т с я:

1) Дать экономическую интерпретацию коэффициентов уравнений регрессии.

2) На основании данных таблицы 5.1 рассчитать эмпирические коэффициенты эластичности годового товарооборота от торговой площади и от среднего числа посетителей.

3) На основании уравнений регрессии оценить частные коэффициенты эластичности годового товарооборота от торговой площади и от среднего числа посетителей.

Задание 5.3. Бюджетное обследование пяти случайно выбранных семей дали следующие результаты (млн.тенге)

семья	Накопления s	Доход у	Имущество w
	3,5
	1,5
Сумма
Средние	3,8		47,4

Требуется:

a) оценить регрессию s на y и w;

б)спрогнозируйте накопление семьи, имеющей доход 40млн.т и имущество стоимостью 25 млн.т.;

в)предполагая, что доход семьи возрос на 10млн.т., в то время как стоимость имущества не изменилась. Оцените, как возрастут ее накопления;

г) оцените как возрастут накопление семьи, если ее доход вырос на 5млн.т., а стоимость имущества увеличилась на 15млн.т.;

д) найдите сумму квадратов остатков и постройте дисперсии регрессии.

Задание 5.4. В следующей таблице приведены данные о ВВП, инвестициях и потреблении в млрд. долл. в некоторой стране за 5 лет. Сформулируйте модель множественной линейной регрессии зависимости ВВП от инвестиций и потребителя с постоянным членом и без него. Для обоих случаев составьте матрицу значений объясняющих переменных х и вектор значений зависимой переменной у. Оцените модели по методу наименьших квадратов.

ВВП
Инвестиции
Потребление

Задание 5.5. По данным предыдущей задачи вычислите стандартные ошибки коэффициентов уравнения регрессии и проверьте гипотезы о значимости коэффициентов.

Задание 5.6 По данным задачи 5.4 сделайте прогноз ВВП, постройте 95-процентный доверительный интервал для ожидаемого и индивидуального значений ВВП, если предполагается, что в следующем году инвестиции будут равны 5 млрд. долл., а потребление равно 9 млрд. долл.

Задание 5.7. Изменение спроса на некоторое благо (у) у домашних хозяйств определенной структуры можно объяснить с помощью цены этого блага (x1) и дохода домохозяйства (х2). Соответствующая информация представлена в таблице 5.2.

Таблица 5.2

yt	31,4	30,4	32,1	31,0	30,5	29,8	31,1	31,7	30,7	29,7
x 1 t	4,1	4,2	4,0	4,6	4,0	5,0	3,9	4,4	4,5	4,8
x 2 t

Т р е б у е т с я:

1)Оценить с помощью МНК параметры линейного двухфакторного уравнения у_t = a₀ + a₁ x _{1 t} + a₂ x ₂ + e _t и интерпретировать оценки;

2) Оценить дисперсию ошибки ;

3) Рассчитать оценку математического ожидания при x ₁ = 5,5 и х ₂=980.

Задание 5.8. Изменение спроса на некоторое благо (у) у домашних хозяйств определенной структуры можно объяснить с помощью цены этого блага (х1) и дохода домохозяйства (х2). Соответствующая информация представлена в таблице 5.2. (см. задание 5.7).

Т р е б у е т с я:

Построить однофакторные уравнения спроса у от цены (х ₁) иот дохода (х ₂). Оценить с помощью МНК параметры этих уравнений;