База данных по четырем филиалам одной фирмы

№	X	У
		?

где № — номер филиала фирмы;

X — количество продавцов (чел.);

У — величина розничного товарооборота (тыс. руб.).

Необходимо оценить параметры α₀, α₁ линейной модели

с помощью вычисления коэффициентов a₀ и a₁ парной линей­ной регрессии по выборочным данным У и X:

.

Решение. Необходимо определить такие значения ко­эффициентов a₀ и a₁, при которых сумма квадратов остатков регрессионной модели

будут минимальными.

Представим уравнение в развернутом виде:

4 = 1а₀ + 1а₁ + е₁;

6 = 1а₀ + 3а₁ + е₂;

7 = 1а₀ + 2а₁ + е₃;

10 = 1а₀ + 4а₁ + е₄.

Представим полученную систему уравнений в матрич­ном виде:

У= ХА + е,

где У = , X = , A = , e = .

Метод наименьших квадратов заключается в том, что он позволяет определить такие значения коэффициентов а₀ и а₁, при которых сумма квадратов остатков будет минимальной:

е'е min, где е= У - ХА.

е'е= (У - ХА)'(У - ХА)= (У' - А'Х')(У - ХА) = У'У - А'Х'У - У'ХА + А'Х'ХА =

= У'У - 2А'Х'У + А'Х'ХА (3.1)

Так как У'ХА величина скалярная, то она не меняется при транспонировании, т. е.

У'ХА = (У'ХА)' = А'Х'У.

Примечание. Свойства операций транспонирования.

А, В, С — матрицы;

(А)' = А;

(А+В)' = А' + В';

(АВ)' = В'А';

(ABC)' = С'B'А'.

Возьмем первую частную производную от е'е по пере­менной А, приравняем ее к нулю и определим оценки пара­метров модели, при которых е'е будет иметь наименьшее значение.

.

Примечание. Для вектора частных производных справедливы сле­дующие формулы:

где В, С — вектор-столбцы, D — симметрическая матрица.

Доказательство см. [5, с. 84].

Полагая, что А и Х'У векторы-столбцы, найдем

.

Полагая, что Х'Х — симметрическая матрица, А — вектор-стол­бец, найдем

.

После несложных преобразований можно получить не­сколько выражений.

Х'ХА = Х'У — система нормальных уравнений, пред­ставленная в матричном виде.

А = (Х'Х)^-1Х'У — расчетная формула коэффициентов линейной модели или оценка параметров модели для гене­ральной совокупности. Данная формула позволяет рассчиты­вать коэффициенты многофакторной линейной модели для любого количества факторов.

(Х'Х)^-1 — обратная матрица, полученная от матрицы Х'Х, является матрицей ошибок оценок параметров модели.

X' — транспонированная матрица, полученная от матри­цы X.

Расчетную формулу коэффициентов модели следует за­помнить, так как она будет применяться на протяжении все­го курса эконометрики.

Можно расчетные формулы коэффициентов уравнения регрессии представить в развернутом виде.

Необходимо оценить параметры α₀, α₁ линейной модели

, с помощью вычисления коэффициентов а₀ и а₁ парной линей­ной регрессии:

, при условии, что ∑e_i² → min,

где

Возьмем от выражения ∑e_i² первую производную по а₀, затем по а₁, приравняем их к нулю и получим систему нор­мальных уравнений:

После несложных преобразований получаем систему нор­мальных уравнений в развернутом виде:

Систему нормальных уравнений в развернутом виде мож­но получить другим способом, если выполнить матричные операции системы нормальных уравнений, записанных в мат­ричном виде:

Х'ХА= Х'У.

Решим систему нормальных уравнений, представленной в развернутом виде:

Из первого уравнения определим а₀

.

Найденное значение а₀ подставим во второе уравнение и произведем преобразования:

.

Так как

.

Представим формулы расчета коэффициентов а₁ а₀ в раз­вернутом виде:

,

,

где , — средние значения переменных X и У.

Знак коэффициента а₁ зависит от числителя . Если величины X_i и У_i изменяются синхронно и в одной фазе, то числитель будет иметь большое положитель­ное значение. Если X_i и У_i будут изменяться синхронно и в противофазе, то числитель будет иметь большое отрицатель­ное значение. Если X_i и У_i будут изменяться случайным об­разом, то числитель будет равен нулю и а₁ = 0, а перемен­ные X и У не будут иметь линейной связи.

Примечание. Большинство учебных пособий по регрессионному анализу предлагают проводить расчеты коэффициента a₁ по формуле

,

позволяющей проще выполнять расчеты на калькуляторе. Если числа X и У имеют много разрядов и объем выборки достаточно большой, то числитель и знаменатель могут иметь большие ошибки округлений, так как значения числителя и знаменателя являются разностью между накопленными суммами и если эти суммы превышают разрядность ЭВМ, то ошибки округления будут неизбежны. Много лет назад при выпол­нении расчетов парного коэффициента корреляции по аналогичной упрощенной формуле на ЭВМ "Проминь2", у нас один раз получился коэффициент корреляции больше 1, именно из-за ошибки округления больших накопленных сумм. С тех пор нигде и никогда не пользуюсь этими упрощенными формулами.

Идентифицируемость модели. Идентифицируемость модели — возможность вычисления коэффициентов регрессионной модели методом наименьших квадратов.

Метод наименьших квадратов применим к линейной ад­дитивной функции:

Известны некоторые регрессионные модели, коэффици­енты которых непосредственно нельзя вычислить методом наименьших квадратов, но их можно привести к линейному аддитивному виду, как правило, логарифмированием пере­менных. Но есть такие модели, которые нельзя привести к аддитивному виду и для них используются приближенные итерактивные методы вычисления коэффициентов модели.

Например, в степенной функции коэффи­циент a₁ является степенью фактора X, следовательно, она не является линейной относительно коэффициентов. Степен­ная функция приводится к линейному виду (с помощью про­цесса линеаризации) путем логарифмирования левой и пра­вой частей уравнения.

В эконометрике понятие идентифицируемости модели распространяется на возможность вычисления коэффициен­тов структурной системы одновременных уравнений по ко­эффициентам приведенной системы одновременных уравне­ний. Для этого случая вводятся понятия строгой идентифи­цируемости, недостаточной идентифицируемости и сверхи­дентифицируемости, которые будут изучаться позже.

Коэффициенты регрессионной модели нельзя вычислить методом наименьших квадратов, если факторы тесно связа­ны между собой.

Расчет коэффициентов модели теряет смысл, если объем выборки равен или меньше количества коэффициентов в мо­дели.