Методы оценки параметров, основанные на линейной аппроксимации модели

В основе этой группы методов лежит идея представления нелинейного функционала эконометрической модели f (a, x) в произвольной точке a ⁽⁰⁾ в виде линейной аппроксимирующей функции, например, ряда Тейлора. Это даст возможность определить в некотором смысле оптимальные приросты оценок параметров D a_i ⁽¹⁾, минимизирующие функцию суммы квадратов ошибки S ² (выражение (11.7)) в окрестности точки a ⁽⁰⁾. При этом, поскольку ряд Тейлора не является точной аппроксимацией функционала модели f (a, x), то новые значения оценок ее параметров, определяемые по очевидной формуле a_i ⁽¹⁾= a_i ⁽⁰⁾+D a_i ⁽¹⁾, i =0,1,..., п, могут не совпасть с наилучшими оценками. В таком случае необходимо аппроксимировать модель в точке a ⁽¹⁾ и определить новые приросты параметров D a_i ⁽²⁾ и соответствующие им оценки a_i ⁽²⁾ и т. д. Таким образом, формируется итеративная процедура последовательного приближения к искомым “оптимальным” оценкам a_i, которым соответствует локальный оптимум суммы квадратов ошибки в некоторой области существования значений параметров модели.

Нахождение оценок параметров модели, соответствующих глобальному минимуму, может быть осуществлено с использование такого же подхода, как и в методе прямого поиска, т. е. путем перебора различающихся вариантов исходных оценок параметров a_i ⁽⁰⁾, выбираемых из различных участков допустимой области их существования.

В практике оценивания параметров нелинейных эконометрических моделей наибольшее распространение получил метод, известный в научной литературе как метод Гаусса-Зайделя. Для него характерны следующие этапы расчетов.

1. Нелинейный функционал f_t (a, x) в момент времени t и в точке оценок параметров a ⁰ в соответствии с аппроксимирующей функцией Тейлора представляется в следующем виде:

где f_t ⁰= f_t (a ⁰, x) – значение функционала в начальной точке оценок параметров a ⁰=(a ₀⁰ , a ₁⁰ ,..., a_п ⁰); – расчетное значение производной функционала модели по параметру a _i в точке a_i ⁰.

На практике значения этих производных определяются на основе частных разностей:

где Ja_i ⁰ – малое приращение оценки параметра a_i ⁰.

Таким образом, значения функции f_t ⁰ и ее производных в точке значений параметров a_i ⁰ являются известными.

Подставим выражение (11.17) в формулу (11.12). Получим

где D a_i ⁽¹⁾= a_i ⁽¹⁾– a_i ⁽⁰⁾; a_i ⁽¹⁾ – оценка параметра a_i на первом шаге расчетов.

2. Расчетные значения оценок a_i ⁽¹⁾, i =0,1,..., п можно получить, приравняв нулю первые производные функции S ² по приростам D a_i. В результате получим систему уравнений, аналогичных нормальным уравнениям классического метода наименьших квадратов:

Обозначив у_t – f_t ⁰= g_t ⁰, сформируем вектор-столбец g ⁰=(g ₁⁰,..., g_Е ⁰)¢ с Т компонентами. Из производных сформируем матрицу следующего вида:

размера T ´(п +1).

Из приростов D a_i ⁽¹⁾ сформируем вектор-столбец D a ⁽¹⁾=(D a ₀⁽¹⁾,..., D a_п ⁽¹⁾)¢.

Несложно заметить, что с учетом этих обозначений систему (11.20) можно представить в следующем виде:

Из (11.22), в сою очередь, вытекает, что оценки приростов параметров D a ⁽¹⁾ на первом шаге расчетов находятся из векторно-матричного выражения, имеющего характерный вид:

3. Определив на основе полученных приростов D a _i ⁽¹⁾, i =0,1,..., п оценки параметров эконометрической модели a_i ¹= a_i ⁰+D a_i ¹, проделаем ту же процедуру расчетов для получения новых приближений этих оценок. Заметим, что различные модификации метода Гаусса-Зайделя допускают расчет новых значений оценок на основе следующего выражения:

a_i ^(j)= a_i ^{(j –1)}+ h_i ^(j)×D a_i ^(j), (11.24)

где h_i ^(j) – так называемый “ускоряющий” множитель, вводимый для сокращения числа шагов при поиске минимума функции S ² по параметрам эконометрической модели.

Его значение выбирается с учетом величины угла наклона функции S ² в точке a_i^j. В области минимума функции S ²(a _i) длину шага уменьшают, чтобы получить “наилучшую” оценку параметров.