Развитие методов регрессионного анализа

До сих пор математическая модель изучаемого явления рассматривалась как линейная регрессионная функция вида:

где y – скалярная выходная величина;

‑ точка факторного пространства, координатами которой являются входные величины (факторы, контролируемые переменные, x _i)

‑ вектор параметров (неизвестных)

‑ вектор базовых функций (заранее заданных)

‑ математическое ожидание случайной (из-за наличия помех при измерениях) величины y в заданной точке факторного пространства . Пусть в процессе проведения эксперимента выполнено N измерений выходной величины y в точках факторного пространства.

Описание эксперимента можно представить в виде линейной модели наблюдений:

где ‑ вектор измеренных значений выходной величины

‑ вектор ошибок измерений

‑ матрица линейной модели

Т.к. y – случайная величина, то точное значение найти не можем, поэтому должны использовать его оценку.

Для определения по результатам эксперимента вектора параметров применяется метод наименьших квадратов (МНК).

МНК – оценка минимизирует ‑ сумму взвешанных квадратичных отклонений:

‑ учитывает неравноточность измерений.

МНК – оценка неизвестного вектора определяется соотношением:

М₁ – информационная матрица Фишера – не зависит от результатов измерений, а зависит лишь от расположения , т.е. от плана эксперимента. Элементы М₁ .

‑ обратная матрица, такая, что , где I – единичная матрица, элементы которой

здесь A_ji – минор матрицы М₁,

‑ определитель матрицы М₁.

‑ рассматривается случай равноточных – с одинаковой дисперсией – измерений величины y в разных точках .

Обратим ещё раз внимание, что рассмотренный выше случай относится к случаю одной выходной величины.

Перейдём к некоторым обобщениям регрессионного подхода.

Векторная функция регрессии

Пусть выходной величиной изучаемого объекта (явления) является вектор нескольких измеряемых величин (верхнее и нижнее управление)

Математическая модель явления имеет вид:

, где ,

Таким образом имеется n неизвестных векторных параметров . Все выходные величины y_ij зависят от одного и того же вектора факторного пространства. В системе (1) каждое из уравнений можно рассматривать независимо от другого и применять к каждому из них МНК в описанной выше постановке.