Результатов наблюдений

Пусть в процессе проведения эксперимента измерения проведены в точках факторного пространства и точке соответствует измеренное значение величины y_i. Каждое измеренное значение есть случайная величина с дисперсией . Задачей регрессионного анализа является нахождение таких оценок неизвестных коэффициентов , которые лучше описывали бы выходную величину и удовлетворяли бы выбранному критерию оптимизации, который является показателями качества.

Наиболее распространенным является следующий показатель качества:

- коэффициент, который учитывает неравноточность измерений.

- сумма взвешенных квадратичных отклонений. Она характеризует суммарное отклонение измеренных в разных точках пространства значений от вычисленных значений выходной величины.

Вторая степень каждой из скобок исключает возможность взаимной компенсации положительных и отрицательных отклонений.

Чем точнее проведено измерение, (т.е. чем меньше), тем точнее следует приближать с помощью регрессионной модели к истинному значению. Погрешность измерения должна быть соизмерима с погрешностью приближения.

Чем больше значение т.е. чем менее точные измерения, тем меньше должна быть точность приближения с помощью регрессионной модели.

Необходимо найти такие оценки коэффициентов модели , которые доставят функции .

Найдём выражение для

Дифференцируя по элементам вектора и приравнивая производные к нулю:

получим:

Матрица - информационная матрица Фишера, она зависит только от точек факторного пространства.

Решение этого уравнения и есть значение искомых оценок коэффициента регрессионной модели .

.

Оценки получены методом наименьших квадратов. Поэтому оценки часто называют МНК - оценкой.

Элемент матрицы М - m_sr, находящийся на пересечении s-ой строки и r-го столбца:

Элемент вектора определяется:

Замечания:

1. Матрица М является симметричной матрицей и поэтому можно ограничится вычислениями только элементов m_sr, лежащих на главной диагонали и над ней. Докажем симметричность матрицы М.

Матрица симметрична, если М^Т=М

M^T=(Z^TWZ)^T=(WZ)^T(Z^T)^T=Z^TW^TZ=Z^TWZ=M

2. Вводя, в случае необходимости, новые факторы x_j, линейную регрессионную модель всегда можно представить в виде:

(***)

Например, пусть исходная регрессионная модель имеет вид:

Здесь u_i –факторы, ψ_i-параметры исходной модели. Мы не можем представить эту модель в форме (***), т.к. нет члена .

Полагая х₁=1 θ₁=ψ₀

х₂=u₁ θ₂=ψ₁

х₃=u₁² θ₃=ψ₂

х₄=u₃ θ₄=ψ₃

х₅=sin u₂ θ₅=ψ₄

получаем регрессионную модель:

3. Различные факторы x_j могут принимать сильно отличающиеся друг от друга значения (на несколько порядков). Это затрудняет вычислительную процедуру определения МНК-оценок коэффициентов регрессионной модели. Поэтому предварительно перед вычислением целесообразно путем замены переменных «нормировать» исходные экспериментальные данные.

Пусть исходный фактор q_j изменяется в пределах:

Тогда, вводя новую переменную:

Получим, что переменная изменяется в пределах:

Покажем это на минимальной точке:

Относительно таких «нормированных» переменных и следует составлять регрессионную модель. После определения МНК-оценок коэффициентов регрессионной модели нужно вернуться к исходной переменной.

Показатель точности определения параметров поверхности отклика – функцию S(θ) можно записать в более компактной векторно-матричной форме:

где ‑ весовые коэффициенты.

Если подставить в это выражение вместо найденные значения МНК-оценок , то получаем минимальное значение показателя качества:

В случае равноточных измерений получаем:

где -остаточная сумма.

Она характеризует суммарную точность приближения экспериментальных данных с помощью принятой нами математической модели.

Выражение для R₀² будет использоваться при проверке гипотез о параметрах поверхности отклика.