Многофакторный регрессионный анализ

Регрессионный анализ объединяет широкий круг задач, связанный с построением функциональных зависимостей между двумя группами числовых переменных: и . Для краткости объединим в многомерную переменную , - в переменную , и будем говорить об исследовании зависимости между и . При этом будем считать независимой переменной, влияющей на значения . В связи с этим будем называть откликом, а =() – факторами, влияющими на отклик.

Многомерная линейная регрессия позволяет построить и проверить модель линейной связи между одной зависимой (эндогенной) и несколькими независимыми (экзогенными) переменными.

Уравнение множественной регрессии (то есть регрессии с двумя и более переменными) имеет вид:

, где - зависимая переменная, - независимая переменная, - коэффициенты регрессионного уравнения, - ошибка с нормальным законом распределения, средним равным нулю и стандартным отклонением s. Матричная запись модели имеет вид:

, где - вектор-столбец значений зависимой переменной, - детерминированная матрица объясняющих переменных (регрессоров), - вектор столбец параметров модели, - вектор столбец ошибок.

Статистический подход к задаче построения функциональной зависимости от основывается на предположении, что нам известны некоторые исходные (экспериментальные) данные (), где - значение отклика при заданном значении фактора , изменяется от 1 до n. Пару значений () часто называют результатом одного измерения, а n – числом измерений.

Для оценки коэффициентов регрессионного уравнения будем использовать метод наименьших квадратов (МНК).

МНК минимизирует сумму квадратов ошибок (остатков):

, где - оцененное значение.

Вектор оценок параметров модели в матричной форме имеет вид:

.