Корреляционных и регрессивный анализ

Корреляционный анализ используется для определения связи между двумя и более случайными величинами, наблюдаемыми при моделировании. Фактически он сводится к оценке разброса первой случайной величины х относительно среднего значения второй случайной величины ŷ. Существование этих связей можно выразить с помощью коэффициента корреляции:

Где | r_xe |≤ 1 – коэффициент корреляции (безразмерная величина).

При r = 0 считается, что статистически два процесса независимы (рис. а). При |r|=1 считается, что статистически два процесса полностью зависимы - линейная зависимость для рис. б), причем если r >0, то говорят о положительной корреляции, т.е. большие значения одной случайной величины соответствуют большим значениям другой. Случай 0<r<1 соответствует либо наличию линейной корреляции с рассеянием (рис. в), либо наличию нелинейной корреляции результатов (рис. г).

При анализе важно отметить, что даже если удалось установить тесную связь между двумя переменными, то отсюда еще не следует их взаимообусловленность. При статистическом моделировании наличие такой связи может иметь место, например, из-за коррелированности последовательностей псевдослучайных чисел.

Регрессионный анализ дает возможность построить модель, наилучшим образом соответствующую набору данных, полученных в ходе машинного эксперимента. В регрессионном анализе минимизируется функция ошибки, являющаяся разностью между моделью и данными эксперимента, а в качестве такой функции берется сумма квадратов ошибок.

- Рассмотрим особенностирегрессионного анализа результатов моделирования при построении линейной модели. На рис. показаны точки полученные в

эксперименте с моделью.

- Далее предполагается, что модель может быть описана линейным уравнением в виде прямой линии ŷ = f (x) = b0 + b1 * x, где ŷ - величина, получаемая по регрессионной модели.

- Требуется получить такие значения коэффициентов b0 и b1, при которых сумма квадратов ошибок является минимальной. Ошибки ei для каждой экспериментальной точки определяются как расстояние по вертикали от точки до линии регрессии ŷ = f (x).

- Выражение для ошибок ei = ŷ1– y1 = b0 + b1 * x 1 - yI, а функция ошибки

F0 = ∑ (b0 + b1 * x 1 - yI)². Для нахождения b0 и b1, при которых F0 является минимальной, применяют методы минимизации, например метод наименьших квадратов. Условия: ∂F0 /∂ b0 = 0; ∂F0 /∂ b1 = 0.

- Дифференцируя, получим:

∂F0 /∂ b0 = 2(N b0 + b1 ∑ x 1 - ∑ yI) = 0;

∂F0 /∂ b1 = 2 b0 ∑ x, + 2 b1 ∑ x 1² - 2 ∑ x 1 yI = 0.

- Решая систему из двух уравнений, можно получить значения b0 и b1.

- Аналогично могут быть оценены коэффициенты уравнения регрессии и для случая нелинейной аппроксимации