Системы случайных величин

Литература: Гмурман. Ч. 2. Гл. 14. § 1 - 19.

При изучении этой темы Вам следует обратить особое внимание на зависимость и независимость случайных величин. При изучении математического анализа в Вы разделяли переменные величины на независимые и зависимые, подразумевая под зависимыми величинами те, которые связаны функциональной зависимостью, при которой каждому допустимому значению одной величины ставилось в соответствие определенное значение другой. Однако зависимость между величинами может быть и нефункциональной. Например, Вы знаете, что существует зависимость между влажностью воздуха и количеством выпавших осадков. Однако Вы не сможете ответить на вопрос: какова влажность, если выпало 3 мм осадков (даже если осадки выпали в виде дождя). Все дело в том, что здесь мы встречаемся не с функциональной, а со статистической зависимостью, когда каждому значению одной величины ставится в соответствие свой закон распределения другой. Таким образом, между независимостью и функциональной зависимостью имеется промежуточные виды зависимости. В этом разделе тесноту зависимости между величинами измеряют значением коэффициента корреляции. Вы должны знать, что коэффициент корреляции характеризует тесноту только линейной связи между двумя величинами. Поясним это на примерах. Рассмотрим две случайных величины Х и Y. Пусть они связаны функциональной зависимостью Y = f(X) и эта функция раскладывается в степенной ряд

Y = f(X) = a₀ + a₁X + a₂X² +.....+ a_nXⁿ + …

или

Y = f(X) = a₀ + a₁X + R(X),

где R(X) - остаток ряда.

Чем меньше по модулю остаток ряда R(X), тем ближе по модулю коэффициент корреляции r к 1. Если остаток равен нулю, т.е. f(X) = a₀+a₁X, то |r| = 1. Если же линейная часть ряда отсутствует, например, Y = X², то можно показать, что r = 0. В общем случае можно написать

Y = a₀ + a₁X + d,

где d - случайная составляющая, зависящая от различных случайных факторов, которые, может быть и не связаны со случайной величиной Х. Чем больше влияние d на Y или чем меньше по модулю а₀ и а₁, тем меньше |r|.

Таким образом, коррелированность - это наличие линейной составляющей в связи между двумя величинами, а некоррелированность - отсутствие линейной связи между ними.

Пример. Дана выборка объемом 100. Методом наименьших квадратов найти линейное уравнение средней квадратичной регрессии (в виде ).

Решение. Метод наименьших квадратов позволяет найти коэффициенты k и b линейной функции Для этого составляется функция

и определяется, при каких значениях коэффициентов достигается минимум функции .

Преобразуем сумму, при этом для краткости записи не будем указывать пределов суммирования

Минимум достигается в стационарной точке, в которой обе частные производные обращаются в ноль.

или

получили так называемую систему нормальных уравнений метода наименьших квадратов.

Подставим полученные выражения в систему

Решим систему, найдём k и b.

Подставим найденные коэффициенты в уравнение регрессии.