Определение. Дополнительным к событию А называется событие , означающее, что событие А не происходит

Определение. Элементарными исходами опыта называются такие результаты опыта, которые взаимно исключают друг друга и в результате опыта происходит одно из этих событий, также каково бы ни было событие А, по наступившему элементарному исходу можно судить о том, происходит или не происходит это событие.

Совокупность всех элементарных исходов опыта называется пространством элементарных событий.

Теорема (сложения вероятностей). Вероятность суммы двух несовместных событий равна сумме вероятностей этих событий.

Следствие 1: Если события образуют полную группу несовместных событий, то сумма их вероятностей равна единице.

Определение. Противоположными называются два несовместных события, образующие полную группу.

Теорема. Вероятность появления хотя бы одного из двух совместных событий равна сумме вероятностей этих событий без вероятности их совместного появления.

Следствие 2: Сумма вероятностей противоположных событий равна единице.

Определение. Событие А называется независимым от события В, вероятность события А не зависит от того, произошло событие В или нет. Событие А называется зависимым от события В, если вероятность события А меняется в зависимости от того, произошло событие В или нет.

Определение. Вероятность события В, вычисленная при условии, что имело место событие А, называется условной вероятностью события В.

Теорема. (Умножения вероятностей) Вероятность произведения двух событий (совместного появления этих событий) равна произведению вероятности одного из них на условную вероятность другого, вычисленную при условии, что первое событие уже наступило.

Также можно записать:

Доказательство этой теоремы непосредственно вытекает из определения условной вероятности.

Если события независимые, то , и теорема умножения вероятностей принимает вид:

В случае произведения нескольких зависимых событий вероятность равна произведению одного из них на условные вероятности всех остальных при условии, что вероятность каждого последующего вычисляется в предположении, что все остальные события уже совершились.

Из теоремы произведения вероятностей можно сделать вывод о вероятности появления хотя бы одного события.

Если в результате испытания может появиться п событий, независимых в совокупности, то вероятность появления хотя бы одного из них равна

Здесь событие А обозначает наступление хотя бы одного из событий A_i, а q_i – вероятность противоположных событий .

Формула полной вероятности.

Пусть некоторое событие А может произойти вместе с одним из несовместных событий , составляющих полную группу событий. Пусть известны вероятности этих событий и условные вероятности наступления события А при наступлении события H_i .

Теорема. Вероятность события А, которое может произойти вместе с одним из событий , равна сумме парных произведений вероятностей каждого из этих событий на соответствующие им условные вероятности наступления события А.

Фактически эта формула полной вероятности уже использовалась при решении примеров, приведенных выше, например, в задаче с револьвером.

Доказательство.

Т.к. события образуют полную группу событий, то событие А можно представить в виде следующей суммы:

Т.к. события несовместны, то и события AH_i тоже несовместны. Тогда можно применить теорему о сложении вероятностей несовместных событий:

При этом

Окончательно получаем:

Теорема доказана.

Формула Бейеса. (формула гипотез)

Пусть имеется полная группа несовместных гипотез с известными вероятностями их наступления . Пусть в результате опыта наступило событие А, условные вероятности которого по каждой из гипотез известны, т.е. известны вероятности .

Требуется определить какие вероятности имеют гипотезы относительно события А, т.е. условные вероятности .

Теорема. Вероятность гипотезы после испытания равна произведению вероятности гипотезы до испытания на соответствующую ей условную вероятность события, которое произошло при испытании, деленному на полную вероятность этого события.

Эта формула называется формулой Бейеса.

Доказательство.

По Теореме умножения вероятностей получаем:

Тогда если .

Для нахождения вероятности P(A) используем формулу полной вероятности.

Если до испытания все гипотезы равновероятны с вероятностью , то формула Бейеса принимает вид:

Повторение испытаний.

Формула Бернулли.

Если производится некоторое количество испытаний, в результате которых может произойти или не произойти событие А, и вероятность появления этого события в каждом из испытаний не зависит от результатов остальных испытаний, то такие испытания называются независимыми относительно события А.

Допустим, что событие А наступает в каждом испытании с вероятностью Р(А)=р. Определим вероятность Р_т,п того, что в результате п испытаний событие А наступило ровно т раз.

Эту вероятность в принципе можно посчитать, используя теоремы сложения и умножения вероятностей, как это делалось в рассмотренных выше примерах. Однако, при достаточно большом количестве испытаний это приводит к очень большим вычислениям. Таким образом, возникает необходимость разработать общий подход к решению поставленной задачи. Этот подход реализован в формуле Бернулли. (Якоб Бернулли (1654 – 1705) – швейцарский математик)

Пусть в результате п независимых испытаний, проведенных в одинаковых условиях, событие А наступает с вероятностью Р(А) = р, а противоположное ему событие с вероятностью .

Обозначим A_i – наступление события А в испытании с номером i. Т.к. условия проведения опытов одинаковые, то эти вероятности равны.

Если в результате п опытов событие А наступает ровно т раз, то остальные п-т раз это событие не наступает. Событие А может появиться т раз в п испытаниях в различных комбинациях, число которых равно количеству сочетаний из п элементов по т. Это количество сочетаний находится по формуле:

Вероятность каждой комбинации равна произведению вероятностей:

Применяя теорему сложения вероятностей несовместных событий, получаем формулу Бернулли:

Формула Бернулли важна тем, что справедлива для любого количества независимых испытаний, т.е. того самого случая, в котором наиболее четко проявляются законы теории вероятностей.

Случайные величины.

Выше рассматривались случайные события, являющиеся качественной характеристикой случайного результата опыта. Для получения количественной характеристики вводится понятие случайной величины.

Определение. Случайной величиной называется величина, которая в результате опыта может принимать то или иное значение, причем заранее известно какое именно.

Случайные величины можно разделить на две категории.

Определение. Дискретной случайной величиной называется такая величина, которая в результате опыта может принимать определенные значения с определенной вероятностью, образующие счетное множество (множество, элементы которого могут быть занумерованы).

Это множество может быть как конечным, так и бесконечным.

Например, количество выстрелов до первого попадания в цель является дискретной случайной величиной, т.к. эта величина может принимать и бесконечное, хотя и счетное количество значений.

Определение. Непрерывной случайной величиной называется такая величина, которая может принимать любые значения из некоторого конечного или бесконечного промежутка.

Очевидно, что число возможных значений непрерывной случайной величины бесконечно.

Для задания случайной величины недостаточно просто указать ее значение, необходимо также указать вероятность этого значения.

Закон распределения дискретной случайной величины.

Определение. Соотношение между возможными значениями случайной величины и их вероятностями называется законом распределения дискретной случайной величины.

Закон распределения может быть задан аналитически, в виде таблицы или графически.

Таблица соответствия значений случайной величины и их вероятностей называется рядом распределения.

Графическое представление этой таблицы называется многоугольником распределения. При этом сумма все ординат многоугольника распределения представляет собой вероятность всех возможных значений случайной величины, а, следовательно, равна единице.

Биноминальное распределение.

Если производится п независимых испытаний, в каждом из которых событие А может появиться с одинаковой вероятностью р в каждом из испытаний, то вероятность того, что событие не появится, равна q = 1 – p.

Примем число появлений события в каждом из испытаний за некоторую случайную величину Х.

Чтобы найти закон распределения этой случайной величины, необходимо определить значения этой величины и их вероятности.

Значения найти достаточно просто. Очевидно, что в результате п испытаний событие может не появиться вовсе, появиться один раз, два раза, три и т.д. до п раз.

Вероятность каждого значения этой случайной величины можно найти по формуле Бернулли.

Эта формула аналитически выражает искомый закон распределения. Этот закон распределения называется биноминальным.

Распределение Пуассона.

(Симеон Дени Пуассон (1781 – 1840) – французский математик)

Пусть производится п независимых испытаний, в которых появление события А имеет вероятность р. Если число испытаний п достаточно велико, а вероятность появления события А в каждом испытании мало (p £0,1), то для нахождения вероятности появления события А k раз находится следующим образом.

Сделаем важное допущение – произведение пр сохраняет постоянное значение:

Практически это допущение означает, что среднее число появления события в различных сериях испытаний (при разном п) остается неизменным.

По формуле Бернулли получаем:

Найдем предел этой вероятности при п ®¥.

Получаем формулу распределения Пуассона:

Если известны числа l и k, то значения вероятности можно найти по соответствующим таблицам распределения Пуассона.

Числовые характеристики дискретных случайных величин.

Закон распределения полностью характеризует случайную величину. Однако, когда невозможно найти закон распределения, или этого не требуется, можно ограничиться нахождением значений, называемых числовыми характеристиками случайной величины. Эти величины определяют некоторое среднее значение, вокруг которого группируются значения случайной величины, и степень их разбросанности вокруг этого среднего значения.

Определение. Математическим ожиданием дискретной случайной величины называется сумма произведений всех возможных значений случайной величины на их вероятности.

Математическое ожидание существует, если ряд, стоящий в правой части равенства, сходится абсолютно.

С точки зрения вероятности можно сказать, что математическое ожидание приближенно равно среднему арифметическому наблюдаемых значений случайной величины.

Свойства математического ожидания.

1) Математическое ожидание постоянной величины равно самой постоянной.

2) Постоянный множитель можно выносить за знак математического ожидания.

3) Математическое ожидание произведения двух независимых случайных величин равно произведению их математических ожиданий.

Это свойство справедливо для произвольного числа случайных величин.

4) Математическое ожидание суммы двух случайных величин равно сумме математических ожиданий слагаемых.

Это свойство также справедливо для произвольного числа случайных величин.

Пусть производится п независимых испытаний, вероятность появления события А в которых равна р.

Теорема. Математическое ожидание М(Х) числа появления события А в п независимых испытаниях равно произведению числа испытаний на вероятность появления события в каждом испытании.

Однако, математическое ожидание не может полностью характеризовать случайный процесс. Кроме математического ожидания надо ввести величину, которая характеризует отклонение значений случайной величины от математического ожидания.

Это отклонение равно разности между случайной величиной и ее математическим ожиданием. При этом математическое ожидание отклонения равно нулю. Это объясняется тем, что одни возможные отклонения положительны, другие отрицательны, и в результате их взаимного погашения получается ноль.

Определение. Дисперсией (рассеиванием) дискретной случайной величины называется математическое ожидание квадрата отклонения случайной величины от ее математического ожидания.

Вычисление дисперсии.

Теорема. Дисперсия равна разности между математическим ожиданием квадрата случайной величины Х и квадратом ее математического ожидания.

Доказательство. С учетом того, что математическое ожидание М(Х) и квадрат математического ожидания М²(Х) – величины постоянные, можно записать:

Свойства дисперсии.

1) Дисперсия постоянной величины равна нулю.

2) Постоянный множитель можно выносить за знак дисперсии, возводя его в квадрат.

3) Дисперсия суммы двух независимых случайных величин равна сумме дисперсий этих величин.

4) Дисперсия разности двух независимых случайных величин равна сумме дисперсий этих величин.

Справедливость этого равенства вытекает из свойства 2.

Теорема. Дисперсия числа появления события А в п независимых испытаний, в каждом из которых вероятность р появления события постоянна, равна произведению числа испытаний на вероятности появления и непоявления события в каждом испытании.

Среднее квадратическое отклонение.

Определение. Средним квадратическим отклонением случайной величины Х называется квадратный корень из дисперсии.

Теорема. Среднее квадратичное отклонение суммы конечного числа взаимно независимых случайных величин равно квадратному корню из суммы квадратов средних квадратических отклонений этих величин.

Функция распределения.

Во всех рассмотренных выше случаях случайная величина определялась путем задания значений самой величины и вероятностей этих значений.

Однако, такой метод применим далеко не всегда. Например, в случае непрерывной случайной величины, ее значения могут заполнять некоторый произвольный интервал. Очевидно, что в этом случае задать все значения случайной величины просто нереально.

Даже в случае, когда это сделать можно, зачастую задача решается чрезвычайно сложно. Рассмотренный только что пример даже при относительно простом условии (приборов только четыре) приводит к достаточно неудобным вычислениям, а если в задаче будет несколько сотен приборов?

Поэтому встает задача по возможности отказаться от индивидуального подхода к каждой задаче и найти по возможности наиболее общий способ задания любых типов случайных величин.

Пусть х – действительное число. Вероятность события, состоящего в том, что Х примет значение, меньшее х, т.е. Х < x, обозначим через F(x).

Определение. Функцией распределения называют функцию F(x), определяющую вероятность того, что случайная величина Х в результате испытания примет значение, меньшее х.

Функцию распределения также называют интегральной функцией.

Функция распределения существует как для непрерывных, так и для дискретных случайных величин. Она полностью характеризует случайную величину и является одной из форм закона распределения.

Для дискретной случайной величины функция распределения имеет вид:

Знак неравенства под знаком суммы показывает, что суммирование распространяется на те возможные значения случайной величины, которые меньше аргумента х.

Функция распределения дискретной случайной величины Х разрывна и возрастает скачками при переходе через каждое значение х_i.

Свойства функции распределения..

1) значения функции распределения принадлежат отрезку [0, 1].

2) F(x) – неубывающая функция.

при

3) Вероятность того, что случайная величина примет значение, заключенное в интервале (a, b), равна приращению функции распределения на этом интервале.

4) На минус бесконечности функция распределения равна нулю, на плюс бесконечности функция распределения равна единице.

5) Вероятность того, что непрерывная случайная величина Х примет одно определенное значение, равна нулю.

Таким образом, не имеет смысла говорить о каком – либо конкретном значении случайной величины. Интерес представляет только вероятность попадания случайной величины в какой – либо интервал, что соответствует большинству практических задач.

Плотность распределения.

Функция распределения полностью характеризует случайную величину, однако, имеет один недостаток. По функции распределения трудно судить о характере распределения случайной величины в небольшой окрестности той или иной точки числовой оси.

Определение. Плотностью распределения вероятностей непрерывной случайной величины Х называется функция f(x) – первая производная от функции распределения F(x).

Плотность распределения также называют дифференциальной функцией. Для описания дискретной случайной величины плотность распределения неприемлема.

Смысл плотности распределения состоит в том, что она показывает как часто появляется случайная величина Х в некоторой окрестности точки х при повторении опытов.

После введения функций распределения и плотности распределения можно дать следующее определение непрерывной случайной величины.

Определение. Случайная величина Х называется непрерывной, если ее функция распределения F(x) непрерывна на всей оси ОХ, а плотность распределения f(x) существует везде, за исключением(может быть, конечного числа точек.

Зная плотность распределения, можно вычислить вероятность того, что некоторая случайная величина Х примет значение, принадлежащее заданному интервалу.

Теорема. Вероятность того, что непрерывная случайная величина Х примет значение, принадлежащее интервалу (a, b), равна определенному интегралу от плотности распределения, взятому в пределах от a до b.

Доказательство этой теоремы основано на определении плотности распределения и третьем свойстве функции распределения, записанном выше.

Геометрически это означает, что вероятность того, что непрерывная случайная величина примет значение, принадлежащее интервалу (a, b), равна площади криволинейной трапеции, ограниченной осью ОХ, кривой распределения f(x) и прямыми x=a и x=b.

Функция распределения может быть легко найдена, если известна плотность распределения, по формуле:

Свойства плотности распределения.

1) Плотность распределения – неотрицательная функция.

2) Несобственный интеграл от плотности распределения в пределах от - ¥ до ¥ равен единице.

Числовые характеристики непрерывных случайных величин.

Пусть непрерывная случайная величина Х задана функцией распределения f(x). Допустим, что все возможные значения случайной величины принадлежат отрезку [ a,b ].

Определение. Математическим ожиданием непрерывной случайной величины Х, возможные значения которой принадлежат отрезку [a,b], называется определенный интеграл

Если возможные значения случайной величины рассматриваются на всей числовой оси, то математическое ожидание находится по формуле:

При этом, конечно, предполагается, что несобственный интеграл сходится.

Определение. Дисперсией непрерывной случайной величины называется математическое ожидание квадрата ее отклонения.

По аналогии с дисперсией дискретной случайной величины, для практического вычисления дисперсии используется формула:

Определение. Средним квадратичным отклонением называется квадратный корень из дисперсии.

Определение. Модой М₀ дискретной случайной величины называется ее наиболее вероятное значение. Для непрерывной случайной величины мода – такое значение случайной величины, при которой плотность распределения имеет максимум.

Если многоугольник распределения для дискретной случайной величины или кривая распределения для непрерывной случайной величины имеет два или несколько максимумов, то такое распределение называется двухмодальным или многомодальным.

Если распределение имеет минимум, но не имеет максимума, то оно называется антимодальным.

Определение. Медианой M_D случайной величины Х называется такое ее значение, относительно которого равновероятно получение большего или меньшего значения случайной величины.

Геометрически медиана – абсцисса точки, в которой площадь, ограниченная кривой распределения делится пополам.

Отметим, что если распределение одномодальное, то мода и медиана совпадают с математическим ожиданием.

Определение. Начальным моментом порядка k случайной величины Х называется математическое ожидание величины Х ^k.

Для дискретной случайной величины: .

Для непрерывной случайной величины: .

Начальный момент первого порядка равен математическому ожиданию.

Определение. Центральным моментом порядка k случайной величины Х называется математическое ожидание величины

Для дискретной случайной величины: .

Для непрерывной случайной величины: .

Центральный момент первого порядка всегда равен нулю, а центральный момент второго порядка равен дисперсии. Центральный момент третьего порядка характеризует асимметрию распределения.

Определение. Отношение центрального момента третьего порядка к среднему квадратическому отклонению в третьей степени называется коэффициентом асимметрии.

Определение. Для характеристики островершинности и плосковершинности распределения используется величина, называемая эксцессом.

Кроме рассмотренных величин используются также так называемые абсолютные моменты:

Абсолютный начальный момент: .

Абсолютный центральный момент: .

Абсолютный центральный момент первого порядка называется средним арифметическим отклонением.

Равномерное распределение.

Определение. Непрерывная случайная величина имеет равномерное распределение на отрезке [ a, b ], если на этом отрезке плотность распределения случайной величины постоянна, а вне его равна нулю.

Постоянная величина С может быть определена из условия равенства единице площади, ограниченной кривой распределения.

f(x)

0 a b x

Получаем .

Найдем функцию распределения F(x) на отрезке [ a,b ].

F(x)

0 a b x

Для того, чтобы случайная величина подчинялась закону равномерного распределения необходимо, чтобы ее значения лежали внутри некоторого определенного интервала, и внутри этого интервала значения этой случайной величины были бы равновероятны.

Определим математическое ожидание и дисперсию случайной величины, подчиненной равномерному закону распределения.

Вероятность попадания случайной величины в заданный интервал:

Показательное распределение.

Определение. Показательным (экспоненциальным) называется распределение вероятностей непрерывной случайной величины Х, которое описывается плотностью

где l - положительное число.

Найдем закон распределения.

Графики функции распределения и плотности распределения:

f(x) F(x)

l 1

0 x 0 x

Найдем математическое ожидание случайной величины, подчиненной показательному распределению.

Результат получен с использованием того факта, что

Для нахождения дисперсии найдем величину М(Х²).

Дважды интегрируя по частям, аналогично рассмотренному случаю, получим:

Тогда

Итого:

Видно, что в случае показательного распределения математическое ожидание и среднее квадратическое отклонение равны.

Также легко определить и вероятность попадания случайной величины, подчиненной показательному закону распределения, в заданный интервал.

Показательное распределение широко используется в теории надежности.

Допустим, некоторое устройство начинает работать в момент времени t₀=0, а через какое– то время t происходит отказ устройства.

Обозначим Т непрерывную случайную величину – длительность безотказной работы устройства.

Таким образом, функция распределения F(t) = P(T<t) определяет вероятность отказа за время длительностью t.

Вероятность противоположного события (безотказная работа в течение времени t) равна R(t) = P(T>t) = 1 – F(t).

Определение. Функцией надежности R(t) называют функцию, определяющую вероятность безотказной работы устройства в течение времени t.

Часто на практике длительность безотказной работы подчиняется показательному закону распределению.

Вообще говоря, если рассматривать новое устройство, то вероятность отказа в начале его функционирования будет больше, затем количество отказов снизится и будет некоторое время иметь практически одно и то же значение. Затем (когда устройство выработает свой ресурс) количество отказов будет возрастать.

Другими словами, можно сказать, что функционирование устройства на протяжении всего существования (в смысле количества отказов) можно описать комбинацией двух показательных законов (в начале и конце функционирования) и равномерного закона распределения.

Функция надежности для какого- либо устройства при показательном законе распределения равна:

Данное соотношение называют показательным законом надежности.

Важным свойством, позволяющим значительно упростить решение задач теории надежности, является то, что вероятность безотказной работы устройства на интервале времени t не зависит от времени предшествующей работы до начала рассматриваемого интервала, а зависит только от длительности времени t.

Таким образом, безотказная работа устройства зависит только от интенсивности отказов l и не зависит от безотказной работы устройства в прошлом.

Так как подобным свойством обладает только показательный закон распределения, то этот факт позволяет определить, является ли закон распределения случайной величины показательным или нет.

Нормальный закон распределения.

Определение. Нормальным называется распределение вероятностей непрерывной случайной величины, которое описывается плотностью вероятности

Нормальный закон распределения также называется законом Гаусса.

Нормальный закон распределения занимает центральное место в теории вероятностей. Это обусловлено тем, что этот закон проявляется во всех случаях, когда случайная величина является результатом действия большого числа различных факторов. К нормальному закону приближаются все остальные законы распределения.

Можно легко показать, что параметры и , входящие в плотность распределения являются соответственно математическим ожиданием и средним квадратическим отклонением случайной величины Х.

Найдем функцию распределения F(x).

График плотности нормального распределения называется нормальной кривой или кривой Гаусса.

Нормальная кривая обладает следующими свойствами:

1) Функция определена на всей числовой оси.

2) При всех х функция распределения принимает только положительные значения.

3) Ось ОХ является горизонтальной асимптотой графика плотности вероятности, т.к. при неограниченном возрастании по абсолютной величине аргумента х, значение функции стремится к нулю.

4) Найдем экстремум функции.

Т.к. при y’ > 0 при x < m и y’ < 0 при x > m, то в точке х = т функция имеет максимум, равный .

5) Функция является симметричной относительно прямой х = а, т.к. разность

(х – а) входит в функцию плотности распределения в квадрате.

6) Для нахождения точек перегиба графика найдем вторую производную функции плотности.

При x = m + s и x = m - s вторая производная равна нулю, а при переходе через эти точки меняет знак, т.е. в этих точках функция имеет перегиб.

В этих точках значение функции равно .

Построим график функции плотности распределения.

Построены графики при т =0 и трех возможных значениях среднего квадратичного отклонения s = 1, s = 2 и s = 7. Как видно, при увеличении значения среднего квадратичного отклонения график становится более пологим, а максимальное значение уменьшается..

Если а > 0, то график сместится в положительном направлении, если а < 0 – в отрицательном.

При а = 0 и s = 1 кривая называется нормированной. Уравнение нормированной кривой:

Функция Лапласа.

Найдем вероятность попадания случайной величины, распределенной по нормальному закону, в заданный интервал.

Обозначим

Тогда

Т.к. интеграл не выражается через элементарные функции, то вводится в рассмотрение функция

,

которая называется функцией Лапласа или интегралом вероятностей.

Значения этой функции при различных значениях х посчитаны и приводятся в специальных таблицах.

Ниже показан график функции Лапласа.

Функция Лапласа обладает следующими свойствами:

1) Ф(0) = 0;

2) Ф(- х) = - Ф(х);

3) Ф(¥) = 1.

Функцию Лапласа также называют функцией ошибок и обозначают erf x.

Еще используется нормированная функция Лапласа, которая связана с функцией Лапласа соотношением:

Ниже показан график нормированной функции Лапласа.

При рассмотрении нормального закона распределения выделяется важный частный случай, известный как правило трех сигм.

Запишем вероятность того, что отклонение нормально распределенной случайной величины от математического ожидания меньше заданной величины D:

Если принять D = 3s, то получаем с использованием таблиц значений функции Лапласа:

Т.е. вероятность того, что случайная величина отклонится от своего математического ожидание на величину, большую чем утроенное среднее квадратичное отклонение, практически равна нулю.

Это правило называется правилом трех сигм.

Не практике считается, что если для какой – либо случайной величины выполняется правило трех сигм, то эта случайная величина имеет нормальное распределение.

Центральная предельная теорема Ляпунова.

Теорема. Если случайная величина Х представляет собой сумму очень большого числа взаимно независимых случайных величин, влияние каждой из которых на всю сумму ничтожно мало, то Х имеет распределение, близкое к нормальному.

На практике для большинства случайных величин выполняются условия теоремы Ляпунова.

Система случайных величин.

Рассмотренные выше случайные величины были одномерными, т.е. определялись одним числом, однако, существуют также случайные величины, которые определяются двумя, тремя и т.д. числами. Такие случайные величины называются двумерными, трехмерными и т.д.

В зависимости от типа, входящих в систему случайных величин, системы могут быть дискретными, непрерывными или смешанными, если в систему входят различные типы случайных величин.

Более подробно рассмотрим системы двух случайных величин.

Определение. Законом распределения системы случайных величин называется соотношение, устанавливающее связь между областями возможных значений системы случайных величин и вероятностями появления системы в этих областях.

Определение. Функцией распределения системы двух случайных величин называется функция двух аргументов F(x, y), равная вероятности совместного выполнения двух неравенств X<x, Y<y.

Отметим следующие свойства функции распределения системы двух случайных величин:

1) Если один из аргументов стремится к плюс бесконечности, то функция распределения системы стремится к функции распределения одной случайной величины, соответствующей другому аргументу.

2) Если оба аргумента стремятся к бесконечности, то функция распределения системы стремится к единице.

3) При стремлении одного или обоих аргументов к минус бесконечности функция распределения стремится к нулю.

4) Функция распределения является неубывающей функцией по каждому аргументу.

5) Вероятность попадания случайной точки (X, Y) в произвольный прямоугольник со сторонами, параллельными координатным осям, вычисляется по формуле:

Плотность распределения системы двух случайных величин.

Определение. Плотностью совместного распределения вероятностей двумерной случайной величины (X, Y) называется вторая смешанная частная производная от функции распределения.

Если известна плотность распределения, то функция распределения может быть легко найдена по формуле:

Двумерная плотность распределения неотрицательна и двойной интеграл с бесконечными пределами от двумерной плотности равен единице.

По известной плотности совместного распределения можно найти плотности распределения каждой из составляющих двумерной случайной величины.

; ;

Условные законы распределения.

Как было показано выше, зная совместный закон распределения можно легко найти законы распределения каждой случайной величины, входящей в систему.

Однако, на практике чаще стоит обратная задача – по известным законам распределения случайных величин найти их совместный закон распределения.

В общем случае эта задача является неразрешимой, т.к. закон распределения случайной величины ничего не говорит о связи этой величины с другими случайными величинами.

Кроме того, если случайные величины зависимы между собой, то закон распределения не может быть выражен через законы распределения составляющих, т.к. должен устанавливать связь между составляющими.

Все это приводит к необходимости рассмотрения условных законов распределения.

Определение. Распределение одной случайной величины, входящей в систему, найденное при условии, что другая случайная величина приняла определенное значение, называется условным законом распределения.

Условный закон распределения можно задавать как функцией распределения так и плотностью распределения.

Условная плотность распределения вычисляется по формулам:

Условная плотность распределения обладает всеми свойствами плотности распределения одной случайной величины.

Условное математическое ожидание.

Определение. Условным математическим ожиданием дискретной случайной величины Y при X = x (х – определенное возможное значение Х) называется произведение всех возможных значений Y на их условные вероятности.

Для непрерывных случайных величин:

,

где f(y/x) – условная плотность случайной величины Y при X=x.

Условное математическое ожидание M(Y/x)=f(x) является функцией от х и называется функцией регрессии Х на Y.

Зависимые и независимые случайные величины.

Случайные величины называются независимыми, если закон распределения одной из них не зависит от того какое значение принимает другая случайная величина.

Понятие зависимости случайных величин является очень важным в теории вероятностей.

Условные распределения независимых случайных величин равны их безусловным распределениям.

Определим необходимые и достаточные условия независимости случайных величин.

Теорема. Для того, чтобы случайные величины Х и Y были независимы, необходимо и достаточно, чтобы функция распределения системы (X, Y) была равна произведению функций распределения составляющих.

Аналогичную теорему можно сформулировать и для плотности распределения:

Теорема. Для того, чтобы случайные величины Х и Y были независимы, необходимо и достаточно, чтобы плотность совместного распределения системы (X, Y) была равна произведению плотностей распределения составляющих.

Определение. Корреляционным моментом m_xy случайных величин Х и Y называется математическое ожидание произведения отклонений этих величин.

Практически используются формулы:

Для дискретных случайных величин:

Для непрерывных случайных величин:

Корреляционный момент служит для того, чтобы охарактеризовать связь между случайными величинами. Если случайные величины независимы, то их корреляционный момент равен нулю.

Корреляционный момент имеет размерность, равную произведению размерностей случайных величин Х и Y. Этот факт является недостатком этой числовой характеристики, т.к. при различных единицах измерения получаются различные корреляционные моменты, что затрудняет сравнение корреляционных моментов различных случайных величин.

Для того, чтобы устранить этот недостаток применятся другая характеристика – коэффициент корреляции.

Определение. Коэффициентом корреляции r_xy случайных величин Х и Y называется отношение корреляционного момента к произведению средних квадратических отклонений этих величин.

Коэффициент корреляции является безразмерной величиной. Коэффициент корреляции независимых случайных величин равен нулю.

Свойство: Абсолютная величина корреляционного момента двух случайных величин Х и Y не превышает среднего геометрического их дисперсий.

Свойство: Абсолютная величина коэффициента корреляции не превышает единицы.

Случайные величины называются коррелированными, если их корреляционный момент отличен от нуля, и некоррелированными, если их корреляционный момент равен нулю.

Если случайные величины независимы, то они и некоррелированы, но из некоррелированности нельзя сделать вывод о их независимости.

Если две величины зависимы, то они могут быть как коррелированными, так и некоррелированными.

Часто по заданной плотности распределения системы случайных величин можно определить зависимость или независимость этих величин.

Наряду с коэффициентом корреляции степень зависимости случайных величин можно охарактеризовать и другой величиной, которая называется коэффициентом ковариации. Коэффициент ковариации определяется формулой:

Линейная регрессия.

Рассмотрим двумерную случайную величину (X, Y), где X и Y – зависимые случайные величины.

Представим приближенно одну случайную величину как функцию другой. Точное соответствие невозможно. Будем считать, что эта функция линейная.

Для определения этой функции остается только найти постоянные величины a и b.

Определение. Функция g(X) называется наилучшим приближением случайной величины Y в смысле метода наименьших квадратов, если математическое ожидание