Экономических объектов 3 страница

Нормальное распределение обладает следующими важными свойствами:

- нормальная случайная величина S с математическим ожиданием á S ñ и стандартным отклонением s с вероятностью близкой к 1 попадает в интервал (правило трех сигм)

(á S ñ ‑ 3 s) £ S £ (á S ñ + 3 s);

- если случайная величина S распределена по нормальному закону с математическим ожиданием á S ñ и стандартным отклонением s, то

F (s) = Pr (S £ s) = Ф (), Pr (S > s) = 1 – Ф (),

где Ф – интеграл ошибок, определяемый (2.4.2) и (2.4.9).

Пример: некая фирма имеет среднюю доходность по своим акциям á S ñ = 15%, а стандартное отклонение s = 3,87%. Одномерные нормальные законы (плотность (2.4.9) и функция (2.4.2) распределения вероятности) показаны на рис. 2.4.3 и 2.4.4 соответственно.

Рис. 2.4.3

Согласно правилу трех сигм, с вероятностью, близкой к 1, можно утверждать, что доходность по акциям фирмы будет лежать в диапазоне 15% ±11,61% (от 3,39% до 26,61%). При этом, вероятность попадания доходности в интервал 15% ±7,74% (á S ñ ± 2s) составит примерно 68%.

Рис. 2.4.4

Произвольный закон.

Истинное распределение может описываться совершенно произвольным законом. Во многих случаях закон распределения неизвестен, и его необходимо оценивать. Пусть p ^*(S) – оценка истинной плотности распределений p _ист(S). Будем искать такую оценку, которая обеспечивает минимизацию среднеквадратичной ошибки

СКО = ò.òò [ p ^*(S) – p _ист(S)]² d ^(N) S Þ min, (2.4.10)

где d ^(N) S = d S ₁ d S ₂ … d S_N.

Разложим оценку p ^*(S) в ряд

p ^*(S) = (2.4.11)

по системе ортонормированных функций j _k (S). Ортонормированность означает

ò.òò j _k (S) j _m (S) d ^{( N )} S = (2.4.12)

Подставив (2.4.11) в (2.4.10), получим

СКО = ò.òò [ – p _ист(S)]² d ^(N) S. (2.4.13)

Необходимые условия минимума (2.4.13) заключаются в том, что

¶ СКО / ¶ a_k = ò.òò [ – p _ист(S)] j _k (S) d ^(N) S = 0 для " k или

a_k = ò.òò p _ист(S) j _k (S) d ^(N) S = (1 / M) . (2.4.14)

В (2.4.14) использована замена теоретического среднего значения функции j _k (S) его эмпирическим средним (см. 2.4.20).

Таким образом, оценкой истинной плотности распределения является

p ^*(S) = (1/M) . (2.4.15)

Оценка коэффициентов a_k может быть получена рекуррентно. Так, если получена оценка (2.4.14) a_k (M) по выборке объема M, то выражение для коэффициента при увеличении выборки на один объект имеет вид (см. 2.4.22)

a_k (M +1) = [1/(M +1)] [ ] =

= [1/(M +1)] [ M a_k (M) + j _k (S _{M + 1})]. (2.4.16)

Часто закон распределения приближают с помощью парзеновских окон (по имени Парзена)

p ^* _M (S) = (1/ M) , (2.4.17)

где функция окна p [(S – S _m)/D _M ] является некоторым распределением, центрированным в S _m и обладающим шириной D _M, зависящим от числа выборок M. Как правило, с ростом M ширина окна сужается. Величина n_m соответствует количеству выборок, попавших в «точку» S _m. При M @ 100 парзеновское приближение практически сходится к истинному распределению.

Статистики наблюдений, достаточные статистики.

Статистикой наблюдаемого состояния S называют среднюю величину á f ñ любой функции f [ S ] от наблюдений

á f ñ = ò.òò p _ист(S) f [ S ] d ^(N) S. (2.4.18)

Нормальные законы распределения зависят лишь от статистик первого и второго порядка – средних значений á S ñ наблюдений и их ковариаций COV (дисперсий s ₁, s ₁₂…, s _{1 n}, s _n, …)

á S ñ = ò.òò p _нор(S) S d ^(N) S, (2.4.19)

COV = ò.òò p _нор(S) (S – á S ñ)(S – á S ñ)⁺ d ^(N) S.

Выражение (2.4.19) определяет теоретическое среднее функции f [ S ], когда известна p _ист(S), как непрерывная функция S. На практике обычно наблюдают множество (ансамбль) { S } = = { S ₁, S ₂, …, S _m, …, S _M } M различных значений или выборок (см. рис 2.4.2б) векторов состояний, которое порождает ансамбль { f [ S ]} = { f [ S ₁], f [ S ₂], …, f [ S _m ], …, f [ S _M ]} разнообразных значений выборочных функций этих состояний. Тогда эмпирическое или выборочное среднее значение функции f [ S ] определяется выражением

= (1/M) . (2.4.20)

Например, эмпирические или выборочные значения среднего и ковариационной матрицы определяются выражениями

= (1/M) , (2.4.21)

= [1/(M –1)] – ⁺.

Оценка эмпирического или выборочного среднего значения функции f [ S ] может быть получена рекуррентно. Так, если получена оценка (2.4.20) по выборке объема M, то выражение для среднего при увеличении выборки на один объект имеет вид

= [1/(M +1)] [ ] =

= [1/(M +1)] [ M + f (S _{M +1})]. (2.4.22)

Так, например, для среднего значения и ковариационной матрицы получим

= [1/(M +1)] [ M + S _{M+ 1}], (2.4.23)

= [1/(M +1)] [ M +

+ M ⁺ + S _{M+ 1} S ⁺ _{M+ 1}] – [1/(M +1) ² ] [ M +

+ S _{M+ 1}] [ M + S _{M+ 1}]⁺.

Естественно, что задавая различные функции f_k [ S ], где k = 1, 2, …, K, возможно построить множество различных статистик. Однако только некоторые из них позволяют достаточно полно, как и сама плотность распределения p _ист(S), описать случайные наблюдения. Такие статистики называют достаточными статистиками. Для нормально распределенных случайных наблюдений их средние значения и ковариационные матрицы (дисперсии) являются достаточными статистиками.

Понятие достаточных статистик обычно формализуют следующим образом. Предполагают, что форма плотности распределения p (S ½ P) известна с точностью до некоторого вектора P структурных параметров. Тогда формальное определение достаточной статистики дает теорема факторизации, утверждающая, что статистика достаточна для оценки неизвестного вектора P структурных параметров тогда и только тогда, когда вероятность p (S ½ P) можно записать в виде произведения

p (S ½ P) = h (S) g (, P), (2.4.24)

где h (S) и g (, P) являются независимыми функциями.

Многие наблюдения, плотности вероятностей которых не подчиняются нормальному закону, могут быть описаны статистиками второго порядка ‑ их средними значениями и ковариационными матрицами. Очевидно, что это возможно при достаточно хорошей аппроксимации (в смысле 2.4.13) истинных плотностей вероятностей p _ист(S) нормальными плотностями p _нор(S).

Однако встречаются случаи, когда такая аппроксимация принципиально невозможна. Так, на рис. 2.4.5 показаны четыре различных кластера данных, у которых одинаковые средние и матрицы ковариаций. Очевидно, что статистики второго порядка не в состоянии отобразить структуру приведенных наблюдений.

Рис. 2.4.5

2.5. Несмещенность, эффективность и состоятельность

статистических оценок. Расчет статистик.

Выборкой в статистике называют последовательность независимых одинаково распределенных случайных величин. Следует помнить, что любая из эмпирических оценок любой функции f [ S ] от наблюденийявляется случайной величиной. Все данные оценки производятся на конечном ряде выборок случайных величин (M = const), которые не исчерпывают их всевозможные значения, называемые генеральной совокупностью (M ® ¥). Поэтому будет всегда присутствовать ошибка, которую желательно свести к минимуму. Для этого используют некоторые критерии, которые позволяют минимизировать различия оценок функций, полученных для конечного ряда выборок и генеральной совокупности, т.е. и теоретического математического ожидания á f ñ.

Несмещенными называются такие оценки, математические ожидания которых равняются теоретическим математическим ожиданиям, полученным при использовании генеральной совокупности.

Например, выборочные среднее и ковариационная матрица (2.4.21) являются несмещенными оценками теоретических среднего и ковариационной матрицы.

Легко показать, что число несмещенных оценок бесконечно. Пусть, например, мы построим среднее значение величины функции f [ S ], используя ее выборочные значения { f [ S ₁], f [ S ₂], …, f [ S _m ], …, f [ S _M ]} и некоторый набор { l ₁, l ₂, …, l_M } произвольных коэффициентов

= . (2.5.1)

Спрашивается – равно ли теоретическому среднему á f ñ? Усредним обе части (2.5.1) по генеральной совокупности

á ñ = = á ñ =

= = á f ñ . (2.5.2)

Из (2.5.2) видно, что если выполняется условие == 1, то выражение (2.5.1) определяет бесконечное число несмещенных оценок.

Эффективность. Найдем дисперсию выражения (2.5.1) при условии, что оценка несмещенная

D_f ({ l_m }) = á()²ñ – á ñ² =

= á + 2 ñ –

– á f ñ² ()² = á f ²ñ +

+ 2á f ñ² – á f ñ² ()² =

= [á f ²ñ – á f ñ²] . (2.5.3)

Очевидно, что несмещенное среднее будет иметь минимально возможную дисперсию

D_f = [á f ²ñ – á f ñ²] / M = s _f ² / M, (2.5.4)

если все l_m = 1/ M. С ростом M дисперсия оценки выборочного среднего будет стремится к нулю.

Считается, что оценка выборочного среднего является эффективной, если ее дисперсия минимально возможна.

Приведенные примеры доказывают, что только выражение (2.4.20) дает несмещенную и эффективную оценку среднего значения функции f [ S ].

Состоятельными называются такие оценки, которые дают точные значения для больших выборок (M), независимо от входящих в них конкретных наблюдений.

Из предыдущих примеров видно, что выражение (2.4.20) дает состоятельную оценку среднего значения функции f [ S ].

Из выражения (2.5.4) видно, что при M ® ¥ дисперсия D_f оценки выборочного среднего значения стремится к 0.

Однако при малых M оценки могут смещаться относительно теоретического среднего á f ñ. При этом состоятельная оценка может на малых выборках работать хуже, чем несостоятельная (например, иметь большую среднеквадратичную ошибку).

В экономике часто пользуются индексами в виде частного от деления одной величины на другую

Z (M)= X (M) / Y (M), (2.5.5)

где X (M) и Y (M) – величины, рассчитанные по данным выборки с размерностью M. Обычно невозможно сказать, что либо определенное о математическом ожидании величины Z. Вообще говоря, она не равна частному от деления на . Если, однако, X (M) и Y (M) стремятся к конечным величинам plim X и plim Y при больших M и plim Y не равен нулю, то величина Z будет стремится к

plim Z = plim X / plim Y. (2.5.6)

Выражение plimZ означает «предел по вероятности» и подчеркивает, что предел достигается в вероятностном смысле, когда для любых сколь угодно малых значений e и d можно найти такое большое M, при котором вероятность того, что Z отличается от plim Z больше, чем на e, будет меньшей d.

Следовательно, даже если нельзя сказать что-либо определенное о свойствах Z на малых выборках, иногда можно судить о ее состоятельности.

Расчет статистик второго порядка.

Правила расчета ковариаций.

Правило 1:

Если Y = V + W, то

cov (X, Y) = cov (X, V + W) = cov (X, V) + cov (X, W).

Правило 2:

Если Y = a Z, где a – константа, то cov (X, Y) = a cov (X, Z).

Правило 3:

Если Y = a, где a – константа, то cov (X, Y) = 0.

Пользуясь этими основными правилами, можно упрощать значительно более сложные выражения с ковариациями. Например, если Y = U + V + W, то пользуясь правилом 1 и разбив Y на две части (U и V + W), получим

cov (X, Y) = cov (X, U + V+W) = cov (X, U)+ cov (X, V+W) =

= cov (X, U) + cov (X, V) + cov (X, W).

Другой пример: Если Y = a + b Z, где a и b – константы, то, пользуясь последовательно правилами 1, 3, 2, получим

cov (X, Y) = cov (X,a)+ cov (X, bZ)=0+ cov (X, bZ)= bcov (X, Z).

Правила расчета дисперсий.

Правило 1:

Если Y = V + W, то var (Y) = var (V) + var (W) + 2 cov (V, W).

Правило 2:

Если Y = a Z, где a – константа, то var (Y) = a² var (Z).

Правило 3:

Если Y = a, где a – константа, то var (Y) = 0.

Правило 4:

Если Y = Z + a, где a – константы, то var (Y) = var (Z).

Как следует из определения дисперсии var (X) = cov (X, X).

Правила расчета коэффициентов корреляций.

Теоретический и выборочный коэффициент корреляции случайных величин X и Y задаются выражениями

r_XY = s_XY / (s ²_X s ²_Y )^1/2, (2.5.7)

r_XY = cov (X, Y)/ [ var (X) var (Y)]^1/2.

Для векторов X = (X₁, X₂, …, X_M) и Y = (Y₁, Y₂, …, Y_M) часто используют выборочный коэффициент корреляции, определяющий косинусу угла между ними (см. рис. 2.5.1)

r_XY = cosj = (å ^M_{m= 1} X_m Y_m) / (å ^M_{m= 1} X ²_m)^1/2 (å ^M_{m= 1} Y ²_m)^1/2.

(2.5.8)

Рис. 2.5.1

Данный коэффициент совпадает с выборочным коэффициентом корреляции (2.5.7) для M выборок случайных величин X и Y, у которых á X ñ = á Y ñ = 0.

Коэффициент корреляции (2.5.8) в некоторой степени описывает меру связи между случайными величинами X и Y. Величина связи изменяется в пределах -1 £ r_XY £ 1.

Однако мера связи (2.5.8) не вполне корректно выявляет «силу» связи. Так, например, из рис. 2.5.1 видно, что случайные величины X и Y, а также X и Z имеют одинаковые коэффициенты корреляции r_XY = r_XZ, хотя вектора X и Y «ближе» друг к другу, чем вектора X и Z.

Более правильно «силу» связи описывает модифицированный коэффициент корреляции

= 2cov (X, Y)/ [ var (X) + var (Y)] = (2.5.8)

= (2 å ^M_m=1 X_m Y_m) / [(å ^M_{m= 1} X ² _m) + (å ^M_{m= 1} Y ² _m)].

Из (2.5.8) видно, что ® 0 при удалении Y от X в направлении Z, что говорит об ослаблении связи случайных величины X и Y. Это не описывается коэффициентом r_XY.

Расчет статистик высшего порядка.

Коэффициент асимметрии.

Коэффициент асимметрии (или скоса) Пирсона применяется для проверки репрезентативности однородной выборки. Репрезентативность означает насколько состоятельно выборка представляет генеральную совокупность.

Пусть, например, генеральная совокупность некоторой случайной величины X опиcывается нормальным законом. Произведено M выборок { X ₁, X ₂, …, X_m, …, X_M } данной величины. Тогда коэффициент асимметрии определяется, как

Sk_X = / . (2.5.9)

Если выборки однородны и репрезентативны, то коэффициент асимметри Sk_X близок к 0. В случае положительного / отрицательного значения коэффициента (положительного / отрицательного скоса), выборки представляют часть генеральной совокупности, расположенную справа / слева от ее среднего значения.

Некоторые статисты (В.В. Швырков) предлагают использовать для определения коэффициента асимметрии статистику более высокого порядка

Sk_X = / , (2.5.10)

которая более правильно описывает «скошенные» данные.

Коэффициент эксцесса.

Данный коэффициент определяется выражением

e_X = [ / ] – 3.

Если значение эксцесса e_X больше 0, выборочное распределение более остроконечно, чем нормальное. В случае отрицательного эксцесса, выборочное распределение более полого, чем нормальное. Равенство эксцесса 0 означает, что выборочные значения однородно и репрезентативно представляют нормальную генеральную совокупность данных.

2.6. Описание неопределенности с помощью нечетких

функций принадлежности.

Теоретический подход.

Многие неопределенности могут и не подчиняться нормальному или иным известным законам распределений. Типична ситуация, когда наблюдения «разбросаны» в некоторой ограниченной области W, а закон их распределения неизвестен. Такие наблюдения могут быть описаны нечеткой функцией m (S) принадлежности, нормированной на 1, т.е.