Центральна гранична теорема. Якщо проводиться n незалежних випробувань випадкової події A, ймовірність якої P(A) = p, то відносна частота m/n появи події A ( m - число появ A) при

5.1. Теорема Бернуллі

Якщо проводиться n незалежних випробувань випадкової події A, ймовірність якої P(A) = p, то відносна частота m/n появи події A (m - число появ A) при великому n приблизно дорівнює імовірності p:

.

Уточнення: будемо писати при , якщо для кожного e>0 і для досить великих n співвідношення

(5.1)

виконується з імовірністю, що прямує до 1 з ростом n; запишемо це так:

при .

У цьому полягає теорема Бернуллі. Помітимо, що теорема не стверджує, що співвідношення (5.1) є вірогідним, однак, якщо n досить велике, то ймовірність того, що воно є справедливим близька до 1 (наприклад, 0.98 чи 0.999), що практично вірогідно. Якщо проводиться експеримент, який складається з цього досить великого числа n випробувань, то можна бути впевненим, що співвідношення (5.1) буде виконано. Продемонструємо це не абсолютно достовірне твердження на прикладах. Слід зауважити, що при оцінюванні швиглядкості збіжності застовується нерівність Чебишева.

Нерівність Чебишева. Ймовірність того, що відхилення випадкової величини X від її математичного сподівання за абсолютною величиною менше додатного числа ε, не менша, ніж 1-D(X)/ ε², тобто

P(|X-M(X)|< ε)≥1-D(X)/ ε²

Приклад 5.1. Кидання симетричної монети.

Імовірність появи герба p =0.5. Можна показати (за допомогою центральної граничної теореми), що, наприклад, якщо n ³ ( 1.5/e ) ², то співвідношення (5.1) виконується з імовірністю 0.997, а якщо n ³ ( 1.3/e ) ², те - з імовірністю 0.99; остання в даному випадку нас цілком влаштовує як практична вірогідність. Покладемо e = 0.1; тоді співвідношення

| m / n - 0.5 | < 0.1 (a)

виконується з імовірністю 0.99 при n 170. ЯКЩО e=0.03, то співвідношення

| m / n - 0.5 | < 0.03 (б)

виконується з імовірністю 0.99 при n 1850. Ми впевнені, що, після 170 кидань монети, одержимо (а), а після 1850 кидань, одержимо (б).

Кидання монети моделюємо генерацією випадкової величини a, що набуває значення 1 ("герб") і 0 ("цифра") з імовірностями 1/2. Число появ "герба" у n випробуваннях

,

де a_k - результат k-го випробування.

5.2. Закон великих чисел у формі Чебишева

Одне з основних тверджень закону великих чисел полягає в тому, що значення середнього арифметичного випадкових величин з рівними математичними сподіваннями при великому n (при деяких широких умовах) виявляється приблизно рівним a:

Уточнимо: будемо писати

при ,

якщо для кожного e >0 і досить великих n співвідношення

(5.2)

виконується з імовірністю, що прямує до 1 з ростом n; запишемо це так:

при n® ¥.

Це одне з тверджень закону великих чисел. Помітимо, що, як і теорема Бернуллі, воно не означає, що співвідношення (5.2) вірогідно; однак, якщо n досить велике, то імовірність його виконання близька до 1, наприклад, 0.99 чи 0.999, що означає практично вірогідно.Наведемо повне формулювання однієї з теорем закону великих чисел у формі Чебишева,

Теорема Чебишева. Якщо - послідовність попарно незалежних випадкових величин, що мають скінченні дисперсії, обмежені однією і тієї ж константою:

,

то для будь-якого e>0

при .

5.3. Реалізація практично достовірної події

Переконаємося у виконанні (5.2) статистично на прикладі 1.

Приклад 5.2. Нехайвипадкові величини розподілені рівномірно на відрізку [0,1]. Якщо значення e задавати довільно, а число випробувань вибирати з умови n ³ (9Dx/e²), то (як неважко показати) співвідношення (5.2) виконується з імовірністю P= 0.997, а якщо n ³ (5.4Dx/e²⁾ - то з P =0.98. Остання нас влаштовує, як практична вірогідність.

Покладемо e₁ = 0.1 і e₂ =0.02, визначимо два відповідних значення n₁ =45 і n₂ =1125, і перевіримо (5.2) експериментально (у нашому випадку a= 0.5). Виконання аналогічне п.1.

Завдання. Перевірити (5.2) експериментально для експоненційно розподілених доданків з Mx =1. Прийняти e₁ =0.2 і e₂ =0.05.

Приклад 5.3. Невиконання закону великих чисел

Розглянемо випадкову величину, розподілену за законом Коші з щільністю

(5.3)

Помітимо, що щільність симетрична щодо нуля, однак, 0 не є математичним сподіванням, оскільки цей розподіл не має математичного сподівання. Нагадаємо, що математичним сподіванням називається , якщо ; останнє співвідношення для розподілу Коші не виконується. Для послідовності незалежних випадкових величин, розподілених за законом Коші (5.3), закон великих чисел не виконується. Якби середнє арифметичне º збігалося б з ростом n до якіоїсь константи, то, в силу симетрії розподілу, такою константою міг бути тільки 0. Однак, 0 не є точкою збіжності. Дійсно, можна показати, що при кожномум e >0 і при будь-якому як завгодно великому n

(5.4)

з імовірністю arctg e. (Пояснимо це: за допомогою характеристичних функцій легко показати, що розподілено за (5.3), а функція розподілу для (5.3) є arctg x). Ця імовірність, як видно, не прямує до 0 з ростом n. Наприклад, якщо e = 0.03, то ймовірність виконання (5.4) дорівнює приблизно P» 0.98, тобто подія (5.4) практично вірогідна, і можна впевнено очікувати її виконання з одного разу. Якщо e =1, то ймовірність (5.4) дорівнює 0.5, і виконання його хоча б раз можна впевнено очікувати, зробивши 7 експериментів (тому що імовірність невиконання жодного разу дорівнює (0.5)⁷ = 1/128). І це при будь-якому фіксованому n, наприклад, n = 1000. Перевіримо це експериментально.

При виконанні в пакетах, де немає закону Коші, врахуємо, що, якщо випадкова величина X розподілена рівномірно на відрізку довжини p, то випадкова величина

Y = tg X (5.5)

має щільність (5.3). Згенеруємо 7 вибірок обсягом n =1000 і перевіримо (5.4) при e =1.

5.4. Стиск розподілу з ростом числа доданків

Закон великих чисел у формі Чебишева означає, що розподіл випадкової величини

стискується з ростом n. Якщо математичні сподівання однакові, тобто Mxi=a, то стиск відбувається в околиці точки a.

Аналітично ілюструвати стиск можна, якщо розподіл для легко виписується. Наприклад, якщо xi розподілені нормально N(a,s ²), то випадкова величина розподілена за N(a, s^2/n). Побудуємо графіки щільностей для n =1, 4, 25, 100 і s =1, a =1 (зробимо це з метою освоєння пакета).

Статистично переконатися в стиску можна, спостерігаючи гістограми при різних значеннях n (наприклад, для n =10, 40, 160, 640). Згенеруємо k раз (наприклад, хоча б k =20) випадкову величину º : і побудуємо для цієї вибірки середніх гістограму Hn. Порівнюючи гістограми для різних n, ми помітимо стиск (зробити самостійно). Стиск розподілу можна також побачити визначенням для кожного n по мінімального min, максимального max значень і розмаху w = max - min.