Различение при фиксированном объеме наблюдений

Пусть имеется совокупность наблюдений x = (х ₁, ..., х_n), относительно которой имеется два предположения (гипотезы):

H ₀: x распределена по закону p ₀(х);

H ₁: х распределена по закону p ₁(x) (если х - непрерывна, то p ₀(х), p ₁(х)- плотности, если дискретна - вероятности).

По х требуется принять одно из двух решений: или “ верна Н ₀” (это решение обозначим 0) или “ верна Н ₁” (решение 1). Ясно, что дело сводится к определению решающей функции d(х), имеющей два значения 0 и 1, т.е. к определению разбиения Г= (Г ₀, Г ₁) пространства Х всех возможных значений х:

d(x) =

При использовании любой решающей функции d(х) возможны ошибки двух типов:

ошибка 1-го рода: принятие Н ₁ при истинности Н ₀,

ошибка 2-го рода: принятие Н ₀ при истинности Н _1.

любая решающая функция характеризуется двумя условными вероятностями

a = Р (принять Н ₁| Н ₀) = , (1)

b = Р (принять Н ₀| Н ₁) = ,

которые называются вероятностями ошибок 1-го и 2-го рода соответственно. Хотелось бы иметь a и b близкими к нулю, но из (1) ясно, что, вообще говоря, если одна из них уменьшается, например, a (за счет уменьшения Г ₁ ), то другая, b, увеличивается (за счет увеличения Г₀; Г₀ÈГ₁ = Х, Г₀ \ Г₁ = Æ). Существуют различные подходы к определению оптимального правила.

1.1.1..1.1.1Байесовский подход

Будем считать, что многократно сталкиваемся с проблемой выбора между Н ₀ и Н ₁; в этом случае можно говорить о частоте, с которой истинна Н ₀ (или Н ₁ ), т.е. о том, что истинность Н ₀ (или Н ₁) - событие случайное, причем вероятность события, когда верна Н ₀ (или Н ₁),

Р (Н ₀) = q ₀, Р (Н ₁) = q ₁, q ₀ + q ₁ = 1.

Кроме того, будем считать, что за каждую ошибку 1-го рода платим штраф W ₀, а за ошибку 2-го рода - штраф W ₁. Если пользуемся правилом d (с разбиением Г), то средний штраф от однократного использования его

R (Г) = q ₀×a(Г)× W ₀ + q ₁×b(Г)× W ₁.

Назовем правило d (соответственно разбиение Гº (Г₀, Г₁)) оптимальным (в байесовском смысле), если

R (Г) =

Оказывается (и это нетрудно доказывается) оптимальным является правило, для которого область Г₁ такова:

Г₁ = . (2)

В частном случае, если W ₀ = W ₁ = 1, R (Г) имеет смысл безусловной вероятности ошибки, а соответствующее оптимальное правило называется правилом “идеального наблюдателя” или правилом Зигерта- Котельникова.

1.1.1..1.1.2Подход Неймана-Пирсона

Оптимальным (в смысле Неймана-Пирсона) назовем такое правило, которое имеет заданную вероятность ошибки первого рода, а вероятность ошибки второго рода при этом минимальна. Формально, правило d (соответственно разбиение Г) оптимально, если

b(Г) = ,

при условии a(Г ’) £a₀.

Оказывается, для оптимального правила область Г₁ такова:

Г₁ = , (3)

где h определяется из условия

a(h) = a₀ (4)

Замечание. Приведенный результат есть частный случай фундаментальной леммы Неймана - Пирсона, справедливый при условии, что существует корень h уравнения (4). Это условие не является существенно ограничивающим: действительно, при изменении h от 0 до ¥ область Г₁ уменьшается, и a(h) уменьшается от 1 до 0. Можно, однако, привести примеры, когда a(h)имеет скачки, и тогда (3) требует некоторого простого уточнения.