Непараметрическая оценка плотности вероятности типа Розенблатта-Парзена

В процессе синтеза непараметрической оценки плотности вероятности используется известное определение

(2.1)

где - функция распределения случайной величины . Запишем разностный аналог (2.1) с бесконечно малым параметром (рис. 2.3).

Рис. 2.3. График функции распределения и индикаторной функции , которая определена на интервале .

,

где

В данном случае ядерная функция вводится для перехода к бесконечным пределам интегрирования. Используя известное определение , нетрудно заметить, что является математическим ожиданием функции .

Напомним некоторые оценки математического ожидания:

Тогда, переходя к оцениванию по выборке независимых наблюдений из генеральной совокупности , получаем статистику

(2.2)

Впервые данная оценка была предложена Розенблаттом в 1956 году, а дальнейшее её обобщение и исследование свойств были проведены Парзеном в 1962 г.

Проверим, обладает ли эта оценка (2.2) основным свойством плотности вероятности

.

Исходя из свойств плотности вероятности, площадь под ядерной функцией должна быть равна единицы. Поэтому будем использовать ядерные функции, для которых справедливо соотношение

.

Если - многомерная случайная величина, то непараметрическая оценка плотности вероятности имеет вид

. (2.3)

Для трёхмерной случайной величины непараметрическая оценка плотности вероятности принимает вид:

.

При синтезе многомерной оценки предполагается, что многомерное ядро представимо в виде произведения .

Проверим, обладает ли многомерная оценка (2.3) свойством плотности

.

Основные виды ядерных функций приведены на рис. 2.4-2.6.

Рис. 2.4. Ступенчатая ядерная функция
Рис. 2.5. Ядерная функция Епанечникова
Рис. 2.6. Треугольная ядерная функция

Ядерная функция – это весовая функция, характеризующая вес по отношению к (аналог меры близости между и ).

Коэффициент размытости ядерной функции характеризует её область определения (расплывчатость ядра). При увеличении количества наблюдений значения , т.е. .

Ядерная функция, чтобы сохранить площадь равную 1, должна стремится к дельта-функции

.

Рис. 2.7 Ядерные функции с различными коэффициентами размытости