Точечные оценки неизвестных параметров распределения

При точечном оценивании ищут функцию : , зависящую только от выборки (такие функции называют статистиками), значения которой при заданной выборке принимают за приближенное значение неизвестного параметра . Функция – оценка.

При заданной выборке является числом или числовым вектором. В общем случае – с.в., получаемая заменой на – копии , . зависит от объема выборки:

Могут сущесвтовать много оценок одного параметра . Для выбора лучшей из них используют следующие критерии сравнения качества оценок, формулировка которых принадлежит Фишеру:

1) Несмещенность оценки

2) Состоятельность

3) Эффективность

1. Оценка называется несмещенной оценкой неизвестного параметра , если . Погрешность , возникающая при замене неизвестного параметра известной оценкой можно записать в виде: ,

где – случайная погрешность , а систематическая погрешноть или смещение.

Таким образом, несмещенность оценки означает отсутствие систематической погрешности в результатах оценивания. Другими словами, несмещенность означает, что, по крайней мере, в среднем используемая оценка приводит к желаемому результату , для которой смещение в называется асимптотически несмещенной.

2. Состоятельность оценки. Оценка называется состоятельной оценкой неизвестного параметра , если при возрастании объема выборки она сходится по вероятности к истинному значению параметра .

, .

Свойство состоятельности верно для любой оценки. Если является несмещенной, то достаточным условием ее состоятельности является стремление к нулю дисперсии (при ), . Это следует из неравенства Чебышева, в соответствии с которым

.

3) Эффективность оценки. Могут существовать несколько несмещенных и состоятельных оценок одного и того же параметра , тогда следует отдать предпочтение той из них, у которой меньше дисперсия, поскольку дисперсия характеризует погрешность оценки. Обозначим – класс несмещенных и состоятельных оценок параметра .

Опр. Говорят, что оценка более эффективна, чем , если .

Опр. Оценка называется эффективной оценкой , если она имеет наименьшую дисперсию среди всех оценок из :

Эффективная оценка существует крайне редко. Эффективность оценки позволяет установить неравенство Рао-Крамера:

Для достаточно большого класса непрерывных распределений и любой несмещенной оценки неизвестного параметра справедливо неравенство:

, где – плотность вероятностей наблюдаемой с.в.

Величину называют информацией Фишера,

Очевидно, что оценка, обращающая неравенство Рао-Крамера в равенство, является эффективной. Если оценка параметра не является несмещенной, то ее погрешность определяется следующим образом.

– среднеквадратичная погрешность (, если – несмещенная).

Т.о. в общем случае малость дисперсии оценки не означает малость ее среднеквадратичной погрешности, более того, имеет , но ее среднеквадратичная погрешность может быть как угодно велика.

\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\