Несмещенные, эффективные и состоятельные оценки

Для того чтобы статистические оценки давали хорошие приближения оцениваемых параметров, они должны удовлетворять определенным требованиям.

Пусть Θ∗ - статистическая оценка неизвестного параметра Θ теоретического распределения. Допустим, что по выборке объема n найдена оценка Θ∗

1. Повторим опыт, т. е. извлечем из генеральной совокупности другую выборку того же объема и по ее данным найдем оценку Θ∗

2. Повторяя опыт многократно, получим числа Θ∗ 1,Θ∗ 2,...,Θ∗ k,, которые, вообще говоря, различны между собой. Таким образом, оценку Θ∗, можно рассматривать как случайную величину, а числа Θ∗1,Θ∗2,...,Θ∗ k, - как ее возможные значения. Представим, что оценка Θ∗ дает приближенное значение Θ с избытком; тогда каждое найденное по данным выборок число Θ∗ i (i = 1, 2,..., k больше истинного значения Θ. Ясно, что в этом случае и математическое ожидание (среднее значение) случайной величины Θ∗ больше, чем Θ, т. е. M[Θ∗] > Θ. Если Θ∗ дает оценку с недостатком, то M[Θ∗] < Θ.

Таким образом, использование статистической оценки, математическое ожидание которой не равно оцениваемому параметру, привело бы к систематическим (одного знака) ошибкам. По этой причине естественно потребовать, чтобы математическое ожидание оценки Θ∗ было равно оцениваемому параметру. Хотя соблюдение этого требования не устранит ошибок (одни значения Θ∗ больше, а другие меньше Θ), однако ошибки разных знаков будут встречаться одинаково часто. Иными словами, соблюдение требований M[Θ∗] = Θ гарантирует от получения систематических ошибок.

Определение. Несмещенной называют статистическую оценку Θ∗, математическое ожидание которой равно оцениваемому параметру Θ при любом объеме выборки, т. е. M[Θ∗] = Θ

В теории ошибок измерений систематическими ошибками называют неслучайные ошибки, искажающие результаты измерений в одну определенную сторону. Например, измерение длины растянутой рулеткой систематически дает заниженные результаты.

Определение. Смещенной называют оценку, математическое ожидание которой не равно оцениваемому параметру.

Определение. Эффективной называют статистическую оценку, которая (при заданном объеме выборки n) имеет наименьшую возможную дисперсию.

Определение. Состоятельной называют статистическую оценку, которая при n → ∞ стремится по вероятности к оцениваемому параметру. Например, если дисперсия несмещенной оценки при n → ∞ стремится к нулю, то такая оценка будет и состоятельной.