Стандартные методы получения точечных оценок

I) Метод моментов.

Определение 1. Выборочными начальными и центральными моментами порядка называются случайные величины

.

При построении оценки метода моментов мы берем в качестве оценки такое (случайное) значение параметра , при котором теоретические моменты совпадают с выборочными.

Пример 1. Пусть случайная величина равномерно распределена на промежутке с концами и . Ясно, что и являются параметрами данного распределения. При этом

.

Приравнивая и к соответствующим выборочным моментам, получаем систему уравнений

,

откуда . Полученные равенства и являются оценками метода моментов искомых параметров.

Достоинство метода моментов-его простота. Важнейший недостаток-неоднозначность полученных оценок. Приравнивая различные моменты, мы, вообще говоря, можем получить различные оценки для одних и тех же параметров.

II) Метод максимального правдоподобия

Пусть потность распределения случайной величины , где неизвестный параметр, и пусть имеется выборка значений этой случайной величины. Идея метода максимального правдоподобия состоит в том, что в качестве оценки параметра следует принять такое значение, при котором вероятность появления именно этой имеющейся выборки максимальна. Эта вероятность, условно говоря, пропорциональна функции

,

которую называют функцией правдоподобия Фишера. Таким образом, мы приходим к задаче нахождения такого значения параметра , при котором функция принимает наибольшее значение. Необходимое условие экстремума дает уравнение

,

решение которого и определяет оценку метода максимального правдоподобия. Если параметров несколько , то вместо одного уравнения получаем систему уравнений

.

Часто бывает удобнее использовать не , а ее логарифм . Поскольку натуральный логарифм- возрастающая функция, то и принимают наибольшее значение при одном и том же значении параметра.

Пример 1. Найти оценки максимального правдоподобия для параметров нормального распределения.

Решение. Функция правдоподобия имеет вид

,

а логарифмическая функция правдоподобия -

.

Ясно, что удобнее искать наибольшее значение последней. Имеем:

.

Выражая из этих уравнений и , получаем

, .