Метод максим.правдоподобия

В основе его лежит понятие функции правдоподобия. Идея состоит в том, чтобы вероятность получения данной выборки x₁, x₂,..., x_n была бы наибольшей для найденного параметра.

Определение. Пусть ξ – некоторая случайная величина, а x₁, x₂,..., x_n – выборка значений случайной величины ξ.

Если ξ – непрерывная случайная величина с плотностью вероятности p_ξ(x, θ), зависящей от неизвестного параметра θ, то функцией правдоподобия её называется функция

Если же ξ – дискретная случайная величина, и P(ξ=x_i) = P_ξ(x_i, θ) зависит от неизвестного параметра θ, то её функцией правдоподобия называется функция

Метод наибольшего правдоподобия состоит в том, что в качестве оценки неизвестного параметра θ принимается такое значение аргумента θ, при котором функция L принимает своё максимальное значение для данной выборки x₁, x₂,..., x_n.

Такое значение аргумента θ является функцией от x₁, x₂,..., x_n и называется оценкой наибольшего правдоподобия.

Итак, есть оценка наибольшего правдоподобия, если

Т.е. задача нахождения оценки неизвестного параметра сводится к нахождению максимума функции правдоподобия. Согласно правилам дифференциального исчисления, для этого нужно решить уравнение

(1)

называется уравнением правдоподобия, и отобрать то значение , которое образует L в максимум.

Вместо уравнения (1) иногда бывает удобнее решать уравнение

(2)

В силу монотонности логарифмической функции ln L достигнет своего максимума при том же значении θ, что и L.