Метод наибольшего правдоподобия

Метод наибольшего правдоподобия точечной оценки неизвестных параметров заданного распределения сводится к отысканию максимума функции одного или нескольких оцениваемых параметров.

А. Дискретные случайные величины. Пусть X − дискретная случайная величина, которая в результате n опытов приняла возможные значения х ₁, х ₂,..., х_п. Допустим, что вид закона распределения величины X задан, но неизвестен параметр Q, которым определяется этот закон; требуется найти его точечную оценку.

Обозначим Q* = Q*(х ₁, х ₂,..., х_п) вероятность того, что в результате испытания величина X примет значение x_i через p(х_i; Q).

Функцией правдоподобия дискретной случайной величины X называют функцию аргумента Q:

L (х ₁, х ₂,..., х_п; Q) = p(х ₁; Q)×p(х ₂; Q)×…×p(х_n; Q)

Оценкой наибольшего правдоподобия параметра Q называют такое его значение Q*, при котором функция правдоподобия достигает максимума.

Функции L и ln L достигают максимума при одном и том же значении Q, поэтому вместо отыскания максимума функции L ищут, максимум функции ln L.

Логарифмической функцией правдоподобия называют функцию ln L.

Точку максимума функции ln L аргумента Q можно искать, например, так:

1. Найти производную

2. Приравнять производную нулю и найти критическую точку Q* − корень полученного уравнения (его называют уравнением правдоподобия).

3. Найти вторую производную ; если вторая производная при Q = Q* отрицательна, то Q* − точка максимума.

Найденную точку максимума Q* принимают в качестве оценки наибольшего правдоподобия параметра Q.

Б. Непрерывные случайные величины. Пусть X − непрерывная случайная величина, которая в результате n испытаний приняла значения х ₁, х ₂,..., х_п. Допустим, что вид плотности распределения − функции f (х) − задан, но неизвестен параметр Q, которым определяется эта функция.

Функцией правдоподобия непрерывной случайной величиныX называют функцию аргумента Q:

L (х ₁, х ₂,..., х_п; Q) = f (х ₁; Q)× f (х ₂; Q)×…× f (х_n; Q).

Оценку наибольшего правдоподобия неизвестного параметра распределения непрерывной случайной величины ищут так же, как в случае дискретной случайной величины.

Если плотность распределения f (х) непрерывной случайной величины определяется двумя неизвестными параметрами Q₁ и Q₂, то функция правдоподобия есть функция двух независимых аргументов Q₁ и Q₂:

L = f (х ₁; Q₁, Q₂)× f (х ₂; Q₁, Q₂)×…× f (х_n; Q₁, Q₂)

Далее находят логарифмическую функцию правдоподобия и для отыскания ее максимума составляют и решают систему

Дата добавления: 2014-01-06