Общий анализ алгоритмов оценивания по критерию минимума риска

Осуществленная формализация задачи последовательной минимизации риска оценки параметра измерения, позволяет сформулировать алгоритм определения минимума риска при условии анализа данных в режиме реального времени. При этом, по сравнению со статическим планом, среднее число экспериментов в рамках данного алгоритма может быть в несколько раз меньше при тех же малых вероятностях ошибок, то есть данный алгоритм обладает высокой эффективностью.

Если значение оценки ₀ задается с точностью до неизвестного параметра g, то есть ₀ = ₀(y, g), и для этой оценки достигается минимум апостериорного риска

R (₀(y, g), u, g) = R (, y, g), (3.1)

который не зависит от величины g, то априорная неопределенность в данной оценке не является существенной, а правило решения ₀(y) является равномерно наилучшим правилом решения. В любой конкретной задаче с априорной неопределенностью следует проверить, решив уравнение (3.1), существует или нет равномерно наилучшее решение. Если априорная неопределенность является существенной, то решение уравнения (3.1) зависит от параметра g и представляет собой функцию ₀(y, g), описывающую оптимальное байесово правило решения для заданного значения g.

Для получения рекуррентного выражения для оценки, рассмотрим величину среднего риска для правила решения ₀(y, ) при значении g

R (₀(y, ), g) =(₀(y, ), x, y) p (y, x |g) dxdy

и сравним ее с величиной среднего риска для оптимального байесова решения ₀(x, g) при том же значении g

R ₀(₀(y, g), g) =(₀(y, g), x) p (y, x |g) dxdy.

Для этого составим разность

D R (, g) = R (₀(y, ), g) – R ₀(₀(y, g), g) =

=(₀(y, ), x) – L (₀(y, g), x)] p (y, x |g) dxdy =

=(₀(y,), x)– L (₀(y,g), x)] p (x | y,g) dx ] P (y |g) dy= (,g, y) P (y |g) dy, (3.2)

где

(, g, y) = (₀(y, ), x) – L (₀(y, g), x)] p (x | y, g) dx. (3.3)

Разность D R (, g) должна быть неотрицательна, поскольку при любом значении g правило решения (y, g) минимизирует величину среднего риска. Функция (, g, y) из равенства (3. 3) также неотрицательна, поскольку при любых значениях y и g она представляет собой разность значений апостериорного риска для двух решений ₁ = ₀(y, ) и ₂ = ₀(y, g), а именно второе решение соответствует минимальному значению апостериорного риска. При этом величина D R (, g) и (, g, y) удовлетворяют условиям D R (, g) = 0; (, g, y) = 0 для = =g. Функция (, g, y) удовлетворяет требованиям, предъявляемым к функции потерь, поэтому рассмотрим квадратичную функцию потерь оценивания параметра g, при которой

(, g, y) =₀(y, ) – x)² – (₀(y, g) – x)²] p (x | y, g) dx =

=₀(y, ) – u ₀(y, g)][₀(y, ) + ₀(y, g)] p (x | y, g) dx –

– ₀(y, ) – ₀(y, g)]2 xp (x | y, g) dx =

=[₀²(y, ) – ₀²(y, g)]–2[₀(y, ) – ₀(y, g)] =

= [₀(y, ) – ]²– [₀(y, g) – ]²,

а

D R (, g) =[₀(y, ) – ]² – [₀(y, g) – ]²} P (y |g) dy.

Из данного выражения следует, что функция потерь

(, g, y)= [₀(y, ) – ₀(y, g)]²– 2[₀(y, ) – ₀(y, g)][₀(y, g) – ]=

= [₀(y, ) – ₀(y, g)]²[1 – 2]. (3.4)

Анализ уравнения (3.4) показывает, что функция потерь и, соответствующий ей, средний риск можно уменьшить не только за счет первого множителя, который характеризует уменьшение потерь на данном шаге оценки измеряемого параметра, но и второго сомножителя, анализ которого будет проведен в разд. 3.4.

Используя выражение для риска с функцией потерь (3.4) и учтя результаты из работы [83], получаем рекуррентное выражение для оценки математического ожидания по экспериментальным данным:

_n (y, ) = _{n –1}(y, ) + R_n ^1/2(_{0 n} (y, ), _n). (3.5)

Величина R (₀(y, ), ) является функционалом оценки = =(y), который может принимать различные значения при разных значениях g. Поскольку истинное значение g неизвестно, то ни величина апостериорного риска, ни правило решения (y, g) не определены, и необходимо ввести новую меру ожидаемых потерь – оценку апостериорного риска, не зависящую от значения g. Оценкой величины R (, y, g), обеспечивающей полное сохранение последующего байесова формализма, является

(, y) = R (, y, ),

где = (y) – некоторая оценка значения g, найденная по данным наблюдения y. При подстановке (, y) вместо неизвестного значения R (, y, g) в правило решения (3.1), обеспечивающее минимум ожидаемых потерь при каждом значении y, получим правило решения (y)=(y, )=(y, (y)), отличающееся от оптимального байесова правила только заменой g оценочным значением =(y). Данная оценка (y) должна обеспечить равномерно наилучшее приближение среднего риска правила решения (y)= ₀(y, ) к минимальному байесову риску правила решения ₀(y, g) с известным значением g. При равномерно наилучшем приближении максимальное отклонение должно быть минимальным, поэтому наилучшую оценку (y)= =₀(y) следует выбирать, исходя из условия

D R (, g).

Таким образом, с учетом выражения (3.2) наилучшая оценка ₀(y) является минимаксной оценкой параметра g плотности распределения вероятности P (y |g)= x |g) dx относительно функции потерь (, g, y) из (3. 3). Если множество значений параметров x непрерывно, то минимаксная оценка является оценкой максимального правдоподобия, то есть наилучшая оценка ₀(y) совпадает с оценкой максимального правдоподобия ₀(y) = g*(y), которая определяется из уравнения правдоподобия P (y |g*) = P (y |g) или, при отсутствии ограничений на область Г = { A _l, B } значений g, – из эквивалентного ему уравнения

Ñ_gln P (y |g) = 0,

где Ñ_g = {, ,...} – оператор градиента, ставящий в соответствие любой функции от g вектор - столбец частных производных этой функции по всем компонентам вектора g. Синтезированный алгоритм (3.5) оценки измеряемого параметра должен обеспечивать от шага к шагу сходимость его решения к _n и одновременную минимизацию второго слагаемого уравнения (3.4), то есть направленное движение к истинной оценке измеряемого параметра.

При использовании оценки максимального правдоподобия g*=g*(y), определяемой из уравнения правдоподобия P (y |g*) = P (y |g), и адаптивном байесовом правиле оценивания (y) = ₀(y, g*(y)) получается замкнутый конструктивный алгоритм, который заключается: в отыскивании оптимального байесова правила оценивания ₀(y, g) для фиксированного значения g путем минимизации апостериорного риска R (, y, g); нахождении оценки максимального правдоподобия g* = g*(y) путем решения уравнения правдоподобия; замене в оптимальном байесовом правиле оценивания 0(y, g) неизвестного значения g на его оценку g* = g*(y). При слабых ограничениях на функцию потерь L(, g, y), для которых оценка максимального правдоподобия g* является минимаксной оценкой, эта процедура обеспечивает получение правила оценивания (y), которое дает равномерно наилучшее приближение к среднему риску абсолютно оптимального байесова правила оценивания с известным значением g.

При определении адаптивных байесовых правил решения используются рекуррентные методы определения оптимальных оценок параметров, которые обеспечивают минимизацию риска, в виде

_{N +1} = _N + S_Ns_N, N = 0, 1,..., (3.6)

где ₀ Î X – начальное приближение; s_N – направление движения; S_N ³0 – длина шага. В качестве начального приближения оценки ₀ выбирают величину оценки, которая обеспечивает минимальный априорный риск для искомой оценки [1, 98] в соответствии с главами 2 и 3. Данные методы оптимизации различаются способом выбора направления движения s_N, для которого должно обеспечиваться условие релаксационности. Причем число S_N с точностью до множителя определяет расстояние от точки _N до _{N +1}. Трудоемкость вычисления величины S_N должна быть согласована с трудоемкостью вычисления s_N и S_N.

Дата добавления: 2014-01-05