Минимаксиминный принцип

Принцип асимптотической оптимальности

Принцип предпочтения, связанный с равномерно наилучшим правилом решения

СООТВЕТСТВИЕ АДАПТИВНОГО БАЙЕСОВА ПРАВИЛА РЕШЕНИЯ ПРИНЦИПАМ ОПТИМАЛЬНОСТИ В УСЛОВИЯХ АПРИОРНОЙ НЕОПРЕДЕЛЕННОСТИ

 

Рассмотрим теперь, каким из описанных в § 4.3 принципам пред­почтения и в какой мере удовлетворяет адаптивное байесово правило решения. Это позволит нам установить, является ли правило решения (6.2.18) оптимальным и если да, то каков именно смысл его оптималь­ности.

 

Адаптивное байесово правило (6.2.18) удовлетворяет этому принци­пу в том смысле, что если равномерно наилучшее правило решения существует, то правило решения (6.2.18) обязательно будет таким пра­вилом. Это следует из того, что правило решения (6.2.18) имеет струк­туру оптимального байесова правила, которое в случае существования равномерно наилучшего решения просто не зависит от g.

Более того, адаптивное байесово правило в соответствии с опреде­лениями § 6.2 (в силу выполнения требования (6.2.12)) является рав­номерно наилучшим приближением к оптимальному байесову правилу решения с известным значением g и обладает тем свойством, что наи­большее (по всему множеству значений g) уклонение среднего риска для этого правила от минимально возможного при данном g среднего риска меньше, чем для любого другого правила решения. Таким обра­зом, адаптивное байесово правило решения является самым хорошим из всех приближенно равномерно наилучших правил решения.

 

Адаптивное байесово правило решения, очевидно, удовлетворяет этому принципу. Это следует из того, что, во-первых, оно имеет ту же структуру, что и оптимальное байесово правило решения с заменой не­известного значения g на оценку максимального правдоподобия g*, а во-вторых, из сходимости оценки максимального правдоподобия к истинному значению g. Тем самым асимптотически адаптивное байе­сово правило решения совпадает с обычным байесовым правилом и дает ту же величину среднего риска.

 

Адаптивное байесово правило решения (при всех g) лучше (не ху­же) минимаксиминного правила решения. Это следует из того, что принцип выбора обоих видов правил одинаков - берется байесово правило решения, определенное с точностью до параметра g, подбирается наилучшее из наихудших значений g и подставляется в байесово пра­вило решения - за исключением одной весьма существенной детали: в минимаксиминном правиле решения наилучшее значение выбирается из заданного числового множества его значений и не зависит от данных наблюдения х; в адаптивном правиле это значение выбирается из зна­чительно более обширного множества значений всех g(х), в результате чего наилучшее значение подбирается для каждого х. Поскольку мно­жество всех функций g(x) отображающих х в g, содержит в качестве подмножества и функции вида g(x) = g = const при всех x используемые при выборе минимаксиминного правила решения, то ясно, что послед­нее не может быть лучше адаптивного правила ни при каких истинных значениях g.