Байесовское статистическое оценивание

Определение: Байесовский вывод — статистический вывод, в котором свидетельство и (или) наблюдение используются, чтобы обновить или вновь вывести вероятность того, что гипотеза может быть верной.

Название байесовский происходит от частого использования в процессе вывода теоремы Байеса, которая была изложена в курсе теории вероятностей.

Байесовский вывод использует аспекты научного метода, который вовлекает сбор свидетельств, предназначенных для того, чтобы поддерживать или не поддерживать данную гипотезу. Поскольку свидетельства накапливаются, степень веры в гипотезу должна измениться. С достаточным количеством свидетельств, она должна стать либо очень высокой, либо очень низкой.

Таким образом, сторонники байесовского вывода говорят, что он может использоваться, чтобы провести различие между противоречивыми гипотезами: гипотезы с очень высокой поддержкой должны быть приняты как истинные, а с очень низкой поддержкой должны быть отклонены как ложные. Однако, противники говорят, что этот метод вывода может привести к отклонению благодаря исходному верованию, которого каждый придерживается до того, когда какое-либо свидетельство будет собрано (это — форма так называемого индуктивного отклонения (англ. bias)).

Байесовский вывод использует числовую оценку степени веры в гипотезу до получения свидетельства, чтобы вычислить числовую оценку степени веры в гипотезу после того, как свидетельство было получено (этот процесс повторяется, когда получено дополнительное свидетельство).

В индукционном процессе байесовский вывод обычно опирается на степени веры, или субъективные вероятности, и не обязательно утверждает, что обеспечен объективный метод индукции. Тем не менее, некоторые байесовские статистики полагают, что вероятности могут иметь объективное значение, и поэтому байесовский вывод может обеспечить объективный метод индукции.

Теорема Байеса подправляет вероятность гипотезы, данную новым свидетельством, следующим образом:

,

где

· H представляет конкретную гипотезу, которая может быть, а может и не быть некоторой нулевой гипотезой;

· P называется априорной вероятностью H, которая была выведена прежде, чем новое свидетельство E стало доступным;

· называется условной вероятностью наблюдения свидетельства E, если гипотеза H оказывается верной (её также называют функцией правдоподобия, когда она рассматривается как функция H для фиксированного E);

· называется маргинальной вероятностью E: априорная вероятность наблюдения нового свидетельства E согласно всем возможным гипотезам; может быть вычислено по формуле полной вероятности:

,

как сумма произведений всех вероятностей любого полного

набора взаимно исключающих гипотез и соответствующих

условных вероятностей;

· называется апостериорной вероятностью H для данного E.

Приведем простой пример байесовского вывода.

Пример: Предположим, что есть две полных вазы печенья. В первой вазе 10 шоколадного и 30 простого печенья, в то время как во второй вазе – 20 каждого сорта. Студент выбирает вазу наугад, и затем выбирает печенье наугад. Мы можем предположить, что нет никакой причины полагать, что студент рассматривает одну вазу иначе другой, аналогично и для печенья. Печенье, оказывается, простым. Насколько вероятно, что студент выбрал его из первой вазы?

Интуитивно, кажется ясным, что ответ должен быть больше половины, так как есть больше простого печенья в первой вазе. Точный ответ дается теоремой Байеса. Пусть — выбор первой вазы, а — выбор второй вазы. Предполагается, что вазы идентичны с точки зрения студента, таким образом , а вместе должны составить 1, таким образом, обе равны 0,5.

Событие E — наблюдение простого печенья. Из содержания ваз, мы знаем что = 0,75 и = 0,5.

Формула Байеса тогда даёт

До того, как мы наблюдали печенье, вероятность, которую мы назначили для студента, выбиравшего первую вазу, была априорной вероятностью , равной 0,5. После наблюдения печенья, мы должны пересмотреть вероятность , которая теперь равна 0,6.

10.Статистическая проверка гипотез: основные типы

гипотез и общая логическая схема статистического

критерия; характеристики качества критерия.

Определение: Статической гипотезой называют гипотезу о виде неизвестного распределения или о параметрах известных распределений.

Определение: Нулевой (основной) гипотезой называют выдвинутую гипотезу . Конкурирующей (алтернативной) называют гипотезу , которая противоречит основной гипотезе.

Наряду с выдвинутой гипотезой рассматривают и альтернативную гипотезу . Если выдвинутая гипотеза отвергается, обычно принимается альтернативную гипотеза.

Пример: Если : M(X) = 10, то альтернативная гипотеза : M(X) 10.

В результате проверки может быть принято правильное или неправильное решение. Различают ошибки двух родов.

Определение: Ошибка первого рода состоит в том, что будет отвергнута правильная гипотеза. Ошибка второго рода состоит в том, что будет принята неправильная гипотеза.

Обычно ошибка первого рода влечёт за собой ошибку второго рода. Но на практике возможны и другие ситуации.

Например, если отвергается правильный закон распределения, то происходит ошибка первого рода. Но после этого может быть принято решение уточнить данные, то есть другая гипотеза не принимается.

Если же принимается другое распределение, то совершается ошибка второго рода.

Дата добавления: 2014-12-27