Проверка статистических гипотез (общие положения)

В этом пункте мы рассмотрим основные теоретические понятия и подходы, используемые при проверке статистических гипотез. Этот материал весьма важен, но непрост в освоении. Поэтому при каких-либо затруднениях при чтении данного параграфа целесообразно заглянуть чуть вперед в п. 3 — там показано, как описываемые понятия и подходы возникают в практических задачах.

Статистические гипотезы. В обычном языке слово «гипотеза» означает предположение. В том же смысле оно употребляется и в научном языке, используясь в основном для предположений, вызывающих сомнения. В математической статистике термин «гипотеза» означает предположение, которое не только вызывает сомнения, но и которое мы собираемся в данный момент проверить.

При построении статистической модели приходится делать много различных допущений и предположений, и далеко не все из них мы собираемся или можем проверить. Эти предположения относятся как к выборочному пространству, так и к распределению вероятностей на нем.

Вопросов о выборочном пространстве обычно не возникает. Вопросы и сомнения относятся к распределению вероятностей. Cpeди них бывают и такие: обладает ли определенным свойством? (Это свойство выражает в статистической форме вопрос, интересующий исследователя с содержательных позиций.) Вопрос можно поставить в форме проверки предположения: сначала высказать гипотезу «Распределение вероятностей обладает таким-то свойством», а затем спросить, верно ли это. Предположение может быть как о конкретном законе распределения (например: «данные являются выборкой из нормально закона с заданными параметрами»), так и о частных характеристиках распределения, таких как симметрия, принадлежность к определенному типу, о значениях параметров и т.д. Соответственно различают простые и составные (сложные) гипотезы:

• простая гипотеза полностью задает распределение вероятностей;

• сложная гипотеза указывает не одно распределение, а некоторое множество распределений. Обычно это множество распределений, обладающих определенным свойством (свойствами).

Статистическая проверка гипотезы состоит в выяснении того, насколько совместима эта гипотеза с имеющимся (наблюдаемым) результатом случайного выбора. Надо, следовательно, решить, совместимо ли с наблюдением х определенное множество распределений вероятностей , соответствующих данной гипотезе. Как итог обсуждения можно высказать следующее определение.

Определение. Статистическая гипотеза — это предположение о распределении вероятностей, которое мы хотим проверить по имеющимся данным.

Остается выяснить, как это можно сделать.

Проверка гипотез. Поговорим прежде о проверке гипотез вообще. Лучше всего, если гипотезу можно проверить непосредственно, тогда не возникает никаких методических проблем. Но если прямого способа проверки у нас нет, приходится прибегать к проверкам косвенным. Это значит, что приходится довольствоваться проверкой некоторых следствий, которые логически вытекают из содержания гипотезы. Если некоторое явление логически неизбежно следует из гипотезы, но в природе не наблюдается, то это значит, что гипотеза неверна. С другой стороны, если происходит то, что при гипотезе происходить не должно, это тоже означает ложность гипотезы. Заметим, что подтверждение следствия еще не означает справедливости гипотезы, поскольку правильное заключение может вытекать и из неверной предпосылки. Поэтому, строго говоря, косвенным образом доказать гипотезу нельзя, хотя опровергнуть — можно.

Впрочем, когда косвенных подтверждений накапливается много, общество зачастую расценивает их как убедительное доказательство в пользу гипотезы. В языке это отражается так, что бывшую гипотезу начинают именовать законом.

Скажем, когда Ньютон выдвинул для объяснения движения небесных тел свой закон всемирного тяготения, он выглядел как некое предположение. По отношению к планетам он давал не больше сведений, чем законы Кеплера. Ньютону нужны были новые объекты, на которых он мог бы проверить действие своего открытия. Таким небесным телом могла бы быть Луна. Мы знаем сейчас, что на ее движение оказывают влияние своим притяжением не только Земля, но и Солнце, а также другие планеты. Поэтому ее движение не является в точности эллиптическим, а из-за близости Луны к Земле мы можем наблюдать эти отклонения. Ньютону удалось объяснить многие особенности движения Луны, но полностью удовлетворен он не был. Может быть, именно поэтому он так долго медлил с опубликованием своего открытия. Для решения этой и других задач небесной механики понадобились усилия лучших ученых следующего, восемнадцатого века1).

Однако впоследствии на основании формулы Ньютона были объяснены не только движение Луны, но и траектории комет, открыты планеты Уран, Нептун и Плутон. Поэтому предположение Ньютона стало считаться уже не гипотезой, а законом природы, в справедливости которого никто не сомневается. Лишь во второй половине XX века, когда стало возможным измерять координаты небесных тел (в частности, искусственных спутников Земли) с точностью до сантиметров, их траектории стало необходимо рассчитывать не по закону Ньютона, а по более точным формулам общей теории относительности Эйнштейна.

Для проверки естественнонаучных гипотез часто применяется такой принцип: гипотезу отвергают, если происходит то, что при ее справедливости происходить не должно. Проверка статистических гипотез происходит так же, но с оговоркой: место невозможных событий занимают события практически невозможные. Причина этого проста: пригодных для проверки невозможных событий, как правило, просто нет.

Альтернативы. Повторим вышесказанное чуть более формально точно. Итак, пусть Н — статистическая гипотеза, т.е. предположение о распределении вероятностей на выборочном пространстве. Будем далее говорить о вероятностях событий, вычисленных в предположении, что Н справедлива, или, коротко — о вероятностях при Н, обозначая их . Если Н — простая гипотеза, то для всякого события А (А — множество в выборочном пространстве) его вероятность определена однозначно. Если гипотеза Н сложная (состоит из многих простых), то обозначает все возможные при Н значения вероятности события А.

Выберем уровень вероятности e, e > 0. Условимся считать событие практически невозможным, если его вероятность меньше e. Когда речь идет о проверке гипотез, число e называют уровнем значимости.

Выберем событие А, вероятность которого при гипотезе меньше e, т.е. . (Если Н — сложная гипотеза, то меньше e должны быть все возможные при Н значения вероятности А.) Правило проверки Н теперь таково:

На основании эксперимента мы отвергаем гипотезу Н на уровне значимости e, если в этом эксперименте произошло событие А.

Таким образом, уровень значимости есть вероятность ошибочно отвергнуть гипотезу, когда она верна.

Определение. Событие А называется критическим для гипотезы Н, или критерием для Н. Если , то e называют гарантированным уровнем значимости критерия А для Н.

Теперь обсудим вопрос о том, как следует выбирать критическое событие. Далеко не всякое маловероятное при гипотезе событие целесообразно использовать для ее проверки. Например, если это событие имеет одну и ту же вероятность и при соблюдении, и при несоблюдении гипотезы, то информация о том, произошло событие или нет, не даст нам ровно никаких сведений о гипотезе. Поэтому при выборе события А следует принимать во внимание вероятность этого события не только при соблюдении гипотезы, но и при ее несоблюдении!

На практике нас, однако, обычно интересуют не все возможные «несоблюдения» гипотезы Н, а лишь некоторые. Во-первых, обычно у наблюдаемого явления х имеются или предполагаются некоторые свойства, которые выполняются и при соблюдении, и при несоблюдении Н, что ограничивает круг возможных распределений при несоблюдении H. Во-вторых, нас могут интересовать некоторые специфические (например, наиболее часто встречающиеся) нарушения Н, и мы можем захотеть построить правило проверки Н, «чувствительное» именно к этим видам отклонений. Поэтому при проверке статистических гипотез рассматривают не только множество распределений на X, допустимых при выполнении Н, но и указывают множество Н' распределений на X, которые мы рассматриваем в качестве «альтернативы» гипотезе Н.

Определение. Распределения, с которыми мы можем встретиться в случае нарушения Н, называют альтернативными распределениями, или альтернативами. (Иногда говорят также о конкурирующих распределениях и о конкурирующих гипотезах.)

Ниже мы увидим, что обычно «специализированные», т.е. рассчитанные на более узкий круг альтернатив, способы проверки статистических гипотез, являются (для этих альтернатив!) более «мощными», чем «универсальные», т.е. рассчитанные на широкий круг альтернатив.

Выбор критического события. Теперь вернемся к вопросу выбора критического события А. Идеальным было бы найти для проверки Н такое событие, которое не может произойти при гипотезе и обязательно происходит при альтернативе: появление (непоявление) такого события было бы наилучшим индикатором для Н. Прекрасно подошло бы и такое критическое событие, вероятность которого близка к 0 при гипотезе и близка к 1 при альтернативе. Однако существование такого события возможно не всегда. Например, при проверке гипотезы о том, что некоторый параметр распределения равен а, против альтернативы о том, что он не равен а, такого события указать нельзя, поскольку при приближении параметра распределения к а вероятность любого события будет приближаться к тому значению, которое она имела бы при параметре, равном а. В подобных случаях приходится довольствоваться меньшим: в качестве критического выбирают событие, вероятность (вероятности — если гипотеза сложная) которого (малая при гипотезе) увеличивается по мере удаления распределения от гипотетического (гипотетических).

В некоторых случаях эту мысль удается осуществить в виде выбора оптимального критического множества заданного уровня значимости. Именно так обстоит дело для многих широко используемых статистических моделей. Например, в схеме Бернулли для некоторых практически важных гипотез и альтернатив существуют наилучшие (наиболее мощные) критерии. Но в целом такие удачи редки. Теоретиками предлагались многие идеи, как рационально выбирать критические множества. Но удовлетворительного общего решения этой проблемы нет.

Статистики критериев. Обычно для построения критического множества используется следующий подход. Пусть Т — некоторая функция на множестве X, принимающая числовые значения. Мы будем называть Т статистикой критерия. Как правило, статистику T выбирают таким образом, чтобы ее распределения при гипотезе и при альтернативе как можно более различались (в случае, если множества распределений Н и Н' «касаются» друг друга — чтобы различие в распределениях Т было как можно большим по мере удаления истинного распределения наблюдений от гипотетического). При таком выборе статистики Т обычно некоторые значения Т (например, слишком большие или слишком малые) являются нетипичными при гипотезе и типичными при альтернативе. Поэтому для построения критического множества А выбирают некоторое множество вещественных чисел А' (множество «нетипичных» при гипотезе значений статистики T), и полагают множество А как

.

Это множество будет критическим для гипотезы на уровне . Поскольку множество А полностью определяется по А', множество А' тоже называют критическим.

Читатель может подумать, что мы не продвинулись ни на шаг вперед: вместо выбора критического множества А надо выбирать критическое множество А'. Но дело в том, что обычно множество А' устроено очень просто. Например, если статистика критерия Т выбрана так,; что она принимает небольшие значения при гипотезе и большие —при альтернативе, то множество А' следует выбирать как , где а — некоторое число. При другом поведении статистики Т множество А' может быть устроено по-другому, например или . Разумеется, следует выбирать множество А' так,чтобы , где e — уровень значимости критерия. С конкретными примерами применения данного подхода можно познакомиться ниже в этом разделе.

Ошибки первого и второго рода. При проверке статистических гипотез возможны ошибочные заключения двух типов:

• отвержение гипотезы в случае, когда она на самом деле верна;

• неотвержение (принятие) гипотезы, если она на самом деле неверна.

Эти возможности называются соответственно ошибками первого рода и ошибками второго рода.

Из-за различного подхода к гипотезе и альтернативе, наше отношение к ошибками первого и второго рода также неодинаково. При построении статистических критериев мы фиксируем максимальную допустимую вероятность ошибки первого рода (то есть уровень значимости критерия), и стремимся выбрать критическое множество таким образом, чтобы минимизировать вероятность ошибки второго рода (или хотя бы сделать так, чтобы эта вероятность была как можно меньше по мере удаления истинного распределения от гипотетического или гипотетических).

Мощность критерия. Обозначим через b вероятность ошибки второго рода статистического критерия. Если альтернативная гипотеза является сложной, то эта вероятность, естественно, зависит от выбора конкретного альтернативного распределения. Если мы рассматриваем альтернативы из какого-либо параметрического семейства распределений , значение b также можно считать функцией от q.

Величину 1 - b обычно называют мощностью критерия. Ясно, что мощность критерия может принимать любые значения от 0 до 1. Чем ближе мощность критерия к единице, тем более эффективен (более «мощен») критерий. Многие известные статистические критерии получены путем нахождения наиболее мощного критерия при заданных предположениях о гипотезе и альтернативе.

Дата добавления: 2014-12-26