Теорема Пирсона

Лабораторная работа №15. Изучение критерия хи-квадрат Пирсона

Рассмотрим задачу по проверке близости теоретической и эмпирической функций распределения для дискретного распределения. При этом закон распределения задаётся набором вероятностей р₁,..., р_k, а гипотеза сводится к тому, что эти вероятности приняли определенные значения. То есть гипотеза Н₀: р₁ = р₁₀, р₂ = р₂₀,..., р_k = р_k0. Для решения такой задачи используется теорема Пирсона.

Пусть n - число независимых повторений некоего опыта, который заканчивается одним из k (k - натуральное число) элементарных исходов А₁,..., А_k, причём вероятности этих исходов - р₁,..., р_k, p₁ +... + р_k = 1. Обозначим через m₁,...,m_k (m₁ +... + m_k = n) то количество опытов, которые закончились исходами А₁,...,А_k. Введем случайную величину . Тогда при неограниченном росте n → ∞ случайная величина асимптотически подчиняется распределению с (k - 1) степенями свободы.

Для проверки гипотезы Н0 о том, что вероятности р1,…, рk приняли определенные значения Н₀: р₁ = р₁₀, р₂ = р₂₀,..., р_k = р_k0, рассмотрим следующую статистику:

Статистика называется статистикой хи-квадрат Пирсона для простой гипотезы.

Фактически величина X²/n представляет собой квадрат некоего расстояния между двумя k-мерными векторами: вектором наблюдаемых относительных частот (m_i/n) и вектором предсказанных ненаблюдаемых вероятностей (р_i0). От евклидового расстояния это расстояние отличается тем, что разные координаты входят в него с разными весами. Если верна гипотеза Н₀, то асимптотическое поведение X² при n → ∞ указывает теорема Пирсона. Чтобы понять, что происходит, когда Н₀ неверна, заметим, что по закону больших чисел (m_i/n) → р_i при n → ∞ для всех допустимых i = 1,...,k. Поэтому при n → ∞: . Если гипотеза неверна, то X² → ∞ при n → ∞. Значит, гипотеза Н₀ должна быть отвергнута, если полученное в опыте значение X² слишком велико. Термин "слишком велико" означает, что наблюденное значение X² имеет малую вероятность, то есть превосходит критическое значение, которое легко рассчитать в Maple или взять из таблиц распределения хи-квадрат. Так как вероятность Р( ≥ X²) - малая величина, то маловероятно случайно получить такое же, как в опыте, или еще большее расхождение между вектором частот и вектором вероятностей.

Асимптотический характер теоремы Пирсона, лежащий в основе этого правила, требует осторожности при его практическом использовании. На него можно полагаться только при больших n. Достаточно велико должно быть и n, и все и произведения np_i. Проблема применимости аппроксимации (непрерывное распределение) к статистике X², распределение которой дискретно, оказалась сложной. Согласно имеющемуся опыту, аппроксимация применима, если все ожидаемые частоты np_i > 10. Если число различных исходов k велико, граница для np_i может быть снижена (до 5 или даже до 3, если k порядка нескольких десятков). Чтобы соблюсти эти требования, на практике порой приходится объединять несколько исходов и переходить к схеме Бернулли с меньшим k.

Описанный способ для проверки согласия можно прилагать не только к испытаниям Бернулли, но и к произвольным группам данных. Предварительно наблюдения надо превратить в испытания Бернулли путем группировки. Делают это так: пространство наблюдений разбивают на конечное число непересекающихся областей, а затем для каждой области подсчитывают наблюденную частоту и гипотетическую вероятность. При разбиении надо заботиться о том, чтобы правило проверки гипотезы об исходном распределении данных было достаточно чувствительным к возможным альтернативам, то есть нельзя, например, все данные объединить в одну область.

Вопрос о сравнении наблюденных в опыте частот с теми, которые предписывает теория (ради проверки этой теории) возникает во многих задачах. Рассмотрим способ сопоставления наблюдаемых частот с частотами, рассчитанными по модели. Обозначим наблюдаемые частоты через Н; ожидаемые (теоретические) частоты - Т. Если модель правильно описывает действительность, числа Н и Т должны быть близки друг к другу, сумма квадратов отклонений (Н - Т)² не должна быть большой. Разумно в общую сумму отдельные слагаемые вносить с различными весами, поскольку чем больше Т, тем больше Н может от него отклоняться за счет действия случая без отступления от модели. В качестве меры близости наблюдаемых и ожидаемых частот используется величина:

,

где сумма берется по всем ячейкам таблицы сопряженности, служащая мерой согласия опытных данных с теоретической моделью. Если в конкретном опыте величина X² оказывается чрезмерно большой, считают, что ожидаемые частоты слишком сильно отличаются от наблюдаемых и отвергают нулевую гипотезу. Распределение случайной величины X² в случае, когда гипотеза верна, находят, используя следующую теорему.

Дата добавления: 2014-12-24