Критерии согласия Колмогорова и омега-квадрат в случае простой гипотезы

Простая гипотеза. Рассмотрим ситуацию, когда измеряемые данные являются числами, иначе говоря, одномерными случайными величинами. Распределение одномерных случайных величин может быть полностью описано указанием их функций распределения. И многие критерии согласия основаны на проверке близости теоретической и эмпирической (выборочной) функций распределения.

Предположим, что имеем выборку n. Обозначим истинную функцию распределения, которой подчиняются наблюдения, G(х), эмпирическую (выборочную) функцию распределения – F_n(х), а гипотетическую функцию распределения – F(х). Тогда гипотеза Н о том, что истинная функция распределения есть F(х), записывается в виде Н: G(·) = F(·).

Как проверить гипотезу H? Если Н верна, то F_n и F должны проявлять определенное сходство, и различие между ними должно убывать с увеличением n. Вследствие теоремы Бернулли F_n(х) → F(х) при n → ∞. Для количественного выражения сходства функций F_n и F используют различные способы.

Для выражения сходства функций можно использовать то или иное расстояние между этими функциями. Например, можно сравнить F_n и F в равномерной метрике, т.е. рассмотреть величину:

(1.1)

Статистику D_n называют статистикой Колмогорова.

Очевидно, что D_n - случайная величина, поскольку ее значение зависит от случайного объекта F_n. Если гипотеза Н₀ справедлива и n → ∞, то F_n(x) → F(x) при всяком х. Поэтому естественно, что при этих условиях D_n → 0. Если же гипотеза Н₀ неверна, то F_n → G и G ≠ F, а потому sup_-∞<x<∞|F_n(x) - F(x)| → sup_x|G(x) - F(x)|. Эта последняя величина положительна, так как G не совпадает с F. Такое различие в поведении D_n в зависимости от того, верна Н0 или нет, позволяет использовать Dn как статистику для проверки Н₀.

Как всегда при проверке гипотезы, рассуждаем так, как если бы гипотеза была верна. Ясно, что Н₀ должна быть отвергнута, если полученное в эксперименте значение статистики D_n кажется неправдоподобно большим. Но для этого надо знать, как распределена статистика D_n при гипотезе Н: F= G при заданных n и G.

Замечательное свойство D_n состоит в том, что если G = F, т.е. если гипотетическое распределение указано правильно, то закон распределения статистики D_n оказывается одним и тем же для всех непрерывных функций G. Он зависит только от объема выборки n.

Доказательство этого факта основано на том, что статистика не изменяет своего значения при монотонных преобразованиях оси х. Таким преобразованием любое непрерывное распределение G можно превратить в равномерное на отрезке [0, 1]. При этом F_n(x) перейдет в функцию распределения выборки из этого равномерного распределения.

При малых п для статистики D_n при гипотезе Н₀ составлены таблицы процентных точек. При больших п распределение D_n (при гипотезе Н₀) указывает найденная в 1933 г. А.Н.Колмогоровым предельная теорема. Она говорит о статистике (поскольку сама величина D_n → 0 при Н₀, приходится умножать ее на неограниченно растущую величину, чтобы распределение стабилизировалось). Теорема Колмогорова утверждает, что при справедливости Н₀ и если G непрерывна:

(1.2)

Эта сумма очень легко считается в Maple. Для проверки простой гипотезы Н₀: G = F требуется по исходной выборке вычислить значение статистики D_n. Для этого годится простая формула:

(1.3)

Здесь через х_k - элементы вариационного ряда, построенного по исходной выборке. Полученную величину D_n затем надо сравнить с извлеченными из таблиц или рассчитанными по асимптотической формуле критическими значениями. Гипотезу Н₀ приходится отвергать (на выбранном уровне значимости), если полученное в опыте значение D_n превосходит выбранное критическое значение, соответствующее принятому уровню значимости.

Другой популярный критерий согласия получим, измеряя расстояние между F_n и F в интегральной метрике. Он основан на так называемой статистике омега-квадрат:

(1.4)

Для его вычисления по реальным данным можно использовать формулу:

(1.5)

При справедливости гипотезы Н₀ и непрерывности функции G распределение статистики омега-квадрат, так же, как распределение статистики D_n, зависит только от n и не зависит от G.

Так же, как для D_n, для при малых n имеются таблицы процентных точек, а для больших значений n следует использовать предельное (при n → ∞) распределение статистики n . Здесь снова приходится умножать на неограниченно растущий множитель. Предельное распределение было найдено Н.В.Смирновым в 1939 г. Для него составлены подробные таблицы и вычислительные программы. Важное с теоретической точки зрения свойство критериев, основанных на D_n и : они состоятельны против любой альтернативы G ≠ F.

Статистический критерий для проверки гипотезы Н называют состоятельным против альтернативы Н', если вероятность с его помощью отвергнуть Н, когда на самом деле верна Н', стремится к 1 при неограниченном увеличении объема наблюдений.

Состоятельный против всех альтернатив критерий, в принципе, при большом числе наблюдений, способен обнаружить любое отступление от гипотезы. Таким образом, состоятельность критериев Колмогорова и омега-квадрат означает, что любое отличие распределения выборки от теоретического будет с их помощью обнаружено, если наблюдения будут продолжаться достаточно долго.

Практическую значимость свойства состоятельности не велика, так как трудно рассчитывать на получение большого числа наблюдений в неизменных условиях, а теоретическое представление о законе распределения, которому должна подчиняться выборка, всегда приближённое. Поэтому точность статистических проверок не должна превышать точность выбранной модели. Свойство состоятельности является желательным.