Байесовский подход

Пусть гипотезы и простые и имеют априорные вероятности и соответственно. Тогда байесовский риск решения

Выбор

очевидно, минимизирует байесовский риск. Таким образом, решающее правило байесовского критерия имеет вид

Наиболее мощный критерий. Лемма Неймана- Пирсона

Любое множество такое, что определяет некоторый стастистический критерий, имеющий вероятность ошибки 1-ого рода .

Критерий , имеющий наименьшую вероятность ошибки второго рода среди всех таких критериев, называется наиболее мощным критерием ( у него наибольшая мощность )

Определение.

Критерий называется наиболее мощным критерием объема , если

Следующая теорема содержит достаточные условия существования наиболее мощного критерия.

Теорема (Лемма Неймана-Пирсона)

Пусть для некоторого существует такое , что

Тогда критерий с критической областью

является наиболее мощным критерием объема

Доказательство.

Критерий с критической областью

очевидно является байесовским критерием соответствующим априорному распределению с таким :

Тогда, так как

учитывая, что

получаем, что

Доказательство завершено.

Замечание.

Если распределение случайной величины непрерывно, то наиболее мощный критерий существует для любого .

Пример.

Пусть вектор данных представляет собой выборку из распределения .

Рассмотрим две простые гипотезы относительно действительного параметра

Положим для определенности, что

Тогда наиболее мощный критерий будет иметь критическую область

где определяется из уравнения

Заметим, что критическое множество в данном примере одно и то же для всех альтернатив вида

где _.

Проверка сложных гипотез

В практических задачах часто встречается случай, когда одна или обе гипотезы не являются простыми, например,

Поиск оптимального критерия заданного объема в этом случае, вообще говоря, более сложен.

Равномерно наиболее мощный критерий.

Определение.

Критерий называется равномерно наиболее мощным критерием объема для проверки против , если

для всех

Комментарий к предыдущему примеру.

Критерий , построенный в предыдущем примере, очевидно, является равномерно наиболее мощным, так как он наиболее мощный против любой альтернативы из , его критическая область не зависит от альтернативы и следовательно одна и таже для всех . Обобщая этот пример, можно получить следующее утверждение.

Утверждение.

Пусть существует такая статистика , что при случайная величина является монотонной функцией . Тогда наиболее мощный критерий проверки против любой простой альтернативы из будет равномерно наиболее мощным критерием проверки против .

Доказательство.

См. комментарий к предыдущему примеру.

Доказательство завершено.

Семейства плотностей, обладающие указанным свойством, называются семействами с монотонным отношением правдоподобия.

Проверка непараметрических гипотез. Критерии согласия

Если семейство или не является параметрическим, то соответствующая гипотеза называется непараметрической.

Рассмотрим следующую постановку задачи. Пусть вектор данных представляет собой выборку из распределения с функцией распределения и необходимо проверить гипотезу

против альтернативы

В этом случае основная гипотеза простая, альтернатива непараметрическая.

Данная задача является задачей проверки согласия данных с гипотезой , а соответствующие критерии называются критериями согласия.

Общая идея построения критериев согласия следующая. Эмпирическая функция распределения представляет собой хорошую оценку для , следовательно значительные отклонения от свидетельствуют о справедливости гипотезы .

Поэтому, если определить расстояние между функциями распределения и - , то критическую область критерия согласия разумно выбрать в виде

где константа - выбирается из условия

В зависимости от выбора расстояния можно получить различные критерии согласия.