Проверка статистических гипотез

Во многих практических ситуациях исследователю приходится принимать решение о том, какая из возможностей имеет место: продукция может быть бракованной или качественной, уровень преступности может увеличиться или уменьшиться по сравнению с предыдущим периодом, новое лекарство может быть эффективным или неэффективным при лечении определенных заболеваний, точность обработки детали в пределах нормы, ниже нормы или выше её и т. п..

Для проверки подобных утверждений выдвигаются гипотезы, которые в дальнейшем подвергаются проверке с использованием статистических критериев. Статистической гипотезой называется предположение о свойстве генеральной совокупности, которое можно проверить, опираясь на данные выборки. Ниже приведены формулировки некоторых статистических гипотез:

1. Результаты наблюдений имеют нормальное распределение с нулевым математическим ожиданием?

2. Результаты наблюдений имеют функцию нормального распределения с нулевым математическим ожиданием и единичной дисперсией?

3. Результаты наблюдений в двух независимых выборках распределены по одному нормальному закону?

4. Результаты наблюдений в двух независимых выборках имеют одно и то же распределение вероятностей?

Простой называют гипотезу, содержащую только одно предположение (пример 1, где строится гипотеза о математическом ожидании нормальной с.в.). Гипотеза, которая состоит из конечного или бесконечного числа простых гипотез называется сложной (пример 2, где строится гипотеза о математическом ожидании и дисперсии нормальной с.в.). Статистические гипотезы бывают параметрическими и непараметрическими. Предположение, которое касается неизвестного значения параметра распределения, входящего в некоторое параметрическое семейство распределений (т.е. известен вид распределения, но не известны его некоторые характеристики), называется параметрической гипотезой (смотри примеры 1 и 2). Предположение, при котором вид распределения неизвестен (т.е. не предполагается, что оно входит в некоторое параметрическое семейство распределений), называется непараметрической гипотезой (пример 4). Критерии, проверяющие, что изучаемая случайная величина имеет конкретное распределение, называют критериями согласия. Критерии согласия также используются для обоснования применимости параметрических критериев.

Гипотезу, утверждающую, что различие между сравниваемыми характеристиками отсутствует, а наблюдаемые отклонения объясняются лишь случайными колебаниями в выборках, на основании которых производится сравнение, называют нулевой (основной) гипотезой и обозначают . Наряду с основной гипотезой рассматривают альтернативную (конкурирующую, противоречащую) ей гипотезу . И если нулевая гипотеза будет отвергнута, то будет иметь место альтернативная гипотеза.

Альтернативная гипотеза обычно формулируется в терминах различия величин. Например, есть случайная величина и константа a. Они не равны (арифметически), но нужно установить, значимо ли статистически между ними различие? Существует два типа критериев:

1. двухсторонний критерий вида:

2. односторонний критерий вида: или

Знаки >, <, = здесь используются не в арифметическом, а в "статистическом" смысле. Их необходимо читать "значимо больше", "значимо меньше", "различие незначимо".

Нулевая гипотеза должна быть сформулирована соответствующим образом: её надо построить так, чтобы иметь возможность найти интересующие нас вероятности в условиях истинности этой гипотезы. Если исследуется симметричность монеты, то в качестве нулевой гипотезы можно рассматривать предположение о полной симметрии монеты. Ведь если гипотеза верна, то вероятности выпадения каждой из сторон монеты будут одинаковы (по 0,5). А вот выдвижение в качестве нулевой гипотезы предположения об асимметрии монеты мало что дает – в этом случае мы ничего не можем сказать о значениях вероятностях выпадения герба и решки.

Конкретная задача проверки статистической гипотезы считается полностью описанной, если заданы нулевая и альтернативная гипотезы. Выбор метода проверки статистической гипотезы определяются как нулевой, так и альтернативной гипотезами. Для проверки одной и той же нулевой гипотезы при различных альтернативных гипотезах следует использовать, вообще говоря, различные методы.

Выдвинутая гипотеза может быть как правильной, так и неправильной, поэтому необходимы процедуры проверки гипотезы. Поскольку проверка проводится статистическими методами, ее называют статистической. При принятии решения возможны следующие типы ошибок:

Ошибка первого рода состоит в том, что будет отвергнута правильная гипотеза.

Ошибка второго рода состоит в том, что будет принята неправильная гипотеза.

Вероятность совершить ошибку первого рода называется уровнем значимости. Последствия ошибок, вообще говоря, могут оказаться различными. Например, если отвергнуто правильное решение о виновности преступника, человек может выйти на свободу и продолжить противоправные действия. С другой стороны, неправильное решение об осуждении невинного человека может привести к тяжелым последствиям и поломать судьбы людей.

Всевозможные варианты, возникающие при принятии решения, приведены в таблице.

Гипотеза	Что имеется на самом деле	действие	Наличие ошибки	Вероятность соответствующего варианта
	верна	принята	нет ошибки	равна - уровень доверия
	верна	отвергнута	ошибка первого рода	равна вероятности справедливости нулевой гипотезы при условии ее отвержения ( -уровень значимости)
	неверна	принята	ошибка второго рода	равна вероятности принятия нулевой гипотезы при условии ее несправедливости
	неверна	отвергнута	нет ошибки	равна - мощность критерия

Однозначно определенный способ проверки статистических гипотез называется статистическим критерием. Статистический критерий строится с помощью специальной функции-статистики U(x₁, x₂, …, x_n), которая представляет случайную величину, зависящую от результатов наблюдений x₁, x₂, …, x_n, с известной функцией распределения. Процедура проверки гипотезы связана с объемом выборки (числом степеней свободы) и уровнем значимости. В пространстве значений статистики U выделяют критическую область , для которой выполняется условие: если значения применяемой статистики принадлежат данной области, то нулевая гипотеза отклоняется, в противном случае – не отклоняется (такого рода результат не является подтверждением нулевой гипотезы, в этом случае можно вести речь, что полученные результаты ей не противоречат)⁹. Множество значений статистики, при которых гипотеза принимается, называют областью принятия гипотезы.

Поскольку - одномерная случайная величина, все ее значения принадлежат некоторому интервалу. Тогда критическая область и область принятия решений гипотезы также являются интервалами и поэтому существуют точки, которые их разделяют. Критическими точками называют точки, отделяющие критическую область от области принятия решений.

Различают одностороннюю (левостороннюю или правостороннюю) и двустороннюю области.

Правосторонней называют критическую область, определяемую неравенством , где - некоторое число.

Левосторонней называют критическую область, определяемую неравенством .

Двусторонней называют критическую область, определяемую неравенствами или , где .

Для отыскания правосторонней критической области достаточно найти критическую точку . Для ее нахождения задаются достаточно малой вероятностью – уровнем значимости - . Затем ищут критическую точку , исходя из требования, чтобы при условии справедливости нулевой гипотезы вероятность того, что статистика примет значение большее была равна заданному уровню значимости . Для каждого критерия есть статистические таблицы, по которым и находят критическую точку, удовлетворяющую этому требованию. Поскольку вероятность события мала, такое событие, при справедливости нулевой гипотезы в силу принципа практической невозможности реализации маловероятных событий, в единичном испытании появиться не может (в этом случае наблюдаемое нами событие называется значимым¹⁰ для выбранного уровня значимости). Если все же это маловероятное событие произошло, то это можно объяснить тем, что нулевая гипотеза ложна и, следовательно, может быть отвергнута.

Конечно, наблюдаемое значение критерия может оказаться большим не потому, что нулевая гипотеза ложна, а по другим причинам (малый объем выборки, недостатки методики эксперимента и др.). В этом случае при отклонении нулевой гипотезы мы совершаем ошибку первого рода. Вероятность этой ошибки равна уровню значимости .

Отыскание левосторонней и двусторонней критических областей производятся аналогично. Критические точки и для двусторонней области находят таким образом, чтобы при заданном выполнялось соотношение . В этом случае критические точки могут быть выбраны бесчисленным множеством способов. Если распределение критерия симметрично относительно нуля, то обычно полагают и . Тогда и .

Вероятность ошибки первого рода (уровень значимости) удовлетворяет соотношению , т.е. уровень значимости α – это вероятность события (значение статистики принадлежит критической области), вычисленная в предположении, что верна нулевая гипотеза Н₀

Вероятность ошибки второго рода есть . Обычно используют не эту вероятность, а ее дополнение до 1, т.е. . Эта величина носит название мощности критерия. Мощность критерия – это вероятность того, что нулевая гипотеза будет отвергнута, когда альтернативная гипотеза верна.

Естественно требовать, чтобы критерий для проверки данной гипотезы приводил как можно реже к ошибочным решениям. Обычная процедура построения наилучшего критерия для простой гипотезы заключается в выборе среди всех критериев с заданным уровнем значимости и (вероятность ошибки первого рода) такого, который приводил бы к наименьшей вероятности ошибки второго рода (или, что то же самое, к наибольшей мощности). В случае, когда альтернативная гипотеза простая, наилучшим будет критерий, который имеет наибольшую мощность среди всех других критериев с заданным уровнем значимости (наиболее мощный критерий).

В качестве примера рассмотрим случай, когда несмещенная оценка (статистика) исследуемого параметра вычислена по выборке объема и эта оценка имеет плотность распределения . Предположим, что истинное значение параметра равно .

Рассмотрим гипотезу при альтернативе . Насколько велико должно быть различие между значениями и , чтобы отвергнуть нулевую гипотезу. Ответить на данный вопрос можно вычисляя вероятность достижения некоторой заданной разности между и на основе выборочного распределения статистики. Для оценки погрешности можно использовать доверительные интервалы . Суммарная вероятность того, что параметр выйдет за пределы интервала с границами и , составляет величину . Эту величину следует выбрать настолько малой, чтобы выход за пределы интервала был маловероятен. Часто полагают одинаковыми значения вероятности выхода параметра за нижний и верхний пределы интервала: . Такое допущение во многих случаях позволяет повысить мощность критерия проверки.

Если оценка параметра попала в заданный интервал, то в таком случае нет оснований подвергать сомнению проверяемую гипотезу, следовательно, гипотезу равенства можно принять. Но если после получения выборки окажется, что оценка выходит за установленные пределы (критическая область), то в этом случае есть серьезные основания отвергнуть гипотезу . Отсюда следует, что вероятность допустить ошибку первого рода равна (равна уровню значимости критерия).

Если предположить, например, что истинное значение параметра в действительности равно Т+d (при сдвиге меняется положение кривой плотности на оси абцисс)), то согласно гипотезе о равенстве – вероятность того, что оценка параметра попадет в область принятия гипотезы , составит

При заданном объеме выборки вероятность совершения ошибки первого рода можно уменьшить, снижая уровень значимости . Однако такое решение может повлиять на вероятность ошибки второго рода . Из рисунка видно, что при уменьшении увеличивается вероятность ошибки второго рода (снижается мощность критерия). Аналогичные рассуждения можно провести для случая, когда истинное значение параметра равно Т–d. Единственный способ уменьшить обе вероятности состоит в увеличении объема выборки (плотность распределения оценки параметра при этом становится более "узкой").

При выборе критической области руководствуются правилом Неймана – Пирсона: следует так выбирать критическую область, чтобы вероятность была мала, если гипотеза верна, и велика в противном случае. Однако выбор конкретного значения относительно произволен. Употребительные значения лежат в пределах от 0,001 до 0,1.

Выбор конкретного статистического критерия определяется типом задачи. Существует достаточно много хорошо изученных статистик, для которых известны функции распределения, известны поведение этих функций при увеличении объема исследуемых выборок. В частности, преобладают критерии в которых функции распределения соответствующих статистик (Стьюдента, Хи-квадрат Пирсона, Фишера и др.) при увеличении объемов выборок стремятся к нормальному распределению. В общем случае, выбор функции статистики определяется характером задачи, предварительным исследованием данных выборки. Следует также отметить, что в большинстве случаев параметрические критерии являются более мощными, чем их непараметрические аналоги, поэтому при возможности использования параметрического критерия обычно выбирают параметрический критерий.

Основные этапы процедуры проверки статистических гипотез:

1. Нужно сформулировать нулевую и альтернативную гипотезы.

2. Выбрать статистический критерий для проверки выдвинутой нулевой гипотезы.

3. Используя имеющуюся выборку вычислить значение статистики и отвечающего ему достигнутого уровня значимости.

4. Сравнить значение достигнутого уровня значимости с выбранным критическим уровнем значимости (обычно это 5% или 1%) и принять или отклонить нулевую гипотезу.

Рассмотрим пример: Пусть поставлена задача исследования симметрии обычной монетки. Можно провести эксперименты по подбрасыванию монеты с соответствующей фиксацией результатов этого подбрасывания. Пусть неизвестная нам вероятность выпадения герба равна , а соответственно вероятность выпадения решки равна , . Выдвинем гипотезу : ( ) - монета симметрична. Если мы собираемся произвести N подбрасываний и по их итогам проверить гипотезу, должны просчитать вероятности выпадения 0, 1, 2 и т.д. до N “гербов”. Используя биномиальный закон распределения можно при фиксированном значении N посчитать вероятности

появления гербов при N подбрасываниях монеты с вероятностью выпадения герба равной 0,5 (Напомним, что нулевая гипотеза предполагает симметричность монеты). Результаты вычислений сведены в таблице (случай N=8):

Число наблюдений гербов	0 0	1	2	3	4	5	6	7	8
ВероятностьP(X=k)	1/256	8/256	28/256	56/256	70/256	56/256	28/256	8/256	1/256
Вероятность P(X k)	1/256	9/256	37/256	93/256	163/256	219/256	247/256	255/256	256/256

В данном примере в качестве функции статистики, выступает число гербов при восьмикратном подбрасывании монеты с известной биномиальной функцией распределения. Если мы в результате эксперимента получили сумму гербов S = 1 (герб при 8-ми подбрасываниях монеты выпал не более 1 раза), то вероятность наблюдать такую сумму (и менее вероятное значение S=0) составляет для симметричной монетки P(S <2) = (1+8) / 256  0.036. С другой стороны мы наблюдали в том же опыте 7 появлений “решки”. Вероятность наблюдать такое и менее вероятное число 8 гербов составляет точно столько же – P(S>6) = (1+8) / 256  0.036. Осталось построить решающее правило – критерий для принятия окончательного решения в отношении выдвинутых гипотез (основной и альтернативной ).

Заметим, что при выдвинутой нами основной гипотезе :(p=q) альтернативная гипотеза может быть сформулирована различным образом:

• : (p#q) – монета несимметрична, ненаправленная гипотеза, требующая использования двухсторонних вероятностей;

• : (p<q) – монета несимметрична и при этом “герб” легче.

Применим оба приема построения критерия в условиях нашего примера.

1. Нулевая гипотеза :(p=q). Альтернативная гипотеза : (p#q).

Уровень значимости =0.05. Итог наблюдений при N=8: S= 1

Вероятность такого итога при условии, что нулевая гипотеза верна составляет P(S<2)+ P(S>6)  0.072>, т.е. больше порогового значения

Решение: нулевую гипотезу не отвергаем, считаем, что наш эксперимент не опровергает симметричность монеты.

2. Нулевая гипотеза : (p=q). Альтернативная гипотеза : (p<q).

Уровень значимости =0.05. Итог наблюдений при N=8: S= 1 .

Вероятность такого итога при условии, что нулевая гипотеза верна, составляет P(S<2)  0.036, т.е. меньше уровня значимости.

Решение: нулевую гипотезу отвергаем, монетку считаем направленно несимметричной.

Таким образом, при различных альтернативных гипотезах получаются разные выводы – смысл нулевых гипотез в первом и втором случае, несмотря на формальную тождественность, не одинаков. Различие заключено в формулировке альтернативных гипотез . В первом случае охватывает два события (p>q) или (p<q), а значит это более жесткое предположение. Во втором случае связана только с одним событием (p<q), а значит она мягче, требует меньшего количества информации для признания ее истинной.

P – значение

Уровень значимости при проверке статистических гипотез должен выбираться исследователем до получения экспериментальных данных, по которым проверяется гипотеза. Но очень часто с выбором величины возникают определенные сложности. Различные задачи, вообще говоря, требуют различной точности результатов. Как установить ответственность в трактовке результатов эксперимента и тот риск, который связан с выбором . Часто используется следующая стратегия: уровень значимости до эксперимента точно не устанавливается, по экспериментальным данным вычисляется вероятность , что статистика критерия выйдет за пределы значения, рассчитанного по выборке. Это значение называется -уровнем. Точное значение обычно не указывают, а окончательные результаты приводят в следующем виде:

если вычисленное значение критерия не превосходит критического значения на уровне значимости , то различие считается статистически не значимым.

если вычисленное по выборке значение критерия превышает критические значения при , или , то записывают , или . Это означает, что наблюдаемые различия статистически значимы при уровнях значимости 0.05, 0.01 или 0.001.