4. Доверительное оценивание.

Точечная оценка несет определенную информацию о величине неизвестного параметра. Естественно, здесь возникает вопрос о точности этой оценки. Ответ на этот вопрос дают так называемые интервальные оценки или доверительные множества.

Пусть – случайная выборка, распределение ко­то­рой F_(x) зависит от некоторого неизвестного параметра . Интервал с границами , зависящими от выбороч­ных данных, на­­зы­вается -до­­ве­­­ри­тель­ным интервалом для параметра , если

.

(1)

Величина Q = (1-)·100% называется надежностью интервала и вы­би­ра­ет­ся обычно в пределах от 90% до 99% (стандартное значение – 95%).

Статистика называется верхней -дове­рительной границей для па­ра­метра , если

.

Статистика называется нижней -дове­рительной границей для па­ра­метра , если

.

Если указанные в этих определениях неравенства выполняются в пределе при увеличении объема выборки до бесконечности, то такие доверительные интервалы называются асимптотическими.

Более подробно вопрос построения доверительных множеств рассматривается в главе, посвященной интервальным оценкам.

5. Вероятностные модели

Как видно из вышеизложенного, качество любой оценки и любого критерия можно выяснить, только если известно точное или асимптотическое распределение соответствующей статистики. Здесь мы опишем наиболее часто встречающиеся на практике модели распределений.

• Распределение.

Функцией распределения случайной величины называется функция

,

то есть вероятность попадания левее фиксированного значения .

Функция распределения изменяется от 0 (при ) до 1 (при ), нигде не убывает и непрерывна слева.
Скачок функции распределения возможен лишь в точке , вероятность попадания в которую с.в. не равна нулю: . Величина скачка равна .

Функция , то есть вероятность попадания с.в. правее значения , называется функцией надежности. Это определение связано с тем, что, если с.в. описывает время службы некоторого прибора, то функция равна вероятности того, что этот прибор прослужит дольше заданного времени .

Если функция распределения представима в виде интеграла , то распределение называется абсолютно-непрерывным, а функция функцией плотности. Для практически полезных распределений плотность равна производной функции распределения: .

Функция плотности обладает следующими свойствами:

1. и полный интеграл ;

2. если функция четна, то распределение симметрично около нуля: , иными словами, график функции распределения симметричен около точки (0,½).

значение функции расп­реде­­ле­ния равно площади под графиком функции плот­н­о­сти в интервале от до x:

Свойство (ii) часто используют при построении таблиц распределения, ограничиваясь лишь положительными значениями аргумента.

• Квантили – процентные точки.

Решение уравнения называют -квантилью распределения , а уравнения верхней -квантилью. Если обозначить верхнюю p-квантиль через , то, очевидно, p-квантиль будет равна . Если функция распределения имеет обратную, то

.

Графически квантили распределения можно представить следующим образом (см. свойство плотности (iii)):

Для симметричных распределений . Поэтому для таких распределений таблицы составляются лишь для значений .

Верхние квантили для вероятностей, выраженных в процентах (), часто называют процентными точками распределения.

• Нормальное распределение.

Случайная величина имеет нормальное распределение с параметрами (коротко ), если её функция распределения равна

.

Плотность нормального распределения равна

.

Параметр равен среднему значению с.в. : .

Параметр равен дисперсии с.в. : .

Широкую распространенность нормального закона в природе можно объяснить, исходя из Центральной Предельной Теоремы. Представим себе, что мы многократно измеряем некоторую характеристику изучаемого объекта посредством очень точного прибора. Ясно, что результат будет случайно изменяться от измерения к измерению. Случайность этого изменения обусловлена суммарным влиянием большого количества факторов. Если каждый из этих факторов не оказывает решающего влияния на окончательный результат измерения, то можно предположить, что показания прибора – суть реализации нормальной случайной величины.

Нормальный закон с параметрами и (то есть ) называется стандартным, его функция распределения обозначается (“фи” или, по-старорусски, “ферт”), а функция плотности . Общая функция распределения нормального закона может быть записана через стандартную: . Аналогично записывается общая функция плотности нормального закона: .

Практически любой справочник по математической статистике содержит таблицы функции и её квантилей. Так как стандартное нормальное распределение симметрично, то эти таблицы составляют для значений и . Приведем фрагмент таблицы из сборника [1].

Слева в таблице (см. ниже) представлено входное значение с точностью до второго знака после запятой. Третий знак указан в самой верхней строке таблицы. С целью представления на одном листе по возможности большей информации, таблица разбита на блоки (отделенные чертой), в которых числа имеют несколько одинаковых первых цифр. Эти совпадающие части приведены только для одного значения (в столбце под верхней первой ячейкой с цифрой 0).

Таблица 1.1. Функция нормального распределения Ф(x)

x	0	1	2	3	4	…	8	9
	…
2,05	0,97 9818	9867	9915	9964	0012	…	0205	0253
06	0,98 0301	0349	0396	0444	0491	…	0680	0727
07	0774	0821	0867	0914	0960	…	1145	1191
	…

Так, например,

Ф(2,052) = 0,97 9915, Ф(2,058) = 0,98 0205, Ф(2,074) = 0,98 0960.

Для нахождения квантилей можно использовать таблицу исходной функции распределения, отыскивая значение вероятности внутри таблицы и находя соответствующее ему входное значение. Например, при верхняя p-квантиль (то есть решение уравнения ) будет находиться где-то между 2,053 и 2,054, так как . Простая линейная аппроксимация дает .

В этом же сборнике [1] имеется таблица значений обратной функции нормального распределения, иными словами – таблица p-квантилей (не верхних).

Таблица 1.3. Функция, обратная функции нормального распределения

p	0	1	2	3	4	…	8	9
	…
977	1,9 9539	9723	9908	0093	0279	…	1030	1219
978	2,0 1409	1600	1792	1984	2177	…	2957	3154
979	3352	3551	3750	3950	4151	…	4964	5169
0,980	5375	5582	5790	6000	6208	…	7056	7270
	…

Таким образом, , что весьма близко к полученному выше приближенному значению.

• Хи-квадрат распределение.

Если с.в. можно представить в виде суммы квадратов независимых стандартных нормальных с.в. –

,

то эта с.в. будет иметь распределение хи-квадрат с степенями свободы (число степеней свободы совпадает с числом слагаемых). Её принято обозначать символом . Для особо любознательных скажем, что хи-квадрат распределение совпадает с гамма-распределением с параметрами . Функция распределения выражается формулой

,

где – гамма-функция Эйлера; если , то .

Сборник таблиц [1] содержит значения так называемого интеграла вероятностей хи-квадрат – в нашей терминологии это просто функция надежности . Таблица имеет два входа – по числу степеней свободы (верхняя строка) и по аргументу функции (левый столбец).

Таблица 2.1а. Интеграл вероятностей

x	m=16		…	m=20
	P	-Δ		P	-Δ
…	…			…
15,0	0,52464	3627	…	0,77641	2929
5	48837	3541	…	74712	3050
…	…			…

Здесь, кроме значения функции распределения (столбец P), приведены также первые разности этой функции (столбец -Δ), точнее, только 5 значащих цифр после запятой без первых нулей. Таким образом, (после запятой поставлен один ноль, чтобы получилось пять цифр). Если и – два рядом стоящие значения аргумента, то для нахождения значения функции в промежуточной точке можно применить аппроксимацию . В приведенном нами фрагменте . Поэтому .

Значения верхних p-квантилей распределения хи-ква­д­рат содержатся в следующей таблице на стр.166 сборника [1].

Таблица 2.2а. Процентные точки распределения

Q m	…	97,5%	95%	…	5%	2,5%	…
…	…
19	…	8,907	10,117	…	30,144	32,852	…
20	…	9,591	10,851	…	31,410	34,170	…
…	…

Вход в таблицу осуществляется по числу степеней свободы (m в левом столбце) и по вероятности, выраженной в процентах (Q в верхней строке). Таким образом, .

• Распределение Стьюдента.

Если с.в. можно представить в виде отношения ,

где – стандартная нормальная (0,1) с.в.,

– хи-квадрат с.в. с степенями свободы, не зависящая от ,

то будет иметь распределение Стьюдента с степенями свободы. Функция распределения Стьюдента имеет вид

,

где – гамма-функция Эйлера. Так как функция плотности этого распределения (подынтегральная функция) четна, то распределение Стьюдента симметрично: .

Легко видеть, что, так как с.в. есть сумма квадратов стандартных нормальных с.в., то отношение стремится по вероятности к 1. Поэтому при большом значении степени свободы распределение Стьюдента может быть аппроксимировано нормальным (0,1) распределением (как у числителя ).

Таблицы распределения Стьюдента также имеются в любом справочнике по математической статистике. Приведем здесь фрагмент со­от­ве­т­ст­ву­ющей таблицы из сборника [1].

Таблица 3.1а. Функция распределения Стьюдента

k t	11	12	…	19	20
…	…
2,0	0,9646	0,9657	…	0,9700	0,9704
1	9702	9712	…	9753	9757
…	…

Эта таблица имеет два входа – число степеней свободы (верхняя строка) и аргумент функции (левый столбец). Из этой таблицы находим, что . При степенях свободы больше 20 можно воспользоваться нормальным приближением: .

Следующая таблица указанного сборника [1] содержит значения верхних -квантилей . Эта таблица также имеет два входа – число степеней свободы (левый столбец) и вероятность в процентах (верхняя строка). Для наглядности целые части вместе с запятой приведены только для верхних чисел в блоке из пяти чисел.

Таблица 3.2. Процентные точки распределения Стьюдента

Q k	…	10%	5%	2,5%	…	0,05%
…	…
19	…	1,3277	1,7291	2,0930	…	3,8834
20	…	3253	7247	0860	…	8495
…	…

Таким образом, .

• Показательное (экспоненциальное) распределение.

Если про некоторый объект (прибор) можно утверждать, что вероятность выхода его из строя за время не зависит от того, сколько этот объект уже прослужил (эффект отсутствия последействия), то общее время службы такого объекта будет подчинено показательному закону с функцией распределения

.

Функция плотности показательного закона равна

.

Коэффициент называется интенсивностью отказа и несет информацию о количестве вышедших из строя объектов в единицу времени среди всех объектов, прослуживших данное время . Показательное распределение имеет постоянную (не зависящую от срока службы ) интенсивность отказа.

Для показательного распределения характерно совпадение среднего значения и стандартного отклонения:

.

Это свойство часто используют для проверки согласия выборочных данных с экспоненциальной моделью распределения.

• Равномерное распределение на [0; 1].

С.в. , для которой вероятность попадания в любой интервал пропорциональна длине этого интервала, имеет равномерное распределение. Чаще всего рассматривают равномерную на [0; 1] с.в. В этом случае функция распределения и функция плотности равны

Равномерное распределение есть обобщение на непрерывный случай классической схемы выбора из конечной популяции. Так, например, датчик случайных чисел любого языка программирования в действительности выбирает с равной вероятностью целые числа от 0 до (скажем, ). “Непрерывные” равномерные числа из отрезка [0; 1] получаются путем простого преобразования .

• Биномиальное распределение.

Рассмотрим независимых экспериментов, в каждом из которых наблюдается некоторое фиксированное событие (например, поражение цели при стрельбе). Если вероятность этого события не изменяется от эксперимента к эксперименту, то сл.в. , равная числу успешных реализаций события , имеет биномиальное распределение с параметрами :

.

При больших значениях и не очень маленьких значениях биномиальное распределение может быть аппроксимировано нормальным:

.

Другими словами, можно сказать, что биномиальная с.в. имеет приближенно нормальное распределение с параметрами .

При больших значениях и малых значениях (или ) биномиальное распределение аппроксимируется пуассоновским распределением:

.

Для биномиальной с параметрами с.в.

среднее значение равно ,

дисперсия равна .

Контрольные вопросы.

1. Что такое функция распределения (функция плотности)?

   1. 14.

2. Что такое функция надежности?

   1. 14.

3. Какая случайная величина имеет нормальное распределение (показательное, равномерное, биномиальное, хи-квадрат, Стьюдента)?

   1. 16-22.

4. Запишите формулу для функции распределения нормального закона (экспоненциального, равномерного, биномиального).

   1. 16-22.

5. Какой смысл несут параметры нормального распределения (экспоненциального, биномиального, хи-квадрат, Стьюдента)?

   1. 16-22.

6. Чему равны среднее значение и дисперсия экспоненциального распределения (нормального, биномиального)?

   1. 16-22.

7. Что такое квантиль (верхняя квантиль) распределения?

   1. 15.

8. Как связаны функция распределения и её верхняя квантиль?

   1. 15.

9. Найдите по таблице значение верхней 7%-й квантили для распределения хи-квадрат при 15 степенях свободы (для нормального распределения, для распределения Стьюдента).

   1. 17-22.

10. Что такое выборка?

    1. 5.

11. Что такое оценка?

    1. 10.

12. Дайте определение состоятельности оценки и проинтерпретируйте смысл этого определения.

    1. 12

13. Можно ли сказать, что состоятельная оценка лучше не состоятельной оценки?

14. Дайте определение несмещенности оценки и проинтерпретируйте смысл этого определения.

    1. 10.

15. Можно ли сказать, что несмещенная оценка лучше смещенной оценки?

16. Как следует выбирать нулевую гипотезу?

    1. 7.

17. Как определяется вероятность ошибки 1-го рода? Что такое размер критерия?

    1. 7.

18. Что такое уровень значимости?

    1. 7.

19. Какой уровень значимости лучше выбрать – 5% , 10% или 1%?

    1. 7-8.

20. Как часто мы будем ошибаться, если будем применять критерий уровня .

    1. 7.

21. Как построить критерий заданного уровня, основываясь на значениях некоторой статистики ?

    1. 8.

22. Можно ли признать новый метод лечения лучше старого, если при клинических испытаниях результативность нового метода составила 85%, а старого – 70%? Что ещё нужно знать, что бы правильно ответить на этот вопрос?

    1. 8.

23. Что такое критический уровень значимости? Чем он отличается от уровня значимости?

    1. 7, 9.

24. Как проверить гипотезу, основываясь на значении критического уровня значимости?

    1. 9.