- •4. Задача точечного оценивания вероятности события, построение оценки и свойства оценки. Задача точечного оценивания значений функции распределения, построение оценки и свойства оценки.
- •6. Точечное оценивание старших моментов: выборочные моменты и их свойства несмещенности и состоятельности.
- •7. Постановка задачи построения точечной линейной оценки среднего при разноточных измерениях, метод построения линейной оценки с минимальной дисперсией и свойства коэффициентов.
- •8. Функция правдоподобия, функция вклада и информация Фишера. Условия регулярности и свойства функции правдоподобия и функции вклада в условиях регулярности. Теорема о неравенстве Рао-Крамера.
- •11. Понятие эффективной оценки. Утверждение о функции правдоподобия и эффективной оценке. Линейные преобразования эффективных оценок.
- •12. Понятие достаточной статистики и теорема о критерии факторизации. Два следствия из теоремы о критерии факторизации.
- •13. Теорема об улучшении несмещенных оценок с помощью достаточных статистик (теорема Блекуэлла). Утверждение об оптимальной несмещенной оценке и достаточной статистике.
- •14. Метод моментов построения точечных оценок, свойства моментных оценок.
- •1. Метод моментов.
- •18. Построение наикратчайшего доверительного интервала для математического ожидания нормального распределения с известной дисперсией.
- •19. Распределение хи-квадрат и построение доверительных интервалов для дисперсии и среднеквадратичного отклонения нормального распределения с известным математическим ожиданием.
- •23. Построение доверительного интервала для коэффициента корреляции двумерного нормального распределения с неизвестными математическими ожиданиями и дисперсиями.
- •27. Постановка задачи проверки простой гипотезы о вероятностях. Применение критерия хи-квадрат к задаче проверке гипотезы о распределении полностью известном.
- •29. Постановка задачи проверки гипотезы о независимости признаков и применение критерия хи-квадрат (без вывода мп-оценки параметра).
- •30. Постановка задачи проверки гипотезы об однородности и критерий проверки: статистика критерия и критическая область (без вывода мп-оценки параметра).
- •31. Задача проверки параметрических гипотез, статистический критерий и функции вероятностей ошибок первого и второго рода. Понятие о равномерно наиболее мощном критерии.
- •Утверждение 8.14.
- •42. Применение метода Монте-Карло в задаче приближенного вычисления числа и в задаче приближенного вычисления характеристик сложной случайной величины. Точность методов Монте-Карло.
18. Построение наикратчайшего доверительного интервала для математического ожидания нормального распределения с известной дисперсией.
Пусть – выборка из нормального распределения с неизвестным математическим ожиданием и известной дисперсией , построим доверительный интервал для математического ожидания с уровнем доверия .
Поскольку все величины выборки имеют нормальное распределение, то статистика также имеет нормальное распределение с параметрами:
,
.
Тогда
статистика
:
,
имеет
нормальное распределение
не зависящее от неизвестного параметра
и одновременно при всех реализациях
функция
как функция
является непрерывной и убывающей.
Согласно определению
– центральная статистика для
.
Выберем числа
и
так, чтобы выполнялись равенства:
или
,
где
- функция распределения нормальной
случайной величины
.
Для нахождения минимума функции
при условии
воспользуемся методом Лагранжа, с
функцией Лагранжа:
,
которая приводит к системе:
.
У
второго уравнения системы
или
,
очевидно, имеется только два решения
и
,
первое решение не удовлетворяет третьему
уравнению системы
,
тогда:
Используя
свойство функции нормального распределения
получим:
.
Таким образом,
есть квантиль уровня
распределения
и
.
Значению
можно придать иную интерпретацию:
,
то есть
является квантилью уровня
распределения
.
Таким образом, получим равенство для
вероятностей:
.
Преобразовывая неравенства, получим:
,
.
Преобразование неравенств фактически является нахождением решения системы:
.
Таким образом, при всяком значении параметра :
,
тогда интервал ( ):
,
где – является квантилью уровня распределения , является доверительным интервалом для с уровнем доверия .
19. Распределение хи-квадрат и построение доверительных интервалов для дисперсии и среднеквадратичного отклонения нормального распределения с известным математическим ожиданием.
Пусть – выборка из нормального распределения с известным математическим ожиданием и неизвестной дисперсией , построим доверительный интервал для дисперсии с уровнем доверия .
Рассмотрим статистику
:
.
Поскольку
случайные величины
имеют нормальное распределение
и независимы, то статистика
имеет распределение
(«хи-квадрат с
степенями свободы») и кроме того
одновременно при всех реализациях
выборки
функция
как функция параметра
:
является непрерывной и убывающей. Таким образом, статистика является центральной статистикой для .
Для построения доверительного интервала
выберем числа
и
так, чтобы выполнялось равенство:
.
Для выполнения равенства достаточно, например, в качестве взять квантиль уровня распределения , а качестве – квантиль уровня распределения , действительно:
,
где
– случайная величина, имеющая распределение
,
и
– функция распределения
.
При таких значениях
и
получается так называемый «центральный
интервал» (название обусловлено тем,
что слева от
«сосредоточена» вероятность
и справа от
«сосредоточена» вероятность
).
Построение «наикратчайшего» доверительного
интервала, то есть нахождение чисел
и
с наименьшей разностью
среди всех чисел удовлетворяющих
,
в данном случае является технически
сложным ([1] стр. 86), поэтому на практике
ограничиваются более простым «центральным
интервалом».
Преобразование неравенств приводит к следующему доверительному интевалу:
,
,
.
Поскольку последнее равенство справедливо при всяком значении , то интервал:
,
где
и
– квантили уровней
и
распределения
соответственно, является доверительным
интервалом для
с уровнем доверия
.
Нетрудно также получить и доверительный
интервал для с.к.о.
,
действительно, поскольку:
,
то
,
тогда при тех же значениях и интервал:
является доверительным интервалом для с уровнем доверия .
20. Теорема Фишера о выборочном среднем и исправленной выборочной дисперсии. Построение доверительных интервалов для дисперсии и среднеквадратичного отклонения нормального распределения с неизвестным математическим ожиданием.
Теорема 5.5. (Фишер)
Пусть
– выборка из нормального распределения
,
статистики
и
,
тогда:
1) Статистика
имеет распределение
;
2) Статистики
и
– независимые случайные величины.
Доказательство:
1) Преобразуем статистику следующим образом:
.
Определим
вектор-столбец случайных величин
:
,
тогда,
.
Поскольку
случайные величины
имеют нормальное распределение, то
случайные величины
также имеют нормальное распределение
(как линейное преобразование нормальной
случайной величины). Легко видеть, что
математическое ожидание
есть нулевой вектор:
,
и дисперсионная
матрица
является единичной матрицей
,
поскольку:
,
где
при
поскольку
и
независимы (
- выборка по условию теоремы).
Пусть
– ортогональная матрица (т.е.
,
где
– транспонированная матрица
),
в которой все элементы первой строки
равны
:
|
(5.1) |
Определим
вектор-столбец случайных величин
:
,
.
Каждая
случайная величина
имеет нормальное распределение, поскольку
все
имеют нормальное распределение.
Математическое ожидание
есть нулевой вектор:
,
и дисперсионная
матрица
есть единичная матрица
,
поскольку:
,
поскольку
– ортогональная матрица (
).
Таким образом, случайные величины
некоррелированные и поскольку все
имеют нормальное распределение, то
следовательно случайные величины
независимы.
Покажем, что
,
действительно:
.
Из определения матрицы (5.1):
|
(5.2) |
Таким образом,
|
(5.3) |
где
все величины
имеют нормальное распределение
и независимы, поэтому статистика
имеет распределение
.
2) Из (5.2) следует:
Из (5.3) следует:
.
Поскольку случайные величины независимы, то следовательно независимы и .
Теорема доказана.
Теорема 5.5 позволяет построить доверительный интервал для дисперсии нормального распределение в случае, когда математическое ожидание неизвестно. Пусть – выборка из нормального распределения , из теоремы 5.5 следует, что статистика :
имеет распределение , не зависящее от неизвестных параметров и , и одновременно при всех реализациях выборки функция как функция является непрерывной и убывающей. Следовательно, статистика является центральной статистикой для . Пусть и – квантили уровней и распределения , тогда:
,
,
.
Таким образом, интервал
,
где и являются квантилями уровней и распределения , является доверительным интервалом для дисперсии с уровнем доверия . Заметим, что при тех же значениях и интервал
является доверительным интервалом для с.к.о. с уровнем доверия .
21. Формулировка теоремы Фишера о выборочном среднем и исправленной выборочной дисперсии. Построение доверительного интервала для математического ожидания нормального распределения с неизвестной дисперсией.
Теорема 5.5. (Фишер)
Пусть – выборка из нормального распределения , статистики и , тогда:
1) Статистика имеет распределение ;
2) Статистики и – независимые случайные величины.
Пусть – выборка из нормального распределения с неизвестным математическим ожиданием и неизвестной дисперсией , построим доверительный интервал для с уровнем доверия .
Рассмотрим статистику :
|
(5.4) |
,
.
Заметим, что:
1)
,
поскольку все величины
имеют нормальное распределение;
2)
и
независимы, поскольку в силу теоремы
5.5 статистики
и
независимы;
3) имеет распределение в силу теоремы 5.5.
Из
1)-3) следует, что статистика
имеет распределение Стьюдента с
степенью свободы
.
Кроме того, при всех реализациях выборки
функция
как функция
является непрерывной и убывающей,
следовательно, случайная величина
является центральной статистикой для
.
Пусть и – квантили уровней и распределения , тогда:
,
,
.
Поскольку
распределение Стьюдента
является симметричным относительно
нуля, то для функции распределения
справедливо равенство:
.
Отсюда
следует, что
,
действительно:
.
Таким образом,
и следовательно интервал,
,
в котором , и – квантиль уровня распределения Стьюдента с степенью свободы, является доверительным интервалом для с уровнем доверия .
22. Построение доверительных интервалов с использованием асимптотической нормальности. Построение доверительного интервала для вероятности события (способ А до неравенства с квадратным уравнением, способы Б и В полностью). 3670
Пусть
– наблюдение и случайная величина
имеет асимптотически (при
)
нормальное распределение
:
,
при
;
В силу асимптотической нормальности:
,
при
,
тогда при больших справедливо приближенное равенство для вероятностей:
.
Пусть является квантилью распределения уровня , где – уровень доверия:
,
тогда,
.
Разрешая
неравенство относительно
,
получим «приближенный» доверительный
интервал:
.
Воспользуемся вышеизложенным методом
для построения «приближенного»
доверительного интервала неизвестной
вероятности события в схеме
независимых испытаний. Пусть
– выборка, в которой каждая случайная
величина
является бинарной и принимает значение
1 с некоторой неизвестной вероятностью
и значение 0 с вероятностью
:
.
Требуется
построить приближенный доверительный
интервал для вероятности
.
Рассмотрим случайную величину
:
.
К
случайным величинам
применима центральная предельная
теорема, в соответствии с которой сумма
имеет асимптотически (при
)
нормальное распределение с параметрами
,
где:
,
,
тогда случайная величина:
имеет
асимптотически (при
)
нормальное распределение
:
,
при
.
Пусть
– квантиль распределения
уровня
,
тогда при больших
:
,
,
,
,
,
где
.
Разрешая неравенство относительно
неизвестной вероятности
,
получим:
Пренебрегая
слагаемыми с множителем
и с множителем
под корнем, получим приближенное
неравенство:
,
,
.
Таким образом,
,
и «приближенный» доверительный интервал для вероятности имеет вид:
,
где
и
– квантиль распределения
уровня
.

,