- •Математическая статистика Введение в математическую статистику
- •Предмет математической статистики
- •Возникновение и развитие математической статистики
- •Приложения математической статистики
- •Общая статистическая модель
- •Параметрические и непараметрические задачи
- •Полная достаточная статистика
- •Случайные величины и статистики
- •Достаточные статистики
- •Критерий факторизации.
- •Выборка и эмпирическая мера
- •Выбор статистической модели
- •Классическая статистическая модель.
- •Эмпирическая функция распределения
- •Выборочные характеристики
- •Свойства выборочных характеристик
- •Моделирование выборок на компьютере
- •Датчик случайных чисел
- •Моделирование дискретных распределений
- •Моделирование непрерывных распределений
- •Метод максимального правдоподобия
- •Улучшение оценок
- •Теорема Рао-Блэкуэлла-Колмогорова
- •Построение оптимальных оценок
- •Несмещенные оценки с минимальной дисперсией
- •Эффективные оценки
- •Состоятельность и асимптотическая нормальность оценок
- •Асимптотическая нормальность оценок, полученных методом подстановки
- •Состоятельность и асимптотическая нормальность оценок, полученных методом максимального правдоподобия
- •Теория статистических решений
- •Основные понятия теории статистических решений
- •Байесовский подход
- •Допустимость байесовских оценок
- •Теорема об апостериорном риске
- •Вычисление байесовских оценок при квадратичной функции потерь
- •Минимаксный подход
- •Минимаксность байесовских решений
- •Проверка статистических гипотез
- •Основные понятия теории проверки статистических гипотез
- •Проверка двух простых гипотез
- •Байесовский подход
- •Наиболее мощный критерий. Лемма Неймана- Пирсона
- •Проверка сложных гипотез
- •Равномерно наиболее мощный критерий.
- •Проверка непараметрических гипотез. Критерии согласия
- •Критерий знаков
- •Состоятельность критерия
- •Критерий Колмогорова
- •Критерий хи-квадрат
- •Асимптотические доверительные интервалы
- •Доверительные интервалы для параметров нормального распределения
Моделирование дискретных распределений
Моделирование конкретного распределения можно производить различными способами. Если распределение дискретно, то можно использовать, например, следующий прием.
Пусть
- разбиение отрезка
,
тогда последовательность
является последовательностью
независимых дискретных случайных
величин, принимающих значения
с вероятностями
.
Например, для
моделирования распределения
достаточно разбить отрезок
на две части длиной
и
,
соответственно. Для моделирования
распределения
применять предложенный метод нерационально,
так как придется вычислять вероятности
вида
.
Гораздо проще для
моделирования
сложить
смоделированных величин
.
Заметим, что для моделирования одной
величины
в этом случае потребуется
членов последовательности
Моделирование непрерывных распределений
Моделирование конкретного распределения можно производить различными способами. Если распределение непрерывно, то можно использовать, например, следующий прием.
Пусть - непрерывная функция распределения, тогда последовательность
является последовательностью независимых случайных величин, принимающих значения с функцией распределения .
Для доказательства достаточно вычислить функцию распределения случайной величины .
Например, для
моделирования распределения
достаточно положить
Для моделирования
распределения
применять предложенный метод нерационально,
так как придется вычислять обратную
функцию к функции вида
.
Гораздо проще для
моделирования
сложить
смоделированных величин
.
Заметим, что для моделирования одной
величины
в этом случае потребуется
членов последовательности
Моделирование нормального распределения.
Для моделирования стандартного нормального распределения можно использовать следующее утверждение.
Утверждение.
Случайные величины
независимы и стандартно нормально распределены.
Доказательство этого утверждения представляет собой упражнение из математического анализа на замену переменных в двумерном интеграле (переход к полярным координатам).
Теория оценивания
В данном и следующих разделах по умолчанию предполагается существование необходимого числа моментов у случайных величин.
Если в утверждениях появляется параметр , то это означает, что рассматривается выборка размера .
Определение оценки и критерии качества оценок
Определение.
Статистика
называется оценкой параметра
,
если она принимает свои значения в
параметрическом множестве
.
Разумными требованиями к оценкам являются
Несмещенность
Состоятельность
Минимальность дисперсии
Общие методы построения оценок
Идеальная или оптимальная оценка должна удовлетворять всем требованиям 1)-3). Однако нет гарантии, что такая оценка существует. Поэтому интересными являются также методы, позволяющие строить оценки, удовлетворяющие, например, требованию 2) или требованиям 2) и 1)
Метод подстановки и метод моментов
Метод подстановки заключается в использовании идеи подстановки и применяется в случае, когда данные представляют собой выборку. Пусть существуют такие измеримые функции и , что
тогда оценкой по методу постановки называется величина
Теорема.
Если функция линейна, то оценка по методу подстановки несмещена и состоятельна, если непрерывна, то состоятельна.
Доказательство.
Первая часть теоремы следует из свойств математического ожидания и закона больших чисел, вторая из свойства сходимости по вероятности (теорема (f(P))).
Доказательство завершено.
Метод моментов.
Суть метода моментов заключается в следующем. Очевидно, выборочные среднее и дисперсия являются несмещенными оценками своих математических ожиданий, являющихся в параметрическом случае некоторыми функциями от параметра.
Если функции
и
непрерывны и монотонны, то существуют
обратные к ним функции и, применяя метод
подстановки, получим оценки
Очевидно, что подобным образом можно использовать другие выборочные характеристики.
