10 .Статистическое оценивание характеристик распределения генеральной совокупности по выборке

10.1. Точечные оценки и их свойства. Метод подстановки.

Так как основная задача математической статистики состо­ит в нахождении распределения наблюдаемой случайной величи­ны X по данным выборки и во многих случаях вид распределения X можно считать известным, то задача сводится к получению приближенных значений неизвестных параметров этого распреде­ления.

Пусть F_x(x,θ) — функция распределения случайной вели­чины X, содержащая один неизвестный параметр θ, а х₁,х₂,...,х_n -выборка наблюдений этой случайной величины. Точечной оценкой неизвестного параметра θ называется приближенное значение этого параметра, полученное по выборке.

Заметим, что оценка есть значение некоторой функции элементов выборки, т.е. = (х₁,х₂,...,х_n). Любую функцию эле­ментов выборки называют статистикой. Для уточнения свойств статистики (х₁,х₂,...,х_n) таких, чтобы ее значения можно считать хорошей в некотором смысле оценкой параметра θ, ее надо рас­сматривать как функцию случайного вектора (Х₁,Х₂,...,Х_n), од­ной из реализаций которого является данная выборка х₁,х₂,...,х_n. Так как закон распределения каждой из случайных величин X_i, i = 1,2,...,n, есть F_x(x,θ), являющаяся функцией параметра θ, то и распределение статистики (х₁,х₂,...,х_n) также зависит от неиз­вестного параметра θ.

Качество оценок характеризуется следующими основными свойствами:

а) Состоятельность. Оценка = (х₁,х₂,...,х_n) называ­ется состоятельной оценкой параметра θ, если сходится по вероятности к θ при n →∞. Последнее означает, что при n →∞.

Состоятельность оценки в большинстве случаев уста­навливается с помощью следующей теоремы.

Теорема1. Если и при n →∞, то — состоятельная оценка параметра θ.

б) Несмещенность. Оценка θ называется несмещенной оценкой параметра θ, если ее математическое ожидание равно оцениваемому параметру, т.е. .

Разность называется смещением. Для несмещен­ных оценок систематическая ошибка оценивания равна нулю.

Простейший метод статистического оценивания - метод подстановки или аналогии — состоит в том, что в качестве оценки той или иной числовой характеристики (среднего, дисперсии и др.) генеральной совокупности берут соответствующую характе­ристику распределения выборки - выборочную характеристику.

Пример 38. Пусть х₁,х₂,...,х_n - выборка из генеральной со­вокупности с конечными математическим ожиданием и дисперси­ей σ². Используя метод подстановки, найти оценку т. Проверить свойства несмещенности и состоятельности полученной оценки.

Решение. По методу подстановки в качестве оценки т ма­тематического ожидания возьмем математическое ожидание рас­пределения выборки - выборочное среднее. Тогда, получим

.

Для проверки несмещенности и состоятельности выбо­рочного среднего как оценки т, рассмотрим эту статистику как функцию выборочного вектора (Х₁,Х₂,...,Х_n). По определению вы­борочного вектора имеем: M[X_i]=т и D[X_i]=σ², i = 1,2,...,п, причем X_i - независимые в совокупности случайные величины.

В данном случае будем иметь

,

.

Отсюда по определению получаем, что - несмещенная оценка т, и так как при n→∞, то в силу теоремы 1 является состоятельной оценкой математического ожидания т генеральной совокупности.

Пример 39. Доказать теорему о состоятельности оценки.

Доказательство: для оценки параметра θ может быть пред­ложено несколько несмещенных оценок. Мерой точности несме­щенной оценки считают ее дисперсию D[ ].

Пусть и - две различные несмещенные оценки пара­метра θ. Если D[ ]<D[ ], то говорят, что оценка более эф­фективна, чем оценка .

В предположении, что распределение случайной величины Х и статистика удовлетворяют некоторым условиям регулярно­сти (А^*), для дисперсии несмещенной оценки параметра θ вы­полняется неравенство Крамера - Рао:

, где 1_п (θ) - информация Фишера, содержащаяся в выборке объема п относительно неизвестного параметра θ. Для непрерывной случайной величины Х с плотностью распределения f_x(x, θ) .

Если же Х- дискретная случайная величина, то , где р(Х, θ) = Р[Х=х].

Условия регулярности (А^*) выполняются для обычно ис­пользуемых статистик нормального, биномиального и пуассонов-ского распределений.

Несмещенная оценка параметра θ, дисперсия которой достигает своего наименьшего возможного значения , называется эффективной: .

Несмещенная оценка называется асимптотически эффективной оценкой параметра θ, если .

Если условия регулярности (А^*) не выполняются, то может существовать несмещенная оценка параметра θ, дисперсия кото­рой меньше, чем нижняя граница в неравенстве .

Такая оценка называется сверхэффективной.