12. Статистическое оценивание параметров распределения.

Виды оценок и классификация точечных оценок.

Случайная величина имеет плотность вероятности , где – неизвестный параметр распределения. В результате эксперимента получены значения этой случайной величины: . Произвести оценку по существу означает, что выборочным значениям случайной величины необходимо поставить в соответствие некоторое значение параметра , т. е. создать некоторую функцию результатов наблюдений , значение которой принимается за оценку параметра . Индекс указывает на количество проведенных опытов.

Любая функция, зависящая от результатов наблюдений, называется статистикой. Так как результаты наблюдений являются случайными величинами, то и статистика тоже будет случайной величиной. Следовательно, оценку неизвестного параметра следует рассматривать как случайную величину, а ее значение, вычисленное по экспериментальным данным объемом , – как одно из возможных значений этой случайной величины.

Оценки параметров распределений (числовых характеристик случайной величины) подразделяются на точечные и интервальные. Точечная оценка параметра определяется одним числом , и ее точность характеризуется дисперсией оценки. Интервальной оценкой называют оценку, которая определяется двумя числами, и – концами интервала, накрывающего оцениваемый параметр с заданной доверительной вероятностью.

Чтобы точечная оценка неизвестного параметра была наилучшей с точки зрения точности, необходимо, чтобы она была состоятельной, несмещенной и эффективной.

Состоятельной называется оценка параметра , если она сходится по вероятности к оцениваемому параметру, т. е.

. (8.8)

На основании неравенства Чебышева можно показать, что достаточным условием выполнения соотношения (8.8) является равенство

.

Состоятельность является асимптотической характеристикой оценки при .

Несмещенной называется оценка (оценка без систематической ошибки), математическое ожидание которой равно оцениваемому параметру, т. е.

. (8.9)

Если равенство (8.9) не выполняется, то оценка называется смещенной. Разность называется смещением или систематической ошибкой оценки. Если же равенство (8.9) выполняется лишь при , то соответствующая оценка называется асимптотически несмещенной.

Необходимо отметить, что если состоятельность – практически обязательное условие всех используемых на практике оценок (несостоятельные оценки используются крайне редко), то свойство несмещенности является лишь желательным. Многие часто применяемые оценки свойством несмещенности не обладают.

В общем случае точность оценки некоторого параметра , полученная на основании опытных данных , характеризуется средним квадратом ошибки

,

который можно привести к виду

,

где – дисперсия, – квадрат смещения оценки.

Если оценка несмещенная, то

.

При конечных оценки могут различаться средним квадратом ошибки . Естественно, что, чем меньше эта ошибка, тем теснее группируются значения оценки около оцениваемого параметра. Поэтому всегда желательно, чтобы ошибка оценки была по возможности наименьшей, т. е. выполнялось условие

. (8.10)

Оценку , удовлетворяющую условию (8.10), называют оценкой с минимальным квадратом ошибки.

Эффективной называется оценка , для которой средний квадрат ошибки не больше среднего квадрата ошибки любой другой оценки, т. е.

,

где – любая другая оценка параметра .

Точечные оценки математического ожидания и дисперсии.

Точечная оценка математического ожидания  определяется по формуле

                                                              .  

Точечная оценка дисперсии определяется по формуле

                                                         

Методы получения оценок параметров распределения.

Метод моментов. Метод состоит в приравнивании теоретических моментов соответствующим эмпирическим моментам того же порядка.

Эмпирические начальные моменты -го порядка определяются формулами:

,

а соответствующие им теоретические начальные моменты -го порядка – формулами:

для дискретных случайных величин,

для непрерывных случайных величин,

где – оцениваемый параметр распределения.

Метод максимального правдоподобия. Метод максимального правдоподобия точечной оценки неизвестных параметров распределения сводится к отысканию максимума функции одного или нескольких оцениваемых параметров.

Пусть – непрерывная случайная величина, которая в результате испытаний приняла значения . Для получения оценки неизвестного параметра необходимо найти такое значение , при котором вероятность реализации полученной выборки была бы максимальной. Так как представляют собой взаимно независимые величины с одинаковой плотностью вероятности , то функцией правдоподобия называют функцию аргумента :

.

Интервальные оценки параметров.

Интервальной называют оценку, которая определяется двумя числами – концами интервала.

Допустим, что для изучения некоторой случайной величины X (признака генеральной совокупности) необходимо по статистическим данным произвести оценку неизвестного ее параметра θ (это может быть М(Х), D(Х) или р) с определенной степенью точности и надежности, т. е. надо указать границы, в которых практически достоверно лежит этот неизвестный параметр θ.

Это означает, что надо найти такую выборочную оценку   для искомого параметра θ, при которой с наибольшей вероятностью (надежностью) будет выполняться неравенство:

Отсюда видно, что чем меньше , тем точнее характеризуется неизвестный параметр θ с помощью выборочной оценки  . Следовательно, число характеризует точность оценки параметра θ.

Надежность выполнения неравенства   оценивается числом  (α = 1 – γ), которое называют доверительной вероятностью:

 

 = Р( ).                                            (1.11)

 

Итак, число  характеризует точность оценки параметра θ; число  – характеризует надежность оценки параметра θ.

Интервальные оценки математического ожидания и дисперсии нормальных случайных величин.

Как и при построении интервальных оценок для математического ожида­ния, в данном случае также необходимо определить случайную величину, распределение которой было известно и включало оцениваемый параметр . В соответствии с теоремой 4.1 такой отправной точкой для построения доверительного интервала может быть случайная величина  , распределенная по закону ² с   степенями свободы. Заметим, что доверительные интервалы, построенные для параметра  , вообще говоря, можно было выбрать несимметричными относительно   и это не противоречило бы определению интервальной оценки. Но такой выбор интервала, когда в его середине лежит состоятельная и несмещенная оценка параметра, являлся предпочтительным. В данном случае целесообразно выбрать два предела   и   так, что , где  – надежность интервальной оценки. Следовательно,   – квантиль  -распределения уровня  ,   – уровня  . Тогда имеет место равенство  , а интервал  (4.16) является интервальной оценкой для   надежности  .