21 Методы получения точечных точечных оценок неизвестных параметров. Метод моментов. Метод максимального правдоподобия

Метод моментов.

Состоит в том, что выборочные (эмпирические) моменты принимаются за оценки соответствующих теоретических (генеральных) моментов и неизвестные параметры выражаются через эти моменты.

Начальные моменты:

1. Теоретические (генеральные)

где - вероятность - плотность случайной величины X.

2. выборочные (эмпирические) .

Центральные моменты:

1. Теоретические (генеральные)

2. выборочные (эмпирические)

.

При .

Необходимо отметить, что теоретическая моменты – случайные величины, а эмпирические – фиксированные постоянные.

Таким образом, для получения оценок неизвестных параметров необходимо решить одну из систем уравнений:

Здесь оценки параметров заменены на сами параметры.

Метод максимального правдоподобия. (лучше в конспекте)

Пусть x₁,…,x_n-выборка из абсол непр распред с плотн /ОПР.Совместная плотн распр случ величин зависящая от параметров наз ф-цией правдоподобия.МЕТОД макс-го правдоподобия заключается:в качестве оценок выбиравется такой вектор( ),кот даёт максимум ф-ции правдоподобия,т.е нужно взять производную от ф-ции правдоподобия и приравнять к 0.

22.Информация о выборке по Фишеру в выборке и в наблюдении. Неравенство Рао-Крамера. Доказательство эффективности оценок при помощи неравенства Рао-Крамера.

Пусть -выборка из абсолютно непр-го распределения с плотностью вероятностей p(x| ) зависящей от параметра .Запишем ф-цию правдоподобия и логарифмическую ф-цию правдоподобия. .Опр.Величина наз информацией по Фишеру по параметру выборки .если выборка состоит из 1 наблюдения,то инф-я в такой выборке Предполагается,что можно проводить диф-е по параметру под знаком интеграла: ,так что т.к. в абстрактной выборке независимы и одинаково распределены,то информации в наблюдениях одинаковы и равны .Рассмотрим

Вывод: т-ма:1)область значений,где не зависит от параметра ;2)допустимо диф-е след-х 2-х интегралов по параметру ;3) -некоторая оценка параметра .4) ,тогда вып-ся нер-во Рао-Крамера: ,где . ,тогда нер-во Р-К будет выглядеть

Д-во эффективности оценок при помощи неравенства Рао-Крамера.Пусть выборка из распределения Пуассона с параметром . -неизвестен и по значениям выборки мы попробуем его оценить.т.к численно совпадает с теор-м мат ожиданием,то в качестве оценки возьмём выборочное среднее .С помощью т-ммы о нер-ве Рау-Крамера можно д-ть,что -эффективная оценка .

След-но,найдём оценим дисперсию . пусть произвольная оценка . из последнего нер-ва видно,что из всех возможных оценок имеет наименьшую дисперсию,т.е. -эффективная оценка.

23.Распределение c2, Стьюдента, Фишера. Критические (процентные) точки. Леммы о нормальном распределении и Фишера.

Распределения х – квадрат, Стьюдента, Фишера. О.1. Случайная величина , где случайные величины - независимы и имеют стандартное нормальное распределение (т.е. N(0,1)), называется случайной величиной хи-квадрат с n степенями свободы.

Обозначим через - плотность вероятности случайной величины , а через -функцию распределения случайной величины .

На основании этих функций составлена таблица процентных точек распределения .

Рассмотрим следующее уравнение:

. (1)

Решение в уравнении (1) называется критической точкой распределения , соответствующей уровню значимости и числу степеней свободы n.

- процентная точка, соответствующая числу степеней свободы и уровню значимости . О.2. Отношение , где X~N(0,1) -имеет стандартное нормальное распределение, а числитель и знаменатель - независимые CB, называется отношением Стьюдента с n степенями свободы.

Обозначим через плотность вероятности СВ , а через - функцию распределения случайной величины .

График плотности распределения Стьюдента:

. (2)

Пусть необходимо решить уравнение:

,

здесь называется критической (процентной) точкой распределения Стьюдента, соответствующей числу степеней свободы n и уровню значимости .

О3. Отношение , где числитель и знаменатель – независимые СВ, называется F – отношением или отношением Фишера.

Обозначим через плотность вероятности СВ .

Пусть необходимо решить уравнение:

.

- называется критической (%-ной) точкой F – распределения, соответствующей числам степеней свободы n₁ и n₂ и уровню значимости .

т-ма:Если случ вектор имеет нормальное распр-е и его координаты ₁ и ₂-некоррелированные случ величины,то ₁ и ₂-независимы и каждый из них имеет норм-е распр-е.

Лемма Фишера: Пусть случ величины независимы и нормально распределены с параметрами .Пусть для p<n случ величина являются линейными комбинациями с матрицей коэффициентов,строки которой ортонормированны. не зависит от . (хи квадрат с n-p степенями свободы.).