2. Метод моментов
Метод моментов базируется на приравнивании теоретических моментов рассматриваемого распределения и соответствующих эмпирических моментов того же порядка. При этом различают случаи распределений с одним параметром и с двумя параметрами.
1. Оценка одного параметра.
Пусть задана плотность распределения
с одним параметром. Согласно методу
моментов приравниваем, например,
соответствующие начальные моменты
первого порядка, т.е. среднюю выборки
и математическое ожидание распределения
.
Здесь достаточно одного уравнения относительно этого параметра:
.
(*)
Поскольку
математическое ожидание является
функцией параметра
:
,
соотношение (*) можно рассматривать как уравнение с одним неизвестным, которое определяет точечную оценку параметра , являющуюся функцией.
2. Оценка двух параметров.
Пусть задана функция плотности
распределения
.
Для нахождения неизвестных параметров
нужно иметь два уравнения, поэтому
приравняем друг другу соответственно
теоретические и эмпирические моменты:
,
.
(**)
Поскольку
и
есть функции от
и
,
соотношения (**) определяют точечные
оценки этих параметров как функции от
выборки:
,
.
3. Метод наибольшего правдоподобия
1. Дискретные случайные величины.
Пусть Х – дискретная СВ, которая
приняла значения
,
,
…,
в результате п испытаний. Пусть
известен закон распределения СВ Х,
но неизвестен определяющий его параметр
.
Требуется найти точечную оценку этого
параметра.
Обозначим вероятность того, что в
результате испытания величина Х примет
значение
,
через
.
Функция аргумента :
,
где
,
,
…,
– фиксированные числа, называется
функцией
правдоподобия
дискретной
случайной
величины
Х.
В качестве точечной оценки параметра
принимается значение
,
при котором функция
достигает максимума. Такую оценку
называют оценкой
наибольшего
правдоподобия.
Функцию
,
называют логарифмической
функцией правдоподобия.
Точка максимума у обеих функций одна и
та же, но вместо функции
,
удобнее анализировать функцию
.
2. Непрерывные случайные величины.
Пусть Х – непрерывная СВ, которая приняла значения , , …, в результате п испытаний. Пусть известна функция распределения плотности , но неизвестен определяющий её параметр . Требуется найти точечную оценку этого параметра.
Функция аргумента :
,
где
,
,
…,
– фиксированные числа, называется
функцией
правдоподобия непрерывной случайной
величины Х.
Метод оценки наибольшего правдоподобия неизвестного параметра такой же, как и в предыдущем случае – поиск точки максимума функции L.
Если в известной функции распределения неизвестны два параметра, то функция правдоподобия имеет вид
,
и тогда необходимо найти точку максимума функции двух переменных.
Соответствующие логарифмические функции наибольшего правдоподобия вводятся так же, как и в случае дискретной случайной величины.