Файловый архив студентов. Файловый архив студентов.
1331 вуз, 5514 предмет.
/ Регистрация
FAQ Обратная связь Вопросы и предложения
Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Национальный исследовательский университет «МЭИ»
Предмет:
[НЕСОРТИРОВАННОЕ]
Файл:
Tip_rasch_ver.pdf
Скачиваний:
817
Добавлен:
31.03.2015
Размер:
3 Мб
Скачать
☆
►Содержание►

наблюдений.

Для

непрерывной

случайной величиныL равна

плотности

 

 

 

 

 

 

 

 

 

 

 

 

 

 

r

 

 

 

 

 

 

 

вероятности в точке выборочного пространства Х ={Х1, Х 2 ,K, Х n} .

 

 

 

Сформулированный принцип предлагает в качестве оценки значения

 

параметра

выбрать

 

такоеq = q

при

которомL

принимает

наибольшее

 

значение.

Величина

 

 

%

 

 

 

функцией

от

результатов

наблюдений

 

 

q, будучи

 

 

 

 

 

 

 

 

%

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Х1, Х 2 ,K, Х n , называется оценкой наибольшего правдоподобия.

 

 

 

 

Во многих случаях, когда L дифференцируема, оценка наибольшего

 

правдоподобия находится как решение уравнения

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

L

= 0,

 

 

 

 

 

 

(3.1.5)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

¶q

 

 

экстремума. Поскольку ln L

 

которое

следует

из

необходимого

условия

 

достигает максимума при том же значенииq, что и L, то можно решать

 

относительно q эквивалентное уравнение

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

ln L

= 0.

 

 

 

 

 

 

(3.1.6)

 

 

 

 

 

 

 

 

 

 

 

¶q

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Это уравнение называютуравнением правдоподобия. Им пользоваться

 

удобнее, чем уравнением (3.1.5), так как функция L равна произведению, а

 

ln L –– сумме, а дифференцировать ln L проще.

 

 

 

 

 

 

 

 

Если параметров несколько(многомерный параметр), то следует

 

взять

частные

 

производные

 

от

функции

правдоподобия

по

всем

параметрам, приравнять частные производные нулю и решить полученную

 

систему уравнений.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Оценку, получаемую в результате поиска максимума функции

 

правдоподобия, называют еще оценкоймаксимального правдоподобия.

 

Известно, что оценки максимального правдоподобия состоятельны. Кроме

 

того, если для q существует эффективная оценка, то уравнение правдоподобия

 

имеет единственное решение, совпадающее с этой оценкой. Оценка

 

максимального правдоподобия может оказаться смещенной.

 

 

 

 

 

 

 

 

 

 

3.1.4. Метод моментов

 

 

 

 

 

 

 

 

Начальным

 

моментом k-го

порядка

случайной

величиныХ

 

называется

 

математическое

ожиданиеk-й

степени

этой величины, т.е.

 

М ( Х k ).

Само математическое ожидание

считается

начальным

моментом

 

первого порядка.

 

 

 

 

 

 

 

 

порядка называется М [ Х – М ( X )]k .

 

Центральным

 

моментом k-го

 

Очевидно,

что дисперсия ––

это

центральный

момент

второго

порядка.

 

Если закон распределения случайной величины зависит от некоторых

 

параметров,

то

от

этих

параметров

зависят

и

моменты

случайной

величины.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

180

Для оценки параметров распределения по методу моментов находят на основе опытных данных оценки моментов в количестве, равном числу оцениваемых параметров. Эти оценки приравнивают к соответствующим теоретическим моментам, величины которых выражены через параметры. Из полученной системы уравнений можно определить искомые оценки.

Например, если Х имеет плотность распределения f (x,q), то

¥

М ( X ) = ò х f (x,q)=dx j(q).

-¥

 

 

 

 

 

 

как оценкой для М(Х) на основе

Если воспользоваться величиной Х

опытных данных, то оценкой q по

методу моментов будет решение

 

 

.

 

уравнения j(q) = Х

 

Пример 3.3.1. Найти оценку параметра показательного закона распределения по методу моментов.

Решение. Плотность вероятности показательного закона распределения

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

¥

 

имеет

 

вид f (x,l)

lехр= (-lх), х ³ 0.

 

 

Поэтому M ( X ) = òхlе-lхdx =

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

0

 

 

¥

 

 

 

 

 

 

1

 

1

 

 

 

 

 

 

 

1

 

 

 

 

 

 

= – хе-lх

 

¥0 + òе-lхdx =

и

 

 

 

Откуда l =

 

 

.

 

 

 

 

 

= Х

.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

0

 

 

 

1

 

 

l

 

l

 

 

 

X

 

 

 

 

Ответ.

l =

 

 

.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

X

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Пример

 

3.3.2.

 

Пусть

 

имеется

простейший

поток

событий

неизвестной

интенсивности l.

Для

оценки

параметраl

проведено

наблюдение

потока

и зарегистрированыХ1, Х 2 ,K, Х n

–– длительности

n

последовательных

 

 

 

интервалов

времени

 

между

моментами наступления

событий. Найти оценку для l.

 

 

 

 

 

 

 

 

 

 

 

Решение.

В

простейшем

потоке

интервалы

времени

между

последовательными моментами наступления событий потока имеют

показательный

закон распределенияF (x) =1 – exp{–lx},

х ³ 0.

Так как

 

плотность

вероятности

показательного

закона

распределения

равна

 

¢

lехр= {–lx}, то функция правдоподобия (3.1.4) имеет вид

 

f (x,l) F (=x, l)

 

 

 

L = f ( X1, l) f ( X 2 , l) f ( X 3 ,l) ×K× f ( X n ,l) =

 

 

 

= lехр{–lX1}×lехр{–lX 2}×K×lехр{–lX n

ì

n

ü

 

 

 

} l=n exp í

–låX i ý.

 

 

 

 

 

î

i=1

þ

 

181

n

Тогда ln L = n ln l – lå X i и уравнение правдоподобия

 

 

 

 

 

 

 

 

 

 

i=1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

ln L

 

n

n

 

 

 

%

 

 

n

 

 

 

 

1

 

 

 

 

 

 

 

 

- å X i

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

=

 

 

= 0 имеет решение l

 

n

 

=

 

 

 

 

 

.

=

 

 

 

 

¶l

l

 

 

 

 

Х

 

 

 

 

 

i=1

 

 

 

 

 

åX i

 

 

 

 

 

 

 

 

При

таком

 

 

 

 

 

i=1

 

правдоподобия

действительно

 

 

 

 

значении l = l функция

 

 

 

 

 

 

 

 

 

 

%

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

достигает наибольшего значения, так как

2 ln L

= -

n

< 0 .

 

 

 

¶l

2

 

l2

 

 

 

 

 

 

 

 

1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

%

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Ответ. l =

 

 

 

 

.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Х

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Определение. Пусть Х1, Х 2 ,K, Х n

 

––

 

результаты

n

независимых

наблюдений случайной величиныX.

Если

 

 

расставить

эти

результаты в

порядке возрастания, то получится последовательность значений, которую называют вариационным рядом и обозначают:

X (1) , X(2) ,K, X (n) .

В этой записи X(1) = min{X1, X 2 ,K, X n}, X(n ) = max{X1 , X 2 ,K, X n}.

Величины X(k ) называют порядковыми статистиками.

Пример 3.3.3. Случайная величина Х имеет равномерное распределение на отрезке [q – b;q + b], где q и b неизвестны. Пусть Х1, Х 2 ,K, Х n ––

результаты n независимых наблюдений. Найти оценку параметра q. Решение. Функция плотности вероятности величины Х имеет вид

 

 

 

 

 

ì1 / 2b при х Î[q – b;q + b],

 

 

 

 

 

 

f (x,b, q) = í

0 при остальных х.

 

 

 

 

 

 

 

 

î

 

 

 

В

этом

случае

функция

правдоподобияL = [1 / 2b]n от

q явно

не

 

зависит.

Дифференцировать

по q

такую

 

функцию

нельзя

и

нет

возможности записать уравнение правдоподобия. Однако легко видеть, что

 

L возрастает

при

уменьшенииb.

Все результаты наблюдений лежат

в

[q – b;q + b], поэтому можно записать:

 

 

 

 

 

 

 

 

 

 

q – b £ X(1) ,

X (n) £ q + b,

 

 

 

 

где X(1) –– наименьший, а X(n) –– наибольший из результатов наблюдений.

 

При минимально возможном b

 

 

 

 

 

 

 

 

 

 

 

 

q =– =b

X(1) ,

X (n) q + b,

 

 

 

 

откуда q – b + q + b

X=

+ X

(n)

или 2q

X = + X

(n)

.

 

 

 

 

 

 

(1)

 

 

 

(1)

 

 

 

 

Оценкой наибольшего правдоподобия для параметра q будет величина

182

 

 

 

%

X (1)

+ X (n )

.

 

 

 

q =

 

 

 

X (1)

+ X (n )

 

2

 

 

 

 

%

 

 

 

 

Ответ. q =

 

 

.

 

 

 

 

2

 

 

 

 

 

 

 

 

 

Пример 3.3.4. Случайная величина X имеет функцию распределения

 

 

 

ì0

при x < 0,

 

 

 

ï

 

при x Î[0, a],

 

 

F (x) = íx2 / a2

 

 

 

ï

при x > a,

 

 

 

î1

где a > 0 неизвестный параметр.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Пусть Х1, Х 2 ,K, Х n

––

результаты n независимых

наблюдений

случайной

величины X.

 

 

 

Требуется

 

 

 

найти

оценку

наибольшего

правдоподобия для параметра a и найти оценку для M(X).

 

Решение. Для построения функции правдоподобия найдем сначала

функцию плотности вероятности

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

ì

 

 

 

 

2

 

при x Î[0, a],

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

f (x) = í2x / a

 

 

 

 

 

 

 

 

 

 

 

î0 при остальныхx.

 

 

 

 

Тогда функция правдоподобия:

 

 

 

 

 

 

 

 

 

 

 

n

 

 

 

 

 

 

 

 

 

 

2 X

 

 

2 X

 

 

 

 

2 X n

 

 

n

 

 

L( X1, X 2 ,¼, X n , a=)

 

1

×

2

×... ×

 

=

2

ÕXi .

 

 

 

2

 

2

 

2

2n

 

 

 

 

 

 

 

 

 

 

a

 

 

a

 

 

 

 

a

 

a

i=1

 

Логарифмическая функция правдоподобия:

 

n

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

ln[L( X1, X 2 ,K, X n , a)] = n ln 2 - 2nln a + åln X i .

 

Уравнение правдоподобия

 

 

 

 

 

 

 

 

 

 

i=1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

ln(L)

= -

2n

= 0

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

a

 

 

 

a

 

 

 

 

 

 

 

не имеет решений. Критических точек нет. Наибольшее и наименьшее

значения L находятся на границе допустимых значений a.

 

По виду функцииL можно заключить,

что значение L тем больше,

чем меньше величинаa. Но

a не может быть меньшеX(n). Поэтому

наиболее правдоподобное значение a = max{X1, X 2 ,K, X n} = X (n).

 

a

2x

 

 

 

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Так как M ( X ) = òx ×

dx =

a , то оценкой наибольшего правдоподобия

2

 

 

0

a

 

 

 

3

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

для M ( X )

будет величина

2

X

(n ).

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

3

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Ответ. a = max{X1, X 2 ,K, X n} = X(n) , M ( X ) = 2 X (n ). 3

183

Пример 3.3.5. Случайная величинаХ имеет нормальный закон распределения N(m,s2) c неизвестными параметрами m и s. По результатам независимых наблюдений Х1, Х 2 ,K, Х n найти наиболее правдоподобные значения этих параметров.

Решение. В соответствии с (3.1.4) функция правдоподобия имеет вид

 

 

 

 

 

 

 

 

 

 

æ 1

 

ön

n

 

{

 

 

 

 

 

 

 

2

 

2

}

 

1

 

2

 

n

 

 

 

 

 

ç

 

 

 

 

÷

Õ

 

 

 

i

 

 

 

 

 

 

 

 

L( Х

, Х

 

,¼, Х=, m, s)

 

 

 

 

 

 

 

 

 

exp

 

-( X

 

- m)

 

/ 2s

 

 

=

 

 

è s

 

2p ø

i=1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

æ

 

1 ö

n

ì

 

 

n

 

 

 

 

 

 

 

 

 

ü

 

 

 

 

 

 

 

 

 

 

 

 

 

å( X i - m)

2

 

 

 

2

 

 

 

 

 

 

 

 

 

= ç

 

 

 

 

÷

 

exp í

-

 

/ 2s

 

ý

,

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

è s

 

2p ø

 

î

 

 

i=1

 

 

 

 

 

 

 

 

 

þ

 

 

 

 

 

 

а логарифмическая функция правдоподобия:

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

n

 

 

 

 

 

 

1

 

 

n

 

 

 

 

 

ln L( Х1 , Х 2 ,¼, Х n , m, s)

–n=ln s –

ln(2p) –

 

 

å( X i - m)2.

2

2s

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

i=1

 

 

 

 

 

Необходимые условия экстремума дают систему двух уравнений:

ìд ln L(m,s)

 

 

1

 

 

n

( X i - m)2

ï

 

= -

 

 

 

å

 

 

 

 

 

2

 

 

ï

m

2s

 

=

 

m

 

 

 

 

i=1

í

ln L(m,s)

 

 

n

 

 

1

 

n

ï

 

 

 

 

 

 

= -

+

 

å( X i - m)

ï

¶s

 

s

 

s

3

 

î

 

 

 

 

 

 

 

i=1

 

1

n

Решения этой системы имеют вид: m% =

åX i

 

n i=1

1

 

æ

n

ö

 

 

 

 

 

 

 

 

ç

åX i

- nm ÷

= 0,

 

 

s

2

 

 

 

 

è i=1

ø

 

 

 

2 = 0.

 

 

 

 

 

 

 

 

 

 

, s% 2

1

n

 

 

)2 .

= X

å( X= i - X

 

 

 

 

 

 

 

 

n i=1

 

 

 

Отметим, что обе оценки являются состоятельными, причем оценка для m несмещенная, а для s 2 смещенная (сравните с формулой (3.1.3)).

 

 

 

1

n

 

 

Ответ. m = X

, s2

å( X= i - X

)2 .

 

n i=1

Задача 3.3.1. Для нечетных вариантов. Случайная величина X имеет функцию распределения

F (x) =1 – exp{–l(x – a)}, x ³ a, l > 0.

Пусть Х1, Х 2 ,K, Х n –– результаты n независимых наблюдений случайной величины.

1)По результатам наблюдений построить оценки наибольшего правдоподобия для параметров a и l.

2)Полагая значение параметра a равным номеру варианта, найдите

оценку параметра l по методу моментов.

 

Для четных вариантов.

Случайная

величинаX имеет функцию

плотности вероятности f (x) =

а

æ

х

öа+1

х0 £ х и f (x) = 0 при х < х0

 

ç

0

÷

при

х0

х

 

è

ø

 

 

184

( а > 0 и х0 > 0 ). Пусть Х1, Х 2 ,K, Х n –– результаты n независимых наблюдений случайной величины.

1)По результатам наблюдений построить оценки наибольшего правдоподобия для параметров a и x0.

2)Полагая значение параметра x0 равным номеру варианта, найдите оценку параметра a по методу моментов.

(См. примеры 3.3.1–3.3.5.)

Задача 3.3.2. Случайная величинаX имеет функцию плотности вероятности

ì0

при x < 0,

ï

 

lm

f (x) = í

 

ï

 

 

xm-1 e-lx при x ³ 0.

 

 

î

(m -1)!

По результатам независимых наблюдений Х1, Х 2 ,K, Х n постройте оценки

наибольшего правдоподобия для параметраl. (См. примеры 3.3.1–3.3.5; значение m возьмите равным номеру варианта плюс единица.)

Задача

3.3.3. Случайная

величина X

имеет функцию

 

плотности

вероятности

f (x). По результатам независимых наблюдений Х1, Х 2 ,K, Х n

постройте оценки для параметра распределения.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

ì

 

x

2

ü

 

 

 

 

 

В вариантах 1, 6, 11, 16, 21, 26: f (x) =

2

 

 

 

s > 0 при

 

 

 

exp í-

 

 

ý,

ps2

2s2

 

 

 

 

î

þ

 

 

 

 

 

x ³ 0 ( одностороннее нормальное распределение). Оцените параметр s.

 

В вариантах 2, 7, 12, 17,

22, 27: f (x) =

 

 

4

 

x2

 

ì

 

x

2

ü

 

 

 

exp í-

 

ý,

 

 

 

 

 

 

2s2

 

 

 

 

 

 

p(2s2 )3/2

 

 

î

 

þ

s > 0 при x ³ 0 (распределение Максвелла). Оцените параметр s.

В вариантах 3, 8, 13, 18, 23, 28: f (x) =

x

ì

x

2

ü

, s > 0 при

exp í-

 

ý

s2

2s2

 

î

þ

 

x ³ 0 (распределение Релея). Оцените параметр s.

В вариантах 4, 9, 14, 19, 24, 29: f (x) =

 

1

 

ì

(ln x - m)

2

ü

 

 

 

exp í-

 

ý

,

xs

 

 

2s2

 

 

 

2p

î

 

þ

 

s > 0

при x ³ 0 (логарифмически нормальное распределение).

Оцените

параметр s.

 

В

вариантах 5, 10, 15, 29, 25, 30: f (x) = 2ax exp{-ax2},

a > 0 при

x ³ 0 (распределение Вейбулла–Гнеденко). Оцените параметр a.

(См. примеры 3.3.1–3.3.5.)

Задача 3.3.4. Дискретная случайная величина X имеет распределение: (в вариантах 1, 4, 7, 10, 13, 16, 19, 22, 25, 28)

185

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]
Помощь Обратная связь Вопросы и предложения Пользовательское соглашение Политика конфиденциальности