12. Ефективні оцінки. Нерівність Крамера-Рао. Наслідки.
В математичній статистиці нерівністю Крамера—Рао (на честь Гаральда Крамера та К.Р. Рао) називається нерівність, яка при деяких умовах, що накладені на статистичну модель, дає нижню границю для дисперсії оцінки невідомого параметра, виражаючи її через інформацію за Фішером.
Формулювання
Нехай
дано статистичну модель
,
—
вибірка розміру
,
визначена функція правдоподібності
і
виконані такі умови (умови регулярності):
і
всюди диференційована
по
.Функція
(функція
впливу або внеску вибірки) має скінченну
дисперсію (або, що те саме,скінченна
інформація за Фішером)Для будь-якої статистики
з
скінченним другим моментом має місце
рівність
.
Нехай
при цих умовах дано статистику
,
яка незміщено оцінює диференційовну
функцію
.
Тоді справедлива наступна нерівність:
;рівність досягається тоді і тільки тоді, коли
представляється
у вигляді
.
Тут
—
інформація
за Фішером.
Частковий випадок
Часто
використовується наступний частковий
випадок нерівності, що наведена вище,
що має назву нерівність Крамера-Рао.
Нехай виконані умови регулярності, а
—
незміщена
оцінка
параметра
.
Тоді
.
Рівність
в цій нерівності досягається тоді і
тільки тоді, коли
.
Застосування
Оцінка параметра називається ефективною, якщо для неї нерівність Крамера-Рао перетворюється в рівність. Таким чином, нерівність може бути використана для доведення того, що дисперсія даної оцінки найменша з можливих, тобто що дана оцінка в деякому сенсі краще інших.
13. Метод одержання оцінок.
Метод моментів знаходження оцінок в математичній статистиці — це спосіб побудови оцінок, заснований на порівнянні теоретичних і вибіркових моментів.
Опис
Коротко, метод моментів описується так: «Ми маємо певну вибірку, і припускаємо що вона задається певним розподілом з параметрами. Ми обчислюємо скільки моментів цього розподілу скільки параметрів, і прирівнюємо їх до відповідних моментів вибірки. Так як моменти розподілу є функціями від параметрів, то отримаємо систему рівнянь відносно параметрів, і з неї отримуємо результат.»
Формально:
нехай
—
вибірка
з розподілу
,
що залежить від параметра
.
Нехай маємо функцію
,
таку що
інтегрована
відносно міри
,
і
|
Що означає інтегрована відносно міри? |
,
где
—
бієкція.
Тоді оцінка
називається
оцінкою параметра
методом
моментів.
Зауваження
Оцінки знайдені методом моментів, як правило спроможні, але часто неефективні. Тому їх можна використовувати лише як перше наближення, базуючись на яких можна знаходити наступні наближення з меншою дисперсією.
За побудовою,
,
тобто оцінка методом моментів отримується
шляхом прирівнювання теоретичного
середнього
з
вибірковим
середнім.
В якості функції
часто
беруть степеневу
функцію:
.
Оцінка
суттєво
залежить від використаної функції
.
Якщо можливе використання кількох
різних функцій
,
отримані з їх допомогою оцінки можуть
відрізнятися
14. Інтервальні оцінки, довірча область, надійність.
Точковою називається оцінка, що визначається одним числом. Інтервальною називається оцінка, що визначається двома числами – кінцями інтервалу. Інтервальні оцінки дозволяють встановити точність і надійність оцінок.
Означення:
Надійністю
(довірчою ймовірністю) параметра
за
статистичною оцінкою
називається
ймовірність
,
з якою виконується нерівність
,
де
-
додатнє число, що характеризує точність
оцінки
.
Звичайно надійність оцінки задається наперед числом, близьким до одиниці. Після елементарних перетворень одержуємо
.
Це
співвідношення свідчить, що ймовірність
того, що інтервал
включає
в себе (покриває) невідомий параметр
,
дорівнює
.
А сам інтервал
називається
довірчим.
Довірчий інтервал для оцінки математичного сподіваннянормального розподілу
Нехай
кількісна ознака Х генеральної сукупності
розподілена нормально, причому середнє
квадратичне відхилення генеральної
сукупності не відоме. Необхідно оцінити
невідоме математичне сподівання
за
допомогою довірчих інтервалів. За даними
вибірки можна побудувати випадкову
величину, яка має розподіл Ст’юдента
з
степенями
свободи
|
де
-
вибіркова середня;
-
виправлене середнє квадратичне
відхилення;
-
обсяг виб