- •Класична лінійна модель множинної регресії (клммр)
- •В клммр досліджуються лінійні функції регресії (2)
- •Метод найменших квадратів (мнк) і метод максимуму правдоподібності.
- •Аналіз варіації результуючого показника
- •4.Оцінка якості статистичної моделі.
- •Статистичні властивості оцінок параметрів клммр. Обґрунтованість оцінок і .
- •Незміщеність оцінок.
- •Перевірка гіпотези про відсутність будь-якого лінійного зв’язку між і сукупністю пояснюючих змінних . В припущенні справедливості гіпотези
- •Коваріаційна матриця мнк – оцінок.
- •Перевірка наявності зв’язку між екзогенними і ендогенною змінними за критерієм Фішера. Перевірка значимості коефіцієнтів моделі за критерієм Стьюдента.
- •Мультиколінеарність та способи відбору найбільш суттєвих пояснюючих змінних.
- •3. Версія покрокового відбору змінних.
- •1) Версія всіх можливих регресій.
- •2) Версія покрокового підбору змінних.
- •Помилки специфікації клммр моделі, пов’язані із вибором пояснюючих змінних.
- •Узагальнена лінійна модель множинної регресії (улммр з гетероскедантичними та автокорельованими регресійними залишками).
- •Узагальнений метод найменших квадратів (умнк).
- •Тест Спірмана для перевірки гетероскедантичності моделі.
- •Тест Глейcера для перевірки гетероскедантичності моделі.
- •Тест Гольфельда-Куандта для перевірки гетероскедантичності моделі.
- •Улммр з автокорельваними залишками (побудова матриць ).
- •Статистика Дарбіна –Уотсона
- •17. Оцінка авторегресійного параметра в моделі з автокорельованими залишками.
- •18. Двокроковий метод Дарбіна оцінки авто регресійного параметру.
- •Нелінійні моделі. Деякі властивості нелінійних залежностей, які підлягають безпосередній лінеаризації (моделі гіперболічного, експоненціального, степеневого та логарифмічного типів.
- •20. Підбір лінеаризуючого перетворення (підхід Бокса-Кокса)галіме!!!!
- •Точковий прогноз та побудова інтервалів довіри прогнозу на основі регресійних моделей.
- •22. Дослідження точності моделі в реальній ситуації (розбиття вибірки на дві підвибірки, метод ”ковзного екзамену”).
- •Умови ототожнення слвр (умови 1,2,3).
- •Умови ототожнення окремого рівняння слвр (умови 4,5).
- •???26.Оцінювання структурних параметрів окремого рівняння двокроковим методом найменших квадратів.
20. Підбір лінеаризуючого перетворення (підхід Бокса-Кокса)галіме!!!!
Англійські
статисти Г. Бокс і Д. Кокс запропонували
більш формалізовану процедуру підбору
лінеаризуючого перетворення. Їх метод
базується на припущенні, що шукане
лінеаризоване перетворення належить
до певного однопараметричного сімейства
перетворень вигляду
(16.8)
Точніше
їх гіпотезу можна сформулювати наступним
чином
таке дійсне (додатне або від’ємне) число
що один з двох наступних варіантів
представлення шуканої регресійної
залежності між спостережуваними змінними
у і
(16.9)
або
(16.10)
буде задовольняти всім вимогам нормальної КЛММР.
Оцінка
параметра
здійснюється методом максимальної
правдоподібності. Вважатимемо
що вихідна модель може бути подана у
вигляді (16.10). Матрична форма запису має
вигляд
(16.11)
де
,
.
Алгоритм
пошуку
полягає в переборі значень з певного
діапазону. Спочатку визначається
апріорний діапазон
можливих значень
( часто вибирають
).
На цьому діапазоні визначається сітка
(решето) значень
.
Для кожного
послідовно обчислюються
і
.
Величина
визначається з умови
Оцінки
є оцінками максимальної правдоподібності.
оцінка
параметра
у випадку застосування перетворення
(16.8) одночасно до у і
здійснюється аналогічно з однією
видозміною
матриця спостережень Х замінюється
перетвореною матрицею спостережень
.
Точковий прогноз та побудова інтервалів довіри прогнозу на основі регресійних моделей.
Нехай відомо:
вихідні статичні дані
спостережень;між змінними та
існує статистичний зв’язок, який
задовільняє умови УЛММР;значення пояснюючих змінних
(але
невідоме
);характер коваріаційних зв’язків регресійного залишку
з рівняння
з рештою
регресійних залишків
,
а
також, що
.
Необхідно
побудувати найкращий (у розумінні
середнього квадрату похибки)
лінійний
відносно
і незмінний прогноз для невідомого
значення
.
Таким чином, нам необхідно знайти такий
вектор-стовбець коефіцієнтів
,
для якого
(1)
де мінімум береться тільки по таких вектор-стовбцях , які дають незміщені оцінки для , тобто
(2)
Позначимо
(3),
лінійний
прогноз для
,
що задовільняє умову незміщеності (2)
знаходимо
коефіцієнт
для оптимального прогнозу:
(4)
Таким чином, найкращим лінійним незміщеним прогнозом значення буде величина:
(5)
Аналізуючи
формулу (5), приходимо до висновку, що
найкращий прогноз значення
визначається оціненим з УМНК значенням
ф-ції регресії в т.
(тобто
величиною
)
тільки у випадку відсутності кореляції
між
і решту
регресійними залишками. Цій умові
відповідають КЛММР і модель з
гетероскедантичними залишками. В цих
випадках другий доданок рівний нулю,
так як
.
22. Дослідження точності моделі в реальній ситуації (розбиття вибірки на дві підвибірки, метод ”ковзного екзамену”).
Неточний вибір загального виду функції регресії, який призводить до порушення базового припущення
може бути обумовлений: недостатньою або збитковою кількістю змінних x(1),…,x(2); неправильним вибором структури моделі (неправильний вибір параметричного сімейства функцій, до якого повинна належати шукана функція регресії).
1. При аналізі точності різних варіантів регресійних моделей не слід претендувати на побудову точних інтервалів довіри ні для коефіцієнтів ні для функції f(x).
2.
Наявну вибірку
спостережень
доцільно розділити (одним або декількома
способами) на 2 підвибірки об’ємом n1
i
n2
(n1+n2=n,
вибірки
не перетинаються):
навчаючу
і екзаменуючу (контрольну)
.
На основі екзаменуючої вибірки оцінюються
основні характеристики точності
регресійної моделі (в першу чергу
регресійні залишки
.
Нехай
ми розбили вихідну вибірку
на дві підвибірки
k
різними
способами.
3.
Основною (і по суті єдиною) характеристикою
точності апроксимаційного варіанту
лінійної регресійної моделі є оцінка
середньоквадратичної похибки апроксимації
,
яка обчислюється за формулою:
(15.1)
Оцінки
обчислені за даними навчаючої вибірки.
Величина
дозволяє оцінити максимально можливу
похибку апроксимації невідомої функції
регресії f(x)
(в межах досліджуваного
діапазону значень x)
приблизно величиною порядку
,
а результуючого показника y(x)
величиною порядку
.
4. Слід проявляти особливу обережність при використанні регресійних моделей для задач екстраполяції.
Розглянемо
реалізацію п. 2, 3 на прикладі широко
використовуваного методу “ковзного
екзамену” (в зарубіжній літературі
відомого як “jackknife
method”
– “метод складного ножа”). Визначимо
n
розбиттів
(k=n)
вихідної
вибірки
на навчаючу
і екзаменуючу
наступним чином:
Величина середньоквадратичної похибки обчислюється з допомогою методу “ковзного екзамену”, як правило, є більшою в порівнянні з підрахунком за звичайними формулами.
