2) Версія покрокового підбору змінних.

Дана версія відрізняється від попередньої тим , що при переході від k змінних до -ої змінної використовуються результати попереднього кроку. Наприклад, при переході від однієї до двох пояснюючих змінних, змінна співпадає із змінною . В цьому випадку зменшується кількість переборів. Це буде переборів: .

8. Помилки специфікації клммр моделі, пов’язані із вибором пояснюючих змінних.

Під специфікацією моделі ми розуміємо вибір загального вигляду залежностей між пояснюваною змінною і пояснюючими змінними . Якщо така залежність вибрана, то слід визначити набір пояснюючих змінних і специфікацію регресійних залишків.

Зупинимося на виборі списку пояснюючих змінних, тобто нас будуть цікавити помилки, які можуть виникнути при неправильній специфікації матриці спостережень .

Припустимо, що в регресійній моделі (1.1) істине регресійне рівняння має вигляд:

(1)

Матриця спостережень розміром .

Припустимо, що замість матриці спостережень дослідник вибрав матрицю розміром . В матрицю спостережень можуть бути включені:

а) всі стовпчики матриці і ще деякі додаткові;

б) не всі стовпці матриці .

Згідно МНК по матриці спостережень ми отримуємо наступну оцінку коефіцієнтів регресії:

. (2)

Підставимо (7.1) в (7.2):

(3)

Візьмемо матричне сподівання від обох частин (3):

(4)

.

Розглянемо обидва випадки вибору .

а) . буде складатися зі всіх х і ще з якихось додаткових. ; , .

Оцінки перших коефіцієнтів регресії співпадають з їхніми істинними значеннями. Ці оцінки є незміщеними: найкращими, але в цьому випадку виникає явище мультиколінеарності. Щоб позбутися цього явища, можна скористатися методикою попереднього пункту.

б) , ;

(5)

Зміщеність оцінок коефіцієнтів регресії погіршує їхні властивості і робить обчислення залежної змінної менш точними. Таким чином, відкидання суттєвих пояснюючих змінних може приводити до серйозних помилок. Тому краще включати більшу кількість пояснюючих змінних (у цьому випадку оцінки коефіцієнтів регресії є незміщеними) і скористатися методами попереднього для боротьби з мультиколінеарністю.

10. Узагальнена лінійна модель множинної регресії (улммр з гетероскедантичними та автокорельованими регресійними залишками).

При моделюванні багатьох реальних соціоекономічних процесів припущення КЛММР

не виконується . Так якщо в якості вихідних даних матриці не використовує дані часових чи просторово-часових спостережень, то часто невиконуваними є умови гомоскедантичность і взаємної некорельованості регресій них залишків (тобто не виконується умова ).

Нехай - деяка симетрична додатньо-визначена матриця розмірності . Вважатимемо, що коваріаційна матриця регресійних залишків виражається через наступним співвідношенням :

Вважатимемо, що невідоме, а матриця відома (в майбутньому , в певних часткових випадках не відмовимося від апріорного значення матриці ).

Тоді УЛММР записується у вигляді :

(1)

Ми вважали , що з точністю до невідомої величини рівна , в (8.1) – коваріації (а відповідно дисперсії і кореляції ) залишків може бути довільними при умові невиродженості матриці .

Розглянемо 2-типи поширених в економетрії УЛММР.

1. лінійна модель регресії з гетероскедантичними регресійними залишками.

В цьому випадку матриця записується у вигляді :

(2)

невідома величина , яку ми оцінюємо по вибірці ; відомі. (8.2) показує, що умовні дисперсії випадкових залишків залежать від значень пояснюючих змінних (надалі , при певних формах параметризації , будуть визначені деякі підходи до оцінювання апріорії невідомих параметрів ).

2. ЛММР з автокорельованими залишками .

Для часових даних регресійні залишки є статистично взаємозв’язаними, корельованими , а тому їх коваріаційна матриця не може бути діагональною.

Природнім є припущення , що залежність між залишками слабшає по мірі їх взаємного віддалання в часі один від одного . Однією найбільш простих і найбільш аналітично відомих ( а тому найбільш поширених ) математичних форм реалізації цього припущення ( при зберіганні властивості гомоскедантичності залишків ) є наступна форма :

(3)

де коефіцієнт кореляції між деяке число, яке має зміст коєфіцієнтів кореляції між сусідніми в часі залишками .

2. (3) =>:

а) кореляційний зв’язок між регресійними залишками залежить від степені їх “рознесення ” в часі , і не залежить від того , до яких моментів часу вони віднесені (наприклад ).

б) при

в) коваріації залишків мають вигляд :

(4)

де - умовна дисперсія залишків ( не залежна від величини внаслідок гомоскадантичності ). Тоді коваріаційна матриця мая вигляд :

(5)