67. Основні припущення, що лежать в основі методу найменших квадратів

Мета регресійного аналізу полягає не тільки у визначенні невідомих параметрів вибіркової лінійної моделі, а насамперед, у висновках, які ми можемо зробити щодо дійсних значень параметрів узагальненої моделі. Для цього ми маємо не тільки точно визначити функціональну форму моделі, а й зробити певні припущення щодо випадкової величини та зв’язку між випадковою величиною е та незалежною змінною х.

Припущення 1. Математичне сподівання випадкової величини е дорівнює нулеві. Це означає, що усереднений чи очікуваний вплив цих помилок на у дорівнює нулеві.

Припущення 2. Відсутність автокореляції між випадковими величинами е. Воно стверджує, що випадкові величини незалежні одна від одної, тобто будь-яке і-те значення випадкової величини е не впливає на будь-яке j-те значення цієї величини.

Припущення 3. Гомоскедастичність, або однакова дисперсія випадкової величини е. Це припущення вимагає, щоб усі випадкові величини, незалежно від номера спостереження, мали однакову дисперсію. Гетероскедастичність – умовна дисперсія розподілу у зростає із збільшенням значень х (рис. 2.4).

Припущення 4. Незалежність між значеннями випадкової величини е і значеннями змінної х, або нульова коваріація між е та х. Передбачається відсутність зв’язку між цими двома величинами.

Припущення 5. Регресійну модель визначено (специфіковано) правильно (відсутність похибки) (форма).

Припущення 6. Випадкова величина розподілена нормально з математичним сподіванням 0 (оскільки сума помилок = 0, тому і середнє = 0) та сталою дисперсією (відсутність гетероскедастичності).

68. Відбір факторів для побудови множинної регресії та вибір форми її рівняння.

Проста регресія може дати гарний результат при моделюванні, якщо вплив інших факторів на об’єкт дослідження можна ігнорувати. Наприклад, при побудові моделі споживання того чи іншого товару залежно від рівня доходу дослідник передбачає, що в кожній групі доходу однаковий вплив на споживання таких факторів, як ціна товару, розмір сім’ї та її склад. Разом з тим, дослідник ніколи не може бути впевнений в справедливості даного припущення. Для того, щоб мати правильне уявлення про вплив доходу на споживання, необхідно вивчити їх кореляцію при незмінному рівні інших факторів. Для дослідника-фізика, хіміка, біолога цей процес провести легше, оскільки вони часто можуть контролювати величини факторів, їх поведінку. Дослідник-економіст цього робити не може, тому одним з шляхів подолання таких труднощів є можливість виявити вплив інших факторів, вводячи їх у модель, тобто побудувати рівняння множинної регресії

.

Множинна регресія широко використовується в розв’язанні проблем попиту, дохідності акцій, при вивченні функцій витрат, в макроекономічних розрахунках та цілого ряду інших питань. Основна мета множинної регресії – побудувати модель з великою кількістю факторів, визначивши при цьому вплив кожного з них окремо, а також сукупну дію на результативний показник.

Побудова моделі починається із специфікації. Вона передбачає вирішення двох проблем – відбору факторів та вибору виду рівняння регресії.

Фактори, що включаються в множинну регресію повинні відповідати таким вимогам:

1) бути кількісно вимірюваними. Якщо необхідно включити в модель фактор, що має якісний вимір, то треба надати йому кількісної оцінки (наприклад, у вигляді балів, dummy-змінних, рангів);

2) не повинні корелювати між собою і тим більше знаходитися у функціональній залежності. Включення до моделі факторів з високою інтеркореляцією, коли коефіцієнт кореляції між фактором х₁ та у₁ менше, ніж коефіцієнт кореляції між факторами х₁ та х₂, це може призвести до небажаних наслідків – система нормальних рівнянь може виявитися погано обумовленою і мати наслідком нестійкість та ненадійність оцінок коефіцієнтів регресії. Якщо між факторами існує висока кореляція, то неможливо визначити правильно їх вплив окремо і параметри регресії будуть неінтерпретовані.

Незважаючи на те, що теоретично регресійна модель дозволяє врахувати будь-яку кількість факторів, практично в цьому немає необхідності. Відбір факторів відбувається на основі якісного теоретико-економічного аналізу. Однак теоретичний аналіз часто не дозволяє однозначно відповісти на питання про кількісний взаємозв’язок розгляданих ознак і доцільності включення фактору в модель. Тому відбір факторів зазвичай проводять в дві стадії:

на першій відбираються фактори, виходячи із суті проблеми;

на другій - на основі матриці показників кореляції і визначення t-статистики для параметрів регресії обираються придатні для побудови моделі параметри.

Серед методів, які дозволяють відібрати найкращі фактори, виділяють такі, як метод усіх можливих регресій, метод виключень, кроковий регресійний метод, регресія на головні компоненти, ступеневий регресійний аналіз, ПРЕС-регресія тощо.

Для вибору регресії існує два протилежних критерії:

1) якщо ми хочемо зробити модель корисною для прогнозу, маємо включити якомога більше факторів для того, щоб визначення величин, які прогнозуються, було надійнішим.

2) оскільки отримання інформації з послідовним контролем при великій кількості змінних х потребує великих витрат, слід прагнути, щоб модель включала якомога менше факторів х.

Компромісом між цими крайнощами є те, що називають вибором „найкращого рівняння регресії”. Для реалізації такого вибору немає єдиної статистичної процедури, тому в кожному окремому випадку застосовуються різні методи. Розглянемо їх більш детально.

А) Метод усіх можливих регресій.

Це історично перший метод побудови регресії. Він дуже громіздкий і може бути найкраще реалізований на ЕОМ. Метод потребує побудови кожного з усіх можливих регресійних рівнянь, які обов’язково включають член b₀. Оскільки для кожного фактора х_і є дві можливості – бути включеним або невключеним у регресію, то всього буде 2^р рівнянь (всі можливі одно-, двох-, ... p-факторні моделі, де р – кількість факторів х_і, і = ). Кожне з рівнянь потім оцінюється за допомогою трьох критеріїв: R², MSE та С_р – статистики (критерію Малоуза).

Б) Метод виключень

Цей метод економічні ший, ніж метод усіх регресій. Загальний алгоритм складається з 5 етапів. На першому етапі розраховується регресійне рівняння, що включає всі фактори моделі. На другому етапі обчислюється величина часткового F-критерію. Найменше значення F-критерію позначається як F_l і порівнюється з критичним значенням. За умови підтвердження нуль-гіпотези Н₀ фактор виключається з рівняння, в іншому випадку – залишається. Аналогічно проводяться всі подальші дії аж до тих пір, доки найменше значення F-критерію не буде більшим за його критичне значення. Іноді замість F-критерію використовується t-критерій, який є коренем квадратним від значення F-критерію часткового.

В) Кроковий регресійний метод

Кроковий регресійний метод діє в зворотному порядку порівняно з методом виключень. Фактори по черзі включаються в модель доти, поки вона не стане задовільною. Порядок включення вибирається за допомогою коефіцієнту кореляції фактору х з фактором y як міри важливості факторів, які ще не включені в модель. Алгоритм такий: обирається фактор, що має найбільший коефіцієнт кореляції із залежною змінною, будується регресійна модель з однією незалежною змінною. Після цього перевіряється, чи буде значимим F-критерій. Якщо ні, то приймаємо, що y = . І припиняємо процес. В іншому випадку включаємо другий за значимістю фактор і т.п.

З іншими методами пропонується ознайомитися самостійно.

Як і в парній регресії, використовуються різні форми рівнянь множинної регресії: лінійні та нелінійні.

Найчастіше використовуються лінійні та степеневі функції (функція Кобба-Дугласа). В даному випадку зберігається той самий принцип, що й для однофакторної регресії – існують нелінійні рівняння, які можна звести до форми лінійних та такі, що не можна. Зведення степеневої функції до лінійної форми відбувається через процес логарифмування.