2.2. Властивості оцінок за мнк

1. Оцінки за МНК виражаються тільки через величини спостережуваних змінних X і Y. Унаслідок цього вони можуть бути легко обчислені за формулами (2.1.15) (2.1.16).

2. Ці оцінки є точковими, тобто для даної вибірки кожен оцінювач матиме єдину величину, визначувану спостережуваними значеннями. Надалі ми розглянемо так звані інтервальні оцінки, які дають інтервал можливих значень невідомих параметрів.

Відзначимо деякі властивості лінії SRF.

1. Лінія SRF проходить через середні значення вибірки X і Y, тобто через точку . Цей факт безпосередньо випливає з формули (2.1.16), якщо її перетворити до вигляду

.

На рис. 2.2 показано, що лінія SRF проходить через точку .

Рис. 2.2. Лінія SRF

2. Середня величина Y за наслідками вибірки дорівнює середній величині, отриманій із рівняння регресії , тобто

.

(2.2.1)

Щоб довести це, виконаємо такі перетворення:

.

Ми підставили замість його вираз із (2.1.16). Підсумуємо обидві частини отриманої рівності за всім обсягом вибірки

,

, .

При цьому ми використовували властивість (2.1.12).

3. Середня величина залишків є нуль, тобто . Ця властивість виходить безпосередньо з (2.1.5) і (2.1.7). Використовуючи цю властивість, можна перетворити рівняння SRF

(2.2.2)

до іншого вигляду, в який будуть входити лише змінні у відхиленнях. Для цього підсумуємо останню рівність за всією вибіркою

.

Поділивши останню рівність на N, одержуємо

.

Віднімемо цю рівність від (2.2.2):

або

.

(2.2.3)

Рівняння (2.2.3) називається рівнянням у відхиленнях. Зауважимо, що в це рівняння не входить. Рівняння SRF у відхиленнях можна подати у вигляді

.

(2.2.3)

4. Залишки не корелюються з , тобто . Це твердження виходить безпосередньо з (2.1.6) і (2.1.7).

5. Залишки не корелюються з , тобто . Дійсно

.

6. Залишки не корелюються з , тобто . Підставляючи замість його значення з (2.2.3), одержуємо

.

Припущення, що застосовуються в моделі

Як згадувалося раніше, нереально провести повний перепис популяції з метою підрахувати середні значення і вивести функцію популяції регресії. На практиці дослідник обмежується випадковою вибіркою будинків і визначає необхідні параметри з метою отримання вибіркової функції регресії. Табл. 2.2 містить дані за вибіркою з 14 будинків (T=14), проданих у районі Сан-Дієго в 1990 р. На графіку (рис. 2.3), побудованому за цими даними, зображені точки . Цей графік називається діаграмою розсіювання даних вибірки. Вона схожа на графік (рис.1.2), але там ми зображали для популяції в цілому, а графік (рис.2.3) ґрунтується лише на даних вибірки.

Таблиця 2.2

Дійсна й оцінена ціна будинку і його житлова площа у кв. Футах

t	SQFT	Дійсна ціна PRICE	Оцінена середня ціна
1	1065	1999,9	200,386
2	1254	228	226,657
3	1300	235	233,051
4	1577	285	271,554
5	1600	239	274,751
6	1750	293	295,601
7	1800	285	302,551
8	1870	365	312,281
9	1935	295	321,316
10	1948	290	323,123
11	2254	385	265,657
12	2600	505	413,751
13	2800	425	441,551
14	3000	415	469,351

Рис. 2.3. Діаграма вибірки розкиду ціни будинку залежно від його площі

Фундаментальне припущення, на якому основана найпростіша регресійна модель, полягає в тому, що середні значення лежать на прямій лінії (позначеній ), яка зображає функцію регресії популяції і є умовним середнім значенням (або сподіванням) ціни (PRICE) для заданої площі SQFT. Нижче наводиться загальне визначення найпростішої лінійної регресійної моделі.

Припущення 2.1  лінійність моделі:

,

де і є t-ті спостереження (t змінюється від 1 до T) незалежної і залежної змінних відповідно; і  невідомі параметри, які необхідно визначити;  невідома складова, яка передбачається випадковою величиною з певними властивостями. і мають назву коефіцієнтів регресії. Індекс t можна визначити як тимчасовий чинник у спостереженнях або типове спостереження з таблиці.

Припустимо, що нам відомі величини і . Побудуємо пряму на цій діаграмі. Вона зображає функцію регресії популяції. Відхилення за вертикаллю дійсного значення ціни ( ) від лінії регресії ( ) є випадкова похибка . Кутовий коефіцієнт прямої ( ) є також . Він позначає зростання Y при одиничному зростанні X.

може бути інтерпретований як граничний ефект X на Y. Так, якщо , то кожне збільшення житлової площі на 1 кв. фут призведе до зростання ціни будинку в середньому на 0,065 тис. дол. (зверніть увагу на важливість вибору одиниць вимірювання) або 65 дол. Більш імовірно, що зростання житлової площі на 100 кв. футів призведе до зростання очікуваної середньої ціни на 6 500 дол. Хоча відповідає середньому значенню Y при X=0, його не можна інтерпретувати як вартість ділянки, на якій стоїть будинок. Пояснення цьому твердженню полягає в тому, що містить вплив невключених у модель змінних, які, проте, впливають на залежну змінну.

При формулюванні найпростішого лінійного співвідношення між PRICE і SQFT ми ігноруємо той факт, що ціна будинку залежить також від інших характеристик, таких як, наприклад, величина ділянки землі й кількість ванних. Таким чином, ми припускаємо, що ефекти від них абсорбуються залишковим членом . Залишковий член , є, по суті, комбінацією чотирьох різних ефектів:

1. Відповідає за ефект дії змінних, не включених у модель.

2. Поглинає ефекти нелінійності співвідношення між Y і X. Так, якби істинною була модель , а ми б застосовували модель 2.1, то ефект від був би включений в .

3. Містить похибку у вимірюванні X і Y.

4. Включає властиві непередбачувані випадкові ефекти.

Хоча досліджувана нами модель дуже проста і, звичайно, не реалістична, з її допомогою можна легко зрозуміти різні концепції в економетриці. Далі ми розширимо модель на випадок, коли в неї входять більше ніж одна пояснювальна змінна.

Наступною нашою задачею після формулювання моделі є отримання “найкращих” оцінок для і . Після того як це буде зроблено, ми перевіримо властивості цих оцінок, а також припущення 2.1. Потім перевіримо гіпотези, що належать до них, і застосуємо оцінену пряму для проведення умовного прогнозу ціни будинку для даного значення X. Але перш ніж ми все це виконаємо, нам необхідно зробити відносно і додаткові припущення. Нижче наведено повний список припущень.

Припущення найпростішої лінійної регресійної моделі

1. Регресійна модель лінійна по відношенню до невідомих коефіцієнтів і , тобто для t=1, 2, ..., T.

2. Залишкова складова  випадкова величина, що має нульове середнє значення, тобто .

3. Не всі із спостережуваних значень X мають однакову величину, принаймні одне з них відрізняється від інших.

4. задані й невипадкові, тобто вони не корелюються з , отже, .

5. має сталу дисперсію для всіх t, тобто .

6. і розподілені незалежно для , звідси .

7. розподілена нормально, тобто . Це означає, що для даного .

Розглянемо ці припущення більш детально.

Припущення 2.2  середні значення залишкових членів нульові

Кожна  випадкова величина з .

На рис. 2.3. бачимо, що деякі з точок спостереження лежать вище за лінію , а деякі нижче. Це означає, що частина складових позитивні, а інші негативні. Оскільки  лінія середніх значень, доцільно припустити, що ці випадкові відхилення взаємно знищуються в середньому за всією популяцією. Отже, припущення про те, що  випадкові величини з нульовим математичним сподіванням, достатньо реалістичне.

Припущення 2.3  не всі значення X однакові

Не всі мають однакові значення. Принаймні є два різних значення. Іншими словами, дисперсія вибірки відмінна від нуля.

Це припущення є дуже важливим, оскільки інакше модель не може бути оцінена. На інтуїтивному рівні, якщо не змінюється, то неможливо пояснити, чому змінюється . Як приклад, припустимо, що  споживацькі витрати сім’ї в t–му місяці, а  дохід сім’ї в тому ж місяці. Звичайно дохід сім’ї від місяця до місяця трохи змінюється, а споживацькі витрати можуть значно варіювати в різні місяці. Якщо дохід не змінюється, то не можна пояснити, чому змінюються витрати на споживання. Це, однак, не означає, що дохід сім’ї не впливає на її споживацькі витрати. Якщо наступного року зарплата підвищиться, то підвищаться й середні витрати. Рис. 2.4 графічно ілюструє припущення 2.3.

Рис. 2.4. Приклад, у якому величини X не змінюються

У разі застосування моделі, що описує вартість будинку залежно від його площі, припустимо, що була зібрана інформація про вартість будинків площею тільки 1500 кв. футів. Діаграма розкиду даних вибірки зображена на рис.2.4. Зрозуміло, що за цією діаграмою неможливо провести адекватну оцінку лінії регресії популяції.

Припущення 2.4  значення X задані й невипадкові

, оскільки задані і, отже, невипадкові, то з цього випливає .

З випливає, що коваріація популяції між і дорівнює нулю. Отже, X і u не корельовані. Як ми побачимо пізніше, це припущення є основоположним для того, щоб метод оцінювання і мав деякі бажані властивості. На інтуїтивному рівні, якщо X і u корельовані, то зі зміною X повинна також змінюватися u. У цьому випадку очікуване значення Y не буде дорівнювати .

Припущення 2.5  гомоскедастичність

Усі випадкові величини мають однаковий розподіл дисперсій , так що . Ця властивість називається гомоскедастичністю (рівнорозкиданістю).

Припущення 2.6  серійна незалежність

Усі розподілені незалежно, так що для всіх . Ця властивість має назву серійної незалежності.

Виконання цих двох гіпотез приводить до того, що залишкові члени незалежно й однаково розподілені. Згідно з рис.1.2. для даного X є розкид значень Y, який задає умовний розподіл. Залишок  відхилення від умовного середнього значення . Припущення 2.5 має на увазі, що розподіл випадкової величини має ту ж дисперсію ( ), що й у для різних X спостережень S. Рис. 2.3  приклад гетероскедастичності (нерівних розкидів), у якому дисперсія непостійна за спостереженнями. Припущення 2.6 говорить про те, що і незалежні і, отже, не корельовані. Зокрема, послідовні складові не корельовані. Рис.2.5  приклад серійної кореляції, коли це припущення порушується.

а б

в г

Рис. 2.5. Приклади порушення припущень: а  порушення 2.2;

б порушення 2.1; в  порушення 2.5; г порушення 2.6

Припущення 2.7  нормальність відхилень

Кожне розподілено нормально згідно із законом , з чого виходить, що умовна густина розподілу Y для заданого значення X задається законом .

Таким чином, залишкові складові вважаються розподіленими незалежно і за нормальним законом з нульовим середнім значенням і загальною дисперсією . Це припущення дуже важливе при висуванні та перевірці гіпотез.

Класична лінійна регресійна модель:

припущення, що лежать в основі методу найменших квадратів

Якби нашою метою було тільки отримання оцінок і , то все вищезгадане вирішувало б питання. Але ми пам’ятаємо, що в регресійному аналізі нашою метою є не лише отримання і , а й висновок про істинні величини і . Наприклад, нам хотілося б знати, наскільки близькі і , до їх аналогів за всією популяцією або наскільки близьке до істинного .

Стандартна класична лінійна модель регресії (CLRM)

Дана модель лежить в основі більшості моделей эконометрики і заснована на 10 припущеннях. Розглянемо їх на прикладі моделі з двома змінними, а пізніше поширимо на модель із великою кількістю змінних.

Припущення 1  лінійність регресійної моделі

Регресійна модель лінійна за параметрами, як це бачимо з виразу

.

Ми вже обговорювали цю модель. Оскільки лінійність моделі за параметрами  початкова точка CLRM, ми будемо завжди це припускати й надалі. Також пам’ятатимемо, що регресант Y і регресор X й самі можуть бути нелінійними.

Припущення 2  величини X фіксовані в повторних вибірках

Значення, що набуваються регресором X, вважаються фіксованими в повторних вибірках. Безумовно, вважатимемо, що X не стохастична.

Це припущення неявно було присутнє в обговоренні PRF раніше. Дуже важливо розуміти значення «фіксованість» у повторних вибірках. Його можна пояснити на прикладі табл. 2.1. Розглянемо змінну Y, відповідну рівням доходу. Зберігаючи величину доходу фіксованою, наприклад на рівні 80 дол., ми випадково вибрали сім’ю з тижневими витратами, скажімо, у 60 дол. Зберігаючи X=80, ми випадково вибрали іншу сім’ю з Y=75. У кожному з цих випадків (повторні вибірки) значення X були фіксовані. Ми можемо повторити цей процес для всіх X з таблиці. Це означає, що регресійний аналіз є умовним регресійним аналізом, тобто з умовою заданості величин регресора X.

Припущення 3  рівність нулю середньої величини збурення

Для даного значення величини X середня величина або математичне сподівання випадкової збурюючої складової дорівнює нулю:

Це припущення стверджує, що середня величина , відповідна даному , є нуль.

Рис. 2.6 Геометрична інтерпретація припущення 3

Геометричне значення цього припущення показане на рис. 2.6. Як бачимо, при фіксованому значенні Х відповідні значення Y розташовані довкола середніх значень, коли одні зі значень Y лежать вище середніх, а інші – нижче середніх. Відстані, вище і нижче за середні, є не що інше як . За формулою (2.2.1), середня величина цих відхилень для фіксованого X повинна дорівнювати нулю.