6.2. Занятие 2

Проверка выполнения условий теоремы Гаусса-Маркова

Приступая к оценке линейного уравнения регрессии, предполагалось, что реальная взаимосвязь переменных линейна, а отклонения от регрессионной прямой случайны, независимы между собой и имеют нулевое среднее и постоянную дисперсию. Так ли это на самом деле? Если нет, то проведенный анализ статистической значимости коэффициентов регрессии неточен и оценки этих коэффициентов не обладают такими желательными свойствами, как несмещенность, состоятельность и эффективность.

Для того чтобы полученные по МНК оценки обладали вышеназванными полезными статистическими свойствами необходимо выполнение ряда предпосылок относительно оцениваемой модели, называемыми условиями Гаусса-Маркова.

Эти предпосылки можно сформулировать следующим образом

1. Регрессионная модель является линейной относительно параметров и корректно специфицирована.

2. Случайное отклонение имеет нулевое математическое ожидание (условное).

3. Дисперсия случайного члена постоянна (случайные возмущения гомоскедастичны).

4. Ошибки в разных наблюдениях независимы (некоррелированы) друг относительно друга (отсутствует автокорреляция случайных возмущений).

5. Ошибки независимы (некоррелированы с регрессорами).

6. Ошибки из себя представляют слабый белый (гауссовский) шум.

Проверка равенства нулю математического ожидания случайной компоненты

Для рассматриваемой модели, которая теперь состоит из четырех переменных (получены методом показателей информационной емкости, см. занятие 6.1): одной объясняемой и трех объясняющих, используются исходные данные, приведенные в таблице 6.3.

Таблица 6.3

наблюдение	y	x1	x2	x5
1	10,4	865	651	165
2	19,7	9571	1287	354
3	17,7	1334	1046	400
4	17,5	6944	944	312
5	13,1	4425	1084	341
6	14,4	4662	1260	496
7	15,1	2100	1212	264
8	11,9	1215	254	78
9	13,9	5191	1795	375
10	19,5	4965	2851	404
11	14,5	2067	1156	461
12	12,5	2262	1040	422
13	19,8	3210	1421	542

Получение характеристик эконометрической модели выполним с помощью функции Регрессия в пакете Анализ данных табличного процессора Excel. Рабочее поле функции Регрессия, заполненное исходными данными, приведено на рис. 6.2.

Рисунок 6.2

Результаты выполнения функции Регрессия приведены на рис. 6.3.

ВЫВОД ИТОГОВ
Регрессионная статистика
Множественный R	0,719759
R-квадрат	0,518053
Нормированный R-квадрат	0,357404
Стандартная ошибка	2,529205
Наблюдения	13
Дисперсионный анализ
	Df	SS	MS	F
Регрессия	3	61,88501	20,62834	3,22475
Остаток	9	57,57192	6,39688
Итого	12	119,4569
	Коэффициенты	Стандартная ошибка	t-статистика	P-Значение
Y-пересечение	9,38708	2,237188	4,195928	0,002321
Переменная X 1	0,000478	0,000311	1,536463	0,158801
Переменная X 2	0,001405	0,001482	0,94809	0,367844
Переменная X 3	0,006972	0,006704	1,039915	0,325509
ВЫВОД ОСТАТКА
Наблюдение	Предсказанное Y	Остатки
1	11,86527	-1,46527
2	18,23598	1,464023
3	14,28265	3,417351
4	16,20617	1,293829
5	15,40151	-2,30151
6	16,84263	-2,44263
7	13,93366	1,16634
8	10,86822	1,031783
9	17,00338	-3,10338
10	18,5811	0,918901
11	15,21268	-0,71268
12	14,87098	-2,37098
13	16,69578	3,104216

Рисунок 6.3.

Возьмём из полученных результатов два столбика данных: Предсказанные значения и Остатки, и подставим их справа к исходным данным. Легко убедиться, что остатки e_i представляют собой разность между наблюдаемыми значениями Y и предсказанными (теоретическими) значениями Ŷ. Просуммировав все значения e_i, видим, что среднее значение e_i равно 0 (см. рис. 6.4).

наблюдение	y	x1	x2	x5	ŷ	E
1	10,4	865	651	165	11,86527	-1,46527
2	19,7	9571	1287	354	18,23598	1,46402
3	17,7	1334	1046	400	14,28265	3,41735
4	17,5	6944	944	312	16,20617	1,29383
5	13,1	4425	1084	341	15,40151	-2,30151
6	14,4	4662	1260	496	16,84263	-2,44263
7	15,1	2100	1212	264	13,93366	1,16634
8	11,9	1215	254	78	10,86822	1,03178
9	13,9	5191	1795	375	17,00338	-3,10338
10	19,5	4965	2851	404	18,5811	0,91890
11	14,5	2067	1156	461	15,21268	-0,71268
12	12,5	2262	1040	422	14,87098	-2,37098
13	19,8	3210	1421	542	16,69578	3,10422
					∑	1,000Е-03
					Сред. Зн.	-7,692E-05

Рисунок 6.4.

Проверка на коррелированность значений случайной компоненты

Для проверки остатков на автокорреляцию используется тест Дарбина-Уотсона. С помощью данного теста проверяется третья предпосылка теоремы Гаусса-Маркова о некоррелированности случайных величин u_t при разных t [1, 2]. Для этого вычисляется статистика Дарбина-Уотсона по формуле:

(6.2)

Статистика DW (Дарбина-Уотсона) в зависимости от числа независимых переменных, числа наблюдений и выбранного уровня значимости (допустимой вероятности отклонения нулевой гипотезы о линейной форме модели) находится в диапазоне от 0 до 4 и может попасть в одну из пяти зон, которая и даёт ответ о наличии или отсутствии автокорреляции (см. рис. 6.5).

Рисунок 6.5.

Проведем расчет статистики DW. Вычисления удобно проводить в табличном процессоре Excel. Добавим к имеющимся расчетам e_t столбец значений . Для вычисления сумм числителя и знаменателя DW используем функцию Excel СУММКВ вычисление суммы квадратов значений, как показано на рис. 6.6.

Наблюдение	Y	x1	x2	x5	ŷ	e	(ei-ei-1)2	e2
1	10,4	865	651	165	11,865	-1,465		2,147
2	19,7	9571	1287	354	18,236	1,464	8,581	2,143
3	17,7	1334	1046	400	14,283	3,417	3,815	11,678
4	17,5	6944	944	312	16,206	1,294	4,509	1,674
5	13,1	4425	1084	341	15,402	-2,302	12,926	5,297
6	14,4	4662	1260	496	16,843	-2,443	0,020	5,966
7	15,1	2100	1212	264	13,934	1,166	13,025	1,360
8	11,9	1215	254	78	10,868	1,032	0,018	1,065
9	13,9	5191	1795	375	17,003	-3,103	17,100	9,631
10	19,5	4965	2851	404	18,581	0,919	16,179	0,844
11	14,5	2067	1156	461	15,213	-0,713	2,662	0,508
12	12,5	2262	1040	422	14,871	-2,371	2,750	5,622
13	19,8	3210	1421	542	16,696	3,104	29,978	9,636
					∑	1,000Е-03	111,563	57,571	Сум кв
					Ср. зн.	-7,692E-05
						DW=	1,9378

Рисунок 6.6

После того, как нашли статистику DW (DW=1,9378), по таблице «Распределение Дарбина-Уотсона» (см. Приложение 2) для α = 0,01 определяем значение dl и du для n=13, k=3. Эти значения следующие dl=0,499 и du=1,326. Полученная статистика DW попала в интервал от 1,326 до 2,674, что свидетельствует об отсутствии автокорреляции случайных возмущений.

Проверка случайных остатков на гетероскедастичность

Визуальный анализ. Одним из основных методов предварительного исследования на гетероскедастичность является визуальный анализ графика остатков. Целью данного анализа является нахождение факторов влияющих на изменение дисперсии, номер измерения или значение одного из признаков. График зависимости остатков от подозреваемого регрессора можно опять же получить с помощью функции Регрессия (см. рис. 6.7-6.9).

Рисунок 6.7

Рисунок 6.7

Рисунок 6.8

Рисунок 6.9

Графики дают ответ об отсутствии гетероскедастичности. Но воспользуемся для большей уверенности проверкой оценки на гомоскедастичность тестом Голдфелда – Кванта.

Тест Голдфелда - Квандта (англ. Goldfeld - Quandt test) — процедура тестирования гетероскедастичности случайных ошибок регрессионной модели, применяемая в случае, когда есть основания полагать, что стандартное отклонение ошибок может быть пропорционально некоторой переменной. Тест также основывается на предположении нормальности распределения случайных ошибок регрессионной модели. Фактически статистика теста имеет распределение Фишера.

Сущность и процедура теста. Для множественной регрессии рассчитывается дополнительный столбец Z=|x₁|+|x₂|+…+|x_k|. Затем все данные упорядочиваются по возрастанию переменной Z и уже отсортированные данные разбиваются на три массива, из которых первый и последний должны содержать одинаковое число m наблюдений. При малых и четных выборках можно разбивать на два одинаковых массива наблюдений (m = n/2).

Далее оценивается исходная регрессионная модель для двух разных выборок — первых и последних m наблюдений в данном упорядочении. Средние n-2m наблюдений исключаются из рассмотрения. Чаще всего объем исключаемых средних наблюдений — порядка четверти общего объема выборки. Тест работает и без исключения средних наблюдений, но в этом случае мощность теста меньше.

Для полученных двух оценок регрессионной модели находят суммы квадратов остатков и рассчитывают статистики, равные: отношению большей суммы квадратов остатков к меньшей GQ; и наоборот - отношению меньшей суммы квадратов остатков к большей GQ^-1, т.е.:

Данная статистика при отсутствии гетероскедастичности (и при нормальности распределения ошибок) имеет распределение . Следовательно, если любая из полученных статистик больше критического значения данного распределения (F_кр) при заданном уровне значимости, то нулевая гипотеза отвергается, то есть имеет место гетероскедастичность. В противном случае гетероскедастичность данного вида признается незначимой. Также можно проверить гипотезу с помощью P-значения данной F-статистики. Если , где - уровень значимости, то гетероскедастичность значима, в противном случае - нет.

Пример расчета GQ и GQ^-1 приведен на рис. 6.8 - 6.13. Из полученных результатов теста Голфелда-Кванта видно, что имеется гетероскедостичность остатков. Тем не менее, оценки коэффициентов останутся несмещёнными и линейными, что собственно и нужно для принятия решения в возникшей ситуации.

наблюдение	Y	x1	x2	x5	Z
1	10,4	865	651	165	1681
2	19,7	9571	1287	354	11212
3	17,7	1334	1046	400	2780
4	17,5	6944	944	312	8200
5	13,1	4425	1084	341	5850
6	14,4	4662	1260	496	6418
7	15,1	2100	1212	264	3576
8	11,9	1215	254	78	1547
9	13,9	5191	1795	375	7361
10	19,5	4965	2851	404	8220
11	14,5	2067	1156	461	3684
12	12,5	2262	1040	422	3724
13	19,8	3210	1421	542	5173

Рисунок 6.8.

наблюдение	Y	x1	x2	x5	Z
1	11,9	1215	254	78	1547
2	10,4	865	651	165	1681
3	17,7	1334	1046	400	2780
4	15,1	2100	1212	264	3576
5	14,5	2067	1156	461	3684
6	12,5	2262	1040	422	3724
7	19,8	3210	1421	542	5173
8	13,1	4425	1084	341	5850
9	14,4	4662	1260	496	6418
10	13,9	5191	1795	375	7361
11	17,5	6944	944	312	8200
12	19,5	4965	2851	404	8220
13	19,7	9571	1287	354	11212

Рисунок 6.9

Рисунок 6.10.

ВЫВОД ИТОГОВ
Регрессионная статистика
Множественный R	0,676037
R-квадрат	0,457026
Нормированный R-квадрат	-0,35744
Стандартная ошибка	3,045695
Наблюдения	6
Дисперсионный анализ
	Df	SS	MS	F
Регрессия	3	15,61581	5,205271	0,561139
Остаток	2	18,55252	9,276259
Итого	5	34,16833
	Коэффициенты	Стандартная ошибка	t-статистика	P-Значение
Y-пересечение	10,71761	4,186652	2,559948	0,124687
Переменная X 1	-0,00148	0,003451	-0,42929	0,709534
Переменная X 2	0,00458	0,007284	0,628872	0,593682
Переменная X 3	0,004374	0,016258	0,269034	0,813116

Рисунок 6.11

Рисунок 6.12

ВЫВОД ИТОГОВ
Регрессионная статистика
Множественный R	0,899252
R-квадрат	0,808655
Нормированный R-квадрат	0,021636
Стандартная ошибка	2,024387
Наблюдения	6
Дисперсионный анализ
	Df	SS	MS	F
Регрессия	4	34,63872	8,659679	2,817433
Остаток	2	8,196282	4,098141
Итого	6	42,835
	Коэффициенты	Стандартная ошибка	t-статистика	P-Значение
Y-пересечение	4,93951	7,862993	0,628197	0,594046
Переменная X 1	-0,00133	0,00136	-0,97742	0,431438
Переменная X 2	0	0	65535	#ЧИСЛО!
Переменная X 3	-0,00255	0,016031	-0,15889	0,888347
Переменная X 4	0,002577	0,001358	1,898344	0,198069

Рисунок 6.13

GQ = 18,55252/8,196282 = 2,264

GQ^-1 = 8,196282/18,55252 = 0,442

F_крит = 19

Так как GQ < F_крит и GQ^-1 < F_крит , то принимается гомоскедастичность остатков множественной регрессионной модели.