- •Введение: Методические указания для работы с материалом
- •Проверка множественной регрессионной линейной модели на адекватность.
- •1. Основные определения и формулы
- •2. Подбор объясняющих переменных для множественной линейной модели
- •3. Теорема Гауса-Маркова и проверка ее гипотез
- •4. Оценка параметров множественной линейной эконометрической модели и их качества
- •5. Проверка множественной регрессионной линейной модели на адекватность
- •6. Пример: «Как повысить производительность труда сотрудников Компании»
- •1. Метод «Исключение квазинеизменных переменных»
- •6.1. Занятие 1
- •2. Метод анализа вектора и матрицы коэффициентов корреляции
- •3. Выбор существенных объясняющих переменных с помощью коэффициента множественной корреляции
- •4. Выбор существенных объясняющих переменных методом показателей информационной емкости
- •6.2. Занятие 2
- •6.3. Занятие 3
- •Список использованных и рекомендуемых источников
- •Приложение 1
- •Приложение 2 Распределение Стьюдента (t-распределение)
- •Критические точки распределения Стьюдента
- •Распределение Дарбина-Уотсона
- •Проверка адекватности полученной регрессии
6.3. Занятие 3
Оценка параметров множественной эконометрической модели методом наименьших квадратов
Проведем оценку параметров модели, полученной в результате выбора существенных объясняющих переменных методом показателей информационной емкости (см. п. 6.1), имеющую следующую форму:
y = a0 + a1 x1 + a2 x2 + a5 x5 + u
со следующим набором исходных наблюдений, см. табл. 6.4.
Таблица 6.4.
-
№ наблюдения
Y
x1
x2
x5
1
10,4
865
651
165
2
19,7
9571
1287
354
3
17,7
1334
1046
400
4
17,5
6944
944
312
5
13,1
4425
1084
341
6
14,4
4662
1260
496
7
15,1
2100
1212
264
8
11,9
1215
254
78
9
13,9
5191
1795
375
10
19,5
4965
2851
404
11
14,5
2067
1156
461
12
12,5
2262
1040
422
13
19,8
3210
1421
542
Перед тем, как провести расчеты по формуле (4.4) сформируем вектор y и матрицу Х.
-
1
865
651
165
1
9571
1287
354
1
1334
1046
400
1
6944
944
312
1
4425
1084
341
1
4662
1260
496
X =
1
2100
1212
264
1
1215
254
78
1
5191
1795
375
1
4965
2851
404
1
2067
1156
461
1
2262
1040
422
1
3210
1421
542
Для вычисления вектора а (оценок параметров модели) по формуле a=(ХTХ)-1ХTу проведем следующие промежуточные вычисления:
|
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
|
865 |
9571 |
1334 |
6944 |
4425 |
4662 |
2100 |
1215 |
5191 |
4965 |
2067 |
2262 |
3210 |
XT= |
651 |
1287 |
1046 |
944 |
1084 |
1260 |
1212 |
254 |
1795 |
2851 |
1156 |
1040 |
1421 |
|
165 |
354 |
400 |
312 |
341 |
496 |
264 |
78 |
375 |
404 |
461 |
422 |
542 |
-
13
48811
16001
4614
48811
260842991
67132524
18301190
XTX=
16001
67132524
24148941
6177232
4614
18301190
6177232
1836172
-
0,782414
-2,29647E-05
-7,32614E-05
-0,00149072
-2,3E-05
1,51162E-08
-2,17108E-08
-1,9918E-08
(XTX)-1=
-7,33E-05
-2,17108E-08
3,43234E-07
-7,5422E-07
-0,001491
-1,99175E-08
-7,54218E-07
7,02641E-06
-
200
XTy =
804722,2
259269,5
73535,5
В результате проведенных расчетов по формуле
a=(ХTХ)-1ХTу
получаем вектор параметров множественной эконометрической модели а:
-
9,38708
0,000478
a =
0,001405
0,006972
Таким образом, значения параметров множественной модели будут:
a0 = 9,38708 a1 = 0,000478 a2 = 0,001405 a5 = 0,006972
Выполним оценку стандартных ошибок по каждому оцениваемому параметру, используя формулы (4.2), (4.3), (4.5), (4.6), (4.7).
Рассчитаем новое (оцененное) значение ŷ:
-
11,8656
18,2383
14,2832
16,2079
15,4027
ŷ=X∙a=
16,8439
13,9343
10,8685
17,0049
18,5827
15,2134
14,8717
16,6968
Найдем вектор остатков e=y-ŷ и вычислим значение eTe:
-
-1,5179
1,1964
3,6612
1,4959
-2,0009
e=y-ŷ=
-2,2539
0,9641
1,0363
-3,1134
0,9896
-0,8220
-2,5803
2,9450
eTe= 57,57194
Находим сначала дисперсию ошибки модели (σ2) по формуле (4.5), а затем ее среднеквадратичную ошибку (σ):
σ2 = 6,3969 σ = 2,5292
При n=13 (исходная выборка) и k=3 (количество оцененных параметров) рассчитываем матрицу дисперсии оценок параметров модели по формуле (4.6) (цветом выделены элементы главной диагонали, которые представляют дисперсии оценок параметров модели):
-
5,0050099
-0,0001469
-0,00046864
-0,00953596
-0,000147
9,66965E-08
-1,3888E-07
-1,2741E-07
D2(a)=
-0,000469
-1,3888E-07
2,19563E-06
-4,8247E-06
-0,009538
-1,2741E-07
-4,8246E-06
4,49471E-05
а затем находим стандартные их ошибки формуле (4.7):
σa0= 2,2372; σa1= 0,00031; σa2= 0,00148; σa5= 0,00670.
Таким образом, получили оценку следующей множественной эконометрической модели:
ŷ = 9,38708 + 0,000478·x1 + 0,001405· x2 + 0,006972· x5
(2,2372) (0,00031) (0,00148) (0,00670) (2,5292)
Для сравнения проведем оценку параметров множественной модели
y = a0 + a1 x1 + a2 x2 + a5 x5 + u,
с помощью функции Регрессия в пакете Анализ данных табличного процессора Excel. Результаты расчетов приведены на рис. 6.14.
ВЫВОД ИТОГОВ |
|
|
|
|
|
|
|
|
|
Регрессионная статистика |
|
|
|
|
Множественный R |
0,719759 |
|
|
|
R-квадрат |
0,518053 |
|
|
|
Нормированный R-квадрат |
0,357404 |
|
|
|
Стандартная ошибка |
2,529205 |
|
|
|
Наблюдения |
13 |
|
|
|
|
|
|
|
|
Дисперсионный анализ |
|
|
||
|
Df |
SS |
MS |
F |
Регрессия |
3 |
61,88501 |
20,62834 |
3,22475 |
Остаток |
9 |
57,57192 |
6,39688 |
|
Итого |
12 |
119,4569 |
|
|
|
|
|
|
|
|
Коэффициенты |
Стандартная ошибка |
t-статистика |
P-Значение |
Y-пересечение |
9,38708 |
2,237188 |
4,195928 |
0,002321 |
Переменная X 1 |
0,000478 |
0,000311 |
1,536463 |
0,158801 |
Переменная X 2 |
0,001405 |
0,001482 |
0,94809 |
0,367844 |
Переменная X 3 |
0,006972 |
0,006704 |
1,039915 |
0,325509 |
Рисунок 6.14
Получаем следующие оценки параметров рассматриваемой множественной линейной эконометрической модели:
а0 = 9,38708 а1 = 0,000478 а2 = 0,001405 а5 = 0,006972
Полученная множественная линейная регрессионная модель будет иметь вид:
ŷ = 9,38708 + 0,000478·x1 + 0,001405· x2 + 0,006972· x5
(2,2372) (0,00031) (0,00148) (0,00670) (2,5292)
Внимание. Для задачи, выбранной в качестве самостоятельной работы, проведите оценку объясняющих переменных, используя матричные операции, а затем воспользуйтесь функцией Регрессия в Excel и сравните полученные результаты между собой.
Проверка адекватности модели
Для практического использования моделей регрессии большое значение имеет их адекватность, т.е. соответствие фактическим статистическим данным.
Если модель признаётся адекватной, то возможно принятие решений на её основе. В противном случае, принятие решений на её основе может привести к нежелательным последствиям.
Проверка адекватности уравнения регрессии (модели) осуществляется с помощью различных методов.
Например, средней ошибки аппроксимации, величина которой не должна превышать 12-15% (максимально допустимое значение) [4].
По критерию Фишера модель признаётся адекватной, если Fмодели > Fкр и при этом коэффициенты модели статистически значимы, т.е. числа Стьюдента tai коэффициентов больше tкр.
Проверим эти условия, чтобы сделать вывод об адекватности модели. Вычислим среднюю ошибку аппроксимации на основе оцененных значений ŷ и имеющихся наблюдений y.
-
y
Ŷ
abs(ŷ-y)/y
10,4
11,87
0,1409
19,7
18,24
0,0742
17,7
14,28
0,1930
17,5
16,21
0,0738
13,1
15,40
0,175779
14,4
16,84
0,169715
15,1
13,93
0,077199
11,9
10,87
0,086681
13,9
17,00
0,223374
19,5
18,58
0,047041
14,5
15,21
0,0492
12,5
14,87
0,189736
19,8
16,7
0,156727
Ā=
12,75
Средняя ошибка аппроксимации Ā=12,75%.
Интервальное прогнозирование
Шаг 1.
В качестве учебной выборки возьмем первые 12 наблюдений, а в качестве контролирующей выборки 13-е наблюдение, см. табл. 6.5. для модели вида:
y = a0 + a1 x1 + a2 x2 + a5 x5 + u
Таблица 6.5.
-
№ наблюдения (учебная выборка)
Y
x1
x2
x5
1
10,4
865
651
165
2
19,7
9571
1287
354
3
17,7
1334
1046
400
4
17,5
6944
944
312
5
13,1
4425
1084
341
6
14,4
4662
1260
496
7
15,1
2100
1212
264
8
11,9
1215
254
78
9
13,9
5191
1795
375
10
19,5
4965
2851
404
11
14,5
2067
1156
461
12
12,5
2262
1040
422
-
№ наблюдения
(контролирующая выборка)
Y
x1
x2
x5
13
19,8
3210
1421
542
Шаг 2.
По учебной выборке проведем оценку параметров полученной модели, используя функцию Регрессия, см. рис. 6.14.
a0 = 10,282 a1 = 0,00055 a2 = 0,00169 a5 = 0,00177
Шаг 3.
На основе полученных
значений параметров модели рассчитаем
новое значение ŷ13.и
его примем за
.
Его значение
будет равно 15,3992.
ВЫВОД ИТОГОВ |
|
|
|
|
|
|
|
|
|
Регрессионная статистика |
|
|
|
|
Множественный R |
0,743951 |
|
|
|
R-квадрат |
0,553464 |
|
|
|
Нормированный R-квадрат |
0,386013 |
|
|
|
Стандартная ошибка |
2,342832 |
|
|
|
Наблюдения |
12 |
|
|
|
|
|
|
|
|
Дисперсионный анализ |
|
|
||
|
df |
SS |
MS |
F |
Регрессия |
3 |
54,42577 |
18,14192 |
3,305225 |
Остаток |
8 |
43,9109 |
5,488862 |
|
Итого |
11 |
98,33667 |
|
|
|
|
|
|
|
|
Коэффициенты |
Стандартная ошибка |
t-статистика |
P-Значение |
Y-пересечение |
10,28211 |
2,148588 |
4,78552 |
0,001381 |
Переменная X 1 |
0,000549 |
0,000292 |
1,881783 |
0,09664 |
Переменная X 2 |
0,001687 |
0,001384 |
1,218457 |
0,25776 |
Переменная X 5 |
0,001771 |
0,007031 |
0,25181 |
0,807536 |
Рисунок 6.14
Шаг 4.
Для нахождения
значений ŷ0- и ŷ0+
по формуле
сначала определим промежуточные
значения tкрит,
Значение tкрит определим с использованием функции СТЬЮДРАСПОБР(.
tкрит = СТЬЮДРАСПОБР(0,05, 7) = 2,365;
Значение определим по формуле (5.1)
Для этого определим следующие составляющие:
-
X0=
3210
1421
542
11,6
-
3210
X0T=
1421
542
11,6
-
865
651
165
4,2
9571
1287
354
13,3
1334
1046
400
4
6944
944
312
5,6
4425
1084
341
4,1
4662
1260
496
7,3
X=
2100
1212
264
8,7
1215
254
78
1,9
5191
1795
375
10,1
4965
2851
404
12
2067
1156
461
9,2
2262
1040
422
9,8
|
865 |
9571 |
1334 |
6944 |
4425 |
4662 |
2100 |
1215 |
5191 |
4965 |
2067 |
2262 |
XT= |
651 |
1287 |
1046 |
944 |
1084 |
1260 |
1212 |
254 |
1795 |
2851 |
1156 |
1040 |
|
165 |
354 |
400 |
312 |
341 |
496 |
264 |
78 |
375 |
404 |
461 |
422 |
|
4,2 |
13,3 |
4 |
5,6 |
4,1 |
7,3 |
8,7 |
1,9 |
10,1 |
12 |
9,2 |
9,8 |
-
250538891
62571114
16561370
401096,4
62571114
22129700
5407050
127159,8
XTX=
16561370
5407050
1542408
33224,6
401096,4
127159,8
33224,6
817,98
-
1,86995E-08
1,09165E-09
-2,7514E-08
-8,2E-06
1,09165E-09
4,85942E-07
-6,114E-07
-5,1E-05
(XTX)-1=
-2,75142E-08
-6,11399E-07
5,98994E-06
-0,00013
-8,22145E-06
-5,12441E-05
-0,00013476
0,018694
-
X0∙(XTX)-1=
-4,87048E-05
-0,000231782
0,000726197
0,04459899
X0∙(XTX)-1∙X0T = 0,4252;
;
σu = 2,4992;
Теперь получим значения ŷ- и ŷ+:
Значение y13 =19,8 попадает в интервал [8,3432; 22,4552]. Можно считать, что полученная модель адекватна и ее можно применить для последующих расчетов значений y.
Внимание. Для задачи, выбранной в качестве самостоятельной работы, проведите оценку модели на адекватность, используя матричные операции и функцию Регрессия в Excel.
