- •ОГЛАВЛЕНИЕ
- •ПРЕДИСЛОВИЕ
- •МЕТОДИЧЕСКИЕ МАТЕРИАЛЫ
- •РАБОЧАЯ ПРОГРАММА ДИСЦИПЛИНЫ
- •РЕКОМЕНДАЦИИ ПО САМОСТОЯТЕЛЬНОЙ РАБОТЕ СТУДЕНТА
- •ТЕОРЕТИЧЕСКИЕ МАТЕРИАЛЫ
- •ГЛАВА 1. СТАТИСТИЧЕСКИЕ ПОНЯТИЯ И РАСПРЕДЕЛЕНИЯ
- •§ 1. Введение
- •§ 2. Суть регрессионного анализа
- •§ 3. Некоторые статистические определения
- •§ 4. Нормальное (гауссовское) распределение
- •§ 5. (хи-квадрат)-распределение
- •§ 6. Распределение Стьюдента (t-распределение)
- •§ 7. F-распределение (распределение дисперсионного отношения)
- •§ 8. Статистическая проверка гипотез
- •§ 9. Определение критических значений распределений Стьюдента и Фишера с использованием программы Microsoft Office Excel
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 2. ПАРНАЯ ЛИНЕЙНАЯ РЕГРЕССИЯ. УСЛОВИЯ ГАУССА–МАРКОВА
- •§ 1. Основные понятия
- •§ 2. Метод наименьших квадратов
- •§ 3. Предпосылки метода наименьших квадратов
- •§ 4. Анализ точности определения оценок коэффициентов регрессии
- •§ 5. Проверка статистической значимости коэффициентов парной линейной регрессии
- •§ 6. Интервальные оценки коэффициентов линейного уравнения регрессии
- •§ 7. Доверительные интервалы для зависимой переменной
- •§ 8. Проверка общего качества уравнения регрессии. Коэффициент детерминации
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 3. МНОЖЕСТВЕННАЯ ЛИНЕЙНАЯ РЕГРЕССИЯ
- •§ 1. Определение параметров уравнения регрессии
- •§ 2. Расчет коэффициентов множественной линейной регрессии
- •§ 3. Дисперсии и стандартные ошибки коэффициентов
- •§ 4. Проверка статистической значимости коэффициентов уравнения регрессии
- •§ 5. Интервальные оценки коэффициентов теоретического уравнения регрессии
- •§ 6. Проверка общего качества уравнения регрессии
- •§ 7. Проверка равенства двух коэффициентов детерминации
- •§ 8. Проверка гипотезы о совпадении уравнений регрессии для двух выборок
- •§ 10. Частные уравнения регрессии
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 4. АВТОКОРРЕЛЯЦИЯ СЛУЧАЙНЫХ ВОЗМУЩЕНИЙ
- •§ 1. Суть и причины автокорреляции
- •§ 2. Последствия автокорреляции
- •§ 3. Обнаружение автокорреляции. Критерий Дарбина–Уотсона
- •§ 4. Методы устранения автокорреляции
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 5. ГЕТЕРОСКЕДАСТИЧНОСТЬ СЛУЧАЙНЫХ ВОЗМУЩЕНИЙ
- •§ 1. Общие понятия
- •§ 2. Последствия гетероскедастичности
- •§ 3. Обнаружение гетероскедастичности
- •§ 4. Методы смягчения проблемы гетероскедастичности
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 6. МУЛЬТИКОЛЛИНЕАРНОСТЬ
- •§ 1. Общие понятия и последствия мультиколлнеарности
- •§ 2. Определение мультиколлинеарности
- •§ 3. Методы устранения мультиколлинеарности
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 7. ФИКТИВНЫЕ ПЕРЕМЕННЫЕ В РЕГРЕССИОННЫХ МОДЕЛЯХ
- •§ 1. Модель с одной фиктивной (бинарной) переменной
- •§ 3. Сравнение двух регрессий
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 8. НЕЛИНЕЙНАЯ РЕГРЕССИЯ
- •§ 1. Общие понятия
- •§ 2. Степенные модели (логарифмические)
- •§ 3. Обратная модель (гиперболическая)
- •§ 4. Полиномиальная модель
- •§ 5. Показательная модель (лог-линейная)
- •§ 6. Выбор формы модели
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 9. ВРЕМЕННЫЕ РЯДЫ
- •§ 1. Общие понятия
- •§ 2. Моделирование тренда временного ряда
- •§ 4. Стационарные ряды
- •§ 5. Процесс авторегрессии AR(p)
- •§ 6. Процессы скользящего среднего MA(q)
- •§ 7. Комбинированные процессы авторегрессии-скользящего среднего ARMA(p, q)
- •§ 8. Модели ARMA, учитывающие наличие сезонности
- •§ 9. Нестационарные временные ряды. Процессы авторегрессии и проинтегрированного скользящего среднего ARIMA(p, k, q)
- •§ 10. Регрессионные модели с распределенными лагами
- •§ 11. Полиномиально распределенные лаги Ш. Алмон
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 10. СИСТЕМЫ ОДНОВРЕМЕННЫХ УРАВНЕНИЙ
- •§ 1. Общие понятия
- •§ 2. Идентификация структурной формы модели
- •§ 3. Косвенный метод наименьших квадратов
- •§ 4. Двухшаговый метод наименьших квадратов
- •§ 5. Трехшаговый метод наименьших квадратов
- •Резюме
- •Вопросы для самопроверки
- •ЗАКЛЮЧЕНИЕ
- •ЗАДАНИЯ ДЛЯ КОНТРОЛЯ
- •Тесты для самоконтроля
- •Ключи к тестам для самоконтроля
- •Контрольная работа
- •Вопросы к зачету (экзамену)
- •ГЛОССАРИЙ
- •СПИСОК ЛИТЕРАТУРЫ
Здесь (k −m−1) число степеней свободы соответствующих
выборочных дисперсий (m — количество объясняющих переменных в уравнении регрессии).
При сделанных предположениях относительно случайных отклонений построенная F-статистика имеет распределение Фишера с числами степеней свободы ν1 =ν2 =(k −m−1).
5. Если F набл = |
S 3 |
>F крит =F α, ν |
, ν |
|
, то гипотеза об отсутствии |
|
S1 |
2 |
|||||
|
1 |
|
|
|||
|
|
|
|
|
гетероскедастичности отклоняется (здесь α — выбранный уровень значимости).
Естественным является вопрос, какими должны быть размеры подвыборок для принятия обоснованных решений? Для парной регрессии Голдфелд и Квандт предлагают следующие пропорции: n =30, k =11; n =60, k =22 .
Для множественной регрессии данный тест обычно проводится для той объясняющей переменной, которая в наибольшей степени связана с σi . При этом k должно быть больше, чем (m+1). Если нет
уверенности относительно выбора переменной Xj, то данный тест может осуществляться для каждой из объясняющих переменных.
Этот же тест может быть использован при предположении об обратной пропорциональности между σi и значениями объясняю-
щей переменной. При этом статистика Фишера примет вид: F = S1 . S 3
§ 4. Методы смягчения проблемы гетероскедастичности
Как отмечалось, гетероскедастичность приводит к неэффективности оценок, несмотря на их несмещенность. Это может обусловить необоснованные выводы по качеству модели. Поэтому при установлении гетероскедастичности необходимо преобразовать модель с целью устранения данного недостатка.
113
Пример 5.1. Пусть имеются условные данные, выстроенные в порядке возрастания объясняющей переменной x (табл. 5.1).
Таблица 5.1
Исходные данные для исследования гетероскедастичности
|
X |
1 |
2 |
3 |
4 |
5 |
6 |
7 |
8 |
9 |
10 |
|
Y |
6 |
8 |
11 |
9 |
15 |
12 |
15 |
22 |
20 |
27 |
|
|
|
|
|
|
|
|
|
|
|
|
|
X |
11 |
12 |
13 |
14 |
15 |
16 |
17 |
18 |
19 |
20 |
|
|
|
|
|
|
|
|
|
|
|
|
|
Y |
23 |
26 |
36 |
22 |
34 |
29 |
36 |
34 |
48 |
40 |
|
X |
21 |
22 |
23 |
24 |
25 |
26 |
27 |
28 |
29 |
30 |
|
|
|
|
|
|
|
|
|
|
|
|
|
Y |
49 |
41 |
55 |
42 |
58 |
71 |
53 |
48 |
70 |
46 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Уравнение регрессии, построенное по всем исходным данным, имеет вид ˆy =3,8+1,92x . Для оценки гетероскедастичности
применим тест Голдфелда–Квандта. Уравнение регрессии, построенное по первым 11 данным, имеет вид ˆy =3,6+1,95x , сум-
ма квадратов остатков равна S1 =57,07 . Уравнение регрессии, построенное по последним 11 данным, имеет вид ˆy =15,7+1,45x , сумма квадратов остатков равна S 3 =924,40 . F-статистика равна F =1050,01 / 36,22=16,2 , что превосходит табличные значения
при уровнях значимости 5%, 1%. Следовательно, имеется гетероскедастичность остатков.
Рассчитаем в примере 5.1 квадраты остатков с использованием всех исходных данных ei2 =(yi −3,8−1,92xi)2 . Полученные резуль-
таты представим на графике (рис. 5.1). Согласно рис. 5.1, будем полагать, что дисперсия остатков пропорциональна x2.
|
Преобразуем исходное уравнение регрессии yi = β0 +β1xi |
+εi к |
|||||
уравнению вида (5.3). Определив новые переменные |
y*i |
= |
yi |
, |
|||
|
|||||||
|
|
|
|
|
|
xi |
|
x*i |
= |
1 |
и оценив коэффициенты |
|
|
|
|
|
|
|
|
|
|||
|
|
xi |
|
|
|
|
|
114
|
|
|
|
n |
* |
|
n |
*2 |
|
n * |
n |
* * |
|
||
|
|
|
|
∑ yi |
× ∑ xi |
|
− ∑ xi |
× ∑ xi yi |
|||||||
|
|
b1= |
|
i=1 |
|
i=1 |
|
|
|
i=1 |
i=1 |
|
|
=1,89, |
|
|
|
|
|
|
|
n |
|
|
|
n |
2 |
|
|
||
|
|
|
|
|
|
|
*2 |
|
|
|
|
||||
|
|
|
|
|
|
n |
|
|
* |
|
|
|
|||
|
|
|
|
|
|
∑ xi |
|
− ∑ xi |
|
|
|
||||
|
|
|
|
|
|
|
i=1 |
|
|
i=1 |
|
|
|
||
|
|
|
|
|
|
n |
* |
* |
|
|
n * |
n |
* |
|
|
|
|
|
|
|
n ∑ xi |
yi |
− ∑ xi × ∑ yi |
||||||||
|
|
|
b0 = |
|
i=1 |
|
|
|
|
i=1 |
i=1 |
|
=4,1, |
||
|
|
|
|
|
n |
|
|
n |
2 |
|
|||||
|
|
|
|
|
|
|
*2 |
|
|
|
|
||||
|
|
|
|
|
|
n |
|
|
|
* |
|
|
|
||
|
|
|
|
|
|
∑ xi |
|
− ∑ xi |
|
|
|
||||
|
|
|
|
|
|
|
i=1 |
|
|
i=1 |
|
|
|
||
получим уравнение |
ˆy*i =4,10x*i +1,89 . Возвращаясь к исходным |
||||||||||||||
переменным, получим модель ˆy =4,10+1,89x . |
|||||||||||||||
350 |
e |
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
300 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
250 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
200 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
150 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
100 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
50 |
|
|
|
|
|
|
X |
|
|
|
|
|
|
|
|
0 |
|
|
|
|
|
|
|
0 |
5 |
10 |
15 |
20 |
25 |
30 |
35 |
Рис. 5.3. Зависимость квадратов остатков от значений объясняющей переменной
Предположим, что в модели парной линейной регрессии, дисотклонений εi пропорциональны значениям xi, т. е.
115
2 |
= |
σ |
2x |
, где |
σ |
2 |
— некоторая неизвестная константа. Тогда |
||
σεi |
|
|
i |
|
|
|
|||
λi = |
|
1 |
. |
|
|
|
|
||
|
|
|
|
|
|
||||
|
|
xi |
|
|
|
|
|
||
В этом случае обобщенный метод наименьших квадратов будет эквивалентен обычному МНК, если уравнение модели парной ли-
нейной регрессии разделить на |
xi : |
|
|
|
||||||||||||
|
yi |
= |
|
β0 |
+β1 |
xi |
+ |
εi |
|
yi |
= β0 |
1 |
+β1 |
xi +νi |
||
|
xi |
|
|
xi |
xi |
xi |
xi |
xi |
||||||||
|
|
|
|
|
|
|
|
|
|
(5.8) |
||||||
y*i = β0 xi1+β1xi2 +νi , |
|
|
|
|
|
|
||||||||||
где xi1 = |
1 |
|
, |
xi2 = xi . |
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
xi |
|
|
|
|
|
|
|
|
|
|
|||
Таким образом, оценив для (5.8) по обычному МНК коэффициенты β0 и β1 , затем возвращаются к исходному уравнению регрес-
сии (2.2).
Отметим, что для применения описанных выше преобразований весьма значимы знания об истинных значениях дисперсий откло-
нений σi2 , либо предположения, какими эти дисперсии могут быть. Во многих случаях дисперсии отклонений зависят не от включенных в уравнение регрессии объясняющих переменных, а от тех, которые не включены в модель, но играют существенную роль в исследуемой зависимости. В этом случае они должны быть включены в модель. В ряде случаев для устранения гетероскедастичности необходимо изменить спецификацию модели (например, линейную на лог-линейную, мультипликативную на аддитивную и т. п.).
На практике имеет смысл применить несколько методов определения гетероскедастичности и способов ее корректировки (преобразований, стабилизирующих дисперсию).
Если в уравнении регрессии присутствует несколько объясняющих переменных, можно поступить следующим образом. Вместо конкретной объясняющей переменной Xj используется
116
