лекции по эконометрике

Лекция 6. МЕТОДЫ АНАЛИЗА ЛИНЕЙНОЙ РЕГРЕССИИ

6.1.Общие сведения

Вслучае, когда используется модель множественной линейной регрессии (15),для объясне-

ния изменения переменной y используется «m»,объясняющих переменных х1,х2,…,хm . Насколько же обосновано включение каждой из этих «m» переменных в список объясняющих? Для ответа на этот вопрос можно воспользоваться двумя методами оценки значимости объясняющих переменных.

1. Метод оценки степени тесности связи между y и объясняющей переменной xi с помощью частных коэффициентов корреляции.

2. Метод оценки значимости параметра ai при объясняющей переменной xi в уравнении линейной регрессии с помощью t – статистики Стъюдента.

6.2.Частные коэффициенты корреляции

При анализе зависимости объясняемой переменной y от каждой из объясняющих х1,х2,…,хm довольно часто встречаются случаи, когда влияние некоторых переменных на «у» объясняется наличием тесной связи между самими объясняющими переменными. Такие объясняющие переменные называются коллинеарными. Чтобы оценить степень тесноты связи между переменной y и данной объясняющей xi при фиксированном воздействии других объясняющих переменных, применяются частные коэффициенты корреляции. В случае двух объясняющих переменных частные коэффициенты корреляции вычисляются по формулам:

коэффициент корреляции между y и x1 , при фиксировании (элиминировании) переменной x2 ; ryx2;x1 -

частный коэффициент корреляции между y и x2 при фиксировании переменной x1.

списка объясняющих переменных. Аналогичный вывод можно сделать относительно переменной x2, если ryx2;x1 намного меньше ryx2 .

В общем случае, когда количество объясняющих переменных более 2 (m >2),для проведения сравнения степени их влияния на объясняемую переменную y можно составить корреляционную матрицу, элементы которой – частные коэффициенты корреляции rij .Эта работа связана с большими вычислительными трудностями и для ее выполнения лучше использовать специальные эконометрические компьютерные программы [1, 5].

6.3. Скорректированный коэффициент детерминации

Для сравнения и оценки моделей регрессии с различным числом объясняющих переменных используют скорректированный коэффициент детерминации.

Из предыдущей лекции известно, что при любом числе объясняющих переменных коэффициент детерминации R2 можно вычислить по формуле:

n

(yi уi )2

(yi y)2

i 1

Одним из недостатков коэффициента R2 является то обстоятельство, что при увеличении количества объясняющих переменных он, как правило, тоже автоматически увеличивается. Таким образом, модель с большим числом объясняющих переменных может быть признана наилучшей, несмотря на то, что некоторые из её объясняющих переменных являются коллинеарными. Для того, чтобы сравнение моделей с различным количеством объясняющих сделать более объективным, вычисляется скорректированный коэффициент детерминации по формуле:

R2 1 (1 R2 ) n 1 , (31)

с

n m 1

где n - количество данных в выборке (объем выборки); m – количество объясняющих переменных в данной модели; R2 – коэффициент детерминации, вычисленный по формуле (30).

6.4. Оценка значимости коэффициента детерминации

Для оценки статистической значимости коэффициента детерминации применяется F – статистика Фишера-Снедекора. Для этого вычисляется величина:

где n - объем выборки; m – количество параметров в уравнении регрессии; R2 – коэффициент детерминации, вычисляемый по формуле (30).

В случае парной линейной регрессии :

F R2 (n 2) .

1 R2

Вычисленное значение F сравнивается далее с табличным значением Fкрит =Fкрит( ;k1;k2), гдеуровень значимости, который выбирают обычно равным 0,05 или 0,01, в зависимости от того какой риск допустить ошибку считается приемлемым.

Таблица F- статистики Фишера-Снедекора дана в приложении [1, 2]; k1 m 1; k2 n m.

Если значение F, вычисленное по формуле (32), больше найденного по таблице Fкрит( ;k1;k2), т.е. F больше Fкрит( ;k1;k2), то предположение (гипотеза) о том, что проверяемое уравнение(модель) регрессии незначимо - отклоняется. Если же F меньше Fкрит( ;k1;k2), то уравнение регрессии незначимо. Вероятность ошибки при этом равна . Подробнее методика оценки значимости гипотез обсуждается в следующей лекции.

Вопросы к теме:

1.Какими методами можно оценить степень влияния объясняющей переменной хi на переменную у.

2.Что обозначает запись коэффициента корреляции в виде ryx ;х2 ?

3.Может ли частный коэффициент корреляции превосходить соответствующий парный коэффициент корреляции?

4.Какой вид можно сделать, если частный коэффициент корреляции ryх2;х1 значительно меньше ryх2?

5.Что представляет собой корреляционная матрица, если колличество объясняющих

переменных m=3?

6.Каким недостатком обладает коэффициент детерминации R² при большом количестве объясняющих переменных?

7.Напишите формулу для вычисления скорректированного коэффициента детерминации.

8.Как оценивается значимость коэффициента детерминации?

Лекция 7. ТЕСТЫ ДЛЯ ОБНАРУЖЕНИЯ ГЕТЕРОСКЕДАСТИЧНОСТИ И АВТОКОРРЕЛЯЦИИ ЗНАЧЕНИЙ СЛУЧАЙНОГО ЧЛЕНА

7.1. Общие сведения

Нарушение условий Гаусса-Маркова (см. лекцию № 5) приводит к тому, что формулы (12) и (23) не дают наиболее оптимальных оценок параметров уравнения линейной регрессии. То есть обычный метод наименьших квадратов (МНК) оказывается не вполне эффективным. Особенно часто наблюдаются следующие отклонения от условий Гаусса-Маркова:

а) гетероскедастичность - непостоянство дисперсии случайного члена (непостоянство

u uT ) в случае множественной регрессии);

б) автокорреляция - наличие взаимосвязи между значениями случайного члена.

Для того чтобы обнаружить указанные нарушения, разработаны специальные эконометрические тесты. Мы рассмотрим два наиболее простых и наиболее употребляемых в эконометрической практике:

7.2. Тест ранговой корреляции Спирмена на гетероскедастичность

Пусть найдены по обычному МНК оценки параметров уравнения линейной регрессии, и определены расчетные значения объясняемой переменной y€i и абсолютные значения случайных ошибок

ния, начиная с единицы.

3. Вычисляем коэффициент ранговой корреляции Спирмена (см. формулу (14), лекция №3):

4. Если k n m 1,96, то гетероскедастичность имеется с вероятностью 0,95. Если k n m 2,58, то гетероскедастичность вероятна с вероятностью 0,99.

При небольших значениях k n m 0,67 – наличие гетероскедастичности менее вероятно, чем её отсутствие, и мы будем считать, что тест на отсутствие гетероскедастичности объясняющая переменная xk в целом прошла [3].

Далее следует проверить другие объясняющие переменные, если их несколько. Для этого снова повторяется вся процедура теста Спирмена. Если все объясняющие переменные прошли тест успешно, то проверку уравнения регрессии на отсутствие гетероскедастичности можно считать завершённой.

Существуют и другие тесты на гетероскедастичность, например, тесты Голдфелда-Квандта, Глейзера, Уайта. Применение этих тестов даёт более обоснованные характеристики качества уравнения регрессии, однако связано с довольно громоздкими вычислениями.

Для применения тестов лучше использовать готовые эконометрические компьютерные программы. Например, тест Уайта входит в пакет "Econometric Views", как стандартная подпрограмма [1].

7.3. Тест Дарбина-Уотсона на наличие автокорреляции случайных ошибок

Предположим, что с помощью уравнения регрессии (20) получены следующие значения случайных ошибок (остатков): ui yi y€i .

1. Вычислим суммы:

прил.) для 0,05. Для этого используем следующую схему:

Если значение d близко к 2 и принадлежит интервалу dB ;4 dB , то тест на отсутствие авто-

d dН или d 4 dН , то автокорреляция имеется с вероятностью 0,95.

Замечания. 1. При использовании стандартных эконометрических программ (Econometric Views) для расчёта параметров уравнения множественной линейной регрессии (20) по МНК значение статистики d вычисляется и приводится автоматически.

2. При достаточно больших значениях "n" ("n" - объём выборки) имеет место приближён-

ное равенство: d 2 1 r , где r- выборочный коэффициент корреляции между соседними значе-

ниями случайных ошибок, т.е. между ui и ui 1, i 2,...,n .

3. Существенный недостаток теста Дарбина-Уотсона состоит в наличии зон «неопределённо-

сти» (см. схему). Кроме того, отсутствие корреляции между соседними значениями ui и ui 1 ещё не означает, что нет корреляции между ui и ui 2 или ui и ui 3 . Для исследования подобных сложных случаев применяются тесты Бреуша-Годфри, Льюинга-Бокса и др. [3].

7.4.Методы устранения гетероскедастичности

иавтокорреляции

Для устранения гетероскедастичности можно:

1. Попытаться видоизменить уравнение регрессии. Например, если уравнение регрессии име-

ло вид:

y a0 a1x u ,

случайный член.

Если уравнение не проходит испытание на отсутствие гетероскедастичности, то можно применить «взвешенный метод наименьших квадратов». Его применение основано на минимизации суммы:

где ei - прогнозируемые оценки значений i (дисперсии случайных ошибок).

Реализация взвешенного метода наименьших квадратов обычно проводится с помощью программ специальных компьютерных пакетов [1].

2.Попытаться изменить вид самой модели регрессии, предложив вместо линейной модели

(20)какую-либо нелинейную модель (см. лекцию № 8).

Для устранения автокорреляции можно:

выяснить, какая объясняющая переменная вызывает автокорреляцию и заменить её на другую (или другие).

заменить данное уравнение регрессии на авторегрессионную модель (см. лекцию №13).

Внекоторых случаях применяются весьма сложные процедуры, например метод КокранаОркатта [3].

Влюбом случае построение и развитие эконометрической модели – это длительный и сложный процесс. Довольно часто выбранная вначале модель регрессии оказывается неприемлемой и требует уточнения. Направления этой работы обсуждаются далее.

Вопросы к теме:

1.Какие изменения условий Гауса-Маркова затрудняют определение параметров уравнения регрессии с помощью обычного МНК?

2.Опишите тест ранговой корреляции Спирмены на гетеро-скедастичность.

3.Какие более эффективные тесты на гетероскедастичность Вам известны?

4.Опишите тест Дарбина-Уотсона.

5.В каком случае можно утверждать, что автокорреляция ошибок маловероятна?

6.Что означает попадание статистики d Дарбина-Уотсона в одну из зон неопределенности?

7.Какие другие тесты на автокорреляцию Вам известны?

8.Что можно сделать для улучшения модели регресии в случае гетероскедастичности?

9.Что можно сделать в случае автокорреляции случайных ощибок?

Лекция 8. НЕЛИНЕЙНЫЕ МОДЕЛИ РЕГРЕССИИ

Одним из недостатков линейного регрессионного анализа является то, что он может быть применён только при выборе линейной математической модели, которая выражается линейной функцией. В простейшем случае парной регрессии

y a0 a1 x1 u.

Однако значения переменных в статистической выборке могут быть такими, что линейная модель явно не годится. Например, представим графически зависимость потребления бананов (y) в зависимости от дохода (x) в 10-ти случайным образом выбранных семьях США (табл.3, рис.4).

Таблица 3

Зависимость потребления бананов от дохода

Рис. 4. Зависимость потребления бананов от дохода

Из рис.4 видно, что линейная модель не годится для математического описания этой зависимости. Но если она не годится, то тогда какая годится? Возможны различные варианты:

Однако, если мы изберём какую-либо из этих моделей, будет ли это означать, что весь аппарат линейного регрессионного анализа окажется неприменим? Нет, не означает. Существуют так называемые методы линеаризации, которые позволяют преобразовать некоторые нелинейные модели в линейные. Для этого вместо старых переменных вводятся новые вспомогательные переменные. Эту процедуру проще всего показать на конкретных примерах.

1. В случае модели 1 мы можем ввести новую вспомогательную переменную zi 1 . Тогда

xi

модель y b0 b1 z будет линейной и далее с ней можно работать как с обычной моделью.

2. В случае модели 2 прологарифмируем её по основанию «е»

ln y lnb0 ln x.

Обозначим: a0 lnb0 , a1 .

Введём две новые переменные ui ln yi и ti ln xi .

Тогда мы также получаем линейную относительно переменных «t» и «u» модель:

ua0 a1t.

3.В случае модели 3 прологарифмируем её по основанию «е»

ln y lnb0 1x.

yi

описать представленную зависимость, и примем в качестве основной математической модели:

y b0 b1 z.

Замечание. Возможность построения нелинейных моделей значительно повышает универсальность регрессионного анализа, но и усложняет задачу исследователяэконометриста.

Главная проблема возникает, когда несколько разных нелинейных функций приблизительно соответствуют наблюдениям. Какую из них избрать? Дело в том, что напрямую сравнивать коэффи-

циенты детерминации R2 , полученные для разных моделей или суммы квадратов отклонений, вообще говоря, нельзя. Известно, что величина ln yобычно намного меньше, чем y (для y 3, напри-

мер). Поэтому суммы квадратов отклонений переменных, которые обозначают логарифмы, естественно должны быть меньше, чем суммы квадратов отклонений величины y . Тоже можно сказать и отно-

сительно величины коэффициента детерминации. Поэтому для того, чтобы иметь какую-то возможность сравнивать две различные нелинейные модели, нужно попытаться сравнить суммы квадратов отклонений исходных расчётных переменных и выборочных. Наименьшая сумма говорит о наибольшей адекватности (соответствии) модели.

Если надо сравнить две модели, в которых в качестве объясняющих переменных используются y и ln y, то проще всего применить тест (процедуру) Зарембки, который выполняется следующим образом.

1. Вычисляем среднее геометрическое значений yi:

2.Вычисляем значения z yi ; (i = 1,2,...,n).

iB

3.Вычисляем параметры двух моделей регрессии:

а) 1-я модель - в качестве объясняемой переменной используется zi; б) 2-я модель - в качестве объясняемой переменной используется ln zi . 4. Сравниваем суммы квадратов отклонений:

Выбирается 1-я модель, если S1 < S2 . Если S! > S2 , то выбирается 2-я модель.

Более общая процедура исследования нелинейных моделей регрессии разработана Дж. Боксом и Д. Коксом [2, 3].

Существуют нелинейные модели, которые невозможно преобразовать в линейные с помощью обычных методов линеаризации, т.е. посредством введения новых вспомогательных переменных. В этих случаях обычно возникают большие трудности, связанные с вычислением значений параметров модели. Поэтому в эконометрике такие модели практически не используются.

Вопросы к теме:

1.В каком случае из графического представления данных следует,что линейная модель связи между переменными х и у не подходит?

2.Приведите примеры нелинейных уравнений регрессии с переменными х и у.

3.Опишите процедуру линеаризации модели y=b0+b1 x-1.

4.Как провести линеаризацию степенной модели?

5.Как линеаризовать экспоненциальную модель?

6.Какие процедуры (тесты) используются для сравнения различных нелинейных моделей

регрессии?

7.Опишите тест Зарембки.

Лекция 9. ВРЕМЕННЫЕ РЯДЫ

9.1. Исследование и анализ временных рядов

При исследовании взаимосвязи между экономическими переменными важно с самого начала установить, с какими переменными мы имеем дело. Например, исследуется:

1) зависимость урожайности пшеницы от количества внесённых удобрений определённого

типа;

2) спрос на определённый продукт питания.

В первом случае в качестве объясняющей переменной не может выступать время. А во втором именно время претендует на роль объясняющей переменной. Статистические данные во втором случае обычно называются временным рядом.

Определение 1. Временным рядом (динамическим рядом) в эконометрике называется последовательность наблюдений некоторого экономического параметра в последовательные моменты времени.

Отдельные наблюдения yt (t 1,2,...,n) - называются уровнями ряда.

Например, спрос на пиво по месяцам может быть задан следующим временным рядом:

В общем виде при исследовании временного ряда выделяются следующие составляющие:

изменения - рост народонаселения, рост благосостояния и т.д.); Vt - сезонная компонента, отра-

жающая повторяемость экономических процессов в течение не очень длительного периода (года, месяца, иногда недели). Например, объём перевозок пассажиров городским транспортом различен

даже в разное время суток; Ct - циклическая компонента, отражающая повторяемость экономиче-

ских процессов в течение длительных периодов; Et - случайная компонента (фактор), отражающая

влияние неучтённых случайных временных факторов.

Заметим, что первые три компоненты являются неслу-чайными.

Важней задачей при исследовании временных рядов является выявление и математическое моделирование основной тенденции развития изучаемого процесса и возможностей более или менее достоверной экстраполяции (т.е. предсказания дальнейшего развития данного процесса).

Для определения функциональной формы временного ряда (временного тренда) полезно предварительно найти:

1) цепные абсолютные приросты:

t yt yt 1 , (t=2, 3, ..., n); 2) абсолютные ускорения (вторые разности):

y

3) цепные коэффициенты роста: kt t ; (t=2, 3, ... , n).

yt 1

Если цепные абсолютные приросты для разных значений t отличаются незначительно, то можно рекомендовать выбрать линейную функцию :

yt = a + bt .

Если незначительно изменяются абсолютные ускорения, то предпочтительнее выбрать квад-

ратичную функцию:

yt = a + b1t + b2t2 .

Если примерно одинаковы коэффициенты kt , то предпочтительнее экспоненциальная функ-

ция:

yt ea bt ;

Если не выполняется ни один из перечисленных трёх признаков, то функциональная форма такого временного ряда является более сложной (если она вообще может быть выражена). Дело в том, что довольно часто встречаются временные ряды с очень значительной случайной компонентой. Такие временные ряды требуют принципиально иных методов анализа.

Наиболее распространенные методы анализа временных рядов:

корреляционный анализ; спектральный анализ;