9. Множественная регрессия и корреляция.

10. Нарушение предпосылок клммр.

Основные предпосылки (гипотезы) КЛММР:

1. Х – детерминированная матрица, - случайные величины.

2. Математическое ожидание возмущения равно нулю:

( i = 1,2,…,n);

3. Дисперсия возмущения постоянна для любых значений i (условие гомоскедастичности):

( i = 1,2,…,n);

4. Возмущения для разных наблюдений являются некоррелированными:

при ,

где - ковариация.

Условия 3. и 4. можно объединить в одно, определяющее вид ковариационной матрицы возмущений:

где - векторное произведение векторов; Т – знак транспонирования матрицы; - единичная матрица n – го порядка.

5. Возмущения являются нормально распределёнными случайными величинами с нулевым средним значением и дисперсией :

.

6. Векторы объясняющих переменных (столбцы матрицы Х) линейно независимы (не один из них не может быть представлен в виде линейной комбинации других), другими словами, ранг матрицы Х равен числу её столбцов:

.

Нарушение предпосылок:

1. Относительно случайной составляющей ;

2. Относительно векторов объясняющих переменных (факторов) (столбцов матрицы х).

При использовании критериев Фишера и Стьюдента считают: остатки – представляют собой независимые случайные величины и их среднее значение равно 0 (М(_i ) =0); они имеют одинаковую (постоянную) дисперсию ( ) и подчиняются нормальному распределению ( ).

1). Нарушение предпосылок относительно случайной составляющей .

Возможны следующие нарушения предпосылок, если зависит от :

1. остатки не случайны (рис. 2.2а);

2. остатки не имеют постоянной дисперсии (рис. 2.2б);

3. остатки носят систематический характер (рис. 2.2в).

Рис. 2.2. Зависимость случайных остатков от теоретических значений .

В этих случаях необходимо:

- либо применять другую функцию, т.е. изменить спецификацию модели;

- либо вводить дополнительную информацию и заново строить уравнение регрессии до тех пор, пока остатки не будут случайными величинами.

Нарушение предпосылки 1 (Х- детерминированная матрица):

- стохастические факторы, статистически не зависят от регрессионных остатков и оцениваемых параметров;

- стохастические факторы, коррелированны с остатками;

- стохастические факторы и результирующая переменные могут быть измерены только со случайными ошибками.

1). Факторы статистически не зависят от регрессионных остатков и оцениваемых параметров МНК – оценки состоятельные и несмещенные, т.е. на качество оценок это нарушение не влияет.

2). Факторы (объясняющие переменные) коррелированны с регрессионными остатками – проблема эндогенности ( нарушается предпосылка М (Х ) =0)

МНК – оценки не являются состоятельными и несмещенными, т.е. на качество оценок это нарушение влияет.

Причины эндогенности:

- ошибки измерения значений факторов;

- невключение в модель значимых факторов;

- проблема «одновременного влияния».

Предпосылка 2 (М(_i ) =0) относительно нулевой средней величины остатков означает, что .

Это выполнимо для линейных моделей и моделей, нелинейных относительно включаемых переменных. Предпосылка 2 – не нарушается никогда, если в регрессионное уравнение включен свободный член т.е. уравнение имеет вид

.

При оценки параметров – смещенные, коэффициенты детерминации – бессмысленные.

Вывод: включать свободный член.

Предпосылка 3. В соответствии с третьей предпосылкой МНК требуется, чтобы дисперсия остатков была постоянной (гомоскедастичность). Это значит, что для каждого значения фактора остатки имеют одинаковую дисперсию.

Н арушение предпосылки 3 ( ) – гетероскедастичность

параметры регрессии не являются оценками с наименьшей дисперсией, т.е. – не эффективные, хотя и несмещенные. Смещенными будут стандартные ошибки и дисперсии, что влечет неверные выводы о значимости параметров.

Тесты на гетероскедастичность: Уайта, тест ранговой корреляции Спирмена, тест Голдфелда—Квандта, тест Глейзера.

Устранение гетероскедастичности – ОМНК.

1). Если, например, в уравнении

дисперсия связана с некоторой переменной z_t зависимостью. , то каждый член регрессионного уравнения делят на z_t. В новом уравнении дисперсия остатков u_t= / z_t – постоянная величина, т.е. остатки гомоскедастичны:

D(u_t) = D( / z_t )=D( )/z_t²= /z_t²= .

2). Перевести все переменные в логарифмическую форму (если они положительны).

3 ). Использовать специальные робастные методы оценки параметров, когда получаемые оценки в наихудшем случае имеют наименьшую дисперсию. (Робастность – свойство статистической оценки незначительно реагировать на возможные отклонения от рассматриваемой модели).

Предпосылка 4 (cov (e_i , e_j ) = М(e_i e_j)=0 при ) - о независимости остатков. Нарушение предпосылки 4 называется автокорреляцией остатков. Автокорреляция остатков означает наличие корреляции между остатками текущих и предыдущих (последующих) наблюдений.

Следствие – проверка статистической значимости оценок параметров ненадежна из-за невозможности достоверной оценки стандартных ошибок.

Тесты на автокорреляцию: тест Дарбина – Уотсона, тест Бреуша – Годфри, тест Льюинга – Бокса.

Устранение автокорреляции– ОМНК.

Для применения ОМНК нужно специфицировать модель автокорреляции регрессионных остатков. В качестве такой модели используется AR(1) – авторегрессионный процесс первого порядка:

_,

.

Предполагая, что структура модели постоянна, для периода t – 1 имеем:

Соблюдение третьей и четвертой предпосылок, т.е. отсутствие автокорреляции остатков (они распределены независимо друг от друга), является необходимым условием для получения состоятельных МНК - оценок параметров регрессии. Коэффициент корреляции между и , где – остатки текущих наблюдений, – остатки предыдущих наблюдений (например, ), может быть определен как

,

т.е. по обычной формуле линейного коэффициента корреляции. Если этот коэффициент окажется существенно отличным от нуля, то остатки автокоррелированы и функция плотности вероятности зависит от -й точки наблюдения и от распределения значений остатков в других точках наблюдения.

Отсутствие автокорреляции остаточных величин обеспечивает состоятельность и эффективность оценок коэффициентов регрессии.

При нарушении гомоскедастичности и наличии автокорреляции ошибок рекомендуется традиционный метод наименьших квадратов заменять обобщенным методом наименьших квадратов, т.е. методом ОМНК.

Обобщенный метод наименьших квадратов применяется к преобразованным данным и позволяет получать оценки, которые обладают не только свойством несмещенности, но и имеют меньшие выборочные дисперсии.

Предпосылка 5 о нормальном распределении остатков позволяет проводить проверку параметров регрессии и корреляции с помощью - и -критериев. Вместе с тем, оценки регрессии, найденные с применением МНК, обладают хорошими свойствами даже при отсутствии нормального распределения остатков, т.е. при нарушении пятой предпосылки МНК.

Предпосылка 6. Нарушение предпосылки 6 (векторы объясняющих переменных (столбцы матрицы Х) линейно зависимы) влечет

мультиколлинеарность факторов.

Различают полную и частичную мультиколлинеарность.

Полная мультиколлинеарность вызывается нарушением предпосылки 6 - все векторы объясняющих переменных линейно зависимы, т.е. rang X < p+1. Матрица Х^ТХ становится вырожденной, т.е. не существует (Х^ТХ)^-1, следовательно, МНК не применим.

Частичная мультиколлинеарность – корреляционная зависимость (тесная линейная связь) между частью объясняющих переменных. Существование сильной линейной зависимости между переменными, входящими в правую часть эконометрической модели и характеризующейся близостью значений коэффициентов парной корреляции ряда столбцов матрицы Х к единице, вызывает целый ряд проблем при оценке коэффициентов этой модели:

• Во-первых, матрица XX плохо обусловлена (ее детерминант близок, а в пределе равен нулю), и в этом случае МНК и ММП как методы оценки коэффициентов модели не могут быть использованы.

• Во-вторых, плохая обусловленность матрицы XX своим следствием, как правило, имеет ухудшение точности оценок коэффициентов модели, рост их дисперсий и стандартных ошибок при их малой значимости, что не соответствует действительности.

• В-третьих, оценки коэффициентов модели резко изменяются при незначительных изменениях исходных данных (добавление или исключение части выборки; значений элементов вектора у и матрицы X), а также при округлении числовых данных расчетов, неизбежных при обращении матрицы XX.

• Это говорит о неустойчивости оценок параметров моделей по отношению к исходным данным, о низкой обоснованности построенного варианта эконометрической модели, о ее неадекватности описываемому ею процессу.

При несоблюдении основных предпосылок МНК приходится корректировать модель, изменяя ее спецификацию, добавлять (исключать) некоторые факторы, преобразовывать исходные данные для того, чтобы получить оценки коэффициентов регрессии, которые обладают свойством несмещенности, имеют меньшее значение дисперсии остатков и обеспечивают в связи с этим более эффективную статистическую проверку значимости параметров регрессии.

1

15