§ 3. Дисперсии и стандартные ошибки коэффициентов

Знание дисперсий и стандартных ошибок позволяет анализировать точность оценок, строить доверительные интервалы для теоретических коэффициентов, проверять соответствующие гипотезы. Выборочные дисперсии эмпирических коэффициентов регрессии имеют вид:

Отметим, что здесь в матрицах X T X и (X T X )−1 первая строка

истолбец обозначены цифрой 0.

Впримере 3.1

z00 =7,310816; z11 =0,001593; z22 =0,043213 .

Отметим, что рассмотренная выше парная линейная регрессия также может быть изложена в матричном виде.

§ 4. Проверка статистической значимости коэффициентов уравнения регрессии

Построение эмпирического уравнения регрессии — начальный этап эконометрического анализа. Первое же построенное по выборке уравнение регрессии очень редко является удовлетвори-

71

тельным по тем или иным характеристикам. Поэтому следующей важнейшей задачей эконометрического анализа будет проверка качества уравнения регрессии. Проверка статистического качества оцененного уравнения регрессии проводится по следующим направлениям:

•проверка статистической значимости коэффициентов уравнения регрессии;

•проверка общего качества уравнения регрессии;

•проверка свойств данных, выполнимость которых предполагалась при оценивании уравнения (проверка выполнимости предпосылок МНК).

Как и в случае парной регрессии, статистическая значимость коэффициентов множественной линейной регрессии с m объясняющими переменными проверяется на основе t-статистики:

имеющей в данной ситуации распределение Стьюдента с числом степеней свободы ν=n−m−1 (n — объем выборки, m — количество объясняющих переменных в модели). При требуемом уровне значимости наблюдаемое значение t-статистики сравнивается с критической точкой t α2 , n−m−1 распределения Стьюдента.

Если t >t α2 , n−m−1 , то коэффициент bj считается статистически значимым. В противном случае ( t ≤t α2 , n−m−1) коэффициент bj счи-

тается статистически незначимым (статистически близким к нулю). Это означает, что фактор Xj линейно не связан с зависимой переменной Y. Его наличие среди объясняющих переменных не оправдано со статистической точки зрения. Он не оказывает скольконибудь серьезного влияния на зависимую переменную, а лишь искажает реальную картину взаимосвязи. Если коэффициент bj статистически незначим, рекомендуется исключить из уравнения регрессии переменную Xj. Это не приведет к существенной потере качества модели, но сделает ее более конкретной.

72

Таким образом, при уровне значимости α=0,05 (5%) коэф-

фициенты b0 и b2 статистически значимо отличаются от нуля, а коэффициент b1 статистически незначим. Коэффициент b1 становится

статистически значимым при α≈0,058 (5,8%).

§ 5. Интервальные оценки коэффициентов теоретического уравнения регрессии

По аналогии с парной регрессией после определения точечных оценок bj коэффициентов βj (j =1, 2, ..., m) теоретического урав-

нения регрессии могут быть рассчитаны интервальные оценки указанных коэффициентов. Доверительный интервал, накрывающий с надежностью 1−α неизвестное значение параметра βj , определя-

ется неравенством:

b j −t α2 , n−m−1Sb j < βj <b j +t α2 , n−m−1Sb j ,

где t α2 , n−m−1 — критическая точка распределения Стьюдента с чис-

лом степеней свободы ν=n−m−1 (n — объем выборки, m — количество объясняющих переменных в модели) и уровнем доверия α.

По аналогии с парной регрессией может быть построена интервальная оценка для среднего значения предсказания:

73

При определении доверительного интервала для индивидуальных значений зависимой переменной необходимо произвести замену:

X Tp(X T X )−1 X p → 1+X Tp(X T X )−1X p = 1,585 =1,259 .

§ 6. Проверка общего качества уравнения регрессии

После проверки значимости каждого коэффициента регрессии обычно проверяется общее качество уравнения регрессии. Для этой цели, как и в случае парной регрессии, используется коэффициент детерминации:

Суть данного коэффициента как доли общего разброса значений зависимой переменной Y, объясненного уравнением регрессии,

74

подробно рассмотрена ранее. Как отмечалось, в общем случае 0≤R2 ≤1. Чем ближе этот коэффициент к единице, тем больше

уравнение регрессии объясняет поведение Y. Поэтому естественно желание построить регрессию с наибольшим R2.

Для множественной регрессии коэффициент детерминации является неубывающей функцией числа объясняющих переменных. Добавление новой объясняющей переменной никогда не уменьшает значение R2. Действительно, каждая следующая объясняющая переменная может лишь дополнить, но никак не сократить информацию, объясняющую поведение зависимой переменной. Это уменьшает (в худшем случае не увеличивает) область неопределенности в поведении переменной Y.

Иногда при расчете коэффициента детерминации для получения несмещенных оценок в числителе и знаменателе вычитаемой из единицы дроби делается поправка на число степеней свободы.

Вводится так называемый скорректированный (исправленный) коэффициент детерминации:

где n — количество наблюдений, m — число объясняющих переменных.

Такая поправка учитывает соответствующие степени свободы RSS и TSS. Выражение (3.15) можно также представить в виде:

где k =(m+1) — число параметров уравнения регрессии.

Из (3.15) очевидно, что R2 <R2 для т > 1. С ростом значения m скорректированный коэффициент детерминации растет медленнее, чем (обычный) коэффициент детерминации. Другими словами, он

75

корректируется в сторону уменьшения с ростом числа объясняю-

Доказано, что R2 увеличивается при добавлении новой объяс-

няющей переменной тогда и только тогда, когда t-статистика для этой переменной по модулю больше единицы. Поэтому добавление в модель новых объясняющих переменных осуществляется до тех пор, пока растет скорректированный коэффициент детерминации.

Обычно приводятся данные как по R2, так и по R2, являющиеся

суммарными мерами общего качества уравнения регрессии. Однако не следует абсолютизировать значимость коэффициентов детерминации. Существует достаточно примеров неправильно специфицированных моделей, имеющих высокие коэффициенты детерминации. Поэтому коэффициент детерминации рассматривается лишь как один из ряда показателей, который нужно проанализировать, чтобы уточнить строящуюся модель.

После оценки индивидуальной статистической значимости каждого из коэффициентов регрессии обычно анализируется совокупная значимость коэффициентов. Такой анализ осуществляется на основе проверки гипотезы об общей значимости — гипотезы об одновременном равенстве нулю всех коэффициентов регрессии при объясняющих переменных:

H 0 : β1 = β2 =...= βm =0.

Если данная гипотеза не отклоняется, то делается вывод о том, что совокупное влияние всех т объясняющих переменных X 1,X 2, ...,X m модели на зависимую переменную Y можно считать

статистически несущественным, а общее качество уравнения регрессии — невысоким.

Проверка данной гипотезы осуществляется на основе дисперсионного анализа сравнения объясненной и остаточной дисперсий.

H 0 : (объясненная дисперсия) = (остаточная дисперсия),

76

H 1 : (объясненная дисперсия) > (остаточная дисперсия). Строится F-статистика:

ν1 =m, ν2 =n−m−1. Поэтому, если при требуемом уровне значимости α, F набл >F α; m; n−m−1, где F α; m; n−m−1 — критическая точ-

ка распределения Фишера, то H0 отклоняется в пользу H1. Это означает, что объясненная дисперсия существенно больше остаточной дисперсии, следовательно, уравнение регрессии достаточно качественно отражает динамику изменения зависимой переменной Y. Если F набл <F α; m; n−m−1 , то нет оснований для отклоне-

ния H0. Значит объясненная дисперсия соизмерима с дисперсией, вызванной случайными факторами. Это дает основание считать, что совокупное влияние объясняющих переменных модели несущественно, следовательно, общее качество модели невысоко.

Однако на практике чаще вместо указанной гипотезы проверяют тесно связанную с ней гипотезу о статистической значимости коэффициента детерминации R2:

H 0 : R2 =0,

H 1 : R2 >0.

Для проверки данной гипотезы используется следующая F- статистика:

77

Выражение (3.17) следует из (3.16), если числитель и знаменатель разделить на TSS.

Величина F при выполнении предпосылок МНК и при справедливости H0 имеет распределение Фишера, аналогичное распределению F-статистики (3.16). Показатели F и R2 равны или не равны нулю одновременно. Для проверки нулевой гипотезы

H0:F =0, R2 =0 при заданном уровне значимости α по таблицам

критических точек распределения Фишера находится критическое значение F крит =F α; m; n−m−1 . Нулевая гипотеза отклоняется, если

F набл >F крит . Это равносильно тому, что R2 >0 , т. е. R2 статисти-

чески значим.

Анализ статистики F позволяет сделать вывод о том, что для принятия гипотезы об одновременном равенстве нулю всех коэффициентов линейной регрессии коэффициент детерминации R2 не должен существенно отличаться от нуля. Его критическое значение уменьшается при росте числа наблюдений и может стать сколь угодно малым.

n

n ∑ei2

F0,01; 2;27 =9,55 . Поскольку Fнабл =51,2 > Fкрит как при 5%-м, так и

при 1%-м уровне значимости, то нулевая гипотеза H0 в обоих случаях отклоняется в пользу H1. Это означает, что объясненная дисперсия существенно больше остаточной, следовательно, уравнение регрессии достаточно качественно отражает динамику изменения зависимой переменной Y.

78