36
Таким образом, статистический критерий определяется заданием
∙статистической гипотезы Но;
∙уровня значимости α;
∙статистики критерия (t-статистики, χ2-статистики, F-статистики);
∙критического множества R.
4.Множественная линейная регрессия и корреляция
4.1.Отбор факторов для модели множественной регрессии
4.1.1.Экономические процессы, описываемые с помощью уравнений множественной регрессии
Парная регрессия может дать хороший результат при моделировании, если влиянием других факторов, воздействующих на объект исследования, можно пренебречь. Если же этим влиянием пренебречь нельзя, то в этом случае следует попытаться выявить влияние других факторов, введя их в модель, т.е. построить уравнение множественной регрессии, где y – зависимая переменная (результативный признак), xi – независимые, или объясняющие, переменные (признаки-факторы).
Множественная регрессия широко используется в решении проблем спроса, доходности акций, при изучении функции издержек производства, в макроэкономических расчетах и целом ряде других вопросов эконометрики. Например, потребление отдельного товара на душу населения зависит от располагаемого дохода на душу населения, цены данного товара, цен на сопутствующие товары, привлекательности товара и других факторов.
37
В настоящее время множественная регрессия – один из наиболее распространенных методов в эконометрике. Основная цель множественной регрессии – построить модель с большим числом факторов, определив при этом влияние каждого из них в отдельности, а также совокупное их воздействие на моделируемый показатель.
4.1.2. Анализ факторов, включаемых в модель множественной регрессии
Включаемые во множественную регрессию факторы должны объяснить вариацию зависимой переменной. Если строится модель с набором m факторов, то для нее рассчитывается коэффициент детерминации R2 , который фиксирует долю объясненной вариации результативного признака за счет рассматриваемых в регрессии m факторов. Влияние других, не учтенных в модели факторов,
оценивается как 1 − R 2 с соответствующей остаточной дисперсией Sε2i .
При дополнительном включении в регрессию m+1 фактора коэффициент детерминации
должен возрастать, а остаточная дисперсия Sε2i уменьшаться:
Rm2+1 ³Rm2 и Sm2+1 £ Sm2 .
Если же этого не происходит и данные показатели практически не отличаются друг от друга, то включаемый в анализ фактор xm+1 не улучшает модель и практически является лишним фактором.
Хотя теоретически регрессионная модель позволяет учесть любое число факторов, практически в этом нет необходимости. Отбор факторов производится на основе качественного теоретико-экономического анализа. Отбор факторов в модель линейной регрессии обычно осуществляется в две стадии: на первой подбираются факторы исходя из сущности проблемы; на второй – на основе матрицы показателей линейной корреляции определяют статистики для параметров регрессии.
Коэффициенты интеркорреляции (т.е. линейной корреляции между объясняющими переменными) позволяют исключать из модели дублирующие факторы. Считается, что две переменные явно коллинеарны, т.е. находятся между собой в линейной зависимости, если
rxix j ³ 0,7 . Если факторы явно коллинеарны, то они дублируют друг друга и один из них
рекомендуется исключить из регрессии. Предпочтение при этом отдается не фактору, более тесно связанному с результатом, а тому фактору, который при достаточно тесной связи с результатом имеет наименьшую тесноту связи с другими факторами. В этом требовании проявляется специфика множественной регрессии как метода исследования комплексного воздействия факторов в условиях их независимости друг от друга.
Пусть, например, при изучении некоторой зависимости матрица парных коэффициентов корреляции оказалась следующей:
|
|
|
|
Таблица 4.1 |
|
y |
x1 |
x2 |
x3 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
38 |
|
|
|
|
|
|
|
|
|
|
|
|
y |
|
1 |
|
|
|
0,8 |
|
|
0,7 |
|
0,6 |
|
|
|
|
|
|
|
|
|
|
|
|
x1 |
|
0,8 |
|
|
|
1 |
|
|
0,8 |
|
0,5 |
|
|
|
|
|
|
|
|
|
|
|
|
x2 |
|
0,7 |
|
|
|
0,8 |
|
|
1 |
|
0,2 |
|
|
|
|
|
|
|
|
|
|
|
|
x3 |
|
0,6 |
|
|
|
0,5 |
|
|
0,2 |
|
1 |
|
|
|
|
|
|
|
|
|
|||
Очевидно, что факторы x1 |
и x2 |
(rx x |
= 0,8) |
дублируют друг друга. В анализ целесообразно |
|||||||
|
|
|
|
1 |
2 |
|
|
|
|
|
|
включить фактор x2, а не x1, хотя корреляция x2 с результатом |
y слабее, чем корреляция фактора x1 с |
||||||||||
y ( ryx2 |
= 0,7<ryx1= 0,8 |
) , |
но |
зато значительно |
слабее межфакторная |
корреляция |
|||||
rx2x3 = 0,2< rx1x3 = 0,5 . Поэтому в данном случае в уравнение множественной регрессии
включаются факторы x2, x2.
Наибольшие трудности в использовании аппарата множественной регрессии возникают при наличии мультиколлинеарности факторов, когда более чем два фактора связаны между собой линейной зависимостью, т.е. имеет место совокупное воздействие факторов друг на друга. В результате вариация в исходных данных перестает быть полностью независимой и нельзя оценить воздействие каждого фактора в отдельности.
Включение в модель мультиколлинеарных факторов нежелательно в силу следующих последствий: 1. затрудняется интерпретация параметров множественной регрессии как характеристик действия факторов в «чистом» виде, ибо факторы коррелированы; параметры линейной регрессии теряют экономический смысл; 2. оценки параметров ненадежны, обнаруживают большие стандартные ошибки и меняются с изменением объема наблюдений (не только по величине, но и по знаку), что делает модель непригодной для анализа и прогнозирования.
Для оценки мультиколлинеарности факторов может использоваться определитель матрицы парных коэффициентов линейной корреляции между факторами.
Если бы факторы не коррелировали между собой, то матрица парных линейных коэффициентов корреляции между факторами была бы единичной матрицей, поскольку все
недиагональные элементы |
rx x |
j |
( i ¹ j ) были бы равны нулю. Так, |
для уравнения линейной |
|
i |
|
|
|
регрессии, включающего три объясняющих переменных |
|
|||
|
|
|
$y = a + b1x1 + b2 x2 + b3 x3 |
(4.1) |
матрица коэффициентов корреляции между факторами имела бы определитель, равный единице:
|
rx x |
rx x |
2 |
rx x |
3 |
|
|
1 0 0 |
|
|
|
|
|
||||||||
Det R = |
1 1 |
1 |
1 |
|
|
|
|
|
||
rx x |
rx x |
2 |
rx x = |
0 |
|
1 0= |
|
1 . |
||
|
2 1 |
2 |
2 |
3 |
|
|
|
|
|
|
|
rx x |
rx x |
|
rx x |
|
|
|
0 0 1 |
|
|
|
3 1 |
3 |
2 |
3 |
3 |
|
|
|
|
|
Если же, наоборот, между факторами существует полная линейная зависимость и все коэффициенты корреляции равны единице, то определитель такой матрицы равен нулю:
39
|
rx x |
rx x |
rx x |
|
1 |
1 |
1 |
|
|
|||
|
|
|||||||||||
Det R = |
1 1 |
1 |
2 |
1 |
3 |
|
|
|
|
|
|
|
rx x |
rx x |
rx x |
= 1 |
1 |
1 |
|
= 0 . |
|||||
|
2 |
1 |
2 |
2 |
2 |
3 |
|
|
|
|
|
|
|
rx x |
rx x |
rx x |
1 |
1 |
1 |
|
|
||||
|
3 1 |
3 |
2 |
3 |
3 |
|
|
|
|
|
|
|
Чем ближе к нулю определитель матрицы межфакторной корреляции, тем сильнее мультиколлинеарность факторов и ненадежнее результаты множественной регрессии. И, наоборот, чем ближе к единице определитель матрицы межфакторной корреляции, тем меньше мультиколлинеарность факторов.
Существует ряд подходов преодоления сильной межфакторной корреляции. Самый простой путь устранения мультиколлинеарности состоит в исключении из модели одного или нескольких факторов. Другой подход связан с преобразованием факторов, при котором уменьшается корреляция между ними.
Одним из путей учета внутренней корреляции факторов является переход к совмещенным уравнениям регрессии, т.е. к уравнениям, которые отражают не только влияние факторов, но и их
взаимодействие. Так, если y = f (x 1,x 2 ,x 3 ) , то возможно построение следующего совмещенного уравнения:
y =a+b x + b x+ b x+ |
b x +x |
2 |
b x+x |
3 |
b x+x |
3 |
ε . (4.2) |
||||||||
1 |
1 |
2 |
2 |
3 |
3 |
12 |
1 |
13 |
1 |
23 |
2 |
|
|||
Рассматриваемое уравнение включает взаимодействие первого порядка (взаимодействие двух факторов). Возможно включение в модель и взаимодействий более высокого порядка, если будет доказана их статистическая значимость по F -критерию Фишера, но, как правило, взаимодействия третьего и более высоких порядков оказываются статистически незначимыми.
4.1.3. Методы построения уравнения множественной регрессии
Отбор факторов, включаемых в регрессию, является одним из важнейших этапов практического использования методов регрессии. Подходы к отбору факторов на основе показателей корреляции могут быть разные. Они приводят построение уравнения множественной регрессии соответственно к разным методикам. В зависимости от того, какая методика построения уравнения регрессии принята, меняется алгоритм ее решения на ЭВМ.
Наиболее широкое применение получили следующие методы построения уравнения множественной регрессии: 1. метод исключения – отсев факторов из полного его набора; 2. метод включения – дополнительное введение фактора; 3. шаговый регрессионный анализ – исключение ранее введенного фактора.
При отборе факторов также рекомендуется пользоваться следующим правилом: число включаемых факторов обычно в 6–7 раз меньше объема совокупности, по которой строится регрессия. Если это соотношение нарушено, то число степеней свободы остаточной дисперсии очень мало. Это приводит к тому, что параметры уравнения регрессии оказываются статистически незначимыми, а F -критерий меньше табличного значения.
Возможны разные виды уравнений множественной регрессии: линейные и нелинейные.