V. Регрессия и корреляция при многофакторной зависимости

На практике чаще всего изменение изучаемого признака зависит от действия нескольких факторных признаков. В этом случае статистическая модель может быть представлена уравнением регрессии с несколькими переменными величинами. Такая регрессия называется множественной.

Построение моделей множественной регрессии включает несколько этапов:

• выбор формы связи (уравнения регрессии);

• отбор факторных признаков;

• обеспечение достаточного объема совокупности для получения несмещенных оценок.

Выбор формы связи при наличии нескольких факторов значительно усложняется по сравнению с уравнениями парной регрессии. Одна из основных причин этого – взаимосвязь самих факторов, их взаимодействие. Поэтому выбору формы уравнения множественной регрессии должен предшествовать анализ парных связей, в том числе и между факторными признаками. Особое значение имеют линейные модели в силу простоты и логичности их экономической интерпретации. Нелинейные формы приводятся к линейным путем линеаризации (например, логарифмирования).

Наиболее приемлемым способом определения вида исходного уравнения регрессии является метод перебора различных уравнений. Сущность его в том, что большое число уравнений регрессии, отобранных для описания связи между несколькими признаками, с помощью специально разработанной программы проверяется на ЭВМ на адекватность на основе различных критериев, главным образом на основе t-критерия Стьюдента и F-критерия Фишера. Способ перебора является достаточно трудоемким и связан с большим объемом выполняемых работ.

Важным этапом построения уже выбранного уравнения множественной регрессии является отбор и последующее включение факторных признаков.

Как уже отмечалось при анализе парной регрессии, отбор факторов производится на основе качественного, теоретического анализа с одновременным использованием статистико-математических критериев.

Общепринятым является трех-стадийный отбор факторов. На первой стадии осуществляется априорный анализ и на факторы, включаемые в предварительный их перечень, не накладывается особых ограничений. На второй стадии производится сравнительная оценка и отсев части факторов. Это достигается анализом парных коэффициентов и индексов корреляции, измеряющих тесноту связи каждого из факторов-признаков с результативным признаком и между собой, и оценкой их значимости. Для этого составляется матрица парных коэффициентов корреляции.

Матрица парных коэффициентов корреляции множественной модели регрессии

	y	x1	x2	…	xj	...	xm
Y	1	ry1	ry2	…	ryj	…	rym
x1	r1y	1	r12	…	r1j	…	r1m
x2	r2y	r21	1	…	r2j	…	r2m
…	…	…	…	…	…	…	…
xi	riy	ri1	ri2	…	1	…	rim
…	…	…	…	…	…	…	…
xm	rmy	rm1	rm2	…	rmj	…	1

Корреляционная матрица позволяет выявить факторы, которые находятся между собой в тесной линейной корреляционной взаимосвязи. Подобное явление, называемое мультиколлинеарностью, искажает величину коэффициентов регрессии (завышает их значения), затрудняет их экономическую интерпретацию.

Анализ таблицы ведется с использованием следующих критериев:

r_yi>r_ij ; r_yj>r_ij ; r_ij><0.8

При отсутствии мультиколлинеарности коэффициент корреляции, выражающий связь данного факторного признака с результативным, должен быть больше коэффициента корреляции, выражающего связь с другими факторными признаками (т.е. связь данного фактора с результативным признаком должна быть теснее, чем с другими факторами).

Превышение парным коэффициентом корреляции двух факторных признаков величины 0,8 является одним из индикаторов определения наличия мультиколлинеарности.

На третьей стадии производится окончательный отбор факторов путем анализа значимости (существенности) параметров различных вариантов уравнений множественной регрессии с использованием критерия Стьюдента.

При этом наиболее приемлемым способом завершающего отбора факторов является шаговый регрессионный анализ. Он заключается в том, что после решения модели и оценки всех коэффициентов регрессии из модели исключается тот фактор, коэффициент при котором незначим или имеет наименьший расчетный критерий t. После этого модель решается заново и снова производится оценка значимости оставшихся коэффициентов регрессии. Процесс исключения факторов продолжается до тех пор, пока не будет получено уравнение регрессии, все коэффициенты в котором значимы.

Однако, если задачи исследования предусматривают главным образом использование модели для получения теоретических значений результативного признака y_xi, то недостаточный уровень значимости коэффициента регрессии не является решающим аргументом для исключения из модели соответствующего фактора, особенно если он важен экономически. Поэтому нередко из модели исключаются лишь факторы, без которых существенно не увеличивается скорректированная остаточная дисперсия:

Существует также так называемый «прямой метод» шаговой регрессии – когда факторы не исключаются из модели, а поочередно вводятся в нее с последующей проверкой их значимости.

При проверке значимости введенного фактора определяется, на сколько уменьшается сумма квадратов остатков и увеличивается величина множественного коэффициента корреляции.

Фактор является незначимым, если его включение в модель только изменяет значения коэффициентов регрессии, не уменьшая и не увеличивая суммы квадратов остатков.

Фактор признается существенным, а его включение в уравнение регрессии целесообразным, если величина множественного коэффициента корреляции увеличивается, а коэффициент регрессии не изменяется (или меняется несущественно).

Если же при включении в модель факторного признака коэффициенты регрессии меняют не только величину, но и знак, а множественный коэффициент корреляции не возрастает, то данный факторный признак признается нецелесообразным для включения в модель связи.

Определение числовых значений параметров уравнения множественной регрессии, как и парной регрессии, обычно производится методом наименьших квадратов, для чего строится и решается система нормальных уравнений.

Уравнение линейной множественной регрессии имеет вид:

Степенной множественной регрессии:

Параболической регрессии:

Показательной регрессии:

Гиперболической регрессии:

- теоретические значения результативного признака, полученные в результате подстановки соответствующих значений факторных признаков в уравнение регрессии;

x₁,x₂,…,x_m - факторные признаки;

a₀,a₁,a₂,…,a_m – параметры уравнения (коэффициенты регрессии).

Для измерения тесноты связи между результативным признаком и факторами, включенными в уравнение регрессии, используется показатель совокупный индекс корреляции (индекс множественной корреляции):

, где

- факторная дисперсия, характеризует вариацию результативного признака, которая при данной форме связи объясняется влиянием факторов x₁,x₂,x₃,…,x_m, включенными в уравнение множественной регрессии:

- остаточная (случайная) дисперсия, характеризует вариацию результативного признака, обусловленную влиянием прочих, не включенных в уравнение регрессии факторов:

- общая дисперсия результативного признака;

- теоретические (расчетные по уравнению регрессии) значения результативного признака;

y_i – эмпирическое значение результативного признака;

- среднее значение результативного признака.

Квадрат индекса множественной корреляции называется совокупным индексом детерминации:

Он показывает, какая часть общей вариации результативного признака объясняется вариацией факторов, включенных в уравнение регрессии.

Индекс множественной корреляции и совокупный индекс детерминации могут быть использованы для измерения тесноты связи как при линейной, так и при криволинейной форме связи.

При линейной форме связи результативного признака со всеми включенными в уравнение факторами показатели тесноты связи называются коэффициентами и имеют тот же смысл, что и индексы множественной корреляции и детерминации.

Кроме выше указанной формулы множественный коэффициент корреляции можно рассчитать, используя парные коэффициенты корреляции и коэффициенты регрессии в стандартизированном масштабе:

а так как , то

,

где R – коэффициент множественной корреляции;

- коэффициент уравнения регрессии при факторе ;

- среднее квадратическое отношение фактора ;

- парный коэффициент корреляции между результативным признаком и фактором .

Множественный коэффициент корреляции может быть положительным (прямая линейная связь) и отрицательным (обратная линейная связь); равенство его нулю говорит об отсутствии линейной связи; приближение к единице свидетельствует о сильной зависимости между признаками.

При небольшом числе наблюдений величина коэффициента множественной корреляции как правило завышается и подлежит корректировке на основании следующего выражения:

- скорректированное значение коэффициента множественной корреляции;

- число наблюдений;

- число факторных признаков.

Корректировка не производится при условии, если

, k – число факторных признаков

В случае оценки связи между результативным и двумя факторными признаками множественный коэффициент корреляции можно определить по формуле:

- парные коэффициенты корреляции между признаками

В случае множественной регрессии рассчитываемые выше показатели тесноты связи (парные и совокупные индексы (коэффициенты)) корреляции и детерминации могут быть дополнены частными индексами и коэффициентами (при линейной форме) корреляции и детерминации. Они позволяют установить степень тесноты связи между результативным признаком и каждым из факторных при исключении влияния других факторных признаков. При влиянии двух факторов х₁ и х₂ на у:

- факторная дисперсия; объясняет вариацию результативного признака влиянием фактора х₁ (т.е. до включения в модель фактора х₂)

- факторная дисперсия; объясняет вариацию результативного признака влиянием двух факторов х₁ и х₂ (т.е. после включения в уравнения х₂)

- прирост факторной дисперсии, характеризует вариацию у, которую удалось дополнительно объяснить, включив в модель х₂

При линейной форме частные коэффициенты корреляции при влиянии двух факторов имеют вид:

- частный коэффициент корреляции между результатом y и фактором х₁ при элиминировании влияния х₂

- между y и х₂ при исключенном влиянии х₁

Проведем множественный корреляционный анализ зависимости между производственным стажем рабочих (x₁), уровнем механизации труда (x₂) и уровнем заработной платы (y) рабочих 20-ти сельскохозяйственных предприятий региона.

Выше было показано, что между производственным стажем работы и заработной платой рабочих существует линейная связь. Исходя из этого между тремя признаками также предполагаем линейную форму связи. В этом случае для оценки степени тесноты связи между результативным и двумя факторными признаками применяется множественный коэффициент корреляции:

,

где - парные коэффициенты корреляции между признаками.

Построим вспомогательную таблицу для расчета парных коэффициентов корреляции.

Таблица 14 – Расчет данных для вычисления парных коэффициентов корреляции

Номер предприятия	Стаж работы рабочих, лет x1	Уровень механизации труда х2	Среднемесячная заработная плата, тыс.руб. y	x12	x22	y2	x1y	x2y	x1x2
1	8	35	8,0	64	1225	64,00	64,0	280,0	280
2	8	44	8,5	64	1936	72,25	68,0	374,0	352
3	8	39	7,2	64	1521	51,84	57,6	280,8	312
4	9	43	8,5	81	1849	72,25	76,5	365,5	387
5	9	42	8,0	81	1764	64,00	72,0	336,0	378
6	9	38	8,8	81	1444	77,44	79,2	334,4	342
7	9	47	9,5	81	2209	90,25	85,5	446,5	423
8	9	50	8,2	81	2500	67,24	73,8	410,0	450
9	10	52	9,0	100	2704	81,00	90,0	468,0	520
10	10	48	10,0	100	2304	100,00	100,0	480,0	480
11	10	44	9,2	100	1936	84,64	92,0	404,8	440
12	10	45	10,6	100	2025	112,36	106,0	477,0	450
13	10	55	9,5	100	3025	90,25	95,0	522,5	550
14	11	46	9,0	121	2116	81,00	99,0	414,0	506
15	11	58	12,0	121	3364	144,00	132,0	696,0	638
16	11	61	11,5	121	3721	132,25	126,5	701,5	671
17	11	56	10,0	121	3136	100,00	110,0	560,0	616
18	12	41	12,0	144	1681	144,00	144,0	492,0	492
19	12	50	11,0	144	2500	121,00	132,0	550,0	600
20	12	52	10,0	144	2704	100,00	120,0	520,0	624
Сумма	199	946	190,5	2013	45664	1849,77	1923,1	9113,0	9511

Рассчитаем парные коэффициенты корреляции, используя данные итоговой строки таблицы 14 по следующим формулам:

Коэффициент показывает, что между стажем работы рабочих и уровнем их заработной платы существует прямая по направлению и сильная по тесноте связь.

Коэффициент показывает, что между уровнем механизации труда и заработной платой рабочих существует прямая по направлению и заметная по тесноте связь.

Коэффициент показывает, что между стажем работы и уровнем механизации труда рабочих существует прямая по направлению и заметная по тесноте связь.

Проверим наличие мультиколлинеарности между факторными признаками. В случае двухфакторной зависимости критерием мультиколлинеарности является соблюдение следующих неравенств:

> 0,812>0,567

> 0,569>0,567

<0,8 0,567<0,8

Выполнение неравенств свидетельствует об отсутствии мультиколлинеарности, т.е. взаимосвязи между факторными признаками.

Определим множественный коэффициент корреляции:

Так как число наблюдений, взятых для корреляционного анализа, небольшое (n=20), проверим необходимость корректировки множественного коэффициента корреляции с помощью следующего неравенства:

где k – число факторных признаков.

В нашем случае что подтверждает необходимость корректировки .

Для корректировки используем формулу:

Проверим скорректированный множественный коэффициент корреляции на значимость на основе F-критерия Фишера:

Табличное значение F-критерия определяем по таблице F-распределения (см. приложение Б) при уровне значимости =0,05 и числе степеней свободы k₁=2 и k₂=n-3=20-3=17.

F_табл.=3,59

Т.к. F_расч.>F_табл., множественный коэффициент корреляции признается значимым. Исходя из его значения связь между стажем работы, механизацией труда и размером среднемесячной заработной платы является сильной по степени тесноты.

Исчислим множественный коэффициент детерминации:

Это означает, что вариация среднемесячной заработной платы рабочих на 64% зависит от изменения стажа их работы и уровня механизации труда, а на 36% - от изменения прочих факторов.

Далее на основании вычисленных выше данных о зависимости трех признаков рассчитаем частные коэффициенты корреляции первого порядка:

Он показывает, что связь между стажем работы рабочих (х₁) и уровнем их заработной платы (y) при исключении влияния уровня механизации труда (x₂) характеризуется как прямая по направлению и высокая по степени тесноты.

Он показывает, что связь между уровнем механизации труда рабочих (х₂) и размером их среднемесячной заработной платы (у) при исключении влияния стажа работы (х₁) характеризуется как прямая по направлению и слабая по тесноте.

Он показывает, что связь между стажем работы рабочих (х₁) и уровнем механизации их труда (х₂) при исключении влияния среднемесячной заработной платы (у) характеризуется как прямая по направлению и слабая по тесноте.

Построим уравнение множественной регрессии, выражающее зависимость размера среднемесячной заработной платы рабочих сельскохозяйственных предприятий региона от стажа их работы и уровня механизации труда.

В случае линейной двухфакторной связи уравнение регрессии имеет вид:

Найдем параметры данного уравнения, используя следующие формулы:

Таким образом, уравнение множественной регрессии имеет вид:

Параметры «a₁» и «a₂» данного уравнения являются коэффициентами множественной регрессии. Они показывают, что при увеличении производственного стажа рабочих на 1 год, их среднемесячная заработная плата возрастает в среднем на 0,73 тысячи рублей (на 730 рублей), а при увеличении уровня механизации труда рабочих на один процентный пункт, средний рост их заработной платы составит 0,03 тысячи рублей (30 рублей).

С целью углубления экономического анализа вычислим коэффициенты эластичности:

Они показывают, что при увеличении стажа работы рабочих на 1%, их среднемесячная заработная плата возрастет в среднем на 0,763%, а при увеличении уровня механизации труда рабочих на 1%, размер среднемесячной заработной платы увеличится в среднем на 0,149%.

Уравнение множественной регрессии также как и однофакторная модель связи, позволяет производить расчет теоретических значений результативного признака. Например, для первого предприятия со стажем работы рабочих 8 лет и уровнем механизации труда 35%, теоретический размер среднемесячной заработной платы будет равен: