9.7. Множественная линейная регрессия и корреляция

Мы рассматривали корреляционную зависимость различной формы между двумя случайными величинами X и Y . Но встречаются задачи, когда значениям одних случайных величин, которые определяются из эксперимента, но не исчерпывают всей совокупности факторов, оказывающих влияние на некоторую величину, соответствуют значения этой величины. Требуется установить форму стохастической зависимости между этими величинами. Например, себестоимость готовой продукции зависит от качества сырья, производительности труда, технологии изготовления, количества сырья на единицу продукции и т.д.

Рассмотрим вероятностный эксперимент, который описывается системой случайных величин (X, Y, Z), причем случайная величина Z связана со случайными величинами X и Y функциональной зависимостью Z= (X, Y). Пусть функция является линейной. При существовании линейного соотношения между X, Y и Z общее выражение эмпирического уравнения множественной регрессии имеет вид

(9.40)

где параметры , и подлежат определению.

Предположим, что при проведении вероятностного эксперимента имеется возможность измерять величину Z при различных значениях .

Отметим, что всякое значение , как результат измерения, является величиной случайной. Пусть в результате проведенных n измерений получим наблюденные данные , с частотами , где .

По этим данным определим неизвестные параметры , и таким образом, чтобы функция (9.40) наилучшим образом, в смысле метода наименьших квадратов, воспроизводила изучаемую зависимость Z= (X, Y). Аналогично, как и для двух случайных величин, составляем сумму

, (9.41)

которая является функцией трех переменных , и .

Искомыми параметрами будут те, которые дают минимум функции S . Тогда необходимое условие минимума приводит к уравнениям:

Сгруппировав в каждом уравнении коэффициенты при , и , получим систему:

или, учитывая, что

эту систему можно записать в виде:

(9.42)

Из первого уравнения системы (9.42) найдем

. (9.43)

Подставив значение с из выражения (9.43) в формулу (9.40) .получим

откуда следует, что для определения уравнения (9.40) достаточно найти параметры и . Для этого подставим значение с из (9.43) во второе и третье уравнения системы (9.42). После группировки членов и элементарных преобразований будем иметь:

(9.44)

Из системы (9.44) можно найти параметры и , так как это система

двух уравнений с двумя неизвестными. Для ее решения введем статистические коэффициенты корреляции между парами случайных величин X и Y, X и Z, Y и Z:

откуда

Подставляя разности в систему уравнений (9.44) и заменяя , , после сокращений имеем:

Из полученной системы найдем и :

(9.45)

Найденные параметры по формулам (9.43) и (9.45) определяют такое эмпирическое уравнение множественной регрессии, которое наилучшим образом, в смысле метода наименьших квадратов, описывает изучаемую корреляционную зависимость.

Остается определить тесноту линейной корреляционной зависимости вида (9.40).

Для этого введем следующее

Определение 9.4. Совокупным статистическим коэффициентом корреляции называется величина

, (9.46)

где - наименьшее значение суммы (9.41).

Совокупный статистический коэффициент корреляции выразим через парные статистические коэффициенты корреляции , , , для чего преобразуем сумму (9.41), используя значения _, и , определяемые равенствами (9.43) и (9.45), и определение статистической ковариации. Итак,

Подставив найденное значение в формулу (9.46), получим

. (9.47)

В формуле (9.47) совокупный статистический коэффициент корреляции выражается через статистические коэффициенты корреляции между парами случайных величин X и Y, Х и Z, Y и Z .

Совокупный статистический коэффициент корреляции удовлетворяет следующим свойствам:

1) его значения принадлежат отрезку [0; 1]: ;

2) если R = 0, то случайная величина Z не может быть связана со случайными величинами X и Y линейной корреляционной зависимостью, хотя нелинейная или даже функциональная зависимость может быть;

3) если R = 1, то случайная величина Z связана со случайными величинами X и Y линейной функциональной зависимостью;

4) пусть . Тогда, если R стремится к единице, то теснота линейной корреляционной зависимости случайной величины Z со случайными величинами X и Y увеличивается.

Из приведенных свойств следует, что совокупный статистический коэффициент корреляции является мерой тесноты множественной линейной корреляционной зависимости.

Часто в практических задачах требуется определить отдельное влияние случайной величины X или случайной величины Y на случайную величину Z. Это влияние устанавливается с помощью частных статистических коэффициентов корреляции между случайными величинами X и Z; Y и Z, которые определяют по формулам:

Частные статистические коэффициенты корреляции являются мерой тесноты линейной корреляционной зависимости между случайными величинами X и Z при исключении или фиксировании случайной величины Y или Y и Z при исключении или фиксировании случайной величины X. Частные статистические коэффициенты корреляции обладают всеми свойствами статистического коэффициента корреляции (см. § 9.3).

Множественная корреляционная зависимость широко используется при изучении экономических зависимостей, которые рассматриваются не только в их взаимной связи, обусловленности, но и в развитии.

Последовательность наблюдений (уровней), полученных в определенные периоды времени, называется динамическим или временным рядом. Временные ряды, показывающие зависимость случайной величины (результативного признака) от другой или нескольких других случайных величин (факторных), называют связанными рядами динамики. Уравнение связи между тремя связанными между собой признаками называется множественной или многофакторной регрессией.

При исследовании таких связей нужно учитывать следующие моменты:

1) сущность и взаимное переплетение отдельных факторов, обусловливающих исследуемое экономическое явление, может проявляться в мультиколлинеарности, т. е. когда в уравнении регрессии между факторами существует более одной связи;

2) между предыдущими и последующими уровнями рядов динамики имеется определенная связь, называемая автокорреляцией или авторегрессией.

О наличии мультиколлинеарности в уравнении регрессии судят по величине парных коэффициентов корреляции. Если они удовлетворяют неравенству , то мультиколлинеарность есть. Тогда дальнейший анализ следует проводить при отбрасывании одного из сильно коррелирующих между собой факторов.

Определение наличия авторегрессии в динамических рядах основано на вычислении коэффициента корреляции для определения тесноты связи между рядом исходных уровней и рядом тех же уровней, сдвинутых на один период времени, т. е. :

где .

Авторегрессия в связанных рядах динамики отрицательно сказывается на величине среднеквадратических ошибок коэффициентов регрессии, что приводит к искажению границ доверительных интервалов и затрудняет проверку их значимости. Наличие авторегрессии в одномерных рядах динамики способствует выявлению тенденции развития экономического явления во времени.

Авторегрессию можно исключить:

1) включением времени в качестве дополнительного фактора;

2) построением регрессии для последовательных разностей между уровнями исходных рядов динамики;

3) построением уравнения регрессии между отклонениями от тенденции двух связанных рядов динамики. В обоих рядах динамики исключают тенденцию, считая, что тенденция рядов признаков X и Y линейная: ; .

Пример 9.7. По данным работы 40 предприятий, входящих во всесоюзное объединение, построить уравнение (9.40), предполагая, что зависимость между исследуемыми факторами линейная.

Число наблюдений			Фондоотдача, Y, ден.ед	Удельный вес продукции высшей категории качества ,X1%		Использование среднегодовой производственной мощности, X2%
	1	2			3	4
	1	1,4700			34,080	88,980
	2	1,2500			35,890	87,270
	3	1,8200			36,930	95,000
	4	1,4500			32,310	88,170
	5	1,7500			34,910	90,890
	6	1,3700			30,200	87,990
	7	1,6100			31,230	90,100
	8	1,9300			48,130	98,400
	9	1,6800			30,080	90,200
	10	1,6600			42,860	90,150
	11	1,9100			40,890	98,200
	12	1,8300			47,630	95,020
	13	1,8100			45,630	98,000
	14	1,5100			43,070	89,180
	15	1,5400			44,160	89,800
	16	1,9800			35,220	98,970
	17	1,6900			38,830	91,000
	18	1,6900			39,690	91,100
	19	1,7600			39,390	92,200
	20	1,7300			43,170	92,170
	21	1,8800			49,980	95,170
	22	1,6300			39,710	90,900
	23	1,4000			31,380	88,000
	24	1,9300			49,010	98,400
	25	1,4700			48,170	88,900
	26	1,5500			24,110	89,900
	27	1,9000			50,560	98,200
	28	1,3300			26,130	87,800
	29	1,2200			24,730	87,120
	30	1,0500			36,480	87,000
	31	1,9200			50,870	98,220
	32	1,9500			51,890	98,500
	33	1,4000			47,000	88,100
	34	1,0500			55,000	99,000
	35	1,9500			56,000	98,500
	36	1,5100			49,280	89,200
	37	1,4000			33,330	88,000
	38	1,1300			38,960	87,000
	39	1,7400			48,000	92,350
	40	1,7900			49,000	92,500

Р е ш е н и е. Для построения уравнения множественной регрессии (9.40) используем программу P6R пакета прикладных программ. В результате получим следующее уравнение регрессии:

.

Парные статистические коэффициенты корреляции имеют следующие значения: Частные коэффициенты корреляции

Таким образом, на фондоотдачу наибольшее влияние оказывает фактор X₂ - процент использования среднегодовой производственной мощности.

Вопросы для самопроверки

1. Как определяются коэффициенты множественной регрессии?

2. Каким показателем оценивается теснота множественной корреляционной зависимости?

3. Что оценивают парные статистические коэффициенты корреляции?

4. Перечислите свойства совокупного статистического коэффициента корреляции.

5. Сформулируйте определение динамического ряда, автокорреляции, мультиколлинеарности.