2. Регрессионный анализ.

Регрессионный анализ. Уравнение регрессии.

Стандартная ошибка оценки. Коэффициент детерминации.

Регрессионный анализ (regression analysis) — это мощный и гибкий метод установления формы и изучения связей между метрической зависимой переменной и одной или нескольки­ми независимыми переменными.

Регрессионный анализ (regression analysis)

Статистический метод установления формы и изучения связей между метрической зависи­мой переменной и одной или несколькими независимыми переменными.

Регрессионный анализ используют в следующих случаях.

1. Действительно ли независимые переменные обуславливают значимую вариацию зависи­мой переменной; действительно ли эти переменные взаимосвязаны?

2. В какой степени вариацию зависимой переменной можно объяснить независимыми пере­менными: теснота связи?

3. Определить форму связи: математическое уравнение, описывающее зависимость между за­висимой и независимой переменными

4. Предсказать значения зависимой переменной.

5. Контролировать другие независимые переменные при определении вкладов конкретной переменной.

Хотя независимые переменные могут объяснять вариацию зависимой переменной, это не--обязательно подразумевает причинную связь. Использование в регрессионном анализе таких терминов, как зависимая или критериальная переменная и независимая переменная (предиктор) отражает наличие математической зависимости между переменными. Данная тер­минология не подразумевает существование причинно-следственной связи между перемен­ными. Регрессионный анализ имеет дело с природой и степенью связи между переменными и не предполагает, что между ними существует какая-либо причинная связь. Вначале мы обсу­дим парную регрессию, а затем множественную.

ПАРНАЯ РЕГРЕССИЯ

Парная регрессия (bivariate regression) — это метод установления математической (в форме уравнения) зависимости между одной метрической зависимой (критериальной) переменной и одной метрической независимой переменной (предиктором). Во многом этот анализ аналоги­чен определению простой корреляции между двумя переменными. Однако для того чтобы вы­вести уравнение, мы должны одну переменную представить как зависимую, а другую — как независимую

Парная регрессия (bivariate regression)

Метод установления математической (в форме уравнения) зависимости между двумя мет­рическими перемнными' зависимой и независимой.

Примеры, приведенные ранее при изучении простой корреляции, рассмотрим с точки зре­ния регрессии.

Можно ли вариацию в объеме продаж объяснить расходами на рекламу? Какова форма этой зависимости и можно ли ее выразить в виде уравнения, описывающего прямую линию?

Зависит ли вариация доли рынка от количества торгового персонала?

•• Определяется ли отношение потребителей к качеству товара их отношением к цене на этот товар?

Прежде чем обсудить процедуру выполнения двумерной регрессии, определим основные статистики.

С ТАТИСТИКИ, СВЯЗАННЫЕ С ПАРНЫМ РЕГРЕССИОННЫМ АНАЛИЗОМ

Ниже приведены статистики и термины, относящиеся к парному регрессионному анализу, Модель парной регрессии. Основное уравнение регрессии имеет вид У, =Р_В + $Л + ^,где У~ зависимая или критериальная переменная, X— независимая переменная, или предиктор, А, — точка пересечения прямой регрессии с осью OY; Д — тангенс угла наклона прямой и е, — остаточный член (остаток), связанный с /-м наблюдением, характеризующий отклонение от функции регрессии¹.

Коэффициент детерминации. Тесноту связи измеряют коэффициентом детерминации г. Он колеблется в диапазоне между 0 и ] и указывает на долю полной вариации У, которая обуслов­лена вариацией X.

Вычисляемое (теоретическое) значение Y. Вычисляемое значение Гравно Y, = а + Ьх, где

У — вычисляемое значение Y_it а параметры а и Ь — это вычисляемые оценки Д, и Д соответ­ственно.

Коэффициент регрессии. Вычисляемый параметр Ъ обычно называют ненормированным ко­эффициентом регрессии.

Диаграмма рассеяния (поле корреляции). Поле корреляции — это графическое представле­ние точек с координатами, определяемыми значениями двух переменных (независимой и за­висимой), для всех наблюдений.

Стандартная ошибка уравнения регрессии, Эта статистика SEE представляет собой стандарт­ное отклонение фактических значений Коттеоретических значений У .

Стандартная ошибка коэффициента регрессии Ь. Стандартное отклонение Ь, обозначаемое SE_b, называется стандартной ошибкой.

Нормированный коэффициент регрессии. Также называется бета-коэффициентом, или взве­шенным бета-коэффиииентом. Показывает изменение У в зависимости от изменения X (угол наклона прямой уравнения регрессии) при условии, что все данные нормированы.

Сумма квадратов ошибок. Значения расстояний всех точек до линии регрессии возводят в квадрат и суммируют, получая сумму квадратов ошибок, которая является показателем общей ошибки ∑е.

Поле корреляции

Это графическое изображение точек с координатами, соответствующими значениям двух переменных для всех случаев. Обычно значения зависимой переменной откладывают по вер­тикальной оси, в значения независимой — по горизонтальной. Поле корреляции используется при определении формы зависимости между переменными, График дает исследователю первое представление о форме данных и о возможных проблемах. На графике легко идентифициро­вать любую необычную комбинацию переменных. График зависимости У (отношение к горо­ду) от ^(продолжительность проживания) дан на рис. 17.3.

Из рисунка видно, что точки располагаются полосой от нижнего левого угла в верхний правый. На графике можно увидеть форму зависимости: с ростом одной переменной другая переменная также увеличивается. Из рисунка видно, что зависимость между К и X носит линейный характер и поэтому может быть описана уравнением прямой линии. Как следует "подогнать" к этим точкам прямую линию, чтобы она наилучшим образом опи­сывала данные?

Самый распространенный метод для расчета уравнения линейной регрессии по данным на диаграмме рассеяния — это метод наименьших квадратов (least-square *procedure).

Метод наименьших квадратов (least-square .procedure)

Метод, используемый для расчета параметров уравнения линейной регрессии, когда на ос­нове поля корреляции минимизируются расстояния по вертикали всех точек поля от графи­ка регрессии.

Методом наименьших квадратов определяют наиболее подходящую прямую регрессии, минимизируя расстояния по вертикали всех точек поля корреляции от этой прямой. Наиболее подходящая прямая называется линией регрессии. Если точка поля не лежит на линии регрес­сии, то расстояние по вертикали от нее до линии называется ошибкой е (рис. 17.4)

Расстояния от всех точек до линии регрессии возводят в квадрат и суммируют, получая сумму квадратов ошибок, и это число показывает суммарную ошибку ∑е. Для определения

наиболее подходяшеилинии с помощью метода наименьших квадратов минимизируют суммы квадрато. ошибок. Если значения У отложит! по вертикальной оси, а значения X— по гори­зонтальной, как показано на рис. 17.4, то полученная аппроксимированная линия называется регрессией У по Х, так как расстояния по вертикали минимизированы. Поле корреляции по­казывает, можно ли зависимость Упо X выразить прямой линией и, следовательно, подходит ли к этим данным парная регрессионная модель.

Проверка значимости

Статистическую значимость линейной связи между X и У можно проверить, исследовав гипотезы:

Н0: β1=0

Н1: β1≠0

Нулевая гипотеза предполагает, что между Х и У не существует линейной зависимости. Аль­тернативная гипотеза утверждает, что между X и У существует зависимость, либо положитель­ная, либо отрицательная. Обычно проводят двустороннюю проверку. Можно использовать t-статистику с n — 2 степенями свободы, где

T= b/SE_b,

SE_b обозначает стандартное отклонение b, и этот показатель называют стандартной ошибкой коэффициента регрессии b.

Используя компьютерную программу (например SPSS) и данные табл. 17.1, регрессия от­ношения к городу от длительности проживания в нем даст результаты, представленные в табл. 17.2. Величина отрезка а, отсекаемого на оси OY, равна 1,0793, угловой коэффициент (наклон кривой) b равен 0,5897. Следовательно, вычисленное (теоретическое) уравнение рег­рессии иметь вид

Отношение ( Y) = 1,0793 +0,5897 (длительность проживания)

Стандартная ошибка, или стандартное отклонение b определено как 0,07008, и значение t-статистики равно t = 0,5897/0,07008,414 с п - 2 = 10 степенями свободы. Из табл. 4 Стати­стического приложения видно, что критическое значение t-статистики с 10 степенями свободы и уровнем значимости а= 0,05 равно 2,228 для двусторонней проверки. Поскольку вычислен­ное значение t-статистики больше критического значения, то нулевую гипотезу отклоняют. Следовательно, между отношением к городу и длительностью проживания в нем существует статистически значимая линейная зависимость. Положительный знак углового коэффициента указывает на то, что эта связь положительная (прямо пропорциональная). Другими словами, чем дольше человек живет в городе, тем лучше он к нему относится.

Соответствующий статистический вывод включает определение тесноты и значимости связи между Y и X. Тесноту связи измеряют коэффициентом детерминации r². В парной регрес­сии r²³ представляет собой квадрат линейного коэффициента корреляции. Коэффициент г из­меняется от 0 до 1. Он показывает долю от полной вариации Y, которая обусловлена вариацией переменной X. Разложение полной вариации переменной У аналогично разложению полной вариации в дисперсионном анализе.

Форму связи признаков можно определить до составления логической программы взаимосвязи информации путем построения графика взаимного изменения в декартовой системе координат. Корреляция количественных переменных – связь признаков, измеряемых в интервальной шкале. Мера связи количественных признаков – коэффициент корреляции Пирсона r_xy [130, с. 90-92] (3.5):

n Σ x_iy_i – (Σ x_i) (Σ y_i)

r _xy = --------------------------------------------, (3.5)

√[n Σ x_i² – (Σ x_i)²][n Σ y_i² – (Σ y_i)²]

где x_i, y_i - количественные признаки; n - число наблюдений.

Для определения статистической значимости полученного коэффициента корреляции при n ‹ 50 используется критерий Стьюдента (t) (3.6):

r_xy

t = ------------------------- (3.6)

√(1 – (r_xy)² / (n – 2)

По таблице критических точек распределения Стьюдента по заданному уровню значимости α и числу степеней свободы υ = n - 2, определяется критическая точка t_α/2;υ. Если │t│ › t_α/2;υ, то коэффициент корреляции статистически значим (существенно отличен от нуля: r_xy ≠ 0). Следовательно, x и y – коррелированы, то есть между ними существует линейная связь [20, с.92].

По данной методике определим наличие линейной зависимости (у от х) между уровнем эффективности системы управления маркетингом (x) (строка 3 - Э(УМ),табл. 3.8) и объемом реализации промышленной продукции (у) (строка 1 – в сумме, табл. 3.8). Для вспомогательных вычислений составим табл. 3.9, на основе которой можно построить уравнение регрессии (рис. 3.6).

Таблица 3.9 – Промежуточные расчеты для проверки значимости уравнения регрессии

	Э(УМ), %, х	РП, млн. руб., у	х2	у2	ху	yср	(у-уср)2
1	21	5824	441	33922470,49	122310,3	97,29	32798643,5
2	88	17235	7744	297045225	1516680	97,29	293701104,0
3	74	22187	5476	492280718,8	1641868	97,29	487972959,8
4	66	3896	4356	15179595,21	257142,6	97,29	14430957,4
5	50	3173	2500	10064756,25	158625	97,29	9456916,5
6	25	796	625	633456,81	19897,5	97,29	488055,9
7	38	10229	1444	104622212,3	388683	97,29	102641416,1
8	65	27185	4225	739018788	1767019	97,29	733738615,5
9	41	6071	1681	36861897,96	248927,4	97,29	35689990,3
10	58	350	3364	122150,25	20271	97,29	63609,9
	526	96946	31856	1729751271	6141423,8	97,29	9379672628,7

Рисунок 3.6 – График уравнения полиномиальной и линейной связи показателей Э(УМ) и РП

Коэффициент корреляции по формуле (3.5) r_xy = 0,573. Положительное значение коэффициента свидетельствует о наличии прямой связи между уровнем эффективности системы управления маркетингом и объемом реализации продукции.По формуле (3.6) проверим значимость полученной зависимости.

0,573 * √10 - 2

П остроим t-статистику t = ------------------------ = 1,977.

√1 – 0,573²

С помощью таблицы критических точек распределения Стьюдента определим t_α/2,υ = t_0,05;8 = 1,860. Поскольку │t│ = 1,977 › 1,860 = t_α/2,υ, то коэффициент корреляции r_xy статистически значим. Следовательно, между уровнями эффективности системы управления маркетингом на предприятии (х) и реализации продукции (у) существует определенная прямая линейная зависимость. Аналогично проверяем значимость линейной связи эффективности системы управления маркетингом с таким показателем хозяйственной деятельности, как уровень рентабельности реализованной продукции (табл. 3.10).