9.8. Анализ соответствия регрессионной модели наблюденным данным

Оценка соответствия уравнения регрессии наблюденным данным. Пусть изучается некоторый вероятностный эксперимент и в результате получено несколько выборок наблюдений. Результаты различных выборок имеют различное рассеяние, поэтому построенные эмпирические уравнения регрессии для различных выборок наблюдений одного и того же вероятностного эксперимента могут быть различными. Степень соответствия этих уравнений наблюденным данным, несмотря на одинаковый тип зависимости, может быть различна, хотя построение эмпирических уравнений регрессии проводится с использованием критерия . Для вывода показателя соответствия регрессии наблюденным данным рассмотрим статистическую дисперсию, характеризующую разброс наблюденных данных переменной Y около ее среднего арифметического :

Эта дисперсия должна как можно больше обусловливаться изменением переменной X или переменными X₁, Х₂, ..., Х_m в случае множественной регрессии. Преобразуем :

так как

Итак,

(9.48)

где статистическая дисперсия, возникающая из-за случайностей и изменчивости неучтенных факторов, называемая остаточной дисперсией; - статистическая дисперсия значений регрессии , представляющая рассеяние переменной Y, которая обусловлена влиянием переменной X (переменных X₁, Х₂, ..., Х_m в случае множественной регрессии).

Из формулы (9.48) следует, что чем больше по отношению к , тем больше общая дисперсия формируется за счет переменных, участвующих в регрессии и, следовательно, связь между Y и X (или X₁, Х₂, ..., Х_m ) более интенсивная. Поэтому в качестве показателя интенсивности связи используется

(9.49)

которое и указывает, какая часть общей дисперсии обусловлена изменением переменной X (или переменных X₁, Х₂, ..., Х_m). Отношение (9.49) называется коэффициентом детерминации. Коэффициент детерминации удовлетворяет свойствам, приведенным ниже.

1°. Коэффициент детерминации В заключен в пределах от 0 до 1: 0 ≤ В≤1.

2°. Если В = 1, то между зависимой переменной и независимыми переменными существует линейная функциональная зависимость.

3°.Если В = 0, то линейная регрессионная зависимость отсутствует.

4°. Коэффициент детерминации не зависит от единиц измерения переменных, входящих в регрессию.

Из приведенных свойств коэффициента детерминации следует, что чем больше В приближается к единице, тем лучше определена регрессия.

Подставляя в отношение (9.49),получаем

(9.50)

Формула (9.50) позволяет определить коэффициент детерминации по наблюденным данным.

Рассмотрим равенство (9.48), из которого следует, что чем больше , тем неопределеннее становится связь между зависимой переменной Y и независимыми переменными X₁, Х₂, ..., Х_m . Поэтому можно использовать для характеристики неопределенности (неточности) регрессии. Меру неопределенности вычисляют по формуле

Так как В + U= 1, то U = 1 - В, т. е. оценку меры неопределенности (неточности) можно найти, зная коэффициент детерминации.

В множественной регрессии (см. § 9.7) рассматриваются частные коэффициенты детерминации, которые оценивают долю вариации зависимой переменной Z, объясняемой линейной зависимостью Z от X при исключении влияния Y, или объясняемой линейной зависимостью Z от Y при исключении влияния X . Коэффициент частной детерминации определяют по формулам:

где - коэффициент частной детерминации, который оценивает долю вариации, обусловленной зависимостью переменной Z от X при исключении влияния Y ; - коэффициент частной детерминации, который оценивает долю вариации, обусловленной зависимостью переменной Z от Y при исключении влияния X .

Установим теперь связь между коэффициентом детерминации В и статистическим коэффициентом корреляции .

Извлекая квадратный корень из формулы (9.50), получаем

.

Отсюда , кроме того, , так как , .

При построении эмпирической прямой регрессии предполагалось (см. § 9.2), что значения при распределены нормально с математическим ожиданием и дисперсией . Это предположение нуждается в проверке. Вместо проверки о нормальности распределения эмпирического материала проверяют гипотезу : против альтернативной гипотезы : . Если гипотеза : принимается, то считается, что уравнение регрессии Y на X имеет либо нелинейный вид, либо X и Y независимы. Один из методов проверки такой гипотезы указан в § 9.4. Поэтому остановимся на критерии дисперсионного анализа, который рассчитывается как отношение статистической дисперсии значений регрессии к остаточной дисперсии :

Выборочная статистика F имеет распределение Фишера c и степенями свободы.

Если , где - табличное значение критерия F, то гипотеза отвергается. В противном случае гипотеза отсутствия линейной связи между исследуемыми переменными X и Y согласуется с экспериментальными данными.

Для проверки адекватности эмпирического уравнения регрессии рассчитывают среднюю ошибку аппроксимации

.

Если не больше 0,15, то эмпирическое уравнение регрессии адекватно изучаемому экономическому процессу.

Ошибки параметров уравнения регрессии. При построении эмпирического уравнения регрессии полученные оценки и параметров регрессии и являются величинами случайными, имеющими определенное распределение вероятностей. При этом возможные значения оценок , рассеиваются вокруг истинного значения параметра . Определим меру рассеяния оценки параметра, для чего вычислим средние квадратические ошибки коэффициентов и эмпирического уравнения регрессионной прямой.

Рассмотрим систему (9.4) , которую запишем в матричной форме :

, где — транспонированная к X матрица,

Если матрица обратима, то решение системы (9.4) можно записать в виде

,

где

Можно показать, что оценкой матрицы дисперсий и ковариаций оценок параметров регрессии является матрица

,

где определяется по формуле (9.24): . Оценкой дисперсии для постоянной эмпирического уравнения регрессии является статистическая дисперсия

,

которая равна произведению первого элемента главной диагонали матрицы и , средняя квадратическая ошибка оценки определяется по формуле

.

Оценка дисперсии коэффициента регрессии Y и X равна произведению и второго элемента главной диагонали матрицы: :

.

Стандартную ошибку вычисляют по формуле

.

Аналогичные формулы меры рассеяния можно получить для оценок параметров регрессии X на Y . Стандартная ошибка параметров регрессии используется для оценки качества подбора функции регрессии.

Доверительные интервалы для условных математических ожиданий. Построенное эмпирическое уравнение регрессии по наблюденным данным отличается от уравнения регрессии генеральной совокупности, потому что, как отмечено выше, оценки и содержат погрешность. Это значит, что между истинным значением регрессии и его оценкой существует разность . Разделим эту разность на оценку стандартного отклонения значения регрессии , обозначаемую :

. (9.51)

Статистика (9.51) имеет распределение Стьюдента с степенями свободы. При построении доверительного интервала для используется отклонение , которое вычисляется по формуле

. (9.52)

Из формулы (9.52) видно, что для каждого значения переменной X значения различны, причем наименьшее значение получаем при :

В этой точке (при ) достигает минимума.

Построим далее доверительный интервал, который при заданном уровне значимости накрывает истинное значение регрессии, т. е. условное математическое ожидание переменной Y.

По таблицам распределения Стьюдента, числу степеней свободы и заданному уровню доверия находим значение , удовлетворяющее равенству

или

Тогда доверительный интервал для одного условного математического ожидания имеет вид

(9.53)

С вероятностью можно утверждать, что значение регрессии генеральной совокупности находится в этом интервале при фиксированных значениях независимой переменной X .

Доверительных интервалов (9.53) столько, сколько значений переменной X.

Если отложить вычисленные границы на графике вверх и вниз от соответствующих значений эмпирической прямой регрессии, то, соединив полученные точки, получим две гиперболы, между ветвями которых находится эмпирическая прямая регрессии.

Для построения простой линейной или множественной линейной регрессии и проведения анализа соответствия регрессионной модели наблюденным данным можно воспользоваться прикладными программами.

Пример 9.8. Построить уравнение множественной регрессии зависимости товарооборота Y от выработки на одного торгового работника X, на 1 м² торговой площади X₂. и от средних товарных запасов Х₃ по данным таблицы, приведенной ниже: характеризующим изменение отобранных факторов X₁ , Х₂, X₃ и товарооборота Y в продторге по кварталам 1985-1986 гг. Провести анализ соответствия построенной регрессионной модели наблюденным данным.

Y	X1	Х2	X3
539,10	10,400	2,1700	20,200
667,60	11,500	2,2300	17,000
68'9,00	11,200	2,3100	12,500
779,50	13,600	2,7600	17,200
678,90	11,100	2,3400	11,700
729,70	12,200	2,8600	8,800
644,60	14,400	2,5500	11,000
841,60	15,500	3,3700	11,700

Р е ш е н и е. Воспользуемся программой REGRE. В результате получим выходную информацию, по которой проводится анализ соответствия построенной модели наблюденным данным. По программе REGRE вычисляется ряд показателей, характеризующих полученное уравнение множественной регрессии.

Так как коэффициент множественной детерминации В=0,8101 (рассеяние значений Y обусловлено в основном на 81 % изменчивостью факторов X₁ , Х₂, X₃) и средняя ошибка аппроксимации ε= 0,0043 (0,0043 меньше 0,15), то построенное уравнение множественной регрессии адекватно исследуемому влиянию отобранных факторов X₁ , Х₂, X₃ на товарооборот Y.

Но так как , то, учитывая, что коэффициент детерминации близок к единице и средняя ошибка аппроксимации незначительная, можно сделать вывод о недостаточном числе наблюдений исследуемого экономического процесса.

На значимость отобранных факторов X₁ , Х₂, X₃ указывает тот факт, что поочередное их введение в уравнение регрессии увеличивает множественный коэффициент детерминации от 0,7949 до 0,8101.

Множественный коэффициент корреляции , что свидетельствует о тесной корреляционной зависимости фактора Y и факторов X₁ , Х₂, X₃.

Анализ значений эмпирических коэффициентов парной корреляции и частной корреляции показывает, что наибольшее влияние на товарооборот оказывает выработка на 1 м² торговой площади.

Так как статистические коэффициенты регрессии характеризуют силу влияния факторов X₁ , Х₂, X₃ на результирующий признак Y, то важной задачей является сравнение их между собой. Для этого уравнение регрессии выражается в стандартизованном масштабе: , где . В программе REGRE вычисляются β-коэффициенты: . Они выражают скорость изменения среднего значения функции у по каждому из факторов при постоянном значении остальных.

По программе REGRE вычисляются также коэффициенты эластичности, которые показывают, насколько изменяется результативный признак (в процентах) при изменении факторного признака на 1 %: .

Приводятся доверительные интервалы для условных математических ожиданий :

(558; 736)	( 585; 705)	( 618; 692)	( 690; 792)
(622; 692)	(670; 840)	( 572; 785)	( 770; 916)

В выходной информации программы REGRE приводится еще ряд показателей, характеризующих наблюденные данные:

1) проверяется гипотеза на наличие мультиколлинеарности;

2) вычисляется отношение Дарбина (Д), характеризующее автокорреляцию: 0≤Д≤4. При 0≤ Д < 2 автокорреляция положительная, а при 2≤ Д ≤ 4 — отрицательная;

3) определяются разности (остатки) ;

4) определяются числовые характеристики и их ошибки для каждого фактора X₁ , Х₂, X₃, .

Таким образом, используя программу REGRE, можно проводить исследование различных экономических процессов.

Вопросы для самопроверки

1. Какой показатель рассматривается для определения соответствия уравнения регрессии наблюденным данным?

2. При помощи какого показателя оценивается интенсивность связи между результативным и факторными признаками?

3. Перечислите свойства коэффициента детерминации.

4. Каким показателем оценивается неопределенность регрессии?

5. Укажите формулу, связывающую коэффициенты корреляции и детерминации.

6. Укажите формулы для определения ошибок параметров уравнения регрессии.

7. Как определяется доверительный интервал для условного математического ожидания ?