Часть 4 методы и модели корреляционного регрессионного анализа

4.1. Общие сведения

Большинство явлений и процессов в экономике находятся в постоянной взаимной и всеохватывающей объективной связи. Ис­следование зависимостей и взаимосвязей между объективно суще­ствующими явлениями и процессами играет большую роль в эко­номике. Оно дает возможность глубже понять сложный механизм причинно-следственных отношений между явлениями. Для иссле­дования интенсивности, вида и формы зависимостей широко при­меняется корреляционно-регрессионный анализ, который является методическим инструментарием при решении задач прогнозирова­ния, планирования и анализа хозяйственной деятельности пред­приятий.

Различают два вида зависимостей между экономическими явлени­ями и процессами:

• функциональную;

• стохастическую (вероятностную, статистическую).

В случае функциональной зависимости имеется однозначное отображение множества А на множество В. Множество А называют областью определения функции, а множество В – множеством зна­чений функции.

Функциональная зависимость встречается редко. В большинст­ве случаев функция (Y) или аргумент (Х) – случайные величины. X и У подвержены действию различных случайных факторов, среди которых могут быть факторы, общие для двух случайных величин.

Если на случайную величину X действуют факторы Z₁, Z₂, ..., V₁, V₂, а на Y – Z_o, Z₂, V₁, V₃ ..., то наличие двух общих факторов Z₂ и V₁ позволяет говорить о вероятностной или статистической за­висимости между X и Y.

Определение. Статистической называется зависимость между слу­чайными величинами, при которой изменение одной из величин влечет за собой изменение закона распределения другой величины.

В частном случае статистическая зависимость проявляется в том, что при изменении одной из величин изменяется математиче­ское ожидание другой. В этом случае говорят о корреляции или корреляционной зависимости.

Статистическая зависимость проявляется только в массовом процессе, при большом числе единиц совокупности.

При стохастической закономерности для заданных значений зависимой переменной можно указать ряд значений объясняющей переменной, случайно рассеянных в интервале. Каждому фиксиро­ванному значению аргумента соответствует определенное статисти­ческое распределение значений функции. Это обусловливается тем, что зависимая переменная, кроме выделенной переменной, под­вержена влиянию ряда неконтролируемых или неучтенных факто­ров. Поскольку значения зависимой переменной подвержены слу­чайному разбросу, они не могут быть предсказаны с достаточной точностью, а только указаны с определенной вероятностью.

В экономике приходится иметь дело со многими явлениями, имеющими вероятностный характер. Например, к числу случайных величин можно отнести: стоимость продукции, доходы предприя­тия, межремонтный пробег автомобилей, время ремонта оборудо­вания и т. д.

Односторонняя вероятностная зависимость между случайными величинами есть регрессия. Она устанавливает соответствие между этими величинами.

Односторонняя стохастическая зависимость выражается с по­мощью функции, которая называется регрессией.

Перечислим различные виды регрессии.

1. Регрессия относительно числа переменных:

• простая регрессия — регрессия между двумя переменными;

• множественная регрессия — регрессия между зависимой пере­ менной у и несколькими объясняющими переменными х_}, х₂, ..., х_т. Множественная линейная регрессия имеет следующий вид:

, (4.1)

где y – функция регрессии;

x₁,x₂,…,x_m – независимые переменные;

a₁,a₂,…,a_m – коэффициенты регрессии;

a₀ – свободный член уравнения;

m – число факторов, включаемых в модель.

2. Регрессия относительно формы зависимости:

• линейная регрессия, выражаемая линейной функцией;

• нелинейная регрессия, выражаемая нелинейной функцией.

3. В зависимости от характера регрессии различают следующие ее виды:

• положительную регрессию. Она имеет место, если с увеличени­ем (уменьшением) объясняющей переменной значения зависи­мой переменной также соответственно увеличиваются (уменьшаются);

• отрицательную регрессию. В этом случае с увеличением или уменьшением объясняющей переменной зависимая переменная уменьшается или увеличивается.

• Относительно типа соединения явлений различают:

• непосредственную регрессию. В этом случае зависимая и объясняющая переменные связаны непосредственно друг с другом;

• косвенную регрессию. В этом случае объясняющая переменная действует на зависимую через ряд других переменных;

• ложную регрессию. Она возникает при формальном подходе к исследуемым явлениям без уяснения того, какие причины обу­словливают данную связь.

Регрессия тесно связана с корреляцией. Корреляция в широком смысле слова означает связь, соотношение между объективно существующими явлениями. Связи между явлениями могут быть раз­личны по силе. При измерении тесноты связи говорят о корреля­ции в узком смысле слова. Если случайные переменные причинно обусловлены и можно в вероятностном смысле высказаться об их связи, то имеется корреляция.

Понятия «корреляция» и «регрессия» тесно связаны между со­бой. В корреляционном анализе оценивается сила связи, а в рег­рессионном анализе исследуется ее форма. Корреляция в широком смысле объединяет корреляцию в узком смысле и регрессию.

Корреляция, как и регрессия, имеет различные виды:

1. Относительно характера корреляции различают:

• положительную;

• отрицательную.

2. Относительно числа переменных:

• простую;

• множественную;

• частную.

3. Относительно формы связи:

• линейную;

• нелинейную.

4. Относительно типа соединения:

• непосредственную;

• косвенную;

• ложную.

Любое причинное влияние может выражаться либо функцио­нальной, либо корреляционной связью. Но не каждая функция или корреляция соответствует причинной зависимости между явления­ми. Поэтому требуется обязательное исследование причинно-след­ственных связей.

Исследование корреляционных связей мы называем корреля­ционным анализом, а исследование односторонних стохастических зависимостей — регрессионным анализом. Корреляционный и рег­рессионный анализ имеют свои задачи.

К задачам корреляционного анализа относятся следующие.

1. Измерение степени связности (тесноты, силы) двух и более явлений. Здесь речь идет в основном о подтверждении уже известных связей.

2. Отбор факторов, оказывающих наиболее существенное вли­яние на результативный признак, на основании измерения тесно­ты связи между явлениями.

3. Обнаружение неизвестных причинных связей. Корреляция непосредственно не выявляет причинных связей между явлениями, но устанавливает степень необходимости этих связей и достовер­ность суждений об их наличии. Причинный характер связей выясняется с помощью логически-профессиональных рассуждений, рас­крывающих механизм связей.

Перечислим задачи регрессионного анализа.

1. Установление формы зависимости (линейная или нелиней­ная; положительная или отрицательная и т. д.).

2. Определение функции регрессии и установление влияния факторов на зависимую переменную. Важно не только определить форму регрессии, указать общую тенденцию изменения зависимой переменной, но и выяснить, каково было бы действие на зависимую переменную главных факторов, если бы прочие не изменялись и если бы были исключены случайные элементы. Для этого определяют функцию регрессии в виде математического уравнения то­го или иного типа.

3. Оценка неизвестных значений зависимой переменной, т. е. решение задач экстраполяции и интерполяции. В ходе экстраполя­ции распространяются тенденции, установленные в прошлом, на будущий период. Экстраполяция широко используется в прогнози­ровании. В ходе интерполяции определяют недостающие значения, соответствующие моментам времени между известными момента­ми, т. е. определяют значения зависимой переменной внутри ин­тервала заданных значений факторов.

Рассмотрим подробнее регрессию.

Выборочные уравнения регрессии

Условное математическое ожидание случайной величины У: М( Y/X) есть функция от X, которая называется функцией регрессии и равна f(x), т.е. ; (4.2)

аналогично ; (4.3)

Графическое изображение f(x) или называется линией рег­рессии, а записанные уравнения (4.2) и (4.3) – уравнениями рег­рессии.

Поскольку условное математическое ожидание М случайной величины Y есть функция от (х), то его оценка , т. е. условная средняя, также является функцией от X. Обозначим эту функцию через

. (4.4)

Уравнение (4.4) определяет выборочное уравнение регрессии у на х. Сама функция называется выборочной регрессией У на X, а график – выборочной регрессией. Аналогично определя­ется для случайных величин X:

. (4.5)

Функция регрессии необратима, так как речь идет о средних величинах для некоторого конкретного значения фактора.

Функция регрессии формально устанавливает соответствие между переменными X и Y, хотя такой зависимости может и не быть в экономике (ложная регрессия).

Линейная регрессия

Пусть задана система случайных величин X н У и случайные ве­личины X и Y зависимы.

Представим одну из случайных величин как линейную функ­цию другой случайной величины X.

, (4.6)

где α, β – параметры, которые подлежат определению.

В общем случае эти параметры могут быть определены различ­ными способами, наиболее часто используется метод наименьших квадратов (МНК).

Функцию g(x) называют наилучшим приближением в смысле МНК, если математическое ожидание принимает на­именьшее возможное значение.

В этом случае функцию g(x) называют средней квадратической регрессией Y на X. Можно доказать, что линейная средняя квадратическая регрессия имеет вид:

, (4.7)

где т_х, т_у — математические ожидания случайных величин X, Y соответственно; σ_x ,σ_y – средние квадратические отклонения случайных величин X, Y cсоответственно; r– коэффициент парной корреляции, который определяется по формуле:

, (4,8)

где M_xy – ковариация.

, (4.9)

тогда – коэффициент регрессии. Возникает проблема определения параметров α и β на основе выборки.

Рассмотрим определение параметров выбранного уравнения прямой линии средней квадратическои регрессии по несгруппированным данным. Пусть изучается система количественных призна­ков (X, Y), т. е. ведутся наблюдения за двухмерной случайной вели­чиной (X, У). Пусть в результате п наблюдений получено п пар чи­сел (х₁, у₁), (х₂, у₂), ..., (х_n, у_n).

Требуется по полученным данным найти выборочное уравне­ние прямой линии средней квадратическои регрессии:

.

Поскольку данные несгруппированные, т. е. каждая пара чисел встречается один раз, то можно перейти от условной средней к пе­ременной у. Угловой коэффициент k обозначим через и назовем его выборочной оценкой коэффициента регрессии .

Итак, требуется найти:

. (4.10)

Очевидно, параметры и b нужно подобрать так, чтобы точки (х₁, у₁), (х₂, у₂), ..., (х_n, у_n), построенные по исходным данным, ле­жали как можно ближе к прямой (4.10) (рис. 4.1).

Рис. 4.1. Динамика изменения признака Y

Уточним смысл этого требования. Для этого введем следующее понятие. Назовем отклонением разность вида:

,

где Y_i – вычисляется по уравнению (4.10) и соответствует наблюдаемому значению х_i; у_i – наблюдаемая ордината, соответствующая х_i.

Подберем параметры р и b так, чтобы сумма квадратов указан­ных отклонений была наименьшей:

В этом состоит требование метода наименьших квадратов (МНК).

Эта сумма есть функция F отыскиваемых параметров р и b:

.

Для отыскания min найдем произвольные и приравняем их к нулю:

Далее запишем систему:

Для простоты вместо , , , будем писать , , , (индекс i опускаем), тогда:

Получили систему двух линейных уравнений относительно р и b. Решая эту систему, получим:

; (4.11)

. (4.12)

Метод наименьших квадратов применяется и для нахождения параметров множественной регрессии. В этом случае число линей­ных уравнений возрастает, и такие системы уравнений решаются с помощью ЭВМ.