9.3. Множественная линейная регрессия

Парная корреляция или парная регрессия могут рассматриваться как частный случай отражения связи некоторой зависимой переменной, с одной стороны, и одной из множества независимых переменных – с другой. Когда же требуется охарактеризовать связь всего указанного множества независимых переменных с результативным признаком, говорят о множественной корреляции или множественной регрессии.

Рассмотрим вопрос о регрессии. В ряде случаев именно от его решения – оценки уравнений регрессии – зависят оценки тесноты связи, а они, в свою очередь, дополняют результаты регрессионного анализа. Прежде всего следует определить перечень независимых переменных X, включаемых в уравнение. Это должно делаться на основе теоретических положений. Список Х может быть достаточно широк и ограничен только исходной информацией. На практике теоретические положения о сути взаимосвязи подкрепляются парными коэффициентами корреляции между зависимой и независимыми переменными. Отбор наиболее значимых из них можно провести с помощью ЭВМ, выбирая в соответствии с коэффициентами корреляции и другими критериями факторы, наиболее тесно связанные с Y. Параллельно решается вопрос о форме уравнения. Современные средства вычислительной техники позволяют за относительно короткое время рассчитать достаточно много вариантов уравнений. В ЭВМ вводятся значения зависимой переменной Y и матрица независимых переменных X, принимается форма уравнения, например линейная. Ставится задача включить в уравнение k наиболее значимых X. В результате получим уравнение регрессии с k наиболее значимыми факторами. Аналогично можно выбрать наилучшую форму связи. Этот традиционный прием, называемый пошаговой регрессией, если он не противоречит качественным посылкам, достигает приемлемых результатов. Первоначально обычно берется линейная модель множественной регрессии

Y_i=а₀ + а₁Х_i1 + а₂Х_i2 + ... + а_kX_ik + _i

или – в форме уравнения регрессии –

Y_теор ⁼ а₀+ а₁Х₁ + а₂Х₂ + ... + а_kX_k ,

где Y_теор – расчетное значение регрессии, которое представляет собой оценку ожидаемого значения Y при фиксированных значениях переменных X_1, Х₂,....X_k;

а₁, а₂, ..., а_k – коэффициенты регрессии, каждый из которых показывает, на сколько единиц изменится Y с изменением соответствующего признака Х на единицу при условии, что остальные признаки останутся на прежнем уровне.

Параметры уравнения множественной регрессии, как правило, находятся методом наименьших квадратов. В матричной записи система уравнений имеет вид

(X^TX) ∙A=X^TY,

где

Оценка параметров множественной регрессии вручную затруднительна, приводит к потерям точности и может лишь удовлетворить любопытство. Получение же оценок параметров на ЭВМ в настоящее время не представляет большой проблемы. Гораздо важнее, насколько линейная форма связи соответствует реально существующей зависимости между Y, с одной стороны, и множеством Х – с другой.

9.4. Нелинейная регрессия. Коэффициенты эластичности

Представление связи через линейную функцию там, где на самом деле существуют нелинейные соотношения, вызовет ошибки аппроксимации и в конечном итоге упрощенные или даже ложные положения и выводы на основе аналитического уравнения.

Вопрос о нелинейности формы уравнения следует решать на стадии теоретического анализа. Как правило, анализ должен опираться на суть взаимодействия изучаемых явлений и процессов и формально подкрепляться различного рода статистическими критериями. Но на практике допускается и другое решение – нелинейность формулируется как гипотеза и очерчивается лишь круг возможных уравнений, а затем форма и вид уравнения уточняются на ЭВМ. Существуют разные формы нелинейных уравнений регрессии, но в общем виде можно выделить два их класса.

К первому отнесем регрессии нелинейные относительно включенных в исследование переменных, но линейные по параметрам. Это, например, полиномы. В случае парной регрессии имеем уравнения

Y= а₀ + а₁Х + а₂Х² + а₃Х³ + ... .

Множественная регрессия Y = f(X1, Х2 ) по аналогии выглядит как

Возможно применение гиперболы, других функций. При желании с помощью стандартных программ для ЭВМ может быть образовано любое нелинейное сочетание переменных, линейных относительно коэффициентов уравнения. Последние оцениваются с помощью метода наименьших квадратов.

Второй класс нелинейных функций отличается нелинейностью по оцениваемым параметрам. Таких уравнений также существует множество. Наиболее распространена степенная функция вида

(парная регрессия)

либо ... (множественная регрессия).

Даже по приведенным примерам можно составить представление о широком спектре возможных аналитических представлений нелинейной формы связи. Ограничивает их использование сложность процедур оценивания параметров уравнений. Это подчас требует специальных приемов, алгоритмов, программ для ЭВМ,

Относительно просто решается такая задача для функций, преобразуемых к линейному виду. Например, степенную функцию можно прологарифмировать, получив линейную зависимость Y от Х в логарифмах, и применить для оценки параметров уже упоминавшийся метод наименьших квадратов. Однако надо иметь в виду, что при этом оценивается не сама нелинейная функция, но ее линейное преобразование, а это может вызвать смещение оценок параметров.

Интерпретация коэффициента регрессии как углового коэффициента в линейном уравнении для нелинейной зависимости не годится. Определить изменение Y при изменении Х на единицу можно с помощью производной (простой или частной), взятой по соответствующему фактору X. Так, для степенного уравнения производная по Х равна

Видно, что она является величиной переменной, а это усложняет экономическую интерпретацию результатов.

Чаще всего для характеристики влияния изменения Х на Y используют так называемый коэффициент эластичности (Э), который показывает, на сколько процентов изменится Y при изменении Х на один процент, т.е.

Например, для линейного уравнения коэффициент эластичности фактора Х выглядит как

Для парной степенной функции коэффициент эластичности Х равен а₁.

Коэффициенты эластичности – это, собственно, относи тельные величины. Их использование расширяет возможности сопоставления, экономической интерпретации результатов в дополнение к абсолютным величинам – коэффициентам регрессии.