1. Основные определения и формулы

Нелинейные модели регрессии

Между экономическими явлениями существуют не только линейные, но и нелинейные соотношения, которые выражаются с помощью соответствующих нелинейных функций.

Различают два класса нелинейных регрессий:

• регрессии, нелинейные относительно объясняющих переменных, но линейные по оцениваемым параметрам;

  • регрессии, нелинейные по оцениваемым параметрам.

Примером нелинейной регрессии по включаемым в нее объясняющим переменным могут служить следующие функции:

• полиномы разных степеней

y =a₀ + a₁∙x₁ + a₂∙x₂² + u,

y = a₀ + a₁∙x₁ + a₂∙x₂² + a₃∙x₃³ + v;

• равносторонняя гипербола

К нелинейным регрессиям по оцениваемым параметрам относятся функции:

• степенная

у = а₀∙х^a1∙u;

• показательная

у = а₀∙a₁^x u;

• экспоненциальная

.

• кинематическая функция (функция Перла — Рида)

• функция Джонсона

При оценивании регрессионных моделей

y = f(x;a) + u

Е(и|х)= 0, σ²(и|х) = σ²_и

с нелинейными по коэффициентам функциями регрессии, такими, как приведены выше, не удается непосредственно воспользоваться статистическими процедурами оценки параметров, созданными для линейных регрессионных моделей.

Модели, нелинейные по переменным. В моделях, нелинейных по переменным, регрессоры, имеющие степень отличную от первой, заменяются другими независимыми переменными первой степени, и к полученной модели с новыми переменными применяется обычный МНК.

Нелинейная регрессия по включенным переменным не имеет сложностей при оценке ее параметров. Они, как и в линейной регрессии, определяются методом наименьших квадратов (МНК), так как эти функции линейны по параметрам. Так, в параболе второй степени

y =a₀ + a₁∙x₁ + a₂∙x₂² + u,

можно произвести замену переменных, например: z₁ =х₁,z₂=х₂², и получим уравнение линейной регрессии вида:

y =a₀ + a₁∙z₁ + a₂∙z₂ + u,

для оценки параметров которого, используется МНК.

Соответственно для полинома третьего порядка

y=a₀ + a₁∙x₁ + a₂∙x₂² + a₃∙x₃³ + v;

при замене z₁=х₁, x₂=х₂², z₃=х₃³ получим трехфакторную модель линейной регрессии:

y = a₀ + a₁∙z₁ + a₂∙z₂ + a₃∙z₃ + v;

а для полинома k-го порядка

y=a₀ + a₁∙x₁ + a₂∙x₂² + a₃∙x₃³ +….+ а_к∙x_k^k + v,

будет получена линейную модель множественной регрессии с к объясняющими переменными:

y = a₀ + a₁∙z₁ + a₂∙z₂ + a₃∙z₃ +….+ а_к∙z_k + v;

Таким образом, полином любого порядка сводится к модели линейной множественной регрессии с ее методами оценивания параметров и проверки гипотез теоремы Гауса-Маркова. Опыт большинства исследователей отмечают, что среди нелинейной полиномиальной регрессии чаще всего используется парабола второй степени и, в отдельных случаях, полином третьего порядка. Ограничения в использовании полиномов более высоких степеней связаны с требованием однородности исследуемой совокупности: чем выше порядок полинома, тем больше изгибов имеет кривая и соответственно менее однородна совокупность по результативному признаку.

Применение МНК для оценки параметров параболы второй степени приводит к следующей системе нормальных уравнений¹;

∑у =п∙а₀+а₁∙∑х+ а₂∙∑х²,

∑у∙x =а₀∙∑х+ а₁∙∑х² + а₂∙∑х³

∑у∙x²=а₀∙∑x²+ а₁∙∑х³ + а₂∙∑х⁴

Для преобразования гиперболической регрессии (обратная модель)

к линейному виду используется замена: .

Модели, нелинейные по параметрам. В моделях, нелинейных по параметрам, например степенных или показательных, непосредственное применение МНК для их оценки невозможно, так как необходимым условием применимости МНК является их линейность по коэффициентам уравнения регрессии. В данном случае преобразованием, которое приводит уравнение регрессии к линейному виду, является логарифмирование.

Рассмотрим процесс логарифмирования на примере нелинейной по параметрам парной регрессии вида

y = a₀∙x^a1, (1.1)

где a₀ и a₁ - параметры модели. Параметр a данной степенной модели представляет собой значение эндогенной переменной, полученное при единичном значении регрессора. Для того чтобы дать экономическую интерпретацию параметру a₁ данной модели, продифференцируем данное уравнение по переменной x:

тогда

параметр a₁ представляет собой эластичность переменной y по переменной x. Уравнение (1.1) не является линейным. Прологарифмируем обе части данного уравнения:

ln(y) = ln(a₀) + a₁ ln(x) = A₀ + a₁∙z, (1.2)

где

A₀= ln(a₀), z = ln(x).

Спецификация (1.2) называется двойной логарифмической моделью², так как и эндогенная переменная, и регрессор используются в логарифмической форме. Второе название модели — модель с постоянной эластичностью — следует из того факта, что параметр a₁, являясь константой, представляет собой эластичность.

Уравнение (1.2) линейно относительно логарифмов переменных, потому, вводя обозначения:

Y=ln(y)

получаем спецификацию линейной модели, к которой при соответствующем включении случайного возмущения применим МНК:

Y = A + a₁∙z + u (1.3)

Модели типа (1.2) используются в микроэкономике для построения производственных функций, функций потребления, функций спроса и т.д.

Спецификации линейных моделей, включающих или только логарифмы значений эндогенной переменной, или только логарифмы значений регрессора, называются полулогарифмическими. Так модель со спецификацией вида:

ln(y) = a + a₁∙x + u (1.4)

относится к полулогарифмическим моделям и называется лог-линейной моделью. Для преобразования данной модели к линейному виду следует произвести замену Y = ln(y).

Полулогарифмические модели обычно используются для измерения темпа прироста экономических переменных.

Следующий тип полулогарифмических моделей получил название — линейно-логарифмическая модель:

Полулогарифмическая модель вида

y= a₀+ a₁∙ln(x)+u (1.5)

называется линейно-логарифмической моделью, которая приводится к линейной путем замены X= ln(x). Получаем модель вида

y= a₀+ a₁∙X +u (1.6)

Модель (1.5) используется при исследовании влияния процентного изменения регрессора на абсолютное изменение эндогенной переменной, например, при моделировании влияния процентного изменения денежной массы на изменение объема ВНП.

Способ включения случайного возмущения. Случайные возмущения в линейных регрессионных моделях должны удовлетворять условиям Гаусса—Маркова, только в этом случае МНК - оценки будут состоятельными, несмещенными и эффективными. Поэтому при линеаризации нелинейных регрессионных моделей важным этапом является этап включения случайного возмущения в исходное уравнение, оно также будет подвержено определенному преобразованию.

В нелинейных по переменным моделях случайное возмущение является аддитивным и не подвергается никакому преобразованию при линеаризации. В моделях логарифмического типа для линеаризации исходных нелинейных уравнений регрессии используется операция логарифмирования. Этому же преобразованию подвергается и случайное возмущение. Для того, чтобы в линейное уравнение после линеаризации возмущение входило аддитивно, в исходную нелинейную спецификацию оно должно включаться мультипликативно, изменяя значение эндогенной переменной в некоторой случайной пропорции.

Для модели (1.1) возможны следующие способы включения случайного возмущения:

y = a₀∙x^a1∙u (1.6)

y = a₀∙x ^a1∙u^ε (1.7)

y = a₀∙x ^a1+u (1.8)

где u, ε — случайные возмущения. Линеаризуем перечисленные выше регрессионные модели путем логарифмирования. Первая модель (1.6) преобразуется в парную логарифмическую модель вида:

ln(y) = A₀ + a₁ ln(x) + v

где A₀=ln(a₀).

Случайное возмущение v = ln(u) включено в линейную спецификацию аддитивно. Чтобы оно удовлетворяло условиям нормальной линейной регрессионной модели, возмущение v исходной нелинейной спецификации (1.6) должно иметь логарифмическое нормальное распределение.

Значение е = ln(v) = 0, при v = 1, что не приводит к изменениям значений эндогенной переменной в спецификации (1.6).

Линеаризация спецификации (1.7) также приводит к линейной модели вида:

ln(y) = A₀+ a₁ ln(x) + е,

e = ε∙ln(u)

но случайное возмущение е имеет нормальное распределение с параметрами

E(e) = 0 , Var (e) = σ²,

а не логарифмически нормальное, как в предыдущем случае. Поэтому применение МНК не вызывает затруднений. Значение е = 0 не приводит к изменениям значений эндогенной переменной в спецификации (1.7).

Логарифмическое преобразование нелинейной спецификации (1.8) с аддитивным случайным возмущением не приводит к линейной модели:

ln(y) = ln(a₀∙x ^a1+u),

поэтому непосредственное применение обычного МНК в данном случае невозможно. Для оценки параметров таких нелинейных моделей разработан нелинейный метод наименьших квадратов, основные положения которого приведены в [1, стр. 418].

Таблица 1

Коэффициенты эластичности для ряда математических функций

Вид функции y	Первая производная,	Коэффициент эластичности,
Линейная y =a0 + a1∙x+u	a1
Парабола второго порядка y =a0 + a1∙x+ a2∙x2 + u	a1∙+2∙a2∙x
Гипербола
Показательная
Степенная		Э = a1
Полулогарифмическая y =a0 + a1∙lnx + u
Логистическая
Обратная

Внимание. После того, как будет получено уравнение с оцененными параметрами, введенные в него новые независимые переменные заменяются на первоначальные.

См. дополнительно литературу: [1, с. 178 - 199]; [2, с. 331 -346]; [5, с. 124 - 127; [7, с.62-80] [10]; [11].