1.2. Выбор формы уравнения регрессии

Рассматривают разные виды уравнений множественной регрессии: линейные и нелинейные.

I. Линейная регрессия вида y^t_x=a+b₁x₁+b₂x₂+…+b_px_p

коэффициенты при х(b_i) называют коэффициентами чистой регрессии. Они характеризуют среднее значение результата с изменением соответствующего фактора на единицу при неизменном значении других факторов, закреплённых на среднем уровне.

Пример: y^t_x=0,5+0,35x₁+0,73x₂

Здесь y – расходы семьи за месяц на продукты питания (тыс. руб)

x₁ - месячный доход одного члена семьи (тыс. руб)

x₂ - Размер семьи (человек)

Анализ уравнения показывает, что с ростом месячного дохода на 1 члена семьи на 1 тыс. руб, расходы на питание возрастут в среднем на 350 руб при среднем размере семьи. С увеличением члена семьи на 1 человека, расходы на питание, при тех же доходах увеличатся на 730 руб. Параметр а (0,5) в этом уравнении не интерпретируется.

II. Нелинейная регрессия.

Степенная функция:

Коэффициенты bj являются коэффициентами эластичности. Они показывают, на сколько процентов в среднем изменяется результат с изменением соответствующего фактора на 1 %, при неизменном действии других факторов. Этот вид уравнения используют в производных функциях и в исследованиях спроса и потребления.

Другие линеаризируемые для построения множественной регрессии.

Экспонента

Гипербола

Чем сложнее функция, тем менее интерпретируемы её показатели и параметры.

2. Оценка параметров уравнения множественной регрессии

Параметры уравнения множественной регрессии оцениваются методом наименьших квадратов.

Рассмотрим линейную зависимость: y^t_x=a+b₁x₁+b₂x₂+…+b_px_p

Возможны 2 подхода:

Первый подход: строится система нормальных уравнений, решение которых позволяет получить оценки параметров регрессии. Для линейной зависимости имеем:

Её решение может быть осуществлено методом Крамера или определителей:

… ,

где - определитель системы, , … - частные определители.

Частные определители получаются из путём замены соответствующего столбца определителя на столбец свободных членов.

Второй подход: На основе матрицы парных коэффициентов корреляции строится уравнение регрессии в стандартизованном масштабе.

, … - стандартизованные переменные, рассчитанные по формулам:

, , где , .

- стандартизованные коэффициенты регрессии.

Применяя метод наименьших квадратов к методу множественной регрессии в стандартизованном масштабе, после соответствующих преобразований получим сумму нормальных уравнений вида:

Решая систему методом определителей, находят стандартные коэффициенты регрессии - .

Стандартные коэффициенты регрессии показывают, на сколько среднеквадратических отклонений (сигм) изменяется в среднем результат, если соответствующий фактор х_i изменяется на одну сигму при неизменном среднем уровне других факторов. Так как все переменные центрированы и нормированы, то стандартизованные коэффициенты регрессии сравнимы между собой. Сравнивая их между собой можно ранжировать факторы по силе их воздействия на результат.

В парной зависимости стандартизованный коэффициент регрессии – это коэффициент корреляции – r_xy.

Во множественной регрессии коэффициенты «чистой» регрессии связаны со стандартизованными коэффициентами регрессии следующими формулами:

Это позволяет от уравнения регрессии в стандартном масштабе переходить к уравнению регрессии в натуральном масштабе.

Параметр а определяется по следующей формуле: .

Рассмотрение стандартных коэффициентов регрессии позволяет их использовать при отсеве факторов из модели, то есть исключают факторы с наименьшим значением

Рассматривая нелинейные зависимости но, приводимые к линейному виду, применяют метод наименьших квадратов, который используют не к исходной информации, а к преобразованным данным. Например, для степенной зависимости:

здесь переменные выражены в логарифмах, далее обработка метода наименьших квадратов та же:

1. строится сумма нормальных уравнений

2. определяются параметры lg a ,b₁, b₂…b_p

3. потенцируется значение lg a

4. записывают общий вид степенной функции

Так как параметры степенной функции представляют собой коэффициенты эластичности, то они сравнимы по разным факторам. Для других зависимостей методика аналогична. Параметры более сложных моделей не имеют чёткой эконометрической интерпретации.