3.2. Метод наименьших квадратов (мнк).

Возможны разные виды уравнений множественной регрессии: линейные и нелинейные. Ввиду четкой интерпретации параметров наиболее широко используется линейная функция.

. (3.1)

Классический подход к оцениванию параметров линейной модели множественной регрессии основан на методе наименьших квадратов (МНК). Он позволяет получить такие оценки параметров, при которых сумма квадратов отклонений фактических значений результативного признака y от расчетных минимальна:

. (3.2)

Для линейных уравнений и нелинейных, приводимых к линейным строится следующая система линейных нормальных уравнений для нахождения параметров уравнения множественной регрессии (3.1):

(3.3)

Для двухфакторной модели данная система будет иметь вид:

Также для нахождения параметров уравнения может быть применен метод определителей:

, (3.4)

где -определитель системы,

- частные определители, которые получаются путем замены соответствующего столбца матрицы определителя системы данными левой части системы.

(3.5)

Метод наименьших квадратов применим и к уравнению множественной регрессии в стандартизированном масштабе:

(3.6)

где – стандартизированные переменные: , , для которых среднее значение равно нулю: , а среднее квадратическое отклонение равно единице ;

– стандартизированные коэффициенты регрессии.

Стандартизованные коэффициенты регрессии показывают, на сколько единиц изменится в среднем результат, если соответствующий фактор x_i изменится на одну единицу при неизменном среднем уровне других факторов. Cстандартизованные коэффициенты регрессии можно сравнивать между собой и ранжировать факторы по силе их воздействия на результат. Применяя МНК к уравнению множественной регрессии в стандартизированном масштабе, получим систему нормальных уравнений вида

(3.7)

где и – коэффициенты парной и межфакторной корреляции.

Коэффициенты «чистой» регрессии связаны со стандартизованными коэффициентами регрессии следующим образом:

. (3.8)

Поэтому можно переходить от уравнения регрессии в стандартизованном масштабе (3.6) к уравнению регрессии в натуральном масштабе переменных (3.1), при этом параметр a определяется как .

Рассмотренный смысл стандартизованных коэффициентов регрессии позволяет их использовать при отсеве факторов – из модели исключаются факторы с наименьшим значением .

На основе линейного уравнения множественной регрессии могут быть найдены частные уравнения регрессии, т.е. уравнения регрессии, которые связывают результативный признак с соответствующим фактором x_i при закреплении остальных факторов на среднем уровне. Они характеризуют изолированное влияние фактора на результат, ибо другие факторы закреплены на неизменном уровне.

На основе частных уравнений регрессии можно определять частные коэффициенты эластичности:

, (3.9)

где b_i – коэффициент регрессии для фактора x_i в уравнении множественной регрессии,

– частное уравнение регрессии.

Наряду с частными коэффициентами эластичности могут быть найдены средние показатели эластичности:

, (3.10)

которые показывают на сколько процентов в среднем изменится результат, при изменении соответствующего фактора на 1%. Средние показатели эластичности можно сравнивать друг с другом и соответственно ранжировать факторы по силе их воздействия на результат.