3.3. Метод наименьших квадратов (мнк)
Простейшую экстраполяционную модель, отражающую взаимосвязь прогнозируемого показателя с некоторой переменной, формирующей динамику этого показателя, можно записать в виде
,
(3.21)
где – значение -го наблюдения прогнозируемого показателя;
– значение
переменой, формирующей динамику
показателя в момент времени
(для трендовых моделей, являющихся
частным случаем экстраполяционных,
);
– вектор неизвестных параметров, оцениваемых по данным временного ряда;
–
функция, определяющая
структуру трендовой модели (линейную,
степенную и т.п.);
– ненаблюдаемая
случайная величина, представляющая
собой ту часть вариации показателя
,
которая не объясняется соответствующими
изменениями переменной
.
Чем ниже уровень
вариаций около 0 возможных значений
случайной величины
,
тем точнее модель отражает взаимодействие
переменной
с прогнозируемым
показателем
,
т.е. параметры модели должны подбираться
таким образом, чтобы минимизировать
сумму квадратов отклонений (случайных
составляющих
)
. (3.22)
В общем случае поиск оптимальных параметров сводится к решению нелинейной экстремальной задачи. Обычно рассматривают линейный случай
(3.23)
который значительно упрощает решение этой задачи.
Рассмотрим применение метода наименьших квадратов к случаю построения линейного тренда. Для этого случая (3.22) перепишется в виде
(3.24)
Применяя дифференциальное исчисление для минимизации (3.24) и дифференцируя по и , получаем систему линейных уравнений
(3.25)
Разделив левую и правую части этой системы на число наблюдений и произведя замену:
;
;
;
,
перепишем систему (3.25) в виде
(3.26)
Решая линейную систему (3.26) с помощью замены
получаем оценки коэффициентов линейной трендовой модели в виде
;
.
(3.27)
В случае, когда в качестве тренда выбрана нелинейная функция, возникают некоторые проблемы построения таких функций с помощью МНК. Рассмотрим все варианты, которые могут иметь место в таких случаях.
Нелинейные модели принято делить на три класса: нелинейные по независимой переменной; нелинейные по оцениваемым параметрам, но приводящиеся путем преобразования к линейному виду; нелинейные по оцениваемым параметрам и не приводящиеся к линейному виду.
Нелинейные по независимой переменной:
парабола
;полином третьей степени
;равносторонняя гипербола
.
Нелинейные по оцениваемым параметрам:
степенная
;показательная
;экспоненциальная
.
Коэффициенты моделей первого класса после замены переменных рассчитываются с помощью метода наименьших квадратов. Построение моделей второго класса требует предварительного их приведения к линейному виду путем логарифмирования
;
;
.
После построения с помощью метода наименьших квадратов преобразованных моделей коэффициенты исходных моделей в случае необходимости получаются путем потенцирования.
Модели третьего класса (логистическая модель Перла – Рида и кривая Гомперца) не приводятся к линейному виду и, следовательно, не могут быть построены с помощью МНК.