Выбор модели для стационарного ряда.

При анализе реальных временных рядов следует выбирать представление процесса с наименьшим количеством параметров.

Для выбора того или иного процесса (AR, MA или ARMA) используют автокорреляционную функцию ACF или частную автокорреляционную функцию PACF.

Частные коэффициенты автокорреляции – r[X_t+τ,X_t / X_t+1,X_t+2,…,X_t+τ-1]=r_част(τ) можно рассчитать как МНК-оценки коэффициентов _ττ в соответствующих моделях авторегрессии AR(τ): Х_t^τ= _1τ∙Х_t-1+ _2τ∙Х_t-2+ …+_ττ∙Х_t-τ+ _t.

Например:

r_част(1) = в модели Х_t¹= ₁₁∙Х_t-1+ _t.

r_част(2) = в модели Х_t²= ₁₂∙Х_t-1+ ₂₂∙Х_t-2+_t.

r_част(3) = в модели Х_t³= ₁₃∙Х_t-1+ ₂₃∙Х_t-2+₃₃∙Х_t-3+_t и т.д.

Характер поведения автокорреляционной функции ACF и частной автокорреляционной функции PACF позволяет выбрать вид модели:

Модель	ACF	PACF
MA(q)	Обрывается на шаге q	затухает
AR(p)	Затухает	Обрывается на шаге p
ARMA(p,q)	затухает	затухает

Модель MA(1):

Модель AR(2):

Модель ARMA(p,q)

Оценивание параметров моделей arma.

1. Модель авторегрессии.

В случае АR(1): Х_t= [₀]+₁∙Х_t-1+ _t, где _t – «белый шум» с μ_=0.

Если имеется константа ₀, то мат.ожидание процесса будет равно ₀. Следовательно, оценка данного параметра будет равна среднему арифметическому:

;

Оценкой параметра ₁ будет выборочный коэффициент автокорреляции 1-ого порядка:

В случае АR(2): Х_t= [₀]+₁∙Х_t-1+₂∙Х_t-2+_t, где _t – «белый шум» с μ_=0.

Оценками параметров ₁ и ₂ будут:

; .

Где - выборочный коэффициент автокорреляции порядка :

.

Рассмотрим теперь общий случай авторегрессии: АR(p):

Х_t= [₀]+₁∙Х_t-1+ ₂∙Х_t-2+ …+_р∙Х_t-р+ _t, где _t – «белый шум» с μ_=0.

Для оценки параметров _j (j =1;p) нужно решить систему уравнений:

2. Модель скользящего среднего:

В случае МА(1): Х_t=_t - ₁∙_t-1, где _t – «белый шум» с μ_=0 требуется оценить один параметр ₁. Для его оценки воспользуемся формулой коэффициента автокорреляции 1-ого порядка: (*).

Если оценить r₁ как выборочный коэффициент автокорреляции:

,

то оценки параметра можно найти из соотношения (*):

.

Т.е. нужно найти корни квадратичного уравнения. Их всего будет два. Выбирают тот корень, который удовлетворяет неравенству: │₁│<1 (условие обратимости для МА(1)).

В случае МА(2): Х_t=_t - ₁∙_t-1- ₂∙_t-2, где _t – «белый шум» с μ_=0 требуется оценить два параметра: ₁, ₂.

Для оценки параметров воспользуемся формулами расчета коэффициентов автокорреляции 1-ого и 2-ого порядков:

(**).

Подставляя вместо коэффициентов автокорреляции их выборочные оценки и решив систему нелинейных уравнений (**) получим искомые оценки ₁, ₂.

В случае МА(3): Х_t=_t - ₁∙_t-1- ₂∙_t-2-₃∙_t-3, где _t – «белый шум» с μ_=0 требуется оценить два параметра: ₁, ₂, ₂.

Для оценки параметров воспользуемся формулами расчета коэффициентов автокорреляции 1-ого, 2-ого и 3-его порядков:

(***).

Подставляя вместо коэффициентов автокорреляции их выборочные оценки и решив систему нелинейных уравнений (***) получим искомые оценки ₁, ₂, ₂.

3. Модель авторегрессии и скользящего среднего ARMA(p,q).

Оценивание параметров данной модели базируется на статистическом оценивании параметров модели с помощью методов моментов.

Рассмотрим один из алгоритмов оценки параметров:

1 этап:

Перепишем модель в виде:

Х_t- [₀]-₁∙Х_t-1- ₂∙Х_t-2- …-_р∙Х_t-р = _t - ₁∙_t-1- ₂∙_t-2- …-_q∙_t-q.

Домножим правую и левую части на X_t-q-1, X_t-q-2,…, X_t-q-p и перейдем к мат.ожиданиям в каждом из р полученных таким образом соотношений. После деления каждого соотношения на ²_х получим следующую систему линейных уравнений относительно ₁ , ..., _р:

2 этап:

Подставим найденные оценки в исходное уравнение и «протиражируем» получившееся соотношение для моментов времени t, t+1, t+2, …, t+q. В результате получим следующий набор из (q+1) соотношений:

Затем обе части 1-ого уравнении поочередно домножим на самих себя, на 2-ое, 3-е уравнение и т.д. После перехода к мат.ожиданиям в левой части каждого из (q+1) уравнения, будут находиться различные комбинации автоковариаций и оценок , а правые части будут представлять собой некоторые нелинейные комбинации от неизвестных параметров: ²_х, ₁, ₂,..., _q. Решив эту систему найдем оценки параметров: ²_х, ₁, ₂,..., _q.

Оценим параметры модели ARMA(1,1): Х_t= ₁∙Х_t-1+ _t - ₁∙_t-1

1-ый этап: .

2-ой этап:

Решив данное уравнение относительно , выбираем корень, который удовлетворяет условию: . Затем определяем ²_.