3.Модель множественной рег-рессии. (ммр). Основ.Гипотезы

Рассм.множ.лин.матрицу с к-перем-ми. Пусть сущ-ет лин.соотн-е м/у пер-ми Y и к объясняющими пер-ми х1...хк. Если есть выборка из n набл-й над перем-ми, то: y_t = β₁x_t1+β₂x_t2+…+β_kx_tk+ε_t , t=1,n (2). x_tp - зн-ие регрес-ра x_p в набл-ии t, x_t1 = 1. Коэф-ты β неизв-ны, задача–получение их оценок . Осн.гип-зы, леж-щие в осно-ве ММР: 1.специфик-я модели от-раж-ет наше предст-е о мех-ме зав-ти у и х, и сам вид перем-ых: y_t = β₁x_t1+β₂x_t2+…+β_kx_tk+ε_t, t=1,n; 2.x_t1...x_tk яв-я детермин-ми вел-ми ,а векторы X_s=(x_1s...x_ns ) s=1,n ли -нейно незав-ми в n-мер-м пр-ве R­­ⁿ

3.-1 E(ε_t)=0 – мат.ожид.случ.члена в люб.набл-ии=0. E(ε_t²)=V(ε_t)=σ²-дисп.случ.ошибки д.б. постоянна для всех набл-й. Это усл-е наз-ся гомоскедастич-ю. Если не вып-ся-гетероскд-ю.

-2 некоррелир-ть ошибок в разн-ых набл-ях E(ε_t,ε_s)=0 t≠s. Если не вып-ся - автокоррел-я.

-3 ε_t~N(0,σ²) случ.член имеет норм.распр-е с нул-м сред-м и дисп-ей σ², такое же распред-ие им.и коэф-ты регр-ии. Если соблюдены все условия, то модель–норм.лин.регр-я модель. В мат-м виде опр-ся:

y=(y₁…y_n)′ n*1-век-р завис-х пе-рем-х; β=(β₁…β_k)′ k*1-век-р коэф-в; ε=(ε₁…ε_n) n*1-век-р ошибок.

x₁₁…..x_1k

М-ца экзг-х перем-х: Х= ░░░░░ n*k.

x_n1…..x_nk

Ранг мат-цы приним-ся = k, что озн-ет что число набл.знач-й >числа парам-ров. И не сущ.строг.лин.зав-ти м/у независ.пер-ми.

Осн.гипотезы:

1. y=X_β+ε –специф-я модели; модель должна представляться в линейном виде.

2. X(n>k) – X-детерм.м-ца ранга k ; это требование обеспечивает невырожденность матрицы и, как следствие, успешное нахождение параметров.

3. E(ε)=0, V(ε_t)=σ²I_n, ε~N(0,σ²I_n), cov(ε_t, ε_r) = 0 - отсутствие между случайными членами различных наблюдений систематической связи.

4. Мнк. Теорема Гаусса-Маркова.

Целью МНК яв-ся выбор векто-ра пар-ра β минимиз-го сумму квадратов отклонения наблюд-ых знач. от ожид-ых: e_t =yt-ŷt =y-xβˆ. Тогда в вектр. виде можно записать: e′e =y-ŷ =y-xβˆ= –>min, ESS= e′e =(y-xβˆ)′(y-xβˆ) = y′y- y′xβˆ- βˆ′x′y + βˆ′x′xβˆ = y′y-2βˆ′x′y+βˆ′x′xβˆ; Необходимое условие экстремума: диф-ие по βˆ: ∂ESS/∂βˆ=-2x′y+2x′xβˆ= 0;Тогда оценка βˆ определ-ся: βˆ=(x′x)^-1x′y – МНК-оценки; e′e=y′y-βˆ′x′y; МНК оценка S² дисперсии ошибок опред-ся как нормир-ая сумма квадр-ов остатков: S²= σ²=(e′e)/(n-k)=∑e_t ²/(n-k), к – число оцен-ых пар-ов, n - число наблюд-ий, (n-k) – число степеней свободы. = S – стандартное отклон-е завис-ой пер-ой относ-о ф-ии регресс. и наз-ся станд. ошибкой регрессии.

Т.Гаусса-Маркова: Осн. теор. Предоложим что все основные гип-зы верны: 1. y=X_β+ε;- спец-я модели регресс. 2. X-детерм.м-ца ранга к, т.е. к-лмн-о-незав-ых столбцов; 3. а)E(ε)=0 – мат ожид-е, V(ε_t)=σ²I_n – диспер-я есть велич. постоянная; б) cov(ε_t, ε_r) = 0 отсутствие между случайными членами различных наблюдений системат-ой связи, ошибки не д. б. коррелир-ы; в) ε~N(0,σ²I_n) – случ. ошиьки д. иметь норм. распред-е. Теорема Г-М: В предпол-ии модели 1-3 (а-в) оценки βˆ имеют наим-ую дисперсию в классе несмещ-ых лин. ошибок.

При вып-ии 1-3 (а-в) справ-во утверж-е:

1. в-р β имеет норм-ое распред-е: β ~N(0,σ²(x′x)^-1).

2. нормир-ая сумма кВ-ов остатков им. распред-е: (e′e)/ σ²~ X²(n-k)

3. случ. в-ры βˆ и e незав-мы: cov(βˆ, ε_r) = 0

4. случ. в-р βˆ и случ. в-р S² также незав.