8.1 Мультиколлинеарлықты анықтау

Мультиколлинеарлықты анықтаудың бірнеше белгілері бар:

– детерминация коэффициенті өте жоғары, бірақ регрессияның кейбір коффициенттері статистикалық маңызды емес.

– маңызды емес түсіндіруші айнымалылар арасындағы қос корреляция жоғары.

– дербес корреляция коэффициенттері жоғары. Дербес корреляция коэффициенті деп басқа айнымалылар әсер етпейтін екі айнымалының арасындағы корреляция коэффициентін атайды.

– қосымша тығыз регрессия. Кез келген түсіндіруші айнымалы басқа түсіндіруші айнымалылардың сызықтық комбинациясы болуы салдарынан мультиколлинеарлық пайда болады.

8.2 Мультиколлинеарлықты жою

Егер моделдің негізгі міндеті моделдегі тәуелді айнымалының мәндерін болжау болса, онда детерминация коэффициенті жоғары болған жағдайда мультиколлинеарлық бар болуы моделдің болжамдық сапасына әсер етпейді. Кез келген жағдайда мультиколлинеарлықты жоюдың нақты бір әдісі жоқ. Мультиколлинеарлықты жоюдың әдістері:

1) моделдегі бір немесе бірнеше айнымалыны жою;

2) қосымша мәліметтер алу немесе жаңа таңдама алу;

3) моделдің спецификациясын өзгерту;

4) кейбір параметрлер туралы алдын – ала белгілі ақпараттарды пайдалану;

5) айнымалыларды түрлендіру.

9 Гетероскедастикалылық

Ең кіші квадраттар әдісі бойынша регрессиялық талдау жасау барысында модельдің кездейсоқ ауытқуларының қасиеттерінің орындалуына байланысты күрделі мәселелерге көңіл аударған дұрыс.

Регрессия коэфиценттерінің бағалау қасиеттері регрессия теңдеуіндегі кездейсоқ мүше қасиетіне тікелей байланысты болады. Сапа бағалаулар алу үшін ЕКӘ алғышарттарының орындалуын қадағалау қажет. Бұл шарттар орындалмаған жағдайларда ЕКӘстатистикалық қасиеттері төмен бағаларды беруі мүмкін. ЕКӘ-нің ең бңр шешуші алғышарттарының бірі – кездейсоқ ауытқулар диперсиясының тұрақты екендігінде.

Кездейсоқ ауытқу дисперсиясы тұрақты D(ԑᵢ)= D(ԑ)=σ²кез келген i және j бақылаулары үшін.

Берілген алғышарттардың орындалуы гомоскедастикалық деп аталады (ауытқу дисперсиясының тұрақтылығы). Бұл шарттың орындалмауы гетероскедастикалығы деп аталуы (ауытқу дисперсиясының тұрақты болмауы).

Таңдама берілгендерін қарастыруда кездейсоқ ауытқулардың дисперсиясының тұрақтылығын талап ету кейбір қайшылықарға келтіруі мүмкін, себебі әр түрлі i-ші бақылауда ԑᵢтек жалғыз мәні бар. Қалай шашыраңқылық пайда болады? Таңдама берілгендерін қарастыру барысында тәуелді айнымалының Y-тің нақты ақиқат және кездейсоқ ауытқулардың нақты сәйкес мәндердін ԑᵢi=1, 2, . . . , n аламыз.

Таңдаманы алғанға дейін бұл көрсеткіштер кейбір ықтималды таратылу негізінде кез келген мәндер қабылдауы мүмкін. Бұл таратылуға қойылатын талаптардың бірі – дисперсиялардың тең болуы. Бұл шарт бақылауға сійкес кездейсоқ ауытқулар үлкен немесе кіші, оң немесе теріс болуы, кейбір бақылауларда үлкен қате (ауытқу), ал екінші бақылауларда аз қате кетуі мүмкін.

Бірақ іс жүзінде гетеракадастикалық дым сирек емес. Кейбір жағдайларда кездейсоқ ауытқулардың ықтималды үлестірімі әртүрлі бақылауларда әртүрлі болады. Бұл кездейсоқ ауытқулар міндетті түрде белгілі бір бақылаулар кіші болатындығын білдірмейді, бірақ оның ықтималдығы үлкен екенін білдіреді. Сондыұтан оның негізі – маңызы мен салдарын түсіну маңызды.

5.1.-суретте сызықтық регрессияның екі мысалы келтірілген тұтынудың С табысқа Iтәуелділігі:

C

C

I

I

а) б)

Екі жағдайда табыстың өсуіне байланысты тұтынудың орта мәні өседі, ал табыстыңәртүрлі деңгейлік мәніне қарамастан, тұтыну дисперсиясы бірдей болады. Сонда 5.1.б-суретінде орташа тұтынудың табыс дисперсиясынан тәуелділігі тұрақты болмайды, табыспен сәйкес өседі.

Бұл, шындығында, табысы үлкен субъект, әрине, орташа алғанда табыс мөлшері аз субъектіге қарағанда көп мөлшерде пайдаланылатыны белгілі және сонымен қатар олардың тұтыну ауқымы әлдеқайда кең. Бұл жағдайдың дұрыстығына ешкімнің таласы жоқ. Тұтыну мәндерінің шашыраңқы болуы бақылау нүктелерінің регрессия сызығына қарағанда шашыраңқы болуынан және кездейсоқ ауытұу дисперсиясын анықтайды. Ауытқу дисперсиясының динамикасы (үлестіруі) өзгеруі төмендегі 5.2-суретте келтірілген. Гетероскедастикалық жағдайларда ԑᵢдисперсия ԑᵢтұрақты. Ал гетероскедастикалық жағдайларда ԑᵢ дисперсиясы өзгереді.

5.2-сурет.

Гетероскедастикалық өзара қайталанатын берілгендерге тән қасиет және уақыт қатарларын қарастыруда сирек кездеседі. Бұл жағдайды былайша түсіндіруге болады. Ортақ берілгендер жағдайында әр түрлі табыс жағдайында, мөлшері, тұтыну бірдей болмағанда (тұтынушылар, үй шаруасындағы әйелдер, фирмалар, салалар, мемлекет және т.б.) экономикалық субъектілер ескеріледі. Бұл жағдайда масштаб тиімділігі байланыста проблемалар болуы мүмкін. Уақыт қатарларында әдетте әртүрлі моменттерінің көрсеткіштері бірдей болады. Бірақ қарастырылып отырған көрсеткіштер өскен (кеміген) жағдайда, гетероскедастикалық проблема қарастырылады.

Гетероскедастиканың салдары

Классикалық сызықтық регрессия моделін қарастыру барысында ЕКӘ ең жақсы сызықты ығыспаған бағаны береді, егер алғашқы шарттар орындалатын болғанда, солардың бірі ауытқу дисперсиясының тұрақтылығында (гомоскедастикалық):

σ²(ԑᵢ)= σ²

Барлық бақылаулар i бойынша орындалады (i=1, 2,...,n).

Егер бұл алғашқы шарт орындалмағанда (гетероскедастикалық жағдайда), ЕКӘ қолдану төменгі жағдайларға келтіріледі. Коэфиценттер бағалар бұрынғыдай ығыспаған және сызықты.

1. Бағалаулар тиімді болмайды (яғни берілген параметрлер бағалауларына қарағанда олар ең кіші дисперсияға ие бола алмайды). Бағалау дисперсиясының өсуі дәл бағалауды алу ықтималдығын кемітеді.

2. Бағалау дисперсиясы ығысу арқылы есептелінеді, регрессия теңдеуімен түсіндірілмеген дисперсия S²= (m – түсіндірілетін айнымалылар саны) барлық коэфиценттердің дисперсиясының бағаларын есептеуде пайдалануда ол ығыспаған бағалау бола алмайды.

3. Жоғарыда айтылғандарға сәйкес, t және F статистикасы бойынша, сол сияқты аралықтар бағалаулар сенімді бола алмайды.

Олай болса, бағалау сапасының стандартын тексерудегі статистикалық көрсеткіштер қате болуы мүмкін, құрылған моделден басқа жағдайларда қате жағдайға келтіріреді. Коэфиценттердің стандартты қателіктері төмен болады, олай болса t статистика мәні артуы мүмкін.

Гетероскедастикалық жағдайында ЕКӘ-нің тиімді болмау себебін төмендегі жұптық регрессия мысалы бойынша түсіндіру қиын емес.

Кездейсоқ Х шамасының 5.3-суреттен, әрбір нақты мәндеріне сәйкес айнымалы У белгілі бір уᵢ мәнін дисперсиясын тұрақты болмауына сәйкес бір мәні екіншісінен өзгеше болатын өз үлестірімі болатын жиыны жатады.

(уᵢ және у_n мәндерінің үлестірімін салыстырыңдар).

ЕКӘ бойынша ауытқу квадраттарының қосындысы = -b₀-b₁-xᵢ)²минимумге зерттеледі.

Бұл жағдайда кіші дисперсия үлестірімі (мысалы, ԑ ) үлестіріміне сәйкес алынғанына қарамастан, берілген қосындыдағы әрбір ԑ нақты мәндері бірдей «салмаққа» ие болады. Бірақ бұл жағдай қайшылыққа келтіреді, себебі мейленше аз дисперсия үлестірімімен алынған нүкте регрессия сызығы дәл анықтайды деген тұжырымға сәйкес келмейді.

Y

Y ₁

Y_n

O

X₁

X_n

X

5.3-сурет

Сонымен үлкен дисперсияға сәйкес келетін үлестіріммен алынған нүктеге қарағанда, ол үлкен «салмаққа ие» болады.

Сондықтан «салмақты» ескеретін бағалау әдісі дәл тиімді бағалауларды алуға мүмкіндік береді.

Гетероскедастикалық анықтау

Кейбір жағдайларда берілгендерін сипаттауды біле отырып гетероскедастикалық пайда болу проблемасын алдын ала білуге және ол қателікті болдырмау жолын ертерек анықтауға болады. Бірақ ол қателікті – проблеманы регрессия теңдеуінен құрғаннан кейін шешуге болады. Әрбір белгілі жағдайларда гетероскедастикалықты анықтау күрделі мәселе, себебі әрбір ауытқу дисперсиясы σ²(lᵢ)-ді анықтау үшін кездейсоқ Хшамасының мәніне Хᵢ-ге сәйкес келетін кездейсоқ У шамасының мәні Уᵢ-ді білу қажет. Ал іс жүзінде әрбір Хᵢ-дің нақты мәндеріне Уᵢ-дің тек қана бір мәні анықталады. Олай болу берілген Хᵢ үлкен кездейсоқ У шамасының дисперсиясын анықтауға мүмкін емес.

e

e

a)

б)

в)

Х₁

Х₁

Х₁

e

e

г)

д)

Х₁

Х₁

5.4-сурет

5.4.а, в суреттерінде қателіктердің тұрақты екі бойынша орналасқан, ал 5.4 б квадраттық формаға сәйкес келеді, 5.4 д түсіндіруші айнымалылар мәні қисыққа жақын орналасқан, 5.4 г, д – статистикалық мәліметтердің көп бөлігін бейнелейді. Айта кету керек, жұптық регрессия жағдайында ауытқудың графиктік талдауы жеткілікті мөлшерде ыңғайлы және сенімді болады. Ал көптік регрессия жағдайында графиктік талдау әрбір түсіндіруші айнымалылар х_јүшін ј=1, 2, ..., mтек қана жеке-дара қарастыру мүмкін болады.

Көптеген жағдайда абсцисса осіне Х-тің орнына регрессияның тәжірибелік теңдеуі бойынша алынған Ŷᵢ, (і=1, 2, ..., n). мәндері құрылады. Себебі көптік регрессия теңдеуі Ŷ түсіндіруші айнымалылар Хᵢ-лердің сызықты комбинациясы болады. Олай болса l –дың Ŷ-ге байланысын көрсететін график 5.4 б, в жағдайындағы гетероскедастикалықтың бар болуын көрсетеді. Мүмкін талдау көбінесе түсіндіруші айнымалылар үлкен болғанда маңызды.

Гетероскадастикалықты анықтау тестері

Парк тестері. Р Парк графиктік әдісті толықтыра отырып гетероскедастикалықты анықтайтын критерийді ұсынды.

σ =σ²(l) дисперсиясы түсіндіретіні айнымалы хᵢ-дің функциясы деп ұйғарылады. Парк төмендегімбайланысты ұсынды:

σ =σ²х l^vi.(5.1)

Соңғы (5.1) теңдіктің екі жағын логарифм десек,

= ² + + (5.2)

шығады. σ дисперсиясы белгісіз ауытқудың квадраттары l -мен алмастырады.

Парк критерийі келесі кезеңдерден тұрады:

1. уᵢ = b₀ + bᵢxᵢ +lᵢ регрессия теңдеуі құрылады.

2. Әрбір бақылау үшін = ²анықталады.

3. = , а = ² регрессиясы құрылады. (5.3)

Көптік регрессия жағдайында (5.3) байланыс әрбір түсіндіруші айнымалылар үшін анықталады.

(5.3) теңдеуде коэфицентінің статистикалық маңыздылығы t = статистикасының негізінде тексеріледі. Егер статистикалық маңызды болса, ол мен арасындағы байланыстың бар болатындығын көрсетеді, яғни статистикалық мәліметтердің гетероскедастикалығын білдіреді.

Айта кету керек, Парк киритерийіндегі (5.3) функциялық байланыс формуласын пайдалану дәлелсіз қорытындыға әкелуі мүмкін (мысалы, статистикалық маңызды емес, гетероскедастикалық жоқ). Тағы да бір проблема тууы мүмкін. Кездейсоқ ауытқу vүшін гетероскедастикалық орын алуы мүмкін.

Сондықтан Парк критерийі басқа да критерийлермен толықтырылады.

Глейзер тесті. Глейзер тесті шын мәнінде Парк тестісіне ұқсас және оны ауытқу дисперсиясы σᵢ мен айнымалы хᵢ мәндері арасындағы байланысты талдау негізінде толықтырылады. Бұл әдіс бойынша сәйкес ауытқулары модульдарының регрессиялық хᵢ -мен байланыстары бағаланады (σ -мен тығыз байланыста болғанда). Бұл жағдайда байланыс төмендегі регрессия теңдеуі бойынша модельденіледі.

= + v.

к- нің мәндерін өзгерте отырып, әртүрлі регрессия құруға болады. Әдетте, к=...-1,-0.5,0.5,1. коэфицентінің статистикалық маңыздылығы әртүрлі нақты жағдайларда тест мәнінді гетероскедастикалық бар екендігін білдіреді.

Егер бірнеші регрессиялар үшін (5.4) коэфицентінің статистикалық маңызы болса, онда байланыс сипаттамасын анықтауда олардың ең жақсысын пайдаланады. Парк және Гейзер тестерінде vᵢ ауытқулары үшін гетероскедастикалық шарттар бұзылуы мүмкін. Соған қарамастан, көптеген жағдайларда аталған модельдер гетероскедастикалық анықтауда жеткілікті дәрежеде жақсы деп есептелінеді.

Голдфелд-Квандт тесті. Бұл жағдайда да қарастырып отырған бақылауға сәйкес стандартты ауытқу σ =σ²(ԑᵢ) айнымалы х-тің мәні хᵢ-ге пропорционал деп ұйғарылады, яғни σ =σх , (і=1,2,...,n) деп ұйғарылады.

ԑᵢ қалыпты заңға бағынады және қалдықтың автокорреляциясы жоқ деп ұйғарылады. Голдфелд-Квандттесті мыналардан тұрады:

1. Барлық n бақылаулары х-тің шамасы бойынша реттелінеді.

2. Осы жіктеуден кейін барлық реттелген таңдама өлшемі к-ға тең болатын үш таңдамаға бөлінеді. Олардың өлшемдері к,n – 2к,к.

3. Алғашқы таңдаманың жекелеген регрессиялары (алғашқы к бақылаулары) бағаланады. Егер х мәндері бойынша дисперсия ауытқуларының пропорционалдығы туралы ұйғарым дұрыс болса, онда бірінші таңдаманың регрессия дисперсиясы (ауытқудың квадраттарының қосындысы S₁= )үшінші таңдамаға сәйкес келетін регрессия дисперсиясынан (қалдық квадраттарының қосындысы S₃= ) әлдеқайда аз болады.

4. Сәйкес дисперсияларды салыстыру үшін келесі F статистикасы құрылады:

F= = (5.5)

мұнда (к-m-1)– сәйкес таңдамалық дисперсиялардың еркіндік дәрежесінің саны, m – регрессия теңдеуіндегі түсіндірілетін айнымалылар саны.

Кездейсоқ ауытқулар туралы жоғарыдағы ұйғарымдар дұрыс болғанда құрылған F статистикасы еркіндік дәрежелері v₁=v₂=к-m-1 болатын Фишер үлестірімін береді.