2.11. Покроковий метод включення факторів в рівняння множинної регресії.

При побудові множинної регресійної моделі за експериментальними даними або статистичної звітності виникають труднощі з відбором факторних ознак, які в сукупності роблять найбільший вплив на результативний. Зазвичай кількість факторних признаків досить велике і вибір найбільш істотних і з них виробляють на підставі логічного та економічного аналізу. Такий підхід призводить до неоднозначності у відборі факторів і заснований не на строгих статистичних критеріях, а на досвіді та інтуїції дослідника. У статистиці розроблені методи, що дозволяють вирішувати цю задачу однозначно.

Нехай на стадії логічного аналізу статистичної задачі було відібрано М факторних ознак, які можуть бути аргументами рівняння множинної регресії. З цих ознак треба відібрати m, найкращим чином пояснюють варіацію результативної ознаки. Очевидно, що найпростішим способом є послідовне приєднання аргументів і оцінка повноти пояснення варіації результативної ознаки відібраним безліччю факторних за допомогою коефіцієнта детермінації . У міру збільшення числа факторних ознак m детермінація буде зростати; припинити приєднання аргументів можна після досягнення коефіцієнтом детермінації досить великого значення (наприклад, 0,9) або тоді, коли подальше збільшення числа факторних ознак не призведе до помітного зростання детермінації .

Незважаючи на уявну простоту, цей метод має один досить істотний недолік: один і той же результат (заданий рівень коефіцієнта детермінації) може бути отриманий при різних наборах аргументів, що входять в безліч відібраних факторних ознак. Цю неоднозначність у відборі пояснюють змінних-аргументів проілюструємо характерними графіками залежності коефіцієнта детермінації від числа факторних ознак при М = 5 (рис. 11).

Рис. 11. Залежність коефіцієнтів детермінації від числа включних в модель факторних ознак М

Коефіцієнт детермінації приймає різні значення в залежності від того, які факторні ознаки і в якій кількості враховані у регресійній моделі (враховані факторні ознаки вказані в дужках біля вузлових точок відповідних графіків). З малюнка видно, що коефіцієнт детермінації, рівний 0,9, можна отримати, включивши в модель два аргументи х₂, х₄, три аргументу х₁,х₃, х₄ або чотири аргументи х₃, х₂, х₁, х₅ таким чином, в залежності від порядку підключення аргументів для результативного признака у можуть бути побудовані різні регресійні моделі. З перерахованих підмножин аргументів перше є найкращим, оскільки забезпечує досягнення заданого рівня детермінації при мінімальному числі факторних ознак. Однак цих данних явно недостатньо для прийняття остаточного рішення про склад регресійної моделі. Дійсно, при М = 5 і m = 2 існує С₃² = 10 можливих варіантів поєднань аргументів і не виключено, що коефіцієнт детермінації для деякої пари факторних ознак буде більшим, ніж для вибраного підмножини х₂, х₄.

У загальному випадку, коли число аргументів на відбирають підмножині факторних ознак заздалегідь невідомо, слід розглянути всі можливі поєднання аргументів і обчислити коефіцієнт детермінації для кожного з них. Загальна кількість варіантів при цьому буде дорівнює р == С¹_м + С²_м + С³_м + ... + С^м_м = 2^м - 1.

Неважко визначити, що із збільшенням М число вариантів зростає дуже швидко. Так, при М - 5, р = 31, при М = 10, р = 1023. Отже, при великій множині вихідних факторних ознак обсяг обчислень для вибору найкращого їх підмножини настільки великий, що рішення задачі залишається проблематичним навіть при користуванні ЕОМ.

Одним з найбільш ефективних способів зменшення обсягу обчислень є побудова регресійної моделі покроковим методом. Перед розглядом методу зауважимо, що використання апріорно заданого значення коефіцієнта детермінації (в попередньому прикладі 0,9) в якості критерію для припинення приєднання аргументів в отбираемое підмножина не завжди є

коректним, оскільки навіть включення всіх аргументів в регресійну модель може не забезпечити потрібної детермінації. Разом з тим регресійна модель може бути достатньо адекватною об'єкту і при відносно невеликій детермінації, якщо приватні коефіцієнти кореляції факторних ознак з результативною являются значущими.

Нехай D - безліч m факторних ознак х_j ϵ D, х_i - приєднуванa факторнa ознака, х_i D. Позначимо гуХ {, ї - приватний коефіцієнт кореляції ознак XI і в, обчислений за умови, що вплив факторних ознак безлічі Ь виключено. Доведено, що величи ¬ на

гухг.о (п - т - 2>

рухг ° =-ПГ7

1 гух (. Ій

підпорядковується ^-розподілу Фішера з К \ - 1 і К2 == п - т - 2 ступенями свободи. Ця величина є статистикою критерію для перевірки значимості приватного коефіцієнта кореляції гуХго при рівні значущості а. Якщо РЧХ [. Про ^ Р (/ Сь К2, а) »то приватний коефіцієнт кореляції є значимим, тобто Рух {, про ф 0.

Значимість приватного коефіцієнта кореляції будемо використовувати в якості критерію при вирішенні питання про включення відповідного факторного ознаки в мно ¬ дружність істотних аргументів О. Приймемо наступне вирішальне правило: якщо приватний коефіцієнт кореляції ¬ ції гух про є значущим при апріорно заданому рівні значимості а (зазвичай приймають а = 0,05), то факторний ознака х1 приєднують до безлічі О, в іншому випадку приєднання не проводиться. Крити ¬ тичне значення Р (К \, К2у а) називається мінімумом Р-включення, а обчислена величина / ^ статистики приватного коефіцієнта кореляції - значенням Р-включення. Якщо для декількох факторних ознак величина / ^ включе ¬ ня більше мінімуму, то до безлічі Про будемо приєднання ¬ няти той з них, для якого значення ^-включення найбільшу.

Після приєднання ознаки Я-до безлічі пояснити ¬ няющих аргументів У утвориться нове безліч Про V Я-при цьому приватні коефіцієнти кореляції ознак Х \ £ ї можуть змінитися, в результаті чого зміниться і їх значущість. Обчислимо / ^-статистику ддя приватних коеф ¬

фициента кореляції ГуХ .. й ', де Х / ^ О, 0' = 0 V х (\ х / 9

4Х/.Р '(п-т-2) г ух}, В> = ^.

1 Гух ^ ї '

Зта величина називається значенням Р-видалення. Якщо обчислена для деякого ознаки х / значення / ^ уда ¬ лення менше мінімуму ^-включення, то х \ видаляється з безлічі факторних ознак, використовуваних в регрес ¬ Сіон моделі (відзначимо, що в застосовуваних прикладних програмах значення / ^ видалення зіставляється з міні ¬ мумом Р-видалення, який на 0,1 менше мінімуму / ^-включення).

Тепер розглянемо алгоритм поетапного методу по ¬ будови регресійної моделі. Нехай для пояснення Варіано ¬ ції результативного ознаки у відібрано М факторних ознак х'х'..., хм. Обчислимо кореляційну мат ¬ ріцу

'УХ! 1

г Ххх »

1

г ух »

'ГУХМ Г * х * М

'У * 1

  

. . Г

'Ух »

х »хм

0.м + \ =

  

. ГУХМ ГХхХМ Гх2хм

Крок 1. За першому рядку (стовпцю) кореляційної матриці визначимо значення Р-включення Рух? I = 1,2, ... ..., М

Рух1 = г2ух. {П-2) 1 {\-г1х).

З табл. 2.15 знайдемо мінімум / ^-включення при К \ = 1, Кь - п - 2. Якщо знайдуться значення ^-включення, великі мінімуму, то серед них вибирається найбільша і відповідний йому факторний ознака включається в безліч £>. Якщо ж ні одному з парних коефіцієнтів кореляції не відповідає значення / ^-включення, біль ¬ шиї мінімального, робимо висновок, що відібране множест ¬ во факторних ознак не може пояснити варіації ре ¬ результативності ознаки та регресійну модель на дан ¬ ної сукупності аргументів побудувати не можна .

1

Крок 2. Припустимо, після виконання кроку 1 в мно ¬ дружність пояснюють аргументів Про включений ознака XIй. Е = З'ясуємо, чи можна ввести в це безліч

ознака х \. Для цього сформуємо кореляційну матрицю

~ 1 ГУХ (ГУХ]

<2з (* /) = ГУХС 1 ГхСх1

__ ГУХ! V / 1

по якій обчислимо приватний коефіцієнт кореляції ГуХ/.х19 визначимо значення ^-включення

Рух ^ х {= потух ^ х. {П - 3) / (1 - Г ^ ух ^ х) -

Потім порівняємо отримане значення з мінімумом / ^ включе ¬ ня при К \ = 1, К2 = л - 3. Описану процедуру про ¬ робимо для / * = 1, 2, / = 5 ^ I. Якщо жодному з приватних коефіцієнтів кореляції не відповідає значення ^-включення, більшу мінімального, покрокова про ¬ цедура завершена; безліч пояснюють аргументів Про складається з одного факторного ознаки х {. Якщо ж име ¬ ється один або декілька ознак, для яких значення / ♦ '-включення більше мінімального, то в безліч Про зано ¬ сітся х / з найбільшим значенням Р-включення, Е-{х {, X /}.

Крок 3. Після виконання кроку 2 число відібраних фак ¬ раторних ознак збільшилося на одиницю. При цьому изме ¬ нітся значення приватного коефіцієнта кореляції резуль ¬ татівного ознаки з факторним Я-раніше включеним у безліч О. Обчислимо для ознаки х {значення / ^ видалений ¬ ня і, порівнявши його з мінімумом / ^-видалення при Кг = 1, К2 = п - 3, приймемо рішення щодо виключення або збереження цієї ознаки в безлічі О.

Подальші кроки алгоритму аналогічні розглянутий ¬ вим крокам 2 і 3. Відмінність полягає в тому, що в міру зростання числа ознак, включених в безліч £>, збільшуються розміри кореляційної матриці та відповід ¬ повідно зменшується число ступенів свободи К2. Пошана ¬ говая процедура вважається завершеною, якщо на черговому етапі обчислень не буде знайдено жодного факторного ознаки, що відповідає умовам включення в мно ¬ дружність О. С відібраними ознаками вирішується завдання по ¬ будови регресійної моделі.

Приклад. Побудуємо багатофакторну регресійну модель для встановлення взаємозв'язку між результативною ознакою «/ - товар ¬ ної продукцією однотипних підприємств галузі і поряд факторних ознак. На етапі попереднього аналізу виділимо три фактори, що впливають на варіацію у: вартість активної частини основних вироб-водственнних фондів хх, середню Облікова чисельність робітників х2,

середню явочну чисельність робітників х3. Отримані звітні дані »а рік по двадцяти підприємствам галузі, п =» 20.

За статистичними даними складена кореляційна матриця

<? 4 =

г 1,0 0,8 0,5 0,7 т 0,8 1,0 0,3 0,4 0,5 0,3 1,0 0,8 0,7 0,4 0,8 1,0 Визначимо значення / ^ включення для факторних ознак

  

= 32, = 8, 17,3.

Т7 = ух I

Т7 4 =

УХ%

УХ! , 2

(П - 2) / (1-г2уХ1)

ГУХг <Я

  

Виходячи з даних табл. 2.15, при К \ = 1, / С2 == л - 2 «18 знайдемо мінімум ^-включення Т7 (1; 18; 0,05) = 4,41. Оскільки всі значення / ^ включення більше цього мінімуму, будь-який з факторних ознак можна включити в безліч відібраних аргументів ї. За максималь ¬ ному значенню включаємо в безліч ї ознака хг: ї = {хх}.

0,8 0,5 1,0 0,3 0,3 1,0 0,26

1,0 0,8 0,5

Визначимо значення ^-включення для ознак х2 і х8 за умови, що в Про міститься факторний ознака хг.

Для х2 отримаємо

Ух ». Хх

у 0,91. 0,36

1 ^ 3,3

<3з Ш =-Л

■ 1,3

= 0,454,

УА.

  

• ХХ

Для х3

1,0 0,8 0,7

р = г2 у * »-х! ух 2

отримаємо

1,3

З, з

Рух = 4 («- 3> 'про - 15> 53 -

Яз (* а> - А

Ух 3. * 1

ух2.хх>

(П-3) / (1 - / *) == 4,4.

= 0,691,

0,8 0,7 1,0 0,4 0,4 ​​1,0 0,38 / 0,84 • 0,36, 2

  

Мінімум Т ^ включення при Кг = 1, К2 ~ п - 3 дорівнює F (1; 17; 0,05) = 4,45. Зіставляючи обчислені значення ^-включення з міні ною, отримаємо ^ <4,45; Т7

иг г> Отже, в

безліч ї вносимо факторний ознака х3у й - {хг, х3].

1,2

У Хх.Х г

) * = 29,08,

УХ х-Я-

Рух, х. ='х.х% (л -3) 7 (1 - /;.

Визначимо значення / ^-видалення для ознаки хг, використовуючи кор реляційну матрицю () 3 (х3), - А

0,52

= 0,794,

VУ ° '84 '° »51

Мінімум / ^ видалення дорівнює Т7 (1; 17; 0,05) - 0,1 = 4,35; FtfX ^ >> 4,35. Отже, факторний ознака хг залишається в безлічі О.

З'ясуємо, чи можна приєднати до безлічі ї факторний при ¬ знак х2. Для цього обчислимо Рух%. В = використовуючи матри ¬ цу <24,

гухг.хх * г ~ уАиА3 3 "" / 0,302. (0, Ш "" 183, - 4) / (1 - г * г г) = 0,554.

Мінімум ^-включення при / Сх = 1, К2 = л - 4 = 16 дорівнює Т7 (1; 16; 0,05) = 4,49. Оскільки <4,49, факторний при ¬

знак в безліч ї не вноситься.

Таким чином, остаточно отримуємо Ю = х3}. Слідчий ¬ но, в даному випадку треба побудувати регресійну модель, в якій встановлюється взаємозв'язок товарної проду кції з двома факторними ознаками - вартістю активної частини основних фондів хх і середньої явочної чисельністю робітників х8.