3.1.3. Метод найменших квадратів

Ідею методу найменших квадратів (МНК) вчені сформулювали ще на початку ХІХ ст., а саме англієць Гаус і француз Лежандр. Але МНК як метод оцінювання параметрів рівнянь регресії, був опрацьований пізніше російським математиком М. Чебишевим в монографії “Об интерполировании по методу наименьших квадратов”, що вийшла друком у 1859 р.

Метод найменших квадратів (МНК) заснований на вимозі, щоб

 (y - ŷ)² → min, (3.1)

тобто щоб відхилення точок поля кореляйії від прямої регресії (залишки е) були найменшими. Відхилення y – ŷ є помилкою оцінювання, бо залишки е не пояснюється рівнянням регресії (див. рис. 3.1.).

Ми можемо визначити величину цих помидок тільки для об’єктів спостережень (точок поля), але для інших можливих комбінаційy і х вони невідомі. Цілком природно за “найкращу” пряму лінію регресії вибрати таку, для якої б сума квадратів залишків приймала найменше Рис.3.1 − Залишки, що не значення, тобто

пояснюються регресією.

= (y – – x)² =→ min.

Необхідною умовою мінімуму є рівність нулю частинних похідних цієї функції по і :

= –2 =0;

= –2 =0

Розкривши дужки, отримаємо систему нормальних рівнянь з невідомими і :

= a₀ + a₁ ; (3.2)

= a₀ + a₁ .

Наведемо давно підмічені правила і приклади складання системи нормальних рівнянь для будь – яких форм рівняння регресії. Правило перше: перше рівняння системи отримуємо, сумуючи рівняння регресії за всіма спостереженнями змінних. Наприклад, для трифакторної лінійної регресії

y = α_о + α₁ x₁ + α₂ x₂ + α₃ x₃

перше рівняння системи за цим правилом матиме вигляд

 y = α_о  1 + α₁  x₁ + α₂  x₂ + α₃  x₃

Друге правило: друге, третє і всі інші рівняння систем отримують множенням першого рівняння на співмножники відповідно при а₁, а₂ и т.д. у рівнянні регресії. У даному випадку множенням першого рівняння відповідно на x₁, x₂ та x₃ отримаємо друге, третє і четверте рівняння системи

 y x₁ = α_о  x₁ + α₁  x₁² + α₂  x₂ x₁ + α₃  x₃ x₁,

 y x₂ = α_о  x₂ + α₁  x₁ x₂ + α₂  x₂ ² + α₃  x₃ x₂,

 y x₃ = α_о  x₃ + α₁  x₁ x₃ + α₂  x₂ x₃ + α₃  x₃ ².

Ще приклад. Нехай рівняння регресії має степеневу форму

y = α_о.

Лінеаризуємо його

ℓg y = ℓg α_о + α₁ ℓgx.

Система нормальних рівнянь для визначення ℓg α_о і α₁, складена за наведеними щойно правилами, приймає такий вигляд:

 ℓg y = ℓg α_о 1 + α₁  ℓgx,

 ℓg y ℓgx = ℓg α_о  ℓgx + α₁ (ℓgx)².

У нашому наскрізному прикладі моделювання залежності рентабельності від двох факторів

Р = α_о + α₁ Е + α₂ К

система нормальних рівнянь для оцінювання α_о, α₁, та α₂ складена за наведеними вище правилами, така:

 Р = α_о  1 + α₁  Е + α₂  К,

 РЕ = α_о  Е + α₁  Е² + α₂  К Е,

 РК = α_о  К + α₁  ЕК + α₂  К².

За даними табл. 1.5. і 2.1 перепишемо цю систему рівнянь в числах:

282,6 = 29 α_о + 136,6 α_Е + 1740 α_К,

1425,26 = 136,6 α_о + 754,72 α_Е + 8567,7 α_К, (3.3)

17413,9 = 1740 α_о + 8567,7 α_Е + 108164 α_К.

Нижче розглядаються декілька можливих способів розв’язання системи нормальних рівнянь.

• Спосіб Гаусса

Якщо вирішення системи нормальних рівнянь (3.3) виконується вручну, можна скористатися методом Гаусса послідовного вилучення невідомих. Поділимо рівняння системи на числові співмножники при α_о, тобто відповідно на 29, 136,6 і 1740 і отримаємо

9,7448 = α_о + 4,7103 α_Е + 60,0000 α_К,

10,4338 = α_о + 5,5250 α_Е + 62,7211 α_К,

10,0080 = α_о + 4,9240 α_Е + 62,1632 α_К.

Віднімемо перше рівняння від другого і третього і отримаємо систему двох рівнянь з невідомими α_Е і α_К

0,6890 = 0,8147 α_Е + 2,7211 α_К,

0,2632 = 0,2137 α_Е + 2,1632 α_К.

Поділимо систему рівнянь на числові співмножники при α_Е і отримаємо

0,8457 = α_Е + 3,3400 α_К,

1,2316 = α_Е + 10,1226 α_К.

Віднімемо перше рівняння від другого, маємо

0,3859 = 6,7826 α_К,

звідки α_К = 0,0569. Повертаючись послідовно до отриманих раніше рівнянь, знаходимо

α_Е = 0,6556 і α_о = 3,2427.

Отже рівняння регресії рентабельності за енергоозброєністю праці і коефіцієнтом постійності складу ПВП має такий вигляд:

= 3,2427 + 0,6556 Е + 0,0569 К. (3.4)

У цьому рівнянні регресяї:

3,2427 – частка рентабельності, яка не задежить від Е і К і обумовлена всіма

іншими факторами, коп./ грн.;

0,6556 – підвищення рентабельності в коп./ грн. при зростанні

енергоозброєності праці на 1 кВт/ чол.;

0,0569 – підвищення рентабельності в коп./ грн. при зростанні коєфіцієнта

постійності складу ПВП на 1%.

Нехай вас не дивують десяті й соті частки копійки коефіцієнтів регресії! Допустимо, що витрати підприємства складають 10 млн. грн. Тоді вони становимимуть відповідно 65,6 та 5,69 тис. грн. зростання прибутку!

З першого рівняння системи (3.2) з урахуванням того, що

е_j = y_j – ŷ_j = y_j – а_о – а₁ х_j ,

випливає, що сума помилок (залишків) е_j, а значить і їх середньоарифметичне значення дорівнюють нулю. Отже  е_j = 0 і тоді  ŷ_j =  y_j. Це дуже важлива і необхідна ознака правильності оцінювання параметрів рівняння регресії за методом найменших квадратів.

• Спосіб детермінантів

Спосіб детермінантів (визначників) заснований на теорії матричної алгебри і пов'язаний з розрахунком визначників, кількість яких на одиницю перевищує кількість параметрів, що оцінюються.

Побудуємо матрицю числових коефіцієнтів правої частини системи нормальних рівнянь за МНК (3.3). У нашому наскрізному прикладі вона має вигляд

А = .

Знайдемо визначник матриці А

∆А = == 8140967.

Далі послідовно замінюватимемо стовпці матриці А стовпцем вільних членів системи нормальних рівнянь за МНК, тобто

.

і розрахуємо визначники ∆А₀, ∆А₁ і ∆А₂. Покажемо визначення ∆А₀:

∆А₀ = == 26394000.

Замінюючи в матриці А другий стовпчик стовпцем вільних членів, отримуємо

∆А₁ = = 5337218

і, нарешті, аналогічно

∆А₂ = = 463221.

Параметри рівняння регресії, включаючи а_о розраховуємо за формулою

а_і = , (3.5)

тобто

а₀ = 26394000 / 8140967 = 3,2427,

а₁ = 5337218 / 8140967 = 0,6556,

а₂ = 463221 / 8140967 = 0,0569.

Отже, маємо = 3,2427 + 0,6556Е + 0,0569

Таким чином ми отримали методомдетермінантів, як і сподівались, те саме рівняння регресії (3.4), що і раніше шляхом розв’язання системи нормальних рівнянь за схемою Гаусса.

• Спосіб оберненої матриці

Побудуємо матрицю, обернену до матриці А, тобто матрицю А^-1. Для цього до кожного елемента а_ij матриці А знаходимо його алгебраїчне доповнення, тобто визначники відповідних матриць 2-го порядку. Отже матриця А така:

.

Алгебраїчне доповнення до елемента а₁₁ = 29 – це визначник матриці без 1-го стовпця і 1-го рядка (і – номер стовпця, j – номер рядка), тобто мінор з індикатор знака – 1^i+j. Отже

∆А₁₁ = = 81633534 – 73405483 = 8228051.

Далі розрахуємо вісім інших алгебраїчних доповнень:

до елемента а₁₂ = 136,6:

∆А₁₂ = – =+ 132596,

до елемента а₁₃ = 1740:

∆А₁₃ = = – 142865,

до елемента а₂₁ = 136,6:

∆А₂₁ = – = + 132596,

до елемента а₂₂ = 754,72:

∆А₂₂ = = 109156,

до елемента а₂₃ =8567,7:

∆А₂₃ = – = – 10779,

до елемента а₃₁ = 1740:

∆А₃₁ = = – 142865,

до елемента а₃₂ = 8567,7:

∆А₃₂ = – = – 10779,

до елемента а₃₃ =108164:

∆А₃₃ = = 3227,

Обернена матриця А^-1 визначається діленням матриці алгебраїчних доповнень до елементів матриці А на ії визначник ∆А:

А^-1 = . (3.6)

У нашому прикладі обернена матриця А^-1 набуває вигляду

А^-1 = * = .

Отже обернена матриця А^-1 така

(3.7)

За допомогою оберненої матриці А^-1 можна просто визначити коефіцієнти регресії. Для цього достатньо помножити обернену матрицю А^-1 на стовпець вільних членів системи нормальних рівнянь за МНК. У нашому прикладі такий розрахунок а_i виглядає так:

= *.

Отже

а₀ = 1,010697 * 282,6 + 0,016288 * 1425,26 – 0,017549 * 17413,9 = 3,2427,

а_Е = 0,016288 * 282,6 + 0,013408 * 1425,26 – 0,001324 * 17413,9 = 0,6556,

а_К = – 0,0175549 * 282,6 – 0,001324 * 1425,26 + 0,000396 * 17413,9 = 0,0569.

Ми отримали, як і сподівались, ті самі коефіцієнти регресії, як і раніше в цьому підрозділі, а також і рівняння регресії

= 3,2427 + 0,6556 Е + 0,0569 К

• Спосіб β - коефіцієнтів

Для розрахунку коефіцієнтів регресії а_i можна скористатися β – коефіцієнтами, що зазвичай розраховуються раніше:

а_i = β_i . (3.8)

У нашому прикладі β_Е = 0,6963, β_К = 0,3513, (див. підрозділ 3.5), σ_Р = 1,8449, σ_Е = 1,9591, σ_К = 11,3927 (див. табл 1.5). За цими даними за формулою (3.8) маємо

а_Е = 0,6963 = 0,6556,

а_К = 0,3513 = 0,0569.

Діленням першого рівняння системи рівнянь для розрахунку параметрів а_i на n маємо

= α_о + α_{1 1} + α_{2 2} + … + α_{m m},

звідки знаходимо

α_о = – α_{1 1} – α_{2 2} – … – α_{m m}. (3.9)

У нашому прикладі (див. табл 1.4)

α_о = 9,7448 – 0,6556 * 4,7103 – 0,0569 * 60 = 3,2427.

Ми отримали за формулами (3.8) і (3.9) оцінки параметрів рівняння регресії, які ідентичні оцінкам, визначеним шляхом вирішення системи рівнянь за методом найменших квадратів будь-яким із наведених раніше способів.

Це і не дивно! Адже β – коефіцієнти є параметрами рівняння регресії, разрахованими методом найменших квадратів за стандартизованими значеннями та_i :

= ,_I = .

У стандартизованому масштабі одиницею виміру змінних як бачимо, є середньоквадратичні відхилення цих зміних. Тому і зв’язок між а_i і β_i такий:

а_i = β_i , β_i = а_i .