3.6. Метод найменших квадратів

1. Лінійна залежність

Нехай , , ... , — послідовність значень незалежної змінної, а , , ... , — послідовність відповідних значень залежної змінної.

Необхідно дібрати пряму, яка «найліпше» виражала б залежність між та . Це означає, що відхилення фактичних значень функції від дібраної прямої мають бути мінімальними.

Нехай є рівнянням цієї прямої. Маємо , , ... , .

Відхилення від фактичних значень функцій становлять:

.

Ці відхилення мають бути додатними або від’ємними, тому пряма добирається так, щоб сума квадратів відхилень

була найменшою. Отже, треба визначити і так, щоб функція f досягала мінімуму. Необхідна умова існування мінімуму полягає в тому, що , .

Маємо , отже,

Обчислимо , звідки і , звідки .

Таким чином, ми дістанемо два рівняння з двома змінними - і :

, .

Розв’язування цих двох рівнянь дає значення і , які визначають пряму, що найліпше відбиває змінювання функції.

Приклад. Виробництво цементу (у сотнях тонн) і витрати електроенергії (на 1 тонну цементу за рік) за визначений період роботи цементної промисловості характеризуються значеннями, які наведено в такій таблиці:

1	8	80
2	10	72
3	12	65
4	13,5	70
5	14	68

Знайти пряму, яка відбиває залежність від .

 Складаємо таку таблицю:

1	8	80	640	64
2	10	72	720	100
3	12	65	780	144
4	13,5	70	945	182,25
5	14	68	952	196
Сума	57,5	355	4037	686,25

, , , .

Отже, необхідна умова існування мінімуму суми квадратів відхилень подається так:

,

.

Таким чином, шукана пряма є (рис.22).

Рис. 22

2. Параболічна залежність

Нехай — послідовність значень незалежної змінної х, а — послідовність відповідних значень залежної змінної.

Точки утворюють деяку лінію. Нехай необхідно дібрати параболу, яка б «найліпше» виражала залежність у від х. При цьому термін «найліпше» означає, що сума квадратів відхилень дійсних значень функції від дібраної параболи мінімальна.

Нехай

є дібрана парабола. Тоді

,

,

……………………,

.

Параболу дібрано найліпшим чином, якщо сума квадратів відхилень

мінімальна.

Необхідні умови існування мінімуму функції подаються залеж­ностями:

, , .

Маємо

звідки

,

,

.

Ділячи обидві частини рівнянь на 2 і розбиваючи суми на доданки, дістаємо

Розв’язуючи систему, знаходимо невідомі коефіцієнти .