4Построение

Обозначим: 

На каждом отрезке   функция   есть полином третьей степени  , коэффициенты которого надо определить. Запишем для удобства   в виде:

тогда

Условия непрерывности всех производных до второго порядка включительно записываются в виде а условия интерполяции в виде

Отсюда получаем формулы для вычисления коэффициентов сплайна:

Апроксимація методом найменших квадратів

Одне з основних призначень чисельних методів – визначення залежності між перемінними. Для функції однієї змінної - при заданій сукупності точок . існує цілий ряд залежностей різних типів якими можна скористатися, для опису сукупності точок. Розглянемо, задачу апроксимації функції на прикладі найпростішого класу лінійних функцій виду

(8.65)

Використовувати для опису методи інтерполяції неможливо, тому що при вимірах величин , по перше, присутні експериментальні помилки

(8.66)

по друге, число експериментальних точок, як правило, більше порядку апроксимуючого полінома.

Задачею апроксимації є знаходження такого наближення виду (8.65), яке буде мінімізувати відхилення або залишки функції

( 8.67)

Існує кілька норм, що мінімізують залишки

(8.68)

(8.69)

(8.70)

Перша мінімізує максимальне відхилення, друга – середнє і третя середньоквадратичне. Найчастіше використовується остання норма що характеризує помилки статистичної природи і яку набагато легше мінімізувати.

Крива, що мінімізує середньоквадратичну помилку методом найменших квадратів визначається з виразу

У цьому випадку потрібно мінімізувати суму квадратів відстаней по вертикалі між координатами точки y_k та значеннями функції в точці f(x_k) .

(8.71)

Мінімальна величина визначається з системи рівнянь, яка будується шляхом взяття похідних від функціоналу по шуканим параметрам і прирівнюванням їх до нуля

(8.72)

Ці рівняння можна привести до стандартного вигляду й одержати нормальні рівняння

(8.73)

Вирішуючи отриману систему лінійних рівнянь звичайними методами можна визначити коефіцієнти прямої А и В. У такий спосіб лінія побудована на основі методу найменших квадратів матиме вигляд

Метод найменших квадратів для узагальненого полінома

Ця задача формулюється так. Нехай задані точок і сукупність m лінійно незалежних функцій потрібно знайти m таких коефіцієнтів щоб функція задана у вигляді лінійної комбінації

(8.74)

мінімізувала суму квадратів помилок

(8.75)

Щоб функція Е(С₁,...С_т) була мінімальна кожна її частинна похідна повинна дорівнювати нулю, тобто для

У результаті одержимо систему рівнянь

(8.76)

Перестановка порядку підсумовування в системі приведе до СЛАУ -го порядку, де невідомі коефіцієнти. Вони називаються нормальними рівняннями

(8.77)

Розглянемо критерії, які можуть бути використані для оцінки якості регресійної залежності:

- величина залишкової суми RSS визначається для моделі «довжиною L₁» (L₁-кількість включених регресорів) як

(6.11)

і відбиває гарний збіг виходу моделі з результатом виміру

- величина залишкової варіації

(6.12)

яка порівнюється з незміщеною оцінкою варіації ;

- залишок для хорошої моделі повинний бути близький до випадкової послідовності некорельованої і гаусовської;

- середній квадрат помилки пророкування

(6.13)