Метод найменших квадратів з невідомими базовими функціями

У вищезгаданому підході знаходження рівняння регресії треба знати аналітичний вираз кожної функції з сімейства . Разом з тим є клас функцій для яких задача апроксимації функції може бути розв’язана на основі лише даних про значення, яких набувають у кожному експерименті певні функції.

Нехай де функції невідомі, але у кожному вхід-вихідному експерименті можуть бути виміряні їх значення для та . За експериментальні дані ми беремо множину значень

Позначимо та . Тоді

Для фіксованого похибка у - му експерименті дорівнює Система рівнянь для похибок , має вигляд

(4.6)

Середньоквадратичною похибкою за експериментами є функціонал .

Позначивши та систему рівнянь (4.6) запишемо в матричному вигляді як , а функціонал , як

Врахуємо, що Тоді за критерієм Грама .

Умовою екстремуму функції є

звідки транспозицією матриць отримаємо

, (4.7)

або після множення обох частин цієї рівності на маємо

. (4.8)

Система (4.7) при будь-яких та сумісна. Якщо ж , то в неї безліч розв’язків.

Матриця є додатновизначеною, тому розв’язок (4.8) надає мінімуму функціоналу (виконується достатня умова локального, а в даному випадку і глобального мінімуму).

Зазначимо, що у конкретних розрахунках доцільно отримувати як розв’язок задачі (4.7).

Завдання 4.2 За результатами N=6 експериментів одержати функцію, що передбачає реакцію системи за числовими значеннями вхідних параметрів (дані з таблиці 4.3).

Таблиця 4.3

Пор ном
1	к-1	-0,2	0	1	0,5
2	0,1	к-1	-0,1	2	-0,5
3	0,3	-0,5	к-1	3	2
4	-0,1	0,6	0,2	1+к-1	1
5	-0,15	1	0,4	2	0,4
6	0	0,1	-0,05	1,5	-1

Тут , i=1,2,3,4 - значення вхідних параметрів системи на кожному експерименті; y - відповідне значення реакції системи; к - номер варіанта завдання. Для розв’язання задачі застосувати метод найменших квадратів з невідомими базовими функціями

Рекурентний мнк

На практиці часто треба мати оцінки параметрів у реальному часі, тобто треба їх мати на кожному кроці, а не в кінці програми експериментів.

Виявлено, що структура системи

(4.9)

дозволяє, маючи оцінку параметрів на му кроці, отримати їх оцінки на му кроці без розв’язування СЛАР (4.9), що відповідає му кроку.

Позначимо: матрицю, що утворена першими рядками матриці в (4.9), – стовпчик з перших компонент вектора в (4.9), й рядок матриці і оцінки на основі експериментів. Тоді маємо

, (4.10)

, (4.11)

, (4.12)

. (4.13)

Будемо вважати, що для . Отже, співвідношення (4.11) та (4.13) справедливі, оскільки матриці - невироджені. Позначимо

Спробуємо встановити зв’язок між оцінками та .

Доведемо матричне співвідношення

.

Помножимо обидві частини цієї рівності на :

Це означає, що рівність доведена.

Отже, з рівностей (4.12) та (4.13) маємо

, (4.14)

. (4.15)

Враховуючи,що маємо

=

(4.16)

Введемо скалярну функцію

. (4.17)

Тоді з (4.16) отримаємо

,

де , .

Визначимо, зрештою, зв’язок між та :

.

З цього рівняння, з огляду на (4.17), одержуємо

.(4.18)

Величина являє собою помилку пророкування виходу при використанні оцінки параметра , отриманої на к-му кроці.

Таким чином, при надходженні вимірів оцінка на -му кроці виходить з оцінки на к-му кроці відповідно до рівняння

де і

.

Зауважимо, що обчислення доцільно починати з визначення вектора , потім обчислювати

, і

.

Завдання 4.3 Маємо результати N експериментів у вигляді - матриці R і стовпця (дані з табл. 4.3) для оцінювання параметрів рівняння регресії:

,

де і .

R і вводяться в ЕОМ у вигляді масивів даних.

Отримати оцінки вектора параметрів регресії для ( ).

Користуючись позначеннями :

- к –й рядок матриці R, - к – та координата стовпця , необхідно:

1. виділити матрицю з m перших рядків R і m – стовпець ;

обчислити і .

2. покласти та і для обчислити:

,

,

,

,

,

,

вивести значення оцінок .