2. Наилучшее приближение в гильбертовом пространстве .

Напомним, что линейное пространство называется гильбертовым, если в нем введено скалярное произведение. Легко устанавливается, что гильбертово пространство с нормой является строго нормированным и , как следует из теорем 1, 2 в нем существует единственный элемент наилучшего приближения, задача нахождения которого, сводится к решению некоторой системы линейных уравнений.

Пусть система линейно независимых элементов гильбертова пространства и Требуется найти наилучшее приближение элемента по системе .

.

Рассмотрим функцию

. (43)

Из свойства скалярного произведения следует, что

.

Задача нахождения наименьшего значения функции приводит нас к системе уравнений

(44)

или в матричном виде

, (45)

52

где - матрица Грамма системы с элементами ,

.

Из курса линейной алгебры известно, что в случае линейной независимости системы , матрица Грамма невырождена. Следовательно, система (45) имеет единственное решение. Наиболее просто задача решается в случае ортонормированной системы , где

Замечание. Если систему уравнений (44) переписать в виде

,

то отсюда можно сделать вывод, что наилучшее приближение элемента по системе является ортогональной проекцией элемента на подпространство .

Рассмотрим некоторые примеры.

2.a. тригонометрический ряд Фурье.

Пусть в пространстве выбрана система функций :

.

Система ортогональная и наилучшим приближением для будет функция

,

где

,

,

т.е. - отрезок классического тригонометрического ряда Фурье.

53

2.B. Метод наименьших квадратов.

Пусть в некоторых узлах заданы значения функции . Требуется приблизить функцию на всем отрезке линейной комбинацией по системе линейно независимых функций :

.

На практике значения получены в результате проведения некоторых экспериментов и, как правило, заданы с некоторой погрешностью, причем число . В такой ситуации требовать выполнения равенства вообще говоря не имеет смысла.

Поэтому поступают следующим образом: число функций

выбирают не очень большим ( ), и в каждой точке вычисляется отклонение

.

Рассмотрим функцию

,

и в качестве наилучшего приближения возьмем функцию

,

где коэффициенты выбираются из условия

.

Такой способ приближения получил название метод наименьших квадратов. Покажем, что указанный метод можно трактовать как нахождение элемента наилучшего приближения в некотором евклидовом пространстве.

54

Пусть - - мерное пространство числовых векторов

. Введем в скалярное произведение по формуле

.

Тогда приближение по методу наименьших квадратов можно трактовать как нахождение наилучшего приближения для вектора : по системе векторов , что приводит к поиску решения системы (45) , где

.