3.2. Метод наименьших квадратов

Изучается зависимость между двумя величинами и . В результате наблюдений или проведённого эксперимента получены пар значений и :

			...			...
			...			...

Поставленную в п.3.1 задачу решает метод наименьших квадратов. Суть его в следующем.

Разность определяет отклонение экспериментального (табличного) значения от теоретического значения . Эта разность может быть любого знака. Возводя разности в квадрат, получаем неотрицательные характеристики отклонений . Суммируя, приходим к функции

,

которая даёт характеристику суммарного отклонения теоретических и экспериментальных значений. Ясно, что чем меньше значение , тем точнее функция отражает зависимость между и . Точность этой зависимости определяется значениями коэффициентов .

Таким образом, необходимо решить задачу

.

Для нахождения значений независимых переменных можно применить теорему Ферма, а именно, вычислить частные производные функции и решить систему уравнений

или, в развёрнутом виде,

Такой способ подбора параметров называется методом наименьших квадратов.

В качестве приближающих функций в зависимости от характера точечного графика функции часто используют функции:

, , , ,

, , , .

Когда вид функции установлен, задача сводится к отысканию значений параметров .

Покажем, как можно получить таблицу случайных значений, “сгруппированных” вокруг базовых значений функции, например, .

3.3. Нахождение приближающей функции в виде линейной функции

В случае линейной зависимости имеем

.

Отсюда

Система уравнений для нахождения запишется в виде

Подробно первое уравнение выглядит следующим образом:

.

Отсюда получаем

или

.

Аналогично преобразуется и второе уравнение.

Итак,

Получили систему двух уравнений с двумя неизвестными для нахождения коэффициентов уравнения регрессии , которая решается элементарно.

Пример. В результате эксперимента получили таблицу значений неизвестной функции

	0	1	2	3	4	5
	5.1	4.7	4.4	4.5	4.3	4.0

Ищем зависимость между и в виде линейной функции, так как при возрастании значений соответствующие значения в целом плавно убывают. Для удобства составим таблицу:

1	0	5.1	0	0
2	1	4.7	1	4.7
3	2	4.4	4	8.8
4	3	4.5	9	13.5
5	4	4.3	16	17.2
6	5	4.0	25	20.0
	15	27	55	64.2

Итак,

.

Подставляя эти значения в найденную выше систему уравнений с двумя неизвестными для нахождения коэффициентов уравнения регрессии, имеем

Решение этой системы: . Искомое уравнение регрессии . Если, например, , то получим прогнозируемое значение .

Полученный в предыдущем пункте точечный график (если явное выражение функции неизвестно) позволяет выдвинуть гипотезу относительно возможного уравнения регрессии . Применим для получения коэффициентов метод наименьших квадратов (продолжаем рабочий лист MathCad).