Метод наименьших квадратов

Функция отклика – уравнение некоторой поверхности в факторном пространстве. Её называют поверхностью отклика. Аппроксимирующая поверхность должна проходить как можно ближе к экспериментальной поверхности.

Трудность применения МНК – громоздкость записи расчётных соотношений и сложность их анализа. Для упрощения записей и облегчения использования инструментов матричной алгебры производят следующие преобразования:

1. Вводится фиктивный фактор ;

2. Все тройные, двойные и т.д. взаимодействия факторов и коэффициенты факторов обозначаются и коэффициентом , , m+ 1-число членов степенного ряда i - не только номер фактора, но и номер взаимодействия.

Пример. Для двух факторов

в новых обозначениях

будет иметь вид

Если произведено N опытов, в каждом из которых задавалось определенное сочетание факторов то:

Эти матрицы используют для записи системы нормальных уравнений в матричной форме: ,

где С – квадратная матрица размера (m+1)(m+1).

Для того чтобы получить матрицу коэффициентов надо слева умножить на

Любой элемент матрицы С , расположенный на диагонале, имеет вид:

;

Элементы симметрично расположенные относительно главной диагонали равны и имеют следующий вид:

т.е. С - симметрична

Чтобы существовала , необходимо, чтобы . Это условие выполняется, если ранг матрицы . Это выполняется, если все столбцы линейно независимы и кроме того N > 1+m.

В пассивном эксперименте добавление или удаление одного члена полинома (изменение m) предполагает полный пересчет всех коэффициентов b, т.к. они зависимы друг от друга.

Простейший план первого порядка

Основной вопрос в планировании эксперимента: «как построить матрицу Х, чтобы матрица С легко обращалась, а коэффициенты модели b определялись бы независимо друг от друга» ? Оба требования выполняются, если матрица С будет диагональной.

тогда

Система уравнений распадается на 1+m независимых уравнений вида :

,

т.к. , то

Итак, необходимо построить матрицу Х (планировать эксперимент) так, чтобы матрица С удовлетворяла условию:

, или т.е. любое произведение различных 2-х столбцов в матрице Х должно быть равно нулю. Это условие ортогональности 2-х векторов.

Перепишем матрицу Х (матрица планирования) в соответствии с введенными обозначениями:

(по правилу скалярного произведения ортогональных векторов). Т.к то сумма элементов любого столбца (кроме первого), матрицы Х должна быть равна нулю. Это означает, что при четном числе уровней, на которых закрепляется фактор , эти уровни должны быть симметричны относительно точки . Если число уровней нечетно, то должна быть использована и центральная точка.

Очевидно, что минимальное число уровней два -1 и 1, т.е. если каждый из n факторов варьируется на двух уровнях, то полное число всех возможных сочетаний или число опытов: . Такой план называется полным факторным экспериментом (ПФЭ).

Пример 1.

Пусть число факторов n = 2. Число строк в матрице Х

Здесь число различных столбцов равно числу строк. Столбцы 0, 4, 5 – неразличимы. Столбцы 1, 2 – образуют план эксперимента. Сумма элементов в каждом столбце равна нулю. Этот план первого порядка не позволяет определить коэффициенты при квадратах факторов. Эти коэффициенты входят в коэффициент . Для определения коэффициентов необходимы другие планы, которые называются планами второго порядка.

С помощью полнофакторного эксперимента (ПФЭ) можно определить все коэффициенты полинома при линейных членах и всех возможных взаимодействях факторов, включая взаимодействия максимального порядка, т.е. взаимодействие вида: . При этом аппроксимирующая поверхность пройдет через все N точек. Для плана ПФЭ порядка характерно: . Поэтому формула для определения коэффициентов приобретает простой вид: