1.2. Формализация линейной модели наблюдений

1.2.1. Формальное описание модели. В задачах планирования эксперимента нашли применение линейные модели наблюдений.

Выбор модели ‑ процесс творческий и итеративный. Выбрать модель ‑ значит выбрать вид некоторой аналитической функции в виде определенного уравнения.

На рис. 1.1 показана графическая интерпретация модели (называемой функцией отклика) в виде поверхности в трехмерном пространстве. На горизонтальной плоскости определена область изменения факторов x₁ и x₂. Каждому состоянию объекта соответствует точка y на поверхности, которой, в свою очередь, соответствуют точка на горизонтальной плоскости, определяемая факторами x₁ и x₂.

Рис. 1.1

Понятие линейной модели наблюдений является фундаментальным в математической статистике, т.к. многие статистические зависимости описываются функциями регрессии, линейными по неизвестным параметрам и в общем случае нелинейными по независимым переменным (факторам в теории планирования эксперимента).

Рассмотрим понятия линейной модели наблюдений.

Пусть имеется n измерений y₁, y₂,…, y_n случайной величины Y, для которых

(1.1)

(1.2)

где ={₁,₂,…,_n} ‑ вектор неизвестных параметров; ² ‑ дисперсия, X=(x_ij), , ‑ матрица известных коэффициентов порядка np; cov{y_i,y_j}=M(y_i–M{y_i})(y_j–M{y_j}) ‑ ковариация между y_i и y_j; M{…} ‑ операция математического ожидания.

Формула (1.1) задает априорный вид связи результатов наблюдений {y_i} и величин {x_ij}, а формула (1.2) определяет требование некоррелированности случайных величин {y_i} и одинаковости дисперсий ² для всех y_i.

В векторной форме эти уравнения примут вид:

где Y={y₁,y₂,…,y_n}^T ‑ вектор наблюдений; ={₁,₂,…,_n}^T ‑ вектор неизвестных параметров; M{Y} ‑ математическое ожидание вектор-столбца Y, причем

,

M{Y}=(cov{y_i, y_j})=²I_n ‑ ковариационная матрица вектора наблюдений Y; I_n ‑ единичная матрица порядка n.

Определим погрешность измерений в виде вектора:

E={E₁,E₂,…,E_n}^T.

Тогда для i-го наблюдения

E=y_i-M{y_i), Y_i=x_i1₁+x_i2₂+…+x_ip_p+E_i,

M{E_i}=0, cov{E_i,E_j}=cov{y_i,y_j}, .

В матричной форме это запишется в виде

Y=X+E, (1.3)

M{E}=0, D{E}=H(EE^T)=²I_n, (1.4)

где D{E} ‑ ковариационная матрица; 0 ‑ нулевой вектор-столбец.

Формулой (1.3) с условиями (1.4) определена линейная модель с некоррелированными наблюдениями.

Модель наблюдений (1.3) называется моделью полного ранга, если ранг матрицы X равен числу неизвестных параметров _j в уравнении (1.1) (rankX=p).

1.2.2. Оценивание параметров модели. Неизвестные параметры ₁,₂,…,_n называются коэффициентами регрессии и подлежат оцениванию по наблюдениям y₁,y₂,…,y_n.

Оценивание неизвестных коэффициентов осуществляется методом наименьших квадратов, суть которого состоит в минимизации суммы квадратов отклонений наблюдаемых величин y_i и теоретических оценок

(1.5)

Значения , , минимизирующие функционал (1.5) при наблюдаемых значениях y_i, , называются оценками метода наименьших квадратов (МНК-оценками) неизвестных параметров _i [13].

Необходимые условия существования МНК-оценки параметра =(₁,₂,…,_p) определяются при

.

Тогда

Отсюда

,

или в матричной форме

X^TXB=Y^TX. (1.6)

Если ранг матрицы X равен p, т.е. числу известных параметров {_j} то уравнение (1.6) имеет единственное решение, т.к. ранг матрицы S=X^TX также равен p и она является невырожденной.

Матрица S=X^TX называется информационной. Для нее существует обратная матрица. Вектор оценок неизвестных параметров {_j} определяется формулой

=S^-1Y^TX. (1.7)

После вычисления коэффициентов модели, необходимо проверить ее пригодность, т.е. убедиться в адекватности модели. Это осуществляется путем применения известных критериев статистических оценок [7,8].

Вводится понятие числа степеней свободы. Числом степеней свободы называется разность между числом опытов и числом коэффициентов, которые уже вычислены по результатам этих опытов независимо друг от друга. Если, например, проведен полный факторный эксперимент 2², т.е. все факторы комбинируются друг с другом, то число степеней свободы

f=N-(k+1)=8-(3+1)=4,

где N  число комбинаций (экспериментов), k  число входных факторов модели.

Остаточная сумма квадратов, деленная на число степеней свободы, называется дисперсией адекватности, которая имеет вид

.

В планировании эксперимента число степеней свободы для дисперсии адекватности равно числу различных опытов, результаты которых используются при подсчете коэффициентов регрессии минус число определяемых коэффициентов.

Для проверки гипотезы адекватности модели часто используется F-критерий Фишера, который определяется следующей формулой:

,

где S²{y}  дисперсия воспроизводимости, в случае двух повторных опытов вычисляемая по формуле

,

где y  значение параметра оптимизации в каждом опыте; y*  среднее значение параметра оптимизации из N повторных наблюдений.