9.4 Невязки

Внимательно присмотримся к картинке (см. ниже), представив, что она нарисована по данным опытов) и введём некоторые новые обозначения. Тёмными квадратиками здесь показаны значения отклика y’– точки "излома" экспериментальной линии регрессии (сама линия, чтобы не загромождать рисунок, здесь не показана). Для упрощения ситуации предполагаем реальную регрессию – линейной (она и отображена пунктирной линией). Стрелки, «упирающиеся» в эту линию снизу и сверху, символизируют собой линейные величины ± ∆y_j, и показывают, на сколько каждый измеренный отклик y’ отличается («недотягивает» или превосходит) от «правильного» y_j, (по теории – обязательно лежащего на пунктирной линии) его значения m_Yj. Эти величины называются невязками (очевидно, что ± ∆y_j = y_j – y’, ибо для линии теоретической регрессии: m_Yj ≡ y_j), и служат они (невязки) для «конструирования» на их основе критерия, по которому можно оценить точность модели (правильность проведённой здесь прямой линии).

y Ось откликов

y = f(x₁)

x

Ось уровней

Рис. 9.19 Невязки

Такой критерий «конструируется» на основе приведённых ниже простых рас-суждений. Модель (y=φ(x);) исследуемой системы (ситуации) считается хорошей (при-годной для описания поведения этой системы), если невязки малы на столько, что разница в поведении системы, предсказанном по модели при подстановки в неё y_j, и в поведении системы, предсказанном по этой же модели при подстановке в неё y’, практически неощютима. Это достигается при малости каждой (следовательно, и – всех) невязки. Уточнение «и – всех» наводит на мысль о «конструировании» обсуждаемого здесь критерия (обозначим его «функция Ф») путём простого суммирования всех не-вязок вдоль оси уровней (Ф= ±∆y_j, де N – количество опытов). Однако, при таком «простом» подходе к формированию критерия мы можем получить: «функция Ф» = 0 даже тогда, когда невязки достаточно велики (модель плоха). Действительно, когда отдельные суммы положительных (больших или малых) и отрицательных (больших или малых) невязок оказываются приблизительно одинаковыми они (суммы) нейтрализуют («компенсируют» друг друга) и «фукция Ф» = (±∆y) стремиться к нулю. Удовлетворить требования малости каждой и всех невязок можно, потребовав малости общей суммы квадратов невязок (возведение перед общим суммированием в квадрат каждой из отрицательных невязок предотвратит представлнную выше взаимную «компенсацию» и поэтому «функция Ф» окажется малой только при малости каждой из всех невязок.

Т аким образом, мы можем строго математически сформулировать условие, по которому далее будем проверять правильность модели: модель пригодна, если «функция Ф» мала настолько, что дальше её уменьшить невозможно. В математике говорят «функция достигла своего минимума» (Ф = min (y’ – y_j)² ≡ (±∆y_j)² _{стремится к} min).

При этом следует подчеркнуть два обстоятельства, при которых мы таким критерием можем воспользоваться: - у нас такая модель уже должна быть в форме y=φ(x);

- мы должна провести эксперимент и выполнить N изме-

рений отклика y’ при разных уровнях x_j фактора x– получить множество {y’}.

Только при их наличии мы сможем (см. рабочую таблицу ниже):

Макет рабочей таблицы для нахождения

остаточной суммы квадратов

Номер опыта	Фактор x1j	Прогноз yj	Отклик yj	Невязка ± ∆yj	(±∆yj)2
	x 11	y1	y1	y1– y1	(±∆y1)2
2	x12	y2	y2	y2– y2	(±∆y2)2
….	….	….	….	….	….
j	x1j	yj	yj	yj– yj	(±∆yj)2
….	….	….	….	….	….
N	x1N	yN	yN	yN– yN	(±∆yN)2

Общая сумма квадратов невязок (±∆y_j)²

- подставив в формулу y= φ(x) значения x_j (это они выставлялись в опытах) фактора x, вычислить («предсказать» по модели) отклики, – получить множество {y_j};

- вычислить невязки (y_j – y_j) и

- найти остаточную сумму квадратов невязок («Ф») и оценить её малость.

«Сконструированная» выше «функция Ф = (y_j – y_j)² ≡ (±∆y_j)² широко используется в математической статистике и в теории эксперимента, где её коротко называют остаточной суммой квадратов.

Критерием правильности рабочей модели исследуемой системы является минимум этой функции (minФ ≡ (±∆y_j)² ≡ min (y_j – y_j)²).

А теперь пора бы возвратимся к основной теме этого большого раздела нашего курса и, конкретно, – к цели регрессионного анализа. Его целью является построение модели объекта исследования. Эксперимент в рамках регрессионного анализа, который мы пытались планировать выше – только этап такого построения и способ «добычи» необходимых для этого данных. В той попытке мы убедились, что никаких данных, кроме измеренных значений y_j отклика (множества {y_j}) эксперимент дать не может. Следовательно, дальше речь должна пойти о таких алгоритмах обработки э тих данных, которые позволят, именно, из этого исходного «материала» (из множества {y_j}) построить модель.

О «материале» на данном этапе мы знаем всё. Об алгоритмах обработки данных –ничего. Да и о математических моделях реальных объектов исследований мы знаем явно мало. Поэтому мы снова отвлекаемся от основной темы, на этот раз для того, чтобы узнать подробнее какие бывают модели и из чего их «строят», вообще.

164