9.5. Нелинейная регрессия

Рассмотрим случай, когда центры условных распределений одной из случайных величин и значений другой случайной величины расположены вдоль некоторой кривой регрессии, отличной от прямой.

Пусть задано эмпирическое распределение двумерной выборки: . И пусть график рассеяния значений случайных величин X и Y близко располагается к параболе второго порядка. Точки также располагаются приблизительно по параболе второго порядка (нахождение уравнений парабол более высокого порядка аналогично).

Эмпирическое уравнение параболы, параболической регрессии Y на X, будем искать в виде

. (9.26)

Из всех парабол такого вида искомой будем считать ту, которая наилучшим образом, в смысле способа наименьших квадратов, описывает регресионную зависимость значений случайной величины X и условных распределений случайной величины Y.

Тогда в соответствии с определением 9.1 и формулой (9.2) искомая парабола — это парабола, для которой минимальной будет взвешенная сумма квадратов отклонений по ординате точек , от соответствующих точек , на параболе, имеющих с точками , одинаковые абсциссы (рис. 9.2). Это значит, что нужно вычислить минимум функции трех переменных , и :

(9.27)

где

. (9.28)

Рис. 9.2

После подстановки отклонений (9.28) получим

.

Необходимые условия экстремума функции трех переменных приводят к трем уравнениям:

которые после выполнения элементарных преобразований примут вид:

Окончательно, применив определения статистических средних, получим систему

(9.29)

где

Как и в случае линейной регрессии (см. § 9.2), можно определить с:

. (9.30)

Подставив значение из выражения (9.30) в уравнение (9.26), после простого преобразования получим

. (9.31)

Решив систему (9.29) методом исключения неизвестных или по правилу Крамера, получим значения параметров , и тем самым явное уравнение параболической регрессии Y на X.

В случае параболической регрессии X на Y неизвестные параметры , , находим, решив систему

Следует отметить, что анализ корреляционного поля может привести к выбору и других форм корреляционной зависимости, например в виде гиперболы или показательной функции . И в этих случаях, как и для параболы, строятся системы уравнений, из которых определяются неизвестные параметры соответствующих кривых.

Пример 9.5. Пусть исследуется себестоимость единицы продукции Y от объема произведенной продукции X по данным 15 предприятий:

Выпуск X, тыс. шт.	Себестоимость единицы продукции Y, ден.ед.
1	2
2	8
3	10
4	7
4	6
5	5
6	5
6	4
6	3
7	4
8	5
9	3
10	2
12	1
13	1
14	2

Найти уравнение регресионной зависимости между объемом продукции X предприятия и себестоимостью одного изделия Y .

Р е ш е н и е. Построим поле корреляции, т. е. нанесем на плоскость XOY точки (рис. 9.3). Визуальный анализ наблюденных данных позволяет определить, что между себестоимостью и объемом произведенной продукции существует нелинейная связь. Так как при отсутствии выпуска продукции нет смысла говорить о ее себестоимости, то зависимость между рассматриваемыми переменными выразим гиперболическим уравнением . Параметры и этой функции определим с помощью микроЭВМ "Электроника МК-54" из системы уравнений

используя программу 5.90, приведенную в [ 9] .

Введя исходные данные, получим = 0,870; = 19,286. Уравнение гиперболической регрессии Y на X имеет вид

.

Соответствующий график кривой регрессии изображен на рис. 9.3.

Рис. 9.3

Вопросы для самопроверки

1. Как выбирается функция регрессии, описывающая эмпирические данные?

2. Какие условия приводят к системе уравнений, из которой определяются неизвестные коэффициенты?

3. Укажите методы решения системы уравнений для определения неизвестных коэффициентов.