7.6. Основы корреляционного и регрессионного анализа

Целью моделирования любого процесса является установление количественной зависимости выходного параметра от одного или группы случайных входных параметров. Например, выбор водителем скорости движения транспортного средства зависит от многих факторов: вида транспортного средства, состояния дорожного покрытия, числа полос, самочувствия самого водителя и других факторов. В функциональной связи Y = f (X) каждому значению независимой переменной X отвечает одно или несколько вполне определенных значений зависимой переменной Y. В этом случае связь между переменными X и Y в отличие от функциональной приобретает статистический характер и называется корреляционной.

Простейшей и распространенной зависимостью между величинами X и Y является линейная регрессия. Оценка тесноты или силы связи между величинами X и Y осуществляется методами корреляционного анализа.

Рассмотрим линейную регрессию от одного параметра (рис. 7.17). Пусть для произвольного фиксированного значения x получено несколько значений y. Предполагается, что величина Y распределена нормально с математическим ожиданием

(7.35)

и дисперсией , не зависящей от X. Из (7.35) видно, что случайная величина Y в среднем линейно зависит от фиксированного значения x, а параметры и являются неизвестными параметрами генеральной совокупности.

Для оценки этих неизвестных величин по выборке объемом n сопряженных пар значений x₁, y₁; x₂, y₂; …; x_n, y_n в декартовой системе координат можно построить корреляционное поле, содержащее n точек. Если нанести на поле средние значения , соответствующие всем значениям переменной x_i в интервалах, ограниченных вертикальными линиями координатной сетки, то зависимость y от x станет более очевидной.

Ломаная линия, соединяющая точки , отнесенные к серединам интервалов x_ср_i, называется эмпирической линией регрессии. С увеличением числа опытов ломаная линия сглаживается и приближается к предельной линии – теоретической линии регрессии.

7.6.1. Метод наименьших квадратов

Для линейной зависимости линия регрессии задается уравнением прямой:

, (7.35)

неизвестные коэффициенты которой определяются по методу наименьших квадратов. В соответствии с этим методом квадрат расстояния по вертикали между опытными точками с координатами x_i, y_i и соответствующими точками на линии регрессии должно быть минимальным:

. (7.36)