Коррелированность и зависимость случайных величин

Две  величины называются коррелированными, если их корреляционный момент не равен нулю.

Две  коррелированные случайные величины являются также и зависимыми.

Действительно, ес­ли исходить от обратного , то дифференциальная функция такой системы  f(x,y) = f2(y)·f1(x)  , но тогда корреляционный момент Kxy равен произведению интегралов по составляющими,  каждый из них тождественно равен нулю. Обратное утверждение - две некоррелированные величины независимы - не всегда имеет место.

Две зависимые величины могут быть как коррелированными , так и не коррелированными.

Действительно, из условия   еще не следует, что значение двойного интеграла будет равным нулю, и все зави­сит от вида дифференциальной функции системы   . Достаточно показать это на конкретных примерах.

Пример : Двумерная система  задана дифференциальной функцией  ; ; ; .  - это зависимые случайные величины. И в то же время .

1. Корреляционные матрицы

Числовые характеристики двумерной системы могут быть записаны в виде матриц Корреляционная матрица             Нормированная корреляционная матрица

                                   ;                                .

39

Линейная регрессия (англ. Linear regression) — используемая в статистике регрессионная модель зависимости одной (объясняемой, зависимой) переменной y от другой или нескольких других переменных (факторов, регрессоров, независимых переменных) x с линейной функцией зависимости.

Регрессионная модель

где  -параметры модели,   - случайная ошибка модели, называется линейной регрессией, если функция регрессии   имеет вид

где   - параметры (коэффициенты) регрессии,   - регрессоры (факторы модели), k- количество факторов модели.

Коэффициенты линейной регрессии показывают скорость изменения зависимой переменной по данному фактору, при фиксированных остальных факторах (в линейной модели эта скорость постоянна):

Параметр  , при котором нет факторов, называют часто константой. Формально - это значение функции при нулевом значении всех факторов. Для аналитических целей удобно считать, что константа - это параметр при "факторе", равном 1 (или другой произвольной постоянной, поэтому константой называют также и этот "фактор"). В таком случае, если перенумеровать факторы и параметры исходной модели с учетом этого (оставив обозначение общего количества факторов - k), то линейную функцию регрессии можно записать в следующем виде, формально не содержащем константу:

 - вектор регрессоров,   - вектор-столбец параметров (коэффициентов)

Линейная модель может быть как с константой, так и без константы. Тогда в этом представлении первый фактор либо равен единице, либо является обычным фактором соответственно.

Парная и множественная регрессия

В частном случае, когда фактор единственный (без учета константы), говорят о парной или простейшей линейной регрессии:

Когда количество факторов (без учета константы) больше 1-го, то говорят о множественной регрессии.

40

Нормальным законом распределения на плоскости называют распределение вероятностей двумерной случайной величины (X, Y), если

Мы видим, что нормальный закон на плоскости определяется пятью параметрами: а₁, а₂, σ_х, σ_у и r_xу. Можно доказать, что эти параметры имеют следующий вероятностный смысл: а₁, а₂ — математические ожидания, σ_х, σ_у — средние квадратические отклонения, r_xу — коэффициент корреляции величин X и У.  Убедимся в том, что если составляющие двумерной нормально распределенной случайной величины некоррелированны, то они и независимы. Действительно, пусть X и Y некоррелированны. Тогда, полагая в формуле r_xу = 0, получим

Таким образом, если составляющие нормально распределенной случайной величины некоррелированны, то плотность совместного распределения системы равна произведению плотностей распределения составляющих, а отсюда и следует независимость составляющих. Справедливо и обратное утверждение. Итак, для нормально распределенных составляющих двумерной случайной величины понятия независимости и некоррелированности равносильны.

41