- •9.2. Линейная регрессия
- •9.3. Статистический коэффициент линейной корреляции и его свойства
- •9.4. Оценка достоверности статистических коэффициентов корреляции и регрессии по выборочным данным
- •9.5. Нелинейная регрессия
- •9.6. Статистическое корреляционное отношение и его свойства
- •9.7. Множественная линейная регрессия и корреляция
- •9.8. Анализ соответствия регрессионной модели наблюденным данным
9.6. Статистическое корреляционное отношение и его свойства
В
§ 9.3 мы рассмотрели статистический
коэффициент корреляции
,
который характеризует тесноту линейной
корреляционной связи между случайными
величинами X
и Y
.
Если же кривые регрессии отличаются от прямолинейной формы, то в качестве меры связи по данным выборки используют статистическое корреляционное отношение, предложенное Пирсоном.
Его
определяют по сгруппированным данным,
т.е. для каждого наблюденного значения
случайной величины X
вычисляют условное (групповое) среднее
случайной величины Y
, так как каждому значению
случайной
величины X
соответствует условное распределение
случайной величины Y:
где
.
Аналогичные сгруппированные данные можно привести и для регрессии X на Y:
где
.
Определение 9.3. Статистическим корреляционным отношением Y на X (X на Y) называется отношение средних статистических квадратов отклонений линии регрессии от соответствующих общих средних к статистическим средним квадратическим отклонениям
(9.32)
(9.33)
Для выяснения смысла статистических корреляционных отношений в нелинейной корреляции рассмотрим свойства этих чисел.
Теорема 9.6. Статистические корреляционные отношения неотрицательны и не превосходят единицы:
Д о к а з а т е л ь с т в о. Статистические корреляционные отношения по определению 9.3 являются отношением неотрицательных чисел и, следовательно, неотрицательны.
Представим дисперсию случайной величины Y в виде:
Мы воспользовались равенствами
Тогда из равенства
(9.34)
следует
неравенство
,
потому что
.
Разделив неравенство на
,
получим
.
Извлекая
квадратный корень и учитывая, что
,
получаем неравенство
,
которое и доказывает теорему при
регрессии Y
на X.
Аналогично выводится и неравенство
.
Теорема доказана.
Теорема 9.7. Равенство нулю статистического корреляционного отношения является необходимым и достаточным условием отсутствия корреляционной связи между случайными величинами X и Y.
Д
о к а з а т е л ь с т в о. Необходимость.
Пусть между случайными величинами
отсутствует корреляционная связь Y
на X
(для определенности, что не ограничивает
общность рассуждений). Это означает,
что все групповые средние
,
равны между собой и равны общей средней
.
Тогда числитель формулы (9.32) равен нулю
и, следовательно, равно нулю статистическое
корреляционное отношение
.
Достаточность.
Пусть статистическое корреляционное
отношение
.
Тогда из формулы (9.32) следует
.
Так
как
,
то
для всех
.
Следовательно,
для всех
.
А равенство всех групповых средних
общей средней означает отсутствие
корреляционной связи Y
на X
. Теорема доказана.
Теорема 9.8. Равенство единице статистического корреляционного отношения является необходимым и достаточным условием функциональной зависимости между случайными величинами X на Y.
Д о к а з а т е л ь с т в о. Необходимость. Пусть случайные величины X на Y связаны однозначной функциональной зависимостью. Тогда каждому значению случайной величины X соответствует одно значение случайной величины Y , которое при этом является и групповой средней:
(9.35)
Это
означает, что в выборке (9.35) одинаковое
число значений случайных величин X
и Y
и, следовательно, статистическая
дисперсия равна межгрупповой дисперсии:
,
так как нельзя вычислить групповые
статистические дисперсии.
Из
последнего равенства следует, что
как отношение двух равных неотрицательных
чисел.
Достаточность.
Пусть теперь
(выбор
,
как легко заметить, не ограничивает
общность рассуждений). Тогда из формулы
(9.32) следует равенство
,
при сравнении которого с равенством
(9.34) получаем, что среднее значение
межгрупповых дисперсий
.
Это может быть, если межгрупповые дисперсии
что
в свою очередь означает равенство
для всех
,
т. е. все значения
,
одинаковые для значений
.
Другими словами, каждому значению
случайной величины X
соответствует единственное значение
случайной величины Y,
т. е. между X
и Y
существует функциональная зависимость.
Теорема доказана.
Теорема 9.9. Статистические корреляционные отношения определенной выборки не меньше абсолютной величины статистического коэффициента корреляции:
.
Д о к а з а т е л ь с т в о. Так как статистический коэффициент корреляции определен только для прямолинейной регрессии, то и остановимся на прямолинейной регрессии Y на X (для определенности, что не ограничивает общности, так как для прямолинейной регрессии X на Y рассуждения проводятся аналогично). В § 9.2 мы показали, что прямая регрессии Y на X наилучшим образом, в смысле метода наименьших квадратов, отражает исследуемую регресионную зависимость. Это значит, что минимальное значение принимает сумма
(9.36)
которую можно переписать в виде
(9.37)
где
После упрощений равенство (9.37) можно записать:
(9.38)
Левая
часть (9.38) неотрицательна, следовательно,
.
Так как
,
то
.
Извлекая квадратный корень и учитывая,
что
,
получаем
что
и требовалось доказать.
Теорема 9.10. Для того чтобы регрессия была точно линейной, необходимо и достаточно, чтобы статистические корреляционные отношения равнялись статистическому коэффициенту корреляции
Д
о к а з а т е л ь с т в о. Необходимость.
Пусть регрессия точно линейна. Тогда
равна нулю сумма (9.36), так как все точки
лежат на прямой
Но
равна нулю и сумма (9.38), т. е.
Так
как
,
то
,
или, извлекая квадратный корень и
учитывая, что
,
получаем
Достаточность.
Пусть статистическое корреляционное
отношение
равно модулю статистического коэффициента
корреляции. Тогда
и, следовательно, при любом ,
.
(9.39)
Из выражения (9.39) следует, что все точки лежат на прямой
А это означает, что регрессия точно линейна. Теорема доказана.
Доказанные теоремы и равенство
,
полученное из равенства (9.34) с помощью элементарных преобразований объясняют смысл статистических корреляционных отношений.
Статистические
корреляционные отношения
и
служат мерой тесноты соответствующей
корреляционной связи между случайными
величинами X
и Y
, причем форма связи может быть любой
(что является и преимуществом по сравнению
со статистическим коэффициентом
корреляции и недостатком, так как
и
нe учитывают особенностей формы связи).
Причем, если
или
,
то соответствующая связь случайных
величин становится более тесной, так
как средняя групповых статистических
дисперсий стремится к нулю, а следовательно,
и сами групповые статистические дисперсии
стремятся к нулю, и в пределе при
или
получаем функциональную зависимость.
При равенстве нулю
и
соответствующая корреляционная связь
между случайными величинами отсутствует.
Пример 9.6. Вычислить статистическое корреляционное отношение по данным примера 9.5.
Р
е ш е н и е. По определению 9.3 статистическое
корреляционное отношение
.
Поэтому вычислим
Подставив значения
,
получим
Тогда
и, значит, между случайными величинами
X
и Y
существует достаточно тесная корреляционная
зависимость вида
.
Вопросы для самопроверки
1. Какой показатель используется в качестве меры корреляционной зависимости, если кривые регрессии отличаются от прямолинейной формы?
2. Перечислите свойства статистических корреляционных отношений.
3. Из какого равенства следует смысл статистических корреляционных отношений?
