- •9.2. Линейная регрессия
- •9.3. Статистический коэффициент линейной корреляции и его свойства
- •9.4. Оценка достоверности статистических коэффициентов корреляции и регрессии по выборочным данным
- •9.5. Нелинейная регрессия
- •9.6. Статистическое корреляционное отношение и его свойства
- •9.7. Множественная линейная регрессия и корреляция
- •9.8. Анализ соответствия регрессионной модели наблюденным данным
9.3. Статистический коэффициент линейной корреляции и его свойства
Предположим, что по статистическому выборочному распределению (X, Y) эмпирически установили стохастическую зависимость случайных величин X и Y, которая выражается прямыми регрессий.
При
изучении двумерной случайной величины
(X,
Y)
было
показано, что для характеристики
зависимости составляющих X
и
Y
используется
ковариация
,
а тесноту связи между составляющими
и
описывает коэффициент корреляции
.
Поэтому для характеристики степени линейной зависимости между X и Y на основании выборочных данных введем статистический коэффициент корреляции.
Определение
9.2.
Статистическим
(эмпирическим) коэффициентом корреляции
случайных величин X
и Y,
между которыми предполагается линейная
корреляционная связь, называется
отношение статистической (эмпирической)
ковариации
(
)
к
произведению стандартных отклонений
и SY:
.
(9.11)
Используя формулы (9.7) и (9.10), получаем выражение статистического коэффициента корреляции через статистические коэффициенты регрессий:
=
.
(9.12)
Перед корнем ставится знак плюс, если статистические коэффициенты регрессий положительны, и знак минус — если отрицательны.
Следует отметить, что и статистические коэффициенты регрессий можно выразить через статистический коэффициент корреляции:
=
(9.13)
=
(9.14)
Тогда уравнения прямых регрессий, учитывая формулы (9.13) и (9.14), можно записать:
, (9.15)
. (9.16)
Из
определения статистического коэффициента
корреляции
следуют
его свойства, которые определяют смысл
и важность его в линейном корреляционном
анализе.
Теорема 9.1. Величина статистического коэффициента корреляции не зависит от выбора единиц измерения случайных величин X и Y.
Д о к а з а т е л ь с т в о. Действительно, пусть наблюдения над случайными величинами X и Y, составляющие две выборки, произвели в двух различных единицах измерения:
(х1,у1), (х2,у2),…, (хп,уп);
(ах1,by1), (ах2, by2),..., (ахп ,bуп).
Согласно формуле (9.11),
,
что и требовалось доказать.
Теорема
9.2.
Статистический коэффициент корреляции
rху
не превосходит по абсолютной величине
единицы, т.е.
Д о к а з а т е л ь с т в о. Рассмотрим сумму
(9.17)
квадрат которой всегда неотрицателен. Поэтому неотрицателен будет и квадрат суммы выражения (9.17) с соответствующими частотами:
(9.18)
где
(
могут
быть равны единице).
Левую часть неравенства (9.18) представим в виде квадратного трехчлена относительно t:
(9.19)
дискриминант которого, должен быть, в силу неравенства (9.19), меньше либо равен нулю:
.
Из последнего неравенства с помощью элементарных преобразований получим неравенство
которое, согласно определению статистической ковариации и статистических средних квадратических отклонений, можно записать
Разделив
это неравенство на положительную
величину
,
будем
иметь
.
Откуда, согласно формуле (9.11),
Теорема доказана.
Теорема 9.3. Статистический коэффициент корреляции = ± 1 тогда и только тогда, когда между случайными величинами X и Y существует линейная функциональная связь.
Д о к а з а т е л ь с т в о. Необходимость. Пусть между X и существует линейная функциональная связь
у = ах + b. (9.20)
Это
означает, что каждому значению
случайной величины X
соответствует
одно определенное значение случайной
величины
,
определяемое по формуле (9.20) : уi
= axi
+
b
. Ясно,
что общая средняя случайной величины
Y
будет
равна
= а
+
b,
так
как
Статистический коэффициент корреляции, согласно формуле (9.11) и нашему предположению о функциональной зависимости, вычислим по формуле
=
Таким образом, если между случайными величинами существует линейная функциональная зависимость, то rXY = ± 1.
Достаточность. Пусть rXY = ± 1. Тогда равен нулю дискриминант квадратного трехчлена неравенства (9.19). А это означает равенство нулю выражения
(9.21)
при
некотором значении t
=
t0
,
где
- корень квадратного уравнения,
соответствующего неравенству (9.19)
(t0
=
=
).
Из равенства (9.21) следует равенство
,
(9.22)
которое
означает пропорциональную зависимость
разностей
-
и
.
Это
возможно лишь в случае, когда каждому
значению
соответствует только одно значение
и, наоборот, когда каждому значению
соответствует только одно значение
.
Если бы, например, одному значению
случайной величины
соответствовали
два различных значения случайной
величины
:
хк
и
,
то, согласно равенству (9.22), получили бы
два равенства:.
и
.
Но
правые части равны, следовательно, равны
и левые части, т.е.
=
или хк=
хl.
Это
означает взаимооднозначное соответствие
значений случайных величин
и
,
т.е. их функциональную зависимость. При
этом заметим, что число значений случайных
величин
и
должно быть одинаковым. Достаточность
доказана, тем самым доказана и теорема.
Теорема 9.4. Если между случайными величинами X и отсутствует хотя бы одна из корреляционных связей, то статистический коэффициент корреляции rXY равен нулю.
Д
о к а з а т е л ь с т в о. Пусть между
случайными величинами X
и
отсутствует корреляционная связь
на
.
Это означает, что при изменении значений
случайной величины X
распределение случайной величины
остается постоянным, т.е. каждому значению
хi
соответствует
одно и тоже значение
.
Тогда, так как прямая регрессии
на
проходит через точку с координатами
,
то она параллельна оси Ох.
А
это значит, что ее угловой коэффициент
bY/Х
равен
нулю. Из формулы же (9.12) получаем rXY
=
0.
Таким образом, при отсутствии корреляционной связи на rXY = =0.
Аналогично можно показать, что если между случайными величинами отсутствует корреляционная связь на , то статистический коэффициент корреляции равен нулю.
Теорема доказана.
Теорема 9.5. Условие rXY = ± 1 является необходимым и достаточным условием для совпадения регрессий Y на X и X на Y.
Д о к а з а т е л ь с т в о. Необходимость. Пусть прямые регрессий (9.15) и (9.16) совпадают. Тогда их угловые коэффициенты
должны быть равны:
(9.23)
Из
соотношения (9.23) получаем равенство
или
,
так
как
,
что и доказывает необходимость.
Достаточность.
Пусть
статистический коэффициент корреляции
=
± 1. Тогда уравнения прямых регрессий
(9.15) и (9.16) примут вид:
,
Их можно переписать:
,
,
т.е. они определяют одну и ту же прямую на плоскости. Достаточность доказана, тем самым доказана теорема.
Из доказанных теорем следует, что если статистический коэффициент корреляции rXY = ±1, то между случайными величинами X и Y существует линейная функциональная связь, а если rXY = 0, то линейная корреляционная связь отсутствует.
Для
выяснения смысла rXY,
если
он заключен в интервалах
и
,
рассмотрим суммы квадратов отклонений
между значениями ( хi
, уi
)
случайных величин X
и
Y,
полученных
из эксперимента, и значениями
лежащими,
например, на прямой регрессии Y
на
X,
преобразовав
их, не изменяя сущности.
Вначале рассмотрим преобразованную сумму квадратов отклонений по ординате:
.
Таким образом,
,
(9.24)
и
называется
остаточной
суммой квадратов, характеризующей
рассеяние экспериментальных данных
вокруг линии регрессии.
Аналогично, рассматривая преобразованную сумму квадратов отклонений по абсциссе, получаем
(9.25)
Из
выражений (9.24) и (9.25) следует, что если
статистический коэффициент корреляции
стремится по абсолютной величине к
единице, то степень корреляционной
связи между случайными величинами
растет, сумма квадратов отклонений
стремится к нулю. Это означает, что
значения
,
теснее
лежат около прямой регрессии Y
на
X,
а
значения
—
около прямой регрессии X
на
Y.
Если
же |
|
0, то степень корреляционной связи
уменьшается, так как сумма квадратов
отклонений возрастает.
На основании выше изложенного можно сделать вывод: статистический коэффициент корреляции является мерой тесноты линейной корреляционной связи между случайными величинами X и Y.
Пример 9.2. По данным таблицы, приведенной в примере 9.1, вычислить статистический коэффициент корреляции.
Р е ш е н и е. При решении задачи с использованием прикладной программы, получаем статистический коэффициент корреляции = 0,765, значение которого свидетельствует о достаточно тесной корреляционной зависимости между удельным весом продукции высшей категории качества и фондоотдачей.
Вопросы для самопроверки
Какой показатель является мерой корреляционной связи между и ?
Перечислите свойства коэффициента корреляции.
Укажите расчетную формулу коэффициента корреляции.
Из какого равенства следует смысл коэффициента корреляции?
