- •Н.Н. Одияко н.Ю. Голодная теория вероятностей
- •Введение
- •Тема 1. Случайные события
- •1.1. Основные понятия комбинаторики
- •1.1.1. Правила суммы и произведения
- •1.1.2. Упорядоченные и неупорядоченные последовательности
- •1.2. Случайные события и предмет теории вероятностей
- •1.3. Вероятность события
- •1.3.1. Частотное определение вероятности и его свойства
- •1.2.1. Пространство элементарных событий
- •1.2.2. Алгебра событий
- •1.3.2. Аксиоматическое определение вероятности события
- •1.3.3. Простейшие свойства вероятности
- •1.3.4. «Геометрические» вероятности
- •1.3.5. Условная вероятность. Зависимые и независимые события
- •1.3.6. Формула полной вероятности
- •1.3.7. Формулы Байеса
- •1.4. Решение типовых задач
- •1.5. Задачи для самостоятельного решения
- •1.6. Индивидуальные домашние задания по теме «Случайные события» Вариант 1
- •Вариант 2
- •Вариант 3
- •Вариант 4
- •Вариант 5
- •Вариант 6
- •Вариант 7
- •Вариант 8
- •Вариант 9
- •Вариант 10
- •Вариант 11
- •Вариант 12
- •Вариант 13
- •Вариант 14
- •Вариант 15
- •Вариант 16
- •Вариант 17
- •Вариант 18
- •Вариант 19
- •Вариант 20
- •Вариант 21
- •Вариант 22
- •Вариант 23
- •Вариант 24
- •Вариант 25
- •Вариант 26
- •Вариант 27
- •Вариант 28
- •Вариант 29
- •Вариант 30
- •Тема 2. Повторные независимые испытания
- •2.1. Схема испытаний Бернулли. Формула Бернулли
- •2.2. Предельное поведение вероятностей при больших
- •2.2.1. Формула Пуассона
- •2.2.2. Простейший поток событий
- •2.2.3. Наивероятнейшее число появления события в независимых испытаниях
- •2.2.4. Локальная теорема Муавра-Лапласа
- •2.2.5. Интегральная теорема Муавра-Лапласа
- •2.3. Решение типовых задач
- •2.4. Задачи для самостоятельного решения
- •2.5. Индивидуальные домашние задания по теме «Повторные независимые испытания» Вариант 1
- •Вариант 2
- •Вариант 3
- •Вариант 4
- •Вариант 5
- •Вариант 6
- •Вариант 7
- •Вариант 8
- •Вариант 9
- •Вариант 10
- •Вариант 11
- •Вариант 12
- •Вариант 13
- •Вариант 14
- •Вариант 15
- •Вариант 16
- •Вариант 17
- •Вариант 18
- •Вариант 19
- •Вариант 20
- •Вариант 21
- •Вариант 22
- •Вариант 23
- •Вариант 24
- •Вариант 25
- •Вариант 26
- •Вариант 27
- •Вариант 28
- •Вариант 29
- •Вариант 30
- •Контрольные вопросы для самостоятельной оценки качества освоения тем 1, 2
- •Тема 3. Случайные величины
- •3.1. Основные понятия
- •3.2. Функция распределения вероятностей и её свойства
- •Свойства функции распределения
- •3.3. Плотность распределения случайной величины и ее свойства
- •Свойства функции плотности
- •3.4. Операции над случайными величинами
- •3.5. Числовые характеристики случайных величин
- •3.5.2. Свойства дисперсии случайной величины
- •3.5.1. Свойства математического ожидания
- •Тема 4. Двумерные случайные величины
- •4.1. Функция распределения двумерной случайной величины. Закон распределения. Условные распределения
- •Свойства функции распределения двумерной случайной величины
- •4.2. Ковариация и коэффициент корреляции
- •Свойства коэффициента корреляции
- •4.3. Решение типовых задач
- •4.4. Индивидуальнsе домашнbе заданиz по теме «Двумерные дискретные случайные величины»
- •Тема 5. Законы распределения дискретных случайных величин
- •5.1. Биномиальный закон распределения
- •5.2. Закон распределения Пуассона
- •5.3. Геометрическое распределение
- •5.4. Гипергеометрическое распределение
4.2. Ковариация и коэффициент корреляции
Если
имеется двумерная случайная величина
,
распределение которой известно, т.е.
известна таблица или совместная плотность
вероятности
,
тогда можно найти математическое
ожидание
,
и дисперсии
и
одномерных составляющих
и
.
Однако математические ожидания и
дисперсии случайных величин
и
недостаточно полно характеризуют
двумерную случайную величину
,
так как не выражают степени зависимости
ее составляющих
и
.
Эту роль выполняют ковариация и
коэффициент корреляции.
Определение.
Ковариацией (или корреляционным моментом)
случайной величины
и
называется математическое ожидание
произведения отклонений этих величин
от своих математических ожиданий, т.е.
или
.
Из
определения следует, что
.
Определение.
Ковариацией (корреляционным моментом)
непрерывных случайных величин
и
называется второй центральный смешанный
момент
Замечание.
Корреляционный момент (ковариация)
дискретных случайных величин
и
определяется следующим образом:
.
Ковариация
двух случайных величин характеризует
как степень зависимости случайных
величин, так и их рассеяние вокруг точки
.
Об этом, в частности, свидетельствуют
свойства ковариации случайных величин:
– ковариация двух случайных величин равна математическому ожиданию их произведения минус произведение математических ожиданий, т.е.
или
.
Доказательство. По определению:
.
Учитывая,
что математические ожидания
,
–
неслучайные величины, получим
– ковариация двух независимых случайных величин равна нулю, т.к. равны нулю математические ожидания центрированных случайных величин.
– ковариация двух случайных величин по абсолютной величине не превосходит произведения их средних квадратических отклонений, т.е.
.
Доказательство. Возьмем очевидное неравенство:
или
(учтено,
что
и
числа и
,
).
Тогда
.
Ковариация, как уже отмечено, характеризует на только степень зависимости двух случайных величин, но и их разброс, рассеяние. Кроме того, она – величина размерная, ее размерность определяется произведением размерности случайных величин. Это затрудняет использование ковариации для оценки степени зависимости различных случайных величин. Этих недостатков лишен коэффициент корреляции.
Определение. Коэффициентом корреляции двух случайных величин называется отношение их ковариации к произведению средних квадратических отклонений этих величин:
.
Из
определения следует, что
.
Очевидно также, что коэффициент корреляции
есть безразмерная величина.
Определение.
Корреляция между случайными величинами
и
называется положительной, если
,
и отрицательной, если
.
Свойства коэффициента корреляции
– Коэффициент
корреляции принимает значения на отрезке
,
т.е.
.
Доказательство.
Т.к.
и
,
то
откуда
.
– Если
случайные величины независимы, то их
коэффициент корреляции равен нулю, т.е.
.
Случайные величины называются некоррелированными, если их коэффициент корреляции равен нулю. Таким образом, из независимости случайных величин следует их некоррелированность.
Обратное утверждение, вообще говоря, неверно: из некоррелированности двух случайных величин еще не следует их независимость.
– Если коэффициент корреляции двух случайных величин равен (по абсолютной величине) единице, то между этими случайными величинами существует линейная функциональная зависимость.
Доказательство. Выше было получено, что
Если
,
и
.
Равенство математического ожидания неотрицательной случайной величины нулю означает, что сама случайная величина тождественно равна нулю:
при
или
при
и
при
,
т.е.
и
связанны линейной функциональной
зависимостью.
Коэффициент корреляции можно рассматривать как характеристику степени линейности взаимосвязи случайных величин и . Сформулируем это утверждение более строго.
Найдем
такие коэффициенты
и
,
чтобы дисперсия
отклонения
от функции
была минимальна. Задача поиска наилучшего
приближения
с помощью линейной функции
является оптимизационной задачей. Можно
доказать, что минимум дисперсии
достигается, если
,
.
При этом
.
Отсюда
следует, что чем ближе
к единице, тем меньше дисперсия отклонения
от наилучшего линейного приближения
.
В этом смысле коэффициент корреляции
можно считать “измерителем” степени
линейности взаимосвязи двух случайных
величин.
Наилучшее линейное приближение функции регрессии на на основании критерия минимума дисперсии имеет вид
.
Отсюда,
в частности, следует, что если функция
регрессии
на
имеет вид
,
т.е. если
,
то коэффициенты
и
определяются
формулами
и
и выведенная формула в этом случае
задает функцию регрессии.
Наилучшее линейное приближение функции регрессии имеет вид
,
и эта функция называется линейной
средней квадратической регрессией
на
.
С помощью ковариации можно дополнить и уточнить некоторые свойства математического ожидания и дисперсии:
– математическое ожидание произведения двух случайных величин равно сумме произведения их математических ожиданий и ковариации этих случайных величин:
.
Эта формула следует непосредственно из первого свойства ковариации.
Если
,
то
,
т.е. математическое ожидание произведения
двух случайных величин равно произведению
их математических ожиданий;
– дисперсия суммы двух случайных величин равна сумме их дисперсии плюс удвоенная ковариация этих случайных величин:
.
Пусть
,
По свойству математического ожидания
.
Поэтому
.
По определению дисперсии
Условным математическим ожиданием дискретной случайной величины при (регрессией на ) называется сумма произведений возможных значений на их условные вероятности
.
