23. Дискретные и непрерывные случайные величины. Числовые характеристики дискретной случайной величины. Закон больших чисел.

В том случае, если случайное событие выражается в виде числа, можно говорить о случайной величине. Случайной называют величину, которая в результате испытания примет одно возможное значение, наперёд неизвестное и зависящее от случайных причин, которые заранее не могут быть учтены.

Выпадение некоторого значения случайной величины Х это случайное событие: Х = хi. Среди случайных величин выделяют дискретные и непрерывные случайные величины.

Дискретной случайной величиной называется случайная величина, которая в результате испытания принимает отдельные значения с определёнными вероятностями. Число возможных значений дискретной случайной величины может быть конечным и бесконечным. Примеры дискретной случайной величины: запись показаний спидометра или измеренной температуры в конкретные моменты времени.

Непрерывной случайной величиной называют случайную величину, которая в результате испытания принимает все значения из некоторого числового промежутка. Число возможных значений непрерывной случайной величины бесконечно. Пример непрерывной случайной величины: измерение скорости перемещения любого вида транспорта или температуры в течение конкретного интервала времени.

Любая случайная величина имеет свой закон распределения вероятностей и свою функцию распределения вероятностей. Прежде, чем дать определение функции распределения, рассмотрим переменные, которые её определяют. Пусть задано некоторое х – действительное число и получена случайная величина X, при этом (x>X). Требуется определить вероятность того, что случайная величина Х будет меньше этого фиксированного значения х.

Функцией распределения случайной величины Х называется функция F(х), определяющая вероятность того, что случайная величина Х в результате испытания примет значение меньшее значения х, то есть:

F (х) = Р(Х < х ).

(5.1)

где х – произвольное действительное число.

Случайная величина (непрерывная или дискретная) имеет численные характеристики:

Математическое ожидание М (Х). Эту характеристику можно сравнивать со средним арифметическим наблюдаемых значений случайной величины Х.

Дисперсия D(X). Это характеристика отклонения случайной величины Х от математического ожидания.

Среднее квадратическое отклонение s(Х) для дискретной и непрерывной случайной величины Х – это корень квадратный из ее дисперсии:

.

24. Задача математической статистики.

Говорят, что последовательность случайных величин   с конечными первыми моментами удовлетворяет закону больших чисел (ЗБЧ), если

(22)

Законами больших чисел принято называть утверждения о том, при каких условиях последовательность случайных величин удовлетворяет закону больших чисел, т.е. обладает свойством (22).

Выясним сначала, когда выполнен ЗБЧ для последовательности независимых и одинаково распределённых случайных величин.

Теорема 33   (ЗБЧ Чебышёва). Для любой последовательности   попарно независимых и одинаково распределённых случайных величин с конечным вторым моментом   имеет место сходимость:

(23)

Заметим, что если величины одинаково распределены, то их математические ожидания одинаковы (и равны, например,  ), поэтому свойство (22) можно записать в виде (23).

ЗБЧ утверждает, что среднее арифметическое большого числа случайных слагаемых «стабилизируется» с ростом этого числа. Как бы сильно каждая случайная величина не отклонялась от своего среднего значения, при суммировании эти отклонения «взаимно гасятся», так что среднее арифметическое приближается к постоянной величине.

В дальнейшем мы увидим, что требование конечности второго момента (или дисперсии) связано исключительно со способом доказательства, и что утверждение останется верным, если требовать существования только первого момента.

Доказательство.

Обозначим через   сумму первых   случайных величин. Из линейности математического ожидания получим:

Пусть  . Воспользуемся неравенством Чебышёва:

(24)

так как  . Заметим, что дисперсия суммы превратилась в сумму дисперсий в силу попарной независимости слагаемых, из-за которой все ковариации   в свойстве 14 обратились в нуль при  . Сумма же дисперсий слагаемых равняется   из-за их одинаковой распределённости.

QED

Замечание 24. Мы не только доказали сходимость, но и получили оценку для вероятности среднему арифметическому любого числа попарно независимых и одинаково распределённых величин отличаться от   более, чем на заданное  :

(25)

Легко видеть, что попарную независимость слагаемых в ЗБЧ Чебышёва можно заменить их попарной некоррелированностью, ничего не меняя в доказательстве. ЗБЧ может выполняться и для последовательности зависимых и разнораспределённых слагаемых. Предлагаю читателям, проследив за равенствами и неравенствами (24), получить доказательство следующего утверждения, предлагающегодостаточные условия выполнения ЗБЧ для последовательности произвольных случайных величин.

Теорема 34   (ЗБЧ Маркова). Последовательность случайных величин   с конечными вторыми моментами удовлетворяет ЗБЧ при выполнении любого из следующих условий:

а)

если  , т.е. если   при  ;

б)

если   независимы и    (т.е. если    )

в)

если   независимы, одинаково распределены и имеют конечную дисперсию (ЗБЧ Чебышёва).

Теорема Маркова утверждает, что ЗБЧ выполнен, если дисперсия суммы   слагаемых растёт не слишком быстро с ростом  .

Сильная зависимость слагаемых приводит обычно к невыполнению ЗБЧ. Если, например,   и  , то  , и свойство (23) не выполнено (убедиться!). В этом случае  ; для одинаково распределённых слагаемых дисперсия суммы быстрее расти не может.

Следующее утверждение мы докажем чуть позже. Сравните его условия с условиями ЗБЧ Чебышёва.

Теорема 35   (ЗБЧ Хинчина(1)). Для любой последовательности   независимых (в совокупности) и одинаково распределённых случайных величин с конечным первым моментом   имеет место сходимость:

Более того, в условиях теоремы 35 имеет место и сходимость п. н. последовательности   к  . Это утверждение называется усиленным законом больших чисел (УЗБЧ) Колмогорова, и его мы доказывать не будем.

Получим в качестве следствия из ЗБЧ Чебышёва закон больших чисел Я. Бернулли. В отличие от ЗБЧ Чебышёва, описывающего предельное поведение среднего арифметического случайных величин с произвольными распределениями, ЗБЧ Бернулли имеет дело лишь со схемой Бернулли.

Теорема 36   (ЗБЧ Бернулли). Пусть событие   может произойти в любом из   независимых испытаний с одной и той же вероятностью  , и пусть   — число осуществлений события   в   испытаниях. Тогда  . При этом для любого 

Доказательство. Заметим, что   есть сумма независимых, одинаково распределённых случайных величин, имеющих распределение Бернулли с параметром   (индикаторов того, что в соответствующем испытании произошло  ):  , где

и  ,  . Осталось воспользоваться ЗБЧ в форме Чебышёва и неравенством (25).