Теорема Бернулли
Рассмотрим бесконечную серию испытаний Бернулли, т.е. рассматриваются независимые испытания, в каждом из которых может произойти событие А или `А, вероятность наступления события А равна р, `А=q=1-р.
С
каждым i-тым испытанием свяжем дискретную
случайную величину Хi?
которая задается так:
Если в і-том испытании произошло событие А, то Хi=1
МХi=p; DХi=n2-n12=p-p2=pq.
Введем
случайную величину
–
число появления события А в n испытаниях.
Рассмотрим Sn/n, частность наступления события А в n испытаниях.
(Доказать
самим)
Тогда на основании неравенства Чебышева можно получить:
Частость наступления события А по вероятности сходится к теоретической вероятности наступления события А.
Трактовка теоремы Бернулли
Результаты n независимых испытаний, в каждом из которых происходит событие А с одной и той же вероятностью p и`A с вероятностью q, с точки зрения теории вероятности эквивалентны результатам n испытаний, которые производятся в одном и том же вероятностном пространстве, в котором задано А с вероятностью p. И, следовательно, частость наступления события А по вероятности сходится к теоретической вероятности события А.
Закон больших чисел
Имеется система из последовательных независимых одинаково распределенных случайных величин с одинаковым математическим ожиданием и дисперсией.
Рассмотрим
среднее арифметическое:
Воспользуемся неравенством Чебышева:
Среднее арифметическое независимых и одинаково распределенных случайных величин по вероятности сходится к математическому ожиданию этих случайных величин.
Приведем
второе толкование закона больших чисел
(ЗБЧ). В рамках ЗБЧ любая реализация
случайных величин `
,
где хi
– результат испытания над случайной
величиной Хi
при n®¥
с вероятностью единица удовлетворяет
неравенству:
А
результат испытания над n-мерной случайной
величиной, компоненты которой независимы
и одинаково распределены,
можно считать результатом n испытаний
над одной случайной величиной Х,
распределенной так же, как любое Хi.
И
следовательно,
, где xi
–
результат i-того испытания над Х при n®¥
является хорошей оценкой неизвестного
математического ожидания.
Усиленный закон больших чисел
Рассмотрим последовательность независимых случайных величин x1, x2,..., xn,..., у каждой из которых конечное математическое ожидание, конечная дисперсия и при этом выполняется условие:
Тогда
с вероятностью единица
имеет предел 0.
Доказательство: Предварительно докажем лемму Колмогорова
Заменим случайную величину xi на xi-Mxi ("i Mxi=0). Тогда вероятность того, что:
Неравенство Колмогорова в первой постановке имеет вид:
Введем событие n=m, которое обозначает, что
½S1½£ e, ½S2½£ e ,..., ½Sm-1½£ e, ½Sm½>e.
Введем индикаторную функцию 1(n=m) – это случайная величина , которая принимает значение 1, когда событие (n=m) наступило и 0 в противном случае. Рассмотрим математическое ожидание: MSm×1(n=m)×xk, где k=m+1..n.
Так как Sm×1(n=m) числовая скалярная функция m случайных аргументов x11...x1m
Sm×1(n=m) = j(x11...x1m), то Sm×1(n=m) и xk – независимые величины.
MSm×1(n=m)×xk = M(Sm×1(n=m))×Мxk = 0
Рассмотрим
Следовательно, мы доказали неравенство:
Рассмотрим
.
Это неравенство справедливо, так как наступление событий (n=m) может произойти только лишь для одного m по определению события (n=m). В общем случае известно, что математическое ожидание от индикаторной функции как случайной величины равно вероятности наступления события, на котором задана индикаторная функция. Приведем доказательство этого факта для частного случая, когда вероятность наступления этого события определяется по плотности вероятности.
Так как события (n=m) несовместны при разных m, то
Доказательство основной теоремы: Рассмотрим событие Ak:
Рассмотрим
Сделаем замену переменных в индексировании
n=1..¥ n £ 2k ® n2 £ 22k ® 2-2k £ n-2
в
предположении, что xi
заменено на xi-Mxi
Рассмотрим
Следовательно, Рrm-1 ® 0
Но ряд вероятностей Р1, Р2, Р3,..., Рm,... ограниченный, не возрастающий и сходится к нулю. Следовательно, мы доказали, что при m®0 ряд Pm®0.