§ 13. Закон больших чисел

13.2. Сходимость усредненной суммы независимых св

Определение 13.6. Будем говорить, что случайная последовательность {Xn},n=1,2,...,является последовательностью независимых СВ Xn, если при любом n   СВ X1,...,Xn   независимы.

Определение 13.7. СВ Yn≜1n∑k=1nXk   называется усредненной суммой СВ Xk,k=1,n¯¯¯¯¯.

Пусть СВ Xk,k=1,n¯¯¯¯¯, независимы. Обозначим mk≜M[Xk],dk≜D[Xk],k=1,n¯¯¯¯¯. Тогда, используя свойства 1) M[X]   и 4) M[X] , получим

M[Yn]=1n∑k=1nmk,  D[Yn]=1n2∑k=1nD[Xk]≜1n2∑k=1ndk.

Определение 13.8. Будем говорить, что к последовательности Xk,k=1,n¯¯¯¯¯,   независимых СВ применим закон больших чисел (ЗБЧ), если |Yn−M[Yn]|→P0   при n→∞.

Теорема 13.2. (Теорема Маркова). Если для последовательности {Xn},n=1,2,..., независимых СВ выполняется условие limn→∞D[Yn]=0, то к этой последовательности применим закон больших чисел.

Д о к а з а т е л ь с т в о.

Утверждение теоремы равносильно тому, что

limn→∞P{|Yn−M[Yn]|>ε}=0.

По неравенству Чебышева при r=2   имеем

P{|Yn−M[Yn]|>ε}≤P{∣∣∣Yn−M[Yn]∣∣∣≥ε}≤D[Yn]ε2.

Согласно условию теоремы, получаем |Yn−M[Yn]|→P0. ■

Утверждение теоремы остается верным, если СВ {Xn},n=1,2,..., являются лишь попарно некоррелированными, так как свойство 4) M[X]   сохраняется и для некоррелированных СВ.

Теорема 13.3. (Теорема Чебышева). Если последовательность {Xn}   образована независимыми СВ, дисперсии которых равномерно ограничены, т.е. существует такая константа c, чтоD[Xn]≤c   для всех n=1,2,..., то к этой последовательности применим закон больших чисел.

Д о к а з а т е л ь с т в о.

Так как D[Xk]∪c   для всех k=1,2,..., то, используя свойство 4) M[X] , получим

D[Yn]=1n2∑k=1nD[Xk]∪cn.

Но c/n→0   при n→∞, т.е. условие теоремы 13.2   выполнено и к последовательности{Xn},n=1,2,..., применим закон больших чисел. ■

Теорема 13.4. Если последовательность {Xn},n=1,2,..., образована независимыми СВ с одинаковыми распределениями и конечной дисперсией D[X]<+∞, то к этой последовательности применим закон больших чисел, причем Yn→PmX, гдеmX=mk≜M[Xk],k=1,2,...

Д о к а з а т е л ь с т в о.

В данном случае D[Xk]=dX<∞   для всех k=1,2,... Поэтому условие теоремы Чебышева выполнено. Следовательно, |Yn−M[Yn]|→P0   при n→∞. Кроме того, M[Xk]≜mk=mX   для всех k=1,2,...   Таким образом,

M[Yn]=1n∑k=1nmk=mX,

откуда следует, что |Yn−mX|→P0. ■

Определение 13.9. Будем говорить, что к последовательности {Xn},n=1,2,...,независимых СВ применим усиленный закон больших чисел, если |Yn−M[Yn]|−→п.н.0   при n→∞.

Из усиленного закона больших чисел следует закон больших чисел, так как из сходимости почти наверное следует сходимость по вероятности.

Теорема 13.5. (Теорема Колмогорова). К последовательности {Xn},n=1,2,..., независимых одинаково распределенных СВ, у которых mX, конечно, применим усиленный закон больших чисел, причем Yn−→п.н.mX.

Замечание 13.4.

 В данной теореме, в отличие от теоремы 13.4, не требуется существования дисперсии СВ Xn   и при этом утверждение оказывается более сильным. Но доказательство этой теоремы значительно сложнее, чем доказательство теоремы 13.4, поэтому мы не приводим его в данной книге.

Замечание 13.5.

 Закон больших чисел - это, по сути, свойство случайной последовательности {Xn},n=1,2,...,состоящее в том, что случайные отклонения отдельных независимых СВ Xn   от их общего среднего значения mX   при большом n   в своей массе взаимно погашаются. Поэтому, хотя сами величиныXn   случайны, их среднее арифметическое значение при достаточно большом n   практически уже неслучайно и близко к mX. Таким образом, МО mX   СВ Xn   заранее неизвестно, то, согласнотеореме 13.5, его можно вычислить с любой "степенью точности" с помощью среднего арифметического Yn≜1n∑k=1nXk. Но при этом встает вопрос: в каком смысле понимать точность приближения Yn≈mX? Ответ на этот вопрос будет дан в следующем параграфе. Рассмотрим опыты, проводимые по схеме Бернулли, в результате которых событие A   ("успех") происходит с вероятностью p≜P(A).

Рассмотрим частоту "успехов" Wn(A)≜M/n, где M, есть число "успехов" при n   испытаниях. Случайная величина M   имеет биномиальное распределение Bi(n;p).

Теорема 13.6. (Теорема Бернулли, усиленный вариант). Частота "успехов" сходится почти наверное к вероятности "успеха", т.е. Wn(A)−→п.н.P(A)≜p

.

Д о к а з а т е л ь с т в о.

Так как M   имеет биномиальное распределение, то частоту успехов Wn=M/n   можно представить в виде усредненной суммы независимых одинаково распределенных СВ Xk,k=1,n¯¯¯¯¯,   имеющих распределение Бернулли, со значениями x0=1   и x1=0. ПричемP{Xk=1}=p,P{Xk=0}=q. Поэтому

Yn=Mn=1n∑k=1nXk, где  M[Xk]=p,D[Xk]=pq,k=1,2,...

Тогда по теореме 13.5, так как выполнено условие mX=p<∞, получаем M/n−→п.н.p. ■

Замечание 13.6.

 Самому Якову Бернулли принадлежит доказательство более слабого утверждения, чтоWn(A)→PP(A). Теорема Бернулли объясняет смысл свойства устойчивости частотыWn(A)=M/n, которое мы ранее принимали как экспериментальный факт. Таким образом, теорема Бернулли является "переходным мостиком" от теории вероятностей к её приложениям.