§ 14. Центральная предельная теорема

14.1. Сходимость нормированной суммы независимых св

Рассмотрим нормированную сумму Zn   независимых СВ Xk,k=1,n¯¯¯¯¯:

Zn≜1sn(∑k=1nXk−M[∑k=1nXk])=1sn∑k=1n(Xk−mk),

где по свойству 4)M[X] имеет место соотношение

s2n≜D[∑k=1nXk]=∑k=1nD[Xk]=∑k=1nσ2k,

так как σ2k≜D[Xk],mk≜M[Xk]. В связи с тем, что Zn   является нормированной СВ, то посвойства 5) mX : M[Zn]=0,  D[Zn]=1. Изучим поведение последовательности СВ при n→∞.

Определение 14.1. Будем говорить, что к последовательности {Xn},n=1,2,...,независимых СВ применима центральная предельная теорема (ЦПТ), если последовательность СВZn   сходится по распределению к СВ U,   имеющей стандартное нормальное распределение,U∼N(0;1),   т.е. Zn→FU.

Замечание 14.1.

 Как отмечалось выше, закон больших чисел  — это, по сути, свойство последовательности независимых СВ Xn   (см. замечание 13.5), которое выполняется при определенных условиях. Аналогичную интерпретацию имеет и центральная предельная теорема. Название "центральная предельная теорема", на наш взгляд, не очень точное, так как по смыслу - это свойство, а не теорема. Но так как в литературе это понятие закрепилось, то и мы будем его придерживаться.

Определение 14.2. Будем говорить, что последовательность {Xn},n=1,2,...,   независимых СВ удовлетворяет условию Ляпунова, если limn→∞1s3n∑k=1nM[|Xk−mk|3]=0.

Поясним смысл условия Ляпунова. Рассмотрим для произвольного δ>0   случайные события

Ak≜{|Xk−mk|/sn≥δ},k=1,n¯¯¯¯¯.

Тогда по свойству 7)P получаем

P{1snmax1≤k≤n|Xk−mk|≥δ}=P(∑k=1nAk)≤∑k=1nP(Ak)≜∑k=1nP{|Xk−mk|≥δsn}≤

≤∥∥∥теор.13.1ε=snδ,r=3∥∥∥≤∑k=1nM[|Xk−mk|3]δ3s3n

По условию Ляпунова последнее выражение стремится к нулю при n→∞. Таким образом, все слагаемые в нормированной сумме Zn   равномерно малы в том смысле, что вероятность хотя бы одного из них превзойти величину δ>0   стремится к нулю при возрастании числа слагаемых.

Теорема 14.1(Теорема Ляпунова). Если последовательность {Xn},n=1,2,..., независимых СВ удовлетворяет условию Ляпунова и СВ Xn, её образующие, имеют конечные МО и дисперсии, т.е.mn<∞, σ2n<∞, то к случайной последовательности {Xn},n=1,2,..., применима центральная предельная теорема.

Д о к а з а т е л ь с т в о.

Пусть

s2n=∑k=1nσ2k,   Zn≜1sn∑k=1nXk∘, гдеσ2k≜D[Xk],   X∘≜Xk−m.

Найдем характеристическую функцию gk(t)   СВ Xk∘,   учитывая, что i2=−1   и согласносвойствам 2) и 5) mX: M[(Xk∘)2]=σ2k, M[Xk∘]=0. Имеем

gk(t)≜M[exp{itXk∘}]=∥∥∥По формулеТейлора∥∥∥=M⎡⎣⎢⎢⎢⎢1+itXk∘+(itXk∘)22⎤⎦⎥⎥⎥⎥+

+Rk(t)=1−σ2kt22+Rk(t),

где для остаточного члена Rk(t)   справедлива оценка

|Rk(t)|≤Ct3M[∣∣∣Xk∘∣∣∣3].

Тогда для СВ Zn   характеристическая функция будет иметь следующий вид:

gZn(t)≜M[exp{itZn}]=M⎡⎣exp⎧⎩⎨it∑k=1nXk∘sn⎫⎭⎬⎤⎦=M⎡⎣∏k=1nexp⎧⎩⎨∑k=1nitXk∘sn⎫⎭⎬⎤⎦=

=∥∥∥СВ Xk∘независимы∥∥∥=∏k=1nM[exp⎧⎩⎨∑k=1nitXk∘sn⎫⎭⎬]=∏k=1ngk(tsn).

Подставляя выражение для gk(t/sn), получаем

gZn(t)=∏k=1ngk(tsn)=∏k=1n[1−σ2kt22s2n+Rk(tsn)].

Поэтому

lngZn(t)=∑k=1nlngk(tsn)=∥ln(1+α)=α+o(α)∥=

=∑k=1n[−σ2kt22s2n+Rk(tsn)]=−t22+∑k=1nRk(tsn).

Но согласно полученной оценке для Rk(t/sn)   и по условию Ляпунова остаточный член в разложении lngZn(t)   стремится к нулю. Таким образом, заключаем, что lngZn(t)→−t2/2   приn→∞. Следовательно, gZn(t)→exp{−t2/2}   при n→∞. Но gU(t)=exp{−t2/2}   является характеристической функцией для СВ U, имеющей нормальное распределение N(0;1).Характеристическая функция однозначно определяет закон распределения. ПоэтомуZn→FU∼N(0;1). ■

Замечание 14.2.

 Фундаментальная роль ЦПТ в теории вероятностей состоит в том, что при весьма общих предположениях сумма большого числа независимых (относительно малых, см., например, условие Ляпунова) СВ удовлетворительно описывается нормальным законом. Этим фактом и объясняется очень широкое распространение нормального закона на практике. Отметим, что существуют и другие условия, отличные от условия Ляпунова, при которых к последовательности СВ применима ЦПТ. Но эти условия имеют общую черту: все слагаемые в нормированной сумме равномерно малы.

Пример 14.1.

 Рассмотрим последовательность {Xn},n=1,2,..., независимых одинаково распределенных СВXn   с конечным МО, дисперсией и третьим абсолютным моментом. Тогда

sn=n√σX,   1s3n∑k=1nM[|Xk−mX|3]=M[|Xk−mX|3]σ3Xn√→0.

Таким образом, условие Ляпунова выполнено. Поэтому к последовательности независимых одинаково распределенных СВ в данном случае применима ЦПТ. В действительности это утверждение верно при более слабых предположениях. По теореме Леви для применимости ЦПТ в данном примере достаточно существования конечных МО и дисперсии.