1.5.2. Свойства гистограммы

Пусть распределение абсолютно непрерывно, — его истинная плотность. Пусть, кроме того, число интервалов группировки не зависит от . Случай, когда , отмечен в замечании 1. Справедлива

Теорема 4. При для любого

Упражнение.    Доказать теорему 4, используя (1) и ЗБЧ.

Теорема утверждает, что площадь столбца гистограммы, построенного над интервалом группировки, с ростом объема выборки сближается с площадью области под графиком плотности над этим же интервалом.

1.5.3. Свойства выборочных моментов

Выборочное среднее является несмещенной, состоятельной и асимптотически нормальной оценкой для теоретического среднего (математического ожидания):

Свойство 2.  

1)

Если , то .

2)

Если , то при .

3)

Если и не равна нулю, то .

Доказательство свойства 2 

1)

.

2)

Согласно ЗБЧ в форме Хинчина, .

3)

Согласно ЦПТ,

Q.D.E.

Выборочный -й момент является несмещенной, состоятельной и асимптотически нормальной оценкой для теоретического -го момента:

Свойство 3.  

1)

Если , то .

2)

Если , то при .

3)

Если и не равна нулю, то .

Упражнение.    Доказать свойство 3.

В дальнейшем мы не будем оговаривать существование соответствующих моментов. В частности, в первых двух пунктах следующего утверждения предполагается наличие второго момента у случайных величин , а в третьем пункте — четвертого (дисперсии величины ).

Свойство 4.  

1)

Выборочные дисперсии и являются состоятельными оценками для истинной дисперсии:

.

2)

Величина — смещенная, а — несмещенная оценка дисперсии:

3)

Выборочные дисперсии и являются асимптотически нормальными оценками истинной дисперсии:

.

Доказательство свойства 4. 

1)

Во-первых, раскрыв скобки, полезно убедиться в том, что

(2)

Из (2) и ЗБЧ следует, что . Кроме того, , так что .

2)

Воспользуемся формулой (2):

3)

Выборочную дисперсию можно представить в следующем виде:

поскольку первое слагаемое слабо сходится к по ЦПТ, а второе слагаемое слабо сходится к нулю как произведение сходящейся к нулю по вероятности последовательности и последовательности, слабо сходящейся к  . какое свойство слабой сходимости использовано дважды?

1.5.1. Свойства эмпирической функции распределения

Теорема 1.

Пусть — выборка объема из неизвестного распределения с функцией распределения . Пусть — эмпирическая функция распределения, построенная по этой выборке. Тогда для любого

Замечание 2.

— случайная величина, так как она является функцией от случайных величин . То же самое можно сказать про гистограмму и выборочные моменты.

Доказательство теоремы   1.  По определению 1,

Случайные величины , , независимы и одинаково распределены, их математическое ожидание конечно:

поэтому применим ЗБЧ Хинчина, а что это такое? и

Таким образом, с ростом объема выборки эмпирическая функция распределения сходится (по вероятности) к неизвестной теоретической.

Q.D.E.

Верен более общий результат, показывающий, что сходимость эмпирической функции распределения к теоретической имеет «равномерный» характер.

Теорема    Гливенко — Кантелли.

Пусть — выборка объема из неизвестного распределения с функцией распределения . Пусть — эмпирическая функция распределения, построенная по этой выборке. Тогда

Замечание 3.

Более того, в условиях теорем 1 и Гливенко — Кантелли имеет место сходимость не только по вероятности, но и почти наверное.

Если функция распределения непрерывна, то скорость сходимости к нулю в теореме Гливенко — Кантелли имеет порядок :

Теорема    Колмогорова.

Пусть — выборка объема из неизвестного распределения с непрерывной функцией распределения , а -- эмпирическая функция распределения. Тогда

где случайная величина имеет распределение Колмогорова с непрерывной функцией распределения

Следующие свойства эмпирической функции распределения — это хорошо знакомые нам свойства среднего арифметического независимых слагаемых, имеющих, к тому же, распределение Бернулли.

В первых двух пунктах утверждается, что случайная величина имеет математическое ожидание и дисперсию , которая убывает как  . Третий пункт показывает, что сходится к  со скоростью .

Свойство 1.

Для любого

1)

, т.е. — «несмещенная» оценка для ;

2)

;

3)

если , то , т.е.  — «асимптотически нормальная» оценка для ;

4)

случайная величина имеет биномиальное распределение .

Доказательство свойства 1.  Заметим снова, что имеет распределение Бернулли , поэтому

1)

Случайные величины , , одинаково распределены, поэтому где используется одинаковая распределенность?

2)

Случайные величины , , независимы и одинаково распределены, поэтому где используется независимость?

3)

Воспользуемся ЦПТ Ляпунова: а что это такое?

4)

Поскольку (число успехов в одном испытании) имеет распределение Бернулли , почему? то имеет биномиальное распределение . почему?  а что такое устойчивость по суммированию?

Q.D.E.

Замечание 4. Все определения, как то: «оценка», «несмещенность», «состоятельность», «асимптотическая нормальность» будут даны в главе 2. Но смысл этих терминов должен быть вполне понятен уже сейчас.