Многомерное нормальное распределение

Говорят, что многомерная случайная величина имеет многомерное нормальное распределение, если ее многомерная плотность вероятности имеет вид:

где В – матрица ковариации. Тогда cov(X_i,X_j)=M(X_i -MX)²–дисперсия случайной величины на главной диагонали.

Свойства многомерного нормального распределения

1. Покажем, что определитель матрицы В:|В|³0

Из линейной алгебры известен следующий результат: определители всех главных миноров матрицы не отрицательны, если для любого вектора y неотрицательна квадратичная форма y^TAy ³ 0.

Рассмотрим квадратичную форму

Делаем замену y_iX_i = Y_i

Доказать самим, что математическое ожидание неотрицательной величины ³0. Показать, что при n=2 мы получаем двумерную плотность вероятности.

2. Можно показать, что

Если все r_Xi,Xj = 0, то все случайные величины независимы в совокупности.

3. Для любого 1 £ k £ n и для любой подпоследовательности случайных величин ее k-мерная плотность вероятности является k-мерной нормальной, с соответствующими параметрами и соответствующей матрицей ковариации

Теорема. Пусть задана n-мерная случайная величина Х₁...Х_n, которую обозначим Х, которая имеет многомерное нормальное распределение. Пусть задана невырожденная ковариационная матрица А. Рассмотрим произведение Y=AX. Компоненты вектора Y образуют n-мерную случайную величину с нормальным распределением. Непосредственно замечаем, что если В ковариационная матрица Х, а А – произвольная матрица, то ковариационная матрица Y равна АВА^Т.

Показать самим, что Аn_х – это вектор математического ожидания случайного вектора Y.

Y = AX => X = A^-1Y

Обратная матрица существует, так как матрица А невырождена. Рассмотрим произвольную область S в n-мерном арифметическом пространстве и найдем Р(ХÎS). В силу линейной связи случайных векторов X и Y событию ХÎS соответствует событие YÎD, где D – соответствующая область в n-мерном арифметическом пространстве. Очевидно, что Р(ХÎS)=Р(YÎD). Найдем вероятность первого события

Так как S произвольная, то выражение под интегралом – это плотность вероятности случайного вектора Y.

Следовательно, показатели при е одинаковы:

Покажем, что и степени при е тоже одинаковы:

Следствие. Пусть матрица А – прямоугольная m´n, где m<n, ранг которой равен m. Тогда компоненты случайного вектора Y = AX имеют m-мерное нормальное распределение.

1. Предположим, что матрицу А можно представить в виде А=(А₁А₂), где А₁ имеет размерность m´m и не вырождена. Сконструируем матрицу , которая имеет размерность n´n и невырождена.

Делаем преобразование: случайный вектор Z=CX. На ocновании доказанной теоремы компоненты вектора Z имеют нормальное n-мерное распределение.

Тогда на основании третьего свойства многомерного нормального распределения первые m компонент имеют n-мерное нормальное распределение n(y,An_x,ABA^T).

2. Матрица А имеет ранг m, но линейно-независимые столбцы расположены произвольно. Сводим матрицу А к виду А₁А₂ путем соответствующей перестановки столбцов и соответствующей перенумерации компонент вектора X.

Сходимость счетной последовательности случайных величин.

Имеем счетную последовательность случайных величин x₁(w), x₂(w),...,x_n(w). Каждая из них измерима, следовательно, имеют вероятность наступления такие события: а £ x₁(w) < b.

Покажем также, что имеет место а £ x₁(w) £ b.

Это событие состоит из всех w:

,

которые принадлежат s-алгебре и имеют вероятность наступления.

Под пределом счетной последовательности случайных величин понимается событие А, которое можно представить в следующих 3-х видах в зависимости от типа предела.

1)

Иными словами, событие А состоит из всех w, для которых выполняется: для любого сколь угодно большого натурального r существует такое m, что для всех n>m выполняется: , если вероятность события А равна единице, то сходимость называется с вероятностью единица.

2) Пусть рассматривается сходимость к константе, тогда событие А задается в виде:

3) Если рассматривается сходимость к случайной величине x(w):

Определение: Последовательность случайных величин x_1,x₂,...,xn,... сходится к случайной величине x(w) по вероятности, если "rÎn

Определение: Среднеквадратическая сходимость. Последовательность случайных величин x₁,x₂,...,x_n,... сходится к случайной величине x(w), если

Покажем, что из сходимости в среднеквадратическом вытекает сходимость по вероятности.

Действительно,

Если теорема верна, то из сходимости с вероятностью единица вытекает сходимость по вероятности.

Доказательство. Сходимость с вероятность единица наступает тогда, когда Р(А)=1. Запишем событие, противоположное событию А:

Доказать самим, что события В и А - противоположные. Тогда доказательство с вероятностью единица сводится к доказательству Р(В)=0.

Рассмотрим событие

при этом очевидно, что B_r(m+1) Ì B_rm:

Докажем, что вероятность:

`

`C₁C₂=Æ

Ряд чисел D_m является ограниченным и неубывающим и имеет предел

Тогда Р(В)=0 в том случае, когда "Р(В_r)=Æ

Теорема доказана.