Слабый закон больших чисел

Пусть есть бесконечная последовательность одинаково распределённых и некоррелированных случайных величин , определённых на одном вероятностном пространстве . То есть их ковариация . Пусть . Обозначим S_n выборочное среднее первых n членов:

.

Тогда .

[Править] Усиленный закон больших чисел

Пусть есть бесконечная последовательность независимых одинаково распределённых случайных величин , определённых на одном вероятностном пространстве . Пусть . Обозначим S_n выборочное среднее первых n членов:

.

Тогда почти наверное.

математическое ожидание

Математи́ческое ожида́ние — мера среднего значения случайной величины в теории вероятностей. В англоязычной литературе и в математическом сообществе Санкт-Петербурга обозначается через (например, от англ. Expected value или нем. Erwartungswert), в русской — M[X] (возможно, от англ. Mean value, а возможно от рус. Математическое ожидание). В статистике часто используют обозначение μ.

Определение

Пусть задано вероятностное пространство и определённая на нём случайная величина X. То есть, по определению,  — измеримая функция. Если существует интеграл Лебега от X по пространству Ω, то он называется математическим ожиданием, или средним (ожидаемым) значением и обозначается M[X] или .

[править] Основные формулы для математического ожидания

• Если F_X(x) — функция распределения случайной величины, то её математическое ожидание задаётся интегралом Лебега — Стилтьеса:

.

[править] Математическое ожидание дискретного распределения

• Если X — дискретная случайная величина, имеющая распределение

,

то прямо из определения интеграла Лебега следует, что

.

[править] Математическое ожидание целочисленной величины

• Если X — положительная целочисленная случайная величина (частный случай дискретной), имеющая распределение вероятностей

то её математическое ожидание может быть выражено через производящую функцию последовательности {p_i}

как значение первой производной в единице: M[X] = P'(1). Если математическое ожидание X бесконечно, то и мы будем писать

Теперь возьмём производящую функцию Q(s) последовательности «хвостов» распределения {q_k}

Эта производящая функция связана с определённой ранее функцией P(s) свойством: при | s | < 1. Из этого по теореме о среднем следует, что математическое ожидание равно просто значению этой функции в единице:

M[X] = P'(1) = Q(1)

[Править] Математическое ожидание абсолютно непрерывного распределения

• Математическое ожидание абсолютно непрерывной случайной величины, распределение которой задаётся плотностью f_X(x), равно

.

[Править] Математическое ожидание случайного вектора

Пусть  — случайный вектор. Тогда по определению

,

то есть математическое ожидание вектора определяется покомпонентно.

[Править] Математическое ожидание преобразования случайной величины

Пусть  — борелевская функция, такая что случайная величина Y = g(X) имеет конечное математическое ожидание. Тогда для него справедлива формула:

,

если X имеет дискретное распределение;

,

если X имеет абсолютно непрерывное распределение.

Если распределение случайной величины X общего вида, то

.

В специальном случае, когда g(X) = X^k, Математическое ожидание называется k-тым моментом случайной величины.