9.Статистические свойства случайных процессов .

Случайной величиной является такая величина, значение которой заранее неизвестно.

Непрерывный случайный процесс – процесс, для которого случайные величины X(t1), X(t2)и т.д. могут принимать любое значение в пределах заданной области возможных значений. Эта область может быть конечной, бесконечной и полубесконечной.

Дискретный случайный процесс – это процесс, для которого случайные величины могут принимать только определенные значения и никакие другие.

Если каждая реализация случайного процесса является случайной функцией времени и ее будущие значения не могут быть точно предсказаны на основе зарегистрированных ранее значений, такой случайный процесс называется недетерминированным. Случайный процесс (СП) X(t) задается, в общем случае, ансамблем своих реализаций, т.е. бесконечным множеством потенциально возможных случайных функций времени x(t) в рамках указанного процесса, с указанием вероятностей их появления (рис. 3.9).

Рис. 3.9. Ансамбль реализаций случайного процесса.

Для описания случ проц исп одномер законы распред знач ср {x₁(t₁); x₂(t₁); x₃(t₁) ... x_i(t₁) ... x_k(t₁)}  {X} случайного процесса, представляющих то или иное сечение – выборка значений СП.

Закон распределения плотности вероятности показывает для каждого конкретного значения x вероятность события, заключающегося в том, что наблюдаемое значение X попадет в бесконечно малый интервал значений x вокруг значения x:

W(x)=P [x  X  x+x ], x0.

Дифференциальный и интегральный законы однозначно связаны между собой:

Рис. 3.10. Пример взаимосвязанных законов распределения

На функцию распределения вероятностей наложены следующие ограничения:

1) 0 F(x) 1 при – < x < +;

2) F(–)=0; F(+)=1;

3) F(x) не уменьшается при возрастании x;

4) P[x₁ < X  x₂ ] = F(x₂) – F(x₁).

Основные свойства закона распределения плотности вероятности мгновенных значений СП записываются следующим образом.

1. W(x)  0 при -<x<+.

2. – условие нормировки.

3. .

4.Математическое ожидание значений случайного процесса в сечении находится путем статистического усреднения по ансамблю:

5.Мерой разброса значений СП относительно своего среднего служит второй центральный момент или дисперсия:

Для стационарных процессов m_x имеет смысл постоянной составляющей этого процесса, а _x² – средней мощности переменной составляющей.

согласно центральной предельной теореме (теореме Ляпунова) закон распределения СП.

Все кривые нормально распределенных процессов с разными мощностями могут быть сведены к стандартному виду, если в качестве переменной взять . Тогда значения СП будут выражаться не в абсолютных величинах (вольтах, амперах), а в долях от стационарного отклонения _x (рис. 3.13).

(3.22)

где – хорошо изученная и затабулированная функция, так называемый интеграл вероятности или функция ошибок erf(u).

Выражение для закона распределения плотности вероятности в новых переменных

10.Информационные характеристики источников аналоговых сообщений

Вероятность появления конкретного значения p(x_i) может быть найдена из закона распределения вероятности значений СП:

Выполним предельный переход и заменим x, бесконечно малым приращением dx, тогда

Но и окончательно получаем

дифференциальную энтропию выборки непрерывного сигнала как реализации СП:бит/выборка

Дифференциальная энтропия показывает среднее количество информации, приходящееся на одно произвольное значение в сечении выборки СП или его отдельной реализации.

Определим дифференциальные энтропии для трех случайных процессов: гармонического колебания со случайной, равномерно распределенной начальной фазой; треугольной волны со случайно распределенной начальной фазой и случайного сигнала с нормальным законом распределения мгновенных значений. В случае гармонического колебания, значения гармоники однозначно связаны со значениями ее фазы (рис. 3.15):

x(t)=A₀cos(₀t+₀)=A₀cos ,

где A₀ и ₀ – соответственно амплитуда и частота гармонического колебания, заранее известные и постоянные числа.

найдем энтропию выборки случайного гармонического колебания

где k = log₂e  1,443 – модуль перехода от двоичного логарифма к натуральному.

, тогда

Треугольная волна со случайной, равномерно распределенной начальной фазой, имеет равномерное распределение W(x)=1/2Aoи среднее количество информации, приходящейся на одну выборку

-Из всех сигналов с ограниченной средней мощностью, наибольшей энтропией обладает источник с гауссовскими сигналами:

Гауссовский “белый” шум, обладая наибольшей энтропией, является наиболее “вредной” помехой, но, с другой стороны, если в роли полезных сигналов использовать шумоподобные сигналы, то производительность источника будет максимальна.