2. Укрупнение сообщений

Энтропия – это среднее количество информации приходящееся на одно сообщение. Чем больше энтропия, тем больше информации несет один символ и тем больше скорость передачи информации. Чем больше энтропия, тем больше информации несет один символ и тем больше скорость передачи информации при заданной бодовой скорости - количество посылок в единицу времени

Основные способы увеличения энтропии:

1)наличие корреляционных связей между символами уменьшает энтропию.

Чтобы увеличить энтропию, мы кодируем не буквы а слова. Это называется укрупнение алфавита источника.

Эта же цель достигается путем предсказания - кодирования с предсказанием последующих символов по предыдущим

2) Неравновероятность символов уменьшает энтропию. Для устранения неравновероятности строят "кодовое дерево"

Наиболее вероятные символы передаются наиболее короткими кодовыми комбинациями.

3)Для дальнейшего увеличения энтропии увеличивают основание кода m.

Укрупнения сообщений:

Цель статистического кодирования- увеличить энтропию и увеличить скорость передачи информации.

Пример: порядок расчета энтропии источника зависимых сообщений

1. Определить общее количество N независимых слов источника. N=mⁿ (m=2;n=2)

2. Определим вероятность каждого слова: p(AM)= p(A)*p(M/A); p(MA)=p(M)*p(A/M); p(AA)=p(A)*p(A/A); p(MM)=p(M)*p(M/M)

3. Т.к. энтропия независимы то энтропия источника «на слово» найдем по формуле:

Нсл= −p(AM)logp(AM)-p(MA)logp(MA)-p(MM)logp(MM)-p(AA)logp(AA)= [дв.ед./слово]

4. Энтропия на одну букву или символ(n=2): H=Hcл/n=0,828 [дв.ед/cимвол]; Избыточность т.е степень отличия энтропии источника от максимального значение R=(H_max-H)/H_max где H_max=log₂2=1

5. Т.к. разных слов 4 то нужно использовать код с основание m=4, длина кодовой комбининации n=1, то общее число комбинаций N=4

Энтропия рассчитывает по формуле дискретного источника независимых сообщений:

Нсл= −p(1)logp(1)-p(2)logp(2)-p(3)logp(3)-p(4)logp(4)=1,659. [дв.ед./сообщение]

Таким образом увеличили энтропию в 2 раза. Определим избыточность источника, для H_max=log₂4=2; R=1-H/ H_max Избыточность осталось та же Т.о. увеличив энтропию мы не уменьшаем избыточность. Это означает, что есть возможность еще более увеличить энтропию.

Билет 8

1. Потенциальная помехоустойчивость дам,дчм,дфм.

Способность Системы связи препятствовать мешающему влиянию помех называется помехоустойчивостью. Максимально достижимая помехоустойчивость называется потенциальная помехоустойчивость, которой соответствует минимальная вероятность ошибки р (р=limNoш/N (где N –общее количество переданных символов, Nош- количество ошибок).

Приемник, реализующий потенциальную помехоустойчивость, т.е. обеспечивающий минимальную вероятность ошибки, называется оптимальным приемником. (Это минимальная вероятность ошибки не может быть очень большой, но ни какой другой приемник не даст меньшей вероятности ошибки).

Что бы обеспечить потенциальную помехоустойчивость оптимальный приемник должен работать по правилу: ∫[z(t)-U₁(t)]²dt <∫[z(t)-U₀(t)]²dt R=1;

∫[z(t)-U₁(t)]²dt >∫[z(t)-U₀(t)]²dt R=0

Полной характеристикой помехоустойчивости является средняя вероятность ошибки

p=p(1)*p(0/1)+p(0)*p(1/0)

m1=0

disp^2=G0*Ep

Выводы:

1)максимальная вероятность ошибки равна: Pmax=1-F(0)=0.5 для двоичной системы связи

2)чем больше Ер, тем меньше вероятность ошибки и при Ep->inf; p=>1-F(inf)=0

3)потенциальная помехоустойчивость ОП не зависит от формы посылок, зависит только от Ер

4)наиболее помехоустойчивым будет тот вид модуляции, который обеспечивает max Ep при фиксированной мощности передатчика

Epдам=Um^2 * T/2

Ердчм=Um^2 * T

Ердфм=2Um^2 * T

Т.о. наиболее помехоустойчивым способом передачи двоичных сигналов является ДФМ.Она выигрывает в 2 раза по мощности передатчика по сравнению с ДЧМ и в 4 раза по мощности передатчика по сравнению с ДАМ.

Чем меньше мощность, тем меньше передатчик, меньше потребляемая энергия источника питания, тем он дешевле.

PошДАМ=1-F(h0/2^1/2)

РошДЧМ=1-F(h0)

РошДФМ=1-F(h0*2^1/2)