- •1. Общие сведения о системах электросвязи
- •2. Кодирование и модуляция
- •3. Демодуляция и декодирование.
- •3.1 Динамическое представление сигналов.
- •4. Математические модели сообщений и сигналов. Спектральные представления сигналов. Ортогональные сигналы и обобщенные ряды Фурье. Примеры ортонормированных базисов.
- •5. Периодические сигналы и ряды Фурье.
- •7. Энергетические спетры сигналов.
- •9. Спектральная трактовка дискретизации.
- •10. Случайные процессы и их осн. Хар-ки.
- •12. Колебания при угловой модуляции.
- •13. Помехоустойчивость ам, чм и фм.
- •14. Классификация каналов связи.
- •15. Преобразование сигналов в линейных и нелинейных каналах.
- •16. Аддитивные помехи в канале.
- •17. Критерии качества и правила приема дискретных сооб-й. Отношение правдоподобия.
- •20. Помехоустойчивое кодирование.
17. Критерии качества и правила приема дискретных сооб-й. Отношение правдоподобия.
Критерий
Котельникова
или критерий идеального наблюдателя,
согласно которому качество демодулятора
оценивают безусловной (средней)
вероятностью правильного приёма символа.
Пусть на вход демодулятора в течение
отрезка [0, T] приходит некоторый элемент
сигнала z(t).
Предположим, что демодулятор принимает
при этом решение, что передан символ
bi,
т.е.
выдаёт оценку
.
Вероятность того, что это решение
правильно, очевидно, равна условной
вероятности P(bi|z(t))
того, что действительно передавался
символ bi,
при условии прихода реализации элемента
сигнала z(t).
Её называют апостериорной
вероятностью символа bi
(т.е.
вероятностью, определённой после опыта,
заключающегося в наблюдении и анализе
сигнала z(t)).Критерий
идеального наблюдателя обеспечивается
решающей схемой, построенной по правилу
максимума апостериорной вероятности
— решение , принимается в том случае,
если выполняется система из m-1
неравенств:
(1)
Для двоичной
системы сигналов упомянутое правило
сводится к проверке неравенства
P(1|z)>P(0|z) (2). При выполнении неравенства
(2) регистрируется символ 1, в противном
случае — 0. Другая форма записи решения
по критерию Котельникова:
Приёмник, реализующий этот алгоритм , называют приёмником Котельникова. Для двоичной системы правило сводится к проверке неравенства P(1)ω(z׀1)>P(0)ω(z׀0), при выполнении которого регистрируется символ 1, а при невыполнении — 0. Для построения решающей схемы по правилу критерия идеального наблюдателя необходимо знать априорные вероятности символов P(bi), а также свойства модулятора и канала, определяющие условные плотности w(z|bi),j - функции правдоподобия. Критерий Котельникова можно записать иначе. Решение о том, что передавался символ bi должно приниматься, если для всех j≠ i выполняются т — 1 неравенств
(2)
Отношение в левой
части этого неравенства называется
Отношением
правдоподобия
двух гипотез: о том, что передавался
символ bi,
и о том, что передавался символ bj.
Его обозначают Λij,
В случае, когда все m
символов передаются равновероятно,
т.е. P(bi)=1/m,
правило (2) упрощается: Λij>1,
i
(3)
Иногда вводят в
рассмотрение помимо т
гипотез о передаче символов
ещё дополнительную ("шумовую")
гипотезу о том, что никакой сигнал не
передавался, т.е. z(t)=n(t)
— чистая помеха. Отношение правдоподобия
обычно обозначают просто Λi.
Тогда правило (3) можно записать так: Λi
> Λj
при всех
j ≠ i,
(4)
Такое правило максимума правдоподобия реализует критерий идеального наблюдателя при том условии, что все символы передаются равновероятно. Для двоичной системы правило (4) сводится к проверке неравенства Λ1>Λ0 (5). В технике связи преимущественно применяют правило максимального правдоподобия (4), (5). В том случае, когда все символы передаются равновероятно, правило максимального правдоподобия реализует критерий идеального наблюдателя.
Модель дискретно непрерывного канала
Дискретно-непрерывный канал с независимыми символами bi, на входе и непрерывным сигналом z(t) на выходе описывается априорными вероятностями входных символов P(bi) и переходными (условными) плотностями w[z| bi] принимаемой реализации z{t) (на заданном интервале Т) при условии передачи символа bi. Эту плотность называют функцией правдоподобия (см. гл. 5). Вместо функций правдоподобия дискретно-непрерывный канал можно описать апостериорными вероятностями Р(bi|z) передачи символа bi; при фиксации на приёме колебания z(t). Согласно формуле Байеса
где
плотность принимаемого колебания
где
P(bi)
— априорная вероятность передачи
символа bi
(т.е. та вероятность, которая имеет место
до наблюдения и анализа, и определяемая
статистикой источника сообщения и
правилом кодирования.
18. Оптимальные алгоритмы приема при полностью известных каналах (когерентный прием). Помехоустойчивость оптимального когерентного приема. Предположим, что все искажения в канале строго детерминированы и случайным является только гауссовский аддитивный шум n(t), который вначале полагаем белым, со спектральной плотностью n0. Это значит, что при передаче символа bi (i=0,1,…,m-1) принимаемое колебание можно описать моделью: z(t)=si(t)+n(t), 0 ≤ t ≤ T, (5.21) где все si(t)=γf(t-τ-kT,bk(i))=γui(t-τ) известны.
Определим в этих условиях алгоритм работы оптимального (т.е. основанного на правиле максимального правдоподобия) демодулятора, анализирующего сигнал на тактовом интервале О...T. Для этого необходимо найти отношения правдоподобия для всех т возможных сигналов относительно нулевой гипотезы (z(t)= n(t)).
Задача затрудняется тем, что ширина спектра сигнала бесконечна, а поэтому пространство сигналов бесконечномерное L2(T). Для таких сигналов (или бесконечномерных векторов) не существуют плотности вероятностей. Однако существуют n-мерные плотности вероятностей для любых п сечений сигнала.
Заменим вначале белый шум квазибелым, имеющим ту же одностороннюю спектральную плотность мощности n0, но только в некоторой полосе частот F= п/2Т, где n>>1. Рассмотрим дополнительную гипотезу, т.е. будем считать, что z(t) - стационарный шум с нулевым МО. Возьмём на тактовом интервале п равноотстоящих сечений через Δt=1/2F=T/n. Отсчёты Z1,...,Zn в этих сечениях для квазибелого гауссовского шума независимы
При гипотезе, что передавался символ bi, согласно (5.21) n(t)=z(t)-si(t).
Вернёмся к исходной задаче для белого шума. Для этого будем расширять полосу F, тогда число сечений п стремится к бесконечности, а Δt — к нулю. Суммы обращаются в интегралы, и после раскрытия квадрата в первом слагаемом правило решения (выбора оценки ^bi) можно написать следующим образом: правило приёма сводится к проверке системы неравенств
,(5.25)
где
— энергия
ожидаемого сигнала Si(t).
Выражение (5.25) определяет те операции
(алгоритм
приёма),
которые должен совершать оптимальный
приёмник над входным колебанием.Для
двоичной системы алгоритм (5.25) сводится
к проверке одного неравенства
(5.26)
При выполнении неравенства (5.26) регистрируется символ "1", в противном случае "0".
Помехоустойчивость оптимального когерентного приема Приходящий сигнал z(t) является случайным, так как, во-первых, заранее не известна реализация передаваемого сигнала, во-вторых, он содержит случайную помеху N(t)
В этом случае согласно (5.26) алгоритм оптимального приёма
(5.44) При выполнении неравенства (5.44) оптимальный приёмник регистрирует символ 1, соответствующий сигналу s1(t), в противном случае — символ 0, соответствующий сигналу S0(t). Если действительно передаётся символ 1, то z(t) = s1(t) + N(t). При этом вероятность ошибки определяется вероятностью того, что неравенство (5.44) не выполнено, т.е. вероятностью выполнения обратного неравенства.
Если N(t) - нормальный белый стационарный шум с нулевым средним и односторонней спектральной плотностью мощности n0, то вероятность ошибки, через Q-функцию можно (5.47) записать в виде
(5.49) Функция
табулирована и называется дополнительной
функцией ошибок. При заданной интенсивности
помехи nq
потенциальная
помехоустойчивость двоичной системы
зависит только от так называемой
эквивалентной
энергии сигналов
(5.50) которая равна
квадрату расстояния между сигнальными
точками в пространстве Гильберта.
Помехоустойчивость выше (вероятность
ошибки меньше) у той системы, у которой
больше эквивалентная энергия используемых
сигналов, независимо от формы используемых
сигналов. Последние, в частности, могут
быть как простыми (отрезками синусоиды
с малой базой), так и сложными (шумоподобными,
с большой базой).
Прием сигналов с неопред. фазой(некогеренчтый прием).
Многие каналы можно описать моделью с флуктуирующей фазой. Нередко фаза флуктуирует довольно быстро, и точную её оценку получить не удаётся. Кроме того, оценка фазы требует иногда применения сложных устройств. Поэтому даже в тех случаях, когда принципиально можно оценить начальную фазу приходящего сигнала, порой от этого отказываются и используют алгоритм, построенный в предположении, что начальная фаза приходящего сигнала не известна и может принимать любое значение на интервале (0, 2π). Такой метод приёма называется некогерентным. Алгоритм оптимального некогерентного приёма впервые получен Л.М. Финком.Для вывода правила оптимального некогерентного приёма будем исходить из логарифма отношения правдоподобия lnΛi для сигнала si(t), которое при точно известной начальной фазе выражается формулой (5.23). Используя представление для сигнала (4.44), где γ — известный коэффициент передачи канала, а θ - случайный сдвиг в канале, формулу для lnΛi можно (после устремления в (5.23) Δt→0) записать так:
.
(5.67)
Здесь lnΛi
является случайной величиной, принимающей
различные значения при различных θ.
Правило максимума правдоподобия в такой
ситуации заключается в выборе такого
решения, для которого математическое
ожидание Λi
будет наибольшим. При нахождении
заметим, что второй интеграл в правой
части (5.67) от θ не зависит и равен энергии
EПi
сигнала ui(t)
на входе канала (на передатчике).
19. Основной понятийный аппарат теории информации. Частное количество информации. Энтропия источника сообщении. Условная энтропия.Количество информации передаваемое по каналу связи.Пропускная способность.
Частное количество информации i(a):
1.Количество информации i(a)должно быть аддитивной функцией, т.е. для пары взаимно независимых сообщений a1,a2 оно должно равняться сумме количества информации в каждом из них, т.е. i(a1,a2) = i(a1) + i(a2)
2. Количество информации, содержащейся в достоверном сообщении (имеющем вероятность Р(а) = 1), равно нулю.
3. Количество информации должно зависеть только от вероятности переданного сообщения, т.е.i(a) =f{P(a)).
4. Количество информации должно быть непрерывной функцией от Р(а).
Можно показать, что единственная функция, удовлетворяющая всем этим условиям, имеет вид i(a)= -logP(a)≥0.
Энтропия
источника сообщений.
Для того, чтобы получить исчерпывающую
информационную характеристику источника
сообщений, который, вообще говоря, может
выдавать последовательности неограниченной
длины, нужно вычислить предел среднего
количества информации i(an),
отнесённый к одному символу
последовательности. Полученная величина,
Н(А),
называется
энтропией
источника сообщений,
т.е. Н(
А) =
Определим
условную
энтропию
Н(X|Y):
Н(X|Y)=
Условная энтропия обладает следующими свойствами:
1. H(X|Y)≥0
2.Если вход и выход канала связаны взаимно однозначно, т.е.
P(x|
y)=
то H(X|Y)=0
3.H(X|Y) ≤(X)
4.H(X|Y) =H(X), тогда, и только тогда, когда P ( x | y ) =Р(х)
Количество информации передаваемое по каналу связи.
Количество информации, передаваемой по каналу связи I(X,Y), или взаимную информацию между выходом Y и входом X как разность между количеством информации, поступающей на вход (которое равно энтропии входа H(Х)), и количеством информации, потерянным в канале связи (котороеb равно условной энтропии H (X|Y)).Поэтому I(X,Y) = H(Х) - H(X|Y).
Эта величина обладает следующими свойствами:
1.I(X,Y) =I(Y,X) =HY) - H(Y|X), где энтропия выхода H(Y) и условная энтропия выхода при известном входе H(Y|X)
2.I(X,Y)≥0
3.I(X,Y) = 0, тогда и только тогда, когда вход и выход канала статистически независимы,
4.I(X,Y) ≤(X)
5.Если в канале связи отсутствуют помехи,
то I(X,Y) =H(X)
6.I(X,Y) ≤H(Y).
7.I(Х,Х) = H(Х).
8.Любые детерминированные или случайные преобразования выходных последовательностей канала, в том числе и группировка наблюдений, т.е. объединение нескольких последовательностей, принадлежащих определённому подмножеству в один символ, не могут увеличить количество информации. В случае, если эти преобразования взаимно однозначные — количество информации не меняется.
Пропускная способность.
Определим
пропускную способность
С
дискретного канала
связи
с
помехами как
максимум количества информации I(X,Y)
по
всевозможным
распределениям р(х)
входа канала, т.е. C
= max
I(X,Y).
Из определения видно, что пропускная
способность канала
зависит только
от свойств самого канала, т.е. входного
и
выходного
алфавитов
X, У и
заданного на них условного распределения
вероятностей
р(у\х),
,
и не зависит
от того источника, который подключён
ко входу канала.
Пропускная способность канала имеет следующие свойства:
1. С = m a x { Н ( Y) - H(У|Х)}; 2.C≥0; 3.С = 0, тогда и только тогда, когда вход и выход канала статистически независимы. ; 4.С ≤ logm. ; 5.С = logmпри отсутствии помех в канале связи; 6.С≤ max{H(Y)} ≤ max{H(Y)}.
