5. Величина Хартли. Количественная оценка информации.

Необходимость измерения количества информации остро встала при появлении систем передачи информации (Рис.1) (к таким системам можно отнести, например, телеграфные).

Передающее устройство преобразует сообщение в сигнал. Приемное устройство преобразует сигнал в сообщение. В любой системе передачи обязательно существует преобразование сообщения в сигнал, которое должно быть взаимно однозначным. Для обеспечения однозначности используются дискретные сигналы из n элементарных (единичных) сигналов. Единичный сигнал занимает, как правило, одну временную позицию. Каждый элементарный сигнал может иметь K различных значений. Величина K зависит от способов модуляции.

Рис1. Структурная схема системы передачи информации

Если используются дискретные сигналы, характеризуемые длиной сообщения n и основанием системы счисления K (как правило, K = 2), то должно выполняться условие: M<=Kⁿ, где M – число сообщений.

Можно прийти к заключению, что Kⁿ– количество информации. Это в принципе верно, но такая мера неудобна для практического использования, так как не удовлетворяет условию аддитивности.

Проиллюстрируем это утверждение примером. Пусть имеется два источника сигнала

K₁=K₂=2, n₁=2, n₂=3 Тогда

Но для .

Нужно выбрать такую меру, которая была бы пропорциональна числу элементарных сигналов в сообщении, то есть приращение количества информации составляло бы dI=Kdn. Можно проделать следующие преобразования:

Последняя формула была выведена Хартли в 1928 г. и носит название формулы Хартли. Из формулы следует, что неопределенность в системе тем выше, чем больше M . Основание логарифма a можно выбрать произвольно. Наиболее часто встречаются следующие случаи:

Следует отдельно отметить первый случай; количество информации, равное одному биту, определяет простейшую ситуацию с двумя равновозможными исходами.

Формула Хартли получена при ограничениях.

Отсутствие смысловой ценности информации.

M возможных состояний равновероятны: P = 1/M – вероятность появления одного сообщения.

Между элементарными сигналами отсутствует корреляция, и все значения равновероятны. Утверждение об отсутствии корреляции следует из того, что для передачи сообщений используются все возможные сигналы. Равная вероятность всех K значений сигналов следует из формулы p=1/K – вероятность появления любого значения из K возможных.

Возникают ситуации, в которых отмеченные выше ограничения не действуют, по этому для них формула Хартли дает неверные результаты. Другое представление количества информации было найдено Клодом Шенноном примерно через 20 лет после опубликования формулы Хартли.

6. Спектральное отличие сигналов чм и фм и частота полосовой ширины.

Фазовая модуляция - один из видов модуляции колебаний, при которой фаза несущего колебания управляется информационным сигналом.

В случае, когда информационный сигнал является дискретным, то говорят о фазовой манипуляции. Хотя, строго говоря, в реальных изделиях манипуляции не бывает, так как для сокращения занимаемой полосы частот манипуляция производится не прямоугольным импульсом, а колоколообразным. Несмотря на это, при модуляции дискретным сигналом говорят только о манипуляции.

По характеристикам фазовая модуляция близка к частотной модуляции. В случае синусоидального модулирующего (информационного) сигнала, результаты частотной и фазовой модуляции совпадают.

Частотная модуляция (ЧМ) — вид аналоговой модуляции, при котором информационный сигнал управляет частотой несущего колебания. По сравнению с амплитудной модуляцией здесь амплитуда остаётся постоянной.

Фазовая модуляция (ФМ, phase modulation - PM). При фазовой модуляции значение фазового угла постоянной несущей частоты колебаний _o пропорционально амплитуде модулирующего сигнала s(t). Соответственно, уравнение ФМ – сигнала определяется выражением:

u(t) = U_m cos[_ot + ks(t)],

где k – коэффициент пропорциональности, который называется индексом фазовой модуляции.

При s(t) = 0, ФМ – сигнал является простым гармоническим колебанием. С увеличением значений s(t) полная фаза колебаний (t)=_ot+ks(t) нарастает во времени быстрее и опережает линейное нарастание _ot. Соответственно, при уменьшении значений s(t) скорость роста полной фазы во времени спадает. В моменты экстремальных значений s(t) абсолютное значение фазового сдвига  между ФМ – сигналом и значением _ot немодулированного колебания также является максимальным и носит название девиации фазы (вверх _в = ks_max(t), или вниз _н = ks_min(t) с учетом знака экстремальных значений модулирующего сигнала).

Для колебаний с угловой модуляцией применяется также понятие мгновенной частоты, под которой понимают производную от полной фазы по времени:

ω(t) = (t)/dt = ω_o + k ds(t)/dt.

Полная фаза колебаний в произвольный момент времени может быть определена интегрированием мгновенной частоты:

(t) =[интегр. от –бесконечности до t]ω(t) dt,

Частотная модуляция (ЧМ, frequency modulation - FM) характеризуется линейной связью модулирующего сигнала с мгновенной частотой колебаний, при которой мгновенная частота колебаний образуется сложением частоты высокочастотного несущего колебания _o со значением амплитуды модулирующего сигнала с определенным коэффициентом пропорциональности:

(t) = _o + ks(t).

Уравнение ЧМ – сигнала:

u(t) = U_m cos(ω_ot+k[интеграл от 0 до t]s(t) dt +_o).

Аналогично ФМ, для характеристики глубины частотной модуляции используются понятия девиации частоты вверх _в = ks_max(t), и вниз _н = ks_min(t).

Частотная и фазовая модуляция взаимосвязаны. Если изменяется начальная фаза колебания, изменяется и мгновенная частота, и наоборот. По этой причине их и объединяют под общим названием угловой модуляции (УМ). По форме колебаний с угловой модуляцией невозможно определить, к какому виду модуляции относится данное колебание, к ФМ или ЧМ, а при достаточно гладких функциях s(t) формы сигналов ФМ и ЧМ вообще практически не отличаются.