47. Теорема Шеннона, що до пропускної здатності каналу зв'язку без перешкод. Швидкість передачі сигналу по такому каналу.

Теоремы Шеннона для источника общего видаописывают возможности кодирования источника общего вида с помощью разделимых кодов. Другими словами, описываются максимально достижимые возможности кодирования без потерь.

Прямая теорема

В применении к побуквенному кодированию прямая теорема может быть сформулирована следующим образом:

Существует префиксный, то есть разделимый код, для которого средняя длина сообщений отличается от нормированной энтропии не более, чем на единицу:

где:

• U — некоторый источник сообщений, а также множество всех его сообщений u₁,u₂,...,u_K

• w₁,w₂,...,w_K — длины сообщений истоника после кодирования

•  — средняя длина сообщений

•  — энтропия источника

• D — количество букв в алфавите кодирования (например, 2 для двоичного алфавита, 33 — для кодирования заглавными русскими буквами и т. д.)

В качестве доказательства теоремы исследуются характеристики кода Шеннона-Фано. Данный код удовлетворяет условиям теоремы, и он обладает указанными свойствами.

Обратная теорема

Обратная теорема ограничивает максимальную степень сжатия, достигаемую с помощью кодирования без потерь. В применении к побуквенному кодированию, описывает ограничение на среднюю длину кодового слова для любого разделимого кода.

Для любого разделимого кода с длинами w₁,w₂,...,w_K средняя длина сообщений больше или равна энтропии источника U, нормированный на двоичный логарифм от числа букв D в алфавите кодера:

Прямая теорема Шеннона для канала без помех

Не следует путать с другими теоремами Шеннона.

Теоремы Шеннона для источника общего видаописывают возможности кодирования источника общего вида с помощью разделимых кодов. Другими словами, описываются максимально достижимые возможности кодирования без потерь.

48. Теорема Шеннона, що до пропускноїздатності каналу зв'язку з білим шумом Лінійназалежністьпропускноїздатності каналу відсмугийого частот Граничнапропускназдатність каналу Енергопотенціал каналу зв'язку. Ефективність каналу зв'язку.

Теорема Шеннона:Для канала с помехами всегда можно найти такую систему кодирования, при которой сообщения будут переданы со сколь угодно большой степенью верности, если только производительность источника не превышает пропускной способности канала.

На случай канала с шумом есть теорема Шеннона, по которой пропускная способность и максимальная скорость передачи данных по каналу с шумом равняется:

С= F* log2 (1+S/N) бит/сек, где S/N - соотношение сигнал-шум в канале, F– полоса частот канала В цифровых системах параметром, эквивалентным отношению S/N, является отношение Eb/N0, которое определяется как отношение количества энергии в бите информации к спектральной плотности шумов.

Лінійназалежністьпропускноїздатності каналу відсмугийого частот.(в-пе из формулы видно)Граничнапропускназдатність каналу видна из графика. (хз, но ден его рисовал)

График зависимости нормированной полосы от С/Ш.

Показывает границу пропускной способности для безошибочной связи.

Рабочая область для безошибочной связи лежит выше(правее) кривой.

Для Eb/N0 =< - 1,6 дБ требуется бесконечная полоса частот.

Енергопотенціал каналу зв'язку–хз.

Ефективність каналу зв'язку:

Для оценки эффективности систем связи наиболее часто пользуются тремя показателями эффективности: это b - эффективность, g - эффективность, h - эффективность, определяемые формулами:

В этих формулах: R – скорость передачи информации; Pc / N0 – отношение мощности сигнала к спектральной плотности мощности помехи; Fk – полоса пропускания канала связи; C – пропускная способность канала связи.

Все перечисленные показатели эффективности являются безразмерными величинами и определяются в предположении, что в канале связи обеспечивается достаточно малая (заранее заданная) вероятность искажения сигналов (при передаче дискретных сигналов) или заданное отношение мощности сигнала к мощности помехи (при передаче непрерывных сигналов).

Приведённые выше показатели имеют простой физический смысл. b - эффективность показывает, как используется мощность сигнала при передаче информации с заданной скоростью R, g - эффективность показывает, как используется полоса частот канала связи, h - эффективность показывает, как используется пропускная способность канала связи.