10. Структурная схема система решающей обратной связью /рос/. Виды системы с рос: системы с ожиданием служебных сигналов, системы с непрерывной передачей и блокировкой, системы с адресным переспросом.

В системах с РОС приемник, приняв кодовую комбинацию и проанализировав ее на наличие ошибок, принимает окончательное решение о выдаче комбинации потребителю информации или о ее стирании и посылке по обратному каналу сигнала о повторной передаче этой кодовой комбинации (переспрос). Поэтому системы с РОС часто называют системами с переспросом, или системами с автоматическим запросом ошибок (АЗО). В случае принятия кодовой комбинации без ошибок приемник формирует и направляет в канал ОС сигнал подтверждения, получив который, передатчик передает следующую кодовую комбинацию.

Структурные схемы системы ПД с РОС

11. Применение эффективного (статистического) кодирования для сжатия данных. Основные положения теоремы Шеннона. Характеристики дискретных сообщений. Эффективность применения оптимальных неравномерных кодов. Префексные коды.

Эффективное кодирование – это процедуры направленные на устранение избыточности.

Основная задача эффективного кодирования – обеспечить, в среднем, минимальное число двоичных элементов на передачу сообщения источника. В этом случае, при заданной скорости модуляции обеспечивается передача максимального числа сообщений, а значит максимальная скорости передачи информации.

Пусть имеется источник дискретных сообщений, алфавит которого  .

При кодировании сообщений данного источника двоичным, равномерным кодом, потребуется  двоичных элементов на кодирование каждого сообщения.

Если вероятности   появления всех сообщений источника равны, то энтропия источника (или среднее количество информации в одном сообщении) максимальна и равна  .

В данном случае каждое сообщение источника имеет информационную емкость   бит, и очевидно, что для его кодирования (перевозки) требуется двоичная комбинация не менее  элементов. Каждый двоичный элемент, в этом случае, будет переносить 1 бит информации.

Теорема Шеннона — Хартли в теории информации — применение теоремы кодирования канала с шумом к архетипичному случаю непрерывного временно́го аналогового канала коммуникаций, искажённого гауссовским шумом. Теорема устанавливает шенноновскую ёмкость канала, верхнюю границу максимального количества безошибочных цифровых данных (то есть, информации), которое может быть передано по такой связи коммуникации с указанной полосой пропускания в присутствии шумового вмешательства, согласно предположению, что мощность сигнала ограничена, и гауссовский шум характеризуется известной мощностью или спектральной плотностью мощности

Рассматривая все возможные многоуровневые и многофазные методы шифрования, теорема Шеннона — Хартли утверждает, что пропускная способность канала C, означающая теоретическую верхнюю границу скорости передачи данных, которые можно передать с данной средней мощностью сигнала S через аналоговый канал связи, подверженный аддитивному белому гауссовскому шуму мощности N равна:

где

 — пропускная способность канала, бит/с;

 — полоса пропускания канала, Гц;

 — полная мощность сигнала над полосой пропускания, Вт или В²;

 — полная шумовая мощность над полосой пропускания, Вт или В²;

 — частное от деления отношения сигнала к его шуму (SNR) на гауссовский шум, выраженное как отношение мощностей.

Дискретные сообщения формируются в результате последовательной выдачи источником отдельных элементов - знаков. Множество различных знаков называют алфавитом источника сообщений, а число знаков - объемом алфавита. В частности, знаками могут быть буквы естественного или искусственного языка, удовлетворяющие определенным правилам взаимосвязи. Распространенной разновидностью дискретных сообщений являются данные.

Пре́фиксный код в теории кодирования — код со словом переменной длины, имеющий такое свойство (выполнение условия Фано): если в код входит слово a, то для любой непустой строки b слова ab в коде не существует. Хотя префиксный код состоит из слов разной длины, эти слова можно записывать без разделительного символа.

Например, код, состоящий из слов 0, 10 и 11, является префиксным, и сообщение 01001101110 можно разбить на слова единственным образом:

0 10 0 11 0 11 10

Оптимальными неравномерными кодами (ОНК) - называются коды, в которых символы алфавита кодируются кодовыми словами минима-льной средней длины.  Принципы построения оптимальных кодов:  1. Каждая кодовая комбинация должна содержать максимальное количество информации, что обеспечивает максимальную скорость передачи данных.  2. Символам первичного алфавита, имеющим наибольшую вероятность появления в сообщении, присваиваются более короткие кодовые слова, при этом, средняя длина кодовых комбинаций имеет минимально-возможную длину.