- •А.А. Кузьмин
- •1. Энтропия вероятностной схемы
- •1.1.Основные принципы, понятия и определения теории информации
- •1.2.Количество информации в сообщении
- •Энтропия источника сообщений
- •1.3.Условная энтропия
- •Взаимная информация и взаимная энтропия
- •1.7. Скорость создания информации дискретным источником без памяти
- •2. Элементы теории кодирования информации
- •Основные характеристики кодов
- •1.4.Теоремы кодирования Шеннона
- •Скорость передачи информации по каналу связи определяется количеством передаваемой информации и интервалом времени ее передачи:
- •Таким образом, для реализации помехоустойчивого кодирования в канале связи с помехами, способного обеспечить сколь угодно высокую степень верности, необходимо выполнение условия
- •Контрольные вопросы
- •3. Простые (безызбыточные) коды
- •3.4. Примеры неравномерных кодов
- •Построение кодового дерева Шеннона-Фано
- •Общие принципы построения помехоустойчивых кодов
- •Классификация помехоустойчивых кодов
- •Основные характеристики и корректирующие свойства блочных кодов
- •Линейные блочные коды с обобщенными проверками на четность
- •Формирование (n, k) кода с обобщенной проверкой на четность
- •Структурные схемы кодеров и декодеров линейного кода
- •Принцип построения циклического кода
- •Алгоритм декодирования циклических кодов
- •Структурная схема кодера циклического кода
- •Бчх коды
- •Рекуррентные коды. Кодирование с перемежением
- •Принцип построения рекуррентных (сверточных) кодов
- •Декодирование сверточных кодов
- •6. Пропускная способность каналов связи
- •Пропускная способность непрерывного канала связи
- •Пути повышения пропускной способности непрерывных каналов связи
- •1.5.Пропускная способность дискретного канала связи без помех
- •Контрольные вопросы
- •Элементы теории кодирования информации
- •Простые (безызбыточные) коды
- •Помехоустойчивые блочные коды
- •5. Рекуррентные коды. Кодирование с перемежением
- •6. Пропускная способность каналов связи
- •. Пропускная способность дискретного канала связи без помех 98
- •Основы теории информации
Структурные схемы кодеров и декодеров линейного кода
Кодирующее устройство для линейного кода (7, 4) представлено на рис. 6. Оно состоит из сдвигающего регистра с числом разрядов, равным числу информационных символов (k = 4), блоков сумматоров по модулю 2, число которых равно числу проверочных символов r и коммутатора К.
Блок
сумматоров
по модулю 2
Вход
Выход
Сдвигающий
регистр
К
Блок
сумматоров
по модулю 2
Блок
сумматоров
по модулю 2
Информационные символы одновременно поступают в сдвигающий регистр и через замкнутый контакт коммутатора К – на выход кодирующего устройства. На k-м такте информационные символы заполнят сдвигающий регистр, а на выходе сумматоров по модулю 2 сформируются проверочные символы. Алгоритм формирования проверочных символов заложен в схему соединения выходов сдвигающего регистра и входов блоков сумматоров по модулю 2.
Начиная с k +1 такта, коммутатор последовательно опрашивает выходы блоков сумматоров по модулю 2, выдавая на выход проверочные символы.
Схема декодера линейного кода (7, 4) приведена на рис. 7.
Сдвигающий
регистр
Вход
Выход
Блок
сумматоров
по модулю 2
Блок
сумматоров
по модулю 2
Блок
сумматоров
по модулю 2
Корректор
ошибок
Анализатор
ошибок
m2
m2
m2
S3
S2
S1
Схема сравнения
Рис. 7. Декодер
линейного кода (7, 4)
В состав декодера входят: кодер (сдвигающий регистр и блоки сумматоров по модулю 2 со связями), схема сравнения, анализатор ошибок и корректор ошибок.
Регистр служит для запоминания информационных символов кодовой комбинации. Заполнение регистра производится последовательно за k тактов. По заполнении регистра на выходах блоков сумматоров формируются вычисленные значения проверочных символов, которые подаются на первые входы сравнивающих элементов (сумматоры по модулю 2). Начиная с k + 1 такта, последовательно с помощью коммутатора К на вторые входы сравнивающих элементов подаются проверочные символы принятой кодовой последовательности. Схема сравнения формирует проверочные синдромы Si: если принятый и вычисленный по результатам приема проверочные символы совпадают, то значение синдрома равно нулю, в противном случае оно равно единице. Анализатор ошибки по значению проверочных синдромов определяет отсутствие или наличие ошибки и место ее появления. Исправление информационных символов производится в корректоре.
Заметим, что в общем случае при декодировании линейного кода с исправлением ошибок в памяти декодера должна храниться таблица соответствия между значениями векторов синдромов и векторов ошибок. С приходом каждой кодовой комбинации декодер должен провести сравнение вектора полученных синдромов со всеми хранящимися в памяти векторами синдромов. При небольшом количестве проверочных символов эта операция не вызывает затруднений. Ситуация резко меняется, если используется высокоэффективный код с достаточно большим числом проверочных символов.
4. 5. Циклические коды
