- •Энтропия как мера неопределенности физической системы
- •Энтропия сложной системы
- •Условная энтропия
- •Основные свойства условной энтропии
- •Количественные аспекты информации
- •Количество информации, как мера снятой неопределенности
- •Объем информации
- •Взаимная информация
- •Взаимная информация
- •Вопросы
- •Упражнения
- •Лабораторная работа Свойства энтропии
- •Глава 2. Неопределенность непрерывных случайных величин Энтропия непрерывной случайной величины х
- •Количество информации для непрерывных систем
- •Принцип экстремума энтропии и экстремальные распределения
- •Сравнительная оценка сообщений, передаваемых по нормальному закону и равновероятному закону распределений
- •Епсилон -энтропия (ε-энтропия )
- •Вопросы
- •Упражнения
- •Глава3. Глава 3 Передача информации по каналам связи
- •Источники сообщений
- •Избыточность информации
- •Передача информации по каналу связи. Пропускная способность канала
- •Матрица для нахождения условной вероятности
- •Матрица условных вероятностей имеет вид
- •Согласование скорости выдачи информации, выдаваемой источником, с пропускной способностью канала связи
- •Согласование оконечных устройств с каналами связи
- •Вопросы
- •Упражнения
- •Лабораторная работа Скорость передачи информации и пропускная способность каналов связи
- •Глава4. Кодирование информации
- •Префиксные коды
- •Основные теоремы кодирования
- •Оптимальное кодирование
- •Код Шеннона-Фано
- •Блочное кодирование
- •Код Хаффмана
- •Совмещенный способ построения кода Хаффмана Совмещенный способ построения кода Хаффмана – объединение двух процессов: обычного алгоритма построения и метода дерева.
- •Сжатие информации
- •Классификация сжатия по виду информации
- •1) Побуквенное сжатие
- •2) Сжатие слов и словосочетаний
- •3) Сжатие и свертывание текста
- •4) Сжатие массивов чисел
- •5) Сжатие графической информации
- •Вопросы
- •Упражнения
- •Лабораторная работа Кодирование информации
- •Содержание отчета
- •Глава 5. Помехоустойчивое кодирование
- •Коды с обнаружением ошибок
- •1. Код с проверкой на четность.
- •2. Код с постоянным весом.
- •Корректирующие коды
- •Код Хэмминга
- •Проверяем ее
- •Техническая реализация кода Хэмминга
- •Декодирование циклических кодов
- •Вопросы
- •Упражнения
- •Приложение
Вопросы
5.1. Каковы причины возникновения помех, и какие помехи вызываются этими причинами.
5.2. Назовите коды, предназначенные для обнаружения ошибок.
5.3. Дайте определение инверсного кода.
5.4. С какой целью используется код Грея.
5.5. Какие коды называются корректирующими.
5.6. Как определяется минимальное кодовое расстояние?
5.7. Дайте определение группового кода.
5.8. Из какого соотношения определяется необходимое число контрольных символов?
5.9. Нарисуйте схему кодирования кода Хэмминга.
5.10.Какие коды называются циклическими?
5.11.Для чего используется представление кодов в виде многочленов?
5.12.Приведите примеры алгебры циклических кодов.
5.13.Из каких соображений выбирается образующий многочлен?
5.14.Поясните процесс получения циклического кода математическим методом.
5.15.Как построить образующую матрицу циклического кода?
5.16.Нарисуйте схему кодирования циклического кода.
5.17.Поясните процесс декодирования циклического кода.
.
Упражнения
5.1. Определить величину кодового расстояния между двумя комбинациями 1101101, 1001011.
5.2. Определить величину кодового расстояния d, обеспечивающего исправление .s-кратных ошибок при s = 1, 3, 5.
5.3. Определить наименьшее количество проверочных элементов и n-k, необходимое для исправления трехкратных ошибок, если число элементов в кодовой комбинации равно 12.
5.4. Произвести перемножение трех многочленов в алгебре циклических кодов (х + 1), (х3 + х +1) и (х3 + х2 + 1). Проделать аналогичную операцию и для двоичных эквивалентов.
5.5. Найти остаток при делении многочлена (х7+х6+х4+х+1)... на многочлен (х4+х+1). Аналогичную операцию проделать и для двоичных эквивалентов.
5.6. Закодировать в циклическом коде комбинации 1001, 1010, если образующий многочлен g(x)=x3+x+1
5.7. Закодировать многочлен х7+x4+х3+х+1 с проверкой на четность.
5.8. По заданному образующему многочлену g(х)=х4+х3+1 построить образующую (проверочную) матрицу H=I,C, усеченную до 6 разрядов.
5.9. Число информационных символов в кодовой комбинации k=11. Выбрать образующий многочлен g(х) с условием исправления одиночной ошибки и построить проверочную матрицу Hn,k.
5.10. Проверить принятую кодовую комбинацию x14+х11+x8+x6+x3+x2+x на наличие одиночной ошибки, если образующий полином g(х)=х4+x3+1. При обнаружении ошибки исправить ее.
5.11. Закодировать в циклическом коде следующие комбинации:
1) 100011; 2) 110011; 3) 100101; 4) 100110; 5) 100111;
6) 110111; 7) 101001.
Лабораторная работа
Исследование способов построения корректирующих кодов
Исходные комбинации задаются преподавателем для каждого обучаемого по табл. 2.
Для выполнения лабораторной работы необходимо:
1) заданную комбинацию закодировать в циклическом коде
- по формулам (5.3-5.4),
- по матрице (5.5), предварительно построив матрицу H;
2) проверить полученный циклический код;
3) в правильно закодированную комбинацию внести ошибку и по образующей матрице определить местоположение ошибки.
Таблица 5.4. Исходные кодовые последовательности
Задания Варианты
1 2 3
1 110100 100011 1001
2 1101010 110000 1010
3 11010000 1000 11010
4 110101 100100 1011
5 1101011 11000 1100
6 1101000 1101 10100
7 11010011 1001 11011
8 110110 100100 1101
9 1101100 110010 1110
10 1100111 1110 10101
11 11010010 1010 11100
12 110111 100101 1111
13 1101101 110011 1001
14 1100110 1111 10110
15 11101001 1100 11101
16 111000 100101 1010
17 1101111 110100 1011
18 1100100 0100 10111
19 11010100 1001 11110
20 111001 100110 1100
21 1110000 110101 1101
22 1100101 0110 11000
23 11010101 1011 11111
Содержание отчета
Для указанного варианта приводятся исходная и закодированная комбинация. Показывается методика кодирования и декодирования комбинаций, а также способы обнаружения ошибок.
Делаются необходимые выводы.
