Задание 9

1. Что такое условная энтропия.

2. Определите объем и количество информации при передачи сообщения десятичными цифрами 122221323222 по каналу связи, если любой символ передается 7 элементным телеграфным кодом.

3. Сообщения А и В с р(А)=0.8 и р=0.2 закодируйте по буквам и двухбуквенным сочетаниям. Покажите эффективность кодирования.

4. Приведите примеры сжатия при контекстном моделировании.

5. Закодируйте 1010001001 в коде Хэмминга.

Задание 10

1. Неравенство Хэмминга

2. Определите пропускную способность бинарного канала связи, способного передавать 100 символов 0 или 1 в единицу времени, если вероятность искажений составляет р=0.01.

3. Закодируйте буквы алфавита, состоящего из 18 букв, равномерным двоичным кодом.

4. Постройте оптимальный код для m=6 р=(0.4 0.2 0.2 0.1 0.05 0.05).

5. Закодируйте комбинацию 1101010 в циклическом коде.

Задание 11

1. Пропускная способность дискретных каналов связи

2. Сообщения составлены из алфавита Х=( x₁, x₂, x₃ ). Вероятности появления символов алфавита 0.7, 0.2, 0.1 соответственно. Помехи в канале связи заданы следующей канальной матрицей

0.98 0.01 0.01

Р(Y/X)= 0.1 0.75 0.15

0.2 0.3 0.5

Определите скорость передачи информации, если время передачи одного символа t=0.02 c.

3. Преобразуйте числа 267 из 82 и 101111011 из 2 8 систему

4. Какова минимальная длина 32-буквенного алфавита при равномерном кодировании. Закодируйте числа 3, 10, 13, 17, 21, 28, 30.

5. Числа 101101101 и 1011 представьте в виде многочленов циклического кода и найдите частное.

Задание 12

1. Теорема отсчетов (Котельникова).

2. Определите объем и количество информации в тексте «Завтра ожидается морозная погода» переданным 7-элементным телеграфным кодом.

3. Закодируйте в коде Хаффмана буквы алфавита с числом качественных признаков m=3 с учетом, что вероятности появления букв будут составлять p1=p2=p3=0.1; p4=0.2; p5=0.3; p6=p7=p8=p9=0.05

4. Постройте инверсный код для 10111 и 11100

5. Закодируйте 101011 в коде Хэмминга

Задание 13

1. Экстремум энтропии и экстремальные распределения.

2. Информация передается при помощи частотномодулированных сигналов, рабочая частота которых F изменяется с равной вероятностью в пределах от F₁=10 МГц до F₂=50 МГц. Определите энтропию частоты, если точность измерения частоты F=2 кГц.

3. Постройте кодом Хаффмана оптимальный код со следующим распределением вероятностей появления букв в тексте: F=0,5; B=0,12; D=0,1; E=0,04; F=0,04; G=0,15; H=0,05.

4. Преобразуйте комбинацию 101101 из кода Грея в двоичный код.

5. Закодируйте комбинацию 111011 в циклическом коде.

Задание 14

1. Что такое кодовое расстояние и какова зависимость числа контрольных символов от количества исправляемых ошибок.

2. Определите полосу пропускания канала связи, если источник, имеющий статистическую структуру Х=(х1, х2, х3, х4) и Р=(0.15, 0.25, 0.33, 0.27) выдает информацию в канал с максимальной частотой 200гц. Канал обладает характеристикой P/N=3.

3. Преобразуйте числа 9, 20, 181, 67 в двоичный код.

4. Постройте оптимальный код для сообщения, в котором вероятности появления букв подчиняются закону p=(1/2)ⁱ, i=1…5.

5. Выполните операции в циклическом коде (x⁴+x+1)(x³+x²+1)/(x³+x+1)