- •ОДЕСЬКИЙ НАЦІОНАЛЬНИЙ МОРСЬКИЙ УНІВЕРСИТЕТ
- •КАФЕДРА “ІНФОРМАЦІЙНІ ТЕХНОЛОГІЇ”
- •1. Мета та задачи дисципліни
- •3. МЕТОДИЧНІ РЕКОМЕНДАЦІЇ І ПРИКЛАДИ РОЗВЯЗАННЯ КОНТРОЛЬНИХ ЗАВДАНЬ
- •3.1. Інформаційні та швидкісні характеристики дискретного каналу
- •3.2. Оптимальне кодування
- •3.2.2. Побудова оптимального нерівномірного коду Хаффмена
- •Теорія кодування
- •4. КОНТРОЛЬНІ ПИТАННЯ ДЛЯ САМОПІДГОТОВКИ
- •Теорія інформації
- •5. ВАРІАНТИ КОНТРОЛЬНИХ ЗАВДАНЬ
- •5.1. ВИБІР ВАРІАНТА КОНТРОЛЬНОГО ЗАВДАННЯ
- •5.1. Завдання №1. Інформаційні характеристики дискретного каналу
- •5.2. Завдання №2. Оптимальне кодування
- •5.3. Завдання №3. Завадостійке кодування
- •Література
- •Таблиця двійкових логарифмів цілих чисел
- •Додаток 2
- •Додаток 3
- •Коригуючий систематичний код Хемминга
- •Таблиця 1
- •Таблиця 2
- •Таблиця 3
- •Додаток 4
- •Стандартний телеграфний код №3
- •Додаток 5
- •Розподіл ймовірностей букв у російських текстах
- •Додаток 6
- •Розподіл ймовірностей букв в українських текстах
- •(без обліку імовірності появи в текстах пробілу між словами)
- •Додаток 7
- •Розподіл ймовірностей букв в англійському тексті
46
Додаток 3
Коригуючий систематичний код Хемминга
Таблиця 1
n |
nи |
nк |
|
|
|
|
|
|
1 |
0 |
1 |
|
|
|
2 |
0 |
2 |
|
|
|
3 |
1 |
2 |
|
|
|
4 |
1 |
3 |
|
|
|
5 |
2 |
3 |
|
|
|
6 |
3 |
3 |
|
|
|
7 |
4 |
3 |
|
|
|
8 |
4 |
4 |
|
|
|
n |
nи |
nк |
|
|
|
|
|
|
9 |
5 |
4 |
|
|
|
10 |
6 |
4 |
|
|
|
11 |
7 |
4 |
|
|
|
12 |
8 |
4 |
|
|
|
13 |
9 |
4 |
|
|
|
14 |
10 |
4 |
|
|
|
15 |
11 |
4 |
|
|
|
16 |
11 |
5 |
|
|
|
Таблиця 2
n |
Двійковий код |
Перевірочні |
|
коефіцієнти |
|||
|
|
||
|
|
|
|
|
|
|
|
1 |
0 0 0 1 |
а1 |
|
2 |
0 0 1 0 |
а2 |
|
|
|
|
|
3 |
0 0 1 1 |
а3 |
|
|
|
|
|
4 |
0 1 0 0 |
а4 |
|
|
|
|
|
5 |
0 1 0 1 |
а5 |
|
|
|
|
|
6 |
0 1 1 0 |
а6 |
|
|
|
|
n |
Двійковий |
Перевірочні |
|
код |
коефіцієнти |
||
|
|||
|
|
|
|
|
|
|
|
7 |
0 1 1 1 |
а7 |
|
8 |
1 0 0 0 |
а8 |
|
|
|
|
|
9 |
1 0 0 1 |
а9 |
|
|
|
|
|
10 |
1 0 1 0 |
а10 |
|
|
|
|
|
11 |
1 0 1 1 |
а11 |
|
|
|
|
|
|
|
|
|
|
Таблиця 3 |
|
|
|
|
|
№ |
Перевірочні позиції |
№ контрольного |
|
перевірки |
символу |
||
|
|||
|
|
|
|
|
|
|
|
1 |
1, 3, 5, 7, 9, 11, … |
1 |
|
|
|
|
|
2 |
2, 3, 6, 7, 10, 11, 14, 15, 18, 19, 22, 23, 26, 27, 30, 31, … |
2 |
|
|
|
|
|
3 |
4, 5, 6, 7, 12, 13, 14, 15, 20, 21, 22, 23, 28, 29, 30, 31, … |
3 |
|
|
|
|
|
4 |
8, 9, 10, 11, 12, 13, 14, 15, 24, 25, 26, 27, 28, 29, 30, 31, … |
4 |
|
|
|
|
47
Додаток 4
Стандартний телеграфний код №3
Значення кодової комбінації |
Кодова комбінація |
||
|
|
|
|
на першому регістрі |
|
на другому регістрі |
|
|
|
||
|
|
|
|
|
|
|
|
А |
|
— |
0011010 |
|
|
|
|
Б |
|
? |
0011001 |
|
|
|
|
В |
|
: |
1001100 |
Г |
|
Хто там? |
0011100 |
|
|
|
|
Д |
|
З |
0111000 |
|
|
|
|
Е,Ё |
|
% |
0010011 |
Ж |
|
|
1100001 |
|
|
|
|
З |
|
|
1010010 |
|
|
|
|
И |
|
8 |
1110000 |
К |
|
Дзвоник |
0100011 |
|
|
|
|
Л |
|
( |
0001011 |
|
|
|
|
М |
|
) |
1100010 |
Н |
|
. |
1010001 |
|
|
|
|
О |
|
, |
1010100 |
|
|
|
|
П |
|
9 |
1000110 |
Р |
|
0 |
1001010 |
|
|
|
|
С |
|
1 |
0001101 |
|
|
|
|
Т |
|
4 |
1100100 |
У |
|
Апостроф |
0101010 |
|
|
|
|
Ф |
|
5 |
1000101 |
|
|
|
|
Х |
|
7 |
0110010 |
Ц |
|
= |
1001001 |
|
|
|
|
Щ |
|
2 |
0100111 |
|
|
|
|
Ь |
|
/ |
0010110 |
Ы |
|
6 |
0010101 |
|
|
|
|
Я |
|
+ |
0110001 |
|
|
|
|
Повернення каретки |
1000011 |
||
Переклад рядка |
1011000 |
||
|
|
|
|
|
Букви |
0001110 |
|
|
|
|
|
|
Цифри |
0100110 |
|
|
Пробіл |
1101000 |
|
|
|
|
|
Неперфорована стрічка |
0000111 |
||
|
|
|
|
Сигнал перепопиту |
0110100 |
||
|
α |
0101001 |
|
|
|
|
|
|
β |
0101100 |
|
|
|
|
|
48
Додаток 5
Розподіл ймовірностей букв у російських текстах
|
Середня |
|
|
Буква |
імовірність |
pi log2pi |
|
появи |
|||
|
|
||
|
у тексті |
|
|
|
|
|
|
пробіл |
0,175 |
0,440 |
|
|
|
|
|
О |
0,090 |
0,313 |
|
|
|
|
|
Е,Ё |
0,072 |
0,273 |
|
|
|
|
|
А |
0,062 |
0,249 |
|
|
|
|
|
И |
0,062 |
0,248 |
|
|
|
|
|
Н |
0,053 |
0,238 |
|
|
|
|
|
Т |
0,053 |
0,225 |
|
|
|
|
|
С |
0,045 |
0,201 |
|
|
|
|
|
Р |
0,040 |
0,185 |
|
|
|
|
|
В |
0,038 |
0,179 |
|
|
|
|
|
Л |
0,035 |
0,169 |
|
|
|
|
|
К |
0,028 |
0,144 |
|
|
|
|
|
М |
0,026 |
0,136 |
|
|
|
|
|
Д |
0,025 |
0,133 |
|
|
|
|
|
П |
0,023 |
0,125 |
|
|
|
|
|
У |
0,021 |
0,117 |
|
|
|
|
|
Середня |
|
|
Буква |
імовірність |
pi log2pi |
|
появи |
|||
|
|
||
|
у тексті |
|
|
|
|
|
|
Я |
0,018 |
0,104 |
|
|
|
|
|
Ы |
0,016 |
0,095 |
|
|
|
|
|
З |
0,016 |
0,095 |
|
|
|
|
|
Ъ,Ь |
0,014 |
0,086 |
|
|
|
|
|
Б |
0,014 |
0,086 |
|
|
|
|
|
Г |
0,013 |
0,081 |
|
|
|
|
|
Ч |
0,012 |
0,076 |
|
|
|
|
|
Й |
0,010 |
0,066 |
|
|
|
|
|
Х |
0,009 |
0,061 |
|
|
|
|
|
Ж |
0,007 |
0,050 |
|
|
|
|
|
Ю |
0,006 |
0,044 |
|
|
|
|
|
Ш |
0,006 |
0,044 |
|
|
|
|
|
Ц |
0,004 |
0,031 |
|
|
|
|
|
Щ |
0,003 |
0,025 |
|
|
|
|
|
Э |
0,003 |
0,025 |
|
|
|
|
|
Ф |
0,002 |
0,018 |
|
|
|
|
Примітка. Для російського алфавіту, з урахуванням пробілу, а також з обліком нерівно ймовірностей, появи символів H1 = 4,35 біт/символ, з урахуванням двобуквених сполучень H2 = 3,52 біт/символ; з обліком трибуквених H3 = 3,01 біт/символ.
49
|
|
|
|
|
|
|
|
|
Додаток 6 |
|
|
|
Розподіл ймовірностей букв в українських текстах |
|
|
||||||
|
(без обліку імовірності появи в текстах пробілу між словами) |
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
Середня |
− pi |
|
Середня |
|
− pi |
|
||
Буква |
|
імовірність |
Буква |
імовірність |
|
|
||||
|
появи в |
log |
|
p |
появи в |
|
log2 pi |
|
||
|
|
2 |
|
|
|
|||||
|
|
тексті |
|
i |
|
тексті |
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
||
А |
|
0,0855 |
0,303348 |
Н |
0,0613 |
|
0,247431 |
|
||
Б |
|
0,0183 |
0,105195 |
О |
0,1037 |
|
0,33 8683 |
|
||
В |
|
0,0540 |
0,227388 |
П |
0,0296 |
|
0,150316 |
|
||
Г |
|
0,0150 |
0,090883 |
Р |
0,0468 |
|
0,206732 |
|
||
Д |
|
0,0298 |
0,151043 |
С |
0,0394 |
|
0,183827 |
|
||
Е |
|
0,0473 |
0,208511 |
Т |
0,0509 |
|
0,218961 |
|
||
Є |
|
0,0036 |
0,029224 |
У |
0,03689 |
|
0,175321 |
|
||
Ж |
|
0,0080 |
0,055726 |
Ф |
0,0023 |
|
0,020158 |
|
||
З |
|
0,0203 |
0,113716 |
Х |
0,0097 |
|
0,064872 |
|
||
І |
|
0,0684 |
0,264941 |
Ц |
0,0074 |
|
0,052379 |
|
||
И |
|
0,0634 |
0,252546 |
Ч |
0,0136 |
|
0,084323 |
|
||
Ї |
|
0,0067 |
0,048385 |
Ш |
0,0110 |
|
0,071570 |
|
||
Й |
|
0,0202 |
0,113716 |
Щ |
0,0091 |
|
0,061697 |
|
||
К |
|
0,0368 |
0,175321 |
Ю |
0,0072 |
|
0,051248 |
|
||
Л |
|
0,0388 |
0,179933 |
Я |
0,0172 |
|
0,100817 |
|
||
М |
|
0,0268 |
0,139939 |
Ь |
0,0246 |
|
0,89029 |
|
||
|
|
|
|
|
|
|
|
|
|
|
Примітка. Для українського алфавіту Н=4,577179 біт/символ.
