- •1. Понятие об информации
- •1.1. Понятие и свойства информации. Носитель информации.
- •1.2. Понятие знака. Классификация знаков по ч. Пирсу (с примерами). Классификация знаков по способу восприятия.
- •1.3. Понятие знаковой системы. Составляющие знаковой системы. Примеры знаковых систем.
- •1.4. Предмет изучение семиотики. Составляющие семиотики.
- •1.5. Предмет изучения математической теории информации и теории кодирования.
- •2. Понятие о системе связи
- •2.1. Основные отличия цифровых и аналоговых сигналов. Способы передачи сигнала по каналу связи. Понятие о несущей частоте.
- •2.2. Основные характеристики канала связи. Асинхронная и синхронная передача данных.
- •2.7. Требования к методам импульсной модуляции и способы их достижения.
- •2.8. Виды аналоговой модуляции.
- •2.9. Общая модель системы связи по Шеннону. Назначение блоков модели.
- •2.10. Детализированная модель системы связи. Назначение блоков модели.
- •2.11. Виды и назначение преобразований, используемых в системе цифровой связи.
- •2.12. Способ задания математической модели дискретного канала связи. Используемые вероятности. Вид диаграммы условных вероятностей.
- •Вид диаграммы условных вероятностей.
- •3. Формирование цифровых сообщений
- •3.1. Этапы аналого-цифрового преобразования. Параметры ацп. Как определить необходимую частоту дискретизации сигнала при ацп?
- •3.2. Понятие диапазона квантования, интервалов квантования, пороговых уровней, уровней квантования. Постановка задачи квантования.
- •3.6. Причины возникновения эффекта "ложных контуров" при квантовании изображений и способы борьбы с ним (перечислить основные подходы).
- •3.7. Принципы и ключевые особенности дикм. Математическое представление дикм.
- •3.8. Параметры дикм. Понятие об адаптивной дикм.
- •3.9. Отличие дельта-модуляции от дикм. Виды искажений, типичные для кодера дм. В чем заключается сложность борьбы с этими видами искажений?
- •3.10. Математическое представление дм первого порядка и дм второго порядка.
- •3.11. Понятие мгновенного и слогового компандирования. Цель использования компандирования в алгоритмах дм.
- •3.12. Понятие о векторном квантовании. Что такое кодовая книга? Преимущества и недостатки векторного квантования по сравнения со скалярным квантованием.
- •4 Количественные характеристики информационных сообщений
- •4.1. Комбинаторный, вероятностный, марковский и бернуллиевский источники сообщений. Определение дискретного ансамбля.
- •4.2. Требования к мере количества информации в сообщении. Известные меры к определению количества информации (комбинаторный подход, вероятностный подход, алгоритмический подход).
- •4.3. Количественные информационные оценки для дискретных источников с памятью. Понятие условной собственной информации, совместной и взаимной информации пары событий ансамбля xy.
- •4.4. Количественные информационные оценки для дискретных источников с памятью. Понятие совместной энтропии, условной энтропии и средней взаимной информации ансамбля xy.
- •4.5. Описание системы связи на основе количественных оценок теории информации.
- •5. Эффективное кодирование сообщений
- •5.1. Постановка задачи кодирования источника. Типы кодирования (понятие кодов фиксированной и переменной длины). Цель эффективного кодирования.
- •5.2. Теорема кодирования источника кодами фиксированной длины и ее смысл.
- •5.3. Базовые стратегии компрессии данных.
- •5.5. Обобщенная теорема кодирования источника и ее смысл.
- •5.6. Особенности оптимального кода, построенного по статическому алгоритму Хаффмана.
- •5.7. Структура кодера и декодера адаптивного кодирования. Проблемы адаптивного кодирования (на примере адаптивного метода Хаффмана).
- •5.8. Принципы арифметического кодирования. Преимущество арифметического кодирования перед кодированием по Хаффману.
- •5.9. Понятие унарного кода. Понятие монотонного кода. Назначение унарного и монотонного кода. Принципы кодирования чисел с разделением мантисс и экспонент.
- •5.10. Оценка энтропии бинарного изображения при кодировании методом длин серий (rle).
- •5.11. Принципы методов словарного сжатия. Проблемы практической реализации словарных алгоритмов.
- •6. Помехоустойчивое кодирование
- •6.1. Теорема Шеннона для дискретного канала с шумом.
- •6.2. Классификация помехоустойчивых кодов. Расстояние Хэмминга. Кратность ошибки. Требования к минимальному расстоянию между кодовыми словами для обнаружения и исправления ошибок.
- •6.3. Порождающая и проверочная матрицы систематического блочного кода. Принципы построения и связь между ними. Понятие синдрома ошибки.
- •6.6. Представление кодового слова в виде полинома. Свойства порождающего многочлена для циклического кода.
- •6.7. Алгоритм формирования кодового слова для систематического циклического кода.
Вид диаграммы условных вероятностей.
3. Формирование цифровых сообщений
3.1. Этапы аналого-цифрового преобразования. Параметры ацп. Как определить необходимую частоту дискретизации сигнала при ацп?
Этапы аналого-цифрового преобразования:
- дискретизация сигнала по времени;
- квантование сигнала по уровню.
Параметры АЦП:
- интервал дискретизации; - 0-уровень (уровень отсчета);
- диапазон квантования; - размер шага квантования.
Если в спектре сигнала присутствующая частота не выше, чем F, то для представления сигнала в виде последовательности дискретов без потери информации, частота дискретизации должна быть в 2 раза больше, чем F: f ≤ 2∙ F.
3.2. Понятие диапазона квантования, интервалов квантования, пороговых уровней, уровней квантования. Постановка задачи квантования.
Пусть x и x’обозначают соответственно значения отсчета сигнала до и после квантования. Предполагается, что x – случайная величина с плотностью вероятности p(x).
Задача квантования: выбрать такой набор пороговых уровней dj и уровней квантования rj, что если dj £ x £dj+1, то исходный отсчет заменяется на число, равное номеру (коду) уровня квантования rj и ошибка квантования минимальна.
3.3. Синусоидальный сигнал с амплитудой 1В следует преобразовать в цифровую форму таким образом, чтобы получить отношение "сигнал-шум" квантования не менее L дБ. Сколько потребуется разрядов для кодирования каждого дискрета при равномерном квантовании?
3.6. Причины возникновения эффекта "ложных контуров" при квантовании изображений и способы борьбы с ним (перечислить основные подходы).
Рассмотрим алгоритм ИКМ для кодирования изображений под названием «Квантование с улучшенной передачей градации яркости». Для борьбы с ложными контурами этот метод предусматривает малое возмущение яркости при квантовании очередного элемента, находящемся в детерминированной зависимости от яркости предшествующего по ходу развертки элемента.
Также можно выделить 2 алгоритма ИКМ для кодирования изображений:
- модуляция Робертса (псевдошумовое квантование);
- квантование с диффузией ошибки или квантование по Флойду-Стейнбергу.
3.7. Принципы и ключевые особенности дикм. Математическое представление дикм.
Ключевые особенности ДИКМ:
1) Наличие схемы предсказания и кодирование/передача не амплитуды очередного отсчета, а закодированной разности между предсказанным значением и реальным значением амплитуды очередного отсчета.
2) Обратная связь в кодере.
3.8. Параметры дикм. Понятие об адаптивной дикм.
Параметры ДИКМ:
- нулевой уровень отсчета (О);
- диапазон квантования [aL..aU] ;
- размер шага квантования (h, D).
АДИКМ – разновидность ДИКМ, которая изменяет какой-либо свой параметр при работе, т.е. происходит адаптация этого параметра. Ее виды:
- адаптация частоты дискретизации сигнала;
- адаптация коэффициентов предсказания;
- адаптация размера шага квантования.
3.9. Отличие дельта-модуляции от дикм. Виды искажений, типичные для кодера дм. В чем заключается сложность борьбы с этими видами искажений?
Дельта-модуляцию можно рассматривать как простейшую форму ДИКМ, в которой используется двухуровневый (однобитный) квантователь в сочетании с фиксированным предсказателем первого порядка. Простейшей формой квантования является компаратор, который обнаруживает и сообщает знак разности сигнала.
Два вида искажений:
- перегрузка по крутизне (шаг слишком мал). Вследствие слишком малого значения шага квантования для обработки сигнала, который имеет крутой наклон;
- гранулярный шум (шаг слишком велик). Он возникает при использовании размера шага, который слишком велик для сигнала, имеющего малые изменения.
