19. Теория кодирования как область исследования теории информации

<умный вид>

<Теория вкратце>

<история>

Кодирование" - одно из наиболее распространенных понятий в современной информатике. Что же такое "кодирование"? Под "кодированием" понимается операция отождествления символов или групп символов одного кода с символами или группами символов другого кода. Необходимость кодирования возникает прежде всего из потребности приспособить форму сообщения к данному "каналу связи" или какому-либо устройству, предназначенному для преобразования или хранения информации.

"Теория кодирования" имеет длительную историю. Системы счисления, предназначенные для представления чисел, и были первыми кодами. Следующее древнее направление в теории кодирования - это криптография илисекретное кодирование. Криптография берет свое начало в Египетской науке и ее возникновение относится к тому периоду (2-е тысячелетие до н.э.), когда Египтяне использовали иероглифический код для надписей на могилах.

Развитие современной теории кодирования стимулировалось прогрессом систем связи. Теория информации Шеннона, основанная на понятии энтропии, является математической основой эффективных кодов, широко используемых для сжатия информации. Их примерами являются коды Шеннона-Фано и код Хаффмена.

</история>

Потребность защитить информацию и системы связи от шумов способствовали развитию теории избыточных кодов. Код Хемминга, циклические коды - это хорошо известные примеры избыточных кодов.

Таким образом, современная теория кодирования - это совокупность, по крайней мере, четырех различных направлений:

1. Теория систем счисления;

2. Теория криптографии;

3. Теория эффективных кодов;

4. Теория избыточных кодов.

Для решения задач кодирования широко используется различный математический аппарат. Например, в теории алгебраических кодов широко используется аппарат теории групп, в современной криптографии основным математическим аппаратом является теория чисел.

Однако в последние годы для решения задач кодирования начали использовать аппарат теории матриц. И для того, чтобы понять смысл новой теории кодирования, основанной на матрицах Фибоначчи, нам необходимо знать некоторые начальные сведения из теории матриц. Об этом мы расскажем на следующей странице нашего Музея. Следуйте за нами!

</умный вид>

</Теория вкратце>

20. Операция свертки и ее использование в теории информации и связи

Свёртка фу́нкций — операция в функциональном анализе, показывающая «схожесть» одной функции с отражённой и сдвинутой копией другой. Понятие свёртки обобщается для функций, определённых на группах, а также мер.

Свертка сигнала

Свертка сигнала  представляет собой операцию замещения каждого элемента входного сигнала выходным сигналом с помощью весовой функции. Она является математическим эквивалентом фильтрации, происходящей, например, при прохождении сейсмической волны через недра Земли, электрического сигнала по цепи и т. д. Те ограничения при дискретизации и восстановлении сигнала, которые требуют, чтобы в спектре сигнала не содержалось компонент с частотами выше половины частоты дискретизации, объясняются с позиций операции свертки. Иногда нежелательные эффекты фильтрации могут быть устранены деконволюцией. Корреляция  данных. Упрощенное применение метода сводится к определению временного сдвига, при котором достигается максимальное сходство. Корреляция также является способом извлечения коротких сигналов известной  формы   из  длинного  волнового  пакета, что, например, используется при обработке записей Вибросейса. Если последовательность данных коррелируется сама с собой , то определяется степень повторяемости данных. Целью большинства видов цифровой обработки является усиление сигнала относительно помех, обработка с целью определения формы сейсмического импульса и т. д.