- •Проблемы теории информации
- •Вклад ученых в теорию информации
- •Система передачи сообщений
- •Информация
- •Источник сообщений
- •Сигналы
- •Меры информации
- •Аддитивная мера Хартли
- •Статистическая мера информации
- •Канал передачи данных
- •Пропускная способность
- •Канал с помехами
- •Кодирование данных
- •Принцип взаимоодназночности.
- •Характеристики кода.
- •Основные проблемы спс
- •Канал без шума (идеальный канал)
- •Теорема Шеннона
- •Кодирование коррелированной последовательности знаков
- •Недостатки систем эффективного кодирования
Система передачи сообщений
Модель системы передачи сообщений по Шеннону:
Информация поступает в систему в виде сообщений.
Начнем с источника сообщений.
На схеме ИИ – источник информации, ПП – первичный преобразователь.
Источник информации – это любой объект, который генерирует информацию.
Непрерывные сообщения – это такая информация, которая не разделима на элементы.
Дискретные сообщения формируются источником поэлементно, последовательно. Например, множество букв алфавита.
Первичный преобразователь – это датчик, который может обрабатывать поступающие сообщения и выдавать их в форме, удобной для восприятия человеком. Например, градусник, датчик давления.
Следующий элемент системы – это передатчик. На схеме К – кодер, который представляет сообщения в виде кодовых последовательностей в заданном алфавите. Например, это может быть перевод в двоичный код.
М – это модулятор, который преобразует кодовую последовательность в сигнал определенной формы в соответствии с передаваемым сообщением.
Канал – это специальное устройство, включающее в себя среду передачи данных (линии связи) и оборудование для передачи и приема сигналов.
В качестве среды выступает атмосфера, оптоволокно, медный кабель, водная среда и др.
В качестве оборудования – модем, маршрутизатор, сетевая карта.
В реальных каналах всегда есть шумы и помехи.
Помеха – это сигнал краткой длительности и большой амплитуды.
Следующий элемент – приемник.
ДМ – это демодулятор, который выполняет обратную функцию модулятора.
ДК – это декодер.
В результате получателю (на схеме обозначается как П) приходит сообщение в том виде, в котором оно было послано.
Сообщения могут быть искажены вследствие шумов и помех, в результате чего их трудно будет понять, искажается смысл.
Информация
Информация – любая сущность, которая вызывает изменения в некоторой информационной среде (изменение состояния объекта или явления).
Информация – это некоторое сообщение, полученное системой из внешнего мира в процессе адаптации или приспособления к нему (кибернетика, теория управления).
Информация – это отрицание энтропии, это отражение меры хаоса в системе.
Информация – это телекоммуникации или связи между системами отправителя и получателя, которые устраняют неопределенность.
Информация – это вероятность выбора в системе.
Информация – это отображение разнообразия в системе.
Информация – это отражение окружающего мира в нашем сознании.
Способы получения информации:
1) чувственный – с помощью пяти органов чувств;
2) логический – на основе статистического усреднения данных об объектах и процессах;
3) прагматический – на основе прагматического подхода к информации.
Методы получения информации:
1) эмпирический;
2) теоретический;
3) эмпирико-теоретический.
Эмпирический метод включает:
1) наблюдение – сбор первичной информации о системе;
2) сравнение – установление общего и различного в системе;
3) эксперимент – целенаправленное преобразование изучаемой системы.
Эмпирико-теоретический метод включает:
1) абстрагирование – установление общих свойств системы, замена ее моделью;
2) анализ – разбиение системы на части, на элементы и установление их взаимосвязи;
3) синтез – соединение отдельных элементов в систему с заданными свойствами;
4) индукция – получение знаний о системе из знаний о подсистемах;
5) дедукция – получение знаний о подсистеме из знаний о системе в целом;
6) моделирование – получение новых знаний из результатов использования модели системы в эксперименте;
7) логический метод – метод нахождения знаний о системе путем воспроизводства его подсистем и связей между ними в мышлении и сознании;
8) актуализация – получение информации с помощью активизации, инициализации, т.е. перевода системы из статического (неактуального) состояния в состояние, которое называется динамическим, т.е. имеются переходы в системе между этими состояниями, но при этом связи и отношения с внешней средой сохранены;
9) визуализация – это процесс, при котором информация появляется в результате анализа актуализации объекта (объект уменьшается в размерах, повернут).
Теоретический метод включает:
1) восхождение от абстрактного к конкретному, т.е. появление знаний о системе на основе его появлении в сознании;
2) идеализация – это получение знаний о системе и ее подсистемах путем конструирования их в нашем сознании;
3) формализация – это переход от интуитивно ясных понятий к строгим математическим представлениям;
4) аксиоматизация – это получение знаний о системе или процессе с помощью некоторых специально сформулированных аксиом или правил, полученных из этой системы аксиом;
5) виртуализация – это получение знаний о системе созданием особой среды, обстановки, ситуации, которую реально без этой среды невозможно реализовать и получить соответствующие знания.
Основные свойства информации (сообщений):
1) полнота содержания всех необходимых данных для понимания информации;
2) актуальность, т.е. необходимость и значимость сведений и данных;
3) ясность или понятность – это выразительность сообщения на языке интерпретирования;
4) адекватность, точность, корректность;
5) интерпретируемость, корректность;
6) достоверность информации, отображаемой полученными сообщениями;
7) информативность сообщений – количество новой информации;
8) массовость – применяемость ко всем проявлениям;
9) кодируемость;
10) экономичность;
11) защищенность, помехоустойчивость;
12) доступность, ценность.
