В4. Понятие об информационном подходе

Введенное выше понятие информационной системы (см. В2) нуждается в уточнении. Можно независимо от функционального назначения говорить об уровнях информационной структуры. Действительно, в зависимости от масштаба анализируемых явлений каждую информационную структуру можно рассматривать соответственно в терминах информационного устрой­ства, информационной системы и информационной сети. Так, молекула в масштабе вещества является «элементарным кирпичиком», в масштабе соб­ственных размеров — некой системой, в масштабе атома — сложной сетью взаимодействий. Данный подход позволяет информационную структуру различного уровня и различной природы рассматривать с системных пози­ций и использовать принципы системного проектирования. Представление информационных устройств в виде некоторых технических систем (описы­ваемых как совокупность взаимосвязанных аппаратно-программных средств, имеющих общую функциональную схему и предназначенных для выполнения единой технической задачи) позволяет применять современные методы синтеза сложных систем (например, метод целевых функций).

В качестве примера рассмотрим информационную систему, в которой происходит последовательное преобразование информации. Для простоты ограничимся двумя преобразователями R и Q. При анализе этой модели вос­пользуемся известным подходом Шеннона — фон Неймана, определяющим информацию I как меру случайного выбора. Согласно этому подходу, в аль­тернативной ситуации любое событие оценивается не содержанием, а веро­ятностью или «редкостью» его наступления. В результате при осуществле­нии случайного выбора полученной информации оказывается тем больше, чем меньше ожидается совершившееся событие. Тогда при числе возмож­ных вариантов событий п количество информации I, получаемой в ходе реа­лизации выбора, пропорционально ln n :

где Р — вероятность события.

Из этой формулы следует, что если сообщение очевидно (или событие обязательно произойдет), то Р = 1 и I= 0. Интересно, что это выражение оказалось с точностью до константы тождественным знаменитому соотно­шению Больцмана для энтропии Н термодинамической системы: Н = к ln п, где к — постоянная Больцмана, к =1,38*10^-23 Дж*К^-1 ; п — число со­стояний, которые может принимать система. В интерпретации Больцмана энтропия равна нулю в случае полностью упорядоченной структуры. Заме­тим, что рост информации приводит к уменьшению энтропии системы.

Если сообщения (или события) неравновероятны, то формула Шеннона принимает вид

Здесь Р_i — вероятность того, что система находится в i-м состоянии (I = 1, 2, ..., N), а основание логарифма определяет единицу измерения величины I.

Таким образом, информация является вероятностной (статистической) ха­рактеристикой процесса, а ее количественной мерой служит величина устра­ненной неопределенности в результате совершения системой некоторых дей­ствий в этом процессе (например, при получении сообщения). Тогда под пол­ной информацией будем понимать то ее количество, которое приобретается одной системой (назовем ее приемником) при полном выяснении состояния другой системы (назовем ее источником). Этот процесс можно интерпретиро­вать как дешифрацию полученного сообщения. Полная информация численно равна энтропии источника. Полезная (ценная) информация — это количество содержащейся в отдельном сообщении информации, уменьшающее неопре­деленность сведений о системе-источнике. В этом смысле отрицательное зна­чение полезной информации есть дезинформация.

Количественная оценка эффективности передачи информации от одной системы к другой представляет собой трудную задачу. Более простое реше­ние основано на применении негэнтропийного принципа Бриллюэна, соглас­но которому носителем информации в измерительной системе является энер­гия. Получение данных о каком-либо событии или процессе связано с затра­той энергии. Для иллюстрации этого подхода вернемся к обобщенной инфор­мационной системе, состоящей из двух преобразователей R и Q. Эти преобра­зователи описываются соответственно функциональными операторами Ф(R) и Ф(Q), переводящими их из одного состояния в другое. Для однозначной системы операторы могут быть заменены функциями преобразования. При­менительно к рассматриваемому примеру х, у — сигналы; F(х, t,Т)и F(у,t, Т) — функции преобразования информационных элементов R и Q соответствен­но; t и T — влияющие факторы (время и температура). При этом каждый из преобразователей системы, удовлетворяя единой целевой функции, может оптимизироваться по собственному частному критерию качества, учитываю­щему назначение и структуру отдельного преобразователя.

Процесс измерения, выполненный некоторым устройством, представля­ет собой соответствующее преобразование содержащейся в сигналах х и у информации. Это преобразование сопровождается определенной потерей полезной информации ∆I, которая, например для устройства R, равна

Потеря полезной информации в устройстве соответствует его «энтропийному вкладу» в процесс измерения. Л. Бриллюэн предложил оценивать эффективность преобразования информации с помощью информационного КПД ƞ_I. По Бриллюэну количество информации на выходе устройства I_выхR зависит от характеристик последнего, а также внешних влияющих

факторов (наводок, помех и т. д.). Следовательно, потеря полезной инфор­мации в преобразователе характеризуется его собственной погрешностью ε₀ и дополнительной «флюктуационной погрешностью» в измерение ε_ф, которую вносят влияющие факторы.

Информационный КПД ƞ_I = 1/k_ε,где k_ε— коэффициент потери точно­сти. С одной стороны, k_ε показывает, насколько собственный вклад в поте­рю точности превышает дополнительный:

где W_∑ и W₀ — полная (потребляемая) и полезная (использованная) энер­гия соответственно.

С другой стороны, он однозначно определяется величиной потерь полез­ной информации ∆I:

Поскольку энергетический КПД устройства η=W₀/W_{∑ ,}

т о

а следовательно,

Данное выражение указывает на связь информационных и энергетиче­ских процессов в измерительном устройстве. Рассмотренный подход, опи­сывающий информационно-энергетические процессы в системе, получил название информационного. В последние годы жизни К. Шеннон также раз­вивал этот подход. Им была получена важная формула, связывающая ин­формационную пропускную способность I/t с полосой частот ∆f, используемых при передаче информации:

где Р_с, Р_ш — мощность сигнала, переносящего информацию, и шумов соот­ветственно.

Контрольные вопросы

1. Являются ли электронные часы датчиком?

2. Как изменяется энтропия воды при фазовых превращениях?

3. Почему единицей информации выбран бит?

4. Чему равно информационное сообщение при выпадении сообщения «6» на игральной кости?

5. Зависит ли выходной сигнал датчика от его импеданса?