10. Количество информации. Формула Шеннона

Формула Хартли определяет количество необходимой информации для выявления определенного элемента множества при условии, что все элементы равновероятны. Однако может быть так, что какие-то элементы более вероятны (чаще встречаются), а какие-то меньше. Например, в русском языке буква «а» употребляется чаще, чем буква «ю».

В случае, когда вероятность элементов не одинакова, для определения количества информации, достаточной для выявления элемента, используют формулу Шеннона. Ее можно получить из формулы Хартли.

k = logN (формула Хартли)

1/N – вероятность каждого исхода, если все они равновероятны.

-1/N * log1/N – вклад в k (общую неопределенность, количество информации) одного исхода.

При неравновероятных исходах пусть вклад каждого обозначается буквой P с индексным номером: 1, 2, 3, 4 …. N.

Получаем формулу:

k = -P1logP1 – P2logP2 – P3logP3 – … – PNlogPN

Чем больше k, тем больше информации содержится в системе. Максимальное значение k имеет лишь тогда, когда все исходы равновероятны.

11.Перечень общероссийских классификаторов, действующих в России на 2012 год.

Товарная номенклатура внешнеэкономической деятельности Содружества Независимых Государств

Общероссийский технологический классификатор сборочных единиц машиностроения и приборостроения

Общероссийский классификатор экономических регионов ОК 024-95 (ОКЭР)

Общероссийский классификатор форм собственности в увязке с кодами КФС (ОКФС)

Общероссийский классификатор услуг населению ОК 002-93 (ОКУН)

Общероссийский классификатор управленческой документации ОК 011-93 (ОКУД)

Общероссийский классификатор стандартов ОК (МК (ИСО/ИНФКО МКС)

Общероссийский классификатор специальностей по образованию ОК

Общероссийский классификатор специальностей высшей научной квалификации ОК 017-94 (ОКСВНК)

Общероссийский классификатор профессий рабочих, должностей служащих и тарифных разрядов (ОКПДТР)

Общероссийский классификатор продукции ОК 005-93 (разделы 48-84)

Общероссийский классификатор продукции ОК 005-93 (разделы 01-34)

Общероссийский классификатор основных фондов ОК 013-94 (ОКОФ)

Общероссийский классификатор органов государственной власти и управления ОК 006-93 (ОКОГУ)

Общероссийский классификатор организационно-правовых форм ОК 028-99 (ОКОПФ)

Общероссийский классификатор объектов административно-территориального деления ОК 019-95 (ОКАТО) том1

Общероссийский классификатор объектов административно-территориального деления ОК 019-95 (ОКАТО) том 2

Общероссийский классификатор объектов административно-территориального деления ОК 019-95 (ОКАТО) том 3

Общероссийский классификатор информации по социальной защите населения (ОКИСЗН) ОК 003-99

Общероссийский классификатор информации об общероссийских классификаторах ОК 026-2002

Общероссийский классификатор информации о населении ОК 018-95 (ОКИН)

Общероссийский классификатор занятий ОК 010-93 (ОКЗ)

Общероссийский классификатор единиц измерения ОК 015-94 (МК 002-97) (ОКЕИ)

Общероссийский классификатор деталей, изготавливаемых сваркой, пайкой, склеиванием и термической резкой ОК 020-95 (ОКД)

Общероссийский классификатор гидроэнергетических ресурсов ОК 030-2002 (ОКГР)

Общероссийский классификатор видов экономической деятельности, продукции и услуг (ОКДП)

Общероссийский классификатор видов экономической деятельности, продукции и услуг (ОКДП) Часть I "Виды экономической деятельности"

Общероссийский классификатор видов экономической деятельности, продукции и услуг (ОКДП) Часть II "Классы и подклассы видов продукции и услуг"

Общероссийский классификатор видов экономической деятельности, продукции и услуг (ОКДП) Часть III "Виды продукции и услуг"

Общероссийский классификатор видов экономической деятельности, продукции и услуг (ОКДП) Часть IV "Описание группировок"

Общероссийский классификатор видов экономической деятельности ОК 029-2001 (ОКВЭД)

Общероссийский классификатор валют ОК (МК(ИСО 4217) 003-97) 014-2000 (ОКВ)

Международная классификация болезней десятого пересмотра МКБ-10

Локальный классификатор секторов деятельности и типов организаций относящихся к ним (ЛКСД)

Классификация отраслей (подотраслей) экономики по классам профессионального риска

Классификатор услуг во внешнеэкономической деятельности (ВКУ ВЭД)

Классификатор санитарно-гигиенических и эпидемиологических нормативных и методических документов

Классификатор продукции военного назначения, ввоз и вывоз которой осуществляются по лицензиям, выдаваемым Комитетом Российской Федерации по военно-техническому сотрудничеству с иностранными

Классификатор параметров, используемых в формах документов индивидуального (персонифицированного) учета в системе государственного пенсионного

Общероссийский классификатор продукции ОК 005-93 (разделы 85-98)

Общероссийский классификатор продукции ОК 005-93 (разделы 35-47)

23