Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:
Лекции 151000.doc
Скачиваний:
7
Добавлен:
01.07.2025
Размер:
2 Мб
Скачать
☆

2.2 Внутренние свойства информации

По внутренней организации информацию можно разделить на две группы:

  • данные или простой логически неупорядоченный набор сведений;

  • логически упорядоченный набор данных.

Рассмотрим некоторые внутренние свойства информации:

  • Запоминаемость – одна из самых важных. Запоминаемую информацию называют макроскопической. Именно с макроскопической информацией мы имеем дело в реальной практике.

  • Передаваемость – способность информации к копированию, т.е. к тому, что она может быть «запомнена» другой системой и при этом останется тождественной самой себе, количество информации не должно возрастать при копировании.

  • Воспроизводимость информации тесно связана с ее передаваемостью, воспроизводимость характеризует неиссякаемость и неистощимость информации.

  • Преобразуемость означает, что информация может менять способ и форму своего существования. Копируемость есть разновидность преобразования информации, при котором ее количество не меняется.

  • Стираемость информации не является независимым. Оно связано с таким преобразованием информации (передачей) при котором ее количество уменьшается и становится равным нулю.

3 Количество информации

Как и любое вещество в физике, так и информация в информатике должна иметь количественные характеристики.

В определенных, весьма широких условиях можно пренебречь качественными особенностями информации и выразить ее количество числом, а также сравнить количество информации, содержащейся в различных группах данных.

В настоящее время получили распространение подходы к определению понятия «количество информации», основанные на том, что информацию, содержащуюся в сообщении, можно нестрого трактовать в смысле ее новизны, или, иначе, уменьшения неопределенности наших знаний об объекте.

В современной информатике приняты следующие характеристики измерения информации:

  • энтропийный;

  • объемный;

  • алгоритмический.

3.1 Энтропийная характеристика информации

Количество информации в сообщении определяется при энтропийном методе тем, насколько уменьшится неопределенность в появлении некоторых событий после получения сообщения и выражается математической зависимостью от совокупности вероятности этих событий.

H = log 2 N,

Данную формулу предложил в 1928 г Хартли, США.

Если исходов N, но их вероятности различны: p1, p2… pN, то применяют формулу Клода Шеннона, США, предлженную в середине 40-х

H= - (p1 log2 p1 + p2 log2 p2 + … + pN log2 pN).

Легко заметить, что если вероятности p1, … , pN равны, то каждая из них равна 1/N, и формула Шеннона превращается в формулу Хартли.

В вычислительной технике вся обрабатываемая информация не зависимо от ее природы (текст, число, изображение и т.д.) представляется в двоичной форме записи числа, т.е. состоящая из двух символов 0 и 1. Один такой символ называется битом.

Бит в теории информации — количество информации, необходимое для различения двух равновероятных сообщений, уменьшающее неопределенность знаний в 2 раза.

Битом в вычислительной технике называют наименьшую "порцию" памяти компьютера, необходимую для хранения одного из двух знаков "0" и "1", используемых для внутримашинного представления данных и команд.

Примеры:

  • «Орел–решетка» при бросании монеты. 2 исхода, исходы равновероятны. В сообщении: «Монета выпала орлом» – 1 бит информации. Было два возможных исхода, остался 1.

  • Опыт по выбору загаданной карты из восьми карт одной масти: 7, 8, 9, 10, В, Д, К, Т. Загадана 10. Вопросы надо ставить так, чтобы ответы "Да", "Нет" уменьшали неопределенность в два раза.

  • Тогда: картинка? Нет! 1 бит

две старшие? Да! 1 бит

девятка? Нет! 1 бит.

Ясно, что это десятка. Понадобилось 3 бита при 8 равновероятных исходах. В колоде из 32 карт для однозначного выбора десятки надо задать 5 вопросов, т.е. в сообщении: «Я загадал 10 » содержится 5 бит информации.

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]