3. Измерение количества информации.

Методы измерения количества информации. Оценка сообщения с позиции уменьшения неопределенности данных об объекте.

Формула Хартли. Процесс получения информации как выбор 1 сообщения из конечного заданного множества N равновероятных сообщений. Количество информации I содержащееся в сообщении: I = .

Формула Шеннона. Формула для учета неодинаковой вероятности. I = - .

– вероятность, что i сообщение выделено в наборе из N сообщений.

Единицы измерения количества информации. Единица информации – бит (необходимое для различия двух равновероятных сообщений). Мощность компьютерного алфавита – 256 символов.

Методы измерения. Подходы к измерению информации: 1. Содержательный – количество информации, заключенное в сообщении, определяется объемом знаний, который это сообщение несет получающему его человеку. На каждом этапе поиска отбрасывается половина вариантов. 2. Алфавитный подход – любое сообщение можно закодировать последовательностью символов некоторого алфавита.

3. Моделирование методом кусочно-линейной аппроксимации, разветвляющиеся и циклические алгоритмы.

Метод кусочно-линейной аппроксимации заключается в замене заданной нелинейной характеристики ломаной прямой с одной или несколькими точками излома. Такая замена нелинейной характеристики позволяет вести расчет аналитически с помощью линейных уравнений. Для прямолинейных участков записываются линейные уравнения, решения которых припасовываются: электрические величины для конца участка приравниваются соответствующим величинам для начала следующего участка.

Линейный алгоритм – описание действий, которые выполняются однократно в заданном порядке. Исполнитель выполняет действия последовательно, одно за другим в том порядке в котором они следуют.

Циклический алгоритм – описание действий, которые должны повторяться указанное число раз или пока не выполнено заданное условие. Перечень повторяющихся действий называют телом цикла.

Циклические алгоритмы бывают двух типов:

А. Циклы со счетчиком, в которых какие-то действия выполняются определенное число раз;

Б. Циклы с условием, в которых тело цикла выполняется, в зависимости от какого-либо условия. Различают циклы с предусловием и постусловием.

Разветвляющийся алгоритм – требуется, чтобы при одних условиях выполнялась одна последовательность действий, а при других – другая.

Условие – это высказывание, которое может быть либо истинно, либо ложно.

3. Системы счисления. Позиционная и непозиционная системы счисления. Перевод чисел из одной системы счисления в другую. Перевод десятичных чисел в двоичную, восьмеричную и шестнадцатеричную. Перевод десятичных дробей.

Система счисления – способ записи чисел с помощью последовательности цифр, символов, имеющие определенное значение. В непозиционных системах счисления от положения цифры в записи числа не зависит величина, которую она обозначает. В позиционной системе счисления количественное значение зависит от ее места или позиции в числе. Основание систем счисления – количество P различных цифр, используемых для записи числа в позиционной системе. Значение цифр изменяется от нуля до P-1. 1. Двоичная. Используются только 2 цифры: 0 и 1. 2. Восьмеричная. В восьмеричной системе счисления используется восемь знаков-цифр (от 0 до 7). Каждой цифре соответствуют набор из трех цифр в двоичной системе счисления. 3. Шестнадцатеричная. В шестнадцатеричной системе счисления используются цифры от 0 до 9 и шесть первых латинских букв.

Перевод чисел из одной системы в другую. 2 → 8, триадами. 2 → 16, тетрадами. Любое число → 10, степенью основания. 10 → любое число, делением. Перевод десятичных дробей: · 8 = 7|5000 · 8 = . Ответ: 0,75.

3. Арифметические действия с двоичными числами. Сложение, вычитание, умножение, деление двоичных чисел.

1. Сложение.

0 + 0 = 0 1101

1 + 0 = 1 + 101

0 + 1 = 1 10010

1 + 1 = 10

2. Вычитание.

0 – 0 = 0 1110

1 – 0 = 1 - 101

0 – 1 = (заем из старшего разряда) 1 1001

1 – 1 = 0

3. Умножение.

0 · 0 = 0 1110 1 · 0 = 0 10

0 · 1 = 0 ――—

1 · 1 = 1 + 0000

1110

――—

11100

4. Деление.

1110 | 10

|――

10 | 111

――

11

10

――

10

10

――

0

3. Представление двоичных чисел в прямом, обратном и дополнительном кодах, модифицированный код.

1. Прямой код (представление в виде абсолютной величины со знаком) двоичного числа – это само двоичное число, в котором все цифры, изображающие его значение, записываются как в математической записи, а знак числа записывается двоичной цифрой. Пример: Дано число X = -1011. Перевести число в прямой код. = 1.1011.

2. Обратный код положительного числа совпадает с прямым, а при записи отрицательного числа все его цифры, кроме цифры, изображающей знак числа, заменяются на противоположные (0 заменяется на 1, а 1 – на 0). Пример: Дано число X = -1011. Перевести число в обратный код. = 1.0100.

3. Дополнительный код (представление в виде дополнения до двойки) положительного числа совпадает с прямым, а код отрицательного числа образуется как результат увеличения на 1 его обратного кода. Иными словами, процесс построения дополнительного кода отрицательного числа можно разбить на два этапа – построить обратный код, а затем из него построить дополнительный. Пример: Дано число X = -1011. Перевести в дополнительный код. = 1.0101.

Сложение в обратном коде. Пример: Сложить числа +12 и -5.

Десятичная форма	Двоичная форма	Прямой код	Обратный код	Дополнительный код
+12	+1100	00001100	00001100	00001100
-5	-101	10000101	11111010	11111011

00001100

+ 11111010

100000110

00000111

Сложение в дополнительном коде.

00001100

+ 11111011

100000111

00000111

Модифицированный дополнительный и обратный код. В модифицированном обратном и модифицированном дополнительном кодах под знак числа отводится не один, а два разряда: "00" соответствует знаку "+", "11" - знаку "-". Любая другая комбинация ("01" или "10"), получившаяся в знаковых разрядах служит признаком переполнения разрядной сетки. Сложение чисел в модифицированных кодах ничем не отличается от сложения в обычных обратном и дополнительном кодах.

10	2	8	16
0	0	0	0
1	1	1	1
2	10	2	2
3	11	3	3
4	100	4	4
5	101	5	5
6	110	6	6
7	111	7	7
8	1000	10	8
9	1001	11	9
10	1010	12	A
11	1011	13	B
12	1100	14	C
13	1101	15	D
14	1110	16	E
15	1111	17	F