Задача 8

Пусть опыт состоит в определении положения некоторой точки относительной которой заранее известно только, что она расположена на отрезке длины (рис. З.1), а опыт – в измерении длины отрезка с помощью некоторого измерительного прибора, дающего нам значение длины с точностью до определённой «ошибки измерения» (например, с помощью линейки, на которой нанесена шкала с делениями длины ). Чему равна информация , содержащаяся в результате измерения, относительно истинного положения точки ?

Рисунок З.1

Задача 9

Пусть имеются три города А, Б и В, причём жители А во всех случаях говорят правду, жители Б – только неправду, а жители В через раз отвечают на вопросы верно и неверно. Наблюдатель Н хочет выяснить, в каком городе он находится и в каком городе живёт встреченный им человек. Сколько вопросов ему потребуется задать этому встречному, если на все вопросы его собеседник отвечает лишь «да» или «нет»?

Задача 10

Сколько вопросов надо задать, чтобы отгадать задуманное собеседником целое положительное, которое не превосходит 10 (или 100, или 1000, или произвольного целого положительного числа ), если спрашиваемый на все вопросы отвечает лишь «да» или «нет»?

Задача 11

Имеется 25 монет одного достоинства; 24 из них имеют одинаковый вес, а одна фальшивая – несколько легче остальных. Спрашивается, сколькими взвешиваниями на чашечных весах без гирь можно обнаружить эту фальшивую монету?

Задача 12

Имеется 12 монет одного достоинства; 11 из них имеют одинаковый вес, а одна фальшивая – отличается по весу от остальных (причём неизвестно, легче ли она или тяжелее настоящих). Каково наименьшее число взвешиваний на чашечных весах без гирь, которое позволяет обнаружить фальшивую монету и выяснить, легче ли она, чем остальные монеты, или тяжелее?

Задача 13

Имеется 13 монет одного достоинства; 12 из них имеют одинаковый вес, а одна фальшивая – отличается по весу от остальных (причём неизвестно, легче ли она или тяжелее настоящих). Каково наименьшее число взвешиваний на чашечных весах без гирь, которое позволяет обнаружить фальшивую монету и выяснить, легче ли она, чем остальные монеты, или тяжелее?

Задача 14

Система стабилизации, компенсирующая случайные возмущения, имеет два дискретных датчика А и В, измеряющих углы и во взаимно перпендикулярных плоскостях (Рисунок З.2).

Сигналы и с датчиков А и В поступают через импульсный элемент (ИЭ), который выдаёт данные на вычислительное устройство (ВУ) через интервалы времени . Датчики имеют число уровней квантования и . Система работает в течение времени и характеризуется следующими данными: , , ,

Совместные вероятности задаются таблицей З.1.

Таблица З.1. – Распределение совместных вероятностей

 
	0,12	0,1	0,08	0,05	0,03
	0,02	0,04	0,12	0,04	0,02
	0,03	0,05	0,08	0,1	0,12

Рисунок З.2. – Система стабилизации

Требуется определить: 1) энтропии источников (датчиков углов и ) при их независимой работе; 2) условные энтропии сигналов и при совместной работе датчиков; 3) количество информации, поступающее в вычислительное устройство за всё время работы в единицу времени.

Задача 15

Сравнить неопределенность, которая приходится на букву источника информации, представляющего собой алфавит русского языка (таблица З.2), с неопределенностью, которая была бы у того же источника при равновероятном использовании букв.

Таблица З.2. – Вероятности появления букв алфавита русского языка

Задача 16

Заданы ансамбли и двух дискретных случайных величин. В верхней строке указаны значения случайных величин; в нижней строке вероятности появления этих значений.

,

.

Сравнить их энтропии.

Задача 17

Определить энтропии , , , , если задана матрица вероятностей состояний системы объединяющей источники и :

.

Задача 18

Известны энтропии двух зависимых источников: , Определить, в каких пределах будет изменяться условная вероятность при изменении в максимально возможных пределах.

Задача 19

Выстрел из орудия не поражает цель с вероятностью . Через какое число выстрелов следует поинтересоваться у разведчика-корректировщика, уничтожена ли цель, чтобы в результате ответа получить максимальное количество информации?

Задача 20

Определить среднее количество информации, получаемое при передаче элемента сообщения по каналу, описанному матрицей совместных вероятностей передачи и приёма элементов сообщения

.

Задача 21

Определить, является ли эргодическим стационарный источник сообщений, алфавит которого состоит из четырёх знаков и , причём безусловные вероятности выбора знаков одинаковы: , а условные вероятности заданы в таблице З.3.

Таблица З.3. – Распределение условных вероятностей

 
				0
				0
				0
	0	0	0	1