Вариант 10

Теоретический вопрос: Условная энтропия.
Чему равно количество информации, если получили сообщение о выходе из строя одного из семи станков в данном цехе?
Необходимо считать, что имеется три системы, каждая из которых имеет по пять состояний. Задайтесь различными распределениями вероятностей, например:

X1=	1	2	3	4	5
X1=	0,2	0,2	0,2	0,2	0,2

X2=	1	2	3	4	5
X2=	0,55	0,01	0,02	0,03	0,39

X3=	1	2	3	4	5
X3=	0,22	0,18	0,19	0,2	0,21

Определите, при каких распределениях вероятностей энтропия максимальна. Сделайте соответствующие выводы. Какое свойство энтропии поясняет данный пример?

В непрозрачном мешочке хранятся 5 белых, 15 красных, 8 синих и 22 зеленых шариков. Какое количество информации будет содержать зрительное сообщение о цвете вынутого шарика.
Имеются две системы X и Y, объединяемые в одну, вероятности состояний которой представлены следующей матрицей:

	0,02	0,01	0,2
P(X,Y)=	0,25	0,05	0,1
	0,03	0,24	0,1

Определите полную условную энтропию H(Y/X).

Дана совокупность символов х₁, х₂, х₃, х₄ со следующей статистикой соответственно: 0,28; 0,14; 0,48; 0,10. Закодируйте символы по методу Шеннона-Фано и определите эффективность кода.
Закодируйте методом Хаффмана свои имя и фамилию. Определите эффективность кода.
Закодировать инверсным кодом число 177₍₈₎
Закодировать в циклическом коде число 1100, если образующий многочлен g(x)=x³+x+1
Закодировать кодом Грея число 75_(8).Сделать проверку обратным переводом.

Вариант 10

Рекомендуемая литература