12 И 13 и 14.Вопрос Теория информации, теория алгоритмов и теория автоматов как кибернетические дисциплины.

К теории информации относят результаты решения ряда фундаментальных теоретических вопросов:

- анализ сигналов как средства передачи сообщений, включающий вопросы оценки переносимого ими «количества информации»;

- анализ информационных характеристик источников сообщений и каналов связи и обоснование принципиальной возможности кодирования и декодирования сообщений, обеспечивающих предельно допустимую скорость передачи сообщений по каналу связи, как при отсутствии, так и при наличии помех.

В теории информации исследуются информационные системы при четко сформулированных условиях (постулатах):

• Источник сообщения осуществляет выбор сообщения из некоторого множества с определенной вероятностью.

• Сообщения могут передаваться по каналу связи в закодированном виде. Правило декодирования известно декодеру (записано в его программе).

• Сообщения следуют друг за другом, причем число сообщений может быть сколь угодно большим.

• Сообщение считается принятым верно, если в результате декодирования оно может быть в точности восстановлено.

• Количество информации не зависит от смыслового содержания сообщения, от его эмоционального воздействия, полезности и даже от его отношения к реальной действительности.

Теория алгоритмов как отдельный раздел математики, изучающий общие свойства алгоритмов, возникла в 30-х годах 20 века. Алгоритмы, однако, прослеживаются в математике в течение всего времени ее существования. Необходимость точного математического уточнения интуитивного понятия алгоритма стала неизбежной после осознания невозможности существования алгоритмов решения многих массовых проблем, в первую очередь связанных с арифметикой и математической логикой. Для доказательства несуществования алгоритма надо иметь его точное математическое определение, поэтому после сформирования понятия алгоритма как новой и отдельной сущности первоочередной стала проблема нахождения адекватных формальных моделей алгоритма и исследования их свойств. При этом формальные модели были предложены как для первоначального понятия алгоритма, так и для производного понятия алгоритмически вычисляемой функции.

Теория автоматов - это раздел теории управляющих систем, изучающий математические модели преобразователей дискретной информации, называемые автоматами. С определенной точки зрения такими преобразователями являются как реальные устройства (вычислительные машины, автоматы, живые организмы и т.д.), так и абстрактные системы (например, формальная система, аксиоматические теории и т.д.). Наиболее тесно теория автоматов связана с теорией алгоритмов. Большинство задач теории автоматов - общие для основных видов управляющих систем. К ним относятся задачи анализа и синтеза автоматов, задачи полноты, минимизации, эквивалентных преобразований автоматов и другие. Задача анализа состоит в том, чтобы по заданному автомату описать его поведение или по неполным данным об автомате и его функционированию установить те или иные его свойства. Задача синтеза автоматов состоит в построении автомата с наперед заданным поведением или функционированием. Задача полноты состоит в выяснении, обладает ли множество M' M автоматов свойством полноты, т.е. совпадает ли с M множество всех автоматов, которые получаются путем конечного числа применений некоторых операций к автоматам из заданного подмножества автоматов M'  . Задача эквивалентных преобразований в общем виде состоит в том, чтобы найти систему правил преобразований (так называемую полную систему правил) автоматов, которые удовлетворяют определенным условиям и позволяют преобразовать произвольный автомат в любой эквивалентный ему автомат (два автомата эквивалентны, если они имеют одинаковое поведение автомата.