2. Основные положения теории искусственных нейронных сетей

2.1. Введение.

Понятие искусственная нейронная сеть возникло при изучении процессов, протекающих в головном мозге при мышлении, и при попытке смоделировать эти процессы. Полученные в результате этого модели и называются искусственными нейронными сетями (ИНС).

Интерес к этим процессам был вызван способностью человека решать многие задачи гораздо быстрее и эффективнее, чем современные ЭВМ. Так, например, человек может без усилий решать сложные задачи восприятия внешних данных (например, узнавание человека в толпе только по его промелькнувшему лицу) с такой скоростью и точностью, что мощнейший в мире компьютер не сравнится с ним. Человек также обладает способностью к обучению и обобщению, он толерантен к ошибкам, способен адаптироваться под новые условия, и многое другое. Подобно биологической нейронной системе ИНС является вычислительной системой с большим числом параллельно функционирующих простых процессоров с множеством связей. Модели ИНС в некоторой степени воспроизводят "организационные" принципы, свойственные мозгу человека.

Первые попытки создания ИНС начались в 1942 году. Тогда Роберт Винер вместе с сотрудниками опубликовал работу о кибернетике, основной идеей которой являлось представление сложных биологических процессов математическими моделями. А уже в 1943 Маккалок и Питтс формализуют понятие нейронной сети. В 1949 году Хэбб предложил первый алгоритм обучения. В 1957 году Розенблатт изобрел однослойный перцептрон, который вскоре приобрел популярность — его используют для распознавания образов, прогнозирования погоды и т. д. Казалось, что построение полноценного искусственного интеллекта уже не за горами. В 1969 году Минский публикует формальное доказательство ограниченности перцептрона и показывает, что однослойная сеть неспособна решать некоторые элементарные задачи (Проблема исключающего или). Интерес к нейронным сетям резко спадает. Однако в 1982 году был изобретен алгоритм обратного распространения ошибки, что позволило создать многослойные перцептроны. Многослойный перцептрон уже сейчас легко решает многие задачи, решение которых с помощью нейросетей Минский считал невозможным.

2.2. Задачи, решаемые при помощи инс

В настоящее время ИНС эффективно применяются для решения широкого круга задач. А именно:

Классификация образов. Задача состоит в указании принадлежности входного образа (например, речевого сигнала или рукописного символа), представленного вектором признаков, одному или нескольким предварительно определенным классам. К известным применениям относятся распознавание букв, распознавание речи, классификация сигнала электрокардиограммы, классификация клеток крови и т.д.

Кластеризация/категоризация. При решении задачи кластеризации, которая известна также как классификация образов "без учителя", отсутствует обучающая выборка с метками классов. Алгоритм кластеризации основан на подобии образов и размещает близкие образы в один кластер. Известны случаи применения кластеризации для извлечения информации, сжатия данных и исследования свойств данных.

Аппроксимация функций. Предположим, что имеется обучающая выборка ((x₁,y₁), (x₂,y₂)..., (x_n,y_n)) (пары данных вход-выход), которая генерируется неизвестной функцией f(x), искаженной шумом. Задача аппроксимации состоит в нахождении оценки неизвестной функции f(x). Аппроксимация функций необходима при решении многочисленных инженерных и научных задач моделирования.

Предсказание/прогноз. Пусть заданы n дискретных отсчетов {y(t₁), y(t₂)..., y(t_n)} в последовательные моменты времени t₁, t₂,..., t_n . Задача состоит в предсказании значения y(t_n+1) в некоторый будущий момент времени t_n+1. Предсказание/прогноз имеют значительное влияние на принятие решений в бизнесе, науке и технике. Предсказание цен на фондовой бирже и прогноз погоды являются типичными приложениями техники предсказания/прогноза.

Оптимизация. Многочисленные проблемы в математике, статистике, технике, науке, медицине и экономике могут рассматриваться как проблемы оптимизации. Задачей алгоритма оптимизации является нахождение такого решения, которое удовлетворяет системе ограничений и максимизирует или минимизирует целевую функцию.

Память, адресуемая по содержанию. В модели вычислений фон Неймана обращение к памяти доступно только посредством адреса, который не зависит от содержания памяти. Более того, если допущена ошибка в вычислении адреса, то может быть найдена совершенно иная информация. Ассоциативная же память, или память, адресуемая по содержанию, доступна по указанию заданного содержания. Содержимое памяти может быть вызвано даже по частичному входу или искаженному содержанию. Ассоциативная память чрезвычайно желательна при создании мультимедийных информационных баз данных.

Управление. Рассмотрим динамическую систему, заданную совокупностью {u(t), y(t)}, где u(t) является входным управляющим воздействием, а y(t) - выходом системы в момент времени t. В системах управления с эталонной моделью целью управления является расчет такого входного воздействия u(t), при котором система следует по желаемой траектории, диктуемой эталонной моделью. Примером применения является оптимальное управление двигателем.