Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:
Лекции_ИСЭ_(сборка).doc
Скачиваний:
2
Добавлен:
01.04.2025
Размер:
1 Мб
Скачать
☆

Типы нейросетей

Теория искусственных нейронных сетей в настоящее время проходит этап активного развития, что обусловливает разнообразие постановок проблем и основ­ных определений. Исследователи наделяют искусственные нейроны разнооб­разными свойствами, которые, по их мнению, адекватны функциям биологи­ческих нейронов и позволяют получать решение актуальных для исследовате­ля задач.

В рамках данной книги будем придерживаться следующих формулировок основных понятий нейронных сетей [37-39].

Искусственный нейрон, далее просто нейрон j, j є {I, 2,...}, задается сово­купностью своих входов хji, i є {1,2,...}, весами входов wji, функцией состояния sj и функцией активации fj.

Функция состояния определяет состояние нейрона в зависимости от значений его входов, весов входов и, возможно, предыдущих состояний. Наиболее часто используются функции состояния, не зависящие от предыдущего состояния, вычисляемые либо как сумма произведений значений входов на веса соответствующих входов по всем входам

n(j)

sj = ∑ xji * wji ,

i=1

где - n(j) - число входов нейрона j,

либо как расстояние между вектором входов Xj = {хji} и вектором весов входов Wj = {wji}, измеряемое в какой-либо метрике, например,

sj = ∑|wji - xji,|

Одноместная функция активации у = f(s) определяет выходной сигнал нейрона как функцию его состояния s. Наиболее распространенными функциями являются ступенчатая пороговая, линейная пороговая, сигмоидная, также линейная и гауссиана.

Линейные нейронные сети используют нейроны с линейной функцией ак­тивации. Нелинейные применяют нелинейную функцию активации, например, пороговую или сигмоидную.

Нейронная сеть образуется путем объединения ориентированными взвешен­ными ребрами выходов одних нейронов с входами других. При этом граф межнейронных соединений может быть ациклическим либо произвольным циклическим. Вид графа служит одним из классификационных признаков типа нейронной сети, разделяющим сети на сети без циклов и циклические. Примеры нейронных сетей этих типов приведены на рис. 2 , 3.

Рис. 7.1. Пример нейронной сети без циклов

Рис. 7.2. Пример циклической нейронной сети

Разнообразие этих алгоритмов задаваемых конструкциями НС ничем не огра­ничено, так как можно использовать нейроны с различными функциями акти­вации, различными функциями состояния, двоичными, целочисленными, ве­щественными и другими значениями весов и входов. Поэтому в терминах ней­ронных сетей можно описывать решение как хорошо формализованных задач, например, задач математической физики, так и плохо формализуемых задач распознавания, классификации, обобщения и ассоциативного запоминания.

Сети могут быть конструируемыми или обучаемыми. В конструируемой сети число и тип нейронов, граф межнейронных связей, веса входов нейронов определяются при создании сети, исходя из решаемой задачи. Функционирование такой сети заключается в следующем. При подаче на входы час­тичной или ошибочной входной последовательности сеть через какое-то время переходит в одно из устойчивых состояний, предусмотренных при ее констру­ировании.

В обучаемых сетях их графы межнейронных связей и веса входов изменя­ются при выполнении алгоритма обучения. По алгоритму обучения сети де­лятся на наблюдаемые, ненаблюдаемые и смешанные (гибридные). Первые при обучении сравнивают заранее известный выход с получившимся значением.

Вторые обучаются, не зная заранее правильных выходных значений, но груп­пируя "близкие" входные векторы так, чтобы они формировали один и тот же выход сети. Ненаблюдаемое обучение используется, в частности, при решении задачи кластеризации. При смешанном алгоритме обучения часть весов опре­деляется при наблюдаемом, а часть - при ненаблюдаемом обучении.

Обучение осуществляется путем предъявления примеров, состоящих из наборов входных данных в совокупности с соответствующими результатами при наблюдаемом обучении и без последних при ненаблюдаемом. Эффектив­ность решения задач нейронной сетью зависит от выбранной структуры ней­ронной сети, используемого алгоритма обучения, называемых в совокупнос­ти нейропарадигмой, и полноты имеющейся базы данных примеров.