Обучение без учителя

В рассмотренном выше алгоритме обратного распространения ошибки обязательно наличие внешнего звена (учителя), формирующего входные и соответствующие им выходные (целевые) сигналы.

Обучение без учителя отличается самостоятельностью, хотя сам процесс обучения также заключается в настраивании весовых коэффициентов. Иногда процесс настройки коэффициентов без учителя называют самоорганизацией.

Рассмотрим алгоритм обучения Хебба. В соответствии с этим алгоритмом изменение весовых коэффициентов происходит по следующему правилу

, (6.42)

где - выходное значение - го нейрона - го слоя, - выходное значение - го нейрона - го слоя, , - весовые коэффициенты этих нейронов в два последовательных момента времени, - коэффициент скорости обучения. Процесс обучения имеет следующие шаги.

Шаг 1. Всем весовым коэффициентам и смещениям присваиваются небольшие случайные значения.

Шаг 2. На вход сети подается сигнал и для каждого слоя рассчитываются выходные сигналы нейронов , , где - число нейронов в - м слое, , где - число слоев в сети.

Шаг 3. На основании полученных выходных значений нейронов по формуле (6.42) производится изменение весовых коэффициентов.

Шаг 4. Если выходные значения сети не стабилизируются с заданной точностью, то осуществляется повторение цикла, начиная с шага 2. На шаге 2 предъявляются все сигналы из набора входных сигналов.

Нечеткие (гибридные) нейронные сети

Как было сказано выше, нейрон реализует следующую скалярную функцию

, (6.43)

где - весовые коэффициенты, - смещение, - -я компонента вектора входного сигнала, - функция активации нейрона.

Нечеткая (гибридная) нейронная сеть представляет собой многослойную нейронную сеть специальной структуры без обратных связей с четкими сигналами, весами и активационной функцией, причем суммирование в (9.43) осуществляются с использованием - нормы, - конормы или некоторых других непрерывных функций. При этом значения входов, выходов и весов нечеткой нейронной сети представляют собой вещественные числа, принадлежащие отрезку [0, 1].

В качестве примеров рассмотрим нечеткие нейронные сети, реализующие функции «И» и «ИЛИ».

Для нечеткого нейрона «И» входные сигналы и веса объединяются с помощью - конормы

, , (6.44)

а выход образуется с применением - нормы

(6.45)

Для нечеткого нейрона «ИЛИ» входные сигналы и веса объединяются с помощью - нормы

, , (6.46)

а выход образуется с применением - конормы

(6.47)