Алгоритм функціонування мережі:

- на стадії ініціалізації мережі вагові коефіцієнти синапсів встановлюються таким чином:

. (11.2)

Тут i і j - індекси, відповідно, предсинаптичного і постсинаптичного нейронів; x_ik, x_jk - i-ий і j-ий елементи вектора k-ого зразка.

- на входи мережі подається невідомий сигнал (t - номер ітерації). Його поширення безпосередньо встановлює значення виходів:

y_i(0) = x_i , i = 0...n-1, (11.3)

тому позначення на схемі мережі вхідних сигналів у явному вигляді носить умовний характер. Нуль у дужках справа від y_i означає нульову ітерацію в циклі роботи мережі.

- розраховується новий стан нейронів:

, j=0...n-1 (11.4)

і нові значення виходів:

, (11.5)

де f - передавальна функція у вигляді порогової, наведена на рис.11.4.

Рисунок 11.4 – Передавальні функції

- перевіряємо чи змінилися вихідні значення виходів за останню ітерацію. Якщо так - перехід до пункту “на входи мережі подається невідомий сигнал”, інакше (якщо виходи стабілізувались) - кінець. При цьому вихідний вектор являє собою зразок, що найкраще відповідає вхідним даним.

Іноді мережа не може провести розпізнавання і видає на виході неіснуючий образ. Це пов’язано з проблемою обмеженості можливостей мережі. Для мережі Хопфілда число запам’ятованих образів m не повинно перевищувати величини, приблизно рівної 0.15•n. Крім того, якщо два образи А і Б дуже схожі, вони, можливо, будуть викликати в мережі перехресні асоціації, тобто пред’явлення на входи мережі вектора А призведе до появи на її виходах вектора Б і навпаки.

11.4 Машина Больцмана

Машина Больцмана (Boltzmann mashine) є подібною за функцією та дією до мережі Хопфілда і включає поняття “модельованого відпалу” для пошуку в просторі станів прошарку образів глобального мінімуму.

Еклі (Ackley), Хінтон (Hinton) та Сейновскі (Sejnowski) розробили правило больцманівського навчання у 1985 р. Подібно до мережі Хопфілда, машина Больцмана має простір станів, який базується на вагах з’єднань у прошарку образів. Процеси навчання мережі, наповненої образами, включає вивчення рельєфу простору станів. Під час ітеративного навчання знаходяться краща множина вихідних значень.

В процесі навчання машина Больцмана моделює відпал металу. Як і при фізичному відпалі, температура починається з вищих значень і зменшується з часом. Збільшена температура додає збільшений шумовий коефіцієнт до кожного нейрону у прошарку образів. Звичайно, кінцева температура є нулем. Для досягнення кращого рішення доцільно на нижчих температурах додавати більше ітерацій.

Машина Больцмана, навчаючись на високій температурі, веде себе більш подібно до випадкової моделі, а на низьких температурах вона веде себе як детермінована модель. Через випадкову компоненту у відпаловому навчанні, нейрон може прийняти нове значення стану, що збільшується швидше, ніж зменшується загальний простір станів. Імітація фізичного відпалу дозволяє уникаючи локальний мінімум, просуватись до глобального.

Як і в мережі Хопфілда, мережі може бути представлений частковий образ для доповнення відсутньої інформації. Обмеження на число класів, що є менше ніж 15% від загальної кількості елементів у прошарку образів, все ще застосовується.