3.Модель Хопфилда
Нейро́нная сеть Хо́пфилда — полносвязная нейронная сеть с симметричной матрицей связей. В процессе работы динамика таких сетей сходится (конвергирует) к одному из положений равновесия. Эти положения равновесия являются локальными минимумами функционала, называемого энергией сети (в простейшем случае — локальными минимумами отрицательно определённой квадратичной формы на n-мерном кубе). Такая сеть может быть использована как автоассоциативная память, как фильтр, а также для решения некоторых задач оптимизации. В отличие от многих нейронных сетей, работающих до получения ответа через определённое количество тактов, сети Хопфилда работают до достижения равновесия, когда следующее состояние сети в точности равно предыдущему: начальное состояние является входным образом, а при равновесии получают выходной образ.
Машина Больцмана
Машина Больцмана (англ. Boltzmann machine) — вид стохастической рекуррентной нейронной сети, изобретенной Джеффри Хинтоном и Терри Сейновски. Машина Больцмана может рассматриваться как стохастический генеративный вариант сети Хопфилда.
Специалисты по статистике называют такие сети случайными марковскими полями. Сеть, использующая для обучения алгоритм имитации отжига, назвается машиной Больцмана в честь австрийского физика Л. Больцмана, одного из создателей статистической механики. Эта модель оказалась первой нейронной сетью, способной обучаться внутренним репрезентациям, и может представлять и решать сложные комбинаторные задачи. Несмотря на это, из-за ряда проблем, машины Больцмана с неограниченной связностью не могут использоваться для решения практических проблем. Если же связность ограничена, то обучение может быть достаточно эффективным для решения практических проблем.
5. Сеть Кохонена (карты Кохонена)
Самоорганизу́ющаяся ка́рта Ко́хонена (англ. Self-organizing map — SOM) — нейронная сеть с обучением без учителя, выполняющая задачу визуализации и кластеризации. Идея сети предложена финским учёным Т. Кохоненом. Является методом проецирования многомерного пространства в пространство с более низкой размерностью (чаще всего, двумерное), применяется также для решения задач моделирования, прогнозирования и др. Является одной из версий нейронных сетей Кохонена.
6. Модель Хэмминга
7. Модель art (Сеть Гросберга)
RT-1 (сеть адаптивной резонансной теории-1, классификатор Карпенетер/Гроссберга) - рекуррентная нейронная сеть с алгоритмом обучения "без учителя", обычно включает в себя два слоя, реализующих кратковременную память в виде паттернов активности нейронов. В первом слое кодируются признаки объектов, во втором - классы объектов. Имеющиеся между слоями связи реализуют долговременную память в виде адаптивных весовых коэффициентов. Кратковременная память предназначена для запоминания стимулов и их классификации, долговременная - для хранения информации о классах объектов. В модели ART-1 на вход подаются бинарные значения. Если входной вектор достаточно похож на один из имеющихся прототипов, то векторы резонируют (данный прототип корректируется с учетом входного вектора), если входной вектор не похож ни на один прототип, то создается новый класс и в качестве его прототипа берется входной вектор.
8. Двунаправленная ассоциативная память (ДАП)
Нейронная сеть Коско (Двунаправленная ассоциативная память — ДАП) — нейронная сеть, разработанная Бартом Коско. Это однослойная нейронная сеть с обратными связями, базируется на двух идеях: адаптивной резонансной теории Стефана Гросберга и автоассоциативной памяти Хопфилда. Двунаправленная ассоциативная память (ДАП) является гетероассоциативной; входной вектор поступает на один набор нейронов, а соответствующий выходной вектор вырабатывается на другом наборе нейронов. Как и сеть Хопфилда, ДАП способна к обобщению, вырабатывая правильные реакции, несмотря на искаженные входы. Кроме того, могут быть реализованы адаптивные версии ДАП, выделяющие эталонный образ из зашумленных экземпляров. Эти возможности сильно напоминают процесс мышления человека и позволяют искусственным нейронным сетям сделать шаг в направлении моделирования мозга.
