- •№1 Зертханалық жұмыс Тақырыбы. Биологиялық және жасанды нейрон.
- •1 Кесте – Нейрондарды активациялау функцияларының тiзiмi
- •№ 2 Зертханалық жұмыс
- •2.2 Персептрондар
- •2.3 Зерттелетін функциялар. Нейрондық желісін жасау функциясы.
- •3.2 Нейрожелілік әдістің негізінде есепті шешу кезеңдері.
- •Введём переменную значения ошибки запустим функцию адаптации персептрона в цикле, пока ошибка не
- •Вариант 1 Вариант 2
- •№ 3 Зертханалық жұмыс
- •3.2 Алгоритм обратного распространения ошибки
- •3.6 Характеристики нс
- •3.10.2. Создание сети
- •3.10.3. Обучение сети
- •3.10.5. Моделирование сети (использование сети для решения задачи)
- •4 Лабораторная работа № 4 нс с радиальными базисными функциями
- •4.2 Сеть с радиальными базисными функциями
- •4.3 Изучаемые функции
- •(Сети с радиальными базисными функциями обучаются в процессе создания).
- •4.4 Характеристики нс
- •4.5 Порядок выполнения работы
- •Вариант 1
- •Вариант 2
- •Вариант 3
- •Вариант 4
- •Вариант 5
- •Вариант 6
- •Вариант 7
- •Вариант 8
- •Вариант 9
- •Вариант 10
- •5.2 Изучаемая функция
- •Вариант 1
- •Вариант 2
- •Вариант 3
- •Вариант 4
- •Вариант 5
- •Вариант 6
- •Вариант 7
- •Вариант 8
- •Вариант 9
- •Вариант 10
- •Контрольные вопросы
- •6 Лабораторная работа № 6
- •6.2 Вероятностная нейронная сеть
- •6.3 Изучаемые функции Функция создания вероятностной нс
- •Вспомогательные векторно-матричные функции
- •Контрольные вопросы
- •7 Лабораторная работа № 7
- •7.2 Задача кластеризации и поиска зависимостей
- •7.5 Самоорганизующаяся карта признаков
- •7.6 Изучаемые функции . Функции создания нс
- •Вспомогательные функции
- •7.7 Порядок выполнения работы
- •2. Пример создания самоорганизующейся карты.
- •Контрольные вопросы
- •Лабораторная работа № 8 Сеть Хопфилда
- •Цель работы
- •Краткие теоретические сведения
- •Пример решения типовой задачи
- •Отчёт о выполнении работы
Контрольные вопросы
В чем суть задачи кластеризации образцов?
Что из себя представляет слой Кохонена, самоорганизующаяся карта признаков? Как они обучаются?
Приведите функции Matlab для работы со слоем Кохонена, самоорганизующейся картой признаков.
Лабораторная работа № 8 Сеть Хопфилда
Цель работы
Научиться работать с сетью Хопфилда newhop, исследовать устойчивость сети и её сходимость.
Краткие теоретические сведения
Американский исследователь Хопфилд в 80-х годах 20-го века предложил специальный тип нейросетей. Названные в его честь сети Хопфилда являются рекуррентными или сетями с обратными связями и предназначены для распознавания образов. Обобщенная структура этой сети представляется, как правило, в виде системы с обратной связью выхода с входом.
В сети Хопфилда входные сигналы нейронов
являются одновременно и выходными
сигналами сети: xi(k)=yi(k-1),
при этом возбуждающий вектор особо не
выделяется. В классической системе
Хопфилда отсутствует связь нейрона с
собственным выходом, что соответствует
,
а вся матрица весов является симметричной:
wij=wji
. (1)
Симметричность матрицы весов гарантирует
сходимость процесса обучения. Процесс
обучения сети формирует зоны притяжения
некоторых точек равновесия, соответствующих
обучающим данным. При использовании
ассоциативной памяти мы имеем дело с
обучающим вектором
,
либо с множеством этих векторов, которые
в результате проводимого обучения
определяют расположение конкретных
точек притяжения (аттракторов).
Каждый нейрон имеет функцию активации
сигнум со значениями
:
. (2)
Это означает, что выходной сигнал i-го нейрона определяется функцией:
,
(3)
где N обозначает количество нейронов, N=n. Часто постоянная составляющая bi , определяющая порог срабатывания отдельных нейронов, равна 0. Тогда циклическое прохождение сигнала в сети Хопфилда можно представить соотношением:
(4)
с начальным условием
.
В процессе функционирования сети
Хопфилда можно выделить два режима:
обучения и классификации. В режиме
обучения на основе известных обучающих
выборок
подбираются весовые коэффициенты wij.
В режиме классификации при зафиксированных
значениях весов и вводе конкретного
начального состояния нейронов
возникает переходный процесс, протекающий
в соответствии с выражением (2) и
заканчивающийся в одном из локальных
устойчивых положений, задаваемом
биполярным вектором со значениями
,
для которого
.
Обучение не носит рекуррентного характера. Достаточно ввести значения (правило Хебба) весов, выразив их через проекции вектора точки притяжения эталонного образа:
, (5)
В соответствии с этим правилом сеть дает правильный результат при входном примере, совпадающим с эталонным образцом, поскольку:
, (6)
так как вследствие биполярности значений
элементов вектора
всегда
.
При вводе большого количества обучающих
выборок
для k=1,2,…p
веса wij
подбираются согласно
обобщенному правилу Хебба в соответствии
с которым:
. (7)
Благодаря такому режиму обучения веса принимают значения, определяемые усреднением множества обучаемых выборок. В случае множества обучаемых выборок актуальным становится вопрос о стабильности ассоциативной памяти.
Сеть Хопфилда [2] является автоассоциативной сетью (рис. 12). Дискретная сеть Хопфилда имеет следующие характеристики: она содержит один слой элементов; каждый элемент связывается со всеми другими элементами, но не связан с самим собой; за один шаг работы обновляется только один элемент сети; элементы обновляются в случайном порядке; выход элемента ограничен значениями 0 или 1.
|
Рис. 12. Схема архитектуры модифицированной сети Хопфилда |
