- •Нейронні мережі та нейрокомп’ютери
- •Контрольні запитання
- •Історія нейронних мереж
- •Контрольні запитання
- •Штучні нейронні мережі
- •3.1 Біологічний нейрон
- •3.2 Штучний нейрон
- •3.3 Штучні нейронні мережі
- •Контрольні запитання
- •Обгрунтування застосування нейромереж
- •3.4 Навчання штучної нейронної мережі
- •4.8 Керування
- •Контрольні запитання
- •Розширена модель штучного нейрона та компоненти штучного нейрона
- •5.1 Розширена модель штучного нейрона
- •5.2 Компоненти штучного нейрона
- •5.2.1 Вагові коефіцієнти
- •5.2.2 Функція суматора
- •5.2.3 Передавальна функція
- •5.2.4 Масштабування
- •5.25 Вихідна функція
- •5.2.6 Функція похибки та поширюване назад значення
- •5.2.7 Функція навчання
- •Контрольні запитання
- •Архітектура з’єднань штучних нейронів
- •Контрольні запитання
- •Навчання штучної нейронної мережі
- •7.1 Контрольоване навчання
- •7.2 Неконтрольоване навчання
- •7.3 Оцінки навчання
- •7.4 Правила навчання
- •7.4.1 Правило Хеба
- •7.4.2 Правило Хопфілда
- •7.4.3 Правило “дельта”
- •7.4.4 Правило градієнтного спуску
- •7.4.5 Навчання методом змагання
- •Контрольні запитання
- •Перцептрон розенбалата та нейромережа зворотнього поширення похибки
- •8.1 Перцептрон Розенбалата
- •8.2 Нейромережа зворотнього поширення похибки (Back Propagation)
- •Контрольні запитання
- •Мережі delta bar delta,
- •9.3 Скерований випадковий пошук
- •Контрольні запитання
- •Нейронна мережа вищого порядку. Мережа кохонена. Квантування навчального вектора
- •10.1 Нейронна мережа вищого порядку або функціонально-пов’язана нейронна мережа
- •10.2 Мережа Кохонена
- •10.3 Квантування навчального вектора (Learning Vector Quantization)
- •Контрольні запитання
- •Мережа зустрічного поширення. Ймовірнісна нейронна мережа. Мережа хопфілда. Машина больцмана
- •11.1 Мережа зустрічного поширення (CounterРropagation)
- •Навчання мережі
- •Функціонування мережі
- •11.2 Ймовірнісна нейронна мережа
- •11.3 Мережа Хопфілда
- •Алгоритм функціонування мережі:
- •11.4 Машина Больцмана
- •Алгоритм функціонування мережі:
- •Контрольні запитання
- •Мережа хемінга. Двоскерована асоціативна пам’ять. Мережа адаптивної резонансної теорії
- •12.1 Мережа Хемінга
- •Алгоритм функціонування мережі Хемінга:
- •12.2 Двоскерована асоціативна пам’ять
- •12.3 Мережа адаптивної резонансної теорії
- •Алгоритм функціонування мережі: - ініціалізація мережі:
- •Контрольні запитання
- •Нейронна мережа на основі моделі “функціонал на множині табличних функцій”
- •13.1 Базові концепції моделі “функціонал на множині табличних функцій”
- •13.2 Навчання та функціонування нейромережі фтф
- •13.3 Алгоритм для режиму навчання нейромереж
- •13.4 Алгоритм для режиму функціонування нейромережі
- •13.5 Особливості формування передавальних функцій
- •Контрольні запитання
- •Нейромережі в задачах відображення
- •14.1 Типи задач відображення і підходи до їх вирішення
- •14.1.1 Факторний аналіз
- •14.1.2 Кореляційний аналіз
- •14.1.3 Ранжування входів
- •14.2 Вибір даних для обробки
- •14.3 Згладжування даних
- •14.4 Задачі прогнозування
- •За характером основних ознак об’єкту:
- •За числом ознак об’єкту досліджень:
- •За часом випередження розрізняють види прогнозів:
- •14.5 Адаптація нейромереж в режимах прогнозування
- •Однопараметрична задача прогнозування
- •Багатопараметрична задача прогнозування
- •Однокрокове прогнозування (передбачення)
- •Багатокрокове прогнозування
- •Багатокрокове прогнозування з перенавчанням нейромережі на кожному кроці прогнозу
- •14.6 Критерії оцінки якості функціонування мережі
- •14.7 Оцінювання точності прогнозів
- •Контрольні запитання
- •Сучасні напрямки розвитку нейрокомп’ютерних технологій
- •Загальні задачі - це задачі досить просто зводяться до обробки нейронною мережею багатовимірних векторів дійсних змінних, наприклад:
- •Нейромережеві експертні системи
- •Нейрочіпи і нейрокомп’ютери
- •Контрольні запитання
- •Перелік рекомендованих джерел
13.4 Алгоритм для режиму функціонування нейромережі
Процедура функціонування нейромережі здійснюється на основі отриманих результатів попередньої процедури наступним чином: вводяться вхідні дані, проводиться кодування на основі коефіцієнтів, отриманих в процесі навчання, матриця MSxi(1) заповнюється вхідними значеннями.
В режимі функціонування на вхід нейронної мережі надходить вектор вхідних сигналів MSxi(1), i=1, 2, ..., n. Після проходження вказаних сигналів через нейрони сенсорного прошарку, з врахуванням відповідних передавальних функцій останніх, на виходах нейронів вхідного прошарку формується вектор Mxi(1). Проходження сигналу з виходу будь-якого нейрона на вхід через відповідний зв’язок пов’язано із зважуванням сигналу вагою даного зв’язку, тому сумарний сигнал на вході першого нейронного елемента прихованого прошарку дорівнює:
.
(13.20)
На виході вказаного нейронного елемента формується сигнал:
.
(13.21)
У випадку, коли вектор Mxi(1) є рядком навчальної матриці, значення KN(1), а також значення сигналів KN(j) на виходах всіх інших нейронних елементів прихованого прошарку співпадають з обчисленими в процесі навчання вузловими значеннями. В іншому випадку величини Kx(j), для j=1, 2, ..., і, лише приблизно відповідають значенням, які можна було б отримати, якби вектор Mxi(1) входив в навчальну матрицю.
На вході довільного j-ого нейрона реагуючого прошарку j=1, 2, ..., m, з врахуванням (13.13) сумарний вхідний сигнал буде дорівнювати:
,
(13.22)
який співпадає з відповідним елементом навчальної матриці, або є відповідним наближенням. Вказаний сигнал трансформується у вихід нейронної мережі через передавальні функції нейронів реагуючого прошарку.
Отже, в основі алгоритму навчання і функціонування, лежать операції послідовних перетворень тренувальної матриці у відповідності з формулою (13.13).
Варіант схемної реалізації нейромережі, що відповідає описаному варіанту навчання, представлений на рис.13.6.
Рисунок 13.6 – Структура нейромережі з проективними та впорядкованими латеральними зв’язками
Багатокроковість процедури перетворення матриці MNi відображається введенням латеральних зв'язків між нейронами прихованого прошарку. На підставі результатів представлення навчальної матриці кінцевою сумою обчислюються вагові коефіцієнти синаптичних зв’язків Wil(1), Wlp(2), Wlr(3).
Встановлюючи відповідність між структурою нейромережі та графом обчислювального процесу в режимі функціонування, нескладно обчислити параметри нейромережі - ваги відповідних синаптичних зв’язків.
В результаті виконання процедури розкладу в ряд визначається набір векторів вагових коефіцієнтів синаптичних зв'язків та набір відношень виду PN(j)®KN(j), де PN(j) обчислюється для кожної реалізації. Отже, початкова матриця MNi(1) трансформується у матрицю коефіцієнтів (табл.13.2), які і будуть визначати передавальні функції нейронних елементів прихованого прошарку в табличному вигляді з нерівномірним розбиттям по осі аргументів, які в подальшому будуть представлятися відповідними інтерполюючими або апроксимуючими залежностями.
Таблиця 13.2 - Матриця коефіцієнтів
-
KN(j)
PN(j)
N
j=1, 2, ...
j=1, 2, ...
Для реалізації режиму функціонування нейронної мережі, навченої таким чином, необхідно забезпечити відтворення передавальних функцій на всьому можливому інтервалі задання часткових коефіцієнтів PN(j).
