- •Штучні нейронні мережі
- •Лекція 1. Штучні нейронні мережі
- •Лекція 2. Детальний опис компонент нейронних мереж
- •Лекція 3. Вибір мережі
- •Лекція 4. Нейронна мережа на основі моделі "Функціонал на множині табличних функцій"
- •Лекція 5. Нейромережі в задачах відображення
- •Лекція 6. Сучасні напрямки розвитку нейрокомп'ютерних технологій
- •Штучні нейронні мережі
- •Історія нейронних мереж
- •Аналогія з мозком
- •Біологічний нейрон
- •Штучний нейрон
- •Штучні нейронні мережі
- •Навчання штучної нейронної мережі
- •Обґрунтованість застосування нейромереж
- •Машина фон Неймана у порівнянні з біологічної нейронною системою
- •Детальний опис компонент нейронних мереж
- •Розширена модель штучного нейрона
- •Компоненти штучного нейрона
- •Архітектура з'єднань штучних нейронів
- •Нейронні мережі
- •Навчання штучної нейронної мережі Контрольоване навчання
- •Неконтрольоване навчання
- •Оцінки навчання
- •Правила навчання
- •3Вибір мережі
- •Перцептрон Розенбалата
- •Алгоритм навчання одношарового перцептрона
- •Нейромережа зворотного поширення похибки (Back Propagation)
- •Алгоритм навчання мережі
- •Скерований випадковий пошук
- •Нейронна мережа вищого порядку або функціонально-пов'язана нейронна мережа
- •Мережа Кохонена
- •Алгоритм функціонування мережі Кохонена:
- •Квантування навчального вектора (Learning VectorQuantization)
- •Мережа зустрічного поширення (CounterРropagation)
- •Навчання мережі
- •Функціонування мережі
- •Імовірнісна нейронна мережа
- •Мережа Хопфілда
- •Алгоритм функціонування мережі
- •Машина Больцмана
- •Алгоритм функціонування мережі
- •Мережа Хемінга
- •Алгоритм функціонування мережі Хемінга
- •Двоскерована асоціативна пам'ять
- •Мережа адаптивної резонансної теорії
- •Алгоритм функціонування мережі
- •Нейронна мережа на основі моделі "Функціонал на множині табличних функцій"
- •Базові концепції моделі "Функціонал на множині табличних функцій"
- •Навчання та функціонування нейромережі фтф
- •Алгоритм для режиму навчання нейромереж
- •Алгоритм для режиму функціонування нейромережі
- •Особливості формування передатних функцій
- •Нейромережі в задачах відображення
- •Типи задач відображення і підходи до їх вирішення
- •Задачі прогнозування
- •Адаптація нейромереж в режимах прогнозування
- •Однопараметрична задача прогнозування
- •Множина даних для однопараметричної задачі
- •Багатопараметрична задача прогнозування
- •Множина даних для багатопараметричної задачі
- •Однокрокове прогнозування (передбачення)
- •Багатокрокове прогнозування
- •Багатокрокове прогнозування з перенавчанням нейромережі на кожному кроці прогнозу
- •Критерії оцінки якості функціонування мережі
- •Оцінювання точності прогнозів
- •Сучасні напрямки розвитку нейрокомп'ютерних технологій
- •Традиційні задачі
- •Прикладні задачі
- •Загальні задачі
- •Обробка зображень
- •Обробка сигналів
- •Нейрокомп'ютери в системах керування динамічними об'єктами
- •Нейромережеві експертні системи
- •Нейрочіпи і нейрокомп'ютери
- •Підсумок
Багатокрокове прогнозування з перенавчанням нейромережі на кожному кроці прогнозу
Швидкі неітераційні алгоритми навчання дозволяють запропонувати новий тип багатокрокового прогнозу, який може бути застосований при довготермінових прогнозах із збереженням задовільної точності прогнозування.
Аналогічно з попереднім алгоритмом прогнозування на входи мережі у режимі функціонування надходить остання реалізація навчальної множини x(tn-2), x(tn-1), x(tn). Прогнозоване значення виходу x*(tn+1) відкладається у векторі прогнозованих вихідних значень і в якості достовірного додається до реальних значень навчальної множини. Навчальна множина збільшується на одне часове вікно. Відбувається процес перенавчання мережі на збільшеній навчальній множині, під час якого визначаються нові вагові коефіцієнти k синаптичних зв'язків і поліномів передатних функцій нейронів (рис. 13).
Рис. 13. Послідовність використання нейромережі для задач багатокрокового прогнозування з перенавчанням
Реалізація x(tn-1), x(tn), x*(tn+1), як значення наступного вхідного вікна подається на входи мережі в режимі функціонування. Мережа продукує нове вихідне значення x*(tn+2), яке відповідно також відкладається у вектор продукованих виходів і долучається до реальних значень навчальної множини, з метою подальшого перенавчання мережі та встановлення поновлених коефіцієнтів поліномів передатних функцій і синаптичних зв'язків. Ітераційна процедура перенавчання поширюється до прогнозованого значення x*(tN).
Такий підхід дозволяє при великих інтервалах випередження усунути затухання прогностичних властивостей мережі за рахунок постійного коректування вагових коефіцієнтів синаптичних зв'язків.
Відзначимо, що алгоритм багатокрокового прогнозування з перенавчанням мережі для традиційних мереж прямого поширення з ітераційним навчанням є практично нездійсненним через великі часові затримки, необхідні на переналаштовування коефіцієнтів мережі.
Критерії оцінки якості функціонування мережі
Критерії оцінки слід поділити на внутрішні та зовнішні. Внутрішні критерії формуються на основі інформації множини даних, які були використані для навчання, тоді як зовнішні критерії використовують нову інформацію тестової множин, елементи яких не використовувалась при навчанні. Оптимальна складність моделі мережі встановлюється за сукупністю зовнішніх та внутрішніх критеріїв.
До зовнішніх критеріїв вибору моделі можна віднести:
Критерій регулярності - зовнішній критерій, для обчислення величини якого вимагається тестова множина даних.
де (1) - величина критерію; і - номер відгуку; і - значення відгуків, що продукуються мережею; і* - точні значення відгуків.
Фізичний сенс застосування критерію регулярності полягає у виборі моделі, яка буде максимально точною на елементах тестової множини, які не входили до складу навчальної множини.
Критерій мінімального зміщення вимагає максимального співпадіння значень вихідної величини для двох моделей, де в якості навчальних елементів були використані дані різних підмножин навчальної множини.
Критерій мінімального зміщення дозволяє обирати модель, яка "слабо реагує" на зміну навчальної множини і дозволяє вирішити задачу відновлення закону, що діє для зашумлених тестових даних.
Критерій зміщенності показників в часі - допомагає оцінити рівень взаємозв'язку змінних. Окремі показники можуть мати різну післядію, тому розділене прогнозування кожного з них може забезпечити кращий результат. Відповідно, при наявності тісного взаємозв'язку між показниками, прогнозування їх сукупності покращує результати прогнозу кожного з них. Можливе також включення нового параметра, який може бути або додатковою ознакою або лінійною комбінацією вже включених ознак. Застосування цього критерію допомагає в оптимальному підборі таких ознак явища, які можуть забезпечити вищу точність прогнозування.
Критерій фізичної достовірності - вимагає виключення моделей, які під час проведення експерименту, можуть продукувати нереальні результати (великі викиди для множини, що прогнозується).
