- •Нейронні мережі та нейрокомп’ютери
- •Контрольні запитання
- •Історія нейронних мереж
- •Контрольні запитання
- •Штучні нейронні мережі
- •3.1 Біологічний нейрон
- •3.2 Штучний нейрон
- •3.3 Штучні нейронні мережі
- •Контрольні запитання
- •Обгрунтування застосування нейромереж
- •3.4 Навчання штучної нейронної мережі
- •4.8 Керування
- •Контрольні запитання
- •Розширена модель штучного нейрона та компоненти штучного нейрона
- •5.1 Розширена модель штучного нейрона
- •5.2 Компоненти штучного нейрона
- •5.2.1 Вагові коефіцієнти
- •5.2.2 Функція суматора
- •5.2.3 Передавальна функція
- •5.2.4 Масштабування
- •5.25 Вихідна функція
- •5.2.6 Функція похибки та поширюване назад значення
- •5.2.7 Функція навчання
- •Контрольні запитання
- •Архітектура з’єднань штучних нейронів
- •Контрольні запитання
- •Навчання штучної нейронної мережі
- •7.1 Контрольоване навчання
- •7.2 Неконтрольоване навчання
- •7.3 Оцінки навчання
- •7.4 Правила навчання
- •7.4.1 Правило Хеба
- •7.4.2 Правило Хопфілда
- •7.4.3 Правило “дельта”
- •7.4.4 Правило градієнтного спуску
- •7.4.5 Навчання методом змагання
- •Контрольні запитання
- •Перцептрон розенбалата та нейромережа зворотнього поширення похибки
- •8.1 Перцептрон Розенбалата
- •8.2 Нейромережа зворотнього поширення похибки (Back Propagation)
- •Контрольні запитання
- •Мережі delta bar delta,
- •9.3 Скерований випадковий пошук
- •Контрольні запитання
- •Нейронна мережа вищого порядку. Мережа кохонена. Квантування навчального вектора
- •10.1 Нейронна мережа вищого порядку або функціонально-пов’язана нейронна мережа
- •10.2 Мережа Кохонена
- •10.3 Квантування навчального вектора (Learning Vector Quantization)
- •Контрольні запитання
- •Мережа зустрічного поширення. Ймовірнісна нейронна мережа. Мережа хопфілда. Машина больцмана
- •11.1 Мережа зустрічного поширення (CounterРropagation)
- •Навчання мережі
- •Функціонування мережі
- •11.2 Ймовірнісна нейронна мережа
- •11.3 Мережа Хопфілда
- •Алгоритм функціонування мережі:
- •11.4 Машина Больцмана
- •Алгоритм функціонування мережі:
- •Контрольні запитання
- •Мережа хемінга. Двоскерована асоціативна пам’ять. Мережа адаптивної резонансної теорії
- •12.1 Мережа Хемінга
- •Алгоритм функціонування мережі Хемінга:
- •12.2 Двоскерована асоціативна пам’ять
- •12.3 Мережа адаптивної резонансної теорії
- •Алгоритм функціонування мережі: - ініціалізація мережі:
- •Контрольні запитання
- •Нейронна мережа на основі моделі “функціонал на множині табличних функцій”
- •13.1 Базові концепції моделі “функціонал на множині табличних функцій”
- •13.2 Навчання та функціонування нейромережі фтф
- •13.3 Алгоритм для режиму навчання нейромереж
- •13.4 Алгоритм для режиму функціонування нейромережі
- •13.5 Особливості формування передавальних функцій
- •Контрольні запитання
- •Нейромережі в задачах відображення
- •14.1 Типи задач відображення і підходи до їх вирішення
- •14.1.1 Факторний аналіз
- •14.1.2 Кореляційний аналіз
- •14.1.3 Ранжування входів
- •14.2 Вибір даних для обробки
- •14.3 Згладжування даних
- •14.4 Задачі прогнозування
- •За характером основних ознак об’єкту:
- •За числом ознак об’єкту досліджень:
- •За часом випередження розрізняють види прогнозів:
- •14.5 Адаптація нейромереж в режимах прогнозування
- •Однопараметрична задача прогнозування
- •Багатопараметрична задача прогнозування
- •Однокрокове прогнозування (передбачення)
- •Багатокрокове прогнозування
- •Багатокрокове прогнозування з перенавчанням нейромережі на кожному кроці прогнозу
- •14.6 Критерії оцінки якості функціонування мережі
- •14.7 Оцінювання точності прогнозів
- •Контрольні запитання
- •Сучасні напрямки розвитку нейрокомп’ютерних технологій
- •Загальні задачі - це задачі досить просто зводяться до обробки нейронною мережею багатовимірних векторів дійсних змінних, наприклад:
- •Нейромережеві експертні системи
- •Нейрочіпи і нейрокомп’ютери
- •Контрольні запитання
- •Перелік рекомендованих джерел
14.7 Оцінювання точності прогнозів
Як правило, після навчання нейромережі здійснюють контрольне відтворення даних, які складали навчальну множину. Якщо точність відтворення задовільна і відхилення знаходяться в допустимих межах, вважають, що побудовано задовільну модель і слід очікувати достатню якість відображення. Якщо при відтворенні мережею даних навчальної множини спостерігаються великі розбіжності, можна припустити що це викликано:
- наявністю неточних даних з великою випадковою складовою. Для усунення цього явища підвищують вимоги до точності вимірювань. У випадку часового ряду, можливе зменшення кроку дискретизації, наприклад використання щомісячних значень замість річних;
- неврахуванням суттєвих ознак, які в значній мірі визначають закономірність. Ця проблема може бути вирішена розширенням набору ознак, які приймаються до уваги.
Після отримання передбачених правильних значень можливо отримати абсолютні та відносні відхилення на всій контрольній множині, для кожного кроку прогнозування. При наявності задовільних результатів прогнозування на контрольній множині, можна вважати, що налаштована мережа для даної задачі має оптимальну складність і готова до відтворення даних, для яких немає відповідних відомих відгуків.
Контрольні запитання
1 Які основні складові можна виділити в більшості реальних об’єктів дослідження?
2 Які типи множин даних, що використовується для навчання нейромереж, розрізняють в залежності від ступеня впливу тієї чи іншої складової?
3 На які класи можна розділити задачі відображення?
4 Як згладжують дані за допомогою нейромереж?
5 На які класи можна поділити задачі дослідження явищ, розвиток яких пов’язаний із часом?
6 Які види прогнозів розрізняють за часом випередження?
7 Як поділяють критерії оцінки якості функціонування нейромережі?
8 Як оцінюють точність прогнозів?
Лекція №15
Сучасні напрямки розвитку нейрокомп’ютерних технологій
Детальний аналіз розробок нейрокомп’ютерів дозволив виділити основні перспективні напрямки сучасного розвитку нейрокомп’ютерних технологій: нейропакети, нейромережеві експертні системи, СУБД із включенням нейромережевих алгоритмів, обробка зображень, керування динамічними системами й обробка сигналів, керування фінансовою діяльністю, оптичні нейрокомп’ютери, віртуальна реальність. Розробками в цій області займається більш 300 закордонних компаній, причому число їх постійне збільшується. Серед них такі гіганти як Intel, IBM і Motorolla. Сьогодні спостерігається тенденція переходу від програмних реалізацій до програмно-апаратної реалізації нейромережевих алгоритмів з різким збільшенням числа розробок нейрочіпів з нейромережевою архітектурою. Різко зросла кількість військових розробок, в основному скерованих на створення надшвидкісних, “розумних” суперобчислювачів.
Якщо говорити про головний перспективний напрямок - інтелектуалізації обчислювальних систем, додавання їм властивостей людського мислення і сприйняття, то тут нейрокомп’ютери - практично єдиний шлях розвитку обчислювальної техніки. Багато невдач на шляху вдосконалення штучного інтелекту протягом останніх 30 років пов’язано з тим, що для рішення важливих і складних по постановці задач вибирались обчислювальні засоби, не адекватні по можливостях розв’язуваній задачі, в основному з числа традиційних комп’ютерів. При цьому, як правило, не вирішувалась задача, а показувалась принципова можливість її рішення. Сьогодні активний розвиток комп’ютерних технологій створив об’єктивні умови для побудови обчислювальних систем, адекватних по можливостях і архітектурі практично будь-яким задачам штучного інтелекту.
У Японії з 1993 року прийнята програма “Real world computing program”. Її основна мета – це створення еволюціонуючої адаптивної ЕОМ. Основою розробки є нейротехнологія, яка використовується для розпізнавання образів, обробки семантичної інформації, керування інформаційними потоками і роботами, що здатні адаптуватися до навколишнього оточення. Тільки в 1996 році було проведено біля сотні міжнародних конференцій по нейрокомп’ютерах і суміжних проблемах. Розробки нейрокомп’ютерів ведуться в багатьох країнах світу, зокрема, в Австралії створений свій зразок комерційного супернейрокомп’ютера.
Завжди звучить питання: для якого класу задач найбільш ефективне застосування того чи іншого обчислювального пристрою, побудованого по нових ознаках. Стосовно нейрокомп’ютерів відповідь на нього постійно міняється протягом уже майже 50 років.
В історії обчислювальної техніки завжди були задачі, не розв’язувані традиційними комп’ютерами з архітектурою фон Неймана і для них перехід до нейромережевих технологій характерний у випадку різкого збільшення розмірності простору або рішення необхідності різкого скорочення часу. Можна виділити три ділянки застосування нейромережевих технологій: загальна, прикладна і спеціальна.
