- •Нейронні мережі та нейрокомп’ютери
- •Контрольні запитання
- •Історія нейронних мереж
- •Контрольні запитання
- •Штучні нейронні мережі
- •3.1 Біологічний нейрон
- •3.2 Штучний нейрон
- •3.3 Штучні нейронні мережі
- •Контрольні запитання
- •Обгрунтування застосування нейромереж
- •3.4 Навчання штучної нейронної мережі
- •4.8 Керування
- •Контрольні запитання
- •Розширена модель штучного нейрона та компоненти штучного нейрона
- •5.1 Розширена модель штучного нейрона
- •5.2 Компоненти штучного нейрона
- •5.2.1 Вагові коефіцієнти
- •5.2.2 Функція суматора
- •5.2.3 Передавальна функція
- •5.2.4 Масштабування
- •5.25 Вихідна функція
- •5.2.6 Функція похибки та поширюване назад значення
- •5.2.7 Функція навчання
- •Контрольні запитання
- •Архітектура з’єднань штучних нейронів
- •Контрольні запитання
- •Навчання штучної нейронної мережі
- •7.1 Контрольоване навчання
- •7.2 Неконтрольоване навчання
- •7.3 Оцінки навчання
- •7.4 Правила навчання
- •7.4.1 Правило Хеба
- •7.4.2 Правило Хопфілда
- •7.4.3 Правило “дельта”
- •7.4.4 Правило градієнтного спуску
- •7.4.5 Навчання методом змагання
- •Контрольні запитання
- •Перцептрон розенбалата та нейромережа зворотнього поширення похибки
- •8.1 Перцептрон Розенбалата
- •8.2 Нейромережа зворотнього поширення похибки (Back Propagation)
- •Контрольні запитання
- •Мережі delta bar delta,
- •9.3 Скерований випадковий пошук
- •Контрольні запитання
- •Нейронна мережа вищого порядку. Мережа кохонена. Квантування навчального вектора
- •10.1 Нейронна мережа вищого порядку або функціонально-пов’язана нейронна мережа
- •10.2 Мережа Кохонена
- •10.3 Квантування навчального вектора (Learning Vector Quantization)
- •Контрольні запитання
- •Мережа зустрічного поширення. Ймовірнісна нейронна мережа. Мережа хопфілда. Машина больцмана
- •11.1 Мережа зустрічного поширення (CounterРropagation)
- •Навчання мережі
- •Функціонування мережі
- •11.2 Ймовірнісна нейронна мережа
- •11.3 Мережа Хопфілда
- •Алгоритм функціонування мережі:
- •11.4 Машина Больцмана
- •Алгоритм функціонування мережі:
- •Контрольні запитання
- •Мережа хемінга. Двоскерована асоціативна пам’ять. Мережа адаптивної резонансної теорії
- •12.1 Мережа Хемінга
- •Алгоритм функціонування мережі Хемінга:
- •12.2 Двоскерована асоціативна пам’ять
- •12.3 Мережа адаптивної резонансної теорії
- •Алгоритм функціонування мережі: - ініціалізація мережі:
- •Контрольні запитання
- •Нейронна мережа на основі моделі “функціонал на множині табличних функцій”
- •13.1 Базові концепції моделі “функціонал на множині табличних функцій”
- •13.2 Навчання та функціонування нейромережі фтф
- •13.3 Алгоритм для режиму навчання нейромереж
- •13.4 Алгоритм для режиму функціонування нейромережі
- •13.5 Особливості формування передавальних функцій
- •Контрольні запитання
- •Нейромережі в задачах відображення
- •14.1 Типи задач відображення і підходи до їх вирішення
- •14.1.1 Факторний аналіз
- •14.1.2 Кореляційний аналіз
- •14.1.3 Ранжування входів
- •14.2 Вибір даних для обробки
- •14.3 Згладжування даних
- •14.4 Задачі прогнозування
- •За характером основних ознак об’єкту:
- •За числом ознак об’єкту досліджень:
- •За часом випередження розрізняють види прогнозів:
- •14.5 Адаптація нейромереж в режимах прогнозування
- •Однопараметрична задача прогнозування
- •Багатопараметрична задача прогнозування
- •Однокрокове прогнозування (передбачення)
- •Багатокрокове прогнозування
- •Багатокрокове прогнозування з перенавчанням нейромережі на кожному кроці прогнозу
- •14.6 Критерії оцінки якості функціонування мережі
- •14.7 Оцінювання точності прогнозів
- •Контрольні запитання
- •Сучасні напрямки розвитку нейрокомп’ютерних технологій
- •Загальні задачі - це задачі досить просто зводяться до обробки нейронною мережею багатовимірних векторів дійсних змінних, наприклад:
- •Нейромережеві експертні системи
- •Нейрочіпи і нейрокомп’ютери
- •Контрольні запитання
- •Перелік рекомендованих джерел
Контрольні запитання
1 Яке представлення нейронної мережі в основі моделі “функціонал на множині табличних функцій”?
2 Як здійснюється навчання та функціонування нейромережі на основі моделі “функціонал на множині табличних функцій”?
3 Який алгоритм для режиму навчання нейромереж на основі моделі “функціонал на множині табличних функцій”?
4 Який алгоритм для режиму функціонування нейромережі на основі моделі “функціонал на множині табличних функцій”?
Лекція №14
Нейромережі в задачах відображення
14.1 Типи задач відображення і підходи до їх вирішення
Відображення розглядають як функцію f, визначену на множині Х, яка приймає свої значення серед елементів множини Y і кожному елементу з Х має відповідати тільки один елемент з Y. Пару векторів X и Y називають прикладом або реалізацією.
В задачах відображення нейромережі здійснюють оцінювання та передбачення поведінки об’єктів, в тому числі систем та процесів, що підлягають певним законам і можуть бути задані сукупністю своїх реалізацій.
Кожна реалізація повинна містити набір ознак, які визначають основний зміст об’єкта. Якщо однією з ознак об’єкта дослідження є час, тоді реалізації можуть бути представлені у вигляді часових рядів.
В більшості реальних об’єктів дослідження можна виділити їх основні складові:
- детермінована складова, яка підлягає точному передбаченню;
- ймовірнісна складова, яку можна передбачити з заданим ступенем ймовірності;
- випадкова складова, яку неможливо ні врахувати, ні передбачити.
В залежності від ступеня впливу тієї чи іншої складової, можна говорити про певний тип множин даних, що використовується для навчання нейромереж:
- множина даних детермінована, з усіма врахованими основними параметрами, викликаними дією відомих причин, яка характеризується малим рівнем шумів;
- множина даних з наявністю ймовірнісної складової, що випливає з експериментальної постановки задачі, з різним ступенем врахування діючих факторів та з впливом похибок оцінювання;
- множина даних з наявністю випадкової складової внаслідок не врахування ряду визначальних ознак явища.
Такий поділ слід вважати приблизним, але при оцінюванні об’єкта дослідження потрібно обирати такі ознаки, для яких можливе зменшення випадкової складової, оцінювання ймовірнісної складової і максимальне збільшення детермінованої частини.
Задачі відображення можна розбити на два основних класи:
- класифікація;
- регресія.
У задачах класифікації потрібно визначити, до якого з декількох заданих класів належить даний вхідний набір. Прикладами можуть служити надання кредиту, діагностика захворювань, розпізнавання образів.
У задачах регресії потрібно передбачати значення змінної, що приймає неперервні числові значення: ціна акцій, витрата палива в автомобілі, прибуток кампанії і т.п.
Передбачення явищ можна поділити на:
- передбачення відгуків для множини дискретних вхідних даних, не пов’язаних із часом (економічні, соціологічні оцінки та ін.): дані представлені таблично;
- прогнозування явищ, які безперервно змінюються у часі (фізичні процеси, природні явища, тощо): дані представлені у вигляді часових рядів.
Для вирішення задачі за допомогою нейронної мережі, необхідно зібрати дані для навчання. Навчальна множина даних являє собою набір прикладів, для яких відомо значення вхідних і вихідних параметрів.
Перше, що потрібно вирішити, - які параметри використовувати і скільки прикладів вибрати.
Початково, вибір параметрів здійснюється інтуїтивно. Досвід роботи в обраній предметній області допоможе визначити, які змінні є важливими. Для початку має сенс включити всі змінні, які, на Вашу думку, можуть впливати на результат - на наступних етапах цю множину можна скоротити.
Для забезпечення обґрунтованого вибору, вилучення несуттєвих ознак, що вносять додаткові спотворення при навчанні, можливе застосування відомих методів математичної статистики.
