- •Штучні нейронні мережі
- •Лекція 1. Штучні нейронні мережі
- •Лекція 2. Детальний опис компонент нейронних мереж
- •Лекція 3. Вибір мережі
- •Лекція 4. Нейронна мережа на основі моделі "Функціонал на множині табличних функцій"
- •Лекція 5. Нейромережі в задачах відображення
- •Лекція 6. Сучасні напрямки розвитку нейрокомп'ютерних технологій
- •Штучні нейронні мережі
- •Історія нейронних мереж
- •Аналогія з мозком
- •Біологічний нейрон
- •Штучний нейрон
- •Штучні нейронні мережі
- •Навчання штучної нейронної мережі
- •Обґрунтованість застосування нейромереж
- •Машина фон Неймана у порівнянні з біологічної нейронною системою
- •Детальний опис компонент нейронних мереж
- •Розширена модель штучного нейрона
- •Компоненти штучного нейрона
- •Архітектура з'єднань штучних нейронів
- •Нейронні мережі
- •Навчання штучної нейронної мережі Контрольоване навчання
- •Неконтрольоване навчання
- •Оцінки навчання
- •Правила навчання
- •3Вибір мережі
- •Перцептрон Розенбалата
- •Алгоритм навчання одношарового перцептрона
- •Нейромережа зворотного поширення похибки (Back Propagation)
- •Алгоритм навчання мережі
- •Скерований випадковий пошук
- •Нейронна мережа вищого порядку або функціонально-пов'язана нейронна мережа
- •Мережа Кохонена
- •Алгоритм функціонування мережі Кохонена:
- •Квантування навчального вектора (Learning VectorQuantization)
- •Мережа зустрічного поширення (CounterРropagation)
- •Навчання мережі
- •Функціонування мережі
- •Імовірнісна нейронна мережа
- •Мережа Хопфілда
- •Алгоритм функціонування мережі
- •Машина Больцмана
- •Алгоритм функціонування мережі
- •Мережа Хемінга
- •Алгоритм функціонування мережі Хемінга
- •Двоскерована асоціативна пам'ять
- •Мережа адаптивної резонансної теорії
- •Алгоритм функціонування мережі
- •Нейронна мережа на основі моделі "Функціонал на множині табличних функцій"
- •Базові концепції моделі "Функціонал на множині табличних функцій"
- •Навчання та функціонування нейромережі фтф
- •Алгоритм для режиму навчання нейромереж
- •Алгоритм для режиму функціонування нейромережі
- •Особливості формування передатних функцій
- •Нейромережі в задачах відображення
- •Типи задач відображення і підходи до їх вирішення
- •Задачі прогнозування
- •Адаптація нейромереж в режимах прогнозування
- •Однопараметрична задача прогнозування
- •Множина даних для однопараметричної задачі
- •Багатопараметрична задача прогнозування
- •Множина даних для багатопараметричної задачі
- •Однокрокове прогнозування (передбачення)
- •Багатокрокове прогнозування
- •Багатокрокове прогнозування з перенавчанням нейромережі на кожному кроці прогнозу
- •Критерії оцінки якості функціонування мережі
- •Оцінювання точності прогнозів
- •Сучасні напрямки розвитку нейрокомп'ютерних технологій
- •Традиційні задачі
- •Прикладні задачі
- •Загальні задачі
- •Обробка зображень
- •Обробка сигналів
- •Нейрокомп'ютери в системах керування динамічними об'єктами
- •Нейромережеві експертні системи
- •Нейрочіпи і нейрокомп'ютери
- •Підсумок
Нейромережеві експертні системи
Необхідність реалізації експертних систем за алгоритмами нейромереж виникає при значному збільшенні числа правил і висновків. Прикладами реалізації конкретних нейромережевих експертних систем можуть служити система вибору повітряних маневрів у ході повітряного бою і медична діагностична експертна система для оцінки стану льотчика.
Нейрочіпи і нейрокомп'ютери
Головний результат розробки нейромережевих алгоритму рішення задачі - можливість створення архітектури нейрочіпу, адекватного розв'язуваній задачі. Можна з впевненістю сказати, що програмна реалізація нейромережевих алгоритмів на обчислювальних засобах, реалізованих на елементній базі, що не має відношення до нейромережевого логічного базису, або неефективна, або уявляє собою тимчасове явище. Для реалізації нейромережевих алгоритмів з використанням універсальних мікропроцесорних засобів ефективніше створити архітектури, орієнтовані на виконання нейромережевих операцій, ніж використовувати стандартні, орієнтовані на модифікацію однопроцесорних алгоритмів рішення задач.
На відміну від інших напрямків розвитку надпродуктивної обчислювальної техніки нейрокомп'ютери дають можливість вести розробки з використанням наявного потенціалу електронної промисловості. Необхідно відзначити ряд важливих особливостей даних робіт:
цей напрямок дозволяє створити унікальні суперкомп'ютери на наявній елементній базі, оскільки для них не є важливим рівень розвитку технології;
розробки нейрочіпів і нейрокомп'ютерів характеризуються переходом від цифрової обробки до аналого-цифрової і аналогової з метою різкого збільшення відношення продуктивність/ціна при контрольованій точності обчислень;
для розробки нейрочіпів більше підходить напівзамовлена технологія, ніж замовлена, через відносну "вогкисть" ідей архітектури алгоритмів і нейрочипів, нестачі часу і засобів для проведення робіт;
нейромережеві архітектури у порівнянні з іншими приводять до активізації використання нових технологічних напрямків реалізації: нейросистеми на пластмасі, оптоелектронні й оптичні нейрокомп'ютери, молекулярні нейрокомп'ютери і нанонейроелементи; виникає потреба в універсалізації САПР нейрочипів.
народження технології систем на пластмасі і нанотехнології може привести до появи нових надпаралельних архитектур. Вже зараз ясна адекватність нейромережевих архитектур технології на пластмасі (американська і японська розробки). Тому спроби на рівні наноелементів робити функціональні блоки зі старою архітектурою, яка відповідає однопроцесорним машинам, можна вважати марними. Починаючи з нанонейроелементів, ми впритул підходимо до інших принципово нових архітектурних елементів, що утворюють надпаралельні високопродуктивні обчислювальні системи.
Підсумок
Нейрокомп'ютери є перспективним напрямком розвитку сучасної високопродуктивної обчислювальної техніки, а теорія нейронних мереж і нейроматематика являють собою пріоритетні напрямки обчислювальної науки, і при відповідній підтримці інтенсивно розвиваються.
Основою активного розвитку нейрокомп'ютерів є принципова відмінність нейромережевих алгоритмів рішення задач від однопроцесорних, малопроцессорних, а також трансп'ютерних.
Сьогодні починає розширюватися сфера комерційної діяльності в області нейрокомп'ютерів чи подібних їм систем, зокрема:
нейропакети;
нейроплати (CNAPS і інші);
нейрокомп'ютери (Sinapse і інші);
відеокурси;
нейромережеві системи керування верстатами;
охоронні системи з нейромережевими алгоритмами виділення рухливих об'єктів;
системи "електронного ключа" з розпізнаванням відбитків пальців, рисунка райдужної оболонки ока;
експертні системи.
Нейрокомп'ютери є предметом досліджень відразу декількох дисциплін, тому єдине визначення нейрокомп'ютера можна дати тільки з врахуванням різних точок зору, адекватних різним напрямкам науки.
Математична статистика. Нейрокомп'ютери - це системи, що дозволяють сформувати опис характеристик випадкових процесів і сукупності випадкових процесів, що мають складні, багатомодальні чи взагалі невідомі функції розподілу.
Математична логіка і теорія автоматів. Нейрокомп'ютери - це системи, в яких алгоритм рішення задачі представлений логічною мережею елементів окремого виду - нейронів з повним відмовленням від булевских елементів типу І, АБО, НІ. Як наслідок цього введені специфічні зв'язки між елементами, що є предметом окремого розгляду.
Теорія керування. Як об'єкт керування вибирається окремий випадок, добре формалізований об'єкт - багатошарова нейронна мережа, а динамічний процес її налаштування уявляє собою процес рішення задачі. При цьому практично весь апарат синтезу адаптивних систем керування переноситься на нейронну мережу як окремий вид об'єкта керування.
Обчислювальна математика. Нейрокомп'ютери реалізують алгоритми рішення задач, представлені у виді нейронних мереж. Це обмеження дозволяє розробляти алгоритми, потенційно більш паралельні, ніж будь-яка інша їхня фізична реалізація. Множина нейромережевих алгоритмів рішення задач складає новий перспективний розділ обчислювальної математики, умовно названою нейроматематикой.
Обчислювальна техніка. Нейрокомп'ютер - це обчислювальна система з архітектурою MSIMD, в якій реалізовані два принципових технічних рішення:
спрощений до рівня нейрона процесорний елемент однорідної структури і різко ускладнені зв'язки між елементами;
програмування обчислювальної структури перенесено на змінювання вагових зв'язків між процесорними елементами.
Загальне визначення нейрокомп'ютера може бути представлене в наступному виді. Нейрокомп'ютер - це обчислювальна система з архітектурою апаратного і програмного забезпечення, адекватної виконанню алгоритмів, представлених у нейромережевому логічному базисі.
Нейрокомп'ютери дають стандартний спосіб рішення багатьох нестандартних задач. І неважливо, що спеціалізована машина краще вирішує один клас задач. Важливіше, що один нейрокомп'ютер вирішить і цю задачу, і другу, і третю і не треба щораз проектувати спеціалізовану ЕОМ, нейрокомп'ютер зробить все сам і майже не гірше.
Замість програмування навчання. Нейрокомп'ютер вчиться, потрібно лише формувати навчальні множини. Праця програміста заміняється новою працею вчителя. Краще це чи гірше? Ні те, ні інше. Програміст наказує машині всі деталі роботи, вчитель створює "навчальне середовище", до якого пристосовується нейрокомп'ютер. З'являються нові можливості для роботи.
Нейрокомп'ютери ефективні там, де потрібний аналог людської інтуїції, зокрема, для розпізнавання образів, читання рукописних текстів, підготовки аналітичних прогнозів, перекладу з однієї природної мови на іншу і т.п. Саме для таких задач звичайно важко скласти явний алгоритм.
Нейронні мережі дозволяють створити ефективне програмне та математичне забезпечення для комп'ютерів з високим ступенем розпаралелювання обробки.
Нейрокомп'ютери "демократичні" та дружні, як текстові процесори, тому з ними може працювати будь-який, навіть зовсім недосвідчений користувач.
