- •1. Основные направления в области систем ии, их характеристика.
- •2. Архитектура и свойства нс Back propagation. Функции активации.
- •3. Градиентный алгоритм обучения нс Back propagation(вр), его свойства.
- •4. Вывод рекурсивного соотношения для произвольного слоя сети вр. Организация вычислений компонент градиента в сети вр.
- •5. Модификация градиентного метода обучения.
- •6. Генетический алгоритм обучения нс вр и его свойства.
- •7. Метод сопряженных градиентов в обучении нс вр и его свойства.
- •8. Применение нс вр в задачах макроэкономичесого прогнозирования.
- •9. Нейронные сети с обратными связями. Нс Хопфилда и Хэмминга и ее свойства.
- •10. Самоорганизация в нейронных сетях. Нейронная сеть Кохонена.
- •13. Основные идеи и принципы мгуа
- •14. Поліноміальний алгоритм мгуа
- •15.Комбінаторний алгоритм мгуа
- •16. Алгоритм мгуа з послідовним виділенням трендів
- •17. Нечіткий метод групового обліку аргументів
- •22. Метод комплексирования аналогов в задачах прогнозирования случайных процессов.
- •23. Метод комплексирования аналогов в задачах прогнозирования случайных событий.
- •24. Классификация основных моделей обучения
- •25. Байесовский алгоритм обучения. Его свойства.
- •26. Вероятностные итеративные алгоритмы обучения. Условия сходимости.
- •27. Постановка задачи кластер-анализа. Критерии и метрики кластер-анализа.
- •28. Алгоритм мимовільної розбивки на незадане число класів
- •30. Агломеративний ієрархічний алгоритм кластер-аналізу
- •30.Общая характеристика задач распознования образов.
- •31.Этапы процесса распознавания. Классификация моделей и методов.
- •39. Классы структурированных моделей. Основные режимы изменений.
- •47. Алгоритм эра.
- •48. Применение алгоритма эволюционного моделирования эра в задачах классификации объектов по кривым.
- •49.Загальна характеристика систем з нечіткою логікою. Лингвистические переменные и термы
- •50.Нечіткий метод групового обліку аргументів
- •51. Алгоритм Mamdani
- •61. Нечеткая нс tsk и Менделя. Структура, функции слоев.
14. Поліноміальний алгоритм мгуа
Перша ітерація
Крок 1. З множини виходів
вибираються пари аргументів
,
і складаються часткові описи виду
при цьому використовують часткові описи квадратичного типу:
Число часткових описів 1-го ряду дорівнює
.
Крок 2.Використовуючи метод
найменших квадратів (МНК) для кожного
опису знаходяться по навчальній вибірці
оцінки невідомих коефіцієнтів
.
Крок 3. За критерієм мінімуму
на перевірочній послідовності відбирається
кращих моделей, тобто реалізують
процедуру селекції. Величина
називається свободою вибору, при цьому
.
Виходи цих моделей служать аргументами-входами
для конструювання моделей другого ряду.
Крок 4. Знаходиться
m-а ітерація
Крок 1. Конструюються часткові описи виду:
,
Крок 2. Для кожного опису,
використовуючи МНК, знаходяться
відповідні оцінки
.
Крок 3. По перевірочній послідовності знаходиться для кожного часткового опису величина критерію
де
-
обсяг перевірочної вибірки.
Крок 4. Знаходиться
.
Перевіряється умова
,
де
-
величини критерію точності для найкращих
моделей (m-1)-го і m-го ряду селекції
відповідно. Якщо так, то кінець. Шукана
модель вибирається з часткових описів
m-1-го рівня, на якому досягається
мінімальна помилка
.
Інакше перехід до конструювання
наступного ряду часткових описів. При
цьому провадиться добір (селекція) F2
кращих описів.
Заключний етап.
Рухаючись від кінця до початку і роблячи послідовну заміну перемінних, обчислюються вирази для шуканої моделі у початковому просторі описів.
15.Комбінаторний алгоритм мгуа
Блок формування базису
Якщо задані виміри деяких вхідних
перемінних
об'єкта , що моделюється, і максимальний
ступінь полінома, то число доданків n у
повному поліномі ступеня max
від v перемінних визначається однозначно:
Сам повний поліном записується в наступному загальному виді:
,
де кожен узагальнений “лінійний” аргумент є нелінійною функцією початкових перемінних :
Отже, – базисний набір опорних функцій.
Описана процедура дозволяє сформувати
матрицю вимірів узагальнених аргументів
,
де N – число точок вимірів.
Ці точки розділені на три послідовності:
навчальну (A) довжиною
,
перевірочну (B) довжиною
й екзаменаційну (C) довжиною
.
Причому
Блок перебору часткових моделей
Основні операції:
формування структури чергової часткової моделі;
формування відповідної нормальної системи рівнянь;
вирішення отриманої системи (оцінка коефіцієнтів моделі).
Формування структур часткової моделі
формалізується за допомогою структурного
вектора
:
якщо елемент
цього вектора приймає значення 1, то
відповідний i-й аргумент включається в
часткову модель, якщо 0 – не включається.
Використовується схема зміни двоїстого вектора за принципом роботи двоїстого лічильника, в останній розряд якого додається одиниця.
Для формування нормальної системи
рівнянь, що відповідає черговому
структурному вектору, можна вчинити
формально: зі стовпців повної матриці
х, зазначених одиничними елементами
d, складається часткова матриця
,
а потім обчислюються елементи
,
.
B комбінаторному алгоритмі досить один раз обчислити матриці повної нормальної системи, що містить елементи всіх часткових нормальних систем:
,
Для одержання будь-якої часткової
нормальної системи досить взяти елементи
матриці
,
що знаходяться на перетині рядків і
стовпців, зазначених одиницями вектора
d, а також відповідні елементи вектора
.
Для вирішення кожної нормальної системи
,
тобто для обчислення оцінок коефіцієнтів
часткової моделі, можна застосовувати
будь-які процедури розв’язання систем
алгебраїчних рівнянь .
Блок добору за критеріями
Розглянемо питання про обчислення значень критеріїв селекції для довільної часткової моделі з вектором коефіцієнтів a, оцінки якого вже отримані на вибірках A і B окремо.
Критерій незміщеності:
де
– оцінки вихідної величини, отримані
за коефіцієнтами
;
– сума матриць
і
.
Критерій регулярності:
де
– початковий вектор вимірів вихідної
величини на послідовності B;
– оцінки виходу на B по моделі
.
На послідовності C
де
– оцінки коефіцієнтів часткових моделей,
відібраних по
і
після перерахування на об'єднаній
послідовності
.
Селекція моделей як правило, виконується
в процесі перебору. Для цього
запам'ятовуються значення критерію для
заданої свободи вибору f перших
моделей, а потім величина кожної наступної
моделі порівнюється з гіршим з f
значень.В алгоритмах самоорганізації
застосовується добір по двох і більш
критеріях.Як правило, кілька критеріїв
застосовуються послідовно: за критерієм
відбирається
найменш зміщених моделей, потім за
критерієм
самих точних на перевірочній послідовності,
де F < F1.
Використовується також інформація послідовності C за критерієм регулярності.
Так само в алгоритмах МГУА звичайно виконується ще один етап обчислень – оцінка якості відібраних кращих моделей.
Помилку МНК , обумовлену після перерахування коефіцієнтів на W, також можна виразити через нормальні матриці
де потрібно
Селекція продовжується доти, поки не досягається мінімум критерію зсуву. Потім відбирається найбільш регулярна модель.
