8. Применение нс вр в задачах макроэкономичесого прогнозирования.
Одним з найпоширеніших застосувань нейронної мережі ВР є прогнозування макроекономічних процесів, а також інших часових випадкових процесів. Особливості прогнозування економічних процесів в економіці перехідного періоду полягають в такому:
Процеси, що прогнозуються, відносяться до класу нестаціонарних процесів, параметри яких змінюються з часом. Це особливо характерно для країн з перехідною економікою.
Макроекономічні процеси пов’язані один з одним, але характер цієї залежності між прогнозованим процесом та вхідними складний і вигляд цієї залежності, як правило, невідомий.
Вихідна інформація про ці процеси неповна, як правило, недостовірна і обмежена в часі
За цих обставин не можливо використати для прогнозування класичні методи, тому для задач прогнозування нестаціонароних часових процесів з невідомою структурою прогнозуючої моделі перспективним являється використання нейронних мереж, які не потребують знання виду математичної залежності і просто настроюються шляхом навчання та корекції вагів.
Вагові коефіцієнти мережі
Відомо, що вагові коефіцієнти відіграють роль пам'яті Н-мережі. Зрозуміло, обсяг пам'яті прямо пропорційний кількості цих коефіцієнтів, а оскільки ми маємо справу з мережами ВР фіксованої архітектури, то можна сказати, що при фіксованій кількості входів і виходів мережі цей обсяг залежить тільки від числа внутрішніх шарів і розмірності внутрішнього шару. На жаль, не існує чіткого правила завдання значень цим двом параметрам. Проте, вибір необхідного обсягу пам'яті варто робити, з огляду на: розмір вікна, кількість входів і виходів мережі, а також діапазон значень прогнозованої величини, оскільки, чим більше діапазон значень, тим більше пам'яті потрібно для чіткого запам'ятовування цих контрастів. Безумовно, добір параметрів обсягу пам'яті краще робити експериментально.
Розглянемо підходи до навчання Н-мереж, що використовують технологію ковзного вікна.
Підхід перший. Полягає в мінімізації сумарної помилки на вікні навчання, що мало ефективно, тому що при такому алгоритмі ми дійсно одержимо не мережу-оракул, а мережу-апроксиматор, тому що:
У вікно можуть попадати непрезентативні пари-приклади з іншого закону взаємовпливу.
Закон взаємовпливу в межах вікна може різко змінюватися. Отже, будуть існувати пари, на яких неможливо мінімізувати помилку по окремості, тобто неможливо підібрати мережу, добре навчену під кожну з таких пар. Таким чином, оскільки Н-мережа – це все-таки універсальний апроксиматор, мінімізація помилки на всіх зразках може привести до перенавчання мережі. Ми одержимо мережу-функцію, що апроксимує тренувальну послідовність, у тому числі і непрезентативні точки. Мережа не відкриє закон взаємовпливу і, як наслідок, не зможе зробити якісний прогноз. Область застосування такого алгоритму навчання звужена до прогнозування параметрів з невеликим діапазоном значень. Однак якісно спрогнозувати показник, що має відношення до економіки перехідного періоду, з таким підходом дуже проблематично.
Другий підхід. Складається в мінімізації помилки на кожній парі-прикладі вікна в порядку їхнього проходження. Тобто рухаючись ітеративно по вікну, мережа буде забувати інформацію, отриману від перших точок вікна на той час, коли дійде черга навчатися на останніх.
Третій підхід. Складається в мінімізації помилки на кожній парі-прикладі вікна, але зстасуванням цих пар по визначеному закону, що змінюється в залежності від прогресу навчання. Результати експериментів свідчать про високу ефективність такого підходу в порівнянні з іншими підходами. Тільки так нейронна мережа стає Оракулом, здатним встановити з наявних даних деякий закон і пророкувати зміну прогнозованої величини. При такому алгоритмі ми автоматично застраховані від ефекту перенавчання Н-мережі, тому що вона просто не стане навчатися на непрезентативних парах-прикладах. Філософія алгоритму така, що він витягне той закон взаємовпливу, якому відповідає більшість пар-прикладів. Прогнозувати майбутнє, виходячи з закону, укладеного в парах-прикладах, а не наступне значення функції з упорядкованого ряду попередніх її значень – ось ціль навчання Н-мережі.
Алгоритм тасування пар-прикладів. Зміст алгоритму полягає в тому, щоб змусити Н-мережу запам'ятати всі приклади і перетворитися в модель, що представляє собою «чорну шухляду», що вміє на парах-прикладах правильно зіставляти входу потрібний вихід. При цьому важливо не перенавчити мережу.
Схема алгоритму тасування точок на вікні:
До кожної пари-прикладу застосовується алгоритм оптимізації, у результаті якого ми одержуємо ваговий вектор, при якому помилка на даній парі-прикладі менше чи дорівнює заданій
.Далі, використовуючи отриманий W, ми ще раз проходимо по вікну і складаємо масив помилок, що відповідає парам-прикладам, у результаті одержуючи деяку схему пріоритетів за значеннями помилок.
Проходимо по парах-прикладах оптимізуючим алгоритмом, але вже не послідовно, а у відповідності зі значеннями масиву помилок. А саме, починаємо з пари, якій відповідає найбільша помилка, і закінчуємо парою з найменшою помилкою. При цьому пари, на яких на даній ітерації досягнута задана точність, у навчанні не приймають участь. Після цього кроку ми одержуємо новий ваговий вектор W і переходимо до пункту 2.
Навчання закінчується по досягненні заданої точності на кожній парі-прикладі, або якщо перевищена припустима задана користувачем кількість ітерацій алгоритму тасування.
Висновок
При використанні підходу з мінімізацією сумарної функції помилки Н-мережа, як правило, перенавчається і, не дивлячись на відмінну якість навчання, прогнозовані значення далекі від реальних. Іншими словами – якісне навчання ще не означає успіх при прогнозуванні. Алгоритм тасування точок автоматично виключає можливість перенавчання, і незважаючи на відносно погану якість навчання, дає на порядок кращі результати.