5.6. Практическое применение нейросетевых технологий

Применение нейросетевых технологий целесообразно при решении задач, имеющих следующие признаки:

• отсутствие алгоритмов решения задач при наличии доста­точно большого числа примеров;

• наличие большого объема входной информации, характеризующей исследуемую проблему;

• зашумленность, частичная противоречивость, неполнота или избыточность исходных данных.

Нейросетевые технологии нашли широкое применение в та­ких направлениях, как распознавание печатного текста, кон­троль качества продукции на производстве, идентификация событий в ускорителях частиц, разведка нефти, борьба с наркоти­ками, медицинские и военные приложения, управление и опти­мизация, финансовый анализ, прогнозирование и др.

В сфере экономики нейросетевые технологии могут исполь­зоваться для классификации и анализа временных рядов пу­тем аппроксимации сложных нелинейных функций. Экспери­ментально установлено, что модели нейронных сетей обеспечи­вают большую точность при выявлении нелинейных закономер­ностей на фондовом рынке по сравнению с регрессионными мо­делями [13].

Рассмотрим решение задачи прогнозирования цены закрытия на завтра по акциям некоторого предприятия X. Для моделиро­вания воспользуемся данными наблюдений за месяц. В качестве исходных данных можно использовать индикаторы Dow Jones, NIKKEI, FTSE100, индексы и акции российских компаний, «се­зонные» переменные и др.

Относительный показатель однодневной доходности пред­приятия можно определить из соотношений:

где — оценка операции «вчера купил, сегодня продал»;

— оценка операции «вчера продал, сегодня купил»;

— значение выбранного показателя доходности в i-й день;

— значение показателя в (i - 1)-й день.

Итоговая доходность за установленный интервал времени (n дней) рассчитывается по формуле

Результаты оценки доходности предприятия с использовани­ем различных моделей ИНС, а также доходов «идеального» трей­дера приведены ниже.

Индикаторы	Доходность за 30 дней
Стандартная трехслойная сеть	0,1919
Стандартная четырехслойная сеть	-0,1182
Рекуррентная сеть с обратной отрицательной связью от скрытого слоя	0,4545
Сеть Ворда: с тремя скрытыми блоками, с разными передаточными функциями	0,2656
Трехслойная сеть с обходным соединением	-0,1889
Четырехслойная сеть с обходными соединениями	0,0003
Сеть с общей регрессией	0,3835
Сеть метода группового учета аргументов	0,1065
Сеть Ворда: с тремя скрытыми блоками, с разными передаточными функциями, с обходным соединением	-0,1166
«Идеальный» трейдер	1,1448

«Идеальный трейдер» знает цену закрытия на следующий день и поэтому получает максимально возможную прибыль. Трейдер пользуется значением нейросетевого индикатора следу­ющим образом: на основе прогнозируемого в (i - 1)-й день зна­чения (величина относительно изменения цены закрытия по акциям рассматриваемого предприятия X на завтрашний i-й день) трейдер принимает решение о покупке ( 0) или прода­же ( < 0) акций.

Анализ результатов моделирования показывает, что лучшую доходность обеспечила рекуррентная сеть с отрицательной об­ратной связью (45% за 30 дней). Динамика изменения одноднев­ных показателей доходности, полученных с помощью этой ИНС, приведена на рис 5.6.

Нейросетевые технологии активно используются в марке­тинге для моделирования поведения клиентов и распределения долей рынка. Нейросетевые технологии позволяют отыскивать в маркетинговых базах данных скрытые закономерности (см. разд. 4.5).

Моделирование поведения клиентов позволяет определить характеристики людей, которые будут нужным образом реагировать на рекламу и совершать покупки определенного товара или услуги.

Рис. 5.6.Динамика изменения однодневных доходности () и цен закрытия () за 30 торговых дней, полученная на реккурентной сети с отрицательной обратной связью

Сегментирование и моделирование рынков на основе нейро-сетевых технологий дает возможность построения гибких класси­фикационных систем, способных осуществлять сегментирование рынков с учетом многообразия факторов и особенностей каждо­го клиента.

Технологии ИНС имеют хорошие перспективы при решении задач имитации и предсказания поведенческих характеристик менеджеров и задач прогнозирования рисков при выдаче креди­тов. Не менее актуально применение ИНС при выборе клиентов для ипотечного кредитования, предсказания банкротства клиен­тов банка, определения мошеннических сделок при использова­нии кредитных карточек, составления рейтингов клиентов при займах с фиксированными платежами и т.п.

1. Следует помнить о том, что применение нейросетевых техно­логий не всегда возможно и сопряжено с определенными пробле­мами и недостатками. Необходимо как минимум 50, а лучше 100 наблюдений для создания приемлемой модели. Это достаточно большое число данных, и они далеко не всегда доступны. Например, при произ­водстве сезонного товара истории предыдущих сезонов недоста­точно для прогноза на текущий сезон из-за изменения стиля про­дукта, политики продаж и т.д. Даже при прогнозировании спроса на достаточно стабильный продукт на основе информации о еже­месячных продажах трудно накопить исторические данные за пе­риод от 50 до 100 месяцев. Для сезонных товаров проблема еще более сложна, так как каждый сезон фактически представляет со­бой одно наблюдение. При дефиците информации модели ИНС строят в условиях неполных данных, а затем проводят их после­довательное уточнение.

2. Построение нейронных сетей требует значительных затрат труда и времени для получения удовлетворительной модели. Необ­ходимо учитывать, что излишне высокая точность, полученная на обучающей выборке, может обернуться неустойчивостью результа­тов на тестовой выборке — в этом случае происходит «переобуче­ние» сети. Чем лучше система адаптирована к конкретным услови­ям, тем меньше она способна к обобщению и экстраполяции и тем скорее может оказаться неработоспособной при изменении этих условий. Расширение объема обучающей выборки позволяет до­биться большей устойчивости, но за счет увеличения времени обу­чения.

3. При обучении нейронных сетей могут возникать «ловуш­ки», связанные с попаданием в локальные минимумы. Детерми­нированный алгоритм обучения не в силах обнаружить глобаль­ный экстремум или покинуть локальный минимум. Одним из приемов, который позволяет обходить ловушки, является рас­ширение размерности пространства весов за счет увеличения числа нейронов скрытых слоев. Некоторые возможности для решения этой проблемы открывают стохастические методы обучения. При модификации весов сети только на основе ин­формации о направлении вектора градиента целевой функции в пространстве весов можно достичь локального минимума, но невозможно выйти из него, поскольку в точке экстремума «движущая сила» (градиент) обращается в нуль и причина дви­жения исчезает. Чтобы покинуть локальный экстремум и перейти к поиску глобального, нужно создать дополнительную силу, которая будет зависеть не от градиента целевой функции, а от каких-то других факторов. Один из простейших методов со­стоит в том, чтобы просто создать случайную силу и добавить ее к детерминистической.

4. Сигмоидальный характер передаточной функции нейрона является причиной того, что если в процессе обучения несколь­ко весовых коэффициентов стали слишком большими, то ней­рон попадает на горизонтальный участок функции в область насыщения. При этом изменения других весов, даже достаточ­но большие, практически не сказываются на величине выход­ного сигнала такого нейрона, а значит, и на величине целевой функции.

5. Неудачный выбор диапазона входных переменных - доста­точно элементарная, но часто совершаемая ошибка. Если - двоичная переменная со значениями 0 и 1, то примерно в поло­вине случаев она будет иметь нулевое значение: . Поскольку входит в выражение для модификации веса в виде сомножите­ля, то эффект будет тот же, что и при насыщении: модификация соответствующих весов будет блокирована. Правильный диапа­зон для входных переменных должен быть симметричным, на­пример от +1 до -1 [2, 12].

6. Процесс решения задач нейронной сетью является «непро­зрачным» для пользователя, что может вызывать с его стороны недоверие к прогнозирующим способностям сети.

7. Предсказывающая способность сети существенно снижает­ся, если поступающие на вход факты (данные) имеют значитель­ные отличия от примеров, на которых обучалась сеть. Этот недо­статок ярко проявляется при решении задач экономического прогнозирования, в частности при определении тенденций коти­ровок ценных бумаг и стоимости валют на фондовых и финансо­вых рынках.

8. Отсутствуют теоретически обоснованные правила констру­ирования и эффективного обучения нейронных сетей. Этот не­достаток приводит, в частности, к потере нейронными сетями способности обобщать данные предметной области в состояниях переобучения (перетренировки).

Литература

1. Барцев С. И., Охонин В. А. Адаптивные сети обработки информа­ции. - Красноярск: Институт физики СО АН СССР, 1986.

2. Комьютер обретает разум. - М.: Мир, 1990.

3. Маккалох Дж., Питтс У. Логические исчисления идей, относя­щихся к нервной деятельности // Автоматы. — М.: ИЛ, 1956.

4. Минский М., Пейперт С. Перцептроны. - М.: Мир, 1971.

5. Мкртчян С. О. Нейроны и нейронные сети (Введение в теорию формальных нейронов и нейронных сетей). - М.: Энергия, 1971.

6. Осовский С. Нейронные сети для обработки информации / Пер. с польск. И. Д. Рудинского. - М.: Финансы и статистика, 2002.

7. Позин Н. В. Моделирование нейронных структур. - М.: Наука, 1970.

8. Розенблат Ф. Принципы нейродинамики. - М.: Мир, 1965.

9. Соколов Е. И., Вайтнявичус Г. Г. Нейроинтеллект: от нейрона к нейрокомпьютеру. - М.: Наука, 1989.

10. Трикоз Д. В. Нейронные сети: как это делается? // Компьютеры + программы. - 1993. - № 4(5).

11. Тэнк Д. У., ХопфилдД. Д. Коллективные вычисления в нейроно-подобных электронных схемах // В мире науки. - 1988. - № 2.

Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика. -М.: Мир, 1992.

13. Фролов Ю. В. Интеллектуальные системы и управленческие ре­шения. - М.: Изд-во МГПУ, 2000.

14. Хинтон Дж. Е. Как обучаются нейронные сети // В мире науки. -1992.-№ 11-12.

15. Kohonen Т. Self-organization and associative memory. - New York: Springer, 1984.

Контрольные вопросы и задания

1. Опишите модель искусственного нейрона. Приведите примеры передаточных функций.

2. Что такое перцептрон? Какие модели нейронных сетей вам известны?

3. Проведите сравнение однослойных и многослойных ИНС.

4. Какими особенностями обладают рекуррентные и самооргани­зующиеся сети? Расскажите о моделях ИНС Хопфилда и Кохонена.

5. Дайте характеристику основных этапов построения нейронной сети.

6. Расскажите о методах обучения ИНС (коррекция по ошибке, обучение Хебба, соревновательное обучение, метод обратного распространения ошибки).

7. Опишите алгоритм обратного распространения ошибки. Сфор­мулируйте его достоинства и недостатки.

8. Расскажите об известных вам способах реализации ИНС.

9. Для каких задач целесообразно применять ИНС? Каковы усло­вия применения моделей этого типа? Сформулируйте основные проблемы, возникающие при применении нейронных сетей.

10. Сформулируйте постановку прикладной задачи экономического характера, для решения которой возможно и целесообразно при­менить нейронную сеть. Опишите, как это можно сделать.

11. Подготовьте доклад или реферат о конкретной нейросетевой ин­струментальной системе. Опишите методику решения задач оп­ределенного класса при поддержке выбранного программного обеспечения.

12. Подготовьте набор содержательных примеров для обучения ней­ронной сети с заданной целью.

13. Сформулируйте постановку содержательной задачи для решения методами нейронных сетей. Подготовьте обучающую и тестиру­ющую выборки примеров. Выберите топологию сети, выполни те проектирование и реализацию в системе NeuroSolutions (дру­гой системе).

14. Сформулируйте постановку задачи извлечения знаний для реше­ния с помощью технологии нейронных сетей. Подготовьте необ­ходимые данные. Выберите топологию сети, выполните проек­тирование и реализацию в системе NeuroSolutions (или другой си­стеме).

15. Составьте задачу классификации (диагностики) для решения с помощью технологии нейронных сетей. Подготовьте необхо­димые данные. Выберите топологию сети, выполните проек­тирование и реализацию в системе NeuroSolutions (или другой системе).

16. Сформулируйте задачу прогнозирования для решения с помо­щью технологии нейронных сетей. Подготовьте необходимые данные. Выберите топологию сети, выполните проектирование и реализацию в системе NeuroSolutions (или другой системе).