4.1.2.1. Функции выполняемые программой «Искусственные Нейронные Сети 1.1»

Программа «Искусственные Нейронные Сети 1.1» выполняет следующие функции:

• создание многослойных перцептронов любой конфигурации² с возможностью добавления линейного слоя на выход сети;

• обучение ИНС улучшенным методом обратного распространения ошибки с возможностью использования метода коррекции ошибки, а также используя стохастическое или групповое обучение;

• проведение расчетов при помощи созданной ИНС;

• сохранение/восстановление ИНС;

• возможность дискретизации входных параметров.

4.1.2.2Принципиальная схема функционирования «Искусственные Нейронные Сети 1.1»

Приведем принципиальную схему логических модулей программы и их взаимодействие. Представленная схема является упрощенной и служит лишь для иллюстрации основных логических этапов функционирования программы.

Рис. 12. Логическая структура «Искусственные Нейронные Сети 1.1»

За модуль Интерфейс пользователя отвечает объект класса TForm1. Он в свою очередь содержит в себе объекты всех классов элементов управления; объекты классов TAutoIntfObject, EOleError, EOleException, EOleRegistrationError, EOleSysError, TComServerObject, обеспечивающих СОМ автоматизацию, дополнительные диалоговые окна (классы TEducationForm, TEducating) а также обработчики всех событий и методы класса, обеспечивающие связь с Модулем ИНС. За Модуль ИНС отвечает объект класса TNeuroNet.

Более подробную информацию о «Искусственные Нейронные Сети 1.1» а также исходный код смотрите в Приложении в разделе «Искусственные Нейронные Сети 1.1».

4.2 Исследование влияния конфигурации нейронной сети на эффективность ее работы

Как уже было сказано ранее, конфигурация ИНС оказывает одно из ключевых влияний на эффективность работы сети. Оптимальная конфигурация ИНС зависит от конкретной задачи. Чем сложнее решаемая задача, тем более мощная ИНС потребуется. Для определения оптимальной конфигурации сети для решения задачи моделирования аэродинамических характеристик НВ мы провели ряд исследований. А именно, исследование сходимости по числу нейронов в слое и количеству циклов обучения; исследование сходимости по числу слоев и количеству циклов обучения; исследование сходимости по числу входов/выходов и количеству циклов обучения.

3.3.1.1. Оценка сходимости по числу нейронов в слое и количеству циклов обучения

Оценка сходимости по числу нейронов в слое и количеству циклов обучения проведена на примере зависимости коэффициента подъемной силы НВ от угла атаки . Особенность активационной функции (сигмоид) ИНС такова, что результат вычислений должен находиться в пределах от 0 до 1. Поэтому аэродинамические характеристики предварительно нормируются и сводятся к оптимальному диапазону. Процесс нормирования входных и выходных данных параметров описан в разделе 3.3.2.1.

Исследования сходимости по количеству нейронов проводилось на однослойных ИНС с количеством нейронов в слое N_j = 2, 6 и 12 нейронам. Количество циклов обучения принято равным 1 миллиону. Качественный характер сходимости по числу нейронов в однослойной сети при количестве циклов обучения равному одному миллиону (1М) показан на Рис. 13.

Рис. 13. Нормированный коэффициент подъемной силы от угла общего шага

Полученные аппроксимационные линии недостаточно качественно отражают характер изменения коэффициента подъемной силы по углу общего шага. Даже при увеличении числа нейронов до 12 картина не изменяется. Таким образом, можно сделать следующие предположения: либо необходимо большее количество нейронов, либо необходимо увеличение количества слоев сети, либо необходимо увеличение количества циклов обучения, либо ИНС неприменима при решении предложенной задачи.

Для проверки этих предположений были проведены исследования эффективности сетей с большим количеством нейронов, сетей с несколькими слоями и сетей, прошедших большее количество циклов обучения.

Сети с большим количеством нейронов и сети с несколькими слоями положительных результатов не дали. Картина аппроксимации Су не изменилась. Увеличение же количества циклов обучения дало положительный результат. В связи с этим было проведено новое исследование сходимости по количеству нейронов и числу циклов обучения.

Критерием оценки сходимости принята среднеквадратичная погрешность . В оценке сходимости рассматривались однослойные нейронные сети с количеством нейронов N_j равным 2,4,6,8,10 и 12 нейронам. Рассматриваемое количество циклов обучения принято равным 1, 10 и 20 миллионам. Результаты оценки приведены на Рис 14.

Рис. 14. Сравнительная оценка среднеквадратичной погрешности ИНС

Полученные результаты показывают, что 1 миллиона циклов обучения для любой из представленных сетей недостаточно. При увеличении количества циклов обучения точность увеличивается в разы. Из графика также наглядно видно, что для данной задачи применение сети с 2 нейронами нецелесообразно, поскольку даже при увеличении количества циклов обучения ошибка практически не уменьшается. Это значит, что сеть достигла своего предела и ее мощности не достаточно для более точного решения поставленной задачи.

В процессе проведения исследования было также установлено, что необходимое количество циклов обучения ИНС увеличивается при увеличении числа нейронов. Так из графика видно, что сети с 10 и 12 нейронами прошли недостаточное число циклов обучения, так как погрешность сети с 8 нейронами оказалась несколько меньше. Проведенная в последствии проверка показала, что при увеличении количества циклов обучения сети с 12 нейронами с 20 до 60 миллионов уменьшилась еще в 3.5 раза, и ее значение составило 0.0004.

Качественная картина аппроксимации ИНС с 4 нейронами и 20 миллионами циклов обучения показана на Рис. 15.

Рис. 15. Сравнение 4-х нейронной сети и полинома 4-ой степени