1.3.2. Искусственные нейронные сети
ИНС представляют собой математическую модель, построенную по принципу организации и функционирования биологических нейронных сетей — сетей нервных клеток живого организма. Это понятие использовалось при попытке смоделировать процессы, протекающие в мозге.
Искусственные нейронные сети представляют собой систему соединённых и взаимодействующих между собой простых процессоров (искусственных нейронов). Такие процессоры обычно довольно просты, особенно в сравнении с процессорами, используемыми в персональных компьютерах. Каждый процессор подобной сети имеет дело только с сигналами, которые он периодически получает, и сигналами, которые он периодически посылает другим процессорам. И, тем не менее, будучи соединёнными в достаточно большую сеть с управляемым взаимодействием, такие локально простые процессоры вместе способны выполнять довольно сложные задачи.
Биологический нейрон – сложная система, математическая модель которой до конца не построена. В основе теории ИНС лежит предположение о том, что вся эта сложность несущественна, а свойства мозга объясняются характером их соединения. Поэтому вместо точных математических моделей нейронов используется простая модель так называемого формального искусственного нейрона (рис. 1.6).
Рис. 1.6
Он имеет входы,
куда подаются некоторые числа
,
поступающие далее в блок, называемый
адаптивным
сумматором.
На его выходе формируется взвешенная
сумма входов:
,
(1.7)
где wi – весовые коэффициенты, определяемые в процессе обучения.
Затем эта сумма подается на нелинейный преобразователь, моделирующий передаточную характеристику биологического нейрона, на выходе которого активируется сигнал
.
(1.8)
Функция F нелинейного преобразователя называется активационной функцией нейрона. Существует множество видов таких функций, конкретный вид функции определяется спецификой задачи. Наиболее распространены функция скачка и логистическая функция.
Функция скачка
(1.9)
позволяет формальному нейрону работать по аналогии с биологическим нейроном, когда суммарное воздействие на входе превысит некоторое критическое значение Е, генерируется импульс 1, иначе нейрон остается в состоянии покоя. Эта функция чрезмерно упрощена и не позволяет моделировать схемы с непрерывными сигналами.
Логистическая функция (сигмоид)
.
(1.10)
Одно из ценных
свойств сигмоидной функции – аналитическое
выражение для ее производной. Непрерывность
первой производной позволяет обучать
сеть градиентными методами. Быстрый
расчёт производной ускоряет обучение.
Данная функция сжимающая, т.е. c
уменьшением значений s
коэффициент передачи
возрастает, а с увеличением снижается.
Поэтому диапазон сигналов, с которыми
нейрон работает без насыщения, оказывается
достаточно широким.
Из формальных нейронов можно составлять сети, соединяя их друг с другом. Теоретически, архитектура сети может быть любой, однако, самым простым видом сети является однослойная нейронная сеть (рис. 1.7). Нейроны изображены в форме квадратов.
Рис. 1.7
Каждый входной элемент xi вектора X соединен с каждым искусственным нейроном j. В расчетную схему слоя некоторые связи могут не включаться. Интенсивность передачи сигнала по каждой связи определяется отдельным весовым коэффициентом wi,j. Все нейроны слоя выдают выходные сигналы, образующие вектор Y. Неизвестные весовые коэффициенты образуют матрицу W, имеющую m строк и n столбцов. Таким образом, вычисление выходного вектора адаптивных сумм нейронов слоя сводится к матричному умножению S = WX, а элементы выходного вектора Y определяются видом принятой активационной функции yj=F(sj).
Обучение нейронной сети заключается в определении таких значений весов wj,i, которые при известных входах позволят получить выходной вектор с заданными свойствами. Наиболее распространен так называемый метод обучения с учителем. В этом случае в качестве выхода используются результаты уже ранее наблюдаемого процесса и задача сводится к минимизации среднеквадратической погрешности между расчетными значениями yrj и наблюдаемыми yj
.
(1.11)
Для минимизация целевой функции могут использоваться различные методы нелинейного программирования.
Обычно искусственная нейронная сеть состоит из произвольного количества слоёв. Нейроны каждого слоя соединяются с нейронами предыдущего и последующего слоёв по принципу «каждый с каждым». Теоретически число слоев и число нейронов в каждом слое может быть произвольным, однако фактически оно ограничено ресурсами компьютера или специализированных микросхем, на которых обычно реализуется ИНС. При выборе структуры ИНС для решения конкретной задачи важно учитывать ее размерность, т.е. число скрытых слоев и число нейронов в этих слоях. При недостаточном размере сети для решения поставленной задачи ИНС будет плохо обучаться и неправильно работать, а при размере сети, превышающем сложность решаемой задачи, процесс обучения ИНС будет очень длительным или сеть вообще может быть непригодна для решения данной задачи. Выбор разумной сложности сети в каждом конкретном случае решается экспериментальным путем.
Работа многослойной ИНС достаточно прозрачна. Входные сигналы, подаваемые на сеть, поступают на нейроны входного слоя, далее последовательно проходят через все скрытые слои и снимаются с нейронов выходного слоя. По мере распространения сигналов по сети они преобразуются в зависимости от их начального значения, от преобразующей функции и весовых коэффициентов связей.
Нейронная сеть может решать множество задач, одной из которых является прогнозирование графиков нагрузки потребителей энергии, прогнозирование потерь электроэнергии и т.п.
1.4. Методы прогнозирования
При планировании развития всегда приходится решать задачи, результаты которых будут реализованы в будущем. Так как в будущем много неизвестного, то приходится оценивать возможные ситуации, используя методы прогнозирования.
При планировании развития энергосистем приходится прогнозировать электропотребление, условия топливоснабжения, оценивать технико-экономические характеристики оборудования, совершенствование технологий, связанных с производством и преобразованием энергии и т.п. При этом используются различные методы, в том числе и рассмотренные ниже.