КОНСПЕКТ ЛЕКЦИЙ КОДЭИ

Другой возможной областью применения сетей Кохонена является обнаружение новых явлений. Сеть распознает кластеры в обучающих данных и относит все данные к тем или иным кластерам. Если после этого сеть встретится е наблюдениями, непохожими ни на один из известных образцов, то она не сможет классифицировать такой набор и тем самым выявит его новизну.

Сеть Кохонена имеет всего два слоя: входной и выходной, составленный из радиальных элементов (выходной слой называют также слоем топологической карты). Элементы топологической карты располагаются в некотором пространстве, как правило, двумерном (в пакете ST Neural Networks реализованы также одномерные сети Кохонена).

В основе построения сети Кохонена лежит конкурентное обучение, когда выходные узлы (нейроны) конкурируют между собой за право стать «победителем». Говорят, что нейроны избирательно настраиваются для различных входных примеров или классов входных примеров в ходе соревновательного процесса обучения.

В процессе обучения и функционирования сеть KCN выполняет три процедуры:

1.Конкуренция (competition). Выходные нейроны конкурируют между собой за то, чтобы векторы их весов оказались как можно ближе к вектору признаков объекта. Выходной нейрон, вектор весов которого имеет наименьшее расстояние до вектора признаков объекта, объявляется победителем.

2.Объединение (cooperation). Победивший нейрон становится центром некоторой группы соседних нейронов. Все нейроны такого соседства называют награжденными правом подстройки весов. Следовательно, несмотря на то что нейроны в выходном слое не соединяются непосредственно, они имеют похожие наборы весов благодаря соседству с нейроном-победителем.

3. Подстройка весов (adaptation). Нейроны,

соседствующие с нейроном-победителем, участвуют в подстройке весов, то есть в обучении.

Обучение сети Кохонена

Сети Кохонена - это нейросетевые структуры, в которых используется алгоритм обучения Кохонена. Рассмотрим набор из т значений полей n-й записи исходной выборки, который будет служить входным вектором

Хn = (хn1, хn2... хnт), и текущий вектор весов j-то выходного нейрона Wj = (w1j, w2j... wmj). В обучении по

Кохонену нейроны, которые являются соседями нейрона-победителя, подстраивают свои веса, используя линейную комбинацию входных векторов и текущих векторов весов:

wij,новое + η (хni - wij,текущее),

где 0 < η < 1 — коэффициент скорости обучения.

Скорость обучения должна быть уменьшающейся функцией от числа его итераций. Поэтому процесс обучения сети можно разделить на две фазы — грубой подстройки и точной подстройки. В первой фазе скорость обучения велика и веса нейронов корректируются значительно, что позволяет примерно настроить их в соответствии с распределением значений признаков объектов в исходной выборке. Во второй фазе скорость обучения уменьшается, что позволяет подстраивать веса более точно.

При инициализации сети начальные веса нейронов назначаются случайно, если отсутствуют априорные знания о характере распределения признаков в исходной выборке. Также при инициализации задаются начальная скорость обучения η и радиус обучения R, то есть количество нейронов, которые будут считаться соседями для нейрона-победителя и подстраивать свои веса вместе с ним. Радиус максимален в начале процесса и по мере обучения уменьшается.