21. Сходимость алгоритмов обучения

Сходимость алгоритмов обучения зависит от параметров разделимости множеств распознаваемых объектов. Идеальное обучение возможно лишь в том случае, если множества распознаваемых объектов разделимы на множестве функций, реализуемых обучаемой системой. Кроме того, решения задачи обучения могут не обладать свойством однозначности.

Процесс обучения может быть представлен в следующем виде:

.

В этом случае алгоритм сходится, если выполняются следующие условия: , , .

Коэффициент скорости обучения влияет на устойчивость процесса обучения. На рис.21.1 приведены три графика изменения невязки в процессе обучения для трех значений этого коэффициента.

Рис.21.1. Пример влияния коэффициента скорости обучения на процесс обучения

Наиболее близким к оптимальному значению, судя по полученным графикам, следует считать , так как на графике для видно несколько кратковременных срывов процесса обучения, а график для соответствует замедленному уменьшению невязки.

22. Самоорганизующаяся коммуникация в системе с нейросетевым управлением

Примером эффективного применения НС служит решение задачи управления коллективом роботов, занимающихся поиском и сбором мин.

Каждый робот управляется НС прямого распространения с сигмоидальной активационной функцией. Обучение проводится генетическим алгоритмом. Структура нейросетевой системы управления одного работа приведена на рис.22.1.

Рис.22.1. НС система управления роботом

Входными сигналами системы являются:

• - информация о не обезвреженных минах;

• - сигналы направленных приемников коммуникационной информации от других роботов;

• - расстояние до j-той мины или робота в i-том секторе;

• - параметр чувствительности робота;

• – интенсивность излучаемого роботом коммуникационного сигнала.

Расчетные соотношения для входных сигналов:

, .

Обучению подвергаются 52 весовых коэффициента и параметр . Вероятность скрещивания – 0,8, мутации – 0,05. Критерий оптимизации – количество обезвреженных мин в течение 100 единиц времени. Через каждые 100 единиц времени генерируется новое поколение.

Результаты моделирования процесса сбора мин роботами представлены в виде графика (рис.22.2). Начальный участок длинной 1000 единиц времени был отведен для обучения системы, и поиск осуществлялся случайным образом. Разминирование выполнялось автоматически за 5 единиц времени. Карта имела размер 160х100 клеток/шагов и на ней находилось 800 мин. Дальность обнаружения мин составляла 3 дискрета.

Рис.22.2. Результаты моделирования процесса сбора мин

Линия «А» на графике соответствует работе системы без обучения, то есть на основе случайного поиска. Линия «В» соответствует работе обучающейся системы, но без использования коммуникационных сигналов. Линия «С» соответствует работе обучающейся системы, использующей коммуникационные сигналы.

23. Структура микросхем, реализующих нс элементы

Специализированные цифровые нейронные кристаллы реализуют архитектуру, основанную на сочетании небольших процессорных блоков и матричных элементов памяти. Такая архитектура использует специфическую особенность НС: массовое, параллельное, многократно повторяемое умножение матрицы на вектор. В ОЗУ таких микросхем сохраняются матрицы весовых коэффициентов и входные вектора. Управление осуществляется с использованием специальных команд:

• загрузка весовых коэффициентов и данных;

• движение информации через память весов;

• коррекция весовых коэффициентов.

Технологические особенности микросхем ограничивают количество межнейронных связей; поэтому появилось несколько типов микросхем, отличающихся способами организации связи между нейронами. Наиболее просто организованы клеточные НС, структура ячеек которых показана на рис.23.1. Такая структура образована непосредственными связями нейрона только с ближайшими нейронами и магистральной связью с другими ячейками нейронов.

Рис.23.1. Структура ячейки клеточной НС

Один из возможных вариантов организации многослойной НС на основе клеточных НС микросхем приведен на фрагменте А рис.23.2.

Рис.23.2. Многослойная клеточная НС и мультиплексная НС интегральная схема

Распознавание изображений и другие высоко информативные задачи требуют использования НС с большим количеством нейронов. При этом возникает проблема большого числа входов и выходов интегральных микросхем, реализующих НС. Мультиплексирование, то есть использование одних и тех же выводов микросхемы для передачи различных сигналов за счет их временного чередования, позволяет решать эту проблему. На фрагментах В и С рис.23.2 приведены соответственно электрическая и структурная схемы мультиплексной НС интегральной схемы. Схема организации вычислительных процессов в мультиплексной НС интегральной микросхеме приведена на рис.23.3. Такая схема позволяет организовать вычисления синхронно с поступающей входной информацией и сократить число вычислительных элементов.

Рис.23.3. Схема организации вычислительного процесса

В настоящее время, микросхемы, реализующие НС элементы, используют для разработки нейросетевых компьютеров, представляющих собой результат интеграции обычных последовательных ЭВМ и нейросетевых плат.