- •Глава 1. Нейронные сети
- •Глава 2.Обучение нейронных сетей
- •Глава 1. Нейронные сети
- •1.1Биологический нейрон
- •1.2 Искусственные нейронные сети
- •1.3Применение нейронных сетей
- •Глава 2. Обучение нейронных сетей
- •1.Персептрон
- •Машина Больцмана
- •5. Сеть Кохонена (карты Кохонена)
- •6. Модель Хэмминга
- •7. Модель art (Сеть Гросберга)
- •3.Модель Хопфилда
- •9. Когнитрон и неокогнитрон
1.2 Искусственные нейронные сети
Искусственный нейрон имитирует в первом приближении свойства биологического нейрона. На вход искусственного нейрона поступает некоторое множество сигналов, каждый из которых является выходом другого нейрона. Каждый вход умножается на соответствующий вес, аналогичный синаптической силе, и все произведения суммируются, определяя уровень активации нейрона. На рисунке можно увидеть множество входных сигналов, обозначенных x1, x2,:, xn, поступает на искусственный нейрон. Эти входные сигналы, в совокупности, обозначаемые вектором X, соответствуют сигналам, приходящим в синапсы биологического нейрона. Каждый сигнал умножается на соответствующий вес w1, w2,..., wn, и поступает на суммирующий блок. Каждый вес соответствует "силе" одной биологической синаптической связи. Суммирующий блок, соответствующий телу биологического элемента, складывает взвешенные входы алгебраически, создавая выход, который мы будем называть NET. В векторных обозначениях это может быть компактно записано следующим образом: NET = XW.
Хотя один нейрон и способен выполнять простейшие процедуры распознавания, сила нейронных вычислений проистекает от соединений нейронов в сетях. Простейшая сеть состоит из группы нейронов, образующих слой, как показано на рис.1.3. Отметим, что вершины-круги слева служат лишь для распределения входных сигналов. Они не выполняют каких- либо вычислений, и поэтому не будут считаться слоем. По этой причине они обозначены кругами, чтобы отличать их от вычисляющих нейронов, обозначенных квадратами. Каждый элемент из множества входов Х отдельным весом соединен с каждым искусственным нейроном. Вычисление выходного вектора N, компонентами которого являются выходы OUT нейронов, сводится к матричному умножению N = XW, где N и Х - векторы-строки.
Более крупные и сложные нейронные сети обладают, как правило, и большими вычислительными возможностями. Хотя созданы сети всех конфигураций, какие только можно себе представить, послойная организация нейронов копирует слоистые структуры определенных отделов мозга. Многослойные сети могут образовываться каскадами слоев. Выход одного слоя является входом для последующего слоя.
1.3Применение нейронных сетей
Нейрокомпьютеры (компьютеры на основе нейронных сетей) обладают целым рядом свойств, привлекательных с точки зрения их практического использования:
Сверхвысокое быстродействие за счет использования массового параллелизма обработки информации.
Толерантность (терпимость) к ошибкам: работоспособность сохраняется при повреждении значительного числа нейронов.
Способность к обучению; программирование вычислительной системы заменяется обучением.
Способность к распознаванию образов в условиях сильных помех и искажений.
Однако, первые 2 свойства имеют место только при аппаратной реализации нейронных сетей. Аппаратно реализованные нейронные сети обеспечивают решение сложных задач за времена порядка времен срабатывания цепочек электронных и/или оптических элементов. Решение слабо зависит от неисправности отдельного нейрона. Это делает их привлекательными для использования в составе бортовых вычислительных систем.
В настоящее время нейронные сети применяются для решения многих неформализуемых или трудно формализуемых задач:
распознавания и синтеза речи;
распознавания аэрокосмических изображений;
прогнозирования котировки ценных бумаг и курса валют;
предупреждения мошенничества с кредитными карточками;
оценки стоимости недвижимости;
оценки финансового состояния предприятий и риска невозврата кредитов;
обработки радиолокационных сигналов;
контроля движения на скоростных автомагистралях и железных дорогах;
диагностики в медицине;
добычи знаний из больших объемов данных в бизнесе, финансах и научных исследованиях.
При применении нейронных сетей необходимо решить следующие задачи:
Постановка задачи, пригодной для решения с помощью нейронной сети.
Выбор модели ИНС.
Подготовка исходных данных для обучения ИНС.
Обучение ИНС.
Собственно решение задачи с помощью обученной ИНС
Кроме того, иногда нужен еще один этап - интерпретация решения, полученного нейронной сетью.
Наиболее трудоемкими процессами при использовании нейронных сетей являются подготовка исходных данных для обучения и обучение нейронной сети.
