Биологический прототип нейронных сетей.
Искусственные нейронные сети позаимствованы из области биологи. В самом деле, нейронная сеть состоит из элементов, функциональные возможности которых аналогичны большинству элементарных функций биологического нейрона. Эти элементы затем организуются по способу, который может соответствовать (или не соответствовать) анатомии мозга.
Несмотря на такое поверхностное сходство, искусственные нейронные сети демонстрируют удивительное число свойств, присущих мозгу. Например, они обучаются на основе опыта, обобщают предыдущие прецеденты на новые случаи и извлекают существенные свойства из поступающей информации, содержащей излишние данные.
Понятно, что данное сходство на данном этапе развития носит в основном общий характер, так как реализуемые текущими средствами «мозги» находятся по своей сложности в промежутке между мозгом насекомого и мозгом крысы.
Биологический нейрон состоит из одного аксона, тела и нескольких дендритов, в зависимости от числа которых, нервные клетки классифицируют как униполярные, биполярные, мультиполярные. Передача нервного импульса происходит от дендритов (или от тела клетки) к аксону. Далее сигнал передается на другие клетки.
Нетрудно увидеть сходство данной модели с используемым в нейронной сети искусственным аксоном.
И
скусственный
аксон имеет ряд входов, аналогичных
синапсам, ячейку, где реализуется
некоторая функция от значений на синапсах
и выход, на котором он выдает некоторое
число в заранее заданных рамках. В
модели, предложенной МакКаллоком и
Питтсом, нейрон реализует пороговую
функцию, равную 1 если сумма входных
значений с некоторыми коэффициентами
превышает некоторое заданное число и
0 в противном случае. Было доказано, что
при правильно подобранных коэффициентах,
данная система способна совершать
универсальные вычисления.
Однослойные искусственные нейронные сети
Простейшим примером нейронной сети является однослойный персептрон. Данная нейронная сеть, несмотря на название, на самом деле состоит из двух слоев. Первый слой отвечает за интерпретацию входных данных и их перевод в численное выражение. Нейроны, отвечающие за это имеют один единственный вход и реализуют искусственно заданную функцию, ставящую в соответствие анализируемому явлению или его части некоторое число. Эти нейроны отмечены на следующей схеме кружочками, чтобы подчеркнуть их уникальность.
Второй слой состоит из ранее рассмотренных нейронов и, собственно, именно он и является интересующей нас нейронной сетью. Каждый из этих нейронов воспринимает информацию с нейронов первого слоя с некоторым весовым коэффициентом, который может быть положительным или отрицательным. Положительный вес соответствует возбуждающим связям, а отрицательный – тормозным связям между нейронами.
На выходе каждый из нейронов дает некоторое число, суммарный вектор которых и считается за результат работы нейронной сети.
Многослойные нейронные сети
Аналогично однослойным нейронным сетям, путем добавления после первого слоя вычислительных нейронов последующих слоев, анализирующих уже результаты предыдущих нейронов, можно прийти к многослойным сетям. Здесь можно разделить нейронные сети на два основных класса: сети прямого распространения и сети с обратной рекуррентной связью.
Сети прямого распространения отличаются тем, что полностью детерминированы входными данными. Каждую ситуацию данная сеть будет рассматривать отдельно и решение, принимаемое сетью, полностью зависит от входных данных.
Сеть с рекуррентной обратной связью же, напротив, может изменять результат своего действия, за счет того, что результаты работы нейронов тоже являются, в некоторой степени, дополнительными входными данными. Данные сети гораздо более сложны, зато позволяют реализовывать некоторый аналог биологической памяти.