Статистическая теория веротности
Является детерминированной,
это значит что преобразование входного
сигнала в выходной точно определено
для всех значений выходного сигнала,
однако в некоторых случаях стахостические
нейро-сетевые модели в которых функция
активация имеет вероятностную
интерпритацию. В стахостической модели
нейрон может находится в 2 состояниях
+1 или -1 решение. Решение о переключении
состояния нейрона принимается в учетом
вероятности этого события. Обозначив
состояние нейрона символом y
а вероятность функции
V – индуцированное
локальное поле нейрона будем иметь
с
вероятностью
. Вероятность
описывается
синуидальной функцией вида.
где T аналог тепмературы
который используется для умпавлением
уровнем шума, а следовательно не
определьностью переключения. При этом
необходимо заметить что параметр T
не описывает физическую температуру
нейронной сети, не биологической не
исскуственной. Это параметр управляет
термальными флуктуациями представляющими
эффект синаптического шума. В случаи
когда паремтр T стремится
к нулю. Страхостический нейрон описанные
выражением (*) принимает детерминированную
форму нейрона МакКалака Пицца без
включения шума.
Архитектура нейронных сетей.
Нейрон это составная часть нейронной сети. Исскуственная нейронная сеть строятся и нейронов которые связанны. Они могут реализованы в виде быстрых аппаратных устройств, и такие реализации существуют. Однако большинство исследований выполняется в использованием программного моделирования на ПК. Как правило активационные функции всех нейронов в сети являются фиксированными, а веса параметрами сети и могут изменятся. Работа нейро-сети состоит в преобразовании входного вектора (Х) задаваемые весами сети выходными в (Y). Что бы построить нейронную сеть нужно выполнить следующие этапы:
1. Выбрать архитектуру.
2.Осуществить подбор весов в сети. Задача является не тривиальной.
На этапе выбора архитектуры нейронной сети нужно совершить следующие вопросы.
1. Какие нейроны(число входов, функции активации)
2.Как их соединить.
3.Какие входы и выходы.
При этом не обязательно строй сеть в нуля, существует множество нейро-сетевых архитектур, причем эффективность доказана математически. Наиболее изученные популярные архитектуры, это многослойный пейсерптрон, нейро-сеть с общей эгресении, сети Кохонина. Входные нейроны это нейроны на которые подается входной вектор, кодириющей входное вохздействие или образ внешней среды, в них обычно не производится вычислительных процедур информация передается с входа на выход путем изменения его активации. Выходные нейроны – это нейроны выходные значения которых представляют выход сети. Промежуточные нейроны – это нейроны которые состоявляют основу исскуственных сетей.Во многих модолей сетей тип нейрона зависит от его расположения в сети. Если у нейрона имеются только выходные связи то это входной нейрон, наоборот выходной нейрон. В процессе функцирования сети когда входной вектор преобразуется в выходной происходит некоторая переработка информации. Конкретный вид этой информации зависит не только от функций активации, но и от особенностей ее архитектурны. Существуют бинарные и аналоговые нейронные сети. Бинарные сети опериркют с двоичгыми сигналами, при это выход каждого нейрона принимает только два значения, логический 0 состветвующий заторможенному и логическая 1 сответсвующая возбужденному состоянию. Нейронные сети бывают:
1.Статические, часто называемые сетями с прамой связью или сетями прямого распространияния.
2. Динамические или рекуррентные. Существуют три фундаментальных класса нейро-сетевых архитектур, одно слойные сети прямого распространия. Много слойные сети прямого распространия, рекурентрые сети.