37. Модель искусственного нейрона. Активационная функция.

Искусственный нейрон (Математический нейрон Маккалока — Питтса, Формальный нейрон) — узел искусственной нейронной сети, являющийся упрощённой моделью естественного нейрона. Математически, искусственный нейрон обычно представляют как некоторую нелинейную функцию от единственного аргумента — линейной комбинации всех входных сигналов. Данную функцию называют функцией активации или функцией срабатывания, передаточной функцией. Полученный результат посылается на единственный выход. Такие искусственные нейроны объединяют в сети — соединяют выходы одних нейронов с входами других.

Связи, по которым выходные сигналы одних нейронов поступают на входы других, часто называют синапсами по аналогии со связями между биологическими нейронами. Каждая связь характеризуется своим весом. Связи с положительным весом называются возбуждающими, а с отрицательным — тормозящими. Нейрон имеет один выход, часто называемый аксоном по аналогии с биологическим прототипом. С единственного выхода нейрона сигнал может поступать на произвольное число входов других нейронов.

Математически нейрон представляет собой взвешенный сумматор, единственный выход которого определяется через его входы и матрицу весов следующим образом:

Здесь xi и wi — соответственно сигналы на входах нейрона и веса входов. Возможные значения сигналов на входах нейрона всегда лежат в интервале [0,1], они могут быть либо дискретными (нуль или единица), либо аналоговыми. Дополнительный вход x0 и соответствующий ему вес используется для инициализации нейрона[7]. Под инициализацией подразумевается смещение активационной функции нейрона по горизонтальной оси, то есть формирование порога чувствительности нейрона[4]. Кроме того, иногда к выходу нейрона специально добавляют некую случайную величину.

Основные типы передаточных функций (функций активации):

• Линейная

• Пороговая

• Сигмоидальная

• Радиально-базисная

38. Блок-схема и основные операторы генетических алгоритмов.

Генетический алгоритм (англ. genetic algorithm) — это эвристический алгоритм поиска, используемый для решения задач оптимизации и моделирования путем последовательного подбора, комбинирования и вариации искомых параметров с использованием механизмов, напоминающих биологическую эволюцию. Является разновидностью эволюционных вычислений (англ. evolutionary computation). Отличительной особенностью генетического алгоритма является акцент на использование оператора «скрещивания», который производит операцию рекомбинации решений-кандидатов, роль которой аналогична роли скрещивания в живой природе.

Оператор репродукции:

Процесс, в котором хромосомы копируются согласно их целевой функции (fitness). Копирование хромосом с лучшим значением целевой функции имеет большую вероятность для их попадания в следующую генерацию. Оператор репродукции является искусственной версией натуральной селекции.

Оператор мутации:

1. В хромосоме A=a₁,a₂,a₃,…,a_L-2,a_L-1,a_L определяются случайным образом две позиции, например, а₂ и а_L-1.

2. Гены соответствующие выбранным позициям меняются местами и формируются новые хромосомы, например, оператор мутации - A’=a₁, a_L-1, a₃,…,a_L-2, a₂, a_L

Оператор скрещивания:

1. Выбираются члены нового репродукционного множества хромосом.

2. Каждая пара хромосом пересекается по правилу: целая позиция К вдоль хромосомы выбирается случайно в интервале между (1, L-1).

3. Две новых хромосомы создаются, меняя все характеристики между позициями K и L.

Число К называется точкой операции кроссинговера, или разделяющим знаком операции кроссинговера, или точкой разрыва, или точкой пересечения.