3. Градиентный алгоритм обучения нс Back propagation(вр), его свойства.

Першим алгоритмом навчання, який було розроблено для навчання мережі Back Propagation (ВР), являвся, градієнтний метод навчання.

Нехай критерій навчання мережі, що має 3 шари (один прихований шар), такий

(1)

де - бажане значення і-го виходу нейромережі,

- фактичне значення і-го виходу нейромережі ВР, для вагової

матриці .

Тобто критерій являє собою середній квадрат помилки апроксимації.

Нехай функції активації для нейронів прихованого шару та нейронів вихідного шару - однакові і представляють собою функцію “сигмоїд” (2)

Для такої функції похідна дорівнює: (3)

Розглянемо градієнтний алгоритм навчання нейронної мережі.

Алгоритм навчання Н-мережі.

Нехай - поточне значення матриці ваг. Алгоритм має такий вигляд:

,

де - розмір кроку на -й ітерації.

На кожній ітерації спочатку ми навчаємо (коригуємо) вхідні ваги.

(4)

(5)

Знаходимо (навчаємо) вихідні ваги

(6)

(7)

де - виходи НС,

- виходи НС,

- виходи прихованого шару.

та переходимо на наступну ітерацію.

Зауваження: Так званий алгоритм навчання з пам’ятю має вигляд:

, де

- швидкість навчання, - параметр забування.

Градієнтний метод є першим запропонованим алгоритмом навчання, він простий в реалізації, але має такі недоліки:

повільно збігається;

знаходить лише локальний екстремум.

4. Вывод рекурсивного соотношения для произвольного слоя сети вр. Организация вычислений компонент градиента в сети вр.

Розлянемо градієнтний метод навчання нейронної мережі ВР. Нехай необхідно мінімізувати критерій:

(1), де - реальний вихід j-го нейрона вихідного шару N нейронной мережі при поданні на вхід р-го образу; - бажаний вихід.

Мінімізація проводиться за методом градієнтного спуска, що означає побудову ваг наступним чином:

, (2)

де - ваговий коефіцієнт зв’язку i-го нейрона (N-1)-го шару з j-им нейроном n–го шару; 0<η<1 – коефіцієнт швидкості навчання. Тоді

(3), де -вихід j-го нейрона n–го шару; - зважений сумарний вихідний сигнал j-го нейрона. Очевидно, що (4). Якщо функція активації j-го нейрона має вигляд: , то . В частному випадку, якщо - сигмоїд, то . Третій множник . Що ж стосується першого множника в (3) , то він легко розкладається через виходи нейронів наступного (n+1)–го шару таким чином:

(5). Тут сумування ведеться по нейронах (n+1)–го шару (k). Введемо нову змінну , (6). Отримаємо рекурентну формулу для обчислення величини n–го шару через величини наступного шару (дивись нижче рис.) (7)

Для вихідного шару n=N має (8). Тепер можна записати алгоритм градієнтного спуску (2) в наступному вигляді: . (9).

Іноді для надання процесу корекції ваг деякої інерційності для згладжування різких стрибків, якщо рухатись по поверхні, використовується значення на попередній ітерації (0-1). В цьому випадку величина буде мати вигляд:

, (10) де .

5. Модификация градиентного метода обучения.

При реалізації градієнтного алгоритму навчання нейроної мережі ВР може проявитися ряд складностей, властивих градієнтним алгоритмам оптимізації:

1. Якщо ми знаходимося далеко від точки мінімуму функції , то рухаємося з малим кроком, і процес пошуку може затягуватися. Для його прискорення має сенс збільшити величину кроку . Ознакою такої ситуації є сталість знака

2. Якщо ж ми знаходимося в околиці точки мінімуму , і величина кроку велика, то ми перескакуємо через точку , і виникає явище “осциляції”. У цьому випадку доцільно поступово зменшувати величину . Ознакою такої ситуації є зміна знака , тобто (див. рис.3.8б).

Градієнтний метод з корекцією кроку навчання (метод відкоту)

Для подолання вище вказаних труднощів, зв'язаних з використанням градієнтного методу, був розроблений градієнтний метод з корекцією кроку навчання. Тут величина кроку на (t+1)-ой ітерації описується наступним рекурентним виразом:

(3.6.1.1)

Рекомендується вибирати .Корекцію кроку можна проводити, якщо проведено декілька послідовних кроків, наприклад, t-2, t-1, t.

Метод з вибиванням із локальних мінімумів (shock BP)

Цей метод використовується у випадку багатоекстремальної залежності E(w) при необхідності пошуку глобального мінімуму (див. рис.3.9).

У випадку, якщо ми застрягли в локальному мінімумі і помилка Е протягом тривалого часу не змінюється, то має сенс зробити великий крок у випадковому напрямку , щоб вискочити з даної положистої западини і потрапити в область притягання іншого мінімуму . Тоді ,де рівномірно розподілена в інтервалі [-1;+1].

Метод з векторним кроком навчання (Super SAB)

Основний недолік класичного градієнтного методу полягає в тому, що крок в усіх напрямках однаковий . Він не враховує тієї обставини, що по різних компонентам ми можемо знаходитися на різній відстані від шуканої точки мінімуму (тобто по одним компонентам далеко, а по іншим – близко). Тому Almeida і da Silva розробили метод з векторним кроком пошуку, який вони назвали Super SAB. У цьому методі пошук відбувається відповідно до виразу

(3.6.3.1)

де (3.6.3.2)

Зміна ваг відбувається відповідно до виразу

(3.6.3.3)

Автономний градієнтний метод з апроксимацією рельєфу квадратичної функції

Нехай ми знаходимося в точці w(t). Розраховуємо градієнт і антиградієнт і робимо два спробних кроки:

Обчислюємо . Далі, припускаючи, що E(w) може бути апроксимована параболою, знаходимо по трьох точках точку мінімуму.

Основний недолік методу полягає в тому, що функція E(w) може мати значно більш складний вид, і тому цю процедуру апроксимації доводиться повторювати багаторазово, що вимагає великих обчислювальних витрат.