7.3. Найкращий стан системи

Розглянемо таку ситуацію

В деякій системі протікає стаціонарний дискретний або неперервний процес, який характеризується вектором з густиною розподілу p(x), а також заданий вектор , компоненти якого представляють або значення характеристик вхідного впливу на систему, або значення її параметрів.

Необхідно визначити в будь-якому сенсі найращий стан системи.

Найкращий стан системи досягається за рахунок вибору відповідного значення вектора с, тобто функціонала:

(7)

де - функціонал вектора с, який залежить також від випадкових реалізацій процесу х; Х – простір вектора х.

Функціонал - випадковий, з математичним сподіванням

(8)

Якщо - неперервно диференційований по с, то необхідною умовою екстремуму (8) є:

(9)

де - градієнт випадкового функціоналу по с.

Якщо функціонал випуклий і має єдиний екстремум, то умова (9) є необхідною і достатньою. В цьому випадку корінь рівняння визначає оптимальне значення , при якому функціонал досягає мінімуму.

7.4 Алгоритм навчання

Навчання, як на основі апріорної інформації, так і на основі апостеріорної інформації може бути організоване реалізацією єдиної рекурентної процедури. Її мета в тому, щоб на кожному кроці отримати таке значення вектора с, яке б з часом наближалося до оптимального значення .

Алгоритм навчання (визначення оптимального ) повинен по спостережуваним значенням вектора х визначати або оцінку вектора на черговому -му кроці, якщо вектор с змінюється дискретно, або оцінку вектора , якщо вектор с неперервний, яка з часом наближається до оптимального вектора .

Стосовно до першої ситуації, дискретний алгоритм навчання має вид:

, (10)

а неперервний алгоритм навчання може бути записаний так:

. (11)

В (10) і (11) - квадратна N-мірна матриця, повна або діагональна, елменти якої залежать від біжучого моменту часу (n або t).

З часом елементи матриці повинні наближатися до нуля, тому що лише при цій умові вектор с наближається до оптимального значення з імвірністю одиниця.

7.5 Обмежуюча умова на пошук екстремуму.

Розглянемо алгоритми розв’язку (8), зауваживши, що:

.

Обмежуюча умова, накладена на пошук екстремуму , виконується, зокрема, в випадку, якщо є скінченою сумою:

(12)

або

(13)

де - відповідно N-мірні вектори коефіціентів і лінійно незалежних функцій; Т – знак транспонування.

Підставляючи (13) у (8), отримаємо:

. (14)

Вважаючи, що функціонал , неперервний по с, необхідні умови екстремуму можна записати у виді:

(15)

де

(16)

Застосовуючи до (16) або дискретний алгоритм навчання (10), або неперервний алгоритм (11), знайдемо:

; (17)

. (18)

Лекція 8

Детерміністичні методи розпізнавання.

8.1 Постановка задачі.

Нехай Х-простір ознак з розмірністю . Точки цього простору є деякими зображеннями . Число L визначає кількість класів (образів) , до яких можуть бути віднесені зображення . Нехай для деяких зображень з простору Х відомі класи (образи) до яких вони належать: , причому кожному з L класів належить не менше одного зображення, тобто . Іншими словами, задана навчаюча послідовність .

Детерміністична постановка задачі розпізнавання полягає в тому, щоб знайти розбиття простору ознак Х на L взаємно неперетинних областей, кожна з яких відповідає деякому класу. Пошук шуканого розбиття, тобто навчання, здійснюють на основі навчальної послідовності. Таку ситуацію розглядають як постановку задачі навчання з учителем.