18. Разделение объектов на два класса при вероятностном подходе

Рассмотрим случай, когда весь набор возможных решений сводится к двум, т.е. предъявленный объект может быть отнесен к одному из двух имеющихся классов. При этом полагаем, что установлены средние цены рисков и :

Требуется найти такое решение , которое минимизировало бы среднюю цену:

или более подробно

Положим , что соответствует случаю, когда риск принятия верного решения меньше риска допустить ошибку. Тогда из предыдущего условия имеем

Откуда

Применяя формулу Бейеса, получим решающее правило в виде неравенства

Дробь, стоящую в левой части неравенства, называют отношением правдоподобия. Решение принимают тогда, когда эта величина достигает максимума. Правая часть неравенства, содержащая только известные члены, представляет собой величину порога, не зависящего от наблюдаемой величины.

Если представить цену в виде то условия преобразуется в

или после применения формулы Бейеса

Рассмотрим вероятности ошибок, которые могут возникать при такой процедуре. На рис. 4.1 показаны две кривые, представляющие зависимость при i=1,2. Очевидно, что на прямой АВ, неравенство Бейеса выполняется, и можно заключить, что (вектор измерений) принадлежит классу C₁.

На линии раздела любая точка, для которой , считается принадлежащей классу С1, в то время как все точки, для которых , относятся к классу С2. Однако вероятность того, что в первом случае точка может принадлежать классу С2, отлична от нуля (область 1), так же как и то, что во втором случае точка Х принадлежит классу С1 (область 2). Для класса С1 зона 1 является зоной ложной тревоги, а зона 2 является зоной пропуска обнаружения. Они определяются соответственно выражениями:

Рис. 4.1 – Вероятности ошибок при разделении на два класса

Суммарная ошибка классификации представляется суммой этих двух вероятностей. Если перемещать линию , разделяющую два решения, вдоль оси Х, то она должна достичь точки Х^*, в которой имеет место равенство

показывающее, что при бинарных ценах правило максимума правдоподобия обеспечивает оптимальную классификация по отношению к возможности ошибочного решения.

19. Устройство автоматической классификации «Персептрон»

Решение задачи классификации напрямую связано с нахождением решающего правила и разделяющей функции. Нахождение функции и правила связано с поиском вектора коэффициентов для каждой функции и правила. В алгоритмах с учителем все параметры оцениваются при помощи алгоритмов, выполненных на объектах, заранее известна принадлежность к определенным классам. Эти объекты называются обучающей выборкой. Коэффициенты разделяющей функции и правила уточняются до тех пор, пока не будут получены корректные результаты классификации. Для решения обозначенной задачи в качестве теории часто используется модель персептронного вида, которая была предложена в 50 годы.

На рис. 5.1 приведена схема такой машины. Где 1 – стимулы, 2 – датчика, 3 – суммирующие ячейки, 4 – весовые множители, 5 – блок решения, 6 – управление изменением весов, 7 – вычисление новых весовых множителей.

Датчики, составляющие слой чувствительных элементов, соединены случайным образом с ассоциативным слоем, имеющим фиксированную структуру. Выходными сигналами этого слоя являются признаки , которые взвешиваются с весами , а затем объединяются, в результате чего получается отклик R, поступающий на блок решения 5. /* В частном случае, когда классификация выполняется на два класса, это пороговое устройство, дающее на выходе номера классов 1 или 2. */

Поскольку система является обучаемой, это решение используется для корректировки весов ( ) после сравнения его с заведомо известным, При этом решающему устройству дается «поощрение», если класс определен верно, и «наказание» – если неверно. Это выражается в том, что в первом случае решение подкрепляется, во втором – ослабляется. Блок 6 занимается управлением и изменением весов и выполняет функции памяти (каждое решение сохраняется). Блок 7 вычисляет новые коэффициенты.

Структура модели персептронного типа может быть положена в основу системы распознавания. Ее можно улучшить за счет изменения связей между датчиками и суммирующими ячейками, путем возбуждения одних связей и затормаживания других. Система, «обученная» распознаванию некоторых образов, распознает только их. При смене класса предъявляемых образов обучение должно начинаться заново.