§2. Условия применимости математических

методов классификации

При разработке методов классификации на ЭВМ необходимо оценить сходство между объектами количественно. Для этого можно использовать мнения людей, что часто применяется социологами. Но не практично и не научно получать оценки таксономического сходства внутри множества объектов с помощью группы субъектов. В научной практике избегают использовать суждения, основанные на большинстве голосов или популярности [5].

Для количественной оценки сходства объектов используют детальное описание их свойств, которые необходимо задать числами. Каждый объект Х_j из данного множества Х⁽ⁿ⁾задается в виде вектора значений свойств-признаков,

Х_j=(x_j1, x_j2, ..., x_jp), j=1, 2, ..., n, p1. (2.2)

Получается матрица данных размерностью np,

, (2.3)

номер строки которой – номер объекта, номер столбца – номер признака каждого объекта.

От природы основных признаков объекта зависят важные теоретические выводы. Объекты, подлежащие классификации, представлены в пространстве признаков. Формально это признаковое пространство является p-мерным. Но в связи с корреляцией (зависимостью) между признаками, оно может быть преобразовано в пространство меньшей размерности.

Обычной математической основой для классификации объектов являются функции на парах элементов (X_i,X_j),i,j=1,2,…,n, вычисляемые по их признакам[4-6]. В результате получается матрица сходстваr_ij или различияu_ijмежду всеми возможными парами (X_i,X_j). Эти коэффициенты бывают трех видов.

1. Коэффициенты типа расстояния имеют общий вид

, (2.4),

где x_is – значениеs-го признака для элементаX_i,p – число признаков,m –положительное целое число. Приm = 1 манхэттеновское расстояние, приm = 2 – евклидово расстояние.

2. Коэффициент ассоциативности (КА)

a(X_i,X_j)=p_c/p,

p_c – число совпадающих признаков элементовX_i, X_j, p – общее число признаков. КА используется для элементов, представленных в виде двоичного кода или словесных обозначений.

3. Коэффициент корреляции (КК) между векторамиX_i, X_jопределяет меру их угловой близости и выражается через их нормированное скалярное произведение

i, j = 1,2,…,n, (2.5a)

или

, i, j =1,2,…,n. (2.5b)

4.Условная вероятность принадлежности элементаXк классам₁,₂,…,_kР(X/_t),t =1,2,…,k, используется в том случае, когда известны, хотя бы приближенно, законы распределения вероятностей значений признаков объектов в каждом классе.

5. Линии регрессии применяются в том случае, когда элементы классов концентрируются вдоль некоторых линий (рис.2.3), приближенные уравнения которых находятся по данным наблюдениям.

При решении различных задач классификации в зависимости от вида признаков, описывающих классы, используются и различные виды расстояний (метрик) r(X_i,X_j). Но все они должны удовлетворять следующим условиям:

r(X_i,X_j)  0 – неотрицательность,

r(X_i,X_j) = 0 тогда и только тогда, когдаX_i=X_j – аксиома тождества,

r(X_i,X_j) = (X_j,X_i) –аксиома симметрии,

r(X_i,X_j)  r(X_i,X_s) + r(X_s,X_j) – аксиома треугольника.

Рис.2.3

Кроме отмеченных выше видов расстояний в классификаии используются следующие:

,

(2.6a)

- расстояние Махаланобиса[7], в котором- ковариационная матрица каждого класса, значок «’» обозначает транспонирование, (X_i-X_j) – вектор-строка,(X_i-X_j)’ – вектор-столбец. Если матрица- диагональная, на главной диагонали ее стоят дисперсии признаков₁²,₂²,…,_Р², то расстояние Махаланобиса принимает вид:

(2.6b)

Далее, для проведения классификации математическими методами необходимо задать математическое правило классификации, соответственно связанное с выбранной мерой близости объектов. Поэтому классификация проводится по расстояниям, коэффициентам ассоциативности и корреляции, по вероятностям, по линиям регрессии. Например, при классификации по расстоянию два объекта X_i, X_jотносятся к одному классу_s, s{1,2,…,k},еслиr(X_i,X_j)r₀, r₀ – заданное пороговое значение расстояния для каждого класса; при классификации по вероятности объектXотносят к тому классу_i0, для которого условная вероятность максимальна,

(2.7)

Итак, для проведения классификации объектов математическими методами необходимо составить их описание числовыми признаками, задать меру их близости и правило классификации.