КОНСПЕКТ ЛЕКЦИЙ КОДЭИ

Для каждой совокупности в выборке можно определить положение точки, представляющей средние для всех переменных в многомерном пространстве, определенном переменными рассматриваемой модели. Эти точки называются центроидами группы. Для каждого наблюдения можно вычислить его расстояние Махаланобиса от каждого центроида группы. Мы признаем наблюдение принадлежащим к той группе, к которой он ближе, т.е. когда расстояние Махаланобиса до нее минимально.

Апостериорные вероятности классификации.

Используя для классификации расстояние Махаланобиса, можно получить вероятность того, что образец принадлежит к конкретной совокупности. Это значение будет не вполне точным, так как распределение вокруг среднего для каждой совокупности будет не в точности нормальным. Так как принадлежность каждого образца вычисляется по априорному знанию модельных переменных, эти вероятности называются апостериорными вероятностями.

Апостериорные вероятности — это вероятности,

вычисленные с использованием знания значений других переменных для образцов из частной совокупности.

Априорные вероятности классификации.

Имеется одно дополнительное обстоятельство, которое следует рассмотреть при классификации образцов. Иногда известно заранее, что в одной из групп имеется больше наблюдений, чем в другой. Поэтому априорные вероятности того, что образец принадлежит такой группе, выше. Можно установить различные априорные вероятности, которые будут затем использоваться для уточнения результатов классификации наблюдений (и для вычисления апостериорных вероятностей).

Итог классификации.

Общим результатом, на который следует обратить внимание при оценке качества текущей функции классификации, является матрица классификации. Матрица классификации содержит число образцов, корректно классифицированных (на диагонали матрицы) и тех, которые попали не в свои совокупности (группы).

Дискриминантный анализ — это очень полезный инструмент:

1)для поиска переменных, позволяющих относить наблюдаемые объекты в одну или несколько реально наблюдаемых групп;

2)для классификации наблюдений в различные группы.

В модуле Discriminant analysis (Дискриминан-

тный анализ) реализовано два общих метода дискриминантного анализа: стандартный и пошаговый (включения и исключения). Данные методы дискриминантного анализа

аналогичны методам множественной регрессии.

В случае двух групп методом наименьших квадратов строится регрессионная прямая (зависимая переменная — номер группы, все остальные переменные — независимые). Если групп несколько, то можно представить себе, что вначале строится дискриминация между группами 1 и 2, затем между 2 и 3, и так далее.

В пошаговом методе модель строится последовательно по шагам. Для метода включения STATISTICA на каждом шаге оценивает вклад в функцию дискриминации не включенных в модель переменных. Переменная, дающая наибольший вклад, включается в модель, далее система переходит к следующему шагу. Если применяется так называемый пошаговый метод исключения, то вначале в модель включаются все переменные, затем производится их последовательное исключение.

Пример. Классификация цветов ириса.

Знакомство с возможностями проведения дискриминантного анализа в системе STATISTICA

начнем с разбора апробированного примера. Таким примером является классический пример Фишера — анализа цветков ириса.