КОНСПЕКТ ЛЕКЦИЙ КОДЭИ

http://www.intuit.ru/studies/courses/6/6/lecture/166?page=1

Законспектировать:

1.Определение классификации (второе определение).

2.Правила проведения классификации.

3.Вспомогательная и основная классификация.

4.Простая и сложная классификация.

5.Одномерная и многомерная классификация. http://www.intuit.ru/studies/courses/6/6/lecture/166?page=2

1.Определение процесса классификации.

2.Классификатор + обучающие и тестовые множества.

3.Этапы процесса классификации.

4.Конструирование модели + схема.

5.Использование модели + схема. http://www.intuit.ru/studies/courses/6/6/lecture/166?page=3

1.Точность классификации: оценка уровня ошибок

Дискриминантный анализ является одним из методов многомерного статистического анализа.

Цель дискриминантного анализа состоит в том, чтобы на основе измерения различных характеристик (признаков, параметров) объекта классифицировать его, то есть отнести к одной из нескольких групп (классов) некоторым оптимальным способом. Под оптимальным способом понимается либо минимум математического ожидания потерь, либо минимум вероятности ложной классификации.

Дискриминантный анализ является многомерным, так как измеряется несколько параметров объекта, например, температура, влажность в технологическом процессе, давление, состав крови, температура больного и т.д.

Классификация — упорядоченное по некоторому принципу множество объектов, которые имеют сходные классификационные признаки (одно или несколько свойств), выбранных для определения сходства или различия между этими объектами.

Типичные области применения дискриминантного анализа — медицина, управление производством, экономика, геология, контроль качества.

В медицине объектом исследования является пациент, когда по результатам измерений различных параметров, проведения диагностических тестов врач определяет, например, необходимо ли хирургическое вмешательство при лечении.

Широкий круг задач, возникающих на практике и связанных с классификацией, можно решить методами дискриминантного анализа.

В модуле Discriminant analysis (Дискриминантный анализ) системы

STATISTICA имеется широкий набор средств, обеспечивающих проведение дискриминантного анализа данных, визуализации и интерпретации результатов.

Математическая постановка задачи

Предположим, имеется n объектов с m характеристиками. В результате измерений каждый объект характеризуется вектором

х1, ... хm, m >1. Задача состоит в том, чтобы по результатам измерений отнести объект к одной из нескольких групп (классов) G1,... Gk, k >=2. Иными словами, нужно построить решающее правило, позволяющее по результатам измерений параметров объекта указать группу, к которой он принадлежит. Число групп заранее известно, также известно, что объект заведомо принадлежит к определенной группе.

Пусть X — пространство значений вектора измерений.

Решающее правило называется

нерандомизированным, если пространство X

разбито на k непересекающихся областей; при попадании измерения параметров объекта в k-ю область объект относится к k-й группе.

Решающее правило называется рандомизированным, если для каждого вектора наблюдений х задана вероятность pi(x),

с которой объект принадлежит i-й группе, pi(x)>=0, p1(x) + ... + pk(x) = 1, i=1,...k.

Очевидно, при использовании решающего правила возникают потери, вызванные тем, что объект неправильно классифицирован — отнесен к классу i, когда в действительности он принадлежит классу j (i не равно j).

Если можно измерить убыток r(i,j) при неправильной классификации объекта, то вводят средние потери, к которым приводит применение данного правила, и пытаются найти правило, минимизирующее эти средние потери.

Если значение потерь трудно оценить численно, то при построении оптимального правила используют критерий минимальной вероятности ложной классификации.