Лекция 3. Задачи Data Mining. Классификация и кластеризация. Одними из основных задач анализа данных являются классификация и кластеризация. Задача классификации

Классификация является наиболее простой и одновременно наиболее часто решаемой задачей Data Mining. Рассмотрим несколько определений.

Классификация - системное распределение изучаемых предметов, явлений, процессов по родам, видам, типам, по каким-либо существенным признакам для удобства их исследования; группировка исходных понятий и расположение их в определенном порядке, отражающем степень этого сходства.

Классификация - упорядоченное по некоторому принципу множество объектов, которые имеют сходные классификационные признаки (одно или несколько свойств), выбранных для определения сходства или различия между этими объектами.

Классификация требует соблюдения следующих правил:

• в каждом акте деления необходимо применять только одно основание;

• деление должно быть соразмерным, т.е. общий объем видовых понятий должен равняться объему делимого родового понятия;

• члены деления должны взаимно исключать друг друга, их объемы не должны перекрещиваться;

• деление должно быть последовательным.

Различают классификации:

• вспомогательную (искусственную) классификацию - производится по внешнему признаку и служит для придания множеству предметов (процессов, явлений) нужного порядка;

• естественную классификацию - производится по существенным признакам, характеризующим внутреннюю общность предметов и явлений. Она является результатом и важным средством научного исследования, т.к. предполагает и закрепляет результаты изучения закономерностей классифицируемых объектов.

В зависимости от выбранных признаков, их сочетания и процедуры деления понятий классификация может быть:

• простой - деление родового понятия только по признаку и только один раз до раскрытия всех видов. Примером такой классификации является дихотомия, при которой членами деления бывают только два понятия, каждое из которых является противоречащим другому (т.е. соблюдается принцип: "А и не А");

• сложной - применяется для деления одного понятия по разным основаниям и синтеза таких простых делений в единое целое. Пример - периодическая система химических элементов.

Под классификацией  понимают отнесение объектов (наблюдений, событий) к одному из заранее известных классов.

Классификация - это закономерность, позволяющая делать вывод относительно определения характеристик конкретной группы. Таким образом, для проведения классификации должны присутствовать признаки, характеризующие группу, к которой принадлежит то или иное событие или объект (обычно при этом на основании анализа уже классифицированных событий формулируются некие правила).

Классификация относится к стратегии обучения с учителем (supervised learning), которое также именуют контролируемым или управляемым обучением.

Задачей классификации часто называют предсказание категориальной зависимой переменной (т.е. зависимой переменной, являющейся категорией) на основе выборки непрерывных и/или категориальных переменных.

Например, можно предсказать, кто из клиентов фирмы является потенциальным покупателем определенного товара, а кто - нет, кто воспользуется услугой фирмы, а кто - нет, и т.д. Этот тип задач относится к задачам бинарной классификации, в них зависимая переменная может принимать только два значения (например, да или нет, 0 или 1).

Другой вариант классификации возникает, если зависимая переменная может принимать значения из некоторого множества предопределенных классов. Например, когда необходимо предсказать, какую марку автомобиля захочет купить клиент. В этих случаях рассматривается множество классов для зависимой переменной.

Классификация может быть одномерной (по одному признаку) и многомерной (по двум и более признакам).

Многомерная классификация - разработана биологами при решении проблем дискриминации для классифицирования организмов. В работе Р. Фишера (1930г.) организмы разделялись на подвиды в зависимости от результатов измерений их физических параметров. Биология - востребованная и удобная среда для разработки многомерных методов   классификации.

Пример задачи классификации. Пусть имеется БД о клиентах туристического агентства с информацией о возрасте и доходе за месяц. Есть рекламный материал двух видов: более дорогой и более дешевый отдых. Определены два класса клиентов: класс 1 и 2 (в табл. 3.1).

Таблица 3.1. База данных клиентов туристического агентства
Код клиента	Возраст	Доход	Класс
1	18	25	1
2	22	100	1
…
8	19	45	2
9	22	75	1
10	40	90	2

Задача. Определить, к какому классу принадлежит новый клиент, и какой из двух видов рекламных материалов ему стоит отсылать.

Для наглядности представим БД в двухмерном измерении (возраст и доход), в виде множества объектов, принадлежащих классам 1 (оранжевая метка) и 2 (серая метка) (рис.3.1)

Рис. 3.1. Множество объектов базы данных в двухмерном измерении

Решение задачи - определить, к какому классу относится новый клиент (белая метка).