- •Лекція к-1. І. Формування даних
- •1.1. Поняття класу.
- •1.2. Суть задач класифікації та понижування розмірності.
- •1.3. Типові задачі практики.
- •1.4. Типи математичних постановок задач класифікації
- •Лекція к-2.
- •2. Побудова матриць близькості
- •2.1. Гіпотеза компактності.
- •2.2. Міри подібності (близькості) кількісних та якісних ознак.
- •3. Кластерний аналіз
- •3.1. Модель кластерного аналізу.
- •3.2. Кластерний аналіз.
- •Лекція к-4.
- •4. Лінійні розділяючі функції і поверхні рішень.
- •4.1. Розпізнавання як розділення класів.
- •1.2. Випадок двох класів.
- •1.3. Випадок багатьох класів.
- •Побудова розділяючої функції
- •Іі. Статистичні методи розпізнавання.
- •2.1. Основи байєсівського підходу.
1.4. Типи математичних постановок задач класифікації
та понижування розмірності.
Доцільність і ефективність конкретного методу класифікації та зменшення розмірності обумовлюється математичною моделлю, тобто математичною постановкою задач. Визначальним у виборі математичної постановки задачі є характер початкової інформації, що складається з двох частин:
а) апріорних відомостей знань про досліджувані класи;
б) вибіркової статистичної інформації навчальних вибірок.
Математична модель, яка лежить в основі побудови того чи іншого методу зниження розмірності включає переважно в себе три основних компоненти:
Форму задання початкової інформації. Тут треба відповісти на питання:
а) в якому виді задано основну інформацію про об’єкт;
б) чи є серед початкових статистичних даних навчальна інформація, тобто які-небудь відомості про аналізовану результуючу властивість;
в) якщо навчальна інформація присутня в початкових статистичних даних, то в якій саме формі вона представлена.
Тип оптимізаційного критерію інформативності
шуканого набору ознак
.
Критерій інформативності може бути
орієнтований на досягнення різних
цілей. Можна виділити цілий клас
критеріїв автоінформативності,
оптимізація яких приводить до набору
допоміжних змінних
,
що в свою чергу дозволяє майже точно
відтворити інформацію, що міститься в
описовому масиві статистичних даних
. Якщо описова інформація представлена
матрицею “об’єкт-властивість” то
мова йде про максимально точне відтворення
початкових значень змінних
на основі значно меншого числа допоміжних
змінних
.
Критерій
орієнтований на пошук економних наборів
допоміжних змінних
,
що забезпечують максимально точне
відтворення інформації, що відноситься
до результуючої ознаки.Клас
допустимих
перетворень початкових ознак.
Допоміжні ознаки
при представленні початкової описової
інформації матрицею “об’єкт-властивість”
будується у вигляду функцій від
,
тобто
.
Для забезпечення змістовності і
конструктивної реалізованості розв’язку
оптимізаційної задачі
необхідно визначити обмеження в класі
допустимих розв’язків
,
в рамках якого ця оптимізаційна задача
буде розв’язуватись. Від вибору
суттєво залежить і отримуваний розв’язок
даної оптимізаційної задачі.
Лекція к-2.
2. Побудова матриць близькості
2.1. Гіпотеза компактності.
Оцінювання ступеня подібності або відмінності об’єктів, які представлені векторами ознак, вимагає введення деякої формальної міри подібності (відмінності), в термінах якої і буде здійснюватись порівнювання цих об’єктів між собою. Впровадження такої міри обґрунтовується гіпотезою компактності, яка постулює можливість розбиття великої кількості об’єктів дослідження та невелике число “сильно відмінних” підмножин, в середині яких об’єкти є “подібні“ між собою в тому чи іншому можливо і невідомому, але об’єктивно існуючому відношенні.
Якщо описи об’єктів
розглядаються як вектори в
– мірному просторі ознак
то гіпотеза компактності стверджує, що
для того щоб задача обробки емпіричних
даних, яка полягає у виявленні в них
емпіричних закономірностей, мала
розв’язок, емпіричні дані повинні мати
дві принципові властивості.
1. Компактність –
точки, що відображають в
об’єкти одного класу, розташовані в
ближче одна до одної ніж точки, що
відображають в
об’єкти інших класів;
2. Сепарабельність – класи повинні бути обмежені і не перетинатися між собою.
Гіпотеза компактності
найбільш природно вводить міру відмінності
між об’єктами, як відстань між точками
(векторами), що відображають порівнюванні
об’єкти в просторі
.
При цьому в одних і тих же термінах
формулюється як поняття відстані
між об’єктами
та
заданими їх описами
та
так і поняття відстані від об’єкта
до класу
(1)
та між класами
та
. (2)
З (1) та (2) випливає,
що відстань між об’єктом
та класом
це відстань між цим
та найближчим представником класу
,
а відстань між класами
та
– це відстань між найближчими
представниками цих класів. На практиці
використовується і менш строге поняття
відстані від об’єкту до класу та між
класами , наприклад у вигляді відстані
від центра ваги класу.
