Типи чисельних класифікацій.
Чисельні класифікації включають різні числові процеси, з яких вибирають найбільш відповідні. Послідовність вибору показано на рис. 1.
Рис.1. Послідовності вибору чисельних класифікацій.
Виключаючі / не виключаючі. Виключаючі – кожен елемент може бути лише в одній підмножині. Не виключаючі – один елемент може бути в різних підмножинах.
Внутрішні / зовнішні. Внутрішні – класифікація основана лише на заданому наборі ознак і всі ознаки на початковому етапі вважаються рівнозначними. Зовнішні – одна з ознак є зовнішньою і задача полягає в тому, щоб, використовуючи лише інформацію про решту внутрішніх ознак, отримати класифікацію, яка найкращим чином відображає зовнішню ознаку.
Ієрархічні / не ієрархічні. Ієрархічні – групи розглядають попарно як можливі кандидати для об’єднання, за умови критерію найменшого збільшення неоднорідності. Не ієрархічні – групи вибираються так, щоб кожна була по можливості більш однорідною але відношення між групами невияснені.
Агломеративні / дивізивні. Агломеративні (лат. agglomero – нагромаджувати, накопичувати; скупчення) – об’єкти об’єдуються в множини зростаючого об’єму, поки не відбудеться об’єднання в одну множину. В дивізівному (лат. divisio – поділ, розділ) – вихідна множина поступово ділиться, поки не буде досягнуте бажане розділення.
Монотетичні і політетичні. Монотетичні – поділ здійснюється на основі однієї ознаки, яка має максимальну інформативність. В політетичній всі ознаки враховуються однаковою мірою. Агломеративні стратегії завжди політетичні.
На початку класифікації всі ознаки вважаються рівноправними, але після класифікації може виявитись, що вклад отриманий в результаті класифікації за різними ознаками – різний. Виникає потреба в діагностичній системі, яка б слідкувала за ходом класифікації і видавала б впорядкований список вкладів ознак для кожного чергового об’єднання чи розділення.
4.2. Інформаційна статистика.
В основі цієї статистики використовується
Шеннонівське поняття інформації,
основане на
.
Бінарні ознаки. Нехай маємо групу
з
елементів, кожен з яких описується
присутністю чи відсутністю
ознак, і нехай
елементів мають ознаку
.
В цьому випадку інформаційний зміст
такої групи визначається виразом
. (1)
Нехай інформаційний зміст двох груп
і
відповідно рівний
та
,
і нехай обидві ці групи об’єднано в
одну групу
з інформаційним змістом
.
Тоді можна визначити інформаційний
виграш від об’єднання двох груп за
формулою
.
(2)
Інформаційний зміст одного елемента чи групи однакових елементів в цій моделі завжди рівний нулю. Процедура обчислень виглядає так.
Нехай окремий елемент, що підлягає
класифікації, представляє популяцію
(групу, множину) з
елементів, які розділені на категорії
(види рослин чи тварин) так, що в
-у
категорію попадає
індивідів, причому
.
Визначимо інформаційний зміст повної
категорії, який також називається
різноманіттям, як
. (3).
Тоді інформаційний виграш цієї категорії
визначається виразом (1). Запишемо його
в явному вигляді. Нехай два елементи,
які об’єднуються, представляються
стрічками-векторами
і
,
– суми по стрічках
,
– сума по стовпчику і
– загальна сума, тоді
. (4)
Ця величина називається переданою інформацією. Наступний приклад пояснює суть інформаційної статистики.
Нехай необхідно знайти повну інформацію для випадку п’яти об’єктів, коли кожен з них характеризується чотирьома бінарними ознаками, причому, три об’єкти мають першу ознаку, два – другу, четверо – третю і всі п’ять – четверту. Позначимо таку групу таким чином: ( 3 – 2 – 4 – 5 ). Інформація, що відповідає першій ознаці рівна
.
Для другої ознаки маємо таку саму величину:
.
Для – третьої:
.
Для – четвертої:
.
Зауважимо, що якщо
або
,
то інформаційний зміст є рівний нулю,
таким чином, інформаційний зміст одного
об’єкта чи групи повністю ідентичних
об’єктів також рівний нулю. Крім того,
вважається що
і
.