9.2. Математичний і програмний арсенали іад

Першим кроком аналізу розвитку засобів ІАД є виділення арсеналу статистичних методів обробки даних.

Математичний апарат ІАД

Статистичні методи

Кібернетичні методи

Експертні методи

Методи конфліктних ситуацій

Оптимізаційні методи

Синергетичні методи

Методи теорії непарних множин

Методи фрактальної математики

Попередній аналіз природи статистичних даних

Аналіз і прогноз на основі нейронних даних

Асоціативні засоби: метод найближчого сусіда

Варіаційні методи програмування

Математичне програмування

Виявлення зв’язків та закономірностей

Еволюційне програмування

Метод послідовного логічного виводу

Динамічне програмування

та принципи максимуму

Багатомірний статистичний аналіз

МГУА

Предметно-орієнтовані системи

Аналіз і прогноз на основі генетичних алгоритмів

Динамічні моделі і прогнозування (тимчасові ряди)

Метод представлення та візуалізації рішень

Методи систем масового програмування

Рис.9.1. Математичний апарат інтелектуального аналізу даних

Статистичні методи ІАД зручно розділити на чотири взаємозалежних групи:

Попередній аналіз природи статистичних даних (перевірка гіпотез стаціонарності, нормальності, незалежності, однорідності, оцінка виду функції розподілу і її параметрів тощо).

Виявлення зв'язків і закономірностей – лінійний і нелінійний регресійний аналіз, кореляційний аналіз тощо).

Багатомірний статистичний аналіз (лінійний і нелінійний дискримінантний аналіз, кластер-аналіз, компонентний аналіз, факторний аналіз тощо);

Динамічні моделі і прогноз на основі часових рядів.

Значимість цих методів для арсеналу ІАД вкрай велика – адже саме в них найбільше послідовно відпрацьовується думка про принципову важливість великих масивів ретроспективних даних для рішення задачі навчання автоматизованих СППР. Серед найбільш відомих і популярних пакетів статистичного аналізу необхідно відзначити Statistica, SPSS, Systat, Statgraphics, SAS, BMDP, TimeLab, Data-Desk, S-Plus, Scenario (BI), Мезозавр.

Особливий напрямок в спектрі аналітичних засобів ІАД складають методи, засновані на нечітких множинах (fuzzy sets).

Традиційні імовірно-статистична методологія базується на класичній колмогорівській аксіоматиці. Однак в низці практичних задач, пов’язаних, наприклад, з лінгвістичними змінними, подібну аксіоматику побудувати не вдається. У зв'язку з цим у 1961 р. Л. Заде була запропонована концепція нечітких множин, яка дозволяла оперувати з поняттям невизначеності в неметричних системах.

Застосування теорії нечітких множин в системі ІАД дозволяє ранжирувати дані за ступенем близькості до бажаних результатів, здійснювати, так званий нечіткий пошук в базах даних. Однак плата за підвищену універсальність завжди була достатньо велика і виявлялася у зниженні рівня вірогідності і точності одержуваних результатів. Тому число спеціалізованих додатків даної методології, незважаючи на підвищений інтерес до неї з боку математиків-прикладників протягом останніх 35 років, остається дуже обмеженим.

Кібернетичні методи ІАД. Другий великий напрямок розвитку пов'язаний з кібернетичними методами оптимізації, заснованими на ідеях і принципах систем, що самі розвиваються До цього напрямку треба віднести методи нейроних мереж, еволюційного і генетичного програмування.

Формування рішень на основі нейронних мереж здійснюється шляхом застосування ієрархічної мережі, вузлами якої є моделі нервових кліток (нейронів), де вихідний сигнал визначається зваженою сумою вхідних сигналів. В свою чергу вхідні сигнали представляють собою вихідні сигнали нейронів попереднього рівня.

Вхідними сигналами усієї мережі являються параметри поточних рядів спостережень. Ретроспективні дані використовуються як навчальні вибірки, які формують значення вагових коефіцієнтів вхідних параметрів нейронів.

Сутність методу еволюційного програмування полягає в отриманні оптимального рішення шляхом імітації процесу еволюції популяції. В первісний варіант рішення вносяться різноманітні, можливо випадкові зміни; сукупність нових модифікованих рішень творить нове покоління можливих рішень. Рішення нового покоління піддаються „природному добору” – селекції, заснованій на екзогенному „критерії виживання” (критерій допустимості рішення).

Збережені після селекції рішення знову модифікуються („розмножуються”), утворюючи третє покоління і процес ітераційно повторюється. При цьому утворюється неконтрольована розробником алгоритму самоорганізуюча оптимізаційна послідовність, що приводить до найкращого рішення (прогнозу) самим несподіваним чином: найбільш ефективне рішення може виявитися результатом послідовної еволюції, на проміжних етапах якої йому передували далеко не найкращі (хоча і припустимі) рішення.

За суттю, ЕОМ в системі еволюційного програмування, за аналогією з використанням нейронних мереж перестає бути програмувальним калькулятором, а стає повноправним учасником рішення задачі. Це дозволяє знаходити нові, нетривіальні і ефективні рішення в самих складних ситуаціях: в задачах прогнозування нестаціонарних процесів, при аналізі нелінійних процесів, при розпізнаванні складних образів тощо.

Різновидом еволюційного програмування є алгоритми метода групового обліку аргументів (МГОА), що дозволяють ефективно оцінювати динамічні характеристики досліджуваного процесу шляхом послідовних уточнень результатів статистичної припасування спостережень. При цьому з ретроспективної вибірки спостережень виділяється частина, що використовуються для контролю результатів припасування. За основу опорної динамічної структури аналізованого процесу як звичай вибирається степеневий поліном.

Генетичні алгоритми багато в чому нагадують еволюційне програмування. Тут також відбувається генерація, відбір і селекція можливих рішень, які інтерпретуються як генетичні інформаційні структури з заданим набором параметрів („хромосом”). При цьому крім випадкових змін генної структури („мутацій”) відбувається і спрямована модифікація, яка виникає в результаті „схрещування хромосомних наборів” рішень попередніх поколінь. Як і в попередньому випадку, генетичні алгоритми є самоорганізуючими і дозволяють одержувати якісно нові, несподівані результати.

Однак нові достоїнства завжди породжують і нові проблеми. Наприклад, рішення, отримані кібернетичними методами, дуже часто не допускають наочних інтерпретацій, що у певній мірі ускладнює життя предметним експертам.

До основних програмних продуктів, що містять в собі кібернетичні методи ІАД, належать системи PolyAnalyst, NeuroShell, GeneHunter, BrainMaker, OWL, 4Thought (BI). Безпосередньо до кібернетичних методів ІАД примикає методологія аналізу, заснована на ідеях синергетики, поперед усього в частині нелінійної динаміки і виявлення точок біфуркацій. Застосування цих методів дозволяє реально оцінити горизонт довгострокового прогнозу. Особливий інтерес викликають дослідження, пов'язані з спробами побудови надефективних управлінь в нестійких режимах функціонування.

Оптимізаційні методи ІАД. До третього великого розділу ІАД треба віднести сукупність методів і алгоритмів рішення традиційних оптимізаційних задач. До них відносяться класичні задачі оптимізації (варіаційні методи), методи дослідження операцій, що включають в себе різноманітні види математичного програмування (лінійне, нелінійне, дискретне, цілочислене тощо), динамічне програмування і принцип максимуму Понтрягина, методи теорії систем масового обслуговування тощо. Дані методи добре відомі і не потребують коментарів. Більшість з них існує у вигляді програмних реалізацій в стандартних пакетах прикладних програм. Наприклад, вони існують у складі бібліотек типових програм у таких популярних програмних комплексах, як MathCAD і MatLab. Роботу з символьною математикою зручно робити з допомогою таких програмних продуктів, як Mathematica, MapleV чи Derive.

Незважаючи на загальну популярність, дані методи аж ніяк не прості у використанні, їх ефективне застосування вимагає достатньо високої математичної культури.

Експертні методи що використовуються в системах ІАД, за суттю, у рівному ступені відноситься і до традиційних засобів операційних СОД. Умовно назвемо сукупність таких засобів експертними (або квазіекспертними) методами ІАД, тобто такі, які пов'язані з безпосереднім використанням досвіду експерта.

До таких засобів відносять алгоритми, які завершають процес статистичного аналізу – процедури вибору рішення, розглядаючи його як самостійну задачу. При цьому передбачається, що навчання СППР вже завершено і вже існує закінчена система опорних рішень-прецендентів. Якщо кожному готовому i-ому рішенню-преценденту d_i зіставити точку в n-мірному фазовому просторі рішень D_n, а нову ситуацію оцінити n-мірним вектором стану x, що описується тими ж параметрами, то за найбільш прийнятне рішення d* пропонується вибрати те, яке найбільше наближене до сформованої ситуації x при a'priori обраній метриці m.

Таким чином, d*= arg min m(x, d_i) для будь-яких i.

Подібний підхід, що отримав назву метода „найближчого сусіда” („nearest neighbour”, CBR – case based reasoning), і став основою таких програмних продуктів DSS, як Pattern Recognition Workbench або KATE tools.

Поза всяким сумнівом, що кожне рішення-прецендент володіє певною інформаційною значимістю. Однак, щоб оцінити його вірогідність і коректність інтерпретації необхідні повторні спроби, які дозволяють провести дискримінантні гіперповерхні розподілу між „областями притягання” опорних рішень, що й визначає необхідність застосування усе тих же статистичних методів у процесі навчання СППР.

Інший підхід до вибору ситуаційного рішення пов'язаний з побудовою послідовного логічного виводу – дерева рішень, у кожному вузлі якого експерт здійснює найпростіший логічний вибір („так”–„ні”,„true”–„false”). В залежності від прийнятого вибору пошук рішення просувається за правою чи лівою гілкою дерева і в решті–решт приходить до термінальної гілки, яка відповідає конкретному остаточному рішенню. Очевидно, що й тут процес статистичного навчання виведений за межі програми і сконцентрований у вигляді якогось апріорного досвіду, що розміщується у вигляді набору гілок-рішень.

Одним з різновидів метода дерев рішень, є алгоритм дерев класифікації і регресії (CART, classification and regression trees), що пропонує набір правил для рішення задачі дихотомічної класифікації сукупності початкових даних. Даний метод як звичай застосовується для прогнозування того, які послідовності подій будуть мати заданий результат.

Більш ретельний попередньої підготовки даних вимагає метод CHAID (chi square automatic interaction detection), призначений для виявлення залежності між змінними за критерієм хі-квадрат на основі традиційної схеми перевірки гіпотез.

Відсутність навчання у відношенні нових ситуацій, на жаль, не вичерпує недоліки такого підходу. Адже для її реалізації, як мінімум, потрібний висококваліфікований експерт, здатний у кожному вузлі прийняти змістовно вірне рішення. У той же час реальна СППР, як правило, функціонує в умовах невизначеності, нестаціонарності, нерегулярності й інших „життєстверджуючих” моментів, у яких навіть досвідчений експерт не може почувати себе достатньо впевненим при виборі шляху. „Суха теорія, а древо життя розкішно зеленіє”. Однак даний підхід забезпечує певні зручності для експертів, що й породило розробку на основі технології дерев рішень (decision trees) таких програмних продуктів, як IDIS, С5.0, SIPINA тощо.

До експертних методів слід віднести і предметно-орієнтовані системи аналізу ситуацій і прогнозу, засновані на фіксованих математичних моделях, що відповідають тій чи інший теоретичній концепції. Роль експерта полягає у виборі найбільш адекватної системи інтерпретації отриманого алгоритму. Достоїнства і недоліки таких систем очевидні – надзвичайна простота і легкість застосування і розплата вірогідністю і точністю за цю простоту.

Прикладами програмних продуктів, що відповідають предметно-орієнтованим системам в галузі фінансів є Wall Street Money, MetaStock, SuperCharts, Candlestick Forecaster тощо.

На завершення огляду експертних методів ІАД доцільно згадати методи візуалізації даних і результатів їх аналізу, що дозволяють наглядно відображати отримані результати в інтересах створення єдиної картини сформованої ситуації у предметних експертів і/або керівників проектів.

До числа спеціалізованих програмних продуктів, що дозволяють формувати попередні звіти і візуалізувати результати, треба віднести системи Mineset, Impromptu (BI) тощо. Так, система Mineset містить в собі такі інструменти, як ландшафтний візуалізатор, візуалізатори дисперсії, дерев, правил, свідоцтв та інших засобів.

Помітимо, що новий оригінальний напрямок візуалізації результатів ґрунтується на ідеях фрактальної математики, яка дозволяє засобами кольорової графіки формувати складні нелінійні відображення. Методи фрактальної математики іноді відносять до сфери сінергетики.