13. Основные идеи и принципы мгуа

Він запропонований наприкінці 60-х - 70-х академіком А.Г.Івахненко (Інститут кібернетики НАН України) .

Цей метод використовує ідеї самоорганізації і механізми живої природи – схрещування (гібридизацію) і селекцію (добір).

рис.4.1

Нехай є вибірка з N спостережень вхідних векторів Х(і) та вихідних У(і):

За результатами спостережень треба визначити F(x). Причому навіть структура моделі F(x) невідома.

Найбільш повна залежність між входами X(i) і виходами Y(i) може бути представлена за допомогою узагальненого полінома Колмогорова-Габора.

Нехай є , тоді такий поліном має вигляд:

де всі коефіцієнти не відомі.

При побудові моделі (при визначенні значень коефіцієнтів) в якості критерія використовується критерій регулярності (точності):

Нам треба .

Принцип множинності моделей: існує множина моделей на даній вибірці, що забезпечують нульову помилку (достатньо підвищувати ступінь полінома моделі). Тобто, якщо є N вузлів інтерполяції, то можна побудувати ціле сімейство моделей, кожна з яких при проходженні через експериментальні точки буде давати нульову помилку

Як правило ступінь нелінійності беруть не вище n-1, якщо n- кількість точок вибірки.

Позначимо S - складність моделі (визначається числом членів полінома Колмогорова-Габора).

Значення помилки залежить від складності моделі. Причому в міру росту складності спочатку вона буде падати, а потім зростати. Нам же потрібно вибрати таку оптимальну складність, при якій помилка буде мінімальна. Крім того, якщо враховувати дію перешкод, то можна виділити наступні моменти:

1. При різному рівні перешкод залежність від складності S буде змінюватися, зберігаючи при цьому загальну спрямованість (мається на увазі, що з ростом складності вона спочатку буде зменшуватись, а потім – зростати).

2. При збільшенні рівня перешкод величина буде зростати.

3. З ростом рівня перешкод, буде зменшуватись (оптимальне значення складності буде зміщатися вліво). Причому , якщо рівень перешкод не нульовий (див. Рис.4.2).

рис.4.2

Теорема неповноти Геделя: У будь-якій формальній логічній системі мається ряд тверджень і теорем, які не можна ні спростувати, ні довести, залишаючись у рамках цієї системи аксіом.

У даному випадку ця теорема означає, що вибірка завжди неповна.

Один зі способів подолання цієї неповноти – принцип зовнішнього доповнення. В якості зовнішнього доповнення використовується додаткова вибірка (перевірочна), точки якої не використовувалися при навчанні системи (тобто при пошуку оцінок значень коефіцієнтів полінома Колмогорова-Габора).

Пошук найкращої моделі здійснюється в такий спосіб:

• Уся вибірка поділяється на навчальну і перевірочну:

• На навчальній вибірці визначаються значення .

• На перевірочній вибірці відбираються кращі моделі.

Вхідний вектор має розмірність N .

Принцип свободи вибору (неостаточності проміжного рішення):

1. Для кожної пари будуються часткові описи (усього ) виду:

• чи , (лінійні);

• чи , (квадратичні).

2. Визначаємо коефіцієнти цих моделей по МНК, використовуючи навчальну вибірку. Тобто знаходимо .

3. Далі на перевірочній вибірці для кожної з цих моделей шукаємо оцінку

(де - дійсне вихідне значення в k-тій точці перевірочної вибірки; - вихідне значення в k-тій точці перевірочної вибірки відповідно до s-тієї моделі) і визначаємо F кращих моделей.

Обрані подаються на другий ряд. Шукаємо

Оцінка тут така ж, як на першому ряді. Добір кращих здійснюється знову так само, але .

Процес конструювання рядів повторюється доти, поки середній квадрат помилки буде падати. Коли на шарі m одержимо збільшення помилки , то припиняємо.

рис.4.3

Якщо часткові описи квадратичні і число рядів полінома S, то одержуємо, що ступінь полінома k=2s.

На відміну від звичайних методів статистичного аналізу, при такому підході можна одержати досить складну залежність, навіть маючи коротку вибірку.

Існує проблема: на першому ряді можуть відсіятися деякі перемінні і , котрі впливають на вихідні дані.

У зв'язку з цим запропонована така модифікація: на другому шарі подавати і , тобто:

.

Це важливо при більшому рівні перешкод, щоб забезпечити незміщеність моделей.

Виникає два критерії добору кращих кандидатів часткових описів, які передаються на певному шарі на наступний ряд (шар).

1. Критерій регулярності (точності)

1. 

2. 

2. Критерій незміщеності.

Беремо усю вибірку, поділяємо на дві частини R= +

Перший експеримент: - навчальна вибірка, -перевірочна; визначаємо виходи моделі , i=1..R

Другий експеримент: - навчальна вибірка, -перевірочна; визначаємо виходи моделі , i=1..R

і порівнюємо. Критерій незміщеності:

Чим менше _, тим більше незміщеною є модель.

Такий критерій визначається для кожного часткового опису першого рівня і потім знаходиться для рівня в цілому

для F кращих моделей. У ряді варіантів F=1. Те ж саме на другому шарі обчислюємо .

І процес селекції здійснюється доти, поки цей критерій не перестане зменшуватися, тобто до досягнення умови

Переваги

1. Можна відновити невідому довільно складну залежність по обмеженій вибірці. Число невідомих параметрів моделі може бути більше, ніж число точок навчальної послідовності.

2. Можливість адаптації параметрів моделі при одержанні нових даних експериментів. (Закрема використовуючи РМНК)