18) Метод найменших квадратів: система нормальних рівнянь.

Метод найменших квадратів застосовується також для наближеного представлення заданої функції іншими (простішими) функціями і часто виявляється корисним при обробці спостережень.

Нехай нам дана на площині деяка множина точок(У.Х) яка описує певний економічний процес чи явище, нанесемо ці дані на графік, який має назву діаграма розсіювання.

Тобто моделлю регресії є однофакторна лінійна регресія виду:

Yi=B0+B1X1+E.

Це модель в яку ми віримо або приймаємо і в який помилки Е є незалежними змінним. Суть методу найменших квадратів полягає в тому, що необхідно підібрати лінію так , що б вона проходила якомога ближче до всіх точок на площині.

В якості підібраної прямої застосовуємо рівняння: Yi=B0+B1Xi.

У МНК застосовують систему квадратів відхилень:

Необхідною та достатньою умовою існування мінімуму цього функціонала, або точкою екстремуму, буде рівність частинних похідних нулю. Тобто ми можемо отримати оцінки параметрів регресії B0 B1 продифиренціювавши рівняння спочатку по параметру В0 а потім по параметру В1.

19) Дисперсійний аналіз. Anova у однофакторній моделі.

Сутність цього аналізу полягає в тому, що загальну дисперсію досліджуваної ознаки розділяють на окремі компоненти, які обумовлені впливом певних конкретних чинників. Істотність їх впливу на цю ознаку здійснюється методом дисперсійного аналізу. Відповідно до дисперсійного аналізу будь-який його результат можна подати у вигляді суми певної кількості компонент. Так, наприклад, якщо досліджується вплив певного чинника на результат експерименту, то модель, що описує структуру останнього, можна подати так:

Де — значення ознаки X, одержане при i-му експерименті на j-му рівні фактора.

Складнішою моделлю аналізу є вивчення впливу на результати експерименту кількох факторів. Зокрема при аналізі впливу двох факторів структура моделі набуває такого вигляду:

де   – значення ознаки Х в i-му експерименті на j-му рівні впливу фактора A і на k-му рівні впливу фактора В;   — загальна середня величина ознаки X;   — ефект впливу фактора Ана i-му рівні,   — ефект впливу фактора В на j-му рівні;   — ефект одночасного впливу факторів A і В;   — випадкова компонента.

В основі дисперсійного аналізу є такий принцип: якщо на випадкову величину діють взаємно незалежні фактори A, B, то загальна дисперсія дорівнює сумі дисперсій, зумовлених дією окремо кожного з факторів:

Цей метод ґрунтується на розділенні загальної дисперсії   на складові, що відповідають впливу різних джерел мінливості (дисперсія  , зумовлена дією факторів, і залишкова дисперсія  ,  ), а застосовувані критерії дають змогу одночасно вивчати відмінності як у середніх значеннях, так і в дисперсіях.

Таким чином загальна сума квадратів відхилень (TSS) залежної змінної У від її вибіркового середнього значення складається із суми квадратів відхилень залишків(ESS).

Tss=Rss+Ess, результати розрахунків зручно записувати в дисперсійну таблицю. Суми квадратів пов’язані з певним джерелом варіації, а також ступенями вільності і

середніми квадратами. Зведемо їх усіх у таблицю, яка називається таблицею

дисперсійного аналізу (ANOVA-аналіз