У задачах економетрії при побудові моделі вирішуються дві проблеми:

1. Складання рівнянь для опису взаємозв'язку і динаміки економічних явищ

(при цьому використовуються знання з теоретичної економіки, практичний економічний досвід і знання математики).

2. Визначення параметрів, включених у ці моделі

(використовуються знання з математики, теорії ймовірностей і математичної статистики).

Л інійна регресія

Припустимо, що залежність середнього значення фактора У від зміни фактора Х можна описати лінійною функцією

Т. т., лінія регресії – пряма лінія.

X

Y

У рівняння прямої ( y = a x + b ) входять два параметри: a і b.

Щоб знайти коефіцієнти регресії a і b застосуємо метод найменших квадратів (МНК).

У загальному випадку задача ставиться в такий спосіб.

Обрано формулу для рівняння регресії

y = f ( x, a, b, c )

Підібрати параметри регресії таким чином, щоб відхилення даних спостережень від лінії регресії були б мінімальними.

Для рішення цієї задачі є кілька методів. Самий популярний і найбільш поширений –

М ЕТОД НАЙМЕНШИХ КВАДРАТІВ

Щоб вимірити ступінь відхилення кривої від експериментальних точок (або навпаки, експериментальних точок від кривої, що ми будуємо) уведемо наступне визначення:

Відхиленням (або залишком) назвемо різницю між теоретичним значенням , підрахованим по передбачуваній формулі й експериментальному значенні :

Тут - це дані спостережень, відомі числа. Покажемо ці відхилення на графіку:

Усі вони повинні бути найменші. Цього можна домогтися, якщо взяти суму квадратів цих чисел і зажадати, щоб вона була мінімальна:

Σ Δ²_i → min.

Т. т., ця сума квадратів є функцією від коефіцієнтів регресії, і потрібно знайти мінімум функції декількох змінних. З курсу вищої математики відомо, що для цього потрібно взяти частки похідні і прирівняти їх нулеві:

Одержимо систему рівнянь для знаходження коефіцієнтів регресії. Скільки коефіцієнтів присутні у рівнянні регресії, стільки буде і рівнянь у цій системі.

Ця система називається НОРМАЛЬНОЮ СИСТЕМОЮ.

Якщо ми її вирішимо, то коефіцієнти регресії будуть знайдені.

В даному випадку треба знайти два параметра регресії a і b.

Нормальна система для визначення коефіцієнтів:

Обчислимо похідні і виконаємо перетворення отриманих рівнянь:

Розділимо два рівності на n:

Це система двох лінійних рівнянь із двома невідомими. Коефіцієнти цієї системи – це числові характеристики, підраховані для наявних вихідних даних, даних спостережень.

Знайдемо параметр b із другого рівняння:

Другий параметр a можна одержати за формулою

.

Коефіцієнт детермінації і його властивості

Перевірка адекватності нелінійної кореляційної моделі

Коефіцієнт детермінації

Коефіцієнт кореляції використовується для оцінки якості рівняння лінійної регресії. Характеризує ступінь щільності лінійної залежності між випадковими величинами x та y і змінюється в межах від –1 до 1. Якщо значення коефіцієнта |r| близьке до 1, то існує сильний зв’язок. Якщо r=0, зв’язок відсутній.

де

Для парної лінійної регресії коефіцієнт детермінації точно дорівнює квадратові коефіцієнта кореляції:

R ² = r²

Якщо ж рівняння нелінійне, то аналогічну роль грає коефіцієнт детермінації R².

У чисельнику розташовані теоретичні значення , що підраховуються по побудованій теоретичній формулі, по рівнянню регресії.

У знаменнику – дані спостережень y_i

В ідеальному випадку, коли всі дані спостережень лежать точно на побудованій лінії регресії, теоретичні значення і дані спостережень y_i просто збігаються. Чисельник при цьому буде дорівнює знаменникові і коефіцієнт детермінації R² дорівнює 1.

Чим більше розкид даних спостережень щодо побудованої лінії регресії, тим менше коефіцієнт детермінації R²

Властивості коефіцієнта детермінації:

1. 

2. Якщо R² близький до 1, це означає, що залежність між факторами близька до функціонального і розкид даних спостережень відносно побудованої лінії регресії дуже малий. Рівняння описує результати спостережень.

3. Якщо R² зменшується, це значить, що збільшується розкид точок на кореляційному полі щодо побудованої лінії регресії (або статистична залежність дуже слабка, або рівняння регресії підібране невірно).

Коефіцієнт детермінації R² характеризує ступінь тісноти будь-якої кореляційної залежності, (не обов'язково лінійної) т. т. показує, наскільки розкидані статистичні дані навколо побудованої лінії регресії.

Перевірка адекватності кореляційної моделі

Як для r, так і для R² необхідно проводити дослідження його статистичної значимості. При цьому тут використовують F-критерій Фішера:

Тут R² - коефіцієнт детермінації, n - обсяг вибірки; (n–2) – число ступенів свободи.

Технологія перевірки така:

• Підраховуємо значення критерію Фішера, що спостерігається

• По таблицях критичних точок розподілу Фішера знаходимо критичне значення критерію

• Порівнюючи, робимо висновок про адекватність (або неадекватності) лінійної кореляційної моделі. Чим більше F_р у порівнянні з F_кр , тим вище адекватність. Тому висновок повинний містити оцінку ступеня адекватності.

Нелінійна регресія. Метод лінеаризації

Якщо застосувати МНК безпосередньо до нелінійного рівняння регресії, то нормальна система, що ми одержимо, виявиться набагато складніше, це будуть нелінійні рівняння, що вирішити точно, узагалі говорячи, не можна.

Нехай кореляційне поле показує, що залежність повинна бути нелінійною. Потрібно спробувати зробити таку заміну змінних, щоб у нових змінних залежність стала лінійною. І тоді коефіцієнти кореляційної залежності будуть визначатися як і раніше із системи рівнянь.

№ з/п	регресія	заміна	лінійна регресія	параметри a, b
Парні квазілінійні регресії
1
2
3
4
5
6

№ з/п	регресія	заміна	лінійна регресія	параметри a, b
Регресія нелінійна за показником
7
Нелінійні за параметром парні регресії
8
9
10

Для квазілінійних регресій заміну і лінеаризацію можна зробити завжди. Для власне нелінійних регресій це зовсім не обов'язково.