2 Порядок выполнения регрессионного анализа
На практике построение линейной регрессии сводится к оценке параметров уравнения
.
Классический подход к оцениванию параметров линейной регрессии основан на методе наименьших квадратов (МНК).
Вычисление коэффициентов уравнения линейной регрессии
Коэффициенты, определяемые на основе метода наименьших квадратов, вычисляются по формулам:
; 
,
где
; 
;
; 
.
Исследование уравнения линейной регрессии
Оценка тесноты связи
Линейный
коэффициент корреляции.
При линейной регрессии в качестве
показателя тесноты связи выступает
линейный коэффициент корреляции. Его
значение находится в границах
.
,
где
;
;
;
.
Коэффициент детерминации. Он характеризует долю дисперсии результативного признака y, объясняемую регрессией, в общей дисперсии результативного признака.
где 
,
,
.
Cредняя
ошибка аппроксимации.
Средняя ошибка аппроксимации – среднее
относительное отклонение расчетных
значений
от
фактических
.
Построенное
уравнение регрессии считается
удовлетворительным, если значение
не превышает 8–10 %.
Чем выше показатель детерминации или чем ниже средняя ошибка аппроксимации, тем лучше модель описывает исходные данные.
Оценка значимости уравнения линейной регрессии и существенности параметров линейной регрессии.
Вычисление оценок дисперсий парной линейной регрессии
Оценки для дисперсий определяются формулами:
—
общая
дисперсия результативного признака.
—
факторная
(объясненная) дисперсия результативного
признака.
остаточная
(необъясненная) дисперсия результативного
признака.
Здесь
— количество наблюдений,
= 1 для парной регрессии.
Оценка значимости уравнения регрессии в целом дается с помощью F- критерия Фишера
Выдвигается
нулевая гипотеза
.
Если
гипотеза
верна, то уравнение регрессии незначимо,
следовательно, между переменными Y и X
отсутствует линейная связь.
Уравнение парной регрессии значимо с уровнем значимости , если выполняется следующее неравенство:
где
–
значения квантиля уровня
F-распределения с числами степеней
свободы
.
Для вычисления квантиля можно использовать
таблицу или функцию Excel:
=
FРАСПОБР
.
Оценка существенности коэффициента линейной регрессии.
Для проверки существенности коэффициента регрессии и для расчета его доверительных интервалов применяется величина стандартной ошибки совместно с t – распределением Стьюдента при n-2 степенях свободы.
Фактическое значение t – критерия Стьюдента вычисляется по формуле:
.
Стандартная
ошибка коэффициента
регрессии определяется по формуле:
где
—
остаточная дисперсия на одну степень
свободы,
— дисперсия признака x.
Вычисленное
значение
сравнивается с табличным значением при
определенном уровне значимости
и числе степеней свободы
.
Здесь проверяется нулевая гипотеза
,
предполагающая несущественность
статистической связи между
и
,
но только учитывающая значение
,
а не соотношение между факторной и
остаточной дисперсиями в общем балансе
дисперсии результативного признака.
Но общий смысл гипотез один и тот же:
проверка наличия статистической связи
между
и
или её отсутствия.
Если
,
то гипотеза
должна быть отклонена, а статистическая
связь
и
считается установленной. В случае
нулевая гипотеза не может быть отклонена,
и влияние
на
признается несущественным.
Построение интервальных оценок для параметров регрессии, функции парной линейной регрессии
Интервальная
оценка (доверительный интервал) для
коэффициента
с надежностью (доверительной вероятностью)
равной
определяется выражением:
Аналогично строится интервальная оценка параметра . При этом используются следующая расчетная формула вычисления стандартной ошибки коэффициента :
Интервальная
оценка (доверительный интервал) для
вычисленного значения
при заданном значении
с надежностью (доверительной вероятностью)
равной
определяется выражением
Стандартная ошибка вычисленного значения определяется по формуле:
Величина
(зависит
от
)
и
,
вычисляемая с помощью функции Excel:
.