Интерпретация
1. Коэффициент детерминации для модели с константой принимает значения от 0 до 1. Чем ближе значение коэффициента к 1, тем сильнее зависимость. При оценке регрессионных моделей это интерпретируется как соответствие модели данным. Для приемлемых моделей предполагается, что коэффициент детерминации должен быть хотя бы не меньше 50% (в этом случае коэффициент множественной корреляции превышает по модулю 70%). Модели с коэффициентом детерминации выше 80% можно признать достаточно хорошими (коэффициент корреляции превышает 90%). Значение коэффициента детерминации 1 означает функциональную зависимость между переменными.
2. При отсутствии
статистической связи между объясняемой
переменной и факторами, статистика
для
линейной
регрессии
имеет асимптотическое распределение
,
где
—
количество факторов модели (см. тест
множителей Лагранжа).
В случае линейной регрессии с нормально
распределёнными случайными ошибками
статистика
имеет
точное (для выборок любого объёма)
распределение
Фишера
(см.
F-тест).
Информация о распределении этих величин
позволяет проверить статистическую
значимость регрессионной модели исходя
из значения коэффициента детерминации.
Фактически в этих тестах проверяется
гипотеза о равенстве истинного
коэффициента детерминации нулю.
Недостаток и альтернативные показатели
Основная проблема применения (выборочного) заключается в том, что его значение увеличивается (не уменьшается) от добавления в модель новых переменных, даже если эти переменные никакого отношения к объясняемой переменной не имеют. Поэтому сравнение моделей с разным количеством факторов с помощью коэффициента детерминации, вообще говоря, некорректно. Для этих целей можно использовать альтернативные показатели.
Скорректированный (adjusted)
Для того, чтобы была возможность сравнивать модели с разным числом факторов так, чтобы число регрессоров (факторов) не влияло на статистику обычно используется скорректированный коэффициент детерминации, в котором используются несмещённые оценки дисперсий:
который даёт штраф за дополнительно включённые факторы, где n — количество наблюдений, а k — количество параметров.
Данный показатель всегда меньше единицы, но теоретически может быть и меньше нуля (только при очень маленьком значении обычного коэффициента детерминации и большом количестве факторов). Поэтому теряется интерпретация показателя как "доли". Тем не менее, применение показателя в сравнении вполне обоснованно.
Для моделей с
одинаковой зависимой переменной и
одинаковым объемом выборки сравнение
моделей с помощью скорректированного
коэффициента детерминации эквивалентно
их сравнению с помощью остаточной
дисперсии
или
стандартной ошибки модели
.
Разница только в том, что последние
критерии чем меньше, тем лучше.
Информационные критерии
AIC
— информационный
критерий Акаике
— применяется исключительно для
сравнения моделей. Чем меньше значение
тем лучше. Часто используется для
сравнения моделей временных
рядов
с разным количеством лагов.
,
где k—
количество параметров модели.
BIC
или SC
— байесовский информационный критерий
Шварца — используется и интерпретируется
аналогично AIC.
.
Даёт больший штраф за включение лишних
лагов в модель, чем AIC.