Ольков_С_Г_Аналитическая юриспруденция

0,001 (0,1%) – особо высоко значимый; 0,1 (10%) – средне значимый) 17. В верхней строке таблицы указывается число независимых переменных, а в левом крайнем столбце - количество наблюдений (N). Например, если мы работали с парной линейной регрессией, то выбираем критическое значение коэффициента детерминации в столбце, соответствующем одной переменной. Если у нас имелось 10 наблюдений, то критическое значение R2 составит 0,399 при α=0,05. Если имелось 3 независимых переменных (модель множественной регрессии) при 40 наблюдениях, то критическое значение R2 составит 0,193 при α=0,05. При любом числе переменных, когда число наблюдений превышает 60, критическое значение коэффициента детерминации вычисляется по специальной формуле и множителям, указанным в таблице критических значений:

б) Для коэффициента регрессии по формуле:

это эмпирическое (фактическое) значение t-критерия Стьюдента для коэффициента регрессии, b – коэффициент

регрессии, mb – случайная ошибка коэффициента регрессии:

критерий Стьюдента для коэффициента сдвига (свободного

17 Сигел Э.Ф. Практическая бизнес-статистика: Пер. с англ. – М.: Издательский дом «Вильямс», 2002. С. 632-641.

166

члена), который также будет сравниваться с табличным, а

– коэффициент сдвига, mа – случайная ошибка свободного

3)Находим табличное значение t-критерия Стьюдента, которое зависит от: 1) числа степеней свободы; 2) числа

определяемых по ним констант. В случае парной регрессии число степеней свободы df=N-2.

4) Сравниваются фактическое значения t-критерия Стьюдента, полученные по вышеприведенным формулам с табличными (теоретическими) значениями t-критерия Стьюдента. Если tтеор. < tфакт., то принимается статистическая гипотеза H1, утверждающая статистическую значимость соответствующего коэффициента, его значимое отличие от нуля. В противном случае, если tтаб. > tфакт., то принимается статистическая гипотеза H0, указывающая на незначимое отличие оценочного значения параметра от нуля.

Стьюдента при 7 степенях свободы (9-2) для уровня значимости α=0,01 (то есть вероятность ошибки составляет только 1%): tтабл.=3,49. Поскольку 3,49<29,26 примем статистическую гипотезу H1 о статистически значимом отличии коэффициента корреляции от нуля.

167

Для оценки значимости уравнения в целом используется нижеследующий алгоритм:

1). Находится эмпирическое значение F-критерия Фишера по

проверки статистической гипотезы H0: Dфакт = Dост . Чтобы доказать

альтернативную статистическую гипотезу H1 нужно, чтобы факторная дисперсия (объясненная регрессией) в несколько раз превышала остаточную дисперсию; Dфакт – факторная дисперсия (сумма квадратов отклонений зависимой переменной объясненная регрессией приведенная на число степеней свободы); Dост – остаточная дисперсия (остаточная сумма квадратов отклонений приведенная на число степеней свободы); r2 - коэффициент детерминации, характеризует долю дисперсии зависимой переменной (у) объясняемую регрессионным уравнением в общей дисперсии:

произведения значений х помноженных на значения у. Соответственно коэффициент корреляции r находится по формуле:

168

Важно отметить, что величина 1-r2 показывает долю факторной дисперсии объясненную независимыми переменными, не включенными в данную объяснительную модель.

2)Находится табличное (теоретическое) значение F-критерия Фишера.

3)Проводится сравнение табличного значения со значением эмпирическим. При этом, если эмпирическое значение больше теоретического, то уравнение статистически значимо.

F-критерий Фишера, как и другие критерии находится для различных доверительных уровней 0,1; 0,05; 0,01; 0,001. Величина

вероятной ошибки зависит от величины доверительного уровня и оценивается как 1-р, где р - уровень значимости18. Например, для р=0,05 вероятность ошибки составляет 5%. Очевидно, чем меньше ошибка, тем выше значение F-критерия Фишера.

Учитывая тот факт, что для нахождения F-критерия Фишера и понимания сути регрессионно-корреляционного анализа ключевое значение имеет разложение общей суммы квадратов отклонений зависимой переменной от среднего (TSS – total sum of squares) на

объясненную (ESS – explain sum of squares) и необъясненную

(RSS-residual sum of squares) составляющие покажем это:

i=1

квадратов не объясненная регрессией.

18 Также обозначают буквой α.

169

Поиск сумм квадратов отклонений имеет важное значение, поскольку обеспечивает: 1) получение коэффициента корреляции, например, коэффициент корреляции для нелинейной регрессии рассчитывается по общему принципу:

Dост – остаточная дисперсия, Dy – общая дисперсия управляемой переменной; 2) проверку значимости: а) уравнения в целом (находим F-критерий Фишера); б) параметров уравнения; в) коэффициента корреляции.

Общая сумма квадратов отклонений управляемой (объясняемой)

существу и определяет величину силы связи между переменными

i=1

связь между переменными (все точки легли на аппроксимирующую линию), поскольку общая сумма квадратов отклонений в данном случае равна сумме квадратов отклонений объясненных регрессий

равна нулю (общая сумма квадратов отклонений равна остаточной сумме квадратов отклонений), связь между переменными модели отсутствует, и вариация игрек обусловлена воздействием иных факторов, не включенных в данную модель.

Приведение сумм квадратов на соответствующее им число степеней свободы дает величины средних квадратов отклонений или конкретных дисперсий – общей, факторной и остаточной, а также приводит их к сопоставимому виду.

Dy = N1-1×åN ( yi - yi )2 общая дисперсия,

i=1

170

Число степеней свободы зависит от числа наблюдений N и числа определяемых параметров. Продемонстрируем это на примере - определим число степеней свободы для общей суммы квадратов отклонений. Пусть у нас имеется вариационный ряд переменной игрек: 10; 12; 17; 25; 31; 40. Среднее арифметическое составило 22,5. Находим отклонения 10-22,5=-12,5; 12-22,5=-10,5;

17-22,5=-5,5; 25-22,5=2,5; 31-22,5=8,5; 40-22,5=17,5. åN ( yi - yi ) =0.

i=1

Спрашивается, сколько независимых отклонений из N возможных существует в данном случае? Ответ: N-1 или для нашего примера 6- 1=5. То есть пять единиц выборки из шести варьируют свободно, а шестое может быть определено, если пять других значений известно. Для нахождения суммы квадратов отклонений (равна нулю) нам достаточно знать величины пяти отклонений, а шестое будет найдено автоматически. Пусть нам неизвестна величина четвертого отклонения (2,5), тогда, зная пять величин, находим: (- 12,5)+(-10,5)+(-5,5)+8,5+17,5=-2,5, а среднее равно нулю. Следовательно, недостающее число равно 2,5. Можно сказать и иначе, что в данном случае несвободно лишь одно отклонение из шести.

Для решения задачи парного регрессионно-корреляционного анализа в программе Excel достаточно ввести исходные данные.

171

Далее последовательно выбрать «Данные», «Анализ данных», «Регрессия», заполнить окно для икс и для игрек, указать, куда вывести итоги регрессионной статистики и получить ответ.

Таблица №. Итоги регрессионной статистики.

SS – сумма квадратов отклонений.

MS – средний квадрат отклонений (сумма квадратов отклонений приведенная на число степеней свободы - df).

Dфакт =6979,56 (df=1).

Dост =7,618 (df=7) (53,3275201/7=7,6182).

Dобщ =879 (df=8) (7032,88888/8=879,1)

172

Fтабл=5,59 при α=0,05 (то есть при вероятности ошибки 5%). Табличное значение находим так: 1) по горизонтальной оси берем значение 1, что соответствует числу степеней свободы в факторной дисперсии (определялось числом независимых переменных – 1 независимая переменная); 2) по вертикали берем 7, что соответствует числу степеней свободы в остаточной дисперсии.

Поскольку Fтабл< Fфакт , постольку уравнение в целом статистически значимо.

0

P-значение (p-value) – вероятность наступления гипотезы H ,

доверительная вероятность (один из совокупности диагностических

0

показателей) – результат проверки статистической гипотезы H ,

показывающий вероятность того, что данные соответствуют

нулевой гипотезе. Следовательно, чем меньше р-значение, тем

0

ниже вероятность гипотезы H и выше вероятность альтернативной

1

гипотезы H . Например, в нашем случае р-значение для сдвига=

0,00005 или 0,005%, а для коэффициента наклона 0,00000001 или

полученных коэффициентов. Сходный результат о значимости

параметров уравнения будет получен и при исследовании t-

статистики Стьюдента.

173

Найдем стандартные ошибки, а также t-статистики Стьюдента

для коэффициента регрессии и свободного члена:

Табличное значение t-статистики Стьюдента для 7 степеней свободы при α=0,05 (то есть при вероятности ошибки 5%) соответствует значению 2,3646. Как видно фактические значения, как для свободного члена, так и для коэффициента регрессии больше табличного, что подтверждает их статистическую значимость и статистическую гипотезу H1.

Доверительный интервал для коэффициента регрессии находим по формуле: b ±t ×mb . Соответственно верхняя граница доверительного интервала:

b +t ×mb =1,005749 + 2,3646 ×0,03322784 =1,0843 . Обратите внимание, что

вместо t подставляется значение t табличного (2,3646), а не фактическое значение t-статистики для данного параметра (параметра регрессии) (30,268).

Нижняя граница доверительного интервала:

b -t ×mb =1,005749 -2,3646 ×0,03322784 = 0,92717 .

Отсюда делаем вывод, что в генеральной совокупности реальный коэффициент наклона (β), вероятно, находится в пределах от 0,927 до 1,084.

174

Доверительный интервал для коэффициента сдвига находим по формуле: a ±t ×ma . Соответственно верхняя граница доверительного интервала:

a +t ×ma = 20,85047 + 2,3646 ×2,33741850 = 26,377 .

Нижняя граница доверительного интервала:

a -t ×ma = 20,85047 -2,3646 ×2,33741850 =15,323 .

Отсюда делаем вывод, что в генеральной совокупности реальный коэффициент сдвига (α), вероятно, находится в пределах от 15,323 до 26,377.

Нормированный R-квадрат (иногда обозначают R 2 или adjusted R2 ) приведенный в таблице «итоги регрессионной статистики» (в литературе называют также: скорректированный R2 ; исправленный R2 ) используется для уточнения коэффициента детерминации при включении в модель дополнительных независимых переменных (x). Это обусловлено тем, что добавление новой независимой переменной к уравнению регрессии повышает значение коэффициента детерминации R2. Нормированный R- квадрат сдерживает рост коэффициента детерминации при включении в модель дополнительных независимых переменных.

коэффициента детерминации R2 в сторону уменьшения.

Вообще говоря, R2, как и нормированный R-квадрат рассматриваются, как диагностические критерии качества регрессионной модели наряду с другими диагностическими показателями (проверка статистической значимости уравнения в целом, статистической значимости параметров и коэффициента

175