оценок зависимой переменной игрек, Dy - дисперсия в ряду зависимой переменной игрек, Du - дисперсия в ряду остатков, K x, y - коэффициент ковариации между рядами икс и игрек.
Стандартная ошибка оценки (σ ) – приведена в таблице
y
регрессионной статистики под нормированным R-квадратом и в данном случае названа: «стандартная ошибка». Может интерпретироваться как стандартное отклонение оценки в
предположении, что ошибки предсказания распределяются по закону Гаусса-Лапласа (закон нормального распределения). Стандартное отклонение оценки демонстрирует среднюю величину ошибки, которая допускается при замене эмпирических значений (уi) их оценками ( yi ). Используя стандартную ошибку оценки, можно утверждать, что 68,27% разброса оценок вокруг линии наименьших квадратов не превышают величину одной стандартной ошибки, как в сторону уменьшения (34,13%), так и в сторону
увеличения (34,13%). Соответственно за |
пределы двух |
σy |
не |
выходит 95,45% оценок, а за пределы трех |
|
|
|
|
σy |
выходит не более |
|
|
|
|
|
0,27% оценок. То есть, чем меньше величина стандартной ошибки оценки, тем точнее оценка и прогноз, сделанный на её основе. Расчет стандартной ошибки оценки выполняется по формуле:
|
2 |
|
N -1 |
|
, где |
σy |
- стандартная ошибка оценки |
σy =σy × |
(1- R |
) × |
|
|
N - 2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(стандартное отклонение оценки или оценочного уравнения), σy – среднее квадратическое отклонение (стандартное отклонение) по зависимой переменной полученное по фактическим (эмпирическим, первичным или исходным) значениям игрек, рассчитывается по формуле: σу =
Dy . В случае для нашего примера имеем:
|
|
2 |
|
N -1 |
|
9 -1 |
|
=2,76. |
σy =σy × |
|
(1- R |
) × |
|
= 29,65 × |
(1-0,992417 ) × |
|
N - 2 |
9 - 2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
Свойства линейного коэффициента корреляции Пирсона: |
1) |
r Î[-1;1]. |
|
|
|
|
2) |
|
r |
|
=1 |
- связь носит функциональный характер. |
|
|
|
|
3) r = 0 - линейная связь между переменными отсутствует. Отсюда следует две гипотезы: 1) связь между переменными отсутствует; 2) связь между переменными носит нелинейный характер.
Частным случаем вероятностной связи считается связь корреляционная. Возможную величину корреляционной связи удобно представить в виде непрерывного отрезка от минус единицы до плюс единицы: [-1; 1]. Минимальное значение корреляционной связи равно нулю, что указывает на полное отсутствие связи между изучаемыми переменными. При движении от нуля к единице возрастает сила положительной (прямой) связи между переменными, а при движении от нуля к минус единице – сила отрицательной (обратной) связи, что удобно представить графически:
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
0,8 |
|
|
|
|
Коэффициент корреляции |
|
|
|
|
0,6 |
|
|
|
|
|
|
|
|
0,4 |
|
|
|
|
|
|
|
|
0,2 |
|
|
|
|
|
|
|
|
0 |
|
|
|
|
-1 |
-0,8 |
-0,6 |
-0,4 |
-0,2-0,2 0 |
0,2 |
0,4 |
0,6 |
0,8 |
|
|
|
|
-0,4 |
|
|
|
|
|
|
|
|
-0,6 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
-0,8 |
|
|
|
|
|
|
|
|
|
-1 |
|
|
|
|
|
|
|
|
|
Сила связ |
|
|
|
|
Рис. 5. Оценка силы корреляционной связи |
|
В учебниках по теории статистики часто приводят таблицы количественных критериев оценки тесноты связи, слегка уточнив которые, можно построить нижеследующую таблицу:
Коэффициент корреляции |
Качественная оценка |
(+/-) (по оси ординат) |
силы связи |
|
|
|
0 |
Связь отсутствует |
(0; 0,3) (0; -0,3) |
Практически отсутствует |
[0,3; 0,5) [-0,3; -0,5) |
Слабая |
[0,5; 0,7) [-0,5; -0,7) |
Умеренная |
[0,7; 1) [-0,7; -1) |
Сильная |
1 |
-1 |
Функциональная |
Вместе с тем, данной «оценочной политики» следует придерживаться весьма осторожно. Иногда и очень низкие, близкие к нулю коэффициенты корреляции следует принимать во внимание и не отказываться от соответствующих связей только на том основании, что коэффициент корреляции между переменными низок. Например, К. Доугерти в своей работе «Введение в эконометрику» изучал связь между весом новорожденного ребенка (в граммах) и количеством сигарет, выкуриваемых в день будущей матерью во время беременности. В итоге им было получено уравнение регрессии с R2=0,012, и при этом Доугерти признал, что связь является значимой. Низкий коэффициент детерминации (коэффициент корреляции, возведенный в квадрат) не смутил его: «Наибольшая часть дисперсии веса новорожденного обусловлена генетической наследственностью ребенка и продолжительностью беременности; таким образом, коэффициент детерминации в регрессиях веса новорожденного младенца всегда является очень низким. Те, кто не имеет достаточного опыта в области регрессионного анализа, стремятся задать желаемый уровень R2 и считают, что если R2 высок, то уравнение является точным, а если низок, то данная регрессия оценивалась впустую. Оба вывода неправильны. В рассматриваемом случае курение во время беременности объясняет только очень малую долю дисперсии, но, тем не менее, является значимым фактором. Если предположить, что воздействие всех остальных факторов постоянно, то курение 10 сигарет в день во время беременности снижает вес новорожденного в среднем приблизительно на 80 граммов. Хотя само по себе это, видимо, не столь серьезно, тот факт, что курение оказывает неблагоприятное воздействие на вес новорожденного, вероятно,
178
означает, что оно также оказывает неблагоприятное воздействие на умственное развитие плода, и это имеет большое значение»19. Сам по себе высокий коэффициент корреляции еще не гарантирует, что связь между изучаемыми переменными сильна, а низкий может вовсе на свидетельствовать об отсутствии связи между переменными. Важна правильная спецификация модели, глубокое понимание качественного смысла переменных, внутренней сути изучаемых явлений и факторов, воздействующих на них.
Подбор параметров нелинейных юридических функций (нелинейная регрессия)
Очевидно, что в практической юриспруденции линейные соотношения встречаются гораздо реже, нежели нелинейные, да и то линейными функциями мы обычно лишь аппроксимируем какието нелинейные закономерности. Так, изменение криминологического процесса при воздействии на него какого-либо управляющего процесса, в частности экономического, политического, демографического и т.д., как правило, не происходит равномерно, а больше или меньше величины единичного изменения управляющего процесса. Следовательно, в системе изучаемых величин присутствует ускорение, свидетельствующее о нелинейном характере зависимости. В этой связи возникает потребность построения нелинейных моделей, описывающих характер изучаемой закономерности (если в качестве независимой переменной берется что-либо кроме времени) или тенденции (если в качестве независимой переменной берется время).
Ранее уже обращалось внимание на тот факт, что если линейный коэффициент корреляции Пирсона равняется нулю (r = 0 ), то это еще не означает, будто связь между переменными отсутствует. Вполне может случиться и так, что между
19 Доугерти К. Введение в эконометрику: пер с англ. / К. Доугерти. – М.: ИНФРА-М, 1999. – С. 264.
переменными существует нелинейная связь, которую, естественно, не улавливает линейный коэффициент корреляции.
Нелинейные регрессионные модели делятся на две группы:
1)Модели нелинейные по управляющим (объясняющим) переменным (модели первого класса), но линейные по оцениваемым параметрам. В частности полиномы различных степеней (парабола второго, третьего (кубическая функция), четвертого, пятого и т.д. порядка); равносторонняя гипербола: у = a + bx + u , где u – случайный член.
2)Модели нелинейные по оцениваемым параметрам а, b, c и т.д. (модели второго класса). Например, степенная, показательная, экспоненциальная функции. Делятся также на две группы: а) нелинейные модели, сводимые к линейным; б) нелинейные модели, несводимые к линейным.
Параметры моделей первого класса определяются с помощью обычного МНК (метода наименьших квадратов), поскольку легко приводятся к линейному виду. Например, если в кубической функции заменить х2 на x2, а х3 на x3, то получится модель множественной регрессии, трехфакторное линейное уравнение вида: y = a + b × x1 + c × x2 + d × x3 . Аналогично раскладывается полином любого порядка, например, полином 7 степени даст нам семи факторную линейную модель. Справедливости ради отметим, что полиномы высоких степеней (выше третьей) обычно неэффективны и не применяются. Геометрически они дают много изгибов кривой, что искажает характер поведения зависимой переменной (у). Даже если полином имеет хороший коэффициент аппроксимации, то прогноз по полиноминальной функции чаще всего будет ошибочным, например, полиноминальная аппроксимирующая кривая будет уходить резко вниз или вверх, в
то время как следующая эмпирическая точка будет расположена далеко в противоположном направлении от прогнозной.
Поскольку модель парной линейной регрессии, по существу, являет собой полином первой степени, постольку нахождение её параметров а (сдвиг) и b (коэффициент регрессии) связано с решением двух линейных уравнений:
ì |
|
N |
N |
ï N × a |
+ b× å x |
= å y |
ï |
|
i=1 |
i=1 |
í |
N |
N |
N |
ïï |
a× å |
x + b× å |
x2 = å y× x |
î |
i= 1 |
i=1 |
i= 1 |
Решив систему нормальных уравнений любым удобным |
способом |
(методом подстановки, методом алгебраического |
сложения, методом определителей или методом матричной алгебры), найдем сдвиг и коэффициент регрессии для парной линейной регрессии.
Для нахождения линейных параметров параболы второго порядка придется решить систему трех нормальных уравнений:
ì |
|
N |
|
|
N |
|
N |
|
ï N × a + b× å x + c× å x2 = å y |
ï |
|
i=1 |
|
i=1 |
i=1 |
ï |
N |
|
N |
|
N |
|
|
N |
ía× å x + b× å x2 |
+ c× å x3 |
= å y × x |
ï |
i=1 |
|
i=1 |
|
i=1 |
|
|
i=1 |
ï |
N |
|
N |
|
N |
|
|
N |
ïa× å x2 |
+ b |
× å x3 |
+ c× å x4 |
= å y × x2 |
î |
i=1 |
|
i=1 |
|
i=1 |
|
|
i=1 |
Для того чтобы найти параметры кубической функции, решаем систему из 4-х нормальных уравнений. Для полинома
четвертой степени – систему из пяти уравнений и так далее. 181
Принцип построения нормальных уравнений для каждого последующего полиноминального уровня очевиден (вытекает из числа параметров полиноминального уравнения): 1) увеличивается число слагаемых в левой части уравнения (на одно больше по сравнению с предыдущим); 2) увеличивается число уравнений (на одно больше по сравнению с предыдущим); 3) возрастает степень независимой переменной в правой части последнего уравнения.
Поскольку кубическая функция имеет четыре параметра: a, b, c и d и выглядит следующим образом:
y = a + b × x + c × x2 + d × x3 , постольку система нормальных уравнений будет такой:
ì |
N × a + b× å x + c × å x2 |
+ d × å x3 = å y |
|
ï |
|
å |
x + b× |
å |
x2 + c × |
å |
x3 + d × |
å |
x4 = |
å |
y × x |
í |
|
ïa × |
|
|
|
|
|
ïa × å x2 + b× å x3 + c × å x4 + d × å x5 |
= å y × x2 |
îïa × å x3 + b× å x4 + c × å x5 + d × å x6 |
= å y × x3 |
Следует обратить внимание на то, что N присутствует только в первом уравнении, далее во втором уравнении параметр а умножается на сумму х (во втором уравнении без степени, в третьем уравнении во второй степени, в четвертом уравнении в третьей степени и т.д.); параметр b умножается на сумму х (в первом уравнении без степени, во втором уравнении во второй степени, в третьем уравнении в третьей степени, в четвертом
182
уравнении в четвертой степени и т.д.), подобные действия совершаются и с другими параметрами, что наглядно видно из системы нормальных уравнений для кубической функции.
Очевидно, что решение системы, состоящей из трех и более линейных уравнений, трудоемкий процесс. В этой связи удобно пользоваться методами матричной алгебры, и использовать подходящее программное обеспечение.
Система линейных уравнений с m числом неизвестных обычно записывается:
ìa1 1x1 + a12x2 + ...+ a1m xm = b1 |
|
|
ï |
|
|
a2 2x2 + ...+ |
a2m xm = b2 |
|
|
ïa21x1 + |
|
|
í |
|
|
|
|
|
|
|
|
|
|
ï.............. |
|
|
|
|
|
|
ïa |
|
x + a |
x + ...+ a |
x |
= b |
|
|
î |
k1 1 |
k |
2 2 |
|
|
k m m |
k |
|
|
Разложим её на матрицы: |
|
é |
a1 1a1 |
.2 a.1.mù |
é |
|
x1 ù |
|
é |
b1 ù |
|
ê |
a2 a12 |
|
ú |
ê |
|
ú |
|
ê |
ú |
|
ê |
.2 .2. maú |
ê |
|
x2 ú |
|
ê |
b2 ú |
A= |
ê |
|
|
ú , X = |
ê |
|
ú |
, B= |
ê |
ú . |
|
ê |
. . . ....... . |
ê |
. . . |
|
ê |
. . . |
|
ak a1k |
|
ú |
|
ú |
|
ú |
|
ë |
.2 .a.k .mû |
ë |
|
xmû |
|
ë |
bmû |
Отсюда система уравнений в матричном виде:
A × X = B , где A – матрица коэффициентов при х; Х – векторстолбец переменной икс; A – вектор-столбец свободных членов.
Решение системы уравнений выполняется по следующему алгоритму:
1. Левую и правую часть матричного уравнения умножаем на обратную матрицу коэффициентов при независимой переменной, то есть на матрицу A−1 и получаем:
A−1 × A× X = A−1 × B
2. Принимая во внимание, что A−1 × A = I , а I × X = X получим X = A−1 × B , где I – единичная матрица, по главной диагонали которой расположены единицы, по остальным позициям – нули.
Пусть в нашем распоряжении имеется таблица исходных данных, где х – коэффициент преступности в РФ за период с 1997 по 2006 годы, а у – коэффициент преступности в Республике Татарстан за тот же период.
Таблица к задаче.
№/№ |
х |
у |
y∙x |
x2 |
1 |
1629 |
1308 |
2130732 |
2653641 |
2 |
1759 |
1402 |
2466118 |
3094081 |
3 |
2026 |
1909 |
3867634 |
4104676 |
4 |
2028 |
1860 |
3772080 |
4112784 |
5 |
2039 |
1891 |
3855749 |
4157521 |
6 |
1760 |
1533 |
2698080 |
3097600 |
7 |
1926 |
1559 |
3002634 |
3709476 |
8 |
2007 |
1683 |
3377781 |
4028049 |
9 |
2478 |
2440 |
6046320 |
6140484 |
10 |
2687 |
2780 |
7469860 |
7219969 |
∑ |
20339 |
18365 |
38686988 |
42318281 |
(Итого или |
|
|
|
|
сумма) |
|
|
|
|
Построим систему нормальных уравнений:
ì1 0× a+ b× 2 0 3=3198 3 6 5 |
í |
a× 2 0 3+3b9× 4 2 3 1 8= 32 8 61 8 |
î |
Построим матрицы A и B:
A= |
é |
1 |
0 2 |
0 |
ù |
В= |
é |
1 |
8 |
ù |
ê |
2 |
04 32 |
ú |
ê |
3 |
8 |
ú |
|
ë |
û3 |
|
ë |
û |
Найдем матрицу X = A−1 × B , содержащую искомые параметры a
и b.
В широко распространенном программном пакете Excel решение выполняется по следующему алгоритму:
1)в соответствующих ячейках таблицы заполняются значения матриц А и В. Пусть в случае нашего примера для матрицы А это будут ячейки (A2:В3), а для матрицы В ячейки (D2:D3).
2)выделяется столбец Х (в случае нашего примера, состоящий из двух ячеек). Пусть это будут ячейки (В5:В6).
3)в первой ячейке столбца Х ставится знак равенства, а далее вводится мегаформула: {=МУМНОЖ(МОБР(A2:В3);(D2:D3))}, где (А2:В3) – матрица А, (D2:D3) – матрица В. По сути, после того как набирается «МУ» появляется окно с формулами, из которых выбираем МУМНОЖ. Тоже касается формулы МОБР. Значения матриц в формулу можно не вводить, а просто выделить их