2. Размеренность коэффициентов регрессии

Коэффициенты регрессии имеют ту же размерность, что и измеряемая величина, а их знак определяется знаком коэффициентов корреляции.

Экзаменационный билет № 10

1.{Q}Коэффициент регрессии.

РЕГРЕССИИ КОЭФФИЦИЕНТ

коэффициент при независимой переменной в уравнении регрессии. Так, напр., в уравнении линейной регрессии , связывающей случайные величины Yи X, Р. к. b₀ и b₁ равны:

где r - корреляции коэффициент X и Y, ,

. Вычисление оценок Р. к. (в ы б о р о ч н ы х Р. к.) - основная задача регрессионного анализа

3. Линеаризация нелинейных уравнений регрессии

Иногда одномерные зависимости лучше всего описываются функциями, нелинейными по параметрам, подлежащим оценке. В подобных ситуациях представляется целесообразным использование некоторых типовых функций одной переменной, нелинейных по параметрам, но поддающихся непосредственной линеаризации. Общая идея моделирования при этом такова.

Если вид зависимости f(x), заданной совокупностью n пар значений (y_i, x_i) не известен заранее, желательно провести регрессию для ряда моделей f(x), в частности, используя следующие двухпараметрические модели f(x,b₁,b₂)

Алгоритм нахождения параметров моделей основан на преобразованиях, сводящих нелинейную регрессию к линейной, формировании по экспериментальным данным вектора матрицы. нахождении оценок. и получении оценок b₁ и b₂.

Экзаменационный билет № 11

1.Оценка дисперсии и параметров уравнения регрессии. Оценка дисперсии

На первый взгляд наиболее естественной оценкой представляется

(3)

где вычисляется по формуле (2). Проверим, является ли оценка несмещенной. Формула (3) может быть записана следующим образом [1]:

.

Подставим в эту формулу выражение (2):

Найдем математическое ожидание оценки дисперсии:

(4)

Так как дисперсия случайной величины не зависит от того, какое математическое ожидание у случайной величины, примем математическое ожидание равным 0, т.е. m = 0.

Тогда

	(5)
при .	(6)

Последнее равенство следует из того, что эксперименты независимы, а математическое ожидание случайной величины в каждом эксперименте равно 0. Подставляя (5) и (6) в (4), получим:

Отсюда следует, что оценка не является несмещенной - ее математическое ожидание равно не D, а несколько меньше. Пользуясь оценкой вместо дисперсии D, мы получим систематическую ошибку. Чтобы ликвидировать это смещение, достаточно ввести поправку, умножив величину на (N-1)/N. Такую исправленную статистическую дисперсию мы и выберем в качестве оценки:

Таким образом, если в результате N экспериментов мы располагаем набором N значений случайной величины

x₁, x₂, …, x_N,

то для оценок математического ожидания и дисперсии необходимо воспользоваться следующими формулами:

Оценка параметров линейной регрессии

Установим некоторые свойства параметров (9.2.8) и (9.2.9) , полученных методом наименьших квадратов:

A) линейная зависимость и от наблюдаемых значений показателя Y; B) и являются несмещенными оценками истинных параметров и (в соотношении ); C) и являются наилучшими линейными несмещенными оценками и .

Эти свойства показывают состоятельность найденных оценок и не требуют дополнительных комментариев. Заметим только, что параметры и можно рассматривать как случайные величины, считая наблюдаемые значения X_i ,i=1,...,n , фиксированными, т.е. одинаковыми во всех выборках. В этом случае величина Y будет меняться от выборки к выборке в силу различий в значениях переменной u (см. (9.2.3) ), которые подчиняются вероятностному распределению. Применяя формулы (9.2.8) и (9.2.9) для и к каждому множеству выборочных наблюдений u, образуем последовательность оценок . Используя распределения величин и , можно вычислить средние значения , и дисперсии. Напомним, что и являются несмещенными оценками параметров и , если , .

Относительно случайной величины u в (9.2.3) будем предполагать, что

a) среднее значение случайной величины u равно нулю; b) дисперсия случайной величины u постоянна и не зависит от X; c) ковариация различных значений u равна нулю.