- •1. Состоятельность оценки –
- •2. Несмещенность оценки
- •3. Эффективность оценки
- •1. Случайность остатков
- •2.Гомоскедастичность дисперсии остатков
- •3.Проверка нормальности частотного распределения остатков
- •Применение гипотеза Хилла для оценки минимально необходимого объема выборки. Клюшин Дмитрий Анатольевич, Доказательная медицина. Применение статистических методов.
- •4 Независимость распределения остатков
- •II. Cтруктурно-параметрический синтез регрессионных моделей
2.Гомоскедастичность дисперсии остатков
Свойство проверяются путем анализа графиков дисперсии остатков вдоль оси аргументов (или по оси времени, если это процесс)
Гетероскедастичность
– непостоянство дисперсии можно
демонстрировать как в координатах
(у-х) так и
в координатах
(
-
)
Типичные варианты гетероскедастичности
-
Возрастание
по параметру х
А) в координатах (у-х)
Отклонения от модели растут по мере увеличения x.
Б
)
В координатах
(
-
)
получаем вид
- имеем большую дисперсию ост.
для больших значений
-
Дисперсия
остатков
по
переменной х достигает максимальной
величины при средних значениях,
А) в координатах (у-х)
Б) В
координатах
(
-
)
-
Максимальная
дисперсия остатков при малых значениях
x
и далее однородна по мере увеличения x.
А) в координатах (у-х)
Б) В координатах ( - )
Л
3.Проверка нормальности частотного распределения остатков
Чаще всего проверка нормальности распределения производится с применением критерия согласия Пирсона хи-квадрат
ИТАК
Имеем
выборку из данных объёма n
, полученных
в результате фиксации наших остатков
после моделировании по МНК.
Как вы помните критерием согласия называют критерий по которому проверяют соответствие (согласие) тестируемого распределения (нашей выборки остатков) гипотезе. В нашем случае гипотеза – нормальное распределение.
Функция
распределения
Для того что-бы определить какому именно Нормальному Распределению необходимо проверить соответствие, ----- то в предположении, что наше распределение нормально – вычисляют выборочные его параметры
–оценку МО –
среднее
и
оценку
дисперсии
:
Имеется несколько критериев согласия. Наиболее часто используют критерий согласия К.Пирсона («хи-квадрат»).
Как
это делаем
По выборке остатков
рассчитывают эмпирическое
распределение: это эмпирические
частоты.
в интервалах
с
серединами в точках
Рассчитывают выборочные и :
В предположении нормального
распределения генеральной совокупности
определяют теоретические частоты
и т.о. имеется теор
распр-е
Н
еобходимо
при уровне
значимости
проверить нулевую гипотезу:
генеральная совокупность из которой
взята выборка распределена нормально.
То есть отличия этих двух кривых
несущественны на уровне значимости
Для критерия Пирсона формируют
с
татистику
(А)
для которой доказано что
она
распределена по закону СВ
.
Естественно, что чем меньше различаются эмпирические и теоретические частоты, тем меньше величина критерия (А) , и, следовательно, он характеризует близость эмпирического и теоретического распределений.
Важно!
Заметим, что до сих пор нигде ( в формуле) не фигурировал размер выборки n. Это значит что по умолчанию для корректности выводов о проверяемой гимотезе n должно быть соизмеримо с генеральной совокупностью (помним это, когда проверяем какие-то гипотезы на 20-ти или 30-ти пациентах – выводы, как правило, некорректны !!!!).
Действительно, доказано, что при n→∞ закон распределения случайной величины (А) стремится к закону распределения с k степенями свободы независимо от того, какому закону распределения подчинена сама генеральная совокупность х. Поэтому сам критерий называют критерием согласия . А n для корректности надо →∞
Число степеней свободы определяется из равенства v=k-1-m
, где k – число групп (частичных интервалов) выборки, m – число параметров предполагаемого распределения.
В
частности, если предполагаемое
распределение – нормальное, то оценивают
два параметра (матожидание
и
среднее
квадратическое отклонение
),
поэтому число степеней свободы.
v=k-3
Мы помним, что чем меньше расчетная величина критерия (А) , тем ближе эмпирическое и теоретические распределения.
Зададимся некоторой доверительной вероятностью p=1-α (вероятностью отличия - допустим 0.95) с которой мы будем оценивать нулевую гипотезу Н0: «отличия эмпирического и теоретического распределений являются случайными».
Тогда
=0.05
, напомним,
называем уровнем
значимости
такого отличия.
Понятно что если мы как-то определили
некоторое критическое значение
которое
соответствует
принятому
уровню. значимости
и
количеству
степ свободы
то все расчетные
будут подтверждать нашу гипотезу Н0,
то есть
критическая
область не принятия Н0 остается
справа
.
Ну а для определения критических значений разработаны специальные таблицы
Т.о. сформулируем правило проверки нулевой гипотезы:
Для
того, чтобы при заданном
уровне значимости
проверить
нулевую гипотезу H0:
«генеральная
совокупность распределена нормально»,
необходимо расчитать
наблюдаемые
(эмпирические) частоты
, определить
теоретические
частоты
,
затем рассчитать значение критерия
и по таблице
критических точек
распределения
,
по заданному уровню значимости α
и числу степеней свободы v=k-1-m
найти критическую точку
.
Если – то нулевую гипотезу принимаем. В противном случае нулевую гипотезу отвергают, считая, что генеральная совокупность не распределена по нормальному закону.
Пример
При уровне значимости 0,05 проверить гипотезу о нормальном распределении генеральной совокупности, если известны эмпирические и теоретические частоты:
Эмпирические частоты: 6 13 38 74 106 85 30 14
Теоретические частоты: 3 14 42 82 99 76 37 13
Рассчитаем
=7,19,
число степеней свободы определим по
соотношению k= 8–3=5 (в нашем случае s=8).
Используя рассчитанные значения
и
k, по таблице критических точек
распределения хи-квадрат при уровне
значимости
находим
.
Таблица критических точек распределения Пирсона.
Так
как
,
нулевая гипотез применяется. Данные
наблюдений согласуются с гипотезой о
нормальном распределении генеральной
совокупности.
Напомним еще раз упоминавшуюся выше проблему;
Так как в механизме оценки степени отличия распределений по не участвует в явном виде объем выборки n то формально объём выборки должен быть достаточно велик (то-бы распред А) приближалось к ) Кроме того каждая группа должна содержать не менее 5–8 точек, малочисленные группы объединяют в одну, суммируя частоты и тд
В инете вы найдете море критического материала по поводу применения теории стат гипотез «неграмотными» специалистами на объемах выборки 40,50,70 и даже более пациентов.
Однако к счастью для этих исследователей (просто часто они не в курсе) существует результат, позволяющий резко ограничить объем необходимой выборки для получения достоверного ответа о нормальности проверяемого распределения
Рассмотрим на практике основной подход к определению нормальности распределения: правило 3 сигма.
Если внешне ваше распределение не сильно отличается от нормального то утвердится в этом дает возможность правило 3 сигма.
Е
сли
просчитать для нормального
Закона
вероятность попадання СВ за
пределы отклонения от МО на 3σ,
то
окажется что оно практически =0, точнее
при
нормальном распределении
вероятность
попадания очередного фактического
значения в доверительный интервал 3σ
составят 99,7%.
Поэтому, если оцениваемое распределение «на глаз не сильно отличается от нормального» то на практике вместо применения теории Стат проверки гипотез применяют правило 3σ в обратную сторону
Если в интервал 3σ попадает не менее 99,7% реализаций то рассматриваемое распределение нормально.
Правило «двух сигм».
С
вероятностью близкой к единице (0,9544)
можно утверждать, что значения нормально
распределенной СВ лежат в интервале
то есть, если проведено 10 000 испытаний, то результаты 9544 испытаний должны принадлежат указанному промежутку .
Вот теперь поставим вопрос - а какое минимальное количество испытаний достаточно провести для того чтобы убедится в нормальности распределения исходя из правила «двух сигм» (альфа = 0.95 )
