Продолжение раздела теории оценивания Метод наименьших модулей (мнм).

-Закон распределения Лапласа.

Предположим, что относительно ошибок измерений представляемых случайной скалярной величиной h, кроме того что они случайны, аддитивны и обладают дисперсию . Результат не определён. Неопределенность может быть описана энтропией.

Ограничения:

1. Плотность распределения случайной величины

2. 

3. 

4. 

Что приводит к:

закон распределения случайной величины при условии когда

Что является законом Лапласа

Пьер Лаплас 1749-1827 гг.

У метода Лапласа нужно искать отклонение суммы модулей.

Алгоритм метода наименьших модулей.

Будем рассматривать линейную задачу оценивания.

Показатель метода наименьших модулей

В общем виде алгоритм МНМ выглядит следующим образом:

1. 

l:=0 (раньше использовал e)

2. Вычисляется l-ое приближение

Где

3. Решается задача оценивания по МНК, находитсчя очередное приближение

4. 

5. ( ) Если выполняется то завершение, если нет то на пункт 2!!!

6. Завершение задачи

Эффективность МНМ

Правила Рао-Крамера, чтобы сравнить оценки получаемые разными методами

дисперсия полученной оценки

точная нижняя граница для дисперсии оценки

Таблица ассимптотических эффективностей

Метод	Закон распределения
	Гаусса	Лапласа
МНК	1	0,5
МНМ	0,637	1

Крамером было доказано что если оценивается значения скалярного параметра a, предполагается закон распределения ошибок измерений p(h) а фактически реализуется p(h)*, то эффективность применяемого в предположении закона p(h) метода оценивания может быть определена по формуле:

МНМ более устойчив к нарушению условий опыта нежели МНМ. Это свойство называется робастностью алгоритма оценивания. МНМ обладает более тонким эффектом устранения аномальных значений.

Метод минимального риска (ммр) Байесовский подход к получению оценок (Томас Байес)

1763г.-«Попытка решения задачи в проблеме случая».

Получил формулы пересчёта вероятностей появления зависимых событий.

Если известны случайные события зависимые друг от друга и их случайная вероятность может быть записана:

Где Pусловная вероятность события A при условии выпадения события B.

Условная плотность вероятности связана с апостериорной вероятностью.

Универсальный критерий байесовского оценивания (Метод минимального риска):

Абрахам Вальд 1940 годы;

средний риск при получении каких-то параметров.

Функции штрафа бывают разные:

-линейная

-экспоненциальная

…

Лекция 7 22.11.2013

Виды функции потерь

В практике теории оценивания встречаются различные функции потерь.

1. Простая функция потерь , где

2. Прямоугольная функция потерь

3. Квадратичная функция потерь

4. Модульная функция потерь

…

Основными условиями, которые необходимо соблюдать при выборе функции потерь:

1. Существование и единственность решения в задаче оценивания (говорят что такая задача регулярная)

2. Удовлетворительные статистические свойства оценок (качества оценок)

3. Простота вычислительной процедуры и её устойчивость (задача должна быть корректной)