Раздел 2. Измерения при проведении научного эксперимента и погрешности результатов.

Основным способом изучения окружающего нас мира является наблюдение.

Наблюдения подразделяются на качественные и количественные

Количественные измерения , в свою очередь, делятся на измерения и подсчет.

Принято различать прямые и косвенные измерения. В первом случае измеряется сама измеряемая величина ,во втором случае совокупность измеряемых величин

.

Каждое измерение двойственно по своей природе. С одной стороны , это прямое измерение физической величины, с другой косвенное измерение величин, функционально связанных с измеряемой величиной. В современных сложных приборных устройствах измерение, понимаемое как сравнение величины с эталоном присутствует лишь на низшем уровне иерархической структура современного прибора.( рис 1).

Все последующие величины, включая выходную величину (отсчет) прибора, получаются путем вычислений по определенному алгоритму, реализованному либо с использованием специальной схемы ( детектор, сглаживающий фильтр), либо при помощи вычислителя. Например, дальность от радиолокатора получается путем пересчета интервала времени между посылкой зондирующего импульса и приходом сигнала. Аналогично обстоит дело в измерении углов, и тем более в определении скорости и координат объекта.

Всякое счетно- решающее устройство, в которых физические величины вырабатываются по результатам косвенных измерений можно рассматривать как часть прибора.

Любому измерению, как прямому, так и косвенному присущи ошибки. По происхождению различают следующие виды ошибок: личные, инструментальные, внешние, методические, ошибки модели, ошибки классификации.

Личными называются ошибки, свойственные конкретному наблюдателю.

Инструментальными называются ошибки, возникающие из-за того, что ни один прибор невозможно изготовить абсолютно правильно.

Внешние ошибки- это ошибки, связанные с влиянием внешней среды.

Методические ошибки возникают из-за применения того или иного метода обработки измерений.

Ошибки модели это ошибки, связанные с заменой реальных предметов законов некоторыми абстракциями. Как пример можно рассмотреть металлический шарик, принимаемый за идеальную сферу. Если некоторую совокупность экспериментальных данных аппроксимируют кривой заданного вида, то различие между формульной зависимостью и истинным законом изменения переменных также относят к ошибкам модели

Ошибки классификации

По своему характеру ошибки могут быть отнесены или к систематическим или случайным, однако такое разделение весьма условно.

Выделяют также грубые ошибки, как частный случай случайной ошибки, которые существенно превышают паспортные данные прибора.

Характер образования суммарной ошибки может быть проиллюстрирован следующей схемой

В отношении ошибок, как правило, делаются предположения о характере их статистического распределения. Если такого предположения нет, то параметры законов распределения определяются в рамках общей задачи, либо используется вычислительные методы обработки измерений, например метод наименьших квадратов( МНК).

С учетом ошибок измерений связь между параметрами может быть описана в виде

,

,

………………………

,

которую далее будем называть фундаментальной системой уравнений

Обработка результатов измерений

Обработать измерения- это значит извлечь сведения об интересующем нас предмете или явлении.

Иногда обработка производится с целью проверки той или иной статистической гипотезы в отношении изучаемого явления. Однако, чаще всего целью обработки является определение значений ряда физических параметров, характеризующий объект наблюдения. Иногда целью обработки является определение параметров измерительной аппаратуры, например систематических ошибок измерений.

При обработке косвенных измерений обычно имеются два этапа: 1)определение параметров по минимуму данных и

2)обработка избыточных измерений, при этом математическим объектом исследований является фундаментальная система измерений.

………………………

Этап определения параметров по минимуму данных подразумевает выбор из фундаментальной системы уравнений числа уравнений, совпадающих с числом неизвестных по которым эти данные определяются, например методом итераций. Полученные параметры используются далее для линеаризации уравнений измерений при обработке избыточных измерений.

Суть линеаризации заключается в разложении уравнений измерений в ряд Тейлора

и представлении фундаментальной системы уравнений в виде

Где ,

Обозначив для краткости фундаментальную систему можно также записать как

Следует отметить, что после линеаризации обработка избыточных измерений может быть сведена к оценке приращений с последующей выработкой искомых параметров как

Где номер итерации.

При обработке избыточных измерений обычно задаются некоторым функционалом невязок

и определяют оценку параметров, минимизирующих этот функционал.

Во многих случаях до проведения опыта возможно предсказать вид закона распределения. Как правило, используются предельные теоремы теории вероятностей. Среди множества предельных теорем для теории ошибок наибольшее значение имеет теорема Ляпунова, утверждающая, что сумма независимых величин в пределе распределена по нормальному закону.

Оценки и их классификация

Формально в качестве оценки неизвестного параметра может рассматриваться любая функция измерений .

Качество оценки определяется ее свойствами:

несмещенностью, состоятельностью, эффективностью.

Несмещенность

Оценка параметра называется несмещенной, если выполняется условие

,

Где -оценка случайной величины .

Состоятельность

, Оценка параметра называется состоятельной, если с ростом числа опытов она сходится по вероятности к параметру .

.

Эффективность

Оценка параметра называется эффективной, если она обладает минимальной дисперсией, т.е.

где -ковариационная матрица эффективной оценки, -ковариационная матрица любой другой оценки,

Насколько точно можно оценить неизвестные параметры? Неравенство Рао-Крамера.

Неравенство показывает, насколько точно можно оценить неизвестные параметры по ограниченной выборке.

Выведем это неравенство для несмещенной оценки

Для несмещенной оценки имеет место соотношение

где - условная плотность совместного распределения величин .

Продифференцировав это выражение по , получим

откуда следует, что

.

Применяя к этому выражению неравенство Коши-Буняковского получим

Заметим, что в правой части первый интеграл представляет собой по определению дисперсию

и, как следствие имеем

Можно показать, что знак равенства

имеет место только в случае, когда

.

Величину, стоящую в знаменателе

Р. Фишер назвал информацией, содержащейся в выборке.

Если предположить, что измерения независимы и равноточны, имеем

= и неравенство информации можно записать в виде

Пример. Пусть производится оценка математического ожидания нормального распределения

В этом случае

Следовательно, в рассматриваемом примере дисперсия любой регулярной оценки удовлетворяет неравенству

,

но это дисперсия среднего арифметического, распределенного по нормальному закону. Это означает, что среднее арифметическое является эффективной оценкой математического ожидания.

Классификация оценок по методам их получения.

Различают два случая: когда известна плотность распределения случайной величины и когда статистическое описание случайной величины неизвестно. В первом случае получили распространение такие методы как метод наименьших квадратов (МНК) , метод максимального правдоподобия, метод наименьших модулей (МНМ), метод моментов, байесовский метод. В рамках этих методов лежит рассмотрение совместной плотности измерений и оцениваемых параметров, позволяющих в ряде случаев получать оптимальные оценки путем минимизации соответствующих функционалов, зависящих от плотности.

Например, если задать функционал

и решитьзадачу минимизации этого функционала, то такая задача обеспечивает получение оценки с минимумом среднего квадрата ошибки вектора состояния

Ко второму случаю относятся методы, которые не предполагают знания плотности распределения и рассматриваются просто как некоторые удобные вычислительные процедуры получения оценок.

Рассмотрим вначале вычислительные методы, в частности, метод наименьших квадратов. В рамках этого метода функционал, подлежащий минимизации задается в виде

где -вектор ошибок измерений, -величина называемая невязкой ошибок измерений.

Как следствие, в рамах этой задачи определяется такое значение принимаемое далее за оценку этого вектора, которое минимизирует сумму квадратов невязок.

Метод, в рамках которого достигается получение этой оценки получил название метода наименьших квадратов( МНК).(least square method) (LSM)

Оценку полученную по МНК можно записать в виде

Для того, чтобы определить минимум функционала

Нужно взять частные производные по каждой компоненте вектора

И получить систему уравнений, получивших название нормальных

(*)

Решая такую систему по методу итераций, можно найти требуемую оценку вектора следует иметь в виду, что решение уравнений (*) могут соответствовать точкам перегиба, а метод итераций сходится к точкам локальных минимумов.

Заметим, что в рамках метода наименьших квадратов рассматривается также критерий , отражающий разную точность получения измерений

где матрица ошибок измерений Если матрица ошибок измерений диагональна

минимизируемый критерий можно представить в виде

В этом случае говорят об обобщенном методе наименьших квадратов (ОМНК)

В ряде случаев при обработке методом наименьших квадратов используют априорную информацию, для чего фундаментальную систему уравнений

Дополняют уравнениями

где параметр отражает неточность априорной информеции Если эту неточность охарактеризовать матрицей вторых центральных моментов выражения, используемые в методе наименьших квадратов модефицируются и принимают вид

которая при диагональнах матрицах и примут вид

где диагональные элементы матрицы

Такой метод наименьших квадратов получил название модифицированного метода наименьших квадратов.

Рассмотрим теперь частный случай фундаментальной системы измерений а именно случай линейных измерений

В этом случае

И система нормальных уравнений примет вид

Решая эту систему уравнений, получим выражение для оценки

Для получения оценки в рамках ОМНК запишем

откуда можно получить следующую систему нормальных уравнений

откуда

Для получения оценки в рамках ММНК рассмотрим функционал

Проводя несложные преобразования, можно получить следующее выражение для оценки

Анализ точности в методе наименьших квадратов в линейном случае

При использовании различных методов наименьших квадратов возникает задача анализа точности полученных алгоритмов

Для этого введем понятие ошибок оценок

Рассмотрим ошибку для МНК

Аналогичным образом оприделяется ошибка для ОМНК

Для модифицированного ММНК уравнение в ошибках примет вид

Введем предположение, что ошибки измерений являются центрированными и для них известна матрица ковариаций

В этом случае действительные ковариационные матрицы ошибок оценок будут равны

Аналогичным образом

Для расчета ковариационной матрицы ошибки оценки в ММНК потребуется предположение о коррелированности ошибок измерений и ошибок априорной информации. При отсутствии корреляции получим

Можно показать, что при грамотном выборе матриц и справедлива следующая цепочка неравенств

Рекуррентная схема наименьших квадратов

Представим в виде

,

-оценка после обработки измерений. Тогда

т.е. получено рекуррентное выражение для оценки

Заметим, что это выражение может быть приведено к виду,

что также широко используется при анализе схем обработки измерений

Частный случай обработки прямых равноточных измерений

Применим полученные результаты к обработке прямых измерений, когда фундаментальная система уравнений имеет вид

В этом случае вектор измерений , матрица измерений и вектор ошибок измерений имеют вид

, ,

и фундаментальная система измерений может быть записана как

Используем МНК

Если использовать равноточные измерения с дисперсией , то дисперсия ошибки оценки будет определяться выражением

Метод максимального правдоподобия

Рассмотрим теперь метод максимального правдоподобия. В рамках этого метода рассматривается совместная плотность , где в общем случае векторные величины. В случае независимых величин совместную плотность можно записать как

Эта плотность получила название функции правдоподобия. Те значения ,при которых функция правдоподобия достигает максимума получили название оценок максимума правдоподобия. Оказалось, что эти оценки при достаточно общих предположениях являются асимптотически несмещенными, асимптотически нормальными и асимптотически эффективными.

Для упрощения вычислительной процедуры обычно максимизируют не саму функцию правдоподобия , а ее логарифм

при этом решение задачи сводится к решению уравнений

.

Методы оптимального оценивания

Рассмотрим ошибку оценки

и ковариационную матрицу ошибки оценки

.

При синтезе оптимального фильтра будем добиваться, чтобы ковариационная матрица оптимального фильтра удовлетворяла неравенству

, (*)

где -ковариационная матрица ошибки оптимальной оценки .

Введем обозначения: , .

В теории оптимального оценивания получен следующий фундаментальный результат: оптимальная оценка в смысле выполнения неравенства (*), как неравенства квадратичных форм, существует и представляет собой условное математическое ожидание вектора состояния, записываемое в виде

, (**)

где -условная (апостериорная) плотность вектора , а - совместная плотность распределения векторов и .

Здесь и далее, интегралы понимаются как многомерные, а дифференциалы от векторов- как произведения дифференциалов их компонент, при этом совместная плотность понимается как совместная плотность вектора состояния динамической системы и измерений в последовательные моменты времени 0,1,2,…… : .

Действительно, пусть оценка, выработанная любым фильтром

Ошибке этой оценки придадим вид

Где

Заметим, что математическое ожидание берется по совокупности случайных величин и найти его можно последовательно

.

Условную ковариационную матрицу ошибки оценки запишем в виде

Рассмотрим второе слагаемое

.

Используя тот факт, что по предположению получим, что

, =0 и

Проводя теперь осреднение по множеству измерений, также получаем связь между средними ковариационными матрицами

Отметим, что из неравенства (*), понимаемого как неравенство квадратичных форм, вытекает ряд свойств ошибок оптимальной оценки, важных для практических, в частности, навигационных приложений

• среднеквадратические ошибки оценок всех компонент вектора состояния минимальны;

• определитель и главные миноры ковариационной матрицы минимальны;

• след ковариационной матрицы, представляющий собой сумму вторых центральных моментов компонент вектора состояния динамической системы минимален;

• оценка любой линейной комбинации компонент вектора состояния имеет минимальную среднеквадратическую ошибку.

Рассмотрим теперь совместную плотность распределения , используемую для выработки оптимальной оценки. Известно, что эта плотность по правилу перемножения плотностей может быть представлена в виде

.

Фрагменты этой плотности и при описании поведения динамической системы и процесса измерений уравнениями

,

,

где -вектор состояния размерности ; -вектор измерений размерности ; , -центрированные гауссовские векторы белошумных возмущений и ошибок измерений с ковариационными матрицами и соответственно, -многомерная, в общем случае, нелинейная функция; -гауссовский вектор начальных условий, ,

в свою очередь, могут быть представлены с использованием плотностей распределения и как

,

.

Совместная плотность распределения при этом примет следующий вид:

.

Таким образом, имея совместную плотность распределения можно получить условную плотность распределения и решить задачу оптимального оценивания вектора с использованием выражения (**).

Показано, что в случае описания поведения динамической системы и процесса измерений линейными уравнениями при гауссовском распределении ошибок измерений и возмущений в рамках байесовского подхода может быть получены рекуррентные процедуры, получившие название линейного фильтра Калмана.

Фактически рассмотренная процедура является решением задачи оценивания в рамках байесовкого подхода когда используется совместная плотность распределения.

Решение одношаговой задачи в рамках байесовского подхода

Определим оптимальную оценку вектора состояния в расширенном пространстве состояния как условное математическое ожидание

Рассмотрим одношаговую задачу в рамках байесовского подхода

полагая, что известна совместная плотность распределения величин

В такой постановке оптимальная задача оценивания вектора может быть решена как

при этом действительная ковариационная матрица ошибки оценки определяется выражением

Оптимальные оценки в классе линейных оценок

Упрощение решения задачи оценивания можно достичь, ограничив класс получаемых оценок

Рассмотрим поиск оптимальных оценок в классе линейных оценок вида

Где и - математические ожидания параметров

Нетрудно видеть, что

.

Такая байесовская оценка называется несмещенной

Определим ковариационную матрицу ошибки оценки

Выделим теперь из этого выражения полный квадрат

С учетом того, что первое слагаемое, по крайней мере, положительно полуопределенная матрица, очевидно, что минимальное значение будет достигаться при

При этом минимальное значение ковариационной матрицы будет равно

Из выражения для оценки и ковариационной матрицы вытекает,что они могут быть вычислены, если известны параметры , , , .

Решение линейной задачи

Будем полагать, что известна совместная плотность распределения с матрицей вторых центральных моментов

,

а измерения линейны

.

В этом случае можем записать для вектора выражение для ковариационной матрицы

Если ошибки не коррелированны, т.е. имеем

и, как следствие формулы оптимального линейного фильтра принимают вид

Линейный оптимальный алгоритм в линейной задаче не зависит от вида распределения оцениваемого вектора и ошибок измерения.

Решение нелинейной задачи

Рассмотрим решение нелинейной задачи, полагая, что известна совместная плотность распределения

Для использования линейного оптимального алгоритма необходимо знание следующих параметров:, , , .

Эти параметры могут быть определены следующим образом

Отметим, что кроме знания моментов требуется также знание плотности распределения

Пример

, , -диагональная матрица

Введем обозначения

. Вектор

Тогда

Здесь учтено, что нечетные центральные моменты гауссовской плотности равны нулю.

Рассмотрим .

Нетрудно заметить, что для случая некоррелированности компонент вектора

это произведение будет диагональной матрицей с элементами

.

Рассмотрим члены

и произведение

.

Нетрудно заметить что это произведение будет матрицей содержащей ненулевые элементы вида

Байесовский подход. Оптимальные оценки

Выше было показано, что для нахождения оптимальной оценки в рамках байесовского подхода требуется вычисление интеграла

,

при этом средняя действительная ковариационная матрица ошибки оценки определяется выражением

,

а условная ковариационная матрица выражением

Свойства оптимальных оценок

Свойство 1. Несмещенность оценки

Действительно имеем

Свойство 2. Ортогональность ошибки оценки

Свойство 3. Матрицы ковариаций

удовлетворяют неравенствам

,

и характеризуют потенциальную точность оценивания

Решение линейной гауссовской задачи.

Пусть

,

Можно показать, что параметры условной гауссовой плотности распределения для двух совместно гауссовских векторов определяются выражениями

С учетом модели измерений имеем

,, ,

Откуда следует

Нетрудно убедиться в том, что в линейной гауссовой задаче оптимальная оценка в среднеквадратическом смысле является эффективной.

Субоптимальные алгоритмы оценивания

Линеаризованный алгоритм оценивания ( линеаризованный фильтр.)

Суть подхода заключается в выборе точки линеаризации в окрестностях которой нелинейная функция раскладывается в ряд

где

С учетом того, что точка линеаризации не обязательно совпадает с точкой линеаризованное уравнение преобразуется к виду

и обработке повергаются псевдоизмерения равные

,

модель которых имеет вид

Для выработки оценок и расчетных ковариационных матриц далее используются процедуры линейного фильтра с учетом гауссовости векторов и и их независимости .

. Учитывая линеаризованную модель измерений окончательно получим

выражения

где матрица, определяемая выражением

Частные виды линеаризованных фильтров

Обобщенный фильтр Калмана

Его особенностью является использование в качестве точки линеаризации значения . В этом случае выражения фильтра примут вид

Фильтр с локальными итерациями

В основе синтеза фильтра лежит алгоритм Гаусса- Ньютона [Ортега Д, Рейнболдт Итерационные методы решения нелинейных систем уравнений со многими неизвестными. М., «Мир», 1975. суть которого сводится к нахождению минимума функции вида

Пусть к шагу получено приближение . Линеаризуем функцию в окрестностях этой точки Тогда аппроксимация функции будет иметь вид

(*)

Где

В качестве следующего приближения в методе Гаусса- Ньютона принимается значение соответствующее минимуму выражения (*), т.е.

Этот алгоритм обеспечивает быструю сходимость к локальноаму минимуму функции ближайшему к начальному значению .

В рамках синтеза фильтра с локальными итерациями фактически решается задача синтеза фильтра, линеаризованного в точке максимума апостериорной плотности

Интересующая нас функция является частным случаем функции , при этом

,

Таким образом, для нахождения точки линеаризации необходимо сделать итераций

,

а затем использовать в качестве процедур фильтра выражения

линеаризованного фильтра, однако, как легко видеть, вместо этого достаточно провести еще одну итерацию.

Следует подчеркнуть, что фильтр с локальными итерациями по существу соответствует критерию максимума апостериорной плотности .

Нелинейный фильтр второго порядка

При синтезе этого фильтра предполагается разложение нелинейной функции измерений в ряд Тейлора с сохранением членов первого и второго порядка

Пусть -скалярная величина. Тогда разложение в ряд Тейлора в окрестности точки примет вид

где

Вводя обозначения ,

И вводя составной вектор

Совокупность измерений можно записать в расширенном пространстве состояний в виде

где ,

где параметры этого вектора зависимы в силу введенных обозначений. При синтезе фильтра второго порядка используется только связь между моментами в

силу введенных обозначений , полагая, что вектор распределен по нормальному закону. С учетом этого факта математическое ожидание составного вектора будет равно

а ковариационная матрица составного вектора будет иметь вид

Пример (Степанов О.А.)

, , ,

Для рассмотренного примера приведены графики ошибок оценок и соответствующих характеристик точности

где -расчетные дисперсии субоптимальных фильтров

Синтез субоптимальных фильтров для существенно нелинейных задач

Полагая, что решается гауссовская задача можем записать

Тогда условная плотность будет равна

Один из субоптимальных методов основан на приближенном представлении апостериорной плотности в виде

Где -веса

Отсюда следует, что

Где

Подставляя это выражение для оценки и матрицы ковариаций получим

,

.

Такой метод получил название метода сеток

К этому методу близок по сути метод Монте Карло.

Согласно логике использования метода Монте-Карло для вычисления интегралов нетрудно получить для оценки и ковариационной матрицы аналогичные выражения с тем отличием, что в качестве выступают не назначенные заранее значения а моделируемые с помошью датчика случайных чисел.

Анализ эффективности субоптимальных алгоритмов

Две задачи: 1)проверка эффективности субоптимальной оценки;

2). проверка соответствия расчетных и действительных ковариационных матриц.

Для оценки эффективности субоптимальных методов используют , как правило, безусловную матрицу ковариаций

,

или матрицу при использовании метода Монте-Карло

Считается, что субоптимальный алгоритм обеспечивает приемлемую точность, если

Для сравнения действительной и расчетной матриц ковариаций рассчитывают среднюю расчетную матрицу ковариаций

Расчетную характеристику точности называют адекватной, если

Общая блок-схема проверки эффективности субоптимальных алгоритмов приведена на рисунке.

Решение многошаговых задач оценивания

При оптимальном решении задач оценивания как было показано требуется определение апостериорной плотности

При решении различных задач предполагается, что поведение динамических систем описывается марковской последовательностью вида

а процесс измерений в дискретные моменты времени описывается моделью с аддитивными ошибками измерений

Для условной плотности которая используется для получения оптимальной оценки можем записать

которая с учетом соотношений

приводится к следующему рекуррентному виду

в которых

представляет плотность прогноза.

Заметим, что последнее соотношение справедливо в силу равенства

, являющегося следствием марковости процесса .

С учетом принятой модели поведения и процесса измерений можем также записать

при этом задача оценивания существенно упрощается, если измерения линейны

а плотности распределения параметров , - гауссовы.

В этом случае также гауссовы как линейные комбинации нормально распределенных величин, и задача оценивания сводится к расчету двух параметров: оценки и ковариационной матрицы с использованием процедур фильтра Калмана

Получим эти выражения считая известными параметры:

Представим два момента плотности в виде

Принимая во внимание справедливость представления

легко получить

Учитывая выражения

нетрудно убедиться в том, что плотность

является гауссовской плотностью распределения с параметрами:

математическим ожиданием

и ковариационной матрицей

Находя параметры условной плотности можно получить выражения

,

представляющие собой выражения дискретного фильтра Калмана.

Отметим, что эти выражения с использованием лемм об обращении матриц приводятся к виду

Леммы об обращении матриц

Первая лемма .Имеет место соотношение

Доказательство

Вторая лемма Имеет место соотношение

Доказательство

Преобразуя второй сомножитель с помощью первой леммы получаем

Особенности реализации дискретного фильтра Калмана

1. Дискретный фильтр Калмана предполагает использование марковской последовательности и проведения линейных измерений в дискретные моменты времени. Как следствие необходим расчет состояния динамической системы с использованием уравнений непрерывной динамической системы с вектором состояния, включающим вектор состояния собственно динамической системы, а также векторы состояния формирующих фильтров, используемых для описания возмущений и ошибок измерений, имеющих небелошумный характер. Как следствие, необходимо выполнение следующих типовых этапов.

1.1 Стохастическое описание небелошумных возмущений и ошибок измерений с использованием корреляционных функций или спектральных плотностей

1.2 Подбор формирующих фильтров вида

например, для корреляционной функции вида

формирующий фильтр имеет вид

,

1.3 Стохастическое описание линейными дифференциальными уравнениями собственно динамической системы.

1.4 Формирование расширенного вектора состояния.

1.5 Описание поведения динамической системы матричными уравнениями с непрерывным временем в расширенном пространстве состояния.

где -матрица небелошумных возмущений, воздействующих на поведение собственно динамической системы. -вектор возмущений формирующих фильтров.

1.6 Переход к описанию марковской последовательности в моменты проведения измерений и расчет эквивалентной ковариационной матрицы возмущений .

,

,

при этом на этапе прогноза используются выражения фильтра Калмана для расширенного вектора состояния

,

Применительно к модели измерений, если измерения не линейны, используется один из нелинейных субоптимальных фильтров калмановского типа, полагая, что линеаризация допустима.

Обработка измерений осуществляется в расширенном пространстве с

Настройкой на модель измерений

с использованием выражений

После выработки оценок на этапе обработки измерений в случае нелинейных измерений проводится гауссовская аппроксимация апостериорной плотности с параметрами .

Уравнение ошибок линейного фильтра , когда коэффициент фильтра отличен от оптимального

Предположим, что оценка линейного фильтра вырабатывается с использованием выражения

где -некоторый коэффициент усиления фильтра

В этом случае ошибка оценки фильтра может быть представлена как

Определяя теперь действительную ковариационную матрицу ошибки оценки для независимых белошумных ошибок измерений и возмущений можно получить следующее выражение для ковариационной матрицы:

Непрерывный фильтр Калмана

Предположим, что задан непрерывный марковский процесс

и имеются непрерывные измерения

,

где -интенсивность белошумной ошибки измерений.

В рамках теории линейной фильтрации показано, что оценку с минимальной ковариационной матрицей можно получить с использованием выражений

,

получивших название непрерывного фильтра Калмана.

Заметим, что выражение для оценки можно преобразовать к виду

которое можно трактовать как уравнение динамической системы с сигналом на входе системы

Для непрерывного фильтра Калмана можно получить дифференциальное уравнение для ошибки оценки

и, как следствие, можно получить следующее выражение для действительной ковариационной матрицы ошибки оценки

Использование непрерывного фильтра для исследования качества дискретного фильтра

Выражения для непрерывного фильтра оказываются проще соответствующих выражений для дискретного фильтра. В этой связи измерения в дискретном фильтре можно трактовать как непрерывные измерения, сглаженные на интервале дискретности. С учетом такого сглаживания можно установить следующую связь между параметрами дискретного и непрерывного фильтра

и, как следствие,

.

И далее использовать для анализа непрерывный фильтр Калмана

Представление детерминированных процессов с помощью системы базисных функций

В общем случае процесс требует для своего описания достаточно сложных функций. Одним из подходов упрощения описания процесса является его замена комбинацией более простых функций, т.е. аппроксимация сложной функции с использованием базисных функций.

Пусть функция абсолютно интегрируема на рассматриваемом интервале . Эта функция может быть разложена по некоторой системе базисных функций в том же интервале, т.е. представлена в виде

.

Если выбрана система базисных функций, то описание процесса полностью определяется совокупностью коэффициентов , которые называют спектром процесса.

При решении практических задач приходится учитывать конечное количество членов . При этом заданная функция будет представлена приближенно, как

(**),

Базисные функции выбираются исходя из априорной информации об исследуемом сигнале так, чтобы они имели простое аналитическое выражение, обеспечивали быструю сходимость и позволяли легко вычислять коэффициенты

Эти коэффициенты рассчитываются из условия, чтобы некоторый заранее выбранный критерий приближения принимал наименьшее значение.

Критерии, получившие наибольшее распространение

1. Аппроксимация в среднеквадратическом

.

2. Критерий равномерного приближения

.Разность

минимальна на заданном интервале.

3. Критерий приближения в среднем

Чаще всего используется квадратический критерий

Известно, что для того, чтобы найти минимальное значение функционала нужно приравнять нулю частные производные

,

Эти условия приводят к системе алгебраических уравнений

,

Введем обозначения

,

Тогда систему (*) можно записать в виде

, ,

решив которую можно определить совокупность коэффициентов .

Для упрощения разложения по системе базисных функций используют систему ортогональных базисных функций на интервале , когда счетный набор базисных функций удовлетворяет условиям

В этом случае система уравнений принимает вид

,

и формулы для коэффициентов упрощаются

,

Если постоянные , то такая система базисных функций является ортонормированной и формулы еще более упрощаются

.

Для того, чтобы по выбранной базисной системе можно было разложить любой сигнал из заданного множества необходимо, чтобы система была полной. Система ортогональных функций называется полной, если к ней нельзя добавить ни одной новой функции , которая была бы ортогональна уже выбранным ортогональным функциям. Если система ортогональных функций является неполной, то по ней нельзя разложить любой сигнал, в частности сигнал, который совпадает с отсутствующей ортогональной функцией.

Для разложения сигналов можно использовать различные системы базисных функций, в частности тригонометрические функции, полиномы Эрмита, Лежандра, Чебышева, функции Бесселя, Лагерра, Уолша, Хаара и другие.

При выборе системы базисных функций необходимо выполнить следующие требования:

-область определения сигналов и базисной системы должна быть одинаковой;

-базисная система должна быть линейно независимой;

-базисная система должна быть полной, а образующие ее функции –ортогональными;

-базисные функции должны иметь конечную энергию

Обычно для анализа сигналов рекомендуется выбирать систему базисных функций , обеспечивающую наиболее быструю сходимость ряда (**), т.е. требующую наименьшего числа членов ряда для заданной точности представления сигнала. В ряде случаев решающим при выборе системы функций является простота физического генерирования базисных функций, образующих систему

Численный гармонический анализ и тригонометрическое интерполирование

Задача тригонометрического интерполирования заключается в следующем.

Даны значений функции при . Требуется аппроксимировать на интервале тригонометрическим полиномом

так чтобы минимизировать сумму квадратов отклонений

Можно показать, что искомые коэффициенты будут определяться по формулам

, ,

В частном случае эти формулы вместе с

дают (тригонометрическая интерполяция) при произвольном .

Отметим, что определение коэффициентов эквивалентно обработке следующих измерений по МНК

………

Вводя матричные обозначения, можем записать

где

и использовать для нахождения коэффициентов метод МНК.

Очевидно, что подход с использованием МНК можно распространить на случай неравномерных интервалов проведения измерений.

Аппроксимация полиномиальными процессами

Помимо тригонометрической аппроксимации широкое распространение получила аппроксимация с использованием полиномиального описания, когда аппроксимация процесса осуществляется процессом

где в качестве базисных функций используются параболические функции

,

Задача: Осуществить приближение по методу наименьших квадратов

Интерполяция с использованием интерполяционной формулы Лагранжа

Интерполяционная формула -го порядка аппроксимирует функцию многочленом степени , удовлетворяющим условиям

в узлах интерполяции-точках

Интерполяционная формула Ньютона

Вводится понятие разделенных разностей

Интерполяционная формула Ньютона имеет вид

В отличие от формулы Лагранжа прибавление новой пары значений сводится здесь к прибавлению нового члена.

Использование МНК

Отметим, что определение коэффициентов эквивалентно обработке следующих измерений по МНК

……..

Вводя матричные обозначения, можем записать

где ,

и использовать процедуры МНК

Параметры случайных процессов

Полное описание случайного процесса считается заданным если известна совместная плотность распределения для любого конечного набора точек процесса в произвольные моменты времени.

Наиболее важными параметрами случайных процессов являются математическое ожидание, дисперсия и корреляционная функция:

.

где -плотность для произвольного момента времени, а -совместная плотность распределения для значений процесса в произвольные моменты времени .

Для стационарных процессов в широком смысле математическое ожидание и корреляционная функция имеют вид

Пример корреляционной функции

Такой процесс называется экспоненциально-коррелированным.

График корреляционной функции приведен на

рисунке

Случайный процесс называется эргодическим, если осреднение по множеству реализаций может быть заменено осреднением за большой промежуток времени параметров одной реализации

Спектральная плотность

Спектральная плотность определяется как преобразование Фурье от корреляционной функции.

Справедливо и обратное представление

(*)

В силу четного характера функций и приведенные соотношения можно записать как

Из выражения (*) вытекает, в частности, соотношение

Известно, что корреляционной функции вида соответствует спектральная плотность

Графики спектральной плотности приведены на рисунке

или в логарифмическом масштабе

Процесс у которого спектральная плотность отлична от нуля в широком диапазоне частот называется широполосным процессом.

Белый шум

Процесс для которого во всем диапазоне частот спектральная плотность постоянна

называется белым шумом

Величина называется интенсивностью белого шума

Корреляционная функция для белого шума имеет вид

,

с учетом следующего представления для -функции

Поскольку белый шум является абстрактным процессом то разумным является введение белого шума с ограниченным спектром

т.е. у которого спектральная плотность постоянна и отлична от нуля в определенной полосе частот (см. рис.)

Получим корреляционную функцию такого процесса

В частности при имеем

Отметим, что в пределе при увеличении полосы пропускания корреляционная функция стремится к дельта функции.

Формирующие фильтры во временной области

Синтез формирующего фильтра заключается в описании поведения процесса с заданной корреляционной функцией как решения дифференциального уравнения, на вход которого поступает белый шум.

Запишем решение этого уравнения в виде

,

где - переходная матрица

Легко показать, что математическое ожидание, ковариационная матрица и корреляционная функция определяются выражениями

,

Нетрудно также убедиться, что ковариационная матрица удовлетворяет решению уравнения

Частным уравнением для процессов со стационарными матрицами будет уравнение

Имеющее установившееся решение

Очевидно, что если имеет место стационарный процесс, при этом корреляционная функция примет вид

Отметим, что если выбор начальной ковариационной матрицы не согласован с установившемся значением процесс можно считать стационарным после окончания переходного процесса.

Пример. Рассмотрим формирующий фильтр вида

и покажем, что ему соответствует корреляционная функция вида .

Для рассматриваемого случая уравнение для ковариационной матрицы примет вид

Очевидно, что при значение производной будет равно нулю и процесс оказывается стационарным . Переходной матрицей процесса является матрица

и, как следствие, корреляционная функция примет вид

Очевидно, что .

Покажем теперь, что в качестве формирующего фильтра, соответствующего корреляционной функции вида

может быть использован формирующий фильтр второго порядка

, ,

Для того, чтобы записать корреляционную функцию найдем переходную матрицу , используя преобразование Лапласа

и воспользовавшись соотношением для корреляционной функции получим

для первого элемента

.

Используя туже методику можно также показать, что в качестве формирующего фильтра, соответствующего корреляционной функции вида

может быть использован формирующий фильтр второго порядка

, ,

Обе этих функции широко применяются при решении прикладных задач для описания узкополосных процессов

Определение параметров формирующих фильтров

Оценка корреляционной функции случайного процесса

Базовой основой для вычисления корреляционной функции скалярного процесса является оценка корреляционной функции

где -математическое ожидание.

Такая оценка является асимптотически несмещенной, т.е

Если математическое ожидание неизвестно используют выражение

,

в котором -оценка математического ожидания.

Оценка также является асимптотически несмещенной оценкой

При дискретном количестве наблюдений вычисление интегралов заменяется вычислением сумм

Вычисление корреляционных функций можно провести с использованием программ в Matlab.

На рисунке приведены графики построения выборочной и истинной корреляционных функций случайного процесса с корреляционной функцией , , .

На этом графике длина реализации составляет 500 сек. при интервале дискретизации 0.01 сек, т.е обрабатывались 50000 наблюдений процесса.

На следующих рисунках длина реализаций была равной 50 и 5 секунд и, следовательно обрабатывались 5000 и 500 наблюдений процесса.

Графики показывают, что точность построения корреляционных функций существенно зависит от длины реализации .

Как правило, представляет интерес аналитическое выражение для корреляционной функции.

С этой целью делается предположение о виде корреляционной функции и проводится ее аппроксимация с использованием МНК.

Оценка спектральной плотности

Один из возможных вариантов может быть основан на получении вначале выборочной корреляционной функции с последующим применением преобразования Фурье

Следует, однако, иметь в виду, что выборочная функция известна на конечном интервале и ее точность на границах интервала существенно ухудшается что может привести к значительным ошибкам в оценке спектральной плотности.

Другой возможный вариант связан с использованием периодограммы, определяемой как

Показано[ Cвешников А.А. Прикладные методы теории случайных функций], что

,

и поэтому в первом приближении можем считать, что . Однако, такая оценка не является состоятельной.

Модификацией этого алгоритма является алгоритм, в котором весь интервал разбивается на подинтервалов длиной , вырабатываются на этом интервале оценки

и затем они осредняются

Такая оценка является асимптотически несмещенной и состоятельной [Cвешников]

В общем случае при вычислении оценок в выражение для частных оценок вводят некоторую весовую функцию

где весовая функция обращается в нуль при

Метод вариации Аллана.

Иногда оценку дисперсии можно определить как

(*)

Можно показать, что такая оценка будет несмещенной и состоятельной

Предположим теперь, что имеется наборов из

И для каждого из них вычисляется среднее значение

,

Вариация Аллана определяется следующим образом

Отсюда следует, что вариация Алана представляет собой оценку одной второй дисперсии разности ( приращений) средних значений , рассчитанных для каждой группы.

Легко показать, что при вариация Аллана совпадает с полученной с помощью выражения (*) оценки дисперсии.

Вводя знак осреднения по ансамблю можем записать

.

Для процесса с непрерывным временем определяем

или

,

где

-

среднее на интервале .

Пример Рассмотрим случайный процесс в виде линейного тренда

. Найдем вариацию Аллана.

Поскольку

, то очевидно, что

Пример. Найти вариацию Аллана для белого шума интенсивности .

Так как представляют собой независимые случайные величины с дисперсией , то дисперсия приращений будет равна .

Пример. Найти вариацию Аллана для винеровского процесса

где -белый шум единичной интенсивности

В этом случае дисперсии независимых между собой случайных величин

определяются как . Таким образом .

В работах по вариациям Аллана вводят еще две составляющие: так называемый фликкер шум для которого вариация Алана постоянна и шум квантования, длят которого вариация алана зависит от . Эти процессы можно рассматривать как случайные процессы со спектральными плотностями и .

Выражение при наличии всех упомянутых составляющих запишется в виде

Иногда вариации Аллана изображают в логарифмическом масштабе с типовыми наклонами

.

Достоинством вариаций Аллана является их использование для нестационарных процессов

Если процессы стационарны можно показать, что имеется соледующая взаимосвязь между вариацией Алана и спектральной плотностью

Действительно, можно записать

Последнее слагаемое может быть представлено как

где корреляционная функция исследуемого процесса.

Тогда

Решение задач сглаживания

Специфика задач сглаживания заключается в выработке оптимальных оценок в момент времени с использованием всей совокупности полученных к текущему моменту времени измерений.Выделяют три типа задач сглаживания;

-сглаживание на закрепленном интервале;

-сглаживание в фиксированной точке;

-сглаживание с постоянным запаздыванием.

В задаче сглаживания на закрепленном интервале фиксируется общее количество измерений и отыскиваются оценки для каждого момента времени с использованием всей совокупности измерений.

В задаче сглаживания в фиксированной точке фиксируется момент времени на которую вырабатывается оценка с использованием всей совокупности измерений.

В задаче сглаживания с постоянным запаздыванием производится выработка оценки на момент времени, отстоящий на фиксированное число шагов от текущего момента времени

Особенности использования информации приведены на рисунке

Решение задачи сглаживания на закрепленном интервале;

Рассмотрим три подхода к решению задачи сглаживания:

-с использованием расширенного пространства состояния;

- с использованием комплексирования оценок, полученных в прямом и обратном времени;

- с использованием уточнения оценок в обратном времени.

Решение задачи сглаживания рассмотрим в постановке когда модель поведения динамической системы и процесса измерений имеет вид

,

а процесс измерений в дискретные моменты времени описывается моделью с аддитивными ошибками измерений

,

Подход с использованием расширенного вектора состояния

Введем в рассмотрение расширенный вектор состояния

и расширенный вектор измерений

Тогда модель измерений примет вид

Где , ,

и оптимальную обработку измерений можно провести с использованием, например, выражений

где -априорные параметры, определяемые выражениями

,

где

, для

, для

Заметим, что для случая стационарной матрицы априорная матрица будет равна

В основе расчета блоков матрицы лежит расчет ковариации между векторами и с учетом описания их поведения

Очевидно, что все составляющие вектора состояния получены по всему множеству измерений, поэтому оценки компонент этого вектора будут сглаженными оценками, полученными как решение задачи сглаживания на закрепленном интервале.

Отметим, что с вычислительной точки зрения рассмотренный алгоритм является весьма затратным из-за роста размерности вектора состояния, однако он в силу наглядности и простоты является весьма удобным для проверки других алгоритмов сглаживания.

Решение задачи сглаживания на закрепленном интервале с использованием комплексирования оценок, полученных в прямом и обратном времени;

Суть подхода связана с возможностью выработки некоррелированных оценок в прямом и обратном времени с использованию для их выработки разной совокупности измерений с учетом воздействия на систему на интервалах наблюдения некоррелированных шумов возмущений.

Предположим, что необходимо выработать сглаженную оценку для момента времени

Предположим, что к этому моменту времени с использованием процедур ФК выработана оптимальная оценка как результат решения задачи фильтрации . С другой стороны, оценка вектора состояния может быть найдена как решение задачи фильтрации в обратном времени при обработке массива измерений при использовании описания поведения динамической системы в обратном времени

С учетом такого описания алгоритм для получения оценки в обратном времени примет вид

от до ;

Сглаженная оценка с учетом некоррелированности двух оценок получается взвешиванием оценок полученных в прямом и обратном времени

;

.

Подход с использованием уточнения оценок в обратном времени.

Суть подхода заключается в утонении в обратном времени оценки фильтрации с учетом выработки предыдущей сглаженной оценки

Для того, чтобы получить процедуры для выработки сглаженной оценки рассмотрим вектор состояния и запишем ковариационную матрицу этого вектора

к моменту обработки измерений .

С учетом связи между векторами

можем записать

,

.

Обработывая теперь измерение

с использованием процедур ФК получим

где

Наша цель найти ковариационную матрицу сглаженной оценки

Для этого преобразуем это выражение к виду

Таким образом, ковариационная матрица сглаженной оценки будет равна

Найдем теперь выражение для оценки расширенного вектора состояния

Откуда

Наша задача найти сглаженную оценку . Для этого преобразуем выражение для эртой оценки к виду

Рассматривая далее сглаженную оценку как результат обработки измерений

,

Процедуру выработки сглаженных оценок можно продолжить, вырабатывая последовательность сглаженных оценок, при этом выражения примут вид

Очевидно, что три рассмотренных подхода дают одинаковые результаты, при этом точность выработки сглаженных оценок повышается как результат обработки большего числа измерений.

Пример точностей решения задач прогнозирования фильтрации и сглаживания приведен на рисунке