4.2. Байесовские оценки случайных параметров сигналов

Предположим, что сигнал не содержит никаких мешающих параметров, т. е. что все его неизвестные параметры являются информационными и, следовательно, подлежат измерению. При этом сигнал оказывается вполне детерминированной функцией аргумента t и измеряемых параметров υ(t) и в его записи s(t; υ(t)) символ ψ(t) не участвует.

Пусть постоянный в течение времени наблюдения информационный параметр является векторной случайной величиной υ = (υ₁ ,υ₂,…υ _r)^Т - априорная r-мерная ПВ которой W₀(Х) известна. Напомним, что эта ПВ не связана с наблюдаемой реализацией y(t) и показывает лишь, с какой частотой следует ожидать появления сигнала s(t; υ) с теми или иными значениями параметра X.

Как указывалось, задача измерителя состоит в том, чтобы по наблюдению y(t) измерить (оценить) векторный параметр υ. Отметим, что термин «оценка» в литературе используется двояко: им называют и саму процедуру измерения, и ее результат , т. е. измеренное значение υ, выдаваемое в качестве решения. Уточним, как следует формировать оценку , чтобы последствия ее расхождения с истинным значением υ были минимальны. При этом ограничимся изучением лишь нерандомизированных (детерминированных) правил оценки, согласно которым однозначно определяется видом наблюдаемого колебания y(t): = F(y(t)), (4.1)

где F[-] - детерминированный оператор, отображающий множество реализаций y(t) в r-мерное пространство оценок = ( ₁, ₂ ,… _r)^Т. Таким образом, формулирование оптимального в некотором смысле правила оценки υ состоит в отыскании подходящего оператора F[•].

Чтобы проследить общность задачи оценки параметра сигнала с ранее изученными, допустим, что υ принимает лишь дискретные значения из конечного множества {υ₁, υ₂, ..., υ_м} мощности М. Тогда оценить параметр υ - значит указать, какой из М возможных детерминированных сигналов s₁(t) = s(t; υ₁) , s₂(t) = s(t; υ₂) присутствует в y(t). Следовательно, оценка дискретного параметра υ есть просто различение М сигналов, и потому для отыскания оптимального правила (4.1) можно воспользоваться уже освоенным аппаратом гл. 2. Если формулу (2.1) переписать как

=υ_k υ_i (4.2)

и под Р(υ_i) понимать априорную вероятность выпадения значения υ_i параметра υ, т. е. появления сигнала s_i(t)=s(t; υ_i), под Р( = υ_k|υ_i) - условную вероятность выдачи в качестве оценки υ значения υ_k при условии, что в сигнале, содержащемся в y(t), параметр υ = υ_i, а под П_ik — плату (штраф, риск, ущерб) за несовпадение измеренного значения = υ_k с истинным υ_i, то оператор в (4.1), минимизирующий сумму (4.2), обеспечит получение оценок, оптимальных по минимуму среднего риска . Такие оценки называют байесовскими.

Перейдем к оценке непрерывного случайного параметра X, принимающего значения из континуального множества. При этом, как легко понять, речь вновь идет о различении сигналов, с той лишь разницей, что последние образуют не конечное множество, а континуум. Действительно, измерить параметр υ - значит по-прежнему указать, какой именно из возможных сигналов s(t; υ), отличающихся друг от друга значением υ, присутствует в y(t). Очевидно, можно приспособить критерий (4.2) и к этому случаю, осуществив предельный переход от дискретных переменных к непрерывным и трактуя сумму (4.2) как интегральную. Для этого введем функцию потерь П(υ, ) показывающую, какой платой (штрафом, риском, ущербом) оборачивается несовпадение оценки с истинным значением параметра υ. Пусть также W( |υ) - условная г-мерная ПВ оценки при условии, что истинным является значение оцениваемого параметра, равное υ. Тогда при предельном переходе Р(υ_i) следует заменить на W₀(υ)dυ, а Р( = υ_k|υ_i) — на W( |υ)d , что приведет к выражению для среднего риска

(4.3)

Очевидно, теперь оптимальной (байесовской) оценкой следует считать ту, которая минимизирует средний риск (4.4). Попытаемся выяснить, что собой представляют байесовские оценки параметров детерминированных сигналов. При этом не нужно отдельно рассматривать случаи непрерывных и дискретных параметров, поскольку для последних можно воспользоваться представлением ПВ в виде суммы взвешенных δ-функций: (4.4)

Подстановка этих выражений в равенство (4.3) с учетом фильтрующего свойства δ-функции преобразует его в выражение (4.2).

Согласно теореме умножения вероятностей для случайных величин, W₀(υ)W( |υ) = W( )W(υ/ ), где W( ) - безусловная ПВ оценки ; W(υ/ ), - условная ПВ случайной величины υ при условии, что оценкой является значение . Тогда в соответствии с (4.3)

(4.5)

Внутренний интеграл можно записать и как

(4.6)

поскольку соотношение (4.2) связывает оценку с видом наблюдаемого колебания y(t) и, следовательно, условная ПВ W(υ/ )= W(υ/F(y(t))). Величина является условным математическим ожиданием функции потерь П(υ/ ), вычисленным для фиксированной реализации y(t) усреднением по всем возможным значениям случайного параметра υ; как и дискретный аналог ее называют условным средним риском. Как видно, оценка, для которой условный средний риск минимален для любой заданной реализации y(t), минимизирует и безусловный средний риск (4.5). Поэтому байесовские оценки можно отыскивать из условия минимума выражения (4.6).

Очевидно, чем более полога ПВ тем меньшего доверия заслуживает информация о υ, получаемая из y(t). При высокой точности измерений кривая W(υ/y(t)) почти для всех реализаций y(t) имеет острый пик, расположенный в окрестности истинного значения υ.

Для конкретизации правил байесовской оценки параметров сигнала следует прежде всего выбрать определенную функцию потерь П(υ, ), Этот, казалось бы, ответственный шаг, не поддающийся полной формализации, должен учитывать как степень адекватности избранного критерия П(υ, ), реальному представлению о качестве функционирования данной системы, так и сложность реализации соответствующего правила. Рассмотрим две наиболее "часто упоминаемые в литературе разновидности функции потерь.

1. Квадратичная функция потерь представляет собой квадратичную форму относительно отклонения (ошибки, невязки) υ - оценки от истинного значения параметра υ:

П(υ, ) = (υ - )^T В (υ - ) (4.7)

где В — любая положительно определенная симметричная матрица. Напомним, что матрицу В называют положительно определенной, если скаляр х^тВх (квадратичная форма) положителен для любых ненулевых r-мерных вектор-столбцов х. При оценке скалярного параметра υ (r=1, υ = υ) квадратичная функция потерь П(υ, ) = b (υ - )², где b>0, т.е. является параболой (рис. 4.2, и). В общем случае (г^1) уравнение (4.7) задает (г+1)-мерный параболоид. Подставив выражение (4.7) в (4.6), найдем

Продифференцировав правую часть этого выражения по и приравняв результат нулю, с учетом невырожденности матрицы В независимо от конкретного вида последней для оптимальной оценки = _опт получим _опт = (4.8)

где = - апостериорное математическое ожидание векторного параметра υ. Из равенства (4.8) видно, что байесовская оценка при квадратичной функции потерь есть апостериорное среднее измеряемого параметра.

Таким образом, байесовская оценка i-го параметра ,- есть его апостериорное среднее, т. е. математическое ожидание, вычисленное на основании апостериорной ПВ содержащей всю информацию о υ_i извлеченную из y(t).

Байесовскую оценку (4.8 называют также оценкой по центру тяжести, ибо , - центр тяжести апостериорного распределения [при более строгой терминологии — абсцисса центра тяжести плоской фигуры, ограниченной кривой и осью υ_i. Отметим, что независимость байесовской оценки (4.8) от матрицы В в (4.7) позволяет, не нарушив общности, считать матрицу В диагональной. Тогда функция потерь (4.7) П(υ, ) = , (4.9)

где b>0. Смысл такой функции потерь ясен: плата за отличие от υ растет пропорционально квадрату ошибки измерения каждого из параметров υ_i .

2. Прямоугольная (равномерная) функция потерь при оценке скалярного параметра υ предполагает ущерб от ошибок, не выходящих за пределы ±∆/2, нулевым, а от прочих ошибок — одинаковым:

(4.10)

— функция, описывающая прямоугольный импульс единичной амплитуды и длительности, симметричный относительно оси х = 0. Обобщая функцию (4.10) для многомерного случая

. (4.11)

При этом считаются безопасными любые случаи, когда ошибки по параметрам Х; одновременно попадают в г окон.

Байесовской оценкой окажется оценка по максимуму (моде) апостериорной ПВ: _опт = (4.12)

где = ( , , ..., )^T - значение вектора υ, при котором апостериорная ПВ достигает максимума. Правило МАВ (4.12) можно получить и модифицировав функцию (4.11) до простой функции потерь

предполагающей одинаково опасными любые ошибки, но взимающей бесконечный по абсолютному значению отрицательный штраф, т. е. премирующей в бесконечном размере за точное совпадение оценки с истинным значением измеряемого параметра. Тогда правило МАВ (4.12) следует из выражения (4.11) после применения фильтрующего свойства δ-функции.

Следовательно, использование разных разумно выбранных функций потерь привело к различным результатам, иллюстрацией чему служит рис. 4.3, где приведены примерный вид апостериорной ПВ скалярного параметра , ее центр тяжести и мода .

Рис.4.3. Результаты оценки случайного параметра при разных функциях потерь

Можно ввести и другие функции потерь, увеличив число примеров, приводящих к различным байесовским оценкам. Следует, однако, отметить, что для симметричных апостериорных распределений и симметричных неубывающих функций потерь все байесовские оценки совпадают. Для практических задач асимметричные функции потерь не представляют интереса.