Случайные величины и статистики
Небольшое отличие в терминологии математической статистики и теории вероятностей заключается в том, что в математической статистике часто термином случайная величина, случайный вектор называют семейство случайных величин или векторов, т.е., например, измеримое отображение
может зависеть от
того, какая вероятностная мера
из семейства
задана на пространстве
.
Если семейство
параметрическое, то часто указывают
зависимость
случайной величины или вектора от
Для обозначения случайной величины, вектора или отображения в некоторой другое измеримое пространство не зависящей (зависящего) от семейства в математической статистике используют термин статистика, т.е. используют следующее определение.
Определение.
Статистикой называется
измеримое отображение измеримого
пространства
статистической модели
в некоторое другое измеримое пространство
одинаковое для всех
из семейства
.
Пример
В предыдущем примере является статистикой, а величина
не
является статистикой.
Иначе говоря, статистику можно вычислить, зная только статистические данные. Таким образом, статистика представляет собой функцию от статистических данных или, что то же самое, некоторый метод обработки этих данных.
Пример. Если статистические данные представляют собой вектор с действительными компонентами, то функция равная среднему арифметическому этих компонент является статистикой и задает метод обработки данных, который можно назвать «вычисление среднего».
Достаточные статистики
Если статистическая модель для статистических данных построена или выбрана, то возникает возможность выявления статистик, которые содержат в себе такую же информацию о неизвестной мере , как и исходные статистические данные. Выявление этих т.н. достаточных статистик часто позволяет упростить анализ статистической модели, преобразовать исходные данные и сократить объем информации, необходимой для анализа.
Определение
Статистика
называется достаточной статистикой
для семейства
,
если для любого
условная вероятность
одинакова для всех из семейства .
Тривиальным примером достаточной статистики являются исходные статистические данные . Нетривиальные примеры позволяет получить следующая теорема.
Критерий факторизации.
Теорема.
Для того чтобы
статистика
являлась достаточной статистикой для
семейства
,
необходимо и достаточно, чтобы существовали
измеримые по первой координате,
неотрицательные функции
и
такие, что почти наверное
,
где функция зависит, а функция не зависит от .
Доказательство.
Доказательство теоремы проведем лишь для случая, когда все меры семейства дискретны.
Необходимость.
Пусть - достаточная статистика. Тогда для любого множества
т.к.
в сумме по
лишь один член отличен от нуля (тот, для
которого
).
Следовательно,
является плотностью
относительно
меры
и очевидно, имеет вид
Достаточность.
Пусть
,
тогда
не зависит от , следовательно - достаточная статистика.
Полная достаточная статистика
Определение.
Достаточная статистика называется полной, если из выполнения для некоторой действительной функции условия
следует, что
почти наверное для всех мер
из семейства
.