37. Методы оценки параметров распределения: метод максимального правдоподобия, метод моментов, метод наименьших квадратов.

Метод максимального правдоподобия. Метод предложен Р. Фишером в 1912 г. Метод основан на исследовании вероятности получения выборки наблюдений (x1, x2, …, xn). Эта вероятность равна f(х1, T) f(х2, T) … f(хп, T) dx1 dx2 … dxn. Совместная плотность вероятности L(х1, х2 …, хn ; T) = f(х1, T) f(х2, T) … f(хn, T), рассматриваемая как функция параметра T, называется функцией правдоподобия. В качестве оценки q параметра T следует взять то значение, которое обращает функцию правдоподобия в максимум. Для нахождения оценки необходимо заменить в функции правдоподобия Т на q и решить уравнение ¶ L/¶ q = 0. В целях упрощения вычислений переходят от функции правдоподобия к ее логарифму ln L. Такое преобразование допустимо, так как функция правдоподобия – положительная функция, и она достигает максимума в той же точке, что и ее логарифм. Если параметр распределения векторная величина q =(q 1, q 2, …, q n), то оценки максимального правдоподобия находят из системы уравнений

¶ ln L(q 1, q 2, …, q n) /¶ q 1 = 0;

¶ ln L(q 1, q 2, …, q n) /¶ q 2 = 0;

. . . . . . . . .

¶ ln L(q 1, q 2, …, q n) /¶ q n = 0. Для проверки того, что точка оптимума соответствует максимуму функции правдоподобия, необходимо найти вторую производную от этой функции. И если вторая производная в точке оптимума отрицательна, то найденные значения параметров максимизируют функцию.

Итак, нахождение оценок максимального правдоподобия включает следующие этапы: построение функции правдоподобия (ее натурального логарифма); дифференцирование функции по искомым параметрам и составление системы уравнений; решение системы уравнений для нахождения оценок; определение второй производной функции, проверку ее знака в точке оптимума первой производной и формирование выводов.

Метод моментов. Метод предложен К. Пирсоном в 1894 г. Сущность метода:

• выбирается столько эмпирических моментов, сколько требуется оценить неизвестных параметров распределения. Желательно применять моменты младших порядков, так как погрешности вычисления оценок резко возрастают с увеличением порядка момента;

• вычисленные по ЭД оценки моментов приравниваются к теоретическим моментам;

• параметры распределения определяются через моменты, и составляются уравнения, выражающие зависимость параметров от моментов, в результате получается система уравнений. Решение этой системы дает оценки параметров распределения генеральной совокупности.

Метод наименьших квадратов. В основе МНК лежит поиск таких значений коэффициентов регрессии, при которых сумма квадратов отклонений теоретического распределения от эмпирического была бы наименьшей. При применении МНК следует соблюдать определенную осторожность, поскольку построенные с его использованием модели могут не удовлетворять целому ряду требований к качеству их параметров и, вследствие этого, недостаточно “хорошо” отображать закономерности развития процесса . Рассмотрим процедуру оценки параметров линейной эконометрической модели с помощью метода наименьших квадратов более подробно. Такая модель в общем виде может быть представлена уравнением yt = a0 + a1 х1t +...+ an хnt + εt . Исходными данными при оценке параметров a0 , a1 ,..., an является вектор значений зависимой переменной y = (y1 , y2 , ... , yT )' и матрица значений независимых переменных в которой первый столбец, состоящий из единиц, соответствует коэффициенту модели . Название свое метод наименьших квадратов получил, исходя из основного принципа, которому должны удовлетворять полученные на его основе оценки параметров: сумма квадратов ошибки модели должна быть минимальной.

38. Интервальное оценивание параметров. Понятие доверительного интервала, доверительной вероятности, точности оценки. Доверительный интервал для математического ожидания и вероятности. Доверительный интервал для дисперсии.

Оценка какого-либо параметра распределения с помощью доверительного интервала называют интервальной оценкой. Пусть имеется некоторая точечная оценка параметра по точечной выборке θ∗= θ∗(Xn). Интервальной оценкой параметра θ, порожденной точечной оценкой θ∗(Xn), по интервальной выборке будем называть интервал [θ∗, θ∗], границы которого определяются из соотношений

Доверительный интервал – интервал, который с заданной вероятностью накроет неизвестное значение оцениваемого параметра распределения. Надежностью (доверительной вероятностью) оценки q по статистической оценке q* называется вероятность (гамма), с которой осуществляется неравенство Обычно надежность оценки задается наперед, причем берут число, близкое к единице. Наиболее часто задают надежность, равную 0,95; 0,99 и 0,999.

По выборке находится точечная оценка θn неизвестного θ. Затем задаются доверительной вероятностью P = 1 – α и по определенным правилам находят число ε > 0, чтобы выполнялось соотношение или . Из приводимых соотношений видно, что абсолютная погрешность оценки θn не превосходит числа ε. Это утверждение верно с вероятностью P = 1 – α. Число ε называется точностью оценки θ. Числа θn – ε, θn + ε называются доверительными границами, интервал (θn – ε, θn + ε) - доверительным интервалом.

Доверительный интервал для математического ожидания: Случай 1. Дисперсия распределения известна и равна . Тогда доверительный интервал для параметра a имеет вид: , где - выборочное среднее, вычисленное по выборке, параметр t определяется из таблицы распределения Лапласа по соотношению . Случай 2. Дисперсия распределения неизвестна, по выборке вычислена точечная оценка дисперсии . Тогда доверительный интервал для параметра a имеет вид: , где - выборочное среднее, вычисленное по выборке, параметр t определяется из таблицы распределения Стьюдента . Доверительный интервал для вероятности (доли). Случай 1. Пусть в задаче известен объем выборки n и выборочная доля (относительная частота) . Тогда доверительный интервал для генеральной доли (истинной вероятности) имеет вид: , где параметр t определяется из таблицы распределения Лапласа по соотношению . Случай 2. Если в задаче дополнительно известен общий объем совокупности N, из которой была сделана выборка, доверительный интервал для генеральной доли (истинной вероятности) можно найти по скорректированной формуле:

Доверительный интервал для дисперсии. Считаем, что вообще говоря, математическое ожидание неизвестно, а известна только точечная несмещенная оценка дисперсии . Тогда доверительный интервал имеет вид: , где - квантили распределения , определяемые из таблиц.