2. Выполнение в пакете spss

Оценивание по выборкам объема n = 10

Сформируем k = 20 выборок объема n = 10 и определим значения оценок â₁ , â₂ и â₃ на каждой выборке.

Подготовка требуемого числа строк:

на экране таблица с пустыми клетками; прокрутим ее до 10 строки и выделим клетку в 1 столбце; введем любой символ, например, точку - Enter. Число строк задано. Первому столбцу присвоим имя х01:

Data - Define Variable... - Variable Name: x01 - OK.

Генерация выборок:

Transform - Compute...- в окне Compute Variable Target Variable (выходная переменная): x01, Numeric Expression:

UNIFORM (10) (9)

(равномерное распределение на отрезке [0, 10]; эту запись берем из списка Function). Если теперь ОК, то последует выполнение команды.

Можно это повторить, начиная с Transform, 19 раз (изменяя только номер переменной). Однако, в пакете можно выполнять команды не только в диалоге, но и в окне Syntax на специальном языке. В каждом диалоге есть кнопка Paste, с помощью которой получают соответствующую команду в окне Syntax.Итак, после (9)

Paste - OK.

В окне Syntax имеем текст команды

COMPUTE x01 = UNIFORM (10).

EXECUTE.

Скопируем 1-ю строку 19 раз, затем изменим имена переменных (столбцов) на х02 ÷ х20. Выделим весь текст и затем кнопка Run (EXECUTE, запускает на выполнение выделенные команды). Сохраним таблицу в файле Estim. sav на диске D:

File - Save Data - ...

Распечатаем первые 3 выборки (столбца) :

выделим их - File - Print - Selection - OK.

Определим значения оценок.

Оценка â₁

Определим суммы во всех 20 выборках (20 столбцах х02 ÷ х20):

Statistics (статистики) - Summarize (простейшие) - Descriptives (описательные) - все имена переменных переносим в правый список Variables - Options...- отметим только Sum и в поле Display Order (порядок показа): Name (по порядку номеров) - Continue - OK.

В окне результатов Output - столбец сумм длины 20. Выделяем его, и с помощью Copy и Paste переносим в первый справа свободный в таблице столбец, который получает имя Var 00002. Проверим, что его длина 20, если нет, то повторим запись.

Образуем новую переменную (столбец) a1 для значений оценки â_1:

Transform - Compute - Target Var: a1, Numeric Expression: 2  Var 00002/10 - OK.

Распечатаем а1.

Оценка â₂

Согласно (2), определим максимум в выборках: Statistics - Summarise - Descriptives...- в правом окне х01 ÷ х20; в окне Options... отмечаем Maximum - Continue - OK. Из окна Output столбец результатов переносим в таблицу Estim; новый столбец получает имя Var 00003. Определяем значения оценки â2 аналогично â1 , но Numeric Expression:

Var 00002  11/10.

Оценка â₃

В версии 5.0 ее вычислять неудобно из-за отсутствия операции определения медианы по нескольким переменным. Наблюдения в каждой выборке (столбце) упорядочим по возрастанию (т.е. в каждом столбце построим вариационный ряд):

Statistics - Summarize - Frequencies...- все столбцы х01 – х20 перенесем в правый список Variables - OK. В окне Output для каждой переменной в столбце Value находятся упорядоченные значения. Выделим столбец Value для х01 и с помощью Copy и Paste перенесем его в столбец x01; аналогично поступим с остальными.

Столбцы а1 и а2 выделим и скопируем в буфер.

Транспонируем матрицу наблюдений (операции в пакете выполняются со столбцами, но не со строками):

Data - Transpose - в правый список Variables переносим имена переменных х01 – х20 - ОК.

При транспонировании невыделенные переменные теряются.

Выделим 2 новых столбца и операцией Edit - Paste внесем туда содержание а1 и а2 из буфера. Присвоим этим столбцам имена а1 и а2.

По каждой выборке-строке определим, согласно (3), удвоенную выборочную медиану:

Transform - Compute...- Target Variable: a3, Numeric Expression: var 005 + var 006 -OK.

В столбце а3 получаем значения оценки â₃ по всем выборкам.

Сравнение оценок графически

Для сравнения создадим переменную-столбец а с истинным значением параметра, равным 10. Далее:

Graphs - Line - Multiple, Values of individual cases - Define - в поле Lines Represent (показать линии): а, a1, a2, a3, Category Labels: Case number - OK.

Из наблюдаемого графика видно, что оценка â₂ наиболее точна, а â₃ – наименее. Распечатаем график или сохраним его.

Можно иначе графически наблюдать различное качество оценок: создадим три новые переменные, например, est1, est2 est3 (оценки 1, 2 и 3) , в которых запишем три различные константы, например, 1, 2 и 3. Затем

Graphs - Seatter... - Overlay - Define - перенесем в поле Y - X Pairs: a1, est1; затем a2, est2; затем a3, est3.

Наблюдаем по 20 значений трех различных оценок.

Сравнение оценок по стандартному отклонению и размаху

Statistics - Summarize - Descriptives...- в поле Variables: a1, a2, a3 (старые имена из списка убрать налево) - в Options отметить Std. Daviation, Range (размах), Minimum, Maximum - Continue - OK.

Сравниваем стандартные отклонения и размахи; убеждаемся, что оценка â₂ точнее других, â₃ – наименее точна.

Оценивание по выборкам объемов n = 40 и n = 160

Все действия повторяются.

Итоговое сравнение

Сравним графически характеристики точности S_a1, S_a2, S_a3 оценок â₁, â₂ и â₃ при различных n. Для этого образуем переменные:

n, введя 10 40 160;

Sa1, введя 1.51 0.84 0.50 (из таблицы 1);

Sa2, введя 0.53 0.14 0.05;

Sa3, введя 2.35 1.56 0.94

и построим графики:

Graphs - Scatter...- Overlay - Define - в поле Y - X Pairs: сначала sa1, n, затем sa2, n, затем sa3, n; если в обратном порядке, то Suap Pair - OK.

Наблюдаем диаграмму, входим в редактор и включаем линии, имеем график зависимости S от n для трех оценок.

Методы построения оценок

Метод моментов

Пусть x₁, ..., x_n - n независимых наблюдений над случайная величиной  с функцией распределения F (x/a), зависящей от параметра a  (a₁, ..., a_R), nR; значение параметра требуется оценить по наблюдениям.

Пусть m_k = M^k - момент порядка k. Моменты являются функциями параметра a: m_k= f_k(a₁, ..., a_R). Пусть существуют первые R моментов m₁, ..., m_R. Если бы моменты были известны, можно было бы составить систему уравнений для определения параметров по моментам:

m₁ = f₁(a₁,...,a_R),

. . .

m_R = f_R(a₁,...,a_R );

пусть эта система разрешима относительно a:

a₁ = g₁(m₁,...,m_R),

. . . (1)

a_R = g_R(m₁,...,m_R ).

когда решается задача оценивания, значения моментов неизвестны, однако, для моментов имеются несмещенные и состоятельные оценки

, k =1,...,R.

Подставив их в (1) вместо m_k, получим некоторые оценки для a_j:

(x₁ ,... x_n) = g₁ ( ₁ ,..., _R ),

. . .

( x₁ ,... x_n) = g_R ( ₁ ,..., _R ),

которые называют моментными оценками.

Несмещенностью они, вообще говоря, не обладают; обычно их исправляют. Справедливы следующие свойства.

1. Если функции g_j (), j = 1 ,..., R, непрерывны, то оценки состоятельны.

2. Если функции g_j() дифференцируемы, а распределение при любом a имеет 2R моментов, то оценки асимптотически нормальны:

 N (a_j, .

Замечания.

1. В равенствах (1) вместо первых моментов можно взять любые R моментов так, чтобы система была разрешима.

2. Моментные оценки не всегда обладают хорошими характеристиками. Однако, часто они достаточно просты в вычислительном отношении.

Метод наибольшего правдоподобия

Пусть имеется некоторая совокупность x  (x₁ ,..., x_n) наблюдений. Рассмотрим вероятность (или плотность) p(x/a) получить это x при различных a  (a₁ ,..., a_R). в качестве оценки возьмем то значение а, для которого вероятность p(x/a) максимальна; такой способ оценивания называется методом наибольшего (максимального) правдоподобия.

Функция p(x/a), понимаемая как функция от а, называется функцией правдоподобия. Значение а, доставляющее максимум функции правдоподобия, называется оценкой наибольшего (максимального) правдоподобия:

p(x/a) = p (x/a). (2)

Заметим, что а есть функция наблюдений х: а = а (х). При обычных условиях регулярности максимум находится из системы уравнений

i = 1, ..., R. (3)

Пример. Пусть х  (х₁, ..., x_n) - независимые наблюдения над случайной величиной, нормально распределенной с параметрами b и ² (роль двумерного параметра а в определении играет пара b и ² ). Плотность распределения выборки

p(x/ b,  ²)  p(x₁, ..., x_n /b,  ²) = . (3)

Поскольку значения х₁ ,..., x_n известны, величина p(x₁, ..., x_n/b,²) является функцией от b и ². система (3):

Решение этой системы, т.е. оценки наибольшего правдоподобия:

Свойства оценок наибольшего правдоподобия.

Пусть  - случайная величина с законом распределения q( /a), x(x₁,..x_n)- n независимых наблюдений, p(x₁, ..., x_n /a) = - распределение выборки.

При некоторых достаточно широких условиях оценки наибольшего правдоподобия обладают хорошими свойствами, а именно, они состоятельны, асимптотически эффективны и асимптотически нормальны с параметрами (для одномерного случая)

Mа = а, Dа ={n }^-1

условия таковы: а) независимость множества X = x: q(x/a) = 0 от а; б) существование производных и ; в) существование . Доказательство можно найти, например, в 2.

Метод порядковых статистик

Пусть x₁, ..., x_n - n независимых наблюдений над случайная величиной  с функцией распределения, зависящей от параметра a, значение которого тебуется оценить; x₍₁₎ x₍₂₎ ...  x_(n) - вариационный ряд (наблюдения, упорядоченные по возрастанию), x_(k) - порядковая статистика с номером k.

Квантиль x_р выбранного уровня р (например, р = 0.5, x_0.5 -медиана) является функцией параметра а:

x_р = f(a),

выразим а через x_р

а = g(x_р)

и вместо x_р подставим выборочную квантиль = x_([np]+1), которой является порядковая статистика с номером [np] +1; получим оценку

= g(x_([np]+1))

Известны следующие свойства.

Если функция g непрерывна, то оценка состоятельна. Если распределение наблюдений непрерывно с плотностью q(x) , то асимптотически нормальна с параметрами

M = x_р, D =

(теорема Крамера).

Ясно, что таким же образом можно построить оценки и для неодномерного параметра. Основное и очень важное преимущество оценок, основанных на порядковых статистиках, - их устойчивость к засорению наблюдений.