Определение значимости среднего значения. Оценка расхождения между средними значениями.

Обычно значения показателей смесей определенного шифра, изготовленных на одном агрегате, колеблется в пределах нормы и для разных бетчей имеют разную величину. при этом среднее значение показателей, вычисленное для какой-то партии смесей, чаще всего отличается от среднего значения по норме. обозначим через х_i среднее выборочное значение i-го показателя для партии объемом n бетчей, а через х_i0 – среднее значение по норме для этого показателя. Возникает вопрос : является ли разница между х_i и х_i0 случайной или она существенна. Если она существенна, то это свидетельствует об отклонениях в технологическом процессе.

Выяснение значимости среднего значения производится с помощью t- критерия

t = (х-х₀)/[S/√n],

где x – среднее выборочное значение;

x₀- среднее гипотетическое значение;

S – оценка среднего квадратического отклонения выборки:

S=√[(x-x₀)²/(n-1)]

n- объем выборки.

Заключение о значимости среднего значения дается на основании сравнения значений t, вычисленного для данной выборки, с табличным значением величины t.

(Задачи рассмотрим на практических занятиях).

Оценка существенности среднего значения может быть использована также при испытаниях новых рецептов смесей для сравнения полученных средних значений показателя с предполагаемыми.

При анализе результатов лабораторного контроля резиновых смесей могут возникнуть ситуации, когда необходимо определить являются ли различия в показателях смеси определенного шифра, изготовленных в разное время или на разных агрегатах, случайными или вызваны какими-то причинами.

С помощью t- критерия проводится проверка расхождения средних значений двух выборок, взятых из одной и той же общей совокупности.

Величина t находится по формуле

t = (х₁-x₂)/S*(√(n₁*n₂)/(n₁+n₂)

г де х₁и x₂ – среднее выборочное значение первой и второй выборки;

n₁и n_{2 -} объемы выборок.

Значение S находим из выражения

S= [(n₁-1)S₁² + (n₂-1)S₂²]/[(n₁-1)+(n₂-1)].

Число степеней свободы равно

ν=n₁+n₂-2.

Для определения существенности разницы средних значений используется таблица распределения величины t.

Для решения подобных задач применяются критерии значимости, с помощью которых определяется, связана ли разница между статистическими параметрами (н., ср.знач), найденными из некоторого количества частичных совокупностей, со случайными причинами или является существенной.

Тема: ДИСПЕРСИОННЫЙ АНАЛИЗ

Ранее мы научились проводить сравнение свойств резин по среднеарифметическим показателям, с учетом характера распределения измеряемых величин. Определяли достоверность различия 2-х средних арифметических.

Теперь рассмотрим возможность сравнения нескольких средних при помощи однофакторного дисперсионного анализа. Он позволяет устаносить значимо или не значимо различаются выборочные средние.

При количестве средних (р>2), простое попарное сравнение средних проводить нельзя, т.к. с увеличением числа средних возрастает и наибольшее различие между ними: т.е. среднее новой выборки может оказаться больше наибольшего или меньше наименьшего из средних, полученных до нового опыта.

Поэтому для сравнения нескольких средних пользуются методом, основанным на сравнении дисперсий. Он получил название дисперсионный анализ.( Развит англ. статистиком Фишером).

На практике дисперсионный анализ применяют, чтобы установить, оказывает ли существенное влияние некоторый качественный фактор F, который имеет p уровней F₁,F_2… F_p, на изучаемую величину X .

Например, требуется выяснить, какой вид удобрений наиболее эффективен для получения наибольшего урожая. В этом случае F- это удобрениие, а его уровни- виды удобрений.

Основная идея дисперсионного анализа состоит в сравнении “факторной дисперсии”, порождаемой воздействием и “остаточной дисперсии”, обусловленной случайными причинами.

Если различие между этими дисперсиями значимо, то фактор оказывает существенное влияние на Х- изучаемую величину.; в этом случае средние наблюдаемых значений на каждом уровне (групповые средние) различаются также значимо.

Если установлено, что фактор существенно влияет на Х, а требуется выяснить, какой из уровней оказывает наибольшее воздействие, то дополнительно производят попарное сравнение средних.

Дисперсионный анализ применяется и для того, чтобы установить однородность нескольких совокупностей (т.е. дисперсии этих совокупностей одинаковы по предположению; если дисперсионный анализ покажет, что матемитические ожидания одинаковы, то в этом смысле совокупности однородны). А однородные совокупности можно объединиь в одну и тем самым получить о ней более полную информацию, и следовательно, более надежные выводы.

В более сложных случаях исследуют воздействие нескольких факторов на нескольких постоянных или случайных уровнях и выясняют влияние отдельных уровней и их комбинаций (многофакторный анализ).

Ограничимся простейшим случаем однофакторного анализа, когда на исследуемую величину Х воздействует один фактор , который имеет р постоянных уровней.

Общая факторная и остаточная суммы квадратов отклонений.

Пусть на количественный нормально распределенный признак Х воздействует фактор F, который имеет р постоянных уровней. Будем предполагать, что число испытаний на каждом уровне одинаково и равно q.

Пусть наблюдалось n=pq значений Xij признака Х, где i- номер испытания ( i=1,2,…q), j – номер уровня фактора (j=1,2,…p).Результаты наблюдей представим в виде таблицы (табл.1).

Таблица 1- Результаты испытаний

Номер испытания	Уровни фактора F
	F1	F2	…	Fp
1	x11	x12	…	x1p
2	x21	x22	…	x2p
…	…	…	…	…
q	xq1	xq2		xqp
Групповая средняя	гр1	гр2	…	грp

Введем по определению

(общая сумма квадратов отклонений наблюдаемых значений от общей средней ),

(факторная сумма квадратов отклонений групових середних от общей средней, характеризует рассеяние “между группами “),

(остаточная сумма квадратов отклонений наблюдаемых значений группи от своей групповой среднейї, характеризует рассеяние “внутри группы”).

На практике остаточную сумму находят по равенству :

S_залиш. = S_заг - S_факт.

Элементарными преобразованиями можно получить формулы, более удобные для расчетов:

, (1)

, (2)

где Pj= - сумма квадратов значений признака на уровне Fj;

R_j = - сумма значений признака на уровне Fj.

Для упрощения вычислений вычитают из каждого наблюдаемого значения одно и тоже число С, примерно равное общей средней

Если уменьшенные значения у_ij = x_ij-C, то

, (3)

(4)

где Qj= - сумма квадратов уменьшенных значений признака на уровне Fj;

Tj= - сумма уменшенных значений признака на уровне Fj.

Для вывода формул (3) и (4) достаточно подставить x_ij=y_ij+C в соотношение (1) и Rj = в соотношение (2)

Таким образом, S_факт характеризует воздействие фактора F, S_ост – характеризует воздействие случайных величин, а S_общ- отражает влияние и фактора и случайных причин.

Для оценки воздействий отклонения возводят в квадрат, чтобы исключить погашение положительных и отрицательных отклонений.

Связь между общей, факторной и остаточной суммами

Покажем, что S_общ= S_факт+S_ост

Для упрощения вывода ограничимся двумя уровнями (р=2) и двумя испытаниями на каждом уровне (q=2).Результаты испытаний занесем в табл.2

Таблица 2

Номер испытания i	Уровни фактора
	F1	F2
1	x11	x12
2	x21	x22
грj	гр1	гр2

Тогда

S_общ = (х₁₁ - )²+(х₁₂ - )²+(х₂₁ - )²+(х₂₂ - )²

Вычтем и прибавим к каждому наблюдаемому значению на первом уровне групповую среднюю _гр1, а на втором _гр2. Выполнив возведение в квадрат и учитывая, что сумма всех удвоенных произведений равна нулю, получим

S _общ = 2 [( _гр1 - )²+[( _гр2- )²] +[(х₁₁ - _гр1)²+(х₁₂ - _гр2)²+(х₂₁ - _гр1)²+(х₂₂ - _гр2)²]= S _факт + S_ост.

Из полученного равенства вытекает следствие:

S_ост= S_общ - S_факт

отсюда видно, что нет надобности непосредственно вычислять остаточную сумму: достаточно найти общую и факторную суммы, а затем их разность.

Общая, факторна и остаточная дисперсии.

Разделив суммы квадратов отклонений на соответствующее число степеней свободы, получим общую, факторную и остаточную дисперсии:

S²_общ = ; S²_факт = ; S²_ост = ,

где р- число уровней фактора;

q- число наблюдений на каждом уровне;

pq-1- число степеней свободы общей дисперсии;

p-1- число степеней свободы факторной дисперсии;

p(q-1)- число степеней свободы остаточной дисперсии.

Сравним несколько средних методом дисперсионного анализа.

Пример. Произведено по 4 испытания на каждом из трех уровней. Результаты испытаний представлены в таблице 3.

Таблица 3– Исходные данные

Номер испытания	Уровни фактора Fj
i	F1	F2	F3
1	51	52	42
2	52	54	44
3	56	56	50
4	57	58	52
грj	54	55	47

Для упрощения расчета вычтем величину С приблизительно равную среднему между групповыми средними т.е. С=52 ((54+55+47)/3), из каждого наблюдаемого значения : у_ij=x_ij-52. На основании этого составим расчетную таблицу 4.

Таблица 4 – Расчетная ( при одинаковом числе испытаний на каждом уровне)

i	F1		F2		F3		Итоговый столбец
	уi1	y 2i1	уi2	y 2i2	уi3	y 2i3
1	-1	1	0	0	-10	100
2	0	0	2	4	-8	64
3	4	16	4	16	-2	4
4	5	25	6	36	0	0
		42		56		168	ΣQj =266
Tj=Σyij	8		12		-20		ΣTj =0
T 2j	64		144		400		ΣT 2j =608

Пользуясь таблицей и учитывая, что число уровней р=3, а число испытаний на каждом уровне q=4, найдем общую и факторную суммы квадратов отклонений:

= 266-0²/(3*4)=266;

= (608/4)-(0²/(3*4))=152

Найдем остаточную сумму квадратов и отклонений

S_ост =S_общ - S_факт =266-152 = 114

Найдем факторную и остаточную дисперсии:

S²_факт = S_факт /(р-1) = 152/(3-1)=76

S²_ост = S_ост /( р(q-1))=114/(3*(4-1))=114/9=12,67

Теперь сравним факторную и остаточную дисперсии по критерию F для чего найдем наблюдаемое значение критерия:

F_набл = S²_факт /S²_ост =76/12,67 = 6

Учитывая, что число степеней свободы числителя k₁=2,а знаменателя k₂=9 (3(4-1)=9) и уровень значимости α =0,05 по таблице приложения 5 находим критическую точку Fкр (0,05;2;9)=4,26

Т.к. F_набл > F_кр – нулевую гипотезу о равенстве групповых средних отвергаем.

Рассмотрим теперь случай когда число испытаний неодинаково на различных уровнях.

Если число испытаний на каждом из уровней различно, в этом случае общую сумму квадратов отклонений находят по формуле:

S_общ=[ P₁+P₂+…+P_p]-[(R₁+R₂+…+R_p)²/n],

где P₁= _- -сумма квадратов наблюдавшихся значений признака на уровне F₁

R₁ = ;R_{2 …} - cуммы наблюдавшихся значений признака на уровнях F₁ , F₂ …, F_р;

n= q₁ +q₂ +…+q_p общее число испытаний ( объем выборки).

Если для упрощения вычислений из каждого наблюдавшегося значения вычитать одно и тоже число С и приняв, что у_ij=х_ij – C, то

S_общ=[ Q₁+Q₂+…+Q_p]-[(T₁+T₂+…+T_p)²/n],

где Q₁= ; Q₂= ; Q_p= ;

T₁= ; T₂= ; T_p= ;

Факторную сумму квадратов отклонений находят по формуле:

S_факт = [(R₁ ² /q₁)+ (R₂ ² /q₂)+…+ (R_p ² /q_p)]-[ (R₁+R₂+…+R_p)²/n],

если значения пизнака были уменьшены, то

S_факт= [(T₁ ² /q₁)+ (T₂ ² /q₂)+…+ (T_p ² /q_p)]-[ (T₁+T₂+…+T_p)²/n].

Остальные вычисления, проводят так же как и в случае одинакового числа испытаний S_ост. = S _общ - S_факт,

S ²_факт = S _факт/(p-1), S²_ост = S_ост /(n-p).

Пример. Произведено 10 испытаний, из них 4 на первом уровне фактора, 3- на втором и 2 на третьем. Результаты испытаний приведены в таблице 5.

Таблица 5 –Результаты испытаний при неодинаковом числе испытаний на разных уровнях.

Номер испытания	Уровни фактора Fj
i	F1	F2	F3
1	40	62	93
2	44	80	76
3	48	71
4	36
грj	42	71	84

При уровне значимости 0,01 методом дисперсионного анализа проверить нулевую гипотезу о равенстве групповых средних. Предполагается , что выборки извлечены из нормальных ыовокупностей с одинаковыми дисперсиями.

С=65,6≈65

Вычтем 65 из каждого наблюдаемого значения и получим расчетную таблицу 6.

Таблица 6 –Расчетная при неодинаковом числе испытаний на разных уровнях.

i	F1		F2		F3		Итоговый столбец
	уi1	y 2i1	уi2	y 2i2	уi3	y 2i3
1	-25	625	-3	9	27	729
2	-21	441	15	225	11	121
3	-17	289	6	36
4	-29	841
		2116		270		850	ΣQj =3316
Tj=Σyij	-92		18		38		ΣTj = -36
T 2j	8464		324		1444

Найдем общую и факторную суммы квадратов отклонений

S_общ=ΣQ_j – [(ΣT_j)²/n]=3316-[(-36)²/9]=3316-144=3172

n=q₁+q₂+…+q_n=4+3+2=9

S_факт =[(T₁²/q₁)+ (T₂²/q₂)+( T₃²/q₃)] – [(ΣT_j)²/n]=[8464/4+324/3+1444/2] – 1296/9 =

=[2116+108+722] – 144=2802

Далее найдем остаточную сумму квадратов отклонений

S _ост= S_общ – S_факт = 3172-2802=370

S²_факт =S_факт /(p-1) = 2802/(3-1)=1401

S²_ост = S_ост / (n-p)= 370/(9-3)=61.7

Сравним факторную и остаточную дисперсии по критерию F для чего найдем наблюдаемое значение критерия:

F_набл= S²_факт / S²_ост = 1401/61.7=22.7

Учитывая, что число степеней свободы числителя k₁=2, а знаменателя k₂=9-3=6 и уровень значимости α = 0,01 по таблице приложений % находим критическую точку F_кр(0,01;2;6)=10,92

Т.к. F_набл > F_кр – нулевую гипотезу, о равенстве групповых средних отвергаем, т.е. групповые средние различаются значимо и влияние исследуемого фактора будет иметь место.

Если наблюдаемое значение F-критерия окажется меньше табличного, то влияние рассматриваемого фактора не следует принимать во внимание.

В случае подтверждения влияния исследуемых факторов на изменчивость среднего значения следующим этапом будет оценка влияния отдельных факторов. С этой целью используется t-критерий, с помощью которого для испытаний по отдельным факторам оценивается расхождение их средних значений.

Когда рассматриваемые факторы принадлежат к двум группам источникам изменчивости, например А и В, то для исследования влияния факторов применяют двухфакторный дисперсионный анализ.

Двухфакторный дисперсионный анализ

Модель, в которой один фактор сгруппирован с другими, называется двухфакторной моделью.

Будем считать, что заданы : фактор А с i- уровнями, и фактор В с j-уровнями. Эксперименти, которые отвечают всем возможным комбинациям уровней повторяются одно и тоже число К>1 раз.

Для двухфакторного дисперсионного аналіза сумма квадратов отклоненнний имеет вид :

Q = Q_A +Q_B +Q_R,

а схема анализа приведена в таблице 7.

Средние называют середними по строкам; а - средними по столбцам; - средними по всем элементам.

Таблица 7- Схема двухфакторного дисперсионного анализа

Вариации	Сумма квадратов	Число ступеней свободы	Оценка дисперсии
Между группами А	QA =p	q-1	S
Между группами В	QB = q	p-1	S = QB /(p-1)
Остаточная	QR =	(q-1)*(p-1)	S (q-1)*(p-1)
Общая	Q =	q*p -1	S2 = Q/(q*p-1)

Использование точки вместо индекса указывает на суммирование по этому индексу.

Рассмотрим на примере использование дисперсионного анализа.

Как показывает опыт подготовительного производства, качество резиновых смесей зависит не только от точности дозирования и правильности соблюдения режима смешения, но и в значительной степени и от качества подготовки производственного процесса, включающей в себя контроль поступающего сырья, уровень квалификации работников, состояние оборудования, организацию работы и т.д.

Пример.В результате анализа статистических данных о годных резиновых смесях в подготовительном цехе одного из шинных заводов были выявлены большие колебания средних значений показателей качества одного и того же шифра смесей, изготовленных на разных резиносмесителях и в разные смены.

Задача заключается в определении причин вариации качества смесей, т.е. являются ли выявленные колебания средних значений результатом случайных причин или зависят от качества подготовки производственного процесса, в частности от состояния резиносмесителей и уровня квалификации рабочих разных смен.

Для решения этой задачи используем двухфакторный дисперсионный анализ, с помощью которого определим, влияет ли на качество резиновых смесей:

• организация работы ;

• уровень квалификации рабочих;

• состояние оборудования.

Исходные данные показателей пластичности протекторной смеси помещены в таблице 8. Там же приведены результаты промежуточных вычислений – средние значения по строкам х _{i .} и среднее значение по столбцам х_j.

Таблица 8 - Средние значения результатов лабораторного анализа

Номер резино-смесителя	Смена				Среднее по строкам хi.
	1	2	3	4
1	0,3890	0,3881	0,3665	0,3600	0,3759
2	0,3840	0,3596	0,3605	0,3712	0,3689
3	0,3992	0,3740	0,3784	0,3720	0,3809
4	0,3969	0,3789	0,3830	0,3687	0,3818
5	0,3619	0,3696	0,3490	0,3778	0,3645
Среднее по столбцам хj.	0,3863	0,3740	0,3674	0,3699	0,3744 х..

Разложение общей дисперсии на составляющие, вычисление оценок дисперсии прооизводятся в соответствии со схемой, приведенной в таблице2 для двухфакторного дисперсионного анализа. Для заданной задачи k=5 (РС) и m=4 (смены).

Результаты решения задачи приведены в таблице 9.

Таблица 9 - Результаты решения

Вариации	Сумма квадратов	Число степеней свободы	Оценка дисперсии	Критерий F
Между сменами	0,001049	3	0,0003497	5,935
Между резино-смесителями	0,000944	4	0,000236	4,007
Взаимодействия	0,000707	12	0,0000589	-
Сумма	0,0028	19	-	-

При сравнении полученных значений F критерия с табличными оказалось, что при ν₁=3 и ν₂=12 они превышают табличные значения т.е. Fкр(0,05;3;12)=3,49. Следовательно, наблюдавшееся значение F является существенным и подтверждает гипотезу о влиянии на качество резиновых смесей такого фактора как организация работы и уровень квалификации работников определеннной смены.

Другое полученное значение F=4,007, характеризующее рассеяние между резиносмесителями, также является существенным ( Fкр(0,05;4;12)=3,26), т.е. на качество смеси оказывает влияние и второй рассматриваемый фактор – состояние оборудования.

С помощью критерия F была определена значимость влияния рассматриваемых факторов. Следующим этапом является оценка влияния отдельных факторов с помощью t-критерия.

Для этого проверяется значимость разницы между средними значениями для испытаний по рассматриваемым факторам. Значения t-критерия для фактора А и В вычисляется по следующим формулам

t _A =(x_i. – x₀)/ (S_A/√n)

t _B =(x_j. x₀)/ (S_B/√n),

г де х_{0 –} значение по норме для показателя пластичности.

Значения t-критерия для оценки расхождения между факторами находятся из выражения

t _АВ = (х_i.-x_j.)/S*(√(n_i*n_j)/(n_i+n_j))

Проверка, сделанная по сменам, показала, что разность средних значений показателя пластичности является значимой для 1 и 3-й смен (t₁₃=2,34> t_табл.=2,306 при Р=0,05). Для остальных смен значения t оказались незначимыми.

Критерий хи-квадрат

Проведем мысленный эксперимент.

Мы скрестили два растения гороха. Получили следующее потомство:

Растения с признаками Количество таких растений

Желтые гладкие семена 315

Зеленые гладкие семена 108

Желтые морщинистые семена 101

Зеленые морщинистые семена 32

Что же делать с полученными результатами???

Так как мы с Вами исследователи, будем предлагать различные гипотезы.

Я предлагаю такую:

Растения с признаками Соотношение

Желтые гладкие семена (ЖГ) 10

Зеленые гладкие семена (ЗГ) 4

Желтые морщинистые семена (ЖМ) 3

Зеленые морщинистые семена (ЗМ) 1

То есть я говорю, что мы получили в эксперименте расщепление 10 : 4 : 3 : 1.

Любой человек, который изучал генетику, скажет, что я говорю глупости, а

в эксперименте наблюдается классическое расщепление 9 : 3 : 3 : 1.

Хи-квадрат вычисляется по следующей формуле:

Т.е. сначала мы смотрим сколько у нас есть различных групп (растений/животных), чье соотношение мы проверяем.

В нашем случае всего четыре группы: ЖГ, ЗГ, ЖМ и ЗМ.

Затем мы выбираем гипотезу, которую хотим проверить. Выберем для начала мою: соотношение признаков 10 : 4 : 3 : 1.

В идеальном случае из 556 растений (315 + 108 + 101 + 32), которые получились в опыте, 10/18 (10/10+4+3+1) часть

имела бы желтые гладкие семена, 4/18 были бы с зелеными гладкими и т.д. В числах это 308,8 (556 * 10/18), 123,6 и т.д.

Такие гипотетические численные значения в формуле обозначены Ожидаемое.

Соответственно Наблюдаемое - это то, что мы увидели в опыте: 315, 108 ...

Вычислим значение хи-квадрат для гипотезы 10 : 4 : 3 : 1.

хи-квадрат = (315 - 308,8)2/308,8 + (108 - 123,6)2/123,6 + (101 - 92,7)2/92,7 + (32 - 30,9)2/30,9 = 2,88

Теперь самое главное.

Что делать с вычисленным значением хи-квадрат?

Итак, что мы можем сказать о значении хи-квадрат, думая своей головой?

Чем оно больше, тем меньше наше доверие к гипотезе.

Потому что это означает, что наблюдаемые значения очень сильно отличаются от ожидаемых.

Оценивать это значение можно только с учетом количества групп в опыте (в нашем случае их четыре).

Оценивают хи-квадрат обычно с помощью таблиц.

В таких таблицах пишут: по вертикали количество степеней свободы

(для наших целей это число на единицу меньшее количества групп). Количество степеней свободы часто

обозначаю df (degree of freedom), а формула для его вычисления: df = кол-во групп - 1

по горизонтали: вероятность наблюдаемого значения быть случайным отклонением.

Сделаем умственное упражнение: если эта вероятность мала, то мы доверяем гипотезе или нет?

Правильно! Нет.

Табл. 1. Значения хи-квадрат

количество степений свободы Вероятность наблюдаемого значения быть случайным отклонением

0,995 0,99 0,975 0,95 0,9 ... 0,1 0,05 0,025 0,01 0,005

1 --- --- 0,001 0,004 0,016 ... 2,706 3,841 5,024 6,635 7,879

2 0,01 0,02 0,051 0,103 0,211 ... 4,605 5,991 7,378 9,21 10,597

3 0,072 0,115 0,216 0,352 0,584 ... 6,251 7,815 9,348 11,345 12,838

4 0,207 0,297 0,484 0,711 1,064 ... 7,779 9,488 11,143 13,277 14,86

5 0,412 0,554 0,831 1,145 1,61 ... 9,236 11,07 12,833 15,086 16,75

6 0,676 0,872 1,237 1,635 2,204 ... 10,645 12,592 14,449 16,812 18,548

7 0,989 1,239 1,69 2,167 2,833 ... 12,017 14,067 16,013 18,475 20,278

Попробуем оценить по этой таблице вероятность того, что отклонения от гипотезы 10 : 4 : 3 : 1 в опыте случайны.

Количество степеней свободы: 3. Значение хи-квадрат: 2,88. Из табл. видно, что данная вероятность находится

где-то между 0,9 и 0,1. Принято доверять гипотезе, если вероятность >= 0,9 (это называется уровень значимости 0,1),

или если она >= 0,95 (уровень значимости 0,05).

Значит моя гипотеза никуда не годится!

2. "Хи-квадрат" в задачах статистического анализа данных

Статистические методы анализа данных применяются практически во всех областях деятельности человека. Их используют всегда, когда необходимо получить и обосновать какие-либо суждения о группе (объектов или субъектов) с некоторой внутренней неоднородностью.

Современный этап развития статистических методов можно отсчитывать с 1900 г., когда англичанин К. Пирсон основал журнал "Biometrika". Первая треть ХХ в. прошла под знаком параметрической статистики. Изучались методы, основанные на анализе данных из параметрических семейств распределений, описываемых кривыми семейства Пирсона. Наиболее популярным было нормальное распределение. Для проверки гипотез использовались критерии Пирсона, Стьюдента, Фишера. Были предложены метод максимального правдоподобия, дисперсионный анализ, сформулированы основные идеи планирования эксперимента.

Распределение "хи-квадрат" является одним из наиболее широко используемых в статистике для проверки статистических гипотез. На основе распределения "хи-квадрат" построен один из наиболее мощных критериев согласия – критерий "хи-квадрата" Пирсона.

Критерием согласия называют критерий проверки гипотезы о предполагаемом законе неизвестного распределения.

Критерий χ2 ("хи-квадрат") используется для проверки гипотезы различных распределений. В этом заключается его достоинство.

Расчетная формула критерия равна

где m и m’ - соответственно эмпирические и теоретические частоты

рассматриваемого распределения;

n - число степеней свободы.

Для проверки нам необходимо сравнивать эмпирические (наблюдаемые) и теоретические (вычисленные в предположении нормального распределения) частоты.

При полном совпадении эмпирических частот с частотами, вычисленными или ожидаемыми S (Э – Т) = 0 и критерий χ2 тоже будет равен нулю. Если же S ( Э – Т) не равно нулю это укажет на несоответствие вычисленных частот эмпирическим частотам ряда. В таких случаях необходимо оценить значимость критерия χ2, который теоретически может изменяться от нуля до бесконечности. Это производится путем сравнения фактически полученной величины χ2ф с его критическим значением (χ2st).Нулевая гипотеза, т. е. предположение, что расхождение между эмпирическими и теоретическими или ожидаемыми частотами носит случайный характер, опровергается, если χ2ф больше или равно χ2st для принятого уровня значимости (a) и числа степеней свободы (n).

Распределение вероятных значений случайной величины χ2 непрерывно и ассиметрично. Оно зависит от числа степеней свободы (n) и приближается к нормальному распределению по мере увеличения числа наблюдений. Поэтому применение критерия χ2 к оценке дискретных распределений сопряжено с некоторыми погрешностями, которые сказываются на его величине, особенно на малочисленных выборках. Для получения более точных оценок выборка, распределяемая в вариационный ряд, должна иметь не менее 50 вариантов. Правильное применение критерия χ2 требует также, чтобы частоты вариантов в крайних классах не были бы меньше 5; если их меньше 5, то они объединяются с частотами соседних классов, чтобы в сумме составляли величину большую или равную 5. Соответственно объединению частот уменьшается и число классов (N). Число степеней свободы устанавливается по вторичному числу классов с учетом числа ограничений свободы вариации.

Так как точность определения критерия χ2 в значительной степени зависит от точности расчета теоретических частот (Т), для получения разности между эмпирическими и вычисленными частотами следует использовать неокругленные теоретические частоты.

В качестве примера возьмем исследование, опубликованное на сайте, который посвящен применению статистических методов в гуманитарных науках.

Критерий "Хи-квадрат" позволяет сравнивать распределения частот вне зависимости от того, распределены они нормально или нет.

Под частотой понимается количество появлений какого-либо события. Обычно, с частотой появления события имеют дело, когда переменные измерены в шкале наименований и другой их характеристики, кроме частоты подобрать невозможно или проблематично. Другими словами, когда переменная имеет качественные характеристики. Так же многие исследователи склонны переводить баллы теста в уровни (высокий, средний, низкий) и строить таблицы распределений баллов, чтобы узнать количество человек по этим уровням. Чтобы доказать, что в одном из уровней (в одной из категорий) количество человек действительно больше (меньше) так же используется коэффициент Хи-квадрат.

Разберем самый простой пример.

Среди младших подростков был проведён тест для выявления самооценки. Баллы теста были переведены в три уровня: высокий, средний, низкий. Частоты распределились следующим образом:

Высокий (В) 27 чел.

Средний (С) 12 чел.

Низкий (Н) 11 чел.

Очевидно, что детей с высокой самооценкой большинство, однако это нужно доказать статистически. Для этого используем критерий Хи-квадрат.

Наша задача проверить, отличаются ли полученные эмпирические данные от теоретически равновероятных. Для этого необходимо найти теоретические частоты. В нашем случае, теоретические частоты – это равновероятные частоты, которые находятся путём сложения всех частот и деления на количество категорий.

В нашем случае:

(В + С + Н)/3 = (27+12+11)/3 = 16,6

Формула для расчета критерия хи-квадрат:

χ2 = ∑(Э - Т)² / Т

Строим таблицу: Эмпирич. (Э) Теоретич. (Т) (Э - Т)² / Т

Высокий 27 чел. 16,6 6,41

Средний 12 чел. 16,6 1,31

Низкий 11 чел. 16,6 1,93

Находим сумму последнего столбца:

χ2= 9,64

Теперь нужно найти критическое значение критерия по таблице критических значений (Таблица 1 в приложении). Для этого нам понадобится число степеней свободы (n).

n = (R - 1) * (C - 1)

где R – количество строк в таблице, C – количество столбцов.

В нашем случае только один столбец (имеются в виду исходные эмпирические частоты) и три строки (категории), поэтому формула изменяется – исключаем столбцы.

n = (R - 1) = 3-1 = 2

Для вероятности ошибки p≤0,05 и n = 2 критическое значение χ2 = 5,99.

Полученное эмпирическое значение больше критического – различия частот достоверны (χ2= 9,64; p≤0,05). Как видим, расчет критерия очень прост и не занимает много времени. Практическая ценность критерия хи-квадрат огромна. Этот метод оказывается наиболее ценным при анализе ответов на вопросы анкет. Разберем более сложный пример. К примеру, психолог хочет узнать, действительно ли то, что учителя более предвзято относятся к мальчикам, чем к девочкам. Т.е. более склонны хвалить девочек. Для этого психологом были проанализированы характеристики учеников, написанные учителями, на предмет частоты встречаемости трех слов: "активный", "старательный", "дисциплинированный", синонимы слов так же подсчитывались. Данные о частоте встречаемости слов были занесены в таблицу: "Активный" "Старательный" "Дисциплинированный"

Мальчики 10 5 6

Девочки 6 12 9

Для обработки полученных данных используем критерий хи-квадрат.

Для этого построим таблицу распределения эмпирических частот, т.е. тех частот, которые мы наблюдаем: "Активный" "Старательный" "Дисциплинированный" Итого:

Мальчики 10 5 6 21

Девочки 6 12 9 27

Итого: 16 17 15 s=48

Теоретически, мы ожидаем, что частоты распределятся равновероятно, т.е. частота распределится пропорционально между мальчиками и девочками. Построим таблицу теоретических частот. Для этого умножим сумму по строке на сумму по столбцу и разделим получившееся число на общую сумму (s).

"Активный" "Старательный" "Дисциплинированный" Итого:

Мальчики (21 * 16)/48 = 7 (21 * 17)/48 = 7.44 (21 * 15)/48 = 6.56 21

Девочки (27 * 16)/48 = 9 (27 * 17)/48 = 9.56 (27 * 15)/48 = 8.44 27

Итого: 16 17 15 s=48

Итоговая таблица для вычислений будет выглядеть так:Категория 1 Категория 2 Эмпирич. (Э) Теоретич. (Т) (Э - Т)² / Т

Мальчики "Активный" 10 7 1,28

"Старательный" 5 7,74 0,8

"Дисциплинированный" 6 6,56 0,47

Девочки "Активный" 6 9 1

"Старательный" 12 9,56 0,62

"Дисциплинированный" 9 8,44 0,04

Сумма: 4,21

χ2 = ∑(Э - Т)² / Т

n = (R - 1), где R – количество строк в таблице.

В нашем случае хи-квадрат = 4,21; n = 2.

По таблице критических значений критерия находим: при n = 2 и уровне ошибки 0,05 критическое значение χ2 = 5,99.

Полученное значение меньше критического, а значит принимается нулевая гипотеза.

Вывод: учителя не придают значение полу ребенка при написании ему характеристики.

Приложение

Критические точки распределения χ2

Уровень значимости α – вероятность ошибочного отклонения выдвинутой гипотезы, т.е. вероятность того, что будет отвергнута правильная гипотеза. Р — статистическая достоверность принятия верной гипотезы. В статистике чаще всего пользуются тремя уровнями значимости:

α=0,10, тогда Р=0,90 (в 10 случаях из 100)

α=0,05, тогда Р=0,95 ( в 5 случаях из 100)

α=0,01, тогда Р=0,99 (в 1 случае из 100) может быть отвергнута правильная гіпотеза

критерии хи-квадрата Фишера и Стьюдента

Эти критерии имеют совершенно различное назначение.

По критерию хи-квадрат проверяются гипотезы о соответствии выборки некоторому заданному распределению или принадлежности двух выборок одному распределению (для этих целей можно использовать ещё критерий Колмогорова-Смирнова). Вычисляется значение критерия по формуле и сравнивается с табличным. Ваш хи-квадрат меньше - отлично! Гипотеза не отвергается.

Критерий Стьюдента служит для проверки гипотезы о равенстве средних в случае неизвестной дисперсии. Опять-таки вычисляется значение по формуле (придётся и средние при этом посчитать, и выборочную дисперсию :-( ) и сравнивается с табличным.

Наконец, критерий Фишера служит для проверки гипотезы о равенстве дисперсий. Тут уже расчётная формула имеет вид отношения.... Далее опять-таки лезем в таблицу.

Модуль 2. ПОСТРОЕНИЕ ЭМПИРИЧЕСКИХ РЕГРЕССИОННЫХ МОДЕЛЕЙ