Статистическая обработка результатов эксперимента

Полученный в эксперименте цифровой материаал нуждается в группировке данных по заранее разработанным признакам, определении средних величин в группах и сравнении их между собой с целью выявления значимых различий. Являются ли различия случайными или отражают существующую в природе закономерность – на этот вопрос можно ответить, лишь оценив достоверность различий между изучаемыми параметрами.

Для оценки достоверности различий между изучаемыми параметрами, оценки связи – корреляции – между двумя рядами наблюдений и отнесения наблюдений к одному из двух классов в исследованиях могут быть использованы так называемые непараметрические критерии статистики. В отличие от обычных (параметрических) критериев они менее трудоемки, эффективны при работе с любыми формами распределений вариант, не требуют использования специальной вычислительной техники для работы. Ниже приводится полная методика статистической обработки по некоторым непараметрическим критериям.

Критерий знаков (КЗ).

Основан на подсчете числа однонаправленных эффектов в парных сравнениях. Данные группируются в пары таким образом, что в каждой из них должны содержаться результаты связанные единством условий эксперимента. Чаще всего это исходное и последующее состояние одного и того же параметра у одного животного. Например, через 2 суток после ожога у 6 собак из 8 содержание гемоглобина снизилось по сравнению с его уровнем до ожога. В таблице 3 находим максимальное число менее часто встречающихся знаков, при котором еще можно считать обнаруженные различия достоверными (р<0,05).

Таблица 3.

Максимальное число знаков (КЗ), при котором можно считать обнаруженные различия достоверными (р<0,05).

Число пар	5	6	7	8	9	10	11	12	13
P<0,05	0	0	0	1	1	1	2	2	3
P<0,01	-	0	0	0	0	1	1	1	2

Максимальным числом в данном случае является 1, а у нас -2. То есть по критерию знаков снижение степени гемоконцентрации через 2 суток после ожога не является существенным.

Критерий Т (парный критерий Вилкоксона).

Предназначен для оценки различий в связанных выборках. Он является более мощным критерием, чем критерий знаков. Вычисленным разностям между связанными парами наблюдений дают ранговые номера в порядке возрастания абсолютных значений разности без учета ее знака. Совпадающим наблюдениям дают ранговые номера, равные средним из их порядковых значений. Далее вычисляется величина Т, равная сумме ранговых номеров разностей, имеющих отрицательное значение (т.е. разностей, противоположных наблюдаемым в большинстве случаев). В таблице 4 приводятся максимальное значение Т, при которых различия можно считать существенными (значимыми)

Таблица 4 .

Максимальное значение Т, при которых различия можно считать существенными (значимыми)

Число наблюдений	5	6	7	8	9	10	11	12	13
P<0,05	0	2	3	5	8	10	13	17	21
P<0,01	-	0	0	1	3	5	7	10	12

Критерий У (Вилкоксона – Манна – Уитни)

Применяют при независимых выборках. Цифры опытной и контрольной групп упорядочивают, т.е. располагают в порядке возрастания в виде одного общего упорядоченного ряда. При этом опытные цифры располагают левее, а контрольные – правее вертикальной черты (таб.5).

Таблица 5

Расположение вариант при оценке достоверности по критерию У

Опыт	Контроль	Число инверсий
3		0
	31
45		1
67		1
87		1
	123
	123
	200	Всего 3

Дальнейший анализ заключается в подсчете числа инверсий. Одной инверсией считают такое расположение, когда перед некоторым числом первого столбца стоит число второго столбца. Если стоят два числа – это считают за две инверсии и т.д. Далее находится сумма инверсий. В данном примере – 3. Число инверсий можно подсчитать относительно любой из групп, следует стремиться, чтобы их сумма была минимальной.

В таблицах 6 и 7 находится то минимальное число инверсий, при которых разница еще будет достоверной.

Таблица 6.

Р<0,05 для критерия У

	2	3	4	5	6	7	8	9	10	11	12
2	-
3	-	-
4	-	-	-
5	-	-	0	1
6	0	2	3	5	7
7	0	2	4	6	8	11
8	1	3	5	8	10	13
9	1	4	6	9	12	15	18
10	1	4	7	11	14	17	20	24	27
11	1	5	8	12	16	19	23	27	31	34
12	2	5	9	13	17	21	26	30	34	38	42

Оформление результатов оценки значимости различий делается в виде таблицы 8.

Оформление результатов статобработки по параметрическим критериям делается по другой форме, в качестве примера приводится ( таб. 9) [6, 15, 17, 23, 28, 30, 33].

Обработка полученных результатов может производится с использованием параметрических критериев статистики после проверки правильности распределения, например по методу Монцевичуте-Эрингене [12].

Таблица 7.

Р<0,01 для критерия У

	2	3	4	5	6	7	8	9	10	11	12
2	-
3	-	-
4	-	-	-
5	-	-	0	1
6	-	-	1	2	3
7	-	0	1	3	4	6
8	-	0	2	4	6	7	9
9	-	1	3	6	7	9	11	14
10	-	1	3	6	8	11	13	16	19
11	-	1	4	7	9	12	15	18	22	25
12	-	2	5	8	11	14	17	21	24	28	31

Таблица 8. Оформление результатов статобработки по непараметрическим критериям.

Серия	Число опытов	Среднее арифметическое и пределы колебаний (в % к исходному)	Достоверность Р	Критерий
Контроль	7	104 (88-120)%	-	-
Постгеморрагическая анемия	5	110 (94-120)%	<0,05	У
Гемолитическая анемия	7	118 (96-142)%	<0,05	У

Таблица 9

Показатели ПОЛ сыворотки периферической крови пациентов разного возраста до и после проведения курса сеансов нормобарической гипокситерапии ГГС-10, М±m

Группа пациентов	Свето­сумма ХЛ, отн.ед./г об. липидов	Ампли­туда ХЛ, отн.ед./ г об.ли- пидов	Свето­сумма ХЛ, отн.ед./г белка	Ампли­туда ХЛ, отн.ед./ г белка	Диеновые конъюга- ты, мкмоль./мл сыв. крови	Диено- вые конъю­гаты, мкмоль/г липидов
1	2	3	4	5	6	7
ЗРЕЛЫЕ :
контрольная до лечения	26368,5± 3949,0	237,9± 30,9 (2)	79,9± 5,92	0,735± 0,04	3,47± 0,112	14,96± 1,07
контрольная после лечения	28958,3± 7203,5	254,4± 60,09	83,28± 3,98 (5)	0,747± 0,054	3,54± 0,087 (8)	18,57± 3,5
1	2	3	4	5	6	7
исследуемая до лечения	39252,9±4458,5 (1)	443,3± 59,8 *(2,3)	105,9± 12,9 (6)	1,15± 0,126 (7)	3,15± 0,081	19,33± 1,73 (9)
исследуемая после лечения	21374,2±2994* (1)	206,48± 22,63* (3)	71,75± 8,9* (5,6)	0,78± 0,077* (7)	3,31± 0,09* (8)	15,11± 1,01* (9)
ПОЖИЛЫЕ И СТАРЫЕ :
контрольная до лечения	34441,9±5465,7	301,2± 50,6	147,9± 28,1	1,35± 0,29	3,55± 0,131	14,13± 1,31
контрольная после лечения	25283,9±1870,9	225,8± 15,9 (4)	93,19± 7,11	0,85± 0,081	3,68± 0,097	15,11± 1,01
исследуемая до лечения	43560,6±1359,3	391,8± 117,7	127,5± 17,43	1,13± 0,131	3,16± 0,24	14,7± 1,31
исследуемая после лечения	47953,0±1080,1	435,7± 120,7* (4)	132,9± 31,7	1,19± 0,365	3,43± 0,125	21,7± 5,66

Примечание. Цифры в скобках – достоверность различий показателей между группами пациентов, * – р < 0,05 – 0,01 [22].