- •Г усак в.В., Господарьов д.В., Лущак в.І. Статистика в біології: обробка даних малих вибірок
- •Розділ 1. Сукупність, вибірка і типи даних
- •1.1. Генеральні та вибіркові сукупності
- •1.2. Уявлення про малу вибірку
- •1.3. Типи даних
- •1.4. Структура даних
- •1.5. Заокруглення даних
- •Розділ 2. Показники варіації
- •2.1. Середні величини та медіана
- •2.2. Стандартне відхилення, дисперсія та коефіцієнт варіації
- •2.3. Варіація і розподіл
- •Розділ 3. Похибки оцінювання параметрів вибірки
- •3.1. Помилка середньої арифметичної величини
- •3.2. Довірчий інтервал
- •3.3. Неузгодженості у записах при використанні стандартної похибки середнього
- •Розділ 4. Аналіз даних, які випадають в ході досліджень (промахи і систематичні похибки)
- •4.1. Критерій Шовене
- •4.3. Критерій Романовського
- •4.4. Критерій Ірвіна
- •4.5. Критерій Аббе
- •Розділ 5. Перевірка вибірки на нормальність розподілу даних
- •5.1. Загальні уявлення про критерії перевірки вибірки на нормальний розподіл даних
- •5.2. Складовий критерій d
- •5.3. Статистичний критерій w (критерій Шапіро-Уілка)
- •5.4. Коефіцієнт асиметрії та ексцесу
- •Асиметрії та ексцесу
- •1. Первинні дані та допоміжні величини оформлюємо у вигляді таблиці:
- •6.1. Вибір статистичного критерію
- •6.2. Порівняння двох груп між собою
- •6.2.1. Непарний та парний критерії Стьюдента
- •6.2.2. Тест Уелча як модифікація тесту Стьюдента та u-критерій Манна-Уітні як непараметричний аналог непарного критерію Стьюдента
- •6.3. Порівняння трьох і більше груп між собою: доцільність використання параметричних чи непараметричних критеріїв
- •6.3.1. Критерій Ньюмена-Коулса
- •6.3.2. Критерій Даннета: порівняння декількох груп з контрольною
- •6.3.3. Непараметричний критерій Данна для порівняння декількох груп між собою
- •Розділ 7. Взаємозв'язки між групами: кореляційно-регресійний аналіз
- •7.1. Кореляційний аналіз
- •7.2. Парний регресійний аналіз
- •1.1. Рівняння лінійної регресії
- •1.2. Лінійне рівняння з логарифмуванням факторної ознаки (напівлогарифмічне)
- •1.3. Рівняння гіперболічної регресії
- •1.4. Показникове рівняння кривої
- •Розділ 8. Програми для статистичної обробки даних
- •Узагальнення
- •Рекомендована література
- •Тлумачний словник термінів
2.2. Стандартне відхилення, дисперсія та коефіцієнт варіації
У попередньому підрозділі ми бачили, що середні величини дозволяють охарактеризувати вибірку одним числом. Проте значення середньої арифметичної величини не відображує варіабельності ознаки. У вже згаданому прикладі з довжиною стебла рослин середня арифметична буде одна і та сама для вибірок зі значеннями: 3, 8, 5, 4, 7 та 5, 5, 5, 6, 6 см. Проте видно, що у першій вибірці значення істотно відрізняються одне від одного. Варіація параметрів сама по собі є важливою характеристикою живого організму чи групи організмів. У багатьох випадках, мала варіація означає те, що показник суворо контролюється організмом і його зміна може, наприклад, зменшувати шанс виживання.
У 1894 році один із засновників біометрії Карл Пірсон ввів термін стандартне відхилення (середнє квадратичне відхилення або середня квадратична похибка вимірювань, яку в англомовній літературі позначають як S.D. – standard deviation). Для малої вибірки (n < 30) середнє квадратичне відхилення обчислюється за наступною формулою:
(9)
або
(10)
де
– середнє арифметичне, хі
– і-те
значення, n
– кількість незалежних повторів
експерименту або кількість вимірюваних
об’єктів, інакше кажучи, розмір вибірки.
З цієї формули видно, що при обчисленні
стандартного відхилення враховується
різниця між окремою варіантою серії
досліджень та їх середньої арифметичної
величини: (
).
При цьому кожне відхилення підноситься
до квадрату для знищення ефекту взаємної
компенсації додатних та від’ємних
доданків.
Приклад 10. Активність лактатдегідрогенази в печінці коропа становила: 1,40; 1,47; 1,08; 1,23; 1,12; 1,00 Од/мг білка. Обчислимо стандартне відхилення, використовуючи формулу (10):
=
(Од/мг білка).
Дисперсія є піднесене до квадрату стандартне відхилення:
(11)
Дисперсія є важливим показником варіації і вказує на те, як задалеко одна від одної розміщені варіанти сукупності.
Слід зауважити і те, що в дослідницькій роботі інколи потрібно порівняти варіацію ознак, значення яких виражаються в різних одиницях вимірювань. Для порівняння варіацій ознак, які виражені в різних одиницях вимірювань, використовують коефіцієнт варіації Cv, величину якого виражають у відсотках:
(12)
де s –
стандартне відхилення,
–
середнє арифметичне значення.
2.3. Варіація і розподіл
Давньогрецький філософ Геракліт казав «не можна двічі увійти в одну і ту саму річку». Будь-який дослідник природи може підтвердити це досвідом: важко отримати ідентичні цифри при повторі експерименту. Те саме стосується й спостережень. Наприклад, листки одного дерева будуть відрізнятись за площами, плодові мушки однієї лінії – за масою, культури бактерій одного штаму – за активністю амілази чи іншого ферменту. Варіація – характерна особливість будь-якого біологічного об’єкту. Середні значення і показники варіації власне несуть дослідникові інформацію про об’єкт чи явище. Вони також є предметом для подальших обрахунків, наприклад, при статистичних порівняннях.
Варіація не є безмежною. Відомо, що нормальний рівень гемоглобіну в сироватці крові буде відповідати якомусь діапазону значень, так само, як і активність ферментів у тканинах, значення кров’яного тиску та ін. Для будь-якої ознаки, яка варіює, можна знайти найменше і найбільше значення. Це робиться шляхом розстановки значень у порядку зростання, або, інакше кажучи, ранжуванням. Якщо проаналізувати ряди значень, отриманих після вимірів, то можна помітити що певна частина значень не буде сильно відрізнятись. Так, зріст більшості дорослих людей знаходиться у межах від 160 см до 180 см. Цю ситуацію можна змоделювати і представити наочно. Уявімо, що ми маємо вибірку з 1000 осіб одного віку. Нехай 500 з них має зріст 160–180 см, 200 чоловік – 150–159 см, інші 200 – 181–190 см, 50 чоловік матимуть зріст від 145 до 149 см, і решта 50 – від 191 до 200 см. Це буде виглядати наступним чином:
Рис. 1. Стовпчаста діаграма, яка відображує варіацію осіб за зростом
Варто зауважити, що інтервали у нашій моделі не рівні, що не відображено на Рис. 1. Для того, щоб відобразити цю характеристику розподілу, графік можна зобразити наступним чином:
Рис. 2. Полігон частот, який відображує варіацію осіб за зростом
Ще більш наочна і точніша модель представлена нижче (рис. 3). Вона включає дані щодо росту 992 осіб з межами варіації від 145 до 200 см.
Рис. 3. Розподіл осіб за зростом в генеральній сукупності
Даний графік вже нагадує розподіл ймовірностей випадкової величини, який є предметом математичної статистики.
Крива, зображена на рис. 3 є кривою щільності нормального розподілу, що описується рівнянням:
(13),
де е
– основа натурального логарифму, π
– число «пі» (3,1416),
– середнє арифметичне значення (в даному
випадку – середній зріст для всіх осіб),
σ – стандартне відхилення.
