- •Г усак в.В., Господарьов д.В., Лущак в.І. Статистика в біології: обробка даних малих вибірок
- •Розділ 1. Сукупність, вибірка і типи даних
- •1.1. Генеральні та вибіркові сукупності
- •1.2. Уявлення про малу вибірку
- •1.3. Типи даних
- •1.4. Структура даних
- •1.5. Заокруглення даних
- •Розділ 2. Показники варіації
- •2.1. Середні величини та медіана
- •2.2. Стандартне відхилення, дисперсія та коефіцієнт варіації
- •2.3. Варіація і розподіл
- •Розділ 3. Похибки оцінювання параметрів вибірки
- •3.1. Помилка середньої арифметичної величини
- •3.2. Довірчий інтервал
- •3.3. Неузгодженості у записах при використанні стандартної похибки середнього
- •Розділ 4. Аналіз даних, які випадають в ході досліджень (промахи і систематичні похибки)
- •4.1. Критерій Шовене
- •4.3. Критерій Романовського
- •4.4. Критерій Ірвіна
- •4.5. Критерій Аббе
- •Розділ 5. Перевірка вибірки на нормальність розподілу даних
- •5.1. Загальні уявлення про критерії перевірки вибірки на нормальний розподіл даних
- •5.2. Складовий критерій d
- •5.3. Статистичний критерій w (критерій Шапіро-Уілка)
- •5.4. Коефіцієнт асиметрії та ексцесу
- •Асиметрії та ексцесу
- •1. Первинні дані та допоміжні величини оформлюємо у вигляді таблиці:
- •6.1. Вибір статистичного критерію
- •6.2. Порівняння двох груп між собою
- •6.2.1. Непарний та парний критерії Стьюдента
- •6.2.2. Тест Уелча як модифікація тесту Стьюдента та u-критерій Манна-Уітні як непараметричний аналог непарного критерію Стьюдента
- •6.3. Порівняння трьох і більше груп між собою: доцільність використання параметричних чи непараметричних критеріїв
- •6.3.1. Критерій Ньюмена-Коулса
- •6.3.2. Критерій Даннета: порівняння декількох груп з контрольною
- •6.3.3. Непараметричний критерій Данна для порівняння декількох груп між собою
- •Розділ 7. Взаємозв'язки між групами: кореляційно-регресійний аналіз
- •7.1. Кореляційний аналіз
- •7.2. Парний регресійний аналіз
- •1.1. Рівняння лінійної регресії
- •1.2. Лінійне рівняння з логарифмуванням факторної ознаки (напівлогарифмічне)
- •1.3. Рівняння гіперболічної регресії
- •1.4. Показникове рівняння кривої
- •Розділ 8. Програми для статистичної обробки даних
- •Узагальнення
- •Рекомендована література
- •Тлумачний словник термінів
1.5. Заокруглення даних
Сучасні калькулятори і комп’ютери дозволяють проводити дуже точні розрахунки. Дуже часто, значення середніх виходять числами, які мають багато знаків після коми. Зрозуміло, що в реальності ми не можемо отримати таке число. До якого знаку можна округлювати середні значення так, щоб не втратити точність з одного боку і не ввести колег в оману – з іншого? Є декілька правил, які дозволяють коректно заокруглити пораховане на комп’ютері значення середньої без втрати точності:
1. Якщо вихідні вимірювання виконують до десятої долі одиниці, то всі наступні розрахунки округляються до десятої долі. Тобто заокруглення в розрахунках відповідає точністю визначень вихідних вимірювань. Так, при подачі середнього арифметичного значення і стандартного відхилення, треба враховувати точність вихідних даних. Необхідно також враховувати точність вимірювань приладів, за допомогою яких дослідник отримує результати.
2. Заокруглюють тільки кінцеве значення обчислень, а всі проміжні обчислення проводять з усіма знаками.
3. Результат вимірювання заокруглюється до того ж десяткого розряду, яким закінчується заокруглене значення абсолютної похибки. Наприклад, результат 5,6342, похибка 0,11. Результат заокруглюють до 5,63 (5,630,11).
4. У переважній більшості випадків заокруглення проводять до трьох значущих цифр. Значущими цифрами числа вважаються всі цифри від першої зліва, яка не дорівнює нулю, до останньої цифри справа. При цьому нулі, які записані у вигляді множника 10n, не враховуються. Так, число 15,0 має три значущі цифри; число 40 – дві значущі цифри; число 127,20 – п’ять значущих цифр; 0,515×10 – три значущі цифри; 0,0066 – дві значущі цифри. Наприклад, потрібно записувати 312 замість 312,3; 12,4 замість 12,41; 1,12 замість 1,121; 0,323 замість 0,3231. Чому саме заокруглюють до трьох значущих цифр? При такому заокругленні максимальна похибка заокруглення знаходиться в межах від 0,06 до 0,5%, що є досить точним показником. Якщо б ми заокруглювали за однією або двома значущими цифрами, то максимальна похибка заокруглення знаходилась би в межах від 6 до 50 % і від 0,6 до 5 %, відповідно.
5. Розрізняють записи наближених чисел за кількістю значущих цифр.
6. Якщо обчислення проводиться в декілька дій, то проміжні результати не заокруглюються, а заокруглюється тільки остаточний результат.
Приклад 1. Розрізняють числа 2,3 і 2,30. Запис 2,3 означає, що вірні тільки цілі і десяті частки, справжнє значення числа може бути, наприклад, 2,33 і 2,28. Запис 2,30 означає, що вірні й соті частки: справжнє значення числа може бути 2,303 і 2,298, але не 2,41 і не 2,382.
Приклад 2. Запис 373 означає, що всі цифри вірні: якщо за останню цифру ручатися не можна, то число має бути записане як 3,7×102.
Приклад 3. Якщо в числі 4720 надійні лише дві перші цифри, воно має записуватись як 4,7×103.
6. При заокругленні даних слід скористатись правилом арифметичного заокруглення:
- якщо за останньою цифрою, яку зберігають, слідують цифри 0, 1, 2, 3 і 4, то її залишають такою ж самою (заокруглення з недостачею). Наприклад, число 1,562 заокруглюють до 1,56;
- якщо за останньою цифрою, яку зберігають, стоять цифри 6, 7, 8, 9, то цю цифру збільшують на одну одиницю (заокруглення з надлишком). Наприклад, число 1,566 заокруглюють до 1,57;
- якщо цифра, що відкидається дорівнює 5, а наступні за нею цифри невідомі або нулі, то останню цифру, що зберігається, не змінюють, якщо вона парна, і збільшують на одиницю, якщо вона непарна. Наприклад, число 1234,50 заокруглюють до 1234, а число 8765,50 – до 8766;
- якщо цифра, що відкидається дорівнює 5, але за нею слідують відмінні від нуля цифри, то останню цифру, що залишається, збільшують на одиницю. Наприклад, число 1,5554 заокруглюють до 1,56.
