4.3. Статистична обробка результатів досліджень

Під час обробки матеріалів екологічних досліджень для вилучення з отриманих кількісних даних якнайбільше корисної інформації, застосовують статистичні методи. 

Математична статистика – це один з розділів математики, що дає можливість робити висновки про всю (генеральну) сукупність на основі спостережень над вибірковою сукупністю або вибіркою.

Математична статистика являє собою велику і складну систему знань. Не можна розраховувати на те, що кожен еколог до кінця оволодіє цими знаннями. Але основний комплекс простих статистичних методів опанувати не складно.

Вдале застосування цих методів дозволить досліднику, провівши початкову обробку, одержати загальну картину того, що дають кількісні результати його досліджень, оперативно проконтролювати хід досліджень. 

Але з самого початку зауважимо, що надмірне захоплення статистикою може навіть зашкодити, якщо аналіз і встановлення причинно-наслідкових зв'язків замінюється набором цифр, складних формул і посилань на різні математичні таблиці.

Математична статистика – не самоціль, а засіб наукового дослідження. Вона не пояснює явищ і не встановлює їх причин, а кількісно описує масові (не одиничні) явища і встановлює емпіричні закономірності. Не до всіх видів отриманих результатів можна застосувати певні статистичні процедури. В статистичних розрахунках завжди є певна міра умовності, припущення.

Статистичні методи розкривають зв'язки між досліджуваними явищами. Однак необхідно знати, що якою б високою не була ймовірність таких зв'язків, вони не дають права досліднику визнати їх причинно-наслідковими відношеннями. Статистика змушена приймати до аналізу дані, на які впливає безліч факторів. Щоб підтвердити чи відкинути існування причинно-наслідкових зв'язків і відношень, досліднику доводиться продумувати цілі серії експериментів.  Головний обов'язок експериментатора – ставлення добротних, цілеспрямованих дослідів, а математична статистика допомагає йому у виборі оптимальних умов для цього, об'єктивно кількісно оцінює експериментальні дані.

Математична статистика застосовується у правильно спланованих і проведених дослідах. Вона не виправляє похибок, допущених під час їх планування або виконання. Завданням статистичного аналізу даних є отримання підтвердження або не підтвердження результатів досліджень, гіпотези, яку було покладено в основу досліду, оцінювання схеми і досліду загалом, обґрунтування висновків та рекомендацій.

Методи статистичної обробки експериментальних даних поділяють на дві групи: 1) дробовий і узагальнюючий; 2) а) дисперсійний метод; б) метод різниці; в) метод виправлених відхилень.

Методи першої групи використовують для обробки результатів, які не мають систематичних похибок. Використання методів другої групи дає можливість виявити випадкові і систематичні похибки, зробити більш обґрунтовані висновки.

Основою дробового і узагальнюючого методів є положення про не­залежність варіювання показників один від одного.

Дробовий метод дає можливість визначити середнє арифметичне, похибку середньої різниці, t-критерій.

Узагальнюючий метод на відміну від дробового дає можливість підвищити надійність порівняння середніх обчисленням загальної похиб­ки досліду загалом і для кожного варіанта. Цим методом обробляють ре­зультати досліджень з двома повтореннями, дробовим – з трьома повто­реннями і більше.

Суть методу різниці, або парного методу, полягає у визначенні по­хибки середньої різниці, а не похибки середніх. Цим методом доцільно обробляти результати дослідів з частим розміщенням контролей і неве­ликою кількістю варіантів (2-4). Недоліком методу різниці є те, що він не може стійко оцінити похибки різниці, оскільки їх обчислюють за невеликою кількістю порівнянь.

Дисперсійний метод позбавлений багатьох недоліків статистичних методів. Він рекомендований географічною мережею дослідів з добри­вами для математичної обробки результатів польових та інших дослідів.

Властивість умовних одиниць (рослин, урожаїв тощо) відрізнятися одна від одної навіть в однорідних сукупностях називається мінливістю, або варіюванням. Варіювання зумовлено тим, що у при­роді немає двох однакових організмів. Варіювання є основною властивістю будь-якої сукупності. Варіюючі ознаки – маса, склад, урожай. Генераль­ною сукупністю, або сукупністю, називають усю досліджувану групу об'єктів.

Мінливість біологічних об'єктів утруднює вирішення питання: чи є розбіжність між експериментальними одиницями результату неврахова­ного варіювання, чи є дійсним результатом дії досліджуваних варіантів (факторів). Математична статистика дає можливість визначити незміщену оцінку дії варіантів і значимість різниць між ними за допомогою критеріїв суттєвості, що ґрунтуються на вимірюванні неврахованих варіацій.

Розрізняють кількісну й якісну мінливості. У кількісній – відмінності між варіантами виражаються кількістю (маса, висота тощо). Вона буває переривчастою (дискретною) та безперервною. За якісної мінливості відмінності між варіантами виражаються якісними показниками, які одні варіанти мають, а інші – ні. Якщо ознаки мають тільки два значення, то мінливість називають альтернативною (двоякоможливою).

Експериментальна одиниця – це одиниця експериментального ма­теріалу, на яку розповсюджується дія варіанта (фактора). Нею може бути рослина, вегетаційна посудина, ділянка тощо. Будь-яка властивість (ха­рактеристика) експериментальної одиниці, яку можна виміряти, назива­ють перемінною. Перемінна може бути дискретною (перервною) вели­чиною, яка набуває лише конкретних значень, або вона може бути безпе­рервною величиною і набуває будь-які значення в певному інтервалі. Ок­реме спостереження перемінної називають варіантою. Варіант – це до­за добрива, сорт, норма висіву, засіб хімічної меліорації тощо.

Якщо впливу одного варіанта піддається більше, ніж одна експери­ментальна одиниця, то маємо повторність цього варіанта. Дві експериментальні одиниці, які перебувають під однаковим впливом варіанта (фактора), утворюють дві повторності.

Кілька експериментальних одиниць, які зазнають впливу різних варіантів (факторів), мають повторність і розміщуються за певною схемою, становлять дослід (експеримент).

З певного об’єкта для досліджень беруть будь-яку частину. Частина об’єкта, яка відібрана для досліджень, називається вибірковою сукупністю, або вибіркою. На основі вибірки отримують інформацію про сукупність, тому вона повинна бути репрезентативною. Для отримання репрезентативної вибірки застосовують принцип випадковості. Випадкова вибірка – це така вибірка, у якій будь-які індивідуальні спостереження мають рівновелику можливість бути у її складі.

Сукупність означає серію перемінної або обліків однієї перемінної, виконаних на всіх одиницях, які належать до однієї популяції. Сукупність може бути малою або великою. За малої сукупності проводять велику кількість вимірів індивідуальних або експериментальних одиниць.

Внаслідок досліджень отримують сукупність значень перемінної індивідуальних експериментальних одиниць, сукупність вибіркових середніх перемінної або сукупність різниць між парами вибраних середніх. Сукупність описують за допомогою характеристик, які називаються параметрами. Параметрами називають точні конкретні величини. Середня вибірка є статистичною характеристикою. Її розраховують для оцінювання параметрів сукупності. Кожна вибірка має конкретні значення статистичних характеристик. Для оцінювання характеристики сукупності дані великої вибірки групують і представляють у вигляді таблиць, гістограм або кривих розподілу частот. Можливі значення варіюючої ознаки називають варіантами і позначають літерою Х. Ряд варіюючих величин можна впорядкувати – розставити варіанти в порядку їх збільшення чи зменшення. Таке впорядкування називається ранжуванням. Як результат одержують варіаційний ряд. Кількість повторень варіантів називають частотою ознаки (f). Сума всіх частот (Σ f) дорівнює обсягу вибірки (п).

Головна мета вибіркового методу – за статистичними показниками вибірки якомога точніше охарактеризувати всю сукупність об'єктів, яка в статистиці називається генеральною сукупністю.

Генеральна сукупність, чи просто сукупність, – це множина, усі елементи якої володіють якимись загальними ознаками.

У ході конкретизації проблем свого дослідження екологу неминуче доводеться позначати границі досліджуваної ним сукупності.

Здебільшого дослідник не в змозі охопити у вивченні всю сукупність. Доводиться, хоча це і пов'язано з деякою втратою інформації, взяти для вивчення лише частину сукупності, її називають вибірковою сукупністю, або вибіркою. Завдання дослідника полягає в тому, щоб підібрати таку вибірку, що репрезентувала б генеральну сукупність, іншими словами, ознаки елементів сукупності повинні бути представлені у вибірці. Важливо, щоб у вибірці було збережено істотні, з погляду цього дослідження, ознаки сукупності.

Тобто вибіркою називається частина генеральної сукупності, визначена за певними правилами, яка підлягає безпосередньому вивченню.

Важливим завданням статистики є перенесення результатів, отриманих під час вивчення вибіркової сукупності з певною мірою припущення на генеральну сукупність. Цей процес називається генералізацією.

Людина в своїй пізнавальній і практичній діяльності завжди оцінює різні об'єкти, предмети чи явища. Оцінювання – це судження про певний феномен, виражене у кількісній чи якісній формі. Якісні оцінювання досліджуваних явищ – характеристика якостей об'єктів без їх співвіднесення з числовим рядом. Кількісні оцінювання – результат вимірювання, тобто приписування чисел об’єктам відповідно до певних правил.

Вимірювання  – це пізнавальна процедура, пов’язана з визначенням числового значення деякої величини за допомогою одиниці вимірювання. Вимірювання ґрунтується на порівнянні однакових властивостей об’єктів.  Іншими словами, вимірювання являє собою процедуру порівняння досліджуваної величини з однойменною, прийнятою за еталон, зразок.

Необхідно враховувати, що проблема вимірювання в екології ускладнюється тим, що багато змінних факторів безпосередньо не можна спостерігати й вимірювати. За цих умовах застосовують методи побічного вимірювання, тобто безпосередньо спостерігають і вимірюють не ті величини, що вивчають, а інші – які можна спостерігати (індикатори) і які відомим способом пов'язані з досліджуваними змінними величинами.

У дослідженнях отримання кількісних характеристик ґрунтується на застосуванні різного роду шкал. Загалом, шкала являє собою числову систему, в якій співвідношення між якостями об’єктів виражаються якостями числового ряду.

Застосування тих чи інших статистичних методів визначається тим, до якої вимірювальної шкали відноситься отриманий матеріал. Розрізняють чотири типи вимірювальних шкал: шкалу найменувань (номінативну, номінальну), шкалу порядку (ординарну), шкалу інтервалів і шкалу відношень. Знаючи типові особливості кожної шкали, неважко встановити, до якої зі шкал варто віднести матеріал.

Шкала найменувань (номінальна). До цієї шкали відносяться матеріали, у яких досліджувані об'єкти відрізняються один від одного за їх якістю. У номінальній шкалі різним об'єктам приписуються певні числові чи літерні значення залежно від назв об'єкта. При цьому здійснюється реєстрація і підрахунок об'єктів з цією ознакою. Віднесені до шкали найменувань об'єкти можна розміщати в будь-якій послідовності залежно від мети дослідження.

З такою шкалою проводити деякі математичні операції некоректно. Визначати можна відсоткові відношення та знаходити таку міру центральної тенденції, як мода. Мода – це значення змінної, яке найчастіше зустрічається у сукупності (вибірці).

Порядкова (ординарна) шкала використовується у тому випадку, коли певна ознака може проявлятись у більшій або меншій мірі, але важко сказати наскільки. Тобто одиниця вимірювання не є величиною постійною. За цією шкалою можна здійснити упорядкування об'єктів за величиною певної ознаки (наприклад, концентрації речовин).

Якщо в шкалі найменувань розміщення досліджуваних об'єктів практично не грає ніякої ролі, то в шкалі порядку – це видно з її назви – саме на цю послідовність спрямовується вся увага.

Для порядкової шкали виконують операції знаходження мір центральної тенденції: моди і медіани. Медіана  – це значення, яке ділить навпіл упорядковану множину змінних. Для того, щоб знайти медіану, треба спочатку упорядкувати отримані результати і знайти те значення, яке знаходиться посередині. Якщо кількість значень змінної парна, то медіана дорівнює півсумі двох значень, що розташовані посередині ряду. Наприклад: 1 2 2 3 3 3 4 4 4 4 5 5. Середина ряду знаходиться між 3 і 4, тому Ме = 3,5.

Окремим випадком порядкової шкали є рангова шкала, яка передбачає приписування об'єктам певних числових значень (рангів) на основі їх упорядкування за ступенем прояву певної ознаки. До того ж необхідно дотримуватися таких вимог: кількість рангів має дорівнювати кількості об'єктів; однаковим об’єктам приписуються однакові ранги.

Інтеpвальна  шкала, в якій одиниця вимінювання стала. Нею передбачається порівняння величини досліджуваної ознаки з певним стандартним інтервалом, який приймають за одиницю міри (маса викиду; об’єм викиду, скиду).

Крім того, може застосовуватись шкала відношень (раціональна), якою передбачається співвіднесення величини ознаки з інтервалом можливих її значень. Така шкала має певне нульове значення. Для такої шкали визначаються всі основні міри центральної тенденції: мода, медіана і середнє арифметичне (математичне очікування).

Варіаційний ряд. Під час обробки експериментальних даних у процесі систематизації результатів масових спостережень результати об’єднують в окремі однорідні групи за конкретними ознаками. Таке об’єднання називають групуванням. Групування за ознаками не є суто технічним заходом, а має осмислене спрямування на встановлення певних зв’язків між явищами. Групування повинно відповідати вимогам поставлених завдань і відповідати змісту досліджуваного явища. Найрозповсюдженішою формою групування є складання таблиць.

Особливе місце серед групування належить варіаційним рядам. Варіаційний ряд, або ряд розподілу – це подвійний ряд чисел, який показує, як числове значення ознаки пов’язано з їх повторенням у конкретній статистичній сукупності.

Варіаційний ряд

Значення ознаки	6	7	9	10	11	12	13	14
Кількість варіантів	1	1	2	4	4	6	1	1

Розміщення ряду варіантів у порядку збільшення або зменшення називається ранжуванням. Ранжування дає можливість визначити, що число значень зустрічається неоднакову кількість раз.

Результатом первинних спостережень є варіаційний ряд, або ряд розподілу. У варіаційному ряду вказують можливі значення варіюючої оз­наки у порядку збільшення або зменшення та відповідні їх частоти. Впо­рядковане розташування даних показує зміну ознаки від мінімального до максимального значення.

У процесі складання варіаційного ряду необхідно визначати мінімальну і максимальну варіанту, розмах варіювання, число груп і їх інтервал, початок і кінець групового інтервалу, розподіляти всі варіанти вибірки за групами.

Показником мінливості є ліміт (розмах варіювання) – мінімальне і максимальне значення ознаки у сукупності. Чим більша різниця між ни­ми, тим мінливіша ознака. Графічно варіаційний ряд зображають у вигляді ступеневої кривої, яка називається гістограмою. Числа, які показують скільки разів окремі варіанти повторюються у сукупності, називають частотами варіант і позначають f. Загальна сума частот варіаційного ряду дорівнює обсягу сукупності, тобто , де – сума частот варіаційного ряду від першого (і=1) до К класу; n – кількість спостережень або обсяг сукупності.

Статистичні показники сукупності визначаються середніми величинами (середнє арифметичне, середнє геометричне, мода і медіана) і показниками мінливості ознаки (ліміти, середнє квадратичне відхилення, дисперсія, коефіцієнт варіації).

Усі ознаки в екології варіюють, їх можна безпосередньо виміряти. Ознаки поділяють на кількісні і якісні. Кількісні ознаки можна безпосередньо виміряти або порахувати. Їх поділяють на мірні і рахункові. Мірні ознаки варіюють безперервно, їх величина визначається у певних межах – від і до і мають числові значення. Рахункові ознаки варіюють перервно або дискретно, їх числове значення визначають лише цілими числами. Якісні ознаки не зазнають безпосереднього вимірювання і враховуються за наявністю їх властивостей в окремих членів групи.

Кількісні ознаки розподіляються у варіаційний ряд, якісні не розподіляються. Величина будь-якої варіюючої ознаки є перемінною випадковою величиною. Постійні величини позначають початковими літерами латинського алфавіту, а перемінні величини – останніми великими літерами латинського алфавіту X, Y, Z, а їх числові значення (варіанти) відповідно малими літерами: х1, х2, х3, .... ,хn, або у1, у2, у3, .... уn. Загальне значення будь-якої варіанти позначають хi, уi, де індекс вказує на загальний характер варіанти (дати).

Різниця між результатами вибіркових вимірювань і дійсно існуючими значеннями вимірюваної величини називається похибкою.

Варіаційні ряди і їх графічне зображення дають наочну уяву про варіювання ознак, але цього недостатньо для повного опису варіаційних об'єктів. Для цієї мети існують теоретично обґрунтовані статистичні по­казники – середні величини і показники варіації.

У дослідженнях використовують малі (n < 30) і великі (n > 30, n – число досліджень) вибірки. Для малих і великих вибірок обчислюють основні статистичні характеристики: середня арифметична ( ), дисперсія (S²), стандартне відхилення (S), похибка середньої арифметичної (S ), ко­ефіцієнт варіації (V), відносна похибка (S , %). Кожна середня арифме­тична величина має інтервальну оцінку.

Статистична обробка варіаційного ряду. Групування даних варіаційного ряду проводиться у такій послідовності:

1. Визначається розмах варіювання результатів вимірювання

.

2. Встановлюється число груп і розмір інтервалу групування (і = R :k).

3. Підраховується число даних, які відповідають за своїм значенням кожному інтервалу групування, результати заносять до таблиці.

Графічне зображення варіаційного ряду називається кривою розподілення чи варіаційною кривою.

Ступінчатий графік у вигляді стовпчиків з висотою, пропорційною частотам, і шириною, яка дорівнює інтервалам класів, називається гістограмою, з неї, з'єднавши лінією середні значення груп, одержують криву розподілення. Висота графіка повинна відноситись до його ширини як 5:8.

Тенденція значень ознаки групуватися навколо центра розподілення частот, статистичною характеристикою якого є середня арифметична ( ), називається центральною тенденцією.

Основними статистичними характеристиками кількісної мінливості є середня арифметична ( ), зважена середня арифметична ( ), дисперсія чи середній квадрат або , стандартне відхилення ( ), абсолютна помилка середньої арифметичної ( ), відносна помилка середньої арифметичної ( ), коефіцієнт варіації ( ).

Для альтернативної якісної мінливості , де р і q – ознаки, виражені в частках одиниці чи відсотках; коефіцієнт варіації якісних ознак ; помилка вибіркової частки , де S_p – показник мінливості якісної ознаки; п – обсяг вибірки.

Генеральна сукупність кількості об’єктів, які потрапили у вибіркову сукупність, називають обсягом вибірки. Необхідно на основі результатів досліджень вибіркової сукупності отримати досить правильні результати і дати висновки, які б відповідали генеральній сукупності загалом. Необхідно визначити, з якої сукупності визначатиметься обсяг вибірки. Обсяг вибірки тісно пов'язаний з похибкою досліду. Цей висновок підтверджується такими формулами:

для кількісних змін ;

для якісних змін ,

де S – середня похибка вибіркової середньої; Sp – похибка частки вибірки; S – стандартне відхилення; t – теоретичне значення критерію Стьюдента; p і q – частки ознаки; n – обсяг вибірки. Значення t залежить від вибіркового рівня ймовірності (t=2 для 95% і t=3 для 99% рівня).

Обсяг вибірки з необмеженої сукупності, якої достатньо для досягнення певної точності середньої, знаходять за такими формулами:

для кількісної зміни ;

для якісних змін .

Середня арифметична ( ). На відміну від індивідуальних числових характеристик середні величини характеризуються більшою стійкістю, здатні характеризувати цілу групу однорідних одиниць одним (середнім) числом. Значення середніх дає змогу мати уяву про найбільш типове і постійне, що характеризує якісну однорідність варіюючого об'єкта і дає можливість розрізняти один об'єкт від іншого. Середні величини позна­чають тими малими літерами, що й варіанти. Над літерою, яка позначає середню величину, ставлять риску.

Середню арифметичну обчислюють за формулою:

;

де x_i – значення варіант; – знак сумації варіант у межах від першого (x₁) до n-ої варіанти; n – кількість варіант (спостережень).

Середня арифметична характеризує центр нормального розподілу. У кривій нормального розподілу місце середньої арифметичної визначається найбільшою ординатою, яка ділить на дві рівні частини площу, що обмежується кривою і віссю абсцис.

Оскільки середня генеральної сукупності (М) здебільшого не відо­ма, то середня арифметична вибіркових спостережень фактично харак­теризує М. Тому завданням статистичного аналізу є визначення ступеня вибіркової середньої до середньої генеральної сукупності.

Середня арифметична має ті самі найменування, що й варіююча оз­нака і обчислюється на основі всіх значень ознаки. Якщо кожне значен­ня варіюючої ознаки дано у варіаційному ряді не одним, а кількома спо­стереженнями, то формула для обчислення середньої арифметичної ма­тиме такий вигляд:

,

де f1 і f2 – частоти, що відповідають окремим значенням Х.

Ця середня арифметична називається зваженою.

Алгебраїчна сума всіх відхилень варіант від середньої арифметичної дорівнює нулю (ΣХ=0). Сума квадратів відхилень окремих варіант від середньої арифметичної завжди буде менша суми квадратів відхилень від будь-якої іншої величини, хоча і дуже близької за своїм значенням до , тобто ΣX2< Σ(Х-А)2, де А – будь-яка величина, більша або менша .

Властивості середньої арифметичної дають змогу застосовувати під час обробки багаточисельних згрупованих вибірок спосіб «довільного початку». Цей спосіб ґрунтується на тому, що одне із значень варіюючої ознаки, яке знаходиться у центрі розподілу, умовно приймають за середнє і позначають літерою А. Інші значення виражають у вигляді відхилень від А в одиницях інтервалу. Замість А беруть

а=(Х+А):і;

де А – довільний початок; і – величина інтервалу.

Для визначення середнього темпу приросту досліджуваної ознаки за окремі рівновеликі періоди спостережень або середній темп за весь період розвитку використовують середню геометричну ( г):

,

де х1, х2,…хn – прирости за окремі періоди; ПХ – добуток усіх часткових приростів; n – кількість періодів.

Якщо n > 2, застосовують логарифмування, і формула набуває такого вигляду:

Середню геометричну можна визначити на основі даних вимірювань у першій і останній періоди за формулою:

,

де хn – значення останнього періоду; х1 – значення парного спостереження.

Формула середньої може бути записана у загальному вигляді:

,

Грецька літера Σ вказує на необхідність сумації всіх значень yi. Індекс, який стоїть біля знаку сумації i=1N означає, що значення уі починається від у1 і закінчується уn.

Однією з основних статистичних гіпотез є так зва­на нульова гіпотеза Н0, її використовують для оцінки результатів дослідів. Логічним змістом цієї гіпотези є припущення, що реальні різниці між фактичними спостереженнями і тими, що перевірялись, теоретично відсутні. Нульову гіпотезу не відкидають тоді, коли вірогідність випадко­вого походження між сукупностями достатньо велика.

Прийняття Но-гіпотези означає, що дані не протирічать положенню про відсутність різниць між фактичними і теоретичними або двома ряда­ми фактичного розподілу. Нульова гіпотеза відкидається за незначної ймовірності, якщо розходження викликане випадковими причинами. Як­що вибірка зроблена з нормально розподіляємої сукупності з парамет­рами Мх і σх, а інша – з сукупності з параметрами Му і σу, то нульова гіпо­теза випливає з того, Мх = Му і σх = σу, тобто Мх – Му = 0 і σх – σу =0.

Альтернативна гіпотеза випливає з передбачення, що Мх-Му ≠ 0 і σх – σу ≠ 0.

Для перевірки прийнятої нульової гіпотези, тобто достовірної оцінки параметрів вибіркових даних, використовують величини, функції розподілу яких відомі. Ці величини називають критеріями ймовірності. Критерії ймовірності дають змогу в кожному конкретному випадку встановити відповідність вибіркових показників прийнятій гіпотезі.

Рівень значущості або ймовірність похибки, яка приймається для оцінки прийнятої гіпотези, може відрізнятися. Звичайно, під час перевірки статистичних даних у гіпотезах приймаються три рівні значущості: 5% (ймовірність оцінювання похибки Р=0,05), 1% (Р=0,01) і 0,1% (Р=0,001).

У екологічних дослідженнях достатнім вважається 5% рівень значущості. При цьому нульову гіпотезу не відкидають, якщо внаслідок досліджень встановлено, що ймовірність оцінки похибки відносно правильно прийнятої гіпотези перевищує 5%, тобто Р>0,05. Якщо Р<0,05, то прийняту гіпотезу слід відкинути на прийнятому рівні. При цьому похибка можлива не більш, ніж у 5% випадках, тобто вона малоймовірна.

Об'єктам екологічних досліджень властива мінливість ознак і властивостей у часі та просторі. Ця мінливість вияв­ляється у вигляді розсіювання значень окремих ознак у межах, які визна­чаються ступенем біологічної вирівняності об'єкта досліджень і характе­ром взаємодії з навколишнім середовищем.

За допомогою статистичного аналізу оцінюють ступінь розсіювання і дають інтерпретацію результатам досліджень. Дисперсія (S2) і стандар­тне відхилення S є основними показниками варіації, розсіювання до­сліджуваної ознаки.

Для характеристики ступеня варіювання відхилення окремих варіант від середньої арифметичної підносять до квадрата. При цьому всі знаки будуть додатними, а сума їх – позитивною величиною. Крім того, під час піднесення до квадрата і додавання відхилень, які далі від середнього, отримують відносно великі додатки, внаслідок чого сума квадратів відхилень за однієї і тієї самої кількості спостережень буде тим більша, чим більше розсіювання експериментальних даних.

Щоб елімінювати вплив об'єму сукупності, суму квадратів ділять на число спостережень. Отриманий середній квадрат відхилень від середньої арифметичної називають дисперсією, або розсіюванням. Дисперсія – частка від ділення суми квадратів відхилень (X - )2 на кількість всіх вимірювань без одиниці (п-1):

.

Стандартне відхилення і дисперсію відповідно для вибірки познача­ють S і S², для сукупності відповідно як σ і σ².

Під час обчислення вибіркової сукупності знаходять оцінку генеральної дисперсії S², яка більше або менше наближається до σ². Добуваючи корінь квадратний з σ², знаходять показник варіювання, який називається середнім квадратичним відхиленням.

Формула обчислення S як міра розсіювання має такий вигляд:

,

де X – значення варіюючої ознаки; – середнє арифметичне; n – еількість спостережень.

Показник “n-1” називають “кількістю степенів вільності” і позначають літерою ν (ню), ν = n-1, де n – кількість спостережень. Кількість степенів вільності або кількість степенів варіації – це кількість вільно варіюючих величин у сукупності. Введення кількості степенів вільності зумовлюється тим, що під час обчислення середньої арифметичної всі спостереження беруть участь у її утворенні і тому незалежні один від одного. Якщо обчислюють середнє відхилення, то кількість незалежних величин буде не n, a n -1, оскільки кожне з відхилень визначається величиною всіх останніх і кількість дорівнює їх сумі, взятих із протилежним знаком.

За великої кількості спостережень величина ν мало впливає на вели­чину дисперсії. Тому за ν ≥ 20 ... 30 приймають, що ν= n. Тоді:

.

Частота виявлення певних значень ознаки у сукупності називається розподілом. Розрізняють емпіричний і теоретичний розподіл. Емпіричний розподіл отримують внаслідок практичного вивчення вибірки. Теоретичний розподіл передбачає розподіл вимірювань на основі теорії ймовірності. До теоретичного розподілу належать нормальний розподіл, розподіл Стьюдента (t-розподіл), F – розподіл, розподіл Пуассона, χ² – розподіл Пірсона, біномінальний. Велика кількість паралельних спостережень дає можливість отримати криву нормально­го розподілу або криву Гаусса.

Під час розподілу нескінченно великої кількості паралельних спостережень навколо істинного значення, величина якого відповідає середній арифметичній ( ), більша частина відхилень розміщена ближче до середньої арифметичної. Площа, обмежена віссю абсцис і кривою розподілу, за будь-яких значень середньої арифметичної ( ) і середнього квадратичного відхилення (σ) дорівнює одиниці, або 100%. Підрахунки показують, що в межах від -σ до +σ знаходиться 68,3% варіант, а за цими межами знаходиться 31,7% усіх варіант.

У межах від -2σ до +2σ знаходиться 95,5%, а за межами – лише 4,5% усіх варіант; у межах від -3σ до +3σ знаходиться 99,7% варіант (99,7% свідчить про те, що практично всі варіанти знаходяться у цих ме­жах). Вірогідність зустріти варіанту, яка відхиляється від на величину більшу, ніж ±3σ, становить близько 0,3%.

Потроєне значення стандартного відхилення прийнято вважати гра­ничною похибкою окремого дослідження. Отже, майже всі значення варіант у варіаційному ряду знаходяться в межах ±3σ .

В межах ± s знаходиться 68,3% усіх спостережень, в межах ± 2σ – 95,5%, в межах ± 2σ – 99,8% усіх спостережень. Площа під кривою, яка знаходиться на t стандартних відхилень вліво і вправо від , називають рівнем ймовірності і виражають у відсотках ймовірності або в частках одиниці.

На основі цієї закономірності можна обчислити вірогідність відхилень будь-якої варіанти від середньої арифметичної.

У дослідах використовують рівень довірчої вірогідності, що дорівнює 0,95 і записується як Р_0,95, або Р_0,99 для рівня довірчої вірогідності 0,99. Рівень довірчої вірогідності Р_0,95 означає, що на цьому рівні дослідник, стверджуючи чи заперечуючи в досліді будь-яке явище або положення, ризикує помилитися 5 раз на 100 випадків. У польових дослідах найбільш прийнятною вважають довірчу вірогідність Р_0,95. Іноді замість рівня довірчої вірогідності використовують рівень значущості Р, який обчислюють за формулою Р = f – Р. Рівень значущості записують символом P₀₅ або Р₀₁.

Довірчий інтервал – величина, яку відкладають по обидва боки вибіркової середньої . Вона обмежує можливі границі коливань вибіркової середньої навколо генеральної середньої М.

Надійність – це ймовірність Р справедливості нерівності ( ) ≤ А, тобто вірогідність того, що дійсне значення потрапить в інтервал ( +А).

У екологічних дослідженнях допустимі величини Р становлять 0,90 – 0,95, а довірчий інтервал оцінюють у 5-10% вибіркової середньої.

Для отримання представницької середньої треба довести, що генеральна середня сукупності з вірогідністю 0,90-0,95 лежить в інтервалі (М ± (0,05+0,1 ) ). Вибравши довірчий інтервал Δ і довірчу вірогідність Р, експериментатор проводить серію досліджень (n=10, 20,...) і після їх виконання оцінює результати, використовуючи з теорії малих вибірок такі формули:

; ;

; .

Вирахувавши критерій довірчості різниці t та знаючи кількість дослідів п, за таблицею Стьюдента-Фішера знаходять величину F. Якщо F_ф, більше F заданого, вважають, що мета досягнута і вибіркова М статистично значуща. Такий спосіб дає можливість проводити дослідження і проводити їх математичну обробку результатів.

Нормування параметрів під час переходу від фізичного змісту до без­розмірних величин спрощує систему розрахунків. Записують експериментальні дані у вигляді (функціональної залежності y=f(z₁, z₂,… z_n). Ділять досліджувану область зміни параметра z на К частин:

(А)

вводять відносні величини , де z_jмін ≤ z_jH ≤ z_jмакс.

Якщо в досліді вважають однаково інтересною всю досліджувану ділянку параметра z_j і немає потреби виділяти конкретну величину z_j, то як початкову z_jH беруть середню точку .

Початковою цю середню величину називають тому, що від неї можна робити кроки у два боки, і її приймають за умовний нуль. Згідно з (А) х_j, відповідно z_jH дорівнює .

Отже, замість істинної величини z_j вводять її нормоване відхилення х_j, а залежність y=f(z₁, z₂,...z_n) замінюють виразом y=f(x₁,x₂,...x_n).

Протилежний перехід до дійсних параметрів здійснюють після отримання коефіцієнтів залежності y=f(x₁,x₂,...x_n). Після перетворення:

z_j=z_jH+x_jΔz_j.

У дослідах параметри найкраще змінювати цілими кроками (х_j = ±1; ±2; ±3), що відповідає дійсній зміні параметрів:

z_j1 =z_jH+Δz_j ; z_j(-2) =z_jH – 2zΔ_j.

У процесі досліджень зустрічаються з різною мінливістю. Ступінь мінливості ознак характеризується варіюванням. Коефіцієнт варіації (V) виражають у відсотках. Він показує відношення стандартного відхилення S до середньої арифметичної ( ):

.

Варіювання вважають незначним, якщо коефіцієнт варіації перебу­ває в межах до 10%, середнім – в межах 10-20%, значним – понад 20%.

Похибку коефіцієнта варіації обчислюють за формулою .

Величина коефіцієнта похибки має ті самі одиниці, що й досліджуваний показник.

Похибка вибіркового спостереження. Вибірку характеризують і S. Параметри і їх оцінювання, зазвичай, не збігаються. Це пов'язано з похибками методу відбору вибірки і похибками під час вимірювання досліджуваної ознаки.

Похибку вибіркової середньої (S ) обчислюють за формулою , а похибку вибіркової середньої арифметичної за великої кількості спостережень (n>30) обчислюють за формулою .

Стандартна похибка є показником найбільшої вірогідної середньої похибки окремого одиничного спостереження, взятого з цієї сукупності.. Його називають основним відхиленням варіаційного ряду. Похибку стандартного відхилення обчислюють за формулою .

Порівняння середньої арифметичної зі своєю похибкою дає певну уяву про точність визначення. Важче зробити висновок про ступінь наближення до М, якщо середні відрізняються одна від одної, або коли порівнюють різнорозмірні величини. Ці труднощі частково вирішуються під час визначення похибки середньої арифметичної або показника, який називають “точністю досліду”. Обчислюють точність досліду (S ) нe для окремих середніх, а для досліду загалом. Дослід вважають достатньо точним, коли (S ) менша 2%, добрим – 2-3%, задовільним – 3-5%. Часто досліди, які мають відносно більшу похибку, дають більш цінні результати для науки й особливо практики, ніж ті, що характеризуються високою точністю.

Довірчий інтервал для генеральної середньої величини. За величи­ною відомих вибіркових характеристик можна знайти інтервал, в якому з тою чи іншою ймовірністю знаходиться генеральний параметр. Рівень ймовірності (Р) визначають за формулою P=n/N, де n – кількість випадків; N – кількість усіх можливих випадків. Події, ймовірність яких становить >1/2, є ймовірними, а менше 1/2 – малоймовірними. Ймовірність, яка дорівнює 1, називається достовірна. Ймовірність означає, на скільки справедливе твердження, на підставі якого можна очікувати будь-яку по­дію. Вона вказує на можливість подій, але не вказує, наступила ця подія чи ні. Ймовірність часто порівнюють з вірогідністю, однак вірогідність будь-якої події означає обов'язкове її здійснення. Ймовірність, яка визна­на достатньою для цього судження про генеральні параметри на основі відомих вибіркових показників, називають довірчою. Малоймовірні події вважають практично неможливими, а події, ймовірність яких близька до одиниці, вважають вірогідними. Вибір тієї чи іншої межі довірчої ймовірності дослідник здійснює, виходячи з відповідальності за висновки.

У процесі проведення екологічних досліджень мінливості під впли­вом зовнішніх умов можуть бути випадковими або невипадковими. Невипадкові мінливості виходять за межі можливих відхилень вибіркових спостережень. Ці обставини дають можливість кожного разу визначити вірогідність появи як випадкових, так і невипадкових подій.

Величину 1-Р називають рівнем суттєвості, або рівнем значущості. Вона вказує на ймовірність, з якою гіпотеза, що перевіряють, може дати похибки результатів. У масових дослідженнях достатнім рівнем значу­щості вважають 0,05, або 5% рівень, у більш точних дослідженнях – 0,01, або 1% рівень.

У масових дослідах достатнім рівнем вірогідності є Р=0,95. За тако­го рівня вірогідність вважається достатнім підтвердженням суттєвості висновків у 95 випадків із 100. Вірогідності, які вважаються достатніми для оцінювання результатів дослідів, називають довірчими. Зазвичай, як довірчі вірогідності використовують Р₁ =0,95; Р₂=0,99 і Р₃=0,999. Це озна­чає, що під час оцінювання генеральних параметрів за відомими вибірковими показниками існує ризик помилитися у першому випадку один раз на 20 випробувань, у другому – один раз на 100 випробувань і в третьому – один раз на 1000 випробувань.

Довірчим вірогідностям відповідають такі нормовані відхилення: Р₁=0,95 відповідає t₁ = 1,96; Р₂=0,99 відповідає t₂=2,58; Р₃=0,999 відповідає t₃=3,29.

Для великої кількості вибірок t-розподіл середньої арифметичної за­писують у такому вигляді:

.

Звідси генеральна середня М знаходиться в інтервалі .

Величини і визначають за вибіркою, a t залежить лише від однієї з трьох значень довірчої вірогідності 0,95; 0,99; 0,999 і набуває величини 1,95; 2,58; 3,29.

У практиці досліджень вважають за доцільне використовувати ймовірність 0,95-95% і 0,99-99%, якій відповідають 0,05-5% і 0,01-1% рівень значущості. Ці вірогідності називають довірчими. Тому за вірогідності 0,95-95% можливість зробити похибку становить 0,05-5% або один шанс на 20; за вірогідності 0,99-99% – відповідно 0,01-1% або один шанс на 100. Вірогідність 0,95-95% і рівень значущості 0,05-5% вважають цілком об'єктивним у дослідженнях.

Під час аналізу вибірок не можна застосовувати закон великих чисел. У таких випадках використовують t-розподіл Стьюдента. Критерій Стьюдента придатний для парних порівнянь. Він дає можливість порівнювати дві середні арифметичні, два коефіцієнти кореляції.

Методи статистики дають змогу визначити межі, у яких знаходиться величина М, тобто довірчий інтервал для середньої генеральної сукуп­ності. Різниця між вибірковою і генеральною середньою може бути будь-якою величиною. Межі розходження між М і обмежені і визначаються з одного боку ступенем варіювання експериментальних даних, а з іншого рівнем вірогідності, з якою визначають довірчий інтервал.

Залежність між і М можна записати так:

,

де - М – відхилення вибіркової від середньої генеральної сукупності М; (величину t вимірюють відхиленням вибіркової середньої від се­редньої генеральної сукупності М, вираженої як частка похибки вибірки S , прийнятої за одиницю). Величина t дає змогу визначити інтервал середньої генеральної сукупності М і перевірити ту чи іншу гіпотезу щодо генеральної сукупності. При цьому знати показники генеральної сукупності М і σ не обов'язково, достатньо мати їх оцінки і S для обсягу вибірки п. Після перетворень наведеної вище формули .

Довірчий інтервал передньої генеральної сукупності визначають за допомогою рівняння .

Спрощену формулу записують так: ,

де – гранична похибка вибіркової середньої за цього числа ступенів свободи і прийнятого рівня значущості. Значення t знаходять за таблицею Стьюдента для різних рівнів значущості (табл. 4.3).

Граничні точки інтервалу – початок і кінець називають довірчими границями. Математично довірчий інтервал для генеральної середньої записують таким чином:

або ,

де - гранична похибка вибіркової середньої за цього числа ступенів свободи і прийнятого рівня значущості.

Величина, яка показує межу граничних випадкових відхилень, називається найменшою істотною різницею. Її скорочено позначають НІР і визначають за формулою:

НІР= tSd,

де S_d – похибка різниці середніх. НІР величина, яка вказує межу можливого випадкового відхилення у досліді за прийнятого числа сту­пенів свободи і рівня значущості. Якщо різниця між середніми d >HIP, то во­на вважається істотною, Н₀ відкидається; d<HIP не істотна і Н₀ не відки­дається.

НІР величина, яка показує межу граничним випадковим відхилен­ням. Довірчий інтервал для різниці генеральних середніх визначають за співвідношенням:

d-HIP < Д < d + HIP або d ± HIP .

Оцінювання суттєвості різниці вибіркових середніх за t-критерієм. Під час порівняння середніх величин мають на увазі два випадки: 1) порівняння середніх двох незалежних вибірок, коли одиниці спостережень першої вибірки не зв'язані будь-якою загальною умовою з одиницями спостережень іншої вибірки; 2) порівняння двох вибірок, в яких одиниці спостережень першої вибірки пов'язані будь-якою загальною умовою з одним із спостережень іншої вибірки.

Таблиця 4.3