- •Лабораторна робота №1 Інтелектуальний аналіз даних за допомогою програмного пакета weka
- •Регресійний аналіз
- •Створення набору даних для завантаження в weka
- •Файл даних для завантаження в weka
- •Завантаження даних в weka
- •Створення регресійної моделі в weka
- •Інтерпретація результатів регресійного аналізу
- •Готова модель регресійного аналізу
- •Розрахунок вартості будинку на базі готової моделі
- •Модель регресійного аналізу для визначення mpg
- •Обчислення показника mpg
- •Класифікація, кластеризація і метод найближчих сусідів
- •Регресійний аналіз
- •Класифікація
- •Кластеризація
- •Метод найближчих сусідів
- •Класифікація
- •Просте класифікаційне дерево
- •Набір даних для weka
- •Класифікація в weka
- •Результат роботи класифікаційної моделі weka
- •Кластеризація
- •Короткий огляд математичних методів
- •Набір даних для weka
- •Дані для кластерного аналізу засобами weka
- •Кластеризація в weka
- •Результати кластеризації
- •Лабораторна робота №3 Інтелектуальний аналіз даних за допомогою програмного пакета weka. Метод найближчих сусідів. Вступ
- •Метод найближчих сусідів
- •Математичний алгоритм методу найближчих сусідів
- •Математична модель методу найближчих сусідів
- •Набір даних для weka
- •Реалізація методу найближчих сусідів у weka
- •Контрольні запитання
- •Лабораторна робота №4 Знайомство з Statistica. Робота з таблицями даних і побудова графіків
- •Завдання 1. Робота з таблицями
- •Завдання 2. Побудова графіків
- •Завдання 3.
- •Описова статистика
- •Лабораторна робота 6 Лінійна регресія
- •Лабораторна робота №7 Багатофакторна регресія
- •Конторольні запитання
- •Лабораторна робота 8 Нелінійна регресія
- •Лабораторна робота 9 Часові ряди (виділення періодичних складових)
- •Список використаної літератури
Модель регресійного аналізу для визначення mpg
class (aka MPG) =
-2.2744 * Cylinders = 6,3,5,4 + -4.4421 * Cylinders = 3,5,4 + 6.74 * cylinders = 5,4 + 0.012 * displacement + -0.0359 * Horsepower + -0.0056 * Weight + 1.6184 * model = 75,71,76,74,77,78,79,81,82,80 + 1.8307 * model = 77,78,79,81,82,80 + 1.8958 * model = 79,81,82,80 + 1.7754 * model = 81,82,80 + 1.167 * model = 82,80 + 1.2522 * model = 80 + 2.1363 * origin = 2,3 + 37.9165 |
З точки зору виконання обчислень, створення потужних регресійних моделей на базі великих масивів даних, не викликає особливих проблем. Модель для визначення MPG може здатися набагато складнішою, ніж модель для визначення вартості будинку, тим не менш, це не так. Наприклад, перший рядок моделі, -2.2744 * cylinders = 6,3,5,4 означає, що якщо у машини 6-цілінрового двигун, то потрібно в формулу підставити 1, а якщо 8-циліндровий двигун - то 0. Давайте підставимо в модель реальні дані (наприклад, з рядка 10) і перевіримо, наскільки результат обчислень буде відповідати реальному показнику.
Обчислення показника mpg
data = 8,390,190,3850,8.5,70,1,15 class (aka MPG) = -2.2744 * 0 + -4.4421 * 0 + 6.74 * 0 + 0.012 * 390 + -0.0359 * 190 + -0.0056 * 3850 + 1.6184 * 0 + 1.8307 * 0 + 1.8958 * 0 + 1.7754 * 0 + 1.167 * 0 + 1.2522 * 0 + 2.1363 * 0 + 37.9165
Expected Value = 15 mpg Regression Model Output = 14.2 mpg |
Таким чином, при використанні випадково вибраних даних, результат роботи нашої моделі (14.2 MPG) виявився досить близькою до реального показника (15 MPG).
Контрольні запитання
Що таке WEKA?
Метод регресійного аналізу.
Метод найменших квадратів.
Закон нормального розподілу.
Лабораторна робота №2
Інтелектуальний аналіз даних за допомогою програмного пакета WEKA: Класифікація і кластеризація
Вступ
В попередній лабораторній роботі ми отримали загальне уявлення про основні принципи інтелектуального аналізу даних і познайомилися з програмним пакетом Waikato Environment for Knowledge Analysis (WEKA), що дозволяє аналізувати значні обсяги інформації та визначати існуючі в них тренди і залежності. Крім того, ми ознайомилися з одним з методів інтелектуального аналізу даних, а саме регресійним аналізом, за допомогою якого можна спрогнозувати числове значення залежної величини на підставі набору показників незалежних величин.
Метод регресійного аналізу - найбільш простий і найменш ефективний спосіб інтелектуального аналізу даних, проте, побудова моделі регресійного аналізу є дуже зручним прикладом для початку роботи з WEKA, а сам метод наочно демонструє можливості інтелектуального аналізу з витягання придатних до подальшого використання відомостей з великих наборів «сирих» даних.
У цій лабораторній роботі ми ознайомимося з двома іншими методами інтелектуального аналізу даних. За своєю структурою ці методи значно складніші, ніж регресійний аналіз, проте їх використання дозволяє досягти значних результатів. Якщо при використанні регресійного аналізу ви просто отримуєте якесь числове значення, залежне від вхідних параметрів, то застосування двох інших методів дозволить вам по-новому інтерпретувати отримані дані. Завдання інтелектуального аналізу - визначити і побудувати модель, відповідну нашим даним. Наприклад, ми можемо зібрати велику колекцію даних про клієнтів, але якщо у нас немає правильної моделі для інтерпретації цих даних, то вся зібрана нами інформація нічого не варта.
Поглянемо на це питання по-іншому: якби всі використовували тільки регресійний аналіз, то як той чи інший інтернет-магазин зміг би сказати нам: «Покупці, які купили X, також купили і Y»? Числової функції, яка вміла б визначати подібну інформацію, просто не існує. Тому ознайомимося з двома новими методами аналізу і розберемося, яку інформацію ми можемо отримати з їх допомогою.
Тум ми будемо досить часто зустрічати посилання на метод найближчих сусідів без пояснень суті цього методу. Ми більш детально розглянемо його в майбутньому, а поки будемо використовувати його для порівняння при описі методів, розглянутих у цій лабораторній роботі. Порівняльний аналіз цих методів допоможе нам краще зрозуміти їхні можливості.
