- •Интеллектуальный анализ данных Лабораторный практикум
- •5.05010101 «Обслуживание программных систем и комплексов»
- •Касилов о.В., Компаниец в.А.
- •Содержание
- •Вступление
- •Лабораторная работа № 1
- •Начало работы с системой Deductor Studio 5 .2
- •Мастер импорта;
- •Сценарии
- •Базовые визуализаторы
- •Построение многомерной диаграммы
- •Работа с визуализатором Таблица
- •Очистка данных
- •Парциальная предобработка
- •Редактирование аномальных значений
- •Спектральная обработка (сглаживание)
- •Факторный анализ
- •Корреляционный анализ
- •Дубликаты и противоречия
- •Лабораторная работа № 2 трансформация данных
- •Разбиение даты
- •Преобразование данных к скользящему окну
- •Группировка данных
- •Слияние данных
- •Квантование
- •Настройка набора данных
- •Фильтрация данных
- •Сортировка, замена значений
- •Замена значений
- •Кросс-таблица
- •Свёртка столбцов
- •Вопросы для проверки
- •Лабораторная работа № 3 работа с хранилищем данных
- •Рассмотрим пример проектирования структуры хд
- •Создание нового хранилища данных
- •Настройка подключения хранилища данных
- •Проектирование структуры хранилища данных
- •Наполнение хранилища данных
- •Извлечение информации из хранилища данных Импорт из процесса
- •Импорт из измерения
- •Кубы в Deductor Warehouse
- •Самостоятельная работа по созданию хранилища данных
- •Вопросы для проверки
- •Лабораторная работа № 4
- •Многомерный анализ данных при помощи встроенного в Deductor olap модуля.
- •Добавление новых данных в хд
- •Получение olap-отчетов
- •Формирование отчета по объемам продаж за последние четыре месяца по товарным группам
- •Манипуляции с измерениями
- •Формирование отчета по каждой аптеке за каждый месяц
- •Фильтрация
- •Построение аналитической отчетности
- •Самостоятельная работа по созданию кросс-таблицы и кросс- диаграммы
- •Вопросы для проверки
- •Лабораторная работа № 5
- •Узел Калькулятор
- •Задание
- •Проведение abc-анализа
- •Суть метода
- •Алгоритм авс-анализа
- •Выполнение abc-анализа
- •Stat("ИмяСтолбца";"Тип")
- •CumulativeSum("ИмяПоля"; ["ИмяПоляГруппы"])
- •Проведение xyz-анализа
- •Суть метода
- •Алгоритм xyz-анализа
- •Выполнение xyz-анализа
- •Проведение abc-xyz-анализ
- •Суть метода
- •Выполнение abc-xyz -анализа
- •Вопросы для проверки
- •Лабораторная работа № 6
- •1. Логистическая регрессия и roc-анализ
- •Деревья решений
- •Прогнозирование с помощью линейной регрессии
- •Прогнозирование с помощью построения пользовательских моделей
- •Лабораторная работа № 7 искусственные нейронные сети
- •1. Искусственные нейронные сети
- •Пример работы многослойного персептрона
- •Аппроксимация многомерных функций
- •Лабораторная работа № 8
- •Кластеризация с помощью алгоритма k-means
- •2. Сегментация клиентов телекоммуникационой компании с использованием карт Кохонена
- •Кластеризация при равном весе входных атрибутов
- •Кластеризация при различных весах входных атрибутов. Акцент на выделении кластера Активная молодеж ь
- •Кластеризация при ограничении набора входных атрибутов. Акцент на выделении кластера Активная молодеж ь
- •Лабораторная работа № 9 ассоциативные правила
- •Алгоритм поиска ассоциативных правил
- •Создание ассоциативных правил для анализа покупательских корзин для стимулирования спроса
- •Интерпретация ассоциативных правил
- •Полезные советы:
- •4. Визуализатор Что-если в ассоциативных правилах
- •Список литературы
- •Інтелектуальний аналіз даних Лабораторний практикум
Квантование
Квантование предназначено для преобразования непрерывных данных в дискретные. Преобразование может проходить как по интервалам (данные разбиваются на заданное количество интервалов одинаковой длины), так и по квантилям (данные разбиваются на интервалы разной длины так, чтобы в каждом интервале находилось одинаковое количество записей). В качестве значений результирующего набора данных могут выступать номер интервала, нижняя или верхняя граница интервала, середина интервала либо метка интервала (значения определяемые аналитиком).
Примером использования данного инструмента может служить разбиение данных о возрасте кредиторов на 5 интервалов (до 30 лет, от 30 до 40, от 40 до 50, от 50 до 60, старше 60 лет). Исходные данные распределятся по пяти интервалам именно так, поскольку согласно статистике минимальное значение возраста кредитора 19, а максимальное – 69 лет. Это необходимо аналитику для оценки кредиторской активности разных возрастных групп с целью принятия решения о стимулировании кредиторов в группах с низкой активностью (например, уменьшение стоимости кредита для этих групп), и, быть может, увеличение прибыли в возрастных группах кредиторов с
высоким риском (путем предложения дополнительных платных услуг). Причем аналитик желает видеть данные в разрезе по неделям.
Воспользуемся данными, полученными при разбиении даты файла Credit.txt (ветка сценария Иванов. Преобразование даты из файла L2_1.ded).
Определить какие суммы кредитов берут кредиторы определенных возрастных групп по неделям.
Для обработки данных воспользуемся Мастером квантования
(рис. 2.15).
Рисунок 2.15 – Мастер обработки Квантование
В нем выберем назначение поля Возраст – используемым, укажем способ разбиения – По интервалам, зададим количество интервалов равное 5, в качестве значения выберем Метка интервала (рис. 2.16).
На следующем шаге Мастера определим сами метки соответственно возраста кредиторов: до 30 лет, от 30 до 40 лет и т.д. (рис. 2.17).
После обработки выберем в качестве способа отображения Куб. В Мастере укажем Сумма кредита в качестве факта, поля Возраст и Дата кредитования (Год + Неделя) в качестве измерения, остальные поля укажем неиспользуемыми.
Рисунок 2.16 – Настройка параметров квантования
Рисунок 2.17 – Выбор границ и меток интервалов квантования
Далее перенесем Возраст из доступных измерений в Измерения в строках, a Дата кредитования (Год + Неделя) в Измерения в столбцах (рис. 2.18).
Рисунок 2.18 – Результат обработчика Куб
На кросс-диаграмме теперь видна информация о том, какие суммы кредитов берут кредиторы определенных возрастных групп по неделям.
Результат сохранить в том же файле L2_1.ded.
Настройка набора данных
Обработчик Настройка набора данных предназначена для изменения имени, метки, типа, вида и назначения полей текущей выборки данных и кэширования выходного набора.
У каждого поля можно изменить метку столбца, которая будет использоваться для дальнейшей работы в программе. Если в текущей выборке данных поле имеет имя Name, ему можно задать метку Наименование, что гораздо удобнее при дальнейшем отображении этого поля в таблицах или диаграммах.
Изменение имени поля удобно в тех случаях, когда имена столбцов могут измениться в источнике данных или при перенастройке узлов верхних уровней. В этом случае в узле Настройка набора данных имя исходного столбца заменяется другим, на которое и настраиваются все дочерние узлы. После такой операции изменение имен полей на верхних уровнях не потребует перенастройки всех дочерних узлов в дереве сценариев.
Далее каждому полю можно изменить тип:
Логический
– данные
в поле
могут принимать
только два
значения
–
0
или
1
(ложь
или
истина).
Дата/время – поле содержит данные типа дата/время.
Вещественный
–
значения
поля
–
числа
с
плавающей
точкой.
Целый
– данные
в поле представляют собой целые числа.
Строковый
– данные
в столбце
представляют
собой строки
символов. Затем
можно
указать
вид
данных.
Непрерывный
– значения
в столбце могут принимать любое
значение
в
рамках
своего
типа.
Обычно
непрерывными
являются
числовые
данные.
Дискретный –
данные в столбце могут
принимать
ограниченное число
значений
(строковые).
Далее
можно изменить назначение полей. В
зависимости от
дальнейшего использования
выборки данных предлагается изменить
текущие
назначения полей
на
следующие:
Непригодное – данные в поле не пригодны для данного способа обработки (программа автоматически указывает полю это назначение). Например, для преобразования даты поле должно иметь тип Дата/время. Если оно будет иметь, например, строковый тип, то программа автоматически укажет для него назначение Непригодное.
Неиспользуемое
– запрещает
использование поля в обработке
данных и исключает
его из выходного набора. В отличие от
непригодного поля
такие
поля
в
принципе
могут
использоваться,
если
в
этом
есть
необходимость.
Ключ
–
поле
будет
использоваться
в
качестве
первичного
ключа.
Входное
– поле
таблицы, построенное на основе
столбца,
будет являться
входным
полем
обработчика
(нейронной
сети,
дерева
решений
и
т.д.).
Выходное
–
поле
таблицы,
построенное
на
основе
столбца,
будет являться выходным
полем обработчика (например, целевым
полем
для обучения нейронной
сети).
Информационное –
поле содержит вспомогательную
информацию, которую
часто полезно отображать, но не следует
использовать
при обработке.
Измерение –
поле будет использоваться
в качестве
измерения в многомерной
модели
данных.
Факт –
значения поля будут
использованы в качестве
фактов в многомерной
модели
данных.
Атрибут –
поле содержит описание
свойств или
параметров некоторого
объекта.
Транзакция –
поле, содержащее
идентификатор
событий, происходящих
совместно (одновременно). Например,
номер чека,
по которому приобретены
товары. Тогда покупка товара –
это событие, а
их совместное
приобретение
по
одному
чеку
–
транзакция.
Элемент
–
поле,
содержащее
элемент
транзакции
(событие).
Для установки первоначальных параметров полей необходимо выделить поле или список полей и нажать на кнопку Сброс параметров.
Настройка набора данных применяется, когда необходимо изменить имя, метку, размер, тип, вид и назначение полей текущей таблицы данных для более удобного дальнейшего использования. Кроме того, в данном обработчике реализован механизм кэширования данных, который позволяет загрузить данные в оперативную память и оптимизировать скорость выполнения сценариев.
Продемонстрируем использование настройки полей, используя данные, полученные после квантования возраста кредиторов на интервалы из предыдущего примера (файл L2_1.ded). Пусть необходимо изменить метку поля Дата кредитования (Год + Неделя) на более информативную при подготовке отчетности – Год и неделя кредитования. Пусть также для дальнейшего использования необходимо использовать поле Срок кредита как дискретное.
Для выполнения настройки в узлу Иванов.Квантование (Возраст) добавим через Мастер обработки ►Трансформация данных ►Настройка набора данных узел Настройка набора данных. В Мастере обработки выделим столбец Дата кредитования (Год + Неделя) и укажем ему новую метку (рис. 2.19)
Рисунок 2.19 – Изменение параметров набора данных
Переместим поля Сумма кредита, Срок кредита, Год и неделя кредитования, Давать кредит и Возраст наверх списка.
В качестве визуализации выбираем представление Куб.
Поля Срок кредита, Год и неделя кредитования и Давать кредит определяем как измерения, поле Сумма кредита – факт, а Возраст – информационное. Остальные поля отмечаем как неиспользуемые.
Измерение Давать кредит является столбцом кросс-таблицы, а измерения Год и неделя кредитования и Срок кредита (в указанной последовательности) – строки (рис. 2.20).
После настройки полей полученный отчет, представленный в виде кросс-таблицы, будет выглядеть следующим образом (рис. 2.21).
Рисунок 2.20 – Настройка назначений полей Куба
Рисунок 2.21 – Отчет Кросс-таблица
Результат сохранить в том же файле L2_1.ded.
