- •Создание структуры.
- •Создание модели интеллектуального анализа данных
- •Введение.
- •Методы решения задач Data Mining в Microsoft sql Server.
- •Метод дерева принятия решений.
- •Упрощенный Метод Байеса
- •Метод временных рядов.
- •Метод кластеризации
- •Метод поиска взаимосвязей
- •Метод линейной регрессии.
- •Метод кластеризации последовательностей
- •Метод нейронной сети
- •Области использования рассмотренных алгоритмов.
- •Доступ к средствам sql Server Data Mining из Microsoft Office.
- •Средства анализа таблиц Excel. Инструмент Table Analysis (Анализировать).
- •Инструмент «Анализ ключевых факторов влияния».
- •Инструмент «Поиск категорий».
- •Инструмент Заполнение по примеру (Fill From Example).
- •Инструмент прогнозирования Прогноз
- •Инструмент Выделение исключений
- •Инструмент Анализ сценария.
- •Поиск решения.
- •Анализ гипотетических вариантов
- •Клиент интеллектуального анализа данных для Excel
- •Подготовка данных
- •Просмотр данных.
- •Инструмент Очистить данные
- •Секционирование данных.
- •Панель инструментов Моделирование данных. Классификация.
- •Инструмент «Оценка»
- •Инструмент «Кластеризация»
- •Инструмент Связать.
- •Инструмент Прогноз.
- •Инструмент Дополнительно.
- •Панель Точность и правильность
- •Диаграмма точности.
- •Матрица классификации
- •Литература и источники.
- •Оглавление
- •101990 Москва, Малый Златоустинский пер. 7
- •Введение.
- •Хранилище данных Концепция хранилища данных.
- •Архитектура хранилища данных.
- •Проблемы создания хранилищ данных.
- •Требования к субд и используемые данные.
- •Data Mining или добыча знаний
- •Типы выявляемых закономерностей и этапы решения
- •Обзор используемых методов и алгоритмов
- •Классификация.
- •Кластеризации.
- •Задача ассоциации
- •Визуализация
- •Системы, реализующие Data Mining
- •Система PolyAnalyst
- •Работа с системой PolyAnalyst
- •Задание для самостоятельного выполнения.
- •Нейронные сети. Область применения нейронных сетей.
- •Теоретические аспекты нейронных сетей.
- •Последовательность этапов решения практических задач с использованием нейронных сетей и рекомендации по их проведению.
- •Программные системы для нейросетевого моделирования.
- •Программный пакет BrainMaker Professional.
- •Последовательность работы с пакетом BrainMaker Professional
- •Задания для самостоятельного выполнения:
- •Литература и источники.
- •Кондрашов Юрий Николаевич, Современные технологии интеллектуальной обработки информации.
- •101990 Москва, Малый Златоустинский пер. 7 Язык dmx Концепции языка dmx
- •Создание структуры.
- •Создание модели интеллектуального анализа данных
- •Детализация структуры
- •Детализация модели
- •Запрос значений столбца
- •Запрос содержимого модели
- •1. Витрины данных, как обособленная (специализированная) часть хд
- •2. Витрины данных (вид хд) , как промежуточная часть хд.
- •2. Кубы данных – оперативная аналиическая обработка (olap)
Визуализация
В результате использования визуализации создается графический образ данных (графики, схемы, гистограммы, диаграммы и т.д.). Применение визуализации позволяет в процессе анализа данных увидеть аномалии, структуры, линии тренда, скопления точек и др. и помогает аналитику намного быстрее определить закономерности и прийти к нужному решению.
Главное преимущество визуализации - практически полное отсутствие необходимости в специальной подготовке пользователя. Рассмотрим визуализацию данных на примере графических возможностей системы STATISTICA российской компании StatSoft.
В программном пакете STATISTICA предлагаются разнообразные графические методы, с помощью которых пользователь может запрашивать или самостоятельно организовывать построение графиков. Эти методы, включающие большой набор графиков различных типов, таких как пользовательские, статистические и специализированные, они дополняют друг друга, обеспечивая высокий уровень взаимосвязи между числовыми данными (начальными, промежуточными и конечными) и их графическим представлением. Имеются встроенные аналитические средства, вызываемые из самих графиков (такие как функции подгонки, сглаживание, закрашивание и т.д.), которые можно применить к любому графику.
Широко используются известные гистограммы для изучения распределений частот значений переменных. Такое частотное распределение показывает, какие именно конкретные значения или диапазоны значений исследуемой переменной встречаются наиболее часто, насколько различаются эти значения, расположено ли большинство наблюдений около среднего значения, является распределение симметричным или асимметричным, многомодальным (т.е. имеет две или более вершины) или одномодальным и т.д. Гистограммы также используются для сравнения наблюдаемых и теоретических или ожидаемых распределений.
Гистограмму с двойной осью Y можно считать комбинацией двух по-разному масштабированных составных гистограмм (рис. 20). Для этой гистограммы можно выбрать две различные группы переменных. Для каждой из выбранных переменных будет изображено распределение частот, но частоты переменных из первого списка (называемого Левая ось Y) будут откладываться по левой оси Y, а частоты переменных из второго списка (называемого Правая ось Y) будут откладываться по правой оси Y. Имена всех переменных из двух списков будут внесены в условные обозначения и будут сопровождаться буквами Л или П, обозначающими соответственно левую или правую ось Y.
Рисунок 184
Категоризованные графики. Эти графики представляют собой наборы двумерных, трехмерных, тернарных или n-мерных графиков (таких как гистограммы, диаграммы рассеяния, линейные графики, поверхности, тернарные диаграммы рассеяния и пр.), по одному графику для каждой выбранной категории (подмножества) наблюдений. Эти графики располагаются последовательно в одном графическом окне, позволяя сравнивать структуру данных для каждой из указанных подгрупп (например, городов). Для выбора подгрупп можно использовать множество методов, самый простой из них - это введение категориальной переменной (например, переменной City с значениями New York, Chicago и Dallas, рис. 21).
Рисунок 185
Поддерживается также двухвходовая или многомерная категоризация, где для задания подгрупп используется не один (например, City), а два или более критериев (например, City и Time ). Двухвходовые категоризованные графики можно рассматривать как "таблицы графиков", где каждый входящий график находится на "пересечении" определенных значений первой (например, City) и второй (например, Time) группирующих переменных (рис. 22).
Рисунок 186
Матричные графики также основывается на одном и том же множестве наблюдений, и графики строятся для всех комбинаций переменных из одного или двух списков (рис. 23).
Каждый элементарный график, входящий в состав категоризованного графика, может быть масштабирован в соответствии со своим собственным диапазоном значений (независимые шкалы). Или все графики могут иметь общую шкалу, достаточно широкую, чтобы охватить весь диапазон значений. Общий масштаб позволяет сравнивать диапазоны и распределения значений разных категорий. Однако, если эти диапазоны сильно различаются (что приводит к очень большой общей шкале), то исследование некоторых графиков может быть затруднено. Использование независимого масштаба может упростить выявление трендов и определенных закономерностей внутри категорий, но в то же время затруднить сравнение диапазонов значений разных подгрупп.
Рисунок 187
Двумерные диаграммы рассеяния используются для визуализации взаимосвязей между двумя переменными X и Y и предоставляют гораздо больше информации, чем коэффициент корреляции. На этих диаграммах отдельные точки данных представлены маркерами на плоскости, где оси соответствуют переменным. Две координаты (X и Y), определяющие положение точки, соответствуют значениям переменных. Если между переменными существует сильная взаимосвязь, то точки на графике образуют упорядоченную структуру (например, прямую линию или характерную кривую). Если переменные не взаимосвязаны, то точки образуют "облако" (рис. 24).
Рисунок 188
Категоризованные диаграммы рассеяния представляют собой мощный исследовательский и аналитический метод для изучения взаимосвязей между двумя и более переменными среди различных подгрупп. Можно построить также категоризованные диаграммы рассеяния, сгруппированные по значениям одной или нескольких переменных, или категоризованные по заданным логическим условиям выбора подгрупп наблюдений (рис. 25). На этом графике обе переменные Load 1 и Load 2 сгруппированы в 5 интервалов, и для каждой комбинации этих интервалов вычислено распределение переменной Output.
Рисунок 189
Диаграммы рассеяния с двойной осью Y можно использовать для сравнения структуры нескольких корреляционных зависимостей путем изображения их на одном графике. При этом в силу независимости масштабов, используемых для двух списков переменных, этот график облегчает сравнение переменных, значения которых принадлежат разным диапазонам.
Рисунок 190
Существует также диаграмма рассеяния Вороного. Эта особая диаграмма рассеяния одной переменной является в большей степени аналитическим средством, нежели просто методом графического представления данных. Программа разделяет пространство между точками данных, представленными координатами X, Y в двумерном пространстве (рис. 27). Пространство между отдельными точками данных делится границами на такие области, каждая точка которых находится ближе к заключенной внутри точке данных, чем к любой другой соседней точке данных.
Рисунок 191
К этой диаграмме можно добавлять дополнительные измерения, используя категоризацию (рис. 28).
Рисунок 192
На линейных графиках отдельные точки данных соединяются линиями (рис. 29). Это простой способ визуального представления последовательности значений (например, цены на фондовом рынке за несколько дней торгов). Категоризованные линейные графики строятся в том случае, если необходимо разбить данные на несколько групп (категоризовать) с помощью группирующей переменной (например, цены при закрытии рынка по понедельникам, вторникам и т.д.) или с помощью логических условий, составленных по нескольким переменным (например, цены при закрытии рынка в те дни, когда две другие акции и индекс Доу Джонса выросли по сравнению с другими ценами закрытия).
Рисунок 193
На диаграммах размаха представлются диапазоны значений выбранной переменной (или переменных) для отдельных групп наблюдений. Для выделения этих групп используются от одной до трех категориальных (группирующих) переменных или набор логических условий выбора подгрупп. Для каждой группы наблюдений вычисляется центральная тенденция (медиана или среднее), а также размах или изменчивость (квартили, стандартные ошибки или стандартные отклонения). Выбранные параметры отображаются на графике одним из пяти способов (Прямоугольники-Отрезки, Отрезки, Прямоугольники, Столбцы или Верхние-нижние засечки, рис. 30). На этом графике можно показать и выбросы.
Рисунок 194
Можно выделить два основных направления использования диаграмм размаха: отображение диапазонов значений отдельных элементов, наблюдений или выборок (например, типичные минимаксные графики цен на акции или товары), или отображение изменения значений в отдельных группах или выборках.
Категоризованные круговые диаграммы состоят из нескольких круговых диаграмм, где данные разделены по группам с помощью одной или нескольких группирующих переменных или категоризованы согласно логическим условиям выбора подгрупп (рис. 31).
Рисунок 195
Еще одно очень полезное применение категоризованных круговых диаграмм - это представление относительных частот значений какой-либо переменной в различных "местах" совместного распределения двух других переменных (рис. 32). Круговые диаграммы изображаются только в тех "местах", где имеются данные, и в каждой точке дополнительно показано относительное распределение третьей переменной.
Рисунок 196
На графиках пропущенных значений и данных вне диапазона можно наглядно представить структуру распределения точек данных, содержащих пропущенные значения или находящихся "вне диапазонов", заданных пользователем. При этом строится по одной двумерной диаграмме для каждой группы наблюдений, выделенной с помощью группирующих переменных или подгрупп (рис. 33). Эти типы графиков используются в разведочном анализе данных, чтобы определить, является ли случайным распределение точек с пропущенными значениями, а также для оценки их диапазона.
Рисунок 197
Закрашивание является одним из наиболее широко распространенных методов, известных как графический разведочный анализ данных. Этот метод позволяет интерактивно выделять на экране отдельные точки или подмножества данных и задавать их характеристики, или исследовать их влияние на взаимосвязи между переменными и идентифицировать выбросы. Одно из применений метода закрашивания - это, например, выделение на матричной диаграмме рассеяния всех точек данных, принадлежащих определенной категории (рис. 34). Такое исследование помогает определить, как эти конкретные наблюдения влияют на связи между другими переменными того же набора данных.
Рисунок 198
В режиме "динамического закрашивания" (рис. 35) или "автоматического обновления функции подгонки" можно задать движение кисти по определенным последовательным диапазонам выбранной переменной и исследовать динамику вклада этой переменной в связи между другими переменными этого набора данных.
Рисунок 199
Послойное сжатие двумерных графиков является методом разведочного анализа данных, который дает возможность выявить скрытые тренды. На графиках этого типа за счет сокращения области основного графика освобождается место для графиков на полях, которые располагаются в правой и верхней части графического окна. Эти графики на полях представляют собой соответственно вертикально и горизонтально сжатые изображения основного графика (рис. 36).
Рисунок 200
Еще одним средством визуализации являются пиктографики. Основная идея пиктографиков заключается в представлении элементарных наблюдений как отдельных графических объектов, где значения переменных соответствуют определенным чертам или размерам объекта (обычно одно наблюдение = одному объекту). Объекты имеют определенный "внешний вид", который уникален для каждой конфигурации значений и может быть идентифицирован наблюдателем. Это соответствие устанавливается таким образом, чтобы общий вид объекта менялся в зависимости от конфигурации значений. Главная идея такого метода анализа основана на человеческой способности "автоматически" фиксировать сложные связи между многими переменными, если они проявляются в последовательности элементов (в данном случае "пиктограмм"). Изучение таких пиктограмм помогает выявить как простые связи, так и сложные взаимодействия между переменными. Большинство пиктографиков можно отнести к одной из двух групп: круговые и последовательные.
На рис. 37 показан круговой пиктографик. На круговых пиктографиках (звезды, лучи, многоугольники) значения переменных представлены расстояниями между центром пиктограммы и их концами.
Рисунок 201
Такие графики могут помочь в обнаружении связей между переменными, которые проявляются в общей структуре пиктограмм и зависят от конфигурации значений самих переменных.
В данном коротком обзоре представлен только небольшой набор из имеющихся очень широких возможностей визуализации данных.
Контрольные вопросы:
Для чего используются гистограммы?
Что такое гистограммы с двойной осью?
Что такое категоризованные графики?
Что такое матричные графики? Как могут масштабироваться матричные графики?
Что такое диаграммы рассеяния? Как они могут помочь для оценки корреляции?
Что такое категоризованные диаграммы рассеяния?
Что такое диаграмма рассеяния Вороного?
Когда применяются линейные графики и категоризованные линейные графики?
Что такое диаграммы размаха?
Что такое категоризованные круговые диаграммы?
Когда применяются графики пропущенных значений и данных вне диапазона?
Что такое закрашивание?
Для чего применяется послойное сжатие двумерных графиков?
Что такое пиктографики?
