Кластеризация объектов
Алгоритмы кластеризации
Кластеризация (употребляются также следующие синонимы: автоматическая классификация, кластерный анализ, численная таксономия, алгоритм разбиения на группы) – объединение в группы схожих объектов – является одной из фундаментальных задач в области анализа данных и Data Mining. Список прикладных областей, где она применяется, широк: сегментация изображений, маркетинг, борьба с мошенничеством, прогнозирование, анализ текстов. Во всех этих случаях данные, организованы в виде таблицы "объект - свойство" (ТОС). Свойствами могут быть признаки, значения, количественные оценки фондов, показатели развития и другие характеристики, которыми обладают элементы исследуемой совокупности объектов. На современном этапе кластеризация часто выступает первым шагом при анализе данных. После выделения схожих групп применяются другие методы, для каждой группы строится отдельная модель.
Задачу кластеризации в том или ином виде формулировали в таких научных направлениях, как статистика, распознавание образов, оптимизация, машинное обучение. Отсюда многообразие синонимов понятию кластер – класс, таксон, сгущение.
На сегодняшний момент число методов разбиения групп объектов на кластеры довольно велико – несколько десятков алгоритмов и еще больше их модификаций. Однако нас интересуют алгоритмы кластеризации с точки зрения их применения в Data Mining.
Кластеризация в Data Mining
Кластеризация в Data Mining приобретает ценность тогда, когда она выступает одним из этапов анализа данных, построения законченного аналитического решения. Аналитику часто легче выделить группы схожих объектов, изучить их особенности и построить для каждой группы отдельную модель, чем создавать одну общую модель на всех данных. Таким приемом постоянно пользуются в маркетинге, выделяя группы клиентов, покупателей, товаров и разрабатывая для каждой из них отдельную стратегию.
Очень часто данные, с которыми сталкивается технология Data Mining, имеют следующие важные особенности:
- высокая размерность (тысячи полей) и большой объем (сотни тысяч и миллионы записей) таблиц баз данных и хранилищ данных (сверхбольшие базы данных);
- наборы данных содержат большое количество числовых и категорийных атрибутов.
Все атрибуты, или признаки объектов делятся на числовые (numerical) и категорийные (categorical). Числовые атрибуты – это такие, которые могут быть упорядочены в пространстве, соответственно категорийные – которое не могут быть упорядочены. Например, атрибут "возраст" – числовой, а "цвет" – категорийный. Приписывание атрибутам значений происходит во время измерений выбранным типом шкалы, а это, вообще говоря, представляет собой отдельную задачу.
Большинство алгоритмов кластеризации предполагают сравнение объектов между собой на основе некоторой меры близости (сходства). Мерой близости называется величина, имеющая предел и возрастающая с увеличением близости объектов. Меры сходства "изобретаются" по специальным правилам, а выбор конкретных мер зависит от задачи, а также от шкалы измерений. В качестве меры близости для числовых атрибутов очень часто используется евклидово расстояние d, вычисляемое по формуле:
\[ d(a,b)=(\sum_{j} (x_{aj}-x_{bj})^2 )^{1/2}, \]где \( x_{aj} , x_{bj} \) - координаты векторов (объектов или строк ТОС) соответственно a и b \( j=1, … , P, P \) - число столбцов в ТОС.
Вы также можете воспользоваться сервисом на сайте sciencehunter.net для кластеризации данных.
Для получения более подробных сведений Вы можете обратиться к нашему электронному учебнику в раздел Clasterization (Кластеризация), воспользоваться приведенными там иллюстративными примерами, а также решить предложенные там же задачи, задать интересующие Вас по этому разделу вопросы и получить на них ответы.