K-Means 聚类算法详细介绍——机器学习经典聚类算法

/ Machine Learning / 没有评论 / 331浏览

聚类

聚类 (clustering) 属于非监督学习 (unsupervised learning),无类别标记 (class label)

K-Means 算法

K-Means 算法是 Clustering 中的经典算法,数据挖掘十大经典算法之一

算法接受参数 k,然后将事先输入的 n 个数据对象划分为 k个 聚类,使得所获得的聚类满足

算法思想

以空间中 k 个点为中心进行聚类,对最靠近他们的对象归类。

通过迭代的方法,逐次更新各聚类中心的值,直至得到最好的聚类结果

算法描述

  1. 适当选择 c 个类的初始中心;
  2. 在第 k 次迭代中,求任意一个样本到 c 各中心的距离,将该样本归到距离最短的中心所在的类;
  3. 利用均值等方法更新该类的中心值;
  4. 对于所有的 c 个聚类中心,如果利用 2、3 的迭代法更新后,值保持不变,则迭代结束,否则继续。

算法流程

输入:k, data[n];

  1. 选择k个初始中心点,例如 c[0]=data[0],…c[k-1]=data[k-1];
  2. 对于 data[0]….data[n], 分别与 c[0]…c[k-1] 比较,假定与 c[i] 差值最少,就标记为 i;
  3. 对于所有标记为 i 点,重新计算 c[i]={ 所有标记为 i 的 data[j] 之和 }/ 标记为i的个数;
  4. 重复 2、3,直到所有 c[i] 值的变化小于给定阈值。

算法优缺点