机器学习之-用k-均值聚类算法对未标注数据分组-具体怎么实现及应用
2017-06-09 18:05
661 查看
1、什么叫做k-均值?
它可以发现k个不同的簇,且每个簇的中心采用簇中所含值的均值计算而成。
2、k-均值聚类的算法:
创建k个点作为起始质心(经常是随机选择)
当任意一个点的簇分配结果发生改变时
对数据集中的每个数据点
对每个质心
计算质心与数据点之间的距离
将数据点分配到距其最近的簇
对每一个簇,计算簇中所有点的均值并将均值作为质心
2、过程:
1)加载数据(数据格式是m行n列,其中每行是一个数据点,每列是数据的一个特征值)
2)创建一个m行2列的每个数据点的簇分配结果
3)创建一个初始的簇中心k行n列:(k,n)
3)开始循环:
对于每一个数据点:
对于每个簇中心:
计算该数据点到每个簇中心的距离
得到该数据点最近的簇索引
查看(m,2)里该数据点的簇索引是不是改变,是的话,最外层循环条件为true
对于每个簇中心:
计算以该簇为中心的数据点的平均值,用此值更新(m,2)里该数据点的簇索引值
//2017/6/29
1、使用后处理提高聚类性能:
a)计算质心之间的距离,合并最近的质心。
b)合并两个使得SSE增幅最小的质心。其中SSE的值是通过合并两个簇计算得到的总的SSE的值。
2、为克服K-均值算法收敛于局部最小值的问题,提出了二分K-均值算法:
将所有点看成一个簇
当簇数目小于k时
对于每一个簇:
计算总误差SSE
在给定的簇上面进行k-均值聚类(k=2)
计算将该簇一分为二之后的总误差
选择使得误差最小的那个簇进行划分操作。
它可以发现k个不同的簇,且每个簇的中心采用簇中所含值的均值计算而成。
2、k-均值聚类的算法:
创建k个点作为起始质心(经常是随机选择)
当任意一个点的簇分配结果发生改变时
对数据集中的每个数据点
对每个质心
计算质心与数据点之间的距离
将数据点分配到距其最近的簇
对每一个簇,计算簇中所有点的均值并将均值作为质心
2、过程:
1)加载数据(数据格式是m行n列,其中每行是一个数据点,每列是数据的一个特征值)
2)创建一个m行2列的每个数据点的簇分配结果
3)创建一个初始的簇中心k行n列:(k,n)
3)开始循环:
对于每一个数据点:
对于每个簇中心:
计算该数据点到每个簇中心的距离
得到该数据点最近的簇索引
查看(m,2)里该数据点的簇索引是不是改变,是的话,最外层循环条件为true
对于每个簇中心:
计算以该簇为中心的数据点的平均值,用此值更新(m,2)里该数据点的簇索引值
//2017/6/29
1、使用后处理提高聚类性能:
a)计算质心之间的距离,合并最近的质心。
b)合并两个使得SSE增幅最小的质心。其中SSE的值是通过合并两个簇计算得到的总的SSE的值。
2、为克服K-均值算法收敛于局部最小值的问题,提出了二分K-均值算法:
将所有点看成一个簇
当簇数目小于k时
对于每一个簇:
计算总误差SSE
在给定的簇上面进行k-均值聚类(k=2)
计算将该簇一分为二之后的总误差
选择使得误差最小的那个簇进行划分操作。
相关文章推荐
- 机器学习之-用k-均值聚类算法对未标注数据分组-具体怎么实现及应用
- 机器学习之利用K-均值聚类算法对未标注数据分组模型探讨
- 【机器学习实战】 利用K-均值聚类算法对未标注数据分组
- 机器学习之利用K b24b -均值聚类算法对未标注数据分组
- 机器学习——利用K-均值聚类算法对未标注数据分组
- 机器学习之-预测数值型数据:回归-具体怎么实现及应用
- 第十章 利用k-均值聚类算法对未标注数据分组
- 机器学习之-使用FP-growth算法来高效发现频繁项集-具体怎么实现及应用
- 机器学习之-使用Apriori算法进行关联并分析-具体怎么实现及应用
- 机器学习实战 - 读书笔记(10) - 利用K-均值聚类算法对未标注数据分组
- 机器学习之-支持向量机-具体怎么实现及应用
- 机器学习之-朴素贝叶斯-具体怎么实现及应用
- 机器学习之-Adaboost元算法-具体怎么实现及应用
- 三、K-均值聚类算法对未标注的数据分组
- 第10章 利用K-均值聚类算法对未标注数据分组
- 利用K-均值聚类算法对未标注数据分组
- 机器学习之-决策树-具体怎么实现及应用
- 机器学习实战 第十章 利用K-均值聚类算法对未标注数据分组
- 应用Setting中,不想让用户清除数据怎么办,贱贱的管理空间怎么实现的?
- 机器学习之-逻辑回归-具体怎么实现及应用