基于Spark的K-means安全区间更新优化算法

• 作者: 唐浩 李玉波 杨余旺 陈光炜
• 来源期刊: 计算机技术与发展
• 学科: 工学
• 关键词: K-means 安全区间 Spark 大数据 时间效率
• 年，卷（期）: 2017,（8）
• 所属期刊栏目: 智能、算法、系统工程
• 页码范围: 1-6
• 页数: 6页
• 分类号: TP301
• 字数: 6017字
• 语种: 中文
• DOI: 10.3969/j.issn.1673-629X.2017.08.001

摘要

每次K-means算法更新聚类中心后,会对数据集中所有的点迭代计算它们与最新聚类中心的距离,进而获取点的最新聚类.这种全局迭代计算的特征导致传统K-means算法时间效率低.随着数据集增大,算法的时间效率和聚类性能下降过快,因此传统的K-means算法不适合大数据环境下的聚类使用.针对大数据场景下的时间效率和性能优化问题,提出了一种基于Spark的K-means安全区间更新优化算法.在每次更新聚类中心后,该算法更新安全区间标签,根据标签是否大于0每次判断落在该区间内的全部数据的簇别,避免计算所有点与中心的距离,减少因全局迭代造成的时间和计算资源开销.算法基于Spark机器MLlib组件的点向量模型优化了模型性能.通过衡量平均误差准则和算法时间两个指标,进行了优化K-means与传统K-means聚类的性能对比实验.结果表明,所提出的优化算法在上述两个指标上均优于传统的K-means聚类算法,适用于大数据环境下的数据聚类场景.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	杨余旺	南京理工大学计算机科学与工程学院	76	410	10.0	15.0
2	李玉波	南京理工大学计算机科学与工程学院	1	2	1.0	1.0
3	唐浩	南京理工大学计算机科学与工程学院	2	7	2.0	2.0