虚拟环境下大数据智能并行聚类方法研究

• 作者: 屈洁
• 来源期刊: 计算机测量与控制
• 关键词: 虚拟环境 大数据 智能并行 聚类方法
• 年，卷（期）: 2017,（6）
• 所属期刊栏目: 设计与应用
• 页码范围: 257-260
• 页数: 4页
• 分类号: TP311
• 语种: 中文
• DOI: 10.16526/j.cnki.11-4762/tp.2017.06.069

摘要

为了减少虚拟环境下大数据运行时间,数据运行时能够反映出一定的规律性和特殊的分类性,需要对虚拟环境下大数据进行智能并行聚类;当前大数据聚类方法是根据K-均值聚类方法不断地进行大数据样本分类的调整,经过多次计算调整后达到数据并行聚类的效果,但每当有新的大数据流入时,都需要对当前全部数据进行K-均值聚类,计算过程复杂,聚类效率低;为此,提出了一种基于MapReduce的虚拟环境下大数据智能并行聚类方法;首先在虚拟环境下大数据中抽取小规模数据集并确定大数据簇的质心,采用Single法对所抽样的小规模数据进行聚类,获得虚拟环境下大数据属性的均值,利用最小距离分类规则将大数据属性的均值快速地向数据簇的真实中心移动,依据Davies bouldin指标假设一个数据簇离散度参数,在此参数值中选出大数据智能并行聚类相似度最大值,最后利用聚类相似度最大值得到Davies-bouldin指数,以Davies-bouldin指数为基础将多个类别的质心间距以及聚类离散度指定阈值合并为一个类并进行迭代计算,得到数据最佳聚类中心位置,由此完成虚拟环境下大数据智能并行聚类;仿真实验结果证明,所提方法提高了大数据智能并行聚类的灵活性和普遍适用性,减少了聚类时间,并适合应用于教育技术领域,不仅可以使教育技术网络数据更加合理化,而且更加规范化.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	屈洁	宝鸡文理学院教育学院	15	25	3.0	4.0