Spark平台的分布式阶段自适应关联规则挖掘算法

• 作者: 石慧 陈恩
• 来源期刊: 计算机与现代化
• 学科: 工学
• 关键词: 关联规则挖掘 Apriori算法 MapReduce Spark
• 年，卷（期）: 2019,（12）
• 所属期刊栏目: 软件工程
• 页码范围: 31-38
• 页数: 8页
• 分类号: TP301.6
• 字数: 7881字
• 语种: 中文
• DOI: 10.3969/j.issn.1006-2475.2019.12.007

摘要

为满足日益增长的海量数据挖掘需求,迫切需要设计一种能够在多台机器上运行的分布式关联规则挖掘算法.Apriori这种高度迭代算法在Hadoop平台上运行时每次迭代执行大量的磁盘I/O操作,大大影响并限制了算法的运行效率.本文利用Spark对分布式计算内置支持的特点,在Spark平台上设计并实现一种分布式关联规则挖掘算法,称为阶段式自适应挖掘算法(Staged Adaptive Apriori).算法使用自适应的数据集部分处理的策略对频繁项集进行高效挖掘,在每次迭代前初步评估执行时间,并采用较为合适的方法来减少时间和空间的复杂性,是一种基于数据集性质的自适应关联规则挖掘算法.实验结果表明了算法的有效性.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	石慧	汕尾职业技术学院信息工程系	9	11	2.0	3.0
2	陈恩		1	1	1.0	1.0