MapReduce集群中最大收益问题的研究

• 作者: 于戈 寇月 王习特 申德荣 白梅 聂铁铮
• 来源期刊: 计算机学报
• 学科: 工学
• 关键词: 大数据 MapReduce集群 完成时限 最大收益问题
• 年，卷（期）: 2015,（1）
• 所属期刊栏目: 大数据
• 页码范围: 109-121
• 页数: 13页
• 分类号: TP391
• 字数: 12280字
• 语种: 中文
• DOI: 10.3724/SP.J.1016.2015.00109

摘要

MapReduce是目前最为流行的用于大数据分析的并行系统之一.许多企业已经搭建了自己的MapReduce集群,为广大用户提供计算服务.用户可以向集群提交具有完成时限要求的MapReduce作业,若作业被按时完成,则企业可以获得一定的收益.针对这种应用场景,该文首次提出了MapReduce集群中的最大收益问题.为有效地解决该问题,首先提出了一种基于序列的任务调度策略(简称为SEQ策略),并证明了在处理具有完成时限约束的作业时SEQ策略存在优势.基于SEQ策略,该文提出了最大收益的调度算法(Scheduling Algorithm for Maximum Benefit,简称AMB算法),该算法可以快速地确定可接收作业,并给出有效的执行方案,以达到最大化收益的目的.另外,针对在实际应用中的某些异常情况(如节点宕机),该文也设计了有效的超时处理策略,进一步增加了算法的实用性.最后,通过大量的实验验证了该文所提出算法的有效性.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	于戈	东北大学信息科学与工程学院	426	6587	38.0	64.0
2	申德荣	东北大学信息科学与工程学院	111	1289	18.0	32.0
3	寇月	东北大学信息科学与工程学院	68	816	12.0	26.0
4	聂铁铮	东北大学信息科学与工程学院	69	854	13.0	27.0
5	王习特	东北大学信息科学与工程学院	5	333	4.0	5.0
6	白梅	东北大学信息科学与工程学院	5	66	4.0	5.0