异构Hadoop集群下的负载自适应反馈调度策略

• 作者: 杨静怡 潘佳艺 王芳 谭支鹏
• 来源期刊: 计算机工程与科学
• 学科: 工学
• 关键词: 异构集群 监控 计算能力 动态调度 负载自适应
• 年，卷（期）: 2017,（3）
• 所属期刊栏目: 高性能计算
• 页码范围: 413-423
• 页数: 11页
• 分类号: TP391
• 字数: 10080字
• 语种: 中文
• DOI: 10.3969/j.issn.1007-130X.2017.03.002

摘要

随着基于Hadoop平台的大数据技术的不断发展和实践的深入,Hadoop YARN资源调度策略在异构集群中的不适用性越发明显.一方面,节点资源无法动态分配,导致优势节点的计算资源浪费、系统性能没有充分发挥;另一方面,现有的静态资源分配策略未考虑作业在不同执行阶段的差异,易产生大量资源碎片.基于以上问题,提出了一种负载自适应调度策略.监控集群执行节点和提交作业的性能信息,利用实时监控数据建模、量化节点的综合计算能力,结合节点和作业的性能信息在调度器上启动基于相似度评估的动态资源调度方案.优化后的系统能够有效识别集群节点的执行能力差异,并根据作业任务的实时需求进行细粒度的动态资源调度,在完善YARN现有调度语义的同时,可作为子级资源调度方案架构在上层调度器下.在Hadoop 2.0上实现并测试该策略,实验结果表明,作业的自适应资源调度策略显著提高了资源利用率,集群并发度提高了2到3倍,时间性能提升了近10％.