混部集群资源利用分析

• 作者: 万健 任祖杰 俞俊 张纪林 林江彬 王济伟 葛浙奉 蒋从锋 闫龙川
• 来源期刊: 计算机学报
• 学科: 工学
• 关键词: 混部集群 资源利用 负载特性 在线服务 批处理作业 调度 服务质量 数据中心
• 年，卷（期）: 2020,（6）
• 所属期刊栏目: 高性能计算
• 页码范围: 1103-1122
• 页数: 20页
• 分类号: TP393
• 字数: 15198字
• 语种: 中文
• DOI: 10.11897/SP.J.1016.2020.01103

摘要

现代互联网数据中心的规模随应用服务需求的增长而越来越大,但数据中心资源利用率低已逐步成为云计算进一步发展的制约因素.为了提高数据中心的资源利用率,云服务提供商将在线服务和离线批处理作业混合部署到同一个生产集群中.但混合部署增加了数据中心管理系统复杂性,对数据中心系统调度和工作负载分配提出了新的挑战.本文从资源使用角度出发,统计分析了阿里巴巴最新发布的包含4034台机器长达8天的混部集群日志数据集,刻画了机器对离线批处理任务与在线服务容器资源分配策略,以及离线批处理作业与在线服务之间的相互干扰.并根据不同的负载特征,以多种方式对机器进行分类,研究机器分工对集群效率提升的意义.通过分析阿里巴巴集群日志数据集,我们发现:(1)集群中43.271％的机器存在容器对CPU核心“超订”现象,而内存不存在“超订”现象;(2)集群中存在“备用节点”,确保集群出现故障时,任务能及时被转移到“备用节点”继续执行;(3)延迟敏感的在线任务的CPU利用率较低,但对内存资源的需求比较高,而离线批处理作业的CPU利用率较高,在线任务和离线任务的资源占用互补;(4)混合部署显著提高了CPU利用率,而内存可能是限制集群性能的主要因素;(5)集群中容器分布存在不平衡性;(6)离线任务的混合部署导致容器内存利用率有所下降,且当在线服务资源需求激增时,调度器缺少一定的容错性和健壮性;(7)离线任务如何部署与容器当前性能紧密相关,尤其是容器CPI指标,与离线任务部署呈现显著相关性.本文对集群负载特性、资源使用及离线和在线任务相互干扰进行研究,有助于其他研究人员对集群系统调度和负载分配分析优化,以提高现代数据中心的资源利用率.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	蒋从锋	杭州电子科技大学计算机学院	8	56	5.0	7.0
2	张纪林	杭州电子科技大学计算机学院	3	0	0.0	0.0
3	俞俊	杭州电子科技大学计算机学院	3	16	2.0	3.0
4	王济伟	杭州电子科技大学计算机学院	2	0	0.0	0.0
5	葛浙奉	杭州电子科技大学计算机学院	1	0	0.0	0.0
6	林江彬		1	0	0.0	0.0
7	闫龙川		1	0	0.0	0.0
8	任祖杰		1	0	0.0	0.0