基于分布式文件系统HDFS的节能算法

• 作者: 于炯 廖彬 张陶 杨兴耀
• 来源期刊: 计算机学报
• 学科: 工学
• 关键词: 云计算 分布式文件系统 节能计算 副本策略 绿色计算
• 年，卷（期）: 2013,（5）
• 所属期刊栏目: 云计算
• 页码范围: 1047-1064
• 页数: 18页
• 分类号: TP311
• 语种: 中文
• DOI: 10.3724/SP.J.1016.2013.01047

摘要

与传统数据中心节能算法不同,MapReduce计算任务的数据依赖性使得设计HDFS(Hadoop Distributed File System)节能算法时必须保证集群中所有数据块的可用性,即任意数据块或其副本中的至少一块处于活动状态.根据HDFS集群结构与数据块存储等特点建立了DataNode节点矩阵、节点状态矩阵、文件分块矩阵、数据块存储矩阵与数据块状态矩阵,为后续研究建立了基础模型.结合数据块状态矩阵与数据块可用性之间的关系设计了DataNode节点休眠验证算法.概率分析了由于机架感知的存储策略带来数据块分布的随机性,使得在不改变数据块存储结构与存储策略的情况下并不能通过休眠DataNode节点达到节能的目的.进而设计了数据块存储结构配置节能算法与基于对称数据块存储策略下的节能算法,分别从改变数据块的存储结构与存储策略两方面对HDFS进行节能改进.实验结果表明:两种节能算法都能解决HDFS集群的能耗低利用率问题,并且集群负载越低节能效率越高.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	于炯	新疆大学软件学院	176	1315	20.0	28.0
5	张陶	新疆大学信息科学与工程学院	14	239	7.0	14.0
6	杨兴耀	新疆大学信息科学与工程学院	31	455	13.0	21.0
7	廖彬	新疆大学软件学院	18	381	9.0	18.0