Hadoop备份数据存放策略的改进

• 作者: 周长俊 宗平
• 来源期刊: 计算机技术与发展
• 学科: 工学
• 关键词: Hadoop 备份数据存放策略 内部带宽 负载均衡 热点数据
• 年，卷（期）: 2019,（1）
• 所属期刊栏目: 智能、算法、系统工程
• 页码范围: 11-16
• 页数: 6页
• 分类号: TP31
• 字数: 5470字
• 语种: 中文
• DOI: 10.3969/j.issn.1673-629X.2019.01.003

摘要

对于默认的Hadoop备份数据存放策略来说,一旦本地的数据副本发生失效,那么就需通过远端机架上存放的备份数据来实现恢复,而对于默认的备份数据存放策略,备份数据存放节点的选择具有随机性,那么可能带来的问题是不同节点间备份数据存放不均衡,数据恢复时由于距离的因素造成内部带宽的巨大消耗.针对上述问题,提出一种改进的备份数据存放策略.该策略将节点之间的距离,节点的负载以及备份数据恢复次数纳入节点选择的考虑范围,由此计算出每个节点的匹配度,随之选出匹配度最高的节点作为远端机架间的备份数据存放的最优节点.该策略不但实现了节点间备份数据放置的负载均衡,而且兼顾了数据恢复时消耗的内部带宽,将数据副本失效次数纳入考虑,实现了经常失效数据副本的快速恢复.通过在Hadoop平台上实现所提出的改进策略,结果达到了预期的要求.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	宗平	南京邮电大学海外教育学院	47	1434	11.0	37.0
2	周长俊	南京邮电大学计算机学院	1	2	1.0	1.0