一种海量小文件对象存储优化方案

• 作者: 屠雪真 黄震江
• 来源期刊: 计算机技术与发展
• 学科: 工学
• 关键词: 对象文件系统 小文件 元数据 聚合结构 查表索引 预读
• 年，卷（期）: 2019,（8）
• 所属期刊栏目: 智能、算法、系统工程
• 页码范围: 31-36
• 页数: 6页
• 分类号: TP31
• 字数: 6880字
• 语种: 中文
• DOI: 10.3969/j.issn.1673-629X.2019.08.006

摘要

在海量小文件存储场景下,传统分布式文件系统存在元数据服务器性能瓶颈、存储空间浪费严重、磁盘I/O效率低等问题.业界主要采用小文件聚合的方法解决这个问题,但现有研究依赖于从聚合结构到小文件的二次映射和查表检索等传统方法.文中提出一种基于对象文件系统的海量小文件优化方案,根据局部性特征将小文件聚合为文件组,使用算法直接进行对象数据存储位置的分布与定位,将低效的查表检索方式改变为高效快捷的"计算检索"方式,这更加适合大规模分布式系统的设计;在客户端采用小文件数据大粒度预读技术,聚合小粒度I/O为大粒度I/O,提升了磁盘访问效率,使用页面热缓存和温缓存两级队列管理及识别热数据,并利用文件的局部性特征提升缓存命中率.实验结果表明,在海量小文件随机读写场景下性能提升50％左右.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	屠雪真	河南大学计算机与信息工程学院	9	6	1.0	2.0
2	黄震江		1	3	1.0	1.0