基于集群模式的日志归集与分析系统的设计与实现

• 作者: 刘晓强
• 来源期刊: 电脑迷
• 关键词: 集群 日志分析 分布式 Hadoop Hbase Flume
• 年，卷（期）: 2017,（19）
• 所属期刊栏目: 创新论坛
• 页码范围: 249-251
• 页数: 3页
• 字数: 2789字
• 语种: 中文
• DOI: 10.3969/j.issn.1672-528X.2017.19.232

摘要

随着企业生产系统规模的扩大和周边接口数量的增加,各种类型的日志也相继的产生,尤其在集群环境中,如何获取与分析数十甚至上百台服务器节点上的日志信息已经成为企业亟待解决的问题.本文提出了一种基于集群模式的日志归集与分析的解决方案,利用Flume的高可靠、分布式特性,将集群环境下的日志收集到统一资源进行处理.提出采用基于Hadoop-Hbase的分布式数据库作为数据存储模块,保证了数据的高容错、高吞吐量,重写了基于Hbase数据库的各种接口API,来解决数据存入和读取时的关键问题.研究表明,该系统可协助企业及时、高效的分析系统产生的日志信息,减少开发运维的工作量,目前已经在金融企业核心系统得到实际应用,并取得了较好效果.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	刘晓强		2	0	0.0	0.0