一种基于Kafka的可靠的Consumer的设计方案

• 作者: 王岩 王纯
• 来源期刊: 软件
• 学科: 工学
• 关键词: Kafka 数据可靠性 zookeeper 实时
• 年，卷（期）: 2016,（1）
• 所属期刊栏目: 设计研究与应用
• 页码范围: 61-66
• 页数: 6页
• 分类号: TP311.5
• 字数: 6019字
• 语种: 中文
• DOI: 10.3969/j.issn.1003-6970.2016.01.015

摘要

伴随着互联网和移动互联网的发展,各种新兴应用层出不穷,对大数据处理的实时性和高并发能力要求也在不断提高.Apache Kafka,作为一种分布式的消息系统,具有可水平扩展和高吞吐率而被广泛的使用.对于数据业务的基础支撑系统,除了能够满足高并发度和实时性以外,数据的质量即数据可靠性也是关键的一环.但是,由Kafka原生提供的数据消费者不能够保障数据的可靠性.本文首先简单介绍了 Kafka 的组成、架构特性等技术背景,然后阐述了原生Consumer的原理和缺陷;最后,基于Kafka提出一个可靠的消费者的设计方案.本方案是基于Kafka的low-level的接口集,解决了Kafka原生Consumer由于将用户消费数据的动作与数据消费位置的记录独立而引起的数据质量问题,保障了数据的可靠性.最后,搭建Kafka集群测试环境,验证了方案的可行性和正确性.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	王纯	北京邮电大学网络与交换技术国家重点实验室	107	750	12.0	22.0
5	王岩	北京邮电大学网络与交换技术国家重点实验室	1	81	1.0	1.0