Text-CRNN+attention架构下的多类别文本信息分类

• 作者: 卢健 周嫣然 杨腾飞 马成贤
• 来源期刊: 计算机应用研究
• 关键词: 文本分类 卷积神经网络 循环神经网络 convolutional recurre ntneural network 注意力机制
• 年，卷（期）: 2020,（6）
• 所属期刊栏目: 算法研究探讨
• 页码范围: 1693-1696,1701
• 页数: 5页
• 分类号: TP393.04
• 语种: 中文
• DOI: 10.19734/j.issn.1001-3695.2018.12.0858

摘要

迄今为止,传统机器学习方法依赖人工提取特征,复杂度高;深度学习网络本身特征表达能力强,但模型可解释性弱导致关键特征信息丢失.为此,以网络层次结合的方式设计了CRNN并引入attention机制,提出一种Text-CRNN+attention模型用于文本分类.首先利用CNN处理局部特征的位置不变性,提取高效局部特征信息;然后在RNN进行序列特征建模时引入attention机制对每一时刻输出序列信息进行自动加权,减少关键特征的丢失,最后完成时间和空间上的特征提取.实验结果表明,提出模型较其他模型准确率提升了2％～3％;在提取文本特征时,该模型既保证了数据的局部相关性又起到强化序列特征的有效组合能力.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	卢健	西安工程大学电子信息学院	29	71	6.0	7.0
2	马成贤	西安工程大学电子信息学院	4	1	1.0	1.0
3	周嫣然	西安工程大学电子信息学院	2	0	0.0	0.0
4	杨腾飞	西安工程大学电子信息学院	2	0	0.0	0.0