基于BiLSTM-Attention-CNN混合神经网络的文本分类方法

• 作者: 万齐斌 孙水发 董方敏
• 来源期刊: 计算机应用与软件
• 学科: 工学
• 关键词: 文本分类 BiLSTM 注意力机制 k-max 池化 CNN
• 年，卷（期）: 2020,（9）
• 所属期刊栏目: 人工智能与识别
• 页码范围: 94-98,201
• 页数: 6页
• 分类号: TP391
• 字数: 4181字
• 语种: 中文
• DOI: 10.3969/j.issn.1000-386x.2020.09.016

摘要

BiLSTM和CNN网络在文本分类领域取得了较好的应用效果,二者的结合可以充分发挥CNN的特征提取能力和BiLSTM的上下文依赖能力,但是没有体现出每个词语在文本中的重要程度,无法将注意力集中在重要的词上.针对该问题,提出一种基于BiLSTM-Attention-CNN混合神经网络的文本分类方法.在BiLSTM层之后加入注意力机制(Attention)提取输出信息的注意力分值;注意力层之后,连接k-max池化层,提取前k个重要的词,增强模型特征的表达能力.在DBPedia和AGNews数据集上进行实验,结果表明,该模型相较于其他现有网络模型,分类准确率提高1～2个百分点.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	孙水发	三峡大学计算机与信息学院	49	252	9.0	13.0
2	董方敏	三峡大学计算机与信息学院	59	265	8.0	13.0
3	万齐斌	三峡大学计算机与信息学院	3	1	1.0	1.0