基于LSTM-Attention神经网络的文本特征提取方法

• 作者: 吕璐 李波 蔡晓东 赵勤鲁
• 来源期刊: 现代电子技术
• 关键词: LSTM-Attention 注意力机制 文本分类 神经网络 文本特征提取 softmax
• 年，卷（期）: 2018,（8）
• 所属期刊栏目: 前沿交叉科学
• 页码范围: 167-170
• 页数: 4页
• 分类号: TN711-34|TP391.41
• 语种: 中文
• DOI: 10.16652/j.issn.1004-373x.2018.08.041

摘要

针对当前文本分类神经网络不能充分提取词语与词语和句子与句子之间的语义结构特征信息的问题,提出一种基于LSTM-Attention的神经网络实现文本特征提取的方法.首先,分别使用LSTM网络对文本的词语与词语和句子与句子的特征信息进行提取;其次,使用分层的注意力机制网络层分别对文本中重要的词语和句子进行选择;最后,将网络逐层提取得到的文本特征向量使用softmax分类器进行文本分类.实验结果表明,所提方法可以有效地提取文本的特征,使得准确率得到提高.将该方法应用在IMDB,yelp2013和yelp2014数据集上进行实验,分别得到52.4%,66.0%和67.6%的正确率.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	蔡晓东	桂林电子科技大学信息与通信学院	64	228	9.0	12.0
2	李波	桂林电子科技大学信息与通信学院	6	30	3.0	5.0
3	赵勤鲁	桂林电子科技大学信息与通信学院	2	19	1.0	2.0
4	吕璐	桂林电子科技大学信息与通信学院	4	24	2.0	4.0