基于迁移学习的分层注意力网络情感分析算法

• 作者: 曲昭伟 王晓茹 王源
• 来源期刊: 计算机应用
• 学科: 工学
• 关键词: 情感分析 循环神经网络 迁移学习 分布式表示 注意力机制
• 年，卷（期）: 2018,（11）
• 所属期刊栏目: 第七届中国数据挖掘会议(CCDM 2018)
• 页码范围: 3053-3056,3062
• 页数: 5页
• 分类号: TP389.1
• 字数: 4285字
• 语种: 中文
• DOI: 10.11772/j.issn.1001-9081.2018041363

摘要

文本情感分析的目的是判断文本的情感类型.传统的基于神经网络的研究方法主要依赖于无监督训练的词向量,但这些词向量无法准确体现上下文语境关系;常用于处理情感分析问题的循环神经网络(RNN),模型参数众多,训练难度较大.为解决上述问题,提出了基于迁移学习的分层注意力神经网络(TLHANN)的情感分析算法.首先利用机器翻译任务训练一个用于在上下文中理解词语的编码器;然后,将这个编码器迁移到情感分析任务中,并将编码器输出的隐藏向量与无监督训练的词向量结合.在情感分析任务中,使用双层神经网络,每层均采用简化的循环神经网络结构——最小门单元(MGU),有效减少了参数个数,并引入了注意力机制提取重要信息.实验结果证明,所提算法的分类准确率与传统循环神经网络算法、支持向量机(SVM)算法相比分别平均提升了8.7％及23.4％.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	曲昭伟	北京邮电大学网络技术研究院	14	82	4.0	9.0
2	王源	北京邮电大学网络技术研究院	1	7	1.0	1.0
3	王晓茹	北京邮电大学计算机学院	5	10	2.0	3.0