基于双特征嵌套注意力的方面词情感分析算法

• 作者: 肖宇晗 林慧苹 汪权彬 谭营
• 来源期刊: 智能系统学报
• 关键词: 情感分析 方面词 嵌套注意力 BERT预训练模型 全局特征 局部特征 深度学习 机器学习
• 年，卷（期）: 2021,（1）
• 所属期刊栏目: 吴文俊人工智能科学技术奖论坛|Forum of Recipients of Wu Wenjun Artificial Intelligence Science and Technologyl Award
• 页码范围: 142-151
• 页数: 10页
• 分类号: TP391
• 语种: 中文
• DOI: 10.11992/tis.202012024

摘要

针对目前方面词情感分析方法忽视了以方面词为核心的局部特征的重要性,并难以有效减小情感干扰项的负面噪声的问题,本文提出了一种带有基于变换器的双向编码器表示技术(bi-directional encoder representa-tions from transformers,BERT)加持的双特征嵌套注意力模型(dual features attention-over-attention with BERT,DFAOA-BERT),首次将AOA(attention-over-attention)与BERT预训练模型结合,并设计了全局与局部特征提取器,能够充分捕捉方面词和语境的有效语义关联.实验结果表明:DFAOA-BERT在SemEval 2014任务4中的餐馆评论、笔记本评论和ACL-14 Twitter社交评论这3个公开数据集上均表现优异,而子模块的有效性实验,也充分证明了DFAOA-BERT各个部分的设计合理性.