基于预读及简单注意力机制的句子压缩方法

• 作者: 刘文芬 周艳芳 王彬宇 胡学先 鹿忠磊
• 来源期刊: 计算机应用研究
• 关键词: 自然语言处理 句子压缩 预读 注意力机制
• 年，卷（期）: 2019,（2）
• 所属期刊栏目: 算法研究探讨
• 页码范围: 371-375,394
• 页数: 6页
• 分类号: TP391
• 语种: 中文
• DOI: 10.19734/j.issn.1001-3695.2017.08.0720

摘要

针对英文句子压缩方法进行研究,提出一种基于预读及简单注意力机制的压缩方法.在编码器—解码器(encoder-decoder)框架下,以循环门单元(gated recurrent unit,GRU)神经网络模型为基础,在编码阶段对原句语义进行两次建模.首次建模结果作为全局信息,加强二次语义建模,得到更全面准确的语义编码向量.解码阶段充分考虑删除式句子压缩的特殊性,适用简单注意力(3t-attention)机制,将编码向量中与当前解码时刻最相关的语义部分输入到解码器中,提高预测效率及准确率.在谷歌新闻句子压缩数据集上的实验结果表明,所提压缩方法优于已有公开结果.因此,预读及简单注意力机制可有效提高英文句子压缩精度.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	刘文芬	桂林电子科技大学计算机与信息安全学院广西密码学与信息安全重点实验室	7	17	2.0	4.0
2	胡学先		3	19	2.0	3.0
3	王彬宇		2	16	2.0	2.0
4	周艳芳		2	3	1.0	1.0
5	鹿忠磊		2	3	1.0	1.0