融合关键词的中文新闻文本摘要生成

• 作者: 严馨 周枫 宁珊 张磊 徐广义
• 来源期刊: 计算机工程与科学
• 学科: 工学
• 关键词: 文本摘要生成 滑动卷积网络 关键词信息融合 门控单元 全局编码
• 年，卷（期）: 2020,（12）
• 所属期刊栏目: 人工智能与数据挖掘
• 页码范围: 2265-2272
• 页数: 8页
• 分类号: TP391.1
• 语种: 中文
• DOI: 10.3969/j.issn.1007-130X.2020.12.021

摘要

针对现有基于seq2seq模型在生成摘要时容易出现语义无关的摘要词,同时没有考虑到关键词在摘要生成中的作用,提出一种融合关键词的中文新闻文本摘要生成方法.首先将源文本词依次输入到Bi-LSTM模型中;然后将得到的时间步隐藏状态输入到滑动卷积神经网络,提取每个词与相邻词之间的局部特征;其次利用关键词信息和门控单元对新闻文本信息进行过滤,去除冗余信息;再通过自注意力机制获得每个词的全局特征信息,最终编码得到具有层次性的局部结合全局的词特征表示;将编码得到的词特征表示输入到带有注意力机制的LSTM模型中解码得到摘要信息.该方法通过滑动卷积网络对新闻词的n-g ram特征建模,在此基础上利用自注意力机制,获得具有层次性的局部结合全局的词特征表示.同时,考虑了关键词在新闻摘要生成中的重要作用,利用门控单元去除冗余信息,以获得更精准的新闻文本信息.在搜狗全网新闻语料上的实验表明,该方法能够有效提高摘要生成质量,能够有效地提高ROUGE-1、ROUGE-2、ROUGE-L值.