TSPT:基于预训练的三阶段复合式文本摘要模型

• 作者: 刘相湖 吕瑞 曾碧卿 王涛
• 来源期刊: 计算机应用研究
• 关键词: 预训练 复合式文本摘要模型 抽取式方法 生成式方法 双向上下文信息词向量
• 年，卷（期）: 2020,（10）
• 所属期刊栏目: 算法研究探讨
• 页码范围: 2917-2921
• 页数: 5页
• 分类号: TP391
• 语种: 中文
• DOI: 10.19734/j.issn.1001-3695.2019.05.0193

摘要

抽取式方法从源文本中抽取句子,会造成信息冗余;生成式方法可能生成非源文词,会产生语法问题,自然性差.BERT作为一种双向Transformer模型,在自然语言理解任务上展现了优异的性能,但在文本生成任务的应用有待探索.针对以上问题,提出一种基于预训练的三阶段复合式文本摘要模型(TSPT),结合抽取式方法和生成式方法,将源本文经过预训练产生的双向上下文信息词向量由sigmoid函数获取句子得分抽取关键句,在摘要生成阶段将关键句作为完形填空任务重写,生成最终摘要.实验结果表明,该模型在CNN/Daily Mail数据集中取得了良好效果.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	曾碧卿		51	304	9.0	15.0
2	王涛		30	106	6.0	8.0
3	刘相湖		2	5	1.0	2.0
4	吕瑞		1	0	0.0	0.0