基于神经自回归分布估计的涉案新闻主题模型构建方法

• 作者: 毛存礼 梁昊远 余正涛 郭军军 黄于欣 高盛祥
• 来源期刊: 中文信息学报
• 关键词: 案件要素 iDocNADEe 注意力机制 神经自回归分布估计 涉案新闻 主题模型
• 年，卷（期）: 2021,（2）
• 所属期刊栏目: 信息抽取与文本挖掘|Information Extraction and Text Mining
• 页码范围: 89-98
• 页数: 10页
• 分类号: TP391
• 语种: 中文
• DOI: 10.3969/j.issn.1003-0077.2021.02.009

摘要

神经主题模型能有效获取文本的深层语义特征,但现有的神经主题模型忽略了外部知识对获取主题分布的帮助.因此,针对涉案主题分析任务,该文提出了一种基于神经自回归分布估计的涉案新闻主题模型构建方法.以案件要素作为外部知识对iDocNADEe模型进行了扩展,通过计算案件要素与主题词的相关度来构建注意力机制对iDocNADEe模型双向编码的隐状态进行加权,利用神经自回归算法计算加权后的主题词双向隐状态的自回归条件概率实现涉案新闻文本主题模型构建.实验结果表明,该文提出方法较基线模型困惑度降低了0.66％、主题连贯性提高了6.26％,并且在文档检索精确率方面也明显高于基线模型.