基于词向量和变分自动编码器的短文本主题模型

• 作者: 勾智楠 张青 韩立新
• 来源期刊: 河北工业科技
• 学科: 工学
• 关键词: 计算机神经网络 主题模型 词向量 变分自动编码器 短文本
• 年，卷（期）: 2018,（6）
• 所属期刊栏目: 应用技术
• 页码范围: 441-447
• 页数: 7页
• 分类号: TP389.1
• 字数: 5467字
• 语种: 中文
• DOI: 10.7535/hbgykj.2018yx06010

摘要

为了解决短文本稀疏性问题,提高主题模型的性能,提出了一种词向量嵌入的主题模型.首先,假设一篇文档只包含一个主题;其次,利用词向量对每一轮迭代的主题进行扩充与调整,即对每一个主题,利用一种非参数化的概率采样方法得到一些词,再用词向量找出相似词,提升该主题下相似词的权重;最后,用拉普拉斯近似主题分布,使其更好地运用在变分自动编码器训练中,从而加快训练速度.实验结果表明,本文模型训练出的主题具有较好的解释性,并优于其他主流的模型,可为短文本的主题提取提供更多的可能.在主题模型训练的过程中,利用词向量干预主题词分布可以得到较好的主题质量,并可以通过变分自动编码器加快训练速度,对自然语言处理问题的研究具有一定的创新性和参考价值.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	韩立新	河海大学计算机与信息学院	47	272	9.0	15.0
2	张青	河海大学计算机与信息学院	14	33	4.0	4.0
3	勾智楠	河海大学计算机与信息学院	3	8	2.0	2.0