基于HDP的主题词向量构造 —— 以柬语为例

• 作者: 严馨 周枫 徐广义 李超 莫源源 谢俊
• 来源期刊: 计算机工程与科学
• 学科: 工学
• 关键词: HDP主题模型 主题词向量 Skip-Gram模型
• 年，卷（期）: 2020,（6）
• 所属期刊栏目: 人工智能与数据挖掘
• 页码范围: 1111-1119
• 页数: 9页
• 分类号: TP391.1
• 字数: 8356字
• 语种: 中文
• DOI: 10.3969/j.issn.1007-130X.2020.06.020

摘要

针对单一词向量中存在的一词多义和一义多词的问题,以柬语为例提出了一种基于HDP主题模型的主题词向量的构造方法.在单一词向量基础上融入了主题信息,首先通过HDP主题模型得到单词主题标签,然后将其视为伪单词与单词一起输入Skip-Gram模型,同时训练出主题向量和词向量,最后将文本主题信息的主题向量与单词训练后得到的词向量进行级联,获得文本中每个词的主题词向量.与未融入主题信息的词向量模型相比,该方法在单词相似度和文本分类方面均取得了更好的效果,获取的主题词向量具有更多的语义信息.