基于退火过渡采样的无向主题模型学习方法

• 作者: 张文生 杨阳 蒋晓娟
• 来源期刊: 南京大学学报（自然科学版）
• 学科: 工学
• 关键词: 概率主题模型 概率推理 马尔科夫蒙特卡洛 退火过渡采样
• 年，卷（期）: 2016,（2）
• 页码范围: 335-342
• 页数: 8页
• 分类号: TP181
• 字数: 5285字
• 语种: 中文
• DOI: 10.13232/j.cnki.jnju.2016.02.015

摘要

Replicated Softmax model,是用于文本数据挖掘的无向概率主题模型,为描述语料库的主题分布提供了一个功能强大的框架。然而,作为一个无向的概率图模型,由于归一化常数的存在,该模型的参数学习是十分困难的。针对这一问题,利用退火过渡马尔科夫蒙特卡洛采样方法,借助近似极大似然学习的思想,实现了模型的参数学习。该算法采用基于退火过渡的马尔科夫蒙特卡洛采样方法,高效地探索存在多个孤立的模态的概率分布,提高对概率分布的逼近程度,从而提高了参数学习的效率和精度。实验结果证明了算法在训练时间、泛化能力和文档检索等三个方面的优势。

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	杨阳	中国科学院自动化研究所	148	1314	17.0	29.0
2	张文生	中国科学院自动化研究所	98	1246	18.0	33.0
3	蒋晓娟	中国科学院自动化研究所	2	5	2.0	2.0