混合变分自编码

• 作者: 张传雷 杨巨成 蒋硕然 赵婷婷 陈亚瑞
• 来源期刊: 计算机研究与发展
• 学科: 工学
• 关键词: 变分自编码 混合模型 变分推理 折棍参数化 生成模型
• 年，卷（期）: 2020,（1）
• 所属期刊栏目: 人工智能
• 页码范围: 136-144
• 页数: 9页
• 分类号: TP18
• 字数: 7143字
• 语种: 中文
• DOI: 10.7544∕issn1000-1239.2020.20190204

摘要

变分自编码(variational autoencoder,VAE)是一种基于连续隐向量的生成模型,通过变分近似构建目标函数,其中的生成模型及变分推理模型均采用神经网络结构.传统变分自编码模型中的变分识别模型假设多维隐变量之间是相互独立的,这种假设简化了推理过程,但是这使得变分下界过于松弛,同时限制了隐向量空间的表示能力.提出混合变分自编码(mixture of variational autoencoder,MVAE)模型,它通过多个变分自编码组件生成样本数据,丰富了变分识别模型结构,同时扩展了隐向量表示空间.该模型以连续型隐向量作为模型的隐层表示,其先验分布为高斯分布;以离散型隐向量作为各组件的指示向量,其先验分布为多项式分布.对于MVAE模型的变分优化目标,采用重参策略和折棍参数化策略处理目标函数,并用随机梯度下降方法求解模型参数.MVAE 采用混合组件的方法可以增强隐变量空间的表示能力,提高近似推理精度,重参策略和折棍参数化策略可以有效求解对应的优化问题.最后在MNIST和OMNIGLOT数据集上设计了对比实验,验证了MVAE模型较高的推理精度及较强的隐变量空间表示能力.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	陈亚瑞	天津科技大学计算机科学与信息工程学院	10	31	3.0	5.0
2	杨巨成	天津科技大学计算机科学与信息工程学院	15	88	4.0	9.0
3	张传雷	天津科技大学计算机科学与信息工程学院	4	18	2.0	4.0
4	蒋硕然	天津科技大学计算机科学与信息工程学院	2	0	0.0	0.0
5	赵婷婷	天津科技大学计算机科学与信息工程学院	4	1	1.0	1.0