批量正则化DBN分类方法研究

• 作者: 宋威 戴鑫 李蓓蓓
• 来源期刊: 计算机应用研究
• 关键词: 深度置信网络 分类 无监督学习 尺度变换 平移变换 批量正则化
• 年，卷（期）: 2019,（4）
• 所属期刊栏目: 算法研究探讨
• 页码范围: 1026-1030
• 页数: 5页
• 分类号: TP183
• 语种: 中文
• DOI: 10.19734/j.issn.1001-3695.2017.09.0969

摘要

针对深度置信网络(DBN)在微调过程中易受训练参数影响的问题,提出一种批量正则化DBN分类方法(BNDBN).该方法首先利用DBN进行无监督学习以获得原始数据的高层次表达;然后通过引入尺度变换和平移变换参数对网络中间层的输出特征每一维进行批量正则化处理,并将处理后的特征输入到非线性变换激活层中;最后使用随机梯度下降法对仿射变换参数以及原始网络的参数进行训练学习.BNDBN方法减少了梯度对参数规模的依赖性,有效地解决了因网络参数变化而造成的激活函数值分布变化的问题,提高了训练效率.为了检验所提出方法的有效性,选取MNIST手写体数据库和USPS手写数字识别库进行测试,通过与Dropout-DBN、DBN、ANN、SVM、KNN进行对比,结果表明提出的方法分类准确率明显提高,具有更强的特征提取能力.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	宋威	江南大学物联网工程学院	44	158	8.0	10.0
2	戴鑫	江南大学物联网工程学院	3	14	2.0	3.0
3	李蓓蓓	江南大学物联网工程学院	2	3	1.0	1.0