BN-cluster:基于批归一化的集成算法实例分析

• 作者: 张德园 李照奎 杨柳 石祥滨
• 来源期刊: 沈阳航空航天大学学报
• 学科: 工学
• 关键词: 批归一化 BN-cluster算法 卷积神经网络 集成学习
• 年，卷（期）: 2018,（3）
• 所属期刊栏目: 信息科学与工程
• 页码范围: 72-80
• 页数: 9页
• 分类号: TP391.4
• 字数: 4871字
• 语种: 中文
• DOI: 10.3969/j.issn.2095-1248.2018.03.010

摘要

批归一化训练技术是训练现代神经网络的重要技术之一.它通过归一化各个隐藏层的均值和方差,减少了梯度爆炸或消失现象的发生.然而批归一化技术统计的均值和方差依赖于每一个mini batch的数据分布,导致训练时稳定性较差.提出了BN-cluster算法,基于构建块的思想设计了卷积神经网络框架用于分类图像数据集.分析了批归一化问题,统计了每一个批归一化输出结果均值的方差,并且设计了基于批归一化参数聚类的卷积神经网络集成算法,实验结果证明采用集成学习的方法确定批归一化的参数,网络在各个数据集上的训练波动均有所降低,保证了在不降低原有性能的同时使网络的收敛更加稳定、快速.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	石祥滨	沈阳航空航天大学计算机学院	89	370	9.0	14.0
2	张德园	沈阳航空航天大学计算机学院	16	146	7.0	11.0
3	李照奎	沈阳航空航天大学计算机学院	19	59	4.0	6.0
4	杨柳	沈阳航空航天大学计算机学院	4	7	2.0	2.0