面向深度卷积神经网络的确定性连接丢弃算法

• 作者: 何宇清 庞彦伟 李鸿杨 潘静
• 来源期刊: 陕西师范大学学报（自然科学版）
• 学科: 工学
• 关键词: 深度学习 卷积神经网络 正则化 连接丢弃
• 年，卷（期）: 2020,（2）
• 所属期刊栏目: 人工智能专题
• 页码范围: 32-37
• 页数: 6页
• 分类号: TP391.4
• 字数: 5601字
• 语种: 中文

摘要

针对深度卷积神经网络中存在的过拟合问题,本文提出了一种确定性连接丢弃的正则化方法.核心思想是根据不同卷积滤波器权重对结果的贡献度不同,确定性丢弃卷积层层间连接,通过降低卷积滤波器权重的空间维度,使得卷积神经网络各层之间的连接更稀疏.通过将算法应用于图像分类任务来验证算法的性能,在MNIST、CIFAR-10和CIFAR-100数据集上,错误率分别为0.32％、5.33％、26.88％,相比于原始实验错误率分别降低0.15％、1.09％、1.36％.实验表明,本算法能够有效处理深度卷积神经网络的过拟合问题,并能提升网络的鲁棒性和泛化能力.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	何宇清	天津大学电气自动化与信息工程学院	37	197	9.0	12.0
2	庞彦伟	天津大学电气自动化与信息工程学院	29	148	8.0	10.0
3	潘静	天津大学电气自动化与信息工程学院	16	60	5.0	7.0
7	李鸿杨	天津大学电气自动化与信息工程学院	1	0	0.0	0.0