激活函数在卷积神经网络中的对比研究

• 作者: 李彤岩 李英祥 田娟
• 来源期刊: 计算机系统应用
• 关键词: 卷积神经网络 激活函数 Caffe 梯度下降法 网络性能
• 年，卷（期）: 2018,（7）
• 所属期刊栏目: 专论·综述
• 页码范围: 43-49
• 页数: 7页
• 字数: 5259字
• 语种: 中文
• DOI: 10.15888/j.cnki.csa.006463

摘要

近年,深度学习的快速发展致使越来越多的人从事相关的研究工作.但是,许多研究者在搭建深度神经网络模型时只是根据标准算法或改进算法直接搭建,而对算法本身及影响模型性能的因素不甚了解,致使在许多应用中或多或少存在盲目套用现象.通过研究深度神经网络,选择其中的重要影响因素激活函数进行深入研究.首先,分析了激活函数如何影响深度神经网络;接着对激活函数的发展现状及不同激活函数的原理性能进行了分析总结;最后,基于Caffe框架用CNN对Mnist数据集进行分类识别实验,对5种常用激活函数进行综合分析比较,为设计深度神经网络模型时选用激活函数提供参考.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	李英祥	成都信息工程大学通信工程学院	24	120	6.0	10.0
2	李彤岩	成都信息工程大学通信工程学院	7	70	3.0	7.0
3	田娟	成都信息工程大学通信工程学院	3	174	2.0	3.0