卷积神经网络中激活函数的一种改进

• 作者: 刘小文 李聪 郭大波
• 来源期刊: 测试技术学报
• 学科: 工学
• 关键词: 卷积神经网络 激活函数 ReLU PReLU
• 年，卷（期）: 2019,（2）
• 所属期刊栏目: 数据采集与图像处理
• 页码范围: 121-125
• 页数: 5页
• 分类号: TP311.1
• 字数: 1787字
• 语种: 中文
• DOI: 10.3969/j.issn.1671-7449.2019.02.006

摘要

卷积神经网络中激活函数的作用是激活神经元的特征,然后保留并映射出来,这是人工神经网络能模拟人脑机制,解决非线性问题的关键.针对传统卷积神经网络出现的震荡、不收敛甚至过拟合的情况,对激活ReLU函数进行优化.提出一种新型矫正激活函数,称其为ReLU阈值函数.通过对数据集caltech1 01和caltech256进行训练,证明其在图片分类上的性能要优于ReLU函数.其中用Alexnet网络模型对caltech101数据集进行训练时的分类准确率由之前的97.7％提高到99.3％,对caltech256数据集进行训练时的分类准确率由之前的65.4％提高到92.3％.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	郭大波	山西大学物理电子工程学院	34	271	8.0	16.0
2	李聪	山西大学物理电子工程学院	2	11	1.0	2.0
3	刘小文	山西大学物理电子工程学院	2	11	1.0	2.0