利用信息交互最优权重改进神经网络的方法

• 作者: 刘明 张忠伟 徐阳
• 来源期刊: 吉林大学学报（信息科学版）
• 学科: 工学
• 关键词: 神经网络 权重 信息交互
• 年，卷（期）: 2019,（1）
• 所属期刊栏目: 创新园地
• 页码范围: 107-112
• 页数: 6页
• 分类号: TP183
• 字数: 4203字
• 语种: 中文

摘要

由于卷积神经网络中多层感知器使用梯度下降算法进行训练,存在收敛速度慢和易于陷入局部极小的问题.针对此问题,提出一种利用信息交互计算最优初始化权重的方法改善网络结构,该方法可有效减少训练时间并可避免陷入局部极小.利用数学理论推导出ReLU函数最优初始化权值的公式,利用该方法改进2-channel网络结构,直接代入数据可求出最优初始权值.通过3个数据集的多次训练和测试,灰度图像的平均匹配准确率提升了1.0％左右,FPR95平均值也由5.23降至4.65,初始化权重的设置可避免神经元进入硬饱和区,同时网络还具有效果稳定、收敛速度快的优点.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	刘明		46	130	6.0	10.0
2	张忠伟	东北石油大学电气信息与工程学院	5	8	2.0	2.0
3	徐阳	东北石油大学电气信息与工程学院	1	0	0.0	0.0