基于曲率信息的改进BP算法及其在FNN中的应用

• 作者: 史旭东 孙文心 熊伟丽
• 来源期刊: 系统仿真学报
• 学科: 工学
• 关键词: 步长优化 BP算法 模糊神经网络 学习速度
• 年，卷（期）: 2020,（1）
• 所属期刊栏目: 仿真建模理论与方法
• 页码范围: 1-8
• 页数: 8页
• 分类号: TP183
• 语种: 中文
• DOI: 10.16182/j.issn1004731x.joss.17-0461

摘要

针对步长选取影响误差反向传播(BP,Back Propagation)算法优化效率问题,提出一种基于曲率信息的步长优化BP算法,并将其应用到了模糊神经网络(FNN)的训练过程中.参考牛顿法的思想,根据代价函数的梯度及梯度方向上的曲率信息来确定模型参数调整的方向和幅度.仅需考虑梯度方向上的二阶信息,因此不需要存储和处理Hessian矩阵.通过一个数值仿真和高炉炼铁过程数据建模实验,验证了方法的有效性及训练效率.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	熊伟丽	江南大学物联网工程学院	119	960	17.0	25.0
5	孙文心	江南大学物联网工程学院	4	4	1.0	2.0
6	史旭东	江南大学物联网工程学院	6	0	0.0	0.0