神经网络二阶反向传播学习算法及其收敛性

• 作者: 刘严崴 刘志德 刘铁男 王利国 谢爱华
• 来源期刊: 大庆石油学院学报
• 学科: 工学
• 关键词: 全局收敛性 多层前向网络 BP算法 二阶学习算法 Newton算法
• 年，卷（期）: 2001,（4）
• 所属期刊栏目: 自动控制
• 页码范围: 38-41
• 页数: 4页
• 分类号: TE273+.5
• 字数: 2569字
• 语种: 中文
• DOI: 10.3969/j.issn.2095-4107.2001.04.012

摘要

针对BP算法收敛速度慢的问题,提出了多层前向神经网络的新型二阶递推学习算法. 给出了一种新的矩阵求逆引理,从Newton迭代法入手,推导出新型递推学习算法. 该算法等价于Newton迭代法并且有二阶收敛速度,能同时反向传播网络各层误差和二阶导数信息因子,还能实现Newton搜索方向和Hessian阵逆的递推运算. 基于微分方程稳定性理论,研究了新算法的全局收敛性.分析表明,新算法优于BP算法并且具有全局收敛性.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	刘铁男	大庆石油学院自动化与控制工程系	23	161	8.0	11.0
2	刘志德	大庆石油学院自动化与控制工程系	4	42	4.0	4.0
3	谢爱华	大庆石油学院自动化与控制工程系	5	36	3.0	5.0
4	王利国		2	9	2.0	2.0
5	刘严崴	大庆供电公司中心实验所	2	5	1.0	2.0