多层前向神经网络的新型二阶学习算法

• 作者: 于镝 任伟建 刘铁男 徐宝昌 段玉波 陈广义
• 来源期刊: 控制理论与应用
• 学科: 工学
• 关键词: 多层前向网络 BP算法 二阶学习算法 Newton算法
• 年，卷（期）: 2000,（5）
• 所属期刊栏目: 应用研究
• 页码范围: 721-724
• 页数: 4页
• 分类号: TP1
• 字数: 4372字
• 语种: 中文
• DOI: 10.3969/j.issn.1000-8152.2000.05.019

摘要

提出了多层前向神经网络的新型二阶递推学习算法.该算法不仅能使网络各层误差而且使二阶导数信息因子反向传播.证明了新算法等价于Newton迭代法并且有二阶收敛速度.它实现了 Newton搜索方向和Hessian阵逆的递推运算,其计算量几乎与普通递推最小二乘法相当.由算法性能分析证明新算法优于Karayiannis等人的二阶学习算法.