RBF神经网络的梯度下降训练方法中的学习步长优化

• 作者: 刘荧 林嘉宇
• 来源期刊: 信号处理
• 学科: 工学
• 关键词: 梯度下降法 学习步长优化 RBF 神经网络
• 年，卷（期）: 2002,（1）
• 所属期刊栏目: 论文与技术报告
• 页码范围: 43-48
• 页数: 6页
• 分类号: TP18
• 字数: 4938字
• 语种: 中文
• DOI: 10.3969/j.issn.1003-0530.2002.01.012

摘要

梯度下降法是训练RBF神经网络的一种有效方法.和其他基于下降法的算法一样,RBF神经网络的梯度下降训练方法中也存在学习步长的取值问题.本文基于误差能量函数对学习步长的二阶Taylor展开,构造了一种优化学习步长的方法,进行了较详细的推导.实验表明,本方法可有效地加速梯度下降法的收敛速度、提高其性能.该方法的思想可以用于其他基于下降法的学习步长的优化中.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	林嘉宇	国防科技大学电子科学与工程学院	40	423	12.0	19.0
2	刘荧	国防科技大学电子科学与工程学院	11	179	5.0	11.0