权值初始化与激励函数调整相结合的学习算法

• 作者: 武妍 王守觉
• 来源期刊: 计算机工程与应用
• 学科: 工学
• 关键词: 前向神经网络 权值初始化 独立元分析 激励函数
• 年，卷（期）: 2004,（30）
• 所属期刊栏目: 博士论坛
• 页码范围: 23-25,44
• 页数: 4页
• 分类号: TP183
• 字数: 3443字
• 语种: 中文
• DOI: 10.3321/j.issn:1002-8331.2004.30.008

摘要

提出了一种基于独立元分析(ICA)方法的权值初始化方法和动态调整S型激励函数的斜率相结合的神经网络学习算法.该方法利用ICA从输入数据中提取显著的特征信息来初始化输入层到隐含层权值.而且通过使神经网络的输出位于激励函数的活动区域,对隐含层到输出层的权值进行初始化.在学习过程中,再对每个隐单元和输出单元的激励函数的斜率进行自动调整.最后通过计算机仿真实际的基准问题,验证了论文提出的方法的有效性.实验结果表明,所提出的方法能有效地加快多层前向神经网络的训练过程.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	武妍	同济大学计算机科学与工程系	58	726	15.0	24.0
5	王守觉	同济大学半导体与信息技术研究所	17	129	5.0	10.0