神经网络的两种结构优化算法研究

• 作者: 丁锋 杨慧中 王伟娜
• 来源期刊: 信息与控制
• 关键词: 神经网络结构优化 剪枝算法 权值拟熵 权值敏感度 快速构造算法 泛化性能
• 年，卷（期）: 2006,（6）
• 所属期刊栏目: 论文与报告
• 页码范围: 700-704,710
• 页数: 6页
• 分类号: TP183
• 语种: 中文
• DOI: 10.3969/j.issn.1002-0411.2006.06.006

摘要

提出了一种基于权值拟熵的"剪枝算法"与权值敏感度相结合的新方法,在"剪枝算法"中将权值拟熵作为惩罚项加入目标函数中,使多层前向神经网络在学习过程中自动约束权值分布,并以权值敏感度作为简化标准,避免了单纯依赖权值大小剪枝的随机性.同时,又针对剪枝算法在优化多输入多输出网络过程中计算量大、效率不高的问题,提出了一种在级联一相关(cascade-correlation,CC)算法的基础上从适当的网络结构开始对网络进行构建的快速"构造算法".仿真结果表明这种快速构造算法在收敛速度、运行效率乃至泛化性能上都更胜一筹.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	丁锋	江南大学控制科学与工程研究中心	109	1413	20.0	32.0
2	杨慧中	江南大学控制科学与工程研究中心	228	1844	20.0	33.0
3	王伟娜	江南大学控制科学与工程研究中心	2	46	2.0	2.0