基于惩罚函数泛化的神经网络剪枝算法研究

• 作者: 包芳 潘永惠 熊俊 王士同
• 来源期刊: 计算机工程
• 学科: 工学
• 关键词: 隐层节点 神经网络 剪枝算法 惩罚函数 泛化 XOR数据
• 年，卷（期）: 2014,（11）
• 所属期刊栏目: ?人工智能及识别技术?
• 页码范围: 149-154
• 页数: 6页
• 分类号: TP183
• 字数: 4626字
• 语种: 中文
• DOI: 10.3969/j.issn.1000-3428.2014.11.030

摘要

神经网络的隐层数和隐层节点数决定了网络规模，并对网络性能造成较大影响。在满足网络所需最少隐层节点数的前提下，利用剪枝算法删除某些冗余节点，减少隐层节点数，得到更加精简的网络结构。基于惩罚函数的剪枝算法是在目标函数后加入一个惩罚函数项，该惩罚函数项是一个变量为网络权值的函数。由于惩罚函数中的网络权值变量可以附加一个可调参数，将单一惩罚函数项泛化为一类随参数规律变化的新的惩罚函数，初始惩罚函数可看作泛化后惩罚函数的参数取定值的特殊情况。实验利用基于标准BP神经网络的XOR数据进行测试，得到隐层节点剪枝效果和网络权值随惩罚函数的泛化而发生变化，并从数据分析中得出具有更好剪枝效果及更优网络结构的惩罚函数泛化参数。

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	王士同	江南大学数字媒体学院	528	3424	23.0	37.0
2	熊俊	江南大学数字媒体学院	2	10	1.0	2.0