结合侧抑制机制的自动编码器训练新算法

• 作者: 倪嘉成 李帅 许悦雷 马时平
• 来源期刊: 计算机应用与软件
• 学科: 工学
• 关键词: 深度学习 自动编码器 侧抑制机制 稀疏性 反向传播算法
• 年，卷（期）: 2015,（9）
• 所属期刊栏目: 人工智能与识别
• 页码范围: 157-160
• 页数: 4页
• 分类号: TP3
• 字数: 4865字
• 语种: 中文
• DOI: 10.3969/j.issn.1000-386x.2015.09.038

摘要

深度学习是目前最热门的机器学习方法之一。针对深度学习中的自动编码器在训练时容易产生网络模型复杂度过高、输出矩阵不够稀疏、小样本训练过拟合等问题，提出一种结合侧抑制机制的自动编码器训练新算法。算法构建了用于隐藏层的侧抑制神经元筛选模型。首先设定抑制限寻找符合抑制条件的神经元，然后通过侧抑制函数对符合条件的神经元进行快速输出抑制，运用反向传播算法对模型进行优化，最终输出权重特征。实验结果表明，算法能够使隐藏层输出近似满足稀疏条件并学习得到更加鲁棒的特征，提高分类正确率的同时还能一定程度上抑制过拟合现象。

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	许悦雷	空军工程大学航空航天工程学院	61	585	13.0	22.0
2	马时平	空军工程大学航空航天工程学院	74	784	15.0	25.0
3	李帅	空军工程大学航空航天工程学院	19	117	6.0	10.0
4	倪嘉成	空军工程大学航空航天工程学院	9	85	3.0	9.0