基于强化学习的无标签网络剪枝

• 作者: 刘会东 杜方 余振华 宋丽娟
• 来源期刊: 模式识别与人工智能
• 关键词: 深度神经网络(DNN) 网络剪枝 网络架构搜索 强化学习
• 年，卷（期）: 2021,（3）
• 所属期刊栏目: “强化学习研究”|Research on Reinforcement Learning
• 页码范围: 214-222
• 页数: 9页
• 分类号: TP183
• 语种: 中文
• DOI: 10.16451/j.cnki.issn1003-6059.202103003

摘要

为了消除深度神经网络中的冗余结构,找到具备较好性能和复杂度之间平衡性的网络结构,提出基于无标签的全局学习方法(LFGCL).LFGCL学习基于网络体系结构表示的全局剪枝策略,可有效避免以逐层方式修剪网络而导致的次优压缩率.在剪枝过程中不依赖数据标签,输出与基线网络相似的特征,优化网络体系结构.通过强化学习推断所有层的压缩率,采用深度确定性策略梯度算法探索最优网络结构.在多个数据集上的实验表明,LFGCL性能较优.