面向星上目标提取的卷积神经网络优化技术

• 作者: 卢丹 孙永岩 郑幸飞 齐保贵 师皓
• 来源期刊: 上海航天（中英文）
• 学科: 工学
• 关键词: 在轨应用 卷积神经网络 网络压缩 参数剪枝 知识蒸馏
• 年，卷（期）: 2021,（1）
• 所属期刊栏目: 创新与探索
• 页码范围: 105-112
• 页数: 8页
• 分类号: TN911.73|TP391.9
• 语种: 中文
• DOI: 10.19328/j.cnki.1006-1630.2021.01.013

摘要

针对卷积神经网络规模庞大、参数数量众多、在资源受限的在轨场景中难以应用的问题,提出了一种基于知识蒸馏的剪枝压缩改进方法.该方法对训练好的网络进行基于权重和基于通道的混合参数剪枝,在保留网络重要连接的同时剔除冗余信息;采用知识蒸馏法,用原始网络学到的知识指导剪枝后网络的再训练过程,以恢复损失的精度;在遥感数据集上对VGG-16分类网络进行实验.结果表明:所提方法可以实现16～18倍的压缩效果,并且网络精度下降不到1％.这使得卷积神经网络的在轨应用成为可能,具有理论及现实意义.