基于区域分解的快速卷积神经网络学习策略研究

• 作者: 刘嘉 古林燕 张卫
• 来源期刊: 集成技术
• 学科: 工学
• 关键词: 学习策略 区域分解 并行训练 加速
• 年，卷（期）: 2020,（6）
• 所属期刊栏目: 电子信息
• 页码范围: 48-58
• 页数: 11页
• 分类号: TP399
• 语种: 中文
• DOI: 10.12146/j.issn.2095-3135.20200418001

摘要

为加快卷积神经网络的训练,该研究提出一种受区域分解方法启发的新型学习策略.将该方法应用于残差网络(ResNet)进行图像分类时,使用ResNet32可获得最佳结果.进一步地,将ResNet32分成4个子网络,其中每个子网具有0.47 M参数,此为原始ResNet32的1/16,从而简化了学习过程.此外,由于可以并行训练子网络,因此在使用CIFAR-10数据集进行分类任务时,计算时间可以从8.53 h(通过常规学习策略)减少到5.65 h,分类准确性从92.82％ 提高到94.09％.CIFAR-100和Food-101数据集也实现了类似的改进.实验结果显示,所提出的学习策略可以大大减少计算时间,并提高分类的准确性.这表明所提出的策略可以潜在地应用于训练带有大量参数的卷积神经网络.