基于贝叶斯优化生成神经网络容错结构

• 作者: 路勇 竺子扬 何梦
• 来源期刊: 微电子学与计算机
• 关键词: 嵌入式设备 神经网络加速器 容错 贝叶斯优化
• 年，卷（期）: 2022,（7）
• 所属期刊栏目: 计算机工程与应用
• 页码范围: 63-70
• 页数: 7页
• 分类号: TP183
• 语种: 中文
• DOI: 10.19304/J.ISSN1000-7180.2022.0013

摘要

在复杂环境下将神经网络部署到边缘设备时，复杂的现实环境的影响可能会出现各种类型的故障，因此，神经网络模型的鲁棒性和潜在的容错特性受到广泛关注.目前有种容错神经网络设计策略为显式增加计算冗余，通过在全卷积增加计算层冗余的结构来提高可靠性.然而这种设计策略来实现高容错性却忽略了引入大量的模型参数和计算量，虽然可以一定程度上提高网络模型的可靠性，但是这样的模型不适合在存储资源和计算资源有限的嵌入式设备上部署.为了解决这个问题，提出使用贝叶斯优化算法来获取神经网络上最佳的计算冗余结构，实现高容错性能的神经网络.同时在加速器系统硬件上做少量的改动，来找出决定嵌入式端部署加速系统稳定性的关键模块.相比于全卷积层计算冗余结构的设计，该方法使神经网络在1e-4作为均匀错误率下模型Top5精度下降不超过2.6%，计算量平均减少了37.7%