基于边缘计算的分支神经网络模型推断延迟优化

• 作者: 李卓 樊琦 陈昕
• 来源期刊: 计算机应用
• 学科: 工学
• 关键词: 边缘计算 分支神经网络 深度神经网络 推断延迟 部署问题
• 年，卷（期）: 2020,（2）
• 所属期刊栏目: 2019年全国开放式分布与并行计算学术年会(DPCS2019)
• 页码范围: 342-346
• 页数: 5页
• 分类号: TP393.01
• 字数: 6513字
• 语种: 中文
• DOI: 10.11772/j.issn.1001-9081.2019081406

摘要

针对云服务器上深度神经网络(DNN)模型推断任务延迟过高的问题,提出基于边缘计算的分支神经网络部署模型.分析了边缘计算场景中深度神经网络的分布式部署问题,证明该问题是NP-难的.设计了一种基于分支定界思想的部署算法(DBB),选择合适的边缘计算节点部署模型以减少推断任务的延迟.设计并实现了选择节点退出(SNE)算法,为不同任务选择合适的边缘计算节点来退出推断任务.仿真实验结果表明,与在云端部署神经网络模型的方法相比,基于边缘计算的分支神经网络模型的推断延迟平均降低了36％.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	陈昕	北京信息科技大学计算机学院	65	329	9.0	16.0