基于CUDA流技术的深度学习系统优化

• 作者: 刘湃 张杨松 蒋文斌 陈雨浩
• 来源期刊: 华中科技大学学报（自然科学版）
• 学科: 工学
• 关键词: 深度学习 计算统一设备架构(CUDA)流 训练速度 调度算法 准确率
• 年，卷（期）: 2020,（7）
• 所属期刊栏目: 计算机科学
• 页码范围: 107-111
• 页数: 5页
• 分类号: TP391
• 语种: 中文
• DOI: 10.13245/j.hust.200718

摘要

为了在不损失模型准确率的同时优化Caffe深度学习框架的训练速度,提出了一种面向Caffe并基于计算统一设备架构(CUDA)流技术的深度学习系统优化方法,以便充分利用GPU资源,提高计算的并行度.在Caffe网络的各层使用异步CUDA流,使其运行在独立线程以并行执行GPU计算任务;同时将批处理块划分成多个数据片,使用调度算法在前向传播和反向传播过程中以流水线形式进行处理.在数据集MNIST和CIFAR-10上的实验结果表明:优化后的系统在训练速度上有明显提升,同时准确率基本无损失.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	蒋文斌		16	59	4.0	7.0
2	刘湃		1	0	0.0	0.0
3	陈雨浩		1	0	0.0	0.0
4	张杨松		1	0	0.0	0.0