二维矩阵卷积在向量处理器中的设计与实现

• 作者: 张军阳 郭阳
• 来源期刊: 国防科技大学学报
• 学科: 工学
• 关键词: 卷积神经网络 向量处理器 多核实现 矩阵卷积
• 年，卷（期）: 2018,（3）
• 所属期刊栏目: 电子科学与技术·信息与通信工程
• 页码范围: 69-75
• 页数: 7页
• 分类号: TP391
• 字数: 5483字
• 语种: 中文
• DOI: 10.11887/j.cn.201803011

摘要

为了加快卷积神经网络模型的计算速度,便于大规模神经网络模型在嵌入式微处理器中的实现,以FT-matrix2000向量处理器体系结构为研究背景,通过对多核向量处理器体系结构的分析和对卷积神经网络算法的深入研究,提出将规模较小的卷积核数据置于标量存储体,尺寸较大的卷积矩阵置于向量存储体的数据布局方案.针对矩阵卷积中数据难以复用的问题,提出根据卷积核移动步长的不同动态可配置的混洗模式,通过对所取卷积矩阵元素进行不同的移位操作,进而大幅提高卷积矩阵数据的复用率.针对二维矩阵卷积由于存在数据相关性进而难以多核并行的问题,提出将卷积矩阵多核共享,卷积核矩阵多核独享的多核并行方案.设计了卷积核尺寸不变、卷积矩阵规模变化和卷积矩阵尺寸不变、卷积核规模变化的两种计算方式,并在主流CPU、GPU、TI6678、FT-matrix2000平台进行了性能对比与分析.实验结果表明:FT-matrix2000相比CPU最高可加速238倍,相比TI6678可加速21倍,相比GPU可加速663 805倍.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	郭阳	国防科技大学计算机学院	50	449	9.0	20.0
2	张军阳	国防科技大学计算机学院	3	116	2.0	3.0