一种基于Inter-warp异构性的缓存管理与内存调度机制

• 作者: 于婷雯 方娟 魏泽琳
• 来源期刊: 计算机工程与科学
• 学科: 工学
• 关键词: 缓存管理 内存调度 内存发散 线程束
• 年，卷（期）: 2019,（5）
• 所属期刊栏目: 高性能计算
• 页码范围: 788-795
• 页数: 8页
• 分类号: TP303
• 字数: 7002字
• 语种: 中文
• DOI: 10.3969/j.issn.1007-130X.2019.05.004

摘要

在GPU中,一个warp内的所有线程在锁步中执行相同的指令.某些线程的内存请求可以得到快速处理,而其余请求会经历较长时间.在最慢的请求完成之前,warp不能执行下一条指令,导致内存发散.对GPU中warp间的异构性进行了研究,实现并优化了一种基于inter-warp异构性的缓存管理机制和内存调度策略,以减少内存发散和缓存排队延迟的负面影响.根据缓存命中率将warp分类,以驱动后面的3个组件:(1)基于warp类型的缓存旁路技术组件,使低缓存利用率的warp进入旁路,不访问L2缓存;(2)基于warp类型的缓存插入/提升策略组件,防止来自高缓存利用率warp的数据被过早清除;(3)基于warp类型的内存控制器组件,优先处理从高缓存利用率的warp接收到的请求,并优先处理来自相同warp的请求.基于warp间异构性的缓存管理和内存调度机制在8种不同的GPGPU应用中,与基准GPU相比,平均加速18.0％.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	方娟	北京工业大学信息学部计算机学院	60	267	9.0	12.0
2	魏泽琳	北京工业大学信息学部计算机学院	1	0	0.0	0.0
3	于婷雯	北京工业大学信息学部计算机学院	1	0	0.0	0.0