基于Supersonic的并行分组聚集

• 作者: 孙辉 张兵 李翠平 王雯 范旭 陈红
• 来源期刊: 计算机应用
• 学科: 工学
• 关键词: 并行分组聚集 Supersonic 节点锁 列存储 cache友好
• 年，卷（期）: 2016,（1）
• 所属期刊栏目: 第32届中国数据库学术会议(NDBC 2015)
• 页码范围: 13-20
• 页数: 8页
• 分类号: TP311
• 字数: 8228字
• 语种: 中文
• DOI: 10.11772/j.issn.1001-9081.2016.01.0013

摘要

针对在分析型联机分析处理(OLAP)应用中频繁出现的数据密集型操作符——分组聚集耗时较多的问题,提出Cache友好的分组聚集算法对该操作进行性能优化.首先,为充分发挥列存储在数据密集型计算方面的优势,采用基于开源的列存储查询执行引擎Supersonic,并在此之上设计Cache友好的分组聚集算法;其次,为加速查询的执行,使用并行技术,将单线程的分组聚集算法改为多线程并行的分组聚集算法.基于Supersonic设计并实现4种并行分组聚集算法:无共享Hash表并行分组聚集(NSHPGA)算法、表锁共享Hash表并行分组聚集(TLSHPGA)算法、桶锁共享Hash表并行分组聚集(BLSHPGA)算法、节点锁共享Hash表并行分组聚集(NLSHPGA)算法,且在不同的分组势集、不同的线程数的情况下,针对上述4种算法做了多组实验.通过对比3种不同粒度的共享Hash表并行分组聚集算法的加速比,得出NLSHPGA算法在加速比和并发度两方面表现最好,部分查询可达到10倍加速比;通过比较NSHPGA算法和NLSHPGA算法的加速比、Cache miss内存使用等情况,得出NLSHPGA算法在分组势集大于8时,加速比超过NSHPGA算法,并且Cache miss更低,使用的内存更少.