循环神经网络语言模型定点化优化算法研究

• 作者: 曾浩 王敏
• 来源期刊: 软件导刊
• 学科: 工学
• 关键词: RNN 语言模型 SIMD 效率优化 定点化
• 年，卷（期）: 2017,（2）
• 所属期刊栏目: 算法与语言
• 页码范围: 63-66
• 页数: 4页
• 分类号: TP312
• 字数: 3745字
• 语种: 中文
• DOI: 10.11907/rjdk.162641

摘要

RNN(Recurrent Neural Network)语言模型的计算复杂度高,成为RNN语言模型实际应用中的一个瓶颈. 对此,提出一种基于RNN语言模型的定点化方案,该方案将RNN的浮点数(float)矩阵运算转化为定点化计算.通过采用SIMD(Single Instruction Multiple Data)指令集,将占比最大的矩阵相乘的计算量减小为原来的1/2甚至1/4.实验结果表明,在不影响识别效果前提下,优化算法提高了语言模型的运算效率.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	曾浩	重庆邮电大学信息与通信工程学院	37	122	6.0	9.0
2	王敏	重庆邮电大学信息与通信工程学院	11	35	3.0	5.0