一种适应域的汉语N-gram语言模型平滑算法

• 作者: 朱小燕 江铭虎 袁保宗
• 来源期刊: 清华大学学报（自然科学版）
• 学科: 工学
• 关键词: 三元文法模型 适应域 平滑算法
• 年，卷（期）: 1999,（9）
• 所属期刊栏目: 计算机科学与技术
• 页码范围: 99-102
• 分类号: TN911.2
• 语种: 中文
• DOI: 10.3321/j.issn:1000-0054.1999.09.027

摘要

针对基于汉语词的N-gram模型统计数据稀疏问题和应用域变化造成原统计模型识别性能降低,提出具有应用域适应能力的N-gram模型平滑算法.对两种应用域的语料进行了前、后向0到3元文法统计,采用隐马尔可夫模型(HMM)在语音识别中的成功经验,由Baum-welch算法来获得优化权值,每个权值代表相关模型的统计可靠性.由前后向的3-gram模型可得到5-gram文法约束的平滑算法,以弥补统计矩阵数据的稀疏现象.将<人民日报>语料的统计结果作为先验统计结果,和<计算机世界>作为转换域的专业语料进行后继训练,得到一种适应应用域的3-gram模型.实验结果表明,前后向约束的3-gram文法得到的5-gram平滑可以较小的存储代价得到较高的文法约束,大大降低了统计模型的困惑度.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	朱小燕	清华大学计算机科学与技术系	33	684	11.0	26.0
2	江铭虎	清华大学计算机科学与技术系	15	98	5.0	9.0
3	袁保宗	北方交通大学信息科学研究所	60	1129	14.0	33.0