现代汉语熵的计算及语言模型中稀疏事件的概率估计

• 作者: 刘秉伟 吴立德 郭以昆 黄萱菁
• 来源期刊: 电子学报
• 学科: 工学
• 关键词: 熵 困惑度 统计语言模型
• 年，卷（期）: 2000,（8）
• 所属期刊栏目: 科研通信
• 页码范围: 110-112
• 页数: 3页
• 分类号: TP391|G354
• 字数: 2733字
• 语种: 中文
• DOI: 10.3321/j.issn:0372-2112.2000.08.033

摘要

本文在大规模语料的基础上,利用语言模型中稀疏事件的概率估计方法对汉语的熵进行计算,并讨论了语料规模等因素对熵的影响.在4年的人民日报的语料规模下,所求得的零阶熵、一阶熵、二阶熵分别为9.62,6.18和4.89比特.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	吴立德	复旦大学计算机科学系	78	2759	24.0	52.0
2	黄萱菁	复旦大学计算机科学系	49	2106	18.0	45.0
3	郭以昆	复旦大学计算机科学系	4	359	4.0	4.0
4	刘秉伟	复旦大学计算机科学系	2	139	2.0	2.0