SegT:一个实用的藏文分词系统

• 作者: 刘汇丹 吴健 诺明花 贺也平 赵维纳
• 来源期刊: 中文信息学报
• 学科: 工学
• 关键词: 藏文分词 格助词 临界词识别 词频统计 藏文信息处理 中文信息处理
• 年，卷（期）: 2012,（1）
• 页码范围: 97-103
• 分类号: TP391
• 字数: 6060字
• 语种: 中文
• DOI: 10.3969/j.issn.1003-0077.2012.01.014

摘要

在分析现有藏文分词方法的基础上,该文重点研究了葳文分词中的格助词分块、临界词识别、词频统计、交集型歧义检测和消歧等问题并提出了相应的方法.应用这些方法,设计实现了一个藏文分词系统SegT.该系统采用格助词分块并识别临界词,然后采用最大匹配方法分词,并进行紧缩词识别.系统采用双向切分检测交集型歧义字段并使用预先统计的词频信息进行消歧.实验结果表明,该文设计的格助词分块和临界词识别方法可以将分词速度提高15％左右,但格助词分块对分词效果没有明显提高或降低.系统最终分词正确率为96.98％,基本达到了实用的水平.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	刘汇丹	中国科学院软件研究所	17	85	5.0	8.0
5	诺明花	中国科学院软件研究所	8	71	4.0	8.0
9	赵维纳		1	30	1.0	1.0
13	吴健	中国科学院软件研究所	60	513	11.0	20.0
14	贺也平	中国科学院软件研究所	46	727	16.0	26.0