基于深度学习的相似语言短文本的语种识别方法

• 作者: 张琳琳 李毓 杨雅婷 潘一荣 陈沾衡
• 来源期刊: 计算机应用与软件
• 学科: 工学
• 关键词: 语种识别 相似语言 短文本 神经网络 文本分类
• 年，卷（期）: 2020,（2）
• 所属期刊栏目: 人工智能与识别
• 页码范围: 124-129,176
• 页数: 7页
• 分类号: TP3
• 字数: 5388字
• 语种: 中文
• DOI: 10.3969/j.issn.1000-386x.2020.02.019

摘要

在语种识别中,传统的N-Gram方法对文本长度依赖度高,因而无法有效地对短文本进行语种识别.现有的基于神经网络的模型无法同时考虑词本身信息和词间组合信息,从而降低了短文本语种识别的质量.针对以上问题,提出一种基于深度学习的字符级短文本语种识别方法.采用卷积神经网络从字符向量中获取词中字符组合信息;通过长短期记忆网络获取词与词之间的特征信息;使用全连接网络实现相似语言的语种识别.在维吾尔语、哈萨克语以及DSL2017数据集上的实验结果表明,该方法可以有效地提高相似语言短文本的识别精度.