基于层次化修正框架的文本纠错模型

• 作者: 叶俊民 罗达雄 陈曙
• 来源期刊: 电子学报
• 学科: 工学
• 关键词: 文本纠错 预训练模型 层次化修正框架 深度学习
• 年，卷（期）: 2021,（2）
• 所属期刊栏目: 科研通信
• 页码范围: 401-407
• 页数: 7页
• 分类号: TP391
• 语种: 中文
• DOI: 10.12263/DZXB.20200448

摘要

文本中存在的表达冗余、词汇误用和内容缺失等错误会显著影响文本语义的理解,当前解决上述文本错误的纠错模型存在两个主要的问题:当前的文本纠错模型主要基于编码器-解码器框架,解码速度较慢;许多工作将错误检测和修正分离成两个任务,没有形成统一的整体.为此,提出了一种基于层次化修正框架的文本纠错模型.首先,基于预训练模型建模得到文本的多种语义表示;其次,利用文本的语义表示识别出文本中错误的位置;最后,利用层次化修正框架计算精化的修正操作并完成对错误的修正.针对公开文本纠错数据集CONLL-14进行了相关实验,结果表明本文模型比所选取的对比模型有更快的解码速度和更高的召回率.