基于神经网络的机器阅读理解综述

• 作者: 廖东 李德福 桂小林 沈毅 顾迎捷
• 来源期刊: 软件学报
• 学科: 工学
• 关键词: 机器阅读理解 自然语言处理 注意力机制 神经阅读理解模型
• 年，卷（期）: 2020,（7）
• 所属期刊栏目: 模式识别与人工智能
• 页码范围: 2095-2126
• 页数: 32页
• 分类号: TP18
• 字数: 28192字
• 语种: 中文
• DOI: 10.13328/j.cnki.jos.006048

摘要

机器阅读理解的目标是使机器理解自然语言文本,并能够正确回答与文本相关的问题.由于数据集规模的制约,早期的机器阅读理解方法大多基于人工特征以及传统机器学习方法进行建模.近年来,随着知识库、众包群智的发展,研究者们陆续提出了高质量的大规模数据集,为神经网络模型以及机器阅读理解的发展带来了新的契机.对基于神经网络的机器阅读理解相关的最新研究成果进行了详尽的归纳:首先,概述了机器阅读理解的发展历程、问题描述以及评价指标;然后,针对当前最流行的神经阅读理解模型架构,包括嵌入层、编码层、交互层和输出层中所使用的相关技术进行了全面的综述,同时阐述了最新的BERT预训练模型及其优势;之后,归纳了近年来机器阅读理解数据集和神经阅读理解模型的研究进展,同时,详细比较分析了最具代表性的数据集以及神经网络模型;最后展望了机器阅读理解研究所面临的挑战和未来的研究方向.