自然语言处理中的文本表示研究

• 作者: 赵京胜 宋梦雪 高祥 朱巧明
• 来源期刊: 软件学报
• 学科: 工学
• 关键词: 自然语言处理 文本表示 向量空间模型 主题模型 图模型 深度学习 表示学习
• 年，卷（期）: 2022,（1）
• 所属期刊栏目: 模式识别与人工智能|PATTERN RECOGNITION AND ARTIFICIAL INTELLIGENCE
• 页码范围: 102-128
• 页数: 27页
• 分类号: TP391
• 语种: 中文
• DOI: 10.13328/j.cnki.jos.006304

摘要

自然语言处理是人工智能的核心技术,文本表示是自然语言处理的基础性和必要性工作,影响甚至决定着自然语言处理系统的质量和性能.探讨了文本表示的基本原理、自然语言的形式化、语言模型以及文本表示的内涵和外延.宏观上分析了文本表示的技术分类,对主流技术和方法,包括基于向量空间、基于主题模型、基于图、基于神经网络、基于表示学习的文本表示,进行了分析、归纳和总结,对基于事件、基于语义和基于知识的文本表示也进行了介绍.对文本表示技术的发展趋势和方向进行了预测和进一步讨论.以神经网络为基础的深度学习以及表示学习在文本表示中将发挥重要作用,预训练加调优的策略将逐渐成为主流,文本表示需要具体问题具体分析,技术和应用融合是推动力.