基于多源信息融合的分布式词表示学习

• 作者: 冶忠林 张科 朱宇 赵海兴
• 来源期刊: 中文信息学报
• 学科: 工学
• 关键词: 词表示学习 词表示 词嵌入 词向量 词特征学习
• 年，卷（期）: 2019,（10）
• 所属期刊栏目: 知识表示与知识获取
• 页码范围: 18-30
• 页数: 13页
• 分类号: TP391
• 字数: 11912字
• 语种: 中文
• DOI: 10.3969/j.issn.1003-0077.2019.10.003

摘要

分布式词表示学习旨在用神经网络框架训练得到低维、压缩、稠密的词语表示向量.然而,这类基于神经网络的词表示模型有以下不足:(1)罕见词由于缺乏充分上下文训练数据,训练所得的罕见词向量表示不能充分地反映其在语料中的语义信息;(2)中心词语的反义词出现于上下文时,会使意义完全相反的词却赋予更近的空间向量表示;(3)互为同义词的词语均未出现于对方的上下文中,致使该类同义词学习得到的表示在向量空间中距离较远.基于以上三点,该文提出了一种基于多源信息融合的分布式词表示学习算法(MSWE),主要做了4个方面的改进:(1)通过显式地构建词语的上下文特征矩阵,保留了罕见词及其上下文词语在语言训练模型中的共现信息可以较准确地反映出词语结构所投影出的结构语义关联;(2)通过词语的描述或解释文本,构建词语的属性语义特征矩阵,可有效地弥补因为上下文结构特征稀疏而导致的训练不充分;(3)通过使用同义词与反义词信息,构建了词语的同义词与反义词特征矩阵,使得同义词在词向量空间中具有较近的空间距离,而反义词则在词向量空间中具有较远的空间距离;(4)通过诱导矩阵补全算法融合多源特征矩阵,训练得到词语低维度的表示向量.实验结果表明,该文提出的MSWE算法能够有效地从多源词语特征矩阵中学习到有效的特征因子,在6个词语相似度评测数据集上表现出了优异的性能.