基于描述约束的词表示学习

• 作者: 冶忠林 张科 朱宇 赵海兴
• 来源期刊: 中文信息学报
• 学科: 工学
• 关键词: 词表示学习 语义嵌入 词表示联合模型 词嵌入 词语结构矩阵
• 年，卷（期）: 2019,（4）
• 所属期刊栏目: 知识表示与知识获取
• 页码范围: 29-36
• 页数: 8页
• 分类号: TP391
• 字数: 6998字
• 语种: 中文
• DOI: 10.3969/j.issn.1003-0077.2019.04.004

摘要

词语作为语言模型中的基本语义单元,在整个语义空间中与其上下文词语具有很强的关联性.同样,在语言模型中,通过上下文词可判断出当前词的含义.词表示学习是通过一类浅层的神经网络模型将词语和上下文词之间的关联关系映射到低维度的向量空间中.然而,现有的词表示学习方法往往仅考虑了词语与上下文词之间的结构关联,词语本身所蕴含的内在语义信息却被忽略.因此,该文提出了DEWE词表示学习算法,该算法可在词表示学习的过程中不仅考量词语与上下文之间的结构关联,同时也将词语本身的语义信息融入词表示学习模型,使得训练得到的词表示既有结构共性也有语义共性.实验结果表明,DEWE算法是一种切实可行的词表示学习方法,相较于该文使用的对比算法,DEWE在6类相似度评测数据集上具有优异的词表示学习性能.