一种基于小字典不对等语料的跨语言词嵌入方法

• 作者: 余正涛 冯银汉 文永华 王红斌
• 来源期刊: 中文信息学报
• 学科: 工学
• 关键词: 小字典 不对等语料 词嵌入 k-means聚类 梯度下降
• 年，卷（期）: 2019,（8）
• 所属期刊栏目: 语言资源建设
• 页码范围: 46-52
• 页数: 7页
• 分类号: TP391
• 字数: 5627字
• 语种: 中文

摘要

双语词嵌入通常采用从源语言空间到目标语言空间映射,通过源语言映射嵌入到目标语言空间的最小距离线性变换实现跨语言词嵌入.然而大型的平行语料难以获得,词嵌入的准确率难以提高.针对语料数量不对等、双语语料稀缺情况下的跨语言词嵌入问题,该文提出一种基于小字典不对等语料的跨语言词嵌入方法,首先对单语词向量进行归一化,对小字典词对正交最优线性变换求得梯度下降初始值,然后通过对大型源语言(英语)语料进行聚类,借助小字典找到与每一聚类簇相对应的源语言词,取聚类得到的每一簇词向量均值和源语言与目标语言对应的词向量均值,建立新的双语词向量对应关系,将新建立的双语词向量扩展到小字典中,使得小字典得以泛化和扩展.最后,利用泛化扩展后的字典对跨语言词嵌入映射模型进行梯度下降求得最优值.在英语—意大利语、德语和芬兰语上进行了实验验证,实验结果证明该文方法可以在跨语言词嵌入中减少梯度下降迭代次数,减少训练时间,同时在跨语言词嵌入上表现出较好的正确率.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	王红斌	昆明理工大学信息工程与自动化学院	25	127	5.0	10.0
2	余正涛	昆明理工大学信息工程与自动化学院	122	877	17.0	24.0
3	文永华	昆明理工大学信息工程与自动化学院	7	11	1.0	3.0
4	冯银汉	昆明理工大学信息工程与自动化学院	1	0	0.0	0.0