面向一致性对话生成的对抗匹配网络与目标侧注意力机制研究

• 作者: 蔡恒毅 王成瑞 宋永浩 袁旭 张程 赵晓芳
• 来源期刊: 高技术通讯
• 关键词: 生成式对话模型 神经张量网络 对抗学习 目标侧注意力机制
• 年，卷（期）: 2022,（2）
• 所属期刊栏目: 计算机与通信技术
• 页码范围: 131-142
• 页数: 12页
• 语种: 中文
• DOI: 10.3772/j.issn.1002-0470.2022.02.003

摘要

序列到序列(seq2seq)方法在开放域对话生成领域中备受研究学者的关注.然而,标准的序列到序列模型容易产生语义冲突和不连贯的对话回复,这种不一致性是现有系统生成的回复显著有别于人类真实对话的重要原因之一.对话生成中的一致性既包括回复内部的语义一致性,也包括上文与其回复之间的外部关联性.本文提出了一个新的对话生成框架,称为基于张量匹配的生成式对抗网络(MatchGAN),以提高对话回复与其上文之间的外部关联性.与传统的基于最大似然估计的方法不同,该框架通过基于序列到序列模型的生成器和基于张量匹配网络的判别器之间的对抗学习来生成与上文相关的回复.通过使用匹配网络对上文与回复之间的多维关系进行建模,该模型所产生的回复更加符合人类对话的特点.此外,本研究进一步引入了目标侧注意力机制来增强所产生回复的内部语义一致性.实验结果表明,本文提出的框架能够产生高质量的对话回复,在量化指标评价和人工评测方面均优于其他基线方法.