基于双向多层转换编解码的诗自动生成

• 作者: 杨泰康 杨婉霞 刘燕 胡智喻 王巧珍 徐明杰
• 来源期刊: 软件工程
• 关键词: Attention机制 双向多层转换编解码 诗 自动生成 循环神经网络
• 年，卷（期）: 2021,（4）
• 所属期刊栏目: 方法与技术|Method & Technology
• 页码范围: 15-21
• 页数: 7页
• 分类号: TP391
• 语种: 中文
• DOI: 10.19644/j.cnki.issn2096-1472.2021.04.004

摘要

中国古诗因其严谨的平仄、押韵结构,精练传神的用词成为文本自动生成领域的挑战问题之一.本文基于双向多层转换编解码的空间向量,结合Attention机制建立了循环神经网络结构的诗自动生成模型.为解决自动生成诗的主题发散性问题,模型在生成每句诗时均增加了关键词约束.此外,为了增强诗句之间的对仗性和语义的连贯性,模型双向多层转换编解码的词嵌入式输入添加了诗句的对齐向量.实验结果表明,相比于以词转换为向量的词嵌入式的诗自动生成模型,本文设计的基于BERT的对齐向量输入模型生成的诗不仅在机器评估和人工评估中性能较优,而且生成诗句相邻句子的相关性也最好.这也进一步说明,当模型的输入向量能充分表达诗词的格式、内容和语义时,双向多层转换编解码的向量表示,即Attention机制+循环神经网络构建的诗生成模型可以生成较接近人工作的诗.