基于生成对抗网络的最大熵逆强化学习

• 作者: 傅启明 吴宏杰 陆悠 陈其强 陈建平 高振
• 来源期刊: 计算机工程与应用
• 学科: 工学
• 关键词: 生成对抗网络(GAN) 逆强化学习 最大熵
• 年，卷（期）: 2019,（22）
• 所属期刊栏目: 模式识别与人工智能
• 页码范围: 119-126
• 页数: 8页
• 分类号: TP391
• 字数: 8064字
• 语种: 中文
• DOI: 10.3778/j.issn.1002-8331.1904-0238

摘要

针对逆强化学习算法在训练初期由于专家样本稀疏所导致的学习速率慢的问题,提出一种基于生成对抗网络(Generative Adversarial Networks,GAN)的最大熵逆强化学习算法.在学习过程中,结合专家样本训练优化生成对抗网络,以生成虚拟专家样本,在此基础上利用随机策略生成非专家样本,构建混合样本集,结合最大熵概率模型,对奖赏函数进行建模,并利用梯度下降方法求解最优奖赏函数.基于所求解的最优奖赏函数,利用正向强化学习方法求解最优策略,并在此基础上进一步生成非专家样本,重新构建混合样本集,迭代求解最优奖赏函数.将所提出的算法与MaxEnt IRL算法应用于经典的Object World与Mountain Car问题,实验表明,该算法在专家样本稀疏的情况下可以较好地求解奖赏函数,具有较好的收敛性能.