基于状态聚类的多站点CSPS系统的协同控制方法

• 作者: 周雷 唐昊 裴荣 谭琦
• 来源期刊: 自动化学报
• 关键词: 多站点CSPS系统 局域信息交互 状态聚类 反馈式Q学习
• 年，卷（期）: 2014,（5）
• 所属期刊栏目: 论文与报告
• 页码范围: 901-908
• 页数: 8页
• 字数: 8395字
• 语种: 中文
• DOI: 10.3724/SP.J.1004.2014.00901

摘要

单站点传送带给料加工站(Conveyor-serviced production station, CSPS)系统中,可运用强化学习对状态–行动空间进行有效探索,以搜索近似最优的前视距离控制策略。但是多站点CSPS系统的协同控制问题中,系统状态空间的大小会随着站点个数的增加和缓存库容量的增加而成指数形式(或几何级数)增长,从而导致维数灾,影响学习算法的收敛速度和优化效果。为此,本文在站点局域信息交互机制的基础上引入状态聚类的方法,以减小每个站点学习空间的大小和复杂性。首先,将多个站点看作相对独立的学习主体,且各自仅考虑邻近下游站点的缓存库的状态并纳入其性能值学习过程；其次,将原状态空间划分成多个不相交的子集,每个子集用一个抽象状态表示,然后,建立基于状态聚类的多站点反馈式Q学习算法。通过该方法,可在抽象状态空间上对各站点的前视距离策略进行优化学习,以寻求整个系统的生产率最大。仿真实验结果说明,与一般的多站点反馈式Q学习方法相比,基于状态聚类的多站点反馈式Q学习方法不仅具有收敛速度快的优点,而且还在一定程度上提高了系统生产率。

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	唐昊	合肥工业大学电气与与自动化工程学院	45	207	8.0	10.0
5	周雷	合肥工业大学计算机与信息学院	22	92	6.0	8.0
6	谭琦	合肥工业大学电气与与自动化工程学院	10	38	4.0	5.0
7	裴荣	合肥工业大学计算机与信息学院	1	7	1.0	1.0