基于深度强化学习的柔性作业车间调度优化方法研究

来源 :山东大学 | 被引量 : 0次 | 上传用户:LYXTTKX
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
柔性作业车间是一类广泛存在于离散制造系统中的生产环境,柔性作业车间调度问题在理论研究与工程应用中具有重要意义。由于问题的复杂性和多样性,相关领域研究逐渐集中于问题的近似求解,如何兼顾求解质量和效率,提高方法泛化性能成为工业界和学术界的共同关注焦点和长期研究方向。近年来,基于机器学习的近似解法表现出了应用潜力,能够自动学习并取得较优的解。但在状态表示中普遍存在局限性,或存在对专家知识的依赖,现有针对其他问题的研究更难以直接应用到柔性作业车间调度问题。本文研究基于深度强化学习方法的柔性作业车间优化调度问题,提出一种图神经网络深度强化学习算法,包括模型构建、状态表示及其特征提取网络设计和动作决策及智能体训练方案设计等。具体工作如下:首先,分析柔性作业车间特性和假设约束,建立了调度问题的数学规划模型,基于强化学习原理,建立了柔性作业车间调度问题的马尔科夫决策过程模型,为强化学习提供数学基础;其次,针对车间环境特点和马尔可夫决策过程的状态表示存在的局限性,通过扩展传统析取图建立了异构图模型,更全面地描述车间生产状态,同时降低了图密集程度,设计了两阶段异构图神经网络,实现了状态特征的有效提取;最后,基于多层感知机设计了策略网络,将分别描述工序、机器和车间状态的多个特征向量首尾连接为一个向量,由此可将多种工序和机器组合并行输入策略网络,实现了不受规模影响的调度问题求解算法。为验证算法有效性,通过生成问题实例和经典问题实例进行测试,分析求解质量、求解效率和泛化性能。测试结果表明:经过中小规模调度问题上训练和测试,本文算法求解效率略慢于调度规则,但同为秒级求解时间,平均而言本文算法求解质量优于调度规则;将在中小规模问题上训练得到的模型直接应用于求解经典问题实例和大规模调度问题,本文算法同样能够在秒级求解时间内取得优于调度规则的求解结果质量,表现出了较好的泛化性能;与现有基于深度强化学习的方法在经典问题实例中的实验相比,本文算法在秒级求解时间内取得了平均而言更好的求解质量;与OR-Tools求解器相比,本文算法的求解效率更高,随着问题规模增大,合理时间内的求解质量能够逐步逼近直至超越求解器。根据柔性作业车间调度的功能需求和设计要求,设计并开发了智能调度软件。面向操作人员和研究人员,提供车间实例调度、模型性能测试、加工过程仿真和模型训练等功能,运行测试展示了本文算法的应用潜力。
其他文献
美国体育教育本科专业课程改革将“实践取向的教师教育”作为重要指导,取得了良好的效果。通过文献资料法,分析“实践取向的教师教育”的内涵,阐述在体育教育领域引入的效果与经验,提炼其在指导课程改革实践中的具体措施,提出对我国体育教育专业课程改革和体育教师教学能力培养的启示。提出:我国体育教育专业课程应突出强调理论与实践相结合,以改革“教学实践课程”为基础、以发展“核心教学技能”为根本、以实施“情境性和连
网络流行语可以折射出青年群体的价值观社会心态的变化,其可以展示个性、表达情绪,具有高度聚焦性与讨论话题度,日渐成为青年群体在日常生活中展示自我的话语实践内容。网络流行语作为青年亚文化的重要话语实践,以“狂欢式”的修辞手段帮助青年在群体中互相指认、寻求情感共鸣。互联网所呈现的开放性、互动性、虚拟性等特质越发凸显,网络流行语的传播途径与传播范围也更加多元与广泛,用户情绪化的选择加上媒介推送极易使青年群
金融业应坚持服务实体经济的初衷,合理配置金融资源。但伴随着经济快速发展的过程,我国金融业出现了脱离实体经济、“脱实向虚”的倾向,融资难、融资贵成为困扰企业尤其是中小微企业发展的瓶颈。通过对金融错配背景下的2009-2019年主板、中小企业板和创业板上市公司财务绩效和市场绩效的受金融错配影响程度的实证分析,结果发现金融错配现象在我国企业中普遍存在,金融错配与企业财务绩效和市场绩效呈负向相关关系,随着
通过对松花湖及入湖河流中重金属污染的现状调查 ,并同该湖 80年代相比较 ,探索松花湖污染程度与社会经济发展之间的关系 ,掌握松花湖水质、底质的污染现状和污染成因 ,加强对松花湖水质的保护与管理
评价大学章程不能脱离其得以形成的社会历史环境,应从纷繁复杂的环境中抓住影响章程建设的主要矛盾。文章运用制度变迁的广义理论对中西方大学在起源、国家化、市场化进程中权力与观念在大学章程的制度变迁中所发挥的作用进行比较,揭示了中西方大学章程制度变迁中历史逻辑的差异。提出中西方大学章程的制度变迁核心驱动力的不同,不能简单套用西方大学章程制定与实施的逻辑来解释和评价中国大学章程的制定与实施,而应当坚持实践与
除了课程外,数学题是学生独立完成任务,提高学习成绩的有效手段。本文通过对学生数学问题有效性的研究,对提高数学问题有效性的方法和策略进行了全面的研究和阐述[关键词]初中数学作业有效性课后学生完成许多数学任务,提高课堂知识水平,将知识转化为技能和能力,提高分析和解决问题的能力,掌握科学和数学的教学方法。同时,绩效分析也有助于教师更好地了解教育现状。然后,随着时间的推移,进行自我分析和改进。根据中学生数
会议
<正>有研究表明,托幼机构质量评价要“以儿童的学习与发展为核心”,但儿童的学习与发展评价却是一个“颇具争议”的重要议题。[1]一方面,学前教育质量评价的关键,就是回答托幼机构的教育在多大程度上对儿童的学习与发展产生了预期的效果;另一方面,学前儿童学习与发展评价长期以来受到“发展适宜性”实践理念与“学习标准化”政策运动的双重制约。这意味着学前儿童学习与发展评价既要遵循儿童的身心发展特点,
期刊
<正>在小学美术教学中,近年来,我通过引导学生认真观察生活,发现、欣赏身边各种各样的美,进一步进行美的表现与创作,收到了良好效果。经验浅介如下:一、出示实物,引导观察方法在课堂上设置教学情境,让学生置身于融洽的气氛当中,可以使学生快速而全身心地进入到学习中。以“叶子上的小‘血管’”教学为例。课上,我首先用多媒体演示秋天多姿多彩的树叶从天空中洒落的视频,在学生们的赞叹声中,我用特写镜头展示一片片形状
期刊
数学学习的过程实际上就是发现问题与提出问题、分析问题与解决问题的过程.数学作业是数学课堂教学的延伸,也是数学学习活动的重要组成部分.数学作业应当通过问题解决帮助学生学会“数学地思维”.针对学生在问题解决过程中存在的思维问题,教师从问题解决的思维过程、问题解决的策略与方法、问题解决的多种可能性、问题解决的归纳与反思等方面进行点拨、指导.提升数学作业有效性的关键在于问题解决过程中要激发学生的思维活动.