自调度集群网络服务的研究与实现

来源 :国防科学技术大学 | 被引量 : 0次 | 上传用户:ceng0606
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
因特网近二十年来的迅猛发展,正在深刻影响着人类生活的各个方面。网络服务是因特网应用的主要形式。随着用户规模的急剧扩大、应用类型的日益复杂和应用模式的逐步成熟,网络服务正面临着前所未有的压力和挑战。为提供可持续增长的处理性能和24×7的高可用性,人们在建立高性能、高可伸缩、高可用的集群网络服务方面,进行了大量的研究和实践,初步满足了大规模网络服务在这方面的基本性能需求。但是,随着电子政务、电子商务等关键业务在因特网上的逐步普及,网络服务的营运理念也逐步成熟,对网络服务的建设和维护提出了更多挑战性的问题,包括:服务质量控制、充分挖掘系统资源潜力、提高服务费效比,等等。而服务质量的控制又是其中的核心问题,目前还没有很好的解决方案。本文研究和实现的自调度集群网络服务便是围绕这一任务展开的。在分析网络应用需求的发展和现有集群网络服务体系结构的基础上,我们指出,以负载均衡为指导思想的集群网络服务体系结构已不能很好的满足网络应用在服务质量控制特别是量化控制方面的需求,新的集群网络服务的基本结构应当围绕服务质量的量化控制进行设计,而现代控制的理论和技术为此提供了重要的指导和工具。结合反馈控制系统的基本组成原理,我们提出了自调度集群网络服务体系结构及其调度机制。系统中的各个组成部分对应于反馈控制系统中的基本组成部件;集群请求调度机制对应着服务质量的反馈控制过程。为解决传统集群结构集中控制带来的扩展性等问题,我们提出以分布式的控制方式,将控制机构分解到集群当中各个结点,由后端执行服务器独立执行本地控制决策功能,以“分而治之”的策略满足复杂控制机制在性能、可用性、灵活性等诸方面的需求,即“自调度”。系统模型的分析表明,分布式的调度方式在性能上优于传统的集中调度方式。服务质量控制需要进行用户请求分类基础上的七层调度,这通常要消耗较多的系统资源。为了提高系统的可扩展性和可用性,我们提出了多入口自调度集群结构和相应的全分布式的控制调度机制。在此基础上,提出了大规模自调度集群网络服务体系结构,解决了自调度集群在可扩展性和可用性方面的问题。服务质量量化控制子系统的设计是自调度集群的核心问题。由于网络应用的复杂性,集群网络服务的QoS量化控制,特别是大规模异构集群的量化QoS控制是挑战性的问题。一个实用性强的量化QoS控制方案不仅需要较好的有效性和适应性强的系统化设计,也应该对实际应用友好,具有较强的兼容性,易于部署和使用。传统的基于经验设计、基于系统解析模型设计、基于PID控制器设计等方法已不能满足上述的应用需求。为此,我们尝试着将现代智能控制的方法引入到集群QoS量化控制器的设计当中来。基于智能控制中较为成熟的模糊控制理论,我们针对四种典型的QoS量化控制目标,设计和实现了四种模糊控制器,以分别实现对平均响应时间、数据吞吐率、平均响应时间比例、数据吞吐率比例的量化控制。测试表明,上述模糊控制器具有较好的控制效果,在响应速度、收敛性及稳定性方面具有较好的表现。针对上述模糊控制器在稳态控制精度、适应性等方面的不足,我们将神经网络的自适应方法引入到QoS量化控制器的设计当中。通过结合BP神经网络与传统PID控制方法,我们设计了基于BP网络的自适应PID控制器。通过BP网络的学习功能,在线调整PID控制参数,以适应运行环境和受控系统的动态变化。仿真结果证实了BP-PID控制器的优良性能。基于上述BP-PID自适应控制器,我们也设计和实现了四种典型的QoS量化控制器。测试表明,这类控制器具有更好的稳态性能和适应性。针对BP-PID控制器在响应过渡阶段的稳健性不如模糊控制器的问题,我们将神经网络与模糊系统结合起来,设计了神经-模糊控制器,通过神经网络的反馈学习机制,在线调整模糊控制系统的隶属度函数、输出参数等系统参数,以适应环境和受控系统的动态变化。仿真结果表明,神经-模糊控制器较单纯的BP网络具有更好的逼近能力。基于上述神经-模糊控制器,我们同样设计和实现了四种典型的QoS量化控制器。测试表明,这类控制器进一步提高了响应过渡阶段的稳健性,与前述模糊控制器和BP-PID控制器比较,在控制系统的稳态性能、动态性能两方面都取得了更好的效果。综合上述研究成果,我们设计和实现了一套完整的自调度集群系统,包括:分布式的系统框架,具有分布式的QoS控制机制,支持多个集群入口,具有很高的可扩展性和可用性;基于Linux内核设计和实现的高性能、高可扩展应用层网关,支持HTTP、邮件等多种应用协议,支持新协议模块的开发与加入;四类基本控制器类型:基本PID控制器及其变种、模糊控制器、BP-PID控制器、神经-模糊控制器;基于上述基本控制器类型的四类共16种典型QoS量化控制器,以分别实现对平均响应时间、数据吞吐率、平均响应时间比例、数据吞吐率比例的量化控制;高可扩展的QoS量化控制框架,支持各种类型QoS量化控制器的设计和应用,提供了对多种操作系统的支持(Windows系列、类Unix系列);相关自调度系统管理软件,提供了Web、终端、命令行等丰富的管理界面。多项测试均表明了该系统的有效性和实用性。自调度集群系统项目的核心技术已获国家发明专利,相关系统已经完成了产品化开发,目前已经在金山公司等多家单位投入使用。
其他文献
近年来,随着互联网的飞速发展,网络性能面临严峻挑战,流量工程成为互联网进一步发展的关键性问题。由于网络传输速度日益加快,新业务不断出现,目前的流量工程技术已经不能满
随着全球电子商务的飞速发展,对网络安全和网络技术的研究提出了更高的要求,本论文重点研究了电子商务的安全技术和宽带城域网的关键技术。 首先,在对电子商务安全机制和安全
基于5G确定性网络,场馆直播将突破地域限制,为不同终端用户提供差异化服务,实现多模态全景式传播和深度交互体验。场馆是大型现场活动的承载场地,展示场景包括赛事、演艺、会
霉菌性阴道炎,目前又称外阴阴道念珠菌病(VVC),是由白色念珠菌引起的常见外阴阴道炎症.国外资料显示,约82%妇女一生中至少患过1次霉菌性阴道炎.其主要表现为外阴瘙痒、灼痛、性
目的文本旨在使用深度学习方法对精神分裂症建立自动分类模型,为临床上精神分裂症患者的鉴别诊断提供参考。方法通过提取受试听觉稳态诱发电位的能量、相位、信噪比和微分熵
随着计算机技术和通信技术的飞速发展,Internet以其便捷、价廉的优势,吸引着越来越多的用户和新业务加入其中,目前网络承载的业务包括数据、语音、视频等多种业务,为实现多种业务
随着Internet的飞速发展,用户数量迅速增加,新的网络应用不断涌现,使得网络流量急剧增加,由此引发的网络拥塞已经成为制约网络发展和应用的瓶颈问题。拥塞易造成传输延迟和吞吐量
文章对技术轨道理论研究和技术创新演化研究进行了梳理,在前人研究的基础上,将技术轨道理论与混沌经济学的逻辑斯蒂(Logistic)方程结合起来,引入初始状态、随机涨落和非线性反
2017年受台风影响广东省某堤防部分堤段损毁,总缺口长175 m,灾后相关部门迅速对缺口堤段进行修复。2018年4月,修复堤段出现渗漏,严重威胁堤防安全。物探检测法是堤防渗漏抢险