基于NAS的自动机器学习系统的设计与实现

来源 :北京邮电大学 | 被引量 : 0次 | 上传用户:hongwei3330857
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着近些年来机器学习在科研与工程届的发展,其创建的模型越来越复杂,如果整个模型的参数都依靠人类去设计,这将会耗费掉大量人力资源。自动化的概念也正在与时俱进,以前定义的自动化是让机器代替人去操作,那么随着信息化的发展,自动化的概念也被认为机器应该可以代替人类的脑力劳动。而自动化机器学习系统就可以很好地解决以上需求。现有的自动化机器学习系统大多数是基于传统机器学习方法,通过贝叶斯算法或者进化算法选择不同的算法模型,较为缺少基于深度学习的一站式自动机器学习系统,同时现有神经网络架构搜索算法忽略了对增量学习的支持。针对上述问题,本文提出了一种基于知识蒸馏的增量神经网络架构搜索算法,填补了神经网络搜索算法在这一处的空白,解决了神经网络架构搜索算法在进行新样本的学习过程中遗忘旧样本数据的问题。避免训练后的模型对旧样本数据产生“灾难性遗忘”的问题。本文提出的算法模型,可在没有旧训练数据输入的情况下,对旧数据仍有较好的表现。本文设计并实现了一个基于NAS(神经网络架构搜索)的自动机器学习系统,系统包括数据管理中心、模型中心、存储和自动机器学习算法四个主要模块,用户通过网站访问服务,对模型以及数据进行管理,当用户提交训练请求后,算法模型进行异步训练,待完成训练之后将结果返回给前端展示给用户。存储模块为用户训练时的数据提供稳定可靠的支持。通过对比试验以及系统测试,本文提出的基于知识蒸馏的增量神经网络架构搜索算法达到仅次于新旧数据联合训练的效果,明显优于普通只对新数据进行训练的模型。系统功能实现完整,具有较高的可用性和鲁棒性。
其他文献
碳纤维复合材料是一种性能优越的高比强度材料,应用在轨道车辆上能够大幅度降低车辆质量,为轻量化制造提供有效途径.文章根据标准设计了含有不同尺寸和位置缺陷的对比试块,采用常规超声波脉冲反射技术和视频超声技术进行检测,实现对碳纤维复合材料的快速扫描检测,验证了检测结果的一致性,并讨论了视频超声检测技术在轨道车辆车体用碳纤维复合材料分层等缺陷检测中的适用性.
随着通信技术的迅速发展,以太网作为车载控制网络未来发展的主流趋势,在轨道交通领域逐渐普及应用.相对于其他应用领域,列车控制系统对信息传递的可靠性和实时性要求较高.文章通过对抓取网络子系统端口数据包进行丢包率、通信周期符合性、带宽占用率的实时监测,利用预测算法并结合列车的网络拓扑结构,对列车通信质量可靠性进行了分析.该分析方式能够快速定位通信质量问题出现的具体位置和原因,并对列车控制系统潜在的通信质量问题进行预测.
联轴节广泛应用于各类机械设备中,用于连接2个传动部件,同时补偿轴向和径向的偏移.当联轴节发生故障时通常会造成巨大损失.由于联轴节工作时高速旋转,很难通过在联轴节上安装传感器监控其运行状态.文章介绍了一种高速列车联轴节故障的间接诊断方法,即从牵引电机电流和转速信号提取联轴节故障特征以诊断其故障.经过台架试验验证,该故障诊断方法有效.
介绍了一种轨道交通减振装置用非标螺栓的连接结构及其在预应力状态下组对进行压拉式静态拉拔和疲劳试验的试验方法,研究了疲劳载荷、常规载荷和极限载荷对拉拔性能的影响.有限元分析结果表明:该试验方法设计合理,能准确反映出螺栓的力学性能,且试验结果与分析结果基本一致,满足试验要求.
根据车钩缓冲装置结构、运动机制和控制原理,结合车钩缓冲装置安全运用及状态检查技术,进行了钩缓装置远程控制及状态监控技术研究.同时介绍了钩缓装置远程控制及状态监控系统的系统功能、系统组成及关键技术,并进行了实例分析.
磁浮列车非接触供电系统通过地面发射线圈与车载拾取线圈之间的非接触电磁耦合,实现磁浮列车在静止及低速状态下的正常取电.为保证磁浮列车非接触供电系统的可靠性,文章对非接触供电系统的监控诊断技术进行了研究.通过采用CAN总线通信技术、ZigBee无线通信技术、以太网组网技术、触摸屏组态技术等多项技术,实现了对磁浮列车非接触供电系统的智能监控与诊断.
近年来,高速铁路运营总里程和动车组数量不断上升,工业互联网、5G、云计算、大数据、物联网等技术的快速发展和应用推动了轨道车辆装备的智能升级和转型,基于故障预测与健康管理(P H M)的智能运维体系被引入到动车组全寿命周期管理.文章根据PHM技术理念及设计方法,搭建了智能动车组PHM系统,重点介绍了智能动车组PHM系统的设计需求、体系架构、设计方法、技术方案以及实际应用.
在分析和谐型机车车载及地面实时监测数据的基础上,结合和谐型机车运用维修管理需求,基于大数据等技术,从平台总体架构、技术架构、数据架构3个方面阐述了和谐型机车健康监测平台的设计思路和设计方案,并对平台应用前景进行了展望.通过该平台可实现和谐型机车的健康状态实时监测与故障预警,指导机车及时进行维修处置,整体提升和谐型机车的安全保障能力.
传统的推荐系统假设用户在过去一段时间内对一些商品比较感兴趣,则相似度较大的用户也可能有相同兴趣。但用户特征不会稳定不变,原有特征也会随着时间而转移。考虑到基于协同过滤的推荐系统忽略了用户兴趣转移这一特征对用户相似度的影响,因此,根据用户兴趣变化,基于行为序列建模的推荐可以提高推荐质量。本文主要围绕三部分展开。第一部分,通过移动网络大数据的用户行为数据挖掘出用户的潜在兴趣特征,结合用户偏好、数据类目
随着移动通信技术的发展以及各种移动智能终端的广泛普及,高清视频传输,增强现实/虚拟现实以及自动驾驶等大量的移动互联网新兴服务陆续出现。在此背景下,为了进一步满足诸多应用对于网络的时延、能耗等需求,业界提出了移动边缘计算和超密集组网的概念。基于二者,网络承载能力和网络服务能力都得到了有效的提升。而基于二者的融合架构一方面可以有效的将计算存储等能力拓展到网络边缘;另一方面超密集组网技术也为用户设备扩张