利用类内和类间距离改进卷积神经网络的训练

来源 :兰州大学 | 被引量 : 0次 | 上传用户:HUANming520
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
卷积神经网络作为深度学习研究中的一条重要分支,近几年来在图像识别和分类任务中表现十分优异,被广泛应用于很多领域,让人们的生活更加智能化。比起探究如何在更广泛的范围内应用卷积神经网络,理解卷积神经网络是更很重要的一个研究方向。只有理解了卷积神经网络才能有针对性地在网络结构、训练方法等方面改进或优化卷积神经网络。本文针对多分类任务的研究包括两个方面,第一点是从距离度量的角度评价卷积神经网络的训练过程。第二点是根据第一点的分析结果改进卷积神经网络的训练,达到充分利用训练数据和使得网络分类准确率变得更高的目的。在卷积神经网络的评价工作上,本文利用三个距离度量值指标C-index、类间距离和DB-index在训练过程中的变化来理解卷积神经网络的训练过程。结合网络深层特征之间的距离关系,我们总结出了神经网络在训练过程中,随着训练次数的变化在不同层上的距离度量的变化特征,并以此为基础去改进卷积神经网络的训练。在改进卷积神经网络训练的工作中,一般的方法是调整参数,但调整参数需要足够的经验。参数的不同组合充满随机性,不能保证训练数据的充分利用。本文为了避免这种随机性带来的时间消耗,基于距离度量提出了一种改进的卷积神经网络训练方法。在分类任务中,类间的距离度量与分类准确率有密切联系,分类准确率低意味着对某些类别的训练不够充分。本文提出的改进方法将训练分为三个阶段,包括基础训练,特殊训练,全局训练。从基础训练中利用距离度量可以得到训练不充分的类别,在基础训练后得到的初始模型上对不充分的类别进行特殊训练,使得模型加强对这部分类别的学习,得到特殊训练模型。全部类别的数据将会在特殊训练模型的基础上进行全局训练,最终得到分类准确率更高的分类模型。这种方法在训练过程中充分利用了训练数据,能有效提升分类准确率。实验表明本文中改进的卷积神经网络训练方法不仅适用于简单数据集,在相对复杂的数据集和网络的训练中也表现优异。
其他文献
金农是清代中叶“扬州八怪”中的代表画家,他极具人文个性表现,学识修养渊博,擅画善书,自创新格。侧重鉴赏,有较高的审美能力和艺术修养,又擅诗文,以文滋养书画。本篇论文试从装饰性的独特视角探微金农的绘画风格,笔者通过文献整理、对比研究、图文并茂的方式,对“装饰性”这一学术问题进行深度探讨,加强相关学术理论研究,并结合个人的创作实践,印证和扩展笔者对绘画装饰性的思考与实践应用。
“变”之于中国画,是一个关于继承与发展的问题。通过梳理中国人物画发展史,可以看出历代画家用他们的理论与实践为我们展示了这一绘画门类的变体之路。新文化运动之后直至今日,变革中国画之风日盛,中国人物画渴求在新的时代呈现新的面貌。也正因如此,中国人物画必须要在发展的过程中,守住中国画本质的精神内核。如何在求变的路上以不变的角度去审视中国人物画的绘画传统,创作出具有时代精神,变“体”而不变“种”的优秀作品
以云峰山刻石群为主的郑道昭、郑述祖父子书迹,是北朝书风的一类代表。郑氏一门作为北魏至北齐时期的名门望族,其书写心态与书写动机,乃至取法对象,都与洛阳地区的书家有着很大的区别,这两者存在的区别,导致郑氏父子与龙门造像基本处于同一时期,却出现两种不同面貌。郑道昭的书风用笔浑圆厚朴,结体宽博开阔,甚至郑述祖书迹多见隶意,其背后原因不得不令人深思。本文对云峰刻石群中郑道昭、郑述祖的书迹作一个全面梳理,以讨
二十世纪50年代以来,湖南长沙周边陆续发掘了五百余座西汉墓,出土了大量滑石明器,其中六十四方滑石印尤为瞩目,其制作年代多于西汉文景时期。滑石印作为陪葬品,其受众主要为下层官吏,刻工则多是民间工匠,因此与汉铜官印存在着很大差异。刻制方法上,汉铜官印多用铸凿法制成,而滑石印由于材质较软,可以直接用刀刻而成。印文字体上,汉铜官印多使用缪篆,滑石印则篆隶杂糅入印。各种方面皆与同时代的汉铜官印颇异,故而造就
研究吴让之的篆刻对邓石如“印从书出”印学思想的继承和发展是学习吴让之篆刻艺术的重要内容。吴让之是晚清篆刻四大家之一,他继承并发展了邓石如“印从书出”的篆刻艺术理念,在自己的不断实践探索中,将书法和篆刻的创作风格融合在一起,形成了书印合一的篆刻艺术特色。邓石如“印从书出”这一理念的提出在中国篆刻史上具有划时代的意义,挣脱了文人篆刻发展过程中“印中求印”的枷锁,为篆刻创作的方法开启了新的思路。“印从书
杜牧(公元八〇三——约八五二年),字牧之,号樊川居士,京兆万年(今陕西西安)人。唐代杰出诗人、散文家、也是一名书法家,宰相杜佑之孙。因晚年居长安南樊川别墅,故后世称“杜樊川”。杜牧在文学史上的盛名为世人熟知,所以在一定程度上掩盖了其书法的造诣。后世对杜牧的研究多着力于其生平、诗文、思想,乃至军事等诸多方面。其书法,历代均有很高评价,但并未得到相应的关注。《张好好诗》是杜牧唯一传世的书法墨迹,随着印
图像分割是图像处理的先决条件,在图像分析领域使用广泛。图像分割的算法有很多,分割结果的质量有好有坏,由此研究者们提出了许多用于评估图像分割结果的方法。如何有效地衡量和适当地选取分割评估方法是非常困难的,为了研究这个问题本文主要做了以下工作:(1)从应用的角度对分割评估方法进行分类概述,总结了常用的监督和无监督评估方法,对监督和无监督评估的常用方法在自然、医学和遥感图像上进行对比分析实验,并对这些评
明朝末年,朝代更迭,频发战乱,给当时的国家带来沉重的灾难,给人民带来无尽的痛苦。然而就在这种国破家亡的时代背景下,却成了艺术领域的一个黄金时期,涌现出了很多杰出的艺术人才,萧云从就是生活在这一时期的一位画家,且十分具有个性。他“不宋不元,自成一家”的绘画特点和清疏韵秀、轻快可喜的绘画风格,使他在中国画史上留下了浓重的一笔,并且给后世留下了诸多探讨空间。他的绘画从用笔可分为“粗笔”和“细笔”两种类型
中国是一个农业大国,农业在发展的历史长河中,一致处于基础地位,为我国的经济起着基础性和关键性的作用。所以农业就应该以先进的、完善的技术和方法,来不断地提高农业生产力,发挥出它基础产业的作用。但是由于农业主体具有它的特殊性,导致我国的农业在信息技术上和信息的运用都存在很明显的滞后性。因此,完善农村科技信息服务模式,提高农村的信息化程度,提高信息化在农业中的利用比率,对传统的生产模式进行改造升级,具有
随着经济发展步伐的加快,企业的发展环境正在发生着重大的变化,目前,许多企业都对企业内外部环境的变化保持着时刻的关注,通过对这一变化趋势的综合研判和预测,并结合企业的自身情况积极的进行着战略转变以适应新的市场发展环境。新经济形态的兴起使传统企业受到了不小的冲击,随着竞争环境的日益激烈,企业亟需进行战略上的转变来提升自身的竞争力水平,好想你健康食品股份有限公司作为国内红枣类企业中的头部企业,始终把握发