一类光滑与非光滑结构优化问题及算法研究

来源 :北京工业大学 | 被引量 : 0次 | 上传用户:jakey17866747
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着信息技术的发展与大数据时代的到来,一直备受关注的大规模优化问题在科学与工程领域中的应用更加成为研究的热点.本论文主要从算法微分、参数选取、非单调非精确Newton方法以及部分稀疏优化等几个方面研究一类光滑与非光滑结构优化问题及其算法,这类问题的目标函数是由光滑与非光滑两部分的和组成.  首先,以计算函数梯度为例介绍了算法微分,包括其两种基本模式的计算过程与计算复杂性.接着将算法微分应用到矩阵特征值的求解问题上,设计了结合算法微分的同伦算法;通过基于TOMLAB OPTIMIZATION软件包的算法微分程序实现,对比了新同伦算法与传统的同伦算法的有效性,数值结果表明了结合算法微分的同伦算法效果更好.与此同时,还使用一些最优化方法求解矩阵特征值问题,包括Barzilai-Borwein-类方法和连续化方法.在理论上也都证明了这两种方法的全局收敛性,并且通过数值实验验证了其有效性.  其次,针对一类特殊的非光滑优化问题的参数选取进行研究,主要采用了复杂性理论和灵敏度分析.进一步将邻近梯度法与算法微分相结合,设计出基于算法微分的自协调参数邻近梯度法;在数值实验中,从函数值与梯度值的变化两个方面来确定最优参数值;然后构造稀疏信号恢复问题来验证不同的参数选取对稀疏信号恢复的影响,数值结果表明了新提出的自协调参数邻近梯度法能够找到模型的最优参数值.另外,我们还研究了一族非光滑广义方程的求解,引入了Douglas-Rachford分裂方法(DRSM)加以求解,同时也给出了该算法的收敛性分析,以及若干数值算例.  接着,提出并研究了一种非单调非精确Newton法去求解无约束优化问题.非精确Newton法(Newton-PCG)既保持了二阶快速收敛的特性,又降低了计算量,从而大大提高了算法的效率.尽管如此,传统的非精确Newton法在初始点远离最优解时,甚至无法保证收敛性.为此,我们提出了一种新的非单调线搜索策略,与非精确Newton法相结合,设计出一种非单调非精确Newton法来求解无约束优化问题.理论上证明了在一定条件下新提出的算法具有全局收敛性,并且通过大量的数值实验验证了该算法的有效性.  最后,研究了一类部分稀疏优化问题.基于对偶理论首次提出了部分值域空间性质,从而分析了部分稀疏优化问题的最优性条件.我们还从理论上证明新提出的部分值域空间性质是保证部分稀疏优化问题具有唯一解的必要条件.
其他文献
随着人类社会的发展与科学技术的进步,在实际问题中经常遇到分类的问题。聚类是一个古老的问题,它伴随着人类社会的产生和发展而不断深化,人类要认识世界就必须区别不同的事物并
本文首先用形式化的语言描述了密码学的基础知识,特别注重介绍了一类特殊的身份认证体制——有证据不可区分身份认证及其签名。接着用形式化的语言定义了盲签名协议,给出了各
在生存分析和可靠性研究中,对治疗效果差异进行统计推断是一个很重要的课题。本文研究了两个问题:   第一部分是研究在两样本删失数据模型中,对治疗组和对照组的生存比较概
普通高中的逐步普及给中国的教育带来了巨大的生机,同时也给教育带来新的问题和思考。其中一个突出问题就是:高中的普及化,初中升高中录取分数线的下降,生源质量的下降,学困
《中华人民共和国行政许可法》已于2004年7月1日开始实行,实施《行政许可法》后,税收征管模式将从传统的收入管理型转变为执法服务型,其根本特征在于更加强调纳税人的诚实纳税,更
支持向量机(SVM)是以Vapnik的统计学习理论为基础,以结构风险最小化(SRM)为原则的新型学习机。它克服了神经网络的一些缺点,如过学习,维数灾难,易陷入局部最优等。因此,它成为目前
重试排队系统由服务台和Orbit两部分组成。顾客到达系统时如果发现服务台正被占用,并且服务台容纳等待顾客的位置也被占满,他就会以一定概率进入Orbit.Orbit中的顾客经过一段重
2012年7月,位于北京市西城区新街口西里三区2-6的凯康尤尤谷李宁凯胜羽毛球旗舰店隆重开业。旗舰店面积118平方米,主营李宁凯胜羽毛球全品类产品,2名导购员均具有3年以上羽毛
本文证明了单连通4维流形上以素元为Euler类的S1-丛的全空间只有两种可能的形式,从而知任何单连通的4维流形M上都存在这样的S1-丛,它的全空间是#(S2×S3),其中r(M)是H2(M)的秩.我
统计学习理论(Statistical Learning Theory,SLT)是一种基于小样本的机器学习理论。V.Vapni k等人从六十年代开始致力于此方面研究,到九十年代中期,其理论的不断发展和成熟,已基本