关于随机优化算法的一些问题研究

来源 :中国科学院数学与系统科学研究院 | 被引量 : 0次 | 上传用户:lygzzm
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随机优化算法是一类搜索未知函数零点或极值的递推算法。与Newton-Raphson方法等确定性算法不同,随机优化算法能够处理函数值无法准确量测的情况,而这样的问题在系统辨讽适应控制,模式分类,信号处理,适应性滤波等诸多领域里广泛存在。   作为一类非常重要的随机优化算法,欧氏空间中的随机逼近在理论方面和应用方面都已得到了很好的研究,尤其在引入扩张截尾的技术后,不必再对估计序列作有界性先验假设,从而拓宽了算法的适用范围.近年来研究得到的收敛定理,更进一步降低了对量测误差的要求,使得最终只需在收敛子序列上验证噪声条件即可。   但随着研究的深入和实际问题驱动,随机逼近算法的应用范围已经扩展到神经网络,博弈论和宏观经济学等领域,它们所考虑的系统通常比较复杂,有些问题还未得到合适的参数化模型,很多情况下不宜直接采用欧氏空间上的随机逼近算法来处理,有必要考虑以无穷维向量或函数本身作为估计对象的情形。   本文研究了随机逼近算法在一般Banach空间中的收敛性,主要贡献包括   1.没有引入过于苛刻的条件,不必先验证假设估计序列有界,只需在估计序列的某一类子列上验证噪声条件。   2.涵盖大多数讨论Banach空间或Hilbert空间上随机逼近算法收敛性文献的结果,得到在范数意义下的几乎必然收敛定理;还包含某些文献考虑的以无穷维向量为估计对象的结果,得到点态意义下的几乎必然收敛定理.   3.作为Banach空间上随机逼近算法的一个特例,本文讨论了Lp(Rd)空间上基于核函数的随机逼近算法,并以若干实例表明其应用。   众所周知,随机逼近算法是一种连续状态空间上的局部优化算法,这意味着它有可能陷入局部而非全局极值处。为避免这一问题,通常需要加入一定扰动方式,使算法不至于过早停止在局部极值处,这类能达到全局最值的算法称为整体优化。   Metropolis型算法是一种很早提出并已广泛应用的整体随机优化算法,下山算法和模型退火算法即是它的两种特例。已有很多文献讨论了Metropolis型算法的渐近性质,但当状态空间是有限集,而且要求算法在有限时间内结束吨现在通行的方法是数值模拟,籍由多次重复实验来了解算法的效用。显然,数值模拟不能穷尽所有可能的参数选择方式。   在有限状态空间和参数集的情况下,本文给出了一种评价Metropolis型算法效用的方式,主要贡献包括,   1.将上述问题用Markov决策过程(MDP)的理论重新表述,视Metropolis型算法的参数选择视作MDP中的策略L,从初始状态s抵达全局最优状态所耗时间的期望视为位势gL(s);然后用策略迭代算法得到最优的L*,以及相应的位势g&(s),它们即对应了Metropolis型算法最好的参数选取方式。   2.将maxsg*(s)作为Metropolis型算法的一种评价方式。进一步地,由g*(s)还可对一些直观现象予以理论解释,这可作为设计Metropolis型算法的某种指导准则。
其他文献
论文内容分为两部分:多步共轭辛算法的研究、Krylov延迟修正高阶辛算法的构造及数值实验。   第一部分包含前两章。在第一章,由葛忠和冯康、Eirola和Sanz-Serna,以及冯康和唐
本文研究的主题为几类离散时间控制系统反馈机制的能力与极限,同时也研究了其它一些相关问题。反馈是自动控制领域最重要和最基本的概念,其主要作用是减少各种不确定性对控制系
偶数维黎曼流形M的twistor丛是研究M上近复和复结构的一个重要场合,参见[1],[5]。本文将偶数维黎曼流形切丛twistor丛的构造推广到一般流形上偶数维定向向量丛ζ。计算推广了的
学位
本文的目的是寻找保持B样条递推公式的线性甲移不变算子。文章的结果之一是给出了广义函数空间上连续线性平移不变算子的完全刻画。在所寻找的算子将B样条映射为连续函数的假
新疆石河子垦区由于无霜期较短,棉花生长季节短,棉花果枝数较少,所以,研究棉花蕾铃脱落规律及脱落原因对指导棉花生产有重要意义。掌握了棉花蕾铃脱落的时间、规律及原因,在
标架概念是在1952年由Duffin和Schaeffer在研究非调和傅里叶级数时首先提出的.标架可以看作标准正交基的推广.过去二十多年来,标架理论取得巨大发展并被广泛应用于信号处理、
本论文集中了作者在攻读博士学位期间的主要研究工作。   首先在新的条件下研究了下述超线性Hamiltonian系统非平凡周期解的存在性。   为了得到得到上述系统的周期解
阅读是通过视觉系统接受书面语言传递的信息,理解书面语言的意义、内容、思想感情的一种复杂的心理过程.同时,阅读也是小学生获得知识和信息、吸取精神养料与综合素质能力的
具有有限精度的一元多项式的近似最大公因子的计算在控制理论,网络理论和计算机辅助设计中都有着重要应用。作为符号数值混合计算领域的一个分支,求解近似最大公因子问题的一个