论文部分内容阅读
随机优化算法是一类搜索未知函数零点或极值的递推算法。与Newton-Raphson方法等确定性算法不同,随机优化算法能够处理函数值无法准确量测的情况,而这样的问题在系统辨讽适应控制,模式分类,信号处理,适应性滤波等诸多领域里广泛存在。
作为一类非常重要的随机优化算法,欧氏空间中的随机逼近在理论方面和应用方面都已得到了很好的研究,尤其在引入扩张截尾的技术后,不必再对估计序列作有界性先验假设,从而拓宽了算法的适用范围.近年来研究得到的收敛定理,更进一步降低了对量测误差的要求,使得最终只需在收敛子序列上验证噪声条件即可。
但随着研究的深入和实际问题驱动,随机逼近算法的应用范围已经扩展到神经网络,博弈论和宏观经济学等领域,它们所考虑的系统通常比较复杂,有些问题还未得到合适的参数化模型,很多情况下不宜直接采用欧氏空间上的随机逼近算法来处理,有必要考虑以无穷维向量或函数本身作为估计对象的情形。
本文研究了随机逼近算法在一般Banach空间中的收敛性,主要贡献包括
1.没有引入过于苛刻的条件,不必先验证假设估计序列有界,只需在估计序列的某一类子列上验证噪声条件。
2.涵盖大多数讨论Banach空间或Hilbert空间上随机逼近算法收敛性文献的结果,得到在范数意义下的几乎必然收敛定理;还包含某些文献考虑的以无穷维向量为估计对象的结果,得到点态意义下的几乎必然收敛定理.
3.作为Banach空间上随机逼近算法的一个特例,本文讨论了Lp(Rd)空间上基于核函数的随机逼近算法,并以若干实例表明其应用。
众所周知,随机逼近算法是一种连续状态空间上的局部优化算法,这意味着它有可能陷入局部而非全局极值处。为避免这一问题,通常需要加入一定扰动方式,使算法不至于过早停止在局部极值处,这类能达到全局最值的算法称为整体优化。
Metropolis型算法是一种很早提出并已广泛应用的整体随机优化算法,下山算法和模型退火算法即是它的两种特例。已有很多文献讨论了Metropolis型算法的渐近性质,但当状态空间是有限集,而且要求算法在有限时间内结束吨现在通行的方法是数值模拟,籍由多次重复实验来了解算法的效用。显然,数值模拟不能穷尽所有可能的参数选择方式。
在有限状态空间和参数集的情况下,本文给出了一种评价Metropolis型算法效用的方式,主要贡献包括,
1.将上述问题用Markov决策过程(MDP)的理论重新表述,视Metropolis型算法的参数选择视作MDP中的策略L,从初始状态s抵达全局最优状态所耗时间的期望视为位势gL(s);然后用策略迭代算法得到最优的L*,以及相应的位势g&(s),它们即对应了Metropolis型算法最好的参数选取方式。
2.将maxsg*(s)作为Metropolis型算法的一种评价方式。进一步地,由g*(s)还可对一些直观现象予以理论解释,这可作为设计Metropolis型算法的某种指导准则。