论文部分内容阅读
本文主要研究支持向量机的各种模型的解法.首先我们对L1软间隔的支持向量机模型进行对偶分析,得到其KKT系统;我们再利用投影定理得到非光滑的投影方程;然后我们用光滑函数光滑其投影方程;最后我们就可以用牛顿算法求解其光滑方程。我们还证明出其算法的全局收敛性和二阶收敛速度.在给定若干个核函数的条件下,为了增加分类的稳定性,我们给出了L1软间隔的支持向量机最优核函数模型(minimax模型);然后利用minimax的相关性质转换成一个凸问题;这样我们就可以用类似的光滑化牛顿算法求解。同时我们也得到了类似的收敛结果.我们的算法还可以推广到多类分类问题,基于3类分类问题的多类分类问题其核心就是求解3类分类问题,我们在文章[15]提出的3类分类模型和分析结果的基础上给出了其模型的光滑化牛顿算法。
在本文最后我们给出了支持向量机光滑化牛顿算法的数值实验结果,并和相应文章作了比较,其结果显示光滑化牛顿算法的可行性和优势。