互补问题是数学规划中十分热门的研究课题.本文的研究主要围绕互补问题的数值算法展开.大量的数值实验表明了这些算法的有效性.　　首先,用三种不同的非光滑方法解非线性互补问题,分别为:(1)基于各种非光滑理论和半光滑理论,利用著名的Fischer-Burmeister互补函数把非线性互补问题转化为非光滑方程组,再用广义牛顿法解此非光滑方程组,在牛顿方程不可解或得到的解不够理想时,引入价值函数的最速下降方向作为搜索方向,从而得到解非线性互补问题的一个FB算法.在FB正则条件下得到该算法是全局收敛的.进一步,在适当的假设下,证明了该算法的局部二次收敛性.(2)同样利用Fischer- Burmeister互补函数把非线性互补问题转化为无约束优化问题,利用广义Jacobian矩阵理论,提出一个非单调自适应信赖域算法求解非线性互补问题.在适当的条件下,此方法具有全局收敛和局部收敛性.(3)基于非线性互补问题的一个非光滑再生方程组,利用半光滑理论,提出了一个新的半光滑拟牛顿型方法来求解非线性互补问题.在一定的条件下,证明了该算法的适定性和全局收敛性.　　其次,基于各种光滑化方法的思想和光滑理论,针对F为P0, R0函数的情况,介绍了一个新的光滑互补函数,利用这个新的光滑互补函数将非线性互补问题转化为求解一个光滑的非线性方程组,再用牛顿法的思想进行求解,从而得到求解非线性互补问题的一个光滑化算法.在较弱的条件下,证明了这类算法的全局收敛和局部收敛性。