海洋浮游生态系统是海洋浮游生物群落与其栖息环境相互作用所构成的一个自然整体。海洋浮游生物作为海洋生物的重要组成部分之一，不但分布广阔，种类繁多，并且在数量上超过底栖生物和游泳动物，而且更为重要的是，它是海洋生产力的基础，也是海洋生态系统能量流动和物质循环的最重要的环节，因此研究各个浮游生物种群之间的相互作用对海洋浮游生态系统稳定性的影响是研究整个海洋生态系统稳定性的关键所在。　　 本文运用非线性动力学理论和方法，针对多种群相互作用下的海洋浮游生态系统的复杂动力学特性以及多稳态现象进行了深入的研究，研究的内容和成果主要包括以下几个方面。　　 1.根据两种浮游动物捕食一种浮游植物这种食物链，建立了具有Beddington-DeAngelis功能性反应函数的三种群捕食-食饵模型，运用非线性动力学理论，通过解析解，分析了两种浮游动物之间相互竞争和半饱和常量对系统稳定性的影响。得出的结论认为在一定范围内，增大竞争系数和半饱和常量可以提高系统的稳定性。　　 2.采用数值模拟的方法研究了两种浮游动物之间相互竞争和半饱和常量对系统稳定性的影响。一方面通过数值模拟的结果，验证通过解析解计算分析出来的结果是否正确；另一方面，我们通过数值模拟来找到分岔参数为何值时，发生什么类型的分岔。结果表明数值模拟得到的结论和通过解析解分析的结果一致，并且确定在一定范围内，系统只发生霍普分岔和跨临界分岔，还分析了这两种分岔在生态学中意义。　　 3.建立了包含10种浮游植物和6种浮游动物的多种群相互干扰和作用下的16维复杂海洋生态系统模型，分析了在多种群相互干扰下系统的多稳态现象。通过数值模拟的方法，得到系统吸引子的个数和类型，以此研究了多种群之间的竞争系数和竞争方式对多稳态的影响。结论是：种群间的相互作用是影响海洋生态系统多稳态的重要因素，增大种群间的竞争系数能够增加系统多稳态发生的可能性，并且减少系统发生混沌现象的可能性。在竞争系数大的情况下，竞争方式也会对系统的多稳态现象产生影响。